تعداد زیادی از پزشکان از هوش مصنوعی استفاده می کنند
سرگرمی کامپیوتری: نتایج یک مطالعه و نظرسنجی از هزار پزشک عمومی نشان میدهد که از هر پنج پزشک بریتانیایی، یک نفر از ابزار هوش مصنوعی مولد مانند ChatGPT یا جمینای گوگل برای مساعدت با تمرینات و تشخیص های بالینی استفاده می نماید.
به گزارش سرگرمی کامپیوتری به نقل از ایسنا، با توجه به تبلیغات پیرامون هوش مصنوعی همراه با چالش هایی که سیستم های بهداشتی با آن مواجهند، جای تعجب نیست که پزشکان و سیاستگذاران بطور یکسان هوش مصنوعی را کلیدی در مدرن سازی و تغییر خدمات بهداشتی بدانند.
پزشکان گزارش کرده اند که از هوش مصنوعی مولد برای تولید گزارش بعد از ویزیت، کمک به تصمیم گیری بالینی و ارائه اطلاعات به بیماران مانند گزارش ترخیص و برنامه های درمانی استفاده می نمایند.
پزشکان می گویند هوش مصنوعی مولد(GenAI) یک نوآوری جدید است که اساساً نحوه تفکر ما در مورد ایمنی بیمار را به چالش می کشد. هنوز چیزهای زیادی در مورد آن وجود دارد که بتوانیم آنرا بطور ایمن در تمرینات بالینی روزمره استفاده نمائیم.
مشکلات هوش مصنوعی مولد
برنامه های کاربردی هوش مصنوعی اصولا برای انجام یک کار بسیار خاص توسعه یافته اند. به عنوان مثال، شبکه های عصبی یادگیری عمیق برای طبقه بندی در تصویربرداری و تشخیص طراحی شده اند. چنین سیستم هایی در تحلیل و بررسی ماموگرافی برای مساعدت با غربالگری سرطان سینه موثر هستند.
اما هوش مصنوعی مولد برای انجام یک کار با تعریف محدود آموزش ندیده است. این فناوری ها برمبنای مدلهای به اصطلاح بنیادی بنا شده اند که دارای قابلیت های عمومی هستند. این بدان معناست که آنها می توانند متن، تصویر، صدا یا حتی تلفیقی از اینها را تولید کنند.
سپس این توانایی ها برای برنامه های مختلف مانند پاسخ به سؤالات کاربر، تولید کد یا ایجاد تصاویر به خوبی تنظیم می شوند. انگار امکانات تعامل با این نوع هوش مصنوعی تنها با تخیل کاربر محدود می شود.
این نکته بسیار مهم می باشد، برای اینکه این فناوری جهت استفاده در یک زمینه خاص یا جهت استفاده برای یک هدف خاص توسعه نیافته است و ما در حقیقت نمی دانیم که چگونه پزشکان می توانند بطور ایمن از آن بهره گیرند. این دلیلی برای نمایش آنست که هوش مصنوعی مولد هنوز جهت استفاده گسترده در مراقبت های بهداشتی مناسب نمی باشد.
یکی دیگر از مشکلات استفاده از هوش مصنوعی مولد در مراقبت های بهداشتی، پدیده مستند «توهم»(hallucination) است. این توهمات، نتایج بی مدلول یا غیرواقعی برمبنای ورودی های ارائه شده است.
توهمات در حوزه ایجاد خلاصه متن توسط هوش مصنوعی مولد مورد مطالعه قرار گرفته اند. یک مطالعه نشان داد که ابزارهای مختلف هوش مصنوعی مولد خروجی هایی تولید می کنند که برمبنای آن چه در متن گفته شده است، اما پیوندهای نادرستی به وجود می آورد یا خلاصه ها شامل اطلاعاتی می شوند که حتی در متن به آنها اشاره نشده است.
این توهمات بدین سبب اتفاق می افتند که هوش مصنوعی مولد برمبنای اصل احتمال(مانند پیش بینی این که کدام کلمه در یک زمینه خاص بکار گرفته می شود) کار می کند، نه این که مبتنی بر «درک» به مفهوم انسانی باشد. این بدان معناست که خروجی های تولید شده توسط هوش مصنوعی مولد بجای این که لزوماً صادقانه باشند، قابل قبول هستند.
این قابل قبول بودن دلیل دیگری بر آنست که جهت استفاده ایمن از هوش مصنوعی مولد در امور معمول پزشکی خیلی زود است.
یک ابزار هوش مصنوعی مولد را تصور کنید که به مشاوره دادن به بیمار گوش می دهد و سپس یک یادداشت خلاصه الکترونیکی تولید می کند. از یک طرف، این کار پزشک عمومی یا پرستار را راحت می کند تا بهتر با بیمار خود ارتباط برقرار کند، اما از طرف دیگر، هوش مصنوعی مولد بطور بالقوه می تواند یادداشت هایی را برمبنای آن چه که فکر می کند قابل قبول است، تولید نماید، نه آن چه واقعی و درست است.
به عنوان مثال، این خلاصه تولید شده توسط هوش مصنوعی مولد ممکنست شدت علایم بیمار را تغییر دهد یا علائمی را اضافه کند که بیمار هیچ گاه از آنها شکایت نکرده است یا شامل اطلاعاتی باشد که بیمار یا پزشک هیچ گاه ذکر نکرده اند.
پزشکان و پرستاران باید تمام یادداشت های تولید شده توسط هوش مصنوعی را با چشمی مانند عقاب تصحیح کنند و حافظه ای عالی داشته باشند تا اطلاعات واقعی را از اطلاعات قابل قبول اما ساختگی متمایز کنند.
این ممکنست در یک محیط سنتی برای پزشکان خانواده خوب باشد، جایی که پزشک عمومی بیمار را به خوبی می شناسد تا اطلاعات ناصحیح را به درستی شناسایی کند. اما در سیستم بهداشتی پراکنده عمومی که بیماران اغلب توسط کارکنان مراقبت های بهداشتی مختلف ویزیت می شوند، هرگونه نادرستی در یادداشت های بیمار می تواند خطرات قابل توجهی همچون تاخیر، درمان نامناسب و تشخیص اشتباه برای سلامتی آنها بوجود آورد.
خطرات در رابطه با توهم قابل توجه است، اما لازم به ذکر است که پژوهشگران و توسعه دهندگان هم اکنون روی کاهش احتمال توهم هوش مصنوعی مولد کار می کنند.
ایمنی بیماران
یکی دیگر از دلایلی که جهت استفاده از هوش مصنوعی مولد در مراقبت های بهداشتی خیلی زود است، این است که ایمنی بیمار به تعامل با هوش مصنوعی برای تعیین میزان عملکرد آن در یک زمینه و محیط خاص بستگی دارد. نگاهی به نحوه کار این فناوری در ارتباط با مردم، نحوه انطباق آن با قوانین و فشارها و فرهنگ و اولویت ها در یک سیستم سلامت بزرگ تر این را نشان میدهد. چنین دیدگاه سیستمی تعیین می کند که آیا استفاده از هوش مصنوعی مولد ایمن است یا خیر.
از آنجا که هوش مصنوعی مولد برای کاربرد خاصی طراحی نشده است، به این معنا است که قابل انطباق است و می تواند به شکلی استفاده گردد که ما نمی توانیم بطور کامل پیش بینی نماییم. علاوه بر این، توسعه دهندگان بطور مرتب فناوری خودرا به روز می کنند و قابلیت های عمومی جدیدی را به آن اضافه می کنند که رفتار برنامه هوش مصنوعی مولد را تغییر می دهد.
همین طور حتی اگر به نظر برسد که این فناوری ایمن است و همانطور که درنظر گرفته شده کار می کند، باز هم بسته به زمینه استفاده خود کار می کند و ممکنست صدمه ای رخ دهد.
به عنوان مثال، معرفی عوامل مکالمه هوش مصنوعی مولد برای تریاژ می تواند بر تمایل بیماران مختلف برای تعامل با سیستم مراقبت های بهداشتی تأثیر بگذارد. بیماران با سواد دیجیتال پایین تر، افرادی که زبان اصلی آنها انگلیسی نیست و بیمارانی که سخن نمی گویند ممکنست استفاده از هوش مصنوعی مولد را دشوار بدانند. بدین سبب در صورتیکه ممکنست این فناوری در اصل کار کند، اما اگر این فناوری برای همه کاربران بطور یکسان کار نکند، همچنان می تواند لطمه زا باشد.
نکته اینجاست که پیش بینی چنین خطرهایی با هوش مصنوعی مولد بوسیله رویکرد های تحلیل ایمنی سنتی بسیار دشوارتر است. این رویکردها به درک این مساله می پردازند که چگونه یک اختلال در این فناوری می تواند موجب لطمه در حوزه های خاص شود.
در مجموع، مراقبت های بهداشتی می توانند از پذیرش هوش مصنوعی مولد و سایر ابزارهای هوش مصنوعی بهره مند شوند، اما پیش از این که این فناوری بتواند به شکل گسترده تر در مراقبت های بهداشتی مورد استفاده قرار گیرد، تضمین ایمنی و مقررات باید به پیشرفت ها در مکان و روش استفاده از این فنآوری پاسخگوتر باشند.
همین طور برای توسعه دهندگان ابزارها و تنظیم کننده های هوش مصنوعی مولد لازم است که با جوامعی که از این فنآوری ها استفاده می نمایند برای توسعه ابزارهایی که می توانند بطور منظم و ایمن در عمل بالینی استفاده شوند، کار کنند.
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب