ITanalyze

تیمی از محققان در تازه‌ترین مطالعات خود به بررسی قابل اعتماد بودن توصیه‌های پزشکی هوش مصنوعی پرداختند.
به گزارش خبرگزاری صدا و سیما بیمارستان‌ها شروع به استفاده از «ابزار‌های پشتیبانی تصمیم» با هوش مصنوعی کرده‌اند که می‌توانند بیماری را تشخیص دهند، درمان را پیشنهاد کرده و یا نتیجه جراحی را پیش‌بینی کنند، اما هیچ الگوریتمی همیشه درست نیست، بنابراین چگونه پزشکان می‌دانند چه زمانی به توصیه‌های هوش مصنوعی اعتماد کنند.

یک مطالعه جدید به رهبری کیان یانگ، استادیار علوم اطلاعات در کالج محاسباتی و علوم اطلاعات کورنل آن اس بورز، نشان می‌دهد که اگر ابزار‌های هوش مصنوعی بتوانند مانند یک همکار به پزشک مشاوره دهند، در آن صورت پزشکان بهتر می‌توانند مزایای توصیه هوش مصنوعی را بسنجند.

محققان مطالعه جدید را با عنوان «استفاده از ادبیات زیست پزشکی برای کالیبره کردن اعتماد پزشکان به سیستم‌های پشتیبانی تصمیم گیری هوش مصنوعی» در آوریل در کنفرانس CHI انجمن ماشین‌های محاسباتی در مورد عوامل انسانی در سیستم‌های محاسباتی ارائه خواهند کرد.

یانگ گفت: پیش از این، بیشتر محققان هوش مصنوعی با توضیح نحوه عملکرد الگوریتم زیربنایی یا داده‌هایی که برای آموزش هوش مصنوعی استفاده شده‌اند، به پزشکان کمک کرده‌اند تا پیشنهادات ابزار‌های پشتیبانی تصمیم را ارزیابی کنند، اما آموزش در مورد چگونگی پیش‌بینی‌های هوش مصنوعی کافی نبود. بسیاری از پزشکان تلاش می‌کردند دریابند آیا این ابزار در آزمایش‌های بالینی تایید شده است یا خیر که معمولا با این ابزار‌ها اتفاق نمی‌افتد.

یانگ گفت: «وظیفه اصلی یک پزشک یادگیری نحوه عملکرد هوش مصنوعی نیست. اگر بتوانیم سیستم‌هایی بسازیم که بر اساس نتایج کارآزمایی‌های بالینی و مقالات ژورنالی که اطلاعات قابل اعتمادی برای پزشکان هستند، به تایید پیشنهاد‌های هوش مصنوعی کمک کند، می‌توانیم به آن‌ها کمک کنیم تا بفهمند که آیا هوش مصنوعی احتمالا برای هر مورد خاص درست است یا خیر».

بنا بر  اعلام مدیکال اکسپرس ‎ برای توسعه این سیستم، محققان ابتدا با ۹ پزشک در طیف وسیعی از تخصص‌ها و سه کتابدار بالینی مصاحبه کردند. آن‌ها دریافتند هنگامی که پزشکان در مورد روش صحیح اقدام با هم اختلاف نظر دارند، نتایج حاصل از تحقیقات زیست پزشکی مرتبط و مطالعات موردی را با در نظر گرفتن کیفیت هر مطالعه و میزان تطبیق آن با مورد مورد نظر پیگیری می‌کنند.

یانگ و همکارانش نمونه اولیه ابزار تصمیم گیری بالینی خود را ساختند که این فرآیند را با ارائه شواهد زیست پزشکی در کنار توصیه هوش مصنوعی تقلید می‌کند. آن‌ها از GPT-۳ برای یافتن و خلاصه کردن تحقیقات مرتبط استفاده کردند.

یانگ گفت: «ما سیستمی ساختیم که اساسا سعی می‌کند ارتباطات بین فردی پزشکان را بازسازی کند و همان نوع شواهد را از ادبیات بالینی برای حمایت از پیشنهاد هوش مصنوعی به دست آورد.

رابط ابزار پشتیبانی تصمیم، اطلاعات بیمار، تاریخچه پزشکی و نتایج آزمایش‌ها را از یک طرف، با تشخیص شخصی یا پیشنهاد درمانی هوش مصنوعی از سوی دیگر و به دنبال آن مطالعات بیوپزشکی مربوطه فهرست می‌کند. در پاسخ به بازخورد پزشک، محققان یک خلاصه کوتاه برای هر مطالعه اضافه کردند که جزئیات جمعیت بیمار، مداخلات پزشکی و نتایج بیمار را برجسته می‌کرد تا پزشکان بتوانند به سرعت مهم‌ترین اطلاعات را جذب کنند.

تیم تحقیقاتی ابزار‌های پشتیبانی تصمیم گیری اولیه را برای سه تخصص عصب شناسی، روانپزشکی و مراقبت‌های تسکینی توسعه دادند و از سه پزشک از هر تخصص خواستند تا نمونه اولیه را با ارزیابی موارد نمونه آزمایش کنند.

در مصاحبه‌ها، پزشکان گفتند از شواهد بالینی قدردانی می‌کنند، آن‌ها را بصری و قابل درک می‌دانند و آن را به توضیح عملکرد درونی هوش مصنوعی ترجیح می‌دهند.

یانگ گفت: «این یک روش بسیار قابل تعمیم است. این نوع رویکرد می‌تواند برای همه تخصص‌های پزشکی و سایر کاربرد‌هایی که به شواهد علمی نیاز است، مانند پلتفرم‌های پرسش و پاسخ برای پاسخ‌گویی به سوالات بیمار یا حتی بررسی خودکار واقعیت‌های اخبار مرتبط با سلامت، کار کند. امیدوارم که آن را در انواع مختلف سیستم‌های هوش مصنوعی که در حال توسعه هستند تعبیه شده ببینم تا بتوانیم آن‌ها را برای تمرین بالینی مفید کنیم»