پاسخهای هوش مصنوعی در پزشکی به معنای صحت آن نیست
حسین ربانی امروز در وبینار «استفاده مسئولانه از هوش مصنوعی در پژوهشهای علوم پزشکی؛ کاربردها، ملاحظات اخلاقی و الزامات حقوقی» با اشاره به ضرورت توجه به تمام مراحل چرخه توسعه و استفاده از هوش مصنوعی، اظهار کرد: زمانی که درباره هوش مصنوعی صحبت میکنیم، نباید صرفا به محصول نهایی و کاربرد آن توجه داشته باشیم، بلکه باید از ابتدای چرخهای که در نهایت به تولید یک محصول هوش مصنوعی و استفاده از آن منجر میشود، این فناوری را مورد بررسی قرار دهیم.
وی یکی از موضوعات مهم در این زمینه را مساله داده و انتقال آن دانست و اظهار کرد: امروزه با توسعه فناوریهایی مانند اینترنت اشیاء (IoT)، امکان جمعآوری و انتقال حجم زیادی از دادهها فراهم شده است، اما اگر نتوانیم دادهها را در همان محل تولید، مدیریت و پردازش کنیم، با چالشهای جدی مواجه خواهیم شد.
ربانی افزود: یکی از دلایل بازگشت قدرتمند هوش مصنوعی، به ویژه در حوزه شبکههای عصبی، محدودیتهای سختافزاری در پردازش حجم بالای دادهها بود؛ به این معنا که در دورهای دادههای زیادی تولید میشد، اما توان پردازشی لازم برای استفاده از این دادهها وجود نداشت. توسعه پردازندههای گرافیکی (GPU) نقش مهمی در حل این مشکل داشت؛ چراکه امکان پردازش حجم بالایی از دادهها را فراهم کرد.
وی اضافه کرد: در کنار آن، روشهای برنامه نویسی متناسب با این ظرفیتها نیز توسعه یافت و همین موضوع باعث شد دادههای گسترده تولیدشده، قابلیت استفاده در مدلهای هوش مصنوعی را پیدا کنند.
استاد دانشگاه علوم پزشکی اصفهان با اشاره به گسترش دسترسی به هوش مصنوعی، خاطر نشان کرد: سادهتر شدن استفاده از این فناوری، مانند بسیاری از فناوریهای دیگر در کنار فرصتهایی که ایجاد کرده، خطراتی نیز به همراه دارد؛ به ویژه در حوزه سلامت که یکی از حوزههای حساس و مهم کاربرد هوش مصنوعی محسوب میشود.
وی اضافه کرد: امروز هوش مصنوعی در تمام مراحل حوزه سلامت، از ورود داده و پردازش آن تا تولید خروجی نهایی، حضور دارد و همین موضوع نشان میدهد که باید در استفاده از این فناوری در پزشکی با دقت و حساسیت بیشتری عمل کنیم.
ربانی با تأکید بر ضرورت حفظ عمق فکری در مواجهه با فناوریهای جدید، گفت: یکی از چالشهای دنیای امروز این است که به دلیل سادهتر شدن فرآیندها، گاهی مسائل پیچیده بیش از اندازه سادهسازی میشوند، در حالی که نباید اجازه دهیم این اتفاق در موضوعات علمی و تخصصی رخ دهد.
وی با اشاره به تغییر رویکرد استفاده از هوش مصنوعی، یادآور شد: در گذشته بیشتر از هوش مصنوعی به عنوان ابزاری برای انجام کارهایی استفاده میکردیم که انسان نیز قادر به انجام آن بود، اما ارزش اصلی این فناوری زمانی مشخص میشود که حجم دادهها و تعداد متغیرها افزایش پیدا میکند. انسان حتی با توانایی بالا نمیتواند تعداد زیادی ویژگی و متغیر را به صورت همزمان تحلیل کند، اما اگر داده کافی، مدل مناسب و آموزش درست در اختیار هوش مصنوعی قرار گیرد، این فناوری میتواند الگوهایی را شناسایی کند که برای انسان دشوار است.
ربانی با اشاره به حساسیت تولید دادههای جدید در حوزه پزشکی، خاطر نشان کرد: در حوزه سلامت باید با دقت بیشتری بررسی کنیم که تا چه اندازه مجاز به تولید دادههای جدید هستیم؛ برای مثال در حوزه تصاویر پزشکی، باید مشخص شود تغییر، حذف یا اضافه کردن بخشهایی از تصویر تا چه حد میتواند قابل اعتماد و کاربردی باشد.
عضو بورد هوش مصنوعی با بیان اینکه استفاده از هوش مصنوعی باید همراه با شناخت مخاطرات آن باشد، گفت: هدف از بررسی ملاحظات اخلاقی و حقوقی این است که بتوانیم از ظرفیتهای هوش مصنوعی به شکل صحیح استفاده کنیم و در عین حال، از آسیبهای احتمالی آن پیشگیری کنیم.
وی به وجود قوانین و چارچوبها برای استفاده از هوش مصنوعی در پژوهشهای سلامت اشاره کرد و ادامه داد: این پرسش مطرح است که آیا برای استفاده از هوش مصنوعی در پژوهشهای حوزه سلامت، از جمله نگارش مقاله، داوری علمی یا انجام فرآیندهای پژوهشی، قواعد مشخصی وجود دارد یا خیر؛ در حال حاضر میتوان گفت برای بسیاری از این موارد چارچوبهایی تعریف شده است. البته وجود قانون به معنای آن نیست که همه موضوعات به طور کامل حل شدهاند؛ چراکه این حوزه همچنان در حال توسعه است و نیازمند تکمیل و بهروزرسانی مداوم مقررات است.
ربانی ادامه داد: بسیاری از ناشران علمی نیز قواعد مشخصی برای استفاده از هوش مصنوعی دارند؛ برای مثال استفاده از این فناوری برای خلاصهسازی متون یا انجام برخی فعالیتهای کمکی پذیرفته شده است، اما استفاده از آن در تولید محتوای علمی باید با شفافیت و رعایت اصول اخلاقی همراه باشد. هوش مصنوعی باید بهعنوان یک ابزار کمکی مورد استفاده قرار گیرد و نمیتواند جایگزین تفکر، تحلیل و مسئولیت علمی پژوهشگر شود.
استاد دانشگاه علوم پزشکی اصفهان با اشاره به نحوه استفاده از هوش مصنوعی در فرآیندهای پژوهشی، اظهار کرد: امروزه استفاده از هوش مصنوعی برای انجام برخی فعالیتها مانند کمک در نگارش یا انجام کارهای زمانبر پژوهشی، پذیرفته شده است، اما این فناوری نمیتواند بهعنوان نویسنده یا جایگزین پژوهشگر مورد استفاده قرار گیرد. در استفاده از هوش مصنوعی در پژوهش، همچنان نقش اصلی و مسئولیت نهایی باید بر عهده پژوهشگر باشد؛ به این معنا که پژوهشگر باید بر ابزار مسلط باشد و خروجیهای تولیدشده توسط هوش مصنوعی را بررسی و ارزیابی کند.
ربانی با تاکید بر اینکه تقریبا تمامی ناشران علمی در استفاده از هوش مصنوعی برای انتشار مقالات، بر دو موضوع مهم یعنی «شفافیت» و «مسئولیتپذیری» تأکید دارند، یادآور شد: پژوهشگر باید به صورت شفاف اعلام کند که هوش مصنوعی در کدام بخش از پژوهش مورد استفاده قرار گرفته است و مسئولیت تمام نتایج و محتوای ارائهشده همچنان بر عهده اوست. هر یک از ابزارهای هوش مصنوعی قواعد و دستورالعملهای خاص خود را دارند و پژوهشگران باید در مواردی که از آنها استفاده میکنند، نحوه و میزان بهرهگیری از این ابزارها را مطابق الزامات اعلامشده، مشخص کنند.
عضو بورد هوش مصنوعی با اشاره به استفاده از هوش مصنوعی در فرآیند داوری مقالات علمی، اظهار کرد: یکی از پرسشهای مهم این است که آیا یک داور میتواند مقالهای را که برای داوری دریافت کرده، به طور کامل در یک سامانه هوش مصنوعی بارگذاری کند و از آن درباره مقاله نظر بخواهد.
وی اضافه کرد: استفاده از هوش مصنوعی برای دریافت کمک یا مشورت درباره یک موضوع کلی اشکالی ندارد، اما بارگذاری کامل یک مقاله داوری شده در سامانههای عمومی هوش مصنوعی میتواند مشکلساز باشد؛ چراکه اطلاعات مقاله هنوز محرمانه است و ممکن است پژوهشگر آن را منتشر نکرده باشد یا مالکیت علمی آن تثبیت نشده باشد.
ربانی افزود: بسیاری از ناشران علمی این اقدام را توصیه نمیکنند، زیرا موضوع به اصول اخلاق پژوهش و حفظ محرمانگی اطلاعات علمی بازمیگردد. پژوهشگر یا داور نمیتواند اطلاعات محرمانه یک کار علمی را در بستری عمومی قرار دهد.
وی با بیان اینکه استفاده از هوش مصنوعی در برخی کاربردها مجاز است، اظهار کرد: برای مثال، استفاده از این ابزار برای اصلاح یا تهیه چکیده متنی که محتوای آن مشخص است، در صورتی که استفاده از هوش مصنوعی اعلام شود، میتواند قابل قبول باشد.
استاد دانشگاه علوم پزشکی اصفهان با اشاره به کاربرد هوش مصنوعی در تحلیل تصاویر پزشکی، گفت: یکی دیگر از حوزههای استفاده از هوش مصنوعی، تحلیل تصاویر است؛ اما در این زمینه باید توجه داشت که ابزار مورد استفاده حتماً اعتبارسنجی (Validation) شده باشد.
وی افزود: صرف اینکه یک سامانه هوش مصنوعی به شما پاسخ میدهد، به این معنا نیست که پاسخ آن درست است. این ابزار ممکن است پاسخی ارائه کند که به ظاهر دقیق به نظر برسد، اما بر اساس دادههای معتبر و کافی آموزش ندیده باشد یا از منابع علمی مناسب استفاده نکرده باشد. در حوزه سلامت، به دلیل حساسیت تصمیمها و ارتباط مستقیم با زندگی انسانها، استفاده از ابزارهای هوش مصنوعی باید همراه با ارزیابی علمی، اعتبارسنجی و رعایت اصول اخلاقی و حقوقی باشد.(ایسنا)
