ITanalyze

مرکز پژوهش های مجلس شورای اسلامی در گزارشی به بررسی چالش ها و الزامات توسعه و پیاده سازی هوش مصنوعی مولد در کشور پرداخت.

به گزارش روابط عمومی مرکز پژوهش‌های مجلس شورای اسلامی، دفتر مطالعات انرژی، صنعت و معدن این مرکز در گزارشی با عنوان «هوش مصنوعی مولد؛ چالش‌ها و الزامات توسعه و پیاده‌سازی» آورده است که هوش مصنوعی مولد نوعی فناوری هوش مصنوعی است که می‌تواند انواع مختلفی از محتوا ازجمله متن، تصویر، صدا و داده‌های مصنوعی تولید کند هیاهوی اخیر در مورد هوش مصنوعی مولد به‌دلیل سادگی رابط‌های کاربری جدید برای ایجاد متن، گرافیک و ویدئوهای با کیفیت بالا در عرض چند ثانیه و همچنین توانایی خلق محتواهایی است که پیش از این وجود نداشته‌اند و درواقع هوش مصنوعی مولد مبدع و مبتکر آن است. 

این گزارش بیان می‌کند که با وجود این پیشرفت‌ها و فراگیری استفاده از کاربردهای هوش مصنوعی مولد، واکنش‌های قابل‌توجهی نیز علیه آن وجود داشته است. زیرا علاوه‌بر دغدغه کشورها نسبت به عقب نماندن در توسعه این فناوری، نگرانی‌های جدی نیز در مورد به‌کارگیری و بهره‌مندی از آن در حال پر رنگ شدن است که ازجمله آنها می‌توان به صحت، دقت، امنیت اطلاعات و ملاحظات اخلاقی اشاره کرد. 

این گزارش ادامه می‌دهد که هرچند نگرانی‌های ذکر شده فقط مرتبط با هوش مصنوعی مولد نیست و کل عرصه‌های هوش مصنوعی به‌طور عام را دربر می‌گیرد، اما ویژگی ایجاد و خلق محتوای جدید بدون دخالت و کنترل انسان و ارائه تصمیمات جدید و پاسخ‌هایی که ممکن است به‌راحتی قابل ارزیابی و صحت سنجی نباشند به کاربران و در نتیجه تأثیرگذاری بالای این فناوری بر قدرت تفکر، انتخاب، تصمیم‌گیری و عملکردهای انسانی که به‌واسطه توانایی‌های هوش مصنوعی مولد ایجاد شده و به‌شدت رو به گسترش است، سطح نگرانی‌ها را افزایش داده است. 

این گزارش مطرح می‌کند که این ابعاد گسترده، پیچیده و جدید از منظر فنی، اقتصادی، اجتماعی و حتی سیاسی‌، سیاست‌گذاران را به‌سمت تنظیم چارچوب‌ها و اصولی که به‌طورکلی براساس سطح مخاطره انواع هوش مصنوعی منجر به توسعه هدفمند و پایدار فناوری‌های این حوزه شود، سوق داده است. ازاین‌رو در این پژوهش، ملاحظات و الزامات مختلف توسعه هوش مصنوعی که آثار آنها در هوش مصنوعی مولد قابل تأمل و کلیدی است و همچنین پیاده‌سازی آن از منظر فنی و اجتماعی مورد بررسی قرار گرفته است. 

این گزارش به چالش‌های پیش روی توسعه هوش مصنوعی مولد را بررسی کرده و در اولین مورد به چالش‌های فنی و عملیات مرتبط با زیرساخت‌های داده و محاسبات برشمرده است که شامل لزوم دسترسی به داده زیاد، با کیفیت و متنوع (با چالش‌هایی مانند پرهزینه بودن، زمان‌بر و دشوار بودن، کمیاب یا حساس بودن، در چارچوب قوانین مالکیت یا حریم خصوصی بودن)، کیفیت و کمیت داده (با چالش‌هایی مانند دسترسی به منابع داده قابل‌اعتماد و معتبر، پیاده‌سازی تکنیک‌های پاک‌سازی و تقویت داده‌ها، ایجاد استانداردهای اخلاقی و قانونی برای حفاظت از داده‌ها)، تأمین امنیت و حفاظت از داده‌های داخلی به‌کمک توسعه الگوها و کدها (با چالش‌هایی مانند لزوم پایه‌گذاری یک مدل زبانی بزرگ بر روی مجموعه‌ای از حقایق خارجی و قابل‌تأیید، حفظ حریم خصوصی، امنیت و انطباق داده‌ها و رعایت قوانین و مقررات حفاظت از داده‌ها)، بررسی عملکرد و ارزیابی مدل (با چالش‌هایی مانند امکان بهینه کردن مقیاس‌پذیری و کارایی و توسعه معیارهایی برای دریافت بازخورد کاربر نسبت به خروجی‌ها)، کاهش سوگیری داده‌های آموزشی و قابلیت توضیح و اعتماد مدل (با چالش‌هایی مانند شفافیت و پاسخ‌گو کردن مدل، توسعه روش‌های اجتناب از سوگیری، اصلاح و خودکنترلی مدل)، تأمین زیرساخت‌های سخت‌افزاری و نرم‌افزاری محاسباتی (با چالش‌هایی مانند توسعه زیرساخت‌های ارتباطات، ابرسامانه‌های پردازشی و ذخیره‌سازی داده‌های بزرگ در کنار بحث آموزش و محاسبات استنتاج) و تأمین انرژی مورد نیاز برای محاسبات و چالش رد پای کربن (با چالش‌هایی مانند مصرف زیاد انرژی و انتشار کربن به‌علت حجم بالای پردازش) می‌شود. 

این گزارش در ادامه به چالش‌های استفاده و پیاده سازی فناوری‌های هوش مصنوعی مولد در کسب و کارها پرداخته این چالش‌ها را اینطور برشمرده که از جمله آن می‌توان به موارد زیر اشاره کرد: پیچیدگی فنی راه‌اندازی و استفاده (با چالش‌هایی مانند عدم ظرفیت تجهیزاتی سازمان‌ها برای راه‌اندازی این مدل‌های بزرگ، گران بودن منابع محاسباتی و پردازشی، عدم تمایل کسب‌وکار به راه‌اندازی و استفاده دائم)، مقاومت سیستم‌های قدیمی در برابر فناوری‌های جدید (با چالش‌هایی مانند ابهام، تضاد یا تعارض سازمان نسبت به نحوه مدیریت و کارکرد سیستم‌های فعلی و وظیفه‌های رایج خود در مقابل روش نوین‌، مقاومت بدنه برای پذیرش، افزایش هزینه سازمان به‌دلیل لزوم آموزش نیروها در به‌کارگیری این فناوری و نیز هدایت بخشی از نیروها جهت راه‌اندازی مرکزی برای اجرا، هماهنگی و نظارت) و ابهام در مدل‌های اقتصادی و امکان ایجاد بدهی فنی (با چالش‌هایی مانند توجیه سرمایه‌گذاری در انواع مدل‌های هوش مصنوعی و کاهش هزینه‌ها در بخش‌های دیگر که جبران‌کننده هزینه‌کرد در این زمینه باشد). 

دیگر موارد اشاره شده در این گزارش در حوزه چالش‌های استفاده و پیاده سازی فناوری‌های هوش مصنوعی مولد در کسب و کارها می‌توان این موراد را برشمرد: تغییر شکل بخشی از نیروی کار کسب‌وکارها (نگرانی‌های مربوط به از دست دادن شغل و لزوم ایجاد مشاغل جدید متناسب برای همان افراد در شرکت یا سازمان)، توهمات هوش مصنوعی (با نگرانی‌هایی مانند امکان افشای اطلاعات و اسرار درون‌سازمانی، ارائه اطلاعات نادرست به هوش مصنوعی و همچنین راه‌حل‌ها یا مشاوره‌های نادرست هوش مصنوعی مولد)، نگرانی شرکت‌ها از عواقب حقوقی سوگیری الگوریتمی هوش مصنوعی مولد (مسائل مربوط به رعایت حقوق مالکیت فکری، احتمال دسترسی و افشا کردن اطلاعات خصوصی یا محرمانه یا حساس و همچنین ارائه تصمیمات نادرست دارای بار حقوقی) و نحوه مدیریت کارکنان و جلوگیری از سوء‌استفاده آنها (کنترل و نظارت بر واگذاری وظایف یا تکالیف سازمانی به هوش مصنوعی مولد (این امر در حال حاضر در حوزه آموزش و پژوهش کاملاً مشهود است)، عواقب حقوقی یا اخلاقی ناشی از خودکارسازی تأییدیه‌ها یا بررسی‌های قانونی توسط سامانه هوشمند به‌جای انسان که ممکن است اخلاقیات، انطباق، استقلال و یا سایر برنامه‌ها را تحت‌تأثیر قرار دهد. 

این گزارش در ادامه به چالش‌های عمومی و اجتماعی مخاطرات هوش مصنوعی مولد پرداخته و به این موارد اشاره می‌کند: مخاطرات دقت و صحت (احتمال گمراه شدن کاربران به‌علت عدم تشخیص صحت و حقیقی بودن اطلاعات و منبع آن، عدم تعمیم پاسخ‌ها با توجه به ویژگی و عدم امکان تأیید اطلاعات، عدم شناخت محدودیت‌های هوش مصنوعی و بیش‌برآورد توانایی‌های آن)، مخاطرات سوگیری اجتماعی (رویکردهای جنسیتی، نژادپرستانه یا تبعیض‌های مرتبط با ناتوانی و معلولیت در جوامع آنلاین، نمایندگی یک تفکر یا گروه‌های خاص، واقعیت‌سازی، تقویت سوگیری‌های موجود)، نقض حریم خصوصی داده‌ها و مخاطرات امنیتی (نشت داده‌های حساس، سوء‌استفاده از داده‌های شخصی و اجتماعی، دسترسی به داده‌ها و حقوق آن)، مخاطرات مالکیت فکری (چالش با هنجارها و مقررات مالکیت فکری سنتی از منظر اصالت و مالکیت، مجوزها، حقوق بهره‌برداری و نقض حقوق مالکیت فکری افراد)، مخاطرات سرقت ادبی، تقلب علمی و تشخیص آن (افزایش زمینه‌های سرقت، تقلب علمی و ادبی و تشخیص دشوار و چالش‌برانگیز آن)، مخاطرات اخلاقی (گسترش جعل عمیق و حملات سایبری، دست‌کاری افکار عمومی و ایجاد آزار یا بدنامی، ادعاهای حقوقی تقلبی مانند درخواست بیمه خسارت، کلاهبرداری، فیشینگ و هک سیستم‌ها، فرسایش خلاقیت انسان، احتمال افزایش بیکاری، نگرانی‌های زیست‌محیطی) و ابهام و پیچیدگی انطباق با مفاهیم و چارچوب‌های موجود (دشواری در تعریف و ارزیابی آسیب و خسارت، تعیین سطح آسیب، گروه‌های آسیب‌دیده و مسئول خسارت. 

مرکز پژوهش‌های مجلس در این گزارش راهکارهای تقنین، نظارتی و سیاستی پیشنهاد می‌دهد و این پیشنهادات را در دو لایه زیرساختی و فنی و تنظیم گری مطرح کرده است که در لایه اولیه آن را اینطور توضیح می‌دهد که تدوین چارچوب‌ها و استانداردهای لازم به‌نحوی‌که چالش‌های مرتبط با کیفیت داده، نتایج سوگیرانه و شفافیت و پاسخ‌گویی مدل‌ها را مرتفع کند. حمایت از توسعه نوآوری و فناوری و توسعه تکنیک‌های فنی که منجر به کاهش مخاطرات می‌شوند ازجمله استفاده از داده‌های مصنوعی، تکنیک‌های کاهش سوگیری با توسعه الگوریتم‌ها، یادگیری انتقالی، هوش مصنوعی ناظر و کنترل‌کننده هوش مصنوعی دیگر. ارتقای زیرساخت‌های پردازشی و ارتباطی برای بهبود مقیاس‌پذیری، اعتماد، سرعت، انعطاف‌پذیری و مقرون‌به‌صرفه بودن و کاهش هزینه‌های محاسباتی با روش‌هایی مانند محاسبات ابری و محاسبات توزیع‌شده و فشرده‌سازی مدل‌ها. 

این گزارش در ادامه به توضیح لایه تنظیم گری پرداخته و توضیح می‌دهد که تسهیل دسترسی به داده و سامان‌دهی و شفافیت مدیریت داده و اطلاعات با تکمیل یا ایجاد زیرساخت‌های قانونی مرتبط با داده، ازجمله تکمیل و بهبود قانون مدیریت داده‌ها و اطلاعات ملی مصوب سال ۱۴۰۱، ایجاد ضوابط مرتبط با پردازش داده‌های شخصی افراد و استفاده اشخاص یا سامانه‌های هوش مصنوعی مولد از این داده‌ها در قالب تدوین طرح / لایحه حفاظت و حمایت از داده‌های شخصی و حریم خصوصی، به‌روزرسانی و انطباق قوانین موجود با مصادیق و موضوعات هوش مصنوعی مولد ازجمله قانون جرائم رایانه‌ای مصوب سال ۱۳۸۸‌، قانون تجارت الکترونیک مصوب سال ۱۳۸۲ و احکام مرتبط در قوانین مجازات اسلامی و حقوق مدنی – قوانین مرتبط با حمایت از مالکیت فکری با موضوعات هوش مصنوعی مولد ازجمله قانون حمایت از مالکیت صنعتی- مصوب صحن مجلس در ۱۴۰۰.۹.۲۱ – قانون حمایت از حقوق پدیدآورندگان نرم افزارهای رایانه‌ای مصوب ۱۳۷۹- - قانون حمایت حقوق مؤلفان و مصنفان و هنرمندان مصوب سال ۱۳۴۸، ایجاد زیرساخت‌های قانونی ویژه هوش مصنوعی مولد در کنترل و سطح مسئولیت و خودمختاری. 

در این گزارش دیگر موارد مطرح شده در لایه تنظیم گری به این شرح آمده است: شناسایی و توسعه اصول، دستورالعمل‌ها، توصیه‌نامه‌ها و مقررات براساس سطح مخاطره انواع هوش مصنوعی برای حاکمیت هوش مصنوعی مسئولیت‌پذیر (با تأکید بر هم‌افزایی و انسجام سیاستی این حوزه در ذیل دستگاه‌های اجرایی)، بهبود سرمایه انسانی و ظرفیت نوآوری در کسب‌وکارها از طریق آموزش، هدایت و نگهداشت نیروهای متخصص در کنار تربیت نیروی کار ماهر، راهبردهای افزایش سواد دیجیتالی برای استفاده ایمن از هوش مصنوعی مولد با تأکید بر حفاظت از اقشار حساس مانند کودکان و نوجوانان، افراد کم‌سواد و مسن (نحوه مواجهه با فناوری و مزایای و معایب آن، کنترل و مدیریت بهره‌مندی از فناوری).

متن کامل گزارش را اینجا بخوانید.