ITanalyze

مرکز پژوهش‌های مجلس شورای اسلامی در گزارشی به بررسی چالش‌ها و الزامات توسعه و پیاده‌سازی هوش مصنوعی مولد پرداخته است.

به گزارش مهر هوش مصنوعی مولد نوعی فناوری هوش مصنوعی است که می‌تواند انواع مختلفی از جمله متن، تصویر، صدا و داده‌های مصنوعی را تولید کند. فناوری‌های هوش مصنوعی در سال‌های اخیر با انتشار انواع چت‌بات‌ها توجه زیادی را به خود جلب کرده‌اند.

سادگی رابط‌های کاربری جدید برای ایجاد متن، گرافیک و ساخت ویدئوهای با کیفیت بالا در عرض چند ثانیه و همچنین توانایی خلق محتواهایی که پیش از این وجود نداشته است، سبب ایجاد هیاهویی در مورد هوش مصنوعی مولد شده است.

مرکز پژوهش‌های مجلس شورای اسلامی در گزارشی به بررسی چالش‌ها و الزامات توسعه و پیاده‌سازی هوش مصنوعی مولد پرداخته است.

در این گزارش عنوان شده است که با وجود توسعه سریع انواع شاخه‌های هوش مصنوعی، نگرانی‌ها و ملاحظاتی درباره به‌کارگیری هوش مصنوعی به معنای عام آن، پیرامون حریم خصوصی داده‌ها، امنیت، انطباق‌ها، عدم شفافیت در نحوه رسیدن به یک پاسخ و سوق دادن افراد به سمت تصمیم‌گیری، سوگیری‌ها، نیروی کار، نقض حقوق مالکیت، تاثیر بر مشاغل خلاق و ... وجود دارد. این نگرانی‌ها در حوزه هوش مصنوعی مولد که ویژگی منحصر به فرد آن تقلید رفتار و تفکر امسانی و خودمختاری است، بسیار جدی‌تر است. به همین دلیل سیاست‌گذارات تلاش دارند به سمت تنظیم چارچوب‌ها و اصولی بروند که با در نظر گرفتن ویژگی‌های مخاطره‌آمیز هوش مصنوعی زمینه توسعه هدفمند و پایدار هوش مصنوعی را فراهم کنند.

در این گزارش چالش‌های پیش روی توسعه هوش مصنوعی مولد مورد بررسی قرار گرفته است. بر اساس این گزارش؛ چالش‌های هوش مصنوعی مولد را می‌توان از سه منظر چالش‌های فنی عملیاتی، چالش‌های استفاده و پیامدسازی فناوری‌های هوش مصنوعی مولد در کسب‌وکارها و چالش‌های عمومی و اجتماعی مخاطرات هوش مصنوعی مولد بررسی کرد.

چالش‌های فنی و عملیاتی هوش مصنوعی مولد

چالش‌های فنی و عملیاتی شامل لزوم دسترسی به داده زیاد، با کیفیت و متنوع (با چالش‌هایی مانند پرهزینه بودن، زمان‌بر و دشوار بودن، کمیاب یا حساس بودن، در چارچوب قوانین مالکیت یا حریم خصوصی بودن)، کیفیت و کمیت داده (با چالش‌هایی مانند دسترسی به منابع داده قابل‌اعتماد و معتبر، پیاده‌سازی تکنیک‌های پاک‌سازی و تقویت داده‌ها، ایجاد استانداردهای اخلاقی و قانونی برای حفاظت از داده‌ها)، تأمین امنیت و حفاظت از داده‌های داخلی به‌کمک توسعه الگوها و کدها (با چالش‌هایی مانند لزوم پایه‌گذاری یک مدل زبانی بزرگ بر روی مجموعه‌ای از حقایق خارجی و قابل‌تأیید، حفظ حریم خصوصی، امنیت و انطباق داده‌ها و رعایت قوانین و مقررات حفاظت از داده‌ها)، بررسی عملکرد و ارزیابی مدل (با چالش‌هایی مانند امکان بهینه کردن مقیاس‌پذیری و کارایی و توسعه معیارهایی برای دریافت بازخورد کاربر نسبت به خروجی‌ها)، کاهش سوگیری داده‌های آموزشی و قابلیت توضیح و اعتماد مدل (با چالش‌هایی مانند شفافیت و پاسخ‌گو کردن مدل، توسعه روش‌های اجتناب از سوگیری، اصلاح و خودکنترلی مدل)، تأمین زیرساخت‌های سخت‌افزاری و نرم‌افزاری محاسباتی (با چالش‌هایی مانند توسعه زیرساخت‌های ارتباطات، ابرسامانه‌های پردازشی و ذخیره‌سازی داده‌های بزرگ در کنار بحث آموزش و محاسبات استنتاج) و تأمین انرژی مورد نیاز برای محاسبات و چالش رد پای کربن (با چالش‌هایی مانند مصرف زیاد انرژی و انتشار کربن به‌علت حجم بالای پردازش) می‌شود.

چالش‌های هوش مصنوعی مولد در کسب و کارها

چالش‌های استفاده و پیاده‌سازی فناوری‌های هوش مصنوعی مولد در کسب‌وکارها نیز شامل پیچیدگی فنی راه‌اندازی و استفاده (با چالش‌هایی مانند عدم ظرفیت تجهیزاتی سازمان‌ها برای راه‌اندازی این مدل‌های بزرگ، گران بودن منابع محاسباتی و پردازشی، عدم تمایل کسب‌وکار به راه‌اندازی و استفاده دائم)، مقاومت سیستم‌های قدیمی در برابر فناوری‌های جدید (با چالش‌هایی مانند ابهام، تضاد یا تعارض سازمان نسبت به نحوه مدیریت و کارکرد سیستم‌های فعلی و وظیفه‌های رایج خود در مقابل روش نوین، مقاومت بدنه برای پذیرش، افزایش هزینه سازمان به‌دلیل لزوم آموزش نیروها در به‌کارگیری این فناوری و نیز هدایت بخشی از نیروها جهت راه‌اندازی مرکزی برای اجرا، هماهنگی و نظارت) و ابهام در مدل‌های اقتصادی و امکان ایجاد بدهی فنی (با چالش‌هایی مانند توجیه سرمایه‌گذاری در انواع مدل‌های هوش مصنوعی و کاهش هزینه‌ها در بخش‌های دیگر که جبران‌کننده هزینه‌کرد در این زمینه باشد).

از جمله دیگر موارد اشاره شده در این گزارش در حوزه چالش‌های استفاده و پیاده‌سازی فناوری‌های هوش مصنوعی مولد در کسب و کارها می‌توان این موارد را برشمرد: تغییر شکل بخشی از نیروی کار کسب‌وکارها (نگرانی‌های مربوط به از دست دادن شغل و لزوم ایجاد مشاغل جدید متناسب برای همان افراد در شرکت یا سازمان)، توهمات هوش مصنوعی (با نگرانی‌هایی مانند امکان افشای اطلاعات و اسرار درون‌سازمانی، ارائه اطلاعات نادرست به هوش مصنوعی و همچنین راه‌حل‌ها یا مشاوره‌های نادرست هوش مصنوعی مولد)، نگرانی شرکت‌ها از عواقب حقوقی سوگیری الگوریتمی هوش مصنوعی مولد (مسائل مربوط به رعایت حقوق مالکیت فکری، احتمال دسترسی و افشا کردن اطلاعات خصوصی یا محرمانه یا حساس و همچنین ارائه تصمیمات نادرست دارای بار حقوقی) و نحوه مدیریت کارکنان و جلوگیری از سوء‌استفاده آنها (کنترل و نظارت بر واگذاری وظایف یا تکالیف سازمانی به هوش مصنوعی مولد (این امر در حال حاضر در حوزه آموزش و پژوهش کاملاً مشهود است)، عواقب حقوقی یا اخلاقی ناشی از خودکارسازی تأییدیه‌ها یا بررسی‌های قانونی توسط سامانه هوشمند به‌جای انسان که ممکن است اخلاقیات، انطباق، استقلال و یا سایر برنامه‌ها را تحت‌تأثیر قرار دهد.

چالش‌های عمومی و اجتماعی هوش مصنوعی مولد

این گزارش در ادامه به چالش‌های عمومی و اجتماعی هوش مصنوعی مولد پرداخته و به این موارد اشاره می‌کند: مخاطرات دقت و صحت (احتمال گمراه شدن کاربران به‌علت عدم تشخیص صحت و حقیقی بودن اطلاعات و منبع آن، عدم تعمیم پاسخ‌ها با توجه به ویژگی و عدم امکان تأیید اطلاعات، عدم شناخت محدودیت‌های هوش مصنوعی و بیش‌برآورد توانایی‌های آن)، مخاطرات سوگیری اجتماعی (رویکردهای جنسیتی، نژادپرستانه یا تبعیض‌های مرتبط با ناتوانی و معلولیت در جوامع آنلاین، نمایندگی یک تفکر یا گروه‌های خاص، واقعیت‌سازی، تقویت سوگیری‌های موجود)، نقض حریم خصوصی داده‌ها و مخاطرات امنیتی (نشت داده‌های حساس، سوء‌استفاده از داده‌های شخصی و اجتماعی، دسترسی به داده‌ها و حقوق آن)، مخاطرات مالکیت فکری (چالش با هنجارها و مقررات مالکیت فکری سنتی از منظر اصالت و مالکیت، مجوزها، حقوق بهره‌برداری و نقض حقوق مالکیت فکری افراد)، مخاطرات سرقت ادبی، تقلب علمی و تشخیص آن (افزایش زمینه‌های سرقت، تقلب علمی و ادبی و تشخیص دشوار و چالش‌برانگیز آن)، مخاطرات اخلاقی (گسترش جعل عمیق و حملات سایبری، دست‌کاری افکار عمومی و ایجاد آزار یا بدنامی، ادعاهای حقوقی تقلبی مانند درخواست بیمه خسارت، کلاهبرداری، فیشینگ و هک سیستم‌ها، فرسایش خلاقیت انسان، احتمال افزایش بیکاری، نگرانی‌های زیست‌محیطی) و ابهام و پیچیدگی انطباق با مفاهیم و چارچوب‌های موجود (دشواری در تعریف و ارزیابی آسیب و خسارت، تعیین سطح آسیب، گروه‌های آسیب‌دیده و مسئول خسارت.

پیش‌نیازهای اصلی توسعه هوش مصنوعی مولد

مرکز پژوهش‌های مجلس در این گزارش راهکارهایی را برای غلبه بر این چالش‌ها پیشنهاد کرده است. این پیشنهات در دو لایه «زیرساختی و فنی» و «تنظیم‌گری» مطرح شده است.

بر اساس این گزارش؛ در لایه زیرساختی و فنی، راه‌حل‌هایی برای رفع چالش‌هایی نظیر تأمین داده‌های با کیفیت، حفاظت از داده‌ها، بهبود دقت و سرعت پردازش و ارزیابی عملکرد مدل‌ها قابل پیاده‌سازی است و برای رفع آن‌ها می‌توان اقداماتی از جمله استفاده از داده‌های مصنوعی، یادگیری انتقالی، کاهش سوگیری، محاسبات ابری، محاسبات توزیع‌شده، فشرده‌سازی مدل و کاهش تاخیر و کاهش اندازه انجام داد.

بر اساس این گزارش؛ در لایه تنظیم‌گری می‌توان با تکمیل یا ایجاد زیرساخت‌های قانونی مرتبط با داده از جمله تکمیل و بهبود قانون مدیریت داده‌ها و اطالعات ملی مصوب سال، ۱۴۰۱ ایجاد ضوابط مرتبط با پردازش داده‌های شخصی افراد و استفاده اشخاص یا سامانه‌های هوش مصنوعی مولد از این داده‌ها در قالب تدوین طرح/ لایحه حفاظت و حمایت از داده‌های شخصی و حریم خصوصی، به‌روزرسانی و انطباق قوانین موجود با مصادیق و موضوعات هوش مصنوعی مولد ازجمله قانون جرائم رایانه‌ای مصوب سال ۱۳۸۸ قانون تجارت الکترونیک مصوب سال ۱۳۸۲ و احکام مرتبط در قوانین مجازات اسلامی و حقوق مدنی– قوانین مرتبط با حمایت از مالکیت فکری با موضوعات هوش مصنوعی مولد ازجمله قانون حمایت از مالکیت صنعتی- مصوب صحن مجلس در -۱۴۰۰/۹/۲۱ قانون حمایت از حقوق پدیدآورندگان نرمافزارهای رایانهای مصوب سال -۱۳۷۹ قانون حمایت حقوق مؤلفان و مصنفان و هنرمندان مصوب سال، ۱۳۴۸ ایجاد زیرساختهای قانونی ویژه هوش مصنوعی مولد در کنترل و سطح مسئولیت و خودمختاری، می‌توان دسترسی به داده و سامان‌دهی و شفافیت مدیریت داده و اطلاعات را تسهیل کرد.

همچنین در لایه تنظیم‌گری اقدامات دیگری مانند شناسایی و توسعه اصول، دستورالعمل‌ها، توصیه‌نامه و مقررات، بهبود سرمایه انسانی و ظرفیت نوآوری در کسب و کارها و همچنین افزایش سواد دیجیتالی برای استفاده ایمن از هوش مصنوعی مولد با تاکید بر حفاظت از اقشار حساس مانند کودکان و نوجوانان و افراد کم‌سواد و مسن در پیش گرفت.