ITanalyze

ندا اظهری، مترجم: این روزها اخبار را که جست‌وجو می‌کنید در هر کجا نام هوش مصنوعی را می‌بینید و کمتر خبری را به‌ویژه در حوزه فناوری می‌توانید بیابید که حرف و سخنی از هوش مصنوعی نداشته باشد و به‌نوعی از زندگی روزمره ما انسان‌ها جدا نیست؛ اطلاعاتی که دریافت می‌کنیم، انتخاب‌هایی که انجام می‌دهیم و شیوه‌های عملکرد جوامع ما، همه و همه متاثر از فناوری نوظهوری به نام هوش مصنوعی است که گاهی حتی تشخیص درست را از غلط برای ما دشوار کرده است. هوش مصنوعی در سال‌های آینده نقش مهم‌تری در چگونگی عملکرد دولت‌ها و نهادهای دولتی و چگونگی تعامل و مشارکت شهروندان در فرآیند دموکراتیک خواهد داشت. هوش مصنوعی هم مزایا و هم خطرات را به همراه دارد.

معاهده هوش مصنوعی امضا شد
به گزارش رویترز، در خبری که طی روزهای گذشته منتشر شد سازمان حقوق بشر شورای اروپا اعلام کرد نخستین معاهده بین‌المللی الزام‌آور هوش مصنوعی روز پنجشنبه در «لیتوانی» به امضای اتحادیه اروپا، انگلیس و آمریکا رسید و سه ماه پس از زمان امضا، لازم‌الاجرا خواهد شد. کنوانسیون هوش مصنوعی سال‌هاست که در دست پیگیری است و در ماه می ‌پس از گفت‌وگوهای متعدد بین 57 کشور به تصویب رسید. این معاهده خطراتی را مورد توجه قرار می‌دهد که هوش مصنوعی در کنار ترویج نوآوری ممکن است ایجاد کند. وزیر دادگستری انگلیس در بیانیه‌ای این کنوانسیون را گامی بزرگ برای اطمینان از این موضوع عنوان کرد که چنین فناوری‌های جدیدی می‌توانند بدون از بین بردن قدیمی‌ترین ارزش‌های ما مانند حقوق بشر و حاکمیت قانون مهار شوند. کنوانسیون هوش مصنوعی عمدتا بر حمایت از حقوق بشر تحت تاثیر سیستم‌های هوش مصنوعی متمرکز بوده و جدا از قانون هوش مصنوعی اتحادیه اروپاست که ماه گذشته لازم‌الاجرا شد. قانونی که کشورهای غیراتحادیه اروپا قادر به امضای آن نبودند. قانون هوش مصنوعی اتحادیه اروپا مستلزم اجرای مقررات جامعی پیرامون توسعه، استقرار و استفاده از سیستم‌های هوش مصنوعی در بازار داخلی اتحادیه اروپاست. شورای اروپا که در سال 1949 تاسیس شد یک سازمان بین‌المللی متمایز از اتحادیه اروپاست که وظیفه آن حفاظت از حقوق بشر است. 46 کشور از جمله تمام 27 کشور عضو اتحادیه اروپا عضو این شورا هستند. یک کمیته موقت در سال 2019 شروع به بررسی و آغاز روندی کرد که امکان‌پذیری یک کنوانسیون دریاره چهارچوب هوش مصنوعی را ایجاد کرد. از این رو، کمیته‌ای برای هوش مصنوعی تشکیل شد. کشورهای امضاکننده این معاهده قادرند تصمیم بگیرند اقدامات قانونی، اداری یا سایر اقدامات را برای اجرای مقررات اتخاذ یا حفظ کنند. تدوین اصول و تعهدات در این کنوانسیون به قدری گسترده و مملو از اخطارهاست که سوالات جدی را درمورد قطعیت حقوقی و قابلیت اجرایی موثر آنها ایجاد می‌کند. چهارچوب‌ها به این ترتیب است که جامعه حفاظت از داده‌ها، حقوقدانان فناوری و کارشناسان هوش مصنوعی اکنون وظیفه حیاتی دارند که به‌طور گسترده‌ای به فراسوی مرزهای منطقه‌ای نگاه کنند تا دیدگاهی جامع از چهارچوب‌های قانونی با هدف تنظیم هوش مصنوعی داشته باشند. گاردین هم در گزارشی که درمورد این خبر منتشر کرده، نوشت: «دولت بریتانیا اولین معاهده بین‌المللی هوش مصنوعی را امضا کرده است که هدف آن جلوگیری از سوءاستفاده از این فناوری، مانند انتشار اطلاعات غلط یا استفاده از داده‌های مغرضانه در فرآیند تصمیم‌گیری‌هاست.» براساس این توافقنامه قانونی کشورها باید تدابیری را در برابر هرگونه تهدیدی که هوش مصنوعی علیه حقوق بشر، دموکراسی و حاکمیت قانونی ایجاد می‌کند، اعمال کنند. این معاهده که «کنوانسیون چهارچوب هوش مصنوعی» هم نامیده می‌شود توسط شورای اروپا به‌عنوان یک سازمان بین‌المللی حقوق بشر تنظیم شده و روز پنجشنبه در چند کشور به امضا رسید. وزیر دادگستری انگلیس معتقد است که هوش مصنوعی توانایی بهبود اساسی خدمات عمومی و رشد سریع اقتصادی را دارد اما باید بدون تاثیرگذاری بر حقوق اولیه بشر، آن را پذیرفت. 

هدف از کنوانسیون چهارچوب هوش مصنوعی چیست؟
طبق گفته شورای اروپا، هدف از تشکیل کنوانسیون چهارچوب هوش مصنوعی پر کردن هرگونه شکافی است که احتمالا از پیشرفت سریع فناورانه حاصل شود. پیشرفت‌های اخیر در حوزه هوش مصنوعی می‌توانند وظایفی را مانند یادگیری و حل مساله انجام دهند که معمولا با موجودات هوشمند مرتبطند و فرآیندی نظارتی را در دنیا به راه انداخته است تا نقص‌های بالقوه این فناوری را کاهش دهد. این بدان معناست که مجموعه‌ای از مقررات و توافقنامه‌های تصویب شده‌ این فناوری را پوشش می‌دهند. از قانون هوش مصنوعی اتحادیه اروپا گرفته تا بیانیه‌ای که در سال گذشته در نشست افتتاحیه جهانی ایمنی هوش مصنوعی امضا شد. توافقی که دو روز گذشته امضا شد تلاشی برای ایجاد یک چهارچوب جهانی بود. این معاهده بیان می‌کند که سیستم‌های هوش مصنوعی باید از مجموعه اصولی پیروی کنند، از جمله حفاظت از داده‌های شخصی، عدم تبعیض، توسعه ایمن و کرامت انسانی؛ درنتیجه انتظار می‌رود دولت‌ها تدابیری مانند جلوگیری از نشر اطلاعات نادرست و غلط توسط هوش مصنوعی و جلوگیری از آموزش داده‌های مغرضانه به سیستم‌ها را معرفی کنند که می‌تواند منجر به تصمیم‌گیری‌های نادرست در موقعیت‌هایی چون برنامه‌های شغلی شود. درواقع، اهمیت چهارچوب کنوانسیون در محدوده و محتوای آن است. علاوه‌بر تعهدات دولتی برای احترام و حمایت از حقوق بشر، هدف آن ایجاد یک رویکرد مبتنی‌بر ریسک برای تنظیم هوش مصنوعی و تعدادی از اصول مشترک مربوط به فعالیت‌ها در کل چرخه حیات سیستم‌های هوش مصنوعی است که اصول کلی آن از جمله احترام به کرامت انسانی، شفافیت و نظارت، مسئولیت‌پذیری، عدم تبعیض و حفظ حریم خصوصی و داده‌های شخصی است. کشورهای عضو چهارچوب کنوانسیون باید اقدامات قانونی و اداری مناسبی اتخاذ کنند که به مفاد این سند در قوانین داخلی خود عمل کنند. به این ترتیب چهارچوب کنوانسیون این پتانسیل را دارد که بر تلاش‌های ملی و منطقه‌ای جاری برای طراحی و تصویب قوانین الزام‌آور هوش مصنوعی تاثیر بگذارد  و ممکن است برای پیشبرد قابلیت همکاری در موقعیت به‌طور منحصربه‌فردی قرار گیرد. 

چه کسانی تحت حمایت این معاهده قرار خواهند گرفت؟
این معاهده استفاده از هوش مصنوعی توسط مقامات دولتی و بخش خصوصی را پوشش می‌دهد. هر شرکت یا ارگانی که از سیستم‌های هوش مصنوعی مرتبط استفاده می‌کند باید تاثیر بالقوه خود را بر حقوق بشر، دموکراسی و حاکمیت قانون ارزیابی کند و این اطلاعات را در دسترس عموم قرار دهد. مردم باید بتوانند تصمیمات اتخاذشده توسط سیستم هوش مصنوعی را به چالش بکشند و بتوانند شکایت خود را به مقامات ارائه کنند. همچنین باید به کاربران سیستم‌های هوش مصنوعی اطلاع داده شود که با یک هوش مصنوعی سروکار دارند نه یک انسان. همچنین این معاهده استفاده از سیستم‌های هوش مصنوعی توسط مقامات دولتی مانند NHS و شرکت‌های خصوصی فعال در حوزه قضایی را پوشش می‌دهد. این قانون برای فعالیت‌های مربوط به امنیت ملی، مسائل دفاعی ملی، یا تحقیق و توسعه اعمال نمی‌شود مگر اینکه پتانسیل تداخل با حقوق بشر، دموکراسی یا حاکمیت قانونی داشته باشند. به گفته دولت انگلیس، این معاهده برای تقویت قوانین و اقدامات فعلی مانند قانون ایمنی آنلاین موثر خواهد بود. 

انگلیس چگونه به این معاهده پایبند خواهد بود؟
اکنون انگلیس باید ببیند که آیا مفاد مختلف آن تحت پوشش قوانین موجود- مانند دادگاه اروپایی حقوق بشر و سایر قوانین حقوق بشری قرار می‌گیرد یا خیر. دولت در حال انجام رایزنی درمورد لایحه جدید هوش مصنوعی است. دولت انگلیس اعلام کرده این معاهده در انگلیس به تصویب رسیده و اجرایی شده و قوانین و اقدامات فعلی تقویت خواهند شد. از نظر اعمال تحریم‌ها این کنوانسیون به مقاماتی اشاره می‌کند که می‌توانند استفاده‌های خاصی را از هوش مصنوعی ممنوع کنند. به‌عنوان مثال، قانون هوش مصنوعی اتحادیه اروپا سیستم‌هایی را ممنوع می‌کند که از پایگاه‌های اطلاعاتی تشخیص چهره تصاویر گرفته‌شده از دوربین‌های مداربسته یا اینترنت استفاده می‌کنند. همچنین سیستم‌هایی که انسان‌ها را براساس رفتار اجتماعی آنها دسته‌بندی می‌کنند، منع می‌کند. این معاهده در عین حال که هوش مصنوعی را تنظیم می‌کند، همچنان پیشرفت و نوآوری آن را نیز ارتقا می‌دهد. دولت انگلیس تلاش کرده تا این تعادل را در اقدامات خود حفظ کند. از برخی جهات دولت پیشنهاد کرده که در محدودیت توسعه‌دهندگان هوش مصنوعی سختگیرانه عمل خواهد کرد. انگلیس همچنین نخستین موسسه ملی ایمنی هوش مصنوعی را در نوامبر 2023 با اهداف اصلی ارزیابی سیستم‌های هوش مصنوعی فعلی، انجام تحقیقات پایه ایمنی هوش مصنوعی و به‌اشتراک‌گذاری اطلاعات با سایر فعالان ملی و بین‌المللی تاسیس کرد. سپس در آوریل امسال دولت‌های انگلیس و آمریکا توافق کردند که روی توسعه آزمایش‌های ایمنی برای مدل‌های پیشرفته هوش مصنوعی با یکدیگر همکاری کنند و برنامه‌هایی را پیش ببرند که توسط موسسه‌های ایمنی هوش مصنوعی مسائل مربوط به آنها انجام شده است. 

معاهده هوش مصنوعی چه چیزی را تضمین می‌کند؟
به گزارش firstpost، علاوه‌بر آمریکا، انگلیس و اتحادیه اروپا، گروه‌های مختلفی از کشورها از قبیل آندورا، گرجستان، ایسلند، نروژ، مولداوی، سن‌مارینو و رژیم‌صهیونیستی نیز این معاهده را امضا کرده‌اند. چند کشور غیرعضو مانند آرژانتین، استرالیا، ژاپن و مکزیک نیز در تهیه پیش‌نویس این معاهده مشارکت داشته‌اند و انتظار می‌رود به‌زودی آن را امضا کنند. مشارکت گسترده بین‌المللی، اهمیت جهانی این معاهده را برجسته می‌کند و فراتر از قانون اخیر هوش مصنوعی اتحادیه اروپاست. الزامات این معاهده بر سیستم‌های هوش مصنوعی بخش دولتی و خصوصی اعمال می‌شود. توسعه‌دهندگان هوش مصنوعی باید اطمینان حاصل کنند که سیستم‌های آنها با تعهدات حفاظت از حقوق بشر سازگاری دارند. فرآیندهای دموکراتیک مانند استقلال قضایی و تفکیک قوا، نباید توسط برنامه‌های کاربردی هوش مصنوعی به‌خطر بیفتد. علاوه‌بر این، معاهده الزام می‌کند که اقداماتی برای حفاظت از بحث دولتی و نظارت فردی در زمینه سیستم‌های مبتنی‌بر هوش مصنوعی اجرایی شود. به‌عنوان یک معاهده باز این سند می‌تواند کشورهای بیشتری را در خود جای دهد و همکاری جهانی در زمینه حکمرانی هوش مصنوعی را ترغیب می‌کند. اما درکنار همه مواردی که معاهده هوش مصنوعی بر آن الزام دارد، به‌رغم اهداف بلندپروازانه‌اش، معافیت‌های قابل‌توجهی در محدوده آن نیز وجود دارد. سیستم‌های هوش مصنوعی که برای امنیت ملی یا اهداف تحقیق و توسعه استفاده می‌شوند، مانند سایر بخش‌ها مورد بررسی قرار نمی‌گیرند. این امر به‌ویژه در میان گروه‌های جامعه مدنی مانند مرکز اروپایی قانون غیرانتفاعی (ECNL) نگرانی‌هایی را برانگیخته است. یکی از کارشناسان حقوقی این مرکز اظهار داشته این معاهده در مجموعه‌ای از اصول با اخطارهای بیش از حد گسترده تجزیه شده است که قابلیت اجرایی آن را محدود می‌کند. تدوین اصول و تعهدات در این کنوانسیون به‌قدری گسترده و مملو از اخطارهاست که سوالات جدی در مورد اطمینان حقوقی و قابلیت اجرایی شدن موثر آنها را ایجاد می‌کند. درست است که این معاهده به‌عنوان یک توافق قانونی الزام‌آور مورد استقبال قرار گرفته، اما منتقدان عنوان کرده‌اند این معاهده فاقد مقرراتی برای تحریم‌های تنبیهی مانند جریمه است. انطباق ایجادشده عمدتا از طریق مکانیسم‌های نظارتی تضمین می‌شود که برخی استدلال می‌کنند ممکن است قدرت اجرایی کافی را ارائه ندهند با وجود این، معاهده به‌عنوان نخستین گام مهم در ایجاد یک رویکرد جهانی منسجم برای مقررات هوش مصنوعی در نظر گرفته می‌شود و امضای آن با سایر تلاش‌های جهانی برای تنظیم مقررات هوش مصنوعی همزمان است. اینها شامل قانون هوش مصنوعی اتحادیه اروپا هستند که ماه گذشته اجرایی شدند؛ پیمان هوش مصنوعی G7 که در اکتبر 2023 مورد توافق قرار گرفت و بیانیه‌ای با عنوان «بلچلی» که از سوی 28 کشور ازجمله چین و آمریکا در نوامبر 2023 امضا شد. قانون هوش مصنوعی اتحادیه اروپا بحث‌برانگیز بوده، به‌طوری‌که برخی شرکت‌ها مانند متا تصمیم گرفتند به‌دلیل قوانین سختگیرانه، آخرین محصولات هوش مصنوعی خود را در منطقه عرضه نکنند. معاون ارزش‌ها و شفافیت کمیسیون اروپا، خوشبینی خود را نسبت به نفوذ گسترده‌تر این معاهده ابراز کرد. چهارچوب جدید گام‌های مهمی را برای طراحی، توسعه و استفاده از برنامه‌های کاربردی هوش مصنوعی تعیین می‌کند که باید اعتماد و اطمینان‌خاطر را به‌ارمغان آورد که نوآوری‌های هوش مصنوعی به ارزش‌های ما مانند حفاظت و ارتقای حقوق بشر، دموکراسی و حاکمیت قانون احترام می‌گذارد. اما آنچه در این معاهده جلب توجه می‌کند عدم حضور چین به‌عنوان یکی از قدرت‌های کنونی دنیا در زمینه هوش مصنوعی است که خلأ آن احساس می‌شود. 
فایننشال‌تایمز در گزارشی که به‌دنبال امضای معاهده هوش مصنوعی منتشر کرده، عنوان کرده این چهارچوب جدید مورد توافق شورای اروپا، طرفین را متعهد به اقدامی جمعی برای مدیریت محصولات هوش مصنوعی و محافظت از مردم دربرابر سوءاستفاده‌های احتمالی این فناوری نوظهور می‌کند. این توافقنامه در شرایطی امضا شد که انتظارات زیادی از سوی دولت‌ها وجود داشت؛ دولت‌هایی که هوش مصنوعی را به چشم ابزاری برای بالا بردن بهره‌وری تولید نگاه می‌کنند و به‌عنوان مثال نرخ تشخیص سرطان را افزایش می‌دهند. این درحالی است که همچنان نگرانی‌ها در مورد صنعت و بی‌دقتی‌های موجود در این عرصه وجود دارد. در بعد نظارتی، هنوز این نگرانی وجود دارد که تصمیم‌گیری خودکار مغرضانه ایجاد کند. درحالی‌که کنگره آمریکا هیچ چهارچوب گسترده‌ای را برای مقررات هوش مصنوعی تصویب نکرده، قانونگذاران در کالیفرنیا- که بسیاری از استارتاپ‌های هوش مصنوعی در آنجا مستقرند- در هفته گذشته این کار را انجام دادند. این لایحه که در این صنعت اختلاف‌نظر دارد، در انتظار امضای فرماندار ایالت است. مقررات اتحادیه اروپا که ماه گذشته به اجرا درآمد، اولین قانون منطقه‌ای مهم بود، به‌عنوان مثال شرکتی مانند متا از عرضه آخرین محصول خود در اتحادیه اروپا به همین دلیل خودداری کرد. اگرچه قانون هوش مصنوعی اتحادیه اروپا تلاشی در جهت ایجاد سابقه‌ برای سایر کشورها تلقی می‌شود، امضای معاهده جدید رویکردی منسجم‌تر و بین‌المللی را نشان می‌دهد. (فرهیختگان)