دادستان کل کشور: هوش مصنوعی بی‌قانون، دیکتاتوری دیجیتال است
دادستان کل کشور در نشست بریکس هشدار داد: بدون حاکمیت قانون، الگوریتم‌ها می‌توانند تبعیض را نهادینه کنند، حریم خصوصی را نقض کنند و حتی به ابزار سرکوب سیاسی تبدیل شوند.
به گزارش خبرگزاری آنا، محمد موحدی دادستان کل کشور در هفتمین نشست دادستان‌های کل کشورهای عضو بریکس که به‌صورت وبیناری و با حضور اعضاء و به میزبانی برزیل برگزار شد، گفت: گروه بریکس یک اتحادیه اقتصادی است که با هدف افزایش همکاری‌های اقتصادی، تجاری و سیاسی بین اعضاء تشکیل شده است و تأکید آن بر توسعه اقتصادی، تقویت نقش کشورهای عضو و افزایش تأثیرگذاری آنها در امور بین‌الملل بوده و بعنوان یک نهاد مهم در صحنه جهانی شناخته می‌شود.
بریکس؛ اتحادیه‌ای فراتر از اقتصاد، در آستانه تحول دیجیتال عدالت
وی افزود: موضوعی که امروز برای آن گرد هم آمده‌ایم تا در ارتباط با آن تشریک مساعی کنیم، بحث هوش مصنوعی و عدالت راهبردهایی برای امنیت حقوقی حاکمیت قانون و همکاری بین‌المللی است. امروز در عصری گرد هم آمده‌ایم که فناوری نه تنها ابزار بلکه بستر تحول در ساختارهای اجتماعی، اقتصادی و حقوقی شده است. در این میان هوش مصنوعی به عنوان یکی از مهمترین دستاوردهای بشر فرصت‌ها و چالش‌هایی بی‌سابقه را پیش روی عدالت و حاکمیت قانون قرار داده است، تحولی که نه تنها شیوه‌های زندگی ما را دگرگون کرده بلکه بنیان‌های حقوقی اخلاقی و قضائی را نیز با چالش‌ها و فرصت‌های نوین مواجه ساخته است.
هوش مصنوعی: نه دشمن عدالت است و نه ناجی، بلکه ابزاری که باید هدایت شود
دادستان کل کشور با تاکید بر اینکه هوش مصنوعی با توان تحلیل داده‌های عظیم و تصمیم‌گیری سریع از پیش‌بینی جرم گرفته تا تحلیل پرونده‌ها و حتی صدور توصیه‌های قضائی، می‌تواند در فرایندهای قضائی نقش مؤثری ایفا کند، اعلام کرد:، اما این قدرت نیازمند نظارت دقیق و چهارچوب‌های قانونی شفاف است،، زیرا بدون نظارت اخلاقی و حقوقی توسعه این فناوری ممکن است به ابزاری برای تبعیض نقض حریم خصوصی و تضعیف حقوق بنیادین تبدیل شود. ما به عنوان مدافعان عدالت باید با نگاهی راهبردی به این فناوری بنگریم. به همین دلیل لازم است مقررات شفاف و الزام‌آور برای استفاده از هوش مصنوعی در فرآیندهای قضائی و پلیسی تنظیم شود.
بدون نظارت اخلاقی، هوش مصنوعی می‌تواند به ابزار تبعیض تبدیل شود
حجت الاسلام والمسلمین موحدی تصریح کرد: همچنین حق اعتراض به تصمیمات خودکار و فراهم‌سازی امکان بررسی انسانی در موارد حساس ضروری است. در نظام‌های حقوقی مبتنی بر حاکمیت قانون هیچ فرد یا نهادی فراتر از قانون نیست این اصل باید در برابری فناوری‌ها نیز جریان پیدا کند.
وی با تاکید بر اینکه الگوریتم‌ها باید قابل حسابرسی باشند یعنی بتوان عملکرد آنها را بررسی نقد و اصلاح کرد، افزود: مسئولیت حقوقی در صورت بروز خطا یا آسیب ناشی از تصمیمات هوش مصنوعی باید مشخص باشد که چه کسی پاسخ‌گوست؟ کاربر یا نهاد قضائی؟
الگوریتم‌ها باید قابل حسابرسی باشند
این مقام عالی قضائی با اشاره به اینکه ایجاد نهادهای نظارتی مستقل برای ارزیابی و کنترل استفاده از هوش مصنوعی در دستگاه قضایی ضرورتی اجتناب‌ناپذیر است، گفت: حاکمیت قانون باید در برابر سرعت فناوری عقب‌نشینی نکند بلکه باید با بهره‌گیری از هوش مصنوعی عدالت را فراگیرت، دقیق‌تر و در سترس‌تر کند. این امر مستلزم آن است که قوانین ما نه تنها با فناوری هماهنگ شوند بلکه آن را هدایت کنند.
کشورهای بریکس، ظرفیت تدوین منشور اخلاقی مشترک در حوزه هوش مصنوعی را دارند
دادستان کل کشور بیان کرد: کشورهای عضو بریکس با تنوع فرهنگی و نظام‌های حقوقی متفاوت ظرفیت بی‌نظیری برای تدوین منشور اخلاقی مشترک در حوزه هوش مصنوعی دارند. فناوری بدون اخلاق می‌تواند به ابزاری خطرناک بدل شود. در حوزه قضایی رعایت اصول اخلاقی اهمیت چندانی دارد به همین دلیل باید اطمینان حاصل کنیم که هوش مصنوعی کرامت انسانی را حفظ می‌کند و به حقوق بنیادین افراد احترام می‌گذارد.
وی ادامه داد: شفافیت در نحوه تصمیم‌گیری الگوریتم‌ها اصل اخلاقی مهمی است، اعتماد عمومی را تقویت می‌کند، آموزش قضات و دادستان‌ها درباره اصول اخلاقی مرتبط با فناوری‌های نوین باید در دستور کار قرار گیرد به همین دلیل این منشور می‌تواند شامل مواردی مانند: اصول عدالت محور در طراحی الگوریتم‌ها، ممنوعیت استفاده از هوش مصنوعی در سرکوب سیاسی و تبعیض نهادینه شده و تعرض به حریم اشخاص، تبادل تجربیات و دادگاه‌های حقوقی در چارچوب احترام به حاکمیت ملی اشخاص و همچنین ایجاد دادگاه‌های تخصصی بریکس برای رسیدگی به جرایم سایبری و تخلفات هوش مصنوعی، باشد.
ایران در عمل: سامانه‌های هوشمند، هزاران برابر مؤثرتر از عوامل انسانی در کشف جرم
حجت الاسلام والمسلمین محمد موحدی در بخش دیگری از سخنان خود اعلام کرد: با توجه به تحولات فناوری اطلاعات و ارتباطات به ویژه در حوزه هوش مصنوعی، دادستانی کل جمهوری اسلامی ایران نیز گام‌های ارزشمندی را در بهره‌گیری از این ابزار و راه‌اندازی سامانه‌های هوشمند برای شناسایی مجرمین سایبری برداشته است. این سامانه‌ها نتایج بسیار شگفت‌آوری در حوزه شناسایی الگوی تراکنش‌های مجرمانه و ردیابی مالی جرایم سازمان‌یافته داشته و در برخی موارد صدها و هزاران برابر نسبت به استفاده از عوامل انسانی در کشف و مقابله با جرم، مؤثرتر بوده‌اند.
این مقام عالی قضایی گفت: استفاده از هوش مصنوعی در تشخیص چهره متهمین، جمع‌آوری، تجزیه، تحلیل و بهره‌برداری از اطلاعات آشکار موجود در شبکه‌های اجتماعی از جمله تشخیص ارتباطات پنهان و آشکار اعضای شبکه مجرمین سایبری نقش بسزایی دارد.
هوش مصنوعی مرز نمی‌شناسد
دادستان کل کشور در ادامه این نشست گفت: همکاری‌های بین‌المللی برای تنظیم مقررات جهانی امری ضروری است، زیرا هوش مصنوعی مرز نمی‌شناسد. الگوریتمی که در یک کشور توسعه می‌یابد می‌تواند در کشور دیگر مورد استفاده قرار گیرد؛ بنابراین نیازمند همکاری‌های بین‌المللی با یکدیگر هستیم.
دادستان کل کشور خطاب به سایر اعضاء حاضر در این نشست گفت: پیشنهاد می‌گردد، دادستان‌های کل کشورهای عضو بریکس نسبت به تدوین استانداردهای جهانی برای استفاده از هوش مصنوعی در نظام‌های قضایی، تبادل تجربیات و دانش میان کشورها برای ارتقای عدالت دیجیتال، مشارکت فعال در نهادهای بین‌المللی برای تنظیم چارچوب‌های اخلاقی و حقوقی با یکدیگر همکاری و مساعدت کنند.
هوش مصنوعی، ابزاری برای عدالت
وی با تاکید بر اینکه هوش مصنوعی نه دشمن عدالت است و نه ناجی آن، تصریح کرد: هوش مصنوعی ابزاری است که بسته به نحوه استفاده می‌تواند عدالت را تقویت یا تضعیف کند. همانگونه که رژیم ظالم و متجاوز صهیونی اسرائیل با استفاده از این امکان جنایات بی‌شمار و متنوعی مرتکب می‌شود.
وظیفه بریکس: هموار کردن مسیر استفاده مسئولانه از هوش مصنوعی
این مقام عالی قضایی تصریح کرد: هوش مصنوعی فرصتی بی‌نظیر برای ارتقای عدالت کاهش خطاهای انسانی و افزایش بهره‌وری در دستگاه قضایی فراهم کرده است، اما این فرصت تنها زمانی به ثمر می‌نشیند که با راهبردهای دقیق در حوزه امنیت حقوقی حاکمیت قانون و اخلاق و همکاری‌های بین‌المللی همراه شود.
دادستان کل کشور در پایان خاطرنشان کرد: وظیفه ما به‌عنوان دادستان‌های کشورهای بریکس، هموار کردن مسیر استفاده مسئولانه از این فناوری با تکیه بر خرد جمعی، اخلاق‌مداری و همکاری فرامرزی است تا آینده‌ای عادلانه‌تر، امن‌تر و انسانی‌تر در عصر دیجیتال رقم بخورد.
در این نشست دادستان‌های کشورهای دیگر نیز دیدگاه‌های خود را مطرح کردند.
- ۰۴/۰۶/۲۷