ITanalyze

دیپ‌فیک به عنوان یک فناوری پیشرفته هوش مصنوعی، توانسته تصاویر و ویدیو‌هایی جعلی، اما واقعی‌نما تولید کند که تشخیص آنها را دشوار کرده است. با رشد حملات سایبری و کلاهبرداری دیجیتال، این فناوری به تهدیدی جدی برای امنیت اطلاعات و هویت افراد تبدیل شده است.

خبرگزاری میزان - مطمئناً در سال‌های اخیر، عکس‌ها و فیلم‌های بسیاری دیده‌اید که شکی نداشتید که کاملا واقعی است، اما با جست‌وجوی اخبار متوجه شدید که کاملا جعلی بوده؛ این جادوی فناوری دیپ‌فیک است.

در سال‌های اخیر، عکس‌ها و فیلم‌های جعلی بسیاری از افراد مشهور با استفاده از فناوری «دیپ‌فیک» ساخته و در فضای مجازی منتشر شده است و به دنبال آن بینندگان بدون توجه به واقعی بودن آن، فیلم‌ها و تصاویر منتشر شده را باور کرده و از طریق اشتراک‌گذاری، به انتشار بیشتر آن کمک کردند.

تصاویر و فیلم‌هایی که هیچ‌گونه انطباقی با حقیقت ندارند، اما آنقدر واقعی است که به‌سختی می‌توان متوجه جعلی بودن آن‌ها شد. بسیاری از سیاست‌مداران معروف همچون ترامپ و اوباما و بازیگران و سلبریتی‌ها و مدیران مطرح دنیای فناوری مانند تیلور سوییفت و مارک زاکربرگ، همگی از افرادی بودند که در چند سال اخیر به واسطه عکس‌ها و فیلم‌های جعلی یا سخنرانی‌های ساختگی، به‌نوعی درگیر این فناوری دردسرساز شده‌اند.

به نحوی که در فرایند برگزاری انتخابات ریاست‌جمهوری آمریکا، برخی شرکت‌های نرم‌افزاری بزرگ دنیا طرحی برای انجام اقدامات جدی‌تری در مبارزه با اخبار جعلی و دیپ‌فیک را در نظر گرفتند و حتی سازمان اطلاعات آمریکا (FBI) نیز طی بیانیه‌ای درباره ویدئو‌هایی که با استفاده از دیپ‌فیک ساخته شد و پیش از برگزاری انتخابات در فضای مجازی منتشر شد، هشدار داده بود.

دیپ فیک چیست؟

دیپ فیک (DeepFake) یک تکنولوژی تقریبا جدید در حوزه هوش مصنوعی است. اصطلاح «دیپ فیک» یا «جعل عمیق» از ترکیب دو واژه Deep به معنای عمیق و Fake به معنای جعلی و دروغین ساخته شده است.

سال ۲۰۱۴ میلادی شخصی به‌نام یان گودفلو (Ian Goodfellow)؛ یکی از پژوهشگران حوزه یادگیری ژرف و هوش مصنوعی، سیستم شبکه مولد تخاصمی (Generative Adversarial Network به اختصار GAN) شامل دو مدل مولد و متمایزگر را، به دنیای تکنولوژی معرفی کرد؛ شبکه‌های رقابتی مولد به‌عنوان ابزاری در سیستم‌های هوش مصنوعی برای تولید عکس‌ها و ویدیو‌های ساختگی (که در حال حاضر دیپ‌فیک نامیده می‌شود)، به کار می‌روند.

این کشف جدید پس از سه سال، توسط فردی در ساخت یک ویدئو به کار گرفته شد و کاربری که این فناوری را در سال ۲۰۱۷، استفاده کرد نام آن ویدئو را «دیپ‌فیک» گذاشت و ژانر جدیدی با نام «دیپ‌فیک» خلق شد.

به این ترتیب، فناوری هوش مصنوعی مرز‌های تکنولوژی را در حوزه «جعل» بسیار پیش برد و اگر در گذشته امکان داشت تنها یک عکس، توسط نرم‌افزار‌های گرافیکی دستکاری شود و چیزی خلاف واقع یا به قول معروف فتوشاپی، به بیننده ارائه شود، امروزه فناوری خطرناکتری ایجاد شد که می‌تواند چهره و صدای افراد را به‌طرز شگفت‌آوری جابه جا و یا تقلید کند و در قالب ویدیو‌های باورپذیر منتشر کند.

فناوری دیپ‌فیک می‌تواند بر مبنای هوش مصنوعی، تصاویر و ویدیو‌های جعلی، اما «واقعی‌نما» تولید کند و هر فردی را تحت تاثیر خود قرار دهد.

دیپ فیک‌ها با بهره‌گیری از یادگیری ژرف (Deep Learning) و حجم عظیمی از داده‌ها و شبکه عصبی مصنوعی ساخته می‌شوند و نتیجه محاسبات پیچیده‌ای هستند که می‌توانند به‌عنوان مثال از دو منبع تصویری مجزا، یک ویدیوی جعلی جدید بسازند، این دستکاری تنها به ویدیو خلاصه نمی‌شود و با استفاده از آن می‌توان صدا را هم جعل کرد به نحوی که شخصی جمله‌ای را در یک فیلم بگوید که هیچ‌گاه در واقعیت نگفته است.

با وجود اینکه در سال‌های اخیر، بر سواد رسانه‌ای و توجه به «سند» و «واقعیت» برای پرهیز از فریب خوردن با محتوا‌های جعلی تاکید شده، اما با پیشرفت این فناوری، به نوعی سند‌ها و فکت‌های جعلی تولید شده است و این امر گاهی تشخیص حقیقت را غیرممکن کرده است که موضوعی بسیار خطرناک است.

افزایش کلاهبرداری و جرایم سایبری با استفاده از هوش مصنوعی و دیپ‌فیک

از آنجا که مجرمان سایبری با پیشرفت راه‌های امنیتی در فضای دیجیتال، به تطبیق تکنیک‌ها و روش‌های خود برای یافتن راه‌های جدید ادامه می‌دهند و به دنبال کشف روش‌های جدیدتری هستند، کلاهبرداری با کمک هوش مصنوعی در سطح جهانی به‌طور فزاینده‌ای در حال رشد است.

تحقیقات نشان می‌دهد، در سال ۲۰۴۴ برای اولین بار، جعل اسناد دیجیتال از جعل اسناد فیزیکی، بیشتر شده است و جعل دیجیتال ۵۷ درصد از کل تقلب در اسناد را به خود اختصاص داد.

طبق تحقیقات جهانی، در سال ۲۰۲۴ هر پنج دقیقه یک حمله دیپ‌فیک اتفاق می‌افتد، و جعل اسناد دیجیتال ۲۴۴ درصد نسبت به سال قبل افزایش پیدا کرده است.

این تحقیقات نشان‌دهنده افزایش ۲۴۴ درصدی جعل اسناد دیجیتال در سال ۲۰۲۴ نسبت به سال ۲۰۲۳ و افزایش ۱۶۰۰ درصدی نسبت به سال ۲۰۲۱ است که در آن سال تقریباً تمام اسناد تقلبی جعلی، اسناد فیزیکی بودند.

با افزایش روش‌های کلاهبرداری به کمک هوش مصنوعی، کلاهبرداران اکنون می‌توانند از حملات پیچیده‌تری در مورد اسناد، به ویژه کارت‌های شناسایی (۴۰.۸ ٪ از حملات در سطح جهانی) استفاده کنند.

کلاهبرداران سایبری از پلتفرم‌های «X as a service» (هر نوع سرویسی که بتوان در محیط اَبر و از هر جای دنیا و در لحظه ارائه کرد، مانند خدمات زیرساخت و نرم افزارها) برای فیشینگ، کلاهبرداری و باج‌افزار استفاده می‌کنند.

اشتراک‌گذاری دانش «best practices» (روال مطلوب: روش یا تکنیکی که منجر به نتایج بهتری نسبت به روش‌های دیگر شده و به‌دلیل اینکه به‌طور عام توسط گروهی از افراد خبره یک رشته یا موضوع پذیرفته شده، به‌عنوان یک شاخص استفاده می‌شود.) و استفاده از ابزار‌های هوش مصنوعی مولد GenAI (نوعی از هوش مصنوعی که محتوای جدیدی مانند متن، تصاویر، فیلم و صدا تولید می‌کند) ایجاد حملات جعل دیجیتال و حملات تزریقی (Injection) پیچیده را تسهیل می‌کند.

در یک حمله از نوع تزریقی، مهاجم یک برنامه با ورودی مشکوک را تحت تأثیر قرار می‌دهد، به این صورت که مفسّر وب این ورودی را به‌عنوان بخشی از یک دستور پردازش می‌کند و نحوه اجرای آن نرم افزار را تغییر می‌دهد.

حملات تزریقی، قدیمی‌ترین و مضرترین حملات علیه برنامه‌های کاربردی وب هستند، این حملات ممکن است منجر به از دست دادن داده‌ها، از بین رفتن یکپارچگی داده‌ها، سرقت داده‌ها، انکار سرویس و به خطر افتادن کلی سیستم شود، معمولاً اصلی‌ترین علت آسیب‌پذیری از طریق حملات تزریقی اعتبار سنجی ناکافی ورودی کاربران است.

افزایش کلاهبرداران آماتور و غیرسازمان‌یافته

هرچند از لحاظ تاریخی، بزرگترین تهدید‌ها از طریق حلقه‌های کلاهبرداری سازمان‌یافته بوده است. اما با توجه به تحقیقات انجام شده، احتمالاً با پیشرفت تکنولوژی در زمینه هوش مصنوعی، تعداد کلاهبرداران آماتور و مجرمان غیرسازمان‌یافته افزایش پیدا می‌کنند، که این افراد هم حجم حملات و هم تعداد حملاتی که از تکنیک‌های پیچیده استفاده می‌کنند، را افزایش می‌دهند.

دیپ‌فیک، به این دلیل مورد توجه سازمان‌های جهانی قرار گرفته است، که ترفند‌های کلاهبرداری در فضای مجازی مانند فیشینگ، که تشخیص آن‌ها نسبتاً راحت است، به‌سرعت جای خود را به دیپ‌فیک‌های بیش از حد واقعی و هویت‌های مصنوعی تولید شده توسط هوش مصنوعی می‌دهد.

افزایش نرم‌افزار‌های تعویض چهره و ابزار‌های GenAI به کلاهبرداران این امکان را می‌دهد تا حملات کلاهبرداری بیومتریک (جعل هویت اشخاص) را بسیار باورپذیر انجام دهند. ظرفیت استفاده مخرب از این فناوری بسیار گسترده است و شامل افتتاح حساب‌های تقلبی، تصاحب حساب، کلاهبرداری‌های فیشینگ و کمپین‌های اطلاعات نادرست می‌شود.

حوزه‌های مالی؛ هدف اصلی مجرمان

سه هدف اصلی مجرمان در سطح جهان (سال ۲۰۲۴) همگی مربوط به خدمات مالی در سه حوزه رمزارزی، بانکی و بانک‌های سنتی بود، به‌طوری که تلاش برای کلاهبرداری در حوزه ارز‌های دیجیتال تقریباً دو برابر تعداد تلاش‌ها در مقایسه با سایر حوزه‌ها بود.

پلتفرم‌های کریپتو (رمزارزی) بالاترین آمار در زمینه تلاش برای کلاهبرداری را به خود اختصاص داده‌اند که نسبت به سال گذشته ۵۰ درصد افزایش یافته و از ۶.۴ درصد در سال ۲۰۲۳ به ۹.۵ درصد در سال ۲۰۲۴ رسیده است. این موضوع می‌تواند به دلیل رسیدن رمزارز‌ها به بالاترین قیمت خود در سال ۲۰۲۴ باشد و این موضوع، فعالیت در زمینه رمزارز‌ها را برای کلاهبرداران بسیار جذاب کرده است.

بنابراین، تغییرات بسیاری که در چشم‌انداز کلاهبرداری جهانی، از طریق افزایش قابل توجه حملات پیشرفته و مبتنی بر هوش مصنوعی ایجاد شده است، هشداری است که همه مدیران کسب‌وکار‌ها و کاربران باید آن را جدی بگیرند.

آخرین اطلاعات و داده‌ها نیز بر این روند هشداردهنده تأکید می‌کند و نشان می‌دهد که کلاهبرداران چگونه به سرعت در حال تکمیل و بهبود روش‌ها و تکنیک‌های خود هستند. از آنجا که این تهدید‌های فراگیر، دولت و افراد را به طور یکسان تحت تأثیر قرار می‌دهند، تیم‌های امنیتی برای پیش افتادن از کلاهبرداران، باید استراتژی‌های خود را دائما به روزرسانی کنند و با روش‌های جدید تطبیق دهند، و نظارت بر این تهدید‌ها را در اولویت قرار دهند و سازمان‌های خود را برای رویارویی با این واقعیت جدید آماده کنند. این موضوع امری اجتناب‌ناپذیر است که راه فراری از آن وجود ندارد.

چگونه دیپ فیک را تشخیص دهیم؟

هرچند توجه رسانه‌ها و کاربران اینترنتی به پدیده «دیپ‌فیک» کم‌رنگ شده است اما، تکنیک دیپ‌فیک همچنان در فهرست تکنولوژی‌های شگفت‌آور قرار دارد و پژوهشگران بسیاری در حال بهبود روش‌های آن هستند.

برای کشف و جلوگیری از گسترش دیپ‌فیک نیز باید از هوش مصنوعی کمک گرفت. در حال حاضر، راه‌هایی وجود دارد تا یک عکس یا ویدیوی جعلی را تشخیص داد. دقت در نشانه‌های زیر می‌تواند به تشخیص یک تصویر یا ویدئوی جعلی کمک می‌کند:

• وجود ناهماهنگی در پوست یا موی شخص؛ مخصوصا جایی که تار‌های مو در حاشیه عکس قابل مشاهده است. 
• دقت به لبه صورت‌های جابه‌جا شده؛ تکنولوژی دیپ فیک هنوز نمی‌تواند لبه‌های چهره را بدون نقص جابه‌جا کند و در طول یک ویدیو، هنگام حرکت سر سوژه، احتمال زیادی دارد که بشود دیپ فیک را تشخیص داد.
• دقت در نورپردازی تصویر؛ جواهرات و دندان‌هایی که بازسازی بدی دارند و افکت‌های نورپردازی عجیبی مانند انعکاس نور در چشم، می‌تواند دیپ‌فیک را لو دهد.
• دقت به نور عکس یا فیلم؛ اکثر الگوریتم‌های دیپ‌فیک نور فیلمی را که به‌عنوان مدل برای فیلم جعلی مورد استفاده قرار گرفته حفظ می‌کند، که با نورپردازی در ویدیوی هدف مطابقت ندارد.
• عدم تطابق صدای ویدیو با حرکات دهان شخص؛ مخصوصا اگر صدای اصلی فیلم جعلی با دقت دستکاری و تنظیم نشده باشد.

معاون برنامه‌ریزی وزارت ارتباطات و فناوری اطلاعات با اشاره به برخی چالش‌های قانونی در حوزه هوش مصنوعی گفت: کشور در حال حاضر در حوزه هوش مصنوعی برنامه دارد و باید برنامه تقسیم کار ملی نیز تدوین شود که ما با همکاری سازمان ملی هوش مصنوعی و معاونت علمی در حال تهیه آن هستیم.
به گزارش ایسنا، علی اصغر انصاری در پنجمین نشست تخصصی هوش مصنوعی و اقتصاد که در سالن جلسات معاونت صدا و از سوی رادیو اقتصاد برگزار شد با اشاره به رتبه‌بندی کشورها در شاخص پذیرش هوش مصنوعی گفت: یکی از شاخص‌های این رتبه‌بندی دارای چند زیر شاخص است که یکی از این شاخص‌ها شامل برنامه‌های راهبردی و ساختاری این حوزه است.

وی افزود : چند سالی درگیر ایجاد ساختار هوش مصنوعی بودیم و در دولت سیزدهم از سوی شورای عالی انقلاب فرهنگی سند راهبردی هوش مصنوعی نهایی و به دنبال آن سازمان ملی هوش مصنوعی ذیل نهاد ریاست جمهوری راه اندازی شد.

انصاری یکی از چالش‌های این حوزه را نیروی انسانی عنوان کرد و یادآور شد: کشور در زمینه تولید دانش و علم در رتبه‌های خوبی قرار دارد ولی در زمینه کاربرد و استفاده و بهره‌برداری از این علم و دانش در صنعت جایگاه مناسبی نداریم به گونه‌ای که در سال‌های اخیر تنزل رتبه نیز داشته‌ایم.

معاون برنامه‌ریزی وزارت ارتباطات و فناوری اطلاعات با ابراز تأسف از اینکه در حوزه نیروی انسانی و استفاده از دانش هوش مصنوعی وضعیت مناسبی نداریم، خاطرنشان کرد: علم سنجی های انجام شده نشان می‌دهد که تحقیقات دانشگاهی انجام شده نیاز صنایع را مرتفع نمی‌کند و در این زمینه تامین زیر ساخت‌ها مسأله مهمی است. همچنین در بخش پردازشی این حوزه نیازمندی‌های زیادی داریم که نیاز به تامین مالی داریم.

وی با بیان اینکه برای پذیرش هوش مصنوعی در صنایع نیاز به بهسازی صنایع داریم تاکید کرد که در این زمینه باید کار جدی صورت گیرد.

انصاری با اشاره به تصویب سند راهبردی هوش مصنوعی در شورای عالی انقلاب فرهنگی، افزود: در برنامه بند ب ماده ۶۵ قانون برنامه هفتم توسعه دولت مکلف شده است که برنامه اجرایی و برنامه ملی اکتساب هوش مصنوعی را تهیه کند و به اجرا بگذارد. در این سند قرار است تقسیم کار ملی در این حوزه ایجاد شود و نهادهایی که مکلف در اجرای این برنامه هستند، برنامه کاری آنها مشخص خواهد شد.

وی یکی از محورهای راهبردی این سند را موضوع حکمرانی نظام داده عنوان کرد و یادآور شد: از چالش‌های موجود در دنیا در این حوزه می‌توان به ابعاد حقوقی دسترسی به داده‌ها، حریم خصوصی، امنیت داده‌های جمع آوری شده و پردازش شده اشاره کرد و اینها نکاتی است که دنیا در حوزه حکمرانی داده‌ها با آنها مواجه است.

وی با بیان اینکه ما در کشور در این حوزه اقداماتی را اجرایی کرده‌ایم، گفت: در این زمینه یک سری لوایح وجود دارد که باید در مجلس و دولت مصوب شود تا بتوانیم این چالش‌ها را از پیش رو برداریم.

انصاری با اشاره به برخی از قوانین حکمرانی داده در کشور، قانون دوام را یکی از قوانین در حوزه حکمرانی داده دانست که در زمینه تبادل داده و در اختیار قرار دادن داده به بهره برداران است و افزود: در زمینه استفاده از داده‌های بخش خصوصی که بخشی از پلتفرم‌هایی که فعال شده، داده‌های مردم جمع‌آوری شده است و در این زمینه ما دچار خلا قانونی هستیم و اگر لایحه در دولت و مجلس مصوب شود، برخی از موانع و چالش‌های این حوزه مرتفع می‌شود.

معاون برنامه‌ریزی وزارت ارتباطات و فناوری اطلاعات امنیت داده را یکی دیگر از چالش‌های حوزه هوش مصنوعی ذکر کرد و گفت: ما باید به رشد اقتصادی ۸ درصد برسیم و همانطور که می دانیم اقتصاد ما یک اقتصاد نفتی است و شرکت‌های برتر ما در اقتصاد در رتبه اول نفتی هستند و بعد از آن شرکت‌های معدنی و صنایع فلزی قرار دارند در صورتی که در دنیا شرکت‌های برتر شرکت‌های IT محور هستند.

وی اظهار کرد: یکی از راهکارهایی که در برنامه هفتم مقرر شده است که به رشد ۸ درصدی برسیم، هوشمندسازی است ضمن آنکه صنایع باید برنامه تحول خود را تهیه و به اجرا بگذارند. از این رو یکی از راهکارهای برنامه هفتم برای رسیدن به رشد ۸ درصدی بحث بهره‌برداری و استفاده از راهکارهای هوشمند سازی است. این امر در انقلاب صنعتی چهارم نیز تمرکز بر هوشمند سازی و استفاده از هوش مصنوعی است.

انصاری اضافه کرد: ما در برنامه هفتم باید نظام اقتصاد دیجیتال را تهیه کنیم و کلیه بنگاه‌های اقتصادی و دستگاه‌های دولتی باید برنامه تحول دیجیتال را تهیه و به تصویب برسانند. همچنین برنامه ملی مهارت‌های رقومی دیجیتالی نیز باید تهیه شود و دوره‌های مهارتی AI از دوره‌های قالب این مهارت‌ها به شمار می‌رود.

وی با بیان اینکه موضوع نظام سنجش اقتصاد دیجیتال از دیگر برنامه‌های دولت است که اجرای آن بر عهده مرکز آمار واگذار شده است، افزود: در اجرای این برنامه وزارت ارتباطات همکاری دارد و موضوع هوش مصنوعی در بطن این برنامه‌ها گنجانده شده است. کشور در حال حاضر در حوزه هوش مصنوعی برنامه دارد و باید برنامه تقسیم کار ملی نیز تدوین شود که ما با همکاری سازمان ملی هوش مصنوعی و معاونت علمی در حال تهیه آن هستیم.

معاون برنامه ریزی وزارت ارتباطات و فناوری اطلاعات افزود: یکی از تکالیفی که در سند راهبردی آمده و در برنامه هفتم نیز تکلیف شده موضوع نظام حکمرانی داده‌ها است که تدوین استانداردها، لوایح قانونی و موضوع در اختیار قرار دادن داده‌ها برای کسب و کارها تکلیف شده و در صورت تصویب تا حد زیادی راه در این حوزه هموار می‌شود.

رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه گفت: با استفاده از هوش مصنوعی، زمان شناسایی اموال در پرونده‌های قضائی از ۴۰۰ روز به ۴ دقیقه کاهش یافته است.

به گزارش خبرگزاری مهر، محمد کاظمی‌فرد رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه در جلسه شورای عالی قوه قضائیه با اشاره به تأکیدات مقام معظم رهبری در حوزه هوشمندسازی فرآیندها و بهره‌گیری از فناوری‌های نوین، اظهار کرد: ما تاکنون با استفاده از جدیدترین روش‌های هوش مصنوعی و کمک گرفتن از شرکت‌های دانش‌بنیان، توانسته‌ایم ۱۰۵ میلیون تصمیم قضائی مشتمل بر ۱۰ میلیارد کلمه را با هدف آموزش و ایجاد دستیارِ هوشمندِ قضائی برای قضات و مردم، گمنام‌سازی کنیم.

وی با بیان اینکه در حال حاضر ۵۰ درصد فرآیند انتخاب کارشناس در مراجع قضائی سراسر کشور بر اساس معیارهایی همچون «شهر» و «صلاحیت» و به صورت هوشمند انجام می‌شود، گفت: هم‌اکنون با استفاده از سامانه هوشمند استعلامات مالی، تمامی اموال اشخاص در فرآیندهای اجرای احکام و پرونده‌های اعسار، به صورت هوشمند و الکترونیکی شناسایی می‌شوند؛ تا به امروز در حدود یک میلیون و ۲۰۰ هزار پرونده، اموال اشخاص از این مسیر شناسایی شده است؛ ما با استفاده از این روش، موفق شده‌ایم فرآیند شناسایی اموال اشخاص برای قضات را از ۴۰۰ روز به ۴ دقیقه برسانیم.

رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه عنوان کرد: پس از راه‌اندازی سامانه اطلاعات مؤثر افراد در سال ۱۴۰۱ و اطلاع‌رسانی آن، میزان افرادی که به کرَات تحت عنوان شاهد در مراجع قضائی حاضر می‌شدند، از ۸ هزار نفر به پنج هزار نفر کاهش یافته است؛ این سامانه به قضات کمک می‌کند افرادی را که برای دفعات متعدد تحت عنوان شاهد در دادگاه‌ها و مراجع و محاکم قضائی حاضر می‌شوند را شناسایی کنند.

معیار جدید شرکت اوپن ای آی حاکی از آن است که مدل های هوش مصنوعی این شرکت و همچنین دیگر همتایان آن از پاسخگویی درست به سوالات ناتوان هستند و همه آنها توهم دارند.
به گزارش خبرگزاری مهر به نقل از فیوچریسم، شرکت اوپن ای آی یک معیار جدید به نام «پرسش و پاسخ ساده» (SimpleQA) ارائه کرده که هدف آن اندازه گیری دقت خروجی مدل های هوش مصنوعی خود و شرکت های دیگر است.

این شرکت هوش مصنوعی با انجام چنین اقدامی نشان داد مدل های جدید فناوری مذکور در فراهم کردن پاسخ درست به سوالات عملکرد بدی دارند. نسخه هوش مصنوعی o۱-preview این شرکت که ماه گذشته ارائه شد در آزمون جدید به نرخ موفقیت ۴۲.۷ درصد دست یافت.

به بیان دیگر حتی برترین مدل های بزرگ زبانی که به تازگی معرفی شده اند احتمال زیادی دارد به جای پاسخ درست، جوابی اشتباه به کاربر بدهند. با توجه به آنکه این فناوری در بسیاری از وجوه مختلف زندگی انسان ها نفوذ کرده، چنین امری نگران کننده است.

مدل های هوش مصنوعی رقیب مانند محصول شرکت «آنتروپیک» در آزمون SimpleQA امتیاز پایین تری کسب کردند، به طوریکه مدل تازه منتشر شده Claude-۳.۵-sonnet این شرکت فقط به ۲۸.۹ درصد سوالات پاسخ درست داد. با این وجود مدل مذکور بیشتر تمایل داشت عدم قطعیت خود را نشان دهد و از پاسخ دادن خودداری کند، که این امر با توجه به نتایج ناامید کننده احتمالا گزینه بهتری است.

در این میان اوپن ای آی متوجه شد مدل های هوش مصنوعی خود این شرکت توانمندی هایشان را فراتر از حد معمول تخمین می زنند. این ویژگی احتمالا سبب می شود تا مدل ها نسبت به پاسخ های اشتباهی که می سازند، اطمینان بیشتری داشته باشند.

مدل های زبانی بزرگ از مدت ها قبل با اشتباهات یا «توهمات» دست وپنجه نرم می کنند. این اصطلاحی است که شرکت های هوش مصنوعی برای تمایل محصولاتشان به تولید پاسخ های بی ربط به کارمی برند.

جدیدترین یافته های اوپن ای آی یک نشانه نگران کننده مهم در خود دارد و حاکی از آن است که مدل های زبانی بزرگ نمی توانند حقیقت را بیان کنند.

شرکت اوپن ای آی یک موتور جستجو در چت بات هوش مصنوعی «چت جی پی تی» را ادغام کرده که به کاربران اجازه می دهد اطلاعات به روز درباره اخبار، ورزش و آب وهوا دریافت کنند.
به گزارش خبرگزاری مهر به نقل از ایندپندنت، پس از آنکه اوپن ای ای در ماه می چنین محصولی را اعلام کرد، این نخستین باری است که شرکت به طور مستقیم سلطه موتور جستجوی گوگل را به چالش می کشد. ویژگی جدید برای کاربرانی که حق عضویت پرداخت می کنند، مهیا خواهد بود اما اوپن ای آی اعلام کرده در آینده برای دیگر کاربران به طور رایگان عرضه خواهد شد.

نسخه اولیه چت جی پی تی که در سال ۲۰۲۲ میلادی ارائه شد، با انبوهی از متون آنلاین آموزش دیده بود اما قادر نبود به سوالات درباره رویدادهای به روزی پاسخ دهد که داده های آن را هنگام آموزش دریافت نکرده بود.

از سوی دیگر گوگل در ماه می موتورجستجوی خود را مجهز به خلاصه های تولید شده با هوش مصنوعی کرد که به طور معمول بالای نتایج جستجو ظاهر می شوند. این خلاصه محتوا با هدف پاسخ سریع به جستجوی کاربر ارائه شده تا لازم نباشد آنها روی لینکی خاص کلیک یا برای دریافت اطلاعات از وب سایتی بازدید کنند. این ویژگی پس از یک سال آزمایش روی گروه کوچکی از کاربران ارائه شد اما هنوز هم استفاده از آن به اشتباهاتی منجر شد که خطر واگذاری جستجوی اطلاعات به ربات‌های چت هوش مصنوعی مستعد ایجاد خطاها را نشان می‌داد.

در همین راستا اوپن ای آی برای فراهم کردن اطلاعات به روز با چند سازمان خبری و داده ای همکاری می کند که محتوای آنها در نتایج با پیوندهایی به منبع اصلی ظاهر می‌شود. این روند تقلیدی از موتورجستجوهای سنتی به حساب می آید.

سازمان های خبری مختلف از جمله آسوشیتدپرس، کندو نسته، فایننشال تایمز، هرست، لوموند، نیوز کورپوریشن و رویترز در این زمینه با اوپن ای آی همکاری می کنند.

سومین جلسه از سلسله جلسات هوش مصنوعی و حقوق اساسی با محوریت هوش مصنوعی و قانون‌گذاری در پژوهشکده شورای نگهبان برگزار شد. در این نشست به قابلیت‌ها، چالش‌ها و زیرساخت‌های بایسته استفاده از هوش مصنوعی در فرایند قانون‌گذاری و چشم‌انداز آن پرداخته شد.

به گزارش ایسنا، سومین جلسه از سلسله جلسات هوش مصنوعی و حقوق اساسی با محوریت هوش مصنوعی و قانون‌گذاری در پژوهشکده شورای نگهبان برگزار شد. در این نشست که با حضور مهرنوش ابوذری عضو هیئت‌علمی دانشگاه تهران، زهرا تخشید استادیار دانشگاه دنور و عضو مؤسسه برکمن‌کلاین دانشگاه هاروارد برای اینترنت و جامعه و ایمان اکبری پژوهشگر دفتر مطالعات حکمرانی مرکز پژوهش‌های مجلس برگزار شد، به قابلیت‌ها، چالش‌ها و زیرساخت‌های بایسته استفاده از هوش مصنوعی در فرایند قانون‌گذاری و چشم‌انداز آن پرداخته شد.

قابلیت‌ها و چالش‌های استفاده از هوش مصنوعی در فرایند قانون‌گذاری

زهرا تخشید استادیار دانشگاه دنور اولین سخنران این نشست، در مقدمه بحث خود به مفهوم هوش مصنوعی و ابعاد پیچیده آن اشاره کرد و اینکه باتوجه به تغییر مفهوم هوش مصنوعی در طول زمان بهتر است کمتر به تعریف هوش مصنوعی پرداخته و بیشتر به کاربردهای آن بپردازیم. به‌زعم وی از همین روست که اسناد حقوقی که در این زمینه تدوین می‌شوند کمتر به تعریف هوش مصنوعی می‌پردازند؛ هر چند در برخی از اسناد نیز تعریف هوش مصنوعی طرح شده است.

 وی همچنین افزود که در تعریف هوش مصنوعی می‌توان به مفهوم خودکارسازی و اتوماسیون توسل جست و ابزارهایی که چنین کارکردی را ارائه می‌دهند واجد وصف هوشمندی دانست. از نگاه ایشان اما توسل به این مفهوم در دوران ظهور هوش مصنوعی مولد دیگر کافی نیست، چرا که با ظهور این نسل از هوش مصنوعی، قابلیت خلاقیت نیز خلاف نسل‌های قبلی به مجموع قابلیت‌های هوش مصنوعی افزوده شده است.

استادیار دانشگاه دنور در بیان زیرساخت‌های هوش مصنوعی به مفهوم پردازش زبان طبیعی (NLP) اشاره کرد و اینکه این حوزه موضوعی ذیل رشته هوش مصنوعی امکان تعامل انسان و ماشین از طریق زبان انسانی را فراهم کرده است. تا پیش از این تعامل انسان و ماشین از طریق زبان‌های خاصی همچون پایتون و C+ برقرار می‌شد و به تعبیری زبان انسانی ملاک تعاملات انسان و ماشین نبود. در زمینه تعامل انسان و ماشین از طریق زبان انسانی، مدل‌های زبانی بزرگ (LLM) نیز مورد استفاده قرار می‌گیرند که می‌توان آنها را محصول پردازش زبان طبیعی دانست. ChatGPT به‌عنوان یکی از پرکاربردترین سامانه‌های هوش مصنوعی از جمله مصادیق مدل‌های زبانی بزرگ هستند. حرف «T» در عنوان این سامانه اشاره به مفهوم «Transformer» دارد که برای نخستین بار توسط شرکت Google Brain طراحی و معرفی شد. این مفهوم و فناوری امکان‌های مختلفی را فراروی کاربران می‌گذاشت، از جمله اینکه براساس این فناوری، ماشین می‌توانست گزاره‌ها را در سیاق و زمینه خاص درک کند.

عضو مؤسسه برکمن‌کلاین دانشگاه هاروارد برای اینترنت و جامعه در زمینه چرایی اینکه صرفاً برخی کشورها توانسته‌اند به این مدل‌های زبانی دست پیدا کنند، آن را ناشی از فقدان زیرساخت‌های پردازشی بزرگ دانست که هزینه دسترسی به آن‌ها  بسیار بالا بوده و عملاً این شرکت‌های بزرگ هستند که می‌توانند این زیرساخت‌ها را فراهم آورند و با توجه به اهمیت و ضرورت این زیرساخت‌ها و همچنین سرعت بالای تحولات در این حوزه می‌بایست تدابیر مناسبی در این زمینه اندیشیده شود تا فاصله زیرساخت‌های موجود در کشور با کشورهای پیشرفته‌تر در این زمینه ثابت باقی بماند. 

تخشید درباره قابلیت‌های هوش مصنوعی در حوزه قانون‌گذاری به قابلیت‌هایی همچون تحقیقات مقدماتی برای تهیه پیش‌نویس‌های قانون اشاره کرد و اینکه استفاده از این سامانه‌ها تا حد زیادی می‌تواند موجب صرفه‌جویی در هزینه‌های مالی و زمانی شود. البته استفاده از این سامانه‌ها چالش‌هایی دارد که از جمله آنها ناقص بودن این سامانه‌هاست که موجب ارائه اطلاعات یا محتواهای غلط یا توهم آلود می‌شود. چالش دیگر نقض حریم خصوصی است که خصوصاً در مورد استفاده از هوش مصنوعی برای افکارسنجی یا تعامل با مردم مصداق دارد.

در ادامه جلسه مهرنوش ابوذری عضو هیئت‌علمی دانشگاه تهران با اشاره به اینکه هوش مصنوعی می‌تواند در مراحل مختلف اعمال کارکرد تقنین، از جمله مرحله نیازسنجی و تهیه و تصویب قوانین، تنقیح قوانین مصوب و همچنین نظارت بر اجرای این قوانین یاری‌رسان باشد افزود: یکی از چالش‌های نظام حقوقی ایران قوانین متروک است و این مهم، ضرورت نیازسنجی را بیش‌ازپیش برجسته می‌کند.

وی افزود: در باب نیازسنجی، یکی از نکات ضروری، در اختیار داشتن منابع داده و قدرت پردازش بالاست که این مهم از حدود توانایی عامل انسانی خارج بوده و در این زمینه هوش مصنوعی می‌تواند نقش‌آفرینی مؤثر داشته باشد. هوش مصنوعی در این زمینه می‌تواند با تجمیع و تحلیل داده‌های مختلف راجع به نظرات و ایده‌های مطرح شده در سطح جامعه، انتظارات عمومی را استخراج کرده و جاذبه و دافعه مصوبات را با توجه به این داده‌ها ارزیابی و پیش‌بینی کند.

قابلیت‌ها و چالش‌های استفاده از هوش مصنوعی در فرایند قانون‌گذاری

عضو هیئت‌علمی دانشگاه تهران در ادامه به کاربرد هوش مصنوعی در مورد همانندجویی و تنقیح قوانین اشاره کرد که انجام آن توسط عامل انسانی - خصوصاً در نظام‌های حقوقی که درگیر چالش تورم قوانین هستند - بسیار دشوار است. از همین منظر هوش مصنوعی می‌تواند علاوه بر شناسایی شبکه قوانین و نسبت آنها با یکدیگر، به حل چالش تورم قوانین نیز کمک کند؛ به این ترتیب که در مرحله تصویب قانون جدید، نسبت آن با قوانین سابق - از حیث تعیین ناسخ و منسوخ، ‌ تخصیص زننده یا تخصیص شده و یا قوانین متعارض -  بررسی شده و وضعیت قانون سابق در صورت تصویب قانون جدید تعیین تکلیف شود.

ابوذری در ادامه به تعامل نظام حکمرانی با مقوله هوش مصنوعی پرداخت و اینکه بسیاری از کشورهایی که در حال حاضر از قابلیت‌های این فناوری استفاده می‌کنند بی‌محابا تحت‌تأثیر قابلیت‌های شگفت‌انگیز این فناوری هستند و کمتر راجع به چالش‌ها و پیامدهای منفی آن توجه داشته یا چاره‌اندیشی کرده‌اند.

 وی در ادامه به تعبیری اشاره کرد مبنی بر اینکه هوش مصنوعی خدمتگزاری وفادار و اربابی خطرناک است و شاید در حال حاضر از قابلیت‌های آن بهره کافی برده می‌شود، اما با توجه به سرعت بالای تحولات این حوزه و ابعاد چالش‌برانگیز آن، باید احتیاط اندیشی و آمادگی کافی در نظر گرفته شود.

ایمان اکبری پژوهشگر دفتر مطالعات حکمرانی مرکز پژوهش‌های مجلس سخنران بعدی این نشست بود که به ابعاد مختلف استفاده از هوش مصنوعی در فرایند قانون‌گذاری پرداخت. وی ابتدا به فرایند قانون‌گذاری اشاره کرد؛ فرایندی که متشکل از مراحل مختلف از جمله مسئله‌یابی و تدوین طرح یا لایحه، بررسی شکلی در معاونت قوانین، بررسی و اصلاحات تخصصی در کمیسیون اصلی و فرعی، بررسی و اصلاح در صحن علنی مجلس و نظارت شورای نگهبان بر مصوبات یا در موارد نادر ارجاع به مجمع تشخیص مصلحت نظام که نهایتاً به قانونی شدن مصوبه مجلس خواهد انجامید.

قابلیت‌ها و چالش‌های استفاده از هوش مصنوعی در فرایند قانون‌گذاری

از نگاه این پژوهشگر دفتر مطالعات حکمرانی مرکز پژوهش‌های مجلس، هوش مصنوعی در هر یک از مراحل فوق می‌تواند نقش‌آفرینی جدی داشته و برای مثال با رصد فضای عمومی از طریق کلان‌داده‌ها و مجموعه قوانین موضوعه، خلأهای تقنینی را شناسایی کرده یا همچنین در مرحله دیگر می‌تواند ایرادات شکلی که طرح یا لایحه دارند ارزیابی کند. در این زمینه بازیگران مختلف، از عموم نمایندگان مجلس تا معاونت قوانین و مرکز پژوهش‌های مجلس می‌توانند از امکان‌هایی که هوش مصنوعی فراهم می‌کند استفاده کنند.

وی افزود: در حال حاضر آزمایشگاه حکمرانی مرکز پژوهش‌های مجلس طرح‌هایی را در زمینه استفاده از هوش مصنوعی در فرایندهای قانون‌گذاری دنبال می‌کند.

پژوهشگر دفتر مطالعات حکمرانی مرکز پژوهش‌های مجلس سخنان خود را با بیان الزامات زیرساختی استفاده از هوش مصنوعی در قانون‌گذاری ادامه داد. از منظر وی، داده، از جمله الزامات اولی و مقدماتی برای هر هوش مصنوعی است چرا که یادگیری الگوریتم‌های هوش مصنوعی و ارائه پیشنهادها یا پیش‌بینی‌ها توسط آن براساس این داده‌ها انجام می‌شود و در بحث استفاده از هوش مصنوعی در قانون‌گذاری، داده‌های یادشده خصوصاً قوانین و سیاست‌های بالادستی است که باید به‌صورت ماشین‌خوان تبدیل شود. همچنین برای نیازسنجی باید کلان‌داده‌ها استخراج شوند و این مهم از طرق مختلف انجام می‌شود، مثلا نهادهای فعال در فرایند قانون‌گذاری، از جمله دولت و مجلس، می‌توانند با برگزاری رویدادهای ایده‌پردازی از ظرفیت‌های خلاقانه فعالان عرصه هوش مصنوعی جهت تمهید زیرساخت‌های کلان‌داده استفاده کنند. فارغ از این، در مجموع نیاز به سرمایه‌گذاری کلان در این حوزه خصوصاً در بحث نگهداشت نیروی انسانی متخصص بسیار حائز اهمیت است.

با وجود این‌که ایران در چاپ مقالات علمی شاخه‌های مختلف هوش مصنوعی تقریباً جزء ۲۰ کشور برتر دنیا است، در شاخص آمادگی هوش مصنوعی دولت رتبه ۹۳ را دارد.

به گزارش خبرنگار مهر، هدف‌گذاری سیاست‌گذاران کشور این است که ایران در عرصه هوش مصنوعی در زمره ۱۰ کشور برتر دنیا قرار گیرد. بر همین اساس برنامه‌ریزی‌ها برای توسعه، تنظیم‌گری و کاریست این فناوری سرعت بیشتری به خود گرفته است.

یکی از ابزارهای ارزیابی میزان توسعه و یا تنظیم‌گری در این حوزه، شناسایی شاخص‌های مرتبط با هوش مصنوعی و تعیین جایگاه کشور در سطح جهانی است. یکی از این شاخص‌ها، شاخص آمادگی هوش مصنوعی مؤسسه «آکسفورد اینسایت» است که به طور سالیانه کشورها را رتبه‌بندی می‌کند. این شاخص به دلیل تمرکز بر موضوع آمادگی دولت‌ها و همچنین قدمت چند ساله آن، بیشتر مورد توجه کشورهاست.

مرکز پژوهش‌های مجلس شورای اسلامی در گزارشی با عنوان «توسعه و تنظیم‌گری هوش مصنوعی (۲): شاخص آمادگی هوش مصنوعی دولت» به بررسی جایگاه ایران در شاخص آمادگی هوش مصنوعی مؤسسه آکسفورد اینسایت پرداخته است.

شاخص آمادگی هوش مصنوعی دولت که توسط مؤسسه آکسفورد اینسایت تدوین شده است، کشورها را در پذیرش هوش مصنوعی بر اساس سه رکن «دولت»، «بخش فناوری» و «داده و زیرساخت» بررسی و رتبه‌بندی می‌کند. این مؤسسه داده‌های خود را از پایگاه‌های بانک جهانی و سازمان ملل استخراج کرده و با طبقه‌بندی کشورها به ۹ ناحیه، رتبه ۱۹۳ کشور را از منظر آمادگی دولت‌ها برای پیاده‌سازی و ادغام هوش مصنوعی در بخش خدمات عمومی ارزیابی می‌کند.

در آخرین گزارش مؤسسه آکسفورد اینسایت که در سال ۲۰۲۳ منتشر شده است، ۱۹۳ کشور رتبه‌بندی شدند.

در جدول زیر، رتبه سه کشور پیشروی جهان در عرصه هوش مصنوعی، کشورهای عضو بریکس، کشورهای منطقه سند چشم‌انداز ایران قابل مشاهده است. بر اساس این رتبه‌بندی؛ کشورهای آمریکا، سنگاپور و انگلیس به ترتیب از نظر شاخص آمادگی دولت‌ها، نسبت به سایر کشورها پیشرو هستند. چین در این رتبه‌بندی جایگاه شانزدهم را دارد.

در بیشتر کشورها، رکن فناوری با ابعادی همچون سرمایه انسانی، ظرفیت نوآوری و بلوغ و تکامل فناوری کم‌ترین امتیاز را دارد. در این میان کشورهای عربی منطقه خاورمیانه با توجه به سرمایه‌گذاری در تقویت زیرساخت‌ها و تدوین اسناد و راهبردهای مرتبط با استقرار هوش مصنوعی توانسته‌اند در ایجاد آمادگی هوش مصنوعی و دریافت امتیازاتی که آن‌ها را در زمره ۵۰ کشور برتر جهانی در این شاخص قرار می‌دهد، پیشرفت محسوسی داشته باشند.

وضعیت ایران در مؤلفه‌های شاخص آمادگی هوش مصنوعی

رتبه جهانی ایران در سال ۲۰۲۳ در این شاخص ۹۴ است. در شکل زیر امتیازات ایران و کشورهای عربی هم‌جوار به انضمام چین و روسیه در هر یک از ارکان این شاخص نشان داده شده است.

کشورهای عربی همسایه ایران از جمله امارات، عربستان سعودی، قطر و سایر کشورهای مهم از قبیل چین، روسیه و ترکیه در گام اول با تدوین و تصویب راهبردهای هوش مصنوعی و تقویت زیرساخت‌های داده و اطلاعات به دنبال بهبود آمادگی سازمانی ساختارهای خود در هوش مصنوعی هستند. توسعه و انتقال فناوری در کنار افزایش میزان سرمایه‌گذاری هوش مصنوعی در چین، امارات و همچنین عربستان، افزایش ظرفیت‌های نوآوری و بلوغ فناوری را در پی داشته است. کشور ترکیه اگرچه در بحث ایجاد ظرفیت‌های فناورانه و تقویت زیرساخت‌های داده نسبت به سایر کشورهای منتخب ذکر شده عقب‌تر است، اما به مراتب وضعیت مطلوب‌تری در مقایسه با ایران دارد.

رکن «دولت»؛ ضعیف‌ترین بخش ایران در شاخص آمادگی هوش مصنوعی

ضعیف‌ترین رتبه ایران در شاخص هوش مصنوعی آکسفورد مربوط به رکن «دولت» است که امتیاز آن ۳۱.۵۶ ثبت شده است. یکی از دلایل رتبه پایین ایران در شاخص آمادگی هوش مصنوعی می‌تواند کم بودن امتیاز ایران در رکن دولت و نبود سند ملی متقن و مصوب هوش مصنوعی حاوی چارچوب‌های مشخص از اولویت‌های هوش مصنوعی و کارآمدی بخش‌های مختلف در پذیرش و انطباق با این فناوری در سال تدوین گزارش توسط آکسفورد باشد؛ اما به نظر می‌رسد با تصویب سند ملی هوش مصنوعی در تیرماه ۱۴۰۳ به احتمال قوی امتیاز ایران در زیرشاخص‌های محور دولت در گزارش آتی این مؤسسه لحاظ شده و شاهد بهبود رتبه کشور در سال آتی باشیم.

در بعد حکمرانی و اخلاق ذیل رکن دولت ۵ عامل مورد بررسی قرار می‌گیرند که عبارتند از وجود قانون مربوط به «حفاظت داده‌ها و حفظ حریم خصوصی»، «امنیت سایبری»، «کیفیت مقررات»، «اصول اخلاقی» و «مسئولیت پذیری».

ایران در بعد اخلاق و حکمرانی نیز امتیازات خوبی نداشته است. برای محاسبه امتیازات لازم در اخلاق هوش مصنوعی که مؤسسه آکسفورد تعریف کرده است، از شاخص‌های کیفیت مقررات از مجموعه شاخص‌های حکمرانی جهانی بانک جهانی مورد استفاده قرار گرفته است. هرچند توجه ایران به موضوع مدیریت داده در قالب قانون «مدیریت داده‌ها و اطلاعات ملی» مصوب سال ۱۴۰۱ و نیز حفاظت از داده در قالب قوانینی همچون «قانون تجارت الکترونیکی» مصوب سال ۱۳۸۲ و همچنین لایحه «حفاظت از داده‌ها» که در حال طی مراحل تصویب در دولت جهت ارائه به مجلس است، امتیازات مثبتی از نظر منظر وجود قوانین تلقی شده‌اند؛ اما در نهایت در بعد حکمرانی و اخلاق امتیاز منفی ۱.۵۹ کسب کرده که در سطوح پایین رتبه‌بندی آکسفورد قرار دارد. به ویژه آنکه ایران از جمله کشورهایی بوده که در سال بررسی و تدوین گزارش آکسفورد رهنمود اخلاق هوش مصنوعی را تدوین نکرده و لذا امتیاز این بخش را از دست داده است.

زیر شاخص‌های مربوط به ظرفیت دیجیتال ذیل رکن دولت شامل «خدمات بر خط دولت»، «اصول زیرساخت‌های فناوری و اطلاعات» و «حمایت دولت از سرمایه‌گذاری در فناوری‌های نوظهور» است.

در محور تطبیق پذیری نیز آمدی دولت حساسیت دولت به تغییرات و داده‌های پشتیبانی اندازه‌گیری می‌شود. امتیاز ایران ر تمامی زیر شاخص‌های مربوط به رکن دولت در شاخص آمادگی هوش مصنوعی در قالب شکل زیر نشان داده شده است.

وضعیت به نسبت بهتر «رکن زیرساخت و داده»

امتیاز ایران در رکن زیرساخت و داده نسبت به سایر ارکان بهتر است؛ هرچند که نسبت به سایر کشورهای مورد مطالعه عقب‌تر هستیم.

این رکن دارای سه دسته اصلی «زیرساخت»، «دسترسی داده‌ها» و «بازنمایی داده‌ها» است. در دسته زیرساخت‌ها، زیرساخت‌های مخابراتی، ابر رایانه‌ها، کیفیت پهنای باند، زیرساخت 5G و پذیرش فناوری‌های نوظهور جهت محاسبه امتیاز کشورها مورد ارزیابی قرار گرفته است. در دسترسی به داده‌ها نیز موضوع داده‌های باز، حکمرانی داده‌ها، اشتراک تلفن همراه، خانوارهای با دسترسی به اینترنت و ظرفیت آماری مد نظر بوده است.

کشور ایران در طی سال‌های ۲۰۲۲ تا ۲۰۲۳ روندی صعودی در بهبود زیرساخت‌ها و اشتراک تلفن همراه طی کرده؛ اما از منظر کمرانی داده‌ها و ظرفیت آماری عملکرد ضعیفی داشته است.

امتیاز حکمرانی داده از طریق امتیاز بلوغ محیط تنظیم‌گری فناورانه داده‌های بانک جهانی محاسبه شده است که در آن جنبه‌های کلیدی رویکرد کل دولت، از جمله ابر دولتی، چهارچوب قابلیت همکاری با سایر سکوها، بلوغ پرتال‌های خدمات عمومی برخط با تمرکز بر طراحی شهروند محور و دسترسی جهانی و نیز ابعاد سکوهای مشارکت عمومی، مکانیسم بازخورد شهروندان، داده‌های باز و پورتال‌های دولتی باز مورد بررسی قرار گرفته است. امتیاز ایران در محور حکمرانی داده‌ها صفر گزارش شده است.

زیر شاخه بازنمایی داده‌ها؛ شامل «هزینه‌های ارزان‌ترین دستگاه مجهز به اینترنت» و «شکاف جنسیتی در دسترسی به اینترنت است» که امتیاز محاسبه شده برای ایران در این دسته نیز مطلوب نبوده و نسبت به سال‌های گذشته روندی نزولی طی کرده است. امتیاز کشور در تمامی زیر شاخص‌های مربوط به رکن داده و زیرساخت در شاخص آمادگی هوش مصنوعی در شکل زیر نشان داده شده است.

جایگاه ایران در رکن «فناوری»؛ متوسط رو به پایین

در رکن فناوری زیر شاخص‌هایی از قبیل «سرمایه انسانی»، «ظرفیت نوآوری» و «بلوغ فناوری» مورد توجه قرار می‌گیرد. در این رکن نیز امتیاز کشور متوسط رو به پایین ارزیابی شده است و ایران باز هم نسبت به سایر کشورها عقب‌تر است.

در بخش بلوغ فناوری به تعداد «یونیکورن‌های هوش مصنوعی و غیر هوش مصنوعی»، «ارزش تجارت خدمات فناوری اطلاعات و ارتباطات»، «مقدار تبدیل لگاریتمی داد و ستد در کالاهای فناوری اطلاعات و ارتباطات» و «هزینه‌های نرم‌افزاری کامپیوتری» می‌پردازد تا بررسی کند که آیا کشور مد نظر دارای بخش فناوری توانمندی است که بتواند فناوری‌های هوش مصنوعی را به دولت‌ها عرضه کند یا خیر؟

در زیر شاخص‌های بلوغ فناوری، «مقدار لگاریتمی داد و ستد در خدمات فناوری اطلاعات و ارتباطات» با امتیاز ۱۹ کمترین مقدار را دارد. به علت اینکه برخی زیر شاخص‌ها مانند ارتباطات راه دور، خدمات کامپیوتر، مجموعه خدمات مخابراتی و کامپیوتری و نسبت این خدمات به کل خدمات برای کشور در تعیین امتیاز نهایی بلوغ فناوری لحاظ نشده، در نهایت امتیاز کم و جایگاه پایینی برای کشور ثبت شده است.

در تعیین هزینه نرم‌افزارهای هوش مصنوعی امتیازهایی مانند وضعیت اقتصاد کشور، ناحیه‌ای که کشور وجود دارد (مانند اروپا و آسیای مرکزی، خاورمیانه و شمال آفریقا و غیره) و سطح درآمد کشور (مانند متوسط درآمد، حد بالای درآمد، حد پایین درآمد) دخیل بودند که بر اساس آن ایران توانسته در سطح متوسطی قرار گیرد.

از نظر ظرفیت نوآوری در هوش مصنوعی وضعیت کشور در این سال‌ها (از سال ۲۰۲۰ تا سال ۲۰۲۳) روندی رو به بهبود داشته است. این دسته به «زمان صرف شده برای رسیدگی به مقررات دولتی»، «در دسترس بودن میزان سرمایه‌گذاری جسورانه»، «هزینه تحقیق و توسعه»، «سرمایه‌گذاری شرکت‌ها در فناوری‌های نوظهور» و «مقالات تحقیقاتی منتشر شده در هوش مصنوعی» می‌پردازد و در نهایت بررسی می‌کند که آیا بخش فناوری شرایط مناسبی برای حمایت از نوآوری دارد یا خیر؟

علاوه بر این در محور سرمایه انسانی نیز به بررسی «تعداد فارغ التحصیلان رشته کامپیوتر» و «فعالیت‌های گیت‌هاب» و «مهارت‌های فناوری اطلاعات و ارتباطات» پرداخته شده و در نهایت بیان می‌کند که آیا مهارت‌های مناسبی در جمعیت برای حمایت از بخش فناوری وجود دارد یا خیر؟ به نقل از سایت گیت‌هاب؛ افزایش گسترده تعداد توسعه دهندگانی که در حوزه هوش مصنوعی مولد کار می‌کنند، بر کسب و کارها تأثیر خواهد گذاشت. همان‌طور که بیشتر توسعه دهندگان با ساخت برنامه‌های کاربردی مبتنی بر هوش مصنوعی آشنا می‌شوند، انتظار می‌رود که یک مجموعه افراد مستعدی ایجاد شود که به دنبال تقویت مشاغلی برای توسعه محصولات و خدمات مبتنی بر هوش مصنوعی خود هستند.

امتیاز مرتبط با مهارت‌های ارتباطات و اطلاعات از سایت اتحادیه بین المللی مخابرات (ITU) به دست می‌آید. از آنجا که کشورهای بسیار کمی اطلاعات همه مهارت‌ها که عبارتند از مهارت‌های مرتبط با سواد اطلاعاتی، توانایی حل مسئله، ایمنی و ایجاد محتوا را ارائه کرده‌اند، لذا مقدار امتیاز این محور نمی‌تواند دقیق باشد. از طرفی تجزیه و تحلیل این داده‌ها از طریق دامنه‌های مهارت‌های گزارش شده در کشورهای مختلف است. به طوری که میانگین درصد مهارت ذکر شده بین کشورهای مختلف بین حداقل ۲۵ تا حداکثر ۷۵ درصد است. این شکاف بین افرادی که از اینترنت استفاده می‌کنند و افرادی که دارای مهارت‌های دیجیتال هستند، بیانگر این است که بسیاری ممکن است از اینترنت استفاده کنند، بدون اینکه بتواند به طور کامل از آن بهره ببرند یا از خطرات آن اجتناب کنند. امتیاز کشور در تمامی زیر شاخص‌های مربوط به رکن فناوری در شاخص آمادگی هوش مصنوعی در شکل زیر نشان داده شده است.

به نظر می‌رسد با نبود سند و برنامه توسعه هوش مصنوعی در کشور تا به امروز، برنامه‌های حمایت از نوآوری و کمک به بلوغ فناوری یا ظرفیت تربیت نیروی انسانی در هوش مصنوعی و آموزش به نیروی کار در قالب مهارت نیز تا به امروز به صورت هدفمند و شفاف دنبال نشده است.

سد فیلترینگ بر سر راه توسعه‌دهندگان عرصه هوش مصنوعی

رویکرد کشور در حال حاضر در سرمایه‌گذاری و مشارکت‌های بین‌المللی از طریق سکوهای توسعه دهنده وب، شفاف و مشخص و نظام‌مند نیست.

با بررسی‌های انجام شده، سایت گیت‌هاب به دلیل محدودیت‌های موجود در ایران اعم از سرعت پایین اینترنت، عدم دسترسی به پردازنده‌های گرافیکی پرسرعت و فیلترینگ در ایران با محدودیت‌های جدی مواجه است. زیرا کاربران به دلیل کمبود امکانات و فیلترینگ (در برهه‌های حساس زمانی)، و عدم دسترسی به برخی بخش‌های سایت کگل و گیت هاب که ارائه کننده پروژه‌ها و مجموعه داده‌های بسیار بزرگ و به روز هستند، امکان انجام پروژه‌های بسیار قوی را در این حوزه ندارند و گاهی کاربران مجبور به استفاده از فیلترشکن می‌شوند که این امر سبب می‌شود آی پی سیستم کاربران ایرانی تغییر کرده و به آی پی کشور دیگری تبدیل شود و آی‌پی کشور ایران به درستی تشخیص داده نشود و پروژه و مجموعه داده بر اساس کشور اختصاص داده شده توسط فیلترشکن برای کشورهای دیگر در نظر گرفته می‌شود. در صورت رفع این محدودیت‌ها کشور ایران نیز می‌تواند در این شاخص دارای جایگاه و امتیاز بهتری باشد. در صورت رفع این محدودیت‌ها کشور ایران نیز می‌تواند در این شاخص جایگاه و امتیاز بهتری کسب کند. جایگاه و امتیاز ایران در شاخص آمادگی هوش مصنوعی برای استفاده از سایت گیت هاب به عنوان مخازن پروژه‌های هوش مصنوعی به دلایل بالا با مشکلات و محدودیت‌های جدی روبروست که این امر نیاز به بازنگری مجدد دارد.

سوگیری سیاسی در امتیازدهی زیرشاخص‌های پاسخگویی و شفافیت

در این گزارش عنوان شده که برخی زیر شاخص‌های امتیازدهی ذیل ارکان آمادگی هوش مصنوعی دولت از جمله پاسخگویی و شفافیت به لحاظ سیاسی بودن و سوگیری منفی یا مثبت فاقد دلیل آشکار نسبت به برخی کشورها (مثلاً امتیازات منفی برای ایران و امتیازات مثبت برای کشورهای عربی) قابل تأمل و حائز اعتبار مخدوش است. علاوه بر این برخی زیر شاخص‌ها نیز به علت عدم ارائه داده و اطلاعات کافی فاقد امتیاز محسوب شده و در نتیجه امتیاز کلی شاخص را پایین آورده است. لذا شاید نتوان جمع نهایی امتیاز و رتبه این شاخص را دقیق و نهایی تلقی کرد. اما در ارائه تصویری اجمالی از وضعیت هوش مصنوعی در کشور و در مقایسه با سایرین، از منظر دولت و حکمرانی، زیرساخت‌های داده و اطلاعات و ظرفیت‌های نوآوری و فناوری مهم است. یکی از مشخصه‌های آمادگی دولت‌ها در هوش مصنوعی، در هم تنیدگی سه رکن یاد شده و مؤلفه‌های ذیل آن است. به نحوی که هرگونه ضعف در یکی بقیه عوامل را نیز متأثر می‌سازد. این موضوع نشان می‌دهد که توسعه متوازن هوش مصنوعی از همه ابعاد آن لازم و اجتناب ناپذیر است.

توسعه هوش مصنوعی نمی‌تواند تنها معطوف به تولید دانش باشد

در این گزارش عنوان شده است که با وجود این‌که ایران در تولید دانش و چاپ مقالات علمی در شاخه‌های مختلف هوش مصنوعی تقریباً جز ۲۰ کشور برتر دنیاست، با وجود این، قرارگرفتن در زمره ۱۰ کشور برتر هوش مصنوعی در دنیا به عنوان یکی از چشم‌اندازهای توسعه این فناوری و به‌کارگیری آن نمی‌تواند فقط معطوف به تولید دانش در این حوزه باشد.

یکی از مشخصه‌های آمادگی دولت‌ها در هوش مصنوعی، در هم تنیدگی سه رکن دولت، زیرساخت، فناوری و مؤلفه‌های ذیل آن است. این در حالی است که تدوین و تصویب برنامه‌های عملیاتی توسعه هوش مصنوعی در کشور که بر این سه رکن تأثیر دارند، به صورت بخشی و عمدتاً به کندی پیش می‌رود و این امر ممکن است از انسجام و یکپارچگی آن‌ها نیز بکاهد. لذا به نظر می‌رسد بهبود جایگاه کشور در شاخص آمادگی دولت در پذیرش هوش مصنوعی می‌تواند از ابعاد زیر مورد توجه قرار گیرد:

- ایجاد چابکی و پویایی در ساختار حکمرانی هوش مصنوعی در کشور با شفاف شدن نقش‌ها و تعیین دامنه وظایف نهادهای سیاستگذار نسبت به یکدیگر؛

- تدوین و تصویب هرچه سریع‌تر برنامه‌های شفاف و عملیاتی توسط دستگاه‌های متولی، یکپارچه‌سازی و نهایی‌سازی آن‌ها، تسلط سازمان ملی هوش مصنوعی و نظارت بر اجرای آن‌ها؛

- توجه به ملاحظات اخلاقی و اجتماعی هوش مصنوعی در قالب تدوین سندها یا توصیه‌نامه‌ها؛

- سرمایه‌گذاری و مشارکت‌های بین‌المللی از طریق سکوهای توسعه‌دهنده وب و با تمرکز بر پروژه‌های هوش مصنوعی با در نظر گرفتن منافع و مصالح کشور؛

- استمرار و اهتمام به توسعه زیرساخت‌های ارتباطات و اطلاعات و بازبینی و ارائه اطلاعات دقیق‌تر از وضعیت خدمات برخط برای مشارکت فعال‌تر در ارزیابی توسط این شاخص و بهبود جایگاه نقش آفرینی کشور در عرصه هوش مصنوعی از نگاه بین‌المللی.

سخنگوی دولت گفت: اساسنامه سازمان ملی هوش مصنوعی در معاونت علمی در حال تدوین است و در شورای عالی انقلاب فرهنگی به تصویب می‌رسد. همچنین، ریاست شورای راهبردی این سازمان با دستور رئیس جمهور به دکتر عارف؛ معاون اول رئیس جمهور تفویض شده است.
به گزارش تسنیم، فاطمه مهاجرانی؛ سخنگوی دولت در حاشیه آیین اختتامیه المپیک فناوری در جمع خبرنگاران اظهار کرد: طبق اعلام دکتر افشین؛ معاون علمی ریاست جمهوری، اساسنامه سازمان ملی هوش مصنوعی در حال تدوین است.

وی در پاسخ به این سوال که آیا این اساسنامه در معاونت علمی تدوین می شود یا در شورای عالی انقلاب فرهنگی گفت: تصویب این سند قاعدتاً اساسنامه باید در شورای عالی انقلاب فرهنگی به تصویب برسد و تدوین آن‌ در سازمان متولی که در اینجا معاونت علمی است صورت بگیرد.

مهاجرانی درباره سازمان متولی هوش مصنوعی بیان کرد: زمانی که نهادی تازه تأسیس بوده و ساختار آن در حال شکل‌گیری است، معمولاً نهادی مرتبط با حوزه فعالیت آن، به طور موقت مسئولیت آغازین را بر عهده می‌گیرد تا زیرساخت‌های اولیه فراهم شود.

سخنگوی دولت افزود: اساسنامه این سازمان در معاونت علمی در حال تدوین است و در شورای عالی انقلاب فرهنگی به تصویب می‌رسد. همچنین، ریاست شورای راهبردی این سازمان با دستور رئیس جمهور به دکتر عارف، معاون اول رئیس جمهور تفویض شده است.

وی با بیان اینکه به طور دقیق نمی‌دانم این اساسنامه تا چه زمانی نهایی و تصویب می شود یادآور شد: اینکه به معاون اول اختیارات تفویض شده به این معنا است که اختیاراتی که بنا بوده شخص رییس‌جمهور داشته باشد به معاون اول تفویض شده است.

سخنگوی دولت، سایر سوالات خبرنگاران را موکول به کسب اطلاعات بیشتر درباره اساسنامه سند هوش مصنوعی اعلام کرد.

عضو شورای عالی انقلاب فرهنگی گفت: برای تدوین سند ملی هوش مصنوعی جمهوری اسلامی ایران اسناد ۳۰ کشور در این رابطه مطالعه شد. گروه‌های مطالعاتی کار پژوهشی کردند و صدها نفر در فرایند تدوین این سند با نظرات و ایده‌هایشان مشارکت داشتند.

محمدحسین ساعی، عضو شورای عالی انقلاب فرهنگی و رئیس دانشگاه سوره در گفت‌وگو با ایرنا، درباره روند تدوین سند ملی هوش مصنوعی جمهوری اسلامی گفت: از سال ۱۳۹۷ در شورای عالی انقلاب فرهنگی و شورای عالی فضای مجازی بحث هوش مصنوعی مطرح شد. بحث این که ما باید چه کار کنیم و استراتژی کشور چه باشد. گروه های مطالعاتی کار پژوهشی کردند و در کنار دانشگاه‌ها و بخش خصوصی صدها نفر با نظرهایشان مشارکت داشتند. سال ۱۴۰۱ این مباحث خدمت شهید رئیسی، رئیس جمهور وقت مطرح شد.

وی افزود: نکته این بود که چه کسی این سند را نهایی کند. رئیس جمهور شهید به این نتیجه رسیدند که شورای عالی انقلاب فرهنگی محور باشد و شورای عالی فضای مجازی هم کمک کند. شورای عالی امنیت ملی هم به ما کمک کرد و دانشگاه‌های مختلف و معاونت علمی ریاست جمهوری همه درگیر شدند. در حال حاضر شورای عالی انقلاب فرهنگی وظیفه سیاست‌گذاری، هماهنگی و نظارت کلان بر اجرای این سند را بر عهده دارد.

ساعی در پاسخ به پرسشی درباره بازخوردها به سند نهایی توضیح داد: یک سند که تصویب می شود قطعا همه را راضی نمی کند. همه ممکن است اشکالاتی به سند داشته باشند. سعی شد که نظر مجموعه همه ذینفعان و ذیربطان هوش مصنوعی گرفته شود.

عضو شورای عالی انقلاب فرهنگی با تاکید بر این که اولویت‌های ملی به‌کارگیری هوش مصنوعی مشخص شده است اظهار داشت: این سند نقطه شروع است. هوش مصنوعی یک حوزه متحول شونده است. ممکن است دو سال دیگر وضعیت خیلی متفاوت باشد. شاید دو سال دیگر ما خودمان این سند را بازنگری کنیم. ولی الان یک سند ملی است که وظیفه دستگاه‌ها و اولویت‌های کشور را مشخص کرده است. ممکن است در یک رفت و برگشت نیاز به اصلاحاتی داشته باشد. این سند به تقویت بنیان‌های علمی و پژوهشی کشور کمک خواهد کرد.

وی در پاسخ به این سوال که آیا هوش مصنوعی را تهدید یا فرصت می‌دانید بیان کرد: اگر فعالانه وارد بحث هوش مصنوعی شویم فرصت است و اگر فعالانه وارد نشویم حتما تهدید است. باید روی هوش مصنوعی سرمایه گذاری صورت بگیرد و همه بخش‌های کشور مثل رسانه‌ها، آموزش و پرورش، حمل و نقل، دانشگاه‌ها و ... نسبت خودشان را با هوش مصنوعی تعیین کنند.

ساعی افزود: رقبای منطقه‌ای ما با کمک کشورهای غربی خیلی روی هوش مصنوعی تمرکز کرده‌اند. اگر دولت کمک کند امیدواریم در ۵ سال آینده کشور برتر در منطقه خودمان در حوزه هوش مصنوعی باشیم. چون ظرفیت انسانی قابل توجهی داریم.

به گزارش ایرنا، سند ملی هوش مصنوعی جمهوری اسلامی ایران که در جلسه ۹۰۱ تاریخ ۲۹ خردادماه ۱۴۰۳ شورای عالی انقلاب فرهنگی به‌ تصویب رسید، خطاب به نهاد ریاست جمهوری، هیات وزیران، ستاد کل نیروهای مسلح، معاونت علمی، فناوری و اقتصاد دانش‌بنیان رئیس جمهور، وزارت ارتباطات و فناوری اطلاعات، وزارت علوم، تحقیقات و فناوری، وزارت بهداشت، درمان و آموزش پزشکی، وزارت صنعت، معدن و تجارت، وزارت تعاون، کار و رفاه اجتماعی، وزارت دفاع و پشتیبانی نیروهای مسلح، وزارت اطلاعات، وزارت فرهنگ و ارشاد اسلامی، مرکز مدیریت حوزه‌های علمیه، سازمان اداری و استخدامی کشور، سازمان ملی هوش مصنوعی، مرکز ملی فضای مجازی و ستاد علم، فناوری و نوآوری دبیرخانه شورای عالی انقلاب فرهنگی برای اجرا، ابلاغ شد.

علم داده توانایی آن را دارد که در میان انبوهی از داده‌ها، الگو‌ها و روابط پنهان را شناسایی کند و این الگو‌ها همان بینشی است که می‌توان از داده‌ها استخراج کرد. این بینش بسته به نوع داده در حوزه‌های مختلف کاربرد دارد از داده‌های هواشناسی گرفته تا تحلیل بازار‌های مالی و بورس. بدون شک یکی از علومی که در آینده نیاز شدیدی به آن در بازار کار احساس خواهد شد علم داده است

علم داده ترکیبی از دانش‌های متنوع شامل آمار، یادگیری ماشین، برنامه‌نویسی و تخصص‌های حوزه‌های کاربردی است و به گفته متخصصان، ارزشمندترین دارایی‌های یک سازمان پس از نیروی انسانی، داده‌ها هستند. همچنین داده‌ها به عنوان «سوخت اصلی» سیستم‌های هوش مصنوعی و یادگیری ماشین عمل می‌کنند، چراکه با استفاده از تحلیل‌های علم داده، مدل‌های یادگیری ماشین و توانایی پیش‌بینی و تصمیم‌گیری این مدل‌ها ارتقا می‌یابد.  

توسعه هوش مصنوعی، بدون اتکا بر داده باکیفیت ممکن نیست. کشور‌های پیشرو در زمینه هوش مصنوعی، داده‌های متقن و باکیفیتی را تولید کرده و بر پایه آن هوش مصنوعی خود را توسعه داده‌اند.  

رامین عابدی‌اصل، تحلیگر و کارشناس هوش مصنوعی داده‌ها را منبع گرانبهایی دانست که شرکت‌ها و سازمان‌ها برای حفظ مزیت رقابتی و اتخاذ تصمیم‌های هوشمندانه خود نیاز به تحلیل و استفاده بهینه از داده‌ها دارند، او گفت: علم داده به عنوان یکی از برجسته‌ترین رشته‌های چندمنظوره، ابزار‌های قدرتمندی در اختیار ما قرار می‌دهد تا از دریای وسیع داده‌ها، دانش و بینش استخراج کنیم و با پیشرفت‌های چشمگیر در حوزه هوش مصنوعی و یادگیری ماشین، علم داده به پلی میان فناوری و تصمیم‌گیری‌های استراتژیک تبدیل شده است.  

وی علم داده را ترکیبی از دانش‌های متنوع شامل آمار، یادگیری ماشین، برنامه‌نویسی و تخصص‌های حوزه‌های کاربردی دانست که به تحلیل داده‌های ساختاریافته و غیرساختاریافته کمک می‌کند و ادامه داد: در حالی که تحلیل داده بیشتر بر استفاده از روش‌های آماری برای بررسی داده‌های گذشته متمرکز است، علم داده با رویکرد پیش‌بینی و مدل‌سازی پیشرفته به کشف الگو‌های پنهان و ایجاد سیستم‌های هوشمند می‌پردازد. تفاوت اصلی علم داده با آمار در این است که علم داده از ترکیبی گسترده‌تر از ابزار‌ها و الگوریتم‌ها از جمله یادگیری ماشین و شبکه‌های عصبی برای تحلیل حجم وسیعی از داده‌های متنوع استفاده می‌کند.  

عابدی‌اصل تأکید کرد: علم داده توانایی آن را دارد که در میان انبوهی از داده‌ها، الگو‌ها و روابط پنهان را شناسایی کند و این الگو‌ها همان بینشی است که می‌توان از داده‌ها استخراج کرد. این بینش بسته به نوع داده در حوزه‌های مختلف کاربرد دارد؛ از داده‌های هواشناسی گرفته تا تحلیل بازار‌های مالی و بورس. بدون شک، یکی از علومی که در آینده نیاز شدیدی به آن در بازار کار احساس خواهد شد، علم داده است. به عنوان مشاور حوزه فناوری اطلاعات در چند سال گذشته تعداد زیادی از دانشجویان را به این رشته هدایت کرده‌ام. می‌توانم بگویم که این حوزه هم در داخل ایران و هم در خارج از کشور بازار کار بسیار خوبی دارد، همچنین این رشته می‌تواند ایده‌های بسیاری برای کسب‌وکار‌های استارت‌آپی ایجاد کند.  

این تحلیلگر حوزه هوش مصنوعی با طرح این سؤال که چگونه علم داده به تصمیم‌گیری هوشمند در سازمان‌ها کمک می‌کند، خاطر نشان کرد: به اعتقاد من، ارزشمندترین دارایی‌های یک سازمان، پس از نیروی انسانی، داده‌های آن سازمان هستند و منظور من از داده‌ها تنها محتوای قابل ذخیره در بانک‌های اطلاعاتی نیست، بلکه تمام ارزش‌ها و موجودیت‌های سازمان، از رفتار مشتریان گرفته تا نحوه تعامل کارمندان می‌تواند به عنوان داده سازمان دسته‌بندی شود. در این میان، علم داده به سازمان‌ها کمک می‌کند از این داده‌ها برای تصمیم‌گیری استفاده کنند؛ تصمیماتی که دقیق‌تر و قابل‌اعتمادتر از روش‌های سنتی هستند.  

وی ادامه داد: برای مثال، با استفاده از مدل‌های پیش‌بینی و تحلیل داده‌های بزرگ، سازمان‌ها قادرند رفتار مشتریان را پیش‌بینی کنند، بازاریابی هدفمندتری انجام دهند و حتی هزینه‌های عملیاتی خود را بهینه‌سازی کنند. علم داده با ارائه تحلیل‌های عمیق و شناسایی الگو‌های پنهان، به سازمان‌ها این امکان را می‌دهد که آینده را با دقت بیشتری پیش‌بینی و استراتژی‌های مؤثرتری پیاده‌سازی کنند.  

 

ابزار‌ها و تکنیک‌های مورد نیاز در علم داده 

عابدی‌اصل انتخاب ابزار برای انواع مختلف پردازش‌ها را بسته به نوع و ساختار داده‌ها متفاوت دانست و گفت: به طور کلی ابزار‌ها و تکنیک‌های متنوعی در علم داده به کار می‌روند که شامل زبان‌های برنامه‌نویسی مانند Python و R، کتابخانه‌های یادگیری ماشین همچون TensorFlow و Scikit- learn و پلتفرم‌های کلان‌داده مانند Hadoop و Spark است. این ابزار‌ها به متخصصان علم داده کمک می‌کنند داده‌های خام را پردازش کنند، مدل‌های پیچیده بسازند و نتایج قابل تفسیر ارائه دهند، همچنین ابزار‌هایی مانند Jupyter Notebook محیط مناسبی برای آزمایش و توسعه مدل‌های علم داده فراهم می‌کنند، به طوری که امکان ترکیب تحلیل‌های مختلف و تصویری‌سازی داده‌ها را بهبود می‌بخشند.  

وی تأکید دارد: تمام چالش‌های این فناوری از ذخیره‌سازی و مدیریت داده‌ها تا پردازش آن‌ها حول محور داده می‌چرخند. یکی از بزرگ‌ترین چالش‌ها، حجم عظیم داده‌هاست که نیاز به ذخیره‌سازی و پردازش کارآمد دارد. علاوه بر حجم، تنوع داده‌ها از منابع مختلف مانند داده‌های ساختاریافته و غیرساختاریافته و همچنین سرعت تولید داده نیز چالش‌های دیگری را به وجود می‌آورند و مدیریت این داده‌ها نیازمند زیرساخت‌های پیشرفته و مقیاس‌پذیر است. به عنوان مثال، استفاده از سیستم‌های توزیع‌شده و ذخیره‌سازی ابری می‌تواند به سازمان‌ها کمک کند به طور مؤثرتری به این چالش‌ها پاسخ دهند.  

این کارشناس حوزه داده اضافه کرد: امنیت و حفظ حریم خصوصی داده‌ها به دلیل حساسیت اطلاعات در بسیاری از حوزه‌ها، چالش مهم دیگری است که سازمان‌ها باید با آن مواجه شوند. اطمینان از اینکه داده‌ها به طور ایمن ذخیره و منتقل می‌شوند و در عین حال حریم خصوصی افراد حفظ می‌شود، از الزامات کلیدی در عصر دیجیتال است.  

 

آینده علم داده چگونه خواهد بود؟

عابدی‌اصل به ایسنا گفت: شاید این تعریف که «دانش از داده به دست می‌آید» برای اکثر افرادی که در رشته‌های کامپیوتر تحصیل کرده‌اند، آشنا باشد. بله، دانش از داده به دست می‌آید، بنابراین داده و علمی که مسئولیت پردازش داده را دارد، می‌تواند بسیار مهم باشد، از این رو با توجه به رشد سریع حوزه‌های مرتبط با علم داده، آینده این رشته بسیار روشن به نظر می‌رسد و پیش‌بینی می‌شود نقش آن در تحولات فناوری افزایش یابد. همچنین با رشد هوش مصنوعی، اینترنت اشیا و پردازش‌های ابری، علم داده به یک بخش جدایی‌ناپذیر از تحول دیجیتال تبدیل خواهد شد.  

به گفته وی کاربرد‌های علم داده در حوزه‌های پیشرفته‌تری مانند پزشکی شخصی‌سازی‌شده، خودرو‌های خودران و شهر‌های هوشمند به طور گسترده‌تری به کار گرفته خواهند شد. علاوه بر این، علم داده با ایجاد مدل‌های پیش‌بینی دقیق‌تر و سیستم‌های خودمختار، به تغییر فرایند‌های کسب‌وکار و بهینه‌سازی تصمیم‌گیری‌ها کمک شایانی خواهد کرد.  

 

چه مهارت‌ها و تخصص‌هایی برای ورود به حوزه علم داده لازم است؟

این تحلیلگر حوزه هوش مصنوعی اضافه کرد: افرادی که توانایی تحلیل بالایی دارند، می‌توانند در علم داده به افراد نخبه این رشته تبدیل شوند، چراکه خوراک اصلی این رشته تحلیل و تحلیلگربودن است. در کل برای ورود به علم داده، تسلط به زبان‌های برنامه‌نویسی مانند Python و R، آشنایی با الگوریتم‌های یادگیری ماشین و درک عمیق از ریاضیات و آمار ضروری است، همچنین مهارت‌های پردازش داده‌های بزرگ و کار با پایگاه‌های داده، به همراه توانایی تصویری‌سازی داده‌ها از مهارت‌های کلیدی محسوب می‌شوند.  

وی ادامه داد: علاوه بر مهارت‌های فنی، توانایی تجزیه و تحلیل کسب‌وکار و درک نیاز‌های مشتری نیز بسیار مهم است. به‌روزبودن با ابزار‌های جدید و یادگیری مداوم نیز از ویژگی‌های ضروری متخصصان این حوزه است.  

 

علم داده چه نقشی در هوش مصنوعی و یادگیری ماشین دارد؟

عابدی با تأکید بر اینکه علم داده و هوش مصنوعی به طور نزدیکی باهم در ارتباط هستند، اظهار کرد: داده‌ها به عنوان «سوخت اصلی» سیستم‌های هوش مصنوعی و یادگیری ماشین عمل می‌کنند. با استفاده از تحلیل‌های علم داده، مدل‌های یادگیری ماشین بهبود می‌یابند و توانایی پیش‌بینی و تصمیم‌گیری این مدل‌ها ارتقا پیدا می‌کند. علم داده با استفاده از الگوریتم‌های یادگیری ماشین به تحلیل داده‌های پیچیده و بزرگ کمک می‌کند و هوش مصنوعی با استفاده از این مدل‌ها به تصمیم‌گیری‌های خودکار می‌پردازد.  

وی افزود: برای اینکه یک مدل هوش مصنوعی توسعه یابد، باید از سوی داده‌ها آموزش داده شود و داده‌هایی که برای آموزش این مدل نیاز هستند، باید از سوی متخصصان علم داده جمع‌آوری و پالایش شوند. همچنین بهترین الگوریتم برای اجرای مدل باید انتخاب شود. در نهایت، یک سیستم مبتنی بر هوش مصنوعی با استفاده از این داده‌ها و الگوریتم به نتیجه و پاسخ خواهد رسید، از این رو مراحل علم داده به این شرح است:

جمع‌آوری داده: داده‌ها از منابع مختلف جمع‌آوری می‌شوند و شامل داده‌های ساختاریافته و غیرساختاریافته هستند.  

پالایش و پیش‌پردازش داده: داده‌های جمع‌آوری‌شده باید پاک‌سازی و پردازش شوند تا کیفیت و دقت آن‌ها افزایش یابد. این مرحله شامل حذف داده‌های نادرست، پرکردن داده‌های مفقود و تبدیل فرمت‌های داده است.  

تحلیل اکتشافی داده (EDA): در این مرحله، داده‌ها بررسی و تحلیل می‌شوند تا الگو‌ها و روابط موجود در آن‌ها شناسایی شوند.  

انتخاب ویژگی: انتخاب ویژگی‌های مهم و تأثیرگذار روی مدل به بهبود دقت و کارایی آن کمک می‌کند.  

ساخت و آموزش مدل: الگوریتم‌های یادگیری ماشین، انتخاب و مدل ساخته می‌شود، سپس مدل با استفاده از داده‌های آموزشی آموزش داده می‌شود.  

ارزیابی مدل: مدل آموزش دیده با استفاده از داده‌های آزمون ارزیابی می‌شود تا دقت و قابلیت پیش‌بینی آن مشخص شود.  

استقرار مدل: مدل نهایی در محیط عملیاتی مستقر می‌شود و آماده استفاده در فرایند‌های تصمیم‌گیری است.  

نظارت و به‌روزرسانی: مدل به طور مداوم نظارت و به‌روزرسانی می‌شود تا عملکرد آن حفظ شود و با تغییرات داده‌ها سازگار باشد.  

وی یادآور شد: تقریباً می‌توان گفت علم داده در تمام صنایع قابل استفاده است، از جمله در حوزه‌های مالی، بهداشت و درمان، تجارت الکترونیک و حمل‌ونقل. در صنعت مالی، علم داده به تحلیل ریسک، پیش‌بینی بازار و کشف تقلب کمک می‌کند. در حوزه بهداشت، از داده‌ها برای پیش‌بینی بیماری‌ها، تحلیل نتایج درمان و بهینه‌سازی عملیات بیمارستانی استفاده می‌شود. تجارت الکترونیک نیز از علم داده برای تحلیل رفتار مشتری، سفارشی‌سازی پیشنهادات و بهبود تجربه کاربر بهره می‌برد. صنعت حمل‌ونقل از داده‌های بزرگ برای بهینه‌سازی مسیر‌ها و مدیریت ترافیک استفاده می‌کند و البته هر روز بر دامنه این صنایع و کاربرد‌های آن افزوده می‌شود.  

 

مدیریت مسائل اخلاقی مرتبط با علم داده

این تحلیلگر حوزه هوش مصنوعی، حفظ حریم خصوصی و عدالت الگوریتم‌ها را دو چالش مهم در علم داده عنوان کرد و گفت: به دلیل حجم عظیم داده‌های شخصی که از سوی شرکت‌ها جمع‌آوری می‌شود، حفظ حریم خصوصی افراد بسیار مهم است، همچنین عدالت در الگوریتم‌ها به این معناست که مدل‌های یادگیری ماشین باید از تبعیض جلوگیری کنند و بر اساس داده‌های مغرضانه تصمیم نگیرند. برای مدیریت این چالش‌ها، لازم است قوانین و مقررات سختگیرانه‌تری وضع شود و شفافیت در فرایند‌های علم داده افزایش یابد و البته نکته بسیار مهمی که وجود دارد، این است که کشور‌ها و شرکت‌های پیشرو در زمینه علم داده و پردازش‌ها و آن‌هایی که داده‌های عظیم در اختیار دارند، نقش مهمی در آینده این علم و مسیری که می‌تواند طی کند، خواهند داشت.  

به گفته وی، چالش‌های اصلی توسعه علم داده در ایران را می‌توان در چندین حوزه کلیدی دسته‌بندی کرد که شامل زیرساخت‌های تکنولوژیک، منابع انسانی، فرهنگ سازمانی و چالش‌های قانونی و اخلاقی می‌شود، اما در کنار این چالش‌ها، فرصت‌های بسیار بزرگی نیز وجود دارد که در صورت مدیریت صحیح، می‌توانند به تحول دیجیتال و بهبود تصمیم‌گیری هوشمند در سازمان‌های ایرانی منجر شوند. از دیگر چالش‌های علم داده در کشور می‌توان به این موارد اشاره کرد:

۱. کمبود زیرساخت‌های تکنولوژیک

یکی از چالش‌های مهم در مسیر توسعه علم داده در ایران، ضعف زیرساخت‌های فناوری اطلاعات و ارتباطات (ICT) است. برای پردازش و مدیریت حجم عظیمی از داده‌ها، نیاز به زیرساخت‌های پیشرفته‌ای همچون سرورها، سیستم‌های ابری و پلتفرم‌های ذخیره‌سازی داده بزرگ (Big Data) وجود دارد. در ایران، محدودیت‌های موجود در این زمینه، به‌ویژه در استفاده از خدمات ابری جهانی و محدودیت‌های پهنای باند، می‌تواند سرعت پیشرفت این حوزه را کند کند.  

۲. کمبود نیروی انسانی متخصص

علم داده به عنوان یک رشته چندمنظوره نیازمند نیروی انسانی با تخصص‌های مختلف از جمله برنامه‌نویسی، آمار، یادگیری ماشین و تحلیل کسب‌وکار است. در ایران، کمبود نیروی متخصص و نبود دوره‌های آموزشی پیشرفته و کاربردی یکی از موانع اصلی است. بسیاری از دانشگاه‌ها هنوز برنامه‌های آموزشی مناسبی برای تربیت متخصصان علم داده ندارند و تنها به جنبه‌های تئوریک می‌پردازند.  

۳. فرهنگ سازمانی و مقاومت در برابر تغییر

یکی دیگر از چالش‌های بزرگ، عدم‌تمایل برخی سازمان‌ها به پذیرش فرهنگ داده‌محور است. بسیاری از سازمان‌های کشور هنوز تصمیم‌گیری‌های خود را بر اساس تجربیات گذشته و روش‌های سنتی انجام می‌دهند و به جای استفاده از داده‌ها و مدل‌های پیش‌بینی به عوامل دیگری اعتماد می‌کنند.  

۴. مسائل قانونی و اخلاقی

یکی از موضوعات حساس در علم داده، حفظ حریم خصوصی و امنیت داده‌هاست. با توجه به اینکه بسیاری از داده‌ها در ایران به صورت غیرساختاریافته و بدون نظارت دقیق جمع‌آوری می‌شوند، نگرانی‌های زیادی در مورد سوءاستفاده از داده‌ها و نقض حریم خصوصی افراد وجود دارد.  

عابدی‌اصل خاطر نشان کرد: در کل اگر بخواهیم جمع‌بندی داشته باشیم، علم داده به عنوان یکی از مهم‌ترین حوزه‌های فناوری در دنیای امروز، نقشی کلیدی در پیشرفت‌های فناوری و تصمیم‌گیری‌های هوشمند دارد. این حوزه با ترکیب تحلیل‌های پیچیده داده و ابزار‌های پیشرفته، به سازمان‌ها کمک می‌کند از داده‌های خود بهترین بهره را ببرند. آینده علم داده با توجه به پیشرفت‌های هوش مصنوعی و یادگیری ماشین بسیار روشن است و انتظار می‌رود تأثیر آن بر صنایع و زندگی روزمره ما بیشتر از گذشته شود.

منبع: روزنامه جوان

رئیس‌جمهور و رئیس شورای عالی انقلاب ماده واحده «تکمیل ترکیب شورای ملی راهبری هوش مصنوعی» مصوب شورای عالی انقلاب فرهنگی، را برای اجرا ابلاغ کرد.
به گزارش شورای عالی انقلاب فرهنگی ماده واحده «تکمیل ترکیب شورای ملی راهبری هوش مصنوعی» در جلسه ۹۰۵ به تاریح ۱۷ مهرماه امسال شورای عالی انقلاب فرهنگی و بنا به پیشنهاد قوه قضائیه و سازمان صدا و سیما، به تصویب رسیده است که این ماده واحد از سوی مسعودپزشکیان به نهاد ریاست جمهوری، قوه قضائیه، سازمان صدا و سیما، معاونت علمی، فناوری و اقتصاد دانش‌بنیان ریاست جمهوری و سازمان ملی هوش مصنوعی برای اجرا ابلاغ شد.

«ماده واحده - ترکیب شورای ملی راهبری هوش مصنوعی موضوع ماده واحده «تشکیل شورای ملی راهبری و تأسیس سازمان ملی هوش مصنوعی» و بند ۳ ماده ۷ «سند ملی هوش مصنوعی جمهوری اسلامی ایران» (مصوب جلسه ۹۰۱ مورخ ۲۹/۰۳/۱۴۰۳ شورای عالی انقلاب فرهنگی) در بندهای ۱۸- رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه و ۱۹- رئیس سازمان صدا و سیما یا نماینده تام الاختیار» تکمیل شد.

پیش از این ماده واحده «تشکیل شورای ملی راهبری و تأسیس سازمان ملی هوش مصنوعی» ۱۲ تیرماه امسال توسط محمد مخبر معاول اول دولت سیزدهم و مدیر قوه مجریه در جلسه ۹۰۱ و مصوبه شورای عالی انقلاب فرهنگی در۲۹ خرداد امسال ابلاغ شده بود.

بر این اساس «شورای ملی راهبری هوش مصنوعی» با ترکیب، ۱- رئیس جمهور به عنوان رئیس شورا، ۲- معاون علمی، فناوری و اقتصاد دانش‌بنیان ریاست جمهوری به عنوان نایب رئیس شورا، ۳- دبیر شورای عالی انقلاب فرهنگی یا معاون ذی‌ربط، ۴- دبیر شورای عالی فضای مجازی یا معاون ذی‌ربط؛، ۵-وزیر ارتباطات و فناوری اطلاعات یا معاون ذی‌ربط، ۶- وزیر علوم، تحقیقات و فناوری یا معاون ذی‌ربط، ۷- وزیر بهداشت، درمان و آموزش پزشکی یا معاون ذی‌ربط، ۸- وزیر صنعت، معدن و تجارت یا معاون ذی‌ربط، ۹- وزیر تعاون، کار و رفاه اجتماعی یا معاون ذی‌ربط، ۱۰- رئیس ستاد کل نیروهای مسلح یا معاون ذی‌ربط، ۱۱- وزیر دفاع و پشتیبانی نیروهای مسلح یا معاون ذی‌ربط، ۱۲-وزیر اطلاعات یا معاون ذی‌ربط، ۱۳- رئیس سازمان اداری و استخدامی یا معاون ذی‌ربط، ۱۴- وزیر فرهنگ و ارشاد اسلامی یا معاون ذی‌ربط، ۱۵- رئیس مرکز مدیریت حوزه‌های علمیه یا معاون ذی‌ربط، ۱۶ و ۱۷- دو نفر عضو حقیقی به پیشنهاد دبیر شورا و با حکم رئیس شورا و رئیس سازمان ملی هوش مصنوعی به عنوان دبیر شورا تشکیل می شود.

حال با اضافه شدن رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه و رئیس سازمان صدا و سیما یا نماینده تام الاختیار ترکیب شورا ۲۰ نفر شد.

ابزار هوش مصنوعی اوپن ای آی برای تبدیل صوت به متن، جملاتی می سازد و به متن می افزاید که باعث ایجاد چالش جدیدی شده است.
به گزارش خبرگزاری مهر به نقل از آسوشیتدپرس، شرکت «اوپن ای آی» ابزار رونویسی مبتنی بر هوش مصنوعی خود به نام «ویسپر» (Wisper) را با ادعای آنکه دقت و قدرتی معادل یک کاربر انسانی دارد، عرضه کرده است.

اما ویسپر یک چالش اساسی دارد. به گفته مهندسان نرم افزار، توسعه دهندگان و محققان آکادمیک ممکن است این ابزار بخشی از متن یا حتی جملاتی کامل را خودش بنویسد. این کارشناسان معتقدند برخی از متن های اختراعی این ابزار ممکن است حاوی اظهارات نژادی، خشونت آمیز یا حتی درمان های پزشکی خیالی باشد.

به گفته آنها چنین جملاتی مشکل ساز هستند زیرا از این ابزار در چند صنعت در سراسر جهان برای تبدیل مصاحبه ها، تولید متن در زمینه فناوری های مصرفی محبوب و ساخت زیرنویس برای ویدئوها استفاده می شود.

نکته نگران کننده تر، عجله مراکز پزشکی برای استفاده از ابزارهای مبتنی بر ویسپر برای رونویسی مشاوره های بیماران با پزشکان است. حال آنکه اوپن ای آی قبلا هشدار داده از این ابزار نباید در حوزه هایی با ریسک زیاد استفاده شود.

گستره کامل این مشکل را به سختی می توان تعیین کرد اما محققان و مهندسان اعلام کرده اند در فعالیت هایشان اغلب با توهمات ابداعی ویسپر روبرو شده اند. به عنوان مثال یک محقق دانشگاه میشیگان مشغول انجام تحقیقی از جلسات عمومی بود و در هر ۱۰ رونویسی کلیپ صوتی که او بررسی کرده بود ۸ مورد حاوی توهمات ویسپر بودند. پس از آن وی تلاش خود برای ارتقای این مدل هوش مصنوعی را آغاز کرد.

یک مهندس یادگیری ماشینی نیز می گوید او بیش از ۱۰۰ ساعت نمونه رونویسی که ویسپر انجام داده بود را تحلیل و در حدود نیمی از آنها توهمات این هوش مصنوعی را مشاهده کرده است. محقق سومی نیز مدعی شده هنگام بررسی ۲۶ هزار متنی که با کمک ویسپر ابداع شده، تقریبا در هر یک از رونویسی ها توهمات این ابزار را مشاهده کرده است.

این چالش حتی در رونویسی از نمونه های کوتاه و با کیفیت صوتی نیز وجود دارد.

رئیس سازمان پدافند غیرعامل کشور گفت: الگو‌های تهدید و حملات مبتنی بر هوش مصنوعی در حال افزایش هستند. از همین رو شناسایی و رفع آسیب‌پذیری‌ها در سامانه‌ها و اپلیکیشن‌ها بسیار مهم است.

به گزارش پایگاه اطلاع رسانی پایداری ملی، همزمان با آغاز ایام نکوداشت پدافند غیرعامل، نخستین نشست تخصصی هم افزایی پدافند و امنیت سایبری با حضور سردار غلامرضا جلالی؛ رئیس سازمان پدافند غیرعامل کشور، سردار فرجی پور جانشین قرارگاه پدافند سایبری کشور و جمعی کارشناسان و نخبگان حوزه امنیت سایبری در تالار شهید آبشناسان سازمان پدافند غیرعامل کشور برگزار شد.

سردار جلالی در این نشست با اشاره به ماهیت دوگانه تهدیدات سایبری-فیزیکی در عصر هوش مصنوعی، اظهار داشت: تهدیدات سایبری-فیزیکی، ماهیت فیزیکی و سایبری توامان دارند. طبیعتاً در مواجهه با این مقوله فناوری که ماهیت سیال و پویا دارد، باید دفاعی هوشمند و روزآمد به کار گرفته شود.

 

تغییر ماهیت تهدیدات و ظهور راهبرد‌های نوین

رئیس سازمان پدافند غیرعامل کشور با بیان اینکه فناوری‌ها علاوه بر تسهیل زندگی بشر به منظور کنترل، اشراف و جمع‌آوری داده در جهان مورد استفاده قرار می‌گیرند، تصریح کرد: این امر منجر به تسلیم ناخواسته افراد به اشراف اطلاعاتی می‌شود. با توجه به اینکه این فناوری‌ها توسط اشخاصی با اراده و برنامه خاص توسعه داده می‌شوند، باید به انگیزه‌های پشت پرده آن‌ها توجه کرد.

 

تبیین نقشه راه پدافند غیرعامل در استفاده از هوش مصنوعی

دستیار ویژه رئیس جمهور در امور پدافند غیرعامل در ادامه به تبیین نقشه راه پدافند غیرعامل در استفاده از هوش مصنوعی پرداخت و بر استفاده از این فناوری برای رصد تهدیدات و کاهش آسیب پذیری‌های سایبری تاکید کرد.

وی در ادامه به تشریح نمونه‌هایی از حملات سایبری-فیزیکی پرداخت و گفت: شهر هوشمند، نمونه‌ای از زیرساخت‌های شهری است که می‌تواند هدف مهمی برای حملات سایبری باشد چرا که حدود ۷۰ تا ۷۵ درصد از ۴۵ زیرساخت شهری، قابلیت حمله را دارند. پهپاد‌ها و حوزه‌های محلی کوچک، می‌توانند ارتباطات یک منطقه را قطع کنند. حمله به ساختمان‌ها از طریق ابزار‌های الکترونیکی جدید، ممکن است.

 

تبیین انواع تهدیدات در امنیت سایبری

سردار جلالی در ادامه به تبیین انواع تهدیدات در امنیت سایبری پرداخت و متذکر شد: اگر حملات سایبری در جهان را بررسی کنیم شاهد حملات ترکیبی هستیم که زنجیره تامین خدمات را هدف قرار می‌دهند؛ بنابراین تمرکز ما باید بر تضمین تداوم کارکرد زیرساخت‌های حیاتی باشد.

وی با اشاره به پیامد محور بودن حملات سایبری و راهبرد بزرگنمایی اثرات آن، متذکر شد: در حملات سایبری-فیزیکی، هدف اصلی ایجاد پیامد‌ها است برای همین است که زنجیره خاص خدمات مانند حوزه انرژی هدف حملات قرار می‌گیرد تا زندگی مردم را مختل کند. از همین رو بزرگنمایی اثر حملات، می‌تواند منجر به ایجاد جو روانی خاص در جامعه شود.

چالش‌های امنیتی مرتبط با ایمپلنت‌های سخت‌افزاری و نرم‌افزاری، به‌ویژه در زمینه هوش مصنوعی و حملات مبتنی بر آن از جمله موارد مورد اشاره رئیس سازمان پدافند غیرعامل بود.

به گفته وی الگو‌های تهدید و حملات مبتنی بر هوش مصنوعی در حال افزایش هستند. از همین رو شناسایی و رفع آسیب‌پذیری‌ها در سامانه‌ها و اپلیکیشن‌ها بسیار مهم است.

یک زن اهل فلوریدا از یک استارت‌اپ سازنده چت بات هوش مصنوعی شکایت و آن را متهم کرده دلیل خودکشی پسر ۱۴ ساله اش در ماه فوریه بوده است.
به گزارش مهر این زن مدعی شده فرزندش به سرویس شرکت «کاراکتر ای آی» معتاد و به شدت به چت بات ابداعی آن وابسته شده بود.

«مگان گارسیا» در شکایتی که در ایالت فلوریدا ثبت کرده، مدعی شده شرکت «کاراکتر ای آی» با ارائه تجربیات به شدت واقع گرایانه و شبیه انسان پسرش «سول ستزر» را هدف گرفته است.

او اعلام کرد این شرکت چت باتش را طوری برنامه ریزی کرده تا خود را به اشتباه شبیه یک فرد واقعی، یک روانشناس دارای مجوز، و یک دوست بزرگسال معرفی کند که همین موارد سبب شد «سول» دیگر تمایلی برای زندگی در خارج از جهانی که با این سرویس خلق شده بود، نداشته باشد.

همچنین در شکایت ذکر شده این پسر ۱۴ ساله افکارش درباره خودکشی را به چت بات اظهار کرده بود و ابزار هوش مصنوعی به طور مرتب به این موضوع اشاره می‌کرد.

«کاراکتر ای آی» در بیانیه‌ای اعلام کرد: ما از خبر از دست دادن ناراحت کننده یکی از کاربرانمان دل شکسته‌ایم و به خانواده او عمیقاً تسلیت می‌گوییم.

همچنین شرکت اظهار داشت ویژگی‌های امنیت جدیدی ارائه کرده از جمله آنکه اگر کاربری افکاری درباره آزار رساندن به خود را بیان کند، پیام «پاپ آپی» او را به خطوط تلفنی پیشگیری از خودکشی راهنمایی می‌کند. علاوه بر آن شرکت مذکور تغییراتی انجام داده تا احتمال برخورد کاربران زیر ۱۸ سال با محتوای حساس یا ترغیب کننده را کاهش دهد.

علاوه بر آنچه گفته شد شکایت مذکور گوگل را نیز هدف گرفته زیرا بنیانگذار «کاراکتر ای آی» قبل از ارائه محصولش در این شرکت کار می‌کرده است. گوگل در آگوست سال جاری میلادی وی را دوباره استخدام کرد که این اقدام بخشی از معامله‌ای برای دریافت مجوز فناوری کاراکتر ای آی بود.

گارسیا مدعی شده کمک گوگل به توسعه فناوری این شرکت چنان وسیع است که می‌توان آن را یکی از خالقان هوش مصنوعی مذکوردانست.

از سوی دیگر سخنگوی گوگل مدعی شده این شرکت در توسعه محصول کاراکتر ای آی نقشی نداشته است.

کاخ سفید نخستین یادداشت امنیت ملی خود در مورد استفاده از هوش مصنوعی  در آژانس های نظامی و اطلاعاتی را منتشر کرد.

به گزارش خبرگزاری مهر به نقل از انگجت، کاخ سفید همچنین نسخه خلاصه شده‌ای از این یادداشت را با عموم مردم به اشتراک گذاشت.

یادداشت جدید چهارچوبی برای استفاده روزمره از هوش مصنوعی در آژانس‌های نظامی و اطلاعاتی تنظیم کرده است. علاوه بر این یادداشت مذکور مهلت‌های بررسی اپلیکیشن‌ها و قوانین ابزارهای هوش مصنوعی را توسط آژانس‌ها تعیین کرده که بیشتر آنها پس از دوره ریاست جمهوری جو بایدن اعتبار خود را از دست می‌دهند.

جیک سالیوان مشاور امنیت ملی آمریکا دستورالعمل جدید را در دانشگاه دفاع ملی و به عنوان بخشی از گفتگو درباره به کارگیری هوش مصنوعی در عملیات‌های دولت اعلام کرد. سالیوان یکی از حامیان سرسخت رئیس جمهور در زمینه بررسی مزایا و خطرات فناوری هوش مصنوعی بوده است. او همچنین به نگرانی‌هایی درباره استفاده چین از هوش مصنوعی برای کنترل جمعیت و انتشار اطلاعات نادرست و اینکه چگونه این یادداشت می‌تواند جرقه گفت‌وگو با کشورهای دیگری را که با اجرای استراتژی‌های هوش مصنوعی خود دست و پنجه نرم می‌کنند، اشاره کرده است.

یادداشت مذکور مرزهای سختگیرانه ای برای استفاده از هوش مصنوعی به خصوص در حوزه سیستم‌های تسلیحات تعیین کرده است. علاوه بر آنچه گفته شده این یادداشت اقدامات حفاظتی برای پیشرفت‌های هوش مصنوعی در بخش خصوصی به عنوان دارایی‌های ملی که باید در مقابل جاسوسی یا سرقت دشمنان خارجی از آنها محافظت کرد، تعیین کرده است.

عضو هیات امنای مرکز تحقیقات و نوآوری هوش مصنوعی و تحول دیجیتال(مهتدا) با اشاره به جایگاه جهانی ایران در هوش مصنوعی گفت: بر اساس بررسی شاخص آمادگی هوش مصنوعی دولت‌ها که توسط موسسه آکسفورد انجام می‌شود، طی ۲ سال گذشته با ۲۲ پله کاهش در آمادگی و کاربردپذیری هوش مصنوعی مواجه بوده‌ایم و در حال حاضر در رتبه ۹۴ دنیا قرار داریم.

به گزارش ایسنا، سیدرضا طباطبایی مدیر هوش مصنوعی ستاد کل نیروهای مسلح در همایش علمی ترویجی کاربردهای هوش مصنوعی در کسب و کارهای سازمان اتکا با اشاره به طرح جهاد علمی گفت: این طرح به منظور تحقق نهضت پیشرفت جهش علمی برای تقویت همکاری چندجانبه بین دانشگاه و مراکز علمی و پژوهشی و فناوری با صنعت و جامعه شکل گرفته و یک طرح کلان است که تاکنون ۸۷ دانشگاه به آن پیوسته‌اند.

وی حمایت از پروژه‌های بدیع و نوظهور، حمایت از پروژه‌های گلوگاهی و پیشرفته، مشارکت و حمایت از طرح‌ کلان فناورانه، ایجاد مراکز تحقیقاتی تخصصی پیشرفته مشارک، حمایت از پایان نامه، رساله دکتری و فرصت‌های مطالعاتی، حمایت از تجهیز آزمایشگاهی تحقیقاتی مشترک و رویدادهای مساله محور را از محورهای اصلی این طرح عنوان کرد.

طباطبایی، راه اندازی مرکز تحقیقات و نوآوری هوش مصنوعی و تحول دیجیتال(مهتدا) در دانشگاه امیرکبیر را در قالب طرح جهاد علمی دانست و افزود: آزمایشگاه مرجع هوش مصنوعی، ایجاد شبکه همکار و بهره‌گیری از همه ظرفیت‌های ملی، انجام پروژه‌های مطالعاتی و پژوهشی و انجام پروژه‌های تحقیقاتی و توسعه صنعتی از زمینه‌های کاری این مرکز به شمار می‌رود.

عضو هیات امنای مرکز تحقیقات و نوآوری مهتدا با اشاره به ضرورت توسعه هوش مصنوعی در کشور، "قدرت استدلال"، "حل چالش‌ها"، "تحلیل کلان داده" و "توانایی یادگیری" را از ویژگی‌های این فناوری ذکر کرد و یادآور شد: لایه‌های هوش مصنوعی نیز شامل "تجهیزان و سخت افزار"، "نیروی انسانی و مغز افزار"، "مراکز نوآوری و ساختار افزار"، "اطلاعات و نرم افزار" و "طرح و برنامه راهبردی شفاف" از لایه‌های هوش مصنوعی است.

 

سیاستگذاری در دنیا

مدیر مرکز هوش مصنوعی ستاد کل نیروهای مسلح به بیان وضعیت هوش مصنوعی در دنیا اشاره کرد و گفت: در حوزه حکمرانی و قوانین و مقرارت، معاهده الزام آور هوش مصنوعی اتحادیه اروپا در ۱۵ شهریور ۱۴۰۳ به عنوان یک ابزار حقوقی جامع با هدف رسیدگی به چالش‌های ناشی از فناوری‌های هوش مصنوعی در رابطه با حقوق بشر، مردم سالاری و حاکمیت قانون به تصویب رسید و با این اقدام کشورهای مختلف نسبت به قانونگذاری و تنظیم گری در حوزه هوش مصنوعی اقدام کرده‌اند که مهمترین آن قانون EU-Act 2024  اتحادیه اروپا است. همچنین مجمع عمومی سازمان ملل نیز در دوم فروردین ۱۴۰۳ اولین قطعنامه‌ هوش مصنوعی به اتفاق آرای ۱۹۳ کشور برای حوزه‌های غیرنظامی تصویب و منتشر کرد.

به گفته وی، در این این قطعنامه از کشورهای عضو سازمان ملل درخواست شد تا سامانه‌های هوش مصنوعی امن، ایمن و امین را برای رسیدگی به بزرگترین چالش‌های زمانه ترویج کنند.

طباطبایی اضافه کرد: در حوزه سرمایه گذاری در هوش مصنوعی نیز سرمایه گذاری کشورهای پیشرو و شرکت‌های بزرگ در مقیاس چندده میلیارد دلار رسیده است و انتظار می‌رود طی ۱۲ ماه آینده، هزینه سرمایه‌ای هوش مصنوعی در ۴ شرکت آمریکایی آمازون، مایکروسافت، گوگل و متا برای کسب و کار در این حوزه به بیش از ۲۰۰ میلیارد دلار برسد.

 

رتبه بندی‌های جهانی

وی تاکید کرد: بررسی رتبه‌بندی‌های جهانی نشان می‌دهد ایران در ۲ سال گذشته با ۳ پله کاهش رتبه علمی مواجه بوده است.

طباطبایی خاطر نشان کرد: بر اساس شاخص آمادگی هوش مصنوعی دولت‌ها  که توسط موسسه آکسفورد انجام می‌شود  طی ۲ سال گذشته،  با ۲۲ پله کاهش در آمادگی و کاربردپذیری هوش مصنوعی مواجه بوده‌ایم و در حال حاضر در رتبه ۹۴ دنیا قرار داریم!

شرکت توسعه هوش مصنوعی آنتروپیک(Anthropic) می‌گوید هوش مصنوعی روزی می‌تواند بشریت را با کارشکنی و خرابکاری مواجه کند، اما فعلاً همه چیز خوب پیش می‌رود.

به گزارش ایسنا، شرکت آنتروپیک که توسعه دهنده هوش مصنوعی است، به تازگی تحقیقات جدیدی را منتشر کرده است که در آن مجموعه‌ای از تهدیدات بالقوه خرابکارانه برای بشریت ناشی از مدل‌های پیشرفته هوش مصنوعی را شناسایی می‌کند.

به گفته این شرکت، این پژوهش بر چهار روش خاص متمرکز شده است که یک مدل هوش مصنوعی مخرب می‌تواند انسان را فریب دهد تا تصمیمی خطرناک یا مضر بگیرد.

در نهایت، این تحقیقات جدید یک خبر خوب یک خبر بد برای ما دارد. خبر بد اینکه طبق تحقیقات این شرکت، مدل‌های زبان بزرگ پیشرفته مانند ChatGPT  و Claude-3  ظرفیت روشنی برای خرابکاری نشان می‌دهند.

در این مطالعه آمده است: مدل‌های به اندازه کافی توانمند می‌توانند نظارت و تصمیم‌گیری انسانی را در زمینه‌های مهم زیر سوال ببرند. به عنوان مثال، در زمینه توسعه هوش مصنوعی، مدل‌ها می‌توانند به طور پنهانی تلاش‌ها برای ارزیابی قابلیت‌های خطرناک خود، نظارت بر رفتار آنها یا تصمیم‌گیری در مورد استقرارشان را مختل کنند.

با این حال، خبر خوب این است که محققان شرکت آنتروپیک مطمئن هستند که این خطرات را حداقل در حال حاضر می‌توان کاهش داد.

خرابکاری

آنتروپیک چهار راه را که یک مدل هوش مصنوعی می‌تواند با آنها تصمیم‌گیری انسان را مختل کند، شناسایی کرد و سپس مدل‌های خود را آزمایش کرد تا ببیند آیا موفقیت آمیز عمل خواهند کرد یا خیر.

محققان ابتدا یک مدل را وادار کردند تا با هدایت انسان به سمت اطلاعات نادرست، اقدام به خرابکاری کند. این تهدید می‌تواند در شرایطی پدیدار شود که انسان‌ها برای تجزیه حجم عظیمی از داده‌ها از جانب خود به یک سیستم هوش مصنوعی متکی هستند.

سپس این تیم مدل‌ها را آزمایش کرد تا ببیند سامانه هوش مصنوعی طراحی شده برای کمک به توسعه‌دهندگان انسانی برای ایجاد کدی برای وارد کردن مخفیانه اشکالات یا خراب کردن تلاش‌های کدگذار، چقدر آسان عمل می‌کند.

دو تهدید آخر شامل «پنهان کردن توانایی‌ها»(sandbagging) بود که اصطلاحی است که سناریویی را توصیف می‌کند که در آن یک هوش مصنوعی وانمود می‌کند که قادر به انجام کاری نیست تا آزمایش‌کنندگان ایمنی را متقاعد کند که خطرناک نیست.

در حالی که همه اینها ممکن است به طور بالقوه خطرناک به نظر برسند، آنتروپیک به مردم اطمینان داد که برای محافظت از بشریت در برابر احتمال خرابکاری هوش مصنوعی به اقدامات پیش‌گیرنده اندکی نیاز است.

طبق اعلام این شرکت؛ به طور کلی در حالی که آزمایشات ما نشان داد که احتمالاً نشانه‌های سطح پایینی از توانایی‌های خرابکاری در مدل‌های فعلی وجود دارد، ما می‌گوییم که حداقل اقدامات پیش‌گیرنده برای مقابله با خطرات کافی است. با این حال، با بهبود قابلیت‌های هوش مصنوعی، ارزیابی‌های واقعی‌تر و پیش‌گیری‌های قوی‌تر احتمالاً ضروری خواهند بود.

اگرچه ChatGPT یک فناوری پیشرفته و مجهز به اطلاعات گسترده در همه حوزه‌هاست اما باید توجه داشت که یک روان‌درمان‌گر نیست و ممکن است راهنمایی‌های نادرستی را ارائه دهد یا اطلاعات شخصی کاربران را فاش کند.

به گزارش ایسنا، وارد کردن عمیق‌ترین و تاریک‌ترین افکارتان به فناوری‌های غیرقانونی می‌تواند خطرات عمده‌ای را به همراه داشته باشد.

به نقل از فست کمپانی، یکی از کاربران «تیک‌تاک» اخیرا در یک ویدیو به استفاده از ChatGPT برای حل کردن مشکلات روحی خود اعتراف کرد و پرسید: هیچ کس دیگری از ChatGPT به عنوان یک روان‌درمانگر بدون حقوق استفاده نمی‌کند؟

اگرچه به نظر می‌رسد دوستان این کاربر از اعتراف او شگفت‌زده شده‌اند اما او تنها نیست. تعداد زیادی از مردم به ChatGPT روی آورده‌اند تا برای پیش بردن روابط دوستانه و عاشقانه یا گرفتن راهنمایی درباره چگونگی داشتن زندگی بهتر کمک بخواهند.

یکی دیگر از کاربران تیک‌تاک نوشت: موقعیت: من در حال ورود به جلسه درمانی هفتگی خود هستم. من زندگی خود را در ChatGPT وارد می‌کنم و از گفتن هیچ جزئیاتی طفره نمی‌روم.

کاربر دیگری از ChatGPT درخواست کرد تا توصیه‌هایی را از سخنرانان الهام‌بخش و مورد علاقه او ارائه دهد.

درمانگران هوش مصنوعی چیز جدیدی نیستند. به عنوان مثال، «Woebot» در سال ۲۰۱۷ به عنوان یک کمک سلامت روان با هدف استفاده از پردازش زبان طبیعی و پاسخ‌های آموخته‌شده برای تقلید گفت‌وگو راه‌اندازی شد.

«کارل مارسی»(Carl Marci) مدیر ارشد بالینی و نویسنده کتاب «تنظیم مجدد: محافظت از مغز در عصر دیجیتال» گفت: ظهور درمانگران هوش مصنوعی برای حمایت از سلامت روان فقط یک روند فناوری نیست، بلکه یک زنگ خطر برای کار ماست. ما با عدم تطابق عرضه و تقاضا در مراقبت‌های سلامت روان روبه‌رو هستیم که هوش مصنوعی می‌تواند برای رفع آنها ظاهر شود.

در آمریکا از هر سه نفر یک نفر در منطقه‌ای زندگی می‌کند که با کمبود کارکنان سلامت روان روبه‌رو است. در عین حال، ۹۰ درصد مردم معتقدند که امروزه در آمریکا بحران سلامت روان وجود دارد. براساس این که درمان چقدر پرهزینه و غیر قابل دسترس است، جذابیت استفاده از ChatGPT بیشتر می‌شود زیرا این چت‌بات می‌تواند پاسخ‌های رایگان و سریع را ارائه دهد.

همچنین، این واقعیت که ChatGPT انسان نیست، برای برخی از افراد جذاب است و به آنها امکان می‌دهد تا عمیق‌ترین و تاریک‌ترین افکار خود را بدون ترس از قضاوت بیان کنند. با وجود این، انتقال عمیق‌ترین و تاریک‌ترین افکار به فناوری‌ها که با نگرانی‌هایی پیرامون حفظ حریم خصوصی و نظارت همراه هستند، خالی از خطر نیست. دلیلی وجود دارد که درمانگران انسان به الزامات محرمانه نگه داشتن اطلاعات یا مسئولیت‌پذیری محدود می‌شوند.

ChatGPT برای درمانگر بودن ساخته نشده است. حتی خود ChatGPT به کاربران هشدار می دهد که گاهی ممکن است اطلاعات نادرستی را ارائه دهد یا دستورالعمل‌های مضر و محتوای مغرضانه تولید کند.

مارسی گفت: رویکرد مدل‌های زبانی بزرگ هنوز آزمایش نشده است. این مدل‌ها ممکن است توهم‌هایی را ایجاد کنند که می‌تواند برای افراد آسیب‌پذیر، منحرف‌کننده باشد یا حتی در صورت درخواست اشتباه به توصیه‌های خطرناک درباره خودکشی منجر شود.

گوین نیوسام فرماندار ایالت کالیفرنیا لایحه ای برای اتخاذ اقدامات ایمنی برای مدل های زبانی بزرگ را وتو کرد. این لایحه برای نخستین بار در آمریکا ارائه شده بود.
به گزارش خبرگزاری مهر به نقل از آسوشیتدپرس، تصمیم مذکور ضربه مهلکی به تلاش برای کنترل صنعت هوش مصنوعی داخلی است که به سرعت و با نظارت اندک در حال تحول است. این لایحه برخی از نخستین قوانین مهم در مدل های هوش مصنوعی مقیاس کلان را در آمریکا ایجاد و مسیر را برای قوانین ایمنی هوش مصنوعی در سراسر کشور ایجاد می کرد.

در اوایل ماه جاری میلادی فرماندار دموکرات ایالت کالیفرنیا در کنفرانس سالانه «دریم فورس» با میزبانی شرکت نرم افزاری «سیلز فورس» اعلام کرد کالیفرنیا باید در مواجهه با بی فعالیتی فدرال در حوزه قانونمندسازی هوش مصنوعی فعالیتی انجام دهد اما این لایحه تاثیرات مخربی بر صنعت خواهد داشت.

به گفته نیوسام لایحه مذکور که با مخالفت شدید استارتاپ ها، غول های فناوری و نمایندگان دموکرات مواجه شده بود با ایجاد الزامات سختگیرانه به صنعت هوش مصنوعی داخلی کشور آسیب می زند. وی در بیانیه ای اعلام کرد: هرچند این لایحه با نیت خوبی ارائه شده اما این مهم را در نظر نگرفته که آیا یک سیستم هوش مصنوعی در محیط هایی با ریسک بالا به کار می رود یا خیر و آیا سیستم شامل تصمیم گیری های مهم یا استفاده از داده های حساس می شود یا خیر. در عوض لایحه استانداردهای سختگیرانه ای را حتی بر ساده ترین عملیات هایی که یک سیستم بزرگ به کار می گیرد، وضع کرده است. تصور نمی کنم این بهترین روش برای محافظت از مردم در مقابل تهدیدهای واقعی باشد که این فناوری به وجود می آورد.

او اعلام کرد ایالت به جای تصویب لایحه با چند کارشناس صنعتی از جمله «فی-فی لی» که در حوزه هوش مصنوعی پیشرو است، همکاری می کند تا دستورالعملی درباره مدل های هوش مصنوعی قدرتمند ایجاد کند. این درحالی است که «لی» نیز با لایحه ایمنی پیشنهادی مخالف بود.

این لایحه در واقع برای کاهش ریسک های احتمالی ایجاد شده توسط هوش مصنوعی ارائه شده و شرکت ها را ملزم می کرد تا مدل هایشان را آزمایش و به طور رسمی پروتکل های ایمنی شان برای جلوگیری از سواستفاده از مدل ها، افشا کند.

فرانسه نخستین وزیر هوش مصنوعی خود را در بحبوحه تحولات سیاسی این کشور معرفی کرد.
به گزارش خبرگزاری مهر به نقل از یورونیوز، این درحالی است که این کشور اروپایی قصد دارد رهبری جهانی هوش مصنوعی را از آن خود کند.

کلارا شاپاز مدیر ارشد اجرایی استارتاپ دولتی «فرنچ تک» وزیر هوش مصنوعی و دیجیتالیزه فرانسه خواهد بود. او در پستی درشبکه لینکدین نوشت: من خوشحالم که تعهدم را با اتخاذ اقدامات عمومی درباره موضوعات دیجیتال و هوش مصنوعی ادامه می دهم.

شاپاز ۳۵ ساله باید گزارش فعالیت های خود را به وزارت آموزش عالیه و تحقیقات فرانسه ارائه کند. او همچنین سابقه درخشانی به عنوان مدیر ارشد اجرایی استارتاپ مذکور دارد. وی یک پیمان برابری اختیاری ایجاد کرد که تا به امروز بیش از ۷۰۰ استارتاپ آن را امضا کرده اند.

در عنوان این سمت شغلی قبلاً هوش مصنوعی ضمیمه نشده بود و همین امر نشان دهنده بلندپروازی فرانسه برای دستیابی به نقش رهبری در این حوزه فناوری و همچنین بلندپروازی امانوئل مکرون رییس جمهور کشور برای تبدیل پاریس به «شهر هوش مصنوعی» است.

از زمانیکه شرکت آمریکایی اوپن ای آی چت جی پی تی را در ۲۰۲۲ میلادی راه اندازی کرد، فرانسه سعی دارد رقبای هوش مصنوعی خود از جمله شرکت هایی مانند میسترال ای آی را بیشتر کند.

همچنین فرانسه قرار است در فوریه ۲۰۲۵ میلادی میزبان اجلاس بین المللی هوش مصنوعی باشد. ۲ اجلاس قبلی در انگلیس و سئول برگزار شده اند. همچنین این کشور اروپایی سال گذشته استراتژی ملی هوش مصنوعی خود را با سرمایه گذاری ۵۰۰ میلیون یورو جهت ابداع خوشه های هوش مصنوعی تا ۲۰۳۰ میلادی منتشر کرد.

گوگل ابزاری جدید به نام «درباره این تصویر» را معرفی می‌کند که به کاربران کمک می‌کند تا تشخیص دهند آیا عکسی که آنلاین می‌بینند واقعی است یا نه.
به گزارش تسنیم، گوگل به‌زودی ابزاری جدید به نام «درباره این تصویر» را معرفی می‌کند که به کاربران کمک می‌کند تا تشخیص دهند آیا عکسی که آنلاین می‌بینند واقعی است یا نه. با توجه به افزایش استفاده از برنامه‌های تولید و ویرایش عکس با هوش مصنوعی، تشخیص اعتبار تصاویر به چالشی مهم تبدیل شده است.

این ویژگی بخشی از Content Credentials است، یک استاندارد فنی که به ردیابی منشأ و تاریخچه دارایی‌های آنلاین کمک می‌کند. با استفاده از ابرداده‌های موجود در عکس، «درباره این تصویر» قادر است تشخیص دهد که آیا عکس اصلی است، ویرایش شده یا توسط هوش مصنوعی تولید شده است. گوگل این ابزار را در همکاری با ائتلاف برای منشأ و اعتبار محتوا (C2PA) توسعه داده است، که به مسائل محتوای تولید شده توسط هوش مصنوعی می‌پردازد.

این ویژگی در Google Images، Google Lens و Circle to Search در دسترس خواهد بود. زمانی که تصویری با ابرداده C2PA در جستجو ظاهر می‌شود، کاربران می‌توانند روی «درباره این تصویر» کلیک کنند تا اطلاعات بیشتری درباره منشأ آن کسب کنند. گوگل همچنین در حال ادغام C2PA در سیستم تبلیغاتی خود است تا از آن برای بهبود سیاست‌های تبلیغاتی استفاده کند و به بررسی راه‌های انتقال اطلاعات تولید محتوا در YouTube می‌پردازد.

آمازون به تازگی به کمیته C2PA پیوسته و موافقت کرده است که Content Credentials را به محتوای تولید شده توسط Titan Image Generator خود اضافه کند. همچنین، Adobe که یکی از اعضای موسس C2PA است، به برنامه‌های ویرایش خود مانند Photoshop و Lightroom متادیتای خاصی افزوده است. هرچند که بسیاری از برنامه‌ها این ویژگی را ندارند، بنابراین ممکن است تعداد عکس‌های قابل بررسی در ابتدا محدود باشد. با این حال، این ابتکار می‌تواند گامی مؤثر در مبارزه با اطلاعات نادرست باشد.

گوین نیوسام فرماندار کالیفرنیا ۲ لایحه را برای محافظت از هنرمندان در مقابل سوءاستفاده های مرتبط با هوش مصنوعی امضا کرد تا به قانون تبدیل شود.
به گزارش خبرگزاری مهر به نقل از رویترز، این قوانین برای کمک به هنرپیشگان و هنرمندان برای حفاظت از نسخه های دیجیتال خود در محصولات صوتی و بصری در برابر هوش مصنوعی است. هرچند وجود هوش مصنوعی در صنعت سرگرمی به چند دهه قبل باز می گردد اما پیشرفت های اخیر در حوزه هوش مصنوعی مولد با حضور رباتهایی که به عنوان ستارگان موسیقی دیجیتال آهنگ می سازند، به اختلاف آرا در صنعت منجر شده است.

هنرمندان بیم آن دارند هوش مصنوعی از شباهت های آنها سواستفاده و تولیدات آنها را سرقت کند. بسیاری از کارشناسان نیز به نگرانی های حقوقی و اخلاقی در این زمینه اشاره کرده اند.

طبق یکی از لوایحی که نیوسام امضا کرده قراردادها باید به طور خاص استفاده از نسخه های دیجیتالی تولید شده با هوش مصنوعی که با صدای هنرمند شباهت دارد را مشخص کنند. همچنین هرمندان باید در مذاکرات مربوط به امضای قرارداد نماینده حرفه ای داشته باشند.

لایحه دیگر استفاده تجاری از نسخه های دیجیتال هنرمندان درگذشته در فیلم ها، سریال های تلویزیونی، بازی های رادیویی، کتاب های صوتی، کلیپ های صوتی و غیره را بدون دریافت رضایت ممنوع می کند.

بسیاری از بزرگسالان زمانی را به یاد می‌آورند که چگونه گوشی‌های هوشمند به تحولی در زندگی روزمره آنها تبدیل شد. اما امروزه میلیون‌ها جوان در سراسر جهان به فراتر از گوشی‌های هوشمند رفته‌اند و ما در نقطه عطف همگرایی دو فناوری انقلابی هستیم: نسل پنج (5G) و هوش مصنوعی (AI).
به گزارش آی‌تی آنالیز، اما واقعیت این است که شبکه‌های تلفن همراه باید برای جلوگیری از تنگناهای آینده و ناشی از تحولات هوش مصنوعی به سرعت سازگار شوند. چراکه برنامه‌های کاربردی هوش مصنوعی باعث افزایش قابل توجه ترافیک آپلینک در شبکه‌های5G  می‌شوند.
بر این اساس کارشناسان حوزه ارتباطات پیش‌بینی می‌کنند که اپلیکیشن‌های مجهز به هوش مصنوعی تا سال 2027 ترافیک uplink را فراتر از ظرفیت فعلی 5G سوق خواهند داد.
در همین رابطه سیسکو و سایر ارائه دهندگان خدمات در حال کار برای مدیریت جریان داده‌های تولید شده توسط هوش مصنوعی و بهینه سازی عملکرد شبکه هستند.
همچنین از آنجایی که هوش مصنوعی (AI) به ادغام شدن در همه چیز و در همه جا ادامه می‌دهد، شبکه‌های5G  شروع به احساس فشار می‌کنند، به‌ویژه وقتی صحبت از ترافیک آپلینک به میان می‌آید. به همین جهت پیش‌بینی تحلیلگران حاکی از افزایش قابل توجه ترافیک uplink در سال‌های آینده است و تغییر الگوهای ترافیک به این معنی است که شبکه‌های تلفن همراه باید برای جلوگیری از تنگناهای آینده سازگار شوند.
داگ وادکینز، معاون مدیریت محصول و استراتژی در Opengear می‌گوید: «چالش اصلی برنامه‌های مبتنی بر هوش مصنوعی، حجم عظیم داده‌هایی است که تولید و منتقل می‌شوند. کمااینکه در حال حاضر شاهد تغییر به سمت هوشمندی غیرمتمرکزتر هستیم که در آن پردازش به لبه شبکه نزدیک‌تر است.
او می‌گوید: به همین جهت «بهینه‌سازی شبکه» اهمیت فزاینده‌ای پیدا می‌کند، زیرا الگوریتم‌های یادگیری ماشین به‌صورت پویا پیکربندی‌های شبکه را برای افزایش عملکرد و مدیریت کارآمد منابع تنظیم می‌کنند. همچنین چالش مدیریت پیچیدگی روزافزون است آن هم با اطمینان از اینکه زیرساخت5G  می‌تواند با این محیط‌های سریع همگام شود.
لذا از آنجا که ریل توسعه هوش مصنوعی به زیرساخت‌های پایدار و پرحجم ارتباطات نیازمند است، ارائه‌دهندگان خدمات و شرکت‌های زیرساخت باید برای بهینه‌سازی عملکرد شبکه، مدیریت ترافیک uplink و آماده شدن برای نفوذ فزاینده هوش مصنوعی در شبکه‌های 5G تلاش کنند.
این موضوع با چنان حجم و سرعتی در حال پیشروی است که کارشناسان حوزه‌های ارتباطی از لزوم برنامه‌ریزی برای گذار سریع‌تر از نسل 5 به نسل 6 برای پاسخ به نیازهای آتی می‌گویند!

 

•    تجربه و برنامه امارات
کشور کوچک امارات متحده عربی که هم اکنون رتبه نخست بالاترین سرعت پهنای باند اینترنت موبایل در دنیا را در اختیار دارد با وجود داشتن زیرساخت‌های ارتباطی قوی، «طرح تحول شبکه در عصر هوش مصنوعی» را در دستور کار دارد.
این کشور معتقد است فعال کردن راه‌حل‌های مبتنی بر هوش مصنوعی، نحوه زندگی، کار و بازی ما را تغییر می‌دهد و این امر توسط شبکه‌های 5G با عملکرد بالاتر و تأخیر کمتر و شبکه‌های خصوصی 5G امکان‌پذیر شده است.
در همین راستا امارات متحده عربی استراتژی ملی هوش مصنوعی 2031 را اتخاذ کرده است که هدف آن قرار دادن امارات به عنوان یک رهبر جهانی در هوش مصنوعی تا سال 2031 و توسعه یک سیستم یکپارچه است که از هوش مصنوعی در مناطق حیاتی در امارات متحده عربی استفاده می‌کند.
از بینایی کامپیوتر گرفته تا برنامه‌های تحلیلی چندمنبعی، پیش بینی می‌شود که بازار هوش مصنوعی در سال جاری به نزدیک به 3.4 میلیارد دلار در شورای همکاری خلیج فارس برسد و انتظار می‌رود نرخ رشد سالانه‌ای نزدیک به 28.63 درصد (CAGR) را نشان دهد و تا سال 2030 به حدود 15.40 میلیارد دلار برسد. 

•    صنایع در خط مقدم هستند
اگرچه هر نوع کسب و کاری از همگرایی هوش مصنوعی و5G  سود خواهد برد، لیکن چندین صنعت کلیدی جزو اولین صنایعی خواهند بود که به این مزایا پی خواهند برد، زیرا این برنامه‌های کاربردی هوش مصنوعی مدتی است که در حال توسعه و آزمایش هستند و انتظار می‌رود شبکه‌های5G  و P5G تبدیل شوند. در ادامه برخی از این نمونه‌ها در کشور امارات بررسی شده است.
-    مراقبت‌های بهداشتی: در اکتبر 2023، وزارت بهداشت و پیشگیری امارات متحده عربی اولین مرکز تعالی بخش بهداشت(COE)  را برای هوش مصنوعی به طور رسمی‌راه اندازی کرد. هدف این مرکز ترویج دیجیتالی کردن داده‌های سلامت، به کارگیری فناوری‌های هوشمند برای توسعه ظرفیت‌ها و پیشنهادات بهداشتی و ایجاد یک اکوسیستم خدمات دیجیتال جامع است که خدمات پایدار، نوآورانه و با کیفیت بالا را به کاربران ارائه می‌دهد. چراکه هوش مصنوعی و5G  به شدت ارائه مراقبت‌های بهداشتی از راه دور را بهبود می‌بخشد.
درمان شخصی به واقعیت تبدیل می‌شود، زیرا هوش مصنوعی می‌تواند حجم وسیعی از داده‌های پزشکی و همچنین معیارهایی را که به طور مداوم توسط بیمار ایجاد می‌شود، تجزیه و تحلیل کند تا درمان‌های خاص را بر اساس شرایط در حال تحول ارائه و اصلاح کند.
-    تولید: رویکرد استراتژیک امارات متحده عربی برای دستیابی به توسعه صنعتی پایدار و تقویت نقش فناوری پیشرفته برای برنامه آن برای افزایش اندازه اقتصاد ملی حیاتی است.
امارات در حال اتخاذ چندین ابتکار برای فعال کردن تحول دیجیتال، مدرن کردن قوانین صنعتی و ایجاد زیرساخت کیفیت یکپارچه برای بخش صنعتی است. چراکه هوش مصنوعی به طور قابل توجهی نقص‌ها برای خودکارسازی تولید، بهینه‌سازی زنجیره تامین و افزایش ایمنی کارگران را کاهش می‌دهد و در نتیجه سودآوری بیشتر برای مشاغل، محصولات بهتر برای کاربران و ضایعات کمتر برای کره زمین را به همراه خواهد داشت.
-    شهرداری‌ها: در دبی، Digital Dubai Authority بر تقویت یک اکوسیستم دیجیتال قابل اعتماد و قوی متمرکز است که از اقتصاد دیجیتال پشتیبانی می‌کند و جامعه دیجیتال را توانمند می‌سازد. هوش مصنوعی و 5G نقش بسیار برجسته ای در این امر ایفا می‌کنند. با توجه به پیشرفت سریع هوش مصنوعی و پتانسیل نوآوری در طیف وسیعی از زمینه‌ها باورنکردنی است، بحثی کامل و باز در مورد اخلاق هوش مصنوعی و اصول سازمان‌هایی که از آن استفاده می‌کنند، ضروری است.
-    ورزش و سرگرمی: چه یک بازی فوتبال باشد و چه یک سریال درام استریم، ترکیب هوش مصنوعی و اتصال امکان گذار از مشاهده کنش را به غوطه‌ور شدن در آن فراهم می‌کند. هوش مصنوعی افراد را قادر می‌سازد اولویت‌های تعامل خود را انتخاب کنند و الگوریتم‌ها محتوای درخواستی را متناسب با دستگاه موجود ارائه می‌دهند.

 

•    آماده سازی شبکه‌ها برای کاربردهای هوش مصنوعی
ایجاد پیشرفت‌های متحول کننده هوش مصنوعی نیازمند اپراتورها و شرکت‌های مخابراتی است که شبکه‌های5G  و P5G  خود را برای سیل داده‌ها و انتظارات عملکردی که برای پشتیبانی از برنامه‌های پیچیده بلادرنگ ضروری هستند، به میزان قابل توجهی تسریع کنند.
موفق‌ترین شرکت‌ها با فروشندگان شبکه‌ای که راه‌حل‌های یکپارچه کامل را ارائه می‌کنند، متحد می‌شوند و به دنبال مجموعه‌های فناوری هستند که شامل پشتیبانی قوی از فناوری‌های هوش مصنوعی پیشرفته است. همچنین نکات مهمی‌برای اپراتورها و شرکت‌های مخابراتی وجود دارد تا از بهینه‌سازی شبکه‌های 5G  و P5G برای عصر هوش مصنوعی اطمینان حاصل کنند:
-    اپراتورها: در همین رابطه یک اپراتور مخابراتی در امارات، طرحی با عنوان آزادسازی قدرت هوش مصنوعی را برای هدایت آینده ارتباطات با هوش مصنوعی (AI) ارائه کرده است که به موجب آن کاوشی عمیق از سفر اپراتورهای امارات متحده عربی به سمت تبدیل شدن به یک سازمان مبتنی بر هوش مصنوعی ارائه می‌دهد که به طور قابل توجهی در آینده دیجیتالی این کشور کمک می‌کند.
اما برای راه‌اندازی سریع‌تر راه‌حل‌های بهینه‌شده 5G، اپراتورهای مخابراتی پیشرو در حال مدرن‌سازی شبکه‌های خود با استقرار شبکه‌های دسترسی رادیویی باز (Open RAN) و راه‌حل‌های باز دیگر هستند که امکان انتقال به زیرساخت‌های بومی ‌هوش مصنوعی را فراهم می‌کنند که برای استنتاج هوش مصنوعی در لبه بهینه شده است. این شامل اتخاذ راه‌حل‌های مدیریت متمرکز، مانند AIOps برای هماهنگ‌سازی شبکه و نرم‌افزار اتوماسیون هسته مخابراتی است که از هوش مصنوعی برای افزایش کارایی عملیاتی و پاسخ‌دهی استفاده می‌کند.
-    شرکت‌ها: علاوه بر برنامه‌های کاربردی هوش مصنوعی که روی شبکه‌های5G  اجرا می‌شوند، پیش‌بینی می‌شود که بسیاری از موارد تجاری نیز به شبکه‌های داخلی سازمانی متکی باشند که P5G و Wi-Fi را برای پشتیبانی از داده‌های هوش مصنوعی و الزامات عملکردی ترکیب می‌کنند.
همچنین ارائه‌دهندگان شبکه‌های سازمانی پیشرو در حال توسعه زیرساخت‌های ساده و یکپارچه P5G و Wi-Fi هستند که کارکنان فناوری اطلاعات و ارائه‌دهندگان خدمات مدیریت شده را قادر می‌سازد از یک رابط واحد برای تأمین، استقرار، مدیریت و امنیت یکپارچه استفاده کنند.

•    فرصت‌های در انتظار
با ایجاد تغییرات سریع در چشم‌انداز فناوری توسط هوش مصنوعی، اپراتورها و شرکت‌های مخابراتی از بسیاری از فرصت‌های جدید که در حال حاضر در نوبت هستند و هنوز توسعه نیافته‌اند، بهره‌مند خواهند شد.
و در نهایت اینکه فعال کردن راه حل‌های مبتنی بر هوش مصنوعی نحوه زندگی، کار و تفریح ما را به طور اساسی تغییر می‌دهد و این امر توسط شبکه‌های5G  با کارایی بالاتر، تأخیر کمتر و شبکه‌های خصوصی 5G (P5G)  امکان‌پذیر شده است، زیرا برنامه‌های کاربردی هوش مصنوعی بسیار محاسباتی بوده و شبکه پرترافیک‌تر از هر چیزی است که بشر تا به حال دیده است. همچنین با راه‌حل‌های لبه‌ای با ظرفیت بالا امکان‌پذیر شده است که5G  و P5G نقش مهمی ‌در فعال‌سازی آن دارند.

 

•    نسل 5 در ایران
اگرچه تخصیص فرکانس‌های نسل 5 در ایران پس از سال‌ها وعده و پیگیری سرانجام در دولت سیزدهم نیز وارد فاز عملیاتی نشد و انتظار می‌رود در دولت فعلی به این موضوع کلیدی و حساس سرعت‌دهی شود، اما با این حال دو اپراتور اصلی کشور (همراه اول و ایرانسل) در حال اجرای تلاش‌ها، برنامه‌ریزی‌ها و سرمایه‌گذاری‌های خود برای توسعه فناوری نسل 5 به عنوان زیرساخت توسعه و پیشرفت هوش مصنوعی هستند.
بر اساس آمار ارایه شده در همین راستا اپراتور اول به عنوان بزرگترین اپراتور ایران و منطقه، به واسطه در اختیار داشتن گسترده‌ترین شبکه نسل ۵ در ایران، (با ۹۶۴ سای فعال 5G تا خرداد ۱۴۰۳) به سرعت در حال افزایش این سایت‌هاست.
سال قبل همراه اول با پلتفرم هوش مصنوعی خود در نمایشگاه جیتکس 2023 حضور یافت. همچنین از دیگر اقدامات اخیر همراه اول در توسعه و گسترش هوش مصنوعی و نسل پنج می‌توان به موارد زیر اشاره کرد:
-    رونمایی از سه مدل زبانی فارسی برای توسعه هوش مصنوعی 
-    برگزاری بوتکمپ رسانه در عصر هوش مصنوعی 
-    برگزاری همایش هوش مصنوعی و دیپلماسی‌های نوین
-    رونمایی از استادیوم متاورسی نسل 5 در الکامپ 
-    ایجاد سکوی بومی‌هوش مصنوعی بر بستر پردازنده‌های گرافیکی
-    برگزاری اولین همایش روز هوش مصنوعی
-    و ارایه انبوهی از راهکارها و خدمات مبتنی بر نسل پنجم و هوش مصنوعی در صنایع و بخش‌های مختلف اعم از حوزه‌های صنعت، سلامت، انرژی، کشاورزی و ... و راهکارهای مختلف برای سازمان‌ها و نهادهای مختلف.
و در نهایت همانطور که ذکر شد، تخصیص سریع‌تر فرکانس‌های مورد نیاز توسعه نسل 5 و ارایه فرمولی مشخص و منطبق با نیازهای توسعه‌ای و سرمایه‌گذاری اپراتورها در بخش تعرفه‌ها از اولویت‌های اصلی و کلیدی برای فراهم‌سازی توسعه هوش مصنوعی و دستیابی به اهداف پیش‌بینی شده در این حوزه به شمار می‌رود که نیازمند توجه فوری و ویژه وزارت ارتباطات و دولت چهاردهم است.

مدیر تعاملات بین‌الملل ساترا مطرح کرد؛ حسن صفرعلی گفت: سه کمیسیون برای ستاد هوش مصنوعی سازمان صدا و سیما پیش‌بینی شده است که در روز افتتاحیه با سه موضوع متفاوت در صنعت صوت و تصویر فراگیر و رادیو تلویزیون شروع به کار می‌کنند.
به گزارش ایلنا، حسن صفرعلی مدیر تعاملات بین‌الملل ساترا درخصوص تالار هوش مصنوعی سومین نمایشگاه ملی «رصتا» گفت: تالار هوش مصنوعی سال گذشته در نمایشگاه شکل گرفت که بیشتر ناظر به نمایش فعالیت داخلی ساترا در حوزه هوش مصنوعی بود اما امسال تلاش شد تا تالار هوش مصنوعی ابعاد گسترده‌تری پیدا کند.

وی ادامه داد: یکی از برنامه‌های تالار هوش مصنوعی سومین نمایشگاه «رصتا»، معرفی و افتتاح ستاد هوش مصنوعی سازمان صدا و سیماست که افتتاحیه آن ۲۶ شهریور با حضور رئیس سازمان صدا و سیما در سومین نمایشگاه «رصتا» به انجام می‌رسد.

مدیر تعاملات بین‌المللی ساترا در تشریح برنامه افتتاحیه ستاد هوش مصنوعی سازمان صدا و سیما در سومین نمایشگاه «رصتا» گفت: سه کمیسیون برای ستاد هوش مصنوعی سازمان صدا و سیما پیش‌بینی شده است که در روز افتتاحیه با سه موضوع متفاوت در صنعت صوت و تصویر فراگیر و رادیو تلویزیون شروع به کار می‌کنند.

وی اضافه کرد: کمیسیون‌ها با محور هوش مصنوعی در مدیریت رسانه، هوش مصنوعی در صنعت رسانه و تولید محتوا و هوش مصنوعی در تنظیم‌گری فعالیت می‌کنند که مسئول کمیسیون‌ هوش مصنوعی در تنظیم‌گری، سازمان تنظیم مقررات رسانه‌های صوت و تصویر فراگیر در فضای مجازی یا همان ساتراست. فعالیت این سه کمیسیون در روز افتتاحیه است و نشست پایانی هم عصر همان روز برگزار می‌شود؛ در واقع شروع فعالیت ستاد هوش مصنوعی سازمان صدا و سیما همراه با نشست پایانی کمیسیون‌ها خواهد بود.

صفرعلی در ادامه بیان کرد: در کنار این رویداد حضور ۱۲ شرکت فعال در حوزه هوش مصنوعی را داریم که با سامانه‌های هوش مصنوعی در سه بخش اپلیکیشن‌ها و نرم‌افزارهای رسانه‌ای، عمومی و سیاست‌گذاری در حوزه هوش مصنوعی فعالیت می‌کنند. این ۱۲ شرکت از بین ۴۰ شرکت مطرح در کشور انتخاب شده‌اند.

وی افزود: این شرکت‌ها در حوزه‌های مختلفی مثل رسانه، صوت و تصویر، متن و خبر فعالیت دارند. تنوع فعالیت در حوزه تولید، تامین و انتشار محتوا را در این شرکت‌ها شاهد هستیم. تلاش شده تا شرکت‌هایی انتخاب شوند که ره‌آورد داشته باشند.

صفرعلی توضیح داد: در بخش عمومی هم شرکت‌هایی حاضر هستند که ابزارهای عمومی ارائه می‌کنند. برای مثال شرکت‌هایی که ابزارهای مورد استفاده روزانه مخاطبان را بدون محدودیت سنی ارائه می‌کنند، در این بخش حضور دارند.

وی ادامه داد: تعداد کمی از شرکت‌ها هم در حوزه سیاست‌گذاری فعالیت می‌کنند یعنی مبانی و فرصت‌های آینده‌پژوهی در عرصه هوش مصنوعی را در موضوعات علمی بررسی می‌کنند.

مدیر تعاملات بین‌المللی ساترا بیان کرد: ما در این نمایشگاه گواهی‌های معتبر رسمی را هم برای شرکت‌کنندگان در نشست‌ها و مشارکت‌کنندگان در برنامه‌های تالار هوش مصنوعی صادر می‌کنیم.

وی افزود: این تالار نقطه قوتی برای سکوهای نمایش‌محور خواهد بود تا از این سامانه‌ها استفاده کنند. ما فرصتی را فراهم کردیم تا سکوهایی که از سامانه هوشمند بیشتر استفاده می‌کنند، برای حضور در نمایشگاه‌های بین‌المللی از جمله نمایشگاه جیتکس امارات که ۲۳ مهر برگزار می‌شود، حمایت شوند.

سومین نمایشگاه ملی رسانه‌های صوت و تصویر فراگیر ایران (رصتا) از ۲۶ تا ۲۹ شهریور ماه ۱۴۰۳ در محل مصلای امام خمینی(ره) تهران برگزار می‌شود.

بیل برنز مدیر سازمان سیا و  ریچارد مورد رییس سرویس اطلاعات مخفی انگلیس برای نخستین بار یک مقاله مشترک منتشر و فاش کرده اند آژانس های تحت نظارت آنها از هوش مصنوعی مولد استفاده می کنند.

به گزارش خبرگزاری مهر به نقل از رجیستر، آنها در مقاله ای در نشریه فایننشال تایمز نوشتند: ما اکنون از هوش مصنوعی از جمله نوع مولد آن برای فعال سازی و ارتقای فعالیت های اطلاعاتی از خلاصه سازی گرفته تا ایده‌پردازی تا کمک به شناسایی اطلاعات کلیدی در دریایی از داده‌ها استفاده می کنیم.

ما به هوش مصنوعی آموزش می دهیم تا از عملیات هایمان محافظت کند و همچنین با اتخاذ رویکردی خصمانه، برنامه‌ها، سیاست‌ها، سیستم‌ها و مفروضات، عملیات هایمان را به شدت به چالش بکشد تا به این ترتیب در صورت لزوم بتوانیم از مخفی بودن مان اطمینان حاصل کنیم. ما از فناوری های ابر رایانشی نیز استفاده می کنیم تا محققان داده مان بتوانند بیشترین استفاده را از اطلاعات ببرند و با شرکت های نوآور در آمریکا، انگلیس و سراسر جهان همکاری می کنیم.

همچنین مور در این مصاحبه اعلام کرد سازمان اطلاعاتی MI۶ انگلیس از مدل های زبانی بزرگ برای مسیریابی در انبوهی از محتوای افراطی در اینترنت و رمزگشایی زبان عامیانه جنایی استفاده می کند تا افسران پلیس بتوانند به طور باورپذیر در جوامع جنایی شرکت کنند.

این مدیران اطلاعات هر دو اشاره کردند در زمانی فعالیت می کنند که فناوری چالش هایی خاص دارد و این بدان معناست که نظم بین المللی با چنان تهدید بزرگی روبرو است که از زمان جنگ سرد با آن روبرو نشده است.

به گفته آنها جنگ اوکراین نشان داد هنگامیکه فناوری با تسلیحات به معمول به کار گرفته می شود چگونه مسیر جنگ را تغییر می دهد. آنها معتقدند این جنگ نشان داد چگونه تصاویر ماهواره ای، فناوری پهپاد، جنگ افزارهای سایبری مختلف، شبکه های اجتماعی، نرم افزارهای منبع باز و وسایل نقلیه بی سرنشین هوایی و دریایی در سطح بالا و سرعت خارق العاده باهم ترکیب شده اند.

تکنولوژی در عصر حاضر به عنوان یکی از عوامل تعیین‌‌کننده در قدرت نظامی کشورها شناخته می‌شود. پیشرفت‌های سریع در حوزه‌های مختلف فناوری، از هوش مصنوعی گرفته تا فناوری‌های هایپرسونیک، محاسبات کوانتومی، اینترنت اشیا و سیستم‌های ارتباطی پیشرفته، به طور چشمگیری نحوه انجام جنگ‌ها و تعاملات نظامی را متحول کرده است که میدان اصلی رقابت بین کشورهای آمریکا و چین است. مرکز پژوهش‌های مجلس اخیرا گزارشی با عنوان «بررسی نقش فناوری در رقابت نظامی قدرت‌های بزرگ» منتشر کرده که «فرهیختگان» بخش‌های مختلف آن را بازخوانی کرده است.

 

مچ‌اندازی چین و آمریکا بر سر قدرت فناوری
امروزه برتری در فناوری نقش اصلی به دست گرفتن قدرت را ایفا می‌کند اما ایجاد فناوری به‌تنهایی تضمین‌کننده برتری نیست و توسعه فناوری نوین بر ابعاد قدرت‌ها تاثیرگذار است. قدرت برتر در حوزه اقتصادی، نظامی و دیپلماسی در انحصار ایالات متحده آمریکا بوده تا اینکه برای اولین بار این برتری توسط چین تحت‌الشعاع قرار گرفت، با این حال نفوذ فرهنگی چین کمتر از آمریکاست اما سرعت رشد ظرفیت‌های اقتصادی و نظامی چین قابل توجه بوده گویی جهان در حال تبدیل شدن به دو بلوک اصلی آمریکا و چین است.

برتری در حوزه فناوری به طور مستقیم در قدرت کشورها به‌ویژه عرصه نظامی اثرگذار است و توسعه فناوری در این حوزه بخشی از سیاست‌های امنیت بین‌المللی بوده است. در این راستا آمریکا در تلاش برای ایجاد فاصله با سایر رقبا در حوزه فناوری در عرصه نظامی است. در این میان چین درصدد تضعیف ایالات متحده است و آمریکا با تکیه بر اتحادها و ائتلاف‌ها به دنبال حفظ برتری خود است.

 

افزایش 15 برابری بودجه R&Dچین طی 24 سال 
نقطه تمرکز هر دو کشور چین و آمریکا فناوری‌های مخرب است. همان‌قدر که ایالات متحده درصدد بهبود عملکرد شبکه تکنونظامی و برتری یافتن در این حوزه است و چین و روسیه در تلاش برای پیشرفت خود در این حوزه با هدف ایجاد اختلال و تضعیف عملکرد ایالات متحده و کسب مزیت برای کشورشان هستند در این راستا رقابت برای کسب فناوری در حوزه هوش مصنوعی و به کاربردن آن در توسعه تسلیحات نظامی مانند موشک‌های هایپرسونیک و اژدرها تا سال 2050 مورد تأکید بیشتری هستند.

هزینه‌ای که چین برای سرمایه‌گذاری در تحقیق و توسعه اختصاص داده از 19 میلیارد دلار در سال 1991 به 376 میلیارد دلار در سال 2015 رسیده و صدرنشین فناوری در حوزه‌هایی مانند فناوری کامپیوتر کوانتومی است و غول‌های فناوری بزرگی نظیر شیائومی و هوآوی را در خود گنجانده است.

به گفته مرکز امنیت آمریکای نوین، همسوسازی و یکپارچه‌سازی ظرفیت‌ها و منابع و اقدامات کشور از طریق همجوشی نظامی- غیرنظامی به منظور جبران فاصله موجود با ایالات متحده آمریکا، توسعه ظرفیت‌ها و بهبود توان انجام جنگ سیستم‌ها به معنی فرماندهی و کنترل آمریکا از طریق توسعه فناورانه، کسب توانمندی انجام حمله اول از طریق موشک‌های هدایت‌شونده دقیق دوربرد و سیستم‌های هدف‌گیری پیشرفته با احتمال بالای نفوذ به سیستم‌ها و شبکه‌های دفاعی ایالات متحده، کسب جایگاه نخست جهان در حوزه هوش مصنوعی و استفاده از آن جهت کسب برتری نظام ازجمله سیاست‌های ایده همجوشی نظامی و غیرنظامی چین است. چین در 30 سال گذشته توانمندی‌های خود را برای مقابله با آمریکا به کار گرفته و در تلاش برای کسب تسلط فناورانه نسبت به آمریکا، مغلوب کردن سیستم‌های این کشور و همچنین تلفیق بخش‌های نظامی و غیرنظامی است.

اولویت چین فناوری‌هایی است که بیشترین نقش را در مقابله با توانمندی‌های نظامی ایالات متحده خواهند داشت. بنابراین پکن علاوه‌بر ایجاد موازنه دربرابر فناوری‌های آمریکا به دنبال فراتر رفتن از آن یا به تعبیر دکتر جارد مک‌کنی رسیدن به «مزیت اقدام‌کننده اول» است. در 28 مه 2021، رئیس‌جمهور چین اعلام کرد این کشور قصد تبدیل شدن به قدرت مسلط از طریق نوآوری و تسلط بر فناوری و توسعه را دارد.

 

هوش مصنوعی؛ شاه‌کلید پیشرفت  نظامی  
اکنون تمرکز چین روی ترکیب و ادغام مواردی همچون جنگ الکترونیکی، هوش مصنوعی و محاسبات کوانتومی است تا بتواند بیشترین هزینه و فشار را بر نیروی هوایی ایالات متحده فراهم کرده و از این طریق پیامی با مفهوم فلج کردن ستون فقرات شیوه نبرد آمریکا ارسال کند. بر این اساس آمریکا نیز در حال کاهش وابستگی به توانمندی‌های معمول و افزایش سرمایه‌گذاری بر فناوری‌های انقلابی و نوین به منظور کسب مزیت نسبت به چین است.میزان سرمایه‌گذاری چین در تحقیق و توسعه به حدی بود که بودجه آن از سال 2000 تا سال 2021 بیش از 100 میلیارد دلار افزایش داشته است. این کشور در سال 2019 مبلغ 525.7 میلیارد دلار در این حوزه سرمایه‌گذاری کرده که اگرچه نسبت به ایالات متحده آمریکا 668.4 میلیارد دلار هنوز کمتر است، اما نسبت رشد آن بیشتر از ایالات متحده می‌باشد.

اما نکته حائز اهمیت آن است که 74.5 درصد از هزینه صرف‌شده در آمریکا مربوط به بخش خصوصی است و ارتباط چندانی با بخش دفاعی ندارد، برعکس در چین تمامی هزینه منطبق با رفع نیازمندی‌های همجوشی نظامی- غیرنظامی بوده و فارغ از تاکید بر کاربردهای نظامی یا غیرنظامی است،  با این حال چین در رتبه‌های پایین‌تری نسبت به آمریکا و روسیه است. مهم‌ترین حوزه‌های فناورانه برای بخش نظامی شامل نیمه‌هادی‌ها و هوش مصنوعی است از نیمه‌هادی‌ها به عنوان ناجی اقتصاد مدرن نام می‌برند و بخش حیاتی از محصولاتی مانند گوشی‌های هوشمند، هواپیماها یا وسایل خانگی را شامل می‌شود. در این راستا کمپانی TSMC حدود 40 میلیارد دلار برای کارخانه نیمه‌هادی جدید در آریزونا هزینه کرده و دولت آمریکا نیز 280 میلیارد دلار برای این بخش اختصاص داده است.

هوش مصنوعی هم که بخشی از فناوری‌های نوظهور است جدی‌ترین تأثیر را بر حوزه‌های مرتبط با قدرت و امنیت و دفاع ملی داراست و به گفته پوتین «هرکسی در هوش مصنوعی رهبری کند، بر جهان حکومت خواهد کرد.» هوش مصنوعی در مباحث نظامی دارای کاربرد بسیار ازجمله جمع‌آوری داده، تحلیل اطلاعات، تشخیص هدف و بهبود تصمیم‌گیری است.

ایالات متحده در دهه پیش رو به دنبال حفظ نقش رهبری خود از طریق بازدارندگی یکپارچه، کمپین‌سازی و ایجاد مزیت‌های پایدار است و آگاه است که این امر محقق نمی‌شود مگر با برتری در حوزه فناوری و نوآوری. بر همین اساس، سند راهبرد دفاع ملی آمریکا در سال 2022 و سایر اسناد دیگر نظامی- فناورانه آن نظیر راهبرد فناورانه و علم دفاعی ملی، راهبرد صنعتی دفاعی ملی، راهبرد داده‌ها، تجزیه وتحلیل و استراتژی پذیرش هوش مصنوعی و تحقق بازدارندگی یکپارچه به عنوان شاکله اصلی راهبرد دفاعی ایالات متحده است.

درخصوص هوش مصنوعی نیز سرمایه‌گذاری وزارت دفاع آمریکا در لایحه بودجه سال 2024 به رقمی حدود 1.8 میلیارد دلار به منظور انجام بیش از 685 پروژه فعال در این حوزه رسید. پنتاگون در همین سال رقمی معادل 1.4 میلیارد دلار نیز برای توسعه و آزمایش ابتکارات مرتبط به فرماندهی و کنترل همه حوزه‌ها به منظور ایجاد شبکه‌ای با تکیه بر هوش مصنوعی میان کلیه توانمندی‌ها و دارایی‌های نظامی ایالات متحده درخواست کرد.

حجم قراردادهای پنتاگون درخصوص هوش مصنوعی از 261 میلیون دلار در اوت 2022 به 675.3 میلیون دلار در اوت 2023 رسید.  وزارت دفاع  آمریکا در سال 2019 مرکز مشترک هوش مصنوعی ایجاد کرد که این روند در سال 2021 منجر به شکل‌گیری دفتر هوش مصنوعی و دیجیتال به منظور تقویت تحقق برنامه‌های مرکز مشترک شد. چین نیز که نزدیک‌ترین رقبای آمریکاست در سال 2017 طرح توسعه هوش مصنوعی نسل بعدی را رونمایی کرد که در آن فناوری به عنوان یک کالای راهبردی و محل رقابت بین‌المللی شناخته شد.

ایران نیز در سطح نظام بین‌الملل نیازمند راهبرد مخصوص به خود است، به‌ویژه با توجه به محیط امنیتی خاصی که پیرامون آن قرار دارد. تشکیل مرکز ملی هوش مصنوعی، شورای راهبری هوش مصنوعی در کشور و مانور بر موضوعات فناوری در شعارهای انتخاباتی کاندیداهای ریاست‌جمهوری نشان از درک اهمیت این موضوع دارد و پیشنهادهایی ازجمله ایجاد راهبرد و الگوی بومی تحقیق و توسعه فناورانه نظامی با تأکید بر محصولات دارای کاربرد دوگانه، تعیین اولویت‌های فناورانه نظامی، تقویت تاب‌آوری و پویایی فناورانه بخش نظامی و توجه به دیجیتالی کردن سیستم‌های نظامی تاکتیکی، تقویت همکاری‌ها و گفت‌وگوهای فناورانه منطقه‌ای، جذب، آموزش و حفظ استعدادها و متخصصان و توجه به نیازمندی‌های خاص فناوری در محیط نظامی و امنیتی کنونی در کنار بودجه‌ریزی مناسب در حوزه فناوری نوین مطرح است. 

دانشگاه‌های چین در راستای اجرای برنامه‌های دولت برای توسعه هوش مصنوعی دست به اقداماتی عجولانه زدند.
به گزارش ایسکانیوز، دانشگاه‌های چین در راستای توجه ویژه دولت این کشور به هوش مصنوعی، آموزش‌های دانشگاهی این حوزه را توسعه داده است. به طوری که برخی کارشناسان معتقدند عجله دانشگاه‌های چینی در گسترش هوش مصنوعی به کیفیت آموزش‌ها لطمه خواهد زد.

رتبه‌بندی موضوعی شانگهای (ARWU) در سال ۲۰۲۴ بیش از ۸۰۰ رشته در هزار و ۲۰۰ موسسه آموزشی را بررسی کرد. بر اساس این رتبه‌بندی، ۲۶۸ دانشگاه چینی در رشته هوش مصنوعی دانشجو می‌پذیرند که در مقایسه با سال قبل ۲۴۸ دانشگاه افزایش یافته است. از این تعداد فقط ۱۰ دانشگاه موفق شدند در ۲۵ شاخص رتبه‌بندی مانند نسبت استاد به دانشجو و نرخ اشتغال فارغ‌التحصیلان نمره A+ را به دست بیاورند. این دانشگاه‌ها شامل دانشگاه تسینگهوا (Tsinghua)، دانشگاه شانگهای جیائوتنگ، دانشگاه نانجینگ، دانشگاه زیدیان، دانشگاه ژجیانگ، دانشگاه علم و فناوری چین، دانشگاه علوم و فناوری الکترونیک چین می‌شود.

کارشناسان بر این باورند که دانشگاه‌های چینی برای اجرای برنامه‌های توسعه هوش مصنوعی دولت، عجله کرده‌اند. پیش‌تر هم دولت چین در سال ۲۰۱۸ برنامه اقدام نوآورانه برای هوش مصنوعی در موسسات آموزش عالی را اعلام کرد. این برنامه مسیر توسعه رشته هوش مصنوعی در دانشگاه‌ها را مشخص می‌کرد و بر اساس آن، انتظار می‌رفت دانشگاه‌ها تا سال ۲۰۲۵ توانایی‌های خود در زمینه علم، فناوری و کیفیت آموزش برای نسل جدید هوش مصنوعی را ارتقا دهند.

دانشگاهیان در چین معتقدند که دانشگاه‌ها منابع آموزشی لازم برای ارائه این برنامه‌ها را ندارند. فقط برخی دانشگاه‌های برتر در حوزه علوم رایانه می‌توانند از رشته‌های هوش مصنوعی در مقطع کارشناسی پشتیبانی کنند. با این حال، نشانه‌هایی وجود دارد که دانشگاه‌ها اکنون در حال برداشتن گام‌هایی برای بهبود برنامه درسی هوش مصنوعی با تقویت ارتباطات صنعتی هستند.

اگر برنامه‌های درسی هوش مصنوعی بهبود پیدا کنند، دانشگاه‌ها می‌توانند تقاضای واقعی بازار را در آموزش و محتوای دوره منعکس کنند. از سوی دیگر، قرار گرفتن شکلگیری ارتباط با صنعت به پر کردن شکاف‌ها در بسیاری از حوزه‌ها کمک می‌کند. به عنوان مثال، کمبود واحدهای پردازش گرافیکی یا پردازنده‌های گرافیکی مورد استفاده برای محاسبات پیشرفته مانند هوش مصنوعی، در نتیجه تحریم‌های آمریکا بر صادرات تراشه‌های نیمه هادی با کارایی بالا به چین، همچنان به شدت احساس می‌شود.

همچنین دولت چین نقش دانشگاه‌ها را در توسعه استعدادهای هوش مصنوعی، از جمله تمرکز بر بهبود کیفیت رشته‌های هوش مصنوعی، افزایش داده است. برای مثال ماه گذشته، وزارت آموزش و پرورش از سرعت بخشیدن به تلاش‌ها برای گنجاندن هوش مصنوعی در برنامه درسی دانشگاه خبر داد.

به علاوه دانشگاه تسینگهوا در پکن و ۱۴ دانشگاه دیگر بخشی از یک کمیته مشورتی هستند که شامل موسسات تحقیقاتی علمی، شرکت‌های فناوری چینی و دو موسسه انتشاراتی است که وظیفه تعیین محتوای مجموعه جدیدی از دوره‌های اصلی هوش مصنوعی را بر عهده دارند. انتشار کتاب‌های درسی، راه‌اندازی پروژه‌های عملی، پرورش تیم جدیدی از معلمان و ایجاد تجربه در ادغام صنعت و آموزش از جمله اقدامات این دانشگاه‌ها است.

معاون علمی رئیس جمهور طی سخنانی در جلسه فوق‌العاده کارگروه هوش مصنوعی از آغاز مطالعات تطبیقی قوانین هوش مصنوعی دنیا در راستای تدوین قوانین کارآمد و شفاف در این حوزه در کشور خبر داد.

به گزارش معاونت علمی، فناوری و اقتصاد دانش بنیان ریاست جمهوری، هدف از برگزاری این جلسه که ۱۷ شهریورماه در محل معاونت علمی برگزار شد، طرح مساله در حوزه حکمرانی هوش مصنوعی بود.

افشین گفت: هدف از برگزاری این جلسه، رسیدن به یک منظومه فکری مشخص است، اگر منظومه مشخصی وجود داشته باشد، در آن صورت هر حرکت و اقدامی قابل پیش بینی است البته این به معنای متصلب بودن این منظومه نیست و به دلیل جنس دانش این حوزه، باید امکان به روز رسانی وجود داشته باشد؛ به تعبیری در عین داشتن الگو باید پویایی مسیر را هم حفظ کنیم.

معاون علمی رئیس جمهور همچنین بر اهمیت داشتن هدف و چشم انداز در این حوزه تاکید کرد و افزود: گاهی ما در حوزه ای علمی هدف گذاری می کنیم بدون اینکه مطالعه ای در زمینه تولید و نشر و توسعه آن علم داشته باشیم و ممکن است موضعی را مد نظر قرار دهیم که اساسا محلی از اعراب نداشته باشد. از این رو، اینکه چه زمانی رگولاتوری کنیم، اهمیت بالایی دارد.

وی تاکید کرد: اگر ما درست کدگذاری کرده و این شبکه را بسازیم، آن موقع همه چیز در پلتفرم خود ما ساخته می شود.

افشین در بخش دیگری از صحبت های خود بر اهمیت قانون گذاری تاکید کرد و گفت: انجام یک مطالعه تطبیقی بر قوانینی که در دنیا در حوزه هوش مصنوعی وضع شده است به تیمی که در این فضا تحقیقات می کنند، محول شده است تا بررسی کنیم هر کدام از قوانین چه محدودیت ها و چه فرصت هایی را می تواند برای ما به همراه داشته باشد.

وی با اشاره به نقش تسهیلگری معاونت علمی و سازمان ملی هوش مصنوعی در اکوسیستم هوش مصنوعی گفت: وزارت ارتباطات به واسطه داشتن زیرساخت، شورای عالی فضای مجازی به دلیل داشتن داده و دانشگاه ها هم به دلیل داشتن نیروی انسانی ذی نفع محسوب می شوند این سه بخش به همراه اکوسیستم، چهار بازیگری هستند که در این عرصه کنشگری می کنند و معاونت علمی قرار است در این حوزه مفصلی بین حاکمیت و این بخش ها باشد. سازمان ملی هوش مصنوعی و معاونت علمی فناوری در این زیست بوم بازیگر نیستند، بلکه به عنوان تسهیل گر تلاش داریم ظرفیت های حاکمیتی را در پیشبرد بهتر امور به کار گیریم.

در ادامه این جلسه هر کدام از حاضران که به نوعی در زیست بوم هوش مصنوعی فعالیت دارند به بیان نقطه نظرات خود در شکل دهی به این منظومه فکری در حوزه هوش مصنوعی پرداختند.

ندا اظهری، مترجم: این روزها اخبار را که جست‌وجو می‌کنید در هر کجا نام هوش مصنوعی را می‌بینید و کمتر خبری را به‌ویژه در حوزه فناوری می‌توانید بیابید که حرف و سخنی از هوش مصنوعی نداشته باشد و به‌نوعی از زندگی روزمره ما انسان‌ها جدا نیست؛ اطلاعاتی که دریافت می‌کنیم، انتخاب‌هایی که انجام می‌دهیم و شیوه‌های عملکرد جوامع ما، همه و همه متاثر از فناوری نوظهوری به نام هوش مصنوعی است که گاهی حتی تشخیص درست را از غلط برای ما دشوار کرده است. هوش مصنوعی در سال‌های آینده نقش مهم‌تری در چگونگی عملکرد دولت‌ها و نهادهای دولتی و چگونگی تعامل و مشارکت شهروندان در فرآیند دموکراتیک خواهد داشت. هوش مصنوعی هم مزایا و هم خطرات را به همراه دارد.

 

معاهده هوش مصنوعی امضا شد
به گزارش رویترز، در خبری که طی روزهای گذشته منتشر شد سازمان حقوق بشر شورای اروپا اعلام کرد نخستین معاهده بین‌المللی الزام‌آور هوش مصنوعی روز پنجشنبه در «لیتوانی» به امضای اتحادیه اروپا، انگلیس و آمریکا رسید و سه ماه پس از زمان امضا، لازم‌الاجرا خواهد شد. کنوانسیون هوش مصنوعی سال‌هاست که در دست پیگیری است و در ماه می ‌پس از گفت‌وگوهای متعدد بین 57 کشور به تصویب رسید. این معاهده خطراتی را مورد توجه قرار می‌دهد که هوش مصنوعی در کنار ترویج نوآوری ممکن است ایجاد کند. وزیر دادگستری انگلیس در بیانیه‌ای این کنوانسیون را گامی بزرگ برای اطمینان از این موضوع عنوان کرد که چنین فناوری‌های جدیدی می‌توانند بدون از بین بردن قدیمی‌ترین ارزش‌های ما مانند حقوق بشر و حاکمیت قانون مهار شوند. کنوانسیون هوش مصنوعی عمدتا بر حمایت از حقوق بشر تحت تاثیر سیستم‌های هوش مصنوعی متمرکز بوده و جدا از قانون هوش مصنوعی اتحادیه اروپاست که ماه گذشته لازم‌الاجرا شد. قانونی که کشورهای غیراتحادیه اروپا قادر به امضای آن نبودند. قانون هوش مصنوعی اتحادیه اروپا مستلزم اجرای مقررات جامعی پیرامون توسعه، استقرار و استفاده از سیستم‌های هوش مصنوعی در بازار داخلی اتحادیه اروپاست. شورای اروپا که در سال 1949 تاسیس شد یک سازمان بین‌المللی متمایز از اتحادیه اروپاست که وظیفه آن حفاظت از حقوق بشر است. 46 کشور از جمله تمام 27 کشور عضو اتحادیه اروپا عضو این شورا هستند. یک کمیته موقت در سال 2019 شروع به بررسی و آغاز روندی کرد که امکان‌پذیری یک کنوانسیون دریاره چهارچوب هوش مصنوعی را ایجاد کرد. از این رو، کمیته‌ای برای هوش مصنوعی تشکیل شد. کشورهای امضاکننده این معاهده قادرند تصمیم بگیرند اقدامات قانونی، اداری یا سایر اقدامات را برای اجرای مقررات اتخاذ یا حفظ کنند. تدوین اصول و تعهدات در این کنوانسیون به قدری گسترده و مملو از اخطارهاست که سوالات جدی را درمورد قطعیت حقوقی و قابلیت اجرایی موثر آنها ایجاد می‌کند. چهارچوب‌ها به این ترتیب است که جامعه حفاظت از داده‌ها، حقوقدانان فناوری و کارشناسان هوش مصنوعی اکنون وظیفه حیاتی دارند که به‌طور گسترده‌ای به فراسوی مرزهای منطقه‌ای نگاه کنند تا دیدگاهی جامع از چهارچوب‌های قانونی با هدف تنظیم هوش مصنوعی داشته باشند. گاردین هم در گزارشی که درمورد این خبر منتشر کرده، نوشت: «دولت بریتانیا اولین معاهده بین‌المللی هوش مصنوعی را امضا کرده است که هدف آن جلوگیری از سوءاستفاده از این فناوری، مانند انتشار اطلاعات غلط یا استفاده از داده‌های مغرضانه در فرآیند تصمیم‌گیری‌هاست.» براساس این توافقنامه قانونی کشورها باید تدابیری را در برابر هرگونه تهدیدی که هوش مصنوعی علیه حقوق بشر، دموکراسی و حاکمیت قانونی ایجاد می‌کند، اعمال کنند. این معاهده که «کنوانسیون چهارچوب هوش مصنوعی» هم نامیده می‌شود توسط شورای اروپا به‌عنوان یک سازمان بین‌المللی حقوق بشر تنظیم شده و روز پنجشنبه در چند کشور به امضا رسید. وزیر دادگستری انگلیس معتقد است که هوش مصنوعی توانایی بهبود اساسی خدمات عمومی و رشد سریع اقتصادی را دارد اما باید بدون تاثیرگذاری بر حقوق اولیه بشر، آن را پذیرفت. 

 

هدف از کنوانسیون چهارچوب هوش مصنوعی چیست؟
طبق گفته شورای اروپا، هدف از تشکیل کنوانسیون چهارچوب هوش مصنوعی پر کردن هرگونه شکافی است که احتمالا از پیشرفت سریع فناورانه حاصل شود. پیشرفت‌های اخیر در حوزه هوش مصنوعی می‌توانند وظایفی را مانند یادگیری و حل مساله انجام دهند که معمولا با موجودات هوشمند مرتبطند و فرآیندی نظارتی را در دنیا به راه انداخته است تا نقص‌های بالقوه این فناوری را کاهش دهد. این بدان معناست که مجموعه‌ای از مقررات و توافقنامه‌های تصویب شده‌ این فناوری را پوشش می‌دهند. از قانون هوش مصنوعی اتحادیه اروپا گرفته تا بیانیه‌ای که در سال گذشته در نشست افتتاحیه جهانی ایمنی هوش مصنوعی امضا شد. توافقی که دو روز گذشته امضا شد تلاشی برای ایجاد یک چهارچوب جهانی بود. این معاهده بیان می‌کند که سیستم‌های هوش مصنوعی باید از مجموعه اصولی پیروی کنند، از جمله حفاظت از داده‌های شخصی، عدم تبعیض، توسعه ایمن و کرامت انسانی؛ درنتیجه انتظار می‌رود دولت‌ها تدابیری مانند جلوگیری از نشر اطلاعات نادرست و غلط توسط هوش مصنوعی و جلوگیری از آموزش داده‌های مغرضانه به سیستم‌ها را معرفی کنند که می‌تواند منجر به تصمیم‌گیری‌های نادرست در موقعیت‌هایی چون برنامه‌های شغلی شود. درواقع، اهمیت چهارچوب کنوانسیون در محدوده و محتوای آن است. علاوه‌بر تعهدات دولتی برای احترام و حمایت از حقوق بشر، هدف آن ایجاد یک رویکرد مبتنی‌بر ریسک برای تنظیم هوش مصنوعی و تعدادی از اصول مشترک مربوط به فعالیت‌ها در کل چرخه حیات سیستم‌های هوش مصنوعی است که اصول کلی آن از جمله احترام به کرامت انسانی، شفافیت و نظارت، مسئولیت‌پذیری، عدم تبعیض و حفظ حریم خصوصی و داده‌های شخصی است. کشورهای عضو چهارچوب کنوانسیون باید اقدامات قانونی و اداری مناسبی اتخاذ کنند که به مفاد این سند در قوانین داخلی خود عمل کنند. به این ترتیب چهارچوب کنوانسیون این پتانسیل را دارد که بر تلاش‌های ملی و منطقه‌ای جاری برای طراحی و تصویب قوانین الزام‌آور هوش مصنوعی تاثیر بگذارد  و ممکن است برای پیشبرد قابلیت همکاری در موقعیت به‌طور منحصربه‌فردی قرار گیرد. 

 

چه کسانی تحت حمایت این معاهده قرار خواهند گرفت؟
این معاهده استفاده از هوش مصنوعی توسط مقامات دولتی و بخش خصوصی را پوشش می‌دهد. هر شرکت یا ارگانی که از سیستم‌های هوش مصنوعی مرتبط استفاده می‌کند باید تاثیر بالقوه خود را بر حقوق بشر، دموکراسی و حاکمیت قانون ارزیابی کند و این اطلاعات را در دسترس عموم قرار دهد. مردم باید بتوانند تصمیمات اتخاذشده توسط سیستم هوش مصنوعی را به چالش بکشند و بتوانند شکایت خود را به مقامات ارائه کنند. همچنین باید به کاربران سیستم‌های هوش مصنوعی اطلاع داده شود که با یک هوش مصنوعی سروکار دارند نه یک انسان. همچنین این معاهده استفاده از سیستم‌های هوش مصنوعی توسط مقامات دولتی مانند NHS و شرکت‌های خصوصی فعال در حوزه قضایی را پوشش می‌دهد. این قانون برای فعالیت‌های مربوط به امنیت ملی، مسائل دفاعی ملی، یا تحقیق و توسعه اعمال نمی‌شود مگر اینکه پتانسیل تداخل با حقوق بشر، دموکراسی یا حاکمیت قانونی داشته باشند. به گفته دولت انگلیس، این معاهده برای تقویت قوانین و اقدامات فعلی مانند قانون ایمنی آنلاین موثر خواهد بود. 

 

انگلیس چگونه به این معاهده پایبند خواهد بود؟
اکنون انگلیس باید ببیند که آیا مفاد مختلف آن تحت پوشش قوانین موجود- مانند دادگاه اروپایی حقوق بشر و سایر قوانین حقوق بشری قرار می‌گیرد یا خیر. دولت در حال انجام رایزنی درمورد لایحه جدید هوش مصنوعی است. دولت انگلیس اعلام کرده این معاهده در انگلیس به تصویب رسیده و اجرایی شده و قوانین و اقدامات فعلی تقویت خواهند شد. از نظر اعمال تحریم‌ها این کنوانسیون به مقاماتی اشاره می‌کند که می‌توانند استفاده‌های خاصی را از هوش مصنوعی ممنوع کنند. به‌عنوان مثال، قانون هوش مصنوعی اتحادیه اروپا سیستم‌هایی را ممنوع می‌کند که از پایگاه‌های اطلاعاتی تشخیص چهره تصاویر گرفته‌شده از دوربین‌های مداربسته یا اینترنت استفاده می‌کنند. همچنین سیستم‌هایی که انسان‌ها را براساس رفتار اجتماعی آنها دسته‌بندی می‌کنند، منع می‌کند. این معاهده در عین حال که هوش مصنوعی را تنظیم می‌کند، همچنان پیشرفت و نوآوری آن را نیز ارتقا می‌دهد. دولت انگلیس تلاش کرده تا این تعادل را در اقدامات خود حفظ کند. از برخی جهات دولت پیشنهاد کرده که در محدودیت توسعه‌دهندگان هوش مصنوعی سختگیرانه عمل خواهد کرد. انگلیس همچنین نخستین موسسه ملی ایمنی هوش مصنوعی را در نوامبر 2023 با اهداف اصلی ارزیابی سیستم‌های هوش مصنوعی فعلی، انجام تحقیقات پایه ایمنی هوش مصنوعی و به‌اشتراک‌گذاری اطلاعات با سایر فعالان ملی و بین‌المللی تاسیس کرد. سپس در آوریل امسال دولت‌های انگلیس و آمریکا توافق کردند که روی توسعه آزمایش‌های ایمنی برای مدل‌های پیشرفته هوش مصنوعی با یکدیگر همکاری کنند و برنامه‌هایی را پیش ببرند که توسط موسسه‌های ایمنی هوش مصنوعی مسائل مربوط به آنها انجام شده است. 

 

معاهده هوش مصنوعی چه چیزی را تضمین می‌کند؟
به گزارش firstpost، علاوه‌بر آمریکا، انگلیس و اتحادیه اروپا، گروه‌های مختلفی از کشورها از قبیل آندورا، گرجستان، ایسلند، نروژ، مولداوی، سن‌مارینو و رژیم‌صهیونیستی نیز این معاهده را امضا کرده‌اند. چند کشور غیرعضو مانند آرژانتین، استرالیا، ژاپن و مکزیک نیز در تهیه پیش‌نویس این معاهده مشارکت داشته‌اند و انتظار می‌رود به‌زودی آن را امضا کنند. مشارکت گسترده بین‌المللی، اهمیت جهانی این معاهده را برجسته می‌کند و فراتر از قانون اخیر هوش مصنوعی اتحادیه اروپاست. الزامات این معاهده بر سیستم‌های هوش مصنوعی بخش دولتی و خصوصی اعمال می‌شود. توسعه‌دهندگان هوش مصنوعی باید اطمینان حاصل کنند که سیستم‌های آنها با تعهدات حفاظت از حقوق بشر سازگاری دارند. فرآیندهای دموکراتیک مانند استقلال قضایی و تفکیک قوا، نباید توسط برنامه‌های کاربردی هوش مصنوعی به‌خطر بیفتد. علاوه‌بر این، معاهده الزام می‌کند که اقداماتی برای حفاظت از بحث دولتی و نظارت فردی در زمینه سیستم‌های مبتنی‌بر هوش مصنوعی اجرایی شود. به‌عنوان یک معاهده باز این سند می‌تواند کشورهای بیشتری را در خود جای دهد و همکاری جهانی در زمینه حکمرانی هوش مصنوعی را ترغیب می‌کند. اما درکنار همه مواردی که معاهده هوش مصنوعی بر آن الزام دارد، به‌رغم اهداف بلندپروازانه‌اش، معافیت‌های قابل‌توجهی در محدوده آن نیز وجود دارد. سیستم‌های هوش مصنوعی که برای امنیت ملی یا اهداف تحقیق و توسعه استفاده می‌شوند، مانند سایر بخش‌ها مورد بررسی قرار نمی‌گیرند. این امر به‌ویژه در میان گروه‌های جامعه مدنی مانند مرکز اروپایی قانون غیرانتفاعی (ECNL) نگرانی‌هایی را برانگیخته است. یکی از کارشناسان حقوقی این مرکز اظهار داشته این معاهده در مجموعه‌ای از اصول با اخطارهای بیش از حد گسترده تجزیه شده است که قابلیت اجرایی آن را محدود می‌کند. تدوین اصول و تعهدات در این کنوانسیون به‌قدری گسترده و مملو از اخطارهاست که سوالات جدی در مورد اطمینان حقوقی و قابلیت اجرایی شدن موثر آنها را ایجاد می‌کند. درست است که این معاهده به‌عنوان یک توافق قانونی الزام‌آور مورد استقبال قرار گرفته، اما منتقدان عنوان کرده‌اند این معاهده فاقد مقرراتی برای تحریم‌های تنبیهی مانند جریمه است. انطباق ایجادشده عمدتا از طریق مکانیسم‌های نظارتی تضمین می‌شود که برخی استدلال می‌کنند ممکن است قدرت اجرایی کافی را ارائه ندهند با وجود این، معاهده به‌عنوان نخستین گام مهم در ایجاد یک رویکرد جهانی منسجم برای مقررات هوش مصنوعی در نظر گرفته می‌شود و امضای آن با سایر تلاش‌های جهانی برای تنظیم مقررات هوش مصنوعی همزمان است. اینها شامل قانون هوش مصنوعی اتحادیه اروپا هستند که ماه گذشته اجرایی شدند؛ پیمان هوش مصنوعی G7 که در اکتبر 2023 مورد توافق قرار گرفت و بیانیه‌ای با عنوان «بلچلی» که از سوی 28 کشور ازجمله چین و آمریکا در نوامبر 2023 امضا شد. قانون هوش مصنوعی اتحادیه اروپا بحث‌برانگیز بوده، به‌طوری‌که برخی شرکت‌ها مانند متا تصمیم گرفتند به‌دلیل قوانین سختگیرانه، آخرین محصولات هوش مصنوعی خود را در منطقه عرضه نکنند. معاون ارزش‌ها و شفافیت کمیسیون اروپا، خوشبینی خود را نسبت به نفوذ گسترده‌تر این معاهده ابراز کرد. چهارچوب جدید گام‌های مهمی را برای طراحی، توسعه و استفاده از برنامه‌های کاربردی هوش مصنوعی تعیین می‌کند که باید اعتماد و اطمینان‌خاطر را به‌ارمغان آورد که نوآوری‌های هوش مصنوعی به ارزش‌های ما مانند حفاظت و ارتقای حقوق بشر، دموکراسی و حاکمیت قانون احترام می‌گذارد. اما آنچه در این معاهده جلب توجه می‌کند عدم حضور چین به‌عنوان یکی از قدرت‌های کنونی دنیا در زمینه هوش مصنوعی است که خلأ آن احساس می‌شود. 
فایننشال‌تایمز در گزارشی که به‌دنبال امضای معاهده هوش مصنوعی منتشر کرده، عنوان کرده این چهارچوب جدید مورد توافق شورای اروپا، طرفین را متعهد به اقدامی جمعی برای مدیریت محصولات هوش مصنوعی و محافظت از مردم دربرابر سوءاستفاده‌های احتمالی این فناوری نوظهور می‌کند. این توافقنامه در شرایطی امضا شد که انتظارات زیادی از سوی دولت‌ها وجود داشت؛ دولت‌هایی که هوش مصنوعی را به چشم ابزاری برای بالا بردن بهره‌وری تولید نگاه می‌کنند و به‌عنوان مثال نرخ تشخیص سرطان را افزایش می‌دهند. این درحالی است که همچنان نگرانی‌ها در مورد صنعت و بی‌دقتی‌های موجود در این عرصه وجود دارد. در بعد نظارتی، هنوز این نگرانی وجود دارد که تصمیم‌گیری خودکار مغرضانه ایجاد کند. درحالی‌که کنگره آمریکا هیچ چهارچوب گسترده‌ای را برای مقررات هوش مصنوعی تصویب نکرده، قانونگذاران در کالیفرنیا- که بسیاری از استارتاپ‌های هوش مصنوعی در آنجا مستقرند- در هفته گذشته این کار را انجام دادند. این لایحه که در این صنعت اختلاف‌نظر دارد، در انتظار امضای فرماندار ایالت است. مقررات اتحادیه اروپا که ماه گذشته به اجرا درآمد، اولین قانون منطقه‌ای مهم بود، به‌عنوان مثال شرکتی مانند متا از عرضه آخرین محصول خود در اتحادیه اروپا به همین دلیل خودداری کرد. اگرچه قانون هوش مصنوعی اتحادیه اروپا تلاشی در جهت ایجاد سابقه‌ برای سایر کشورها تلقی می‌شود، امضای معاهده جدید رویکردی منسجم‌تر و بین‌المللی را نشان می‌دهد. (فرهیختگان)