هوش مصنوعی بانک‌های ایران را خاموش می‌کند؟
اگرچه این رسانه که اخبار اسرائیل، خاورمیانه، سیاست، امنیت، دیپلماسی و جامعه یهودیان در جهان را عمدتاً به زبان انگلیسی و همچنین عبری، عربی، فارسی و فرانسوی پوشش می‌دهد در بخش وبلاگ خود از مطالب منتشر شده در این بخش سلب مسوولیت کرده است. اما متن کامل این مقاله به شرح زیر است:
اوایل این ماه، وو ترن، پژوهشگر سابق آزمایشگاه‌های ابرهوش متا، ادعایی خارق‌العاده مطرح کرد. او نوشت: «اگر OpenAI امروز بخواهد یک کشور را به‌طور کامل فلج کند، به‌راحتی می‌تواند.»
ترن استدلال کرد که حذف سازوکارهای حفاظتی، هم‌راستا‌سازی و آزاد کردن انبوهی از عامل‌های هوش مصنوعی می‌تواند به آنها اجازه دهد به زیرساخت‌های دیجیتال نفوذ کنند و خدمات حیاتی را ظرف حدود یک روز از کار بیندازند.
اگرچه او هیچ نمایش عمومی از چنین قابلیتی ارائه نکرد. اما اظهارنظر او پرسشی را مطرح می‌کند که نادیده گرفتنش روزبه‌روز دشوارتر می‌شود: اگر هوش مصنوعی به نقطه‌ای نزدیک شده باشد که دیگر صرفاً ابزاری برای جنگ سایبری نباشد، بلکه به یک تقویت‌کننده خودمختار قدرت تبدیل شود که بتواند پیامدهای اقتصادی‌ای ایجاد کند که پیش‌تر تنها از طریق تحریم، محاصره یا اقدام نظامی امکان‌پذیر بود، چه؟
ایران نمونه‌ای نگران‌کننده برای بررسی این احتمال است.
هفت ماه پیش، درست پیش از آغاز جنگ در ۲۸ فوریه، پنتاگون و Anthropic درگیر رویارویی کم‌سابقه‌ای بر سر نحوه استفاده ارتش آمریکا از Claude شدند. پنتاگون می‌خواست Anthropic اجازه دهد مدل‌هایش برای «تمام اهداف قانونی» مورد استفاده قرار گیرند. اما Anthropic از حذف دو محدودیت مربوط به نظارت گسترده داخلی و تسلیحات کاملاً خودمختار خودداری کرد.
عامل‌های هوش مصنوعی وارد جنگ سایبری می‌شوند
جزئیات دیگری نیز وجود داشت که توجه بسیار کمتری به آن شد. Claude پیش از آن به‌طور گسترده در محیط‌های طبقه‌بندی‌شده امنیت ملی آمریکا مستقر شده بود. خود Anthropic، تحلیل اطلاعاتی، مدل‌سازی و شبیه‌سازی، برنامه‌ریزی عملیاتی و عملیات سایبری را در میان کاربردهای حیاتی این سامانه برشمرده بود. پیش از آغاز این جنگ، هوش مصنوعی پیشرفته در ساختار امنیت ملی آمریکا، از جمله در عملیات سایبری، فعال بود.
سپس نوبت به خبر جنجالی Hugging Face رسید. در ماه ژوئیه، OpenAI در حال انجام ارزیابی‌های امنیت سایبری بود که در جریان آن چندین مدل با سازوکارهای حفاظتی کاهش‌یافته فعالیت می‌کردند.
قرار بود عامل‌ها در محیط‌های کنترل‌شده فعالیت کنند، اما بر اساس بررسی بعدی OpenAI، آنها از کنترل‌ها عبور کردند، از کانال‌های غیرمجاز با یکدیگر ارتباط برقرار کردند، از آسیب‌پذیری‌های موجود در زیرساخت مشترک سوءاستفاده کردند، به اینترنت دسترسی یافتند و به سامانه‌های متعلق به طرف‌های ثالث رسیدند. OpenAI به این نتیجه رسید که مدل‌هایش به اندازه‌ای قدرتمند، پایدار و هماهنگ شده‌اند که بدون سازوکارهای حفاظتی کافی، می‌توانند نقاط ضعف موجود در چندین سامانه رایانه‌ای را پیدا کرده و از آنها بهره‌برداری کنند.
این رویداد نکته مهمی را درباره عامل‌های هوش مصنوعی نشان داد. آنها می‌توانند اقدام کنند، به فعالیت خود ادامه دهند، مسیرهایی را کشف کنند که طراحانشان قصد استفاده از آنها را نداشته‌اند و در برخی شرایط، اطلاعات را با یکدیگر مبادله کرده و برای دستیابی به اهداف با هم همکاری کنند. اجراهای جداگانه همچنین می‌توانند از اطلاعاتی که در محیط‌های مشترک باقی مانده است استفاده کنند. به این معنا که پایان دادن به فعالیت یک عامل لزوماً به معنای از بین رفتن تمام چیزهایی نیست که تا آن زمان آموخته شده است.
اما این تمایز هنگام بررسی زیرساخت‌های مالی، داستانی به کل متفاوت و اهمیت بسیار زیادی پیدا می‌کند. در ماه ژوئن، پس از آنکه زیرساخت ارتباطی مشترک چهار بانک بزرگ ایران مورد حمله قرار گرفت، یک حمله سایبری خدمات این بانک‌ها را مختل کرد.
آسیب‌پذیری مشترک بانک‌های ایران آشکار شد
شورای هماهنگی بانک‌های ایران اعلام کرد که برخی خدمات به‌طور موقت تحت تأثیر قرار گرفته‌اند، اما اطلاعات مشتریان نه مورد دسترسی قرار گرفته و نه حذف شده است. این حمله نظام بانکی ایران را فرو نپاشید، اما نکته‌ای را آشکار کرد که شاید برای آنچه در ادامه رخ می‌دهد اهمیت بیشتری داشته باشد: مؤسسات مالی جزایری جدا از یکدیگر نیستند. آنها به شبکه‌های ارتباطی، زیرساخت‌های پرداخت، نرم‌افزارها و دیگر سامانه‌های دیجیتال مشترک وابسته‌اند.
هوش مصنوعی می‌تواند مقیاسی را که در آن آسیب‌پذیری‌های موجود در این سامانه‌ها اهمیت پیدا می‌کنند، به‌طور بنیادین تغییر دهد.
در ماه ژوئن، صندوق بین‌المللی پول مطالعه‌ای را به‌طور مشخص به هوش مصنوعی و امنیت سایبری در بخش مالی اختصاص داد. نگرانی اصلی این مطالعه این نبود که هوش مصنوعی الزاماً شکل کاملاً جدیدی از حمله سایبری ابداع کند، بلکه این بود که هوش مصنوعی بتواند سرعت، تعداد و گستره کشف آسیب‌پذیری‌ها و در نتیجه امکان بهره‌برداری از آنها را افزایش دهد.
چراکه زیرساخت‌های دیجیتال مشترک و ارائه‌دهندگان خدمات مشترک می‌توانند باعث شوند اختلال با سرعت بیشتری در میان مؤسسات مالی گسترش یابد و پیامدهایی سیستمی ایجاد کند.
بانک تسویه‌حساب‌های بین‌المللی در همین ماه یک گام فراتر هم رفت. این بانک به این نتیجه رسید که مدل‌های پیشرو هوش مصنوعی می‌توانند به‌طور فزاینده‌ای آسیب‌پذیری‌های حیاتی را به‌صورت خودکار شناسایی و عملیات پیچیده و چندمرحله‌ای سایبری را اجرا کنند. پیامد این وضعیت، کوتاه‌تر شدن فاصله زمانی میان کشف یک آسیب‌پذیری و بهره‌برداری احتمالی از آن است؛ احتمالا حتی سریع‌تر از آنکه مدافعان انسانی بتوانند واکنش نشان دهند. لذا اکنون قابلیت‌هایی که زمانی به حجم قابل‌توجهی از نیروی انسانی متخصص نیاز داشتند، می‌توانند به‌طور فزاینده‌ای شتاب بگیرند، خودکار شوند و به‌صورت موازی انجام شوند.
حالا این تحولات را در سپتامبر ۲۰۲۶ در ایران قرار دهید. ایران پس از ماه‌ها جنگ، تحریم و محاصره دریایی آمریکا، هم‌اکنون نیز با فشار شدید اقتصادی روبه‌رو است.
آسوشیتدپرس این هفته گزارش داد که اقتصاد ایران تحت تأثیر محاصره و تحریم‌های جدید آمریکا همچنان در حال وخیم‌تر شدن است. اما اینکه این فشار بتواند به امتیازدهی سیاسی منجر شود یا نه، همچنان نامشخص است.
فشار اقتصادی می‌تواند وارد میدان سایبری شود
حال یک تشدید فرضی را در نظر بگیرید که در آن ایالات متحده تصمیم بگیرد قابلیت‌های سایبری عامل‌محور را نیز به فشار اقتصادی‌ای که هم‌اکنون علیه نظام مالی ایران اعمال می‌شود، اضافه کند.
اگرچه هیچ مدرک عمومی وجود ندارد که نشان دهد واشنگتن قصد انجام چنین کاری را دارد. لیکن اهمیت این سناریو در پرسشی است که پیش روی ما می‌گذارد: اگر در آینده عملیات سایبری بتواند با سرعت و مقیاس بسیار بیشتری و به‌صورت هم‌زمان توسط چندین عامل هوش مصنوعی انجام شود، چه چیزی تغییر خواهد کرد؟ آن هم عامل‌هایی که می‌توانند به‌طور مستقل اهدافی را دنبال کنند، اطلاعات را با یکدیگر به اشتراک بگذارند و متناسب با تغییر شرایط، روش عمل خود را تغییر دهند.
در اینجا تفاوت میان یک چت‌بات و یک عامل، به موضوعی ژئوپلیتیکی تبدیل می‌شود. یک چت‌بات می‌تواند اطلاعاتی را در اختیار یک اپراتور سایبری قرار دهد، اما یک عامل می‌تواند از طریق مجموعه‌ای از اقدامات، یک نتیجه مشخص را دنبال کند. یک سامانه چندعاملی نیز بالقوه می‌تواند بخش‌هایی از یک هدف پیچیده را میان تعداد زیادی عامل که به‌طور هم‌زمان فعالیت می‌کنند، تقسیم کند. در اصل، چنین قابلیت‌هایی می‌توانند عملیات دیجیتال را در کنار تحریم‌ها، محدودیت‌های مالی، محاصره یا دیگر اشکال اعمال زور، به ابزار دیگری برای اعمال فشار اقتصادی تبدیل کنند.
این وضعیت همچنین یک مشکل عمیق در زمینه کنترل ایجاد خواهد کرد. چگونه می‌توان تضمین کرد که صدها یا هزاران عامل در محدوده هدف تعیین‌شده برای آنها باقی بمانند؟ محدود کردن زمان فعالیت هر عامل هوش مصنوعی نیز لزوماً مشکل را حل نمی‌کند، زیرا ممکن است اطلاعات یا وضعیت عملیاتی آن پس از پایان فعالیت یک عامل باقی بماند و عامل‌های بعدی بتوانند به این اطلاعات دسترسی پیدا کنند. حادثه Hugging Face نشان داد که ارتباطات، تداوم فعالیت و زیرساخت مشترک چرا مهار چنین سامانه‌هایی را پیچیده می‌کنند.
نکته دیگر آنکه نظام‌های مالی همچنین از مرزها عبور می‌کنند. بانک‌ها با بانک‌های دیگر تعامل دارند، شبکه‌های پرداخت مؤسسات را به یکدیگر متصل می‌کنند، نرم‌افزارها و ارائه‌دهندگان خدمات ممکن است مشترک باشند و تراکنش‌های مالی، شرکت‌ها و افراد را در حوزه‌های قضایی مختلف به یکدیگر پیوند می‌دهند. بنابراین عملیاتی که قرار است در نظام مالی یک رقیب باقی بماند، پرسش دیگری را مطرح می‌کند: اگر چیزی خارج از هدف تعیین‌شده برای دستیابی به هدف مورد نظر مفید واقع شود، چه اتفاقی می‌افتد؟
و در نهایت، پرسشی حتی ساده‌تر مطرح می‌شود: چگونه می‌توان جلوی آن را گرفت؟
رقابت هوش مصنوعی محاسبات راهبردی را تغییر می‌دهد
از قضا این پرسش تنها به ایران ختم نخواهد شد. اگر یک قدرت بزرگ روزی نشان دهد که عامل‌های هوش مصنوعی می‌توانند خسارت اقتصادی راهبردی به کشور دیگری وارد کنند، رقبای آن بلافاصله ناچار خواهند شد درباره آسیب‌پذیری خود بازنگری کنند.
در همین حال ایالات متحده انحصاری بر هوش مصنوعی روزبه‌روز قدرتمندتر نخواهد داشت؛ چین و دیگر قدرت‌های پیشرفته فناوری نیز در حال توسعه سامانه‌های قدرتمند خود هستند. قابلیتی که یک کشور به نمایش بگذارد، می‌تواند به قابلیتی تبدیل شود که دیگران هم برای دفاع در برابر آن و هم برای دستیابی به آن تلاش کنند.
رقابتی که شکل می‌گیرد، از یک جنبه مهم می‌تواند به مسابقه تسلیحات هسته‌ای شباهت داشته باشد، هرچند هوش مصنوعی را نمی‌توان با سلاح هسته‌ای مقایسه کرد. نخستین بمب اتم قدرت تخریبی‌ای را به نمایش گذاشت که تا آن زمان تصورش دشوار بود و همین موضوع محاسبات راهبردی کشورهای دیگر را تغییر داد.
اما از طرف دیگر یک عملیات سایبری گسترده و موفقیت‌آمیز با استفاده از عامل‌های هوش مصنوعی علیه اقتصاد یک کشور نیز می‌تواند انگیزه‌ای مشابه ایجاد کند. اگر یک قدرت بتواند چنین قابلیتی را به‌طور عملی به نمایش بگذارد، سایر کشورها نیز انگیزه خواهند داشت تا اطمینان پیدا کنند در برابر چنین قابلیتی بی‌دفاع نیستند.
توانمندتر شدن هوش مصنوعی لزوماً به معنای خودمختارتر شدن آن نیست. خودمختاری، دست‌کم در شرایط فعلی، تا حد زیادی به تصمیم انسان‌ها بستگی دارد: اینکه یک سامانه به چه ابزارهایی دسترسی داشته باشد، چه محدوده‌ای از اطلاعات و زیرساخت‌ها را بتواند در اختیار بگیرد، چه مدت اجازه فعالیت داشته باشد و در چه نقطه‌ای کنترل دوباره به انسان واگذار شود.
با این حال، رقابت ژئوپلیتیکی می‌تواند این ملاحظات را تغییر دهد. اگر خودمختاری بیشتر، دسترسی به ابزارهای متنوع‌تر و امکان به‌کارگیری تعداد بیشتری عامل هوش مصنوعی به‌صورت هماهنگ، مزیت عملیاتی ایجاد کند، محدود کردن این قابلیت‌ها ممکن است به‌تدریج از یک انتخاب احتیاطی به عاملی برای ایجاد ضعف راهبردی تبدیل شود.
و اینجاست که ایران دیگر مهم‌ترین بخش این داستان نخواهد بود. آنچه باقی می‌ماند، نه هدف فوری، بلکه الگویی است که ممکن است پیامد ماندگار ماجرا باشد.
و این ما را دوباره به اظهارات وو ترن بازمی‌گرداند. ادعای او مبنی بر اینکه یک شرکت هوش مصنوعی همین حالا می‌تواند یک کشور را فلج کند، هنوز اثبات نشده است. اما لحظه مهم‌تر زمانی فرا خواهد رسید که کشوری روزی درستی ادعای او را اثبات کند. در آن صورت، رقابت دیگر صرفاً بر سر ساخت هوش مصنوعی بهتر نخواهد بود؛ بلکه می‌تواند به رقابتی برای اطمینان از این تبدیل شود که رقیب، زودتر از شما به یک قابلیت راهبردی دست پیدا نکند.
دونالد ترامپ چهار روز پیش، نگاه خود به رقابت ژئوپلیتیکی بر سر هوش مصنوعی را در چند کلمه خلاصه کرد: «هرکس هوش مصنوعی را ببرد، برنده است!» او همان روز نوشت: «تنها چیزی که هوش مصنوعی به‌عنوان کنترل یا «حصار حفاظتی» نیاز دارد، یک رئیس‌جمهور قوی و باهوش است!»
نمی‌توان دانست که ترامپ هنگام بیان این سخنان، سناریویی شبیه آنچه در اینجا توصیف شد را در ذهن داشته است یا نه. اما اگر وو ترن حتی تا حدی درست گفته باشد، شاید در نهایت پرسش مهم‌تری مطرح شود: آیا اصلاً رئیس‌جمهوری، فارغ از میزان هوش و توانایی‌های فردی خود، می‌تواند آنچه را که پیروزی در این رقابت مستلزم آن است، کنترل کند؟
