خطای هوش مصنوعی در گزارش انتقال سلاح هسته‌ای به ایران

این موضوع نشان می‌دهد که وجود انسان در حلقه تصمیم و ارزیابی نقادانه‌ی خروجی‌ها و توهم‌های هوش مصنوعی بیش از پیش لازم است. در ادامه این گزارش را با هم مرور می‌کنیم.

این گزارش اطلاعاتی که بهار امسال و در اوج جنگ با ایران در سراسر ارتش آمریکا توزیع شد، بلافاصله زنگ‌های خطر را به صدا درآورد. محتوای گزارش این بود: یک کشتی چینی در خاورمیانه در حال حمل قطعات مربوط به یک برنامه تسلیحات هسته‌ای است.

به گفته چهار منبع مطلع از این رویداد، ارتش آمریکا بلافاصله وارد عمل شد و طرح‌هایی را برای رهگیری این شناور در دستور کار قرار داد. بر اساس اظهارات دو تن از این منابع، نیروهای مسلح ارتش آمریکا در حال آماده‌سازی برای ورود به کشتی بودند. همچنین یکی از این منابع و منبع مطلع دیگری تأیید کردند که هواپیماهای نظامی ‌نیز به پرواز درآمده بودند.

اما تنها لحظاتی پیش از آغاز عملیاتِ برنامه‌ریزی‌شده بود که مقامات مسئول، گزارشِ تدوین‌شده توسط یکی از تحلیل‌گران فرماندهی عملیات ویژه را با دقت بیشتری بررسی کردند و دریافتند این گزارش با کمک هوش مصنوعی تهیه شده است؛ در واقع، چت‌باتی که این تحلیل‌گر استفاده کرده بود، محموله کشتی را به نادرستی شناسایی کرده بود. سی‌ان‌ان نتوانست ماهیت واقعی محموله‌ای را که اشتباهاً شناسایی شده بود، احراز کند.

به گفته یکی از منابع، این گزارش «کاملاً کذب» بود، اما در عین حال «چیزی نمانده بود که یک جنگ به راه بیندازد.» چراکه هرگونه عملیات ایالات متحده علیه یک شناور چینی می‌توانست به تشدید تنش‌ها و بروز یک درگیری مسلحانه میان این دو کشور بینجامد.

در سراسر ارتش و جامعه اطلاعاتی ایالات متحده، مقامات در تلاش‌اند تا هوش مصنوعی را در تقریباً تمام ابعاد کاری خود ادغام کنند؛ از تحلیل حجم عظیم داده‌های خام اطلاعاتی که آمریکا گردآوری می‌کند و تعیین اهداف حملات گرفته تا کاربردهای عادی‌تری همچون مدیریت بودجه، پشتیبانی و زنجیره تأمین.

با این حال، این حادثه مخاطرات عمیق استفاده از این فناوریِ قدرتمند، نوظهور و ناشناخته را برای هدف‌گیری در میانه یک جنگ به روشنی نمایان می‌سازد. تحلیل‌گران مدت‌هاست نگران آن هستند که اتکای کشورها به داده‌های ضعیف یا دستکاری‌شده از طریق هوش مصنوعی ممکن است بتواند به محاسبات اشتباه فاجعه‌باری منجر شود؛ از همان جنس محاسبات اشتباهی که ممکن بود ایالات متحده را بر اساس اطلاعاتی نادرست، به شلیک به سوی یک کشتی چینی وادارد.

در این موردِ خاص، تحلیل‌گر از یک چت‌بات درباره برخی گزارش‌های اطلاعاتی مربوط به فهرست بار کشتی (مانیفست) که از سوی «فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام» (مستقر در‌هاوایی) ارائه شده بود، استعلام گرفت. مشخص نیست که آیا این چت‌بات یک محصول تجاریِ در دسترس عموم بوده یا سامانه‌ای متعلق به دولت آمریکا.

یکی از مقامات ارشد سابق آمریکا که با سیستم‌های هوش مصنوعی مورد استفاده تحلیل‌گران نظامی ‌و اطلاعاتی آشناست، در این باره گفت: «ابزارهای داخلی ما غالباً همان نمونه‌های تجاری موجود در بازار هستند که صرفاً روتوش شده‌اند و نقابی رسمی ‌به چهره دارند.»

ربات یادشده اطلاعات آشکار (OSINT) را با اطلاعات سیگنالیِ (SIGINT) محرمانه موجود در سامانه‌های دولتی تلفیق کرد و به آن استنتاج سرنوشت‌ساز درباره محموله کشتی دست یافت.

سپس، تحلیل‌گر بار دیگر از هوش مصنوعی استفاده کرد تا این یافته‌ها را در قالب یک گزارش اطلاعاتی استاندارد (یعنی همان قالبی که مورد اعتماد مقامات نظامی‌است) بسته‌بندی کند و آن را انتشار دهد.

فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام و پنتاگون به درخواست‌ها برای اظهار نظر در این باره پاسخ ندادند.
دلیل و منطق به‌کارگیری سریع هوش مصنوعی این است که می‌تواند به ارتش کمک کند تصمیمات میدان نبرد مانند اینکه چه اهدافی مورد حمله قرار گیرند یا کدام تجهیزات نظامی ‌به کجا منتقل شوند؟ را با سرعت بیشتری اتخاذ کند. مقامات می‌گویند ایالات متحده نمی‌تواند در ادغام هوش مصنوعی عقب بماند، چرا که ممکن است روزی مجبور به نبرد با چین یا حریف دیگری شود که پتانسیل پیش افتادن از آمریکا را دارد.

در ماه ژانویه، پیت هِگِست، وزیر دفاع ایالات متحده، «راهبرد شتاب‌بخشی به هوش مصنوعی» در این وزارتخانه را منتشر کرد تا روند استفاده ارتش از هوش مصنوعی را سرعت بخشد.

هگست در سخنرانی خود هنگام اعلام این راهبرد گفت: «ما میدان را برای آزمون و خطا باز خواهیم کرد، موانع بوروکراتیک را از میان برخواهیم داشت، سرمایه‌گذاری‌های خود را هدفمند خواهیم ساخت و رویکرد اجرایی لازم را برای تضمین پیشتازی‌مان در هوش مصنوعی نظامی ‌به نمایش خواهیم گذاشت.»

این راهبرد همچنین بر به‌کارگیری گسترده هوش مصنوعی در سراسر ارتش تأکید دارد؛ به‌طوری‌که بر اساس یادداشتِ اعلام این راهبرد، به این وزارتخانه دستور داده شده است تا هوش مصنوعی را از طریق چندین برنامه در دسترس قرار دهد. هدف از این اقدام «هَمِگانی‌سازی آزمایش و تحولِ هوش مصنوعی در سراسر وزارت دفاع، از طریق قرار دادن مستقیم برترین مدل‌های هوش مصنوعی جهان در دست سه میلیون پرسنل نظامی ‌و غیرنظامی ‌آمریکا در تمامی‌سطوح طبقه‌بندی محرمانه» عنوان شده است.

اما به گفته چندین مقام آمریکاییِ آگاه از این روند، این تلاش‌ها غیرمتمرکز است و بخش‌های مختلف دولت از ابزارهای متفاوتی بر اساس دستورالعمل‌ها و استانداردهای ایمنی گوناگون استفاده می‌کنند. هیچ مجموعه استاندارد واحدی برای چگونگیِ راستی‌آزمایی اطلاعاتِ تولیدشده، توسط این ابزارها در آمریکا وجود ندارد. تنوع و پراکندگی سیستم‌های هوش مصنوعیِ به‌کارگرفته‌شده در بخش‌های مجزای ارتش و جامعه اطلاعاتی باعث شده است که میزان قابلیت اطمینان و کارایی آن‌ها تفاوت‌های چشمگیری داشته باشد.

هفته‌هاست که سیاست‌گذاران در واشنگتن، پس از هشدارهای ناگوار مهندسان و مدیران ارشد فناوری در سیلیکون‌ولی درباره احتمال رهایی هوش مصنوعی از مهار انسان و پیامدهای زیان‌بار و خانمان‌سوز آن برای تمدن بشری، مشغول بحث و مناظره‌های جدی درباره هوش مصنوعی بوده‌اند.

با این حال، ماجرای کشتی چینی نمایانگر خطری متفاوت و بسیار فوری‌تر است: گرفتن تصمیمات فاجعه‌بار توسط انسان‌ها بر اساس اطلاعات نادرست یا گمراه‌کننده‌ای که توسط هوش مصنوعی یا سایر سیستم‌های خودکار تولید شده است. به گفته منابع آگاه، ارتش به سرعت در حال روی آوردن به هوش مصنوعی برای کمک به هدف‌گیری است؛ حوزه‌ای که به خودی خود حامل خطرات آشکاری از خطاهای مرگبار است.

منبع دیگری که از سیاست‌های فعلی ارتش مطلع است، گفت: «استفاده از هوش مصنوعی در مسئله هدف‌گیری قطعاً در حال افزایش است، اما هیچ دستورالعمل واقعی و مشخصی درباره اینکه چطور حضور انسان در چرخه تصمیم‌گیری مانع از تلفات غیرنظامیان یا شلیک به نیروهای خودی می‌شود، وجود ندارد.»

به گفته یکی از منابع، از زمان گسترش و نفوذ این ابزارها در بدنه دولت، پدیده «توهم» در خروجیِ هوش مصنوعی، از نوعی که ابزارِ مورد استفاده تحلیل‌گر در این پرونده ایجاد کرد، حادثه‌ای مجزا و نادر در جامعه اطلاعاتی نبوده است.

از نظر برخی از مقامات ارشد و باسابقه اطلاعاتی، حتی آن دسته از افرادی که به‌طور کلی از به‌کارگیری هوش مصنوعی در ارتش حمایت می‌کنند، هوش مصنوعی فشار بر تحلیل‌گران را برای تولید و انتشار سریع‌تر اطلاعات افزایش داده و بدین ترتیب راه را برای بروز خطا هموار کرده است. چندین منبع تأکید کردند که به‌ویژه تحلیل‌گران جوان که زیست دیجیتالی‌شان با این ابزارها عجین شده است، تمایل بیشتری دارند که بدون نگاه نقادانه به این سیستم‌ها اعتماد کنند.

و در نهایت اینکه یکی از منابع گفت: «هوش مصنوعی فقط به شما اجازه می‌دهد سریع‌تر به یک تصمیم و فکر غلط برسید!»