توصیه دو استاد آمریکایی برای بازدارندگی در عصر هوش مصنوعی
به گفته این دو پژوهشگر، هوش مصنوعی با پردازش حجم عظیمی از دادهها، ارائه اطلاعات بهتر، تحلیل سریعتر و شفافسازی سیگنالها، میتواند تصمیمگیری رهبران را سرعت بخشد و تواناییها و اراده یک کشور را به دشمنان بهروشنی نشان دهد.
بااینحال، همین فناوری میتواند علیه بازدارندگی به کار گرفته شود. دشمنان میتوانند با جنگ شناختی و عملیات نفوذ مبتنی بر هوش مصنوعی، افکار عمومی و ذهن تصمیمگیران را دستکاری کنند. ایجاد هویتهای جعلی، انتشار محتوای هدفمند و مسمومسازی مدلهای هوش مصنوعی میتواند اطلاعات و تحلیلها را تحریف کرده و رهبران را دچار تردید یا محاسبه اشتباه کند.
به گفته آنها، در عصر هوش مصنوعی بازدارندگی دیگر تنها به تواناییها و اراده متکی نیست و حفظ قابلیت اطمینان محیط اطلاعاتی برای رهبران و تصمیمگیرندگان، حیاتی شده است. مقابله با تهدیدهای هوش مصنوعی در حوزه بازدارندگی، مستلزم توسعه ابزارهای دفاعی، فیلترسازی دادهها، آموزش عمومی و همکاری بین دولت، دانشگاه و بخش خصوصی است.
هوش مصنوعی چگونه تصمیمات امنیتی را تغییر میدهد؟
هوش مصنوعی با سرعتی چشمگیر در حال تبدیلشدن به بخش جداییناپذیر تصمیمگیری امنیت ملی است. ارتشهای جهان همین حالا نیز برای پالایش تصاویر ماهوارهای، ارزیابی تواناییهای دشمنان و ارائه توصیه درباره زمان، مکان و شیوه بهکارگیری نیرو، به مدلهای هوش مصنوعی تکیه میکنند. با پیشرفت این سامانهها، آنها نوید میدهند که چگونگی واکنش دولتها به تهدیدها را دگرگون کنند. اما پلتفرمهای پیشرفته هوش مصنوعی، تهدیدی برای تضعیف بازدارندگی هستند و مدتهاست مبنای کلی استراتژی امنیتی آمریکا را تشکیل میدهند.
بازدارندگی مؤثر به این مسئله وابسته است که کشوری بتواند به طور قابلاعتماد نشان دهد هم توان و هم اراده تحمیل آسیبی غیرقابلقبول به دشمن را دارد. هوش مصنوعی برخی از پایههای این اعتبار را تقویت میکند. اطلاعات بهتر، ارزیابیهای سریعتر و تصمیمگیری منسجمتر میتواند با انتقال روشنتر تواناییهای دفاعی یک کشور و نیز عزم ظاهری آن برای استفاده از این تواناییها، بازدارندگی را تقویت کند. بااینحال، دشمنان نیز میتوانند از هوش مصنوعی برای تضعیف همین اهداف بهره بگیرند. آنها میتوانند دادههای آموزشی مدلهایی را که کشورها بر آنها تکیه دارند، آلوده کنند و خروجی آنها را تغییر دهند یا عملیات نفوذ مبتنی بر هوش مصنوعی راه بیندازند تا رفتار مقامات کلیدی را تحتتأثیر قرار دهند. در یک بحران پرخطر، چنین دستکاریهایی میتواند توان یک دولت را برای حفظ بازدارندگی معتبر محدود کند و روند تصمیمگیری رهبران را تحریف یا حتی مختل سازد.
فرض کنید بحرانی درگرفته است؛ چین مجموعهای گسترده از تحریمهای اقتصادی را علیه تایوان اعمال کرده و رزمایشهای نظامی وسیع و تهدیدآمیزی را در اطراف جزیره آغاز کرده است. مقامات دفاعی آمریکا برای تدوین واکنش واشنگتن به سامانههای مجهز به هوش مصنوعی روی میآورند، بیآنکه بدانند عملیات اطلاعاتی چین از قبل، دادههای آموزشی و ورودیهای اصلی این سامانهها را آلوده کرده است. در نتیجه، مدلها توان واقعی چین را بیش از اندازه و میزان آمادگی آمریکا را کمتر از حد واقعی نشان میدهند و ارزیابیای وارونه تولید میکنند که در نهایت، مانع بسیج نیروهای ایالات متحده میشود. همزمان، کارزارهای نفوذ چین که با هجوم ناگهانی محتوای جعلی مبتنی بر هوش مصنوعی در پلتفرمهایی مانند فیسبوک و تیکتاک تقویت شدهاند، حمایت افکار عمومی آمریکا از مداخله را سرکوب میکنند. رهبران آمریکا که دیگر قادر نیستند اطلاعات خود را درست تفسیر کنند یا از وضعیت افکار عمومی ارزیابی دقیقی به دست آورند، ممکن است به این نتیجه برسند که یک اقدام قاطع، بیش از حد پرریسک است.
چین که فرصت را مناسب میبیند، اکنون محاصره کامل تایوان را آغاز میکند و حملات پهپادی را به اجرا میگذارد. همزمان جزیره را با دیپفیکهایی (محتوای صوتی و تصویری جعلی تولیدشده با هوش مصنوعی) اشباع میکند که در آنها مقامات آمریکایی با نظرسنجیهای ساختگی که کاهش شدید حمایت آمریکا را نشان میدهد و با شایعاتی درباره رهاکردن تایوان از سوی واشنگتن، آمادگی خود برای واگذاری تایوان را ابراز میکنند. در چنین سناریویی، نشانههای معتبر از سوی آمریکا مبنی بر تمایل به واکنش میتوانست چین را از تشدید تنش بازدارد و احتمالاً چنین نشانههایی نیز دنبال میشد. البته اگر مقامات آمریکایی تحتتأثیر سامانههای آلوده و برداشت تحریفشده از افکار عمومی قرار نگرفته بودند. در این وضعیت، هوش مصنوعی بهجای تقویت بازدارندگی، اعتبار آمریکا را تضعیف کرده و راه را برای تجاوزگری چین گشوده است.
هر چه سامانههای هوش مصنوعی بیشتر در مرکز روند تصمیمگیری رهبران قرار میگیرند، جنگ اطلاعاتی میتواند نقشی تازه و بسیار قدرتمند در استفاده از زور و درگیری ایفا کند؛ بنابراین، برای تقویت بازدارندگی در عصر هوش مصنوعی، سیاستگذاران، برنامهریزان دفاعی و نهادهای اطلاعاتی باید با این واقعیت روبهرو شوند که مدلهای هوش مصنوعی چگونه میتوانند به سلاح تبدیل شوند و همچنین اطمینان یابند که دفاعهای دیجیتال در برابر این تهدیدها همگام با آن پیش میروند. سرنوشت بحرانهای آینده ممکن است به همین امر بستگی داشته باشد.
بازدارندگی درست
برای آن که بازدارندگی بهدرستی عمل کند، دشمن باید باور داشته باشد که طرفِ مدافع هم توان تحمیل هزینههای جدی و هم در صورت به چالش کشیدهشدن، اراده انجام آن را دارد. برخی مؤلفههای قدرت نظامی آشکارند، اما برخی دیگر مانند قابلیتهای خاص تسلیحاتی، سطح آمادگی و ظرفیتهای بسیج از بیرون بهسختی قابل ارزیابیاند. اراده سیاسی حتی مبهمتر است؛ معمولاً تنها رهبران یک کشور دقیقاً میدانند تا چه حد آمادگی ورود به جنگ را دارند؛ بنابراین، بازدارندگی به این بستگی دارد که یک کشور تا چه اندازه بتواند به طور معتبر هم تواناییهای خود و هم آمادگیاش برای اقدام را به طرف مقابل مخابره کند.
اقدامات پرهزینه نظامی – مانند جابهجایی نیروها یا افزایش سطح آمادگی – به دلیل نیازشان به زمان، منابع و پذیرش ریسک سیاسی، اعتبارآفریناند. برای مثال، پس از آن که یک گروه شبهنظامی پاکستانی در سال ۲۰۰۱ به پارلمان هند حمله کرد، هند نیروهای خود را در مرز با پاکستان مستقر کرد و با ارسال نشانههای معتبر از توان و عزم خود، مانع حملات بعدی شد. فشارهای سیاسی داخلی در دموکراسیها نیز میتواند بر اعتبار بازدارندگی بیفزاید. رهبران دموکراسیها در برابر شهروندان خود پاسخگو هستند و عقبنشینی پس از صدور تهدید میتواند واکنش سیاسی به دنبال داشته باشد. برای نمونه، در سال ۱۹۸۲، پس از اشغال جزایر «فالکلند» از سوی آرژانتین، فشار افکار عمومی در بریتانیا، عزم «مارگارت تاچر» – نخستوزیر وقت – را برای اقدام تقویت کرد و بر اعتبار تهدید نظامی لندن افزود. چنین پاسخگویی سیاسی معمولاً وزن تهدیدهای بازدارنده یک کشور دموکراتیک را بیشتر از تهدیدهای دولتهای خودکامه میکند. سرعت نیز اهمیت دارد؛ تهدیدهای بازدارنده زمانی معتبرترند که نشان دهند کشور قادر است بهسرعت و تقریباً خودکار در برابر تهدید واکنش نشان دهد.
در نگاه نخست، به نظر میرسد هوش مصنوعی ابزار بسیار مناسبی برای تقویت بازدارندگی باشد. هوش مصنوعی با پردازش حجم عظیمی از دادهها، میتواند اطلاعات بهتری ارائه کند، سیگنالها را شفافتر سازد و با تولید تحلیلهایی سریعتر و جامعتر، روند تصمیمگیری رهبران را تسریع کند. در جنگ اوکراین، ابزارهای هوش مصنوعی به ارتش اوکراین امکان میدهند تصاویر ماهوارهای و پهپادی را برای شناسایی تحرکات نیروها و تجهیزات روسیه، محلهای استقرار موشکی و مسیرهای تدارکاتی اسکن کند؛ دادهها را از رادار، صدا و سیگنالهای رادیویی گرد آورد و با سرعت از میان دفترچههای آموزشی، گزارشهای اطلاعاتی و دیگر منابع بگذرد تا تصویری کاملتر از توان نظامی روسیه ترسیم کند. برای برنامهریزان دفاعی، چنین اطلاعاتی ارزیابی دقیقتری از توان خودی در مقایسه با توان دشمن فراهم میآورد.
هوش مصنوعی همچنین میتواند با اطمینانبخشی از اینکه هر طرف اقدامات خود را بهوضوح به دیگری منتقل میکند، بازدارندگی را تحکیم کند. از آنجا که دولتها اغلب انگیزه بلوفزدن دارند، ممکن است در نشاندادن اینکه واقعاً آماده اجرای تهدیدهای خود هستند، با مشکل مواجه شوند. در مقابل، ابزارهای مجهز به هوش مصنوعی میتوانند تضمین کنند که وقتی کشوری برای نشاندادن عزم خود دست به اقدام پرهزینهای میزند، آن اقدام بهسرعت، بهروشنی و به طور منسجم منتقل شود. سامانههای هوش مصنوعیِ طرف مقابل نیز میتوانند این سیگنالها را به طور کارآمد تفسیر کنند و خطر سوءبرداشت را کاهش دهند. برای نمونه، با رصد لحظهای افکار عمومی داخلی، ابزارهای هوش مصنوعی میتوانند به یک کشور دموکراتیک کمک کنند تا نشان دهد که آماده اقدام است؛ زیرا تهدیدش از حمایت واقعی سیاسی برخوردار است. طرف مقابل نیز میتواند با ابزارهای هوش مصنوعی خود، اصالت این حمایت را تأیید یا رد کند. استفاده از هوش مصنوعی برای تشخیص الگوها و ناهنجاریهایی که ممکن است از چشم انسان دور بمانند – مانند تغییرات ناگهانی در جابهجایی نیروها، جریانهای مالی یا فعالیتهای سایبری – میتواند تصویر روشنتری از نیتهای دشمن در اختیار رهبران بگذارد.
از آنجا که یک متجاوز میتواند حتی از تأخیرهای جزئی در واکنش کشور هدف برای تصرف قلمرو یا پیشبرد اهداف خود استفاده کند، بازدارندگی زمانی بهترین کارکرد را دارد که کشور هدف بتواند متجاوز را متقاعد کند آنقدر سریع واکنش نشان خواهد داد که هیچ مزیت زمانی نصیب او نشود. هوش مصنوعی با امکاندادن به مدافعان برای شناسایی زودتر چالشها و واکنش سریعتر، به تقویت این برداشت کمک میکند. بهبود برنامهریزی بلندمدت رهبران نیز میتواند در بحرانهای طولانیتر، اعتبار بازدارندگی را تقویت و حفظ کند. هوش مصنوعی با اجرای شمار زیادی سناریوی «اگر چنین شود چه؟» و با بهرهگیری از دادههای مربوط به نیرو، جغرافیا، خطوط تدارکاتی و ائتلافها، میتواند تصویری روشنتر از چگونگی گسترش یک درگیری ارائه دهد و به رهبران کمک کند تا هنگام تغییر شرایط، راهبردهای منسجمتری را حفظ کنند.
قدرت و شکنندگی
همان فناوریهای هوش مصنوعی که بازدارندگی را تقویت میکنند، میتوانند آن را در برابر سوءاستفاده نیز آسیبپذیر کنند. اگر این سامانهها دستکاری شوند، بهجای آن که به کشوری کمک کنند تواناییها و ارادهاش را با اعتبار نشان دهد، میتوانند رهبران را دربارۀ همین موارد نسبت به خودشان دچار تردید کنند. دشمنان میتوانند از هوش مصنوعی برای تحریف افکار عمومی یا آلودهکردن خودِ مدلهایی استفاده کنند که رهبران یک کشور به آنها وابستهاند. با بهکارگیری این دو تاکتیک – یعنی عملیات نفوذ مبتنی بر هوش مصنوعی و مسمومسازی مدل – یک دشمن قادر است محیط اطلاعاتی یک کشور را در جهتی بازسازی کند که مستقیماً بر بازدارندگی آن اثر بگذارد. در بدترین حالت، چنین سردرگمیای میتواند موجب شکست بازدارندگی شود؛ حتی زمانی که تواناییها و اراده واقعی کشور قدرتمند باقی مانده است.
دشمن همچنین میتواند با عملیات نفوذ، افکار عمومی یک کشور و نیز چهرههای تأثیرگذار بر بحثهای ملی – از جمله تصمیمگیران دولتی – را هدف قرار دهد. پیشرفتهای اخیر در علم داده و هوش مصنوعی مولد، این عملیات را در سه حوزه مرتبط بسیار نیرومندتر کرده است: شناسایی هدف، خلق شخصیتهای جعلی و تولید محتوای کاملاً متناسب با هر فرد. در گذشته، دشمنانی که میخواستند تبلیغات هدفمند اجرا کنند، تنها میتوانستند افراد را بر اساس ویژگیهای مشابه در دستههایی کلی گروهبندی کنند. اما با هوش مصنوعی مدرن، آنها میتوانند این فرایند را خودکار کنند و با استفاده از علوم داده، افراد واحد را در مقیاسی عظیم هدف قرار دهند.
با استفاده از این ابزارها، هوش مصنوعی میتواند میزان حساسیت اهداف را به روایتهای خاص یا پروفایلهای جعلی رسانههای اجتماعی که برای جلبتوجه آنها طراحی شدهاند، پیشبینی کند. اگر پیشتر رباتهای اینترنتی ناشی و بهراحتی قابلشناسایی بودند، هوش مصنوعی مولد امروز قادر است «هویتهای مصنوعی» بسازد که کاملاً واقعی به نظر میرسند و از شناسایی فوری میگریزند. این پروفایلهای جعلی میتوانند بهتدریج پرورش یابند تاحدیکه از کاربران واقعی قابلتشخیص نباشند؛ با عادت به پستگذاری طبیعی، علایق مشخص و ویژگیهای زبانی باورپذیر. افزون بر این، ساخت و اداره این حسابهای جعلی اکنون در مقیاسی عظیم ممکن شده و شناسایی آنها را دشوارتر کرده است. چنین تحولاتی به این هویتها اجازه میدهد محتوای مصنوعی را در جوامع هدف تزریق کنند. با پراکنده شدن در چندین پلتفرم اجتماعی، آنها میتوانند مسیر بحثها را تغییر دهند و شکافها را شعلهور کنند. مثلاً برای تضعیف اراده عمومی در ایالات متحده، چنین هویتهای جعلی ممکن است ادعاهایی منتشر کنند مبنی بر اینکه ارتش آمریکا بیش از حد تحتفشار است، متحدان از امنیت آمریکا سوءاستفاده میکنند یا برخی اهداف بینالمللی ارزش جنگیدن ندارند. بزرگنمایی این پیامها در چندین پلتفرم میتواند اطلاعات نادرست را باورپذیر جلوه دهد یا دستکم آنقدر سردرگمی ایجاد کند که اجماع عمومی پیرامون یک موضوع سست شود.
ابزارهای هوش مصنوعی با استفاده از هزاران حساب جعلی منحصربهفرد، ممکن است بهزودی بتوانند در مقیاس یک جمعیت کامل، محتوایی کاملاً متناسب با هر فرد و بهصورت لحظهای تولید و توزیع کنند. این همان «جنگ شناختی» است و پیامدهای آن برای بازدارندگی کاملاً روشن است. از آنجا که بخش زیادی از اعتبار بازدارندگی در یک دموکراسی به فشارهای سیاسی داخلی گره خورده، عملیاتهایی که احساسات عمومی را دستکاری میکنند، میتوانند سیگنالهای عزم و اراده آن کشور را تضعیف سازند. دستکاریهای هوش مصنوعی ممکن است مخاطبان داخلی یک کشور را کمتر مایل به حمایت از واکنش نظامی قاطع به یک تجاوز خارجی – بهویژه تجاوز علیه یک متحد – سازد و در نتیجه دادههای نظرسنجی و دیگر نشانههای ظاهراً تجربی از افکار عمومی که رهبران دموکراتیک به آن توجه دارند، مخدوش کند. چنین وضعی میتواند رهبران را نسبت به میزان واقعی حمایت داخلی و حجم واکنشی که در صورت عقبنشینی با آن روبهرو خواهند شد، دچار تردید کند. این عدم قطعیت میتواند سبب تردید، تضعیف اراده و ابهام در تصمیمگیری شود و همۀ اینها تهدیدهای بازدارنده یک کشور را کماعتبارتر جلوه میدهد.
گروههای همسو با دولتها همین حالا نیز در حال بررسی شیوههای تضعیف امنیت اطلاعات از طریق عملیات نفوذ مبتنی بر هوش مصنوعی هستند. یکی از نمونهها، شرکت چینی «GoLaxy» است که با استفاده از ابزارهای هوش مصنوعی مولد و مجموعههای عظیم دادههای متنباز، پروفایلهای روانشناختی دقیقی از افراد تحتنظر میسازد و در مقیاسی بزرگ، «هویتهای مصنوعی» را به کار میگیرد که کاربران واقعی را شبیهسازی میکنند. کمپینهای این شرکت معمولاً شامل گردآوری اطلاعات دقیق درباره چهرههای تأثیرگذار و استفاده از آن اطلاعات برای تولید پیامهایی است که به احتمال زیاد، مخاطبان هدف را متقاعد میکند. سپس آن پیامها از طریق پروفایلهای بسیار دقیق طراحیشده در شبکههای اجتماعی ارسال میشود. با دستیابی به سطحی چشمگیر از دقت و با بزرگنمایی روایتهای گمراهکننده در چندین پلتفرم، چنین عملیاتهایی میتواند سردرگمی ایجاد کند، گفتمان عمومی را تضعیف نماید و پایگاه داخلیای را فرسوده کند که اعتبار سیگنالهای بازدارنده یک کشور به آن وابسته است. همسویی شرکت «GoLaxy» با اولویتهای دولتی چین و ارتباطات آن با مؤسسات پژوهشی و شرکتهای پیوند خورده با دولت، این شرکت را به یک ماشین تبلیغاتی پیشرفته تبدیل کرده است.
اسنادی که ما در «مؤسسه امنیت ملی دانشگاه واندربیلت» بررسی کردهایم، نشان میدهد که این شرکت، پیش از این در هنگکنگ و تایوان عملیات انجام داده و همچنین در حال تهیه پروندههایی درباره اعضای کنگره آمریکا و چهرههای مشهور در سراسر جهان است. اطلاعات متنباز به دشمنان امکان میدهد که برای اهداف راهبردی، پروندههایی جامع درباره سیاستمداران، فرماندهان نظامی و سربازان گردآوری کنند. سپس عملیاتهای مبتنی بر شخصیتسازی هدفمند میتواند از این اطلاعات بهرهبرداری کند. برای مثال، دشمنان میتوانند برای کسب پیروزیهای تاکتیکی، سربازان را با پیامهای «دیپفیک» حاوی برداشتهای نادرست از شرایط میدان جنگ یا شرایط داخلی هدف قرار دهند. گنجاندن جزئیات شخصی دقیق در مورد زندگی آن سربازان، میتواند این جعلها را به اندازه کافی واقعبینانه جلوه دهد تا توجه آنها را منحرف کرده یا انسجام واحد را مختل کند.
در عرصه سیاسی نیز دشمن میتواند تصاویر واقعی سیاستمداران را با صداها یا چهرههای جعلی ترکیب کند. حتی اگر این محتواها هرگز منتشر نشوند، تهدید انتشارشان میتواند لحن سیاستمداران را تعدیل کند، روند قانونگذاری را متوقف سازد یا اراده رهبران را تضعیف نماید. از منظر راهبردی، بازیگران متخاصم میتوانند پیامهایی جعلی بسازند که در آن، مقامات ظاهراً دستور عقبنشینی میدهند یا دستور میدهند که از کانالهای ارتباطی جایگزین استفاده شود؛ کاری که میتواند فرصتی برای دشمن ایجاد کند تا موقعیت بهتری به دست آورد. نتیجه چنین اقداماتی «مه شناختی در جنگ» است.
آلودهکردن سرچشمه
مسیر دیگری که دشمنان میتوانند برای ایجاد عدم قطعیت نزد مدافعان طی کنند، «مسمومسازی مدل» است؛ یعنی دستکاریِ راهبردی سامانههای هوش مصنوعی که دولتها برای تحلیل اطلاعات و پشتیبانی از تصمیمگیری به آنها تکیه دارند. با فاسد کردن دادههای آموزشی این سامانهها یا مختل کردن فرایندهای تحلیلی آنها، دشمن میتواند برداشت مدافع را از قدرت نسبی خود و از فوریت تهدید دگرگون کند. سامانهای که تواناییهای دشمن را کمتر از واقع نشان دهد، میتواند اعتمادبهنفس بیجا ایجاد کند و سامانهای که تهدید را بیش از اندازه بزرگ جلوه دهد، میتواند تردید و تعلل به بار آورد. در هر دو حالت، دستکاری مؤثر چنین سامانههایی میتواند مسائلی فراتر از ایجاد پیچیدگی در مدیریت بحران ایجاد کند. این دستکاری میتواند اعتبار سیگنالهای بازدارنده یک کشور را تضعیف کرده و خطرات جدی پدید آورد.
اساساً مسمومسازی مدل از طریق دستکاری خط لوله دادهای رخ میدهد؛ بهگونهای که مدل، اطلاعات مهم را نادیده بگیرد و ورودیهای جعلی را جذب کند. این امر میتواند سامانه را بهسوی ارزیابیهای گمراهکننده یا تنزلیافته سوق دهد. یکی از روشها، جاگذاری اطلاعات جعلی در مجموعه دادههایی است که یک سامانه هوش مصنوعی برای یادگیری مصرف میکند. این اطلاعات پنهان ممکن است برای بازبینهای انسانی بیضرر به نظر برسد، اما همچنان میتواند توانایی استدلال مدل را تضعیف یا منحرف کند؛ برای مثال، با فریبدادن آن بهگونهای که برخی انواع بدافزار را بیخطر تشخیص دهد تا دشمن بتواند از دیوار آتش مبتنی بر هوش مصنوعی عبور کند. هرچند نمونه ثبتشدهای از این روش گزارش نشده، اما پژوهشهای کنونی در حوزه هوش مصنوعی نشان داده است که مجموعه دادههای موجود در برابر این حملات مسمومسازی داده، آسیبپذیر هستند. چیزی که زمانی صرفاً فرضیه بود، اکنون در عمل امکانپذیر شده است.
مدلها همچنین میتوانند از طریق ایجاد وبسایتهای آلوده مورد مسمومسازی قرار گیرند. سیستمهای هوش مصنوعی که به طور مداوم برای بهروزرسانی اطلاعات، جستوجوی زنده در اینترنت انجام میدهند، ممکن است هنگام مراجعه به چنین صفحات مخربی، دستورالعملهای پنهانی دریافت کنند و در نتیجه، ارزیابیهایشان منحرف شود. اگر فیلترهایی که دادههای ورودی را غربال میکنند ضعیف باشند، حتی تعداد اندکی از این سایتها میتوانند پاسخهای نادرست در مدل ایجاد کنند.
مسمومسازی مدل هوش مصنوعی که شکلی بسیار پنهانکارانه از جنگ اطلاعاتی است، به دشمنان اجازه میدهد با تغییر سازوکار ابزارهایی که برای کسب وضوح و شناخت وضع موجود طراحی شدهاند، درک یک دولت از تواناییها و میزان عزم و اراده – چه ارزیابی از خود و چه از دیگران – را دچار اختلال کنند. در شرایط بحران، چنین مسمومسازیهایی میتواند رهبران را به تردید بیندازد یا بدتر از آن به محاسبه اشتباه وادارد، بازدارندگی را تضعیف کند و راه را برای تشدید تنشها هوار نماید.
پیشدستیکردن
انتظار میرفت که ظهور سامانههای هوش مصنوعی، بازدارندگی را تقویت کند؛ زیرا میتوانست سیگنالهای روشنتری درباره تواناییها و اراده دولت مدافع به دولت دشمن ارسال کند. اما افزایش استفاده از جنگ اطلاعاتی مبتنی بر همین سامانهها این نگرانی را ایجاد کرده که ممکن است نتیجهای عکس در پی داشته باشد. حتی در مراحل اولیه، این نوع جدید جنگ اطلاعاتی نشان داده است که فناوریهای هوش مصنوعی میتوانند بر نحوه تفسیر اطلاعات تأثیر بگذارند، عدم قطعیت در فرایندهای تصمیمگیری ایجاد کنند و دادههای پایهای تصمیمگیری را دچار تحریف سازند. با پیشرفت بیشتر هوش مصنوعی، این تهدیدها تنها قدرتمندتر خواهند شد.
حتی کشوری قدرتمند مانند ایالات متحده اگر در معرض جنگ اطلاعاتی پیشرفته مبتنی بر هوش مصنوعی قرار گیرد، ممکن است در انتقال اعتبار بازدارندگی خود با دشواری مواجه شود. برای سیاستگذاران و شهروندان، چالش این خواهد بود که چگونه از مزایای هوش مصنوعی بهرهبرداری کنند و درعینحال از تبدیل آن به سلاح جلوگیری کنند. استراتژیهای مقابله با این تهدید جدید باید بهسرعت فناوریهای زیربنایی آن توسعه یابند.
برخورد با این چالش، مستلزم آن است که دولتها و پژوهشگران اقداماتی برای تقویت سامانههای تحلیلی در برابر مسمومسازی مدل انجام دهند و هرگاه عملیات نفوذ مبتنی بر هوش مصنوعی شناسایی شد، فعالانه با آن مقابله کنند. برای مبارزه با فعالیت شرکتهایی مانند «GoLaxy»، ایالات متحده و متحدانش باید قادر باشند که شبکههای مصنوعی را بهسرعت شناسایی و مختل کنند و با ابزارهایی که هویتهای جعلی مبتنی بر هوش مصنوعی را قبل از آن که تثبیت شوند، شناسایی و خنثی کنند. همچنین، کمپینهای آموزشی درباره رسانههای مصنوعی و روشهای شناسایی آنها میتوانند آگاهی عمومی نسبت به تهدید را تقویت کنند. دولتهای دموکراتیک، پلتفرمهای شبکههای اجتماعی و هوش مصنوعی و پژوهشگران بینرشتهای باید برای توسعه چنین راهکارهایی با یکدیگر همکاری کنند.
در سطح راهبردی، ایالات متحده باید در فناوریهایی سرمایهگذاری کند که بتوانند پیامهای مصنوعی را بهسرعت شناسایی کنند. دولت، دانشگاهها و بخش خصوصی باید سیاستها و سامانههای جدید تصمیمگیری و فیلترسازی داده را طراحی کنند که در برابر ورودیهای آلوده مقاوم باشند و همزمان با متحدان آمریکا همکاری کنند تا عاملان کمپینهای اطلاعاتی گسترده، شناسایی و مجازات شوند. افزون بر این، این اتحاد باید مدلهای جدید را به طور برنامهریزیشده آزمایش کند تا کاستیها – از جمله مسمومسازی دادههایی که در استفاده روزمره آشکار نیست – شناسایی شوند و این کار با شفافیت دقیق انجام شود تا امکان بررسی دقیق فراهم آید. ایجاد تضمینهای مقاوم و آزمایشهای دقیق برای اطمینان از عملکرد قابلاعتماد سامانههای هوش مصنوعی در لحظات فشار یا بحران ضروری است.
در عصر هوش مصنوعی، بازدارندگی دیگر نمیتواند تنها بر تواناییها و اراده متکی باشد. این امر مستلزم آن است که رهبران، استراتژیستهای دفاعی و دیگر تصمیمگیرندگان، قادر باشند قابلیت اطمینان محیط اطلاعاتی خود را – حتی در شرایطی که تحریف دیجیتال گسترده است – حفظ کنند. (سدید)
https://www.foreignaffairs.com/china/fog-ai
[1] . BRETT V. BENSON
[2] . BRETT J. GOLDSTEIN
