نگرش عملگرایانه به سند ملی هوش مصنوعی؛ چت‌بات‌ها محمل جنگ شناختی
عباس پورخصالیان - به رغم این که نویسندگانِ «سند ملی هوش مصنوعی جمهوری اسلامی ایران» در تعریف هوش مصنوعی [در مادۀ ۱ این سند، تحت عنوان "واژگان"] نوشته‌اند:
- «هوش مصنوعی، توانایی ماشین برای انجام عملکردهای خودکار و نظام‌مند[ی است] که منشأ اثرگذاری‌های گسترده بر انسان و روابط انسانی در محیط فیزیکی یا مجازی است»،
ظاهرا به کل فراموش کرده اند که:
- این فناوری، درست به دلیل اثرگذاری‌های گسترده بر انسان و روابط انسانی، بهترین و راحت‌ترین ابزار برای راهبری جنگ شناختی به شمار می‌آید؛ جنگی که در آن، از چت‌بات (علاوه بر شبکه‌های اجتماعی، بخصوص زمانی که چت‌بات در رسانه اجتماعی ادغام می‌شود) برای تأثیرگذاری بر ادراک، احساسات، افکار، عقاید و تصمیمات کاربران و جوامع هدف، به نفع عاملان و به زیان قربانیان استفاده می‌شود.
برای این که خوانندۀ محترم این یادداشت ببیند که متن سند ملی هوش مصنوعی جمهوری اسلامی ایران تا چه اندازه دست مجریان را در استفاده از هوش مصنوعی برای راهبری متقابل جنگ شناختی به نفع کشور بسته است، در زیر، قسمتی از متن سند را می‌آورم، با توجه به این نکته که نویسندگان محترم سند مذکور در بخش‌های دیگری از همین سند، باز هم در بارۀ «رعایت اخلاق هوش مصنوعی» قلمفرسایی کرده‌اند:
«اصول و مبانی ارزشی سندِ ملی هوش مصنوعی جمهوری اسلامی ایران عبارتند از:
۱- رعایت اصول اعتقادی و مجموعه ارزش‌های اخلاقی اسلام در راستای تقویت سبک زندگی اسلامی و حیات طیبه جاودانه در کلیه مسیرگذاری‌های هوش مصنوعی و پرهیز از جهت گیری‌های منجر به فساد و منکر و تقویت فضای غفلت؛
۲- توجه به ابعاد وجودی انسان مبتنی بر فلسفه و معارف اسلامی در توسعه و به‌کارگیری هوش مصنوعی؛
۳- توسعه و کاربست هوش مصنوعی با هدف تأمین آرمان‌ها و ارزش‌های مرتبط با انسان الهی و جامعه اسلامی؛
۴- آرمان گرایی، خوداتکایی، خودباوری، درون‌زایی و برون‌گرایی در توسعه زیست بوم هوش مصنوعی؛
۵- توجه به عدالت، کرامت، حقوق و سلامت جسمی، روحی و روانی انسان‌ها در سازوکار آموزش و به‌کارگیری هوش مصنوعی؛
۶- حفظ استقلال، امنیت، منافع و اقتدار ملی در مواجهه با توسعه فناوری هوش مصنوعی در جهان؛
۷- توسعه آینده‌نگر زیست بوم هوش مصنوعیِ توانمندساز، آگاهی‌بخش، اخلاق‌مدار و تمدن آفرین؛
۸- رعایت حریم خصوصی و حفاظت از امنیت داده‌ها و اطلاعات در زیست بوم هوش مصنوعی؛
۹- مواجهه هوشمندانه با قدرت‌های بزرگ با رویکرد انحصارزدایی؛
۱۰- جلوگیری از سوءاستفاده از هوش مصنوعی برای سلطه انسان بر انسان و سلطه هوش مصنوعی بر انسان؛
۱۱- توسعه هوش مصنوعی با رعایت تقویت ارتباطات طبیعی انسانی و پرهیز از انزوای اجتماعی انسان‌ها.
اخلاق هوش مصنوعی: مجموعه‌ای از اصول اخلاقی برای هدایت توسعه و استفاده مسئولانه و مبتنی بر ارزش‌های اسلامی از فناوری هوش مصنوعی است که توسط متخصصان و سایر افراد در طراحی، تولید و بهره‌گیری از هوش مصنوعی رعایت شده و حقوق متقابل ایجاد می‌کند.
نمونه‌هایی از مسائل اخلاقی هوش مصنوعی عبارتند از: رعایت حریم خصوصی، رعایت حقوق فردی و اجتماعی، تأمین امنیت اجتماعی، انصاف، توضیح‌پذیری، شفافیت، عدم تبعیض و سوگیری، پاسخگویی، همسویی با ارزش‌ها و هنجارهای جامعه اسلامی، مسئولیت‌پذیری، اعتماد و عدم سوء استفاده از فناوری.»
(پایان نقل قول از سند ملی هوش مصنوعی جمهوری اسلامی ایران)
لیکن نویسندگان سند مذکور باید توجه ویژه می‌داشتند (و نداشتند) به این ۳ نکتۀ بدیهی که:
- اولاً حوزۀ اخلاقیات از حوزۀ سیاست و جنگ، جدا است! یعنی سکوهای هوش مصنوعی و رسانه‌های اجتماعی‌ای که در خدمت جنگ شناختی قرار دارند، در حوزه‌ای عمل می‌کنند که اصول و مبانی اخلاقی در آن، راهی ندارند! نام این حوزه: منافع شرکتی یا مصالح ملی است! هیچ سیاستمداری حق ندارد منافع ملی را فدای دفاع از اخلاقیات کند!
- ثانیاً وقتی که برای نویسندگانِ مادۀ نهمِ اصول و مبانی ارزشی سندِ ملی هوش مصنوعی جمهوری اسلامی ایران، وجود امکان سوءاستفاده از هوش مصنوعی برای سلطه انسان بر انسان پیشفرض است، نویسندگان محترم سند باید در جایی از متن، دست سیاستمدارِ مدافع مصالح کشور را باز می‌گذاشتند تا بتواند در مقابلِ چت‌بات‌هایی که ابزار جنگ شناختی علیه منافع ملی ما هستند، اقدام متقابل کند؛ یعنی به قول قائم مقام فراهانی (رجوع کنید به خبرگزاری مهر، ۱۸ اسفند ۱۳۹۳-کد خبر: ۲۵۱۴۲۸) «به مردی و نامردی هم شده» از منافع ملی و عمومی کشور در هر شرایطی دفاع کند؛
- ثالثاً وقتی که سیاستمداری نتواند با ایجاد چت‌بات‌ها و رسانه‌های اجتماعی مناسب، به جنگ شناختیِ خنثی کنندۀ جنگ شناختی دیگران بپردازد، مجبور است بیاید مادۀ نهم یعنی
«جلوگیری از سوءاستفاده از هوش مصنوعی برای سلطه انسان بر انسان» را با فیلترینگ و مسدودسازی سکوهای دیگران اجرا کند، اقدامی که می‌داند فقط «دل-خوش-کُنَک» است و هیچ اثری ندارد جز رونق بازار فیلترشکن‌ها.
• راهبری جنگ شناختی با استفاده از فناوری هوش مصنوعی
«جنگ شناختی» اصطلاحی امروزی است، اما مبارزه انسان برای تسلط بر افکار دیگران و نفوذ در طرز فکر زیردستان، مخالفان و دشمنان، به قدمت تمدن انسان است. آنچه در فرایند راهبریِ «جنگ شناختی» در طی زمان تغییر کرده، ابزارها و روش‌های مورد استفاده قدرتمداران است. آنها در گذشته از رسانه‌های سنتی (گفتاری و نوشتاری) برای ترویج روایات جعلی و اسطوره‌های گمراه کننده استفاده می‌کردند و امروزه از رسانه‌های اجتماعی، سکوهای هوش مصنوعی و پلتفرم‌های ناجینگ!
جنگ شناختی یکی از اجزای مهم در درگیری‌های سیاسی و دیپلُماتیک مدرن است که بر تأثیرگذاری بر فرآیندهای فکری، باورها، احساسات و تصمیمات قربانیان (افراد و جوامع هدف) تمرکز دارد.
* از چه راه‌هایی چت‌بات، محمل جنگ شناختی می‌شود؟
۱. از راه دستکاری افکار عمومی: چت‌بات‌های عمومی می‌توانند اطلاعات نادرست منتشر کنند و از این طریق درکی اعوجاجی از موضوعات خاص (مانند مسائل امنیتی، سیاسی یا اجتماعی) در کاربران این گونه چت‌بات‌ها به وجود آورند. پلتفرم‌های رسانه‌های اجتماعی مانند فیس بوک، توییتر (X)، اینستاگرام و تیک تاک می‌توانند به عنوان تقویت‌کنندۀ اخبار جعلی و پیام‌های احساساتی/عاطفی/هیجانی عمل کنند.
۲. از راه تقویت قطبش (پلاریزاسیون): الگوریتم‌های رسانه‌های اجتماعی تمایل به ترویج محتوایی دارند که احساساتی مانند خشم، نفرت یا ترس را برانگیزند و از این طریق، قطبش موجود در جامعه را تقویت کنند. چت‌بات‌های بخصوصی نیز هستند که می‌توانند نگرش‌ها و بحث‌ها را از مسیر علمی و مسالمت آمیز خود خارج و ایجاد تضاد و تعارض کنند.
۳. از راه دستکاری روانی: کارزار‌های رسانه‌های اجتماعی و چت‌بات‌ها اغلب از داده‌های شخصی برای ایجاد پیام‌هایی استفاده می‌کنند که بر نگرش یا رفتار افراد تأثیر می‌گذارد.
۴. از راه تبلیغات خودکار: بازیگران سیاسی یا سازمان‌های دولتی از چت‌بات‌ها و سیستم‌های خودکار هوشمند برای گسترش تبلیغات یا کنترل گفتمان عمومی استفاده می‌کنند.
۵. از راه تجزیه تاب‌آوری نظام: هدف جنگ شناختی تضعیف اعتماد کاربران به نهادها و جوامع هدف و بی‌اعتبار کردن باورهای راسخ است. برای مثال: گسترش بی‌اعتمادی به دولت یا بی‌اعتبار کردن باور به توانایی‌های خودی.
۶ . از راه سوءاستفاده از فناوری‌ها: سوءاستفاده از فناوری‌های مدرن مانند هوش مصنوعی، داده‌های بزرگ و رسانه‌های اجتماعی برای تجزیه و تحلیل دقیق و تأثیرگذاری بر گروه‌های هدف.
پس از اِعمال راه‌های مذکور یا در کنار آنها، معمولاً جنگ هیبریدی نیز به خدمت گرفته می‌شود: ترکیبی از جنگ شناختی به علاوۀ حملات فیزیکی و سایبری برای ایجاد سناریوهای تهدید جامع!
* چشم انداز جنگ شناختی
۱. در افق ارتباطات رو به رشد: همچنان که جهان بیشتر متصل و دیجیتالی می‌شود، اهمیت جنگ شناختی افزایش می‌یابد و دسترسی به افکار و احساسات مردم از طریق هوش مصنوعی به طور فزاینده‌ای آسان‌تر می‌شود.
۲. در شرایط ادغام در استراتژی‌های نظامی: نیروهای مسلح بیشتر و بیشتر در حال ادغام جنگ شناختی در دکترین‌های خود هستند. به عنوان «حوزه ششم» (علاوه بر پنج حوزۀ زمین، هوا، دریا، فضای واقعی و فضای سایبری) در نظر گرفته می‌شود.
۳. در صورت استفاد از چت‌بات‌ها و ربات‌ها:
۳.۱. چت‌بات‌های منبع باز ارزان: پلتفرم‌هایی مانند مدل‌های مبتنی بر GPT (مانند ChatGPT یا GPT-۳) می‌توانند برای تولید و اشاعۀ اطلاعات نادرست برنامه‌ریزی شوند.
۳.۲. ربات‌های اجتماعی: برنامه‌هایی که به‌طور خودکار فرسته‌ها را در پلتفرم‌های اجتماعی لایک می‌کنند، به اشتراک می‌گذارند و روی آنها نظر می‌دهند. این ابزار دسترسی آسان و ارزانی را برای راهبری جنگ شناختی ایجاد می‌کند.
۴. در صورت استفاد از رسانه‌های اجتماعی:
۴.۱. استفاده از تیک‌تاک و اینستاگرام: به دلیل محتوای بصری و هیجان انگیزشان، برای انتشار پیام‌های دستکاری شده به صورتی ایده‌آل!
۴.۲. استفاده از توییتر قبلی و X کنونی: برای راهبری جنگ شناختی در بحث‌های سیاسی و توزیع سریع محتوا. به منظور تقویت اثرگذاری این رسانه، اخیراً چت‌بات «گراک» در آن ادغام شده است!
۴.۳. استفاده از فیسبوک: برای هدف قرار دادن کاربران با پیام‌های دستکاری شده و سیستم هدف‌گیری پیچیده.
۵. گزینه‌های ارزان‌قیمت برای راهبری جنگ شناختی: ابزارهایی مانند Botpress، Rasa یا Dialogflow این امکان را برای راهبران جنگ شناختی فراهم می‌کنند که چت‌بات‌هایی با هزینه کم ایجاد کنند و برای تبلیغات مورد استفاده قرار دهند. دستکاری در رسانه‌های اجتماعی اغلب با بودجه اندکی امکان پذیر است، زیرا الگوریتم‌ها اغلب بر تعامل ارگانیک مبتنی هستند.
• نتیجه‌گیری
چت‌بات‌ها بهترین محمل برای پیشبرد جنگ شناختی برای هر شرکت یا هر کشور هستند.
افق چشم انداز جنگ شناختی به برکت فرافن و فضای سایبری بی‌نهایت باز، رو به رشد و گسترده است.
راهبران جنگ شناختی هرچه زودتر و کاربرپسندتر پلتفرم‌های هوش مصنوعی خود را راه‌اندازی کردند، سهم عمده را در بازار رقابت بردند و شرکت‌ها و کشورهایی که در این عرصه عقب افتاده‌اند، دیگر بعید است بتوانند در این بازار «عرضه-اندام» کنند.
حوزۀ اخلاقیات از حوزۀ سیاست و جنگ شناختی جداست! به عبارت دیگر: رعایت ارزش‌های اخلاقی و اسلامی نباید مانع دفاع از منافع ملی شوند، بلکه در جنگ نابرابری که در جریان است به قول قائم مقام فراهانی، به مردی و نامردی باید بتوان از مصالح عمومی دفاع کرد.
سند ملی هوش مصنوعی جمهوری اسلامی ایران آن‌قدر دیر تصویب شده و آنچنان متعهد به اخلاق و ارزش‌های اسلامی تدوین شده است که در عمل یا راه توسعۀ این ابزارها را به روی مجریان خواهد بست و یا مجریان را دیر یا زود مجبور به مسدودسازی چت‌بات‌های در درسترس می‌کند.
لذا سند ملی هوش مصنوعی جمهوری اسلامی ایران باید بازنویسی و در نسخۀ اصلاح شده چند موضوع از یکدیگر تفکیک شود: ۱) اصول بهره‌مندی از سیستم‌های هوش مصنوعی و چت‌بات‌های جهانی در دسترس؛ ۲) مبانی ایجاد سیستم‌های هوش مصنوعی تخصصی و چت‌بات‌های ملی؛ ۳) اختصاص یک یا چند چت‌بات به جنگ شناختیِ خنثی کنندۀ جنگ شناختی دیگران؛ ۴) اصول تکمیل و ترکیب جنگ شناختی با جنگ هایبریدی. (منبع:عصرارتباط)