هوش مصنوعی در برابر هوش مصنوعی!
نگار قیصری - هوش مصنوعی، فقط برای نوشتن مقاله یا جست‌وجو در اینترنت نیست، بلکه به سلاح واقعی نیز تبدیل شده است و در فضای اینترنت، هم افراد خوب و هم مجرمان، از آن استفاده می‌کنند.
نیویورک‌تایمز در گزارشی به بررسی دو روی این سکه، یعنی کاربردهای تهاجمی و دفاعی هوش مصنوعی پرداخته است.
تهاجم: بسیاری از جرایم سایبری جهان، توسط ربات‌ها و الگوریتم‌ها انجام می‌شوند. کلاهبرداران با استفاده از آنها، دیپ‌فیک‌ها (تصاویر و ویدئوهای جعلی اما واقعی‌نما) و حملات فیشینگ طراحی می‌کنند. اگر بخواهید بدافزاری بسازید که اطلاعات کسی را بدزدد، یک چت‌بات می‌تواند کد آن را بنویسد. همچنین ربات‌ها برای تولید اطلاعات نادرست کاربرد دارند. برای مثال ماه گذشته، وقتی اسرائیل و ایران به‌سوی یکدیگر موشک شلیک کردند، در فضای اینترنت با سیل پروپاگاندای هوش‌مصنوعی مواجه شدیم.
دفاع: شرکت‌های امنیت سایبری، از هوش مصنوعی برای شناسایی ترافیک مخرب و رفع آسیب‌پذیری‌های نرم‌افزاری استفاده می‌کنند. طی هفته‌های اخیر، گوگل اعلام کرد یکی از ربات‌هایش، آسیب‌پذیری در کدی پیدا کرده که میلیاردها رایانه از آن استفاده می‌کنند و مجرمان سایبری، قصد سوءاستفاده از آن را داشتند. احتمالاً نخستین باری است که هوش مصنوعی چنین دستاوردی داشته است!
در گذشته، امنیت سایبری، اقدامی کُند و زمان‌بر بود. هکرهای انسانی، حملات جدید را طراحی و شرکت‌های امنیتی، دفاع خود را برای مقابله با آنها به‌روزرسانی می‌کردند، اما حالا این بازی موش و گربه با سرعت هوش مصنوعی پیش می‌رود. این در حالی است که اهمیت موضوع، هیچ‌گاه تا این حد بالا نبوده است.
طبق داده‌های اف‌بی‌آی و صندوق بین‌المللی پول، پیش‌بینی می‌شود جرایم سایبری تا سال ۲۰۲۷، سالانه بیش از ۲۳ تریلیون دلار به اقتصاد جهانی آسیب بزنند.
این رقم، بالاتر از کل تولید ناخالص داخلی چین است. اکنون باید ببینیم ورود هوش مصنوعی به عرصه هک چه معنایی برای اینترنت و میلیاردها کاربر آن دارد.
- محاصره دیجیتال
هکرهای جدید، ربات‌ها هستند. آنها با دستور زبان بی‌نقص می‌نویسند و همانند برنامه‌نویسان حرفه‌ای، کد می‌زنند. آنها مسائلی را در چند ثانیه حل می‌کنند که انسان‌ها سال‌ها با آن درگیر بوده‌اند.
در گذشته، ایمیل‌های مخرب پر از غلط‌های املایی و نگارشی بودند و فیلترهای اسپم به‌راحتی آنها را تشخیص می‌دادند، اما این روش دیگر جواب نمی‌دهد. با وجود هوش مصنوعی مولد، هرکس می‌تواند کلاهبرداری‌های بسیار دقیق، شخصی‌سازی‌شده و بدون ایراد دستوری تولید کند.
از زمان راه‌اندازی چت‌جی‌پی‌تی در نوامبر ۲۰۲۲، حملات فیشینگ بیش از ۴۰ برابر افزایش یافته‌اند. ضمناً دیپ‌فیک‌ها، که عکس، ویدئو و صدای ساختگیِ مشابه افراد واقعی تولید می‌کنند، بیش از ۲۰ برابر، بیشتر شده‌اند.
هرچند چت‌بات‌های تجاری، برای جلوگیری از سوءاستفاده، محدودیت‌هایی را درنظر دارند، اما توسعه‌دهندگان بی‌وجدان، نسخه‌های اختصاصی برای جرایم سایبری طراحی کرده‌اند. البته حتی مدل‌های معروف مانند چت‌جی‌پی‌تی (ChatGPT)، کلود (Claude) و جمینی (Gemini) نیز به‌راحتی قابل فریب دادن هستند.
در همین رابطه دنیس شو، تحلیلگر امنیت سایبری شرکت مشاوره گارتنر می‌گوید: «اگر هکر نتواند چت‌بات را وادار به پاسخ به سوالات مخرب کند، هکر خوبی نیست.»
گوگل، سازنده جمینی، اعلام کرده مجرمان، که اغلب از ایران، چین، روسیه و کره‌شمالی هستند، از چت‌بات‌های گوگل برای شناسایی اهداف، ساخت بدافزار و اجرای حملات استفاده کرده‌اند.
همچنین طبق اعلام OpenAI، سازنده چت‌جی‌پی‌تی، مجرمان از این ابزار برای ساخت هویت‌های جعلی، انتشار پروپاگاندا و نوشتن کلاهبرداری‌ها بهره برده‌اند.
شین سیمز، مشاور امنیت سایبری می‌گوید: «اگر به کل چرخه حمله سایبری نگاه کنید، ۹۰ درصد آن، اکنون توسط هوش مصنوعی انجام می‌شود.»
نکته عجیب اینجاست: حملات، لزوماً هوشمندتر نشده‌اند. ساندرا جویس، رئیس گروه اطلاعات تهدیدات گوگل معتقد است که هنوز «هیچ رویداد تحول‌آفرینی ندیده که در آن، هوش مصنوعی کاری انجام داده باشد که انسان‌ها از عهده‌اش برنیایند.»
بااین‌حال، جرایم سایبری، یک بازی عددی است و هوش مصنوعی، مقیاس‌پذیری را آسان می‌کند. اگر به‌اندازه کافی حمله کنید، احتمال موفقیت برخی از آنها قطعی است.
این ویژگی باعث می‌شود هوش مصنوعی در حمله مؤثر باشد؛ یعنی توانایی یافتن الگوها در بین حجم عظیم داده‌ها را داراست. این، همان چیزی است که در دفاع نیز آن را کارآمد می‌کند. اگر وارد کنفرانس‌های بزرگ امنیت سایبری شوید، تقریباً تمام شرکت‌کنندگان، محصولی بر پایه هوش مصنوعی معرفی می‌کنند. الگوریتم‌ها می‌توانند میلیون‌ها رویداد شبکه را در هر ثانیه تحلیل کنند. آنها کاربران جعلی و برخی نفوذهای امنیتی را شناسایی می‌کنند که انسان‌ها ممکن است هفته‌ها طول بکشد تا متوجه آن شوند.
از آنجا که هوش مصنوعی در حمله، بسیار سریع عمل می‌کند، انسان‌ها دیگر به‌تنهایی نمی‌توانند دفاع مناسبی داشته باشند. به گفته امی لوتواک، هم‌بنیان‌گذار شرکت امنیت سایبری «وِیز»: «انسان‌ها، هزار به یک، در برابر ماشین‌ها مغلوب خواهند بود.»
الگوریتم‌ها دهه‌هاست که وجود دارند، اما هنوز بسیاری از اقدامات، مانند بررسی انطباق‌ها، جستجوی آسیب‌پذیری‌ها و وصله‌کردن کدها، به‌صورت دستی انجام می‌شود. اکنون شرکت‌های امنیت سایبری در حال خودکارسازی کامل این فرایندها هستند. این، دقیقاً همان چیزی است که گوگل اعلام کرد رباتش انجام داده است.
شرکت‌های دیگر هم در این مسیر قرار دارند.. مایکروسافت نیز اعلام کرد که ربات «Security Copilot» باعث شده مهندسان امنیتی، ۳۰ درصد سریع‌تر و به‌مراتب، دقیق‌تر عمل کنند.
بااین‌حال، خطر جدی این است که هوش مصنوعی همچنان مرتکب خطا می‌شود و زمانی که قدرت بیشتری به آن داده شود، این اشتباهات می‌توانند بسیار بزرگ‌تر باشند.
ممکن است یک ربات با نیت خیر خود برای مسدودسازی ترافیک مخرب از یک منبع خاص، به‌اشتباه کل ترافیک یک کشور را قطع کند! (منبع:عصرارتباط)