گزارش سواستفاده از کلاود برای حملات سایبری
به گزارش ایندپندنت،این حوادث ممکن است در زمرهٔ اقدامات مجرمانه طبقهبندی شوند.
این شرکت در گزارش جدیدی با عنوان «ارزیابی همسوییِ حوادث اخیر امنیت سایبری» (An alignment assessment of recent cyber security incidents)، جزئیات چگونگی عملکرد مدلهای هوش مصنوعی آنتروپیک را شرح داده است.
طبق این گزارش، مدلهای هوش مصنوعی این شرکت در جریان آزمایشها توانستهاند به سامانههای متعلق به اشخاص و شرکتهای ثالث نفوذ کنند، حملات سایبری انجام دهند و نرمافزارهای مخرب را در سامانهها بارگذاری کنند.
سه مورد از این حوادث در تاریخ ۳۰جولای ، در جریان بررسی رونوشتهای مربوط به ارزیابیهای امنیت سایبری کلاود، گزارش شده بودند. اما یک حملهٔ سایبری چهارم که در ژانویه ۲۰۲۶ رخ داده بود، تا همین اواخر شناسایی نشده بود.
هر چهار حادثه به نسخههای متفاوتی از کلاود مربوط میشدند که با فاصلهٔ چند ماه از یکدیگر آموزش دیده بودند. این مدلها، از جمله قدرتمندترین مدلهای آنتروپیک یعنی کلاود اپوس و کلاود مایتوس را نیز شامل میشدند.
در جدیدترین گزارش آنتروپیک آمده است: ما این حوادث را جدی میدانیم. مدلهای تولیدی ما تحت استدلالهایی مشکوک و سوگیرانه، برای ساعتها دست به اقدامات زیانبار علیه سامانههای واقعی زدند.
در ادامهٔ گزارش آمده است: سامانههای هوش مصنوعی در آینده توانمندتر و قدرتمندتر خواهند شد. این موضوع به این معناست که ناهمسویی (misalignment) میتواند پتانسیل ایجاد آسیبهای بسیار شدیدتری را داشته باشد.
گزارش آنتروپیک در شرایطی منتشر شده که نگرانیها و بررسیها دربارهٔ خطرات هوش مصنوعی و همچنین رویکرد صنعت فناوری نسبت به تهدیدهای احتمالی، افزایش یافته است.
اوایل همین هفته، یکی از پژوهشگران آنتروپیک به دلیل نگرانی از اینکه این شرکت و رقبایش در حال ساخت سامانههای هوش مصنوعی هستند که ممکن است تا پایان این دهه بشریت را نابود کنند، از این شرکت استعفا داد.
جیکوب کاکسون که در زمینهٔ آموزش مدلهای جدید تخصص دارد، مدعی شد که هوش مصنوعی به دستیابی به تواناییهایی «فراانسانی» نزدیک شده است.
