استفاده کودکان از هوش مصنوعی ممنوع شد

به گزارش انگجت، قانون پیشنهادی سیستم احراز سنی را برای چت بات‌ها تعیین و همچنین شرکت های هوش مصنوعی را برای افراد زیر سن قانون ممنوع می کند و علاوه بر آن اجازه نمی دهد سرویس های مذکور محتوای جنسی یا مشوق خودآزاری را برای کودکان نمایش دهند.

لایحه مذکور با پشتیبانی سناتور جاش هاولی و ریچارد بلومنتال ارائه شده است.

تاییدیه کمیته قضاییی سنا بر لایحه گامی نخست در جهت مواجهه شرکت های هوش مصنوعی با هرگونه قانون فدرال در این زمینه است.

اما توافق کامل در مورد محدود کردن استفاده از چت‌بات برای افراد زیر سن قانونی نشان می‌دهد که ممکن است حمایت کافی از سوی هر دو حزب سیاسی برای تصویب سریع و موفقیت‌آمیز این لایحه در سنا وجود داشته باشد.

گروه بزرگی از دادستان های کل آمریکا سال گذشته با مدیران هوش مصنوعی تماس گرفتند تا آنها به سمت حفاظت بهتر از کودکان و نوجوانان سوق دهند.

شرکت های متعددی که چت بات های هوش مصنوعی را راهبری می کنند هم اکنون با ادعاهایی مبنی بر آنکه نوجوانان از پلتفرم ها برای برنامه ریزی خودکشی استفاده می کنند، به دادگاه کشانده شده اند.(مهر)

قربانیان تیراندازی در کانادا از اوپن ای آی شکایت کردند

در خبر دیگری در همین رابطه چند روز پس از آنکه سم آلتمن مدیر ارشد اجرایی اوپن ای آی نامه عذرخواهی عمومی به مردم شهر «تامبلر ریج»در کانادا نوشت ، خانواده های قربانیان یک رویداد تیراندازی در این شهر از شرکت شکایت کردند.

به گزارش خبرگزاری مهر به نقل از انگجت، این تیراندازی گروهی که یکی از مرگبارترین نمونه های چنین رویدادی در تاریخ کانادا است، یک متهم ۱۹ ساله وارد دبیرستان محلی شهر شد و پنج تن از دانش آموزان و همچنین یکی از معلمان را به قتل رساند. در این حادثه دو نفر دیگر نیز به شدت مجروح شدند و پس از آن مظنون تیرانداز مذکور خودکشی کرد. پلیس محلی بعدا متوجه شد این مرد مادر و برادر ۱۱ ساله خود را قبل از ورود به مدرسه به قتل رسانده است.

طبق گزارش رسانه ها، وکلای برخی خانواده های «تامبلرریج» شش شکایت مجزات در دادگاه فدرال سن فرانسیسکو آمریکا ثبت کردند. یکی از شکایت ها از سوی «مایا گابالا» که از تیراندازی جان سالم به در برده، ثبت شده است. در این شکایت ادعا شده اوپن ای آی سیستم های ایمنی اتوماتیک اوپن ای آی در ژوئن ۲۰۲۵ میلادی درباره چت های مظنون تیراندازی با چت جی پی تی هشدار داده بودند.

همچنین در شکایت ادعا شده تیم ایمنی اوپن ای آی از مدیریت خواسته بودند با مقامات تماس بگیرند اما شرکت در عوض حساب کاربری فرد را غیرفعال کرد.

سخنگوی اوپن ای آی در این باره گفت: رویدادهای «تامبلرریج» تراژدی هستند. اما تحمل نمی کنیم از ابزارهایمان برای انجام خشونت استفاده شود. همانطور که قبلا به مقامات کانادایی اعلام کردیم، ما هم اکنون اقدامات ایمنی مان از جمله شیوه پاسخ گویی چت جی پی تی به نشانه های اضطراب، برقراری ارتباط با مقامات پشتیبانی محلی و منابع سلامت ذهنی، قدرتمندتر کردن شیوه ارزیابی و اوج گرفتن تهدید به خشونت های احتمالی و بهبود ردیابی افرادی که خشونت را تکرار می کنند، بهبود بخشیده ایم.

شکایت های ثبت شده درباره این رویداد خشونت آمیز، جدیدترین تلاش ها برای استفاده از سیستم حقوقی جهت مسئولیت پذیر کردن اوپن ای آی درباره طراحی محصولاتش است. تابستان سال گذشته والدین نوجوانی به نام «آدام رین» که در سال ۲۰۲۵ خودکشی کرده بود نخستین شکایت مرگ ناشی از قصور را ثبت کردند. آنها مدعی بودند چت جی پی تی قبل از آنکه نوجوان خودکشی کند، از چهار تلاش پیشین و نافرجام رین برای پایان دادن به زندگی خود آگاه بوده است.