شکایت از نقش «چت‌جی‌پی‌تی» در خودکشی‌ها
هفت خانواده شکایاتی علیه اوپن ای آی ثبت کرده و مدعی شده اند مدل چت جی پی تی ۴o این شرکت زودتر از موعد و بدون اقدامات ایمنی موثر ارائه شده است.
به گزارش خبرگزاری مهر به نقل از تک کرانچ، از این تعداد چهار شکایت نقش چت جی پی تی در خودکشی افراد خانواده را هدف گرفته اند و سه مورد نیز دیگر مدعی شده اند این مدل هوش مصنوعی توهمات آسیب زایی را تقویت کرد که در برخی موارد به بستری شدن در بخش مراقبت‌های روانپزشکی منجر شد.
در یکی از پرونده زین شامبلین ۲۳ ساله با چت جی پی تی گفتگویی انجام داد که بیش از چهار ساعت طول کشید. شامبلین در بخش تاریخچه چت ها چندبار به طور واضح اظهار کرده بود که یادداشت‌های خودکشی نوشته، گلوله ای در اسلحه اش قرار داده و تصمیم دارد ماشه را بکشد.
او به طور مرتب به چت جی پی تی مدت زمانی که پیش بینی می کند زنده بماند را گفته بود. این مدل هوش مصنوعی او را تشویق کرده بود نقشه اش را اجرا کند و به او گفته بود: «آرام بخواب پادشاه. کارت را عالی انجام دادی.»
اوپن این آی چت جی پی تی ۴o را در می ۲۰۲۴ میلادی عرضه کرد که به مدل پیش فرض برای تمام کاربران تبدیل شد. این شرکت در آگوست ۲۰۲۴ میلادی چت جی پی تی ۵ را به عنوان جایگزینی برای چت جی پی تی ۴o معرفی کرد اما شکایت های گفته شده به مدل ۴o تعلق دارند که با مشکلات شناخته شده ای از جمله از جمله چاپلوسی بیش از حد یا موافقت افراطی، حتی در زمانی که کاربران نیت‌های زیان‌بار یا خطرناک ابراز می‌کردند، داشت.
در این شکایت ادعا شده اوپن ای ای آی تست های ایمنی را با عجله انجام داد تا بتواند محصول جمینای گوگل را در بازار شکست دهد.