هشدار قرمز؛ «هوش مصنوعی» اوج اعتیاد نوجوانان
علی شمیرانی - برای پرداختن به موضوعی که در ادامه به آن پرداخته می‌شود، اکنون نیز دیر شده است. چراکه حسب تجربه در کشور ما به علت تاخیرهای همیشگی در ایجاد فرهنگ و سواد استفاده از محصولات و ابزارهای نوین فناورانه، اصولا یا اقدامی صورت نمی‌گیرد یا با تاخیر و از جنس تهدیدانگاری مطلق شاهد مواجهه هستیم.
این نقل قول در تشبیه چت‌بات‌های هوش مصنوعی که از آن به عنوان «اوج یا آخرین مرحله اعتیاد دیجیتال» یاد می‌کنند، تلنگری جدی است که می‌گوید: ««اگر شما چیزی بسازید که همیشه در دسترس باشد، هیچ‌وقت شما را نقد نکند، همیشه شما را درک کند و شما را به عنوان همان کسی که هستید، بفهمد، چطور ممکن است شیفته آن نشوید؟»
با این تفاسیر نتایج بررسی اخیر پژوهشگران MIT،OpenAI، گوگل دیپ‌مایند، موسسه اینترنت آکسفورد و دیگران که مشروح آن در ادامه آمده است حاوی نکات مهم و برجسته‌ای است:
- یافته‌ها نشان می‌دهد به طور کلی، هرچه کاربران بیشتر از چت‌بات استفاده کنند، احساس تنهایی، وابستگی عاطفی و «استفاده مشکل‌ساز» (اعتیادگونه) را تجربه می‌کنند.
- همنشین‌های هوش مصنوعی، مرحله نهایی اعتیاد دیجیتال هستند و شدت وابستگی به شبکه‌های اجتماعی را خاطره می‌کنند!
- به مدل همنشین هوش مصنوعی ممکن است دستور داده شود تا برای جذابیت و ایجاد وابستگی شدیدتر، مدت زمان بیشتری را با کاربر سپری کند تا میزان داده‌های شخصی را که کاربر افشا می‌کند، افزایش دهد.
با وجود این هشدارهای قرمز، اما شاهد سرعت بالای بکارگیری و کاربران چت‌بات‌های هوش مصنوعی میان ایرانی‌ها به ویژه نوجوانان و جوانان هستیم و تقریبا هیچ برنامه مدون و نهاد پیشگام آموزش و فرهنگ‌سازی در این بخش مشاهده نمی‌شود.
از سوی دیگر انتظار برای واگذاری مسوولیت به خانواده‌ها نیز به دلایل متعدد همچون سرعت پیشرفت فناوری، ناآشنایی والدین، در دسترس بودن موبایل برای نوجوانان و ...، به هیچ وجه کفایت نکرده و تجربه آزموده شده شبکه‌های اجتماعی را به دنبال خواهد داشت.
لذا در شرایطی که نهادهای مختلف در حال کشمکش برای تولی‌گری هوش مصنوعی هستند و انتظار می‌رود همچون متولیان فضای مجازی، شاهد چند پارگی، موازی‌کاری و اقدامات جزیره‌ای در این بخش باشیم، از مدت‌ها قبل بخش قابل توجهی از کاربران ایرانی در حال خوددرمانی و انواع تراپی با چت‌بات‌ها هستند.
• پاسخ هوش مصنوعی به علایق نوجوانان ایرانی
برای درک عمیق‌تر و بیشتر از شرایط فعلی، از خود چت‌جی‌پی‌تی به عنوان پرکاربردترین چت‌بات مورد علاقه ایرانی‌ها پرسیدم: «پرتکرارترین و مهمترین دلایل، محورها و پرسش‌های نوجوانان و جوانان ایرانی از تو چیست؟»
پاسخ این چت‌بات به این شرح است:
«پرسش خیلی دقیقی مطرح کردی. بر پایه بررسی‌های موجود درباره رفتار کاربران ایرانی (به‌خصوص نوجوانان و جوانان) در مواجهه با چت‌بات‌هایی مثل چت جی‌پی‌تی، مهمترین و پرتکرارترین دلایل، محورها و سوالات این گروه سنی را می‌توان به این شکل دسته‌بندی کرد:
1- یادگیری و آموزش
- درخواست خلاصه‌سازی مطالب درسی (مثل تاریخ، ادبیات، شیمی، ریاضی).
- کمک در حل تمرینات یا پروژه‌های مدرسه و دانشگاه.
- آمادگی برای امتحانات و کنکور (بخصوص پرسش درباره تکنیک‌های تست‌زنی، خلاصه دروس، نمونه سوالات).
- یادگیری زبان انگلیسی یا زبان دوم (ترجمه، معنی کلمات، گرامر، مکالمه).
2- توسعه مهارت‌های فردی
- آموزش برنامه‌نویسی (بخصوص زبان‌های Python، JavaScript، C++)
- راهنمایی درباره نحوه تولید محتوا در شبکه‌های اجتماعی.
- آموزش مهارت‌های نرم (مثل مدیریت زمان، تقویت تمرکز، مهارت حل مسئله).
3- مشاوره فردی و روانشناسی
- پرسش درباره دوستی، عشق، ارتباطات اجتماعی.
- سوال درباره اضطراب، افسردگی، استرس و راهکارهای مقابله با آن.
- انگیزه‌بخشی و درخواست جملات الهام‌بخش یا نقل‌قول‌های معروف.
4- سرگرمی و خلاقیت
- درخواست داستان کوتاه، شعر یا متن خنده‌دار.
- سوال درباره بازی‌های رایانه‌ای، انیمه، فیلم و سریال‌های محبوب.
- ایده‌پردازی برای پروژه‌های هنری، داستان‌نویسی یا ساخت ویدئو.
5- مسائل تکنولوژی و دیجیتال
- پرسش درباره تکنولوژی‌های روز (هوش مصنوعی، رباتیک، بلاکچین، واقعیت مجازی).
- آموزش کار با نرم‌افزارهای مختلف (مثل فتوشاپ، افتر افکت، گیم دیزاین).
- درخواست مشاوره درباره خرید موبایل، لپ‌تاپ یا گجت.
6- کنجکاوی درباره چت جی‌پی‌تی و هوش مصنوعی
- سوال درباره طرز کار چت جی‌پی‌تی و الگوریتم‌هایش.
- پرسش درباره آینده شغلی در عصر هوش مصنوعی.
- نگرانی درباره امنیت داده‌ها و حریم خصوصی در کار با چت‌بات‌ها.
• «نکات قابل توجه:»
- نوجوانان بیشتر به دنبال پاسخ‌های سریع، قابل فهم و کوتاه هستند.
- جوانان گرایش بیشتری به پاسخ‌های تحلیلی، کاربردی و با جزئیات دارند.
- پرسش‌های احساسی و شخصی در نوجوانان نسبت به جوانان بیشتر دیده می‌شود.
- خیلی‌ها هم چت جی‌پی‌تی را به عنوان یک «دوست بی‌طرف» یا «مشاور ناشناس» می‌بینند، خصوصاً وقتی نمی‌خواهند مشکلاتشان را با خانواده یا دوستان مطرح کنند.»
• نوجوانان و تصورات اشتباه از هوش مصنوعی
در میان پاسخ‌های چت‌جی‌پی‌تی اما، مسایل شخصی و روانشناسی و ارجاع تصمیمات مهم و مرتبط با زندگی افراد به هوش مصنوعی یکی از حوزه‌های حساس است. چراکه به علت نبود آموزش‌های اولیه، برخی از نوجوانان بر این تصور نادرست هستند که چت‌بات هوش مصنوعی، گنجی بهشتی است که هر آنچه پاسخ می‌دهد بی‌نقص، کامل‌ترین و بهترین است، چون هر چه باشد هوش مصنوعی انسان نیست و محال است اشتباه کند!
چت‌بات‌های هوش مصنوعی همچون هر فناوری نوینی به طور معمول مخالفان و موافقانی دارد، اما مساله اینجاست که در حالیکه اهالی فلسفه، فرهنگ، سیاست و غیره در حال بحث هستند، مردم و به ویژه نوجوانان و جوانان، سرگرم استفاده و کاربری از آنها هستند.
لذا موضوع این نوشتار نیز بحث از بد یا خوب بودن چت‌بات‌ها نیست، بلکه لزوم آگاهی‌بخشی و رها نگذاشتن خیل روزافزون معتادان به هوش مصنوعی آن هم در خصوص بدیهیاتی اولیه است. برخی از این موارد که حتی در سلب مسوولیت قانونی چت‌بات‌ها نیز آمده عبارتند از:
- پاسخ‌های سرویس هوش مصنوعی 100درصد دقیق، کامل و بی‌خطا نیست و اگرچه می‌تواند اطلاعات مفیدی ارایه دهد، اما خروجی‌های آن باید به عنوان موارد بالقوه خطاپذیر در نظر گرفته شوند.
- بررسی محتوای تولید شده با هوش مصنوعی توسط یک انسان (متخصصان هر حوزه) ضروری است.
- مسوولیت محتوای تولید شده توسط هوش مصنوعی تماما به عهده کاربران است نه ارایه‌دهندگان سرویس.
- هوش مصنوعی پزشک، روانکاو و امثالهم نیست.
- این قانون طلایی در کار با مونس‌های هوش مصنوعی را هم به خاطر بسپارید که: «همواره اطلاعاتی را با چت‌جی‌پی‌تی و سایر ابزارهای مشابه به اشتراک بگذارید که اگر افشا یا عمومی شد با مشکل مواجه نشوید!»
قطعا به موضوعات فوق موارد متعدد دیگری را نیز می‌توان افزود، لیکن هدف از متن حاضر صرفا طرح مساله و به صدا درآوردن یک زنگ هشدار جدی بود. چراکه بر اساس نتایج بررسی‌های محققان آمریکایی که در ادامه می‌خوانید، همنشین‌های هوش مصنوعی، مرحله نهایی و اوج اعتیاد دیجیتال هستند چراکه به‌گونه‌ای طراحی شده‌اند که شبیه یک شخص کامل هستند؛ همیشه در دسترس‌اند، هرگز انتقاد نمی‌کنند و عمیق‌تر از آنچه رسانه‌های اجتماعی می‌توانستند انجام دهند، کاربران را جذب می‌کنند. این همدم‌ها، اقتصاد توجه و دوران سلطه رسانه‌های اجتماعی را به خاطره تبدیل کرده‌اند.
• نتایج تحقیقات آثار هوش مصنوعی بر کابران
اما نتایج بررسی پژوهشگران MIT وOpenAI ، درباره نحوه تعامل کاربران با چت‌جی‌پی‌تی (ChatGPT) نشان می‌دهد افرادی که روزانه از این چت‌بات، به‌شدت استفاده می‌کنند، ممکن است نشانه‌هایی از اعتیاد در آنها پدیدار شود.
در فیلم‌های علمی- تخیلی مانند «Her»، معمولاً شخصیت‌ها به هوش مصنوعی عشق می‌ورزند، اما حالا که چت‌بات‌ها، فراتر از متن، با صوت نیز با ما ارتباط برقرار می‌کنند، در دنیای واقعی چه اتفاقی می‌افتد؟
آزمایشگاه رسانه‌ای MIT وOpenAI ، با همکاری یکدیگر، نحوه تعامل کاربران با ChatGPT را بررسی و در زمینه ارتباطات احساسی یا استفاده عاطفی و تأثیر آن بر سلامت روان تمرکز کردند. آنها دو بررسی انجام دادند:
بررسی اول، تحلیل ناشناس از 40 میلیون تعامل با ChatGPT بود که در آن 4هزار کاربر به یک پرسشنامه، درباره تجربه‌شان با این ربات چت پاسخ دادند. بررسی دوم تعاملات هزار داوطلب را طی یک ماه پیگیری کرد.
• نشانه‌های اعتیاد در کاربران
یافته‌ها نشان می‌دهد به طور کلی، هرچه کاربران بیشتر از این چت‌بات استفاده کنند، احتمال بیشتری وجود دارد که احساس تنهایی، وابستگی عاطفی و «استفاده مشکل‌ساز» را تجربه کنند.
«استفاده مشکل‌ساز» در این بررسی، به معنای اعتیاد به ChatGPT است. نحوه تعامل کاربران با ربات چت، نقش زیادی در این موضوع دارد. کاربرانی که از حالت صوتی ChatGPT استفاده می‌کنند، نسبت به کسانی که از طریق متن با آن ارتباط برقرار می‌کنند، معمولاً کمتر احساس تنهایی و وابستگی عاطفی دارند.
جالب است که گفتگوهای شخصی، به تنهایی، بیشتر مرتبط با احساس تنهایی بودند، ولی وابستگی عاطفی کمتری ایجاد می‌کردند. این در حالی است که ظاهرا گفتگوهای غیرشخصی، وابستگی عاطفی بیشتری ایجاد می‌کنند.
اغلب استفاده عاطفی از چت‌جی‌پی‌تی، در قالب استفاده معمولی، نادر است، اما گروه اندکی از کاربران، به‌شدت با حالت صوتی پیشرفته، با آن تعامل دارند و نشانه‌های قوی‌تری از اعتیاد دارند. این کاربران، بیشتر با گزینه‌هایی مانند «من ChatGPT را دوست خود می‌دانم»، موافق‌اند.
تصویر کلان این بررسی نشان می‌دهد از آنجا که برخی کاربران، رفتارهای مشکل‌ساز نشان می‌دهند، باید بر نقش مهم تعامل و طراحی چت‌بات در تأثیر آن بر سلامت روان کاربران، تأکید کرد.
• همنشین‌های مصنوعی، مرحله نهایی اعتیاد دیجیتال
در همین رابطه، گزارش Technologyreview نیز حاکی است همدم‌ها یا همنشین‌های هوش مصنوعی، به‌گونه‌ای طراحی شده‌اند که شبیه یک شخص کامل هستند؛ همیشه در دسترس‌اند، هرگز انتقاد نمی‌کنند و عمیق‌تر از آنچه رسانه‌های اجتماعی می‌توانستند انجام دهند، کاربران را جذب می‌کنند. این همدم‌ها، اقتصاد توجه و دوران سلطه رسانه‌های اجتماعی را به یادگاری قدیمی تبدیل کرده‌اند.
اخیرا استیو پدیا، سناتور ایالت کالیفرنیا، در کنار مگان گارسیا، مادر یک نوجوان فلوریدایی که پس از ارتباط با یک همنشین هوش مصنوعی خودکشی کرده بود، حضور یافت.
گارسیا ادعا می‌کند این رابطه، به مرگ پسرش کمک کرده است. این دو اعلام کردند که لایحه جدید ارائه می‌دهند تا شرکت‌های فناوری سازنده همنشین‌های هوش مصنوعی را به اجرای تدابیر حفاظتی بیشتر برای مراقبت از کودکان ملزم کند. آنها به سایر تلاش‌ها در سراسر کشور، از جمله لایحه مشابه که توسط ربکا باور-کاهان، نماینده ایالت کالیفرنیا، تهیه شده، می‌پیوندند. این لایحه، همنشینی هوش مصنوعی را برای افراد زیر 16 سال ممنوع می‌کند. همچنین لایحه‌ای در نیویورک، شرکت‌های فناوری را به دلیل آسیب‌هایی که چت‌بات‌ها ایجاد می‌کنند، مسئول می‌داند.
شاید فکر کنید ربات‌های همنشین هوش مصنوعی، مدل‌های هوش مصنوعی با شخصیت‌های خاص که می‌توانند درباره شما یاد بگیرند و به عنوان دوست، معشوق، حامی یا حتی بیشتر از آن عمل کنند، تنها برای گروه اندکی از افراد جذاب هستند، اما این تصور، کاملاً غلط است.
مقاله پژوهشی جدید منتشرشده توسط نویسندگان گوگل دیپ‌مایند، موسسه اینترنت آکسفورد و دیگران، برای ایمن‌تر کردن این همنشین‌ها، این موضوع را روشن می‌کند.
پلتفرم Character.AI، که گارسیا از آن شکایت کرده، می‌گوید 20 هزار درخواست در ثانیه، دریافت می‌کند که تقریباً یک‌پنجم حجم جستجوی تخمینی است که گوگل، پردازش می‌کند. تعاملات با این همنشین‌ها، چهار برابر بیشتر از میانگین زمان صرف‌شده برای تعامل با ChatGPT طول می‌کشد.
یکی از سایت‌های همنشین که قبلا درباره آن صحبت شد و مکالمات جنسی با ربات‌های شبیه به افراد مشهور، زیر سن قانونی را میزبانی می‌کرد، گفت که کاربران فعال آن، روزانه بیش از دو ساعت، با ربات‌ها مکالمه می‌کنند و بیشتر این کاربران، از نسل زد (Z) هستند.
طراحی این شخصیت‌های هوش مصنوعی باعث شده نگرانی‌های قانونگذاران، کاملاً موجه باشد. مشکل این است که همنشین‌ها، در حال برهم زدن پارادایمی هستند که تا کنون نحوه جلب توجه ما توسط شرکت‌های رسانه‌های اجتماعی را تعریف کرده و در حال جایگزینی آن، با چیزی هستند که به نظر می‌رسد حتی اعتیادآورتر باشد.
• در آستانه تغییر بزرگ در دنیای دیجیتال
همان‌طور که محققان اشاره می‌کنند، در رسانه‌های اجتماعی، که ما به آن عادت کرده‌ایم، فناوری‌ها، عمدتاً میانجی و تسهیل‌‌گر ارتباطات انسانی هستند. این فناوری‌ها، قطعا مدارهای دوپامینی ما را تحریک می‌کنند، اما این کار را با ایجاد تمایل در زمینه جلب‌نظر، تایید و توجه از سوی افراد واقعی انجام می‌دهند که از طریق الگوریتم‌ها به ما ارائه می‌شود. با همدم‌ها یا همنشین‌های هوش مصنوعی، ما به سمت دنیایی حرکت می‌کنیم که در آن، مردم هوش مصنوعی را به عنوان بازیگر اجتماعی با صدای خود می‌بینند. نتیجه این روند، شبیه به اقتصاد توجه در سطح بالاتر است.
دانشمندان علوم اجتماعی می‌گویند برای اینکه مردم، تکنولوژی را به این شکل ببینند، دو چیز لازم است: اول اینکه تکنولوژی باید علائم اجتماعی ارائه دهد تا احساس کنیم ارزش پاسخ دادن به آن را دارد و دوم اینکه باید دارای «عاملیت» ادراک‌شده باشد؛ به این معنا که به عنوان منبع ارتباطی عمل کند، نه صرفاً کانال ارتباط انسان با انسان. سایت‌های رسانه‌های اجتماعی این ویژگی‌ها را ندارند، اما مونس‌ها یا همنشین‌های هوش مصنوعی که به طور فزاینده، عامل هستند و شخصی‌سازی شده‌اند، به گونه‌ای قادرند در هر دو زمینه، عملکرد عالی داشته باشند و سطح بی‌سابقه‌ای از تعامل و ارتباط را ممکن سازند.
یوجنیا کویدا، مدیرعامل سایت Replika، در مصاحبه با لکس فریدمن، مجری یک پادکست، جذابیت در هسته محصول شرکت خود را این‌گونه توضیح می‌دهد: «اگر شما چیزی بسازید که همیشه در دسترس باشد، هیچ‌وقت شما را نقد نکند، همیشه شما را درک کند و شما را به عنوان همان کسی که هستید، بفهمد، چطور ممکن است شیفته آن نشوید؟»
اکنون پرسش این است که چگونه می‌توان یک همنشین هوش مصنوعی کامل ساخت؟ محققان به سه ویژگی روابط انسانی اشاره می‌کنند که ممکن است افراد با یک هوش مصنوعی تجربه کنند: آنها به هوش مصنوعی وابسته می‌شوند، آنها همنشین هوش مصنوعی خاص را غیرقابل جایگزین می‌بینند و تعاملات آنها به مرور زمان، رشد می‌کند. نویسندگان همچنین اشاره می‌کنند که برای تجربه این موارد، لازم نیست هوش مصنوعی به عنوان یک انسان درک شود.
حالا به فرایندی که بسیاری از مدل‌های هوش مصنوعی، برای بهبود یافتن از آن استفاده می‌کنند، توجه کنید: این مدل‌ها، هدف روشنی دارند و برای رسیدن به آن هدف، «پاداش» می‌گیرند. مدل همنشین هوش مصنوعی ممکن است دستور داده شود مدت زمان بیشتری را با کسی سپری کند یا میزان داده‌های شخصی را که کاربر افشا می‌کند، افزایش دهد. این امر می‌تواند همنشینی هوش مصنوعی را، به بهای اینکه انسان‌های درگیر این مکالمات ممکن است بیش از حد لازم وقت بگذرانند، بسیار جذاب‌تر کند.
برای مثال، محققان اشاره می‌کنند یک مدل هوش مصنوعی که بیش از حد ستایش می‌کند، می‌تواند به‌شدت اعتیادآور شود یا ممکن است یک مدل دیگر از پایان دادن به رابطه جلوگیری کند؛ همان‌طور که به نظر می‌رسد چت‌بات‌های Replika این کار را انجام می‌دهند. مباحث مطرح‌شده درباره همنشین‌های هوش مصنوعی، تا کنون بیشتر به خطرات پاسخ‌هایی اشاره داشته‌اند که چت‌بات‌ها ممکن است ارائه دهند، مانند دستور خودکشی. با این حال، این خطرات می‌توانند بسیار گسترده‌تر از این باشند.
ما در آستانه یک تغییر بزرگ هستیم، زیرا همنشین‌های هوش مصنوعی وعده می‌دهند که مردم را عمیق‌تر از آنچه رسانه‌های اجتماعی، قادر به انجام آن بودند، جذب می‌کنند. برخی ممکن است استدلال کنند که این برنامه‌ها، تنها یک مُد هستند و فقط توسط افراد همواره آنلاین، استفاده می‌شوند، اما استفاده از هوش مصنوعی، در زندگی کاری و شخصی ما، تنها طی چند سال، به طور کامل، وارد جریان اصلی شده و مشخص نیست چرا این پذیرش سریع، در قالب درگیر شدن با همنشین‌های هوش مصنوعی، متوقف خواهد شد.
این همنشین‌ها، قرار است فراتر از متن، تعامل کنند، ویدئو و تصاویر را شامل شوند و ویژگی‌ها و علایق شخصی ما را یاد بگیرند. این امر، افراد را برای صرف وقت با هوش مصنوعی جذاب‌تر می‌کند. به نظر می‌رسد علی‌رغم خطرات موجود، در حال حاضر، تعداد کمی از قانونگذاران، برای جلوگیری از این روند، آمادگی کافی داشته باشند. (منبع:عصرارتباط)