درک وضعیت انسانی کاربران هوش مصنوعی

آنچه وضعیت انسانی را در هر دوره تاریخی نسبت به دوره‌های پیش تغییر و از نو شکل می‌دهد، ۳ فعالیت بنیادی هستند که‌ هانا آرِنت آنها را به ترتیب: «کردار»، «کار» و «کُنش» می‌نامد:
1) کردار (Labor) فعالیتی تکراری ست (مانندِ خوردن، تولید مثل و فراوری غذا) که برای بقای زندگی و برآوردن نیازهای طبیعی بدن و روان انسان به مثابۀ انسان خردمند‌ homo sapiens تعیین کننده است. در این سطح، انسان تفاوت بنیادی با دیگر جانداران ندارد، اما تفاوت بنیادی با روبات کارگر دارد!
2) کار (Work) فعالیتی دارای آغاز و پایان مشخص است (مانندِ تولید ابزار، تأسیس نهادها و تدوین آثار) که برای ثبات، دوام و عینیت بخشیدن به زندگی از طریقِ ساختن و پرداختن زیست‌بوم مصنوع انسان به مثابۀ «انسان سازنده»‌ homo faberضروری است. در این سطح انسان با ربات تفاوتِ درجه‌ای ندارد، تفاوتِ نوعی دارد! این تفاوتِ نوعی مبتنی بر هدفمندی فعالیت، طراحی بکر و داوری است.
3) کُنش (Action) عالی‌ترین و متمایزترین فعالیت انسان به مثابۀ موجودی سیاسی (zoon politikon) است که در عرصۀ عمومی ‌و در روابط میان‌فردی مبتنی بر گفتار، کنشگری سیاسی و تعامل آزاد به منصۀ ظهور می‌رسد.
شرایط اصلی‌ای که سه فعالیت بنیادی مذکور برای انسان به وجود می‌آورند، عبارتند از:
1) جمع‌گرایی (Plurality): این وضعیت، شرایطی را توصیف می‌کند که در آن، هر انسان همواره در میان دیگران یگانه است و به شیوه‌ای متفاوت و متنوع در جمع (اجتماع و جامعه) زندگی می‌کند.
2) زایندگی و آفرینندگی (Natality): این وضعیت، توانایی نوآوری، نوسازی و امکان کنش برای شروع فعالیتی جدید را توصیف می‌کند که بنیان امید انسان است.
3) دنیاطلبی (Worldliness): این وضعیت، شرایط زیست مشترک همه انسان‌ها را توصیف می‌کنند، زیرا تغییرات در زندگی و زیست‌بوم انسان، نتیجه «کردار» و «کار» و «کُنش» همۀ انسان‌ها است.
سه نوع فعالیت بنیادی و شرایط اصلی مذکور جریان‌هایی مانند فناوری، سیاست و ساختارهای اجتماعی را پدید می‌آورند که می‌توانند وضعیت انسانی را دگرگون کنند.
امروزه که فناوری هوش مصنوعی زندگی فردی و اجتماعی میلیاردها انسان را تحت تأثیر قرار داده است، هر کاربر هوش مصنوعی در پرتو آراء آرِنت می‌تواند از خود بپرسد:
وضعیت انسانی من در شرایط رشد سریع و توسعۀ گستردۀ استفادۀ عمومی‌اَم از سکوهای هوش مصنوعی مولد و برقراری رابطۀ راحت، تشدید و تعمیق شونده‌اَم با آنها چگونه است؟ به عبارت دیگر: هوش مصنوعی بر فعالیت‌های بنیادی من مانندِ «کردارم»، «کارم» و «کُنشم» و بر شرایط اصلی زندگی‌ام مانند جمع‌گرایی، آفرینندگی و دنیاطبی چه تأثیری گذارده است؟

۱- پاسخ‌های احتمالی ‌هانا آرِنت به وضعیت انسانی در شرایط کنونیِ رواج فناوری هوش مصنوعی
هانا آرِنت در مورد وضعیت انسانی در عصر رواج سکوهای هوش مصنوعی احتمالاً می‌گفت: «تهدیدی عمیق برای «کُنش» و جمع‌گرایی انسانی در حال رُخ دادن است، جایی که روابط راحت و تعمیق‌شدۀ انسان با ماشین‌ها به زودی می‌رود انسان را به «حیوان کارگر» (animal laborans) فرو کاهد و فضای عمومی ‌را بیش از پیش نابود گرداند.»

۱.۱ تهدید برای سه فعالیت بنیادی انسانی
آرِنت که در کتاب «وضعیت انسانی»، کردار زیستی، کار پایدار و کنش اجتماعی/سیاسی انسان را بنیاد وضعیت انسانی می‌دانست، امروز اگر زنده بود احتمالاً می‌گفت: «هوش مصنوعی بخش‌های مهمی ‌از کردار زیستی انسان را خودکارسازی و کار را بهینه‌سازی می‌کند، اما کُنش اجتماعی را با تعاملات مصنوعی جایگزین کرده است و این تعاملات مصنوعی، تفکر مستقل را تضعیف می‌کند. برقراری روابط آسان با هوش مصنوعی، زایایی و آفرینندگی انسان و ابتکار انسانی را سرکوب می‌کند، زیرا هوش مصنوعی قادر است، رفتار آتی کاربر را پیش‌بینی کند و با طولانی کردن دیالوگ میان کاربر و ماشین، جمع‌گرایی واقعی (محیط انسانی غیرقابل‌جایگزین انسان‌ها) را از میان بِبَرَد.»

۱.۲ خطر توتالیتاریسم دیجیتالی
آرِنت توتالیتاریسم را نابودی جمع‌گرایی واقعی و حقیقت می‌دید و امروز اگر زنده بود احتمالاً می‌گفت: «سکوهای هوش مصنوعی با تولید اطلاعات نادرست و دستکاری شده، «بحران حقیقت» را تشدید می‌کنند و انسان‌ها را به توده‌ای منفعل و گمراه بدل می‌سازند. وابستگی عاطفی به هوش مصنوعی، مسئولیت اخلاقی را از مرجع دانش و فرد یادگیرنده سلب و «ابتذال شر» را عادی سازی می‌کند، جایی که کاربران بدون تفکر انتقادی، به الگوریتم‌ها تسلیم می‌شوند».

۱.۳ فراخوان به مقاومت
در چنین شرایطی آرِنت احتمالاً ندا می‌داد: « شما را به حفظ فضای عمومی‌تان و عمل انسانی فرا می‌خوانم؛ در عین حالی که فناوری هوش مصنوعی را به عنوان ابزار رد نمی‌کنم، به کاربران و مهندسان و سازندگان آن هشدار می‌دهم: جهان مشترک (common world) را نابود نکنید!» و تأکید می‌کرد: «تنها جمع‌گرایی انسانی‌ست که معنا می‌آفریند، نه روابط ماشینی!».

۱.۴ خطر بی‌ریشه شدن انسان‌ها
آرِنت بی‌ریشگی را یکی از خطرات بحران مدرنیته می‌دانست. امروزه اگر او زنده بود در مورد استفادۀ مفرط کاربران از سکو‌های هوش مصنوعی، به این دسته از کاربران می‌گفت: «شما دارید بیش از پیش از فرهنگ سنتی خود دور، جدا‌ و در نهایت‌ به زودی بی‌ریشه می‌شوید. این بی‌ریشگی، زمینه‌ساز جذابیت ایدئولوژی‌های افراطی و پوپولیستی را برای شما فراهم می‌کند».

۱.۵ خطر استبداد و ریشه دواندن شر
هرچند‌هانا آرِنت به‌طور مستقیم درباره استبداد هوش مصنوعی سخن نگفته، اما نظرات او درباره توتالیتاریسم و نقش ایدئولوژی در سرکوب آزادی انسان‌ها می‌تواند به تحلیل این موضوع کمک کند. یکی از نقل‌ قول‌های مشهور آرنت در این عرصه این است:
«شر، هنگامی‌که ریشه می‌دواند، دیگر نیازی به افراد شیطان‌صفت ندارد، بلکه افراد عادی‌ای کافی هستند که فکر نمی‌کنند.» (رجوع شود به https://journals.atu.ac.ir/article_19961.html و https://B2n.ir/qf5586 )

۲- پاسخ احتمالی خورخه لوئیس بورخِس به وضعیت انسانی در شرایط کنونی
خورخه لوئیس بورخس در داستان «کتابخانۀ بابِل» دربارۀ ساختار این کتابخانۀ خیالی می‌گوید: کتابخانه از اتاق‌های شش‌ضلعی تشکیل شده، هر اتاق صدها کتاب دارد. کتاب‌ها شامل ۴۱۰ صفحه‌ هستند که هر صفحه ترکیبی از حروف است. تعداد کتاب‌ها نامحدود است؛ مجموعه‌ای با نظم اما در عمل بی‌پایان. برخی کتاب‌ها مطابق با حقیقت جهان‌اند و بسیاری بی‌معنی و بی‌ارزش‌اند. گروه‌هایی از انسان‌ها عمر خود را صرف جست وجوی معنای واقعی و یافتن کتاب کامل (که همه حقایق را داشته باشد) می‌کنند. این «مجموعه‌ای بی‌پایان از اطلاعات» در کنار نظمی‌ پیچیده وجود دارد. انسان‌ها در میان حجم عظیم اطلاعات به دنبال ترتیب، حقیقت و معنا هستند، حتی اگر تحقق آن غیرممکن باشد. اگر هم حقیقت قابل یافتن باشد در میان بی‌نهایت احتمالات گم می‌شود.
بورخس با ساختن این کتابخانۀ خیالی نشان می‌دهد که جهان و دانش انسان کلان‌داده‌ای بی‌انتهاست، پُر از اطلاعات واقعی، جعلی، بی‌معنی و ناتمام. داستان «کتابخانۀ بابِل» نوعی استعاره از جست وجوی بی‌وقفه انسان برای فهم حقیقت و تناقض میان نظم و آشوب در هستی است.

۲.۱ خلاصه‌ای از فصل‌های کتاب «کتابخانه بابِل»
1- معرفی جهان کتابخانه: راوی در این بخش، فضای داستان را می‌سازد و از همان ابتدا بی‌نهایت بودن جهان را به‌عنوان اصل بنیادین مطرح می‌کند.
2- توصیف کتاب‌ها و نظم ظاهری: راوی همه کتاب‌ها را از نظر شکل و تعداد صفحات یکسان‌ توصیف می‌کند. تفاوت آن‌ها فقط در ترتیب حروف است. کتاب‌ها شامل همه ترکیب‌های ممکن از حروف هستند. در نتیجه این نظمِ ریاضی‌وار: همه کتاب‌های معنادار در کنار بی‌نهایت کتاب بی‌معنا وجود دارند.
3- کشف این حقیقت و واکنش انسان‌ها: وقتی ساکنان کتابخانه درمی‌یابند که همه کتاب‌های ممکن وجود دارند، ابتدا دچار شور و امید می‌شوند و تصور می‌کنند پاسخ همه پرسش‌ها در جایی از کتابخانه هست. پس به دنبال کتاب‌هایی می‌گردند که راز جهان یا سرنوشت‌شان را توضیح دهد.
4- ناامیدی، فرقه‌ها و افراط‌گرایی: با گذشت زمان و شکست جست وجوها ناامیدی گسترش می‌یابد. فرقه‌های مختلف شکل می‌گیرند؛ کسانی کتاب‌های «بی‌معنا» را نابود می‌کنند و کسانی دیگر به کتابی مقدس یا «کتابِ کتاب‌ها» ایمان دارند. در این گیرودار برخی دست به خشونت می‌زنند و عده‌ای خودکشی می‌کنند.
5- مسئله زبان، معنا و تفسیر: حتی کتاب‌های ظاهراً بی‌معنا ممکن است در زبانی ناشناخته معنا داشته باشند! پس معنا وابسته به خواننده و تفسیر وی است. تشخیص حقیقت از تصادف تقریباً ناممکن است.
6- پذیرش بی‌نهایت و پایان تأملی: کتابخانه بی‌نهایت است، اما انسان محدود! حقیقت ممکن است وجود داشته باشد، اما دسترسی به آن تضمین‌شده نیست! خودِ «جویش» معنا پیدا می‌کند، نه الزاماً یافتن پاسخ!

۲.۲ کتابخانۀ بِابل: استعاره‌ای از هوش مصنوعی مولد
در حالی که کتاب «کتابخانۀ بابِل» نخستین بار در سال ۱۹۴۱ در مجلۀ آرژانتینی Ficciones («خیال پردازی‌ها») منتشر شد و پانزده سال بعد «جان مک کارتی» اصطلاح «هوش مصنوعی» را برای اولین بار در کنفرانس تابستانی کالج «دارتموث» به کاربرد؛ چارچوب نظری و فضای «کتابخانۀ بابِل» عجیب قابل مقایسه با دنیای دیجیتالی امروز است؛ در صورتی که «کتابخانۀ بابِل» تنها استعاره‌ای است از تلاش انسان هشتادوچند سال بعد از انتشار «کتابخانۀ بابِل»، برای یافتن معنا در میان آشوب سکوهای هوش مصنوعی جورواجور؛ با متنی غیب‌گویانه از مواجهه انسان امروز و فردا با هوش مصنوعی و خطر سرخوردگی نهایی انسان! البته متن غیب‌گویانه بورخس به معنای پیش‌بینیِ فنی نیست بلکه به معنای پیش‌بینی وضعیت وجودی انسان در برابر دانشی نامتناهی است! «کتابخانۀ بابِل» دقیقاً همان چیزی است که امروزه در قالب مدل‌های زبانی بزرگی که «همه ترکیب‌های ممکن زبان» را تولید می‌کنند از قبیلِ «چت جی‌پی‌تی»، «گراک»، «جمنای گوگل» و … می‌شناسیم.
در کتابخانۀ بابِل همه پاسخ‌ها ممکن است وجود داشته باشند؛ اما تشخیص پاسخ درست از نادرست تقریباً ناممکن است! درست مثل هوش مصنوعی از نوع پیشرفتۀ «چت جی‌پی‌تی» که همه پاسخ‌ها قابل تولید هستند؛ اما حقیقت، معنا و اعتبار نیازمند داوری انسانی است! این شباهت کتابخانۀ بابل با «چت جی‌پی‌تی» تصادفی نیست؛ بورخس مسئله تولید کامل زبان بدون تضمین معنا را دهه‌ها پیش صورت‌بندی کرده بود.

۲.۳ شور اولیه کاربران: توّهم دانایی مطلق
در کتابخانۀ بابل انسان‌های ساکن در آن ابتدا سرشار از امید می‌شوند. گمان می‌کنند «کتاب نهایی» وجود دارد. در مواجهه با هوش مصنوعی نیز کاربر تصور می‌کند پاسخ همه مسائل در دسترس است. پس، نوعی مستی داناییِ فوری شکل می‌گیرد. این مرحله همان لحظه شورانگیز آغازین است.

۲.۴ بحران معنا: «وقتی همه‌چیز هست، هیچ‌چیز نیست!»
بورخس نشان می‌دهد که: وفور بی‌نهایت اطلاعات، معنا را نابود می‌کند، حقیقت در میان تصادف گم می‌شود. این وضعیت بی‌معنا و گم‌شدگی حقیقت، دقیقاً خطر هوش مصنوعی است، زیرا تولید بی‌پایان متن مساوی فهم متن نیست! پاسخ درست در کنار پاسخ غلط، با ظاهری یکسان، انسان نادان را دانا نمی‌کند ولی ممکن است انسان دانا را سرخورده از دانایی بیش‌ازحد ماشین ‌کند.

۲.۵ ناامیدی نهایی: فروپاشی مرجع حقیقت
در «کتابخانۀ بابِل» فرقه‌ها شکل می‌گیرند. خشونت، انکار، ایمان کور جای خرد را غصب می‌کند. در جهان امروز نیز بحران اعتماد به دانش، شکاکیت افراطی، بازگشت به باورهای ساده یا توطئه‌محور نشان می‌دهند که وقتی در هوش مصنوعی مرجع معنا از بین برود، انسان یا دیوانه می‌شود یا مؤمنِ کور.

۲.۶ تفاوت مهمِ هوش مصنوعی با «کتابخانۀ بابِل»
نکته ظریف اما حیاتی این است که «کتابخانۀ بابِل» فاقد راهبر است. در آن هیچ «کتابدار دانا»یی وجود ندارد. ولی هوش مصنوعی از نوع «چت جی پی تی» دارای حداقل دو «راهبر» فوق دانا است: مهندسان پرامپت و پژوهشگران مطالعات رفتار سکوی هوش مصنوعی و رفتار کاربران! اگر ایشان بدون اخلاق، بدون مسئولیت و بدون تربیت فلسفی انسان عمل کنند، دقیقاً همان وضعیت کتابخانه بابل اتفاق خواهد افتاد. اما اگر انسان‌ها، اعم از مهندسان پرامپت، پژوهشگران مطالعات رفتار سکوی هوش مصنوعی و رفتار کاربران به علاوۀ صاحبان سکوهای هوشمند و خود کاربران، نقش داور معنا را حفظ کنند، به احتمال قوی، دیگر وضعیت «کتابخانۀ بابِل» رخ نخواهد داد.

۳- پاسخ احتمالی مارکوس گابریل به بورخِس و به وضعیت انسانی در شرایط کنونیِ حضور فراگیر هوش مصنوعی
«کتابخانه بابِل» بورخس از منظر رئالیسم نوِ مارکوس گابریل تصویر نادرستی از جهان را به دست می‌دهد: رئالیسم نو، «کلّیتِ بسته جهان» را رد می‌کند. در استعارۀ «کتابخانۀ بابِلِ» بورخس، جهان به‌ظاهر یک کلّ منسجم است (همچون کتابخانه‌ای بزرگ)، اما این کلّ، از منظر رئالیسم نو غیر قابل احصاء و فاقد مرکزیت و میدان معناست! در حالی که بی‌نهایت میدان‌های معنا در جهان وجود دارند و «وجود داشتن» یعنی ظهور در یک یا چند میدان معنا، از این رو، چون جهان نامحدود در هیچ میدان محدودی نمی‌گُنجد، پس جهان به‌عنوان یک کلّ واحد وجود خارجی ندارد! در صورتی که بی‌نهایت «میدان‌های معنا» (Fields of Sense) در دل جهان وجود دارند! اما چون هیچ چشم‌انداز فراگیر و نهایی‌ای که همه‌چیز را در بر گیرد، ممکن نیست، وجود داشتن به جهان تعلق نمی‌گیرد. لذا «کتابخانۀ بابِل» دقیقاً نمونه ادبیِ چیزی است که گابریل می‌گوید نباید آن را یک کلّ معنادار تصور کرد.
اختلاف بنیادی دیگری که گابریل با بورخس دارد، در پاسخ به: «هستیِ معنا» یا «فروپاشی معنا» است. در خوانش بورخسی، معنا ممکن است وجود داشته باشد اما عملاً دست‌نیافتنی است! نتیجه‌ای که بورخس می‌گیرد: سرخوردگی، شکاکیت، یا ایمان کور انسان‌هاست. در صورتی که در رئالیسم نوِ گابریل، معنا واقعی و عینی است، اما موضع‌مند و غیرکلی است. حقیقت نه نایاب است، نه مطلق؛ بلکه چندگانه و متکثر است. گابریل دقیقاً همان بن‌بستی را حل می‌کند که «کتابخانۀ بابِل» به آن می‌رسد. «کتابخانۀ بابِل» از نگاه گابریل دارای خطای هستی‌شناختی است. اگر گابریل بخواهد بورخس را نقد کند، احتمالاً می‌گوید: «مسئله این نیست که معنا گم شده، بلکه این است که شما دنبال معنای کلّی جهان می‌گردید و چنین چیزی وجود ندارد».

۴- پاسخ ممکن عهد عتیق به وضعیت انسانی در شرایط کنونی: تکثر فرهنگ‌ها و تنوع زبان‌ها و دیدگاه‌ها، برکت است!
در روایت عهد عتیق، انسان‌ها پس از طوفان نوح زبان واحد و وحدت اجتماعی داشته‌‌اند. آن‌ها در سرزمین «شَنعار» (منطقۀ جنوبی بین النهرین) گردآمده و تصمیم می‌گیرند شهری بسازند با بُرجی عظیم که به «آسمان برسد» تا مردم، شُهرت و «نامی ‌برای خود پیدا کنند»، گِرد آن برج جمع بمانند و از پراکندگی بپرهیزند.
وضعیت انسانی و اجتماعی‌ای که اسطورۀ «برج بابِل» توصیف می‌کند، نخست (تا پیش از احداث برج) بیان جاه‌طلبی و همبستگی انسان‌ها در طرح برج بابِل است، نمادی که از تمایل انسان برای رسیدن به وحدت، قدرت و جاودانگی اجتماعی و فرهنگی حکایت می‌کند؛ درست، مانند تبلیغاتی که امثال یووال نوح هراری (در کتاب «انسان خردمند») در مورد آیندۀ هوش مصنوعی می‌کنند: نماد پیشرفت، دانش، بلندپروازی فناوری و عظمت قدرت انسان برای شکستن محدودیت‌های طبیعی و الهی مثل مرگ و رسیدن به جاودانگی به کمک تکینه‌گی فناوری (Tech Singularity).
اما، ایزد منّان در حین احداث برج بابِل از سرکشی انسان‌ها دلگیر می‌شود و انتقام می‌گیرد: او زبان انسان‌ها را به‌گونه‌ای متفاوت می‌سازد تا نتوانند با هم همکاری کنند و برج را به اتمام و به مرحلۀ بهره‌برداری برسانند؛ درنتیجه، انسان‌ها از جمع‌گرایی مأیوس و در سراسر دنیا پراکنده می‌شوند. با پراکندگی، هم‌صدایی مطلق پایان می‌پذیرد و تنوع زبانی و کثرت فرهنگی پدیدار و شکاف‌ها و تفاوت‌های اجتماعی در جوامع بشری ظاهر می‌شوند.

۵- جمع‌بندی: هوش مصنوعی را بهتر است ابزار بدانیم تا مرجع حقیقت!
• پیام‌های اجتماعی و انسانیِ اسطوره «برج بابِل» به عنوان استعاره‌ای از هوش مصنوعی، روشن است: غرور و بلندپروازی‌های بشر که می‌خواهد محدودیت‌های طبیعی یا الهی را بشکند، محکوم به شکست است.
• پیام بورخس در «کتابخانۀ بابِل» به عنوان استعارۀ دیگری از هوش مصنوعی، یک هشدار است؛ پیش‌درآمدی بر بحران هوش مصنوعی در سطح وجودی و روانی! بحرانی برآمده از گردآوری بی‌نهایت اطلاعات که به فروپاشی معنا می‌انجامد؛ زیرا انسان جست وجوگرِ معنا را سرگردان و شور و امید اولیه او را به ناامیدی تبدیل می‌کند. حقیقت بدون سوژه فهم‌کننده وجود ندارد، اما وابسته ذهن هم نیست زیرا که حقیقت در «کتابخانۀ بابِل» هم هست، اما پنهان است؛ موضعی که دقیقاً ضد نیهیلیسم است.
• پیام مارکوس گابریل برای اصلاح دیدگاه بورخس نیز این است: جهان پُر است از میدان‌های معنا و انسان، ساکن این میدان‌های معناست. کثرت میدان‌های معنا، محدودیت مشروع معنا را در پی دارد که به نفع حفظ حقیقت است. فهم و داوری انسان، حذف‌پذیر نیست! «کتابخانۀ بابِل» در بر گیرندۀ همۀ «میدان‌های معنا» نیست! هوش مصنوعی تنها در برخی میدان‌های معنا که رایانش‌پذیرند، عمل می‌کند. اگر هوش مصنوعی را ابزار در نظر بگیریم و نه مرجع حقیقت، آنگاه می‌توانیم از سرنوشت بورخسی (فروپاشی معنا) بگریزیم. ولی اگر ما تولید معنا را به سیستم‌های هوش مصنوعی با دانش بی‌نهایت شان بسپاریم، در نهایت با انبوه پاسخ‌ها و فقدان حقیقت رو به رو می‌شویم و به طور وحشتناکی تنها خواهیم ماند. بحران فقط زمانی رخ می‌دهد که تولید اطلاعات را با تولید معنا اشتباه بگیریم. معنا نه در انباشت اطلاعات و نه در سرعت بازآوری پاسخ‌هایی بی نهایت متنوع، بلکه در طرح پرسش‌های بکر و خلاقانه و پذیرش مسئولیت تفسیر است و رئالیسم نو پاسخ فلسفی به این هشدار است.