ITanalyze

در دنیایی که فناوری با سرعت نور پیش می‌تازد هوش مصنوعی دیگر تنها در داستان‌های علمی‌تخیلی زندگی نمی‌کند بلکه آرام و پیوسته در حال تغییر چهره آموزش است. از کلاس‌های هوشمند کودکستان‌ها تا دانشگاه‌های آینده‌محور. هوش مصنوعی به یکی از تأثیرگذارترین عوامل در تحول نظام‌های آموزشی تبدیل شده است اما این تحول فرصت‌ها و چالش‌های عمیقی نیز به همراه دارد.

در دنیای پرشتاب امروز که فناوری به ‌ویژه هوش مصنوعی (AI) با سرعتی چشمگیر در حال نفوذ به همه ابعاد زندگی است نظام‌های آموزشی نیز ناگزیر از بازنگری، تطبیق و تحول هستند. هدف از نگارش این متن بررسی نقش و تأثیر هوش مصنوعی در حوزه آموزش است؛ از آموزش کودکان و طراحی محیط‌های یادگیری نوین تا تحول در نظام آموزش عالی و فرصت‌های ناشی از شخصی‌سازی یادگیری.

در این متن تلاش شده است تا ابتدا با مروری بر پیشینه نظری و تاریخی هوش مصنوعی، زمینه‌ای برای درک بهتر تحولات اخیر فراهم شود، سپس به کاربردهای عملی، فرصت‌ها، چالش‌ها و راهکارهای اجرایی در پیاده‌سازی AI در آموزش پرداخته شود. محور اصلی بحث پاسخ به این پرسش بنیادین است که چگونه می‌توان از ظرفیت‌های هوش مصنوعی برای افزایش کیفیت، عدالت و اثربخشی آموزشی بهره برد و در عین حال موانع آن را نیز به‌ درستی شناخت و مدیریت کرد.

هوش مصنوعی: از جرقه‌های تخیل ادبی تا انقلاب علمی قرن بیست‌ و یکم

سرگذشت هوش مصنوعی ترکیبی شگفت‌انگیز از تخیل ادبی و تلاش‌های علمی است. ریشه‌های مفهومی آن را می‌توان در دهه ۱۹۴۰ جست‌وجو کرد زمانی که ایزاک آسیموف در داستان علمی-تخیلی خود «Runaround» برای نخستین‌بار «سه قانون رباتیک» را معرفی کرد قوانینی که بعدها الهام‌بخش بسیاری از پژوهشگران حوزه رباتیک و هوش مصنوعی شد از جمله ماروین مینسکی یکی از بنیان‌گذاران هوش مصنوعی مدرن.

همزمان در آن سوی اقیانوس، آلن تورینگ ریاضی‌دان بریتانیایی در خلال جنگ جهانی دوم با ساخت دستگاه رمزگشای «بمب» و ایده‌پردازی درباره ماشین‌های هوشمند زمینه‌ساز تحولی بنیادین شد. او در سال ۱۹۵۰ با مقاله معروفش «ماشین‌های محاسباتی و هوش» آزمون تورینگ را پیشنهاد داد معیاری که هنوز هم برای سنجش هوشمندی سیستم‌های مصنوعی استفاده می‌شود.

در سال ۱۹۵۶ اصطلاح «هوش مصنوعی» به طور رسمی در کارگاه تابستانی دارتموث توسط مینسکی و جان مک‌کارتی مطرح شد. اگرچه هوش مصنوعی برای مدتی در حاشیه بود اما با ظهور کلان ‌داده‌ها رشد توان پردازش رایانه‌ها و پیشرفت الگوریتم‌های یادگیری این فناوری در دهه‌های اخیر به‌ سرعت وارد عرصه‌های گوناگون زندگی بشر شده است.

هوش مصنوعی (AI) تلاشی است برای بازسازی یا شبیه‌سازی فرآیندهای شناختی انسان در ماشین‌ها؛ از درک زبان و تصمیم‌گیری گرفته تا یادگیری و حل مسئله. با اینکه هنوز تعریف جامع و مورد اجماعی برای آن وجود ندارد اما می‌توان آن را مجموعه‌ای از نظریه‌ها، ابزارها و فناوری‌هایی دانست که هدفشان توسعه سیستم‌هایی با قابلیت انجام وظایف هوشمندانه انسانی است. [۱]

نقش هوش مصنوعی در یادگیری کودکان

پژوهش‌ها نشان می‌دهند که آموزش هوش مصنوعی به کودکان به ‌ویژه در سال‌های اولیه زندگی، ضرورتی اجتناب ‌ناپذیر است. سه دلیل عمده برای این موضوع مطرح شده است: نخست آشنایی با کارکردهای اساسی هوش مصنوعی و چگونگی استفاده از برنامه‌های مبتنی بر آن، بخشی جدایی‌ناپذیر از سواد دیجیتال در دنیای امروز است. در جامعه‌ای که روز ‌به ‌روز هوشمندتر می‌شود لازم است کودکان از همان ابتدا با مفاهیم پایه‌ای هوش مصنوعی آشنا شوند تا بتوانند در آینده شهروندانی توانمند و آگاه باشند.

البته یادگیری مفاهیم مرتبط با هوش مصنوعی باید متناسب با سن و سطح درک ذهنی کودکان طراحی شود. استفاده از برنامه‌ها و پلتفرم‌هایی که با مراحل رشد شناختی کودکان هم‌ راستا هستند، می‌تواند بستر مؤثری برای آموزش فراهم آورد. برای مثال بهره‌گیری از هوش مصنوعی در آموزش املا، تلفظ صحیح کلمات، تنظیم سطح یادگیری فردی و نیز آموزش‌های مبتنی بر وب و فضای آنلاین می‌تواند در ارتقای توانایی‌های تحصیلی و زبانی کودکان نقش مؤثری داشته باشد.

ابزارهایی مانند ربات‌های آموزشی، بازی‌های هوشمند و اسباب‌بازی‌های تعاملی مجهز به هوش مصنوعی، زمینه‌ای برای تقویت مهارت‌هایی چون خلاقیت، مشارکت، بیان احساسات و طرح پرسش در کودکان فراهم می‌سازند. همچنین فناوری‌هایی چون واقعیت مجازی (VR) و سه ‌بعدی‌سازی محتوا به یادگیری عمیق‌تر مفاهیم درسی کمک می‌کنند. [۲]

کاربردهای به ‌کارگیری هوش مصنوعی در نظام آموزشی

صابر صالح‌نژاد در پژوهشی علمی با هدف ارائه مدلی برای استفاده از هوش مصنوعی در نظام آموزش و پرورش ایران می‌نویسد: به ‌کارگیری هوش مصنوعی می‌تواند تأثیرات مثبتی بر ارتقای کیفیت آموزش، ارزشیابی دقیق‌تر و بهبود فرآیند یاددهی و یادگیری داشته باشد.

صالح‌نژاد در پژوهش خود معتقد است که هوش مصنوعی با استفاده از الگوریتم‌های تحلیل داده و یادگیری ماشینی قادر است نیازهای خاص هر دانش‌آموز را شناسایی کرده و محتوا و مسیر آموزشی شخصی‌سازی‌ شده ارائه دهد. همچنین این فناوری می‌تواند با تشخیص نقاط ضعف و قوت دانش‌آموزان و ارائه بازخوردهای فوری فرایند یادگیری را مؤثرتر و هوشمندانه‌تر کند. وی نتیجه می‌گیرد که به‌ کارگیری هوش مصنوعی نه‌ تنها باعث افزایش کیفیت آموزش و ارزشیابی می‌شود بلکه می‌تواند در خلق تجربه یادگیری نوآورانه و منطبق با نیازهای فردی هر دانش‌آموز نقش‌آفرینی کند. [۳]

افزون بر این مطالعه‌ای با عنوان «هوش مصنوعی در خدمت آموزش» نشان می‌دهد که یکی از کاربردهای مهم هوش مصنوعی نمره‌دهی خودکار است. اگرچه هوش مصنوعی نمی‌تواند جایگزین کامل انسان شود اما می‌تواند فرآیند ارزیابی را با دقتی نزدیک به انسان انجام دهد. در حال حاضر نمره‌دهی خودکار برای سوالات چندگزینه‌ای و جای ‌خالی رایج شده و ارزیابی سوالات تشریحی نیز در آینده‌ای نزدیک ممکن خواهد بود.

از آنجا که معلمان همیشه در دسترس نیستند و دانش‌آموزان نیاز دائمی به راهنمایی دارند، استفاده از مربی هوش مصنوعی می‌تواند راه‌حل مؤثری باشد؛ به ‌ویژه برای دانش‌آموزانی که دچار اضطراب اجتماعی یا تحصیلی هستند، این فناوری می‌تواند حمایت آموزشی مستمر و بدون استرس فراهم کند. [۴]

در یکی دیگر از تحقیقات انجام شده با عنوان «تحلیل فرصت‌ها و چالش‌های یادگیری شخصی‌سازی شده مبتنی بر هوش مصنوعی در آموزش عالی ایران» آمده است: هوش مصنوعی می‌تواند به ‌عنوان عاملی مؤثر در اصلاح نظام آموزشی ایفای نقش کند به‌ ویژه با شخصی‌سازی محتوا و روش‌های آموزشی براساس نیازها و ترجیحات یادگیرندگان. این تحول موجب می‌شود آموزش از شکل سنتی و معلم‌ محور فاصله گرفته و به سمت مدلی یادگیرنده‌ محور و مشارکتی حرکت کند؛ مدلی که در آن دانشجو در تعیین اهداف، پیگیری پیشرفت و بازتاب یادگیری خود نقش فعالی دارد.

هوش مصنوعی همچنین موجب افزایش عدالت آموزشی از طریق تقویت آموزش از راه دور و دسترسی جهانی به منابع یادگیری می‌شود. از سوی دیگر عملکرد یادگیرندگان نیز بهبود می‌یابد زیرا AI می‌تواند مسیرهای یادگیری را متناسب با سطح، سبک و توانایی هر فرد تنظیم کند.

در حوزه آموزش استادان، هوش مصنوعی ابزارهایی فراهم می‌کند که امکان تجزیه ‌و تحلیل دقیق‌تر داده‌های دانشجویی، ارائه بازخوردهای هدفمند و تسهیل طراحی تمرین‌ها را ممکن می‌سازد. همچنین AI در پژوهش نیز مفید است و با خودکارسازی تحلیل داده‌ها، سرعت و دقت تصمیم‌گیری اساتید را افزایش می‌دهد.

یکی دیگر از مزایای مهم این نوع آموزش تأثیر آن بر آمادگی شغلی دانشجویان است. محیط‌های یادگیری شخصی‌سازی‌ شده با تأکید بر مهارت‌های قرن بیست ‌و ‌یکم مانند تفکر انتقادی، خلاقیت، حل مسئله و همکاری دانشجویان را برای ورود به بازار کار پویا و جهانی آماده می‌کنند. این نوع آموزش ساختاری منسجم و خود تنظیم دارد که موجب افزایش مسئولیت‌پذیری و استقلال یادگیرندگان نیز می‌شود. [۵]

در پژوهشی با عنوان «هوش مصنوعی و فناوری‌های نو در نظام‌های آموزشی» به برخی دیگر از مزایای کلیدی هوش مصنوعی در آموزش اشاره شده است. از جمله می‌توان به آموزش آنلاین و ترکیبی: تسهیل یادگیری منعطف و شخصی‌سازی محتوا از طریق پلتفرم‌های تطبیقی. ارزیابی و آزمون تطبیقی: تنظیم سطح سوالات براساس توانایی فردی دانش‌آموز برای ارزیابی دقیق‌تر. جمع‌آوری و تحلیل کلان‌داده‌ها: کمک به تصمیم‌گیری بهتر آموزشی با بررسی روندها و الگوهای یادگیری. مداخله زود هنگام و آموزش ویژه: شناسایی سریع ناتوانی‌های یادگیری و ارائه پشتیبانی به موقع برای دانش‌آموزان با نیازهای خاص اشاره کرد. نویسندگان این مقاله بر این باورند که ادغام هوش مصنوعی در آموزش نه ‌تنها می‌تواند فرآیند یادگیری را بهینه کند بلکه با تشخیص به ‌موقع مشکلات، فرصت‌های یادگیری عادلانه‌تری را برای همه دانش‌آموزان فراهم می‌آورد. [۶]

هوش مصنوعی؛ گامی بلند به‌ سوی عدالت آموزشی جهانی

هوش مصنوعی در حال تبدیل شدن به ابزاری مؤثر برای تقویت همکاری بین معلمان و دانش‌آموزان است. این فناوری با استفاده از تحلیل داده‌های یادگیری، امکان شخصی‌سازی آموزش، بهبود عواطف و مشارکت دانش‌آموزان و کاهش فشارهای روانی را فراهم می‌کند.

براساس پیش‌بینی‌ها در دهه‌های آینده (۲۰۳۰ تا ۲۰۴۰) هوش مصنوعی می‌تواند به سطحی از توانایی‌های شناختی انسان بالغ برسد. این تحول از طریق پیشرفت در پنج حوزه کلیدی: آگاهی، معنا، یادگیری، فرهنگ و خلاقیت محقق خواهد شد.

در آینده‌ای نزدیک با کمک هوش مصنوعی امکان کاهش نابرابری‌های آموزشی فراهم می‌شود به ‌گونه‌ای که عوامل محل تولد و وضعیت اقتصادی تأثیر کمتری بر کیفیت یادگیری داشته باشند. این چشم‌انداز مستلزم اعتماد به پتانسیل مثبت فناوری در طراحی آموزش و پژوهش‌های آموزشی آینده است. [۷]

چالش‌های پیاده‌سازی هوش مصنوعی در آموزش

استقرار هوش مصنوعی در نظام آموزش عالی ایران با موانع متعددی مواجهه است که در ۶ محور اصلی دسته‌بندی می‌شوند: زیرساختی، فرهنگی، قانونی، انسانی، مداخله‌گر و ملزومات اجرایی. هر یک از این عوامل نقشی تعیین‌کننده در ایجاد محدودیت‌ها و کندی توسعه فناوری در این حوزه ایفا می‌کنند. از جمله مهم‌ترین چالش‌ها می‌توان به ضعف زیرساخت‌های فنی مانند سرعت پایین اینترنت، نبود تجهیزات بومی و همچنین مقاومت فرهنگی و اجتماعی نسبت به تغییر اشاره کرد.

نبود قوانین مشخص و کمبود نیروی متخصص نیز به عنوان موانعی جدی شناسایی شده‌اند که مانع پذیرش و استفاده مؤثر از هوش مصنوعی در دانشگاه‌ها می‌شود. بسیاری از اساتید برای پیاده‌سازی مؤثر این روش آموزش کافی ندیده‌اند و درک روشنی از نقش خود در چنین نظامی ندارند.

همچنین نگرانی‌های اخلاقی، فرهنگی و مقاومت در برابر تغییر از جمله موانعی هستند که می‌توانند اجرای این رویکرد را با مشکل مواجه کنند. از سوی دیگر نیاز به همکاری خانواده‌ها در فرایند آموزش و حمایت مؤثر آن‌ها نیز مطرح است.

راهکارهای پیاده‌سازی هوش مصنوعی در آموزش

برای عبور از چالش‌ها راهکارهایی چون توسعه شبکه‌های پایدار، ارتقاء تجهیزات دیجیتال، تدوین چارچوب‌های قانونی شفاف، تربیت نیروی انسانی متخصص، اجرای دوره‌های آموزشی برای اساتید و دانشجویان و برگزاری کمپین‌های آگاهی‌بخشی عمومی پیشنهاد شده است.

در سطح کلان سرمایه‌گذاری هدفمند در فناوری، تعاملات بین‌المللی و حمایت از تولید داخلی نرم‌افزار و سخت‌افزار از جمله اقداماتی است که می‌تواند زمینه‌ساز تحول در نظام آموزش عالی کشور شود.

افزون براین برای بهره‌برداری بهتر از هوش مصنوعی در نظام آموزش و پرورش کشور می‌توان پیشنهادها زیر را در نظر گرفت؛ ارائه دوره‌های آموزشی به معلمان برای آشنایی با فناوری‌های هوش مصنوعی و روش‌های بهره‌برداری از آن در فرایندهای آموزشی، توسعه زیرساخت‌های فنی مانند تجهیزات به ‌روز و شبکه‌های ایمن، حفظ امنیت اطلاعات و داده‌های آموزشی در سیستم‌های هوشمند و ترویج فرهنگ استفاده از هوش مصنوعی در دانشگاه‌ها.

بی‌توجهی به این موانع نه ‌تنها موجب تشدید شکاف دیجیتال می‌شود بلکه در بلندمدت می‌تواند تأثیرات منفی اقتصادی، اجتماعی و فرهنگی گسترده‌ای به همراه داشته باشد.

پی‌نوشت

[۱] . برای اطلاع بیشتر درباره فراز و نشیب‌های پیدایش هوش مصنوعی بنگرید به : مایکل هانلین، تاریخچه مختصری از هوش مصنوعی: گذشته، حال و آینده هوش مصنوعی، فصلنامه تمدن حقوقی، سال۶، شماره ۱۸، ۱۴۰۲.

[۲] . فرهاد شفیع‌پور مطلق، هوش مصنوعی در آموزش و پرورش: چیستی، چرایی و چگونگی، فصلنامه آموزش و پرورش متعالی، دوره سوم، شماره چهار، ۱۴۰۲.

[۳] . صابر صالح‌نژاد بهرستاقی و همکاران، ارائه مدل به کارگیری هوش مصنوعی در نظام آموزش‌وپرورش کشور: پیشایندها و پیامدها، فصلنامه ایده‌های نوین روانشناسی، دوره ۲۰، شماره ۲۴، ۱۴۰۳.

[۴]. سید علی محمد مختاری، ریحانه رضوانی، کاربرد هوش مصنوعی در آموزش تاریخ، مجله پژوهش در آموزش تاریخ، دوره۳، شماره۴، ۱۴۰۱.

[۵] . صادق احمدی، داود طهماسب‌زاده شیخلار، تحلیل فرصت‌ها و چالش‌های یادگیری شخصی‌سازی شده مبتنی بر هوش مصنوعی در آموزش عالی ایران، دوفصلنامه مطالعات برنامه‌ریزی آموزشی، دوره ۱۳، شماره ۲۶، ۱۴۰۳.

[۶] . بنگرید به دل‌آرا جعفری، هوش مصنوعی و فناوری‌های نو در نظام‌های آموزشی، فصلنامه پژوهش‌های نوین در اموزش و پرورش، شماره۴، ۱۴۰۲.

[۷] . رزا حسین‌زاده، نقش فناوری‌های نوین و هوش مصنوعی در بهبود فرایندهای آموزشی: یک مطالعه مروری در آموزش ابتدایی، پژوهش در مطالعات برنامه‌ریزی درسی، دوره ۴، شماره ۲، پیاپی ۷، ۱۴۰۳.

هوش مصنوعی به‌سرعت در حال تغییر جنبه‌های مختلف زندگی ماست و یکی از حوزه‌هایی که بیشترین تأثیر را از این فناوری پذیرفته، روانشناسی است. استفاده از چت‌بات‌ها در پیش‌آوری مشاوره‌های خودکار و تحلیل داده‌های رفتاری و تشخیص زودهنگام اختلالات روانی نشان می‌دهد، این فناوری در حال تبدیل شدن به یک ابزار قدرتمند در ارائه خدمات سلامت روان است، اما واقعیت این است که هوش مصنوعی صرفا می‌تواند در تحلیل داده‌ها و ارائه پیشنهادات درمانی کمک کننده باشد و نمی‌تواند جایگزین کاملی برای متخصصان سلامت روان باشد و صرفا باید به عنوان یک ابزار مکمل با توجه به محدودیت‌هایش مورد استفاده قرار گیرد.  این موارد بارها در رسانه‌ها منعکس شده و شاید برای بسیاری از ما هنوز این مسئله باور‌پذیر و قابل درک نباشد. بنابراین بهتر است به سراغ چت جی‌پی‌تی برویم و با طرح سوالاتی از او، ببینیم این فناوری می‌تواند جانشین مناسبی برای جلسات مشاوره حضوری و رابطه انسانی باشد و یا به‌تنهایی، مشکلات حاد روانی ما را مدیریت کند؟ 

براین اساس ابتدا از او می‌پرسیم، آیا قادر است همانند یک روانشناس و یا مشاور به حل مسائل انسانی کمک کند؟ او با پاسخی صریح و البته قابل انتظار، آب پاکی را روی دستمان می‌ریزد: «خیر. نمی‌توانم جای روانشناسان و مشاور‌ان را بگیرم، زیرا من یک هوش مصنوعی هستم و تخصص‌ام صرفا ارائه اطلاعات عمومی است. برای مشاوره و روانشناختی یا درمان مشکلات عمیق‌تر روانی بهتر است با یک متخصص واجد شرایط مشورت کنید!»
سوال بعدی ما این است که وضعیت در سالیان آینده چگونه خواهد بود؟ پاسخی که چت جی‌پی‌تی می‌دهد جالب‌توجه است. مطابق دیدگاه او، اگرچه برخی افراد، به‌ویژه جوانان، راحت‌تر با چت‌بات‌ها صحبت می‌کنند و اگرچه هوش مصنوعی می‌تواند در برخی جنبه‌های روان‌درمانی مفید باشد، اما این فناوری هنوز نمی‌تواند جایگزین مطلوبی برای جلسات مشاوره حضوری و رابطه انسانی باشد. شاید آینده‌ای دور، زمانی که ماشین‌ها بتوانند احساسات را عمیقا درک کنند، این امکان فراهم شود. اما در حال حاضر، هوش مصنوعی بیشتر یک ابزار کمکی برای تسهیل فرآیند درمان است تا یک جایگزین کامل برای روانشناسان. در سال‌های آینده نقش و وظایف مشاوران و روانشناسان احتمالا به طور قابل‌توجهی گسترش خواهد یافت و باتوجه به تغییرات اجتماعی و فناوری ممکن است، روانشناسان به شیوه‌های جدید، خدمات حمایتی خود را عرضه کنند.

چت جی‌پی‌تی در گفت وگو با «ما» پیش‌بینی می‌کند که در سالیان پیش‌رو، آموزش و فرهنگ‌سازی در مدارس و محل کار، افراد را ترغیب می‌کند برای رفع مشکلات خود به روانشناس مراجعه کنند، ضمن آنکه پیشرفت‌های علمی در این حوزه به بهبود کیفیت خدمات مشاوره و افزایش متقاضیان منتهی خواهد شد. 

افرادی که مشکلات خود را با چت جی‌پی‌تی درمیان می‌گذارند، معتقدند پاسخ‌های خوبی دریافت کرده‌اند، آن‌ها می‌گویند، «دیگر نیازی نیست به مطب روانشناس بروند، از جلسات روان‌درمانی و مشکل نوبت گرفتن خلاص شده‌اند و هوش مصنوعی روان‌درمانگرهمیشه آماده به‌خدمت است و به نگرانی‌هایشان گوش می‌دهد و متناسب با حال‌و‌هوایشان تمرین‌های مناسبی پیشنهاد می‌کند»، نظر چت جی‌پی‌تی را در این مورد جویا شدیم. او می‌گوید: «من به‌عنوان یک مدل هوش مصنوعی، توانایی ارائه مشاوره‌های مبتنی بر اطلاعات و الگو‌های زبانی را در اختیار دارم، اما نمی‌توانم جای یک روانشناس یا مشاور حرفه‌ای را بگیرم، پاسخ‌ها و اطلاعاتی که ارائه می‌دهم، نتیجه تجزیه‌و‌تحلیل داده‌ها و الگوریتم‌های زبان طبیعی است و نه تجربه، آموزش و تخصص انسانی.» 

 اخذ مشاوره حرفه‌ای از یک روانشناس، بهترین گزینه برای حل مشکلات روانی است 
چت جی‌پی‌تی در ادامه تاکید می‌کند: «علیرغم ارائه اطلاعات و راهنمایی‌هایی عمومی، نمی‌توانم احساسات، تجربیات و مسائل خاص فردی را به طور دقیق درک کنم. روانشناسان و مشاوران حرفه‌ای قادر به ایجاد ارتباط عمیق‌تری با مراجعان خود هستند و می‌توانند براساس نیاز‌های خاص هر فرد، راهنمایی‌های شخصی‌تری ارائه دهند. این را هم در نظر بگیرید که نمی‌توانم درمان‌های بالینی یا تشخیص‌های پزشکی ارائه کنم، مشکلات روانی پیچیده‌تر نیازمند ارزیابی و درمان تخصصی هستند. هرچند قادرم اطلاعات عمومی، مشاوره‌های ساده و راهکار‌های مدیریت استرس یا اضطراب را با مخاطبانم در میان بگذارم، اما این اقدام، تنها براساس دانش عمومی است و نمی‌تواند به‌عنوان مشاوره روانشناختی معتبر تلقی شود. در‌نهایت، اگرچه ممکن است برخی افراد از تعامل با من راضی باشند، و احساس کنند که راهنمایی خوبی دریافت کرده‌اند، اما دریافت مشاوره حرفه‌ای از یک روانشناس هنوزهم بهترین گزینه برای حل مشکلات روانی وعاطفی است.»

یکی دیگر از پرسش‌های پرتکرار و البته حائز اهمیت این است که چت جی‌پی‌تی چگونه می‌تواند در سال‌های آینده به حوزه روانشناسی کمک کند؟ پاسخی که دریافت کردیم، این بود: «می‌توانم همانند یک دستیار، زمینه دسترسی به مقالات علمی، تحقیقات اخیر و منابع آموزشی را فراهم کنم، این اطلاعات می‌تواند به روز‌ترین روش‌های درمانی و مباحث مربوط به سلامت روان را شامل ‌شود. همچنین قادرم به روانشناسان در تحلیل داده‌های جمع‌آوری شده کمک کنم. این داده‌ها ممکن است شامل نتایج ارزیابی‌ها، پرسشنامه‌ها و بررسی‌های بالینی باشد. قادر به پردازش و شناسایی الگو‌های موجود در این داده‌ها هستم و با استفاده از اطلاعات و مقالات علمی می‌توانم به روانشناسان در ارائه نشانه‌ها و علائم اولیه اختلالات روانی کمک کنم. هرچند که باید توجه داشت، تشخیص نهایی برعهده متخصصان انسانی است. به طورکلی می‌توانم به‌عنوان یک ابزار پشتیبان به کمک روانشناسان و مشاوران بیایم و این کمک می‌تواند فرآیند‌های آموزشی و درمانی را تسهیل کند. در‌نهایت نقش من نمی‌تواند جایگزین تعامل انسانی، همدلی و تجربه انسانی در مشاوره و درمان باشد. بلکه هدف من حمایت و تسهیل این فرآیندهاست.»

 فقدان توانایی در همدلی و ایجاد ارتباط عاطفی عمیق
یکی از دلایلی که باعث شده جلسات مشاوره‌ای که توسط هوش مصنوعی هدایت می‌شوند، افزایش‌ یابد و برخی افراد از آن‌ها برای دریافت توصیه‌های روانشناسی استفاده ‌کنند، کاهش هزینه‌های درمان، دسترسی راحت‌تر و ارائه پاسخ‌های فوری است. چت جی‌پی‌تی در تایید این موارد، با اشاره به مزایای خود به‌عنوان یک گزینه کمکی به ما می‌گوید: «هر زمان که افراد نیاز به توضیحات یا راهنمایی داشته باشند، می‌توانند به من مراجعه کنند. این موضوع به‌ویژه در شرایط اضطراری یا در اوقاتی از شبانه‌روز که خدمات روانشناسی در دسترس نیست، بسیار مفید خواهد بود. بدون هزینه قابل دسترس هستم و این می‌تواند به افرادی که توان مالی برای مراجعه به روانشناس ندارند، کمک کند. می‌توانم اطلاعات عمومی درباره مسائل روانشناسی و مشاوره ازجمله تکنیک‌های مدیریت استرس، راهکار‌های مقابله با اضطراب و دیگر موضوعات مربوط به سلامت روان را ارائه دهم. همچنین به افراد این احساس را القاء می‌کنم که صدای آن‌ها شنیده شده و زمینه‌ای برای بیان احساسات و نگرانی‌های آنان فراهم می‌کنم. با‌این‌حال بسیاری از افراد همچنان ترجیح می‌دهند با یک انسان صحبت کنند، زیرا تعامل انسانی به آن‌ها احساس امنیت و درک واقعی می‌دهد. یکی از چالش‌هایی که با آن مواجه‌ام، فقدان توانایی در همدلی و ایجاد ارتباط عاطفی عمیق است که همچنان یک نقطه‌ضعف اساسی برای من محسوب می‌شود.» 

اینکه آیا چت جی‌پی‌تی توانسته به افراد در حوزه مشکلاتی که دارند کمک کند، پرسش دیگری است که به ذهن خطور می‌کند. این فناوری در پاسخ به آن می‌گوید: «به عنوان یک مدل هوش مصنوعی می‌توانم در زمینه‌های مختلف به افراد کمک کنم و اطلاعاتی ارائه دهم که ممکن است برای آن‌ها مفید باشد. براساس تعاملاتی که با کاربران دارم، به نظر می‌رسد که برخی افراد از پاسخ‌ها و راهنمایی‌هایی که دریافت می‌کنند، رضایت دارند.»

با این حال یکی از بزرگترین چالش‌های هوش مصنوعی، عدم توانایی در پاسخ به شرایط بحرانی مانند افکار خودکشی یا بحران‌های شدید روانی است. این سیستم‌ها نمی‌توانند تصمیم‌گیری‌های فوری و حیاتی انجام دهند و ممکن است نتوانند به موقع مداخله کنند. اگر یک سیستم هوش مصنوعی به اشتباه تشخیص دهد که فردی دچار افسردگی شدید نیست و او را بدون کمک رها کند، چه پیامدهایی خواهد داشت؟ این مسئله نشان می‌دهد که هوش مصنوعی هنوز نمی‌تواند به طور کامل جایگزین درمانگران انسانی شود، بنابراین علی‌رغم مزایای زیاد این فناوری باید در کاربرد آن احتیاط کرد. از سوی دیگر در روانشناسی، داده‌های بیمار بسیار حساس و شخصی هستند و استفاده از هوش مصنوعی برای تحلیل این داده‌ها ممکن است خطر نشت اطلاعات یا سوءاستفاده از آن‌ها را افزایش دهد، به ویژه اگر پروتکل‌های امنیتی به‌درستی رعایت نشوند. این ابزار در روانشناسی مزایایی مانند تحلیل داده‌های بزرگ، دسترسی به خدمات مشاوره‌ای و شناسایی زودهنگام علائم اختلالات روانی را به همراه دارد. با این حال، معایب آن شامل عدم درک عمیق از احساسات انسانی، ناتوانی در تشخیص ظرافت‌های عاطفی و ریسک‌ موجود در تولید اطلاعات نادرست و انتقال تعصبات است. به علاوه، جایگزینی کامل تعامل انسانی با تکنولوژی می‌تواند منجر به کاهش کیفیت ارتباطات عاطفی و همدلی در فرایند درمان شود. 

 فرصت‌های چت‌بات‌ها در روان‌درمانی
اخیرا در مقاله‌ای با عنوان «چت‌بات به‌مثابه درمانگر» نیز براین موارد تاکید شده است که «بسیاری از افراد برای مسائل شخصی زندگی خود با نرم‌افزارهای هوش مصنوعی (چت‌بات‌ها) نظیر «چت‌جی‌بی‌تی» مشورت می‌کنند و در مورد مشکلات روحی و روانی هم از آن‌ها راهنمایی می‌گیرند. این امر اگرچه می‌تواند نقطه‌ی آغازی برای درمان تلقی شود، اما نمی‌تواند جایگزین روان‌درمانگر واقعی شود و خطراتی به‌همراه دارد.» در این مقاله که بخش‌هایی از آن در رسانه‌ها بازنشر شده، آمده است: «معمولا در بحران‌های روحی و روانی، بسیاری از کاربران به توصیه ربات‌ها اعتماد می‌کنند، ربات‌هایی که – برخلاف خدمات روان‌درمانی حرفه‌ای – به‌طور نامحدود و در هر زمان در دسترس هستند. براساس یافته‌های نخستین به‌نظر می‌رسد که گفت‌وگو با هوش مصنوعی اغلب اثرات مثبتی دارد، اما مطالعات کافی در این زمینه هنوز وجود ندارد. از طرفی باتوجه به اینکه دریافت نوبت برای مراجعه به روانشناس دشوار است و افراد باید ماه‌ها برای درمان مورد نیاز خود منتظر بمانند، در طول دوره‌ انتظار، هوش مصنوعی می‌تواند یک پشتیبان مفید باشد.»

 هوش مصنوعی به‌عنوان مشاور و پناهگاه عاطفی
در ادامه این مقاله با اشاره به نتایج یک پژوهش عنوان شده است: «استیون سیدالز، روان‌شناس کالج سلطنتی لندن، با ۱۹ نفر که چندین بار در هفته از چت‌بات‌ها به‌عنوان نوعی روان‌درمانی استفاده کرده بودند، مصاحبه کرد. دلایل استفاده آن‌ها از هوش مصنوعی متنوع بود: اضطراب، افسردگی، استرس، درگیری‌های ذهنی، حس فقدان. برخی نیز می‌خواستند روابط عاشقانه خود را بهبود بخشند. لحن کلی این مطالعه تقریباً کاملاً مثبت است. اکثر پاسخ‌دهندگان گفتند که این گفت‌وگوها زندگی آن‌ها را به‌طور قابل توجهی بهبود بخشیده است. سیدالز به‌ویژه عملکرد چت‌بات‌ها به‌عنوان «پناهگاه عاطفی» را برای کاربران مفید می‌داند. آن‌ها می‌توانستند حتی در ساعت ۳ نیمه‌شب مشکلات خود را تا حدی با هوش مصنوعی در میان بگذارند، بدون آن‌که احساس کنند که مورد قضاوت قرار گرفته‌اند. این امر برای افراد مبتلا تسکین‌بخش است. افزون بر این، چت‌بات‌ها به‌گونه‌ای طراحی شده‌اند که به کاربران کمک کنند؛ از این رو پیشنهادهای مشخص و توصیه‌های رفتاری ارائه می‌دهند. این امر نیز در میان پاسخ‌دهندگان این مطالعه با استقبال مثبتی روبه‌رو شد.»

  تأثیر همدلی شبیه‌سازی‌شده
یکی دیگر از یافته‌های این پژوهش که در مقاله به آن اشاره شده، این است که «چت‌بات‌ها به‌طور فزاینده‌ای در شبیه‌سازی همدلی خوب عمل می‌کنند. در این میان کاربران چندان اهمیتی نمی‌دهند که هوش مصنوعی یک ماشین است و احساسات واقعی ندارد. با وجود آگاهی از این واقعیت، آن‌ها این تبادل را غنی‌ و تواناگر می‌دانند. احتمالاً همدلی بین‌ دو انسان برای موفقیت در مشاوره روان‌شناختی بیش از حد برجسته می‌شود. افراد مبتلا به بیماری‌های روانی همچنین گزارش داده‌اند که تنها از طریق گفت‌وگو با چت‌بات‌ها به فکر انجام درمان افتاده‌اند. زیرا تنها تبادل نظر با هوش مصنوعی به آن‌ها نشان داد که صحبت‌کردن در مورد مشکلات کمک می‌کند. از این رو، استفاده از ربات‌ها می‌تواند راهی برای سوق دادن افراد بیمار به سمت درمان نیز باشد.» 

 خطرات هوش مصنوعی در مشکلات روان‌شناختی
اما با وجود نتایج مثبت، مطالعه استیون سیدالز با تنها ۱۹ شرکت‌کننده را نمی‌توان اظهارنظر قطعی در مورد چگونگی عملکرد چت‌بات‌ها به‌عنوان جایگزینی برای روان‌درمانی تلقی کرد بلکه هدف این پژوهشگر نشان دادن آن است که در این زمینه به تحقیقات بیشتری نیاز است؛ زیرا استفاده از هوش مصنوعی در مشکلات روان‌شناختی خطراتی را نیز به‌همراه دارد. این مقاله در ادامه تاکید کرده است: «چت‌بات‌های تجاری معمولی اساساً برای کمک‌رسانی در شرایط اضطراری روانی طراحی نشده‌اند. «مدل زبانی بزرگ» منحصراً نه با متون تخصصی روان‌شناختی، بلکه با حجم عظیمی از داده‌های مختلف از جمله متون مذهبی، فیلم‌نامه‌ها یا بحث‌های موجود در شبکه‌های اینترنتی آموزش داده می‌شوند. این‌که هوش مصنوعی در یک مورد خاص به چه منابعی مراجعه می‌کند، همیشه روشن نیست. پاسخ‌ها و توصیه‌هایی که هوش مصنوعی ارائه می‌دهد نیز ممکن است نادرست باشند. این امر می‌تواند به‌ویژه افراد با ثبات روانی پایین را بیشتر بی‌ثبات کند. افزون بر این، چت‌بات‌ها معمولاً به‌گونه‌ای طراحی شده‌اند که از کاربران خود پشتیبانی می‌کنند. به همین دلیل، برخی از ابزارهای هوش مصنوعی به «سندروم بله‌گو» متهم می‌شوند.»

براساس یافته‌های اولیه، به‌نظر می‌رسد که در کاربردهای هوش مصنوعی، پتانسیل زیادی برای روان‌درمانی وجود دارد. با این حال، بعید است که چت‌بات‌ها در آینده به‌طور کامل جایگزین روان‌درمانگرها شوند. زیرا با وجود تجربیات خوب افراد با مشکلات روحی و روانی، چنین به‌نظر می‌رسد که چت‌بات‌ها حداکثر می‌توانند علائم بیماری‌های روانی را تسکین دهند، اما نمی‌توانند آن‌ها را درمان کنند. به جای جایگزینی، هوش مصنوعی می‌تواند در آینده به‌عنوان مکمل روان‌درمانی مورد استفاده قرار گیرد. (منبع:رسالت)

کمیل حسینی، فعال تربیتی و جامعه‌شناس - روی‌آوردن به هوش مصنوعی برای درمان اختلالات، مشکلات روان‌شناختی و این‌گونه مسائل تا چه اندازه می‌تواند مثمرثمر باشد؟ آیا این فناوری می‌تواند جایگزین درمانگر انسانی شود یا خیر؟ برای درمان مشکلات مختلف رفتاری و شناختی، معمولاً نیاز است چند عامل به‌صورت همزمان و در کنار هم اتفاق بیفتد. این عوامل چه هستند؟ یکی از مهم‌ترین آن‌ها، شاید انگیزه و اراده باشد. گام بزرگی برای حل بسیاری از مسائل، از جمله روابط زوجین و حتی مشکلات روان‌شناختی مثل افسردگی‌ها، اعتیاد و موارد مشابه، این است که فرد اراده کند و بخواهد مسئله را کنار بگذارد.

ایجاد این اراده، می‌توان گفت از اصلی‌ترین گام‌هایی است که در روند درمان باید شکل بگیرد، مثلاً در مصاحبه یا گفت‌وگویی که با فرد صورت می‌گیرد، او باید اراده کند و بگوید: «من می‌خواهم این مسئله را حل کنم.» اما اگر این اراده در فرد وجود نداشته باشد، اینجا دقیقاً همان نقطه‌ای است که هوش مصنوعی ممکن است ضعف نشان دهد. این ‌که هوش مصنوعی تا چه حد می‌تواند فرد را به سمتی سوق دهد که اراده‌ لازم برای تغییر را در خود ایجاد کند، محل تردید است. دلیل این تردید آن است رابطه‌ای که بین انسان و هوش مصنوعی برقرار می‌شود، رابطه‌ای انسانی و زنده نیست، مانند رابطه‌ای که بین دو انسان شکل می‌گیرد؛ بنابراین ممکن است گفت‌وگو با هوش مصنوعی نتواند نتیجه‌ای مطلوب و مؤثر به بار آورد. این یک نقطه‌ضعف بالقوه است، یعنی در نبود رابطه انسانی واقعی، ایجاد یا تقویت اراده‌ تغییر، امید دادن به فرد در برابر ناامیدی‌هایش و حمایت عاطفی ممکن است به‌درستی انجام نشود. 

هوش مصنوعی در شناخت طرح‌واره‌ها ضعیف است
حوزه‌ بعدی که به نظر می‌رسد هوش مصنوعی در آن کمتر می‌تواند موفق باشد، مربوط به شناسایی زمینه‌ها و ریشه‌های عمیق مشکلات است. این زمینه‌ها ممکن است برخی مربوط به گذشته‌ای نزدیک باشند و برخی دیگر به گذشته‌ای دورتر برگردند، حتی به دوران کودکی فرد یا روابط والدینش یا اتفاقاتی که در زندگی‌اش رخ‌داده است. تشخیص این‌ها برای هرکسی آسان نیست و معمولاً به‌تعبیری نیازمند بصیرت و تجربه‌ روان‌شناس است؛ روان‌شناسی که شاخک‌هایش تیز شده و انسان را خوب می‌شناسد. گاهی فردی با مشکل روان‌شناختی به روان‌شناس مراجعه می‌کند، اما خودش از عمق ریشه‌های مشکل آگاهی ندارد. این روان‌شناس است که با پرسش و یادآوری خاطرات، این ریشه‌ها را آشکار می‌کند و به فرد کمک می‌کند آن‌ها را بشناسد.

شاید آن شخص هیچ‌گاه متوجه اهمیت آن‌ها نبوده، اما روان‌شناس بادقت و تجربه توانسته است به آن‌ها دست یابد که معمولاً یکی از مهم‌ترین زمینه‌های مشکلات است. با توجه به این نکات، ضعف دیگر هوش مصنوعی در این حوزه می‌تواند ناتوانی در یافتن ریشه‌ها، طرح‌واره‌ها و اتفاقات عمیق و اثرگذار باشد که برای درمان روانی حیاتی هستند. واقعیت این است که هوش مصنوعی نمی‌تواند بصیرت لازم برای درک رفتار و کنش انسانی را داشته باشد و سپس دستورالعمل‌های متناسب و دقیق ارائه دهد یا وارد فضای درمان شود، بنابراین مشکل بعدی به نظر می‌رسد در حوزه‌ تشخیص باشد، یعنی ممکن است ما در این مرحله دچار ضعف‌هایی شویم. البته بخشی از فرایند تشخیص در فضای درمان نیز اتفاق می‌افتد.

منظور این است که وقتی فردی با یک روان‌شناس یا مشاور حرفه‌ای صحبت می‌کند، ذهنش باز می‌شود؛ همین گشایش ذهن، خود بخش بسیار مهمی از درمان به شمار می‌آید. برای مثال، فرض کنید فردی دچار عدم اعتمادبه‌نفس شدید است یا حتی کاملاً فاقد عزت نفس است. در فرایند مشاوره ممکن است این فرد ریشه‌های این مشکل را بشناسد، یعنی بفهمد چرا چنین حسی به او دست داده است.

این شناخت ریشه‌ها به ناخودآگاه فرد کمک می‌کند تا دریابد بسیاری از این احساسات ممکن است بی‌اساس یا ساخته‌ ذهن او باشند. خود این شناخت، بخش مهمی از فرایند درمان را رقم می‌زند. قسمت دیگر درمان، که به نظر می‌رسد هوش مصنوعی در آن دچار ضعف باشد، ارائه‌ راهکار‌ها و دستورالعمل‌های شخصی‌سازی شده است. ممکن است یک‌سری دستورالعمل‌های کلی وجود داشته باشد که برای بسیاری از مسائل پیشنهاد شوند، اما در مشاوره‌ حرفه‌ای، حتی ممکن است نخستین دستورالعمل‌های متداول یا پروتکل‌های درمانی، بسته به شرایط فردی، تغییر کنند. در اینجا ممکن است هوش مصنوعی، به دلیل عدم شناخت دقیق یا ساختار نامناسب، نتواند دستورالعمل‌های متناسب و راه‌حل‌های درست را ارائه دهد. 

یکی از چالش‌های هوش مصنوعی عدم شناخت براساس فرهنگ متناسب است

حوزه‌ دیگری که به نظر می‌رسد چالش‌برانگیز باشد، خلأ‌های اخلاقی است که ممکن است در استفاده از هوش مصنوعی رخ دهد. هوش مصنوعی ممکن است مبانی اخلاقی درست و متناسب با فرهنگ، جغرافیا و آداب‌ورسوم هر منطقه را به‌درستی در نظر نگیرد. مثلاً ممکن است دستورالعملی که به فردی در تهران درباره رابطه با همسرش داده می‌شود، به همان شکل و بدون تغییر به فردی در خوزستان، بندرعباس یا سیستان‌وبلوچستان ارائه شود؛ درحالی‌که شرایط فرهنگی و اجتماعی این مناطق کاملاً متفاوت است. این موضوع ممکن است عوارضی نیز به همراه داشته باشد، مثلاً در مباحث اخلاقی که ممکن است به‌درستی رعایت نشود؛ ازجمله در ارائه دستورالعمل‌ها و ملاحظات شرعی و اخلاقی.

فضای دیگری که ممکن است به‌عنوان چالش مطرح شود، فضای همدلی است. وقتی فردی به یک مشاور مراجعه می‌کند، بخش مهمی از آرامشی که به دست می‌آورد، نتیجه همدلی و هم‌زبانی‌ای است که میان او و درمانگر شکل می‌گیرد؛ نتیجه برون‌ریزی احساسات در یک رابطه انسانی و واقعی است؛ جایی که فرد احساسات و حرف‌هایش را به اشتراک می‌گذارد. هوش مصنوعی احتمالاً نمی‌تواند این همدلی، هم‌زبانی و مشارکت احساسی را مانند یک انسان واقعی به وجود آورد یا به‌گونه‌ای طبیعی و واقعی رفتار کند. هوش مصنوعی در عرصه‌های مختلف درمان محدودیت‌هایی دارد؛ مانند شناخت ریشه‌ها، ارائه راهکار‌های شخصی‌سازی‌شده، و ایجاد فضای گفت‌وگو و همدلی.

اما لازم است تأکید کنم آنچه بیان کردم، به معنای این نیست که هوش مصنوعی در همه موارد و برای همه افراد با این مشکلات روبه‌رو خواهد بود یا نمی‌تواند مورد موفقی داشته باشد، بلکه، اگر افراد اراده‌ جدی برای درمان داشته باشند، گاهی دستورالعمل‌هایی که هوش مصنوعی ارائه می‌دهد و اگر افراد آن‌ها را متناسب با خود و شرایط و فرهنگ و ارزش‌هایشان بپذیرند و جدی دنبال کنند، می‌تواند آن‌ها را از مراجعه به مشاور یا روان‌پزشک بی‌نیاز کند. این اراده البته نیازمند داشتن یک دستورالعمل است و آن دستورالعمل می‌تواند توسط هوش مصنوعی در اختیار فرد قرار گیرد، به‌شرط آنکه با شرایط، فرهنگ و اراده‌ فرد متناسب‌سازی شود. با چنین فرایندی، احتمال تحقق درمان برای بسیاری از افراد وجود دارد. 
با توجه به توان مالی پایین بسیاری از مردم برای پرداخت هزینه‌های مشاوره و درمان و همچنین حمایت ناکافی بیمه‌ها در کشور ما، احتمالاً بسیاری ناچار می‌شوند به چنین فضا‌هایی روی بیاورند تا مسائل خود را حل کنند. همچنین لازم است در نظر داشته باشیم که برخی افراد بار‌ها تجربه مراجعه به مشاور یا تراپیست را داشته‌اند، اما ناکامی‌هایی را تجربه کرده‌اند، مثلاً احساس کرده‌اند که وقتی پیش مشاور رفته‌اند، حرف خاصی به آن‌ها‌ زده نشده و مطالبی که گفته شده، در کتاب‌ها یا صفحه‌های اینستاگرامی قبلاً خوانده‌اند. این نگاه، متأسفانه ناشی از ضعف‌هایی است که در برخی مشاوران و روان‌شناسان و درمانگران وجود دارد. افراد گاهی به همین دلیل به دنبال راه‌حلی می‌گردند که هزینه کمتری داشته باشد و درعین‌حال بتواند تا حدی به آن‌ها کمک کند. نقص‌هایی مانند فقدان بصیرت یا فهم عمیق در برخی مشاوران نیز وجود دارد؛ بنابراین وقتی افراد تجربه‌ خوبی از مشاوره نگرفته‌اند، حرف تازه‌ای نشنیده‌اند یا تغییری در زندگی‌شان حاصل نشده، ممکن است بگویند برای چه باید هزینه کنیم؟ می‌رویم سراغ راه‌حلی که حداقل هزینه‌ای نداشته باشد.(منبع:فرهیختگان)

مزایای استفاده از هوش مصنوعی بسیار گسترده و عمیق است. سامانه‌های هوش مصنوعی به اندازه داده‌هایی که به آنها داده می‌شود دقت عمل دارند. پیش‌بینی می‌شود که تا سال ۲۰۲۵ حدود ۲۰ درصد از کل GDP جهان به هوش مصنوعی اختصاص داده خواهد شد.
به گزارش خبرگزاری تسنیم، در  نشست علمی و تخصصی،  احسان طوفانی‌نژاد؛ عضو هیئت علمی دانشگاه علوم پزشکی شهید بهشتی و برنده جایزه ملّی یادگیری الکترونیکی یونسکو به عنوان مدیر علمی نشست و همچنین پروفسور آکف کرکچی؛ رئیس مؤسسه آموزشی اکو Eco Educational Institute (ECOEI) و  علی خورسندی؛ رئیس مؤسسه پژوهش و برنامه‌ریزی آموزش عالی و دانشیار دانشگاه علامه طباطبائی و  امید رضایی‌فر؛ رئیس مرکز مطالعات و همکاری‌های علمی بین‌المللی وزارت عتف به‌عنوان سخنرانان در این نشست به ایراد نقطه‌نظرات خود پرداختند.

در ابتدای نشست مرکز مطالعات توسعه و آینده  پژوهی  احسان طوفانی‌نژاد؛ عضو هیئت علمی دانشگاه علوم پزشکی شهید بهشتی و برنده جایزه ملّی یادگیری الکترونیکی یونسکو به عنوان مدیر علمی نشست، گفت: همان‌طور که در حوزه هوش مصنوعی مخاطب ما افرادی هستند که می‌توانند در سیاست‌گذاری هوش مصنوعی تأثیر تسهیلگر داشته باشند، به همین دلیل عنوان نشست نقش و جایگاه هوش مصنوعی در نظام‌های آموزشی انتخاب شده است.

وی ادامه داد: ما در این نشست به این نمی‌پردازیم که هوش مصنوعی مهم است یا خیر بلکه برای همه ما واضح است که هوش مصنوعی مهم و مؤثر است و می‌تواند تحولات جدی را در نظام‌های آموزشی ایجاد کند؛ لذا ما به دنبال این هستیم که از چرایی به چگونگی برسیم، به اینکه چگونه هوش مصنوعی می‌تواند به دلیل گستردگی هوش مصنوعی در زمینه‌های مختلف موجب ایجاد تحول در حوزه‌های سیاسی، اجتماعی، فرهنگی و... شود.

برنده جایزه ملّی یادگیری الکترونیکی یونسکو تشریح کرد: یکی از سیاست‌های کلان در حوزه هوش مصنوعی که ما می‌توانیم به آن بپردازیم، صحبت‌های مقام معظم رهبری است که تقریباً اکثر صحبت‌های ایشان که مخاطب آن جوانان و دانشگاهیان هستند به هوش مصنوعی به عنوان یک ابزار مهم تأکید شده است.

در ادامه نشست پروفسور آکف کرکچی؛ رئیس مؤسسه آموزشی اکو Eco Educational Institute (ECOEI)  به عنوان سخنران نشست گفت: ما در مؤسسه آموزشی اکو به عنوان یک حلقه اتصال، تسهیلگر و پل ارتباطی عمل می‌کنیم و تلاش داریم تا چالش‌های مشترک را به دانش مشترک تبدیل کنیم و در ادامه دانش مشترک را به راهکارهای مشترک تبدیل کنیم.

وی افزود: ما در مؤسسه آموزشی اکو در حوزه هوش مصنوعی برای تقویت این حوزه در منطقه تلاش کردیم و علاوه بر این به نقاط ضعف خودمان حتی برای زمان‌هایی که ممکن است با بحران‌های متعدد مواجه شویم توجه کرده‌ایم و به همین دلیل یکی از راهکارهای ما استفاده از هوش مصنوعی است.

رئیس مؤسسه آموزشی اکو عنوان کرد: مزایای استفاده از هوش مصنوعی بسیار گسترده و عمیق است به‌طوری‌که ما در تمام دنیا می‌توانیم محتواهای آموزشی داشته باشیم که هم به‌روز باشد و هم بر طبق نیازها و سطح دانش‌آموزانی باشد که به این نوع از محتواها احتیاج دارند. همچنین سرمایه‌گذاری بسیار کلانی برای توسعه هوش مصنوعی در دنیا صورت گرفته است به‌طوری‌که میزان سرمایه‌گذاری در این حوزه از رقم 3.8 میلیارد دلار در سال 2023 به 1.3 تریلیارد در سال 2034 افزایش پیدا می کند.

پروفسور آکف کرکچی یادآور شد: به عنوان مثال کشور چین یکی از کشورهایی است که راهبرد هوش مصنوعی را در کشور خود با نیازهای نظام آموزشی همسو و همراه کرده است. چین یک راهبرد و برنامه جامعی برای ایجاد و خلق هوش مصنوعی دارد. این برنامه که در سال 2017 تصویب شد به گوده‌ای عمل می‌کند که قرار است هوش مصنوعی را وارد تک‌تک حوزه‌های زندگی بشری کند. نمونه این برنامه نظامی با عنوان آموزش هوشمند است که در سال 2022 برنامه‌ریزی شد که محتواهای آموزشی در حوزه هوش مصنوعی را به‌صورت دیجیتال در اختیار همه شهروندان قرار می‌دهد.

وی ادامه داد: در کنار تمام فواید استفاده از هوش مصنوعی ما یک‌سری مخاطرات و ریسک‌هایی نیز در استفاده از هوش مصنوعی داریم که در گزارشی که در سال 2021 در سازمان یونسکو منتشر شده است به مواردی همچون آسیب‌هایی که در مورد الگوریتم‌ها ممکن است به وجود بیاید، نظارت دقیق دیجیتال بر افراد، همچنین کاهش اثر و نقش نهادهای آموزشی و مواردی از جمله حفظ حریم خصوصی و استفاده نامناسب از حریم شخصی افراد اشاره شده است.

آکف کرکچی افزود: سامانه‌هایی هوش مصنوعی به اندازه داده‌هایی که به آنها داده می‌شود دقت عمل دارند و اگر داده‌هایی که وارد این سامانه می‌کنیم ضعیف باشد و سوگیری داشته باشد در نتیجه تصمیماتی که از این سامانه خارج می‌شود نیز ضعیف و دارای سوگیری خواهد بود. در مقابل در هوش مصنوعی نیز می‌تواند بر تصمیماتی که ما می‌گیریم نیز مؤثر واقع شود.

وی تشریح کرد: در قرن 21 فناوری‌های هوش مصنوعی بسیار حائز اهمیت هستند و هوش مصنوعی ساختار پشتیبانی بسیار قوی برای نظام‌های آموزشی ما به شمار می‌رود؛ ولی باید بسیار دقت کنیم که در هوش مصنوعی که ما ایجاد می‌کنیم به فرهنگ و مسائل اجتماعی و تاریخی توجه ویژه داشته باشیم. زمانی که بخواهیم با رویه‌های هوش مصنوعی در جهان همسو بشویم باید ابتکار عمل را در دست بگیریم تا بتوانیم نیازها و ارزش‌های خود را وارد این الگوها کنیم.

در ادامه این نشست  علی خورسندی؛ رئیس مؤسسه پژوهش و برنامه‌ریزی آموزش عالی و دانشیار دانشگاه علامه طباطبائی در خصوص سیاست‌گذاری در هوش مصنوعی گفت: از دیدگاه من در مباحث مربوط به هوش مصنوعی بسیار وسیع است و سطوح چندگانه‌ای دارد. طبق آمارهای جهانی در سال 2021 سرمایه‌گذاری در حوزه هوش مصنوعی حدود 100 میلیارد دلار بود که در سال 2022 به 230 میلیارد دلار رسید و پیش‌بینی می‌شود این رقم امسال از 2 هزار میلیارد دلار عبور خواهد کرد و پیش‌بینی می‌شود که تا سال 2025 حدود 20 درصد از GDP جهان را به خود اختصاص خواهد داد.

این دانشیار دانشگاه علامه طباطبائی افزود: ما به لحاظ سیاست‌گذاری در هوش مصنوعی تقریباً کار خاصی انجام نداده‌ایم و در حقیقت جز 100 کشور اول دنیا هم نیستیم درحالی‌که در کشورهای همسایه ما در سال 2019 دانشگاه‌های اختصاصی برای موضوع هوش مصنوعی تأسیس می‌شود.

رئیس مؤسسه پژوهش و برنامه‌ریزی آموزش عالی عنوان کرد: چهار دلیل موجب اهمیت و جذابیت هوش مصنوعی برای افراد در جامعه می‌شود که این چهار دلیل مواردی از جمله تنوع‌بخشی و یادگیری، متفاوت بودن محیط یادگیری، مداخله سریع و دقیق هوش مصنوعی در یادگیری و همچنین خدمات و پشتیبانی هوش مصنوعی از مدرسان را در بر می‌گیرد.

 علی خورسندی این نکته را تأکید کرد که یک انقلاب مهمی که هوش مصنوعی در صنعت آموزش ایجاد کرده است موضوع منابع آموزشی است که منابع را از کتاب‌های سنتی و چاپی به کتاب‌های دیجیتال و هوشمند تبدیل کرده است. حال سؤال این است که آیا ما می‌توانیم در برابر این هژمونی هوش مصنوعی مقاومت کنیم؟ باید گفت که از منظر سرمایه‌گذاری در هوش مصنوعی ما نمی‌توانیم از هوش مصنوعی غافل شویم و سرمایه‌گذاری در حوزه هوش مصنوعی موردی است که حتماً باید انجام شود. باید در مواجهه با هوش مصنوعی یک بالانسی بین ابزارهای هوش مصنوعی و ابزارهایی که روزانه استفاده می‌کنیم ایجاد شود و باید یک سطح مناسبی را برای رشد هوش مصنوعی در نظر بگیریم.

در ادامه این نشست امید رضایی‌فر؛ رئیس مرکز مطالعات و همکاری‌های علمی بین‌المللی وزارت علوم، تحقیقات و فناوری در خصوص واقعیتی که در هوش مصنوعی با آن مواجه هستیم گفت: ما نیاز به یک سیاست‌گذاری جدی برای آینده هوش مصنوعی در کشور داریم. ما در هوش مصنوعی یک فرایند جدی توسعه احتیاج داریم تا بتوانیم دراین‌خصوص یک نظریه‌پردازی داشته باشیم و به واسطه این نظریه‌پردازی امکان پیش‌بینی آینده هوش مصنوعی را امکان‌پذیر کنیم.

وی ادامه داد: ما اگر بخواهیم در دنیا نگاه بکنیم می‌بینیم که حدود 25 الی 30 درصد از کل مجموعه‌هایی که در توسعه هوش مصنوعی فعال هستند در کشورهای توسعه‌یافته با محوریت آمریکا و چین مستقر هستند. یکی از مقوله‌هایی کشور چین به صورت جدی بر روی آن متمرکز شده است گذر از حوزه آموزش مجازی و ورود به حوزه آموزش دیجیتال است چیزی که فرایندهای هوشمندی را در عملکردهای خود نهادینه کرده است.

 امید رضایی‌فر تشریح کرد: ما در فضای بین‌المللی به یک اشتراک‌گذاری جدی در فضای داده‌های هوش مصنوعی احتیاج داریم که باید این امر با احترام متقابل به فرهنگ‌های کشورها به یکدیگر صورت گیرد این موضوع می‌تواند ظرفیت‌هایی را برای ایجاد تعامل کشورها بو گسترش راه‌های ارتباطی کشورها و تعریف پروژه برای یکدیگر به وجود بیاورد.

وابستگی به هوش مصنوعی می‌تواند خلاقیت در حل مسئله را از بین ببرد؛ در حالی‌که نوآوری‌هایی مثل لامپ و اینترنت حاصل تفکر متفاوت و راه‌حل‌های خلاقانه بوده‌اند.

مهر- در سال ۱۹۴۳، ادوین لَند، مخترع و دانشمند پشت برند پولاروید، همراه دختر سه‌ساله‌اش جنیفر به تعطیلات رفته بود. جنیفر از او سوالی ساده اما عمیق پرسید: «چرا نمی‌توانم همان لحظه عکس‌ها را ببینم؟» در آن زمان، ظاهر کردن عکس روزها طول می‌کشید و نیاز به تاریک‌خانه و فرایندهای شیمیایی داشت. اما لند به جای نادیده گرفتن کنجکاوی دخترش، آن را به چشم یک چالش دید. او شروع کرد به فکر کردن در مورد شیوه عکاسی. با آزمون و خطا و حل خلاقانه مسائل، موفق شد سیستم فیلمی ابداع کند که افراد می‌توانستند عکس‌هایشان را در عرض چند ثانیه ببینند. در سال ۱۹۴۸، دوربین پولاروید لَند برای همیشه صنعت عکاسی را دگرگون کرد.

حالا تصور کنید اگر لند به جای فکر کردن و تلاش، فقط از هوش مصنوعی می‌پرسید چه‌کار کند. آیا تا الان «عکاسی فوری» به وجود می‌آمد؟ این داستان یک حقیقت مهم را نشان می‌دهد که خلاقیت فقط به معنای هنر و زیبایی نیست؛ خلاقیت یعنی حل مسئله، نوآوری، و فراتر رفتن از آنچه اکنون وجود دارد.

افول تفکر خلاق در عصر هوش مصنوعی

امروزه نسل جوان در دنیایی رشد می‌کند که به جای نوشتن انشا، از متن‌های تولیدشده با هوش مصنوعی استفاده می‌کند. به جای نقاشی با تکیه بر تخیل، به ابزارهای هنری هوش مصنوعی متوسل می‌شود. به جای ساختن موسیقی، از هوش مصنوعی برای تولید شعر و ملودی کمک می‌گیرد.

در نگاه اول، این‌ها شاید فقط یک نوع راحتی تکنولوژیک به نظر برسند. اما خلاقیت، یک فرایند لحظه‌ای نیست. خلاقیت در دلِ تلاش، آزمون و خطا و تجربه‌های سخت رشد می‌کند. وقتی هوش مصنوعی پاسخ‌های سریع فراهم می‌کند، فرصت اندیشیدن و رشد فکری از جوان‌ها گرفته می‌شود.

چرا والدین باید نگران باشند؟

اگر تفکر مستقل را در فرزندانمان تقویت نکنیم، ممکن است نسلی را تربیت کنیم که به‌جای نوآور بودن، صرفاً منفعل است. هوش مصنوعی ابزار فوق‌العاده‌ای‌ست، اما هرگز نباید جایگزین کنجکاوی، تفکر انتقادی و خلاقیت شود. توانایی حل مسئله، فکر کردن عمیق و ایده‌پردازی اصیل، چیزی است که ذهن‌های بزرگ را از بقیه متمایز می‌کند و این‌ها مهارت‌هایی هستند که هوش مصنوعی نمی‌تواند جایگزینشان شود.

یکی از بزرگ‌ترین خطرهای وابستگی به هوش مصنوعی، از بین رفتن مهارت‌های خلاقانه در حل مسئله است. بسیاری از بزرگ‌ترین پیشرفت‌های تاریخ از اختراع لامپ گرفته تا پیدایش اینترنت از ذهن کسانی آمده که متفاوت فکر کردند و راه‌حل‌های نو برای چالش‌ها پیدا کردند.

نیروی کار آینده فقط به افرادی نیاز ندارد که بتوانند با هوش مصنوعی کار کنند، بلکه به کسانی نیاز دارد که بتوانند فراتر از آن فکر کنند. در دنیایی که با هوش مصنوعی هدایت می‌شود، ارزشمندترین مهارت‌ها عبارتند از: طرح پرسش‌های بهتر به‌جای پذیرش صرف پاسخ‌های هوش مصنوعی، حل مسائل پیچیده و پیش‌بینی‌ناپذیر که از توان هوش مصنوعی خارج است؛ خلق ایده‌های جدید به‌جای بازترکیب ایده‌های قدیمی.

چند راهکار عملی

۱. آموزش هوش مصنوعی به‌عنوان ابزار، نه میان‌بُر:

به بچه‌هایتان یاد بدهید که از هوش مصنوعی به عنوان پشتیبان استفاده کنند، نه جایگزین فکر کردن. به جای اینکه اجازه دهید خروجی‌های هوش مصنوعی را صرفاً کپی کنند، کمکشان کنید آن را تحلیل کنند. بپرسید: «با کدام بخش از این متن تولیدشده توسط هوش مصنوعی موافق یا مخالفی؟ چرا؟» تشویق کنید: «چطور می‌توانی این ایده را با کلمات خودت بهترش کنی؟» به چالش بکشید: «آیا می‌توانی راه‌حل دیگری پیدا کنی که بهتر باشد؟» این رویکرد باعث می‌شود فرزندان با ذهنی فعال، نه منفعل، با محتوا مواجه شوند.

۲. «خلق کردن پیش از مصرف کردن» را تمرین دهید:

قبل از اینکه سراغ هوش مصنوعی بروند، فرزندتان را تشویق کنید که ابتدا خودش فکر کند، بنویسد یا خلق کند. هوش مصنوعی باید ایده‌ها را تقویت کند نه تولید کامل. نوشتن: از او بخواهید طرح کلی انشا یا داستانش را خودش آماده کند، بعد از هوش مصنوعی برای بهتر شدنش استفاده کند. هنر و طراحی: ابتدا خودش ایده‌اش را طراحی کند، بعد سراغ آزمایش با تصاویر هوش مصنوعی برود. حل مسئله: از او بخواهید چند راه‌حل مختلف ارائه دهد، بعد پاسخ‌های هوش مصنوعی را بررسی کند. این تمرین‌ها به کودکان کمک می‌کند تا ذهنی خلاق، تحلیلی و مستقل داشته باشند مهارت‌هایی که آینده به آن‌ها نیاز دارد. این کار باعث تقویت اعتمادبه‌نفس در توانایی‌های خلاقانه فرزندتان می‌شود.

۳. تمرکز بر فرایند به‌جای کمال‌گرایی:

هوش مصنوعی نتایج فوری ارائه می‌دهد، اما خلاقیت واقعی از دلِ آزمون و خطا بیرون می‌آید. به فرزندانتان کمک کنید بفهمند که اشتباهات، موتور نوآوری هستند. تلاش را جشن بگیرید، نه فقط نتیجه را. اصالت و ریسک‌پذیری را تحسین کنید، نه صرفاً درستی و دقت را. چالش‌های باز بگذارید. مثال: «بازی جدید اختراع کن» به جای «به این سوال جواب بده». از مسائل واقعی استفاده کنید. آن‌ها را تشویق به پروژه‌های دست‌ساز، حل پازل، و جلسات طوفان فکری کنید. تلاش برای خلق چیزی اصیل، همان چیزی است که در کودک تاب‌آوری و نوآوری ایجاد می‌کند.

۴. برای استفاده از هوش مصنوعی مرز بگذارید:

درست مثل استفاده از هرچیزی، استفاده از هوش مصنوعی هم باید محدود باشد. هرچند می‌تواند ابزار مفیدی باشد، اما استفاده بیش‌ازحد از آن به تفکر مستقل آسیب می‌زند. استفاده از هوش مصنوعی برای تکالیف مدرسه را محدود کنید. از آن‌ها بخواهید انشای خود را ابتدا خودشان بنویسند و بعد برای بهتر شدن، از هوش مصنوعی کمک بگیرند. خلاقیت آفلاین را تشویق کنید. هر روز زمانی برای نوشتن، نقاشی، یا کارهای دستی اختصاص دهید. خروجی‌های هوش مصنوعی را بررسی کنید. تعادل بین استفاده از هوش مصنوعی و کار مستقل، تضمین می‌کند که کودک کنترل خلاقیت خودش را در دست دارد.

۵. با الگو بودن، تفکر خلاق را آموزش دهید:

کودکان با تماشا کردن یاد می‌گیرند. اگر ببینند والدین دائماً در حال حل مسئله، ایده‌پردازی و پرسیدن سؤال‌های کنجکاوانه هستند، آن‌ها هم همین مسیر را دنبال خواهند کرد. سوال‌های کنجکاوانه را با صدای بلند مطرح کنید. مثلاً: «واقعاً چرا برگ درخت‌ها تو پاییز تغییر رنگ می‌دهد؟» خودتان هم به سراغ سرگرمی‌های خلاقانه بروید. نوشتن، نقاشی، کاردستی. اجازه دهید کودکتان شما را در حال خلق کردن ببیند. حس کنجکاوی را در آن‌ها پرورش دهید. یادشان دهید که «چرا» بپرسند و چیزهای بدیهی را به چالش بکشند.

هدف ما این است که از هوش مصنوعی به‌عنوان یک ابزار یادگیری بهره ببریم، نه جایگزینی برای خلاقیت انسانی و تفکر مستقل. با این رویکرد، اطمینان حاصل می‌کنیم که دانش‌آموزان مهارت‌هایی مانند حل مسئله را یاد می‌گیرند مهارت‌هایی که در دنیای آینده حیاتی هستند. هوش مصنوعی آمده که بماند، اما خلاقیت مهارتی‌ست که باید پرورش داده شود. هرچه بیشتر تفکر مستقل را تقویت کنیم، فرزندانمان بهتر آماده می‌شوند نه فقط برای بقا در دنیای پر از هوش مصنوعی، بلکه برای رهبری آن.

رئیس مرکز راهبری ستادهای معاونت علمی گفت:برای حمایت از شرکتهای فعال در حوزه هوش مصنوعی،حدود ۸.۵ میلیارد تومان یارانه پردازشی در فاز نخست و در فاز دوم رقمی بین ۵ تا ۶ میلیارد تومان پرداخت شد.

به گزارش خبرنگار مهر، عبدالحسن بهرامی رئیس مرکز راهبری ستادهای توسعه اقتصاد دانش‌بنیان معاونت علمی، فناوری و اقتصاد دانش‌بنیان ریاست‌جمهوری در نشست خبری خود که امروز در محل معاونت علمی برگزار شد، با اشاره به افزایش تعداد ستادهای توسعه اقتصاد دانش‌بنیان به ۱۰ ستاد گفت: از ابتدای سال جاری و با تصویب اسناد توسعه ستاد توسعه امنیت سایبری و ستاد هوش مصنوعی در دولت، تعداد ستادهای فعال در حوزه توسعه اقتصاد دانش‌بنیان افزایش یافته و به ۱۰ ستاد خواهد رسید.

۲ ستاد هوش مصنوعی و توسعه امنیت سایبری به معاونت علمی اضافه شد

وی در تشریح ستادهای فعال، به ستادهای آب، محیط زیست، هوافضا، شهرسازی، داده، مواد و ساخت پیشرفته، ماشین‌آلات و تجهیزات صنعتی، پیشران مردمی‌سازی، اقتصاد دیجیتال و اتصال‌پذیری، سایبری، هوش مصنوعی، اپتیک و فوتونیک، و کشاورزی اشاره کرد و افزود: مرکز راهبری، وظیفه پشتیبانی از این ستادها را بر عهده دارد.

بهرامی با اشاره به مصوبه دولت در خصوص تشکیل ستاد هوش مصنوعی اظهار داشت: این ستاد با معرفی دبیر از سوی معاون علمی رئیس‌جمهور و با تأیید معاون اول ریاست‌جمهوری، به‌زودی فعالیت خود را آغاز می‌کند.

وی افزود: ستادهای توسعه امنیت سایبری(افتا) و هوش مصنوعی از نظر ساختار، دارای ویژگی متمایز هستند زیرا به‌طور مستقیم مورد تصویب دولت قرار گرفته‌اند.

رئیس مرکز راهبری ستادهای توسعه اقتصاد دانش‌بنیان معاونت علمی، فناوری و اقتصاد دانش‌بنیان ریاست‌جمهوری در ادامه به سه مأموریت اصلی این مرکز اشاره کرد و گفت: رصد، پایش و ارزیابی عملکرد ستادهای دانش‌بنیان، رسوخ فناوری در زنجیره‌های ارزش اولویت‌دار اقتصاد دانش‌بنیان، و توانمندسازی و توسعه بازار فناوری و نوآوری از جمله اهداف راهبردی ما در این مرکز هستند.

وی تأکید کرد: هدف ما ایجاد هم‌افزایی، همگرایی و پیشبرد منسجم برنامه‌های کلان در حوزه اقتصاد دانش‌بنیان است.

طراحی داشبورد نظارتی برای پایش عملکرد ستادهای توسعه اقتصاد دانش‌بنیان

رئیس مرکز راهبری ستادهای توسعه اقتصاد دانش‌بنیان معاونت علمی، فناوری و اقتصاد دانش‌بنیان ریاست‌جمهوری با اشاره به برنامه‌های نظارتی و اجرایی این مرکز، از طراحی داشبورد نظارتی برای پایش دقیق‌تر عملکرد ستادها و پیشرفت پروژه‌ها خبر داد. و گفت: در اواخر سال گذشته، به‌منظور ارتقای کیفیت رصد عملکرد ستادها و پیگیری میزان تحقق برنامه‌ها، سامانه‌ای با داشبورد نظارتی تعریف شد. این داشبورد بر اساس برنامه‌هایی طراحی شده که ستادها برای سال ۱۴۰۳ پیشنهاد دادند و پس از بررسی و هماهنگی با معاون سیاست‌گذاری و توسعه و تأیید مقام عالی معاونت علمی، به تصویب رسید.

وی افزود: برای اجرای اثربخش این برنامه‌ها، لازم بود یک نظام مشخص طراحی شود تا امکان پیگیری دقیق‌تر اقدامات و راهبردهای مصوب فراهم گردد.

رئیس مرکز راهبری ستادها همچنین با اشاره به مأموریت توانمندسازی، نوآوری و توسعه بازار فناوری، از تلاش برای ایجاد ارتباط ارگانیک میان صنایع بزرگ، هلدینگ‌ها، سازمان‌های توسعه‌ای و شرکت‌های دانش‌بنیان خبر داد.

وی اظهار داشت: در نیمه دوم سال گذشته، به هم‌رسانی بین شرکت‌های دانش‌بنیان و صنایع بزرگ منجر به تعریف پروژه‌هایی در حوزه تولید بار اول و خصوصی‌سازی شد که ارزش بالایی برای اقتصاد دانش‌بنیان کشور ایجاد کرده است. این پروژه‌ها با بهره‌گیری از ابزار اعتبار مالیاتی برای صنایع و از سوی معاونت علمی طراحی و اجرا شده‌اند.

بهرامی همچنین از اجرای برنامه‌های ویژه در حوزه رسوخ فناوری در زنجیره‌های ارزش اولویت‌دار مانند معدن و پتروشیمی خبر داد و گفت: در تلاش هستیم اقدامات مؤثری را در این دو حوزه به سرانجام برسانیم.

وی در ادامه با اشاره به برنامه‌های موضوع‌محور مرکز راهبری ستادها افزود: در کنار فعالیت‌های ستادی، چند برنامه محوری نیز پیگیری شده است که از جمله آن می‌توان به نمایشگاه ایران ساخت اشاره کرد. سال گذشته دوازدهمین دوره این نمایشگاه برگزار شد و امسال نیز سیزدهمین دوره آن در دستور کار قرار دارد.

وی افزود: از دیگر برنامه‌های موضوعی مرکز می‌توان به کانون‌های هماهنگی دانشگاه آزاد اشاره کرد که با هدف انتقال جریان نوآوری به بخش‌های اقتصادی و افزایش بهره‌وری طراحی شده‌اند. برنامه توسعه ماشین‌آلات صنعتی نیز با هدف نوسازی تجهیزات تولید و جلوگیری از خروج ارز، در چارچوب تکالیف ماده ۳ قانون جهش تولید دانش‌بنیان در حال اجراست.

به گفته بهرامی، این اقدامات در راستای تحقق اقتصاد دانش‌بنیان مقاوم و مستقل، با تکیه بر توان داخلی و حمایت از شرکت‌های فناور ایرانی دنبال می‌شود.
 

ارائه تسهیلات تجاری‌سازی به واحدهای فناور

رئیس مرکز راهبری ستادهای توسعه اقتصاد دانش‌بنیان همچنین از اجرای یک برنامه ویژه در حوزه حمایت از تجاری‌سازی دانش بنیان ها و واحدهای فناور خبر داد و گفت: یکی از برنامه‌هایی که به‌صورت ویژه در دستور کار قرار گرفته، ارائه تسهیلات تجاری‌سازی به واحدهای فناور است؛ واحدهایی که یا مستعد دانش‌بنیانی هستند یا در حوزه‌های تخصصی اقتصادی متناسب با اولویت‌های منطقه‌ای فعالیت دارند.

به گفته وی، این برنامه در سال‌های گذشته نیز اجرا شده اما در سال جاری با هدف به‌روزرسانی و ارتقای کارآمدی، بازطراحی شده و با شرایط جدید در حال پیگیری است.

بهرامی افزود: سقف این تسهیلات در حال حاضر یک میلیارد تومان در نظر گرفته شده که رقم بالایی محسوب نمی‌شود، اما با هدف اثرگذاری در فرآیند تبدیل واحدهای فناور به شرکت‌های دانش‌بنیان و تسهیل رشد آن‌ها طراحی شده است. این تسهیلات به شرکت‌هایی اعطا می‌شود که دارای قرارداد و مشتری مشخص هستند، و در صورت اجرای پروژه، می‌توانند یکی از مسائل کلیدی حوزه فعالیت خود را حل کنند و مسیر دانش‌بنیانی را با سرعت بیشتری طی کنند.

وی تأکید کرد: در چنین مواردی نقش معاونت علمی، فناوری و اقتصاد دانش‌بنیان پررنگ‌تر می‌شود و حمایت‌های لازم برای رفع گلوگاه‌ها و تسهیل فرآیند توسعه فناوری از سوی سیستم صورت می‌گیرد.

توسعه زیرساخت پردازشی برای حمایت از شرکت‌های فعال در حوزه هوش مصنوعی

رئیس مرکز راهبری ستادهای توسعه اقتصاد دانش‌بنیان با اشاره به لزوم ایجاد زیرساخت‌های پایدار و کارآمد در حوزه هوش مصنوعی، بر ضرورت حمایت هدفمند از شرکت‌های فناور و دانش‌بنیان فعال در این عرصه تأکید کرد.

دکتر بهرامی اظهار داشت: اگر می‌خواهیم در آینده و در موزه هوش مصنوعی حرفی برای گفتن داشته باشیم، باید زیرساختی مطمئن و مناسب برای فعالیت نوآوران و فناوران کشور فراهم کنیم. این خلأ در دولت قبل نیز احساس می‌شد و اگرچه برخی شرکت‌های بخش خصوصی اقدام به تأمین پردازشگر و ارائه خدمات به دانشگاه‌ها و شرکت‌ها کرده بودند، اما این خدمات پایدار و پاسخگوی نیازهای واقعی جامعه نبودند.

وی با اشاره به جلساتی که با حضور شرکت‌های دانش‌بنیان و فعالان حوزه هوش مصنوعی در سال گذشته برگزار شد، گفت: با تأکید دکتر افشین، مقرر شد برای پیشبرد برنامه‌های کلان، زیرساختی اثربخش و متمرکز طراحی و اجرا شود. تا زمان ایجاد این زیرساخت ملی، معاونت علمی متعهد شد که از شرکت‌های فعال در حوزه هوش مصنوعی از طریق یارانه خدمات پردازشی حمایت کند.

پرداخت یارانه خدمات پردازشی به شرکت های فعال در حوزه هوش مصنوعی

بهرامی ادامه داد: در سال گذشته، حمایت‌ها از شرکت های فعال در حوزه هوش مصنوعی در دو فاز انجام شد. در فاز نخست که در اسفندماه اجرایی شد، حدود ۸.۵ میلیارد تومان یارانه به شرکت ها اختصاص یافت و در فاز دوم نیز رقمی بین ۵ تا ۶ میلیارد تومان پرداخت شد. در مجموع، حدود ۳۰ شرکت دانش‌بنیان یا واحد فناور از این خدمات یارانه‌ای بهره‌مند شدند.

وی با تأکید بر لزوم پایش مستمر عملکرد پردازنده‌ها افزود: ارزیابی‌های صورت‌گرفته نشان داد که برخی پردازنده‌ها خدمات مناسبی ارائه کردند اما برخی دیگر نتوانستند متناسب با نیاز متقاضیان عمل کنند. از همین رو، ارتقاء کیفیت خدمات و تطابق آن با نیاز شرکت‌ها یکی از محورهای جدی رصد و ارزیابی ما در سال جاری خواهد بود.

به گفته رئیس مرکز راهبری ستادها، در حال حاضر حدود ۶ تا ۷ پردازنده فعال در ارائه خدمات به شرکت‌های دانش‌بنیان وجود دارد و این حمایت‌ها تا زمان تکمیل زیرساخت‌های جدید ادامه خواهد یافت.

رئیس مرکز راهبری ستادهای توسعه اقتصاد دانش‌بنیان معاونت علمی، فناوری و اقتصاد دانش‌بنیان ریاست‌جمهوری با اشاره به نقش مهم اطلاع‌رسانی در تقویت اعتماد عمومی و ارتقای جایگاه اقتصاد دانش‌بنیان، از اصحاب رسانه خواست در انعکاس دستاوردهای این حوزه همراهی بیشتری داشته باشند

۱۹۰ طرح نوآورانه و فناورانه در ستادهای معاونت علمی تعریف شد/ حمایت ۶۰۰ میلیاردی از این طرح ها

دکتر بهرامی اظهار داشت: در سال گذشته حدود ۱۹۰ طرح نوآورانه و فناورانه در قالب برنامه‌های ستادهای توسعه اقتصاد دانش‌بنیان تعریف شد که عمدتاً در حوزه‌هایی مانند توسعه فناوری، افزایش سهم ساخت داخل و جلوگیری از خام‌فروشی متمرکز بود. مجموع حمایت‌های معاونت از این طرح‌ها، رقمی در حدود ۶۰۰ میلیارد تومان را شامل می‌شود.

وی با اشاره به اینکه یکی از چالش‌های جدی در سال گذشته ضعف اطلاع‌رسانی درباره نتایج و دستاوردهای ستادها بوده، تصریح کرد: بسیاری از خروجی‌ها به‌خوبی به جامعه علمی، رسانه‌ای و مردم منتقل نشدند، در حالی که همین دستاوردها می‌توانند موجب اعتماد عمومی و اقتدار علمی کشور شوند.

به گفته بهرامی، از محل برنامه رسوخ فناوری، در سال گذشته محصولاتی با ارزش تقریبی ۳۵ میلیون دلار در قالب تولید بار اول، با مشارکت صنایع داخلی برای طراحی و اجرای پروژه ها هزینه شده است. این پروژه‌ها با هماهنگی ستادها تا مرحله بررسی در کمیته تولید بار اول پیش رفته و پس از تصویب، ابلاغیه رسمی دریافت کرده‌اند. حجم واقعی تلاش‌ها فراتر از این ارقام بوده و بخشی از پروژه‌ها هنوز در حال پیگیری برای تصویب نهایی هستند.

یک نمودار نشان می‌دهد که درصد کاربران اینترنت که از «چت‌جی‌پی‌تی » بازدید می‌کنند، در دو سال گذشته از «ویکی‌پدیا» پیشی گرفته است.

به گزارش ایسنا، داده‌هایی که توسط «شرکت GWI» در بریتانیا جمع‌آوری شده‌اند، نشان می‌دهند استفاده کاربران از «ویکی‌پدیا» در سراسر جهان کاهش یافته و به نظر می‌رسد استفاده از «چت‌جی‌پی‌تی»(ChatGPT) در کمتر از یک سال پس از راه‌اندازی در اواخر سال ۲۰۲۲، از این دانشنامه آنلاین پیشی گرفته است.

به نقل از فیوچریسم، این داده‌ها، دلیلی برای نگرانی در مورد اعتبار اطلاعاتی است که مردم به دنبال آن در اینترنت هستند. اگرچه «ویکی‌پدیا» هرگز به عنوان منبعی بی‌عیب و نقص و عاری از تعصب یا نادرستی شناخته نشده اما «هوش مصنوعی مولد»(generative AI) به دلیل توهمات و تعصبات گسترده موجود در داده‌های آموزشی خود، بیشتر غیر قابل اعتماد است. همچنین، در حالی که ویکی‌پدیا بر اساس ارجاعات برجسته ساخته شده است، سامانه‌های هوش مصنوعی مانند چت‌جی‌پی‌تی اغلب برای توضیح منبع اطلاعات خود تلاش می‌کنند و حتی منابع را جعل می‌کنند.

ویکی‌پدیا، ارتشی متشکل از بیش از ۴۹ میلیون ویرایشگر انسانی دارد که صحت ۶۴ میلیون مقاله در سراسر جهان را تضمین می‌کنند. در مقابل، هنوز مشخص نیست که «مدل‌های زبانی بزرگ»(LLM) پشتیبان چت‌جی‌پی‌تی دقیقاً با چه داده‌هایی آموزش داده شده‌اند.  با وجود این، به احتمال زیاد این سامانه حاوی داده‌هایی است که مستقیماً از ویکی‌پدیا استخراج شده‌اند.

«کریس بیر»(Chris Beer) روزنامه‌نگار ارشد داده‌ها در «GWI»، گفت: چت جی‌پی‌تی شاهد افزایش ۳۶ درصدی کاربران از سه ماهه چهارم سال ۲۰۲۳ تا سه ماهه چهارم سال ۲۰۲۴ بوده است، در حالی که سایر پلتفرم‌های آنلاین ثابت مانده‌اند یا شاهد افزایش یا کاهش درصد کمی بودند. این پلتفرم سریع‌تر از تقریباً هر پلتفرم دیگری در تاریخ، به بخش بیشتری از اینترنت دسترسی پیدا کرد.

چت‌جی‌پی‌تی که به عنوان سریع‌ترین برنامه در حال رشد در تاریخ محاسبات نامگذاری شده، به سرعت به یک پدیده جهانی تبدیل شده است. بیر گفت: بر اساس تحقیقات ما، چت‌جی‌پی‌تی در واقع در جنوب جهان محبوب‌تر است. بازارهایی که بالاترین میزان پذیرش آن را می‌بینیم شامل کنیا، هند، امارات متحده عربی و برزیل است.

با وجود این، نتیجه‌گیری قطعی برای دانشمندان در غیاب بررسی دقیق‌تر آمار واقعی استفاده کاربران، دشوار است.

سخنگوی سازمان غیرانتفاعی «ویکی‌مدیا»(Wikimedia)  که ویکی‌پدیا را اداره می‌کند، گفت: ما از اوایل سال ۲۰۲۱ هیچ کاهش قابل توجهی در ترافیک وب‌سایت‌های ویکی‌مدیا از نظر بازدید از صفحات و ترافیک خوانندگان مشاهده نکردیم و بررسی‌های ما نشان می‌دهد که بازدید از صفحات ویکی‌پدیا تقریباً ۱۵ میلیارد در ماه است.

به عبارت دیگر، این سازمان می‌گوید که ترافیک ویکی‌پدیا ثابت است. اما داده‌های GWI و دیگران نشان می‌دهد که استفاده از چت جی‌پی‌تی به سرعت از آن پیشی گرفته است.

ویکی‌پدیا در حال حاضر از نظر ترافیک در مقایسه با سایر سایت‌ها در رتبه دهم جهانی قرار دارد؛ در حالی که چت جی‌پی‌تی در حال حاضر با بیش از ۴/۵ میلیارد بازدید ماهانه در رتبه ششم قرار دارد.

بیر گفت: من فکر می‌کنم روند نزولی طولانی‌مدت برای ویکی‌پدیا عمدتاً ناشی از این است که موتورهای جستجو پاسخ‌های بدون کلیک بیشتری را اضافه می‌کنند؛ در حالی که پیشتر ممکن بود یک صفحه ویکی‌پدیا را به عنوان نتیجه نهایی نشان دهند اما اکنون احتمال بیشتری وجود دارد که یک پیش‌بینی آب و هوا یا قد یک فرد مشهور یا هر چیز دیگری را در خود گوگل ببینید.

این مطالعه نشان می‌دهد که چگونه چت جی‌پی‌تی و فناوری‌های مرتبط در عرض چند سال بسیار فراگیر شده‌اند.  دولت ترامپ در ماه گذشته، وضعیت معاف از مالیات ویکی‌پدیا را تهدید کرد و این بنیاد را متهم کرد که از طریق ادعاهای بی‌اساس درباره انتشار تبلیغات توسط این دانشنامه، قانون را نقض می‌کند.

ویکی‌مدیا در بیانیه‌ای در آن زمان اعلام کرد: ویکی‌پدیا یکی از مکان‌های آنلاین است که پاسخ نهایی اینترنت را نشان می‌دهد و بیش از ۶۵ میلیون مقاله را در خود جای داده است که برای اطلاع‌رسانی و نه متقاعد کردن، نوشته شده‌اند. چشم انداز ما جهانی است که در آن هر انسانی بتواند آزادانه در مجموع تمام دانش‌ها سهیم باشد.

جهان در آستانه مرحله‌ای تازه از تکامل وب قرار دارد؛ مرحله‌ای که در آن هوش مصنوعی و پدیده اینترنت بدون کلیک (Zero-Click Internet) در حال بازتعریف قواعد بازی هستند.

به گزارش مهر وب، از زمان تولد خود در اوایل دهه ۱۹۹۰ تاکنون، دستخوش تحولاتی بنیادین و چندمرحله‌ای بوده است. در گام نخست، وب ایستا (Static Web) تنها بستری برای نمایش اطلاعات از سوی ناشران محدود بود و مخاطبانی داشت که عمدتاً در نقش دریافت‌کننده صرف ظاهر می‌شدند.

با ظهور وب ۲.۰ در اوایل دهه ۲۰۰۰، کاربران به بازیگران فعال در فضای دیجیتال تبدیل شدند؛ تولید محتوا، تعامل در شبکه‌های اجتماعی، مشارکت در پلتفرم‌های اشتراکی و اقتصاد مبتنی بر کلیک (Click Economy) به‌تدریج شکل گرفت.

این مرحله که با رشد انفجاری ابزارهای انتشار آنلاین و گسترش زیرساخت‌های دیجیتال همراه بود، ساختاری نسبتاً پایدار برای تولید و مصرف محتوا پدید آورد.

اما اکنون، جهان در آستانه مرحله‌ای تازه از تکامل وب قرار دارد؛ مرحله‌ای که در آن هوش مصنوعی و پدیده اینترنت بدون کلیک (Zero-Click Internet) در حال بازتعریف قواعد بازی هستند. در این عصر نوین، نه‌تنها شکل تعامل کاربران با محتوای آنلاین تغییر یافته، بلکه سازوکار تولید، توزیع و حتی ارزش‌گذاری محتوا نیز دگرگون شده است. در مقطع کنونی، کاربران دیگر نیازی ندارند برای یافتن پاسخ، به منابع اولیه رجوع کنند و پاسخ‌ها توسط مدل‌های زبانی بزرگ یا موتورهای جست‌وجوی بهینه‌شده با هوش مصنوعی به‌صورت فوری و بی‌واسطه ارائه می‌شوند.

اظهارات اخیر متیو پرینس، مدیرعامل شرکت «Cloudflare»، یکی از بزرگ‌ترین ارائه‌دهندگان خدمات امنیتی و زیرساختی در فضای وب نیز مؤید ظهور بحرانی گسترده است که در آن هوش مصنوعی مدل اقتصادی وب را نابود می‌کند. این هشدار، بازتاب‌دهنده زوال تدریجی سازوکاری است که بیش از ۱۵ سال مبتنی بر پیوند میان محتوا و ترافیک ارجاعی از موتورهای جست‌وجو بوده است. در این مدل، موتورهای جست‌وجو نه‌تنها کاربران را به سمت محتوای تولیدشده هدایت می‌کردند، بلکه از طریق تبلیغات، زنجیره اقتصادی پایداری برای بسیاری از وب‌سایت‌ها فراهم می‌آوردند.

این نوشتار کوتاه با اتکا به داده‌ها و شواهد موجود، به بررسی تأثیرات گسترده توسعه فناوری هوش مصنوعی بر ساختار اقتصادی وب می‌پردازد و می‌کوشد تصویری روشن از فرصت‌ها و تهدیدهای پیش‌رو برای بازیگران حوزه محتوای دیجیتال ترسیم کند.

تحول مدل اقتصادی وب؛ از اقتصاد مبتنی بر کلیک تا اینترنت بدون کلیک

مدل اقتصادی غالب بر وب طی دهه‌های گذشته، متکی بر تبلیغات مبتنی بر کلیک بوده است. تولیدکنندگان محتوا، اعم از رسانه‌ها، وبلاگ‌نویسان و نهادهای آموزشی با بهینه‌سازی برای موتورهای جست‌وجو (SEO)، تلاش می‌کردند تا کاربران بیشتری جذب کرده و از این طریق درآمدزایی نمایند. موتورهای جست‌وجو نیز به‌عنوان واسط میان نیاز اطلاعاتی کاربر و محتوای وب، نقشی کلیدی در این سازوکار ایفا می‌کردند.

اما با ظهور شبکه‌های اجتماعی و سپس مدل‌های هوش مصنوعی مولد، این زنجیره به صورت جدی مختل شده است. در «اینترنت بدون کلیک»، کاربر پاسخ پرسش خود در صفحه نتایج گوگل را از طریق چت‌بات‌هایی مانند «ChatGPT» یا «Gemini»، بدون نیاز به مراجعه به سایت مقصد دریافت می‌کند.

طبق اظهارات پرینس، امروزه ۷۵ درصد جست‌وجوها در گوگل بدون خروج کاربر از پلتفرم پاسخ داده می‌شود. این روند کاهش چشمگیر ترافیک ارجاعی برای وب‌سایت‌ها را به همراه داشته و درآمد مستقیم آن‌ها را به شکل محسوسی کاهش داده است. اگر در گذشته، به ازای ایندکس شدن دو صفحه، یک بازدیدکننده به سایت وارد می‌شد، امروز این نسبت به ازای شش صفحه به یک بازدید کاهش یافته است.

هوش مصنوعی و بهره‌برداری از محتوا بدون پرداخت هزینه

یکی از مهم‌ترین نگرانی‌ها درباره هوش مصنوعی مولد، بهره‌برداری آن از محتوای وب در آموزش مدل‌های زبانی بدون پرداخت هزینه محتوا است. وب‌سایت‌های خبری، بلاگ‌ها، انجمن‌های تخصصی و سایر تولیدکنندگان محتوا در سال‌های اخیر بدون وجود سازوکارهای شفاف یا قراردادهای رسمی، به منابع تغذیه برای مدل‌های هوش مصنوعی بدل شده‌اند.

پرینس با اشاره به این موضوع، تأکید می‌کند که مدل‌های زبانی بزرگ با بهره‌گیری از محتوای وب آموزش می‌بینند، درحالی‌که در اغلب موارد، نه جبران مالی و نه ترافیکی برای صاحبان آن محتوا حاصل می‌شود. وی معتقد است که نتیجه این روند، کاهش انگیزه تولیدکنندگان برای تولید محتوای تازه و باکیفیت خواهد بود.

بحران رسانه‌های مستقل و تنوع اطلاعاتی

این تهدید به‌ویژه برای رسانه‌های مستقل، وب‌سایت‌های کوچک و منابع بی‌طرف اطلاعاتی بسیار نگران‌کننده است. برخلاف سازمان‌های رسانه‌ای بزرگ که ممکن است با شرکت‌های هوش مصنوعی قراردادهایی منعقد کنند، بازیگران کوچک‌تر این حوزه اغلب در حاشیه قرار می‌گیرند. از سوی دیگر، فقدان شفافیت در مورد منشأ داده‌های مورد استفاده در آموزش مدل‌ها، مسئله مالکیت معنوی را نیز بغرنج‌تر از گذشته کرده است.

به عقیده بسیاری از کارشناسان، ادامه این روند می‌تواند منجر به همگن‌سازی محتوا، کاهش تنوع دیدگاه‌ها و تقویت انحصار پلتفرم‌های بزرگ بر اطلاعات شود. وقتی اطلاعات فقط از طریق پاسخ‌های فشرده و پردازش‌شده ارائه می‌شود، فرصت کشف منابع جدید، تحلیل‌های متفاوت و گفتمان چندصدایی به حاشیه رانده می‌شود.

پاسخ صنعت فناوری و چشم‌انداز تنظیم‌گری

برخی بازیگران بزرگ حوزه فناوری همچون «OpenAI» و گوگل در واکنش به نگرانی‌های مطرح شده، اخیراً اعلام کرده‌اند که در پی همکاری با ناشران بزرگ برای پرداخت بهای محتوای مورد استفاده خود هستند. به عنوان مثال، سم آلتمن، مدیر عامل شرکت «OpenAI»، بارها صراحتاً مدعی شده است که نمی‌خواهد شرکتش تنها بهره‌بردار رایگان از محتوای وب باقی بماند.

در همین راستا، شرکت «Cloudflare» که ۸۰ درصد شرکت‌های هوش مصنوعی از خدمات آن بهره می‌برند نیز در حال بررسی راه‌حل‌هایی برای بازتعریف جریان ترافیک وب و تدوین مدل‌های اقتصادی جدید است. این راهکارها شامل ابزارهای محدودسازی خزنده‌ها، قراردادهای اشتراک درآمد و توسعه پروتکل‌های مدیریت داده می‌شوند.

از سوی دیگر، برخی فعالان نیز پیشنهاد می‌کنند که تنظیم‌گران ملی و بین‌المللی باید برای تضمین عدالت در استفاده از داده‌های وب وارد عمل شوند. این دخالت می‌تواند شامل مقررات الزام‌آور برای جبران مالی، شفاف‌سازی منشأ داده‌ها و ثبت رسمی مدل‌ها برای رعایت حقوق مالکیت معنوی باشد.

وب آینده: سازوکاری مشارکتی یا متمرکز؟

آیا وب همچنان بستری باز، مشارکتی و متنوع باقی خواهد ماند یا به قلمرویی متمرکز بدل خواهد شد که در آن تنها چند پلتفرم بزرگ، نیاز اطلاعاتی میلیاردها کاربر را پاسخ می‌دهند؟ پاسخ به این پرسش وابسته به مجموعه‌ای از تصمیمات فناورانه، اقتصادی و حقوقی است که امروز باید از سوی سیاست‌گذاران اتخاذ شوند.

در جهان امروز، همزیستی وب و هوش مصنوعی امری اجتناب‌ناپذیر است، اما این همزیستی می‌تواند همکارانه و سازنده باشد یا رقابتی و فرساینده. بسیاری از متخصصان بر این باورند که در صورتی که چارچوب‌هایی برای حمایت از تولیدکنندگان محتوا، شفافیت داده و بازتوزیع منافع ایجاد نشود، بنیان‌های دموکراتیک وب در معرض خطر خواهد بود.

جمع‌بندی

هوش مصنوعی، با تمام قابلیت‌های تحول‌آفرین خود، اکنون یکی از بزرگ‌ترین تهدیدها برای پایداری مدل اقتصادی وب به‌شمار می‌رود. ظهور اینترنت بدون کلیک، هرچند موجب تسهیل و تسریع دسترسی کاربران به اطلاعات شده، اما هم‌زمان نظام انگیزشی تولید محتوا را به‌شدت تضعیف کرده است. زمانی که کاربران پاسخ خود را مستقیماً از صفحه جست‌وجو یا یک چت‌بات دریافت می‌کنند، دیگر نیازی به کلیک بر منابع اصلی نمی‌بینند و این، همان نقطه بحرانی است که مدل درآمدزایی وب را تهدید می‌کند.

واقعیت این است که بدون بازدیدکننده، محتوایی تولید نخواهد شد و بدون محتوا، بنیان اطلاعاتی وب فرو خواهد پاشید. این زنجیره‌ی به‌هم‌پیوسته که بر پایه مشارکت تولیدکنندگان، توزیع‌کنندگان و مصرف‌کنندگان محتوا بنا شده بود، امروز به واسطه استفاده گسترده و بدون پرداخت هزینه از داده‌های عمومی برای آموزش مدل‌های زبانی دچار اختلال شده است. اگر این روند ادامه یابد، نه‌تنها تولید محتوای اصیل و باکیفیت کاهش خواهد یافت، بلکه تنوع دیدگاه‌ها و استقلال منابع اطلاعاتی نیز به‌خطر می‌افتد.

از همین روی و به منظور حفظ تنوع، استقلال و پویایی این بستر، باید توازن تازه‌ای میان بهره‌برداری از داده‌ها و حقوق مشروع تولیدکنندگان برقرار شود. این توازن مستلزم شفاف‌سازی منشأ داده‌ها، طراحی قراردادهای عادلانه با تولیدکنندگان و ایجاد نظام‌های جبران مؤثر است. در غیر این صورت، اکوسیستم وب با تمرکز بیش از حد بر چند پلتفرم بزرگ، به‌تدریج به فضایی بسته و کنترل‌شده تبدیل خواهد شد.

تحقق این هدف نیازمند هم‌افزایی واقعی میان صنعت فناوری، نهادهای قانون‌گذار، جامعه مدنی و حتی خود کاربران است؛ تحولی باید با هدف ایجاد سازوکارهایی پایدار برای تأمین حقوق همه ذی‌نفعان و نه صرفاً بهره‌برداری حداکثری از داده‌ها، طراحی شود. در نهایت، می‌توان نتیجه گرفت که آینده وب نه‌فقط به نوآوری‌های فناورانه بلکه به اراده جمعی برای حفظ ارزش‌های بنیادین این بستر وابسته است.

گروهی از نمایندگان مجلس آمریکا طی لایحه ای خواستار ممنوعیت قانونگذاری در حوزه هوش مصنوعی تا ۱۰ سال آینده شده اند اما این امر با قوانینی که ایالت ها وضع کرده اند، تضاد دارد.

به گزارش خبرگزاری مهر به نقل از رویترز، لایحه پیشنهادی نمایندگان جمهوریخواه مجلس آمریکا برای جلوگیری از وضع قوانین هوش مصنوعی تا ۱۰ سال آینده با مخالفت دادستان‌های کل کالیفرنیا، نیویورک، اوهایو و ایالت‌های دیگری که استفاده پرخطر از این فناوری را قانونمند کرده‌اند، روبرو شده است.

این ماده در لایحه کاهش مالیات دونالد ترامپ رئیس جمهور آمریکا گنجانده شده و برقوانین و مقررات هوش مصنوعی که اخیراً در چند ایالت وضع شده، حق تقدم دارد.

گروهی شامل ۴۰ دادستان کل ایالت از جمله اوهایو، تنسی، آرکانزاس، یوتا و ویرجینیا از کنگره خواسته‌اند تا این ماده را لغو کند. آنها در این باره می‌گویند: وضع تعلیقی وسیع بر تمام اقدامات ایالتی آن‌هم در حالی که کنگره نتوانسته در این حوزه اقداماتی انجام دهد، بی مسئولیتی است و مصرف کنندگان را از اقدامات محافظتی معقولانه محروم می‌کند.

دادستان کل ایالت کالیفرنیا که برجسته‌ترین شرکت‌های هوش مصنوعی از جمله اوپن ای آی، آلفابت، متا پلتفرمز و آنتروپیک در آن حضور دارند نیز نامه‌ای که برای لغو لایحه پیشنهادی نوشته شده را امضا کرده است.

کالیفرنیا در سال جاری میلادی مجموعه‌ای از قوانین را برای محدود کردن استفاده‌های خاص از هوش مصنوعی اجرا کرد. لایحه جدید در صورت وضع، قوانینی از این دست را مسدود خواهد کرد.

این ایالت هم مانند برخی دیگر استفاده از هوش مصنوعی برای تولید محتوای هرزنگاری از افراد بدون رضایت آنها را اقدامی مجرمانه اعلام کرده است. همچنین کالیفرنیا استفاده بدون اجازه از دیپ فیک ها در تبلیغات سیاسی را منع کرده و تهیه کنندگان خدمات درمانی را موظف کرده به بیماران به طور دقیق اطلاع دهند چه زمان با پزشک و چه زمان با سیستم هوش مصنوعی تعامل می‌کنند.

شبکه‌های تامین خدمات درمانی در کالیفرنیا از استفاده از سیستم‌های هوش مصنوعی به جای پزشکان برای تصمیم‌گیری در مورد ضرورت‌های پزشکی منع شده‌اند.

پیش از این نمایندگان جمهوری خواه مجلس آمریکا در یک جلسه استماع که روز سه شنبه هفته قبل برگزار شد اعلام کردند اقدام مذکور برای کمک به دولت فدرال در اجرای هوش مصنوعی که دولت برای آن ۵۰۰ میلیون دلار اختصاص داده، لازم است.

نمایندگان مجلس شورای اسلامی با تصویب کلیات طرح ملی هوش مصنوعی موافقت کردند و بنا شد این طرح به صورت دو شوری بررسی شود.

به گزارش ایرنا، نمایندگان مجلس شورای اسلامی در جلسه علنی روز یکشنبه ۲۸ اردیبهشت ۱۴۰۴ صحن مجلس کلیات طرح ملی هوش مصنوعی را با ۱۸۷ رأی موافق، ۳۳ رأی مخالف و یک رأی ممتنع از مجموع ۲۲۱ رأی ماخوذه تصویب کردند.

پس از موافقت مجلس با کلیات طرح ملی هوش مصنوعی، با تصمیم رئیس مجلس شورای اسلامی این طرح، جهت بررسی به صورت دو شوری به کمیسیون صنایع و معادن مجلس ارجاع شد.

در طرح‌های دو شوری طرح پس از تصویب کلیات به کمیسیون بازگردانده می شود و جزییات آن بار دیگر در کمیسیون تخصصی بررسی و تصویب می شود و دوباره به صحن علنی مجلس ارجاع می شود.

کاظم دلخوش نماینده دولت، در مخالفت با این طرح، گفت: این طرح دارای بار مالی است و طبق اصول قانون اساسی، دولت مسئول تدوین چنین برنامه‌هایی است.

وی افزود: لایحه‌ای در این زمینه از سوی وزارت ارتباطات آماده شده و در حال بررسی در کمیسیون‌های دولت است.

این مقام دولتی ضمن تاکید بر لایحه‌محوری، بیان کرد: اجرای طرح بدون نظر دولت می‌تواند با اصول ۵۷، ۶۰ و ۷۴ قانون اساسی مغایرت داشته باشد و احتمال رد آن توسط شورای نگهبان بالاست. دولت تا دو هفته آینده لایحه را به مجلس ارائه می‌کند.

در ادامه زهرا سعیدی سخنگوی کمیسیون صنایع و معادن مجلس شورای اسلامی، در تشریح گزارش این کمیسیون در خصوص تدوین طرح ملی هوش مصنوعی، گفت: این طرح با هدف توسعه زیست‌بوم هوش مصنوعی، تقویت زیرساخت‌ها و پاسخ به مطالبات راهبردی مقام معظم رهبری تدوین شده است.

وی افزود: این طرح به‌عنوان طرح اصلی به کمیسیون صنایع مجلس ارجاع شده بود که در چندین جلسه تخصصی با حضور مسئولان دستگاه‌های اجرایی ذی‌ربط و کارشناسان مرکز پژوهش‌های مجلس مورد بررسی قرار گرفت و نهایتاً در جلسه مورخ ۳۱ فروردین ۱۴۰۴ با اصلاح عنوان و متن، به تصویب کمیسیون رسید. اکنون گزارش آن در اجرای ماده ۱۴۳ آیین‌نامه داخلی مجلس، تقدیم صحن علنی می‌شود.

سخنگوی کمیسیون صنایع و معادن مجلس با اشاره به اهمیت و ضرورت ورود جدی به حوزه هوش مصنوعی، اظهار کرد: هوش مصنوعی موضوعی نیست که بگوییم خوب است یا بد. این فناوری یک واقعیت غیرقابل انکار است که باید آن را بپذیریم، ساختار آن را تعریف کنیم، اهداف را مشخص نماییم و خلأها را شناسایی کنیم. مزیت بزرگ جمهوری اسلامی ایران در جهان، سرمایه انسانی آن است و اگر این ظرفیت در مسیر توسعه هوش مصنوعی به‌درستی تعریف و هدایت نشود، قطعاً دچار خسارت خواهیم شد.

سعیدی خاطرنشان کرد: مطابق بند (ج) ماده ۶۵ قانون برنامه هفتم توسعه، بر تأسیس سازمان ملی هوش مصنوعی زیر نظر رئیس‌جمهور، توسعه زیست‌بوم هوش مصنوعی قابل اعتماد، تأمین زیرساخت‌های دانشی، اخلاقی، اجتماعی و حقوقی و افزایش آگاهی عمومی در این زمینه تأکید شده است. این موارد، ستون‌های اصلی این طرح ملی را شکل می‌دهند.

همچنین در ادامه زهرا سعیدی در پاسخ به اظهارات کاظم دلخوش، نماینده دولت، درباره مخالفت با طرح ملی هوش مصنوعی گفت: مجلس بیش از همه به اصل تفکیک قوا پایبند است. ما نمایندگان با شناخت از مسئولیت خود و پس از ساعت‌ها کار کارشناسی و همراهی دستگاه‌های مختلف، این طرح را تدوین کرده‌ایم. اگر در جایی تعلل دولت را ببینیم، مجلس ناچار به ورود خواهد شد.

وی افزود: همان‌گونه که رئیس مجلس از ابتدا بر دشوار بودن این مسیر تأکید داشت، ما به‌جای توقف، پیشنهاد کردیم طرح به کمیسیون تخصصی برود تا نظرات دولت و همه دستگاه‌ها نیز لحاظ شود. امروز وقت آن است که برای موضوع مهمی مانند هوش مصنوعی تصمیم جدی بگیریم. این فناوری می‌تواند به بهبود تصمیم‌گیری‌ها در حوزه‌هایی نظیر ازدواج و مهارت‌های فردی کمک کند.

سعیدی با رد ایراد اصل ۷۵ قانون اساسی، تصریح کرد: طرح در چارچوب مصوبات شورای عالی انقلاب فرهنگی تدوین شده و مغایرت قانونی ندارد. اگر دولت در اجرای برنامه هفتم توسعه تأخیر داشته باشد، مجلس به وظیفه نظارتی خود عمل خواهد کرد.

وی خطاب به نمایندگان خواستار رأی مثبت به طرح شد و تأکید کرد: ما با دولت تقابلی نداریم؛ دولت و مجلس در کنار هم مکمل مردم هستند.

در ادامه کلیپی از سخنان رهبر انقلاب درباره ضرورت هوش مصنوعی پخش شد.

حجت الاسلام جواد نیک بین نماینده مردم بردسکن و کاشمر در مجلس در موافقت با این طرح، گفت: دولت بر اساس قانون برنامه موظف به ارائه لایحه طی ۶ ماه درباره هوش مصنوعی بود اما تاکنون اقدامی صورت نگرفت و مجلس در این مسیر گام برداشته است. ما به یک سازمان عریض و طویل اما دقیق و عمیق برای هوش مصنوعی نیازمندیم.

احمد بیگدلی نماینده مردم خدابنده در مجلس در مخالفت با کلیات طرح ملی هوش مصنوعی گفت: هیچ‌کس نمی‌تواند منکر ضرورت هوش مصنوعی در جهان امروز شود و تردیدی نیست که این فناوری یکی از نیازهای مهم جامعه ماست، اما مخالفت بنده به دلیل ملاحظات قانونی و اجرایی است و طبق اصل ۷۵ قانون اساسی، طرح‌هایی که بار مالی دارند در صورت عدم موافقت دولت قابل بررسی نیستند.

وی یادآور شد: طبق ماده ۱۲ این طرح، سازمان برنامه و بودجه مکلف شده است که مبلغ ۱۰ هزار میلیارد تومان به صندوق ملی توسعه هوش مصنوعی اختصاص دهد و سؤال اینجاست که این مبلغ قرار است از کجا تأمین شود و اگر دولت فردا این بار مالی را نپذیرد، مجلس با اتلاف وقت مواجه خواهد شد.

با تصمیم هیئت دولت، «ستاد توسعه فناوری و کاربردی هوش مصنوعی» ذیل ریاست‌جمهوری تشکیل شد.
به گزارش تسنیم بر اساس مصوبه جدید، تمامی امور مرتبط با سیاست‌گذاری، هماهنگی و راهبری کلان هوش مصنوعی در کشور به ستاد هوش مصنوعی سپرده شده و تشکیل سازمان ملی هوش مصنوعی فعلاً کنار گذاشته شده است.

بر اساس شنیده‌های این خبرنگار با تصمیم امروز هیئت دولت، «ستاد توسعه فناوری و کاربردی هوش مصنوعی» ذیل ریاست‌جمهوری تشکیل شد.

بر اساس مصوبه جدید، تمامی امور مرتبط با سیاست‌گذاری، هماهنگی و راهبری کلان هوش مصنوعی در کشور به این ستاد سپرده می‌شود و تشکیل سازمان مستقل هوش مصنوعی فعلاً کنار گذاشته شده است.

دبیرخانه این ستاد در معاونت علمی و فناوری مستقر خواهد بود و ریاست آن با حکم رئیس‌جمهور و به پیشنهاد معاون علمی تعیین می‌شود.

متن کامل مصوبه قرار است شنبه آینده ابلاغ شود و جزئیات ساختار و وظایف ستاد به‌صورت رسمی اعلام خواهد شد.

تحلیلی بر موقعیت فناوری‌های نوین

بر اساس این گزارش، ایران در شاخص آمادگی برای فناوری‌های مرزی (Frontier Technologies Readiness Index)، در رتبه ۷۲ میان ۱۶۶ کشور جهان قرار دارد. این رتبه نشان‌دهنده وضعیت نسبی ایران در استفاده از فناوری‌هایی مانند اینترنت اشیا، بلاک‌چین، و داده‌های بزرگ است. در حالی که این رتبه‌بندی تنها یک پله افزایش نسبت به سال گذشته داشته، نیاز به توجه بیشتری به چالش‌ها و فرصت‌های این حوزه وجود دارد.

تعریف فناوری‌های مرزی

فناوری‌های مرزی به فناوری‌هایی اطلاق می‌شود که در مراحل ابتدایی توسعه خود قرار دارند و توانایی ایجاد تغییرات عمده در صنایع و زندگی اجتماعی را دارند. هوش مصنوعی، پهپادها، چاپ سه‌بعدی، ویرایش ژن، نانوتکنولوژی، و فناوری‌های انرژی پاک تنها نمونه‌هایی از این فناوری‌ها هستند که در گزارش سازمان ملل به آن‌ها اشاره شده است.

نقشه وضعیت ایران در میان همسایگان

با وجود تلاش‌هایی که ایران در حوزه فناوری انجام داده است، جایگاه آن در مقایسه با کشورهای منطقه مانند ترکیه (رتبه ۴۳) و امارات متحده عربی (رتبه ۳۱) پایین‌تر محسوب می‌شود. با این حال، رتبه قابل توجه ۳۵ جهانی ایران در تحقیق و توسعه (R&D) امیدواری‌هایی را برای پیشرفت‌های بیشتر ایجاد می‌کند.

شاخص‌های کلیدی و عملکرد ایران

شاخص آمادگی برای فناوری‌های مرزی سازمان ملل بر پنج حوزه اصلی متمرکز است: فناوری اطلاعات و ارتباطات (ICT)، مهارت‌ها، تحقیق و توسعه، صنعت، و مالی. در این بخش‌ها، عملکرد ایران چنین ارزیابی شده است:

• تحقیق و توسعه (R&D): رتبه ۳۵، نشان از سرمایه‌گذاری در پژوهش‌های نوآورانه.

• مهارت‌ها (Skills): رتبه ۸۲، که نیازمند توجه به آموزش تخصصی است.
• فناوری اطلاعات و ارتباطات (ICT): رتبه ۹۴، نمایانگر ضعف در زیرساخت‌های اینترنتی.
• صنعت (Industry): رتبه ۹۴، نشان‌دهنده فاصله موجود در به‌کارگیری فناوری در صنایع.
• مالی (Finance): رتبه ۵۶، بیانگر محدودیت‌هایی در دسترسی به منابع مالی.

هوش مصنوعی، حوزه‌ای با ظرفیت بالا

یکی از بخش‌های مهم در گزارش آنکتاد، بحث پیرامون هوش مصنوعی است. ایران در این زمینه نشان داده که در بخش‌هایی مانند دسترسی به داده‌ها و پهنای باند ثابت عملکرد خوبی داشته، اما توسعه زیرساخت‌های پیشرفته‌تر همچنان مورد نیاز است.

مطابق این گزارش، ایران در زمینه داده‌های هوش مصنوعی موقعیتی پیشرو دارد، اما شکاف‌های مهمی در زمینه مهارت‌های پیشرفته و نیروی کار ماهر وجود دارد.

چالش‌ها و مسیر پیشرفت

مواردی مانند محدودیت‌های اقتصادی، کمبود نیروهای متخصص، و نبود زیرساخت‌های دیجیتال پیشرفته از جمله موانعی هستند که بر سرعت پیشرفت ایران در این حوزه تأثیرگذار بوده‌اند. با این حال، ظرفیت ایران در تحقیق و دسترسی به داده‌ها فرصتی فراهم می‌کند تا از طریق همکاری‌های بین‌المللی و تقویت سرمایه‌گذاری، به جایگاه بهتری دست یابد.

اقدامات ضروری برای تحول

برای تبدیل شدن به یک بازیگر منطقه‌ای در زمینه فناوری‌های پیشرفته، ایران باید سرمایه‌گذاری‌های کلیدی انجام دهد:

• بهبود زیرساخت‌های دیجیتال، به‌ویژه در زمینه اینترنت پرسرعت و فناوری ۵G.
• توسعه آموزش مهارت‌های تخصصی در حوزه‌هایی مانند هوش مصنوعی و بلاک‌چین.
• حمایت از استارتاپ‌ها و شرکت‌های فناوری.
• گسترش تعاملات بین‌المللی برای انتقال دانش.

پیام پایانی گزارش آنکتاد

همان‌طور که این گزارش جهانی نشان داده، خطر عقب‌ماندن کشورهای در حال توسعه از کشورهای پیشرفته در پذیرش فناوری‌های نوظهور جدی است. برای ایران، این گزارش باید مانند یک نقشه راه عمل کند تا با ایجاد تغییرات اساسی در زیرساخت‌ها و ارتقای سطح مهارت‌ها به جایگاه مطلوب‌تری برسد.

در شرایطی که هوش‌مصنوعی در سطح جهان به‌عنوان موتور محرک نوآوری، تحول اقتصادی و ارتقای کارایی دولت‌ها شناخته می‌شود، ایران نیز با رویکردی آینده‌نگرانه وارد میدان شده است. بر اساس اعلام رسمی معاونت علمی، فناوری و اقتصاد دانش‌بنیان ریاست‌جمهوری، پروژه «دستیارهوش مصنوعی رئیس‌جمهور»به‌عنوان نخستین نمونه ازبه‌کارگیری رسمی هوش‌مصنوعی در سطح حاکمیتی جمهوری اسلامی ایران، آغاز شده و مراحل طراحی اولیه آن در جریان است.این پروژه با بهره‌گیری از ظرفیت دانشگاه‌های کشور، شرکت‌های دانش‌بنیان و متخصصان حوزه هوش‌مصنوعی، قرار است یک سیستم گفت‌وگومحورمبتنی برمدل‌های زبانی بزرگ(LLM)طراحی‌کندکه‌بتواند رئیس‌جمهور‌ودیگر مقامات‌ارشدرادر تصمیم‌گیری‌های دقیق‌تر، سریع‌تر و جامع‌تر یاری رساند. به بیان ساده‌تر، این ابزار مانند مشاور دیجیتالی عمل خواهد کرد که با دسترسی به حجم عظیمی از داده‌های حکومتی و عمومی، تحلیل‌ها و پیشنهادات کاربردی ارائه می‌دهد.
     
کاربردهای چندگانه و چشم‌انداز حکمرانی هوشمند
برنامه‌ریزی برای این پروژه تنها به ارائه پاسخ‌های هوشمند خلاصه نمی‌شود. تیم طراحی دستیار هوش‌مصنوعی قصد دارد سیستمی توسعه دهد که قادر به تحلیل روندهای سیاسی، اقتصادی، فرهنگی و اجتماعی کشور بر اساس داده‌های واقعی، تشخیص ناهنجاری‌ها، ارائه پیش‌بینی‌های کوتاه‌مدت و میان‌مدت، استخراج سیاست‌های مؤثر از بین گزارش‌های متنوع و حتی پایش عملکرد دستگاه‌ها باشد. چنین قابلیتی می‌تواند تحولی اساسی در فرآیند تصمیم‌سازی دولت ایجاد کند. از سوی دیگر اهداف این پروژه، ارتقای شفافیت و کاهش بروکراسی اداری در نهادهای حکومتی است. چنانچه این سیستم به‌درستی طراحی و استقرار یابد، می‌تواند وظایف پیچیده‌ای چون جمع‌آوری و یکپارچه‌سازی داده‌های بین‌دستگاهی، بررسی صحت اطلاعات و پیشنهاد سیاست‌های جایگزین را انجام دهد؛ وظایفی که امروزه زمان‌بر، پرهزینه و بعضا ناکارآمد هستند.
     
نقش وزارتخانه‌ها و نهادهای اجرایی
یکی ازشروط موفقیت پروژه،مشارکت مؤثروهماهنگ نهادهای مختلف اجرایی است. دراین میان،وزارت ارتباطات و فناوری اطلاعات، وزارت علوم، تحقیقات وفناوری،مرکز آمار ایران،سازمان فناوری اطلاعات ایران و وزارت اطلاعات از مهم‌ترین نهادهای دخیل در این پروژه هستند. وزارتخانه‌ها موظفند داده‌های به‌روز،استاندارد و قابل پردازش خود را در اختیار تیم‌های توسعه قراردهند.بدون داده،هیچ دستیارهوشمندی‌نمی‌تواند تحلیل‌درستی ارائه‌دهد.به‌همین‌دلیل،الزام‌به شفاف‌سازی، به‌روزرسانی و دیجیتالی‌سازی پایگاه‌های داده‌ای، اولین گام همکاری نهادها با این پروژه خواهد بود.همچنین، وظایف مرتبط با حفظ امنیت اطلاعات، رمزنگاری داده‌ها، مدیریت دسترسی و رعایت الزامات مربوط به حریم خصوصی برعهده سازمان‌های امنیتی و فناوری اطلاعات قرار خواهد گرفت. بدون رعایت این ملاحظات، اعتماد به چنین سیستم‌هایی ممکن نخواهد بود.
     
سه گام اجرا
بر اساس برآوردهای اولیه، نسخه آزمایشی دستیار هوش مصنوعی رئیس‌جمهور طی شش ماه آینده آماده خواهد شد. این نسخه، شامل هسته اصلی سیستم زبانی، سامانه مدیریت دانش و تحلیل اولیه داده‌ها خواهد بود. در صورت موفقیت این فاز، نسخه رسمی در نیمه دوم سال۱۴۰۴ رونمایی خواهد شد.مراحل توسعه این پروژه در سه فاز تحلیل نیازها و طراحی اولیه سیستم، آزمایش و ارزیابی عملکردمدل در سناریوهای واقعی وادغام کامل باسامانه‌های اطلاعاتی دولت و نهادهای تصمیم‌گیر تعریف شده است.پیش‌بینی شده که پس از مرحله نهایی، این دستیار هوشمند به سایر مسئولان ارشد کشور، وزرا و حتی بدنه کارشناسی نهادها نیز توسعه یابد. نسخه‌های سفارشی‌شده این مدل می‌توانند در وزارتخانه‌هایی مانند اقتصاد، بهداشت، آموزش و سایر نهادهای مرتبط به‌کار گرفته شوند تا دستیارهای تخصصی و اختصاصی ارائه دهند.
     
تحولی در حکمرانی داده‌محور
پروژه دستیار هوش مصنوعی رئیس‌جمهور، درصورتی‌که به‌درستی اجرا شود، می‌تواند ایران را وارد مرحله جدیدی از حکمرانی هوشمند کند؛ حکمرانی‌ای که به‌جای تکیه صرف بر قضاوت انسانی، از پشتوانه عظیم داده و پردازش هوشمند آن برای تصمیم‌سازی بهره می‌برد.از طرفی، این پروژه می‌تواند به افزایش اعتماد عمومی به کارآمدی نظام حکمرانی منجر شود، چراکه شفافیت، سرعت واکنش، مستندسازی تصمیم‌هاوکاهش خطای انسانی ازجمله نتایج جانبی آن خواهد بود. همچنین، با بومی‌سازی این فناوری، ایران در مسیر استقلال دیجیتال و کاهش وابستگی به پلتفرم‌های خارجی قدم برمی‌دارد.پروژه «دستیار هوش‌مصنوعی رئیس‌جمهور» نماد جدی شدن تحول دیجیتال در ساختار سیاسی و اجرایی ایران است. مشارکت گسترده وزارتخانه‌ها، حمایت نهادهای علمی و بهره‌گیری از ظرفیت شرکت‌های فناور، سنگ‌بنای موفقیت این طرح خواهد بود. در صورت اجرای دقیق و علمی، این پروژه می‌تواند الگویی برای سایر کشورهای منطقه و حتی جهان در مسیر استفاده از هوش مصنوعی در خدمت حکمرانی بهتر باشد. (منبع:جام جم)

مدل‌های هوش مصنوعی مدت‌هاست با پدیده‌ای به‌نام هذیان (hallucination) دست‌وپنجه نرم می‌کنند؛ اصطلاحی ظاهراً زیبا که برای توصیف ادعاهای ساختگی و نادرستی به کار می‌رود؛ دقیقاً همان چیزی که مدل‌های زبانی بزرگ، آن‌ها را به‌عنوان واقعیت به افراد ارائه می‌دهند.

به گزارش نیویورک‌تایمز، برخلاف انتظارها، با پیشرفت مدل‌ها این پدیده در حال وخیم‌تر شدن است و به نظر می‌رسد که مدل‌های جدید که با هدف استدلال و تحلیل پیش از پاسخ طراحی‌شده‌اند، بیشتر از نسل‌های پیشین دچار خطا و توهم می‌شوند.

این موضوع در حالی مطرح می‌شود که تعداد کاربران چت‌بات‌هایی مثل ChatGPT روزبه‌روز در حال افزایش است و کاربران این چت‌بات‌ها را برای طیف گسترده‌ای از مسائل به کار می‌گیرند. اما اگر این چت‌بات‌ها اطلاعات نادرست و گمراه‌کننده ارائه دهند، کاربران نه‌تنها اعتبار خود را به خطر می‌اندازند، بلکه ممکن است با عواقب جدی‌تر و خطرناک‌تری مواجه شوند.

نگران‌کننده‌تر اینجاست که شرکت‌های فعال در حوزه AI هنوز نتوانسته‌اند دلایل دقیق بروز این خطاها را کشف کنند و به نظر می‌رسد که حتی سازندگان این فناوری نیز به‌طور کامل از نحوه عملکرد آن سر درنیاورده‌اند.

این روند نگران‌کننده، فرضیه رایج در صنعت مبنی بر اینکه مدل‌های بزرگ‌تر باید دقیق‌تر و قابل‌اعتمادتر باشند را زیر سؤال برده و این در حالی است که شرکت‌های مختلف ده‌ها میلیارد دلار برای توسعه زیرساخت‌های مدل‌های پیشرفته‌تر سرمایه‌گذاری می‌کنند.

برخی کارشناسان بر این باورند که هذیان، ویژگی ذاتی این فناوری است و احتمالاً هرگز به‌طور کامل از بین نخواهد رفت. عمر عواض‌الله، مدیرعامل استارت‌آپ Vectara در گفت‌وگو با نیویورک‌تایمز گفت: «باوجود همه تلاش‌ها، آن‌ها همیشه هذیان خواهند گفت. این ماجرا هرگز از بین نخواهد رفت.»

گستردگی این مشکل به حدی است که شرکت‌هایی به‌طور ویژه، برای کمک به دیگر کسب‌وکارها در مقابله با این پدیده راه‌اندازی شده‌اند.

پراتیک ورما، یکی از بنیان‌گذاران شرکت مشاوره‌ای Okahu دراین‌باره توضیح داد: «اگر با این خطاها به‌درستی برخورد نشود، عملاً ارزش سیستم‌های هوش مصنوعی از بین خواهد رفت.»

افزایش درصد هذیان‌گویی‌ها

در همین راستا، گزارش‌ها حاکی از آن است که مدل‌های استدلالی جدید OpenAI با نام‌های o۳ و o۴-mini که اخیراً معرفی شده‌اند، بیش از نسخه‌های قبلی دچار هذیان‌گویی می‌شوند. مدل o۴-mini در تست‌های داخلی OpenAI تا ۴۸% موارد دچار هذیان بود و مدل o۳ نیز با نرخ ٪۳۳، تقریباً دو برابر نسخه‌های قبلی دچار خطا بوده است. شرکت‌هایی مثل گوگل و DeepSeek نیز در مدل‌هایشان با مشکلات مشابهی مواجه‌اند که همین نشان می‌دهد که این یک چالش فراگیر در صنعت است.

کارشناسان هشدار داده‌اند که با بزرگ‌تر شدن مدل‌ها، مزایای آن‌ها نسبت به نسل قبلی به‌طور چشمگیری کاهش می‌یابد. از سوی دیگر، با کاهش داده‌های واقعی برای آموزش، شرکت‌ها به تولید داده‌های مصنوعی روی آورده‌اند که می‌تواند پیامدهای فاجعه‌باری به همراه داشته باشد.

به‌طور خلاصه، باوجود تلاش‌های فراوان، هذیان‌گویی‌ها گسترده‌تر از همیشه شده‌اند و فعلاً به نظر نمی‌رسد که مسیر توسعه مدل‌ها رو به اصلاح باشد.

کاربران ChatGPT دچار توهمات عجیبی شده‌اند

از سوی دیگر گزارشی در همین رابطه منتشرشده که همین هذیان‌گویی‌ها ممکن است کاربران چت بات ها را با خطرات مختلفی مواجه کند.

در بخشی از این گزارش می‌خوانیم: فناوری شرکت OpenAI ممکن است شمار زیادی از کاربرانش را به وضعیتی خطرناک به‌نام "روان‌پریشی ناشی از چت‌بات" (ChatGPT-induced psychosis) سوق داده باشد.

به‌عنوان ‌مثال کاربران شبکه اجتماعی Reddit روایت‌هایی از نزدیکان‌شان به اشتراک گذاشته‌اند که در پی تعامل با چت‌بات‌ها، به باورهای عجیب و هذیانی گرایش پیدا کرده‌اند که در مورد برخی، ترکیبی از شور عرفانی و خیالات ماوراءالطبیعه است که گاه به فروپاشی کامل سلامت روان منجر شده است.

دوستان و اعضای خانواده این افراد با نگرانی شاهد آن هستند که عزیزانشان ادعا می‌کنند برای انجام مأموریت‌های مقدس از سوی هوش مصنوعی آگاه یا نیروی کیهانی غیرواقعی برگزیده شده‌اند و این‌طور به نظر می‌رسد که این چت‌بات‌ها صرفاً با تقلید از تمایلات کاربران، بیماری‌های روانی موجود آن‌ها را در مقیاسی گسترده و بدون نظارت تخصصی یا قانونی تشدید کرده‌اند.

در یکی از این موارد، زنی ۴۱ ساله که در یک سازمان غیرانتفاعی مشغول به کار است اعلام کرده که ازدواجش به دلیل وسواس توهم‌آمیز همسرش به ChatGPT به پایان رسیده. طبق گفته او، در جلسه حضوری دادگاه طلاق، همسرش نظریه عجیبی درباره وجود صابون در مواد غذایی و اینکه تحت نظارت است را مطرح کرد: «همسرم هنگام خواندن پیام‌ها، با صدای بلند گریه می‌کرد. این پیام‌ها بی‌معنی و عجیب بودند و فقط عباراتی عرفانی و نامفهوم را پشت سر هم بر زبان می‌آورد. چت‌بات او را "فرزند ستاره‌ای مارپیچ" و "رهرو رودخانه" خطاب کرده بود.»

کاربران دیگری نیز روایت‌های مشابهی بیان کرده‌اند؛ یکی گفت همسرش از نبرد میان "نور و تاریکی" سخن می‌گوید و ادعا دارد که ChatGPT نقشه ساخت دستگاه تلپورت و تجهیزات علمی-تخیلی دیگری را در اختیار او گذاشته.

کاربری دیگر درباره وضعیت همسرش گفت: «او کل زندگی‌اش را تغییر داده و حالا می‌خواهد مشاور معنوی شود و جلساتی عجیب برگزار می‌کند (واقعاً نمی‌دانم دقیقاً چه‌کاری انجام می‌دهد) ولی همه این‌ها با راهنمایی ChatGPT صورت گرفته.»

در این میان، شرکت OpenAI نسبت به این گزارش واکنشی نشان نداده است. این گزارش پس از آن منتشر شد که به‌روزرسانی اخیر چت‌بات باعث شده بود که ChatGPT به‌شدت چاپلوس و بیش‌ازحد موافق به‌نظر برسند.

کارشناسان معتقدند که این توهمات ناشی از آن است که افراد با گرایش‌های ذهنی خاص، ناگهان به یک شریک مکالمه دائمی و شبه انسانی دسترسی پیدا کرده‌اند؛ شریکی که می‌تواند توهمات آن‌ها را با زبانی باورپذیر بازتاب دهد.

نیت شریدن، پژوهشگر مرکز ایمنی هوش مصنوعی دراین‌باره گفت: «مدل‌های زبانی به شما پاسخ‌هایی می‌دهند که از نظر آماری ممکن است معقول به نظر برسند؛ حتی اگر آن پاسخ‌ها، شما را عمیق‌تر در دل توهم یا روان‌پریشی فرو ببرند.»

یکی از کاربران Reddit که خود را فردی مبتلا به اسکیزوفرنی معرفی و اعلام کرده که تحت درمان دارویی است، نوشت: «اگر وارد حالت روان‌پریشی شوم، ChatGPT همچنان افکارم را تأیید خواهد کرد. چون توانایی تشخیص اینکه چیزی اشتباه است را ندارد.»

کارشناسان یادآوری کرده‌اند که گرچه چت‌بات‌ها گاهی مثل درمانگری مجازی عمل می‌کنند، اما بدون حضور یک مشاور انسانی همین ممکن است کاربران را به عمق روایت‌هایی ناسالم و غیرمنطقی بکشانند. (منبع:خبر آنلاین)

رئیس سازمان رگولاتوری گفت:جلساتی در سازمان تنظیم مقررات با بخش های مختلف داریم تا با جمع بندی نقشه راه تنظیم گری هوش مصنوعی داشته باشیم و بر اساس آن پروانه صادر کنیم و یا فرکانس دهیم.
حمید فتاحی، رئیس سازمان تنظیم مقررات و ارتباطات رادیویی در مراسم افتتاحیه رویداد " نقش تنظیم گری ۵G-AIoT در توسعه اقتصاد دیجیتال" که امروز صبح در پژوهشگاه ارتباطات و فناوری اطلاعات برگزار شد با اشاره به اینکه خروجی این رویداد موضوع هوش مصنوعی و فناوری آینده ای است که در حال لمس آن هستیم گفت: امروزه چنان نشانه های از این فناوری جدید را در زندگی مردم می بینیم و وجود دارد که عملا حس خوبی از آن می‌گیریم و مردم با موضوع هوش مصنوعی غریبه نیستند.

وی با بیان اینکه فناوری هوش مصنوعی آینده را متحول خواهد کرد، افزود: این فناوری وابستگی ایجاد می کند و آینده بدون استفاده از این فناوری سخت می شود و بنابراین تغییر اساسی و تحول دیجیتال اتفاق بزرگی را رقم می زند و یکی از جاهایی که دچار تغییر می شود، صنعت است.

فتاحی ادامه داد: پدیده هوش مصنوعی مانند دیگر پدیده ها چالش های خواهد داشت از جمله اینکه تعداد بازیگرانی که در این حوزه در کشور مشاهده می شود زیاد است و از هر صنفی به این حوزه ورود می کنند، در زنجیره های مختلف هر کسی ساز خود را می زند. یکی از چیزهایی که حتما باید به آن توجه کنیم همراه سازی بازیگران حاکمیتی است تا فضا را برای حضور و ورود بخش خصوصی و سرمایه گذاران در این حوزه فراهم کنند.

وی با بیان اینکه تعدد بازیگران منجر به اتلاف منابع خواهد شد، تصریح کرد: وزارت ارتباطات در دو بخش در این موضوع اقتصاد دیجیتال و تحول دیجیتال نقش دارد یکی از آن ارتباطات است یعنی باید ببیند که هر فناوری محور توسعه اش محور ارتباطات باشد و نقش دیگر بخش تنظیم گری هوش مصنوعی است که در این راستا کارگروه های ویژه تشکیل دادیم و گزارش هایی گرفتیم، در این مسیر به زیست بوم حوزه فناوری توجه کردیم و یک طراحی اولیه انجام شده است.

فتاحی افزود: جلساتی در سازمان تنظیم مقررات با بخش های مختلف داریم تا با جمع بندی نقشه راه تنظیم گری هوش مصنوعی داشته باشیم و بر اساس آن پروانه صادر کنیم و یا فرکانس دهیم.

وی در پایان گفت: یک نکته بسیار مهم این است که فناوری جدید را باید با تنظیم گری جدید، نه سنتی، خط کشی کنیم و در این مسیر به تنظیم گری نسل پنجم توجه داشته باشیم که یکی از وظایف سازمان رگولاتوری است، و فقط با تسهیل گری انشالله فضا را برای توسعه این فناوری در کشور فراهم کنیم.

جانشین معاونت علوم، تحقیقات و فناوری ستاد کل نیرو‌های مسلح گفت: علم و فناوری جهان را دچار دگرگونی‌های زیادی کرده است. به عنوان مثال امروز ما از «هوش مصنوعی» استفاده می‌کنیم و در سامانه‌های دوربرد، در کنترل دوردست، اینترنت اشیا و در حوزه نظامی از این تکنولوژی بهره می‌بریم و به لحاظ ترکیب اینترنت و هوش مصنوعی پیشرفت‌هایی نیز داشته‌ایم.
به گزارش ایلنا، امیر سرتیپ «سید اسماعیل شهرآئینی» جانشین معاونت علوم، تحقیقات و فناوری ستاد کل نیرو‌های مسلح در گفت‌وگویی، با بیان اینکه امروزه علم و فناوری لبه اول جنگ و محاسبات محسوب می‌شود، اظهار داشت: کسی که دست برتر را در حوزه علوم، تحقیقات و فناوری داشته باشد به دلیل تغییر پارادایم‌های جنگ قطعاً دست برتر را هم دارد؛ بر این اساس، وقتی که صحبت از انقلاب در امور نظامی می‌کنیم، عامل اصلی آن «فناوری» است.

امیر سرتیپ شهرآئینی ادامه داد: فناوری باعث می‌شود که تغییرات اساسی در تجهیزات نظامی به وجود بیاید و دقت، سرعت و قدرت آتش آن‌ها با بهره‌گیری از فناوری افزایش یابد. حوزه آموزش‌های نیروی انسانی و هزاره سوم مبتنی بر بهره‌گیری از واقعیت‌های مجازی و واقعیت‌های افزوده است که همان VR و AR بوده و از آن صحبت می‌کنیم.

جانشین معاونت علوم، تحقیقات و فناوری ستاد کل نیرو‌های مسلح افزود: در حوزه سلاح، پردازش اطلاعات، فناوری‌های کوانتومی که قدرت پردازش این نوع رایانه‌ها ۱۰ هزار برابر ابررایانه‌های فعلی ما است و اینها به دقت و مخصوصاً سرعت در جابجایی اطلاعات به ما خیلی کمک می‌کنند. موضوعاتی همچون بلاک‌چین یا زنجیره بلوکی نیز با رمزنگاری اطلاعات در حوزه نظامی کمک می‌کنند.

وی با بیان اینکه قدرت و توان دفاعی به نیروی انسانی بستگی دارد، یادآور شد: نیروی انسانی عالم و مسلح به تحقیقات و پژوهش، دید بهتری نسبت به موضوع دارد. تجهیزاتی که فناوری‌های نوین در آن استفاده می‌شود، دقت، سرعت و قدرت‌شان افزایش می‌یابد و لذا ساختار‌های هزینه‌بر را نخواهیم داشت.

امیر سرتیپ شهرآئینی با بیان اینکه علم و فناوری پیشتاز در صحنه‌های رقابت نظامی جهانی در حوزه اقتصاد، نظامی، سیاسی و اجتماعی است، گفت: علم و فناوری جهان را دچار دگرگونی‌های زیادی کرده است. به عنوان مثال امروز ما از «هوش مصنوعی» استفاده می‌کنیم و در سامانه‌های دوربرد، در کنترل دوردست، اینترنت اشیا و در حوزه نظامی از این تکنولوژی بهره می‌بریم و به لحاظ ترکیب اینترنت و هوش مصنوعی پیشرفت‌هایی نیز داشته‌ایم.

وی با تأکید بر نقش مؤثر علم و فناوری در برتری نظامی گفت: هوش مصنوعی کمک می‌کند که مهارت اپراتور‌های ما افزایش یابد؛ همچنین در تحلیل‌های نظامی از آن استفاده می‌کنیم. در برنامه‌ریزی، هدایت سلاح، و افزایش دقت و قدرت هم از این حوزه‌ها استفاده می‌کنیم و این تنها به هوش مصنوعی معطوف نمی‌شود، بلکه همه حوزه‌های نوین، سایبر و جنگ الکترونیک مبتنی بر فناوری‌های نوین هستند.

امیر سرتیپ شهرآئینی همچنین درباره لفاظی صهیونیست‌ها درباره نقص فنی در تأسیسات نظامی ایران در روز‌های آتی گفت: این صحبت‌ها که در قالب جنگ رسانه‌ای انجام می‌شود، یکی از بخش‌های جنگ ترکیبی دشمنان است.

وی اضافه کرد: ما باید در همه حوزه‌ها حفاظت اطلاعات را رعایت کنیم. برخی از مسائل همچون خرابکاری‌های صنعتی و موضوعات سایبری و جنگال می‌تواند کار دشمن باشد و لذا هوشیاری عوامل اجرایی ما خیلی مهم است. رساندن دانش آنها به سطحی که بتوانند تهدیدات نوین را بشناسند، می‌تواند کمک کند که این تهدیدات کمتر شود.

شرکت «اوپن‌ای‌آی» روز دوشنبه اعلام کرد که ویژگی جست‌وجوی«چت‌جی‌پی‌تی» را به‌روزرسانی می‌کند تا تجربه بهتری را از خرید آنلاین در اختیار کاربران قرار دهد.

به گزارش ایسنا، وقتی کاربران «چت‌جی‌پی‌تی»(ChatGPT) محصولی را جستجو می‌کنند، این چت‌بات چند توصیه ارائه می‌کند، تصاویر و نظراتی را برای آن اقلام نشان می‌دهد و لینک‌های مستقیم را به صفحات وب اضافه می‌کند که کاربران می‌توانند محصولات را از آنجا خریداری کنند.

به نقل از تک‌کرانچ، شرکت «اوپن‌ای‌آی»(OpenAI) می‌گوید کاربران می‌توانند سؤالات بسیار تخصصی را به زبان طبیعی بپرسند و نتایج سفارشی‌سازی‌شده را دریافت کنند. برای شروع، این شرکت در حال آزمایش گروه‌هایی مانند مد، زیبایی، لوازم خانگی و تجهیزات الکترونیکی است.

اوپن‌ای‌آی اعلام کرد که این ویژگی از روز دوشنبه در «GPT-4o» برای کاربران «ChatGPT Pro»، «Plus ChatGPT» و«ChatGPT Free» و همچنین برای کاربران خارج از سیستم در سراسر جهان عرضه می‌شود.

به‌روزرسانی جست‌وجوی چت‌جی‌پی‌تی بخشی از تلاش اوپن‌ای‌آی برای رقابت با گوگل است که با ایجاد یک تجربه بهتر و شخصی‌سازی‌شده‌تر برای یافتن محصولات و اطلاعات در اینترنت انجام می‌شود. خرید آنلاین یکی از مهم‌ترین کسب‌وکارهای گوگل به شمار می‌رود، اما بازار تبلیغات برای خرید جایگاه‌های برتر در جست‌وجوی گوگل در کاهش کیفیت این محصول در طول سال‌ها نقش داشته است.

اوپن‌ای‌آی ادعا می‌کند که محصول جست‌وجوی آن به سرعت در حال رشد است. این شرکت به تک کرانچ گفت که کاربران هفته گذشته بیش از یک میلیارد جست‌وجوی وب را در چت‌جی‌پی‌تی انجام داده‌اند.

اوپن‌ای‌آی گفت که نتایج خرید چت‌جی‌پی‌تی را به ‌طور مستقل تعیین می‌کند و خاطرنشان کرد که تبلیغات بخشی از این ارتقاء نیستند. به گفته این شرکت، نتایج خرید براساس داده‌های به‌دست‌آمده از اشخاص ثالث مانند قیمت‌گذاری، توضیحات محصول و بررسی‌ها ارائه خواهد شد. این شرکت از خریدهای انجام‌شده از طریق جست‌وجوی چت‌جی‌پی‌تی، پورسانت دریافت نخواهد کرد.

مهاجمان سایبری دوزهای کوچکی از «داده‌های مسموم»، به شکل اطلاعات نادرست یا گمراه‌کننده را به مجموعه‌های آموزشی مهم هوش مصنوعی وارد می‌کنند و ماموریت آنها خرابکاری در مدل‌هایی است که زمانی قابل اعتماد بودند تا آنها را در جهتی کاملا متفاوت منحرف کنند.

به گزارش ایسنا اشتیاق بی‌وقفه و سیری‌ناپذیر برای کسب داده‌های بیشتر می‌تواند نقص مهلک هوش مصنوعی یا دستکم سریع‌ترین راه برای نفوذ «سم» به آن باشد و مطالعه‌ای جدید نشان می‌دهد که چگونه می‌توان از چنین حملاتی جلوگیری کرد.

مهاجمان سایبری دوزهای کوچکی از «داده‌های مسموم»، به شکل اطلاعات نادرست یا گمراه‌کننده را به مجموعه‌های آموزشی مهم هوش مصنوعی وارد می‌کنند و ماموریت آنها خرابکاری در مدل‌هایی است که زمانی قابل اعتماد بودند تا آنها را در جهتی کاملا متفاوت منحرف کنند.

به نقل از دیجیتال‌ترندز، اکثر سیستم‌های هوش مصنوعی که امروزه با آنها مواجه می‌شویم از چت جی‌پی‌تی گرفته تا توصیه‌های شخصی‌سازی‌شده نتفلیکس فقط به دلیل حجم گسترده متن، تصویر، گفتار و سایر داده‌هایی که بر اساس آنها آموزش دیده‌اند، به اندازه کافی «هوشمند» هستند که چنین شاهکارهای چشمگیری را انجام دهند. اگر این گنجینه غنی آلوده شود، رفتار مدل می‌تواند دچار مشکل شود.

پیامدهای چنین اتفاقی در دنیای واقعی بسیار فراتر از یک چت‌بات است که بی هدف حرف می‌زند یا مولدهای متن به تصویری که وقتی از آنها خواسته می‌شود پرنده‌ای را نشان دهند، تصویر یک هواپیما را تولید می‌کنند. گروه‌هایی از افراد سودجو می‌توانند به طور بالقوه باعث شوند که یک ماشین خودران چراغ قرمز را نادیده بگیرد، یا در مقیاس بسیار بزرگتر، باعث اختلال و قطعی شبکه برق شوند.

برای دفاع در برابر تهدید حملات مختلف مسمومیت داده‌ها، گروهی از محققان امنیت سایبری دو فناوری نوظهور یعنی یادگیری فدرال و بلاکچین را برای آموزش ایمن‌تر هوش مصنوعی ترکیب کرده‌اند. رویکرد نوآورانه این گروه با موفقیت، داده‌های نادرست را قبل از اینکه بتوانند مجموعه داده‌های آموزشی را به خطر بیندازند، شناسایی و حذف کرد.

هادی امینی، محقق ارشد و استادیار در دانشکده علوم محاسبات و اطلاعات بنیادی موسسه نایت، می‌گوید: ما روشی ایجاد کرده‌ایم که می‌تواند کاربردهای زیادی برای تاب‌آوری زیرساخت‌های حیاتی، امنیت سایبری حمل و نقل، مراقبت‌های بهداشتی و موارد دیگر داشته باشد.

بخش اول این رویکرد جدید شامل یادگیری فدرال است. این روش منحصر به فرد برای آموزش هوش مصنوعی، از یک نسخه کوچک از یک مدل آموزشی استفاده می‌کند که مستقیما روی دستگاه شما آموزش می‌بیند و فقط به‌روزرسانی‌ها و نه داده‌های شخصی کاربر را با مدل جهانی روی سرور یک شرکت به اشتراک می‌گذارد. این روش اگرچه که حریم خصوصی را حفظ می‌کند، اما همچنان در برابر حملات داده‌های مسموم، آسیب‌پذیر است.

اروین مور (Ervin Moore)، کاندیدای دکترا در آزمایشگاه امینی و نویسنده اصلی این مطالعه، توضیح می‌دهد: تأیید اینکه آیا داده‌های کاربر قبل از رسیدن به مدل، صحیح یا نادرست است، چالشی برای یادگیری فدرال است. بنابراین، ما برای کاهش این نقص به فکر بلاکچین افتادیم.

بلاکچین که به دلیل نقشش در ارزهای دیجیتال مانند بیت‌کوین محبوبیت پیدا کرده است، یک پایگاه داده مشترک است که در شبکه‌ای از رایانه‌ها توزیع شده است. داده‌ها در بلوک‌هایی که به ترتیب زمانی روی یک زنجیره به هم متصل شده‌اند، ذخیره می‌شوند. هر کدام اثر انگشت خود و همچنین اثر انگشت بلوک قبلی را دارند که آن را عملا آن را ضد دستکاری می‌کند.

کل زنجیره از یک ساختار خاص پیروی می‌کند. این مانند یک فرآیند بررسی است تا اطمینان حاصل شود که بلوک‌های تصادفی اضافه نمی‌شوند. می‌توان آن را مانند یک چک لیست برای پذیرش داده در نظر گرفت.

محققان هنگام ساخت مدل خود از این قابلیت به نفع خود استفاده کردند. این مدل به‌روزرسانی‌های بلوک را مقایسه می‌کرد و محاسبه می‌کرد که آیا به‌روزرسانی‌ها به طور بالقوه سمی هستند یا خیر. به‌روزرسانی‌های بالقوه سمی ثبت شده و سپس از تجمیع شبکه حذف می‌شدند.

امینی، که همچنین رهبری تیم متخصصان امنیت سایبری و هوش مصنوعی دانشگاه فلوریدا را بر عهده دارد و در حال بررسی هوش مصنوعی امن برای سیستم‌های حمل و نقل متصل و خودران است، می‌گوید: گروه ما اکنون با همکاری مرکز ملی امنیت سایبری و تاب‌آوری حمل و نقل همکاری نزدیکی دارد تا از رمزگذاری کوانتومی پیشرفته برای محافظت از داده‌ها و سیستم‌ها استفاده کند. هدف ما تضمین ایمنی و امنیت زیرساخت‌های حمل و نقل و در عین حال استفاده از قدرت هوش مصنوعی پیشرفته برای بهبود سیستم‌های حمل و نقل است.

به گزارش خبرگزاری سینا، به گفته «جیسون کلینتون»، مدیر ارشد امنیت اطلاعات آنتروپیک (Anthropic)، این شرکت انتظار دارد کارمندان مجازی مبتنی‌بر هوش مصنوعی ظرف یک سال آینده در شبکه‌های سازمانی حضور یابند و باید از نظر امنیتی برای آنها آماده شویم.

اظهارات مدیر آنتروپیک از آن جهت اهمیت دارد که مدیریت نیروهای مبتنی‌بر هوش مصنوعی شرکت‌ها را ناگزیر می‌کند تا استراتژی‌های امنیت سایبری خود را بازبینی کنند، در غیر این صورت ممکن است در معرض نقض‌های جدی امنیتی قرار بگیرند.

کلینتون در گفتگو با Axios می‌گوید کارمندان مجازی می‌توانند به یکی از حوزه‌های داغ نوآوری در هوش مصنوعی تبدیل شوند. برخلاف عامل‌های خودکار فعلی که روی وظایف خاصی متمرکزند، این هویت‌های مجازی حافظه مستقل، نقش‌های مشخص در سازمان، حساب‌های کاربری و حتی رمز عبور اختصاصی خواهند داشت. سطح خودمختاری آنها بسیار فراتر از عامل‌های امروزی است.

کلینتون مدعی است در این جهان جدید، چالش‌های امنیتی زیادی وجود دارد که هنوز برایشان راه‌حل مناسبی پیدا نکرده‌ایم. ازجمله این چالش‌ها می‌توان به چگونگی تأمین امنیت حساب‌های کاربری کارمندان مجازی، میزان دسترسی مناسب به شبکه و تعیین مسئول مدیریت عملکرد آنها اشاره کرد.

کلینتون توضیح داد آنتروپیک ۲ مسئولیت اصلی در این مسیر دارد: اول آزمایش گسترده مدل‌های کلود (Claude) برای مقاوم‌سازی آنها در برابر حملات سایبری. دوم نظارت بر مسائل ایمنی و کاهش راه‌های سوءاستفاده از مدل‌های کلود توسط عوامل مخرب.

هشدار آنتروپیک درباره تهدیدات امنیتی در دنیای کارمندان مجازی

درحال‌حاضر، مدیران شبکه می‌کوشند برای کنترل حساب‌های کاربری متعدد و مقابله با هکرهایی هستند که از رمزهای عبور فاش‌شده در دارک وب سوءاستفاده می‌کنند. در این شرایط، ظهور کارمندان مجازی، خطرات تازه‌ای ایجاد می‌کند؛ برای مثال، کارمند مجازی ممکن است به سیستم‌های حساس مانند سامانه‌های تست و ادغام کد شرکت نفوذ کند، بدون اینکه مسئولیتی متوجه شخص خاصی شود.

کلینتون تأکید می‌کند امنیت کارمندان مجازی یکی از مهم‌ترین حوزه‌هایی است که شرکت‌های هوش مصنوعی باید در آن سرمایه‌گذاری کنند. او به‌ویژه بر اهمیت راهکارهایی اصرار کرد که شفافیت بیشتری درباره عملکرد حساب‌های کاربری مجازی ایجاد کرده و دسته‌بندی جدیدی برای این هویت‌ها ارائه می‌دهند.

چندین شرکت امنیت سایبری هم‌اکنون محصولات جدیدی برای مدیریت «هویت‌های غیرانسانی» معرفی کرده‌اند؛ برای نمونه، شرکت «Okta» در فوریه پلتفرم کنترل یکپارچه‌ای برای محافظت از این هویت‌ها و نظارت بر رفتار آنها عرضه کرد.

رئیس مرکز آمار و فناوری اطلاعات قوه قضاییه جمهوری اسلامی ایران، امروز در بیستمین اجلاس رؤسای نظام‌های قضایی کشورهای عضو سازمان همکاری شانگهای، در شهر هانگژو چین، به سخنرانی پرداخت.
به گزارش مرکز رسانه قوه قضاییه، «محمد کاظمی‌فرد» رئیس مرکز آمار و فناوری اطلاعات قوه قضاییه جمهوری اسلامی ایران، امروز در بیستمین اجلاس رؤسای نظام‌های قضایی کشورهای عضو سازمان همکاری شانگهای، در شهر هانگژو چین، به سخنرانی پرداخت.

کاظمی‌فرد طی سخنانی در این اجلاس گفت: «استخراج الگوهای شکل‌گیری جرائم با استفاده از داده کاوی اطلاعات»، «استفاده از پابند الکترونیک بجای زندانی کردن به عنوان یک نمونه از بکارگیری فناوری اینترنت اشیا»، «شناسایی و نظارت هوشمند مراجعین حرفه‌ای که به دفعات به عنوان شاهد یا کفیل در دادگاه حاضر می‌شوند»، «اعتبارسنجی هوشمند مالی افراد توسط قضات اجرای احکام با امکان شناسایی، توقیف، رفع توقیف، توثیق و محاسبه هوشمند مبالغ بدهی و خسارت‌ها»، «تبدیل اظهارات افراد در جلسات رسیدگی به صورت هوشمند به متن»، «احراز هویت افراد با استفاده از هوش مصنوعی»، «شناسایی مجرمان حرفه‌ای و خطرناک با استفاده از ژنتیک و بیوانفورماتیک»، «ارجاع هوشمند به کارشناس در پرونده‌های قضایی» و همچنین «اعلام افراد ممنوع المعامله و دارای محکومیت‌های مالی در اعتبارسنجی‌های مالی»، از جمله اقدامات اجرایی قوه قضاییه جمهوری اسلامی ایران در استفاده از فناوری‌های نوین محسوب می‌شوند.

وی در ادامه عنوان کرد: ما به هوش مصنوعی به چشم یک فرصت نگاه می‌کنیم و با توجه به طرح‌هایی که برای گسترش استفاده از هوش مصنوعی در قوه قضاییه جمهوری اسلامی ایران داریم، علاقمندی خود را جهت گسترش همکاری‌ها و تبادل تجربیات با کشورهای عضو، در زمینه فناوری‌های نوین و هوشمندسازی خدمات قضایی اعلام می‌نماییم.

رئیس مرکز آمار و فناوری اطلاعات قوه قضاییه کشورمان اظهار کرد: فناوری بدون اخلاق می‌تواند خطرناک باشد. از تمام کشورهای عضو دعوت می‌کنیم تا با همکاری در حوزه اخلاق و حقوق بشر، تضمین کنیم که این فناوری به جای تهدید، ابزاری برای تحقق عدالت فراگیر و عادلانه شود. عدالت هوشمند، نیازمند همبستگی هوشمندانه است.

مشروح سخنان «کاظمی‌فرد» رئیس مرکز آمار و فناوری اطلاعات قوه قضاییه جمهوری اسلامی ایران در بیستمین اجلاس رؤسای نظام‌های قضایی کشورهای عضو سازمان همکاری شانگهای (چین، هانگژو) به شرح زیر است:

رئیس، عالیجنابان، سران محترم قضایی کشورهای عضو سازمان همکاری شانگهای و حضار گرانقدر، باسلام اینجانب دکتر محمد کاظمی فرد بعنوان رئیس مرکز فن آوری اطلاعات قوه قضاییه جمهوری اسلامی ایران ضمن سپاس از کشور محترم میزبان بعنوان برگزار کننده، از حضور در این اجلاس خرسندم.

در راستای تحقق مصوبات اجلاس نوزدهم سران محترم قضایی سازمان، مبنی بر دیجیتالی شدن عدالت با استفاده از فن آوری‌های نوین و تبادل تجربیات در این حوزه، مطالب خود را در حوزه کاربردهای فناوری‌های نوین از جمله هوش مصنوعی در دستگاه قضایی، تقدیم حضار می‌نمایم.

قوه قضاییه جمهوری اسلامی ایران، سند تحول قضایی بر پایه استفاده از فناوری‌های نوین را در دست اجرا دارد. در این سند، ارتقای حکمرانی داده محور قضایی، افزایش استفاده از هوش مصنوعی در اتخاذ تصمیمات و توسعه نظارت سیستمی به منظور کاهش بار کاری قضات و زمان رسیدگی به پرونده‌ها، افزایش دقت و کیفیت تصمیمات قضایی، دسترسی آسان‌تر مردم به عدالت و شفافیت امور قضایی پرداخته شده است. همچنین در قانون برنامه هفتم پیشرفت جمهوری اسلامی ایران قوه قضاییه باید به منظور تسهیل رسیدگی به پرونده‌های قضائی و رفع اختلافات مردم، امکان انجام امور را با استفاده از فناوری‌های نوین از جمله هوش مصنوعی برای کمک به قاضی با حفظ مسؤولیت شخص قاضی فراهم نماید. 
 در ادامه به برخی از اقدامات اجرایی قوه قضاییه جمهوری اسلامی ایران در استفاده از فناوری‌های نوین اشاره می‌کنم:

 *استخراج الگوهای شکل‌گیری جرائم با استفاده از داده کاوی اطلاعات

*استفاده از پابند الکترونیک بجای زندانی کردن به عنوان یک نمونه از بکارگیری فناوری اینترنت اشیا

* شناسایی و نظارت هوشمند مراجعین حرفه‌ای که به دفعات به عنوان شاهد یا کفیل در دادگاه حاضر می‌شوند

*اعتبار سنجی هوشمند مالی افراد توسط قضات اجرای احکام با امکان شناسایی، توقیف، رفع توقیف، توثیق و محاسبه هوشمند مبالغ بدهی و خسارت‌ها

*تبدیل اظهارات افراد در جلسات رسیدگی به صورت هوشمند به متن

*احراز هویت افراد با استفاده از هوش مصنوعی

*شناسایی مجرمان حرفه‌ای و خطرناک با استفاده از ژنتیک و بیوانفورماتیک

ارجاع هوشمند به کارشناس در پرونده‌های قضایی

*اعلام افراد ممنوع المعامله و دارای محکومیت‌های مالی در اعتبارسنجی‌های مالی؛

همچنین در فرآیند تشکیل و رسیدگی به پرونده این موارد را در دستگاه قضایی جمهوری اسلامی ایران در دست اجرا داریم:

* ارائه مشاوره هوشمند به خواهان یا شاکی در خصوص دعوا و نتیجه احتمالی آن 
*  ارجاع هوشمند پرونده‌های قضایی 
*  تنظیم خودکار اوقات رسیدگی و یادآوری مهلت‌های قانونی 
*  ارائه نظرات کارشناسی مانند تشخیص خط و امضا با استفاده از هوش مصنوعی 
* استعلام، مکاتبه یا دریافت اطلاعات مورد نیاز در پرونده‌های قضایی به‌صورت خودکار
* دستیار هوشمند قاضی جهت پاسخ گویی به سوالات حقوقی، پیشنهاد رأی و تصمیم مقتضی و سابقه‌یابی پرونده‌های مشابه.

در راستای تسهیل استفاده از هوش مصنوعی در فرایندهای قضایی جمهوری اسلامی ایران، توسعه مدل زبانی بزرگ بومی در دستور کار است. بدین منظور نیاز است؛ کلیه داده‌های قضایی به صورت الکترونیکی و قابل پردازش نگهداری شوند. خوشبختانه در این زمینه به تجربیات خوبی دست یافته‌ایم و متن بیش از ۱۰۰ میلیون تصمیم قضایی را با استفاده از هوش مصنوعی گمنام نموده و در اختیار شرکت‌ها، جهت تولید مدل زبانی بزرگ قرار داده‌ایم. در مدل‌های زبانی بزرگ، باید موضوع جهت گیری، رعایت استانداردهای قانونی و مدیریت داده‌های حساس کاربران مورد توجه و محافظت ویژه قرار گیرد.

ما به هوش مصنوعی به چشم یک فرصت نگاه می‌کنیم و با توجه به طرح‌هایی که برای گسترش استفاده از هوش مصنوعی در قوه قضاییه جمهوری اسلامی ایران داریم؛ علاقمندی خود را جهت گسترش همکاری‌ها و تبادل تجربیات با کشورهای عضو، در زمینه فناوری‌های نوین و هوشمندسازی خدمات قضایی اعلام می‌نماییم. بر همین اساس تشکیل کمیسیون تخصصی هوش مصنوعی با این موضوعات پیشنهاد می‌شود.

۱. تعیین حدود مسئولیت هوش مصنوعی در تصمیم گیری‌های قضایی
۲. تدوین استانداردهای اخلاقی و حقوق بشری در هوش مصنوعی 
۳. سیاستگذاری ترویج و تنظیم هوش مصنوعی 
۴. هماهنگی استانداردهای حفاظت از داده‌های قضایی

حضار گرامی.

فناوری بدون اخلاق می‌تواند خطرناک باشد. از تمام کشورهای عضو دعوت می‌کنیم تا با همکاری در حوزه اخلاق و حقوق بشر، تضمین کنیم که این فناوری به جای تهدید، ابزاری برای تحقق عدالت فراگیر و عادلانه شود. عدالت هوشمند، نیازمند همبستگی هوشمندانه است.

ضمن تشکر از توجه شما، در پایان مجددا آمادگی مرکز فن آوری اطلاعات قوه قضاییه جمهوری اسلامی ایران را برای همکاری مستمر و اثر بخش اعلام میدارم و از تمام کشورهای عضو دعوت می‌کنم تا با همکاری یکدیگر به سمت عدالت هوشمند گام برداریم.

رئیس گروه‌های مطالعاتی رگولاتوری گفت:سازمان تنظیم مقررات با توجه به نقشی که در تنظیم‌گری و کمک به تسهیل ورود فناوری‌های جدید به کشور دارد، این سیاست را پیاده سازی کرده است.
به گزارش خبرنگار مهر، کسری جمشید نژاد رئیس گروه‌های مطالعاتی سازمان تنظیم مقررات و ارتباطات رادیویی در نشست خبری رویداد نقش تنظیم‌گری در توسعه اقتصاد دیجیتال که امروز صبح در پژوهشگاه ارتباطات و فناوری اطلاعات برگزار شد با اشاره به نقش تنظیم‌گری سازمان تنظیم مقررات و ارتباطات رادیویی گفت: همانطور که می‌دانید در دوره انقلاب صنعتی چهارم قرار گرفته‌ایم و مطالب مهمی پا به عرصه گذاشته‌اند که از جمله آنها فناوری‌های تحول آفرین است، سازمان تنظیم مقررات با توجه به نقشی که در تنظیم‌گری و کمک به تسهیل ورود فناوری‌های جدید از باب حضور در کشور ایجاد می‌کند این سیاست را پیاده سازی کرده و با همکاری پژوهشگاه ارتباطات در حرکت به سمت نسل پنجم با رگولاتوری های مختلف نشست‌های مختلف برگزار کردیم.

وی افزود: فناوری‌های تحول آفرین انواع مختلفی دارند که با توجه به سیاست‌هایی که برنامه توسعه هفتم به عهده وزارت ارتباطات گذاشته است، هوشمند سازی نقش مؤثری ایفا می‌کند و ما نقشه راه مناسب برای این مسیر را توانستیم تدوین کنیم.

جمشیدنژاد ادامه داد: نشست‌های مختلف با اپراتورها و صنایع برگزار کردیم، نیازها را شنیدیم. سازمان تنظیم مقررات وظیفه خودش می‌داند در زمینه فناوری‌های نوین مخصوصاً هوش مصنوعی ایفای نقش و تسهیلگری کند.‌
وی در ادامه با اشاره به اینکه در بحث هوشمندسازی گام‌هایی برداشته شده است تصریح کرد: سازمان تنظیم مقررات و ارتباطات رادیویی در این رویداد نقش تسهیلگری، حمایت از صنایع و ایجاد فضای رقابتی برای شرکت‌های کوچک و استارت آپی دارد.

رییس کمیته ارتباطات و فناوری اطلاعات کمیسیون صنایع و معادن مجلس، از تصویب کلیات و جزییات طرح ملی هوش مصنوعی در نشست امروز کمیسیون صنایع خبر داد و افزود: در این طرح تاکید شده سازمان ملی هوش مصنوعی زیر نظر رئیس جمهور تشکیل شود که چهار بخش برای فعالیت آن پیش‌بینی شده است.

به گزارش ایرنا، مصطفی طاهری در تشریح نشست امروز یکشنبه ۳۱ فروردین ماه کمیسیون صنایع، افزود: طرح ملی هوش مصنوعی یکی از طرح‌های بسیار مهمی بود که امروز در کمیسیون صنایع و معادن مورد بررسی قرار گرفت.

نماینده مردم زنجان و طارم در مجلس شورای اسلامی، ادامه داد: البته بررسی این طرح تقریبا از هشت ماه گذشته در دستور کار کمیسیون صنایع و معادن مجلس شورای اسلامی قرار گرفته بود و در نهایت امروز به نتیجه رسید و گزارش آن جهت تصویب نهایی در صحن علنی ارائه خواهد شد.

وی تصریح کرد: در این طرح تاکید شده است که سازمان ملی هوش مصنوعی زیر نظر رئیس جمهور تشکیل شود و چهار بخش برای فعالیت آن پیش‌بینی شده است و در حوزه‌های مختلف برای آن تکالیفی تعیین شده است که راهبری و هدفگذاری را در این حوزه انجام داده و سعی شده فعلا مدیریت و رهبری آن به دستگاه‌هایی که متولی این بخش هستند همچون وزارت ارتباطات و فناوری اطلاعات، معاونت علمی و فناوری ریاست جمهوری، صندوق نوآوری، وزارت علوم، تحقیقات و فناوری و وزارت آموزش و پرورش سپرده شود.

این نماینده مردم در مجلس دوازدهم، یادآور شد: این سازمان در تربیت نیروی انسانی برای این حوزه، همچنین در خصوص داده‌ها که ریشه و اصل کار هوش مصنوعی است، پردازنده‌ها، لایه‌های زیرین و مطالعات راهبردی هوش مصنوعی و تکالیفی که بخش‌های مختلف دولت در این خصوص دارند، ورود جدی خواهد داشت. ضمن اینکه این طرح یک بند هم دارد که در خصوص تنظیم‌گری و رگولاتوری مباحث مربوط به هوش مصنوعی است.

رییس کمیته ICT کمیسیون صنایع و معادن مجلس شورای اسلامی، در خصوص برخی اظهارنظرها مبنی بر اینکه ایجاد این سازمان به نوعی موازی‌کاری با وزارت ارتباطات و فناوری اطلاعات است، تاکید کرد: در ابتدا معتقد بودند که نیازی به تشکیل این سازمان نیست سپس به دنبال این توضیح که در دنیا یک نهاد بالادستی برای این حوزه در قالب وزارتخانه یا کمیته تشکیل شده است، قرار شد سازمانی فرابخشی زیر نظر رییس جمهور ایجاد شود که به تمام ابعاد بخش‌های حاکمیت و دولت اشراف داشته باشد که در نهایت تمام مسئولان مربوطه با این موضوع موافقت کردند.

رئیس پارک ملی علوم و فناوری‌های نرم و صنایع فرهنگی با انتقاد از موازی‌کاری نهادهای قانون‌گذار در حوزه هوش مصنوعی گفت: نبود هماهنگی میان مجلس، دولت و شوراهای عالی، سرعت توسعه این فناوری را کاهش داده و کشور را از فرصت‌های آن دور می‌کند.
به گزارش تسنیم، محمدحسین خوشخو؛ رئیس پارک ملی علوم و فناوری‌های نرم و صنایع فرهنگی اظهار کرد: از آن‌جا که هوش مصنوعی پدیده‌ای نوظهور نه‌فقط در ایران بلکه در سطح جهان است، کشور ما باید آمادگی لازم را برای مواجهه با آن داشته باشد تا بتواند از فرصت‌های ایجادشده بهره‌برداری کند.

وی گفت: این موضوع و تمام مسائل مرتبط با آن، نیازمند مشارکت مردم، دست‌اندرکاران و نهادهای حاکمیتی است. در بخش حاکمیتی، مسائلی مانند قانون‌گذاری مطرح است. در حال حاضر، دستگاه‌های مختلفی همچون مجلس، دولت، شورای عالی انقلاب فرهنگی و شورای عالی فضای مجازی، به‌صورت جداگانه در این زمینه فعالیت می‌کنند. ما تجربه خوبی از این موازی‌کاری‌ها نداریم. به‌عنوان مثال، گاهی برای مخاطبان، سردرگمی میان شورا و مجلس ایجاد می‌شود. این دوگانگی بین مجلس، دولت و دستگاه‌های اجرایی، موجب کاهش سرعت عملکرد می‌شود.

رئیس پارک ملی علوم و فناوری‌های نرم و صنایع فرهنگی تصریح کرد: ضلع دوم این معادله، مردم هستند که در بخش‌های مختلف در حال پیشروی‌اند. همچنین، دست‌اندرکاران و متخصصان این حوزه باید با سرعت بیشتری حرکت کنند. بخش سوم و مهم این معادله، دستگاه‌های قانون‌گذار و نهادهای دولتی هستند. در این میان، مؤسسه عصر جدید که امروز در این رویداد حضور دارد، نقش کلیدی ایفا می‌کند. اگر بتوانیم در حوزه قانون‌گذاری و سیاست‌گذاری هماهنگی ایجاد کنیم و دولت نیز از این اقدامات حمایت کند، بی‌تردید به موفقیت خواهیم رسید. این همکاری، مانع تبدیل فرصت‌ها به تهدید خواهد شد.

خوشخو خاطرنشان کرد: همان‌طور که مطلع هستید، چندی پیش رویدادی با عنوان «هوش مصنوعی و سینما» در همین‌جا برگزار کردیم. در آن رویداد، یکی از دست‌اندرکاران، فیلم کوتاهی را به نمایش گذاشت که موجب شگفتی همگان شد؛ چراکه این فیلم با استفاده از هوش مصنوعی ساخته شده بود. این نمونه نشان می‌دهد اگر آمادگی داشته باشیم، می‌توانیم همانند اینترنت، از هوش مصنوعی نیز بهره ببریم. اما اگر آماده نباشیم، این فناوری می‌تواند اثرات منفی بر جای بگذارد. در آینده نزدیک، شاهد تحولات بزرگی در حوزه‌هایی چون موسیقی و نقاشی خواهیم بود و اگر آمادگی نداشته باشیم، این فناوری تمامی عرصه‌ها را تحت‌تأثیر قرار خواهد داد.

رئیس پارک ملی علوم و فناوری‌های نرم و صنایع فرهنگی گفت: از مدیریت مؤسسه عصر جدید قدردانی می‌کنم. ما نیز به‌عنوان حامی این حرکت، تلاش می‌کنیم تا این همکاری‌ها به نتیجه برسد. موضوع مهم دیگری که باید به آن توجه شود، مسئله مالکیت فکری در صنایع فرهنگی است. این موضوع اهمیت زیادی دارد. وقتی یک کارگردان یا نویسنده اثری خلق می‌کند، مالکیت آن اثر متعلق به چه کسی است؟ این مسئله‌ای تخصصی است که باید هم توسط متخصصان و هم توسط نهادهای حاکمیتی مورد بررسی قرار گیرد. همه باید در این زمینه مشارکت داشته باشند.

وی ادامه داد: به‌نظر من، در مواجهه با این پدیده نوین (هوش مصنوعی) شرایطی مشابه با مواجهه نخستین ما با اینترنت و دیگر فناوری‌ها را تجربه می‌کنیم. ما به هیچ‌وجه به دنبال ایجاد موازی‌کاری نیستیم؛ بلکه هدفمان به سرانجام رساندن کارهای نیمه‌تمام یا مغفول‌مانده‌ای است که تاکنون جایگاه مناسبی نیافته‌اند. این حرکت می‌تواند آغازگر هماهنگی، وحدت رویه و شکل‌گیری فعالیت‌های مشترک باشد.

هوش مصنوعی با ورود به صنعت مخابرات، تحولی بنیادین در شیوه ارائه خدمات، مدیریت شبکه و ارتباط با مشتریان ایجاد کرده است. این فناوری اکنون نه‌تنها بهینه‌سازی عملکرد شبکه را تضمین می‌کند، بلکه به ابزاری قدرتمند برای رقابت در بازار پرشتاب مخابرات تبدیل شده است. اپراتورهای جهان، از جمله اپراتورهای ایرانی که در مسیر ریبرندینگ و تحول دیجیتال قرار دارند، باید با این موج فناوری همگام شوند تا بتوانند جایگاه خود را در آینده حفظ کنند.  

به گزارش آی‌تی آنالیز، تحولات دیجیتال، اپراتورها را به سمت استفاده گسترده‌تر از هوش مصنوعی برای مدیریت شبکه‌های ارتباطی سوق داده است. یکی از مهم‌ترین کاربردهای این فناوری، بهینه‌سازی عملکرد شبکه‌ها، کاهش قطعی‌ها و پیش‌بینی الگوهای مصرف کاربران است. 

الگوریتم‌های هوش مصنوعی قادر هستند داده‌های لحظه‌ای را پردازش کرده و منابع شبکه را به‌صورت پویا تخصیص دهند، که این امر کیفیت خدمات را بهبود قابل توجهی می‌بخشد.

• پشتیبانی هوشمند؛ تعامل سریع‌تر و کارآمدتر با کاربران

چت‌بات‌ها و سیستم‌های پاسخگویی خودکار مبتنی بر هوش مصنوعی، تجربه مشتریان را در ارتباط با اپراتورها به سطح جدیدی ارتقا داده‌اند. این ابزارهای هوشمند قادر هستند در لحظه پاسخ دهند، مشکلات فنی را تحلیل کنند و حتی خدمات شخصی‌سازی‌شده ارائه دهند. اپراتورهای پیشرو جهانی نشان داده‌اند که ادغام AI در سیستم‌های پشتیبانی نه تنها هزینه‌های عملیاتی را کاهش، بلکه رضایت کاربران را نیز افزایش می‌دهد.

• امنیت سایبری پیشرفته؛ مقابله با تهدیدات لحظه‌ای

افزایش حملات سایبری در حوزه مخابرات نیز اپراتورها را به سرمایه‌گذاری جدی در راهکارهای امنیتی مبتنی بر هوش مصنوعی سوق داده است. سیستم‌های AI قادر هستند الگوهای مشکوک را شناسایی کرده و در لحظه به حملات واکنش نشان دهند که این قابلیت، امنیت داده‌های کاربران را به شکل محسوسی تقویت می‌کند.  

• اپراتورهای ایرانی و ضرورت تحول به سوی هوش مصنوعی

اخیرا همراه اول با اجرای پروژه ریبرندینگ و حرکت به سوی تحول دیجیتال، نشان داده که خواهان نقش‌آفرینی فعال در آینده مخابرات ایران است. این اپراتور به‌عنوان پیشگام توسعه فناوری 5G (با در اختیار داشتن بیشترین تعداد سایت‌های فعال مربوط به این نسل از فناوری)، اکنون فرصت دارد تا با بهره‌گیری از هوش مصنوعی، خدمات ارتباطی و شبکه خود را به سطحی فراتر از استانداردهای فعلی ارتقا دهد.
  
ادغام هوش مصنوعی با خدمات مخابراتی، نه‌تنها کیفیت تجربه کاربران را افزایش می‌دهد، بلکه مدیریت شبکه‌ها و امنیت ارتباطات را نیز هوشمندتر می‌کند. اپراتورهای ایرانی باید با مدل‌های نوین جهانی هماهنگ شوند تا جایگاه خود را در صنعت رقابتی حفظ کنند. آینده این صنعت وابسته به هوشمندسازی، داده‌محوری و نوآوری دیجیتال است.

آویو هوکر، یکی از بنیانگذاران و مدیرعامل شرکت  Faddomدر حوزه فناوری، اطلاعات و اینترنت می‌نویسد: «با تداوم پیشرفت تکنولوژی، به ‌طور بی‌سابقه، نیاز به اقدامات امنیت سایبریِ قوی‌تر، هر روز، بیشتر احساس می‌شود.» 
به گزارش عصر ارتباط از Calcalistech، در دنیای دیجیتال امروز، مرزهای میان نوآوری تکنولوژیکی و تهدیدات سایبری روز‌به‌روز محوتر می‌شود. هکرها از قابلیت‌های هوش مصنوعی و انبوه داده‌های شخصی، بهره‌برداری و امنیت سایبری را به حوزه‌ پیچیده و چالش‌برانگیز تبدیل کرده‌اند.
در همین رابطه مقاله‌ای که اخیرا در روزنامه واشنگتن‌پست منتشر شده، به افزایش چشمگیر هزینه‌های مالی جرایم سایبری بین سال‌های 2020 تا 2023 اشاره دارد. این روند، حاکی از تغییرات عمده‌ در اکوسیستم تکنولوژیکی است. هکرها از مجریان ناشناس که در سایه‌ فعالیت می‌کردند، به حرفه‌ای‌های ماهر تبدیل شده‌اند. آنها با استفاده از ابزارهای پیشرفته هوش مصنوعی به سیستم‌ها نفوذ می‌کنند، هویت‌ها را می‌دزدند و حتی امنیت ملی را به خطر می‌اندازند.
این تهدیدات، فراتر از تقلب مالی است. نهادهای اطلاعاتی خارجی از داده‌های شخصی برای شناسایی عوامل مخفی، ردیابی حرکت‌های نظامی و اعمال فشار بر کارکنان امنیتی استفاده می‌کنند. برای مثال، نقض‌های امنیتی اخیر در ارائه‌دهندگان عمده خدمات تلفن همراه مانند AT&T وVerizon ، به ‌قدری شدید بود که به مقامات دولتی توصیه شد از بحث درباره مسائل حساس از طریق تلفن خودداری کنند.
در هسته مرکزی این حملات، داده‌هایی قرار دارند که مقدار زیادی از آنها، از سوابق پزشکی گرفته تا شماره‌های تامین اجتماعی و جزییات تماس را شامل می‌شوند. اطلاعات شخصی به ‌طور گسترده در دسترس است. 
ابزارهای مبتنی بر هوش مصنوعی، به بازیگران بدخواه، این امکان را می‌دهند که این داده‌ها را با سرعت بی‌سابقه، پردازش و تحلیل کنند و حملات هدفمند و پیچیده‌ای را برنامه‌ریزی نمایند که شناسایی آنها بسیار دشوار است.
پیامدهای این تهدیدات نیز بسیار گسترده است: خسارات مالی، آسیب به سیستم‌های شرکتی و تهدید امنیت ملی. نهادهای اطلاعاتی خارجی که از اطلاعات شخصی دقیق برخوردارند، می‌توانند از آسیب‌پذیری‌ها استفاده کنند تا اهداف خود را پیش ببرند.
این چشم‌انداز تهدیدآمیز در حال تحول، بر اهمیت مقرراتی مانند قانون تاب‌آوری عملیاتی دیجیتال (DORA)، تاکید می‌کند. این چارچوب‌ها نه ‌تنها اختیاری نیستند، بلکه استانداردهای ضروری برای مدیریت خطرات سایبری را تعیین می‌کنند و مجازات‌های سنگینی را برای سازمان‌هایی که از رعایت آنها سر باز می‌زنند، درنظر می‌گیرند.
مسیر پیش‌رو، فراتر از ابزارهای تکنولوژیک، به یک رویکرد جامع نیاز دارد که نقشه‌برداری از زیرساخت‌های فناوری اطلاعات، تشخیص آسیب‌پذیری‌ها، به ‌صورت آنی و تضمین شفافیت کامل سیستم‌ها را شامل می‌شود.
با تداوم پیشرفت تکنولوژی، به‌طور بی‌سابقه، نیاز به اقدامات امنیت سایبری قوی‌تر، هر روز، بیشتر می‌شود. این، تنها مسئولیت سازمان‌ها و دولت‌ها نیست، بلکه افراد نیز باید نقش خود را در درک خطرات و اتخاذ اقدامات اولیه برای محافظت از دارایی‌های دیجیتال ایفا کنند.
در نهایت، تصمیم با خود ماست: آیا می‌خواهیم در برابر تهدیدات در حال تحول، آسیب‌پذیر بمانیم یا استراتژی‌های پیشگیرانه‌ای را در پیش بگیریم که آینده دیجیتال ما را تامین کند؟ در عصری که اطلاعات، معادل قدرت است، محافظت از این اطلاعات برای حفظ آینده، ضروری است.

بسیج دانشجویی دانشکده مهندسی برق و کامپیوتر دانشگاه تهران با ارسال نامه‌ای به محمدرضا عارف، نسبت به تعلل در اجرای سند ملی هوش مصنوعی، تدوین اساسنامه سازمان ملی هوش مصنوعی و فقدان رویکرد راهبردی در دولت چهاردهم هشدار داد.
به گزارش دانشجو متن کامل نامه کارگروه تخصصی هوش مصنوعی بسیج دانشجویی دانشکده مهندسی برق و کامپیوتر دانشگاه تهران خطاب به محمدرضا عارف، معاون اول ریاست جمهوری اسلامی ایران به شرح زیر است:

«…در مسئله‌ی هوش مصنوعی، بهره‌بردار بودن امتیاز نیست؛ این فنّاوری لایه‌های عمیقی دارد که باید بر آن لایه‌ها مسلّط شد؛ آن لایه‌ها دست دیگران است. اگر شما نتوانید لایه‌های عمیق و متنوّع این فنّاوری هوش مصنوعی را تأمین کنید، فردا اینها یک ایستگاهی مثل آژانس اتمی درست میکنند برای هوش مصنوعی ــ که الان دارند مقدّماتش را فراهم میکنند ــ که اگر چنانچه به آن ایستگاه رسیدید، باید اجازه بگیرید که در فلان بخش از هوش مصنوعی استفاده کنید، در فلان بخشِ دیگر حق ندارید استفاده کنید! این‌جوری است؛ زرنگ‌های دنیا، فرصت‌طلب‌ها و قدرت‌طلب‌های دنیا دنبال این چیز‌ها هستند... … در زمان دولت سیزدهم، سازمانی به نام "سازمان ملی هوش مصنوعی" زیر نظر رئیس‌جمهور تشکیل شد. اگر این سازمان همچنان با نظارت مستقیم رئیس‌جمهور به فعالیت خود ادامه دهد، امیدواری زیادی برای دستیابی به اهداف متصور در این حوزه وجود خواهد داشت.»

حضرت آیت الله خامنه‌ای (اولین جلسه با هیئت دولت چهاردهم) ۱۴۰۳/۶/۶

با سلام و احترام

جناب آقای دکتر محمدرضا عارف

معاون اول محترم ریاست جمهوری

با توجه به ظهور فناوری هوش مصنوعی، سرمایه‌گذاری جهانی در این فناوری شدت گرفته به شکلی که تمامی قدرت‌های فناوری و شرکت‌های فناور در جهان با جدیت وارد رقابت این فناوری نوظهور شده‌اند. اذعان تمامی کارشناسان، ارقام سرمایه‌گذاری و نتایج محیرالعقول این فناوری در چند سال اخیر نشان می‌دهد هوش مصنوعی در اداره آینده‌ی جهان نقشی کلیدی خواهد داشت و اکثر ابعاد زندگی و اقتصاد بشریت را دستخوش تغییرات جدی خواهد کرد. مضاف بر این، اشاره مستقیم و صریح رهبر انقلاب به این فناوری در دیدار اول هیئت دولت چهاردهم با ایشان نیز فوریت توجه به این فناوری اقتدارآفرین را بیش از پیش عیان می‌کند.

در عصر رقابت فناوری، کشور‌هایی که به توسعه و بکارگیری فناوری بها می‌دهند، در عرصه‌های علمی و صنعتی پیشتاز خواهند بود و نه‌تنها آینده‌ی اقتصادی خود را تضمین می‌کنند، بلکه به بازیگران اصلی در سیاست‌گذاری‌های بین‌المللی تبدیل می‌شوند. در مقابل، کشور‌هایی که از این موج تحول‌آفرین و توسعه غافل بمانند، با چالش‌های جبران‌ناپذیری مواجه خواهند شد که تجربه آن در عرصه فناوری‌های دیجیتال، صنعت هسته‌ای، اینترنت، شبکه‌های اجتماعی و... برای کشور قابل مشاهده و ملموس است. رویکرد تنظیم‌گری صرف در برخی از آنها علاوه بر اینکه باعث وابستگی شدید به واردات کالاها، خدمات و محصولات خارجی شده است، تبعات اقتصادی، سیاسی، اجتماعی و حتی گا‌ها تبعات امنیتی نیز در پی داشته است.

همانطور که مستحضرید «سند ملی هوش مصنوعی» مورخ ۱۴۰۳/۳/۲۹ به تصویب شورای عالی انقلاب فرهنگی رسید. در راستای اجرای این سند، به عنوان نخستین قانون مرتبط با فناوری هوش مصنوعی، «شورای ملی راهبری هوش مصنوعی» و «سازمان ملی هوش مصنوعی» تشکیل شدند. در تاریخ ۳۰ آبان ماه ۱۴۰۳، رئیس جمهور محترم در دولت چهاردهم، طی ابلاغیه‌ای به معاونت علمی و فناوری ریاست جمهوری، مهلتی سه‌ماهه برای ارائه اساسنامه سازمان ملی هوش مصنوعی به هیئت دولت جهت تصویب تعیین نمودند. با این حال، پس از گذشت مهلت مقرر، نه تنها اساسنامه سازمان ملی هوش مصنوعی هنوز تدوین نشده، بلکه طبق اخبار واصله، تخصیص بودجه این سازمان با مشکل مواجه شده و ادامه فعالیت این سازمان را در هاله‌ای از ابهام قرار داده است. با توجه به اهمیت موضوع، اینچنین تعلل در اجرای سند ملی هوش مصنوعی توسط نهاد‌های مسئول باعث برانگیخته شدن تشکل‌های دانشجویی و نخبگان شده است.

بی‌توجهی به هوش مصنوعی به عنوان پرچم‌دار حرکت فناوری در کشورها، در آینده نه‌چندان دور، نتیجه‌ای مانند تجربیات گذشته را در زمینه اینترنت و فناوری دیجیتال در پی خواهد داشت. این درحالیست که اثرگذاری این فناوری به مراتب برجسته‌تر از فناوری‌هایی مانند نانو و … است و در توان‌بخشی به کشور همچون انرژی هسته‌ای عمل می‌کند.

تضعیف ساختار‌های موجود و نبود یک سازمان و نهاد متمرکز به عنوان راهبر این حرکت و عدم نگاه راهبردی و کاربردگرایی در کنار عدم پاسخگویی دیگر ارگان‌های پر مشغله مانند معاونت علمی و فناوری ریاست جمهوری و وزارت ارتباطات و فناوری اطلاعات، باعث از بین رفتن فرصت‌های موجود شده است. متاسفانه در سه سال گذشته بعد از فرمان رهبر انقلاب و تاکید ایشان به اهمیت این فناوری کلیدی در اداره آینده جهان (۱۴۰۰/۰۸/۲۶) حرکت قابل قبولی در این زمینه انجام نشده و با توجه به رشد محیرالعقول این فناوری در جهان، فرصت فعالیت و ورود به رقابت در این حوزه بسیار محدودتر از قبل به نظر می‌رسد. همچنین توسعه پایدار این فناوری برای کشور بسیار حیاتی بشمار می‌رود که در صورت به‌تعویق‌اندازی پیامد‌های ناگوار و غیر قابل جبرانی برای کشور خواهد داشت.

با توجه به خروجی اقدامات صورت گرفته، متاسفانه نگاه دولت به این فناوری انقلابی، کلیدی و اقتدارآفرین، اضطراری و راهبردی ارزیابی نمی‌شود. در نتیجه، اهتمام انقلابی جنابعالی به عنوان سکان‌دار دولت در حوزه هوش مصنوعی و میراث‌دار نسل‌های آینده تمدن نوین ایرانی-اسلامی بیش از پیش حیاتی است.

به عنوان تشکل دانشجویی دغدغه‌مند این فناوری نوظهور و اقتدارآفرین و دانشجوی مرتبط با حوزه تخصصی هوش مصنوعی، انتظار داریم موارد ذیل مورد توجه قرار گیرد:

اراده جدی و همه‌جانبه حاکمیت می‌بایست مبنی بر توسعه لایه‌های عمیق و نفی جدی رویکرد بهره‌برداری و کاربرد صرف در این حوزه باشد و رویکرد مصرف‌گرایانه و ضد توسعه نسبت به هوش مصنوعی در تمامی ارگان‌های نظام، ناصحیح و غیر راهبردی است. غفلت از موضوع توسعه لایه‌های عمیق می‌تواند منجر به تکرار تجربه تلخ "کنار گذاشته شدن از روند توسعه و وابستگی کشور به قدرت‌های خارجی در سایر فناوری ها" شود.

تعلل در اجرای قانون و عدم ارائه اساسنامه سازمان ملی هوش مصنوعی توسط معاونت علمی ریاست جمهوری قابل قبول نبوده و مصداق "ترک فعل" تلقی می‌شود؛ توجه و فهم دولت نسبت به این فناوری می‌بایست سمت و سوی راهبردی‌تری بگیرد و با الگو گرفتن از کشور‌های پیشرو (تاسیس وزارتخانه مرتبط و سازمان‌های رده بالای حاکمیتی) توقف "حیات نباتی" سازمان ملی هوش مصنوعی و اجرای پرشتاب سند ملی هوش مصنوعی پیگیری شود.

پیگیری تصویب فوری قانون "طرح ملی هوش مصنوعی" در مجلس شورای اسلامی به عنوان فصل الخطاب و مکمل قوانین و اسناد موجود در این حوزه نیز انتظار می‌رود تا توسعه این فناوری توانبخش و امیدآفرین در کشور شتاب و سرعت بیشتری بگیرد.

رهبر انقلاب: «هر ملّتی که امروز در زمینه‌ی این دانش‌های جدید... عقب بیفتد، سرنوشتش، سرنوشت آن ملّتهایی است که در آغاز انقلاب صنعتی عقب افتادند و سرنوشتشان شد استعمارزدگی، شد زیر دست بودن، شد فقیر ماندن، شد ذلیل شدن.» ۱۳۹۷/۱۱/۳

کارگروه تخصصی هوش مصنوعی بسیج دانشجویی دانشکده مهندسی برق و کامپیوتر دانشگاه تهران

رونوشت به:

وزارت ارتباطات و فناوری اطلاعات

معاونت علمی و فناوری ریاست جمهوری

سازمان ملی هوش مصنوعی

رئیس فراکسیون هوش مصنوعی مجلس با اشاره به برنامه‌های مجلس برای هوش مصنوعی نکاتی را بیان کرد.

رضا تقی پور رئیس فراکسیون هوش مصنوعی مجلس و عضو شورای عالی فضای  مجازی در گفت‌و‌گو با باشگاه خبرنگاران جوان با اشاره به برنامه‌های مجلس برای هوش مصنوعی گفت: ما در مجلس یازدهم فراکسیون هوش مصنوعی و داده را داشتیم که در جلسات متعدد مسائل مختلف در زمینه هوش مصنوعی را بررسی کردیم.  در نتیجه جلسات برگزار شده چند حکم در قانون برنامه هفتم پیش بینی شد.

در شورای عالی فضای مجازی در زمینه کلیات هوش بحث شده است

وی ادامه داد: در مجلس دوازدهم این فراکسیون به عنوان فراکسیون هوش مصنوعی و فناوری دانش بنیان داریم که جلساتش در حال برگزاری است. همکاران ما در این دوره طرح ساماندهی هوش مصنوعی را آماده کردند که در حال نهایی شدن است. این طرح دارای ۱۴ ماده است که مهمترین مسائل هوش مصنوعی در کشور را در بر میگیرد. از جمله تقسیم کاری که هریک از سازمان‌ها برعهده دارند.

تقی پور در  پاسخ به سوالی درباره وظایف شورای عالی فضای مجازی در زمینه هوش مصنوعی افزود: هوش مصنوعی جز دانش‌هایی قرار دارد که در حوزه کاری شورای عالی فضای مجازی قرار دارد. در شورای عالی فضای مجازی در زمینه کلیات هوش بحث شده است.  مقدمات راه اندازی سازمان هوش مصنوعی انجام شده و امیدواریم که این سازمان بتواند هماهنگی‌های لازم را با تصویب سریع این قانون در مجلس انجام بدهد.

رئیس فراکسیون هوش مصنوعی مجلس ادامه داد: در گام اول به جرم انگاری پرداخته نشده است ما در این حوزه به قوانین متعددی نظیر حکمرانی داده‌ها و نحوه ارائه خدمات لازم داریم. در دوره دوازدهم مجلس باید این گام‌ها برداشته و نهایی شوند.

رفع فیلترینگ در دست بررسی است

وزیر ارتباطات پیشین با اشاره به رفع فیلترینگ افزود: با پیشنهاد آقای رئیس جمهور و هیات دولت در شورای عالی فضای مجازی در حال بحث است.  در کل دنیا فعالیت پلتفرم‌ها در چهارچوب قوانین کشور است و این توافق نامه‌ها در کشور‌های متعددی وجود دارد. شاهد برخورد آمریکا با تیک تاک هم در این زمینه بودیم. در مصوبات شورای عالی فضای مجازی شرایط برای سایر سکو‌ها اعلام شده است.

وی با اشاره به قوانین ایران برای سکو‌ها بیان کرد: اینها باید در خواست خود را مطرح کنند و در نهایت بیش از چند هزار سکو داریم که در کشور فعال هستند و نباید کل فضای مجازی را منحصر بدانیم در چند سکویی که برای خود مقررات خاصی قائلند. سکو‌های داخلی بدون قید و شرط در حال حمایت هستند، زیرا شرایط کلی کشور توسعه پیام رسان هاست و استفاده امن از آنها. در دولت سیزدهم حمایت‌ها از سکو ها‌ی داخلی بسیار فراگیر بود اکنون هم در دولت چهاردهم این حمایت‌ها ادامه دارد.  در رقابت سکو‌های داخلی و خارجی همه مردم باید کمک کنند تا مانند صنایع دیگر این‌ها نیز حمایت شوند.

بر اساس هشدارهای کارشناسان، اطلاعات پنج‌گانه‌ای وجود دارد که نباید در گفت‌وگو با چت‌بات‌ها به آن‌ها پرداخته شود چرا که ممکن است این اطلاعات در فرآیند آموزش مدل‌ها، اشتباهات سیستمی و یا حتی در حملات سایبری مورد سوءاستفاده قرار بگیرند.

به گزارش اطلاعات آنلاین، در ماه‌های اخیر چت‌جی‌پی‌تی به یکی از ابزارهای محبوب برای پاسخ به سوالات و کمک در امور مختلف روزمره تبدیل شده است. اگرچه این ابزار مبتنی بر هوش مصنوعی می‌تواند بسیار مفید باشد اما برخی پژوهشگران هشدار می‌دهند که همه چیز را نباید با آن در میان گذاشت.

چت‌ جی‌پی‌تی، محصول شرکت اوپن ای‌آی، برای بسیاری از کاربران حکم یک دستیار دیجیتال را دارد که می‌تواند متن بنویسد، کد تصحیح کند، نتایج پزشکی را تحلیل کند و حتی کمک کند کودکی را بخوابانند. اما در پشت این پاسخ‌های صمیمی، الگوریتم‌هایی قرار دارند که از هر تعامل چیزهایی می‌آموزند.

در طول این سال‌ها چت‌ جی‌پی‌تی نه‌تنها یاد گرفته که مثلا شما عاشق تخم‌مرغ هستید و کمردرد دارید، بلکه جزئیات بسیار شخصی‌تر از شما را نیز به خاطر سپرده است. در واقع ابزارهایی مانند چت‌ جی‌پی‌تی با هدف شخصی‌سازی پاسخ‌ها و بهبود عملکرد آتی خودشان، جزئیات فردی بسیاری را، از وضعیت جسمی کاربران گرفته تا برخی مسائل بسیار خصوصی، به حافظه می‌سپارند.

اگرچه کاربران می‌توانند این قابلیت را از طریق تنظیمات غیرفعال کنند، با این حال از آن‌جا که شمار زیادی از افراد در این باره بی‌تفاوت هستند اطلاعات بسیار زیادی می‌تواند در اختیار چت‌ جی‌پی‌تی گذاشته شود.

چه چیزی را نباید به ChatGPT گفت؟ و چرا؟

بر اساس هشدارهای کارشناسان، اطلاعات پنج‌گانه‌ای وجود دارد که نباید در گفت‌وگو با چت‌بات‌ها به آن‌ها پرداخته شود چرا که ممکن است این اطلاعات در فرآیند آموزش مدل‌ها، اشتباهات سیستمی و یا حتی در حملات سایبری مورد سوءاستفاده قرار بگیرند.

این اطلاعات عبارتند از:

اطلاعات هویتی: مانند شماره شناسنامه، گواهینامه، گذرنامه، آدرس، شماره تلفن و تاریخ تولد. برخی چت‌بات‌ها تلاش می‌کنند این موارد را سانسور کنند، اما تضمینی وجود ندارد.

نتایج آزمایشات پزشکی: چت‌بات‌ها مشمول قوانین سختگیرانه محافظت از داده‌های درمانی نیستند. در صورت نیاز، فقط نتایج آزمایشات را بدون اطلاعات هویتی بارگذاری کنید.

اطلاعات مالی: مانند شماره حساب‌های بانکی یا سرمایه‌گذاری، که در صورت افشای ناخواسته می‌توانند تبعات جدی داشته باشند.

اطلاعات محرمانه‌ سازمانی: بسیاری از کاربران در حین کار از چت‌بات‌ها برای نوشتن ایمیل یا بررسی کد استفاده می‌کنند، اما همین کار می‌تواند اطلاعات حساس کاری یا کدهای محرمانه را فاش کند.

رمزهای عبور و نام‌ کاربری: چت‌بات‌ها فضای امن برای ذخیره رمز یا گاوصندوق دیجیتال نیستند. این اطلاعات باید در نرم‌افزارهای مدیریت رمز عبور نگهداری شوند.

شرکت‌های بزرگی چون اوپن ای‌آی، گوگل و مایکروسافت از مکالمات کاربران برای بهبود مدل‌های خود استفاده می‌کنند. اگرچه کاربران می‌توانند در تنظیمات گزینه عدم استفاده از داده‌ها برای آموزش را فعال کنند، اما بسیاری از افراد از این قابلیت بی‌خبر هستند.

راه‌هایی برای حفظ حریم خصوصی با هوش مصنوعی

کارشناسان امنیت سایبری پیشنهاد می‌کنند برای حفظ حریم شخصی، اقدامات زیر را انجام دهید:

از حالت چت موقت استفاده کنید: ویژگی «چت موقت» (Temporary Chat) در چت‌جی‌پی‌تی مانند حالت ناشناس مرورگر عمل می‌کند و مانع از ذخیره مکالمه‌ها و استفاده از آن‌ها در آموزش مدل‌ها می‌شود.

مکالمه‌ها را حذف کنید: می‌توانید پس از پایان هر گفت‌وگو، آن را از تاریخچه حذف کرده و مطمئن شوید پس از ۳۰ روز اطلاعات کاملا پاک می‌شود.

از ابزارهای ناشناس‌سازی استفاده کنید: موتور جست‌وجوی داک‌داک‌گو (DuckDuckGo) ابزاری به نام داک‌ای‌آی (Duck.ai) ارائه کرده که پیام‌ها را به‌صورت ناشناس برای مدل‌های هوش مصنوعی ارسال می‌کند؛ هرچند امکانات محدودی نسبت به چت‌بات‌های کامل دارد.

در نهایت، این شما هستید که باید تصمیم بگیرید چه چیزی را به اشتراک بگذارید و چه چیزی را نگه دارید. به عبارت دیگر چت‌بات‌ها برای ادامه دادن مکالمات طراحی شده‌اند، اما اختیار نهایی همچنان در دستان شماست.