ITanalyze

تحلیل وضعیت فناوری اطلاعات در ایران :: Iran IT analysis and news

ITanalyze

تحلیل وضعیت فناوری اطلاعات در ایران :: Iran IT analysis and news

  عبارت مورد جستجو
تحلیل وضعیت فناوری اطلاعات در ایران

۵۶۷ مطلب با کلمه‌ی کلیدی «هوش مصنوعی» ثبت شده است

تحلیل


«چت‌جی‌پی‌تی» از «ویکی‌پدیا» جلو زد

شنبه, ۴ خرداد ۱۴۰۴، ۰۵:۰۱ ب.ظ | ۰ نظر

یک نمودار نشان می‌دهد که درصد کاربران اینترنت که از «چت‌جی‌پی‌تی » بازدید می‌کنند، در دو سال گذشته از «ویکی‌پدیا» پیشی گرفته است.

به گزارش ایسنا، داده‌هایی که توسط «شرکت GWI» در بریتانیا جمع‌آوری شده‌اند، نشان می‌دهند استفاده کاربران از «ویکی‌پدیا» در سراسر جهان کاهش یافته و به نظر می‌رسد استفاده از «چت‌جی‌پی‌تی»(ChatGPT) در کمتر از یک سال پس از راه‌اندازی در اواخر سال ۲۰۲۲، از این دانشنامه آنلاین پیشی گرفته است.

به نقل از فیوچریسم، این داده‌ها، دلیلی برای نگرانی در مورد اعتبار اطلاعاتی است که مردم به دنبال آن در اینترنت هستند. اگرچه «ویکی‌پدیا» هرگز به عنوان منبعی بی‌عیب و نقص و عاری از تعصب یا نادرستی شناخته نشده اما «هوش مصنوعی مولد»(generative AI) به دلیل توهمات و تعصبات گسترده موجود در داده‌های آموزشی خود، بیشتر غیر قابل اعتماد است. همچنین، در حالی که ویکی‌پدیا بر اساس ارجاعات برجسته ساخته شده است، سامانه‌های هوش مصنوعی مانند چت‌جی‌پی‌تی اغلب برای توضیح منبع اطلاعات خود تلاش می‌کنند و حتی منابع را جعل می‌کنند.

ویکی‌پدیا، ارتشی متشکل از بیش از ۴۹ میلیون ویرایشگر انسانی دارد که صحت ۶۴ میلیون مقاله در سراسر جهان را تضمین می‌کنند. در مقابل، هنوز مشخص نیست که «مدل‌های زبانی بزرگ»(LLM) پشتیبان چت‌جی‌پی‌تی دقیقاً با چه داده‌هایی آموزش داده شده‌اند.  با وجود این، به احتمال زیاد این سامانه حاوی داده‌هایی است که مستقیماً از ویکی‌پدیا استخراج شده‌اند.

«کریس بیر»(Chris Beer) روزنامه‌نگار ارشد داده‌ها در «GWI»، گفت: چت جی‌پی‌تی شاهد افزایش ۳۶ درصدی کاربران از سه ماهه چهارم سال ۲۰۲۳ تا سه ماهه چهارم سال ۲۰۲۴ بوده است، در حالی که سایر پلتفرم‌های آنلاین ثابت مانده‌اند یا شاهد افزایش یا کاهش درصد کمی بودند. این پلتفرم سریع‌تر از تقریباً هر پلتفرم دیگری در تاریخ، به بخش بیشتری از اینترنت دسترسی پیدا کرد.

چت‌جی‌پی‌تی که به عنوان سریع‌ترین برنامه در حال رشد در تاریخ محاسبات نامگذاری شده، به سرعت به یک پدیده جهانی تبدیل شده است. بیر گفت: بر اساس تحقیقات ما، چت‌جی‌پی‌تی در واقع در جنوب جهان محبوب‌تر است. بازارهایی که بالاترین میزان پذیرش آن را می‌بینیم شامل کنیا، هند، امارات متحده عربی و برزیل است.

با وجود این، نتیجه‌گیری قطعی برای دانشمندان در غیاب بررسی دقیق‌تر آمار واقعی استفاده کاربران، دشوار است.

سخنگوی سازمان غیرانتفاعی «ویکی‌مدیا»(Wikimedia)  که ویکی‌پدیا را اداره می‌کند، گفت: ما از اوایل سال ۲۰۲۱ هیچ کاهش قابل توجهی در ترافیک وب‌سایت‌های ویکی‌مدیا از نظر بازدید از صفحات و ترافیک خوانندگان مشاهده نکردیم و بررسی‌های ما نشان می‌دهد که بازدید از صفحات ویکی‌پدیا تقریباً ۱۵ میلیارد در ماه است.

به عبارت دیگر، این سازمان می‌گوید که ترافیک ویکی‌پدیا ثابت است. اما داده‌های GWI و دیگران نشان می‌دهد که استفاده از چت جی‌پی‌تی به سرعت از آن پیشی گرفته است.

ویکی‌پدیا در حال حاضر از نظر ترافیک در مقایسه با سایر سایت‌ها در رتبه دهم جهانی قرار دارد؛ در حالی که چت جی‌پی‌تی در حال حاضر با بیش از ۴/۵ میلیارد بازدید ماهانه در رتبه ششم قرار دارد.

بیر گفت: من فکر می‌کنم روند نزولی طولانی‌مدت برای ویکی‌پدیا عمدتاً ناشی از این است که موتورهای جستجو پاسخ‌های بدون کلیک بیشتری را اضافه می‌کنند؛ در حالی که پیشتر ممکن بود یک صفحه ویکی‌پدیا را به عنوان نتیجه نهایی نشان دهند اما اکنون احتمال بیشتری وجود دارد که یک پیش‌بینی آب و هوا یا قد یک فرد مشهور یا هر چیز دیگری را در خود گوگل ببینید.

این مطالعه نشان می‌دهد که چگونه چت جی‌پی‌تی و فناوری‌های مرتبط در عرض چند سال بسیار فراگیر شده‌اند.  دولت ترامپ در ماه گذشته، وضعیت معاف از مالیات ویکی‌پدیا را تهدید کرد و این بنیاد را متهم کرد که از طریق ادعاهای بی‌اساس درباره انتشار تبلیغات توسط این دانشنامه، قانون را نقض می‌کند.

ویکی‌مدیا در بیانیه‌ای در آن زمان اعلام کرد: ویکی‌پدیا یکی از مکان‌های آنلاین است که پاسخ نهایی اینترنت را نشان می‌دهد و بیش از ۶۵ میلیون مقاله را در خود جای داده است که برای اطلاع‌رسانی و نه متقاعد کردن، نوشته شده‌اند. چشم انداز ما جهانی است که در آن هر انسانی بتواند آزادانه در مجموع تمام دانش‌ها سهیم باشد.

عباس پورخصالیان - چند ماه است که در آپارات و یوتیوب، مصاحبه‌هایی با تعدادی از دانشگاهیان و نخبگان ایرانی را به اشتراک می‌گذارند با محوریت هوش مصنوعی. خلاصۀ کلام پیامبرگونۀ مصاحبه شوندگان این است که:

خاورمیانه آزمایشگاه جنگ‌های هوش مصنوعی

دوشنبه, ۳۰ ارديبهشت ۱۴۰۴، ۰۱:۴۱ ب.ظ | ۰ نظر

علی شمیرانیدر صبح سرد نوامبر ۱۹۱۱، ستوان جولیو گاوتی، خلبان ایتالیایی، از کابین هواپیمای تک‌بال بر فراز بیابان‌ها و زمین‌های کشاورزی لیبی امروزی خم شد و چهار نارنجک کوچک به سوی اردوگاه سربازان عثمانی پرتاب کرد. این بمباران که در رسانه‌های بین‌المللی به ‌طور گسترده پوشش داده شد،

هوش مصنوعی، اینترنت بدون کلیک و آینده وب

يكشنبه, ۲۹ ارديبهشت ۱۴۰۴، ۰۴:۵۶ ب.ظ | ۰ نظر

جهان در آستانه مرحله‌ای تازه از تکامل وب قرار دارد؛ مرحله‌ای که در آن هوش مصنوعی و پدیده اینترنت بدون کلیک (Zero-Click Internet) در حال بازتعریف قواعد بازی هستند.

به گزارش مهر وب، از زمان تولد خود در اوایل دهه ۱۹۹۰ تاکنون، دستخوش تحولاتی بنیادین و چندمرحله‌ای بوده است. در گام نخست، وب ایستا (Static Web) تنها بستری برای نمایش اطلاعات از سوی ناشران محدود بود و مخاطبانی داشت که عمدتاً در نقش دریافت‌کننده صرف ظاهر می‌شدند.

با ظهور وب ۲.۰ در اوایل دهه ۲۰۰۰، کاربران به بازیگران فعال در فضای دیجیتال تبدیل شدند؛ تولید محتوا، تعامل در شبکه‌های اجتماعی، مشارکت در پلتفرم‌های اشتراکی و اقتصاد مبتنی بر کلیک (Click Economy) به‌تدریج شکل گرفت.

این مرحله که با رشد انفجاری ابزارهای انتشار آنلاین و گسترش زیرساخت‌های دیجیتال همراه بود، ساختاری نسبتاً پایدار برای تولید و مصرف محتوا پدید آورد.

اما اکنون، جهان در آستانه مرحله‌ای تازه از تکامل وب قرار دارد؛ مرحله‌ای که در آن هوش مصنوعی و پدیده اینترنت بدون کلیک (Zero-Click Internet) در حال بازتعریف قواعد بازی هستند. در این عصر نوین، نه‌تنها شکل تعامل کاربران با محتوای آنلاین تغییر یافته، بلکه سازوکار تولید، توزیع و حتی ارزش‌گذاری محتوا نیز دگرگون شده است. در مقطع کنونی، کاربران دیگر نیازی ندارند برای یافتن پاسخ، به منابع اولیه رجوع کنند و پاسخ‌ها توسط مدل‌های زبانی بزرگ یا موتورهای جست‌وجوی بهینه‌شده با هوش مصنوعی به‌صورت فوری و بی‌واسطه ارائه می‌شوند.

اظهارات اخیر متیو پرینس، مدیرعامل شرکت «Cloudflare»، یکی از بزرگ‌ترین ارائه‌دهندگان خدمات امنیتی و زیرساختی در فضای وب نیز مؤید ظهور بحرانی گسترده است که در آن هوش مصنوعی مدل اقتصادی وب را نابود می‌کند. این هشدار، بازتاب‌دهنده زوال تدریجی سازوکاری است که بیش از ۱۵ سال مبتنی بر پیوند میان محتوا و ترافیک ارجاعی از موتورهای جست‌وجو بوده است. در این مدل، موتورهای جست‌وجو نه‌تنها کاربران را به سمت محتوای تولیدشده هدایت می‌کردند، بلکه از طریق تبلیغات، زنجیره اقتصادی پایداری برای بسیاری از وب‌سایت‌ها فراهم می‌آوردند.

این نوشتار کوتاه با اتکا به داده‌ها و شواهد موجود، به بررسی تأثیرات گسترده توسعه فناوری هوش مصنوعی بر ساختار اقتصادی وب می‌پردازد و می‌کوشد تصویری روشن از فرصت‌ها و تهدیدهای پیش‌رو برای بازیگران حوزه محتوای دیجیتال ترسیم کند.

تحول مدل اقتصادی وب؛ از اقتصاد مبتنی بر کلیک تا اینترنت بدون کلیک

مدل اقتصادی غالب بر وب طی دهه‌های گذشته، متکی بر تبلیغات مبتنی بر کلیک بوده است. تولیدکنندگان محتوا، اعم از رسانه‌ها، وبلاگ‌نویسان و نهادهای آموزشی با بهینه‌سازی برای موتورهای جست‌وجو (SEO)، تلاش می‌کردند تا کاربران بیشتری جذب کرده و از این طریق درآمدزایی نمایند. موتورهای جست‌وجو نیز به‌عنوان واسط میان نیاز اطلاعاتی کاربر و محتوای وب، نقشی کلیدی در این سازوکار ایفا می‌کردند.

اما با ظهور شبکه‌های اجتماعی و سپس مدل‌های هوش مصنوعی مولد، این زنجیره به صورت جدی مختل شده است. در «اینترنت بدون کلیک»، کاربر پاسخ پرسش خود در صفحه نتایج گوگل را از طریق چت‌بات‌هایی مانند «ChatGPT» یا «Gemini»، بدون نیاز به مراجعه به سایت مقصد دریافت می‌کند.

طبق اظهارات پرینس، امروزه ۷۵ درصد جست‌وجوها در گوگل بدون خروج کاربر از پلتفرم پاسخ داده می‌شود. این روند کاهش چشمگیر ترافیک ارجاعی برای وب‌سایت‌ها را به همراه داشته و درآمد مستقیم آن‌ها را به شکل محسوسی کاهش داده است. اگر در گذشته، به ازای ایندکس شدن دو صفحه، یک بازدیدکننده به سایت وارد می‌شد، امروز این نسبت به ازای شش صفحه به یک بازدید کاهش یافته است.

هوش مصنوعی و بهره‌برداری از محتوا بدون پرداخت هزینه

یکی از مهم‌ترین نگرانی‌ها درباره هوش مصنوعی مولد، بهره‌برداری آن از محتوای وب در آموزش مدل‌های زبانی بدون پرداخت هزینه محتوا است. وب‌سایت‌های خبری، بلاگ‌ها، انجمن‌های تخصصی و سایر تولیدکنندگان محتوا در سال‌های اخیر بدون وجود سازوکارهای شفاف یا قراردادهای رسمی، به منابع تغذیه برای مدل‌های هوش مصنوعی بدل شده‌اند.

پرینس با اشاره به این موضوع، تأکید می‌کند که مدل‌های زبانی بزرگ با بهره‌گیری از محتوای وب آموزش می‌بینند، درحالی‌که در اغلب موارد، نه جبران مالی و نه ترافیکی برای صاحبان آن محتوا حاصل می‌شود. وی معتقد است که نتیجه این روند، کاهش انگیزه تولیدکنندگان برای تولید محتوای تازه و باکیفیت خواهد بود.

بحران رسانه‌های مستقل و تنوع اطلاعاتی

این تهدید به‌ویژه برای رسانه‌های مستقل، وب‌سایت‌های کوچک و منابع بی‌طرف اطلاعاتی بسیار نگران‌کننده است. برخلاف سازمان‌های رسانه‌ای بزرگ که ممکن است با شرکت‌های هوش مصنوعی قراردادهایی منعقد کنند، بازیگران کوچک‌تر این حوزه اغلب در حاشیه قرار می‌گیرند. از سوی دیگر، فقدان شفافیت در مورد منشأ داده‌های مورد استفاده در آموزش مدل‌ها، مسئله مالکیت معنوی را نیز بغرنج‌تر از گذشته کرده است.

به عقیده بسیاری از کارشناسان، ادامه این روند می‌تواند منجر به همگن‌سازی محتوا، کاهش تنوع دیدگاه‌ها و تقویت انحصار پلتفرم‌های بزرگ بر اطلاعات شود. وقتی اطلاعات فقط از طریق پاسخ‌های فشرده و پردازش‌شده ارائه می‌شود، فرصت کشف منابع جدید، تحلیل‌های متفاوت و گفتمان چندصدایی به حاشیه رانده می‌شود.

پاسخ صنعت فناوری و چشم‌انداز تنظیم‌گری

برخی بازیگران بزرگ حوزه فناوری همچون «OpenAI» و گوگل در واکنش به نگرانی‌های مطرح شده، اخیراً اعلام کرده‌اند که در پی همکاری با ناشران بزرگ برای پرداخت بهای محتوای مورد استفاده خود هستند. به عنوان مثال، سم آلتمن، مدیر عامل شرکت «OpenAI»، بارها صراحتاً مدعی شده است که نمی‌خواهد شرکتش تنها بهره‌بردار رایگان از محتوای وب باقی بماند.

در همین راستا، شرکت «Cloudflare» که ۸۰ درصد شرکت‌های هوش مصنوعی از خدمات آن بهره می‌برند نیز در حال بررسی راه‌حل‌هایی برای بازتعریف جریان ترافیک وب و تدوین مدل‌های اقتصادی جدید است. این راهکارها شامل ابزارهای محدودسازی خزنده‌ها، قراردادهای اشتراک درآمد و توسعه پروتکل‌های مدیریت داده می‌شوند.

از سوی دیگر، برخی فعالان نیز پیشنهاد می‌کنند که تنظیم‌گران ملی و بین‌المللی باید برای تضمین عدالت در استفاده از داده‌های وب وارد عمل شوند. این دخالت می‌تواند شامل مقررات الزام‌آور برای جبران مالی، شفاف‌سازی منشأ داده‌ها و ثبت رسمی مدل‌ها برای رعایت حقوق مالکیت معنوی باشد.

وب آینده: سازوکاری مشارکتی یا متمرکز؟

آیا وب همچنان بستری باز، مشارکتی و متنوع باقی خواهد ماند یا به قلمرویی متمرکز بدل خواهد شد که در آن تنها چند پلتفرم بزرگ، نیاز اطلاعاتی میلیاردها کاربر را پاسخ می‌دهند؟ پاسخ به این پرسش وابسته به مجموعه‌ای از تصمیمات فناورانه، اقتصادی و حقوقی است که امروز باید از سوی سیاست‌گذاران اتخاذ شوند.

در جهان امروز، همزیستی وب و هوش مصنوعی امری اجتناب‌ناپذیر است، اما این همزیستی می‌تواند همکارانه و سازنده باشد یا رقابتی و فرساینده. بسیاری از متخصصان بر این باورند که در صورتی که چارچوب‌هایی برای حمایت از تولیدکنندگان محتوا، شفافیت داده و بازتوزیع منافع ایجاد نشود، بنیان‌های دموکراتیک وب در معرض خطر خواهد بود.

جمع‌بندی

هوش مصنوعی، با تمام قابلیت‌های تحول‌آفرین خود، اکنون یکی از بزرگ‌ترین تهدیدها برای پایداری مدل اقتصادی وب به‌شمار می‌رود. ظهور اینترنت بدون کلیک، هرچند موجب تسهیل و تسریع دسترسی کاربران به اطلاعات شده، اما هم‌زمان نظام انگیزشی تولید محتوا را به‌شدت تضعیف کرده است. زمانی که کاربران پاسخ خود را مستقیماً از صفحه جست‌وجو یا یک چت‌بات دریافت می‌کنند، دیگر نیازی به کلیک بر منابع اصلی نمی‌بینند و این، همان نقطه بحرانی است که مدل درآمدزایی وب را تهدید می‌کند.

واقعیت این است که بدون بازدیدکننده، محتوایی تولید نخواهد شد و بدون محتوا، بنیان اطلاعاتی وب فرو خواهد پاشید. این زنجیره‌ی به‌هم‌پیوسته که بر پایه مشارکت تولیدکنندگان، توزیع‌کنندگان و مصرف‌کنندگان محتوا بنا شده بود، امروز به واسطه استفاده گسترده و بدون پرداخت هزینه از داده‌های عمومی برای آموزش مدل‌های زبانی دچار اختلال شده است. اگر این روند ادامه یابد، نه‌تنها تولید محتوای اصیل و باکیفیت کاهش خواهد یافت، بلکه تنوع دیدگاه‌ها و استقلال منابع اطلاعاتی نیز به‌خطر می‌افتد.

از همین روی و به منظور حفظ تنوع، استقلال و پویایی این بستر، باید توازن تازه‌ای میان بهره‌برداری از داده‌ها و حقوق مشروع تولیدکنندگان برقرار شود. این توازن مستلزم شفاف‌سازی منشأ داده‌ها، طراحی قراردادهای عادلانه با تولیدکنندگان و ایجاد نظام‌های جبران مؤثر است. در غیر این صورت، اکوسیستم وب با تمرکز بیش از حد بر چند پلتفرم بزرگ، به‌تدریج به فضایی بسته و کنترل‌شده تبدیل خواهد شد.

تحقق این هدف نیازمند هم‌افزایی واقعی میان صنعت فناوری، نهادهای قانون‌گذار، جامعه مدنی و حتی خود کاربران است؛ تحولی باید با هدف ایجاد سازوکارهایی پایدار برای تأمین حقوق همه ذی‌نفعان و نه صرفاً بهره‌برداری حداکثری از داده‌ها، طراحی شود. در نهایت، می‌توان نتیجه گرفت که آینده وب نه‌فقط به نوآوری‌های فناورانه بلکه به اراده جمعی برای حفظ ارزش‌های بنیادین این بستر وابسته است.

آمریکا در دوراهی قانونمندی هوش مصنوعی

يكشنبه, ۲۹ ارديبهشت ۱۴۰۴، ۰۴:۵۴ ب.ظ | ۰ نظر

گروهی از نمایندگان مجلس آمریکا طی لایحه ای خواستار ممنوعیت قانونگذاری در حوزه هوش مصنوعی تا ۱۰ سال آینده شده اند اما این امر با قوانینی که ایالت ها وضع کرده اند، تضاد دارد.

به گزارش خبرگزاری مهر به نقل از رویترز، لایحه پیشنهادی نمایندگان جمهوریخواه مجلس آمریکا برای جلوگیری از وضع قوانین هوش مصنوعی تا ۱۰ سال آینده با مخالفت دادستان‌های کل کالیفرنیا، نیویورک، اوهایو و ایالت‌های دیگری که استفاده پرخطر از این فناوری را قانونمند کرده‌اند، روبرو شده است.

این ماده در لایحه کاهش مالیات دونالد ترامپ رئیس جمهور آمریکا گنجانده شده و برقوانین و مقررات هوش مصنوعی که اخیراً در چند ایالت وضع شده، حق تقدم دارد.

گروهی شامل ۴۰ دادستان کل ایالت از جمله اوهایو، تنسی، آرکانزاس، یوتا و ویرجینیا از کنگره خواسته‌اند تا این ماده را لغو کند. آنها در این باره می‌گویند: وضع تعلیقی وسیع بر تمام اقدامات ایالتی آن‌هم در حالی که کنگره نتوانسته در این حوزه اقداماتی انجام دهد، بی مسئولیتی است و مصرف کنندگان را از اقدامات محافظتی معقولانه محروم می‌کند.

دادستان کل ایالت کالیفرنیا که برجسته‌ترین شرکت‌های هوش مصنوعی از جمله اوپن ای آی، آلفابت، متا پلتفرمز و آنتروپیک در آن حضور دارند نیز نامه‌ای که برای لغو لایحه پیشنهادی نوشته شده را امضا کرده است.

کالیفرنیا در سال جاری میلادی مجموعه‌ای از قوانین را برای محدود کردن استفاده‌های خاص از هوش مصنوعی اجرا کرد. لایحه جدید در صورت وضع، قوانینی از این دست را مسدود خواهد کرد.

این ایالت هم مانند برخی دیگر استفاده از هوش مصنوعی برای تولید محتوای هرزنگاری از افراد بدون رضایت آنها را اقدامی مجرمانه اعلام کرده است. همچنین کالیفرنیا استفاده بدون اجازه از دیپ فیک ها در تبلیغات سیاسی را منع کرده و تهیه کنندگان خدمات درمانی را موظف کرده به بیماران به طور دقیق اطلاع دهند چه زمان با پزشک و چه زمان با سیستم هوش مصنوعی تعامل می‌کنند.

شبکه‌های تامین خدمات درمانی در کالیفرنیا از استفاده از سیستم‌های هوش مصنوعی به جای پزشکان برای تصمیم‌گیری در مورد ضرورت‌های پزشکی منع شده‌اند.

پیش از این نمایندگان جمهوری خواه مجلس آمریکا در یک جلسه استماع که روز سه شنبه هفته قبل برگزار شد اعلام کردند اقدام مذکور برای کمک به دولت فدرال در اجرای هوش مصنوعی که دولت برای آن ۵۰۰ میلیون دلار اختصاص داده، لازم است.

موافقت مجلس با کلیات طرح ملی هوش مصنوعی

يكشنبه, ۲۹ ارديبهشت ۱۴۰۴، ۰۴:۵۲ ب.ظ | ۰ نظر

نمایندگان مجلس شورای اسلامی با تصویب کلیات طرح ملی هوش مصنوعی موافقت کردند و بنا شد این طرح به صورت دو شوری بررسی شود.

به گزارش ایرنا، نمایندگان مجلس شورای اسلامی در جلسه علنی روز یکشنبه ۲۸ اردیبهشت ۱۴۰۴ صحن مجلس کلیات طرح ملی هوش مصنوعی را با ۱۸۷ رأی موافق، ۳۳ رأی مخالف و یک رأی ممتنع از مجموع ۲۲۱ رأی ماخوذه تصویب کردند.

پس از موافقت مجلس با کلیات طرح ملی هوش مصنوعی، با تصمیم رئیس مجلس شورای اسلامی این طرح، جهت بررسی به صورت دو شوری به کمیسیون صنایع و معادن مجلس ارجاع شد.

در طرح‌های دو شوری طرح پس از تصویب کلیات به کمیسیون بازگردانده می شود و جزییات آن بار دیگر در کمیسیون تخصصی بررسی و تصویب می شود و دوباره به صحن علنی مجلس ارجاع می شود.

کاظم دلخوش نماینده دولت، در مخالفت با این طرح، گفت: این طرح دارای بار مالی است و طبق اصول قانون اساسی، دولت مسئول تدوین چنین برنامه‌هایی است.

وی افزود: لایحه‌ای در این زمینه از سوی وزارت ارتباطات آماده شده و در حال بررسی در کمیسیون‌های دولت است.

این مقام دولتی ضمن تاکید بر لایحه‌محوری، بیان کرد: اجرای طرح بدون نظر دولت می‌تواند با اصول ۵۷، ۶۰ و ۷۴ قانون اساسی مغایرت داشته باشد و احتمال رد آن توسط شورای نگهبان بالاست. دولت تا دو هفته آینده لایحه را به مجلس ارائه می‌کند.

در ادامه زهرا سعیدی سخنگوی کمیسیون صنایع و معادن مجلس شورای اسلامی، در تشریح گزارش این کمیسیون در خصوص تدوین طرح ملی هوش مصنوعی، گفت: این طرح با هدف توسعه زیست‌بوم هوش مصنوعی، تقویت زیرساخت‌ها و پاسخ به مطالبات راهبردی مقام معظم رهبری تدوین شده است.

وی افزود: این طرح به‌عنوان طرح اصلی به کمیسیون صنایع مجلس ارجاع شده بود که در چندین جلسه تخصصی با حضور مسئولان دستگاه‌های اجرایی ذی‌ربط و کارشناسان مرکز پژوهش‌های مجلس مورد بررسی قرار گرفت و نهایتاً در جلسه مورخ ۳۱ فروردین ۱۴۰۴ با اصلاح عنوان و متن، به تصویب کمیسیون رسید. اکنون گزارش آن در اجرای ماده ۱۴۳ آیین‌نامه داخلی مجلس، تقدیم صحن علنی می‌شود.

سخنگوی کمیسیون صنایع و معادن مجلس با اشاره به اهمیت و ضرورت ورود جدی به حوزه هوش مصنوعی، اظهار کرد: هوش مصنوعی موضوعی نیست که بگوییم خوب است یا بد. این فناوری یک واقعیت غیرقابل انکار است که باید آن را بپذیریم، ساختار آن را تعریف کنیم، اهداف را مشخص نماییم و خلأها را شناسایی کنیم. مزیت بزرگ جمهوری اسلامی ایران در جهان، سرمایه انسانی آن است و اگر این ظرفیت در مسیر توسعه هوش مصنوعی به‌درستی تعریف و هدایت نشود، قطعاً دچار خسارت خواهیم شد.

سعیدی خاطرنشان کرد: مطابق بند (ج) ماده ۶۵ قانون برنامه هفتم توسعه، بر تأسیس سازمان ملی هوش مصنوعی زیر نظر رئیس‌جمهور، توسعه زیست‌بوم هوش مصنوعی قابل اعتماد، تأمین زیرساخت‌های دانشی، اخلاقی، اجتماعی و حقوقی و افزایش آگاهی عمومی در این زمینه تأکید شده است. این موارد، ستون‌های اصلی این طرح ملی را شکل می‌دهند.

همچنین در ادامه زهرا سعیدی در پاسخ به اظهارات کاظم دلخوش، نماینده دولت، درباره مخالفت با طرح ملی هوش مصنوعی گفت: مجلس بیش از همه به اصل تفکیک قوا پایبند است. ما نمایندگان با شناخت از مسئولیت خود و پس از ساعت‌ها کار کارشناسی و همراهی دستگاه‌های مختلف، این طرح را تدوین کرده‌ایم. اگر در جایی تعلل دولت را ببینیم، مجلس ناچار به ورود خواهد شد.

وی افزود: همان‌گونه که رئیس مجلس از ابتدا بر دشوار بودن این مسیر تأکید داشت، ما به‌جای توقف، پیشنهاد کردیم طرح به کمیسیون تخصصی برود تا نظرات دولت و همه دستگاه‌ها نیز لحاظ شود. امروز وقت آن است که برای موضوع مهمی مانند هوش مصنوعی تصمیم جدی بگیریم. این فناوری می‌تواند به بهبود تصمیم‌گیری‌ها در حوزه‌هایی نظیر ازدواج و مهارت‌های فردی کمک کند.

سعیدی با رد ایراد اصل ۷۵ قانون اساسی، تصریح کرد: طرح در چارچوب مصوبات شورای عالی انقلاب فرهنگی تدوین شده و مغایرت قانونی ندارد. اگر دولت در اجرای برنامه هفتم توسعه تأخیر داشته باشد، مجلس به وظیفه نظارتی خود عمل خواهد کرد.

وی خطاب به نمایندگان خواستار رأی مثبت به طرح شد و تأکید کرد: ما با دولت تقابلی نداریم؛ دولت و مجلس در کنار هم مکمل مردم هستند.

در ادامه کلیپی از سخنان رهبر انقلاب درباره ضرورت هوش مصنوعی پخش شد.

حجت الاسلام جواد نیک بین نماینده مردم بردسکن و کاشمر در مجلس در موافقت با این طرح، گفت: دولت بر اساس قانون برنامه موظف به ارائه لایحه طی ۶ ماه درباره هوش مصنوعی بود اما تاکنون اقدامی صورت نگرفت و مجلس در این مسیر گام برداشته است. ما به یک سازمان عریض و طویل اما دقیق و عمیق برای هوش مصنوعی نیازمندیم.

احمد بیگدلی نماینده مردم خدابنده در مجلس در مخالفت با کلیات طرح ملی هوش مصنوعی گفت: هیچ‌کس نمی‌تواند منکر ضرورت هوش مصنوعی در جهان امروز شود و تردیدی نیست که این فناوری یکی از نیازهای مهم جامعه ماست، اما مخالفت بنده به دلیل ملاحظات قانونی و اجرایی است و طبق اصل ۷۵ قانون اساسی، طرح‌هایی که بار مالی دارند در صورت عدم موافقت دولت قابل بررسی نیستند.

وی یادآور شد: طبق ماده ۱۲ این طرح، سازمان برنامه و بودجه مکلف شده است که مبلغ ۱۰ هزار میلیارد تومان به صندوق ملی توسعه هوش مصنوعی اختصاص دهد و سؤال اینجاست که این مبلغ قرار است از کجا تأمین شود و اگر دولت فردا این بار مالی را نپذیرد، مجلس با اتلاف وقت مواجه خواهد شد.

تشکیل سازمان ملی هوش مصنوعی منتفی شد

جمعه, ۲۷ ارديبهشت ۱۴۰۴، ۰۲:۰۰ ب.ظ | ۰ نظر

با تصمیم هیئت دولت، «ستاد توسعه فناوری و کاربردی هوش مصنوعی» ذیل ریاست‌جمهوری تشکیل شد.
به گزارش تسنیم بر اساس مصوبه جدید، تمامی امور مرتبط با سیاست‌گذاری، هماهنگی و راهبری کلان هوش مصنوعی در کشور به ستاد هوش مصنوعی سپرده شده و تشکیل سازمان ملی هوش مصنوعی فعلاً کنار گذاشته شده است.

بر اساس شنیده‌های این خبرنگار با تصمیم امروز هیئت دولت، «ستاد توسعه فناوری و کاربردی هوش مصنوعی» ذیل ریاست‌جمهوری تشکیل شد.

بر اساس مصوبه جدید، تمامی امور مرتبط با سیاست‌گذاری، هماهنگی و راهبری کلان هوش مصنوعی در کشور به این ستاد سپرده می‌شود و تشکیل سازمان مستقل هوش مصنوعی فعلاً کنار گذاشته شده است.

دبیرخانه این ستاد در معاونت علمی و فناوری مستقر خواهد بود و ریاست آن با حکم رئیس‌جمهور و به پیشنهاد معاون علمی تعیین می‌شود.

متن کامل مصوبه قرار است شنبه آینده ابلاغ شود و جزئیات ساختار و وظایف ستاد به‌صورت رسمی اعلام خواهد شد.

ایران در گزارش فناوری ۲۰۲۵ آنکتاد با رتبه ۷۲ از ۱۶۶ کشور، پتانسیل بالایی در پژوهش و AI دارد اما با چالش‌هایی در زیرساخت و مهارت‌های تخصصی روبروست.

 

تحلیلی بر موقعیت فناوری‌های نوین

بر اساس این گزارش، ایران در شاخص آمادگی برای فناوری‌های مرزی (Frontier Technologies Readiness Index)، در رتبه ۷۲ میان ۱۶۶ کشور جهان قرار دارد. این رتبه نشان‌دهنده وضعیت نسبی ایران در استفاده از فناوری‌هایی مانند اینترنت اشیا، بلاک‌چین، و داده‌های بزرگ است. در حالی که این رتبه‌بندی تنها یک پله افزایش نسبت به سال گذشته داشته، نیاز به توجه بیشتری به چالش‌ها و فرصت‌های این حوزه وجود دارد.

 

تعریف فناوری‌های مرزی

فناوری‌های مرزی به فناوری‌هایی اطلاق می‌شود که در مراحل ابتدایی توسعه خود قرار دارند و توانایی ایجاد تغییرات عمده در صنایع و زندگی اجتماعی را دارند. هوش مصنوعی، پهپادها، چاپ سه‌بعدی، ویرایش ژن، نانوتکنولوژی، و فناوری‌های انرژی پاک تنها نمونه‌هایی از این فناوری‌ها هستند که در گزارش سازمان ملل به آن‌ها اشاره شده است.

نقشه وضعیت ایران در میان همسایگان

با وجود تلاش‌هایی که ایران در حوزه فناوری انجام داده است، جایگاه آن در مقایسه با کشورهای منطقه مانند ترکیه (رتبه ۴۳) و امارات متحده عربی (رتبه ۳۱) پایین‌تر محسوب می‌شود. با این حال، رتبه قابل توجه ۳۵ جهانی ایران در تحقیق و توسعه (R&D) امیدواری‌هایی را برای پیشرفت‌های بیشتر ایجاد می‌کند.

شاخص‌های کلیدی و عملکرد ایران

شاخص آمادگی برای فناوری‌های مرزی سازمان ملل بر پنج حوزه اصلی متمرکز است: فناوری اطلاعات و ارتباطات (ICT)، مهارت‌ها، تحقیق و توسعه، صنعت، و مالی. در این بخش‌ها، عملکرد ایران چنین ارزیابی شده است:

  • تحقیق و توسعه (R&D): رتبه ۳۵، نشان از سرمایه‌گذاری در پژوهش‌های نوآورانه.

  • مهارت‌ها (Skills): رتبه ۸۲، که نیازمند توجه به آموزش تخصصی است.
  • فناوری اطلاعات و ارتباطات (ICT): رتبه ۹۴، نمایانگر ضعف در زیرساخت‌های اینترنتی.
  • صنعت (Industry): رتبه ۹۴، نشان‌دهنده فاصله موجود در به‌کارگیری فناوری در صنایع.
  • مالی (Finance): رتبه ۵۶، بیانگر محدودیت‌هایی در دسترسی به منابع مالی.

هوش مصنوعی، حوزه‌ای با ظرفیت بالا

یکی از بخش‌های مهم در گزارش آنکتاد، بحث پیرامون هوش مصنوعی است. ایران در این زمینه نشان داده که در بخش‌هایی مانند دسترسی به داده‌ها و پهنای باند ثابت عملکرد خوبی داشته، اما توسعه زیرساخت‌های پیشرفته‌تر همچنان مورد نیاز است.

مطابق این گزارش، ایران در زمینه داده‌های هوش مصنوعی موقعیتی پیشرو دارد، اما شکاف‌های مهمی در زمینه مهارت‌های پیشرفته و نیروی کار ماهر وجود دارد.

چالش‌ها و مسیر پیشرفت

مواردی مانند محدودیت‌های اقتصادی، کمبود نیروهای متخصص، و نبود زیرساخت‌های دیجیتال پیشرفته از جمله موانعی هستند که بر سرعت پیشرفت ایران در این حوزه تأثیرگذار بوده‌اند. با این حال، ظرفیت ایران در تحقیق و دسترسی به داده‌ها فرصتی فراهم می‌کند تا از طریق همکاری‌های بین‌المللی و تقویت سرمایه‌گذاری، به جایگاه بهتری دست یابد.

اقدامات ضروری برای تحول

برای تبدیل شدن به یک بازیگر منطقه‌ای در زمینه فناوری‌های پیشرفته، ایران باید سرمایه‌گذاری‌های کلیدی انجام دهد:

  • بهبود زیرساخت‌های دیجیتال، به‌ویژه در زمینه اینترنت پرسرعت و فناوری ۵G.
  • توسعه آموزش مهارت‌های تخصصی در حوزه‌هایی مانند هوش مصنوعی و بلاک‌چین.
  • حمایت از استارتاپ‌ها و شرکت‌های فناوری.
  • گسترش تعاملات بین‌المللی برای انتقال دانش.

پیام پایانی گزارش آنکتاد

همان‌طور که این گزارش جهانی نشان داده، خطر عقب‌ماندن کشورهای در حال توسعه از کشورهای پیشرفته در پذیرش فناوری‌های نوظهور جدی است. برای ایران، این گزارش باید مانند یک نقشه راه عمل کند تا با ایجاد تغییرات اساسی در زیرساخت‌ها و ارتقای سطح مهارت‌ها به جایگاه مطلوب‌تری برسد.

چارچوب مقرراتی تایوان برای هوش مصنوعی

يكشنبه, ۲۲ ارديبهشت ۱۴۰۴، ۰۴:۰۴ ب.ظ | ۰ نظر

سعید میرشاهی - دولت تایوان، رویکرد فعالی برای حمایت از صنعت هوش مصنوعی در پیش گرفته و با تدابیر سیاستی و چارچوب‌های حقوقی متناظر، توسعه صنعتی را ترویج می‌کند. در نیمه دوم ۲۰۲۴، شورای ملی علم و فناوری (NSTC)،  پیش‌نویس قانون پایه هوش مصنوعی را ارائه کرد که اوایل ۲۰۲۵، برای بررسی به هیئت وزیران (کابینه تایوان) ارائه شد.

تحویل دستیار هوش مصنوعی رییس جمهور تا ۶ماه دیگر

يكشنبه, ۲۲ ارديبهشت ۱۴۰۴، ۰۳:۵۹ ب.ظ | ۰ نظر

به همت معاونت علمی و فناوری ریاست‌جمهوری،ایران گام بلندی به‌سوی دولت دیجیتال برداشته است. این پروژه با هدف پشتیبانی از تصمیم‌گیری‌های کلان و ارتقای کارآمدی حکمرانی، با مشارکت نهادهای علمی، اجرایی و فناوری کشور طراحی شده و چشم‌اندازی روشن از آینده تعامل انسان وهوش مصنوعی درسطوح عالی مدیریتی ارائه می‌دهد.

در شرایطی که هوش‌مصنوعی در سطح جهان به‌عنوان موتور محرک نوآوری، تحول اقتصادی و ارتقای کارایی دولت‌ها شناخته می‌شود، ایران نیز با رویکردی آینده‌نگرانه وارد میدان شده است. بر اساس اعلام رسمی معاونت علمی، فناوری و اقتصاد دانش‌بنیان ریاست‌جمهوری، پروژه «دستیارهوش مصنوعی رئیس‌جمهور»به‌عنوان نخستین نمونه ازبه‌کارگیری رسمی هوش‌مصنوعی در سطح حاکمیتی جمهوری اسلامی ایران، آغاز شده و مراحل طراحی اولیه آن در جریان است.این پروژه با بهره‌گیری از ظرفیت دانشگاه‌های کشور، شرکت‌های دانش‌بنیان و متخصصان حوزه هوش‌مصنوعی، قرار است یک سیستم گفت‌وگومحورمبتنی برمدل‌های زبانی بزرگ(LLM)طراحی‌کندکه‌بتواند رئیس‌جمهور‌ودیگر مقامات‌ارشدرادر تصمیم‌گیری‌های دقیق‌تر، سریع‌تر و جامع‌تر یاری رساند. به بیان ساده‌تر، این ابزار مانند مشاور دیجیتالی عمل خواهد کرد که با دسترسی به حجم عظیمی از داده‌های حکومتی و عمومی، تحلیل‌ها و پیشنهادات کاربردی ارائه می‌دهد.
     
کاربردهای چندگانه و چشم‌انداز حکمرانی هوشمند
برنامه‌ریزی برای این پروژه تنها به ارائه پاسخ‌های هوشمند خلاصه نمی‌شود. تیم طراحی دستیار هوش‌مصنوعی قصد دارد سیستمی توسعه دهد که قادر به تحلیل روندهای سیاسی، اقتصادی، فرهنگی و اجتماعی کشور بر اساس داده‌های واقعی، تشخیص ناهنجاری‌ها، ارائه پیش‌بینی‌های کوتاه‌مدت و میان‌مدت، استخراج سیاست‌های مؤثر از بین گزارش‌های متنوع و حتی پایش عملکرد دستگاه‌ها باشد. چنین قابلیتی می‌تواند تحولی اساسی در فرآیند تصمیم‌سازی دولت ایجاد کند. از سوی دیگر اهداف این پروژه، ارتقای شفافیت و کاهش بروکراسی اداری در نهادهای حکومتی است. چنانچه این سیستم به‌درستی طراحی و استقرار یابد، می‌تواند وظایف پیچیده‌ای چون جمع‌آوری و یکپارچه‌سازی داده‌های بین‌دستگاهی، بررسی صحت اطلاعات و پیشنهاد سیاست‌های جایگزین را انجام دهد؛ وظایفی که امروزه زمان‌بر، پرهزینه و بعضا ناکارآمد هستند.
     
نقش وزارتخانه‌ها و نهادهای اجرایی
یکی ازشروط موفقیت پروژه،مشارکت مؤثروهماهنگ نهادهای مختلف اجرایی است. دراین میان،وزارت ارتباطات و فناوری اطلاعات، وزارت علوم، تحقیقات وفناوری،مرکز آمار ایران،سازمان فناوری اطلاعات ایران و وزارت اطلاعات از مهم‌ترین نهادهای دخیل در این پروژه هستند. وزارتخانه‌ها موظفند داده‌های به‌روز،استاندارد و قابل پردازش خود را در اختیار تیم‌های توسعه قراردهند.بدون داده،هیچ دستیارهوشمندی‌نمی‌تواند تحلیل‌درستی ارائه‌دهد.به‌همین‌دلیل،الزام‌به شفاف‌سازی، به‌روزرسانی و دیجیتالی‌سازی پایگاه‌های داده‌ای، اولین گام همکاری نهادها با این پروژه خواهد بود.همچنین، وظایف مرتبط با حفظ امنیت اطلاعات، رمزنگاری داده‌ها، مدیریت دسترسی و رعایت الزامات مربوط به حریم خصوصی برعهده سازمان‌های امنیتی و فناوری اطلاعات قرار خواهد گرفت. بدون رعایت این ملاحظات، اعتماد به چنین سیستم‌هایی ممکن نخواهد بود.
     
سه گام اجرا

بر اساس برآوردهای اولیه، نسخه آزمایشی دستیار هوش مصنوعی رئیس‌جمهور طی شش ماه آینده آماده خواهد شد. این نسخه، شامل هسته اصلی سیستم زبانی، سامانه مدیریت دانش و تحلیل اولیه داده‌ها خواهد بود. در صورت موفقیت این فاز، نسخه رسمی در نیمه دوم سال۱۴۰۴ رونمایی خواهد شد.مراحل توسعه این پروژه در سه فاز تحلیل نیازها و طراحی اولیه سیستم، آزمایش و ارزیابی عملکردمدل در سناریوهای واقعی وادغام کامل باسامانه‌های اطلاعاتی دولت و نهادهای تصمیم‌گیر تعریف شده است.پیش‌بینی شده که پس از مرحله نهایی، این دستیار هوشمند به سایر مسئولان ارشد کشور، وزرا و حتی بدنه کارشناسی نهادها نیز توسعه یابد. نسخه‌های سفارشی‌شده این مدل می‌توانند در وزارتخانه‌هایی مانند اقتصاد، بهداشت، آموزش و سایر نهادهای مرتبط به‌کار گرفته شوند تا دستیارهای تخصصی و اختصاصی ارائه دهند.
     
تحولی در حکمرانی داده‌محور

پروژه دستیار هوش مصنوعی رئیس‌جمهور، درصورتی‌که به‌درستی اجرا شود، می‌تواند ایران را وارد مرحله جدیدی از حکمرانی هوشمند کند؛ حکمرانی‌ای که به‌جای تکیه صرف بر قضاوت انسانی، از پشتوانه عظیم داده و پردازش هوشمند آن برای تصمیم‌سازی بهره می‌برد.از طرفی، این پروژه می‌تواند به افزایش اعتماد عمومی به کارآمدی نظام حکمرانی منجر شود، چراکه شفافیت، سرعت واکنش، مستندسازی تصمیم‌هاوکاهش خطای انسانی ازجمله نتایج جانبی آن خواهد بود. همچنین، با بومی‌سازی این فناوری، ایران در مسیر استقلال دیجیتال و کاهش وابستگی به پلتفرم‌های خارجی قدم برمی‌دارد.پروژه «دستیار هوش‌مصنوعی رئیس‌جمهور» نماد جدی شدن تحول دیجیتال در ساختار سیاسی و اجرایی ایران است. مشارکت گسترده وزارتخانه‌ها، حمایت نهادهای علمی و بهره‌گیری از ظرفیت شرکت‌های فناور، سنگ‌بنای موفقیت این طرح خواهد بود. در صورت اجرای دقیق و علمی، این پروژه می‌تواند الگویی برای سایر کشورهای منطقه و حتی جهان در مسیر استفاده از هوش مصنوعی در خدمت حکمرانی بهتر باشد. (منبع:جام جم)

مواجهه کاربران «ChatGPT» با فروپاشی روانی

جمعه, ۲۰ ارديبهشت ۱۴۰۴، ۰۳:۳۲ ب.ظ | ۰ نظر

صنعت هوش مصنوعی با یک مشکل عظیم روبه‌روست: هرچه مدل‌ها هوشمندتر می‌شوند، بیشتر دچار "هذیان" می‌شوند و این اصلاً خبر خوبی نیست.

مدل‌های هوش مصنوعی مدت‌هاست با پدیده‌ای به‌نام هذیان (hallucination) دست‌وپنجه نرم می‌کنند؛ اصطلاحی ظاهراً زیبا که برای توصیف ادعاهای ساختگی و نادرستی به کار می‌رود؛ دقیقاً همان چیزی که مدل‌های زبانی بزرگ، آن‌ها را به‌عنوان واقعیت به افراد ارائه می‌دهند.

به گزارش نیویورک‌تایمز، برخلاف انتظارها، با پیشرفت مدل‌ها این پدیده در حال وخیم‌تر شدن است و به نظر می‌رسد که مدل‌های جدید که با هدف استدلال و تحلیل پیش از پاسخ طراحی‌شده‌اند، بیشتر از نسل‌های پیشین دچار خطا و توهم می‌شوند.

این موضوع در حالی مطرح می‌شود که تعداد کاربران چت‌بات‌هایی مثل ChatGPT روزبه‌روز در حال افزایش است و کاربران این چت‌بات‌ها را برای طیف گسترده‌ای از مسائل به کار می‌گیرند. اما اگر این چت‌بات‌ها اطلاعات نادرست و گمراه‌کننده ارائه دهند، کاربران نه‌تنها اعتبار خود را به خطر می‌اندازند، بلکه ممکن است با عواقب جدی‌تر و خطرناک‌تری مواجه شوند.

نگران‌کننده‌تر اینجاست که شرکت‌های فعال در حوزه AI هنوز نتوانسته‌اند دلایل دقیق بروز این خطاها را کشف کنند و به نظر می‌رسد که حتی سازندگان این فناوری نیز به‌طور کامل از نحوه عملکرد آن سر درنیاورده‌اند.

این روند نگران‌کننده، فرضیه رایج در صنعت مبنی بر اینکه مدل‌های بزرگ‌تر باید دقیق‌تر و قابل‌اعتمادتر باشند را زیر سؤال برده و این در حالی است که شرکت‌های مختلف ده‌ها میلیارد دلار برای توسعه زیرساخت‌های مدل‌های پیشرفته‌تر سرمایه‌گذاری می‌کنند.

برخی کارشناسان بر این باورند که هذیان، ویژگی ذاتی این فناوری است و احتمالاً هرگز به‌طور کامل از بین نخواهد رفت. عمر عواض‌الله، مدیرعامل استارت‌آپ Vectara در گفت‌وگو با نیویورک‌تایمز گفت: «باوجود همه تلاش‌ها، آن‌ها همیشه هذیان خواهند گفت. این ماجرا هرگز از بین نخواهد رفت.»

گستردگی این مشکل به حدی است که شرکت‌هایی به‌طور ویژه، برای کمک به دیگر کسب‌وکارها در مقابله با این پدیده راه‌اندازی شده‌اند.

پراتیک ورما، یکی از بنیان‌گذاران شرکت مشاوره‌ای Okahu دراین‌باره توضیح داد: «اگر با این خطاها به‌درستی برخورد نشود، عملاً ارزش سیستم‌های هوش مصنوعی از بین خواهد رفت.»

 

افزایش درصد هذیان‌گویی‌ها

در همین راستا، گزارش‌ها حاکی از آن است که مدل‌های استدلالی جدید OpenAI با نام‌های o۳ و o۴-mini که اخیراً معرفی شده‌اند، بیش از نسخه‌های قبلی دچار هذیان‌گویی می‌شوند. مدل o۴-mini در تست‌های داخلی OpenAI تا ۴۸% موارد دچار هذیان بود و مدل o۳ نیز با نرخ ٪۳۳، تقریباً دو برابر نسخه‌های قبلی دچار خطا بوده است. شرکت‌هایی مثل گوگل و DeepSeek نیز در مدل‌هایشان با مشکلات مشابهی مواجه‌اند که همین نشان می‌دهد که این یک چالش فراگیر در صنعت است.

کارشناسان هشدار داده‌اند که با بزرگ‌تر شدن مدل‌ها، مزایای آن‌ها نسبت به نسل قبلی به‌طور چشمگیری کاهش می‌یابد. از سوی دیگر، با کاهش داده‌های واقعی برای آموزش، شرکت‌ها به تولید داده‌های مصنوعی روی آورده‌اند که می‌تواند پیامدهای فاجعه‌باری به همراه داشته باشد.

به‌طور خلاصه، باوجود تلاش‌های فراوان، هذیان‌گویی‌ها گسترده‌تر از همیشه شده‌اند و فعلاً به نظر نمی‌رسد که مسیر توسعه مدل‌ها رو به اصلاح باشد.

 

کاربران ChatGPT دچار توهمات عجیبی شده‌اند

از سوی دیگر گزارشی در همین رابطه منتشرشده که همین هذیان‌گویی‌ها ممکن است کاربران چت بات ها را با خطرات مختلفی مواجه کند.

در بخشی از این گزارش می‌خوانیم: فناوری شرکت OpenAI ممکن است شمار زیادی از کاربرانش را به وضعیتی خطرناک به‌نام "روان‌پریشی ناشی از چت‌بات" (ChatGPT-induced psychosis) سوق داده باشد.

به‌عنوان ‌مثال کاربران شبکه اجتماعی Reddit روایت‌هایی از نزدیکان‌شان به اشتراک گذاشته‌اند که در پی تعامل با چت‌بات‌ها، به باورهای عجیب و هذیانی گرایش پیدا کرده‌اند که در مورد برخی، ترکیبی از شور عرفانی و خیالات ماوراءالطبیعه است که گاه به فروپاشی کامل سلامت روان منجر شده است.

دوستان و اعضای خانواده این افراد با نگرانی شاهد آن هستند که عزیزانشان ادعا می‌کنند برای انجام مأموریت‌های مقدس از سوی هوش مصنوعی آگاه یا نیروی کیهانی غیرواقعی برگزیده شده‌اند و این‌طور به نظر می‌رسد که این چت‌بات‌ها صرفاً با تقلید از تمایلات کاربران، بیماری‌های روانی موجود آن‌ها را در مقیاسی گسترده و بدون نظارت تخصصی یا قانونی تشدید کرده‌اند.

در یکی از این موارد، زنی ۴۱ ساله که در یک سازمان غیرانتفاعی مشغول به کار است اعلام کرده که ازدواجش به دلیل وسواس توهم‌آمیز همسرش به ChatGPT به پایان رسیده. طبق گفته او، در جلسه حضوری دادگاه طلاق، همسرش نظریه عجیبی درباره وجود صابون در مواد غذایی و اینکه تحت نظارت است را مطرح کرد: «همسرم هنگام خواندن پیام‌ها، با صدای بلند گریه می‌کرد. این پیام‌ها بی‌معنی و عجیب بودند و فقط عباراتی عرفانی و نامفهوم را پشت سر هم بر زبان می‌آورد. چت‌بات او را "فرزند ستاره‌ای مارپیچ" و "رهرو رودخانه" خطاب کرده بود.»

کاربران دیگری نیز روایت‌های مشابهی بیان کرده‌اند؛ یکی گفت همسرش از نبرد میان "نور و تاریکی" سخن می‌گوید و ادعا دارد که ChatGPT نقشه ساخت دستگاه تلپورت و تجهیزات علمی-تخیلی دیگری را در اختیار او گذاشته.

کاربری دیگر درباره وضعیت همسرش گفت: «او کل زندگی‌اش را تغییر داده و حالا می‌خواهد مشاور معنوی شود و جلساتی عجیب برگزار می‌کند (واقعاً نمی‌دانم دقیقاً چه‌کاری انجام می‌دهد) ولی همه این‌ها با راهنمایی ChatGPT صورت گرفته.»

در این میان، شرکت OpenAI نسبت به این گزارش واکنشی نشان نداده است. این گزارش پس از آن منتشر شد که به‌روزرسانی اخیر چت‌بات باعث شده بود که ChatGPT به‌شدت چاپلوس و بیش‌ازحد موافق به‌نظر برسند.

کارشناسان معتقدند که این توهمات ناشی از آن است که افراد با گرایش‌های ذهنی خاص، ناگهان به یک شریک مکالمه دائمی و شبه انسانی دسترسی پیدا کرده‌اند؛ شریکی که می‌تواند توهمات آن‌ها را با زبانی باورپذیر بازتاب دهد.

نیت شریدن، پژوهشگر مرکز ایمنی هوش مصنوعی دراین‌باره گفت: «مدل‌های زبانی به شما پاسخ‌هایی می‌دهند که از نظر آماری ممکن است معقول به نظر برسند؛ حتی اگر آن پاسخ‌ها، شما را عمیق‌تر در دل توهم یا روان‌پریشی فرو ببرند.»

یکی از کاربران Reddit که خود را فردی مبتلا به اسکیزوفرنی معرفی و اعلام کرده که تحت درمان دارویی است، نوشت: «اگر وارد حالت روان‌پریشی شوم، ChatGPT همچنان افکارم را تأیید خواهد کرد. چون توانایی تشخیص اینکه چیزی اشتباه است را ندارد.»

کارشناسان یادآوری کرده‌اند که گرچه چت‌بات‌ها گاهی مثل درمانگری مجازی عمل می‌کنند، اما بدون حضور یک مشاور انسانی همین ممکن است کاربران را به عمق روایت‌هایی ناسالم و غیرمنطقی بکشانند. (منبع:خبر آنلاین)

عباس پورخصالیان - این یادداشت در مورد جدیدترین گزارش «بررسی فناوریِ برآیندۀ استنفورد»Stanford Emerging Technology Review (SETR)  است. گزارشِ امسال (۲۰۲۵) با همکاری مؤسسه هوور و دانشکده مهندسی دانشگاه استنفورد تهیه شده است. 

رئیس سازمان رگولاتوری گفت:جلساتی در سازمان تنظیم مقررات با بخش های مختلف داریم تا با جمع بندی نقشه راه تنظیم گری هوش مصنوعی داشته باشیم و بر اساس آن پروانه صادر کنیم و یا فرکانس دهیم.
حمید فتاحی، رئیس سازمان تنظیم مقررات و ارتباطات رادیویی در مراسم افتتاحیه رویداد " نقش تنظیم گری ۵G-AIoT در توسعه اقتصاد دیجیتال" که امروز صبح در پژوهشگاه ارتباطات و فناوری اطلاعات برگزار شد با اشاره به اینکه خروجی این رویداد موضوع هوش مصنوعی و فناوری آینده ای است که در حال لمس آن هستیم گفت: امروزه چنان نشانه های از این فناوری جدید را در زندگی مردم می بینیم و وجود دارد که عملا حس خوبی از آن می‌گیریم و مردم با موضوع هوش مصنوعی غریبه نیستند.

وی با بیان اینکه فناوری هوش مصنوعی آینده را متحول خواهد کرد، افزود: این فناوری وابستگی ایجاد می کند و آینده بدون استفاده از این فناوری سخت می شود و بنابراین تغییر اساسی و تحول دیجیتال اتفاق بزرگی را رقم می زند و یکی از جاهایی که دچار تغییر می شود، صنعت است.

فتاحی ادامه داد: پدیده هوش مصنوعی مانند دیگر پدیده ها چالش های خواهد داشت از جمله اینکه تعداد بازیگرانی که در این حوزه در کشور مشاهده می شود زیاد است و از هر صنفی به این حوزه ورود می کنند، در زنجیره های مختلف هر کسی ساز خود را می زند. یکی از چیزهایی که حتما باید به آن توجه کنیم همراه سازی بازیگران حاکمیتی است تا فضا را برای حضور و ورود بخش خصوصی و سرمایه گذاران در این حوزه فراهم کنند.

وی با بیان اینکه تعدد بازیگران منجر به اتلاف منابع خواهد شد، تصریح کرد: وزارت ارتباطات در دو بخش در این موضوع اقتصاد دیجیتال و تحول دیجیتال نقش دارد یکی از آن ارتباطات است یعنی باید ببیند که هر فناوری محور توسعه اش محور ارتباطات باشد و نقش دیگر بخش تنظیم گری هوش مصنوعی است که در این راستا کارگروه های ویژه تشکیل دادیم و گزارش هایی گرفتیم، در این مسیر به زیست بوم حوزه فناوری توجه کردیم و یک طراحی اولیه انجام شده است.

فتاحی افزود: جلساتی در سازمان تنظیم مقررات با بخش های مختلف داریم تا با جمع بندی نقشه راه تنظیم گری هوش مصنوعی داشته باشیم و بر اساس آن پروانه صادر کنیم و یا فرکانس دهیم.

وی در پایان گفت: یک نکته بسیار مهم این است که فناوری جدید را باید با تنظیم گری جدید، نه سنتی، خط کشی کنیم و در این مسیر به تنظیم گری نسل پنجم توجه داشته باشیم که یکی از وظایف سازمان رگولاتوری است، و فقط با تسهیل گری انشالله فضا را برای توسعه این فناوری در کشور فراهم کنیم.

هشدار قرمز؛ «هوش مصنوعی» اوج اعتیاد نوجوانان

دوشنبه, ۱۶ ارديبهشت ۱۴۰۴، ۱۱:۵۴ ق.ظ | ۰ نظر

علی شمیرانی - برای پرداختن به موضوعی که در ادامه به آن پرداخته می‌شود، اکنون نیز دیر شده است. چراکه حسب تجربه در کشور ما به علت تاخیرهای همیشگی در ایجاد فرهنگ و سواد استفاده از محصولات و ابزارهای نوین فناورانه، اصولا یا اقدامی صورت نمی‌گیرد یا با تاخیر و از جنس تهدیدانگاری مطلق شاهد مواجهه هستیم.

هوش مصنوعی؛ معاونت علمی یا وزارت ارتباطات؟

يكشنبه, ۱۵ ارديبهشت ۱۴۰۴، ۰۱:۲۶ ب.ظ | ۰ نظر

احمد محمدغریبان - مقوله هوش مصنوعی با وجود فرصت‌های بی‌شمار، برنامه‌ریزی‌ها و سرمایه‌گذاری‌های کلان از سوی غول‌های سایبری دنیا و کشورهای همسایه، در ایران نیز اگرچه به عنوان یکی از اولویت‌های راهبردی در دستور کار دارد، اما مانند بسیاری از حوزه‌های دیگر، شاهد موازی‌کاری‌های ساختاری و مدیریتی هستیم که می‌تواند آسیب‌های جبران‌ناپذیری به این فرصت تاریخی وارد کند.

بهره‌گیری از هوش مصنوعی در حوزه نظامی ایران

شنبه, ۱۴ ارديبهشت ۱۴۰۴، ۰۲:۰۷ ب.ظ | ۰ نظر

جانشین معاونت علوم، تحقیقات و فناوری ستاد کل نیرو‌های مسلح گفت: علم و فناوری جهان را دچار دگرگونی‌های زیادی کرده است. به عنوان مثال امروز ما از «هوش مصنوعی» استفاده می‌کنیم و در سامانه‌های دوربرد، در کنترل دوردست، اینترنت اشیا و در حوزه نظامی از این تکنولوژی بهره می‌بریم و به لحاظ ترکیب اینترنت و هوش مصنوعی پیشرفت‌هایی نیز داشته‌ایم.
به گزارش ایلنا، امیر سرتیپ «سید اسماعیل شهرآئینی» جانشین معاونت علوم، تحقیقات و فناوری ستاد کل نیرو‌های مسلح در گفت‌وگویی، با بیان اینکه امروزه علم و فناوری لبه اول جنگ و محاسبات محسوب می‌شود، اظهار داشت: کسی که دست برتر را در حوزه علوم، تحقیقات و فناوری داشته باشد به دلیل تغییر پارادایم‌های جنگ قطعاً دست برتر را هم دارد؛ بر این اساس، وقتی که صحبت از انقلاب در امور نظامی می‌کنیم، عامل اصلی آن «فناوری» است.

امیر سرتیپ شهرآئینی ادامه داد: فناوری باعث می‌شود که تغییرات اساسی در تجهیزات نظامی به وجود بیاید و دقت، سرعت و قدرت آتش آن‌ها با بهره‌گیری از فناوری افزایش یابد. حوزه آموزش‌های نیروی انسانی و هزاره سوم مبتنی بر بهره‌گیری از واقعیت‌های مجازی و واقعیت‌های افزوده است که همان VR و AR بوده و از آن صحبت می‌کنیم.

جانشین معاونت علوم، تحقیقات و فناوری ستاد کل نیرو‌های مسلح افزود: در حوزه سلاح، پردازش اطلاعات، فناوری‌های کوانتومی که قدرت پردازش این نوع رایانه‌ها ۱۰ هزار برابر ابررایانه‌های فعلی ما است و اینها به دقت و مخصوصاً سرعت در جابجایی اطلاعات به ما خیلی کمک می‌کنند. موضوعاتی همچون بلاک‌چین یا زنجیره بلوکی نیز با رمزنگاری اطلاعات در حوزه نظامی کمک می‌کنند.

وی با بیان اینکه قدرت و توان دفاعی به نیروی انسانی بستگی دارد، یادآور شد: نیروی انسانی عالم و مسلح به تحقیقات و پژوهش، دید بهتری نسبت به موضوع دارد. تجهیزاتی که فناوری‌های نوین در آن استفاده می‌شود، دقت، سرعت و قدرت‌شان افزایش می‌یابد و لذا ساختار‌های هزینه‌بر را نخواهیم داشت.

امیر سرتیپ شهرآئینی با بیان اینکه علم و فناوری پیشتاز در صحنه‌های رقابت نظامی جهانی در حوزه اقتصاد، نظامی، سیاسی و اجتماعی است، گفت: علم و فناوری جهان را دچار دگرگونی‌های زیادی کرده است. به عنوان مثال امروز ما از «هوش مصنوعی» استفاده می‌کنیم و در سامانه‌های دوربرد، در کنترل دوردست، اینترنت اشیا و در حوزه نظامی از این تکنولوژی بهره می‌بریم و به لحاظ ترکیب اینترنت و هوش مصنوعی پیشرفت‌هایی نیز داشته‌ایم.

وی با تأکید بر نقش مؤثر علم و فناوری در برتری نظامی گفت: هوش مصنوعی کمک می‌کند که مهارت اپراتور‌های ما افزایش یابد؛ همچنین در تحلیل‌های نظامی از آن استفاده می‌کنیم. در برنامه‌ریزی، هدایت سلاح، و افزایش دقت و قدرت هم از این حوزه‌ها استفاده می‌کنیم و این تنها به هوش مصنوعی معطوف نمی‌شود، بلکه همه حوزه‌های نوین، سایبر و جنگ الکترونیک مبتنی بر فناوری‌های نوین هستند.

امیر سرتیپ شهرآئینی همچنین درباره لفاظی صهیونیست‌ها درباره نقص فنی در تأسیسات نظامی ایران در روز‌های آتی گفت: این صحبت‌ها که در قالب جنگ رسانه‌ای انجام می‌شود، یکی از بخش‌های جنگ ترکیبی دشمنان است.

وی اضافه کرد: ما باید در همه حوزه‌ها حفاظت اطلاعات را رعایت کنیم. برخی از مسائل همچون خرابکاری‌های صنعتی و موضوعات سایبری و جنگال می‌تواند کار دشمن باشد و لذا هوشیاری عوامل اجرایی ما خیلی مهم است. رساندن دانش آنها به سطحی که بتوانند تهدیدات نوین را بشناسند، می‌تواند کمک کند که این تهدیدات کمتر شود.

«چت‌جی‌پی‌تی» مشاوره خرید آنلاین می‌دهد

سه شنبه, ۱۰ ارديبهشت ۱۴۰۴، ۰۳:۵۵ ب.ظ | ۰ نظر

شرکت «اوپن‌ای‌آی» روز دوشنبه اعلام کرد که ویژگی جست‌وجوی«چت‌جی‌پی‌تی» را به‌روزرسانی می‌کند تا تجربه بهتری را از خرید آنلاین در اختیار کاربران قرار دهد.

به گزارش ایسنا، وقتی کاربران «چت‌جی‌پی‌تی»(ChatGPT) محصولی را جستجو می‌کنند، این چت‌بات چند توصیه ارائه می‌کند، تصاویر و نظراتی را برای آن اقلام نشان می‌دهد و لینک‌های مستقیم را به صفحات وب اضافه می‌کند که کاربران می‌توانند محصولات را از آنجا خریداری کنند.

به نقل از تک‌کرانچ، شرکت «اوپن‌ای‌آی»(OpenAI) می‌گوید کاربران می‌توانند سؤالات بسیار تخصصی را به زبان طبیعی بپرسند و نتایج سفارشی‌سازی‌شده را دریافت کنند. برای شروع، این شرکت در حال آزمایش گروه‌هایی مانند مد، زیبایی، لوازم خانگی و تجهیزات الکترونیکی است.

اوپن‌ای‌آی اعلام کرد که این ویژگی از روز دوشنبه در «GPT-4o» برای کاربران «ChatGPT Pro»، «Plus ChatGPT» و«ChatGPT Free» و همچنین برای کاربران خارج از سیستم در سراسر جهان عرضه می‌شود.

به‌روزرسانی جست‌وجوی چت‌جی‌پی‌تی بخشی از تلاش اوپن‌ای‌آی برای رقابت با گوگل است که با ایجاد یک تجربه بهتر و شخصی‌سازی‌شده‌تر برای یافتن محصولات و اطلاعات در اینترنت انجام می‌شود. خرید آنلاین یکی از مهم‌ترین کسب‌وکارهای گوگل به شمار می‌رود، اما بازار تبلیغات برای خرید جایگاه‌های برتر در جست‌وجوی گوگل در کاهش کیفیت این محصول در طول سال‌ها نقش داشته است.

اوپن‌ای‌آی ادعا می‌کند که محصول جست‌وجوی آن به سرعت در حال رشد است. این شرکت به تک کرانچ گفت که کاربران هفته گذشته بیش از یک میلیارد جست‌وجوی وب را در چت‌جی‌پی‌تی انجام داده‌اند.

اوپن‌ای‌آی گفت که نتایج خرید چت‌جی‌پی‌تی را به ‌طور مستقل تعیین می‌کند و خاطرنشان کرد که تبلیغات بخشی از این ارتقاء نیستند. به گفته این شرکت، نتایج خرید براساس داده‌های به‌دست‌آمده از اشخاص ثالث مانند قیمت‌گذاری، توضیحات محصول و بررسی‌ها ارائه خواهد شد. این شرکت از خریدهای انجام‌شده از طریق جست‌وجوی چت‌جی‌پی‌تی، پورسانت دریافت نخواهد کرد.

هوش مصنوعی قوی و هوش مصنوعی ضعیف

سه شنبه, ۱۰ ارديبهشت ۱۴۰۴، ۱۰:۵۳ ق.ظ | ۰ نظر

عباس پورخصالیان - در حوزۀ مطالعات هوش مصنوعی، دو نوع هوش مصنوعی مطرح است: «هوش مصنوعی قوی» و «هوش مصنوعی ضعیف». انواع هوش مصنوعی موجود در بازار، اعم از چت‌بات‌های مولد و آنهایی که در سامانه‌های هوشمند به خدمت گرفته شده‌اند، همه از نوع «هوش مصنوعی ضعیف» هستند.

۱۰ اشتباه شرکت‌ها در ورود به هوش مصنوعی

دوشنبه, ۹ ارديبهشت ۱۴۰۴، ۰۵:۴۷ ب.ظ | ۰ نظر

سمیه مهدوی پیام - با توجه به سروصدای زیادی که در زمینه هوش مصنوعی وجود دارد، شاید حق داشته باشید که تصور کنید هوش مصنوعی مولد، تنها فناوری‌ای است که اهمیت دارد و به‌ندرت شاهد فناوری‌ای بوده‌ایم که این‌گونه با سرعت و تاثیرگذاری خود، دنیای کسب‌وکار را تحت‌تاثیر قرار دهد.

هوش مصنوعی «مسموم» شد

دوشنبه, ۹ ارديبهشت ۱۴۰۴، ۰۵:۳۵ ب.ظ | ۰ نظر

مهاجمان سایبری دوزهای کوچکی از «داده‌های مسموم»، به شکل اطلاعات نادرست یا گمراه‌کننده را به مجموعه‌های آموزشی مهم هوش مصنوعی وارد می‌کنند و ماموریت آنها خرابکاری در مدل‌هایی است که زمانی قابل اعتماد بودند تا آنها را در جهتی کاملا متفاوت منحرف کنند.

به گزارش ایسنا اشتیاق بی‌وقفه و سیری‌ناپذیر برای کسب داده‌های بیشتر می‌تواند نقص مهلک هوش مصنوعی یا دستکم سریع‌ترین راه برای نفوذ «سم» به آن باشد و مطالعه‌ای جدید نشان می‌دهد که چگونه می‌توان از چنین حملاتی جلوگیری کرد.

مهاجمان سایبری دوزهای کوچکی از «داده‌های مسموم»، به شکل اطلاعات نادرست یا گمراه‌کننده را به مجموعه‌های آموزشی مهم هوش مصنوعی وارد می‌کنند و ماموریت آنها خرابکاری در مدل‌هایی است که زمانی قابل اعتماد بودند تا آنها را در جهتی کاملا متفاوت منحرف کنند.

به نقل از دیجیتال‌ترندز، اکثر سیستم‌های هوش مصنوعی که امروزه با آنها مواجه می‌شویم از چت جی‌پی‌تی گرفته تا توصیه‌های شخصی‌سازی‌شده نتفلیکس فقط به دلیل حجم گسترده متن، تصویر، گفتار و سایر داده‌هایی که بر اساس آنها آموزش دیده‌اند، به اندازه کافی «هوشمند» هستند که چنین شاهکارهای چشمگیری را انجام دهند. اگر این گنجینه غنی آلوده شود، رفتار مدل می‌تواند دچار مشکل شود.

پیامدهای چنین اتفاقی در دنیای واقعی بسیار فراتر از یک چت‌بات است که بی هدف حرف می‌زند یا مولدهای متن به تصویری که وقتی از آنها خواسته می‌شود پرنده‌ای را نشان دهند، تصویر یک هواپیما را تولید می‌کنند. گروه‌هایی از افراد سودجو می‌توانند به طور بالقوه باعث شوند که یک ماشین خودران چراغ قرمز را نادیده بگیرد، یا در مقیاس بسیار بزرگتر، باعث اختلال و قطعی شبکه برق شوند.

برای دفاع در برابر تهدید حملات مختلف مسمومیت داده‌ها، گروهی از محققان امنیت سایبری دو فناوری نوظهور یعنی یادگیری فدرال و بلاکچین را برای آموزش ایمن‌تر هوش مصنوعی ترکیب کرده‌اند. رویکرد نوآورانه این گروه با موفقیت، داده‌های نادرست را قبل از اینکه بتوانند مجموعه داده‌های آموزشی را به خطر بیندازند، شناسایی و حذف کرد.

هادی امینی، محقق ارشد و استادیار در دانشکده علوم محاسبات و اطلاعات بنیادی موسسه نایت، می‌گوید: ما روشی ایجاد کرده‌ایم که می‌تواند کاربردهای زیادی برای تاب‌آوری زیرساخت‌های حیاتی، امنیت سایبری حمل و نقل، مراقبت‌های بهداشتی و موارد دیگر داشته باشد.

بخش اول این رویکرد جدید شامل یادگیری فدرال است. این روش منحصر به فرد برای آموزش هوش مصنوعی، از یک نسخه کوچک از یک مدل آموزشی استفاده می‌کند که مستقیما روی دستگاه شما آموزش می‌بیند و فقط به‌روزرسانی‌ها و نه داده‌های شخصی کاربر را با مدل جهانی روی سرور یک شرکت به اشتراک می‌گذارد. این روش اگرچه که حریم خصوصی را حفظ می‌کند، اما همچنان در برابر حملات داده‌های مسموم، آسیب‌پذیر است.

اروین مور (Ervin Moore)، کاندیدای دکترا در آزمایشگاه امینی و نویسنده اصلی این مطالعه، توضیح می‌دهد: تأیید اینکه آیا داده‌های کاربر قبل از رسیدن به مدل، صحیح یا نادرست است، چالشی برای یادگیری فدرال است. بنابراین، ما برای کاهش این نقص به فکر بلاکچین افتادیم.

بلاکچین که به دلیل نقشش در ارزهای دیجیتال مانند بیت‌کوین محبوبیت پیدا کرده است، یک پایگاه داده مشترک است که در شبکه‌ای از رایانه‌ها توزیع شده است. داده‌ها در بلوک‌هایی که به ترتیب زمانی روی یک زنجیره به هم متصل شده‌اند، ذخیره می‌شوند. هر کدام اثر انگشت خود و همچنین اثر انگشت بلوک قبلی را دارند که آن را عملا آن را ضد دستکاری می‌کند.

کل زنجیره از یک ساختار خاص پیروی می‌کند. این مانند یک فرآیند بررسی است تا اطمینان حاصل شود که بلوک‌های تصادفی اضافه نمی‌شوند. می‌توان آن را مانند یک چک لیست برای پذیرش داده در نظر گرفت.

محققان هنگام ساخت مدل خود از این قابلیت به نفع خود استفاده کردند. این مدل به‌روزرسانی‌های بلوک را مقایسه می‌کرد و محاسبه می‌کرد که آیا به‌روزرسانی‌ها به طور بالقوه سمی هستند یا خیر. به‌روزرسانی‌های بالقوه سمی ثبت شده و سپس از تجمیع شبکه حذف می‌شدند.

امینی، که همچنین رهبری تیم متخصصان امنیت سایبری و هوش مصنوعی دانشگاه فلوریدا را بر عهده دارد و در حال بررسی هوش مصنوعی امن برای سیستم‌های حمل و نقل متصل و خودران است، می‌گوید: گروه ما اکنون با همکاری مرکز ملی امنیت سایبری و تاب‌آوری حمل و نقل همکاری نزدیکی دارد تا از رمزگذاری کوانتومی پیشرفته برای محافظت از داده‌ها و سیستم‌ها استفاده کند. هدف ما تضمین ایمنی و امنیت زیرساخت‌های حمل و نقل و در عین حال استفاده از قدرت هوش مصنوعی پیشرفته برای بهبود سیستم‌های حمل و نقل است.

هوش مصنوعی از سال آینده کارمند می‌شود

شنبه, ۷ ارديبهشت ۱۴۰۴، ۰۳:۱۴ ب.ظ | ۰ نظر

امنیت این ایجنت‌های هوش مصنوعی از مهم‌ترین حوزه‌هایی است که شرکت‌های هوش مصنوعی باید در آن سرمایه‌گذاری کنند.

به گزارش خبرگزاری سینا، به گفته «جیسون کلینتون»، مدیر ارشد امنیت اطلاعات آنتروپیک (Anthropic)، این شرکت انتظار دارد کارمندان مجازی مبتنی‌بر هوش مصنوعی ظرف یک سال آینده در شبکه‌های سازمانی حضور یابند و باید از نظر امنیتی برای آنها آماده شویم.

اظهارات مدیر آنتروپیک از آن جهت اهمیت دارد که مدیریت نیروهای مبتنی‌بر هوش مصنوعی شرکت‌ها را ناگزیر می‌کند تا استراتژی‌های امنیت سایبری خود را بازبینی کنند، در غیر این صورت ممکن است در معرض نقض‌های جدی امنیتی قرار بگیرند.

هوش مصنوعی

کلینتون در گفتگو با Axios می‌گوید کارمندان مجازی می‌توانند به یکی از حوزه‌های داغ نوآوری در هوش مصنوعی تبدیل شوند. برخلاف عامل‌های خودکار فعلی که روی وظایف خاصی متمرکزند، این هویت‌های مجازی حافظه مستقل، نقش‌های مشخص در سازمان، حساب‌های کاربری و حتی رمز عبور اختصاصی خواهند داشت. سطح خودمختاری آنها بسیار فراتر از عامل‌های امروزی است.

کلینتون مدعی است در این جهان جدید، چالش‌های امنیتی زیادی وجود دارد که هنوز برایشان راه‌حل مناسبی پیدا نکرده‌ایم. ازجمله این چالش‌ها می‌توان به چگونگی تأمین امنیت حساب‌های کاربری کارمندان مجازی، میزان دسترسی مناسب به شبکه و تعیین مسئول مدیریت عملکرد آنها اشاره کرد.

کلینتون توضیح داد آنتروپیک ۲ مسئولیت اصلی در این مسیر دارد: اول آزمایش گسترده مدل‌های کلود (Claude) برای مقاوم‌سازی آنها در برابر حملات سایبری. دوم نظارت بر مسائل ایمنی و کاهش راه‌های سوءاستفاده از مدل‌های کلود توسط عوامل مخرب.

 

هوش مصنوعی

 

هشدار آنتروپیک درباره تهدیدات امنیتی در دنیای کارمندان مجازی

درحال‌حاضر، مدیران شبکه می‌کوشند برای کنترل حساب‌های کاربری متعدد و مقابله با هکرهایی هستند که از رمزهای عبور فاش‌شده در دارک وب سوءاستفاده می‌کنند. در این شرایط، ظهور کارمندان مجازی، خطرات تازه‌ای ایجاد می‌کند؛ برای مثال، کارمند مجازی ممکن است به سیستم‌های حساس مانند سامانه‌های تست و ادغام کد شرکت نفوذ کند، بدون اینکه مسئولیتی متوجه شخص خاصی شود.

کلینتون تأکید می‌کند امنیت کارمندان مجازی یکی از مهم‌ترین حوزه‌هایی است که شرکت‌های هوش مصنوعی باید در آن سرمایه‌گذاری کنند. او به‌ویژه بر اهمیت راهکارهایی اصرار کرد که شفافیت بیشتری درباره عملکرد حساب‌های کاربری مجازی ایجاد کرده و دسته‌بندی جدیدی برای این هویت‌ها ارائه می‌دهند.

چندین شرکت امنیت سایبری هم‌اکنون محصولات جدیدی برای مدیریت «هویت‌های غیرانسانی» معرفی کرده‌اند؛ برای نمونه، شرکت «Okta» در فوریه پلتفرم کنترل یکپارچه‌ای برای محافظت از این هویت‌ها و نظارت بر رفتار آنها عرضه کرد.

خطرات رها گذاشتن معتادان به هوش مصنوعی

شنبه, ۷ ارديبهشت ۱۴۰۴، ۱۰:۴۲ ق.ظ | ۰ نظر

علی شمیرانی - برای پرداختن به موضوعی که در ادامه به آن پرداخته می‌شود، اکنون نیز دیر شده است. چراکه حسب تجربه در کشور ما به علت تاخیرهای همیشگی در ایجاد فرهنگ و سواد استفاده از محصولات و ابزارهای نوین، اصولا یا اقدامی صورت نمی‌گیرد یا با تاخیر و از جنس تهدیدانگاری مطلق شاهد مواجهه هستیم. 

رئیس مرکز آمار و فناوری اطلاعات قوه قضاییه جمهوری اسلامی ایران، امروز در بیستمین اجلاس رؤسای نظام‌های قضایی کشورهای عضو سازمان همکاری شانگهای، در شهر هانگژو چین، به سخنرانی پرداخت.
به گزارش مرکز رسانه قوه قضاییه، «محمد کاظمی‌فرد» رئیس مرکز آمار و فناوری اطلاعات قوه قضاییه جمهوری اسلامی ایران، امروز در بیستمین اجلاس رؤسای نظام‌های قضایی کشورهای عضو سازمان همکاری شانگهای، در شهر هانگژو چین، به سخنرانی پرداخت.

کاظمی‌فرد طی سخنانی در این اجلاس گفت: «استخراج الگوهای شکل‌گیری جرائم با استفاده از داده کاوی اطلاعات»، «استفاده از پابند الکترونیک بجای زندانی کردن به عنوان یک نمونه از بکارگیری فناوری اینترنت اشیا»، «شناسایی و نظارت هوشمند مراجعین حرفه‌ای که به دفعات به عنوان شاهد یا کفیل در دادگاه حاضر می‌شوند»، «اعتبارسنجی هوشمند مالی افراد توسط قضات اجرای احکام با امکان شناسایی، توقیف، رفع توقیف، توثیق و محاسبه هوشمند مبالغ بدهی و خسارت‌ها»، «تبدیل اظهارات افراد در جلسات رسیدگی به صورت هوشمند به متن»، «احراز هویت افراد با استفاده از هوش مصنوعی»، «شناسایی مجرمان حرفه‌ای و خطرناک با استفاده از ژنتیک و بیوانفورماتیک»، «ارجاع هوشمند به کارشناس در پرونده‌های قضایی» و همچنین «اعلام افراد ممنوع المعامله و دارای محکومیت‌های مالی در اعتبارسنجی‌های مالی»، از جمله اقدامات اجرایی قوه قضاییه جمهوری اسلامی ایران در استفاده از فناوری‌های نوین محسوب می‌شوند.

وی در ادامه عنوان کرد: ما به هوش مصنوعی به چشم یک فرصت نگاه می‌کنیم و با توجه به طرح‌هایی که برای گسترش استفاده از هوش مصنوعی در قوه قضاییه جمهوری اسلامی ایران داریم، علاقمندی خود را جهت گسترش همکاری‌ها و تبادل تجربیات با کشورهای عضو، در زمینه فناوری‌های نوین و هوشمندسازی خدمات قضایی اعلام می‌نماییم.

رئیس مرکز آمار و فناوری اطلاعات قوه قضاییه کشورمان اظهار کرد: فناوری بدون اخلاق می‌تواند خطرناک باشد. از تمام کشورهای عضو دعوت می‌کنیم تا با همکاری در حوزه اخلاق و حقوق بشر، تضمین کنیم که این فناوری به جای تهدید، ابزاری برای تحقق عدالت فراگیر و عادلانه شود. عدالت هوشمند، نیازمند همبستگی هوشمندانه است.

مشروح سخنان «کاظمی‌فرد» رئیس مرکز آمار و فناوری اطلاعات قوه قضاییه جمهوری اسلامی ایران در بیستمین اجلاس رؤسای نظام‌های قضایی کشورهای عضو سازمان همکاری شانگهای (چین، هانگژو) به شرح زیر است:

رئیس، عالیجنابان، سران محترم قضایی کشورهای عضو سازمان همکاری شانگهای و حضار گرانقدر، باسلام اینجانب دکتر محمد کاظمی فرد بعنوان رئیس مرکز فن آوری اطلاعات قوه قضاییه جمهوری اسلامی ایران ضمن سپاس از کشور محترم میزبان بعنوان برگزار کننده، از حضور در این اجلاس خرسندم.

در راستای تحقق مصوبات اجلاس نوزدهم سران محترم قضایی سازمان، مبنی بر دیجیتالی شدن عدالت با استفاده از فن آوری‌های نوین و تبادل تجربیات در این حوزه، مطالب خود را در حوزه کاربردهای فناوری‌های نوین از جمله هوش مصنوعی در دستگاه قضایی، تقدیم حضار می‌نمایم.

قوه قضاییه جمهوری اسلامی ایران، سند تحول قضایی بر پایه استفاده از فناوری‌های نوین را در دست اجرا دارد. در این سند، ارتقای حکمرانی داده محور قضایی، افزایش استفاده از هوش مصنوعی در اتخاذ تصمیمات و توسعه نظارت سیستمی به منظور کاهش بار کاری قضات و زمان رسیدگی به پرونده‌ها، افزایش دقت و کیفیت تصمیمات قضایی، دسترسی آسان‌تر مردم به عدالت و شفافیت امور قضایی پرداخته شده است. همچنین در قانون برنامه هفتم پیشرفت جمهوری اسلامی ایران قوه قضاییه باید به منظور تسهیل رسیدگی به پرونده‌های قضائی و رفع اختلافات مردم، امکان انجام امور را با استفاده از فناوری‌های نوین از جمله هوش مصنوعی برای کمک به قاضی با حفظ مسؤولیت شخص قاضی فراهم نماید. 
 در ادامه به برخی از اقدامات اجرایی قوه قضاییه جمهوری اسلامی ایران در استفاده از فناوری‌های نوین اشاره می‌کنم:

 *استخراج الگوهای شکل‌گیری جرائم با استفاده از داده کاوی اطلاعات

*استفاده از پابند الکترونیک بجای زندانی کردن به عنوان یک نمونه از بکارگیری فناوری اینترنت اشیا

* شناسایی و نظارت هوشمند مراجعین حرفه‌ای که به دفعات به عنوان شاهد یا کفیل در دادگاه حاضر می‌شوند

*اعتبار سنجی هوشمند مالی افراد توسط قضات اجرای احکام با امکان شناسایی، توقیف، رفع توقیف، توثیق و محاسبه هوشمند مبالغ بدهی و خسارت‌ها

*تبدیل اظهارات افراد در جلسات رسیدگی به صورت هوشمند به متن

*احراز هویت افراد با استفاده از هوش مصنوعی

*شناسایی مجرمان حرفه‌ای و خطرناک با استفاده از ژنتیک و بیوانفورماتیک

ارجاع هوشمند به کارشناس در پرونده‌های قضایی

*اعلام افراد ممنوع المعامله و دارای محکومیت‌های مالی در اعتبارسنجی‌های مالی؛

همچنین در فرآیند تشکیل و رسیدگی به پرونده این موارد را در دستگاه قضایی جمهوری اسلامی ایران در دست اجرا داریم:

* ارائه مشاوره هوشمند به خواهان یا شاکی در خصوص دعوا و نتیجه احتمالی آن 
*  ارجاع هوشمند پرونده‌های قضایی 
*  تنظیم خودکار اوقات رسیدگی و یادآوری مهلت‌های قانونی 
*  ارائه نظرات کارشناسی مانند تشخیص خط و امضا با استفاده از هوش مصنوعی 
* استعلام، مکاتبه یا دریافت اطلاعات مورد نیاز در پرونده‌های قضایی به‌صورت خودکار
* دستیار هوشمند قاضی جهت پاسخ گویی به سوالات حقوقی، پیشنهاد رأی و تصمیم مقتضی و سابقه‌یابی پرونده‌های مشابه.

در راستای تسهیل استفاده از هوش مصنوعی در فرایندهای قضایی جمهوری اسلامی ایران، توسعه مدل زبانی بزرگ بومی در دستور کار است. بدین منظور نیاز است؛ کلیه داده‌های قضایی به صورت الکترونیکی و قابل پردازش نگهداری شوند. خوشبختانه در این زمینه به تجربیات خوبی دست یافته‌ایم و متن بیش از ۱۰۰ میلیون تصمیم قضایی را با استفاده از هوش مصنوعی گمنام نموده و در اختیار شرکت‌ها، جهت تولید مدل زبانی بزرگ قرار داده‌ایم. در مدل‌های زبانی بزرگ، باید موضوع جهت گیری، رعایت استانداردهای قانونی و مدیریت داده‌های حساس کاربران مورد توجه و محافظت ویژه قرار گیرد.

ما به هوش مصنوعی به چشم یک فرصت نگاه می‌کنیم و با توجه به طرح‌هایی که برای گسترش استفاده از هوش مصنوعی در قوه قضاییه جمهوری اسلامی ایران داریم؛ علاقمندی خود را جهت گسترش همکاری‌ها و تبادل تجربیات با کشورهای عضو، در زمینه فناوری‌های نوین و هوشمندسازی خدمات قضایی اعلام می‌نماییم. بر همین اساس تشکیل کمیسیون تخصصی هوش مصنوعی با این موضوعات پیشنهاد می‌شود.

۱. تعیین حدود مسئولیت هوش مصنوعی در تصمیم گیری‌های قضایی
۲. تدوین استانداردهای اخلاقی و حقوق بشری در هوش مصنوعی 
۳. سیاستگذاری ترویج و تنظیم هوش مصنوعی 
۴. هماهنگی استانداردهای حفاظت از داده‌های قضایی

حضار گرامی.

فناوری بدون اخلاق می‌تواند خطرناک باشد. از تمام کشورهای عضو دعوت می‌کنیم تا با همکاری در حوزه اخلاق و حقوق بشر، تضمین کنیم که این فناوری به جای تهدید، ابزاری برای تحقق عدالت فراگیر و عادلانه شود. عدالت هوشمند، نیازمند همبستگی هوشمندانه است.

ضمن تشکر از توجه شما، در پایان مجددا آمادگی مرکز فن آوری اطلاعات قوه قضاییه جمهوری اسلامی ایران را برای همکاری مستمر و اثر بخش اعلام میدارم و از تمام کشورهای عضو دعوت می‌کنم تا با همکاری یکدیگر به سمت عدالت هوشمند گام برداریم.

هشدار آنکتاد به شکاف هوش مصنوعی

چهارشنبه, ۴ ارديبهشت ۱۴۰۴، ۰۳:۳۵ ب.ظ | ۰ نظر

آزاده کیاپور - سازمان تجارت و توسعه سازمان ملل که به‌ اختصار آنکتاد (UNCTAD) نامیده می‌شود، در گزارش 2025، ضمن هشدار درباره شکاف‌ بین کشورها در حوزه هوش مصنوعی و لزوم اقدام فوری، از بازار ۴.۸ تریلیون دلاری AI، تا سال 2033 خبر داد. 

ورود رگولاتوری به تنظیم‌گری هوش مصنوعی

سه شنبه, ۳ ارديبهشت ۱۴۰۴، ۰۵:۵۸ ب.ظ | ۰ نظر

رئیس گروه‌های مطالعاتی رگولاتوری گفت:سازمان تنظیم مقررات با توجه به نقشی که در تنظیم‌گری و کمک به تسهیل ورود فناوری‌های جدید به کشور دارد، این سیاست را پیاده سازی کرده است.
به گزارش خبرنگار مهر، کسری جمشید نژاد رئیس گروه‌های مطالعاتی سازمان تنظیم مقررات و ارتباطات رادیویی در نشست خبری رویداد نقش تنظیم‌گری در توسعه اقتصاد دیجیتال که امروز صبح در پژوهشگاه ارتباطات و فناوری اطلاعات برگزار شد با اشاره به نقش تنظیم‌گری سازمان تنظیم مقررات و ارتباطات رادیویی گفت: همانطور که می‌دانید در دوره انقلاب صنعتی چهارم قرار گرفته‌ایم و مطالب مهمی پا به عرصه گذاشته‌اند که از جمله آنها فناوری‌های تحول آفرین است، سازمان تنظیم مقررات با توجه به نقشی که در تنظیم‌گری و کمک به تسهیل ورود فناوری‌های جدید از باب حضور در کشور ایجاد می‌کند این سیاست را پیاده سازی کرده و با همکاری پژوهشگاه ارتباطات در حرکت به سمت نسل پنجم با رگولاتوری های مختلف نشست‌های مختلف برگزار کردیم.

وی افزود: فناوری‌های تحول آفرین انواع مختلفی دارند که با توجه به سیاست‌هایی که برنامه توسعه هفتم به عهده وزارت ارتباطات گذاشته است، هوشمند سازی نقش مؤثری ایفا می‌کند و ما نقشه راه مناسب برای این مسیر را توانستیم تدوین کنیم.

جمشیدنژاد ادامه داد: نشست‌های مختلف با اپراتورها و صنایع برگزار کردیم، نیازها را شنیدیم. سازمان تنظیم مقررات وظیفه خودش می‌داند در زمینه فناوری‌های نوین مخصوصاً هوش مصنوعی ایفای نقش و تسهیلگری کند.‌
وی در ادامه با اشاره به اینکه در بحث هوشمندسازی گام‌هایی برداشته شده است تصریح کرد: سازمان تنظیم مقررات و ارتباطات رادیویی در این رویداد نقش تسهیلگری، حمایت از صنایع و ایجاد فضای رقابتی برای شرکت‌های کوچک و استارت آپی دارد.

تعطیلی ناگهانی پلتفرم ملی هوش مصنوعی ایران

سه شنبه, ۳ ارديبهشت ۱۴۰۴، ۰۱:۱۷ ب.ظ | ۰ نظر

حمید ضیایی پرور- در تاریخ ۲۵ اسفند ۱۴۰۳، پلتفرم ملی هوش مصنوعی ایران با حضور معاون علمی رئیس‌جمهور طی مراسمی رسمی رونمایی شد. اخبار مربوط به این رونمایی در روزهای پایانی سال گذشته در اغلب رسانه‌های معتبر و رسمی کشور منتشر شد و امیدهایی را نسبت به ورود جدی ایران به عرصه هوش مصنوعی برانگیخت.

تصویب کلیات طرح هوش مصنوعی در کمیسیون صنایع

دوشنبه, ۲ ارديبهشت ۱۴۰۴، ۱۱:۱۷ ق.ظ | ۰ نظر

رییس کمیته ارتباطات و فناوری اطلاعات کمیسیون صنایع و معادن مجلس، از تصویب کلیات و جزییات طرح ملی هوش مصنوعی در نشست امروز کمیسیون صنایع خبر داد و افزود: در این طرح تاکید شده سازمان ملی هوش مصنوعی زیر نظر رئیس جمهور تشکیل شود که چهار بخش برای فعالیت آن پیش‌بینی شده است.

به گزارش ایرنا، مصطفی طاهری در تشریح نشست امروز یکشنبه ۳۱ فروردین ماه کمیسیون صنایع، افزود: طرح ملی هوش مصنوعی یکی از طرح‌های بسیار مهمی بود که امروز در کمیسیون صنایع و معادن مورد بررسی قرار گرفت.

نماینده مردم زنجان و طارم در مجلس شورای اسلامی، ادامه داد: البته بررسی این طرح تقریبا از هشت ماه گذشته در دستور کار کمیسیون صنایع و معادن مجلس شورای اسلامی قرار گرفته بود و در نهایت امروز به نتیجه رسید و گزارش آن جهت تصویب نهایی در صحن علنی ارائه خواهد شد.

وی تصریح کرد: در این طرح تاکید شده است که سازمان ملی هوش مصنوعی زیر نظر رئیس جمهور تشکیل شود و چهار بخش برای فعالیت آن پیش‌بینی شده است و در حوزه‌های مختلف برای آن تکالیفی تعیین شده است که راهبری و هدفگذاری را در این حوزه انجام داده و سعی شده فعلا مدیریت و رهبری آن به دستگاه‌هایی که متولی این بخش هستند همچون وزارت ارتباطات و فناوری اطلاعات، معاونت علمی و فناوری ریاست جمهوری، صندوق نوآوری، وزارت علوم، تحقیقات و فناوری و وزارت آموزش و پرورش سپرده شود.

این نماینده مردم در مجلس دوازدهم، یادآور شد: این سازمان در تربیت نیروی انسانی برای این حوزه، همچنین در خصوص داده‌ها که ریشه و اصل کار هوش مصنوعی است، پردازنده‌ها، لایه‌های زیرین و مطالعات راهبردی هوش مصنوعی و تکالیفی که بخش‌های مختلف دولت در این خصوص دارند، ورود جدی خواهد داشت. ضمن اینکه این طرح یک بند هم دارد که در خصوص تنظیم‌گری و رگولاتوری مباحث مربوط به هوش مصنوعی است.

رییس کمیته ICT کمیسیون صنایع و معادن مجلس شورای اسلامی، در خصوص برخی اظهارنظرها مبنی بر اینکه ایجاد این سازمان به نوعی موازی‌کاری با وزارت ارتباطات و فناوری اطلاعات است، تاکید کرد: در ابتدا معتقد بودند که نیازی به تشکیل این سازمان نیست سپس به دنبال این توضیح که در دنیا یک نهاد بالادستی برای این حوزه در قالب وزارتخانه یا کمیته تشکیل شده است، قرار شد سازمانی فرابخشی زیر نظر رییس جمهور ایجاد شود که به تمام ابعاد بخش‌های حاکمیت و دولت اشراف داشته باشد که در نهایت تمام مسئولان مربوطه با این موضوع موافقت کردند.

رئیس پارک ملی علوم و فناوری‌های نرم و صنایع فرهنگی با انتقاد از موازی‌کاری نهادهای قانون‌گذار در حوزه هوش مصنوعی گفت: نبود هماهنگی میان مجلس، دولت و شوراهای عالی، سرعت توسعه این فناوری را کاهش داده و کشور را از فرصت‌های آن دور می‌کند.
به گزارش تسنیم، محمدحسین خوشخو؛ رئیس پارک ملی علوم و فناوری‌های نرم و صنایع فرهنگی اظهار کرد: از آن‌جا که هوش مصنوعی پدیده‌ای نوظهور نه‌فقط در ایران بلکه در سطح جهان است، کشور ما باید آمادگی لازم را برای مواجهه با آن داشته باشد تا بتواند از فرصت‌های ایجادشده بهره‌برداری کند.

وی گفت: این موضوع و تمام مسائل مرتبط با آن، نیازمند مشارکت مردم، دست‌اندرکاران و نهادهای حاکمیتی است. در بخش حاکمیتی، مسائلی مانند قانون‌گذاری مطرح است. در حال حاضر، دستگاه‌های مختلفی همچون مجلس، دولت، شورای عالی انقلاب فرهنگی و شورای عالی فضای مجازی، به‌صورت جداگانه در این زمینه فعالیت می‌کنند. ما تجربه خوبی از این موازی‌کاری‌ها نداریم. به‌عنوان مثال، گاهی برای مخاطبان، سردرگمی میان شورا و مجلس ایجاد می‌شود. این دوگانگی بین مجلس، دولت و دستگاه‌های اجرایی، موجب کاهش سرعت عملکرد می‌شود.

رئیس پارک ملی علوم و فناوری‌های نرم و صنایع فرهنگی تصریح کرد: ضلع دوم این معادله، مردم هستند که در بخش‌های مختلف در حال پیشروی‌اند. همچنین، دست‌اندرکاران و متخصصان این حوزه باید با سرعت بیشتری حرکت کنند. بخش سوم و مهم این معادله، دستگاه‌های قانون‌گذار و نهادهای دولتی هستند. در این میان، مؤسسه عصر جدید که امروز در این رویداد حضور دارد، نقش کلیدی ایفا می‌کند. اگر بتوانیم در حوزه قانون‌گذاری و سیاست‌گذاری هماهنگی ایجاد کنیم و دولت نیز از این اقدامات حمایت کند، بی‌تردید به موفقیت خواهیم رسید. این همکاری، مانع تبدیل فرصت‌ها به تهدید خواهد شد.

خوشخو خاطرنشان کرد: همان‌طور که مطلع هستید، چندی پیش رویدادی با عنوان «هوش مصنوعی و سینما» در همین‌جا برگزار کردیم. در آن رویداد، یکی از دست‌اندرکاران، فیلم کوتاهی را به نمایش گذاشت که موجب شگفتی همگان شد؛ چراکه این فیلم با استفاده از هوش مصنوعی ساخته شده بود. این نمونه نشان می‌دهد اگر آمادگی داشته باشیم، می‌توانیم همانند اینترنت، از هوش مصنوعی نیز بهره ببریم. اما اگر آماده نباشیم، این فناوری می‌تواند اثرات منفی بر جای بگذارد. در آینده نزدیک، شاهد تحولات بزرگی در حوزه‌هایی چون موسیقی و نقاشی خواهیم بود و اگر آمادگی نداشته باشیم، این فناوری تمامی عرصه‌ها را تحت‌تأثیر قرار خواهد داد.

رئیس پارک ملی علوم و فناوری‌های نرم و صنایع فرهنگی گفت: از مدیریت مؤسسه عصر جدید قدردانی می‌کنم. ما نیز به‌عنوان حامی این حرکت، تلاش می‌کنیم تا این همکاری‌ها به نتیجه برسد. موضوع مهم دیگری که باید به آن توجه شود، مسئله مالکیت فکری در صنایع فرهنگی است. این موضوع اهمیت زیادی دارد. وقتی یک کارگردان یا نویسنده اثری خلق می‌کند، مالکیت آن اثر متعلق به چه کسی است؟ این مسئله‌ای تخصصی است که باید هم توسط متخصصان و هم توسط نهادهای حاکمیتی مورد بررسی قرار گیرد. همه باید در این زمینه مشارکت داشته باشند.

وی ادامه داد: به‌نظر من، در مواجهه با این پدیده نوین (هوش مصنوعی) شرایطی مشابه با مواجهه نخستین ما با اینترنت و دیگر فناوری‌ها را تجربه می‌کنیم. ما به هیچ‌وجه به دنبال ایجاد موازی‌کاری نیستیم؛ بلکه هدفمان به سرانجام رساندن کارهای نیمه‌تمام یا مغفول‌مانده‌ای است که تاکنون جایگاه مناسبی نیافته‌اند. این حرکت می‌تواند آغازگر هماهنگی، وحدت رویه و شکل‌گیری فعالیت‌های مشترک باشد.

هوش مصنوعی با ورود به صنعت مخابرات، تحولی بنیادین در شیوه ارائه خدمات، مدیریت شبکه و ارتباط با مشتریان ایجاد کرده است. این فناوری اکنون نه‌تنها بهینه‌سازی عملکرد شبکه را تضمین می‌کند، بلکه به ابزاری قدرتمند برای رقابت در بازار پرشتاب مخابرات تبدیل شده است. اپراتورهای جهان، از جمله اپراتورهای ایرانی که در مسیر ریبرندینگ و تحول دیجیتال قرار دارند، باید با این موج فناوری همگام شوند تا بتوانند جایگاه خود را در آینده حفظ کنند.  

به گزارش آی‌تی آنالیز، تحولات دیجیتال، اپراتورها را به سمت استفاده گسترده‌تر از هوش مصنوعی برای مدیریت شبکه‌های ارتباطی سوق داده است. یکی از مهم‌ترین کاربردهای این فناوری، بهینه‌سازی عملکرد شبکه‌ها، کاهش قطعی‌ها و پیش‌بینی الگوهای مصرف کاربران است. 

الگوریتم‌های هوش مصنوعی قادر هستند داده‌های لحظه‌ای را پردازش کرده و منابع شبکه را به‌صورت پویا تخصیص دهند، که این امر کیفیت خدمات را بهبود قابل توجهی می‌بخشد.

 

  • پشتیبانی هوشمند؛ تعامل سریع‌تر و کارآمدتر با کاربران

چت‌بات‌ها و سیستم‌های پاسخگویی خودکار مبتنی بر هوش مصنوعی، تجربه مشتریان را در ارتباط با اپراتورها به سطح جدیدی ارتقا داده‌اند. این ابزارهای هوشمند قادر هستند در لحظه پاسخ دهند، مشکلات فنی را تحلیل کنند و حتی خدمات شخصی‌سازی‌شده ارائه دهند. اپراتورهای پیشرو جهانی نشان داده‌اند که ادغام AI در سیستم‌های پشتیبانی نه تنها هزینه‌های عملیاتی را کاهش، بلکه رضایت کاربران را نیز افزایش می‌دهد.

 

  • امنیت سایبری پیشرفته؛ مقابله با تهدیدات لحظه‌ای

افزایش حملات سایبری در حوزه مخابرات نیز اپراتورها را به سرمایه‌گذاری جدی در راهکارهای امنیتی مبتنی بر هوش مصنوعی سوق داده است. سیستم‌های AI قادر هستند الگوهای مشکوک را شناسایی کرده و در لحظه به حملات واکنش نشان دهند که این قابلیت، امنیت داده‌های کاربران را به شکل محسوسی تقویت می‌کند.  

  • اپراتورهای ایرانی و ضرورت تحول به سوی هوش مصنوعی

اخیرا همراه اول با اجرای پروژه ریبرندینگ و حرکت به سوی تحول دیجیتال، نشان داده که خواهان نقش‌آفرینی فعال در آینده مخابرات ایران است. این اپراتور به‌عنوان پیشگام توسعه فناوری 5G (با در اختیار داشتن بیشترین تعداد سایت‌های فعال مربوط به این نسل از فناوری)، اکنون فرصت دارد تا با بهره‌گیری از هوش مصنوعی، خدمات ارتباطی و شبکه خود را به سطحی فراتر از استانداردهای فعلی ارتقا دهد.
  
ادغام هوش مصنوعی با خدمات مخابراتی، نه‌تنها کیفیت تجربه کاربران را افزایش می‌دهد، بلکه مدیریت شبکه‌ها و امنیت ارتباطات را نیز هوشمندتر می‌کند. اپراتورهای ایرانی باید با مدل‌های نوین جهانی هماهنگ شوند تا جایگاه خود را در صنعت رقابتی حفظ کنند. آینده این صنعت وابسته به هوشمندسازی، داده‌محوری و نوآوری دیجیتال است.

هوش مصنوعی جرایم‌ سایبری را دگرگون می‌کند

جمعه, ۳۰ فروردين ۱۴۰۴، ۰۴:۰۵ ب.ظ | ۰ نظر

آویو هوکر، یکی از بنیانگذاران و مدیرعامل شرکت  Faddomدر حوزه فناوری، اطلاعات و اینترنت می‌نویسد: «با تداوم پیشرفت تکنولوژی، به ‌طور بی‌سابقه، نیاز به اقدامات امنیت سایبریِ قوی‌تر، هر روز، بیشتر احساس می‌شود.» 
به گزارش عصر ارتباط از Calcalistech، در دنیای دیجیتال امروز، مرزهای میان نوآوری تکنولوژیکی و تهدیدات سایبری روز‌به‌روز محوتر می‌شود. هکرها از قابلیت‌های هوش مصنوعی و انبوه داده‌های شخصی، بهره‌برداری و امنیت سایبری را به حوزه‌ پیچیده و چالش‌برانگیز تبدیل کرده‌اند.
در همین رابطه مقاله‌ای که اخیرا در روزنامه واشنگتن‌پست منتشر شده، به افزایش چشمگیر هزینه‌های مالی جرایم سایبری بین سال‌های 2020 تا 2023 اشاره دارد. این روند، حاکی از تغییرات عمده‌ در اکوسیستم تکنولوژیکی است. هکرها از مجریان ناشناس که در سایه‌ فعالیت می‌کردند، به حرفه‌ای‌های ماهر تبدیل شده‌اند. آنها با استفاده از ابزارهای پیشرفته هوش مصنوعی به سیستم‌ها نفوذ می‌کنند، هویت‌ها را می‌دزدند و حتی امنیت ملی را به خطر می‌اندازند.
این تهدیدات، فراتر از تقلب مالی است. نهادهای اطلاعاتی خارجی از داده‌های شخصی برای شناسایی عوامل مخفی، ردیابی حرکت‌های نظامی و اعمال فشار بر کارکنان امنیتی استفاده می‌کنند. برای مثال، نقض‌های امنیتی اخیر در ارائه‌دهندگان عمده خدمات تلفن همراه مانند AT&T وVerizon ، به ‌قدری شدید بود که به مقامات دولتی توصیه شد از بحث درباره مسائل حساس از طریق تلفن خودداری کنند.
در هسته مرکزی این حملات، داده‌هایی قرار دارند که مقدار زیادی از آنها، از سوابق پزشکی گرفته تا شماره‌های تامین اجتماعی و جزییات تماس را شامل می‌شوند. اطلاعات شخصی به ‌طور گسترده در دسترس است. 
ابزارهای مبتنی بر هوش مصنوعی، به بازیگران بدخواه، این امکان را می‌دهند که این داده‌ها را با سرعت بی‌سابقه، پردازش و تحلیل کنند و حملات هدفمند و پیچیده‌ای را برنامه‌ریزی نمایند که شناسایی آنها بسیار دشوار است.
پیامدهای این تهدیدات نیز بسیار گسترده است: خسارات مالی، آسیب به سیستم‌های شرکتی و تهدید امنیت ملی. نهادهای اطلاعاتی خارجی که از اطلاعات شخصی دقیق برخوردارند، می‌توانند از آسیب‌پذیری‌ها استفاده کنند تا اهداف خود را پیش ببرند.
این چشم‌انداز تهدیدآمیز در حال تحول، بر اهمیت مقرراتی مانند قانون تاب‌آوری عملیاتی دیجیتال (DORA)، تاکید می‌کند. این چارچوب‌ها نه ‌تنها اختیاری نیستند، بلکه استانداردهای ضروری برای مدیریت خطرات سایبری را تعیین می‌کنند و مجازات‌های سنگینی را برای سازمان‌هایی که از رعایت آنها سر باز می‌زنند، درنظر می‌گیرند.
مسیر پیش‌رو، فراتر از ابزارهای تکنولوژیک، به یک رویکرد جامع نیاز دارد که نقشه‌برداری از زیرساخت‌های فناوری اطلاعات، تشخیص آسیب‌پذیری‌ها، به ‌صورت آنی و تضمین شفافیت کامل سیستم‌ها را شامل می‌شود.
با تداوم پیشرفت تکنولوژی، به‌طور بی‌سابقه، نیاز به اقدامات امنیت سایبری قوی‌تر، هر روز، بیشتر می‌شود. این، تنها مسئولیت سازمان‌ها و دولت‌ها نیست، بلکه افراد نیز باید نقش خود را در درک خطرات و اتخاذ اقدامات اولیه برای محافظت از دارایی‌های دیجیتال ایفا کنند.
در نهایت، تصمیم با خود ماست: آیا می‌خواهیم در برابر تهدیدات در حال تحول، آسیب‌پذیر بمانیم یا استراتژی‌های پیشگیرانه‌ای را در پیش بگیریم که آینده دیجیتال ما را تامین کند؟ در عصری که اطلاعات، معادل قدرت است، محافظت از این اطلاعات برای حفظ آینده، ضروری است.

هشدار دانشجویان به تعلل در توسعه هوش مصنوعی

جمعه, ۳۰ فروردين ۱۴۰۴، ۰۴:۰۴ ب.ظ | ۰ نظر

بسیج دانشجویی دانشکده مهندسی برق و کامپیوتر دانشگاه تهران با ارسال نامه‌ای به محمدرضا عارف، نسبت به تعلل در اجرای سند ملی هوش مصنوعی، تدوین اساسنامه سازمان ملی هوش مصنوعی و فقدان رویکرد راهبردی در دولت چهاردهم هشدار داد.
به گزارش دانشجو متن کامل نامه کارگروه تخصصی هوش مصنوعی بسیج دانشجویی دانشکده مهندسی برق و کامپیوتر دانشگاه تهران خطاب به محمدرضا عارف، معاون اول ریاست جمهوری اسلامی ایران به شرح زیر است:

«…در مسئله‌ی هوش مصنوعی، بهره‌بردار بودن امتیاز نیست؛ این فنّاوری لایه‌های عمیقی دارد که باید بر آن لایه‌ها مسلّط شد؛ آن لایه‌ها دست دیگران است. اگر شما نتوانید لایه‌های عمیق و متنوّع این فنّاوری هوش مصنوعی را تأمین کنید، فردا اینها یک ایستگاهی مثل آژانس اتمی درست میکنند برای هوش مصنوعی ــ که الان دارند مقدّماتش را فراهم میکنند ــ که اگر چنانچه به آن ایستگاه رسیدید، باید اجازه بگیرید که در فلان بخش از هوش مصنوعی استفاده کنید، در فلان بخشِ دیگر حق ندارید استفاده کنید! این‌جوری است؛ زرنگ‌های دنیا، فرصت‌طلب‌ها و قدرت‌طلب‌های دنیا دنبال این چیز‌ها هستند... … در زمان دولت سیزدهم، سازمانی به نام "سازمان ملی هوش مصنوعی" زیر نظر رئیس‌جمهور تشکیل شد. اگر این سازمان همچنان با نظارت مستقیم رئیس‌جمهور به فعالیت خود ادامه دهد، امیدواری زیادی برای دستیابی به اهداف متصور در این حوزه وجود خواهد داشت.»

حضرت آیت الله خامنه‌ای (اولین جلسه با هیئت دولت چهاردهم) ۱۴۰۳/۶/۶

با سلام و احترام

جناب آقای دکتر محمدرضا عارف

معاون اول محترم ریاست جمهوری

با توجه به ظهور فناوری هوش مصنوعی، سرمایه‌گذاری جهانی در این فناوری شدت گرفته به شکلی که تمامی قدرت‌های فناوری و شرکت‌های فناور در جهان با جدیت وارد رقابت این فناوری نوظهور شده‌اند. اذعان تمامی کارشناسان، ارقام سرمایه‌گذاری و نتایج محیرالعقول این فناوری در چند سال اخیر نشان می‌دهد هوش مصنوعی در اداره آینده‌ی جهان نقشی کلیدی خواهد داشت و اکثر ابعاد زندگی و اقتصاد بشریت را دستخوش تغییرات جدی خواهد کرد. مضاف بر این، اشاره مستقیم و صریح رهبر انقلاب به این فناوری در دیدار اول هیئت دولت چهاردهم با ایشان نیز فوریت توجه به این فناوری اقتدارآفرین را بیش از پیش عیان می‌کند.

در عصر رقابت فناوری، کشور‌هایی که به توسعه و بکارگیری فناوری بها می‌دهند، در عرصه‌های علمی و صنعتی پیشتاز خواهند بود و نه‌تنها آینده‌ی اقتصادی خود را تضمین می‌کنند، بلکه به بازیگران اصلی در سیاست‌گذاری‌های بین‌المللی تبدیل می‌شوند. در مقابل، کشور‌هایی که از این موج تحول‌آفرین و توسعه غافل بمانند، با چالش‌های جبران‌ناپذیری مواجه خواهند شد که تجربه آن در عرصه فناوری‌های دیجیتال، صنعت هسته‌ای، اینترنت، شبکه‌های اجتماعی و... برای کشور قابل مشاهده و ملموس است. رویکرد تنظیم‌گری صرف در برخی از آنها علاوه بر اینکه باعث وابستگی شدید به واردات کالاها، خدمات و محصولات خارجی شده است، تبعات اقتصادی، سیاسی، اجتماعی و حتی گا‌ها تبعات امنیتی نیز در پی داشته است.

همانطور که مستحضرید «سند ملی هوش مصنوعی» مورخ ۱۴۰۳/۳/۲۹ به تصویب شورای عالی انقلاب فرهنگی رسید. در راستای اجرای این سند، به عنوان نخستین قانون مرتبط با فناوری هوش مصنوعی، «شورای ملی راهبری هوش مصنوعی» و «سازمان ملی هوش مصنوعی» تشکیل شدند. در تاریخ ۳۰ آبان ماه ۱۴۰۳، رئیس جمهور محترم در دولت چهاردهم، طی ابلاغیه‌ای به معاونت علمی و فناوری ریاست جمهوری، مهلتی سه‌ماهه برای ارائه اساسنامه سازمان ملی هوش مصنوعی به هیئت دولت جهت تصویب تعیین نمودند. با این حال، پس از گذشت مهلت مقرر، نه تنها اساسنامه سازمان ملی هوش مصنوعی هنوز تدوین نشده، بلکه طبق اخبار واصله، تخصیص بودجه این سازمان با مشکل مواجه شده و ادامه فعالیت این سازمان را در هاله‌ای از ابهام قرار داده است. با توجه به اهمیت موضوع، اینچنین تعلل در اجرای سند ملی هوش مصنوعی توسط نهاد‌های مسئول باعث برانگیخته شدن تشکل‌های دانشجویی و نخبگان شده است.

بی‌توجهی به هوش مصنوعی به عنوان پرچم‌دار حرکت فناوری در کشورها، در آینده نه‌چندان دور، نتیجه‌ای مانند تجربیات گذشته را در زمینه اینترنت و فناوری دیجیتال در پی خواهد داشت. این درحالیست که اثرگذاری این فناوری به مراتب برجسته‌تر از فناوری‌هایی مانند نانو و … است و در توان‌بخشی به کشور همچون انرژی هسته‌ای عمل می‌کند.

تضعیف ساختار‌های موجود و نبود یک سازمان و نهاد متمرکز به عنوان راهبر این حرکت و عدم نگاه راهبردی و کاربردگرایی در کنار عدم پاسخگویی دیگر ارگان‌های پر مشغله مانند معاونت علمی و فناوری ریاست جمهوری و وزارت ارتباطات و فناوری اطلاعات، باعث از بین رفتن فرصت‌های موجود شده است. متاسفانه در سه سال گذشته بعد از فرمان رهبر انقلاب و تاکید ایشان به اهمیت این فناوری کلیدی در اداره آینده جهان (۱۴۰۰/۰۸/۲۶) حرکت قابل قبولی در این زمینه انجام نشده و با توجه به رشد محیرالعقول این فناوری در جهان، فرصت فعالیت و ورود به رقابت در این حوزه بسیار محدودتر از قبل به نظر می‌رسد. همچنین توسعه پایدار این فناوری برای کشور بسیار حیاتی بشمار می‌رود که در صورت به‌تعویق‌اندازی پیامد‌های ناگوار و غیر قابل جبرانی برای کشور خواهد داشت.

با توجه به خروجی اقدامات صورت گرفته، متاسفانه نگاه دولت به این فناوری انقلابی، کلیدی و اقتدارآفرین، اضطراری و راهبردی ارزیابی نمی‌شود. در نتیجه، اهتمام انقلابی جنابعالی به عنوان سکان‌دار دولت در حوزه هوش مصنوعی و میراث‌دار نسل‌های آینده تمدن نوین ایرانی-اسلامی بیش از پیش حیاتی است.

به عنوان تشکل دانشجویی دغدغه‌مند این فناوری نوظهور و اقتدارآفرین و دانشجوی مرتبط با حوزه تخصصی هوش مصنوعی، انتظار داریم موارد ذیل مورد توجه قرار گیرد:

اراده جدی و همه‌جانبه حاکمیت می‌بایست مبنی بر توسعه لایه‌های عمیق و نفی جدی رویکرد بهره‌برداری و کاربرد صرف در این حوزه باشد و رویکرد مصرف‌گرایانه و ضد توسعه نسبت به هوش مصنوعی در تمامی ارگان‌های نظام، ناصحیح و غیر راهبردی است. غفلت از موضوع توسعه لایه‌های عمیق می‌تواند منجر به تکرار تجربه تلخ "کنار گذاشته شدن از روند توسعه و وابستگی کشور به قدرت‌های خارجی در سایر فناوری ها" شود.

تعلل در اجرای قانون و عدم ارائه اساسنامه سازمان ملی هوش مصنوعی توسط معاونت علمی ریاست جمهوری قابل قبول نبوده و مصداق "ترک فعل" تلقی می‌شود؛ توجه و فهم دولت نسبت به این فناوری می‌بایست سمت و سوی راهبردی‌تری بگیرد و با الگو گرفتن از کشور‌های پیشرو (تاسیس وزارتخانه مرتبط و سازمان‌های رده بالای حاکمیتی) توقف "حیات نباتی" سازمان ملی هوش مصنوعی و اجرای پرشتاب سند ملی هوش مصنوعی پیگیری شود.

پیگیری تصویب فوری قانون "طرح ملی هوش مصنوعی" در مجلس شورای اسلامی به عنوان فصل الخطاب و مکمل قوانین و اسناد موجود در این حوزه نیز انتظار می‌رود تا توسعه این فناوری توانبخش و امیدآفرین در کشور شتاب و سرعت بیشتری بگیرد.

رهبر انقلاب: «هر ملّتی که امروز در زمینه‌ی این دانش‌های جدید... عقب بیفتد، سرنوشتش، سرنوشت آن ملّتهایی است که در آغاز انقلاب صنعتی عقب افتادند و سرنوشتشان شد استعمارزدگی، شد زیر دست بودن، شد فقیر ماندن، شد ذلیل شدن.» ۱۳۹۷/۱۱/۳

کارگروه تخصصی هوش مصنوعی بسیج دانشجویی دانشکده مهندسی برق و کامپیوتر دانشگاه تهران

رونوشت به:

وزارت ارتباطات و فناوری اطلاعات

معاونت علمی و فناوری ریاست جمهوری

سازمان ملی هوش مصنوعی

رئیس فراکسیون هوش مصنوعی مجلس با اشاره به برنامه‌های مجلس برای هوش مصنوعی نکاتی را بیان کرد.

رضا تقی پور رئیس فراکسیون هوش مصنوعی مجلس و عضو شورای عالی فضای  مجازی در گفت‌و‌گو با باشگاه خبرنگاران جوان با اشاره به برنامه‌های مجلس برای هوش مصنوعی گفت: ما در مجلس یازدهم فراکسیون هوش مصنوعی و داده را داشتیم که در جلسات متعدد مسائل مختلف در زمینه هوش مصنوعی را بررسی کردیم.  در نتیجه جلسات برگزار شده چند حکم در قانون برنامه هفتم پیش بینی شد.

در شورای عالی فضای مجازی در زمینه کلیات هوش بحث شده است

وی ادامه داد: در مجلس دوازدهم این فراکسیون به عنوان فراکسیون هوش مصنوعی و فناوری دانش بنیان داریم که جلساتش در حال برگزاری است. همکاران ما در این دوره طرح ساماندهی هوش مصنوعی را آماده کردند که در حال نهایی شدن است. این طرح دارای ۱۴ ماده است که مهمترین مسائل هوش مصنوعی در کشور را در بر میگیرد. از جمله تقسیم کاری که هریک از سازمان‌ها برعهده دارند.

تقی پور در  پاسخ به سوالی درباره وظایف شورای عالی فضای مجازی در زمینه هوش مصنوعی افزود: هوش مصنوعی جز دانش‌هایی قرار دارد که در حوزه کاری شورای عالی فضای مجازی قرار دارد. در شورای عالی فضای مجازی در زمینه کلیات هوش بحث شده است.  مقدمات راه اندازی سازمان هوش مصنوعی انجام شده و امیدواریم که این سازمان بتواند هماهنگی‌های لازم را با تصویب سریع این قانون در مجلس انجام بدهد.

رئیس فراکسیون هوش مصنوعی مجلس ادامه داد: در گام اول به جرم انگاری پرداخته نشده است ما در این حوزه به قوانین متعددی نظیر حکمرانی داده‌ها و نحوه ارائه خدمات لازم داریم. در دوره دوازدهم مجلس باید این گام‌ها برداشته و نهایی شوند.

رفع فیلترینگ در دست بررسی است

وزیر ارتباطات پیشین با اشاره به رفع فیلترینگ افزود: با پیشنهاد آقای رئیس جمهور و هیات دولت در شورای عالی فضای مجازی در حال بحث است.  در کل دنیا فعالیت پلتفرم‌ها در چهارچوب قوانین کشور است و این توافق نامه‌ها در کشور‌های متعددی وجود دارد. شاهد برخورد آمریکا با تیک تاک هم در این زمینه بودیم. در مصوبات شورای عالی فضای مجازی شرایط برای سایر سکو‌ها اعلام شده است.

وی با اشاره به قوانین ایران برای سکو‌ها بیان کرد: اینها باید در خواست خود را مطرح کنند و در نهایت بیش از چند هزار سکو داریم که در کشور فعال هستند و نباید کل فضای مجازی را منحصر بدانیم در چند سکویی که برای خود مقررات خاصی قائلند. سکو‌های داخلی بدون قید و شرط در حال حمایت هستند، زیرا شرایط کلی کشور توسعه پیام رسان هاست و استفاده امن از آنها. در دولت سیزدهم حمایت‌ها از سکو ها‌ی داخلی بسیار فراگیر بود اکنون هم در دولت چهاردهم این حمایت‌ها ادامه دارد.  در رقابت سکو‌های داخلی و خارجی همه مردم باید کمک کنند تا مانند صنایع دیگر این‌ها نیز حمایت شوند.

اطلاعاتی که نباید به چت‌جی‌پی‌تی داد

شنبه, ۲۴ فروردين ۱۴۰۴، ۰۴:۵۸ ب.ظ | ۰ نظر

بر اساس هشدارهای کارشناسان، اطلاعات پنج‌گانه‌ای وجود دارد که نباید در گفت‌وگو با چت‌بات‌ها به آن‌ها پرداخته شود چرا که ممکن است این اطلاعات در فرآیند آموزش مدل‌ها، اشتباهات سیستمی و یا حتی در حملات سایبری مورد سوءاستفاده قرار بگیرند.

به گزارش اطلاعات آنلاین، در ماه‌های اخیر چت‌جی‌پی‌تی به یکی از ابزارهای محبوب برای پاسخ به سوالات و کمک در امور مختلف روزمره تبدیل شده است. اگرچه این ابزار مبتنی بر هوش مصنوعی می‌تواند بسیار مفید باشد اما برخی پژوهشگران هشدار می‌دهند که همه چیز را نباید با آن در میان گذاشت.

چت‌ جی‌پی‌تی، محصول شرکت اوپن ای‌آی، برای بسیاری از کاربران حکم یک دستیار دیجیتال را دارد که می‌تواند متن بنویسد، کد تصحیح کند، نتایج پزشکی را تحلیل کند و حتی کمک کند کودکی را بخوابانند. اما در پشت این پاسخ‌های صمیمی، الگوریتم‌هایی قرار دارند که از هر تعامل چیزهایی می‌آموزند.

در طول این سال‌ها چت‌ جی‌پی‌تی نه‌تنها یاد گرفته که مثلا شما عاشق تخم‌مرغ هستید و کمردرد دارید، بلکه جزئیات بسیار شخصی‌تر از شما را نیز به خاطر سپرده است. در واقع ابزارهایی مانند چت‌ جی‌پی‌تی با هدف شخصی‌سازی پاسخ‌ها و بهبود عملکرد آتی خودشان، جزئیات فردی بسیاری را، از وضعیت جسمی کاربران گرفته تا برخی مسائل بسیار خصوصی، به حافظه می‌سپارند.

اگرچه کاربران می‌توانند این قابلیت را از طریق تنظیمات غیرفعال کنند، با این حال از آن‌جا که شمار زیادی از افراد در این باره بی‌تفاوت هستند اطلاعات بسیار زیادی می‌تواند در اختیار چت‌ جی‌پی‌تی گذاشته شود.

چه چیزی را نباید به ChatGPT گفت؟ و چرا؟

بر اساس هشدارهای کارشناسان، اطلاعات پنج‌گانه‌ای وجود دارد که نباید در گفت‌وگو با چت‌بات‌ها به آن‌ها پرداخته شود چرا که ممکن است این اطلاعات در فرآیند آموزش مدل‌ها، اشتباهات سیستمی و یا حتی در حملات سایبری مورد سوءاستفاده قرار بگیرند.

این اطلاعات عبارتند از:

اطلاعات هویتی: مانند شماره شناسنامه، گواهینامه، گذرنامه، آدرس، شماره تلفن و تاریخ تولد. برخی چت‌بات‌ها تلاش می‌کنند این موارد را سانسور کنند، اما تضمینی وجود ندارد.

نتایج آزمایشات پزشکی: چت‌بات‌ها مشمول قوانین سختگیرانه محافظت از داده‌های درمانی نیستند. در صورت نیاز، فقط نتایج آزمایشات را بدون اطلاعات هویتی بارگذاری کنید.

اطلاعات مالی: مانند شماره حساب‌های بانکی یا سرمایه‌گذاری، که در صورت افشای ناخواسته می‌توانند تبعات جدی داشته باشند.

اطلاعات محرمانه‌ سازمانی: بسیاری از کاربران در حین کار از چت‌بات‌ها برای نوشتن ایمیل یا بررسی کد استفاده می‌کنند، اما همین کار می‌تواند اطلاعات حساس کاری یا کدهای محرمانه را فاش کند.

رمزهای عبور و نام‌ کاربری: چت‌بات‌ها فضای امن برای ذخیره رمز یا گاوصندوق دیجیتال نیستند. این اطلاعات باید در نرم‌افزارهای مدیریت رمز عبور نگهداری شوند.

شرکت‌های بزرگی چون اوپن ای‌آی، گوگل و مایکروسافت از مکالمات کاربران برای بهبود مدل‌های خود استفاده می‌کنند. اگرچه کاربران می‌توانند در تنظیمات گزینه عدم استفاده از داده‌ها برای آموزش را فعال کنند، اما بسیاری از افراد از این قابلیت بی‌خبر هستند.

راه‌هایی برای حفظ حریم خصوصی با هوش مصنوعی

کارشناسان امنیت سایبری پیشنهاد می‌کنند برای حفظ حریم شخصی، اقدامات زیر را انجام دهید:

از حالت چت موقت استفاده کنید: ویژگی «چت موقت» (Temporary Chat) در چت‌جی‌پی‌تی مانند حالت ناشناس مرورگر عمل می‌کند و مانع از ذخیره مکالمه‌ها و استفاده از آن‌ها در آموزش مدل‌ها می‌شود.

مکالمه‌ها را حذف کنید: می‌توانید پس از پایان هر گفت‌وگو، آن را از تاریخچه حذف کرده و مطمئن شوید پس از ۳۰ روز اطلاعات کاملا پاک می‌شود.

از ابزارهای ناشناس‌سازی استفاده کنید: موتور جست‌وجوی داک‌داک‌گو (DuckDuckGo) ابزاری به نام داک‌ای‌آی (Duck.ai) ارائه کرده که پیام‌ها را به‌صورت ناشناس برای مدل‌های هوش مصنوعی ارسال می‌کند؛ هرچند امکانات محدودی نسبت به چت‌بات‌های کامل دارد.

در نهایت، این شما هستید که باید تصمیم بگیرید چه چیزی را به اشتراک بگذارید و چه چیزی را نگه دارید. به عبارت دیگر چت‌بات‌ها برای ادامه دادن مکالمات طراحی شده‌اند، اما اختیار نهایی همچنان در دستان شماست.

وزیر ارتباطات گفت: عربستان سعودی با اختصاص حدود ۲۰ میلیارد دلار و امارات متحده عربی با ۱.۴ میلیارد دلار سرمایه‌گذاری در حوزه هوشمندسازی و هوش مصنوعی قدم برداشته‌اند، در حالی که ایران زیر ۵۰ میلیون دلار در این حوزه سرمایه‌گذاری کرده است. - اخبار اجتماعی -

به گزارش تسنیم، وزارت ارتباطات و فناوری اطلاعات و صندوق توسعه ملی امروز، شنبه 23 فروردین 1404، تفاهم‌نامه «حکمرانی هوشمند و اقتصاد با محوریت هوش مصنوعی» را امضا کردند.

ستار هاشمی؛ وزیر ارتباطات، در نشست امضای این تفاهم‌نامه گفت: بر اساس گزارش شاخص جهانی هوش مصنوعی، وضعیت کشور ما در منطقه جایگاه مطلوبی ندارد و رتبه 60 را دارد. در رتبه‌بندی اخیر که تعدادی از کشورهای جهان از جمله چند کشور منطقه مورد بررسی قرار گرفته‌اند، عربستان سعودی و امارات متحده عربی با اختلاف قابل توجهی جایگاه بهتری نسبت به ایران کسب کرده‌اند. بر این اساس، امارات متحده عربی در رتبه 14 و عربستان سعودی در جایگاه 20 این رتبه‌بندی قرار گرفته‌اند.

وزیر ارتباطات بیان کرد: بررسی میزان سرمایه‌گذاری در حوزه هوش مصنوعی و زیرساخت‌های اقتصاد دیجیتال، نشان‌دهنده شکاف عمیق میان ایران و کشورهای پیشروی منطقه است. برآوردها حاکی از آن است که عربستان سعودی با اختصاص حدود 20 میلیارد دلار و امارات متحده عربی با 1.4 میلیارد دلار سرمایه‌گذاری در حوزه هوشمندسازی و هوش مصنوعی گام‌های بلندی برای توسعه فناوری‌های هوشمند برداشته‌اند. در مقابل، حجم سرمایه‌گذاری ایران در بخش هوش مصنوعی به زیر 50 میلیون دلار می‌رسد.

هاشمی خاطرنشان کرد: این آمار بیانگر ضرورت توجه ویژه به افزایش سرمایه‌گذاری در فناوری اطلاعات، هوش مصنوعی و زیرساخت‌های ارتباطی است. کاهش فاصله کنونی نیازمند برنامه‌ریزی دقیق و تخصیص منابع مالی در بازه زمانی کوتاه‌مدت است. در این راستا، برگزاری نشست‌های تخصصی و انعقاد تفاهم‌نامه‌های راهبردی می‌تواند به تحقق شعار سال مبنی بر «سرمایه‌گذاری در تولید» و ارتقای جایگاه کشور در عرصه فناوری کمک کند.

تقابل چین و آمریکا در لحظهٔ حساس هوش مصنوعی

شنبه, ۲۴ فروردين ۱۴۰۴، ۰۴:۰۰ ب.ظ | ۰ نظر

ندا اظهری، مترجم: دانشگاه استنفورد به‌تازگی هشتمین گزارش شاخص هوش مصنوعی را منتشر کرد که جامع‌ترین شاخص ارائه‌شده تاکنون در این حوزه به شمار می‌رود. با توجه به نفوذ گسترده و روزافزون هوش مصنوعی در جامعه، اقتصاد و حاکمیت جهانی، اهمیت چنین شاخص‌هایی بیش از پیش خود را نشان می‌دهد. در گزارش امسال، محققان این دانشگاه تحلیل‌های عمیقی از چشم‌انداز در حال تکامل سخت‌افزار هوش مصنوعی، تخمین‌های جدید هزینه‌های استنتاج و تحلیل‌های جدید از روند انتشار و ثبت اختراع هوش مصنوعی ارائه کرده‌اند. آن‌ها همچنین داده‌های تازه‌ای را در مورد پذیرش شرکت‌ها از شیوه‌های هوش مصنوعی مسئول، همراه با پوشش گسترده‌ای از نقش رو به رشد هوش مصنوعی در علم و پزشکی معرفی کرده‌اند. شاخص هوش مصنوعی از زمان تأسیس در سال ۲۰۱۷، به‌عنوان شاخه‌ای از مطالعه ۱۰۰ساله هوش مصنوعی ارائه شد که هدف آن، ارائه تازه‌ترین، دقیق‌ترین و معتبرترین داده‌ها از این فناوری رو به رشد به سیاست‌گذاران، روزنامه‌نگاران، مدیران اجرایی، محققان و عموم مردم بوده است. 

در واقع، مأموریت آن‌ها همواره کمک به این گروه از افراد بوده تا بتوانند تصمیمات آگاهانه‌تری را در مورد توسعه و استقرار هوش مصنوعی اتخاذ کنند. شاخص هوش مصنوعی همچنان در ردیابی و تفسیر حیاتی‌ترین روندهای شکل‌دهنده این حوزه، از تغییر چشم‌انداز ژئوپلیتیک و تکامل سریع فناوری‌های زیربنایی گرفته تا نقش رو به گسترش هوش مصنوعی در تجارت، سیاست‌گذاری و زندگی عمومی پیشرو است. در این گستره که هوش مصنوعی با سرعت سرسام‌آوری پیشرفت می‌کند، این شاخص می‌تواند زمینه‌های ضروری برای تداوم این پیشرفت را فراهم کند. شاخص هوش مصنوعی که در سطح جهان به‌عنوان یکی از معتبرترین منابع در زمینه هوش مصنوعی شناخته می‌شود، در رسانه‌های بزرگی چون نیویورک تایمز، بلومبرگ و گاردین نیز از آن یاد شده و صدها مقاله دانشگاهی و نیز سیاست‌گذاران و سازمان‌های دولتی نیز در سراسر دنیا از آن یاد کرده و بهره‌مند می‌شوند. ‌راسل والد‌، مدیر اجرایی مؤسسه ‌هوش مصنوعی انسان‌محور‌ (HAI) دانشگاه استنفورد و عضو کمیته راهبری شاخص هوش مصنوعی معتقد است که هوش مصنوعی یک فناوری تحول‌آفرین است که هیچ محدودیتی جلودار آن نیست و همچنان پیش می‌رود و قادر است هر صنعتی را متحول کند. سال گذشته شاهد افزایش سرعت پذیرش هوش مصنوعی با سرعت بی‌سابقه‌ای بودیم به‌طوری‌که دامنه و تأثیر آن همچنان رو به رشد خواهد بود. در این گزارش، مانند سال‌های گذشته همچنان نامی از ایران نیست، به‌جز دو استثنا که مربوط به تعداد دانشجویان مقاطع کارشناسی ارشد و دکتری علوم کامپیوتر در دانشگاه‌های آمریکا بوده است. در این گزارش، خلاصه‌ای از مهم‌ترین موضوعات مطرح شده در شاخص AI ارائه شده است.


بررسی عملکرد هوش مصنوعی با 3 معیار جدید

محققان در سال ۲۰۲۳ معیارهای جدیدی را مانند GPQA، MMMU و SWE-bench برای آزمایش محدودیت‌های سیستم‌های هوش مصنوعی پیشرفته معرفی کردند. معیار GPQA یک آزمون طراحی‌شده برای سنجش توانایی مدل‌ها در پاسخ به سؤالات عمومی است. معیار MMMU نیز مربوط به درک عمومی زبان در موضوعات مختلف است. معیار SWE-bench نیز آزمونی برای رفع مشکلات کد است. تنها یک سال بعد، عملکرد آن‌ها افزایش یافت به‌طوری‌که امتیاز آن‌ها به ترتیب برای GPQA، MMMU و SWE-bench حدود ۲۰، ۴۹ و ۶۷ درصد رشد پیدا کرد. فراتر از معیارها، سیستم‌های هوش مصنوعی گام‌های بزرگی در تولید ویدئوهای باکیفیت بالا برداشتند و در برخی تنظیمات، عوامل مدل زبانی حتی در کارهای برنامه‌نویسی با بودجه‌های زمانی محدود، عملکرد بهتری نسبت به انسان‌ها از خود نشان دادند.


افزایش ۲۴ درصدی کاربرد تجاری از هوش مصنوعی و رشد سرمایه‌گذاری

در سال ۲۰۲۴، سرمایه‌گذاری‌های خصوصی هوش مصنوعی آمریکا به ۱۰۹ میلیارد و ۱۰۰ میلیون دلار افزایش یافت که در مقایسه با سرمایه‌گذاری خصوصی ۹ میلیارد و ۳۰۰ میلیون دلاری چین، با ۱۲ برابر رشد و در مقایسه با سرمایه‌گذاری خصوصی ۴ میلیارد و ۵۰۰ میلیون دلاری انگلیس، با ۲۴ برابر رشد همراه بوده است. هوش مصنوعی مولد با جذب ۳۳ میلیارد و ۹۰۰ میلیون دلار در سرمایه‌گذاری خصوصی در سطح جهان، شتاب ویژه‌ای داشته است به‌طوری‌که نسبت به نرخ این سرمایه‌گذاری در سال ۲۰۲۳ حدود ۱۹ درصد افزایش نشان می‌دهد. استفاده تجاری از هوش مصنوعی نیز در این میان در حال افزایش است به‌گونه‌ای که ۷۸ درصد از سازمان‌ها گزارش داده‌اند که در سال ۲۰۲۴ از هوش مصنوعی استفاده کرده‌اند؛ این رقم استفاده از این فناوری در سال ۲۰۲۳ حدود ۵۵ درصد بوده که با ۲۳ درصد رشد روبه‌رو شده است. همچنین، هوش مصنوعی، بهره‌وری را نیز افزایش داده و در بیشتر موارد به کاهش شکاف‌های مهارتی در میان نیروی کار کمک می‌کند.


افزایش 40 درصدی بهره‌وری سالانه انرژی با هوش مصنوعی 

با توجه به مدل‌های کوچک هوش مصنوعی با قابلیت فزاینده، هزینه استنتاج سیستمی که در سطح GPT-3.5 کار می‌کند، بین نوامبر 2022 تا اکتبر 2024 بیش از 280 برابر کاهش یافته است. در سطح سخت‌افزار، هزینه‌ها سالانه 30 درصد کاهش داشته است درحالی‌که بهره‌وری انرژی هرساله 40 درصد بهبود نشان می‌دهد. مدل‌های وزن باز نیز در حال کاهش فاصله با مدل‌های بسته هستند و تفاوت عملکرد را در یک سال، از 8 درصد به حدود 2 درصد در برخی معیار‌ها کاهش می‌دهند. این روند‌ها با هم به‌سرعت موانع را برای هوش مصنوعی پیشرفته کاهش می‌دهند. 


نفوذ هوش مصنوعی به جوایز علمی 

اهمیت روزافزون هوش مصنوعی تا اندازه‌ای رسیده است که اثرات آن‌ها را می‌توان در جوایز علمی بزرگ مشاهده کرد. بسیاری از محققان، در حال حاضر به دنبال بهره‌مندی از فناوری هوش مصنوعی در تحقیقات و آثار علمی خود هستند تا بتوانند از قابلیت‌های منحصربه‌فرد آن برای توسعه هر چه بیشتر یافته‌های خود استفاده کنند. به‌عنوان مثال، در جایزه نوبل سال 2024 که چند ماه پیش اعلام شد، دو جایزه مربوط به هوش مصنوعی می‌شد که خبر از اهمیت این حوزه از فناوری می‌داد؛ یکی یادگیری عمیق (در رشته فیزیک) و دیگری کاربرد هوش مصنوعی در تا شدن پروتئین‌ها (در رشته شیمی). 


نفوذ گستردۀ هوش مصنوعی در زندگی روزمره

شاید تا چند سال پیش کسی تصورش را هم نمی‌کرد که فناوری هوش مصنوعی تا این اندازه بتواند زندگی مردم کره زمین را تسخیر کند. گستره این فناوری تا اندازه‌ای است که از مراقبت‌های بهداشتی گرفته تا سیستم‌های حمل و نقل را دربرگرفته و به سرعت از فضاهای آزمایشگاهی روانه زندگی روزمره ما شده است. در سال ۲۰۲۳، سازمان غذا و داروی آمریکا (FDA) حدود ۲۲۳ دستگاه پزشکی مجهز به هوش مصنوعی را مورد تأیید قرار داد در حالی که تعداد دستگاه‌های پزشکی در سال ۲۰۱۵ که مجهز به فناوری هوش مصنوعی بودند، تنها به ۶ دستگاه می‌رسید که در مقایسه با دستگاه‌های فعلی ۳ هزار و ۶۱۶ درصد رشد کرده است که بسیار قابل توجه بوده و به عبارتی، نفوذ این فناوری را در دنیای امروز نشان می‌دهد. در این میان، خودروهای خودران دیگر نمونه‌هایی آزمایشی تلقی نمی‌شوند. به‌عنوان مثال، شرکت «وایمو» که یکی از بزرگ‌ترین اپراتورهای آمریکایی است، هر هفته بیش از ۱۵۰ هزار خودروی سواری خودران را ارائه می‌دهد در حالی که ربات‌های «بایدو» اکنون در سراسر شهرهای چین با قیمت مقرون به صرفه‌ای خدمات تاکسی‌های رباتیک Apollo Go را ارائه می‌دهند.


آمریکا در صدر تولیدکنندگان برتر مدل‌های AI

مؤسسات مستقر در آمریکا در سال ۲۰۲۴ حدود ۴۰ مدل هوش مصنوعی قابل توجه تولید کردند که به‌طور قابل توجهی نسبت به ۱۵ مدل چینی و ۳ مدل اروپایی پیشی گرفت. در حالی که آمریکا از نظر کمیت مدل‌ها، پیشتازی خود را حفظ کرده، مدل‌های چینی به سرعت شکاف کیفیت را پر کرده‌اند. در این میان، تفاوت عملکرد در معیارهای اصلی مانند MMLU و HumanEval از دو رقمی در سال ۲۰۲۳ به تقریباً همان رقم در سال ۲۰۲۴ کاهش یافت. در عین حال، چین همچنان در مقالات و پتنت‌های هوش مصنوعی پیشتاز است. در همین بازه زمانی، توسعه مدل‌های هوش مصنوعی به‌طور گسترده‌ای جهانی است به‌طوری‌که مدل‌های قابل توجهی در مناطقی چون خاورمیانه، آمریکای لاتین و آسیای جنوب شرقی عرضه شدند.


تکامل نابرابر اکوسیستم هوش مصنوعی مسئول

بروز پدیده‌های مرتبط با هوش مصنوعی به شدت در حال افزایش است. باوجود این، ارزیابی‌های استاندارد در بین توسعه‌دهندگان مدل‌های صنعتی بزرگ کمیابند. معیارهای جدیدی چون HELM Safety، AIR-Bench و FACTS ابزارهایی هستند که برای ارزیابی واقعیت و ایمنی مدل‌ها عرضه می‌شوند. در بین شرکت‌ها، شکافی بین شناخت ریسک‌های ارزیابی‌های استاندارد و انجام اقدامات معنادار وجود دارد. در مقابل، دولت‌ها فوریت بالایی را به استفاده از این روش‌های ارزیابی نشان داده‌اند به‌طوری‌که در سال ۲۰۲۴، همکاری جهانی در زمینه حکمرانی هوش مصنوعی تشدید شد و سازمان‌هایی چون OECD، اتحادیه اروپا، سازمان ملل و اتحادیه آفریقا، چهارچوب‌هایی را منتشر کردند که بر شفافیت، قابل اعتماد بودن و دیگر اصول اصلی هوش مصنوعی تمرکز کرده بودند.


دنیا به هوش مصنوعی خوش‌بین‌تر شده است

یافته‌ها نشان می‌دهد که کشور‌ها، بسیاری از تولیدات هوش مصنوعی را بیشتر از آن که مضر بدانند، مفید قلمداد می‌کنند. در این میان، در چین 83 درصد، در اندونزی 80 درصد و در تایلند 77 درصد، بیشتر محصولات و خدمات هوش مصنوعی را مفید می‌دانند تا مضر. در مقابل، دید مثبت نسبت به هوش مصنوعی در کشور‌هایی نیز پایین‌تر است؛ به‌عنوان مثال، 40 درصد از مردم کانادا، 39 درصد از مردم آمریکا و 36 درصد از مردم هند، نگاه مثبتی به این فناوری نوظهور دارند. از سال 2022، خوش‌بینی برخی کشور‌هایی که دید منفی به هوش مصنوعی داشتند رشد قابل‌توجهی داشته است به‌طوری که آلمان و فرانسه با رشد 10 درصدی، کانادا و انگلیس با رشد 8 درصدی و آمریکا با رشد 4 درصدی روبه‌رو شدند.


رشد 30 درصدی مدل‌های صنعتی هوش مصنوعی

تقریباً 90 درصد از مدل‌های قابل‌توجه هوش مصنوعی در سال 2024 از دل صنعت تولید شده‌اند درصورتی‌که این رقم در سال 2023 حدود 60 درصد بوده است که رشد 30 درصدی را نشان می‌دهد. این در حالی است که دانشگاه همچنان منبع اصلی پژوهش‌ها به شمار می‌رود و هنوز هم استناد بالایی را به خود اختصاص می‌دهد. مقیاس مدل‌های هوش مصنوعی به‌سرعت در حال رشد است به‌طوری که محاسبات آموزشی هر پنج ماه یک‌بار، مجموعه داده‌ها هر 8 ماه یک‌بار دوبرابر شده و مصرف انرژی سالانه نیز دوبرابر می‌شود. باوجوداین، شکاف‌های عملکردی در حال کاهش است به‌گونه‌ای که تفاوت امتیاز بین مدل‌های برتر و رتبه دهم از حدود 12 درصد به بیش از 5 درصد طی یک سال گذشته کاهش یافته و دو مدل برتر، اکنون تنها حدود یک درصد از هم جدا شده‌اند. این آمار‌ها حکایت از آن دارد که رقابت در این حوزه بسیار تنگاتنگ است. 


هوش مصنوعی هنوز در استدلال‌های پیچیده به در بسته می‌خورد

برنامه‌ریزی یک کار هوشمندانه است که شامل استدلال در مورد اقداماتی می‌شود که جهان را تغییر می‌دهد. این امر مستلزم در نظر گرفتن حالات فرضی آینده، از جمله اقدامات خارجی بالقوه و سایر رویدادهای تحول‌آفرین است. یکی از مهم‌ترین کاربرد‌های مدل‌های هوش مصنوعی در کار‌هایی چون حل مسائل پیچیده است و به همین دلیل، بسیاری از محققان و دانشمندان از آن برای حل پیچیده‌ترین چالش‌ها استفاده می‌کنند. همچنین از این قابلیت منحصربه‌فرد هوش مصنوعی می‌توان در مسابقات بین‌المللی المپیاد ریاضی استفاده کرد که از اهمیت بالایی برخوردار است. اما محققان به‌رغم برخورداری از قابلیت‌های این فناوری منحصربه‌فرد، همچنان با معیار‌های استدلال پیچیده‌ای چون PlanBench دست و پنجه نرم می‌کنند. این مدل‌ها، حتی زمانی که راه‌حل‌های صحیح قابل اثبات وجود داشته باشد، اغلب قادر به حل برخی کار‌ها به‌صورت منطقی نبوده و اثربخشی آن‌ها با وجود پرمخاطره بودن آن‌ها در حل دقیق مسائل، با محدودیت‌هایی مواجه می‌شود. 


تقویت هوش مصنوعی به واسطه مقررات و سرمایه‌گذاری 

آژانس‌های فدرال آمریکا در سال 2024، حدود 25 مقررات مرتبط با هوش مصنوعی را صادر کردند که در مقایسه با سال 2023، به بیش از دوبرابر رسید و نیز تعداد آژانس‌های صادرکننده این مقررات نیز نسبت به سال قبل از آن دوبرابر شد. در سطح جهانی، اشاره قانونی به هوش مصنوعی در 75 کشور از سال 2023 به بیش از 21 درصد افزایش یافت که بیانگر افزایش 9 برابری از سال 2016 است. علاوه بر توجه رو به رشد این قوانین، دولت‌ها سرمایه‌گذاری‌های خود را بر همین مقیاس می‌سنجند و برآورد می‌کنند. براین اساس، کانادا متعهد به سرمایه‌گذاری 2 میلیارد و 400 میلیون دلاری شده است. همچنین چین متعهد به سرمایه‌گذاری 47 میلیارد و 500 میلیون دلاری، فرانسه متعهد به سرمایه‌گذاری 123 میلیارد و 585 میلیون دلاری و هند متعهد به سرمایه‌گذاری یک میلیارد و 250 میلیون دلاری در حوزه نیمه‌رسانا‌ها شده‌اند و عربستان سعودی در قالب پروژه Transcendence یک راهکار ابتکاری 100 میلیارد دلاری را ارائه می‌دهد. 


آفریقا و آمریکای لاتین پیشتاز در آموزش علوم کامپیوتر

در حال حاضر، دوسوم کشور‌ها آموزش دوره‌های دوازده‌ساله مدرسه‌ای را در رشته علوم کامپیوتر ارائه کرده یا برنامه‌ریزی می‌کنند که از سال 2019 حدوداً دوبرابر شده است. در این میان، آفریقا و آمریکای لاتین بیشترین پیشرفت را بین سایر کشور‌ها داشته‌اند. تعداد فارغ التحصیلان دارای مدرک کارشناسی در آمریکا در محاسبات 10 سال گذشته 22 درصد افزایش یافته است. باوجود این، دسترسی در بسیاری از کشور‌های آفریقایی به دلیل شکاف‌های زیرساختی اولیه مانند برق محدود است. در آمریکا، 81 درصد از معلمانی که در دوره‌های دوازده‌ساله مدرسه علوم کامپیوتر را به دانش‌آموزان ارائه می‌دهند، معتقدند که هوش مصنوعی باید بخشی از آموزش اساسی علوم کامپیوتر باشد اما کمتر از نیمی از آن‌ها برای آموزش این رشته احساس آمادگی می‌کنند. (منبع:فرهیختگان)

شروط تحقق واقعی سکوی ملی هوش مصنوعی

شنبه, ۲۴ فروردين ۱۴۰۴، ۰۳:۰۴ ب.ظ | ۰ نظر

عباس پورخصالیان - طی ۲۰۰ سال اخیر به ندرت می‌توان رسانه‌ای یافت که حکمرانان و حتی علمای حوزه‌های علمیه ایران آن را با طیب خاطر پذیرفته و به سرعت در بومی‌سازیِ استفاده و فناوری ایجادش کوشیده باشند: «رسانۀ هوش مصنوعی» از این لحاظ یک استثناء است:

شناسایی کارمندان ضد ترامپ و ماسک با هوش مصنوعی

چهارشنبه, ۲۱ فروردين ۱۴۰۴، ۰۲:۱۴ ب.ظ | ۰ نظر

وزارت کارآمدی از هوش مصنوعی برای جاسوسی از کارمندان دولتی ضد ایلان ماسک و دونالد ترامپ استفاده می کند.

به گزارش خبرگزاری مهر به نقل از رویترز، مقامات دولت ترامپ به برخی از کارمندان اعلام کرده اند تیمی از متخصصان وزارت کارآمدی ایلان ماسک با استفاده از هوش مصنوعی ارتباطات حداقل یک آژانس فدرال را برای رصد خصومت با رئیس جمهور آمریکا و دستور کار او نظارت می کنند.

هرچند بخش اعظم فعالیت های وزارت کارآمدی مخفیانه است اما نظارت بر کارمندان دولتی نشان دهنده استفاده خارق العاده از فناوری برای شناسایی خیانت میان نیروی کاری است که هم اکنون با فرایندهای گسترده اخراج و همچنین کاهش بودجه روبرو است.

به برخی از مدیران آژانس حفاظت از محیط زیست آمریکا گفته شده وزارت کارآمدی از هوش مصنوعی برای رصد محتوای ضد ماسک یا ضد ترامپ در اپلیکیشن های ارتباطی و نرم افزارهایی مانند مایکروسافت تیمز استفاده می کند. این سازمان می خواهد مراقب افرادی باشد که فعالیتشان با دستور کار دولت مطابقت ندارد.

تیم وزارت کارآمدی همچنین از اپ سیگنال برای برقراری ارتباط استفاده می کند که این امر ناقض قوانین حفظ سوابق فدرال است زیرا پیام های این شبکه اجتماعی را طوری تنظیم کرد تا پس از مدتی حذف شوند. در کنار این موارد آنها به طور گسترده از چت بات هوش مصنوعی گراک برای کاهش نیروی انسانی استفاده می کنند.

استفاده از هوش مصنوعی و اپ سیگنال نگرانی های کارشناسان امنیت سایبری را درباره آنکه وزارت کارآمدی با شفافیت اندکی کار می کند به وجود آورده همچنین این امر که ماسک یا دولت ترامپ ممکن است از اطلاعات جمع آوری شده با هوش مصنوعی برای مقاصد سیاسی استفاده کنند بیش از پیش نگران کننده شده است.

مزایا و معایب استفاده از هوش مصنوعی در روانشناسی

سه شنبه, ۲۰ فروردين ۱۴۰۴، ۰۳:۴۱ ب.ظ | ۰ نظر

بسیاری از انسان‌ها در حال حاضر با انواع مختلف هوش مصنوعی در دنیای پیشرفته و کاربردی در ارتباط هستند و از توانایی‌های آن حیرت‌زده می‌شوند. هوش مصنوعی ترکیبی از علوم رایانه، ریاضیات و علوم شناختی است و به دانشمندان این امکان را می‌دهد که سیستم‌ها و ماشین‌های پیشرفته طراحی کنند و از آن‌ها در صنایع و کسب ‌و کارهای مختلف استفاده کنند. نکته جالب اینکه هوش مصنوعی وارد علم روانشناسی شده است. درواقع استفاده از هوش مصنوعی در روانشناسی تحول بزرگی در تشخیص درمان و پژوهش‌های روانشناختی ایجاد کرده است. واقعیت امر این است که هوش مصنوعی با تحیلیل داده‌های پیچیده، پیش‌بینی الگوهای فتاری و ارائه راهکارهای شخصی‌سازی شده به متخصصان روانشاسی کمک می‌کند تا خدمات بهتری  ارائه دهند.

 

هوش مصنوعی، کمک‌حال روانشناسان
با وجود بررسی کاربردهای هوش مصنوعی در روانشناسی که هنوز هم در حال انجام است؛ باید این نکته را هم یادآور شویم که این علم قرار نیست جایگزین نیروهای انسانی شود و تنها نقش کمکی را برای آنها ایفا می‌کند. در واقع ترکیب هوش مصنوعی و مشاوران باتجربه، قابلیت پردازش داده‌ها و مشکلات افراد مختلف را راحت‌تر کرده و در نتیجه درمان‌های قطعی را پیش‌روی آنها قرار می‌دهد. ارزیابی خودکار، مشاوره روانشناسی مجازی، شناخت دقیق روان پنهان،‌ تصویربرداری از مغز، مدل‌سازی و پیش‌بینی، دستیار مجازی روانشناس و همچنین انتخاب درمان از جمله کاربردهای هوش مصنوعی در روانشناسی هستند. به عنوان نمونه روانشناشناسان می‌توانند از هوش مصنوعی برای ارزیابی‌های خودکار عملکرد شناختی، عاطفی و رفتاری استفاده کنند. این ارزیابی‌ها استاندارد هستند و به پزشکان کمک می‌کنند تا تشخیص‌ها و توصیه‌های درمانی دقیق‌تر و کارآمدتری را ارائه دهند. طبق داده‌های به دست آمده تکنولوژی هوش مصنوعی در مشاوره روانشناسی نیز بسیار موفق عمل کرده و به شکل مجازی می‌تواند به افراد کمک کند. این تکنولوژی قادر است به‌صورت کاملا خودکار با افراد مختلف تعامل برقرار کرده و به آنها در مواجهه با مسائل روانشناسی کمک کند. یک ربات روان‌درمانگر از طریق گفتگو و پرسش‌های هوشمند، احساسات، نگرش‌ها و نیازهای فرد را درک کرده و راهنمایی‌های مناسبی را در اختیار او قرار می‌دهد. همچنین در دسترس بودن ۲۴ساعته، حفظ حریم خصوصی و ارائه اطلاعات دقیق و موثق به کاربران، جزو ویژگی‌های مثبت آن است.

 

شناخت دقیق روان پنهان بیماران با هوش مصنوعی!
طبق برخی تجربیات در جهان هوش مصنوعی با تحلیل داده‌های اسکن مغزی، به شناسایی الگوها و ارتباطات بین فعالیت‌های عصبی و فرایندهای شناختی کمک می‌کند. این اطلاعات به محققان امکان می‌دهند تا وضعیت مراجعان را بهتر درک کرده و مکانیسم‌های زیربنایی بیماری‌های روانی را شناسایی کنند. به همین دلیل بسیاری از روانشناسان از هوش مصنوعی برای پیش‌بینی و درمان بیماری‌های روانی استفاده می‌کنند تا بتوانند سرعت درمان بیماران را بالاتر ببرند. البته هوش مصنوعی در پروسه ترجمه و تصویربرداری از مغز هم به روانشناسان کمک می‌کند. این علم می‌تواند داده‌های بزرگ حاصل از اسکن مغز را تحلیل کرده و الگوهای مناطق مختلف آن را شناسایی کند. با دریافت این اطلاعات، روانشناسان اطلاعات به دست آمده را بیشتر درک کرده و دقیق‌تر و جامع‌تر در مورد درمان مراجعان خود تصمیم‌گیری می‌کنند. گزارش‌هایی که هوش مصنوعی در اختیار مشاوران قرار می‌دهد به درک سازوکارهای عملکردی مغز و تشخیص بهتر کمک می‌کند. هرچند استفاده از الگوریتم‌های هوش مصنوعی به روانشناسان امکان می‌دهد تا مدل‌هایی را ایجاد کرده و به شناسایی افرادی که در معرض خطر ابتلا به بیماری‌های روانی هستند کمک کنند. با استفاده از این علم، محققان می‌توانند داده‌های بزرگ و الگوریتم‌های پیشرفته را به کار برده و الگوها و روابط پنهان را شناسایی کنند. در نهایت نیز مدل‌های دقیق و قابل‌اعتمادی را برای پیش‌بینی و جمع‌آوری منابع در دست خواهند داشت.

 

هوش مصنوعی، دستیار روانشناسان
نکته جالب و قابل تامل اینکه هوش مصنوعی می‌تواند شبیه به یک دستیار مجازی برای روانشناسان عمل کند. با استفاده از این علم، بازدهی بالاتر رفته و خطاهای کمتری در پروسه درمان ایجاد خواهد شد. البته نرم‌افزارهایی برای این منظور ساخته شده‌اند که خلاصه‌ای از محتوای جلسات درمانی قبلی را به درمانگر می‌دهند و به او کمک می‌کنند تا برای جلسه پیش‌رو با دید بازتری آماده شود. حتی برخی از این ابزارها، می‌توانند در فاصله زمانی که فرد قرار است جلسه بعدی خود را برگزار کند، احساساتش را ارزیابی کرده و در جلسه مراجعه آنها را در اختیار روانشناس قرار می‌دهد تا بتواند تمرین‌ها و مهارت‌هایی را دقیقا متناسب با فرد به او ارائه دهد. یکی دیگر از خدماتی که هوش‌مصنوعی به علم روانشناسی داشته ترکیب درمان است. در این عرصه با استفاده از هوش مصنوعی و درمان‌های انسانی به تصمیم‌گیری درباره انتخاب روش‌های درمانی درست کمک می‌کند. این تکنولوژی با استفاده از داده‌ها و الگوریتم‌هایی که به دست می‌آورد، اطلاعاتی را در اختیار پزشکان و متخصصان قرار می‌دهد و به آنها کمک می‌کند تا تصمیم بهتری را درباره درمان بیماران خود بگیرند.

 

برنامه‌های کاربردی هوش مصنوعی در روانشناسی

Woebot
 یک دستیار هوشمند که به کاربران کمک می‌کند تا عادت‌های مثبت را در زندگی خود ایجاد کنند. همچنین از طریق مکالمات روانشناسی و تمرین‌های روانشناختی، به افراد کمک می‌کند تا با استرس، اضطراب و سایر مسائل روانی خود راحت‌تر کنار بیایند.

Youper
 یک برنامه جالب برای مدیریت استرس، اضطراب و افسردگی بوده و از طریق مکالمات و تمرین‌های روانشناختی، به مدیریت احساسات فرد کمک می‌کند.

Replika
 برای افرادی که دچار استرس و اضطراب هستند کمک می‌کند و با چت و مکالمه، احساساتشان را شناسایی خواهد کرد. سپس راهکارهایی را برای مدیریت این مشکل به آنها ارائه می‌دهد.

Tess
 در این برنامه مبتنی بر هوش مصنوعی راهکارهایی برای مدیریت و کاهش علائم بیماری‌های روانی مانند افسردگی و اضطراب با توجه به نیاز کاربر قرار داده شده است.

 

تجربه‌نگاری

ریچارد لوئیس، مشاور و روان‌درمانگر مستقر در بریستول اشاره می‌کند زمانی که از Woebot، یک چت‌بات محبوب بر پایه که خدمات روان درمانی ارائه می‌دهد، برای کمک به موضوعی که هم‌زمان با درمانگرش در حال بررسی آن بود استفاده کرد؛ ربات نتوانست به جزئیات مسئله پی ببرد. این چت‌بات به او پیشنهاد داد که «به حقایق پایبند باشد» و تمام محتوای احساسی پاسخ‌هایش را حذف کرد و به او توصیه کرد افکار منفی‌اش را به شکلی مثبت بازنگری کند. لوئیس گفت: «به‌عنوان یک درمانگر، اصلاح یا پاک کردن احساسات، آخرین توصیه‌ای است که ممکن است به مراجع ارائه دهم.» او افزود: «وظیفۀ ما این است که با مراجع رابطه‌ای ایجاد کنیم که او بتواند احساسات دشوار را در خود نگه دارد نه اینکه آن‌ها را پاک کند. ما درتلاشیم مراجعان راحت‌تر به کاوش، یکپارچه‌سازی و یافتن معنا در این احساسات بپردازند و در نهایت خودشان را بهتر بشناسند.»

 

مزایای استفاده از هوش مصنوعی در روانشناسی

یکی از مزایای بهره بردن از هوش مصنوعی ارائه پشتیبانی در همه‌ ساعات روز است. در واقع ابزارهای مبتنی بر هوش مصنوعی می‌توانند در هر زمانی از شبانه‌روز در دسترس باشند. این ویژگی می‌تواند برای افرادی که در مواقع بحرانی (مانند خودکشی) به کمک فوری نیاز دارند بسیار مفید باشد و به آن‌ها امکان می‌دهد بدون نیاز به انتظار برای وقت مشاوره، از راهنمایی بهره‌مند شوند. کاهش هزینه‌های درمان هم یکی دیگر از مزایای هوش مصنوعی در علم روانشناسی است.
درواقع استفاده از هوش مصنوعی در مشاوره و درمان روانی می‌تواند هزینه‌ها را کاهش دهد، چرا که نیاز به حضور مشاور یا روانشناس انسانی برای هر جلسه کاهش می‌یابد. این مسئله می‌تواند خدمات روان‌شناختی را برای افراد بیشتری قابل دسترسی کند. تشخیص زودهنگام مشکلات روانی هم هست. سیستم‌های هوش مصنوعی قادر به شناسایی الگوهای نگران‌کننده در رفتارها و گفتار افراد هستند. آنها می‌توانند به شناسایی علائم اولیه مشکلات روانی مانند افسردگی، اضطراب و تمایلات خودکشی کمک کنند به‌طوری که مداخلات به‌موقع و مؤثر انجام شود.این مزایا می‌توانند به بهبود کیفیت و دسترسی به خدمات روانشناختی کمک کنند و به ویژه در شرایطی که منابع انسانی محدود است جایگزین‌های مفیدی را ارائه دهند.

 

معایب استفاده از هوش مصنوعی در روانشناسی

نبود درک عمیق انسانی یکی از معایب استفاده از این تکنولوژی است. طبق مقاله کادیا  یکی از محدودیت‌های اصلی هوش مصنوعی در روانشناسی، ناتوانی آن در درک واقعی طبیعت پیچیدۀ احساسات انسانی است. درمانگران اعتقاد دارند درمان از طریق درک و همدلی فرد اتفاق می‌افتد. هوش مصنوعی فاقد توانایی درک عواطف و تجربه‌های انسانی به‌صورت عمیق است. در حالی که می‌تواند الگوها را شناسایی کند، نمی‌تواند به‌طور کامل احساسات پیچیدۀ بیماران را درک کند و پاسخ بدهد. این محدودیت می‌تواند به مشاوره‌هایی منجر شود که تئوریک، سرد و بی‌روح به نظر می‌رسند. عدم‌پیش‌بینی رفتارها در شرایط بحرانی هم یکی از بزرگترین چالش‌های هوش مصنوعی است. عدم توانایی در پاسخ به شرایط بحرانی مانند افکار خودکشی یا بحران‌های شدید روانی است. این سیستم‌ها نمی‌توانند تصمیم‌گیری‌های فوری و حیاتی انجام دهند و ممکن است نتوانند به موقع مداخله کنند. اگر به مثال اسمیت رجوع کنیم متوجه این برداشت غلط می‌شویم. اسمیت قصد خودکشی و پریدن از بالای صخره‌ها را داشت درصورتی که هوش مصنوعی به غلط تفکر اسمیت را صخره‌نوردی و فعالیت بدنی برداشت کرده بود.

 

مسائل حریم خصوصی و امنیت داده‌ها
در روانشناسی، داده‌های بیمار بسیار حساس و شخصی هستند. استفاده از هوش مصنوعی برای تحلیل این داده‌ها ممکن است خطر نشت اطلاعات یا سواستفاده از آنها را افزایش دهد، به ویژه اگر پروتکل‌های امنیتی به‌درستی رعایت نشوند. این چالش‌ها نشان می‌دهند که هوش مصنوعی نمی‌تواند جایگزین کاملی برای متخصصان سلامت روان باشد، بلکه باید به عنوان یک ابزار مکمل با توجه به محدودیت‌هایش استفاده شود.(منبع:شهروند)

رونمایی معاونت علمی از سکو یا پوستۀ هوش مصنوعی؟!

سه شنبه, ۲۰ فروردين ۱۴۰۴، ۰۳:۱۰ ب.ظ | ۱ نظر

زهرا رمضانی - نفس‌های 1403 به شمارش افتاده بود که «نسخه اولیه سکوی ملی هوش مصنوعی» با حضور حسین افشین، معاون علمی، فناوری و اقتصاد دانش‌بنیان رونمایی شد. سکویی که افشین آغاز به کار آن را به معنی عضو شدن در باشگاه جهانی هوش مصنوعی اعلام کرد.

موانع ایران در توسعه هوش مصنوعی

يكشنبه, ۱۸ فروردين ۱۴۰۴، ۰۴:۰۰ ب.ظ | ۰ نظر

ژوئیه ۲۰۲۴ ایران سازمان ملی هوش مصنوعی را به عنوان نهاد مستقل زیر نظر رئیس جمهور تأسیس کرد. این ابتکار نشان دهنده بلندپروازی ایران برای تبدیل شدن به یکی از ۱۰ کشور برتر هوش مصنوعی در جهان در دهه آینده است.