غورغ استنتون و داريوا آمودئی بر لزوم کند کردن توسعه هوش مصنوعی تأکید کردند

غورغ استنتون، مدیر عامل OpenAI، و داريوا آمودئی، مدیر عامل Anthropic، در هفته جاری بر لزوم نصب ناظرین ایمنی مستقل در شرکت‌های خود توافق کردند. این توافق در پی افزایش نگرانی‌ها درباره ایمنی هوش مصنوعی و پیامدهای بالقوه آن در آینده‌ای نزدیک صورت می‌گیرد.

خطرات هوش مصنوعی و نیاز به نظارت

آمودئی هشدار داد که در صورت عدم توجه، هوش مصنوعی می‌تواند اینترنت را ظرف یک سال تسخیر کند. این نگرانی‌ها موجب شده تا رهبران صنعت هوش مصنوعی در آمریکا به اجماع برسند که توسعه این فناوری باید با احتیاط بیشتری انجام شود. آمودئی در مقاله‌ای با عنوان "ما باید مرزها را کنترل کنیم"، بر استفاده عاقلانه از زمان موجود برای ایجاد مقررات جدید تأکید کرد.

بیشتر بخوانید: رونق هوش مصنوعی فرانسه، شکاف تأمین مالی اروپا را نمایان می‌کند

استنتون نیز در پستی در رسانه‌های اجتماعی به این نکته اشاره کرد که این نوع کند کردن توسعه می‌تواند به حفظ ایمنی جامعه کمک کند. این تحولات در حالی رخ می‌دهد که شرکت‌های بزرگ هوش مصنوعی تحت فشارهای فزاینده‌ای برای ایجاد سازوکارهای ایمنی و مسئولیت‌پذیری قرار گرفته‌اند.

واکنش‌ها و نظرات متفاوت

دیود ساکس، مشاور علمی و تکنولوژی رئیس‌جمهور پیشین آمریکا، با ابراز تردید نسبت به هشدارهای آمودئی، به این نکته اشاره کرد که کند کردن توسعه هوش مصنوعی ممکن است ناشی از تمایلات بازار باشد. او تأکید کرد که شرکت‌ها باید از این فرصت برای بهبود تصویر خود در بازار استفاده کنند، نه اینکه به دلیل فشارهای بیرونی اقدام به این کار کنند.

کلمنت دلانگ، مدیر عامل Hugging Face، که خود قربانی حملات سایبری بوده، بر این نکته تأکید کرد که ایمنی هوش مصنوعی نباید تنها بر عهده آزمایشگاه‌های پیشرفته باشد. او از راه‌اندازی ابتکار "هم‌راستایی باز" خبر داد و خواستار گنجاندن این برنامه در طرح‌های آمودئی شد.

جیسون کلاکانیس، سرمایه‌گذار و میزبان پادکست "All-In"، با ابراز تردید نسبت به توانایی هوش مصنوعی در ایجاد خطرات جهانی، اشاره کرد که قوانین جدید ممکن است به نفع شرکت‌های بزرگ باشد و به این ترتیب، رقابت را تضعیف کند.

سناتور برنی سندرز نیز با اشاره به هشدارهای اخیر درباره خطرات بالقوه هوش مصنوعی، خواستار توقف موقت توسعه سیستم‌های هوش مصنوعی پیشرفته شد. او بر لزوم توافقات بین‌المللی برای مدیریت این فناوری تأکید کرد و خواستار توقف توسعه هوش مصنوعی فوق‌هوشمند شد.

در نهایت، فرانسیس شولت، محقق هوش مصنوعی، بر این نکته تأکید کرد که نظارت بر صنعت باید به صورت دموکراتیک و مسئولیت‌پذیر انجام شود و هر نشانه‌ای که نشان‌دهنده تلاش برای کاهش رقابت باشد، باید جدی گرفته شود.

بیشتر بخوانید: گلدمن ساکس: پیش‌بینی ۶.۵ میلیون ربات انسان‌نما تا ۲۰۳۵ · گسترش موقعیت جهانی Korn Ferry با خرید AMS