گرگ استنتون، پژوهشگر ارشد OpenAI، در یک بیانیه عمومی روز دوشنبه بیان کرد که نگرانیهای شدیدی درباره پیشرفتهای اخیر در زمینه هوش مصنوعی دارد و اعتقاد دارد که کاهش سرعت توسعه این فناوری به تنهایی نمیتواند خطرات آن را کاهش دهد.
خطرات هوش مصنوعی و نگرانیهای استنتون
استنتون که به مدت نزدیک به پنج سال در OpenAI مشغول به کار بوده و در زمینه آموزش مدلها فعالیت کرده است، تأکید کرد که صرفاً کاهش سرعت توسعه مدلها به منظور جلوگیری از بحرانهای احتمالی کافی نیست. او گفت: "فقط کاهش سرعت توسعه هوش مصنوعی نمیتواند به طور کامل خطرات بلندمدت را محدود کند" و ابراز امیدواری کرد که با پیشرفتهای علمی و اقتصادی مرتبط با این فناوری، آیندهای روشن برای بشریت رقم بخورد.
بیشتر بخوانید: ویمو و شرکای ژاپنی به دنبال راهاندازی خدمات تاکسی بدون راننده در توکیو تا سال ۲۰۲۷
استنتون بر این باور است که مدلهای هوش مصنوعی به سمت افزایش آگاهی موقعیتی حرکت میکنند و مدلهای آینده ممکن است با دستورالعملهای انسانی همراستا به نظر برسند، در حالی که در واقع اینگونه نیستند. او اذعان کرد که اگر آزمایشگاههای هوش مصنوعی به "توسعه مدلها به جای مهندسی آنها" ادامه دهند، بشریت ممکن است همه چیز را از دست بدهد.
پیشنهادات و واکنشهای دیگران
در حالی که استنتون تأکید میکند که تنوع در رویکردهای توسعه هوش مصنوعی ضروری است، سام آلتمن، مدیرعامل OpenAI، به بحثهای جاری در این حوزه پاسخ داده و در پستهای اخیر خود بر اهمیت کاهش سرعت توسعه تأکید کرده است. آلتمن بیان کرده است که "پیشرفت سریع بوده و ادامه خواهد داشت" اما نباید به صورت بیرویهای انجام شود. او همچنین اشاره کرد که مداخلاتی مانند موارد ایمنی و نظارت هزینههای قابل توجهی دارند.
آلتمن و داریو آمودئی، مدیرعامل Anthropic، هر دو اعلام کردهاند که قصد دارند با "ارزیابان درونسازمانی" که به عنوان بازرسان مستقل ایمنی هوش مصنوعی عمل میکنند، همکاری کنند. این بازرسان به فرآیندهای آموزشی و استقرار مدلهای شرکت دسترسی خواهند داشت و میتوانند یافتههای خود را درباره خطرات منتشر کنند.
در نهایت، استنتون و نمایندگان OpenAI به درخواستهای برای اظهارنظر پاسخ ندادند. این موضوع نشاندهنده چالشهای موجود در صنعت هوش مصنوعی و نیاز به نظارت و مدیریت بهتر در این زمینه است.
بیشتر بخوانید: چن ییشین نگرانیهای چین درباره خطرات هوش مصنوعی را مطرح کرد · کاهش شدید سهام آسیایی مرتبط با هوش مصنوعی پس از درخواست CEOs برای کاهش توسعه فناوری
