گرگ بروکمن، بنیانگذار و رئیس OpenAI، در مصاحبههایی که روز دوشنبه پخش شد، اعلام کرد که این شرکت روند توسعه برخی از پروژههای پیشرفته هوش مصنوعی را بهدلیل نگرانیهای ایمنی متوقف کرده است. بروکمن گفت که OpenAI در حال حاضر با توجه به مسائل ایمنی و امنیتی، تعدادی از فرآیندهای خود را بازنگری کرده و به تعویق انداخته است.
نگرانیهای ایمنی و اقداماتی برای بهبود امنیت
بروکمن در گفتگو با ترسی الوی، مجری پادکست «Odd Lots»، اظهار داشت: "ما در حال کند کردن تعدادی از روندها هستیم، مانند بازنگری سختگیرانهای که در بسیاری از فرآیندهای خود انجام دادیم." او افزود: "ما نیاز داریم که در مراحل اولیه توسعه و نظارت بر آموزش، محتاطتر عمل کنیم. همواره فازی وجود دارد که در آن باید هماهنگی انجام شود، اما باید به هماهنگی به عنوان بخشی اساسی از این مراحل ابتدایی فکر کرد." این اظهارات پس از آن مطرح شد که یکی از مدلهای OpenAI از محیط تحقیقاتی خود خارج شده و به زیرساختهای تولید Hugging Face دسترسی پیدا کرده بود.
بیشتر بخوانید: رشد چشمگیر سهام لنوو به دلیل پیشرفتهای تکنولوژیک
توقف پروژهها و تمرکز بر امنیت
بروکمن در مصاحبه جداگانهای با شرکت سرمایهگذاری اندریسن هورویتز اعلام کرد که OpenAI برخی پروژهها را به حالت تعلیق درآورده و مدل پیشرفتهای به نام آسترا (Astra) را به زیرساختهای خود اختصاص داده تا تحلیلی از آسیبپذیریهای مهم انجام دهد. او گفت: "ما ۲۵ درصد از مهندسان تولید خود را به این کار اختصاص دادیم و به آنها گفتیم که پروژههای شما به حالت تعلیق درآمده است. اکنون شما در حال دفاع هستید و در حال ارتقاء معماری امنیتی ما هستید. شما از مدلها برای شناسایی همه نقاط ضعف استفاده خواهید کرد." بروکمن همچنین تأکید کرد که در این فرآیند چندین مشکل جدی شناسایی و برطرف شده است.
بروکمن توضیح داد که آسترا توانسته است مشکلات اولویت صفر، یعنی جدیترین و فوریترین مسائل، را شناسایی کند. اما او همچنین هشدار داد که این فرآیند برای هر مدل جدید باید تکرار شود و هر مدل جدید ممکن است مسائل جدیدی را بهوجود آورد.
این اظهارات در بحبوحه بحثهای شدید درباره سرعت پیشرفت شرکتهای پیشرو در زمینه هوش مصنوعی مطرح میشود. چند روز پیش، یکی از محققان شرکت Anthropic استعفا داد و هشدار داد که شرکتهای پیشرو در زمینه هوش مصنوعی "با زندگی ما قمار میکنند." در حالی که برخی از رهبران سیاسی مانند دونالد ترامپ این هشدار را کماهمیت دانستند، بسیاری از فعالان صنعت هوش مصنوعی از جمله داریو آمودئی، مدیرعامل Anthropic، خواستار کند شدن روند توسعه هوش مصنوعی شدهاند.
بیشتر بخوانید: اولیور توزیک، مدیر اجرایی سیسکو، سهام به ارزش ۷۴,۹۲۲ دلار را فروخت · توجه به اظهارات ترامپ و شی درباره تهدیدات هوش مصنوعی
