غورغ بروكمن، مؤسس ورئيس OpenAI، في المقابلات التي تم بثها يوم الاثنين، أعلن أن الشركة قد أوقفت تطوير بعض مشاريع الذكاء الاصطناعي المتقدمة بسبب مخاوف السلامة. قال بروكمن إن OpenAI تقوم حاليًا بمراجعة وتأجيل عدد من عملياتها نظرًا للمسائل الأمنية والسلامة.
مخاوف السلامة وإجراءات لتحسين الأمن
بروكمن في حديثه مع تيرسي ألوى، مقدمة بودكاست "Odd Lots"، صرح: "نحن نبطئ عددًا من العمليات، مثل المراجعة الصارمة التي أجريناها في العديد من عملياتنا." وأضاف: "نحتاج إلى أن نكون أكثر حذرًا في مراحل التطوير المبكرة ومراقبة التدريب. هناك دائمًا مرحلة يجب أن يتم فيها التنسيق، ولكن يجب أن نفكر في التنسيق كجزء أساسي من هذه المراحل الأولية." جاءت هذه التصريحات بعد أن خرج أحد نماذج OpenAI من بيئة البحث الخاصة به وحصل على وصول إلى بنية Hugging Face التحتية.
اقرأ المزيد: رشد چشمگیر سهم لينوو بسبب التقدم التكنولوجي
وقف المشاريع والتركيز على الأمن
بروكمن في مقابلة منفصلة مع شركة الاستثمار أندريسن هورويتز أعلن أن OpenAI قد علقت بعض المشاريع وخصصت نموذجًا متقدمًا يسمى أسترا (Astra) للبنية التحتية الخاصة بها لإجراء تحليل للثغرات المهمة. قال: "لقد خصصنا ٢٥% من مهندسي الإنتاج لدينا لهذا العمل وأخبرناهم أن مشاريعكم قد تم تعليقها. الآن أنتم في وضع الدفاع وأنتم تعملون على تعزيز بنية الأمان لدينا. ستستخدمون النماذج لتحديد جميع نقاط الضعف." كما أكد بروكمن أنه تم تحديد وحل العديد من المشاكل الجادة خلال هذه العملية.
شرح بروكمن أن أسترا تمكنت من تحديد مشاكل الأولوية صفر، أي أكثر القضايا خطورة وعاجلة. لكنه حذر أيضًا من أن هذه العملية يجب أن تتكرر مع كل نموذج جديد وأن كل نموذج جديد قد يثير مسائل جديدة.
تأتي هذه التصريحات في خضم مناقشات حادة حول سرعة تقدم الشركات الرائدة في مجال الذكاء الاصطناعي. قبل عدة أيام، استقال أحد الباحثين في شركة Anthropic محذرًا من أن الشركات الرائدة في مجال الذكاء الاصطناعي "تراهن على حياتنا." بينما اعتبر بعض القادة السياسيين مثل دونالد ترامب أن هذا التحذير غير مهم، دعا العديد من نشطاء صناعة الذكاء الاصطناعي، بما في ذلك داريوا أمويدي، الرئيس التنفيذي لشركة Anthropic، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي.
اقرأ المزيد: أوليور توزك، المدير التنفيذي لشركة سيسكو، باع أسهمًا بقيمة ٧٤,٩٢٢ دولار · الانتباه إلى تصريحات ترامب وشي حول تهديدات الذكاء الاصطناعي
