غورغ استنتون، باحث أول في OpenAI، في بيان عام يوم الاثنين، أعرب عن مخاوف كبيرة بشأن التقدمات الأخيرة في مجال الذكاء الاصطناعي واعتقد أن تقليل سرعة تطوير هذه التكنولوجيا وحده لا يمكن أن يقلل من مخاطرها.
مخاطر الذكاء الاصطناعي وقلق استنتون
استنتون الذي عمل في OpenAI لمدة تقارب خمس سنوات وشارك في تدريب النماذج، أكد أن مجرد تقليل سرعة تطوير النماذج لمنع الأزمات المحتملة ليس كافياً. وقال: "فقط تقليل سرعة تطوير الذكاء الاصطناعي لا يمكن أن يحد تمامًا من المخاطر طويلة الأمد" وأعرب عن أمله في أن تؤدي التقدمات العلمية والاقتصادية المرتبطة بهذه التكنولوجيا إلى مستقبل مشرق للبشرية.
اقرأ المزيد: ویمو و شرکای ژاپنی به دنبال راهاندازی خدمات تاکسی بدون راننده در توکیو تا سال ٢٠٢٧
يعتقد استنتون أن نماذج الذكاء الاصطناعي تتجه نحو زيادة الوعي السياقي، وقد تبدو النماذج المستقبلية متوافقة مع التعليمات البشرية، بينما في الواقع ليست كذلك. اعترف أنه إذا استمرت مختبرات الذكاء الاصطناعي في "تطوير النماذج بدلاً من هندستها"، فقد تفقد البشرية كل شيء.
اقتراحات وردود أفعال الآخرين
بينما يؤكد استنتون أن التنوع في نهج تطوير الذكاء الاصطناعي ضروري، رد سام ألتمان، الرئيس التنفيذي لـ OpenAI، على النقاشات الجارية في هذا المجال وأكد في منشوراته الأخيرة على أهمية تقليل سرعة التطوير. ذكر ألتمان أن "التقدم كان سريعًا وسيستمر" ولكن لا ينبغي أن يتم بشكل مفرط. كما أشار إلى أن التدخلات مثل مسائل السلامة والمراقبة تتطلب تكاليف كبيرة.
أعلن ألتمان وداريوا أموديي، الرئيس التنفيذي لشركة Anthropic، أنهما يعتزمان التعاون مع "مقيمين داخليين" يعملون كمراقبين مستقلين لسلامة الذكاء الاصطناعي. سيكون لهؤلاء المراقبين وصول إلى عمليات تدريب ونشر نماذج الشركة ويمكنهم نشر نتائجهم حول المخاطر.
في النهاية، لم يرد استنتون وممثلو OpenAI على الطلبات للتعليق. هذه المسألة تعكس التحديات الحالية في صناعة الذكاء الاصطناعي والحاجة إلى إشراف وإدارة أفضل في هذا المجال.
اقرأ المزيد: چن ییشین نگرانیهای چین درباره خطرات هوش مصنوعی را مطرح کرد · کاهش شدید سهام آسیایی مرتبط با هوش مصنوعی پس از درخواست CEOs برای کاهش توسعه فناوری
