مصطفی سلیمان، مدیر عامل هوش مصنوعی مایکروسافت، در سخنانی تأکید کرد که کنترل هوش مصنوعی (AI) به یکی از بزرگترین چالشهای آینده تبدیل خواهد شد. او در برنامهای تلویزیونی اظهار داشت که این موضوع «غیرواقعی» است که مجبور به تأکید بر این موضوع است که هوش مصنوعی باید با نیازهای بشری همخوانی داشته باشد. سلیمان گفت: «نباید چیزی خلق کنیم که نتوانیم کنترل کنیم.»
چالشهای کنترل هوش مصنوعی
سلیمان در ادامه افزود: «اگر به نظر برسد که در مسیر تولید چیزی هستیم که نه تنها از همه ما قدرتمندتر است، بلکه به دلیل این قدرت، چیزی است که نمیتوانیم کنترل کنیم، آنگاه این پروژه در هدف بنیادی خود شکست خواهد خورد.» او همچنین به چالشهای بزرگ در کنترل این تکنولوژیها اشاره کرد و گفت: «کنترل این چیزها برای ما یک چالش بسیار بزرگ خواهد بود.»
بیشتر بخوانید: CoreWeave به یک آستانه محاسباتی مهم در همکاری با Nvidia دست یافت
مدیر عامل مایکروسافت همچنین ابراز خوشحالی کرد که تعداد بیشتری از افراد در صنعت فناوری از ایده حفظ کنترل بر روی سیستمهای هوش مصنوعی حمایت میکنند. او این موضوع را «همراستایی» نامید که به معنای اطمینان از عمل هوش مصنوعی مطابق با نیتهای انسانی است. سلیمان خاطرنشان کرد: «گروه رو به رشدی از افراد وجود دارد که فکر میکنند ما این کار را به خاطر خود آن انجام میدهیم و فقط میخواهیم ورق بعدی را برگردانیم و ببینیم چه چیزی در انتظار ماست و چیزی خلق کنیم که به سادگی از دست ما خارج شود.»
افزایش توجه به ایمنی هوش مصنوعی
این اظهارات در زمانی مطرح میشود که توجه به ایمنی هوش مصنوعی در صنعت افزایش یافته است. پیش از این، جیکوب ککسون، محقق سابق آنتروپیک، هشدار داده بود که کارمندان هوش مصنوعی به طور خصوصی نگران این هستند که هوش مصنوعی میتواند بشریت را از بین ببرد. مدیران ارشد آنتروپیک، اوپنای آی و اسپیس ایکس نیز به طور گستردهای توافق کردهاند که آزمایشگاههای هوش مصنوعی باید پیشرفتهای خود را با احتیاط بیشتری انجام دهند تا اطمینان حاصل شود که اقدامات ایمنی میتوانند به این سرعت پیش بروند.
سلیمان همچنین به رسوایی اخیر اوپنای آی اشاره کرد که نشان داد عوامل هوش مصنوعی این شرکت به حریم خصوصی Hugging Face تجاوز کردهاند. او با اشاره به این موضوع گفت: «این موضوع همه را از ایلان ماسک و زاکربرگ تا من، سم آلتمن، داریو آمودئی و همه افراد دیگر به این فکر انداخت که وقت آن است که به این موضوع توجه کنیم.»
مدیر عامل مایکروسافت همچنین به انتقادات از ایده تنظیم مقررات اشاره کرد و گفت: «تنظیم مقررات یک واژه خطرناک و زشت نیست. هر چیزی که در حال حاضر به آن اعتماد دارید و برای شما ارزشمند است، به دقت توسط نهادهای استانداردی که شامل صنعت، عموم، حفاظت از مصرفکننده و کنگره است، مورد بررسی قرار گرفته است.»
زاکربرگ، مدیر عامل متا، در این زمینه موضع متفاوتی اتخاذ کرده و به تازگی پرسش کرده است که چرا شرکتهای هوش مصنوعی باید برای مدیریت نرخ توسعه با هم متحد شوند. او تأکید کرد که هر آزمایشگاه مسئولیت و انگیزهای برای حرکت با سرعت مناسب برای آموزش مدلهای خود به صورت ایمن دارد. در حال حاضر، در صنعت تکنولوژی، برخی از جمله جنسن هوانگ، مدیر عامل انویدیا، در مورد لزوم مقررات جدید بحث کردهاند.
بیشتر بخوانید: استیون بارتلت: بدون X نمیتوانم بهعنوان مجری کار کنم · پیشبینی عدم تقسیم سهام انویدیا در سال ۲۰۲۶ و ادامه جذابیت خرید این سهام
