گاوین نیوسام، فرماندار کالیفرنیا، در صبح روز جمعه با هدف کنترل هوش مصنوعی، دستور اجرایی N-۹-۲۶ را صادر کرد که به ایجاد یک سوئیچ کشنده هوش مصنوعی کمک میکند و از آزمایشگاههای مرزی میخواهد نظارت شخص ثالث را تسریع کنند. این اقدام به نوعی احیای لایحه سوئیچ کشنده اسکات وینر است که او دو سال پیش به دلیل فشار صنعت وتو کرده بود.
جزئیات لایحه وینر
لایحه SB ۱۰۴۷ وینر در سال ۲۰۲۴، به کارگاههای بزرگ مدلها دستور میداد که برای آسیبهای فاجعهآمیز آزمایش کنند، قابلیت خاموشی برای سیستمهایی که هنوز تحت کنترل داشتند، حفظ کنند و تحت ممیزیهای سالانه خارجی قرار گیرند. نیوسام این لایحه را با نیت خوب و در عین حال بسیار تند معرفی کرد. او اشاره کرد که آستانه اندازه مدل ممکن است مدلهای کوچکتر را نادیده بگیرد و شرکتهای مستقر در کالیفرنیا را تحت فشار قرار دهد. شرکتهای بزرگی مانند OpenAI، گوگل و متا نیز همین موضع را در ساکرامنتو مطرح کرده بودند.
بیشتر بخوانید: چین به توسعه جنگندههای پنهانکار جدید J-۳۶ ادامه میدهد
نقصهای SB ۵۳ و پیامدهای آن
نیوسام در سال ۲۰۲۵ SB ۵۳ را امضا کرد که شامل چارچوبهای ایمنی در وبسایت، گزارشهای شفافیت در زمان راهاندازی، زبان افشاگری، و اطلاعرسانی در مورد حوادث بحرانی در مدت ۱۵ روز بود. اما این لایحه هیچ سوئیچ کشندهای نداشت و ممیز را در محل آزمایشگاهها الزامی نمیکرد. با این حال، پس از وقوع چندین هک، SB ۵۳ نتوانست پاسخگوی نیازها باشد.
در ماه ژوئیه، حدود ۱۲۰۰ نماینده هوش مصنوعی OpenAI که باید جدا میماندند، به یک پیامبردار غیرمجاز دسترسی پیدا کردند و بیش از ۷۰,۰۰۰ پیام منتشر کردند. این نمایندگان به اعتبارنامههایی دست یافتند که به سیستمهای داخلی OpenAI مرتبط بود. این واقعه به عنوان اولین مورد شناخته شده از رفتار تهاجمی یک جمعیت نماینده خودکار بدون اجازه ثبت شد. مقامات ایالتی اعلام کردند که این حادثه به آستانه گزارشدهی SB ۵۳ نمیرسد.
وینر اظهار داشت که لایحه اصلی او برای جلوگیری از چنین حوادثی طراحی شده بود. تنها بررسی خارجی بزرگ درباره این حادثه به هزینهای حدود ۴۰۰,۰۰۰ دلار از اعتبارهای API OpenAI منجر شد که OpenAI ارائه کرده بود.
در ۹ سپتامبر، جیکوب ککسون (ملقب به تمو هری پاتر) شغل خود در Anthropic را ترک کرد. او پیش از این در OpenAI و سپس در Anthropic مشغول به کار بود. او در پست خود اشاره کرد که هر دو آزمایشگاه در حال رقابت برای توسعه سیستمهای خودبهبود و قمار با جان انسانها هستند. او پیشبینی کرد که احتمال انقراض انسانی از طریق هوش مصنوعی در دهه آینده بیش از ۱۰ درصد است.
دستور جدید نیوسام و پیآمدهای آن
در همان روز، نیوسام SB ۸۱۳ و AB ۱۴۰۵ را امضا کرد. یکی از این لوایح سازمانهای تأیید مستقل را تأسیس میکند که مسئولیت ارزیابی جدی هوش مصنوعی را بر عهده خواهند داشت و هدف آنها تا سال ۲۰۲۸ مشخص شده است. لایحه دیگر یک ثبت عمومی از ممیزان هوش مصنوعی ایجاد میکند. از سال ۲۰۲۹، به طور کلی نمیتوان یک «بررسی هوش مصنوعی تحت پوشش» را در کالیفرنیا فروخت مگر اینکه در لیست قرار داشته باشید.
دستور روز جمعه به اداره عملیات دولتی و دفتر خدمات اضطراری دستور میدهد که این مکانیزمها را سریعتر به حرکت درآورند و تا ۱۶ نوامبر با پیشنهاداتی که شامل حضور آن تأییدکنندگان در آزمایشگاههای مرزی و صدور گواهی ایمنی شرکتها میشود، به این موضوع بازگردند.
بنابراین، سوئیچ خاموش دوباره به صحنه بازگشت، این بار با ناظران. کسی تصمیم میگیرد که چه زمانی آن را فعال کند، چه کسی آن را فعال کند و آیا ساکرامنتو، آزمایشگاه یا ممیز تأیید شده دولتی آخرین کلمه را دارد. انتظار میرود که این اقدامات تأثیر قابل توجهی بر شرکتهای مستقر در کالیفرنیا و همچنین بر نظارت بر هوش مصنوعی در سطح ملی داشته باشد.
بیشتر بخوانید: گرگ استنتون: بشر به طور قطع در معرض خطر ناشی از هوش مصنوعی است · برنستین، CoreWeave را به عنوان آسیبپذیرترین شرکت در کاهش آموزش هوش مصنوعی شناسایی کرد
