الکس کارپ، مدیرعامل پالانتیر تکنولوژیز (NASDAQ:PLTR)، در روز پنجشنبه به موضوع ایمنی هوش مصنوعی پرداخته و جبهه جدیدی در این زمینه باز کرد. او بیان کرد که شرکتهای توسعهدهنده این فناوری، مانند Anthropics و OpenAI، باید در صورت بروز آسیب ناشی از هوش مصنوعی، با جریمههای مدنی و کیفری مواجه شوند.
لزوم مسئولیتپذیری شرکتها
کارپ در یک مصاحبه با CNBC گفت که به اعمال "راهنماهای منطقی" برای صنعت موافق است، اما تاکید کرد که "نمیتوان این کار را انجام داد" و "خط اول دفاع" باید این باشد که شرکتها و رهبرانشان مسئول اعمال خود باشند. او همچنین افزود که "سرعت پیشرفت قابلیتها باید به گونهای باشد که پیشگیری از خطر به اندازه کافی زمان داشته باشد تا بتواند با آن پیش برود".
بیشتر بخوانید: جیما لیورتون به عنوان مدیرعامل Fortitude منصوب شد
چالشهای موجود و نظارتهای دولتی
در سمت دیگر این بحث، چندین مدیر اجرایی اظهار کردند که کند کردن سرعت توسعه یا افزودن نظارت دولتی نه تنها غیرضروری است بلکه میتواند نتیجه معکوس داشته باشد. آنها بر این باورند که "ایمنی یک مشکل مهندسی است، نه یک مشکل قانونی" و نیازی به قوانین جدید یا نظارتهای اضافی نیست. این افراد همچنین اشاره کردند که "اعتماد و همراستایی" به سرعت در حال تبدیل شدن به مهمترین قابلیتهایی است که مدلها و عوامل هوش مصنوعی را متمایز میکند.
کارپ معتقد است که تهدید عواقب واقعی برای سازندگان هوش مصنوعی، میتواند دلیلی قویتر برای کند کردن سرعت توسعه و تمرکز بر ایمنی به جای تعهدات داوطلبانه یا قوانین جدید باشد. او افزود که این بحث در واقع به محافظت از شرکتها در برابر مسئولیتهایی مربوط میشود که میتواند به اقدام مسئولانه منجر شود.
در نهایت، افزایش نظارت ممکن است به نفع پالانتیر باشد. این شرکت نرمافزاری را ارائه میدهد که به دولتها و کسبوکارها در پیادهسازی هوش مصنوعی در سیستمهای کنترلشده با دسترسی و نظارت مشخص کمک میکند. با افزایش نگرانی مشتریان درباره چگونگی استفاده از سیستمهای هوش مصنوعی، این کنترلها ممکن است ارزش بیشتری پیدا کنند.
چگونگی پیشرفت این مباحث میتواند تاثیرات عمدهای بر سرمایهگذاران پالانتیر و صنعت بهطور کلی داشته باشد.
بیشتر بخوانید: هک سیستمهای آبرسانی کلرادو توسط هکرهای خارجی در آگوست · آمازون بیزنس به ۶۰ میلیارد دلار رسید
