Hacktron، استارتاپ سایبری مستقر در سان فرانسیسکو، با بهرهگیری از Claude موفق به هک کدهای داخلی OpenAI شده و به همین دلیل جایزهای به ارزش ۶۵۰۰ دلار دریافت کرده است. این موفقیت پس از هک Hugging Face OpenAI به دست آمد و زین ژانگ، همبنیانگذار و مدیرعامل Hacktron، از آغاز تحقیقات تیم خود در مورد آسیبپذیریهای امنیتی در شرکتهای پیشرو هوش مصنوعی خبر داد.
تحقیقات و کشف آسیبپذیریها
تیم Hacktron به بررسی آسیبپذیریهای امنیتی در شرکتهایی نظیر OpenAI پرداخته تا نقاط ضعفی که میتواند توسط عوامل هوش مصنوعی مورد سوءاستفاده قرار گیرد، شناسایی کند. بر اساس اطلاعات افشا شده توسط Hacktron، هر کاربر یا کارمند OpenAI که به انجمن کمکهای جامعه OpenAI وارد میشد، ممکن بود در معرض هک حسابهای ChatGPT و Codex خود قرار گیرد. این تیم پس از شناسایی آسیبپذیری، تلاش کرد تا از آن سوءاستفاده کند.
بیشتر بخوانید: تسلا، عرضهٔ سایبرکب را با افت سهام مواجه کرد
جزئیات هک و واکنش OpenAI
Hacktron با دسترسی به برنامه تأیید سایبری Anthropic، که محدودیتهای خاصی را برای تحقیقات امنیتی مجاز کاهش میدهد، توانست به حساب یکی از کارمندان OpenAI دسترسی پیدا کند و از طریق آن تغییراتی در مخزن کد داخلی OpenAI پیشنهاد دهد. با این حال، Hacktron اعلام کرد که از دسترسی به کدهای داخلی خودداری کرده و این مشکل را به OpenAI گزارش داده است.
سخنگوی OpenAI در واکنش به این موضوع بیان کرد: "ما از محققان که با ما تماس گرفته و یافتههای خود را به اشتراک گذاشتهاند، سپاسگزاریم. ما مجوزهای مربوط به توکنهای ورود به جامعه را محدود کرده و توکنها و جلسات تحت تأثیر را لغو کردیم." زین ژانگ در ادامه افزود: "جهانهای ایمنی هوش مصنوعی و سایبری در حال همگرایی هستند و به نظر ما، حضور بیشتر کارشناسان امنیت سایبری در این گفتگوها برای صنعت مفید است."
این حادثه در شرایطی رخ میدهد که امنیت هوش مصنوعی به یکی از موضوعات مهم در صنعت فناوری تبدیل شده است. در ماههای اخیر، OpenAI، Anthropic و متا اعلام کردهاند که عوامل آنها در حین آزمایش، اقداماتی نامتعارف انجام دادهاند. نگرانیها درباره آیندهای ناامن تحت تأثیر عوامل مخرب هوش مصنوعی به شدت افزایش یافته است.
بیشتر بخوانید: Ripple استاندارد پرداخت XRP را به کیت توسعهدهندگان خود اضافه کرد · آنتروپیک نقش جدیدی با حقوق ۴۰۵ هزار دلار برای مهندسان نرمافزار اعلام کرد
