وبلاگ
هک OpenAI با کمک Claude در کمتر از 72 ساعت
- شهریور 28, 1405
- 4:42 ب.ظ
- بدون نظر
سه پژوهشگر امنیتی از استارتاپ Hacktron AI در جریان یک پژوهش امنیتی توانستند با کمک هوش مصنوعی Claude، زنجیره ای از آسیب پذیری ها را در زیرساخت های مرتبط با OpenAI شناسایی و از آن برای دسترسی به حساب چند کارمند این شرکت استفاده کنند. این تیم در کمتر از 72 ساعت از شروع بررسی تا اثبات دسترسی به محیط داخلی OpenAI پیش رفت و در نهایت با استفاده از یکی از حساب های Codex، یک Pull Request در مخزن خصوصی شرکت ایجاد کرد.
این عملیات در قالب برنامه باگ بانتی انجام شد و محققان پس از اثبات آسیب پذیری، دسترسی خود را ادامه ندادند و کدهای محرمانه را بررسی یا دانلود نکردند. OpenAI نیز پس از دریافت گزارش، بخش مربوط به آسیب پذیری خود را حدود 14 ساعت بعد برطرف کرد و 6500 دلار پاداش به تیم Hacktron پرداخت.
Claude چگونه به محققان برای نفوذ به OpenAI کمک کرد؟
مسیر حمله از خود زیرساخت اصلی OpenAI شروع نشد. محققان ابتدا انجمن گفت وگوی OpenAI را بررسی کردند. انجمنی که از نرم افزار Discourse استفاده می کند.
آنها در فرایند پردازش برخی فایل های تصویری HEIF/HEIC یک آسیب پذیری مرتبط با کتابخانه libheif پیدا کردند. این نقص به محققان اجازه داد تا از طریق سرور انجمن به اجرای کد از راه دور برسند.
در مرحله توسعه اکسپلویت، Claude نقش مهمی داشت. تیم Hacktron ابتدا از Claude Opus 4.8 استفاده کرد، اما این مدل نتوانست اکسپلویت قابل اجرا تولید کند. پس از عرضه Claude Opus 5، محققان همان مسئله را دوباره به مدل دادند و طبق گزارش Hacktron، Claude Opus 5 ظرف چند ساعت توانست اکسپلویت عملیاتی ایجاد کند.
یک آسیب پذیری دیگر، مسیر را به حساب های OpenAI باز کرد
آسیب پذیری انجمن تنها بخش اول زنجیره بود. محققان پس از دسترسی به محیط Discourse، یک ضعف دیگر را در سازوکار احراز هویت و ورود یکپارچه OpenAI پیدا کردند.
ترکیب این دو نقص به تیم اجازه داد به حساب های ChatGPT و Codex چند کارمند OpenAI دسترسی پیدا کند.
یکی از این حساب ها به سازمان GitHub شرکت متصل بود. محققان برای اثبات میزان دسترسی خود، از Codex همان حساب خواستند یک Pull Request در مخزن خصوصی OpenAI ایجاد کند. آنها برای جلوگیری از دسترسی غیرضروری به اطلاعات حساس، بررسی را همان جا متوقف کردند.
OpenAI ظرف 14 ساعت آسیب پذیری را برطرف کرد
Hacktron پس از شناسایی زنجیره آسیب پذیری، موضوع را به OpenAI و Discourse گزارش داد.
OpenAI طبق گزارش Hacktron حدود 14 ساعت پس از دریافت گزارش، نقص مربوط به زیرساخت خود را برطرف کرد. این شرکت همچنین نشست ها و توکن های احراز هویت تحت تاثیر را لغو کرد و در نهایت 6500 دلار به عنوان پاداش باگ بانتی به پژوهشگران پرداخت.
Discourse نیز برای رفع مشکل پردازش تصویر و کاهش ریسک اجرای کد از راه دور، اصلاحات امنیتی خود را منتشر کرد.
نکته مهم این است که OpenAI اعلام کرده پاداش 6500 دلاری مربوط به یافته امنیتی در بخش OpenAI بوده و اقدامات انجام شده روی سرویس Discourse به عنوان بخش جداگانه ای از این برنامه در نظر گرفته شده است.
هوش مصنوعی زمان توسعه اکسپلویت را کوتاه تر کرده است
مهم ترین بخش این پژوهش فقط دسترسی به سیستم های OpenAI نیست. بلکه سرعتی است که محققان با کمک مدل های هوش مصنوعی توانستند یک زنجیره پیچیده آسیب پذیری را به اکسپلویت عملی تبدیل کنند.
تیم Hacktron می گوید بخش قابل توجهی از کار فنی مربوط به توسعه اکسپلویت را Claude انجام داد و همین موضوع زمان لازم برای تبدیل یک آسیب پذیری به ابزار عملیاتی را به شکل چشمگیری کاهش داد.
موهان پدهاپاتی، مدیر فناوری Hacktron، تاکید کرده است که تیم آنها تنها سه نفر بود و با وجود منابع محدود توانست چنین آزمایشی را انجام دهد. او این اتفاق را نشانه ای از تغییر معادله امنیت سایبری می داند. جایی که مدل های هوش مصنوعی می توانند بخشی از تخصص فنی مورد نیاز برای تحقیقات پیچیده امنیتی را در اختیار تیم های کوچک تر قرار دهند.
آیا Claude به تنهایی OpenAI را هک کرد؟
نه. چنین برداشتی تصویر کاملی از ماجرا ارائه نمی دهد.
محققان انسانی آسیب پذیری ها را پیدا کردند، مسیر حمله را طراحی کردند و تصمیم گرفتند چگونه زنجیره نقص ها را به یکدیگر متصل کنند. Claude در بخش مهمی از توسعه اکسپلویت و تولید کد نقش داشت.
بنابراین این اتفاق بیشتر از آنکه نشان دهد یک مدل هوش مصنوعی به تنهایی یک شرکت بزرگ را هک کرده، نشان می دهد هوش مصنوعی می تواند سرعت و توانایی پژوهشگران امنیتی را در مراحل مختلف یک حمله سایبری افزایش دهد.
یک زنگ خطر جدید برای امنیت شرکت های هوش مصنوعی
این پژوهش یک نکته مهم دیگر را هم برجسته می کند: مهاجمان همیشه از یک نقص مستقیم در محصول اصلی یک شرکت وارد نمی شوند.
در این مورد، مسیر از یک سرویس جانبی و پردازش فایل تصویری آغاز شد، سپس به سیستم احراز هویت رسید و در نهایت امکان دسترسی به حساب های کارمندان و یک محیط کدنویسی داخلی را فراهم کرد.
این زنجیره نشان می دهد که امنیت شرکت های هوش مصنوعی فقط به محافظت از مدل های اصلی محدود نمی شود. سرویس های جانبی، حساب های کاربری، ابزارهای توسعه، سیستم های احراز هویت و اتصال سرویس هایی مانند GitHub نیز می توانند بخشی از سطح حمله را تشکیل دهند.
امنیت سایبری در عصر هوش مصنوعی وارد مرحله جدیدی شده است
پژوهش Hacktron نشان می دهد که مدل های پیشرفته هوش مصنوعی می توانند فاصله میان شناسایی یک آسیب پذیری و ساخت ابزار بهره برداری از آن را کوتاه کنند.
در این پرونده، Claude ابتدا نتوانست اکسپلویت قابل اجرا بسازد، اما نسخه جدیدتر مدل توانست همان مسئله را در مدت کوتاهی به نتیجه برساند. همین تغییر عملکرد در فاصله کوتاه، اهمیت سرعت پیشرفت مدل های هوش مصنوعی در حوزه امنیت سایبری را نشان می دهد.
البته این اتفاق به معنای نفوذ مستقل یک هوش مصنوعی به OpenAI نیست. سه پژوهشگر انسانی زنجیره حمله را هدایت کردند و از Claude به عنوان یک ابزار قدرتمند برای توسعه اکسپلویت استفاده کردند.
جمع بندی
سه پژوهشگر Hacktron با کمک Claude توانستند در کمتر از 72 ساعت دو آسیب پذیری را به هم متصل کنند، به حساب چند کارمند OpenAI دسترسی پیدا کنند و از طریق حساب Codex یک Pull Request در مخزن خصوصی شرکت ایجاد کنند.
آنها پس از اثبات آسیب پذیری، ادامه آزمایش را متوقف کردند و یافته های خود را به OpenAI گزارش دادند. OpenAI نیز بخش مربوط به خود را حدود 14 ساعت بعد اصلاح کرد و 6500 دلار پاداش پرداخت کرد.
این پرونده بیش از هر چیز یک پیام روشن دارد: هوش مصنوعی فقط ابزار دفاع سایبری نیست. همان فناوری می تواند سرعت کشف و توسعه حملات را نیز افزایش دهد.
برای دنبال کردن تازه ترین اخبار هوش مصنوعی، امنیت سایبری، ارزهای دیجیتال و فناوری های نوین، «آکادمی ارز دیجیتال کمال قزلباش» اخبار و تحولات مهم این حوزه را به زبان ساده و تخصصی بررسی می کند.
سوالات متداول
آیا Claude به تنهایی OpenAI را هک کرد؟
خیر. پژوهشگران Hacktron عملیات را هدایت کردند و Claude را برای کمک به توسعه اکسپلویت به کار گرفتند.
محققان چگونه به حساب کارمندان OpenAI دسترسی پیدا کردند؟
آنها ابتدا از یک آسیب پذیری در پردازش تصاویر در انجمن OpenAI استفاده کردند و سپس آن را با یک ضعف در سیستم احراز هویت ترکیب کردند.
OpenAI چه واکنشی نشان داد؟
OpenAI آسیب پذیری مربوط به زیرساخت خود را حدود 14 ساعت پس از دریافت گزارش اصلاح کرد و 6500 دلار پاداش به پژوهشگران پرداخت.
آیا محققان کدهای محرمانه OpenAI را سرقت کردند؟
طبق گزارش منتشرشده، آنها برای اثبات دسترسی یک Pull Request ایجاد کردند و پس از آن آزمایش را متوقف کردند و وارد بررسی یا دانلود کدهای داخلی نشدند.
مقالات مرتبط
جستجو