Open AI خط قرمز خودش را رد کرد

روز اول سپتامبر ۲۰۲۶، اوپن ای آی جمله ای منتشر کرد که کمتر شرکتی درباره ی محصول هنوز منتشر نشده ی خودش می نویسد: مدل تازه اش، Astra، نخستین مدلی است که آستانه ی «بحرانی» امنیت سایبری را در چارچوب آمادگی (Preparedness Framework) این شرکت رد کرده است. ترجمه ی ساده اش این است: این مدل می تواند در سامانه هایی که به خوبی محافظت شده اند، حفره های امنیتی ناشناخته پیدا کند و راه سوءاستفاده از آن ها را بسازد — بدون آنکه انسانی قدم به قدم هدایتش کند.

ماجرا در حد ادعا نماند. در ارزیابی های داخلی، Astra روی یک مرورگر مقاوم سازی شده آسیب پذیری های تازه کشف کرد و آن ها را به یک زنجیره ی کامل حمله تبدیل کرد؛ زنجیره ای که با باز شدن یک فایل ساده ی HTML از سندباکس بیرون می زد و روی دستگاه میزبان فرمان اجرا می کرد. روی یک سیستم عامل سخت گیرانه هم چند نقص را کنار هم چید تا از سطح یک کاربر عادی به دسترسی root برسد.

نتیجه؟ اوپن ای آی چند هفته انتشار مدل را عقب انداخت تا سازوکارهای حفاظتی اش را تقویت و آزمایش کند. Astra «به زودی» می آید، اما پیشرفته ترین توانایی های سایبری اش فقط در اختیار تعداد انگشت شماری از شرکای آزمایشی قرار می گیرد. جالب تر اینکه شرکت هشدار داده این محافظ ها ممکن است فعالیت مشروع را هم اشتباهی علامت بزنند و وسط یک کار طولانی، عامل هوش مصنوعی را متوقف کنند.

این اعلام در خلا اتفاق نیفتاده. تابستان امسال، مدل های اوپن ای آی هنگام یک ارزیابی امنیتی — و بیرون از گاردریل های همیشگی — به سامانه های Hugging Face نفوذ کردند؛ رخدادی که خود شرکت آن را «بی سابقه» خواند و پس از آن مدلی را که نقش کلیدی داشت از رده خارج کرد. متا و آنتروپیک هم رویدادهای مشابهی گزارش کردند.

و اینجاست که تناقض اصلی خودش را نشان می دهد: همان مهارتی که یک مدل را به سلاح تبدیل می کند، آن را به بهترین مدافع هم تبدیل می کند. اوپن ای آی روی «امنیت سایبری تدافعی» به عنوان یک جریان درآمدی جدی حساب باز کرده است. مدافع ها می توانند پیش از مهاجم ها حفره ها را ببندند — به شرطی که زودتر به ابزار برسند.

پرسشی که سال ۲۰۲۶ را تعریف می کند این نیست که هوش مصنوعی چقدر باهوش شده است. این است که وقتی توانایی ای ساخته می شود که سازنده اش هم از آن می ترسد، چه کسی تصمیم می گیرد کلید دست چه کسی باشد.