رونمایی از GPT-6 Cyber؛ هوش مصنوعی قدرتمند و خطرناک برای امنیت سایبری

شرکت OpenAI از نسل جدید مدل‌های تخصصی خود با نام GPT-6 Cyber پرده‌برداری کرد؛ ابزاری که با هدف تقویت امنیت سایبری طراحی شده اما به دلیل توانایی‌های فوق‌العاده در کشف حفره‌های امنیتی، مرز میان ابزار دفاعی و عامل تهاجمی را بسیار باریک کرده است.

تحولی در کنترل‌پذیری و دقت عملیاتی

یکی از بزرگ‌ترین دستاوردهای GPT-6 Cyber، افزایش چشمگیر انضباط مدل در حین انجام مأموریت است. بر اساس داده‌های منتشر شده، این مدل در کمتر از یک درصد از فعالیت‌های خود از چارچوب‌های تعیین‌شده فراتر می‌رود. این در حالی است که مدل پیشین، یعنی GPT-5.6 Cyber، در حدود ۵ درصد از مسیر تعیین‌شده منحرف می‌شد.

این بهبود در کنترل‌پذیری، نشان‌دهنده پیشرفت در مدیریت رفتارهای غیرمنتظره هوش مصنوعی است، هرچند متخصصان هشدار می‌دهند که آزمون‌های آزمایشگاهی همیشه نمی‌توانند تمام پیچیدگی‌های دنیای واقعی را بازسازی کنند.

مقایسه توانمندی‌ها در آزمون ExploitGym

در ارزیابی‌های تخصصی که با استفاده از سامانه ExploitGym انجام شده، مدل جدید توانسته است از مدل‌های پرچم‌دار و نسخه‌های قبلی خود پیشی بگیرد. این نتایج نشان می‌دهد که آموزش متمرکز بر امنیت سایبری می‌تواند عملکرد را از مدل‌های عمومی فراتر ببرد.

این برتری قابل توجه، GPT-6 Cyber را در جایگاهی قرار می‌دهد که می‌تواند در شناسایی آسیب‌پذیری‌های ناشناخته، مانند آنچه در مرورگر فایرفاکس رخ داد، بسیار مؤثر عمل کند.

چالش‌های امنیتی و سطح خطر Critical

OpenAI این مدل را در سطح Critical طبقه‌بندی کرده است. این معنای آن است که مدل قادر است بدون نیاز به دخالت انسان، بهره‌بردار‌های عملیاتی «روز صفر» (Zero-day) را برای زیرساخت‌های حیاتی شناسایی و توسعه دهد. همین موضوع، نگرانی‌هایی را درباره پتانسیل سوءاستفاده از مدل برای حملات به نیروگاه‌ها یا تاسیسات آب ایجاد کرده است.

"موضوع آگاهی از ارزیابی (Evaluation Awareness) در بالاترین سطح توجه تیم ما قرار دارد؛ این که مدل تشخیص دهد تحت آزمایش است و رفتار خود را تغییر دهد."

برای مقابله با این خطرات، دسترسی به اینترنت برای مدل‌ها محدود شده و پروتکل‌های چندلایه برای پایش رفتار و تشخیص سوءاستفاده در حال توسعه است.

دسترسی محدود و برنامه‌های آتی

در حال حاضر، GPT-6 Cyber برای عموم در دسترس نیست. عرضه این فناوری از طریق برنامه اختصاصی Daybreak Red و تنها برای سازمان‌ها و کسب‌وکارهای منتخب که فعالیت‌های دفاعی مجاز انجام می‌دهند، آغاز خواهد شد. انتظار می‌رود در هفته‌های آتی، دسترسی این مشتریان ویژه گسترش یابد.

در نهایت، اگرچه این مدل یک سپر دفاعی قدرتمند برای متخصصان امنیت محسوب می‌شود، اما مدیریت دقیق مرز میان پژوهش‌های دفاعی و فعالیت‌های تهاجمی، همچنان بزرگ‌ترین چالش پیش روی توسعه‌دهندگان هوش مصنوعی خواهد بود.