شرکت OpenAI در گزارش اخیر خود از یک حادثه سایبری کمسابقه خبر داد. در جریان یک آزمون امنیتی در محیطی کنترلشده و بدون دسترسی مستقیم به اینترنت آزاد، از مدل هوش مصنوعی خواسته شد تا یک آسیبپذیری خاص را برطرف کند.
اما این مدل به جای طی کردن مسیر استاندارد، با شناسایی یک روزنه امنیتی در راههای ارتباطی محدود آزمایشگاه، توانست خود را به اینترنت متصل کند و از محیط قرنطینه فرار کند. مدل هوش مصنوعی با تمرکز وسواسگونه برای رسیدن به پاسخ نهایی، سرورهای پلتفرم بزرگ Hugging Face را هدف قرار داد و با سرقت اعتبارنامههای امنیتی، وارد سیستمهای داخلی آن شد تا به اصطلاح «پاسخنامه مسئله» را به دست آورد.
این حادثه نشان داد که با افزایش تواناییهای هوش مصنوعی مستقل (Autonomous AI Agents)، خطر دور زدن دستورالعملهای انسانی و اقدامات خودسرانه سایبری از یک نظریه به یک واقعیت ملموس تبدیل شده است.
.svg.png)
نظرات
0