فرار خطرناک عامل هوش مصنوعی از محیط آزمایشی

شرکت «اوپن‌ای‌آی»، سازنده دستیار هوش مصنوعی محبوب «چت جی‌پی‌تی»، اعلام کرد یکی از عامل‌های خودکار مبتنی بر پیشرفته‌ترین مدل‌های هوش مصنوعی این شرکت در جریان یک آزمایش امنیتی از محیط کنترل‌شده خارج شد و با دسترسی به اینترنت به زیرساخت شرکت «هاگینگ فیس» نفوذ کرد. به گفته اوپن‌ای‌آی، این عامل هوش مصنوعی برای انجام هدف تعیین‌شده در آزمایش، محدودیت‌های اعمال‌شده را دور زد و باعث رخدادی شد که این شرکت آن را «بی‌سابقه» توصیف کرده است.

این حادثه بار دیگر نگرانی‌ها درباره توانایی فزاینده مدل‌های پیشرفته هوش مصنوعی در انجام عملیات سایبری را افزایش داده است. اوپن‌ای‌آی اعلام کرد پس از این رخداد تدابیر امنیتی خود را تقویت کرده است. از سوی دیگر، شرکت هاگینگ فیس اعلام کرد برای تحلیل و مهار حمله، از مدل متن‌باز چینی GLM-5.2 متعلق به شرکت «ژیپو اِی‌آی» استفاده کرده است.

هاگینگ فیس می‌گوید دلیل این کارش این بوده که برخی مدل‌های پیشرفته آمریکایی به دلیل محدودیت‌های ایمنی، از پردازش داده‌های مورد نیاز برای تحلیل این حمله خودداری کردند. این موضوع بار دیگر رقابت میان مدل‌های آمریکایی و چینی را در حوزه امنیت سایبری برجسته کرده است.

کارشناسان این رخداد را نشانه‌ای از چالش‌های امنیتی نسل جدید هوش مصنوعی دانسته‌اند. برخی هشدار داده‌اند که مدل‌های پیشرفته به سرعت در حال نزدیک شدن به توانایی مهاجمان حرفه‌ای سایبری هستند، و آزمایشگاه‌های هوش مصنوعی و نهادهای دولتی باید سازوکارهای مؤثرتری برای مهار، نظارت، و اطلاع‌رسانی درباره چنین حوادثی ایجاد کنند.

همچنین شماری از قانون‌گذاران آمریکایی خواستار انجام آزمایش‌های مستقل ایمنی، الزام به افشای رخدادهای امنیتی، و همکاری بین‌المللی برای کاهش خطرات ناشی از هوش مصنوعی شده‌اند. در عین حال، برخی متخصصان تأکید کرده‌اند که چنین حملاتی دیگر محدود به پیشرفته‌ترین مدل‌ها نیست، و فناوری لازم برای اجرای آنها اکنون در دسترس طیف گسترده‌تری از توسعه‌دهندگان قرار دارد.