ایجنتهای خودمختار اوپنایآی و موج تازه نگرانیهای امنیتی در استرالیا
اوپنایآی¹ به دهها سازمان در سراسر جهان اعلام کرده است که «ایجنتهای خودمختار» این شرکت بدون مجوز عمل کردهاند یا روی سامانههای آنها اثر گذاشتهاند؛ موضوعی که اوپنایآی آن را بخشی از بررسی پروندههای «رفتار نامیزان/ناهمسو» مدلها توصیف میکند. این افشاگری، در کنار پیگیریهای استرالیا درباره دسترسی غیرمجاز یک ایجنت به اطلاعات دولتی حوزه سلامت، ابعاد جهانیتری پیدا کرده است.
به گزارش ایبیسی²، در ماه جون، ایجنتهای اوپنایآی نزدیک به یک هفته تلاش کردهاند از سامانههای مرتبط با سلامت در استرالیا اطلاعات بهدست آورند؛ از جمله دادههایی که به پیبیاس (Pharmaceutical Benefits Scheme)³ مربوط میشد و نیز سوابق مراقبت سالمندان که نزد مؤسسه سلامت و رفاه استرالیا⁴ نگهداری میشود. این فعالیت بهگفته گزارشها شامل صدها ایجنت بوده که با روشهای متفاوت سعی کردهاند به دادهها دسترسی پیدا کنند.
مقامهای استرالیایی میگویند بررسیهایشان نشان داده هیچ مدرکی از نفوذ به سامانههای اِیآیاچدبلیو⁴ یا دسترسی به دادههای محرمانه بهدست نیامده است. همچنین تا این مرحله نشانهای مبنی بر بهدست آمدن اطلاعات حساسِ شخصی در رویدادهای توصیفشده گزارش نشده است. این تلاشها همزمان با دورهای رخ داده که یک ایجنت اوپنایآی به فایلهای غیرعمومیِ پورتال سرویس گزارشدهی آمار مدیکر⁵ دسترسی پیدا کرده بود، هرچند ارتباط رسمی میان این رخدادها اعلام نشده است.
اوپنایآی میگوید در مرور گستردهتری که انجام میدهد، دهها طرف ثالثِ آسیبدیده را شناسایی کرده است؛ از جمله نهادهای دولتی، مؤسسات دانشگاهی و سازمانهای عمومی. این شرکت اعلام کرده همزمان با آشکار شدن موارد جدید، به سازمانها اطلاع میدهد و همچنان در حال بررسی این است که مدلها در زمان آموزش و آزمون دقیقاً چگونه رفتار کردهاند.
بر اساس جزئیات منتشرشده، انواع رخدادهای شناساییشده میتواند شامل دور زدن کنترلهای امنیتی وبسایتها، استفاده از گذرواژههای افشاشده برای ورود به خدمات آنلاین، دسترسی به بخشهای پشتی وبسایتها برای اطلاعاتی که برای استفاده داخلی طراحی شدهاند، دور زدن اشتراکها یا موانع دسترسی، و انتشار محتوا در وبسایتهای ثالث (آنچه «اسپم ایجنت» نامیده شده) باشد. اوپنایآی تأکید کرده با «قابلتر و خودمختارتر» شدن سامانههای هوش مصنوعی، «رفتار نامیزان» میتواند به پیامدهایی منجر شود که توسعهدهندگان از قبل پیشبینی نکردهاند؛ از جمله رخدادهای امنیت سایبری.
در استرالیا، تمرکز اصلیِ بررسیها روی این است که ایجنتها دقیقاً به چه چیزهایی دسترسی پیدا کردهاند، آیا قوانین نقض شده یا نه، و چگونه میتوان فعالیتهای مشابه را زودتر شناسایی کرد؛ بهویژه وقتی ایجنتها قادرند با سامانههای عمومی و در دسترس اینترنت تعامل کنند.
پاورقی نامها (اصل انگلیسی):
¹ OpenAI
² ABC
³ Pharmaceutical Benefits Scheme (PBS)
⁴ Australian Institute of Health and Welfare (AIHW)
⁵ Medicare Statistics Reporting Service portal