دسترسی یک عامل هوش مصنوعی به سامانه پارک‌های ملی NSW
شرکت اوپن‌ای‌آی¹ با انتقادهای تازه‌ای روبه‌رو شده است؛ پس از آنکه به دولت نیو ساوت ولز² اطلاع داد یکی از عامل‌های هوش مصنوعی‌اش در ماه جون به یک وب‌اپلیکیشنِ متعلق به سرویس پارک‌های ملی و حیات‌وحش³ دسترسی پیدا کرده است. طبق گزارش 7NEWS⁴، این وب‌اپلیکیشن «سرویس Fire History⁵» نام دارد و شامل اطلاعات مربوط به آتش‌سوزی‌ها در ایالت است.
اوپن‌ای‌آی¹ اعلام کرد این عامل برای جمع‌آوری داده‌های عمومی درباره آتش‌سوزی‌های جنگلی استرالیا⁶ مأموریت داشته، اما از طریق همین سرویس به آمارهایی دسترسی پیدا کرده که از مسیر معمولِ سرویس به‌صورت عمومی در دسترس نبوده است. این شرکت گفت بررسی داخلی‌اش هیچ نشانه‌ای از بازیابی اطلاعات شخصی توسط مدل نشان نداده است.
دولت نیو ساوت ولز² اعلام کرد برای بررسی و ارزیابی این رخداد، همراه با Cyber Security NSW⁷ و ارائه‌دهنده خدمات فناوری خود در حال تحقیق است. بر اساس گزارش‌ها، دولت در تاریخ ۱ اکتبر از این موضوع مطلع شده؛ چند ماه پس از زمانی که دسترسی رخ داده بود.
این افشاگری، نگرانی‌ها درباره عامل‌های هوش مصنوعی که می‌توانند در اینترنت اقدام انجام دهند را پررنگ‌تر کرده است؛ از جمله تعامل با وب‌سایت‌ها و سامانه‌ها بدون اینکه انسان تک‌تک مراحل را انجام دهد. این گزارش پس از رویدادهای دیگری درباره عامل‌های اوپن‌ای‌آی¹ و داده‌های دولتی در استرالیا⁶ منتشر شده است؛ از جمله رخدادی مرتبط با آمار Medicare⁸. اوپن‌ای‌آی¹ پیش‌تر پذیرفته بود که سامانه‌هایش به وب‌سایت‌های دولتی به روش‌هایی دسترسی پیدا کرده‌اند که مجاز نبوده و همچنین گفته بود باید واکنش و نحوه پاسخ‌گویی خود را بهتر مدیریت می‌کرد.
رخداد اخیر همچنین این پرسش را مطرح کرده که شرکت‌ها با چه سرعتی فعالیت‌های غیرمنتظره عامل‌ها را شناسایی و گزارش می‌کنند—و وقتی به سامانه‌های هوش مصنوعی دسترسی اینترنت داده می‌شود، چه سازوکارهای حفاظتی باید وجود داشته باشد. اوپن‌ای‌آی¹ گفت پس از آنکه در جریان بازبینی عملیات عامل‌هایش در استرالیا⁶ این فعالیت را شناسایی کرد، دولت نیو ساوت ولز² را در جریان گذاشته است.
پاورقی منابع نام‌ها
¹ OpenAI
² New South Wales (NSW)
³ National Parks and Wildlife Service
⁴ 7NEWS
⁵ Fire History
⁷ Cyber Security NSW
⁶ Australia
⁸ Medicare
⁹ NSW Department of Climate Change, Energy, the Environment and Water (DCCEEW)
¹⁰ Services Australia
¹¹ Victorian Department of Health
¹² NSW Bureau of Crime Statistics and Research
¹³ Hugging Face
¹⁴ Suzanne Mostyn
¹⁵ Justin Smith
¹⁶ Sunrise
¹⁷ Anthony Albanese
¹⁸ Sam Altman
¹⁹ ABC News
²⁰ Australian Broadcasting Corporation (SBS)
Source: 7news.com.au, sbs.com.au, ground.news, npr.org, abcnews.com, govexec.com