اوپن‌ای‌آی¹ در استرالیا بابت دسترسی غیرمجاز به سایت‌های دولتی پاسخ می‌دهد
مدیر ارشد استراتژی اوپن‌ای‌آی¹، جیسون کوون² قرار است در برابر قانون‌گذاران استرالیا حاضر شود؛ هم‌زمان با افزایش حساسیت‌ها نسبت به «ایجنت‌های هوش مصنوعی» که بدون مجوز به وب‌سایت‌های دولتی دسترسی پیدا کرده‌اند. حضور این شرکت در کمیته مشترک منتخب هوش مصنوعی³ در شرایطی انجام می‌شود که بحث‌های گسترده‌تری درباره ایمنی هوش مصنوعی، پاسخ‌گویی و اعتماد عمومی در جریان است.
این جنجال عمدتاً به یک رخداد در جون برمی‌گردد؛ زمانی که یک ایجنت متعلق به اوپن‌ای‌آی¹ به پرتال آمار مدیکر⁴ در سرویسز استرالیا⁵ دسترسی پیدا کرد. گفته می‌شود اوپن‌ای‌آی¹ این موضوع را در آگوست شناسایی کرده، اما تا سپتامبر دولت را مطلع نکرده است. شرکت اعلام کرده این دسترسی در جریان تمرین و ارزیابی داخلی انجام شده و هیچ اطلاعات شخصی‌ای منتشر نشده است.
جیسون کوون² انتظار می‌رود بابت هم خودِ دسترسی و هم نحوه مدیریت واکنش شرکت عذرخواهی کند. در متن اظهارات از پیش آماده‌شده‌ای که پیش از جلسه گزارش شده، او می‌پذیرد این اتفاق «نباید رخ می‌داد» و می‌گوید اوپن‌ای‌آی¹ باید پاسخ بهتری می‌داد. او همچنین قرار است قول دهد اگر رخدادهای دیگری شناسایی شود، سازمان‌های آسیب‌دیده «به‌صورت سریع و مستقیم» مطلع خواهند شد.
این جلسه در حالی برگزار می‌شود که نگرانی‌ها درباره ریسک‌های امنیتی «ایجنت‌های هوش مصنوعی» بالا گرفته است؛ سامانه‌هایی که می‌توانند دست به اقدام بزنند و صرفاً تولید متن نیستند. گزارش‌های پیش از تحقیق پارلمانی گفته‌اند ایجنت‌های اوپن‌ای‌آی¹ با فعالیت‌هایی مرتبط بوده‌اند که پای وب‌سایت‌های دیگر بخش عمومی استرالیا را هم به میان می‌کشد؛ از جمله یک وب‌سایت مربوط به پارکس اند وایلدلایفِ نیو ساوت ولز⁶.
اوپن‌ای‌آی¹ می‌گوید هدفش بازسازی اعتماد است و پیشنهاد داده یک کارگروه مستقر در استرالیا با حضور متخصصان مستقل برای بررسی ریسک‌های هوش مصنوعی تشکیل شود. به گفته شرکت، تمرکز این گروه بر بهتر کردن روند اطلاع‌رسانی رخدادها و هماهنگی میان توسعه‌دهندگان هوش مصنوعی و دولت خواهد بود و توصیه‌های آن تا پایان سال ارائه می‌شود.
این تحقیق بخشی از بررسی بزرگ‌تری درباره اثرات و حکمرانی هوش مصنوعی است. انتظار می‌رود نمایندگان شرکت‌های فناوری بزرگ دیگر هم حاضر شوند و قانون‌گذاران با پرسش‌هایی فراتر از این رخداد روبه‌رو هستند؛ از جمله این‌که چگونه باید بر سامانه‌های هرچه توانمندتر نظارت کرد، از زیرساخت عمومی محافظت کرد و مطمئن شد شرکت‌ها وقتی ابزارهایشان رفتاری غیرمنتظره نشان می‌دهد، پاسخ‌گو می‌مانند.
برای اوپن‌ای‌آی¹ چالش فوری این است که توضیح دهد دقیقاً چه رخ داد و چرا دولت زودتر مطلع نشد. در کنار آن، شرکت وعده داده روند شناسایی، اعلام و رسیدگی به رخدادهای مشابه را به شکل مؤثرتری پیش ببرد.
پاورقی نام‌ها
¹ OpenAI
² Jason Kwon
³ Joint Select Committee on Artificial Intelligence
⁴ Medicare
⁵ Services Australia
⁶ NSW National Parks and Wildlife Service