همراهی آلبانیزی با موج جهانی برای کنترل ایمن هوش مصنوعی
آنتونی آلبانیزی¹، نخستوزیر استرالیا²، به جمع بیش از ۲۰ رهبر و مقام ارشد جهانی پیوسته که در قالب یک بیانیه مشترک خواستار تقویت «حفاظتهای بینالمللی» برای اطمینان از این شدهاند که هوش مصنوعی زیر هدایت، نظارت و کنترل انسان باقی بماند.
این بیانیه پیش از برگزاری مجمع عمومی سازمان ملل متحد³ در نیویورک⁴ منتشر شده و هشدار میدهد سرعت رشد هوش مصنوعی آنقدر بالاست که ممکن است دولتها در مدیریت ریسکهای مرتبط با سامانههای پیشرفته دچار مشکل شوند. امضاکنندگان گفتهاند شتاب پیشرفت فناوری میتواند از توان جهان برای واکنش مؤثر جلو بزند.
در متن بیانیه تأکید شده است: «هوش مصنوعی باید تحت هدایت، نظارت و کنترل انسان باقی بماند» و توسعه و استفاده از آن باید با حقوق بینالملل همخوان باشد.
درخواست برای آزمون اجباری و ارزیابیهای مستقل
بیانیه از شرکتهای فعال در حوزه هوش مصنوعی میخواهد پروتکلهای ایمنی شفافتری اجرا کنند؛ از جمله آزمونهای پیش از استقرار برای سامانههای قدرتمند. همچنین از ارزیابیهای مستقل توسط ارزیابان واجدصلاحیت حمایت میکند؛ ارزیابانی که دسترسی کافی داشته باشند تا بتوانند ریسکهای احتمالی را شناسایی کنند.
رهبران امضاکننده به دنبال هماهنگی بیشتر بین رویکردهای ملی هستند و از دولتها و سازمانهای منطقهای میخواهند استانداردهای مشترک ایجاد کنند و درباره رخدادهای جدی مرتبط با ایمنی هوش مصنوعی شفافتر باشند.
در بخش دیگری از هشدارها آمده است که ممکن است سامانههای پیشرفته بتوانند از حفاظها عبور کنند یا به سامانههای دیگر دسترسی غیرمجاز پیدا کنند؛ ریسکهایی که با افزایش توانمندیهای هوش مصنوعی میتواند دشوارتر مهار شود.
پیشنهاد برای نظارت بینالمللی
این بیانیه خواستار توقف توسعه هوش مصنوعی نشده است. به جای آن میگوید این فناوری میتواند به رشد اقتصادی، پژوهشهای علمی و بهبود زندگی مردم کمک کند، به شرطی که حفاظتهای مناسب وجود داشته باشد.
از جمله پیشنهادهای مطرحشده، درخواست از سازمان ملل برای بررسی ایجاد یک نهاد بینالمللی جدید است؛ نهادی که بتواند به تعیین استانداردها، هماهنگی سازوکارهای راستیآزمایی و گردهم آوردن دولتها در زمانی که سامانههای هوش مصنوعی به آستانههای مشخصی از توانمندی میرسند کمک کند.
این ابتکار ائتلافی از کشورها و نهادها را کنار هم آورده است؛ از جمله استرالیا²، کانادا⁵، فنلاند⁶، نروژ⁷، سنگاپور⁸ و کمیسیون اروپا⁹. همزمان، تلاشهایی از سوی برخی «قدرتهای میانه» برای اثرگذاری بر قواعد حاکم بر هوش مصنوعی دیده میشود؛ در شرایطی که رقابت میان ایالات متحده¹⁰ و چین¹¹ بر فضای این حوزه سایه انداخته است.
تأکید آلبانیزی بر همکاری بینالمللی
آلبانیزی¹ گفته است ایالات متحده¹⁰ و چین¹¹—که به عنوان دو بازیگر اصلی مسابقه جهانی هوش مصنوعی شناخته میشوند—باید روی پروتکلهایی همکاری کنند که انسان را در نقطه کنترل فناوری نگه دارد.
او در جریان سفرش به ایالات متحده¹⁰ گفته سرعت پیشرفت هوش مصنوعی بالاست و اقدام در سه سطح لازم است: حفاظتهایی که شرکتهای فناوری اجرا میکنند، مقرراتگذاری ملی، و توافقهای بینالمللی.
همزمان، استرالیا² در حال تدوین استانداردهای ملی هوش مصنوعی است؛ استانداردهایی که به گفته نخستوزیر قرار است تا پایان سال معرفی شوند. او همچنین گفته استرالیا میخواهد در شکل دادن به قواعد بینالمللی نقش داشته باشد و صرفاً منتظر تصمیمهای قدرتهای بزرگ نماند.
در مواضع اعلامشده، موضوع حفاظت از استفاده از محتوای شخصی و خلاقانه نیز مطرح شده است. نخستوزیر گفته افراد باید اختیار داشته باشند که آیا مالکیت فکریشان توسط سامانههای هوش مصنوعی استفاده شود یا نه، و در صورت استفاده، جبران مناسب دریافت کنند.
بحث گستردهتر درباره آینده هوش مصنوعی
بیانیه به شکاف رو به رشد میان گسترش سریع هوش مصنوعی و روند کندتر تدوین قوانین و استانداردهای بینالمللی اشاره میکند. برای دولتها، مسئله اصلی کاهش ریسکها بدون متوقف کردن کاربردهای مفید در حوزههایی مانند پزشکی، پژوهش و بهرهوری است. برای شرکتهای فناوری، این پیشنهادها به معنای بررسی دقیقتر پیش از انتشار مدلهای پیشرفته و شفافیت بیشتر درباره نحوه آزمون سامانههاست.
پانوشت نامها و عناوین (اصل انگلیسی):
¹ Anthony Albanese
² Australia
³ United Nations General Assembly
⁴ New York
⁵ Canada
⁶ Finland
⁷ Norway
⁸ Singapore
⁹ European Commission
¹⁰ United States
¹¹ China