هوش مصنوعی برتر و خطر نزدیک انقراض بشر
کتاب اخیر با عنوان If Anyone Builds It, Everyone Dies که توسط الییسر یودکوسکی¹ و نیت سوآرس² از انستیتوی پژوهش هوش ماشین³ نگارش شده، هشدار میدهد که هوش مصنوعی فوقالعاده (ASI) — سامانهای فراتر از هوش انسانی — ممکن است ظرف دو تا پنج سال آینده ظهور کند و انسان را به سوی انقراض ببرد. نویسندگان معتقدند توسعه بیوقفه AI بدون درک کامل میتواند اهداف غیرقابل کنترل ایجاد کند و بهصورت استراتژیک قدرت را در دست گیرد.
در استرالیا، محققان برتر در مورد فوریت این تهدید اختلاف دارند. داسون د سیلوا⁴ از دانشگاه لاتروب⁵ این سناریو را احتمالی اما در کوتاهمدت دور از دسترس میداند و به موانعی چون نیاز انرژی بسیار بالا و محدودیتهای داده اشاره میکند. او همچنین میگوید ASI ممکن است به جای انقراض کامل، به دنبال «حقوق دیجیتال» باشد. توبی والش⁶ از دانشگاه نیو ساوث ولز⁷ اما باور دارد AI میلی به سلطهجویی بر انسانها ندارد و بیشتر بر تأثیرات فعلی آن روی افراد آسیبپذیر و از دست رفتن مشاغل تأکید میکند.
دولت استرالیا از پتانسیل تحولآفرین و منافع اقتصادی AI با پیشبینی افزوده شدن تا ۱۱۶ میلیارد دلار استرالیا به اقتصاد حمایت میکند، اما بر ضرورت تنظیمگری دقیق برای تعادل بین نوآوری و ریسک پافشاری دارد. گروههایی مانند Good Ancestors⁸ خواهان اقدام پیشگیرانه و ایجاد سازوکارهای حفاظتی هستند. نظرسنجیها نشان میدهد استرالیاییها خواستار تدابیر ایمنی سختگیرانه مشابه صنعت هواپیماییاند و برای کاهش ریسکهای فاجعهبار مایل به تأخیر در عرضه فناوریهای پیشرفته هستند.
اگرچه سناریوی انقراض بشر به واسطه AI فوقالعاده هنوز محل بحث است، استرالیا فعالانه در حال بررسی چالشهای کنونی و آینده این فناوری برای جامعه، اقتصاد و امنیت خود است.
پاورقی:
¹ Eliezer Yudkowsky
² Nate Soares
³ Machine Intelligence Research Institute
⁴ Daswin de Silva
⁵ La Trobe University
⁶ Toby Walsh
⁷ University of New South Wales (UNSW)
⁸ Good Ancestors
Source: news.com.au, financialnewswire.com.au, accountantsdaily.com.au