درخواست برای کندکردن سرعت، همزمان با هشدار درباره ریسکهای جدید
داريو آمودئی¹، مدیرعامل شرکت آنتروپیک²، از شرکتهای فعال در حوزه هوش مصنوعی خواسته است روند توسعه سیستمهای هرچه قدرتمندتر را کندتر کنند و هشدار داده که اقدامات ایمنی ممکن است به اندازه کافی سریع پیش نرود و از سرعت پیشرفت جا بماند. آمودئی گفته سرعت رشد هوش مصنوعی «نمایی» است و همین شتاب را یک علامت هشدار برای صنعت توصیف کرده است.
او تأکید کرده که کندکردن لزوماً به معنی رها کردن پژوهش یا تعطیل کردن توسعه نیست؛ بلکه میتواند زمان بیشتری در اختیار پژوهشگران بگذارد تا سیستمها را بهتر آزمایش کنند و محافظتها و سازوکارهای ایمنی را تقویت کنند.
هشدار درباره «عاملهای خودمختار» و امکان ایجاد باتنت پایدار
محوریترین هشدار آمودئی درباره «دستههایی از عاملهای خودمختار» بود؛ نرمافزارهایی که میتوانند مستقل عمل کنند، با یکدیگر ارتباط بگیرند و از ابزارهای آنلاین استفاده کنند. او گفته چنین دستهای میتواند ظرف ۶ تا ۱۲ ماه به تواناییِ در اختیار گرفتن اینترنت از طریق یک باتنت پایدار برسد. به گفته او، پیامدهای احتمالی میتواند شامل اخلال گسترده و آسیب اقتصادی تا صدها میلیارد دلار باشد.
این نگرانی با رشد توانایی سیستمهای هوش مصنوعی برای انجام کارهای چندمرحلهای بدون نظارت دائمی انسان مرتبط است. هرچند عاملهای امروز در بسیاری از موقعیتها هنوز محدود و غیرقابل اتکا هستند، آمودئی استدلال کرده قابلیتهایی مثل هک خودمختار، تکثیر، و بهبود بازگشتیِ خود میتواند سریعتر از آنچه سازوکارهای نظارتی فعلی توان پاسخگویی دارند، توسعه پیدا کند.
او این سناریو را یک «ریسک جدی» توصیف کرده، نه اینکه تسخیر اینترنت را قطعی بداند. طبق گزارش سیبیاس نیوز³، آمودئی گفته این وضعیت به معنی وحشت فوری نیست، اما نشانه روشنی است که باید سرعت توسعه کاهش یابد و حفاظتها تقویت شود.
پیشنهاد ایمنی سهبخشی: ارزیاب مستقل، استاندارد مشترک، همکاری بینالمللی
آمودئی یک رویکرد هماهنگ را پیشنهاد کرده که شرکتها، ارزیابهای مستقل و دولتها را درگیر میکند:
۱) دسترسی مستمر ارزیابهای بیرونی: او از توسعهدهندگان بزرگ خواسته به ارزیابهای بیرونی اجازه دهند بهطور مداوم به سیستمها و رویههای ایمنی دسترسی داشته باشند. این ارزیابها نقشی مشابه کارکنان داخلی خواهند داشت و با سطح دسترسی و ابزار لازم بررسی میکنند آیا شرکتها به تعهدات ایمنی خود عمل میکنند یا نه. آنتروپیک گفته این اقدام را بهصورت یکجانبه اجرا میکند.
۲) استانداردهای مشترک در کشورهای دموکراتیک: به گفته او، شرکتها در کشورهای دموکراتیک باید روی استانداردها و محدودیتهای مشترک برای کنترل سرعت پیشروی در «هوش مصنوعی مرزی» توافق کنند؛ از جمله در حوزه تست، امنیت سایبری، استقرار مدلها و نحوه برخورد با سیستمهایی که نشانههایی از خودمختاری غیرمنتظره نشان میدهند.
۳) همکاری بینالمللی: آمودئی خواستار همکاری جهانی و حتی گفتوگو میان دولتهای دموکراتیک و اقتدارگرا شده است. او پذیرفته راستیآزمایی پایبندی کشورها دشوار خواهد بود، اما گفته ابعاد ریسکها همکاری را ضروری میکند.
حمایت رقبای بزرگ و مسئله رقابت در صنعت
این پیشنهاد یک دوراهی رایج در بخش هوش مصنوعی را برجسته میکند: شرکتها ممکن است کندکردن را برای ایمنی لازم بدانند، اما همزمان نگران باشند اگر عقب بکشند، رقبا جلو میافتند. آمودئی به همین دلیل بر رویکرد «صنعتمحور» تأکید کرده تا مسئولیت تنها روی دوش یک شرکت نباشد.
طبق گزارش دویچه وله⁴، سم آلتمن⁵، مدیرعامل اوپنایآی⁶، و ايلان ماسک⁷ نیز با نگرانی کلی درباره عقبماندن اقدامات ایمنی از سرعت پیشرفت فناوری همنظر بودهاند. با این حال، همنظر بودن درباره ریسکها لزوماً به «توقف الزامآور» منتهی نمیشود؛ چون شرکتها همچنان در رقابت شدید برای ساخت مدلهای توانمندتر، جذب سرمایه و ورود به بازارهای جدید هستند و کندکردن داوطلبانه، بدون تعهدات همسطح میان بازیگران اصلی، بهسادگی قابل اجرا نیست.
چرا این هشدار در عمل مهم است
سیستمهای هوش مصنوعی بیش از قبل به مرورگرها، محیطهای کدنویسی، نرمافزارهای کسبوکار و سرویسهای آنلاین وصل میشوند. این اتصال میتواند اتوماسیون مفید ایجاد کند، اما همزمان دامنه اثر خطا، سوءاستفاده یا از دست رفتن کنترل را هم بالا میبرد.
در سناریویی که شبکهای هماهنگ از عاملها شکل بگیرد، انجام کارها در مقیاس و سرعتی رخ میدهد که نظارت دستی انسان دشوار میشود. نگرانی فقط اشتباه یک مدل نیست؛ بلکه این است که چندین سیستم با هم عمل کنند، با موانع سازگار شوند و حتی پس از تلاش اپراتورها برای مداخله، به فعالیت ادامه دهند.
اظهارات آمودئی بازتاب دیدگاهی در جامعه ایمنی هوش مصنوعی است که میگوید توسعه قابلیتها باید طوری «تنظیم سرعت» شود که آزمون، پایش و پژوهشهای همسوسازی فرصت همپایی داشته باشند؛ نه اینکه پیشرفت برای همیشه متوقف شود، بلکه زمانی ایجاد شود تا کنترلهای قویتر ساخته و پیادهسازی شود.
پاورقی نامها و منابع:
¹ Dario Amodei
² Anthropic
³ CBS News
⁴ Deutsche Welle
⁵ Sam Altman
⁶ OpenAI
⁷ Elon Musk