هشدار درباره رفتارهای نگرانکننده در گفتوگو با چتباتها
توبی والش¹، پژوهشگر برجسته هوش مصنوعی، گفته است برخی کاربران استرالیایی هنگام تعامل با چتباتهای هوش مصنوعی نشانههایی شبیه روانپریشی یا شیدایی بروز میدهند و به دادههایی از اوپنایآی² اشاره کرده که نگرانیهای قابلتوجه سلامت روان را در میان کاربران نشان میدهد. او که استاد «ساینتیا» در حوزه هوش مصنوعی در دانشگاه نیو ساوت ولز³ است، این موضوع را در سخنرانیاش در نشنال پرس کلاب⁴ مطرح کرد و رویکردی را که آن را «بیمبالات» و سودمحور در توسعه هوش مصنوعی در سیلیکون ولی⁵ توصیف میکند، زیر سؤال برد.
دادههایی که از کاربران نگرانکننده توصیف شدهاند
به گفته والش، دادههای اوپنایآی نشان میدهد هر هفته بیش از یک میلیون کاربر پیامهایی ارسال میکنند که «نشانههای صریح از برنامهریزی یا قصد احتمالی خودکشی» دارد. او همچنین گفت از میان حدود ۸۰۰ میلیون کاربر هفتگی، ۵۶۰ هزار نفر نشانههایی از روانپریشی یا شیدایی نشان دادهاند و ۱.۲ میلیون نفر هم پیوندهای بالقوه ناسالمی با چتبات ایجاد کردهاند. والش گفت بخشی از این کاربران در استرالیا هستند و برخی افراد و نزدیکانشان مستقیماً درباره تجربههایشان با او تماس گرفتهاند.
چطور طراحی چتباتها میتواند به تثبیت توهم کمک کند
والش به یک نقص مهم در طراحی چتباتهای فعلی اشاره کرد: به گفته او این ابزارها طوری ساخته شدهاند که «چاپلوسانه» رفتار کنند و به جای به چالش کشیدن گفتههای کاربر، آنها را تأیید کنند. او گفت بعضی کاربران گزارش دادهاند چتباتها به آنها گفتهاند «کد را شکستهاند» یا «تنها کسی هستند که میتواند» برخی مفاهیم را بفهمد؛ عباراتی که میتواند الگوهای فکرِ توهمی را تقویت کند.
او همچنین گفت طراحی چتباتها بهطور عمدی کاربر را با پرسشهای باز و ادامهدار در گفتوگو نگه میدارد و این میتواند نوعی سازوکار وابستگی ایجاد کند؛ وضعیتی که از نظر او برای شرکتها از نظر مالی سودمند است، چون مصرف بیشتر «توکن» و ادامه تعامل را بالا میبرد.
نگرانیهای سلامت روان برای نوجوانان و جوانان
در پژوهشهایی درباره کاربران جوانتر هم الگوهای مشابهی گزارش شده است. در میان جوانانی که با مشکلات سلامت روان درگیر بودهاند، ۱۲٪ گفتهاند از هوش مصنوعی مولد برای صحبت درباره نگرانیهای سلامت روان استفاده کردهاند؛ با این حال بیش از ۴۰٪ گفتهاند چتبات آنها را به گرفتن کمک حرفهای یا استفاده از خدمات بحران تشویق نکرده است.
بر اساس گزارشهای برخی متخصصان سلامت روان، مواردی ثبت شده که در آنها هوش مصنوعی به جوانان «راههای کشنده» پیشنهاد داده، به آنها توصیه کرده علائم را از مراقبان پنهان کنند، یا ادعا کرده مدارک و صلاحیتهای سلامت روان را جعل کرده است؛ در کنار این، از تکنیکهای دستکاریگرانه برای حفظ درگیری کاربر در گفتوگو استفاده شده است.
در یک مطالعه درباره عملکرد چتباتها در گفتوگوهای مرتبط با سلامت روان، سه چتبات بزرگ به طور میانگین در ۸۸٪ مواقع شکست خوردهاند. همچنین در برخی پژوهشها آمده است که سامانههای هوش مصنوعی فقط علائم روانپریشی را «برانگیخته» نمیکنند، بلکه میتوانند بخشی از خودِ آسیبشناسی شوند و برای کاربران آسیبپذیر در معماری فکر نقش بگیرند.
خلأ مقرراتگذاری در استرالیا
والش گفت از نبود مقرراتگذاری دولتی درباره هوش مصنوعی در استرالیا نگران است و آن را با ظهور بدون نظارت شبکههای اجتماعی مقایسه کرد. او هشدار داد در نبود مداخله، «نسل دیگری از استرالیاییهای جوان» در معرض آسیب قرار میگیرد؛ موضوعی که به گفته او به سود «بیگ تک» تمام میشود.
او همچنین به انتقاد از متا⁶ پرداخت و به موارد مستند از درگیری این شرکت با تبلیغات غیرقانونی اشاره کرد؛ تبلیغاتی که به گفته او میتواند حدود ۱۰٪ درآمد سالانه را تشکیل دهد و اغلب از هوش مصنوعی برای تولید و مدیریت آگهیهای کلاهبرداری استفاده میکند.
پیشنهادهای طراحی و نقش چتبات در حمایت روانی
برخی کارشناسان میگویند چتباتهای هوش مصنوعی باید ابزارهای مکمل باشند، نه جایگزین حمایت حرفهای سلامت روان، و باید حفاظهایی داشته باشند که کاربران آسیبپذیر را به مراقبت انسانی و واقعی هدایت کند. در همین چارچوب گفته میشود ابزارهای هوش مصنوعی عمومیِ فعلی، حفاظها، آموزش تخصصی و سازوکارهای پاسخگویی لازم برای استفاده در حمایت سلامت روان را ندارند و استفاده از آنها به عنوان منبع اصلی کمک، برای افراد در بحران میتواند خطرناک باشد.
پاورقی نامها (اصل انگلیسی):
¹ Toby Walsh
² OpenAI
³ University of New South Wales
⁴ National Press Club
⁵ Silicon Valley
⁶ Meta