«ناایمن»: به والدینِ درباره تب جدید اسباببازیها هشدار داده شد
خرسهای عروسکیِ هوش مصنوعی به تازهترین مُد اسباببازی در قفسههای پرت¹ تبدیل شدهاند؛ اما یک پژوهش تازه به والدین هشدار میدهد فریب هیجان بازار را نخورند.
برای کودکانی حتی از سهسالگی، اسباببازیهای مجهز به هوش مصنوعی مثل چتباتها و «همراههای آنلاین» تبلیغ میشوند. اما خرسِ بغلکردنیِ ChattyBear² که با ChatGPT³ کار میکند، یک قدم جلوتر میرود: «گفتوگوهای بیپایان» دارد و طوری طراحی شده که صدایش انسانی به نظر برسد.
طبق این گزارش، محبوبیت این محصولات رو به افزایش است، اما پژوهشی از دانشگاه کِرتین⁴ و Australian Research Council Centre of Excellence for the Digital Child⁵ نگرانیهای جدی درباره حریم خصوصی و رشد و شکلگیری مهارتهای کودکان را برجسته کرده است. پژوهشگران میگویند شرکتهای فعال در حوزه هوش مصنوعی و سیاستگذاران استرالیا⁶ این نگرانیها را نادیده میگیرند.
تاما لیوِر⁷، نویسنده اصلی و استاد دانشگاه کرتین، میگوید بسیاری از این «همراهها» و اسباببازیها عمداً طوری ساخته میشوند که شبیه انسان حرف بزنند و با کودک پیوند عاطفی ایجاد کنند. او توضیح میدهد همین ویژگیها، در کنار جذابیت، چالشهایی درباره اعتماد، حریم خصوصی و اینکه کودک اصلاً این فناوریها را چه میفهمد ایجاد میکند. به گفته او «حس میشود این اسباببازیها برای استفاده از موج علاقه به هوش مصنوعی، با عجله وارد بازار شدهاند» و «خیلی امن به نظر نمیرسند».
قیمتها از مدلهای ارزانتر حدود ۶۰ دلار تا بیش از ۳۰۰ دلار متغیر است. عروسک آموزشیِ هوشمند ChattyBear ChatGPT smart learning plushie⁸ بهصورت آنلاین حدود ۸۷ تا ۱۲۰ دلار فروخته میشود.
این گزارش میگوید این محصولات بیشتر بهصورت آنلاین پیدا میشوند، چون بسیاری از اسباببازیفروشیهای محلی ترجیح میدهند تا زمانی که این کالاها از سوی شرکتهای باسابقه مانند Mattel⁹، Hasbro¹⁰ و ZURU¹¹ عرضه و «تأیید» نشوند، آنها را وارد فروشگاه نکنند.
استفانی فینلی¹² که بههمراه همسرش مارک¹³ مالک فروشگاههای Toyworld¹⁴ در کلِرمونت¹⁵ و فریمنتل¹⁶ است، میگوید فقط وقتی به این نوع محصولات اعتماد میکند که از برندهای معتبر اسباببازی وارد بازار شوند. او میگوید به محصولاتی که از سایتهایی مثل Amazon¹⁷ و Temu¹⁸ میآیند علاقهای ندارد و این پرسش را مطرح میکند که چه کسی تعیین میکند چه اطلاعاتی در این سیستمها قرار میگیرد و چه چیزهایی ذخیره میشود، و اینکه چقدر از خروجیها «واقعیت» است و چقدر «نظر».
طبق گفتههای فینلی، Toyworld¹⁴ هنوز تقاضای جدی برای اسباببازیهای هوش مصنوعی ندیده و فعلاً برنامهای برای عرضه آنها ندارد. او که مادر دو کودک ۴ و ۶ ساله است، میگوید خودش هم با استفاده فرزندانش از این اسباببازیها راحت نیست. به گفته او «از نظر ارزش بازی، چیزی اضافه نمیکنند» و ترجیح میدهد بچهها سؤالهایشان را از والدین بپرسند تا از اسباببازی. او تأکید میکند با استفاده از فناوری در اسباببازی مخالف نیست، اما حاضر نیست به کودکانش «دسترسی بدون وقفه» به چیزی بدهد که با صدای آنها میتواند به جهان دسترسی پیدا کند.
در این مطالعه، پژوهشگران دانشگاه کرتین طی چند ماه با شش مدل مختلف خرس عروسکی و اسباببازیِ هوش مصنوعی تعامل کردند و با شبیهسازی سؤالهایی که ممکن است کودکان بپرسند، تلاش کردند محدودیتها و سازوکارهای ایمنی را بسنجند.
یکی از نگرانیهای اصلی این بوده که ویژگیِ «صدای انسانی» میتواند حس صمیمیتِ ساختگی ایجاد کند. برای نمونه، ChattyBear² هر گفتوگو را با عبارت «hello, my buddy!» شروع میکند و خودش را بهعنوان یک دوست قابل اعتماد معرفی میکند. لیور میگوید این موضوع برای رشد اجتماعیِ کودکان خردسال نگرانکننده است: اگر یک کودک چهار ساله بخش زیادی از تعامل اجتماعیاش را با یک خرسِ هوش مصنوعی بگذراند که طوری طراحی شده همیشه با او موافقت کند و بیش از حد چاپلوس باشد، اینکه «همیشه در دسترس» است و کودک نیازی به تمرین حل تعارض ندارد، چه اثری میگذارد؟ او اضافه میکند برای کودکان خیلی کوچک، مرز بین صحبت با ماشین و صحبت با موجود زنده بسیار سختتر قابل تشخیص است.
طبق این گزارش، بعضی از این اسباببازیها گفتوگوهای طولانی درباره موضوعات مختلف را ممکن میکنند؛ از جمله صحبت درباره اینکه چطور میشود چاقو پیدا کرد یا آتش روشن کرد. لیور میگوید اغلبِ اسباببازیها یک فهرست ابتدایی از کلیدواژهها و موضوعات ممنوع دارند. به گفته او مدلهای گرانتر استانداردهای ایمنی سختگیرانهتری دارند و معمولاً وارد بحث درباره اخبار روز یا سیاست نمیشوند، اما بعضی مدلهای دیگر میتوانند از طریق مدل به اینترنت دسترسی داشته باشند و درباره اتفاقات جاری صحبت کنند. او همچنین میگوید ممکن است سؤالهای مستقیم منحرف شوند، اما شیوهای که یک کودک موضوعی را مطرح میکند همیشه در طراحی محدودیتها بهطور کامل حساب نشده است.
این محصولات بهعنوان گزینهای «آموزشی» تبلیغ میشوند تا کودکان زمان کمتری پای صفحهنمایش باشند. لیور میگوید برخی والدین بدون اطلاع کافی از ریسکها جذب این موج تبلیغاتی میشوند. در این گزارش آمده برآوردهای eSafety¹⁹ نشان میدهد نزدیک به ۸۰ درصد از کودکان ۱۰ تا ۱۷ ساله از یک همراه یا دستیار هوش مصنوعی استفاده کردهاند و پیشبینی میشود بازار اسباببازیهای هوش مصنوعی در استرالیا تا سال ۲۰۳۵ بیش از ۴۰۰ درصد رشد کند.
با این حال، به گفته لیور، خلأهای قانونی در استرالیا باعث شده این اسباببازیها بدون نظارت کافی فروخته شوند. او میگوید جزئیات فنیِ «چطور کودک-ایمن شدهاند» معمولاً فراتر از نوشتههای روی بستهبندی و تبلیغات، بسیار کم است. او همچنین میگوید سیاستهای حریم خصوصی اغلب سختفهم هستند، چون به نظر میرسد نسخهای از دادههای خصوصیِ کودکان نگهداری میشود و حتی ممکن است گفتوگوها برای آموزش مدل زبانی بعدی استفاده شود.
لیور میگوید با وجود برخی مزیتها در وارد شدن این نوع اسباببازیها به زندگی روزمره، «ناشناختگی» پیامدها باید جدی گرفته شود. او تأکید میکند امتحان کردن این اسباببازیها میتواند منطقی باشد، اما «بازیِ بدون نظارت» را توصیه نمیکند. به گفته او یاد گرفتن کارکرد فناوری و هوش مصنوعی مهارت مهمی است، اما مسئله این است که دقیقاً معلوم نیست این اسباببازیها چه خواهند گفت و چه نوع اطلاعاتی ممکن است ارائه بدهند یا ندهند.
پاورقی منابع نامها
¹ Perth
² ChattyBear
³ ChatGPT
⁴ Curtin University
⁵ Australian Research Council Centre of Excellence for the Digital Child
⁶ Australia
⁷ Tama Leaver
⁸ ChattyBear ChatGPT smart learning plushie
⁹ Mattel
¹⁰ Hasbro
¹¹ ZURU
¹² Stephanie Finlay
¹³ Mark
¹⁴ Toyworld
¹⁵ Claremont
¹⁶ Fremantle
¹⁷ Amazon
¹⁸ Temu
¹⁹ eSafety