Zang News

هشدار درباره اینفلوئنسرهای جعلی AI؛ ستاره آشپزی اینستاگرام واقعی نیست

کارشناسان امنیت سایبری در استرالیا درباره افزایش کلاهبرداری با استفاده از شخصیت‌های ساختگی هوش مصنوعی در شبکه‌های اجتماعی هشدار دادند. یکی از این حساب‌ها متعلق به شخصیتی به نام «کای بردلی» است که با انتشار ویدئوهای آشپزی، تغذیه سالم و تناسب اندام، بیش از ۴۰۰ هزار دنبال‌کننده در اینستاگرام جذب... (برای ادامه اسکرول کنید)
هشدار درباره اینفلوئنسرهای جعلی AI؛ ستاره آشپزی اینستاگرام واقعی نیست

اینفلوئنسر فیتنس با ۴۰۰ هزار دنبال‌کننده؛ اما واقعی نیست

کای بردلی¹ در نگاه اول شبیه یک چهره محبوب فیتنس است که دستور غذا و نکات سلامتی منتشر می‌کند. او در اینستاگرام² بیش از ۴۰۰ هزار دنبال‌کننده دارد و در ویدیوهایش از مخاطبان می‌خواهد برای دریافت یک کتاب آشپزی ۶۷ صفحه‌ای کامنت بگذارند. اما بردلی یک انسان واقعی نیست؛ او یک شخصیت ساخته‌شده با هوش مصنوعی است و دست‌کم یک خریدار می‌گوید پس از پرداخت پول برای کتاب آشپزی دیجیتال، آن را دریافت نکرده است.

استف³ که به news.com.au⁴ گفته بود ۲۷ دلار پرداخت کرده، می‌گوید آن اکانت «آن‌قدر واقعی به نظر می‌رسید» که متوجه مصنوعی بودنش نشده بود. او توضیح داده تصور می‌کرد بردلی فقط فردی سالم با ایده‌های کاربردی غذایی است و بعد از اینکه فهمیده پروفایل با هوش مصنوعی ساخته شده، احساس کرده فریب خورده است.

محتوای آشنا، ادعاهای نامطمئن

این ماجرا یک نگرانی بزرگ‌تر را مطرح می‌کند: شخصیت‌های مصنوعی فقط برای جلب توجه به کار نمی‌روند؛ آن‌ها می‌توانند مخاطب جمع کنند، اعتماد بسازند و بعد دنبال‌کننده‌ها را به سمت خرید محصولات پولی هدایت کنند. news.com.au⁴ گزارش داده ده‌ها شخصیت هوش مصنوعی را شناسایی کرده که با متن‌ها و سناریوهای مشابه، محصولاتی مثل مکمل‌ها و راهنماهای سلامتی را تبلیغ می‌کنند.

به گفته گزارش، بعضی دنبال‌کننده‌ها پرسیده‌اند آیا دستورهایی که در ویدیوهای بردلی نشان داده می‌شود با محتوای کتاب آشپزی یکسان است یا نه. برخی دیگر هم در کامنت‌ها نوشته‌اند دستورهایی که امتحان کرده‌اند «آن‌طور که وعده داده شده» جواب نداده است. این کامنت‌ها به‌تنهایی ثابت نمی‌کند همه ادعاهای مربوط به محصول غلط است، اما نشان می‌دهد وقتی یک تبلیغ براق در شبکه‌های اجتماعی مستقیم به پرداخت پول ختم می‌شود، احتیاط لازم است.

هوش مصنوعی بودن پنهان نیست، اما ممکن است دیده نشود

طبق گزارش، ماهیت مصنوعی این اکانت کاملاً پنهان نشده است: اینستاگرام² آن را به‌عنوان پروفایل تولیدشده با هوش مصنوعی برچسب‌گذاری کرده و پست‌ها هم تگ «محتوای AI» دارند. با این حال، همه کاربران نمی‌دانند این برچسب‌ها را کجا باید پیدا کنند. news.com.au⁴ همچنین نوشته جست‌وجو برای چهره بردلی، نتایج مشابه زیادی نشان می‌دهد و به یک هویت روشن در دنیای واقعی منتهی نمی‌شود.

یک مدل فروش تکرارشونده

در گزارش، از یک الگو صحبت می‌شود: ساخت شخصیت‌های AI برای گروه‌های مختلف مخاطب و استفاده دوباره از آن‌ها در چندین اکانت، با ویدیوها و متن‌های شبیه به هم برای فروش محصولات حوزه سلامت و تندرستی. دین ویلیامز⁵ از شرکت نورتون⁶ گفته هوش مصنوعی قانع‌کننده، «مهندسی اجتماعی» را تغییر داده و ساخت روایت، جذب مخاطب، ایجاد اعتماد و سپس تشویق به خرید را آسان‌تر کرده است.

این روند اهمیت دارد چون یک چهره خیالی با تکرار دیده‌شدن می‌تواند حس آشنایی ایجاد کند و لحن مطمئن همراه با تعداد بالای دنبال‌کننده‌ها ممکن است محصول را معتبر جلوه دهد. با این حال، تعداد زیاد مخاطب یا ویدیوی جذاب به‌تنهایی ثابت نمی‌کند فروشنده معتبر است یا محصول واقعاً توسط همان فرد تبلیغ‌کننده آزمایش شده است.

راه‌های محافظت از خود هنگام خرید

گزارش توصیه می‌کند قبل از خرید از اکانت‌های اینفلوئنسری، دنبال اطلاعات روشن فروشنده، بررسی‌های مستقل و راه ارتباطی قابل اتکا با کسب‌وکار باشید. اطلاعات اکانت در پلتفرم و برچسب‌های مربوط به AI را چک کنید و نسبت به پیشنهادهایی که روی عجله، وعده‌های مبهم یا پرداخت از طریق وب‌سایت‌های ناآشنا حساب می‌کنند، محتاط باشید.

اگر پول پرداخت کردید و محصول نرسید، اسکرین‌شات‌ها، رسیدها و پیام‌ها را نگه دارید و با ارائه‌دهنده روش پرداخت تماس بگیرید. news.com.au⁴ همچنین نوشته افرادی که فکر می‌کنند هدف کلاهبرداری آنلاین قرار گرفته‌اند، می‌توانند موضوع را به اسکم‌واچ⁷ گزارش کنند.

در نهایت، محتوای تولیدشده با هوش مصنوعی می‌تواند شفاف و با اعلام قبلی استفاده شود؛ اما ریسک وقتی بالا می‌رود که یک شخصیت خیالی طوری نمایش داده شود که انگار تجربه واقعی دارد و از همان «حس اصالت» برای فروش محصول استفاده شود.

پاورقی

¹ Kai Bradley
² Instagram
³ Steph
⁴ news.com.au
⁵ Dean Williams
⁶ Norton
⁷ Scamwatch

Source: news.com.au, instagram.com, norton.com, scamwatch.gov.au

Share: