حذف خودکار ۹۸ درصد محتوای مضر پیش از دیدهشدن
تیکتاک¹ به کمیسیون سلطنتی درباره یهودستیزی و انسجام اجتماعی² اعلام کرد که در سهماهه نخست سال، حدود ۹۸ درصد از محتوای مضر بارگذاریشده در استرالیا³ بهصورت خودکار و قبل از آنکه کاربران آن را ببینند، حذف شده است. این کمیسیون در حال بررسی میزان رواج نفرتپراکنی آنلاین و عملکرد پلتفرمهای بزرگ در مدیریت محتواست.
در این جلسه، زکری هکت⁴، رئیس جهانی سیاستگذاری، اعتماد و ایمنی در تیکتاک، که از ایالات متحده⁵ به استرالیا سفر کرده بود، در برابر کمیسیون حاضر شد. او گفت تمام محتوا هنگام بارگذاری، توسط ابزارهای تعدیلگری خودکار برای تطابق با «راهنماهای انجمن» بررسی میشود و محتوای یهودستیزانه بهطور صریح در دستورالعملهای «ایمنی و مدنیت» این پلتفرم ممنوع است.
به گفته او، تیکتاک برای کاربران مثالهایی از محتوای یهودستیزانه ارائه میکند؛ از جمله انکار هولوکاست⁶، تئوریهای توطئه نفرتانگیز علیه یهودیان، ادعاهای برتریطلبانه و مقصر دانستن یک گروه کامل به خاطر عمل یک فرد از همان گروه. هکت همچنین گفت ابزارهای خودکار برای فیلتر کردن محتوای آسیبزا به کار گرفته میشوند و «بیشتر» حذفها قبل از گزارش کاربران انجام میشود.
هکت که بهصورت داوطلبانه به کمیسیون بیانیه داده بود، گفت: «برای همه راهنماهای انجمن ما در [سهماهه اول] در استرالیا، ۹۸ درصد محتوا را پیشدستانه و قبل از گزارش [کاربر] حذف کردیم.» کمیسیون همچنین شنید که در سال ۲۰۲۵ بیش از ۳۳۶ میلیون ویدئو در تیکتاک منتشر شده و بیش از ۲۷۰ هزار ویدئو بر اساس دستورالعملهای ایمنی و مدنیت از پلتفرم حذف شدهاند.
گزارشها درباره عملکرد پلتفرمها در حذف محتوای نفرتانگیز
در بخش دیگری از جلسه، اشاره شد که اندرو اوبولر⁷ از مؤسسه پیشگیری از نفرت آنلاین⁸ هفته گذشته گفته بود تیکتاک از نظر حذف محتوای مضر پس از گزارش کاربران، نسبت به برخی پلتفرمهای دیگر کارنامه بهتری داشته است. بر اساس تحلیل این مؤسسه، از نمونهای شامل بیش از ۴۰۰ ویدئوی گزارششده به تیکتاک، ۶۴ درصد حذف شدهاند. در همان مقایسه، شرکت متا⁹ ۵۴ درصد از ۹۵۰ پست فیسبوک¹⁰ گزارششده را حذف کرده و ایکس¹¹ ۲۴ درصد از ۱۷۰۰ پست علامتگذاریشده را پاک کرده است.
همزمان یک مدیر متا، ادعاهایی را کماهمیت دانست که میگفت تغییر سیاستهای این شرکت باعث افزایش یهودستیزی شده است.
یک نمونه از اختلافنظر میان تعدیلگر خودکار و بررسی انسانی
کمیسیون یک مورد را هم بررسی کرد که در آن، تعدیلگر هوش مصنوعی یک محتوای یهودستیزانه را ناقض راهنماهای انجمن تشخیص داده و آن را از دید عمومی پنهان کرده بود؛ اما سازنده محتوا اعتراض کرد و یک تعدیلگر انسانی بعد از بررسی، اجازه انتشار آن را داد. سپس این محتوا بعد از جلب توجه بنیاد دور¹² (حامی مقابله با یهودستیزی) برای بازبینی بیشتر ارسال شد و یک بررسی انسانی دیگر هم آن را ناقض دستورالعملها تشخیص نداد.
هکت گفت پس از بالا بردن سطح بررسی، محتوا در نهایت حذف شد و «کاملاً ناقض سیاستهای ماست». او افزود تمرکز تیکتاک این است که «در مقیاس میلیاردها قطعه محتوا» تعدیلگری را درست انجام دهد و این نمونه نشان میدهد گاهی ابزار خودکار ممکن است درست تشخیص دهد، اما قضاوت انسانی میتواند روند را پیچیده کند. او همچنین گفت در چنین مواردی باید مطمئن شد افرادی که این محتوا را بررسی کردهاند، «مداخله هدفمند» دریافت میکنند.
کمیسیون قرار است در ادامه از یوتیوب¹³ نیز توضیح بخواهد؛ پلتفرمی که متعلق به گوگل¹⁴ است. همچنین قرار است رسانههای عمومی استرالیا در روزهای بعد در این روند حضور پیدا کنند و ایبیسی نیوز¹⁵ هم اعلام کرده است به این کمیسیون ارسال/submission ارائه داده است.
پاورقی نامها (اصل انگلیسی):
¹ TikTok
² Royal Commission on Antisemitism and Social Cohesion
³ Australia
⁴ Zachary Hecht
⁵ United States
⁶ Holocaust
⁷ Andre Oboler
⁸ Online Hate Prevention Institute
⁹ Meta
¹⁰ Facebook
¹¹ X
¹² Dor Foundation
¹³ YouTube
¹⁴ Google
¹⁵ ABC News