مسدودسازی سرویسهای Nudify در استرالیا
سه پلتفرم اصلی «Nudify»⁴ که تصاویر برهنه جعلی از افراد واقعی تولید میکردند، پس از اقدام اجرایی کمیسیون eSafety¹ علیه انتشار محتوای سوءاستفاده جنسی از کودکان، در استرالیا مسدود شدند.
اقدام نظارتی
شرکتی مستقر در بریتانیا پس از دریافت هشدار رسمی از کمیسیون eSafety¹ در سپتامبر ۲۰۲۵، دسترسی کاربران استرالیایی به این پلتفرمها را مسدود کرد. کمیسیون اعلام کرد که این خدمات با کدها و استانداردهای اجباری استرالیا مبنی بر اقدامات مؤثر برای مقابله با سوءاستفاده جنسی از کودکان مخالفت کردهاند.
وسعت مشکل در مدارس استرالیا
این سرویسها ماهانه حدود ۱۰۰,۰۰۰ بازدید از استرالیا دریافت میکردند و در چندین پرونده شناختهشده در مدارس مرتبط بودند که در آن دانشآموزان تصاویر برهنه ساختگی از همکلاسیهای خود را ایجاد کرده بودند. فرمانده نظارتی جولی اینمن گرانت² معتقد است مسدودسازی این پلتفرمها تأثیر ملموسی بر کاهش قربانی شدن کودکان مدرسهای در استرالیا خواهد داشت.
افزایش سوءاستفاده با فناوری دیپفیک
گزارشها نشان میدهند که موارد سوءاستفاده مبتنی بر تصاویر دیپفیک در ۱۸ ماه گذشته دو برابر شده است. به گفته جولی اینمن گرانت²، بیشتر این موارد توسط پسران نوجوان انجام میشود که عکسهای همکلاسیهای دختر خود را از شبکههای اجتماعی برداشته و محتوای جنسی تولید میکنند.
تلاشهای نظارتی گستردهتر
علاوه بر مسدودسازی پلتفرم اصلی Nudify⁴، کمیسیون eSafety¹ در حال هدفگیری پلتفرمهای میزبانی مدلهای هوش مصنوعی مانند هگینگ فیس³ است. هگینگ فیس³ شرایط استفاده خود را تغییر داده و حسابها موظف به جلوگیری از استفاده ابزارها برای تولید محتوای سوءاستفاده جنسی از کودکان یا مطالب تروریستی شدهاند. در صورت قصور، ممکن است تا ۴۹.۵ میلیون دلار جریمه شوند.
نیاز به تغییر فرهنگی
جولی اینمن گرانت² تأکید کرد که اقدامات نظارتی به تنهایی کافی نیست و باید آموزشهای consent و روابط محترمانه در مدارس گسترش یابد تا جوانان درک کنند آسیبهای دیجیتال نیز واقعی و طولانیمدت هستند. کمیسیون eSafety¹ با دولت برای محدودیتهای بیشتر و ارائه منابع به والدین و نوجوانان برای پیشگیری از «تسلیح» تصاویر در حال همکاری است.
1eSafety Commission, 2Julie Inman Grant, 3Hugging Face, 4Nudify
Source: abc.net.au, sbs.com.au, inkl.com