هشدار کارشناسان درباره توصیه‌های پزشکی اشتباه هوش مصنوعی گوگل

خطرات خلاصه‌های هوش مصنوعی گوگل در حوزه سلامت

تحقیق گاردین² که در تاریخ سوم ژانویه ۲۰۲۶ منتشر شد، نشان می‌دهد ابزار «AI Overviews» شرکت گوگل¹—خلاصه‌های خودکار در بالای نتایج جست‌وجوی گوگل—اطلاعات پزشکی نادرست و گمراه‌کننده‌ای ارائه می‌دهد که می‌تواند بیماران را به خطر بیندازد.

نمونه‌های شاخص مشاوره غلط

رژیم غذایی سرطان پانکراس: این ابزار توصیه کرده از غذاهای پرچرب پرهیز شود، در حالی که انجمن سرطان پانکراس بریتانیا³ تأکید دارد بیماران برای تحمل شیمی‌درمانی به کالری و چربی بالا نیاز دارند.

آزمایش‌های عملکرد کبد: محدوده‌های طبیعی بدون در نظر گرفتن سن، جنسیت یا قومیت نشان داده شده است. مدیرعامل British Liver Trust۴ این اعداد را «نگران‌کننده» خوانده است زیرا ممکن است بیماران را از پیگیری درمان باز دارد.

آزمون‌های تشخیص سرطان واژن: AI Overviews به اشتباه تست‌ پاپ را روش تشخیص ذکر کرده که مدیرعامل Eve Appeal۵ آن را کاملاً غلط دانسته و هشدار داده زنان پس از پاسخ منفی ممکن است علائم را نادیده بگیرند.

سلامت روان: توضیحات درباره روان‌پریشی و اختلالات خوردن «بسیار خطرناک» توصیف شده‌اند چون جزئیات لازم و ترغیب به کمک‌گرفتن حذف شده است.

واکنش گوگل و بستر کلی

گوگل¹ می‌گوید اکثر خلاصه‌ها دقیق هستند و شباهت به «Featured Snippets» قدیمی دارد. این شرکت بسیاری از مثال‌های منتشرشده را «تصاویر ناقص» خوانده و می‌گوید لینک‌های معتبر وجود دارد و کاربران باید از متخصصان مشورت بگیرند. هم‌زمان Slashdot۷ و Paubox۸ درباره بی‌قانونی AI در مراقبت‌های سلامت و خطر هالوسینیشن و نقض حریم خصوصی هشدار داده‌اند.