Google убирает ИИ-материалы по медицине: алгоритмы давали опасные советы
Компания Google начала массово удалять медицинские материалы, созданные искусственным интеллектом, после громкого расследования британского издания The Guardian. Оказалось, что такие обзоры содержат не просто неточности, а прямые рекомендации, способные навредить здоровью — и даже угрожать жизни.
В одном из материалов ИИ посоветовал пациентам с раком поджелудочной железы избегать жирной пищи. Звучит логично? На самом деле — это опасная ошибка. Онкологи подчеркивают: при этом диагнозе как раз рекомендуется высококалорийное питание с достаточным количеством жиров, чтобы поддерживать вес и силы организма. Неправильный совет мог привести к истощению и ухудшению прогноза.
Ещё один тревожный случай — ложная информация о печеночных пробах. ИИ-обзор утверждал, что определённые показатели в норме, хотя на деле они указывали на тяжёлое поражение печени. Такой материал мог ввести человека в заблуждение, заставить отложить визит к врачу и пропустить критический момент болезни.
Эти примеры показали: в медицине даже малейшая ошибка ИИ может иметь реальные, трагические последствия. Поэтому Google принял решение — удалять все подозрительные автоматически сгенерированные обзоры, особенно в сфере здравоохранения.
Эксперты уже давно предупреждают: доверять алгоритмам в вопросах здоровья — крайне рискованно. В отличие от человека, ИИ не понимает контекста, не различает тонкости диагнозов и не несёт ответственности за последствия. Он просто «собирает» текст из данных, не задумываясь, кому и как это может навредить.
Теперь перед Google стоит сложная задача: не просто убрать ошибочные материалы, но и перестроить всю систему проверки медицинского контента. Ведь пользователи по-прежнему ищут симптомы, диагнозы и советы в поисковике — и имеют право получать точную, безопасную и проверенную информацию.
Этот случай стал напоминанием всему цифровому миру: когда речь идёт о здоровье, автоматизация должна уступать место человеческой экспертизе. Потому что в медицине нет места «почти правильно» — есть только «верно» или «опасно».
