Обзоры Google на основе ИИ распространяют опасные советы о здоровье — расследование
Расследование британского издания The Guardian выявило, что ответы Google, созданные с помощью искусственного интеллекта, в ряде случаев содержат ложную или вводящую в заблуждение информацию о здоровье и могут подвергать людей риску.
В чем проблема
Google отмечает, что его обзоры на основе ИИ (AI Overviews) помогают пользователям быстро получать ключевую информацию по запросу и являются «полезными и надежными». В то же время расследование показало: некоторые такие сводки, которые отображаются в самом верху поисковой выдачи, содержат серьезные ошибки, в частности в темах, связанных со здоровьем.
Опасные примеры
Рак поджелудочной железы. В одном из случаев ИИ посоветовал людям с этим диагнозом избегать жирной пищи. Медицинские эксперты назвали такую рекомендацию «действительно опасной», поскольку она прямо противоположна тому, что обычно советуют пациентам, и может ухудшить их состояние.
Обследование печени. По запросу о «нормальных показателях анализов крови» ИИ выдавал набор чисел без пояснений и без учета возраста, пола или других важных факторов. Это может создать ложное впечатление, что человек здоров, даже при наличии серьезного заболевания.
Онкологические тесты для женщин. Поиск информации о раке влагалища приводил к утверждению, что ПАП-тест используется для его выявления. По словам экспертов, это полностью неверная информация и она может привести к игнорированию реальных симптомов.
Психическое здоровье. В сводках о психозе и расстройствах пищевого поведения встречались советы, которые профильные организации назвали «очень опасными» или такими, что могут оттолкнуть людей от обращения за помощью.
Что говорят специалисты
Представители медицинских и пациентских организаций подчеркивают: люди часто обращаются к поиску в моменты тревоги или кризиса. В таком контексте ошибочная или неполная информация, поданная как готовый ответ, может иметь серьезные последствия.
Отдельное беспокойство вызывает и то, что одинаковые запросы иногда дают разные ответы ИИ — в зависимости от времени поиска и источников, которые использует система.
Позиция Google
В Google ответили, что большинство обзоров на основе ИИ являются точными и полезными, а уровень их достоверности сопоставим с другими форматами поисковых сводок. Компания также заявила, что постоянно работает над повышением качества, особенно в темах, связанных со здоровьем, и принимает меры, если ИИ неправильно интерпретирует информацию или теряет контекст.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
