Медичні поради від ШІ у пошуку Google – чому це не безпечно
Після розслідування, опублікованого минулого місяця виданням The Guardian, компанія Google видалила з результатів пошуку частину медичних оглядів, створених штучним інтелектом. Раніше ці матеріали містили потенційно небезпечну та оманливу інформацію щодо результатів аналізів.
Водночас нове розслідування The Guardian виявило іншу проблему: компанія зменшує помітність застережень про медичні поради, згенеровані ШІ, що може наражати користувачів на ризик.
Попередження з’являється лише після натискання кнопки «Показати більше» під коротким зведенням. Навіть після цього воно розміщується внизу сторінки дрібнішим і світлішим шрифтом. У тексті зазначено, що інформація надається лише для довідки, а для отримання консультації чи встановлення діагнозу слід звернутися до фахівця. Також вказано, що відповіді ШІ можуть містити помилки.
У компанії заявили, що огляди ШІ «заохочують людей звертатися за професійною медичною допомогою» та згадують про це в тексті «коли це доречно». При цьому в Google не заперечили, що під час першого відображення медичної поради окреме застереження не демонструється.
Експерти з етики штучного інтелекту та представники пацієнтських організацій висловили занепокоєння. Вони наголошують, що попередження мають бути помітними одразу, з огляду на чутливість теми охорони здоров’я.
Дослідник Массачусетський технологічний інститут Пет Патаранутапорн зазначив, що відсутність застережень під час першого надання медичної інформації створює кілька критичних ризиків. За його словами, навіть найсучасніші моделі штучного інтелекту здатні генерувати дезінформацію або формулювати відповіді, орієнтовані на задоволення користувача, а не на точність. Він додав, що застереження є важливим елементом, який перериває автоматичну довіру та спонукає користувачів критично оцінювати отриману інформацію.
Професорка Лондонський університет королеви Марії Джина Нефф заявила, що проблема з недосконалими оглядами ШІ закладена в їхньому підході. За її словами, такі огляди розробляються з акцентом на швидкість, а не точність, що може бути небезпечним у сфері медичної інформації.
Соналі Шарма з Центру штучного інтелекту в медицині та візуалізації Стенфордський університет звернула увагу на те, що огляди розміщуються у верхній частині сторінки. Це створює відчуття завершеної відповіді та може зменшувати мотивацію користувачів шукати додаткові джерела або переглядати застереження.
Том Бішоп із благодійної організації Anthony Nolan наголосив, що дезінформація є реальною проблемою, а в питаннях здоров’я вона може бути особливо небезпечною. За його словами, попередження повинно розміщуватися у верхній частині сторінки та бути надрукованим таким самим шрифтом, як і основний текст.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
