Google оказалась в центре скандала после того, как журналисты выяснили, что компания скрывает от пользователей предупреждения о возможных рисках при использовании ИИ для получения медицинских рекомендаций.
Дисклеймер с призывом обратиться к врачу найти в выдаче практически невозможно.
В компании, как пишет The Guardian, утверждают, что их система всегда советует людям обращаться за профессиональной помощью, когда речь заходит о здоровье.
На деле предупреждение не показывается в основном ответе и появляется только после дополнительного клика. Текст напечатан мелким бледным шрифтом в самом низу страницы под всеми советами нейросети.
В самом предупреждении сказано, что информация дается только для ознакомления, а диагноз может поставить только специалист. Там же признается, что ответы ИИ способны содержать ошибки.
В Google не отрицают, что предупреждение спрятано и плохо читается. Представители корпорации лишь пояснили, что их обзоры часто упоминают о необходимости визита к врачу прямо в тексте ответа.
Эксперты по искусственному интеллекту бьют тревогу. Исследователь из Массачусетского технологического института предупреждает, что даже самые современные модели продолжают выдавать ложную информацию. В в вопросах медицины это может быть смертельно опасно.
Проблема усугубляется тем, что ИИ настроен на скорость, а не на достоверность. К тому же люди часто задают неправильные вопросы, неверно описывают симптомы или скрывают важные детали своего состояния.
Нейросеть выдает ответ исходя из тех данных, которые получила, даже если они неполные или ошибочные.
Ранее Google уже приходилось удалять некоторые опасные рекомендации. ИИ советовал неправильное лечение онкологическим больным и давал ложную информацию о критических анализах крови.
Защитники прав пациентов призывают компанию направлять людей к проверенным медицинским источникам, а не полагаться на сомнительные советы алгоритмов.
Автор: Виталий Кистерный
