Компания Google начала удалять медицинские обзоры, сгенерированные искусственным интеллектом после расследования The Guardian.
Журналисты выявили, что в этих материалах содержится ложная и потенциально опасная для здоровья пользователей информация.
Расследование британского издания The Guardian показало конкретные случаи вредных рекомендаций.
В одном из обзоров ИИ советовал больным раком поджелудочной железы избегать продуктов с высоким содержанием жиров.
Эксперты в области онкологии заявили, что эта рекомендация прямо противоположна действительным медицинским советам. Подобные ошибки искусственного интеллекта могут увеличивать риск смертности среди пациентов.
Другим опасным примером стала ложная информация о ключевых печеночных пробах. ИИ-обзор мог ввести в заблуждение людей с серьезными заболеваниями печени, заставляя их ошибочно полагать, что они здоровы.
Эти случаи заставили Google принять меры и начать удаление проблемных материалов. Компания столкнулась с серьезным вызовом, связанным с доверием к автоматизированному контенту в чувствительной сфере медицины.
Эксперты по цифровой безопасности и медицинские специалисты бьют тревогу. Они указывают на необходимость строгого контроля за работой алгоритмов в области здоровья, где ошибки имеют прямые последствия для жизни людей.
Данный инцидент ставит под вопрос надежность ИИ-технологий при работе с критически важной информацией. Проблема выходит за рамки одного сервиса, затрагивая всю индустрию автоматизации контента.
Теперь перед Google стоит задача не только исправить текущие ошибки, но и пересмотреть систему проверки медицинских обзоров.
Автор: Елена Гутыро
