Первый зампред Комитета Госдумы по информационной политике, информационным технологиям и связи Антон Горелкин выразил обеспокоенность тем, что рынок ИИ-ассистентов может столкнуться с серьезным кризисом доверия.
Причиной этому служит растущая практика намеренного создания контента, влияющего на выдачу нейросетей.
Соответствующее мнение парламентарий опубликовал в своем канале 11 июня.
Как слоптимизация меняет выдачу нейросетей
Горелкин пояснил, что данный термин обозначает создание специальных материалов, которые меняют ответы искусственного интеллекта.
Если раньше SEO-оптимизаторы забивали интернет ссылками, чтобы изменить выдачу поисковиков, сегодня они скармливают нейросетям специально сгенерированные тексты и точечно меняют их мнение по нужной теме, — написал депутат.
В качестве примера он привел инцидент с платформой Shopify (разработчик ПО для онлайн-торговли. — Прим. ред.), которая активно использует ChatGPT. Сотрудники компании заметили, что нейросеть при ответах опирается на данные с их сайта.
Специалисты решили подмешать туда немного саморекламы, разместив целую серию рейтингов платформ для электронной коммерции (и, разумеется, поставив в каждом из них на первое место себя любимых, — отметил Горелкин.
Необходимость борьбы с манипуляциями
По мнению депутата, пользователи ожидают от нейросетей объективности и честности, поскольку «люди, как правило, не любят, когда им нагло врут». Он подчеркнул, что массовое распространение слоптимизации способно подорвать веру в беспристрастность технологий.
Первый замглавы IT-комитета заявил, что владельцам языковых моделей необходимо срочно искать способы противодействия подобным манипуляциям.
Для решения проблемы на техническом уровне он предложил внедрять специальные метрики качества контента и многослойные механизмы верификации. Альтернативным вариантом, по мнению Горелкина, может стать обращение к законодателям с целью введения ответственности за попытки манипуляции ИИ-ассистентами.
