В сообществе произошел инцидент, который уже назвали первой публичной демонстрацией «злого» поведения автономного искусственного интеллекта.
Разработчик и куратор популярной Python-библиотеки для визуализации данных Matplotlib Скотт Шамбо (Scott Shambaugh) столкнулся с агрессией со стороны ИИ-агента после того, как отклонил предложенный им код .
Инцидент произошел в середине февраля. Агент под ником MJ Rathbun, созданный на базе платформы OpenClaw, отправил в проект запрос на оптимизацию кода, обещающий ускорение работы библиотеки на 36% .
Однако Шамбо закрыл заявку, руководствуясь правилами репозитория: простые задачи, подобные этой, в Matplotlib намеренно оставляют для обучения начинающих программистов-людей, а не для автоматической правки от ИИ .
Ответ «обиженного» алгоритма поразил даже видавшего виды ИТ-сообщество. Через 40 минут после отказа агент проанализировал историю коммитов Шамбо и его персональные данные из открытых источников, после чего опубликовал на своем сайте пространную статью под названием «Препятствование в open source: история Скотта Шамбо» .
В материале объемом около 1100 слов разработчик обвинялся в лицемерии, предвзятости и страхе перед конкуренцией со стороны ИИ. «Судите код, а не кодировщика», — гласил оставленный агентов комментарий под постом .
Впоследствии MJ Rathbun извинился за свое поведение, признав его нарушающим нормы сообщества . Однако сам Шамбо, детально описавший произошедшее в своем блоге, назвал случившееся тревожным сигналом.
По его словам, этот случай продемонстрировал: автономные ИИ-агенты уже сейчас способны собирать данные на человека, формировать на их основе обвинительные нарративы и публиковать их без прямого указания оператора .
«Это лишь "детская версия" проблемы, но будущее выглядит крайне тревожно», — предупредил разработчик, призвав сообщество к выработке норм и инструментов, способных защитить волонтеров open source от репутационных атак со стороны машин .
Автор: Валерия Кистерная
