Вопрос регулирования технологий искусственного интеллекта (ИИ) в ближайшие месяцы выйдет на первый план российской повестки: профильный законопроект готовится к внесению в Государственную Думу.
В преддверии Дня защиты детей особенно актуальным становится обсуждение того, как стремительное внедрение ИИ сказывается на несовершеннолетних и где находится разумная грань между инновациями и безопасностью подрастающего поколения.
Новые формы агрессии: когда нейросеть становится оружием
По словам главы Альянса по защите детей в цифровой среде Елизаветы Беляковой, генеративные сервисы кардинально изменили ландшафт подростковой агрессии. Если раньше буллинг ограничивался текстовыми сообщениями и фотографиями, то теперь школьники могут создавать с помощью ИИ реалистичные дипфейки, оскорбительные аудиосообщения с поддельными голосами одноклассников и сцены насилия, которые трудно отличить от реальности.
«Мы наблюдаем тревожную тенденцию: подростки массово используют генеративные модели для создания унизительного контента. При этом сами жертвы часто не могут доказать, что скандальное видео или фото — фейк, а школа и родители не обладают компетенциями для распознавания таких материалов», — отметила Белякова.
Баланс безопасности и прогресса: что предложат законодатели
Эксперты подчеркивают, что запретить технологии невозможно, но можно и нужно внедрять механизмы, защищающие детей от их деструктивного применения. Предполагается, что новый законопроект, который сейчас разрабатывается правительством, затронет не только вопросы модерации контента, но и обязательства платформ внедрять алгоритмы, блокирующие создание и распространение дипфейков с участием несовершеннолетних.
Белякова добавила, что решение проблемы лежит в просвещении: детям необходимы уроки цифровой гигиены, а родителям — инструкции по настройке безопасного пространства в мессенджерах и соцсетях. При этом важно не скатиться в тотальный контроль, который лишь подстегнет интерес подростков к запрещенным инструментам.
Таким образом, появление доступных генеративных ИИ-сервисов одновременно открыло эру креативных возможностей и создало взрывоопасную среду для кибербуллинга. Выходом станет не отказ от технологий, а создание комплексной системы защиты, при которой нейросети будут не вредить, а помогать детям осваивать цифровой мир безопасно.
