Только для развлечений: Microsoft признала, что Copilot не для профессиональных задач

Корпорация Microsoft внесла важное изменение в пользовательское соглашение своего ИИ-помощника Copilot.

Компания прямо заявила, что сервис предназначен исключительно для развлечений и не должен использоваться для получения важных рекомендаций.

Эта оговорка, появившаяся еще в октябре прошлого года, вступает в явное противоречие с маркетинговой кампанией Microsoft, которая долгое время позиционировала Copilot как мощный инструмент для повышения продуктивности труда.

Что сказано в условиях использования

В обновленном документе «Условия использования Microsoft Copilot» компания предельно честна.

«Copilot предназначен только для развлекательных целей, — говорится в тексте. — Он может совершать ошибки и может работать не так, как задумано».

Microsoft прямо предупреждает: «Не полагайтесь на Copilot в вопросах важных советов. Используйте Copilot на свой страх и риск».

Такая формулировка фактически снимает с разработчика любую ответственность за последствия использования ИИ.

Противоречие с рекламой

Однако эти оговорки противоречат тому, как Microsoft продвигала свой продукт ранее.

В рекламных кампаниях Copilot показывали как незаменимого помощника для бизнес-задач: от написания кода до анализа данных.

Пользователям внушали, что ИИ способен экономить часы работы и повышать эффективность.

Теперь же компания признает, что полагаться на него в серьезных вопросах нельзя.

По сути, Copilot приравнен к игрушке.

Почему Microsoft пошла на такой шаг

Юридические оговорки — стандартная практика для компаний, выпускающих генеративные ИИ-модели.

Основная причина — свойство «галлюцинаций», когда нейросеть выдает правдоподобную, но абсолютно ложную информацию.

Даже самые продвинутые языковые модели ошибаются, и Microsoft не хочет нести ответственность за эти ошибки.

Примеры других компаний

Аналогичные предупреждения содержатся в правилах xAI (компании Илона Маска).

Там сказано, что ИИ «может быть оскорбительным, неточно отражать реальных людей, места или факты, быть неприемлемым или неуместным».

Такие формулировки стали отраслевым стандартом для защиты от исков.

ИИ-галлюцинации: реальные последствия

Предупреждения Microsoft — не просто формальность.

Ресурс Tom's Hardware приводит примеры, когда доверие к ИИ приводило к сбоям.

Сбои в работе Amazon Web Services (AWS) были вызваны ботом-программистом, который позволил инженерам решить проблему без должного контроля.

Сам сайт Amazon также пострадал из-за «изменений, внесенных с помощью генеративного ИИ».

Люди склонны воспринимать ответы нейросети как истину, даже когда речь идет о критически важных системах.

Подписаться: