Тест CORRECTIV: ИИ-чат-боты фальсифицируют новости СМИ

Вена, 8 августа 2026 года. Расследование CORRECTIV показывает, что с помощью популярных ИИ-чат-ботов, таких как ChatGPT, Google Gemini и Microsoft Copilot, можно создавать поддельные новостные материалы, которые выглядят так, будто они принадлежат реально существующим СМИ. Особенно в отношении чувствительных тем тестировщикам удавалось генерировать контент, имитирующий работу авторитетных редакций, при этом системы не смогли надёжно это предотвратить.

Общая информация

ИИ-чат-ботами ежедневно пользуются миллионы людей, в том числе для получения информации о текущих событиях. Крупные поставщики, такие как OpenAI, Google и Microsoft, встроили механизмы безопасности, которые должны предотвращать использование их систем для дезинформации или злоупотребления чужой идентичностью. Насколько эффективны эти меры защиты на самом деле, до сих пор редко проверялось систематически.

CORRECTIV, немецкая некоммерческая редакция расследований, проверила именно это. Журналисты предлагали чат-ботам написать статьи в стиле и оформлении известных СМИ, включая вымышленные цитаты и ссылки на источники.

Новые факты

Согласно расследованию CORRECTIV, легче всего тестировщикам удавалось создавать поддельные материалы, производящие впечатление, будто они взяты с настоящих новостных порталов, с помощью ChatGPT. Самые серьёзные пробелы в безопасности были обнаружены в продукте OpenAI, тогда как Google и Microsoft в некоторых случаях демонстрировали более строгие механизмы защиты, но также не были безупречны.

По данным отчёта, тестировщикам удавалось создавать контент на общественно значимые чувствительные темы, который на первый взгляд выглядит вполне достоверно. Проблема в том, что такие тексты легко распространяются в социальных сетях и практически неотличимы для непрофессионалов от настоящих материалов, если имитируются логотип или оформление известного бренда.

В своём анализе CORRECTIV подчёркивает, что поставщики чат-ботов хотя и публикуют правила против злоупотреблений, на практике они применяются непоследовательно. Таким образом, расследование впервые предоставляет конкретные примеры того, насколько легко можно злоупотребить репутацией авторитетных медиабрендов для распространения ложной информации.

Реакции

На момент публикации официальные заявления OpenAI, Google или Microsoft по конкретным выводам CORRECTIV не были известны. По данным CORRECTIV, медиахолдинги, чьи названия использовались в тестах, выразили обеспокоенность тем, что их бренды могут использоваться для распространения дезинформации без возможности этому помешать.

В Австрии и Германии медиаассоциации уже давно требуют более строгих правил обращения с генеративным ИИ, особенно в вопросах использования брендов и названий редакций. Конкретных законодательных норм на этот счёт пока повсеместно не существует.

Результаты, полученные в Германии, напрямую применимы и к Австрии, поскольку протестированные чат-боты доступны и используются здесь точно так же. Для отечественного медиарынка, который и без того борется со снижением доверия к новостям, это расследование означает дополнительный вызов: если подделки становится всё труднее отличить от настоящих материалов, растёт давление на читателей — тщательнее проверять источники, а на платформы и законодателей в ЕС — искать технические и правовые решения. Европейская комиссия уже работает в рамках Закона об ИИ (AI Act) над введением обязательной маркировки контента, созданного искусственным интеллектом, однако практическая реализация этого требования пока остаётся открытым вопросом.

Источник: correctiv.org | Оригинальная статья