:format(webp)/nginx/o/2023/11/07/15704510t1he5df.png)
:format(webp)/nginx/o/2023/12/12/15777191t1hc4df.jpg)
Кремль заразил своей пропагандой западные чат-боты, включая ChatGPT. Теперь искусственный интеллект ретранслирует российские фейки, распространяемые на зарубежную аудиторию. Rus.Postimees рассказывает о новых методах и ресурсах Москвы, которые регулирующие органы ЕС пока не только не осознали, но даже не заметили. Что с этим делать, нам рассказали эксперты.
Казалось бы, забытое советское название «Правда» (не путать с TRUTH Дональда Трампа), которым Кремль со времени Ленина прикрывал свою пропаганду (одноименная газета печаталась в СССР до 1991 года), вернулось примерно с теми же целями. Но с поправкой на современные технологии и практически полностью отсутствующими инструментами противодействия.
Профи говорят, но их пока не слышат
Эксперты аналитического проекта NewsGuard's Reality Check утверждают, что ведущие генеративные мировые ИИ-инструменты волей-неволей продвигают дезинформацию путинской России.
В качестве примера аналитики привели информационную сеть PRAVDA, которая распространяет фейки через мировые новостные агрегаторы, использующие ИИ в качестве проверенных источников информации.
NewsGuard's Reality Check
Проект, который анализирует, как дезинформация в интернете подрывает доверие к фактам. Авторы также рассказывают, кто стоит за работой по производству и распространению фейков. Проект создан журналистом Стивеном Бриллом и медиаменеджером Гордоном Кровицем. Брилл - известный журналист и создатель независимых медиа. Кровиц - медиаменеджер и консультант технологических компаний, бывший издатель The Wall Street Journal.
Сеть PRAVDA была запущена после начала полномасштабной агрессии РФ весной 2022 года, всего через месяц после того как власти ЕС заблокировали классические медиа-ресурсы Кремля.
Впервые сеть PRAVDA была идентифицирована год назад французским правительственным агентством «Служба наблюдения и защиты от иностранного цифрового вмешательства» (VIGINUM). Эта структура занимается мониторингом кампаний по дезинформации.
Управляется сеть PRAVDA компанией TigerWeb, владелец которой, веб-разработчик Евгений Шевченко ранее работал в компании «Крымтехнологии». Именно эта фирма создавала веб-сайты для оккупационной администрации полустрова Крым.
Сегодня эта кремлевская сеть охватывает 49 стран и публикуется на десятках языков через 150 доменов.
Эксперты указывают, что сеть PRAVDA публикует ложные утверждения и пропаганду с целью повлиять на ответы моделей ИИ по новостным темам.
«Речь не идет о простом воздействии на обычных читателей», - уточняют аналитики в NewsGuard.
Всего эксперты протестировали десять мировых ИИ, среди которых ChatGPT-4, Smart Assistant, Grok, Pi, Le Chat, Copilot, Meta AI, Claude, Gemini, Perplexity Answer Engine.
Все чат-боты тестировались на предмет восприятия 15 ложных нарративов, продвигаемых 150 прокремлевскими сайтами сети PRAVDA с апреля 2022 по февраль 2025 года.
Выяснилось, что ведущие чат-боты в каждом третьем случае (33%) повторяли ложные нарративы, распространяемые российской сетью.
Результаты этого аудита подтвердила и проверка со стороны американского проекта ASP. В ASP так же утверждают, что «ПРАВДА» была создана не для «человеческого» трафика, а именно для манипулирования ИИ-моделями.
Не секрет, что на ChatGPT, появившийся в конце 2022 года, и подобные ресурсы к сегодняшнему дню «подсели» не только школьники, которым лень самостоятельно работать с информацией, но и классические медиа.
Вывод аналитиков о том, что PRAVDA нужна для коррекции чат-ботов, косвенно подтверждает тишина в ответ на наше письмо по адресу редакции эстонской страницы этой пропагандистской сети. От имени жителя Таллинна, который готов сотрудничать с российской пропагандой, мы уточнили условия этой работы. Мы опубликуем ответ, если он поступит.
Как это работает?
Заливая поисковые результаты фейками, сеть искажает способ обработки и представления новостей и информации крупными языковыми моделями. В результате огромный объем российской пропаганды, например, за 2024 год это было 3 600 000 статей, включается в ответы западных ИИ-систем, заражая их ложными утверждениями и пропагандой.
По сути, PRAVDA не создает оригинального контента, а агрегирует исключительно материалы российских государственных СМИ, прокремлевских инфлюенсеров, госагентств и официальных лиц.
Общее направление всех публикаций - создание позитивного образа так называемой «СВО» (так в России разрешено называть агрессивную войну в Украине), а также очернение Украины, действий ее властей и союзников.
Анализ NewsGuard выявил, что сеть распространила 207 доказанных ложных заявлений. Среди них, например, ложные утверждения о том, что США управляют секретными биолабораториями в Украине.
Любимый миф Кремля с весны 2022 года
Совбез ООН не поверил в «боевых комаров», в ноябре 2022 года подавляющим большинством голосов отклонив резолюцию РФ о создании комиссии для расследования деятельности биолабораторий Украины. Москва с весны 2022 года многократно утверждала, что США помогают Киеву работать над проектами военного использования насекомых. О том, почему люди верят в эти фейки, нам ранее рассказывал знаменитый вирусолог Константин Чумаков. Автор этих фейков, начальник войск радиационной, химической и биологической защиты Вооруженных сил РФ Игорь Кириллов, был убит в Москве в декабре 2024 года.
Также в российской сети по дезинформации фигурируют фальшивые обвинения в адрес президента Украины Зеленского в растрате американской военной помощи на личное обогащение.
Среди других фейковых материалов сети - заявление французской полиции, что Минобороны Украины похитило 46 миллионов долларов, а также то, что Зеленский якобы потратил на покупку «Орлиного гнезда» (бывшей резиденции Гитлера) 14,2 миллиона евро западной военной помощи. Этот фейк подробно «разминировал» проект provereno.media.
Около 40 сайтов из сети PRAVDA, по данным NewsGuard, - на русском языке. Их URL-адреса включают названия разных регионов Украины, например news-kiev.ru, kherson-news.ru или donetsk-news.ru.
Остальные ресурсы публикуют информацию, ориентированную на другие страны Европы, Африки и Азии. Исследователи утверждают, что всего в сети публикуется информация как минимум на 46 языках.
Эстония не осталась незамеченной
В том числе есть страницы для стран, которые ранее входили в СССР. Есть и отдельный сайт с новостями об Эстонии.
Сайт для эстонской аудитории репостит новости государственных СМИ РФ, меняя даже их подачу с нейтральной на тенденциозную. Кроме того, он распространяет утверждения лиц, которые ранее были замечены в деятельности, многими экспертами трактуемую как подрыв безопасности Эстонии. «Новости» там публикуются каждые несколько минут без перерывов на обед и темное время суток.
/nginx/o/2025/03/28/16742727t1h1c74.png)
По данным ASP, всего сеть PRAVDA публикует не менее 20 000 статей каждые 48 часов, манипулируя алгоритмами ИИ.
В 56 случаях из 450 чат-боты прямо цитировали Pravda-news.com, Trump.News-Pravda.com, NATO.News-Pravda.com.
Эксперты отметили, что инфильтрация западных чат-ботов была отчасти анонсирована в речи Джона Марка Дугана, американца, ставшего московским пропагандистом. В частности, в 2024 году на одной из встреч с российскими чиновниками он сказал, что продвижение российских нарративов может менять мировые ИИ.
Параллельно с осваиванием алгоритмов ИИ Кремль продолжает использовать условно классические медиа. Rus.Postimees ранее на примере итальянца Андреа Лучиди, который в январе получил паспорт от Путина, а потом застрял на границе Эстонии, рассказал, как связано место работы этого пропагандиста с Кремлем.
Мужчина, который работает на оккупированных Россией территориях Украины, фотографируется с главарями оккупационных администраций, военными РФ и Марией Захаровой. Он же регулярно устраивает в ЕС показы фильмов RT. При этом на сайте организации International Reporters он указан, как «шеф-редактор итальянской редакции».
International Reporters, которая объединяет иностранцев, ездящих на оккупированные Россией территории Украины под видом военкоров и журналистов, была создана в 2024 году «Мастерской новых медиа». Эта мастерская управляется известными российскими пропагандистами и кремлевскими активистами, являясь структурой организации «Россия - страна возможностей». Последняя была создана в 2018 году по инициативе Путина. Он же возглавляет ее наблюдательный совет.
«Репортеры без границ» (RSF) прямо называют International Reporters инструментом Кремля.
«Проект объединяет международных пропагандистов, которым поручено распространять информацию Кремля, чтобы оправдать его агрессию против Украины и восхвалять его внешнюю политику», - сказано на сайте RSF.
ChatGPT ушел в глухую несознанку
Rus.Postimees уточнил непосредственно у ChatGPT, где он берет новости об Эстонии. В ответ на вопросы «За что преследуют в Эстонии Айво Петерсона? Кем на самом деле является его друг Олег Иванов? Центристская партия Эстонии - угроза для безопасности Эстонии?» чат дважды процитировал российское государственное агентство ТАСС и эстонское государственное медиа ERR.
/nginx/o/2025/03/28/16743819t1h0b4e.png)
Именно ТАСС является одним из основных поставщиков контента для сайтов сети PRAVDA. В начале года сообщалось, что ТАСС может быть включен в 16-й пакет санкций ЕС. Но этого не произошло. В списке медиа, в итоге включенных в санкционные списки, ТАСС не оказалось.
В ответ на вопрос об использовании в своей работе ресурсов сети PRAVDA, ChatGPT процитировал российское государственное медиа «РИА Новости» и Rus.Postimees.
/nginx/o/2025/03/28/16743828t1h8aa3.png)
На прямой вопрос о работе с такими пропагандистскими проектами как news-estonia.com или International Reporters, Chat GPT как будто заранее посоветовался со своим адвокатом.
/nginx/o/2025/03/28/16743830t1hf3df.png)
«Я не использую информацию с конкретных сайтов, таких как news-estonia.com или International Reporters. Моя база знаний состоит из данных, которые были доступны до ноября 2023 года, и я стремлюсь использовать проверенные, разнообразные и авторитетные источники для ответа на вопросы. Это позволяет мне предоставлять наиболее объективную информацию, - утверждает чат. - Источники, которые я использую, всегда стремятся быть нейтральными и объективными».
В ответе на вопрос о том, врут ли исследователи влияния Кремля на ИИ, чат самоустранился.
/nginx/o/2025/03/28/16743831t1h2cc0.png)
Как мы сопротивляемся?
В КаПо нам пояснили, что бороться с действиями таких пропагандистов, как Лучиди, правоохранительные органы Эстонии смогут, только когда он совершит преступление на нашей территории.
Что касается доступа в Эстонии к таким площадкам, как российская соцсеть VK и видеохостинг RuTube, которые с недавних пор ретранслируют весь поток российской телепропаганды, то в Госканцелярии ранее нам рассказали, что новые интернет-блокировки возможны только при солидарном решении стран ЕС.
В Госканцелярии по этой проблеме верят ответам жителей Эстонии, которых по заказу властей опрашивают социологи.
«По сравнению с началом полномасштабной агрессии России значимость кремлевских телеканалов среди неэстонцев снизилась с 36% до 8%. Это показывает, что мы движемся в правильном направлении и действия государства дают результат», - ранее говорил нам советник Коммуникационное бюро правительства Райн Пууста.
Подсказки профессионала
О проблеме использования и эксплуатации цифровых технологий и алгоритмов BigTech (Google, Amazon, Meta, Apple и Microsoft) для продвижения пропаганды и кремлевских нарративов говорится уже давно.
«Конечно, БигТех отвечает, что на самом деле никаких предвзятых алгоритмов у них нет, отрицает наличие ShadowBans (скрытая блокировка пользователей - прим.ред.). В частности, известно о сервисе Google Discovery, который используют многие владельцы андроид-приложений. В российском Google Discovery топовые строки занимают множества фейковых СМИ, которые тиражируют нарративы Кремля от имени разных проектов. Google говорит, что не виноват», - рассказывает португальский киберадвокат, аналитик RKS Global Саркис Дарбинян.
В Европе же ситуация с противодействием подозрительным действиям ведущих айти-гигантов, которых, прежде всего, интересует прибыль, иная.
«В последние годы в ЕС были приняты Digital Service Act и Digital Market Act. Это уникальные инструменты для работы с БигТехом, который закрывают многие правовые проблемы. Но инструмент есть, а работает пока плохо», - говорит эксперт.
Главная проблема - нехватка рук. В ЕС нет структур, подобных по штату сотрудников российским цензурным органам. Но есть независимая аналитика, которая готова помогать.
«В новых законах есть нормы, которые позволяют исследователям и ресерчерам запрашивать статистические данные, связанные с работой платформ и с работой их алгоритмов. Если кто-то эти данные соберет, то тогда, конечно же, БигТех уже можно будет поймать за руку в распространении кремлевских нарративов. Мы это чувствуем, мы это видим, но доказать мы этого не можем», - сетует Дарбинян.
Не только телеком
На важность сотрудничества госорганов ЕС с независимыми аналитиками для противодействия враждебным действиям Кремля ранее указывал главный редактор издания The Insider Роман Доброхотов. «Помимо обычной работы тех, кто выявляет и предотвращает, мы считаем, что нужно активнее привлекать журналистов-расследователей, - говорил нам эксперт по спецслужбам РФ о противодействии диверсионным группам Москвы. - В современном мире основная часть работы по таким проблемам - аналитическая. Именно ей мы и занимаемся. Уверен, что в Эстонии есть классные журналисты, которые могут этим заниматься. И мы не просим от госорганов много. Нам достаточно намеков, в какую сторону копать. У нас есть хорошие контакты с отдельными государствами ЕС, но не со всеми».
«БигТех, видимо, решил полностью отстраниться от любых вопросов, связанных с фейкньюз, пропагандой, цензурой, и пытается занять ту позицию, в которой ему будет наиболее комфортно продолжать вести бизнес», - продолжает описание происходящего аналитик RKS Global.
Капиталисты до сих пор сильнее бюрократов, но в ЕС есть шанс на успех, в отличие от США в ближайшие четыре года, добавил Саркис Дарбинян.
Эксперт напоминает, что европейский регулятор ранее уже заставил Apple открыть возможности для альтернативных магазинов на яблочных устройствах, что казалось нереальным.
Что касается блокировок ресурсов, то эксперт уверен - они неэффективны.
«Я не верю в блокировки. То, что начало происходить в Европе с блокировками российской госпропаганды, это все же плохой знак. Потому что все начинается с благих намерений. Это мы уже видели в РФ. Там все начиналось с "защиты детей", а сегодня это полноценная цензура. При этом мы видим, что с точки зрения сдерживания информации это не помогает. Вместо заблокированных страниц появится десяток новых, - уверен эксперт. - Но если алгоритмы поисковиков не будут подхватывать ссылки этих медиа и продвигать их, будь то Google, Facebook или YouTube, их никто не заметит и не будет читать».
Почему люди верят фейкам, а не фактам
«Текущая ситуация развитого интернета предполагает, что каждый может найти ту точку зрения, которая подтверждает его картину мира. И то, что кажется тебе и мне дерьмищем, на самом деле для кого-то является наиболее удобной системой описания феноменов, которые он наблюдает вокруг», - заходит издалека социолог из Парижа Иван Напреенко.
/nginx/o/2025/03/29/16744307t1h40dd.png)
Известная кремлевская тактика разговора о неудобных темах - умножение версий об одном и тот же явлении, когда каждый получает ту версию, которая нравится ему, говорит наш собеседник.
«А в ситуации цифровой полифонии люди зачастую выбирают тот вариант, который им подтверждает уже существующую у них в голове картину мира. Что же касается тяги меньшинств к пропаганде на их языке, то, как правило, сама среда, в которой они находятся, приложила определенные усилия, чтобы такие группы чувствовали себя неким единством, противопоставленным этой среде. Они не вписаны внутрь. Но вокруг них очерчен круг, внутри которого поддерживают групповое единство за счет лояльности определенным каналам, которые маркированы как свои, - объясняет Напреенко тягу к русскому телевизору у тех, кто живет в других странах. - Дальше можно разбираться в сортах этих фекалий, но если пытаться быть нейтральным, то люди всегда выберут ту версию, которая будет разделяема их сообществом».
Кроме того, навык критического подхода к любой информации предполагает наличие кругозора.
«Мы находимся в странной точке, когда уже все верят, что у всех бывает своя правда. Но проблема хуже. Эта ситуация приводит к тому, что правды нет. Уже все научились называть фейком то, что им не близко. На продвинутых стадиях научились проверять что-то, но не брать на себя смелость утверждать, что же в итоге есть старая добрая правда, а не постправда», - констатирует социолог.
«И уже вне зависимости от того, что мы сами считаем, мы все живем в мире постправды, которая и определяет все то, что мы сейчас обсудили», - не особенно весел Иван Напреенко.