Дезинформация в мире Искусственного интеллекта
Информация распространяется с головокружительной скоростью, любой может отправить сообщение, которое мгновенно доходит до огромного количества людей, социальные сети распространяют и повторяют идеи с трудновообразимой до недавнего времени скоростью, и вместе с этим развивается и дезинформация. Дезинформация приобрела новые оттенки – сейчас мы говорим о глобальном явлении, чаще всего финансируемом и координируемом, которое может повлиять на выборы, поляризовать общества или ухудшить международные отношения. Те, кто изучает это явление, описывают его как войну разума и восприятия, невидимую войну. Доктор наук, профессор Алина Быргэоану, член Консультативного совета Европейского наблюдателя за цифровыми СМИ и эксперт по борьбе с дезинформацией:
Corina Cristea, 14.08.2025, 11:56
Информация распространяется с головокружительной скоростью, любой может отправить сообщение, которое мгновенно доходит до огромного количества людей, социальные сети распространяют и повторяют идеи с трудновообразимой до недавнего времени скоростью, и вместе с этим развивается и дезинформация. Дезинформация приобрела новые оттенки – сейчас мы говорим о глобальном явлении, чаще всего финансируемом и координируемом, которое может повлиять на выборы, поляризовать общества или ухудшить международные отношения. Те, кто изучает это явление, описывают его как войну разума и восприятия, невидимую войну. Доктор наук, профессор Алина Быргэоану, член Консультативного совета Европейского наблюдателя за цифровыми СМИ и эксперт по борьбе с дезинформацией:
«С самого начала я хотела бы подчеркнуть, что инструменты, используемые для ведения этой информационной войны, становятся все более разнообразными — дезинформация, пропаганда, враждебные кампании влияния, кибератаки, алгоритмическая война, сбор данных для микротаргетинга и даже гиперперсонализации. Мы говорим не только о дезинформации, но и о гораздо более сложном арсенале. Второе: в разговорах его назвали невидимой войной, и это описание частично верно. Потому что это относительно коварная форма противостояния, то есть она имеет и этот невидимый характер, но в то же время она и очень заметна. Я даже начала использовать термин говоря о нарративах о враждебном Западе, что они стали почти амбиентальными. То есть, они и нигде, и везде. Как только начинается разговор, невозможно, чтобы кто-то из круга друзей, коллег не показал, что он затронут такими нарративами. В то же время, вы не можете указать на них, то есть где мы их видели? где мы их слышали? Так что это война и видимая, и невидимая. Я думаю, что объектом политических и информационных военных действий стали преимущественно ЕС и НАТО, с очень четкой фокусировкой, по моим наблюдениям, на ЕС и особенно на некоторых членах ЕС. Таким образом, это война и невидимая, и очень видимая, ее трудно выявить. В то же время, когда начинаешь ее изучать, впечатляет, насколько сложны техники, насколько хорошо натренированы алгоритмы, насколько широко начинает использоваться Искусственный интеллект».
Если в прошлом массовая манипуляция требовала огромных команд, времени и ресурсов, то динамика информационной войны была глубоко изменена Искусственным интеллектом, благодаря которому один человек может генерировать тысячи убедительных сообщений всего за несколько часов. А с появлением больших языковых моделей (Large Language Models – LLM) мир снова изменился. Алина Быргоану:
«Все структурные проблемы могут быть усилены, доведены до максимума с помощью этих новых технологий Искусственного интеллекта. Во-первых, Искусственный интеллект позволяет генерировать контент с гораздо большей скоростью, с гораздо большей гибкостью и с большей способностью адаптироваться к местной аудитории. Истории, заговоры больше не должны генерироваться людьми, они могут генерироваться с помощью этих методов. И я имею в виду не только письменные тексты, но и аудио, видео и, особенно, комбинацию этих трех форматов. Это один из элементов. Второй элемент, который, на мой взгляд, гораздо более впечатляющий, — это то, что начали называть в некоторых статьях «загрязнением больших языковых моделей». Английский термин — Large Language Models Grooming. Что это означает? Онлайн-пространство наводняется вводящими в заблуждение идеями, вещами, которые не произошли, неправдой, множеством мнений, очень эмоциональными мнениями, но они наводняют онлайн-пространство не с целью привлечь внимание пользователя, а с целью заразить большие языковые модели, загрязнить их, таким образом заставляя, когда мы спрашиваем Chat GPT, например, каковы причины вторжения Российской Федерации в Украину, чат-бот дает определенный ответ, который учитывает эти введенные нарративы. Когда мы делали поиск в Google, было возможно наткнуться на ссылки, воспроизводящие официальную риторику, например, из Кремля, но мы могли сделать выбор. Мы просматривали одну ссылку, просматривали третью ссылку, а теперь ответ, который дает Chat GPT, течет, и ваша возможность проверить его гораздо меньше».
Исследование Института стратегического диалога, состоящее из упражнения по подсказке вопросов об Украине, проведенного с использованием крупнейших лингвистических моделей — Chat GPT, Groq, Gemini и DeepSeek — показал, что в случае всех четырех 18% ответов соответствовали официальной риторике Российской Федерации, ответы, которые были ассимилированы соответствующими моделями, приводит пример эксперт по борьбе с дезинформацией Алина Быргоану.
