Meta заявляет, что в 2024 году она ликвидировала около 20 тайных операций. Россия является основным источником фейковых новостей
Ник Клегг, председатель по глобальным вопросам компании, которая управляет Facebook, Instagram и WhatsApp, заявил, что Россия по-прежнему остается источником враждебной онлайн-активности № 1, но заявил на брифинге, что «удивительно», как мало ИИ использовался для обмана избирателей в самый загруженный год выборов по всему миру, пишет Digi24.
Бывший вице-премьер Великобритании сообщил, что компании Meta, которая насчитывает более 3 миллиардов пользователей, пришлось удалить чуть более 500 000 запросов на создание изображений Дональда Трампа и Камалы Харрис, Джей Ди Вэнса и Джо Байдена с помощью собственных инструментов искусственного интеллекта за месяц, предшествующий дню выборов в США.
Россияне создали фальшивые аккаунты, чтобы оказывать влияние на людей в Грузии, Армении и Азербайджане
Однако экспертам по безопасности компании пришлось столкнуться с новой операцией, в рамках которой фальшивые учетные записи использовались для манипулирования общественными дебатами в целях достижения стратегической цели, причем чаще, чем один раз в три недели. Случаи «скоординированного недостоверного поведения» включали российскую сеть, которая использовала десятки учетных записей Facebook и фиктивных новостных сайтов для нападения на отдельных лиц в Грузии, Армении и Азербайджане.
Еще одна операция была проведена в России с использованием искусственного интеллекта для создания фейковых новостных сайтов с использованием таких брендов, как Fox News и Telegraph, в попытке ослабить поддержку Украины Западом, а также использовать франкоязычные фейковые новостные сайты для пропаганды роли России в Африке и критики роли Франции.
Россия, Иран, Китай
«Россия остается основным источником тайных операций влияния, которые мы до сих пор прервали: всего с 2017 года было нарушено 39 сетей», — сказал он. Следующими наиболее распространенными источниками иностранного вмешательства, обнаруженными Meta, являются Иран и Китай.
Давая оценку последствиям подделки ИИ после волны опросов в 50 странах, включая США, Индию, Тайвань, Францию, Германию и Великобританию, он сказал: «Высказывались всевозможные предупреждения о потенциальных рисках таких вещей, как генерализованные дипфейки и кампании по дезинформации с использованием искусственного интеллекта. Судя по результатам мониторинга в наших сервисах, это совсем не то, что мы видели. Похоже, что эти риски не были реализованы в значительной степени, и их влияние было незначительным и ограниченным по масштабам».
Но Клегг предостерег от самодовольства и заявил, что влияние подделок с использованием генеративного искусственного интеллекта для манипулирования видео, голосами и фотографиями «очень и очень вероятно, что изменится».
«Очевидно, что эти инструменты будут становиться все более распространенными, и мы будем видеть все больше и больше синтетического и гибридного контента в Интернете», — сказал он.
Обманчивый контент на основе искусственного интеллекта
Оценка Meta основана на выводах Центра новейших технологий и безопасности, опубликованных в прошлом месяце, о том, что «вводящий в заблуждение контент, созданный искусственным интеллектом, повлиял на предвыборный дискурс в США, усилив другие формы дезинформации и разжигая политические дебаты».
По его словам, нет никаких доказательств их влияния на победу Дональда Трампа на выборах.
Исследование пришло к выводу, что угрозы, основанные на искусственном интеллекте, начали влиять на здоровье демократических систем в 2024 году, и предупредили, что «нам не следует останавливаться на достигнутом» перед выборами 2025 года в Австралии и Канаде. Сэм Стокуэлл (Sam Stockwell), младший научный сотрудник Института Алана Тьюринга, считает, что инструменты искусственного интеллекта могли повлиять на предвыборные речи и незаметно усилить пагубные нарративы, особенно во время недавних выборов в США.
«Сюда входили вводящие в заблуждение утверждения о том, что митинг Камалы Харрис был создан искусственным интеллектом, и необоснованные слухи о том, что гаитянские иммигранты едят домашних животных, которые стали вирусными с помощью ксенофобских мемов, созданных искусственным интеллектом», — сказал он.
