Дипфейки как социальная угроза

Дипфейки как социальная угроза

Своевременным ответом академического сообщества на стремительный рост попыток использования ИИ-технологий для аудиовизуальной дезинформации в современной медиасфере может стать системная оценка данных угроз. Для достижения этой цели авторы проводят ряд экспертных интервью, в которых ранжируют уровни риска применения дипфейков в различных сферах, а также выявляют технические, социальные и психологические методы противодействия им.

Вводную часть статьи авторы посвящают этимологии и определению объекта исследования. Согласно им, дипфейк — это технология создания синтетического медийного контента с использованием методов глубокого обучения и нейронных сетей, позволяющая реалистично заменять лица и голоса на изображениях и видео. Термин возник в 2017 г. в англоязычном интернете из сочетания понятий deep learning (глубокое обучение) и fake (подделка). Как любая технология дипфейки широко применяются как в добросовестных целях — в рекламе и обучении, так и при реализации деструктивных, асоциальных намерений. В российской научной литературе понятие «дипфейк» трактуют как технологию компьютерного синтеза на базе искусственного интеллекта, которая изначально обладает негативной коннотацией, поскольку слово «фейк» традиционно ассоциируется с информационной подделкой.

В российской науке вопросы использования дипфейков рассматриваются преимущественно с теоретической точки зрения (в основном юристами из-за пробелов в законодательстве), тогда как системный анализ рисков и угроз в социальном контексте по данным авторов, пока нет. Технологии дипфейков применяются не только для финансового мошенничества, но и для политических манипуляций, дезинформации и несанкционированного доступа к банковским услугам. Исследователи ставят перед собой три ключевых задачи: получить экспертную оценку потенциальных рисков дипфейков, определить эффективность мер противодействия им, таких как программные продукты и поддержка цифровой гигиены. Соответственно, методология работы включала экспертный опрос и интервью, в ходе которых проверялись оценки угроз дипфейков, средств борьбы и перспектив развития цифровых практик и технологий, направленных на снижение рисков, связанных с ними.

На первом этапе общения с экспертами им было предложено оценить по шкале от нуля до трех 15 угроз, связанных с дипфейками, и выявить пять наиболее опасных. Среди последних лидировали псевдоновости и использование дипфейков в военных конфликтах, то есть дезинформация и манипуляции общественным мнением. Значительную опасность представляли также фишинг и финансовое мошенничество, в то время как угрозы эскалации конфликтов и подрыва доверия к компаниям оценивались ниже. На втором этапе исследования приоритетными мерами на ближайшие 1–2 года стали контроль дипфейков в системе идентификации клиентов (KYC) для защиты банковских сервисов (82%), борьба с финансовым мошенничеством (64%) и предотвращение производства фейковых новостей (45%), тогда как меры против кибербуллинга и манипуляций рынками получили минимум оценок (6–9%).

Авторы видят основное средство противодействия опасной высокотехнологичной дезинформации в цифровой гигиене. Под этим понятием подразумевается комплекс навыков и мер для защиты от угроз в цифровой среде, таких как кража данных, мошенничество и вред психологическому здоровью. В условиях развития технологий дипфейков традиционные защитные механизмы становятся менее эффективными, поэтому особое значение приобретают как базовые правила (критическое мышление, снижение доверия к источникам, надежные пароли, двухфакторная аутентификация), так и современные технологические решения, например, программное обеспечение для обнаружения подлинности медиа. Необходимо учитывать важность индивидуального подхода в пропаганде методов цифровой гигиены для уязвимых групп, таких как дети и пожилые люди, обусловленную несовершенством использования ими цифровых ресурсов, настаивают авторы.

Среди существующих и применимых в РФ программных решений для борьбы с дипфейками эксперты выделяют преимущественно зарубежные разработки, такие как Microsoft Sentinel, FakeCatcher (Intel), Sensity AI и другие, тогда как отечественные продукты («Зефир», OzForensics) упоминаются ими редко. Несмотря на санкции, отмечают авторы, доступ к иностранным технологиям, хотя и частично, но сохраняется. В сфере организаций, занятых в противодействии дипфейкам, эксперты назвали широкий круг участников — от государственных ведомств (МВД, Минцифры, Роскомнадзор, ФСБ) и крупных компаний («Сбер», «Лаборатория Касперского», «Яндекс») до НКО и университетов. Однако единое мнение о ключевых стейкхолдерах отсутствует, что, полагают ученые, связано с формирующейся политикой и большим числом вовлеченных акторов, что отражает текущее состояние противодействия дипфейкам в России и координации усилий по борьбе с ними.

В заключении авторы отмечают, что технологии генерации синтетического контента, включая дипфейки, представляют собой новый вызов информационному пространству, требующий развития компетенций и создания инструментов для различения подлинного и сфальсифицированного контента. Важную роль в этом играет цифровая гигиена, поддерживаемая тремя типами программных решений: «цифровым нотариусом» для проверки достоверности цифровых документов, «цифровым телохранителем» — для защиты от распространения вредоносного дипфейкового контента, и «цифровым советником», который дает рекомендации пользователю при обнаружении угроз. Помимо технологий, для эффективного противодействия информационным рискам необходима широкая информированность и массовое обучение пользователей методам цифровой гигиены, напоминают авторы.

Источник.