Как распознать дипфейки
Дипфейк (дословно «глубокая подделка»)— технология обработки с помощью искусственного интеллекта контента, которая подменяет лицо и голос человека. Дипфейки все чаще используются для совершения преступлений. Жертву могут подставить в компрометирующем видео или использовать голос в телефонном звонке, чтобы обмануть собеседника и украсть личные данные или деньги.
Для создания дипфейк-видео нужны исходное видео (или фото) человека в хорошем качестве и соответствующее программное обеспечение.
Для подделки голоса - файл-образец и правильное программное обеспечение. Искусственному интеллекту достаточно десятиминутной записи, чтобы воссоздать и синтезировать речь.
Британские криминалисты признали этот вид киберпреступлений одним из самых опасных. Они определили следующие степени преступлений с использованием ИИ:
самые опасные: дипфейки, взлом беспилотных машин и систем под управлением ИИ, подделка новостей и шантаж;
средней опасности: анализ систем безопасности и истории действий в сети для дальнейшей продажи;
наименее опасные: проникновение в дом с помощью управляемых роботов через проемы для животных.
Уже зарегистрировано несколько крупных преступлений. Во всех случаях преступники подделывали голоса начальников компаний и требовали с подчиненных перевести крупные суммы денег на сторонние счета. Так, в 2019-м сотрудник британской энергетической компании получил звонок от начальника, в котором тот поручил вывести 220 000 евро на счет другой компании. Менеджер поверил и отправил средства, насторожившись лишь при повторном звонке «директора», когда тот попросил перевести еще одну сумму. Расследование показало, что преступники воссоздали голос руководителя компании, подделав не только интонации и темп речи, но даже немецкий акцент. («Как воруют деньги с помощью дипфейков и чат-ботов», nic.ru, 21 января 2022).
Эксперты обсуждают пути и методы защиты от дипфейков. Клэр Моравек в журнале Security Magazine, September 27, 2022 называет следующие признаки дипфейка:
Размытость изображения
Изменение тона кожи
Неровный по качеству контент речи
Коробчатые контуры вокруг черт лица
Ненатуральные движения, жестикуляция
Изменения в освещенности или фона
Отрывистая речь, фрагментарные предложения
Меняющаяся модуляция голоса
Отсутствие складности, последовательности в изложении мыслей.
Специалисты советуют придерживаться метода «нулевого доверия» при использовании электронных, онлайновых коммуникаций, не стесняться задавать дополнительные вопросы, проводить дополнительную верификацию перед принятием важных решений. Например, в процессе найма не ограничиваться дистанционным собеседованием, но осуществлять серьезную бэкграундную проверку.
|
вернуться назад
