Количество дипфейк-атак в прошлом году выросло в десять раз

По мнению ассоциации, достижения в области так называемого глубокого обучения ИИ облегчают создание поддельных мультимедийных материалов, но при этом делают их массовое производство менее затратным. По словам директора ассоциации Лукаша Бенцла, рынок наводнен доступными инструментами, которые позволяют создавать мультимедиа или манипулировать ими в считанные минуты. Таким образом, доступность инструментов ИИ для создания подделок попала в список главных рисков 2024 года.
 
Самые большие угрозы злоупотреблений включают в себя методы, которые компрометируют бренд организации, имитируют руководителей и используют мошеннические коммуникации для получения доступа к сетям, каналам связи и конфиденциальной информации организации. По мнению экспертов, фишинг, тип кибератаки, использующий фальшивые личности, станет еще более распространенным по мере развития ИИ. Классические примеры — имитация голоса начальника по телефону, дипфейк на онлайн-встречах и собеседованиях, размещение фальшивого заявления компании и шантаж сотрудников поддельными изображениями обнаженной натуры, говорится в сообщении ассоциации.
 
«Тревожно, что при минимальных затратах и усилиях можно создать фальшивку, практически неотличимую от реальности, что в 2024 году откроет двери как для изощренного мошенничества, так и для распространения дезинформации и манипулирования общественным мнением. В этом контексте чешские компании должны не только проявлять бдительность, но и активно поддерживать обучение и подготовку своих сотрудников», — сказал Бенцл.
 
По словам Адама Ханки из технологической компании Creative Dock, помимо мошенничества, фальшивки могут сеять страх и ненависть. «Они также могут подорвать честность выборов, например, когда записи deepfake появляются за несколько дней до выборов и у политиков нет времени на их опровержение. Это может иметь далеко идущие последствия для всего нашего общества. Именно поэтому важно распространять информацию о дипфейках в компаниях», — добавил Ханка.
 
Новое руководство по борьбе с фальшивками предоставляет сотрудникам чешских компаний и организаций обзор текущих и новых тенденций в области фальшивых мультимедиа, методов их обнаружения и проверки подлинности, а также стратегий защиты от этих угроз.