Чешская технология помогает разоблачать голосовые дипфейки
Несмотря на то, что свою новую программу специалисты брненского Технического университета и фирмы Phonexia все еще «доводят до ума», ее уже взяли на вооружение банки, колл-сентры, полиция и спецслужбы. Речь идет о системе, позволяющей бороться с цифровым мошенничеством, а именно, эффективно разоблачать голосовые дипфейки.
«Мама, привет, я не могу долго говорить, но у меня возникли большие проблемы. Отправь мне две тысячи на счет, который я тебе пришлю в сообщении», – звучит женский голос из компьютерного динамика.
«На экране компьютера демонстрационная версия нашей программы выявления голосовых дипфейков, то есть искусственно синтезированного голоса», – разъясняет Ивана Тыралова из Phonexia.
Голос на второй проигранной записи практически идентичен первой.
«В нашем распоряжении две записи: одна оригинальная, а вторая имитирована синтезатором. Теперь мы нажимаем в нашей программе на одну из записей и в правой части экрана видим результат. Запись под № 1 отображается в зеленой части шкалы – это означает, что наша технология подтвердила ее, как оригинал. При нажатии на вторую запись результат смещается в правую, красную часть нашей шкалы. Это означает, что программа выявила проблему и предупреждает о возможной опасности. Эта запись была оценена, как поддельная», – объясняет итог исследования Ивана Тыралова.
«Основой программы служит довольно объемная нейросеть, натасканная на образцах реальных и синтезированных голосов. В процессе обработки материала нейросеть выявляет мельчайшие особенности реальных и искусственных голосов, чтобы потом их распознавать уже самостоятельно, – описывает Камил Малинка с факультета информационных технологий Технического университета в Брно. – Представьте себе черный ящик, в который вы забрасываете миллионы разных данных. Например, мы хотим, чтобы этот ящик отличал собаку от тигра. Вы даете миллион изображений тигра и миллион изображений собаки, а машина сама учится определять вероятность того, что на картинке изображена собака или тигр. Однозначного ответа нейронная сеть вам никогда не даст, но выдаст вероятный, выраженный в числах результат. А потом, когда вы уже ей покажете тигра, нейронная сеть скажет: он оранжевый, у него есть полосы – значит это будет тигр».
Современные технологии позволяют мошенникам создавать чрезвычайно точные записи голосов, поэтому необходимо постоянно быть начеку.
«Как себя обезопасить от подобного рода мошенничеств? В первую очередь необходимо осознавать, что поддельный разговор вы не распознаете. Поэтому, независимо от причины, если звонок вызывает подозрения, то лучше не надеяться только на то, что вы своего собеседника понимание, а добавить в беседу второй этап аутентификации. Лучше всего задать вопрос, предполагающий осведомленность собеседника о некой «секретной» информации, которую этот человек должен знать. Спросить, например, как зовут вашего домашнего кролика. Злоумышленник этой информации не знает», – советует Камил Малинка.