Нейросеть взломала биометрическую защиту в банке по телефону. Она говорила голосом владельца счёта
Пользователь Twitter Джозеф Кокс опубликовал ролик, в котором продемонстрировал работоспособность нейросети ElevenLabs.
С ее помощью он общался с автоматическими системами банка. Для идентификации клиента робот попросил произнести фразу «Мой голос — это мой пароль».
В итоге нейросеть сымитировала голос владельца счета, а системы впустили ее и дали доступ. Надежность подобного метода идентификации теперь вызывает вопросы.