Нейросетям все проще подделывать голоса. Можно ли обезопаситься от мошенников — разбор

Развитие технологий искусственного интеллекта открыло новые возможности для бизнеса, обычных пользователей и повседневной жизни. Однако вместе с преимуществами появились и дополнительные инструменты для мошенников.

Современные технологии позволяют создавать копии человеческих голосов на основе аудиозаписей и видеороликов. Благодаря этому мошенникам становится проще выдавать себя за знакомых, родственников или коллег. Последствия могут быть серьезными — вплоть до потери денег.

В этом материале обозреватель 72.RU Радик Енчу вместе с экспертами разбирается, как подделывают голоса, можно ли распознать фейковое обращение и, главное, как защититься от подобных схем. Подготовили подробную инструкцию.

Дмитрий Аникин, руководитель отдела исследования данных в «Лаборатории Касперского», перечисляет наиболее распространенные схемы. Среди них — звонки от имени «родственника, попавшего в беду», «сотрудника банка» или «руководителя». Злоумышленники просят срочно перевести деньги или сообщить конфиденциальные данные, например коды из СМС.

Создать копию человеческого голоса с помощью нейросетей становится все проще. Для этого злоумышленникам могут пригодиться записи из социальных сетей, видеоролики и голосовые сообщения в мессенджерах. При этом человек может даже не подозревать, что его голос используют в преступных целях.

— Нейросеть анализирует измеримые показатели речи, извлекает из записей особенности тембра, произношения и интонации, может проводить поведенческий анализ и так далее — всё для точного воспроизведения речи в конкретном контексте, — объясняет Алексей Лисовицкий, директор по маркетингу компании «АйТи Юниверс».

По его словам, современные технологии уже позволяют достаточно точно имитировать человеческий голос. Источником записей могут стать социальные сети, видеоролики и даже телефонные разговоры.

— Если человека надо записать, его запишут. Юридически он может быть не согласен на клонирование, но мошенники не спрашивают, — предупреждает Лисовицкий.

По словам собеседника, созданный искусственный голос можно заставить произносить любые фразы.

— Мощные языковые модели уже могут вести вполне «человеческие» диалоги. Ничто не мешает озвучивать их голосами конкретных людей. Сходство будет зависеть от качества модели и образцов, — уточняет он.

Дмитрий Аникин из «Лаборатории Касперского» также отмечает, что подделка голоса с помощью нейросетей стала более доступной технологией. Теперь мошенникам не обязательно обладать глубокой технической подготовкой, чтобы использовать такие инструменты.

— По сути, клонирование строится на анализе коротких аудиофрагментов с голосом реального человека. Порой для убедительной имитации хватает даже нескольких секунд записи, которую злоумышленники могут взять из социальных сетей, голосовых сообщений или публичных выступлений. При этом в некоторых случаях генерация возможна и в режиме реального времени, что делает сценарии телефонного мошенничества особенно опасными, — объясняет эксперт.

Дмитрий Аникин предупреждает: отличить сгенерированный голос от настоящего на слух становится все сложнее. Современные модели способны воспроизводить интонации, паузы и индивидуальные особенности речи. При этом характерные признаки работы нейросети становятся все менее заметными.

— В свою очередь, защитные механизмы опираются не на распознавание голоса, а на проверку канала связи и подтверждение намерений альтернативными способами — например, через заранее оговоренные кодовые фразы или повторный звонок по известному номеру, — добавляет Аникин.

Иногда можно распознать подделку на слух, но затруднительно, отмечает Алексей Лисовицкий.

— Старые технологии делают неестественные паузы, ставят не там ударения или странно воспроизводят интонации. Свежие решения лишены прежних недостатков. А диалоги режиссируются так, чтобы минимизировать уязвимые места. Люди не могут гарантированно выявлять качественных клонов даже после обучения. А если вы пытаетесь это понять, продолжая разговор, с вас ещё и снимут дополнительные данные, — говорит собеседник.

Банки отслеживают нетипичные финансовые операции. Если человек поверил поддельному голосу и перевел деньги злоумышленникам, ему необходимо как можно скорее обратиться в финансовую организацию.

— Перед отправкой денежных средств банк анализирует нетипичное поведение для клиента. Например, резкое увеличение суммы перевода либо перевод совершается ночью или осуществляется в адрес нового получателя. Вместе с тем реквизиты получателя проверяются на их наличие в базе данных мошеннических операций Банка России или в собственной базе подозрительных переводов, — объясняет Лидия Каммерцель, начальник отдела обслуживания физических лиц СТРОЙЛЕСБАНКа.

По ее словам, особое внимание банк уделяет операциям, которые совершаются вскоре после выдачи кредита или досрочного закрытия вклада.

Эксперт уточняет, что кредитные средства перечисляются на счет клиента только после истечения периода охлаждения. Выдача денег по досрочно расторгнутому вкладу также осуществляется по предварительной заявке вкладчика, а не в день обращения. Эти меры дают человеку дополнительное время, чтобы оценить ситуацию и избежать поспешных решений.

— Если банк обнаруживает признаки совершения перевода под влиянием мошенников, то операция приостанавливается, о чем клиент в обязательном порядке должен быть уведомлен. Такие временные ограничения позволяют клиенту одуматься и не совершить перевод под давлением мошенников, — говорит она.

Если человек поверил поддельному голосу и отправил деньги злоумышленникам, ему необходимо как можно скорее обратиться в банк с требованием заблокировать электронное средство платежа. Также следует сообщить о несанкционированной операции по телефону, а в рабочее время банка предоставить письменное заявление. Такую рекомендацию дает Лидия Каммерцель.

Кроме того, необходимо обратиться в правоохранительные органы.

— Для защиты от таких звонков банк рекомендует клиентам не доверять только голосу, при малейших сомнениях необходимо связаться с якобы звонившим альтернативным способом, — говорит Каммерцель.

Дмитрий Аникин из «Лаборатории Касперского» для снижения риска использования голоса в мошеннических целях советует минимизировать публикацию личных аудиозаписей, с осторожностью относиться к просьбам прислать голосовые сообщения и заранее договориться с близкими о простых правилах подтверждения в экстренных ситуациях.

— Для организаций актуальны внутренние регламенты: запрет на перевод средств по голосовым инструкциям и обязательное подтверждение финансовых операций вторым фактором, — добавляет эксперт.

Алексей Лисовицкий из «АйТи Юниверс» советует ввести в обиход несколько универсальных правил:

• Если вы получаете важную информацию от некоего известного вам человека, оборвите звонок, перезвоните ему сами, переспросите;

• Если дело касается денег, оборвите звонок, позвоните в свой банк, объясните ситуацию и попросите совет. Банки вовсе не хотят, чтобы их клиентов обкрадывали;

• Если есть подозрения, не позволяйте профессионалам обрабатывать вас, оборвите звонок. Психологические техники могут справиться даже с тем, кто считает себя неуязвимым;

• При якобы возникшей необходимости произвести любое значимое действие (например, когда просят перевести деньги, подписать или передать документы), прервите диалог, выдохните, отвлекитесь, поищите в интернете похожие случаи, посоветуйтесь с близкими, с банком, полицией — дайте себе время и аргументы для взвешенной оценки ситуации;

• Если вас настойчиво убеждают или торопят, это верные признаки мошенничества.

Во внедрении искусственного интеллекта есть опасность не только в виде новых возможностей для мошенников, но и в других вещах. Например, доверившись информации, которую предоставила нейросеть, можно принять неверное решение. О рисках недавно предупреждал заместитель губернатора Тюменской области и директор регионального департамента информатизации Станислав Логинов.