4 основных способа обнаружения поддельных аудио- и голосовых записей, созданных искусственным интеллектом

С годами дипфейковые аудио- и голосовые записи стали пугающе хороши. Используя генеративные модели искусственного интеллекта и большой размер выборки (когда речь идет о знаменитостях), злоумышленники в Интернете могут воссоздать безупречные копии чьего-либо голоса, чтобы намеренно ввести в заблуждение или обмануть аудиторию. Вы, должно быть, видели, как эти дипфейковые аудиозаписи распространяются вокруг, пытаясь нацелить людей на рекламу контрафактной продукции, которая, скорее всего, является змеиным маслом. Тревожно то, что эти инструменты с течением времени становятся лучше, а записи, которые они производят, могут обмануть кого угодно. Имея это в виду, давайте рассмотрим 4 основных способа обнаружения поддельных аудио- и голосовых записей, созданных ИИ.

Читайте также: Выпущен Vivo Y100i с двойной задней камерой на 50 мегапикселей

Почему важно обнаруживать поддельный звук и голос, генерируемые ИИ?

С внезапным появлением генеративных моделей искусственного интеллекта инструменты для создания поддельных аудиозаписей стали легко доступны желающим пользователям. Эти модели ИИ полагаются на небольшой образец чьего-то голоса, чтобы почти безупречно воссоздать его. Хотя социальные последствия этих инструментов еще предстоит определить в целом, они все чаще используются для выманивания у людей денег в краткосрочной перспективе.

Например, кто-то может использовать фейковую аудиозапись вашего супруга или близкого родственника, чтобы заставить вас перевести им значительную сумму денег по телефону. Качество этих записей зависит от усилий, которые приложили к ним мошенники. Как правило, профессиональные мошенники охватывают все основания и имеют фальшивые аудиозаписи для каждой ситуации, в которую может зайти разговор. Прежде чем вы поймете, что со звуком что-то странное, может быть уже слишком поздно. Поэтому всегда лучше быть готовым к любой ситуации, зная, на какие сигналы следует обращать внимание.

Есть ли странные обрывы в звуке?

Несмотря на то, что аудиодипфейки прошли долгий путь с точки зрения воспроизведения исходного голоса, наиболее частые мошеннические действия, с которыми вы сталкиваетесь в социальных сетях, не могут быть созданы безупречно. Правда в том, что мошенникам не нужно манипулировать всеми, кто слушает дипфейк, им просто нужно убедить горстку людей поверить в то, что то, что они слушают, является законным. Часто в Интернете распространяются неудачные дипфейки, которые легко обнаружить. Самый простой их признак — неожиданные и резкие сокращения на протяжении всей записи. Более профессиональные мошенники и злоумышленники обычно сглаживают эти сокращения перед публикацией записи.

Внимательно слушайте, нет ли неправильного произношения

Большинство моделей искусственного интеллекта полагаются на небольшой размер выборки чьего-либо голоса для создания фальшивой записи. Благодаря глубокому обучению модель искусственного интеллекта может эффективно воссоздавать высоту, тон, акцент, тембр и другие атрибуты голоса человека. Но где это может потерпеть неудачу, так это в воссоздании особых причуд. Если вы слушаете аудиозапись человека, которого знаете лично, всегда обращайте внимание на странности в его речи. Если вы чувствуете, что произношение некоторых слов у них немного неправильное, возможно, вам стоит дополнительно проверить легитимность записи.

Что-то не так с фоном?

Аудиозаписи, созданные с использованием моделей искусственного интеллекта, редко бывают свободны от фонового шума. Хотя некоторое количество фонового шума всегда удается проникнуть и в обычные голосовые записи, он гораздо более органичен — например, звуки разговоров людей на заднем плане, потолочные вентиляторы, общая банальность и т. д. В то время как дипфейковые аудиозаписи могут иметь другой вид. статики, которая присутствует только в обработанных записях. Если вы подозреваете, что слушаете фальшивую аудиозапись, всегда обращайте пристальное внимание на фоновый шум.

Используйте инструмент обнаружения Deepfake

Хотя упомянутые выше методы могут дать вам четкое представление о легитимности аудио, единственный способ подтвердить, является ли это дипфейком, — это использовать инструмент обнаружения, специально разработанный для этой задачи. Напоминать.AI это один из инструментов, которые вы можете использовать для этой работы. Этот инструмент интегрируется с популярными медиа-сервисами и на лету обнаруживает фальшивый звук, созданный искусственным интеллектом. Вы также можете использовать Resemble.AI для нанесения водяных знаков на ваши аудиоданные и определения, использовались ли они для обучения генеративной модели ИИ.

Часто задаваемые вопросы (FAQ)

Как обнаружить фальшивую аудиозапись, созданную ИИ?

Инструменты обнаружения звука, созданные искусственным интеллектом, анализируют спектрограммы аудиозаписей, чтобы определить, являются ли они фальшивыми. Однако эти инструменты могут быть недоступны бесплатно. Если вы сомневаетесь в достоверности записи голоса, внимательно прислушайтесь к несоответствиям в произношении, резким сокращениям и странным фоновым шумам.

Как обнаружить фейковые видео, созданные искусственным интеллектом?

Видео с дипфейками часто легче анализировать и изучать по сравнению с их аудио-аналогами. Вы можете определить, что видео является фейком, если обратите пристальное внимание на выражения лица, движения губ и любые странные причуды.

Является ли создание дипфейкового видео или аудио незаконным?

Если дипфейковая видео- или аудиозапись используется для преследования, клеветы или подстрекательства к насилию в отношении кого-либо, это может привести к судебному преследованию преступника.

Читайте также: Цена на iQoo 12 5G в Индии объявлена ​​в преддверии запуска: подробности внутри

Заключение

Это 4 основных способа создания фальшивых аудио- или голосовых записей с помощью искусственного интеллекта. Если вы когда-нибудь столкнетесь с дипфейком, который используется для мошенничества или распространения дезинформации, обязательно сообщите об этом в соответствующий орган власти в вашем регионе. Знаете другие полезные способы обнаружения поддельных аудиозаписей? Будем рады узнать в комментариях!