Bem a tempo para as eleições de 2024 nos EUA, a empresa de triagem de chamadas e detecção de fraudes Hiya lançou uma extensão gratuita do Chrome para detectar vozes falsas. O apropriadamente nomeado Olá Detector de Voz Deepfake “ouve” vozes reproduzidas em fluxos de vídeo ou áudio e atribui uma pontuação de autenticidade, informando se é provável que seja real ou falso.
Hiya disse ao Engadget que testadores terceirizados validaram a extensão com mais de 99% de precisão. A empresa diz que cobre até mesmo vozes geradas por IA nas quais o modelo de detecção não foi treinado, e a empresa afirma que pode detectar vozes criadas por novos modelos de síntese assim que forem lançados.
Brincamos com a extensão antes do lançamento e parece funcionar bem. Encontrei um vídeo no YouTube sobre o pioneiro do blues Howlin’ Wolf, que suspeitava que usava narração de IA, e atribuí-lhe uma pontuação de autenticidade de 1/100, declarando-o provavelmente um deepfake. Suspeitas confirmadas.
Hiya deu um golpe bem merecido nas empresas de mídia social por tornarem tal ferramenta necessária. “Está claro que os sites de mídia social têm uma enorme responsabilidade de alertar os usuários quando o conteúdo que eles estão consumindo tem grandes chances de ser um deepfake de IA”, escreveu o presidente da Hiya, Kush Parikh, em um comunicado à imprensa. “Atualmente, recai sobre o indivíduo a responsabilidade de estar atento aos riscos e usar ferramentas como nosso Deepfake Voice Detector para verificar se ele está preocupado com a alteração do conteúdo. É um grande pedido, por isso estamos satisfeitos por poder apoiá-los com uma solução que ajuda a devolver parte do poder às suas mãos.”
A extensão só precisa ouvir alguns segundos de uma voz para emitir um resultado. Ele funciona em um sistema de crédito para evitar que os servidores do Hiya sejam atingidos por solicitações excessivas. Você receberá 20 créditos diariamente, que podem ou não cobrir a enxurrada de conteúdo manipulativo de IA você encontrará nas redes sociais nas próximas semanas.
