Os vídeos de IA normalmente têm como alvo o público mais velho, falsificando a identidade dos médicos (representacional).
Paris, França:
As redes sociais estão a ser inundadas por vídeos “deepfake” criados digitalmente, utilizando identidades confiáveis de médicos famosos para promover perigosas curas milagrosas para problemas de saúde graves, alertam os especialistas.
Vídeos no Facebook e no Instagram aproveitaram a credibilidade de médicos famosos da TV para anunciar xaropes “naturais” não testados para diabetes, alegando até que o comprovado medicamento de primeira linha metformina “poderia matar” pacientes.
Estas fraudes arriscam vidas, dizem os especialistas, especialmente porque utilizam imagens de especialistas populares em saúde, como o apresentador de televisão britânico Michael Mosley, que morreu no início deste ano.
“As pessoas parecem confiar nestes vídeos”, disse à AFP o médico britânico John Cormack.
“Muitos destes médicos da comunicação social gastaram muito tempo a criar uma imagem de confiança, por isso são acreditados mesmo quando fazem afirmações incríveis”, disse Cormack, que trabalhou com o British Medical Journal (BMJ) sobre o assunto.
O especialista em inteligência artificial (IA), Henry Ajder, disse que os deepfakes médicos “realmente decolaram este ano”.
Os vídeos de IA normalmente têm como alvo o público mais velho, falsificando a identidade dos médicos que aparecem regularmente na televisão durante o dia, disse Ajder.
O médico francês Michel Cymes, que aparece frequentemente na televisão em França, disse à AFP em Maio que estava a tomar medidas legais contra o proprietário do Facebook, Meta, por “fraudes” que utilizavam a sua imagem.
A médica britânica Hilary Jones até contratou um investigador para rastrear deepfakes que apresentassem sua imagem.
Um vídeo mostrava Jones vendendo uma falsa cura para pressão alta – bem como gomas de maconha – em um programa de TV do Reino Unido no qual ele aparece regularmente.
“Mesmo que sejam retirados, eles simplesmente aparecem no dia seguinte com um nome diferente”, lamentou Jones no BMJ.
‘Jogo de gato e rato’
Avanços recentes em IA tornaram a qualidade de imagens, áudio e vídeo deepfake muito mais convincente, explicou o acadêmico francês e especialista em IA Frederic Jurie.
“Hoje temos acesso a dezenas de bilhões de imagens e somos capazes de construir algoritmos que podem modelar tudo o que aparece nas imagens e regenerá-las. Isso é o que chamamos de IA generativa”, afirmou.
Não são apenas as imagens de médicos amplamente respeitados que estão sendo mal utilizadas.
A aparição do polêmico pesquisador francês Didier Raoult – que foi acusado de espalhar informações enganosas sobre medicamentos contra a COVID-19 – também foi usada em vários vídeos deepfake.
A naturopata australiana Barbara O’Neill, que foi severamente condenada por alegar que o bicarbonato de sódio pode curar o câncer, foi falsamente retratada vendendo pílulas que “limpam os vasos sanguíneos” em vídeos do TikTok.
Contactado pela AFP, o seu marido, Michael O’Neill, lamentou que “muitas pessoas antiéticas” usassem o nome da sua esposa “para vender produtos que ela não recomenda e, em alguns casos, são apenas fraudes”.
Alguns vídeos falsos descem ainda mais pela toca do coelho, alegando falsamente que O’Neill morreu devido a um óleo milagroso vendido na Amazon.
O especialista em IA Adjer não ficou surpreso com o fato de tais figuras controversas da saúde também terem sido vítimas de deepfakes.
“Eles têm grande confiança de pessoas em círculos que, digamos, são pouco ortodoxos ou conspiratórios”, disse ele.
Os especialistas não estavam otimistas de que as ferramentas de detecção de IA recentemente desenvolvidas fossem capazes de lutar contra o ataque de deepfakes.
“É um jogo de gato e rato”, disse Jurie.
Em vez de tentar encontrar todos os vídeos falsos que existem, ele apontou para tecnologias que podem “garantir que o conteúdo não foi alterado, como nas mensagens, graças a um software que produz assinaturas digitais como um certificado”, disse ele.
(Exceto a manchete, esta história não foi editada pela equipe da NDTV e é publicada a partir de um feed distribuído.)
