Os investigadores conduziram uma experiência em que os participantes ouviram oitenta amostras de voz, misturando vozes autênticas e criações artificiais. Para as vozes geradas inteiramente por inteligência artificial, os ouvintes mantiveram uma certa capacidade de distinção, com apenas 41% de erros de identificação.
No entanto, quando se tratava de clones vocais que reproduziam indivíduos específicos, os resultados mudaram radicalmente: 58% dessas imitações foram confundidas com humanos, uma taxa quase idêntica à das vozes reais corretamente identificadas (62%). Esta quase equivalência estatística demonstra que a nossa perceção auditiva já não é um critério fiável para diferenciar o autêntico do sintético.
A facilidade de criação destes duplos vocais levanta preocupações concretas. A equipa de investigação utilizou softwares disponíveis comercialmente, necessitando de apenas quatro minutos de gravação vocal para produzir clones convincentes. Esta acessibilidade técnica abre a porta a utilizações maliciosas, como demonstra o caso de uma mãe que perdeu 15.000 dólares depois de receber uma chamada supostamente da sua filha em perigo, quando na realidade se tratava de uma imitação gerada por inteligência artificial. Da mesma forma, burlões utilizaram recentemente um clone vocal de um político australiano para promover um esquema de criptomoedas fraudulento.
Para além dos riscos evidentes para a segurança e a privacidade, esta tecnologia vocal avançada apresenta também perspetivas positivas. Os investigadores destacam o seu potencial para melhorar a acessibilidade de pessoas com deficiência, enriquecer ferramentas educativas ou otimizar sistemas de comunicação. A criação de vozes sintéticas personalizadas de alta qualidade poderia transformar as interfaces em muitos domínios, oferecendo alternativas vocais naturais onde as opções atuais ainda parecem mecânicas e artificiais.
Esta evolução tecnológica coloca-nos perante um paradoxo: enquanto as vozes artificiais ganham realismo, a nossa confiança no que ouvimos diminui. O estudo publicado na PLoS One convida-nos a repensar a nossa relação com as tecnologias vocais e a desenvolver novos mecanismos de verificação para navegar numa paisagem sonora onde o verdadeiro e o falso se tornam indistinguíveis para o ouvido humano.
O funcionamento dos clones vocais por inteligência artificial
Os sistemas de síntese vocal modernos utilizam redes neuronais profundas capazes de analisar as características únicas de uma voz humana. Estes algoritmos decompõem a fala em parâmetros acústicos como a frequência fundamental, os formantes e as modulações temporais.
A aprendizagem necessita de relativamente poucos dados: alguns minutos de gravação são suficientes para capturar a essência vocal de um indivíduo. O sistema isola então os padrões específicos da pessoa, criando um modelo digital que pode gerar qualquer enunciado com as mesmas características vocais.
A tecnologia baseia-se em arquiteturas avançadas como os modelos generativos, que produzem sequências de áudio realistas ao prever cada amostra sonora a partir das anteriores. Esta abordagem permite manter a coerência e a naturalidade em frases longas.
As últimas inovações integram mesmo a gestão das emoções e das intenções, permitindo que os clones vocais expressem alegria, tristeza ou urgência com um realismo desconcertante, o que explica porque conseguem enganar a nossa perceção auditiva.