Foto: Reprodução.
A OpenAI, uma empresa focada em inteligência artificial (IA) e criadora do ChatGPT, recentemente divulgou os primeiros resultados de uma ferramenta chamada Voice Engine. Essa ferramenta tem a capacidade de clonar vozes humanas com uma precisão notável, eliminando aquele som metálico ou artificial que muitas vezes acompanha as vozes sintéticas.
Aqui estão os principais detalhes sobre o Voice Engine:
- A ferramenta pode criar versões sintéticas de vozes a partir de uma amostra de apenas 15 segundos da voz original.
- Ela mantém as nuances emotivas, o que significa que a voz sintética pode transmitir emoções semelhantes à voz humana.
- O sistema é capaz de converter falas tanto no mesmo idioma do locutor quanto em outras línguas.
A implantação inicial em pequena escala está sendo usada para informar a abordagem da OpenAI, bem como para estabelecer salvaguardas e considerar como o Voice Engine pode ser aplicado de maneira positiva em diversos setores. No entanto, a empresa também reconhece os riscos associados a essa tecnologia.
Aqui estão algumas considerações importantes:
- Usos positivos: A OpenAI destaca que o Voice Engine pode ser usado para assistência a pessoas com dificuldades de leitura ou fala.
- Riscos: A geração de discursos que se assemelham às vozes humanas apresenta riscos significativos, especialmente em um ano eleitoral, como as eleições presidenciais nos Estados Unidos. A empresa está colaborando com parceiros governamentais, mídia, entretenimento, educação e sociedade civil para garantir que a ferramenta seja desenvolvida de maneira responsável.
- Medidas preventivas: A OpenAI defende a eliminação gradual da autenticação baseada em voz como padrão de segurança para acesso a contas bancárias e informações confidenciais. Além disso, a empresa recomenda a conscientização pública sobre as capacidades e limitações das tecnologias de IA, incluindo a possibilidade de conteúdo enganoso.
É importante lembrar que, embora a tecnologia tenha benefícios, também exige cautela e responsabilidade para evitar abusos. Um caso notório de uso indevido de tecnologias de IA para falsificar vozes envolveu o presidente Joe Biden, cuja voz foi imitada em um telefonema enganoso durante as primárias em New Hampshire.
Com informações do Metrópoles.
