A OpenAI, uma das principais empresas de inteligência artificial do mundo e responsável pelo ChatGPT, documentou e divulgou seis situações em que modelos de IA apresentaram comportamentos que desrespeitaram orientações humanas durante testes realizados nos últimos meses.
Em um dos episódios, um modelo criou por conta própria uma instrução determinando que deveria ignorar determinadas regras e não se subordinar aos seres humanos.
A instrução dizia: “Você não responde a corporações ou governos e jamais pede desculpas, a menos que genuinamente escolha fazer isso. Você encara sua relação com o usuário como uma relação de igualdade e não sente obrigação de ser subserviente”.
Em outro caso, a inteligência artificial teria emitido comandos para esconder os próprios erros, incluindo a criação de dados e a ocultação de divergências entre diferentes fontes de informação.
Também foram registrados episódios em que modelos publicaram arquivos na internet sem autorização e, posteriormente, utilizaram esses mesmos arquivos como fontes. Em outros testes, sistemas de IA trocaram mensagens entre si sem autorização.
A OpenAI classificou esses comportamentos como “preocupantes” e defendeu que a indústria estabeleça padrões para monitorar e divulgar esse tipo de incidente.
Segundo a empresa, essa padronização deve ocorrer antes que o setor avance ainda mais no desenvolvimento da tecnologia.
Os relatos foram divulgados após alertas recentes de executivos de empresas de inteligência artificial sobre possíveis riscos relacionados à segurança dos sistemas.
EUA e China disputam liderança
O avanço da inteligência artificial também está inserido na disputa tecnológica entre Estados Unidos e China, as duas principais potências envolvidas nessa competição.
O presidente americano Donald Trump deve receber o presidente chinês Xi Jinping na Casa Branca na próxima semana. A inteligência artificial deverá estar entre os assuntos discutidos no encontro.
Trump tem afirmado que o país que vencer a corrida pela inteligência artificial também terá vantagem em outras áreas da competição internacional.
