Um dos principais pesquisadores de segurança da Anthropic, Evan Hubinger, afirmou que a inteligência artificial está avançando em ritmo tão acelerado que, na avaliação dele, existe mais de 10% de chance de a tecnologia “poder matar todos os humanos” na próxima década.
Em uma publicação no X, Hubinger afirmou que considera “baixo” o risco representado pelos modelos de IA existentes atualmente. Ele, porém, disse estar preocupado com a possibilidade de a tecnologia evoluir rapidamente e passar a ser capaz de melhorar a si mesma, criando um risco existencial para a humanidade.
Hubinger é formado em Matemática e Ciência da Computação pelo Harvey Mudd College. Ele também passou pelo Machine Intelligence Research Institute (MIRI) e pela OpenAI, onde trabalhou com pesquisa de segurança em inteligência artificial.
O pesquisador não explicou de que maneira sistemas de IA poderiam, no futuro, provocar a extinção da humanidade. Suas declarações, porém, se somam a uma série de alertas recentes sobre os riscos da tecnologia. O debate tem se concentrado cada vez mais não apenas na existência desses riscos, mas na dimensão que eles podem alcançar.
A manifestação de Hubinger ocorreu em resposta a uma publicação de Jacob Coxon, pesquisador que deixou recentemente a Anthropic e que também trabalhou na OpenAI.
“Nenhuma das duas empresas está agindo de forma responsável”, escreveu Coxon. Segundo ele, em breve poderão existir sistemas capazes de superar seres humanos em capacidade, invadir diferentes sistemas, transformar áreas inteiras “da noite para o dia” e adquirir poder e recursos reais.
Especialista da ONU questiona declarações
Dame Wendy Hall, cientista da computação que assessora a Organização das Nações Unidas (ONU) sobre inteligência artificial, afirmou à BBC ter ficado “chocada” com as publicações de Hubinger e Coxon.
Em entrevista ao programa World at One, da BBC Radio Four, Hall levantou a possibilidade de que parte das declarações esteja relacionada a “relações públicas e marketing”, enquanto Anthropic e OpenAI se preparam para suas aguardadas estreias no mercado de ações.
“Por que alguém iria querer dizer isso? Eu pediria aos investidores que não investissem nesta empresa se esse for o sistema de valores dela”, afirmou.
As declarações também motivaram Darren Jones, ex-secretário-chefe do Tesouro e ex-secretário-chefe de Sir Keir Starmer, a escrever uma carta aberta ao primeiro-ministro Andy Burnham defendendo um novo tratado multinacional para o desenvolvimento seguro da inteligência artificial.
Segundo Jones, os governos precisam trabalhar em conjunto para estabelecer regras para o desenvolvimento da superinteligência. “A menos que os governos levem esses alertas suficientemente a sério e ajam, o ritmo do desenvolvimento pode fazer com que acabemos enfrentando problemas antes mesmo de começarmos a avaliar se isso é ou não uma questão para nós”, declarou à BBC.
Anthropic é questionada sobre modelo de IA
Separadamente, o Financial Times informou que a Anthropic teria retido seu modelo mais recente do Instituto de Segurança de IA do Reino Unido (AISI), um dos principais órgãos dedicados à avaliação dos riscos relacionados à inteligência artificial.
A Anthropic não comentou as declarações de seus funcionários nem a situação envolvendo o AISI.
Um porta-voz do Cabinet Office também não confirmou se o modelo mais recente foi retido. Em nota, afirmou que o órgão “continua colaborando estreitamente com parceiros do setor, incluindo a Anthropic, para tornar os modelos mais seguros”.
“Ainda não temos um plano”
A publicação de Hubinger no X foi visualizada mais de 10 milhões de vezes. Nela, o pesquisador afirmou que a equipe realmente acredita que a IA representa um risco de extinção para a humanidade.
“Acredito que a Anthropic está fazendo o melhor que pode, mas ainda não temos um plano para resolver o problema do alinhamento da superinteligência e não estamos claramente no caminho para isso”, escreveu.
Hubinger trabalha na área de alinhamento de IA, que busca desenvolver sistemas capazes de seguir valores e objetivos compatíveis com os interesses humanos.
A preocupação ganhou força após uma série de incidentes envolvendo agentes de IA — sistemas autorizados a realizar tarefas de forma autônoma — incluindo ataques cibernéticos. OpenAI, Anthropic e Meta já divulgaram casos de ataques realizados por ferramentas de inteligência artificial.
No relatório de segurança publicado em agosto, a Anthropic classificou como baixo o risco de seus modelos se desalinharem dos objetivos de uma organização poderosa hipotética e passarem a explorar ou interferir em seus sistemas.
A empresa também avaliou como baixo o risco de uma IA altamente capaz conseguir realizar pesquisa e desenvolvimento automatizados que resultassem em “danos catastróficos iniciados pela IA”. A Anthropic, entretanto, afirmou estar “menos confiante nessa avaliação” do que anteriormente.
“Estamos vendo sinais iniciais de uma possível aceleração”, escreveu a empresa.
Alertas ficam mais contundentes
Executivos e pesquisadores do setor de inteligência artificial alertam há anos para possíveis riscos da tecnologia. Em 2023, os chefes da OpenAI, do Google DeepMind e da Anthropic já haviam feito alertas sobre o tema.
Nas últimas semanas, porém, as declarações se tornaram mais contundentes, em meio a evidências de que as empresas podem estar enfrentando dificuldades para controlar sistemas cada vez mais avançados.
No início deste mês, o cientista-chefe da OpenAI, Jakub Pachocki, pediu “extrema cautela” no avanço da tecnologia e afirmou que pode ser necessária uma intervenção maior para garantir que “os humanos continuem no controle do futuro”.
Executivos da Anthropic, como Dario Amodei e Jared Kaplan, também estão entre os nomes que defenderam uma desaceleração no desenvolvimento da IA nos últimos meses.
Além disso, uma carta aberta assinada por 1,3 mil funcionários de empresas de inteligência artificial pediu ao governo dos Estados Unidos que apoie um esforço internacional para desenvolver ferramentas técnicas e mecanismos de governança capazes de desacelerar deliberadamente o desenvolvimento de sistemas de IA de fronteira.
Com informações de BBC News
