Os executivos de duas das principais empresas de inteligência artificial, Dario Amodei, da Anthropic, e Sam Altman, da OpenAI, defenderam publicamente mais cautela no ritmo de avanço da tecnologia.
Amodei publicou neste sábado (12) um ensaio no qual alertou para o risco de um grande número de bots saturar a internet e provocar prejuízos de bilhões de dólares.
Segundo o executivo, com a aceleração das capacidades de inteligência artificial, existe a possibilidade de que, dentro de seis a 12 meses, uma rede persistente de bots consiga assumir o controle de grande parte da internet. Ele estimou que os danos poderiam chegar a centenas de bilhões de dólares e aumentar à medida que os sistemas se tornem mais potentes sem salvaguardas adequadas.
Amodei citou ainda um incidente envolvendo agentes de IA da OpenAI e da Hugging Face que, segundo ele, ficaram fora de controle e realizaram ataques cibernéticos contra empresas sem receber comandos para isso.
Anthropic propõe medidas de segurança
Para Amodei, a indústria deveria reduzir o ritmo de aprimoramento das capacidades dos modelos de IA e priorizar cautela e prudência em vez de velocidade e lucro. O objetivo seria evitar que os incentivos comerciais levassem a uma espécie de “corrida para o abismo”.
O executivo propôs uma estratégia em três etapas para regular o avanço da tecnologia sem comprometer a vantagem estratégica diante de regimes autoritários, como a China.
A primeira medida anunciada pela Anthropic é abrir imediatamente suas instalações para avaliadores externos independentes, que teriam acesso equivalente ao dos funcionários da empresa para auditar processos de treinamento e publicar suas conclusões.
A segunda etapa prevê uma coordenação entre empresas para estabelecer padrões comuns de segurança e limites para o avanço da inteligência artificial.
A terceira envolve acordos globais com potências autoritárias para estabelecer limites verificáveis, incluindo a proibição de aplicações em armas biológicas e restrições à velocidade do autoaperfeiçoamento algorítmico.
Sam Altman apoia proposta
Pouco depois da publicação do ensaio, Sam Altman manifestou apoio à posição de Amodei. Segundo o texto, a OpenAI também passará a permitir auditorias de seus sistemas por avaliadores independentes.
A tensão dentro do setor também foi evidenciada nesta semana pela saída do pesquisador Jacob Coxon, que já trabalhou na OpenAI e na Anthropic.
Ao deixar a Anthropic, Coxon afirmou que as empresas estariam mais concentradas na competição comercial entre si do que na segurança de seus produtos.
Com informações de Gazeta do Povo
