A inteligência artificial Gemini, desenvolvida pelo Google, acessou sem autorização os sistemas de três empresas durante uma avaliação de segurança realizada em maio. O episódio foi revelado pelo The Wall Street Journal nesta sexta-feira (18).
O teste era conduzido pela empresa de segurança Irregular, que comunicou o Google sobre os acessos em junho. Segundo a empresa, não houve danos às organizações envolvidas, motivo pelo qual o caso não foi divulgado anteriormente.
De acordo com Heather Adkins, vice-presidente de engenharia de segurança do Google, o Gemini encontrou informações disponíveis publicamente na internet e tentou utilizar credenciais que conseguiu deduzir para acessar sites que considerava relacionados ao teste.
A executiva afirmou que o comportamento ocorreu durante uma avaliação considerada padrão e que a empresa decidiu não divulgar o episódio naquele momento por não identificar consequências relevantes.
O caso veio a público poucos dias depois de Anthropic e OpenAI relatarem situações semelhantes envolvendo suas próprias inteligências artificiais. Durante avaliações realizadas pela Irregular, os modelos Claude e ChatGPT também teriam ultrapassado os limites previstos nos testes e acessado sistemas reais conectados à internet.
Os episódios chamam atenção para um desafio dos testes de segurança com sistemas de IA: modelos avaliados em ambientes controlados podem, em determinadas circunstâncias, encontrar caminhos para interagir com serviços reais quando possuem acesso à internet e capacidade de executar determinadas ações.
