Foto: Getty Images
Desenvolvedores de inteligência artificial (IA) do Google encontraram recentemente uma misteriosa “caixa preta”.
Os engenheiros estavam trabalhando em um software de IA que inesperadamente ganhou a capacidade de entender um novo idioma.
“Descobrimos que, com muito pouca informação sobre o bengali [a língua oficial de Bangladesh], agora você pode traduzir tudo para esse idioma”, afirmou James Maneka, chefe da divisão de IA do Google, ao programa 60 Minutes da rede de televisão americana CBS.
Ao comentar sobre o assunto, o CEO do Google, Sundar Pichai, disse que essa capacidade dos programas de IA de gerar habilidades ou fornecer respostas de maneiras inesperadas é o que os especialistas chamam de “caixa preta”.
“Você não entende muito bem. Você não pode realmente dizer por que [o robô] disse isso ou por que errou. Temos algumas ideias e nossa capacidade de entender o assunto melhora com o tempo”, apontou.
O desenvolvimento da inteligência artificial acelerou bastante nos últimos anos. Grandes empresas de tecnologia estão investindo somas significativas para criar chatbots —como oBard, do Google, ou o ChatGPT, da OpenAi e da Microsoft.
Mais recentemente, o bilionário Elon Musk anunciou que também entraria nesse ramo.
Ao mesmo tempo, especialistas em IA apontam que essa corrida pode causar riscos se a tecnologia não for controlada pelos desenvolvedores.
Um desses controles é justamente entender como elas aprendem habilidades para as quais não foram treinadas.
E essa é a grande caixa preta desse ramo da tecnologia.
A CAIXA BRANCA
A ideia da caixa preta serve de oposição ao que os especialistas em IA chamam de caixa branca.
Ian Hogarth, cofundador da empresa de tecnologia Plural e autor do livro The Status of AI Reports (“Os Status de Relatórios de IA”, em tradução livre), explica à BBC que, quando os desenvolvedores criam um programa de maneira “tradicional”, as linhas de código inseridas são claramente refletidas no resultado que o software obtém.
“Às vezes as pessoas descrevem isso como uma caixa branca”, diz ele.
“Porém, na IA, os sistemas são realmente muito diferentes. Eles estão mais próximos de uma caixa preta de várias maneiras, porque você realmente não entende o que está acontecendo lá dentro”, acrescenta.
E geralmente os programadores não esperam resultados tão criativos de suas criações.
“Gosto de pensar que nós fazemos o desenvolvimento da IA. Essa é a melhor ideia que ouvi sobre como construímos os sistemas usados hoje. E a parte difícil é que, agora, há grandes saltos nas capacidades deles”, explica ele.
Folha
