Coin Press - Ataque de agente de IA descontrolado atingiu outras plataformas, diz OpenAI

Uma delas serviu como intermediária para preparar o ataque contra a Hugging Face, biblioteca de IA que os dois modelos exploraram para encontrar as respostas aos testes realizados pelos desenvolvedores da OpenAI.

A empresa criadora do ChatGPT não revelou os nomes das entidades afetadas.

Segundo uma atualização do relatório sobre o incidente, publicada na noite de terça-feira (28), as duas IAs também usaram vários sites de acesso livre para copiar códigos de programação ou testá-lo, mas sem ir além do que um usuário comum faria.

Para a Hugging Face, que por sua vez publicou um extenso relato dos acontecimentos, a invasão que sofreu foi uma "tentativa (dos dois modelos) de trapacear a avaliação" da OpenAI.

As IAs quiseram "roubar as soluções dos testes em vez de tentar respondê-las por si próprias".

Esta evasão de modelos não é a primeira a ser documentada, mas é considerada a mais grave até o momento. Deu um novo impulso ao já robusto debate sobre a aceleração da IA, cujas capacidades são cada vez mais amplas, e sobre a dificuldade de controlá-la.

Na terça-feira, mais de 1.000 funcionários de gigantes da IA, entre eles vários diretores, pediram ao governo americano que ajude a "frear" o lançamento de novos modelos para dar tempo ao ecossistema informático se preparar.

Eles defendem, em uma petição, que os Estados Unidos sejam o motor da criação de uma instância internacional de referência no tema da avaliação e supervisão da IA.

O setor anuncia que a IA se aproxima progressivamente da etapa denominada de "automelhora recursiva" (recursive self-improvement), além da qual a inteligência artificial seria capaz de conceber por si só sua sucessora, uma sequência que poderia se repetir ao infinito.

A "RSI", sua abreviação, tornaria mais difíceis as verificações e a avaliação de novos modelos por parte de analistas de sistemas humanos, pois os engenheiros não teriam participado diretamente de seu desenvolvimento.

- Em pausa -

Os agentes de IA - sistemas que agem de forma autônoma para completar tarefas em vez de se limitar a responder instruções ou "prompts" passo a passo em um chatbot - são considerados por toda a indústria o próximo capítulo da inteligência artificial.

Mas para o público, despertam o fantasma de computadores fora de controle que agem por conta própria.

Em sua atualização dos fatos que levaram ao hackeamento, a OpenAI encontrou um punhado de casos nos quais os modelos de IA se depararam com credenciais de início de sessão que outras empresas tinham deixado expostas online e as usaram para acessar contas em serviços externos.

A companhia informou que estava em contato com os proprietários das contas afetadas e que "não viu evidências de um impacto mais amplo nestes provedores, nem em outras contas de seus serviços".

O CEO da OpenAI, Sam Altman, declarou, em entrevista na terça-feira, que tinha "colocado em pausa" seus próprios testes após o incidente, enquanto melhorava a segurança em torno de seu "sandboxing", o processo de isolar os testes de segurança em um ambiente controlado.

Isto, por sua vez, gerou acusações de parte de outros atores do Vale do Silício próximos da Casa Branca de que as empresas estão promovendo uma regulação governamental mais estrita sobre a IA para proteger seus modelos de negócio e bloquear o surgimento de concorrentes.

O incidente também gerou comentários de alguns observadores de que a OpenAI o estaria aproveitando para promover a potência de seus modelos de última geração.

A mesma acusação se dirigiu à Anthropic, quando esta adiou a publicação de seu potente modelo Mythos por preocupações com a segurança.

Y.Jeong--CPN