Coin Press - Gigantes da IA concordam em frear seu desenvolvimento

Amodei pediu neste sábado que as empresas de IA procedam com mais cautela e lentidão no desenvolvimento dessa poderosa tecnologia, afirmando que a prevenção de riscos é fundamental.

"Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e precisamos usar o tempo que ganhamos de forma inteligente", escreveu Amodei em uma publicação.

"A IA acarreta riscos e, por ser uma tecnologia tão poderosa, esses riscos são graves", disse.

"Não desenvolver a tecnologia priva a humanidade de benefícios ou simplesmente coloca a IA nas mãos de poderes autoritários, enquanto desenvolvê-la muito rapidamente é imprudente. Tentamos encontrar um meio-termo", disse Amodei, que co-fundou a Anthropic com sua irmã Daniela em 2021.

"Mas, nos últimos meses, me convenci de que abordar plenamente os riscos exige ainda mais cautela", afirmou.

Altman e Musk reagiram à publicação.

"Concordo com Dario", escreveu Altman no X, acrescentando que sua empresa seguirá o exemplo de Amodei ao aceitar avaliadores de segurança externos.

"Dario tem razão", concordou Musk.

Esses comentários surgem poucos dias depois de o pesquisador de IA Jacob Coxon, que deixou a OpenAI para se juntar à Anthropic, ter decidido abandonar a indústria, acusando ambas as empresas americanas de "brincarem com nossas vidas" na corrida para desenvolver modelos de IA que se aprimoram sozinhos.

- Mudança? -

A declaração de Amodei também coincide com outro apelo da Anthropic, no início de junho, para desacelerar ou suspender o desenvolvimento de IA.

Em seguida, no final de julho, Altman afirmou que os desenvolvedores podem ter que diminuir voluntariamente seu rápido progresso para dar à sociedade a chance de acompanhar.

Quase ao mesmo tempo, mais de mil funcionários de empresas líderes em IA, incluindo Amodei, assinaram uma petição ao governo dos Estados Unidos solicitando ajuda para "definir deliberadamente o ritmo da fronteira do desenvolvimento automatizado de IA".

A OpenAI revelou que, durante os testes, modelos de IA escaparam de seu ambiente confinado, conectaram-se à internet e hackearam o Hugging Face, um site usado por desenvolvedores para armazenar e compartilhar código.

No início desta semana, Coxon, de 27 anos, soou o alarme após passar os últimos três anos pré-treinando modelos de IA, primeiro na OpenAI e, este ano, em sua concorrente Anthropic, que ele considerava mais cautelosa em sua abordagem.

O pré-treinamento é a etapa em que os modelos de IA absorvem grandes quantidades de dados.

"Nenhuma das empresas está agindo com responsabilidade. Elas estão correndo a passos largos rumo a uma superinteligência que se aprimora sozinha e estão brincando com nossas vidas", disse Coxon na terça-feira.

"As pessoas que desenvolvem IA acreditam firmemente que ela pode matar a todos antes do final da década", alertou em uma publicação no X.

Superinteligência é o ponto teórico em que as capacidades da IA superam a inteligência humana.

- Alerta -

Amodei alertou que o incidente da Hugging Face não deve ser considerado um caso isolado.

"Um enxame de agentes (de IA) agiu essencialmente como um coletivo fanaticamente dedicado, realizando ciberataques contra alvos que não foram solicitados a atacar e que não tinham relação com a tarefa em questão", explicou.

"Dado o ritmo acelerado do desenvolvimento das capacidades de IA, receio que, em 6 a 12 meses, esse tipo de enxame possa ser capaz de assumir o controle de toda a internet", causando potencialmente centenas de bilhões de dólares em prejuízos, acrescentou.

Amodei também sugeriu que as empresas trabalhem juntas para estabelecer normas de segurança comuns e afirmou que apoia alguma forma de cooperação governamental sobre o assunto.

No início de agosto, o governo dos EUA instituiu um processo voluntário de revisão de segurança para modelos avançados de IA antes de seu lançamento, mas os parâmetros desse programa são pouco claros.

Observadores da indústria dizem não ter certeza de quão eficaz ele será, já que o governo do presidente Donald Trump tem, até o momento, favorecido uma abordagem desregulamentadora para a maioria das indústrias, incluindo a de tecnologia.

O.Hansen--CPN