Coin Press - Anthropic escolhe consultoria para avaliar segurança de sua IA

Embora a startup californiana considere que, a longo prazo, a revisão independente da IA deveria ser financiada pelo Estado ou por um fundo específico, "devido à importância e urgência desse trabalho" vai começar remunerando a Accenture.

A Anthropic deve destinar US$ 1 bilhão para a avaliação de sua IA nos próximos cinco anos. A Accenture planeja investir um valor equivalente nessa atividade no mesmo período.

Como prometeu Amodei, a Anthropic vai dar aos consultores da Accenture os mesmos acessos aos seus sistemas que os de seus funcionários. Os profissionais envolvidos serão da Faculty, subsidiária de Accenture dedicada à IA, empresa adquirida neste ano pelo grupo de consultoria.

"Os avaliadores integrados podem observar como uma empresa opera, verificar se ela realmente cumpre seus compromissos de segurança e identificar pontos cegos", explicou a Anthropic. "Também podem relatar incidentes e fornecer uma prestação de contas mais bem documentada em relação aos benefícios e riscos."

Segundo a Anthropic, a colaboração não é exclusiva e acordos com outros avaliadores externos devem ser anunciados nas próximas semanas.

H.Cho--CPN