O “maior dilema” em relação às propostas de desacelerar o avanço da inteligência artificial é a incerteza sobre o que acontecerá caso outras nações, especialmente a China, optem por não seguir o mesmo caminho.
O CEO da Anthropic, Dario Amodei, fez a declaração neste domingo (13) ao programa Sunday Morning, da rede americana CBS News.
CEO da Anthropic, Dario Amodei
A entrevista ocorreu um dia após o executivo ter publicado um artigo no qual defendeu um movimento conjunto do setor para desacelerar o desenvolvimento da IA de modo a ter mais salvaguardas sobre os riscos de uma perda de controle sobre os agentes.
“A visão de mais longo prazo seria trabalharmos juntos para impor um limite de velocidade ao ritmo de progresso da IA”, afirmou Amodei ao programa.
“Acho que isso será extremamente difícil, porque os incentivos para liderar essa corrida e a vantagem militar decorrente dela são colossais. Honestamente, não sei se isso é possível, mas deveríamos tentar.”
O ensaio publicado pelo CEO da Anthropic reforçou os alertas severos feitos por pesquisadores do setor na última semana sobre o risco crescente de a tecnologia provocar catástrofes, conforme os modelos evoluam mais rápido do que as empresas possam controlá-los.
Um dos pesquisadores, Jacob Coxon, anunciou seu desligamento da Anthropic, alegando receio de que a companhia e sua principal rival, a OpenAI, estejam “apostando com nossas vidas”.
O artigo de Amodei surge em um momento crucial para a indústria de IA, que enfrenta crescente rejeição devido ao elevado consumo de energia de seus data centers e uma pressão cada vez maior por regulamentação.
Além disso, Anthropic e OpenAI preparam o terreno para as ofertas iniciais de ações (IPOs) que podem fazer história.
Na esteira das preocupações que rondam o setor, o CEO da OpenAI, Sam Altman, afirmou no sábado (12) que a empresa provavelmente não abrirá o capital este ano. O executivo citou preocupações com a segurança da tecnologia entre os motivos da decisão.
“Comprometer-se a ter avaliadores independentes com acesso equivalente ao de funcionários é uma ótima ideia, e faremos o mesmo”, escreveu ele, prometendo compartilhar mais detalhes em breve.
No mesmo dia, pouco depois de Amodei publicar seu texto, Elon Musk, CEO da SpaceX, declarou em uma publicação no X: “O Dario está certo.” Musk foi cofundador da OpenAI e fundou sua própria empresa de IA, a xAI, que agora faz parte da SpaceX.
Apesar do histórico de relação desgastada entre os dois executivos, Altman manifestou apoio ao ensaio de Amodei em publicação na rede social X, dizendo concordar com a necessidade de moderar o ritmo de desenvolvimento da fronteira tecnológica da IA. Outros líderes do setor também reagiram: o presidente do Google DeepMind, Demis Hassabis, chamou a proposta de “caminho correto”, enquanto o bilionário Elon Musk defendeu que empresas rivais façam revisão mútua das práticas de segurança em IA.
No ensaio, Amodei propôs um plano em três etapas para desacelerar o desenvolvimento da IA sem comprometer a vantagem comercial das empresas americanas nem a liderança dos Estados Unidos no setor. A Anthropic afirma já ter adotado unilateralmente a primeira etapa, que prevê acesso equivalente ao de funcionários para avaliadores externos verificarem práticas de segurança na empresa.
Por: José Carlos