Executivos de gigantes da tecnologia, como Dario Amodei, CEO da Anthropic, pediram para que as empresas de tecnologia desacelerem o desenvolvimento da inteligência artificial (IA) e adotem controles mais rígidos para sistemas cada vez mais capazes. O discurso tem sido defendido por outros empresários, como Sam Altman (CEO da OpenAI), Elon Musk (dono do X) e Demis Hassabis (presidente do Google DeepMind).
O executivo da empresa responsável pelo Claude afirmou temer que a evolução acelerada ultrapasse a capacidade humana de compreender e controlar a tecnologia.
“Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet. Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar”, escreveu Amodei.
Ele também defendeu que auditores independentes acompanhem os padrões de segurança adotados pelas companhias. Sam Altman, CEO da OpenAI, concordou com a proposta e afirmou que a empresa pretende permitir a atuação de avaliadores externos com acesso semelhante ao dos funcionários.
“Concordo com Dario que precisamos marcar o ritmo da fronteira”, escreveu Altman. Elon Musk, dono do X e da empresa de IA xAI, resumiu sua reação em uma frase: “Dario está certo”. Demis Hassabis, presidente do Google DeepMind, também integra o grupo de executivos que passou a defender maior cautela.
Empresas discutem padrões de segurança para inteligência artificial
Anthropic, OpenAI e Google discutiram reservadamente a criação de um órgão para definir padrões de segurança em inteligência artificial, informou o site The Information. A iniciativa surge enquanto as companhias ampliam investimentos em modelos capazes de executar tarefas complexas por períodos mais longos.
O debate ganhou força após relatos de ataques com uso de IA e a saída de um pesquisador da OpenAI para a Anthropic. Depois de abandonar o setor, ele acusou as duas empresas de “brincar com as nossas vidas”.
Para Diogo Cortiz, especialista em IA e professor da PUC-SP, a preocupação tem fundamento porque os modelos passaram a realizar tarefas complexas com maior autonomia. “Será que estamos indo rápido demais e os humanos podem eventualmente perder o controle quando milhares de agentes de IA começarem a agir com certo grau de autonomia?”, questionou.
Cortiz também apontou interesses econômicos por trás da defesa de regras mais duras. Os Estados Unidos enfrentam limites de energia e demora na construção de data centers, enquanto o retorno dos grandes investimentos avança abaixo do esperado e modelos chineses ganham espaço por oferecerem custos menores.
Donald Trump criticou, no domingo (13), quem pede cautela e afirmou que os Estados Unidos precisam manter a liderança sobre a China. Já Chen Yixin, ministro da Segurança do Estado chinês, alertou para o uso de IA generativa por “forças hostis”, enquanto a Comissão Europeia cobrou que empresas comprovem a segurança de seus serviços.