O pesquisador britânico Jacob Coxon, que trabalhou na OpenAI e na Anthropic, afirmou nesta segunda-feira (5) que a humanidade pode perder o controle de sistemas de inteligência artificial e que isso poderia levar à extinção humana. Em audiência na Câmara Municipal de Nova York, ele acusou as empresas de avançarem sem salvaguardas suficientes. As declarações foram relatadas pela AP.
Coxon reconheceu que a tecnologia pode trazer grandes benefícios, mas afirmou considerar mais provável uma perda de controle se o desenvolvimento mantiver a trajetória atual. “Não sabemos como impedir que desenvolvam objetivos próprios”, declarou, referindo-se a sistemas que poderiam agir fora das intenções de seus criadores.
O pesquisador criticou a cultura das companhias de tecnologia, que descreveu como uma mentalidade de startup baseada em avançar rapidamente, quebrar coisas e corrigir os problemas depois. Para ele, essa lógica pode servir a um aplicativo de compartilhamento de fotos, mas é inadequada para sistemas com capacidades muito mais amplas.
Diante desse cenário, Coxon pediu uma desaceleração na fronteira tecnológica. Sua proposta é dar aos pesquisadores mais tempo para desenvolver formas de manter os modelos sob controle antes que as empresas avancem para sistemas ainda mais poderosos.
O depoimento retoma o alerta feito por Coxon ao deixar a Anthropic, em setembro. Na ocasião, o ex-integrante da OpenAI afirmou que profissionais envolvidos no desenvolvimento da tecnologia acreditavam que ela poderia ameaçar a sobrevivência humana até o fim da década. Essa previsão expressa a avaliação desses pesquisadores, não uma conclusão de que a extinção ocorrerá.
A audiência também ouviu representantes da OpenAI, Anthropic, Google e Meta. Questionada sobre o risco de um cenário catastrófico, Morgan Dwyer, responsável por assuntos públicos da OpenAI, disse não saber estimá-lo. Acrescentou que riscos de 1%, 10% ou 20% seriam igualmente inaceitáveis.
A presidente da Câmara Municipal, Julie Menin, criticou a resposta. Segundo a reportagem da AFP, ela considerou inadequado afirmar que não se conhece o risco e, ao mesmo tempo, dizer que sua dimensão não importa. O debate colocou em discussão a capacidade das empresas de demonstrar segurança diante dos avanços da inteligência artificial.
