O pesquisador britânico Jacob Coxon pediu demissão da Anthropic e alertou que a corrida para criar uma inteligência artificial (IA) capaz de se aperfeiçoar sozinha pode destruir a humanidade até o fim da década. Ex-integrante também da OpenAI, ele afirmou que as duas empresas estão “apostando” com o futuro humano.
Coxon afirmou que profissionais envolvidos no desenvolvimento desses sistemas acreditam, de forma sincera, que a tecnologia pode matar toda a população mundial nos próximos anos. “Isto não é uma jogada de marketing”, disse o pesquisador de 27 anos.
Ele afirmou que pessoas fora dos grandes laboratórios subestimam a velocidade do avanço tecnológico. Na avaliação de Coxon, os próximos sistemas serão sobre-humanos, poderão invadir sistemas digitais, acelerar descobertas em diversas áreas e obter recursos e poder reais.
A saída dele ocorre enquanto a Anthropic, que apresenta a segurança como uma de suas principais bandeiras, se prepara para uma possível oferta pública inicial de ações. A operação pode avaliar a empresa em US$ 1 trilhão.
Cientista da Anthropic fala em risco acima de 10%
Evan Hubinger, líder da área de ciência do alinhamento da Anthropic e colega de Coxon, endossou o alerta. Ele escreveu que acredita haver mais de 10% de chance de uma extinção em massa na próxima década provocada por sistemas de IA.
Hubinger disse que os modelos atualmente disponíveis têm risco baixo, mas demonstrou preocupação com ferramentas que consigam se aprimorar sem intervenção humana. Para ele, esse tipo de capacidade avança mais rapidamente do que os pesquisadores esperavam.
O chamado alinhamento busca fazer com que sistemas de inteligência artificial atuem de acordo com intenções e valores humanos. Hubinger afirmou que a Anthropic tenta enfrentar o problema, mas ainda não dispõe de um plano capaz de solucionar o alinhamento de uma superinteligência.
Coxon defendeu a desaceleração da disputa global por modelos mais poderosos e citou a possibilidade de uma proibição temporária de avanços em capacidades desses sistemas. A Anthropic não comentou a demissão, e a OpenAI não respondeu de imediato aos pedidos de posicionamento.