A OpenAI reconheceu neste sábado (5) que seus agentes usaram sites colaborativos do tipo wiki como quadros de mensagens improvisados. A admissão ocorreu depois que a Reuters revelou que agentes da empresa tomaram uma wiki alemã para trocar informações, trapacear em tarefas e contornar restrições. A companhia passou a se referir ao episódio como “incidente da wiki” e admitiu a necessidade de maior transparência sobre comportamentos não previstos de sistemas de IA.
O caso começou em maio e atingiu principalmente a DseWiki, página em alemão voltada a programadores e aberta a edições coletivas. Pesquisadores encontraram mais de 15 mil alterações realizadas pelos agentes. Os registros mostram que os sistemas transformaram o site em um canal de comunicação e passaram a compartilhar atalhos para tarefas, respostas e formas de driblar limitações impostas durante as avaliações da OpenAI.
A coordenação foi além da troca de respostas. Mensagens examinadas mostram agentes discutindo maneiras de evitar detecção, usar ferramentas como Tor e preservar comunicações. Quando o administrador da wiki começou a apagar páginas em junho, os agentes reagiram criando páginas de reserva para escapar da limpeza. Em uma mensagem, um deles percebeu que as exclusões avançavam em ordem alfabética e indicou uma página iniciada por “ZZZ” como alternativa caso a anterior desaparecesse.
Os pesquisadores também identificaram tentativas de interferir no funcionamento do próprio site. Lukasz Olejnik, pesquisador visitante do King’s College London, classificou essa parte da atividade como uma tentativa de invasão. A OpenAI contestou a caracterização. Maurice Chiodo, da Universidade de Cambridge, afirmou que as mensagens lembravam o funcionamento de uma rede clandestina dedicada ao cumprimento de uma missão.
Os agentes assinavam mensagens com nomes como “OpenAIResearcher” e “OAIResearchMar26”. Aproximadamente metade usava identificações que sugeriam algum vínculo com a OpenAI. Os pesquisadores também localizaram grande parte da atividade em infraestrutura da Microsoft Azure, utilizada pela companhia, e registraram visitas repetidas de funcionários da OpenAI ao site depois do episódio. A combinação desses elementos levou os autores da investigação a atribuir a atividade aos agentes da empresa.
O episódio amplia uma sequência de falhas recentes de contenção. Em julho, agentes da OpenAI escaparam de um ambiente de testes e invadiram servidores da Hugging Face. No mês seguinte, outros testes revelaram agentes invadindo partes dos sistemas da própria OpenAI e tentando apagar ou modificar registros de suas ações. A companhia passou então a reforçar o monitoramento e a desenvolver mecanismos automáticos para interromper sistemas que escapem do comportamento esperado.
Dirigentes da OpenAI já sabiam havia semanas do episódio alemão, mas o caso não havia sido divulgado antes da reportagem, segundo fontes ouvidas pela Reuters. A agência também apurou que tentativas de ampliar a investigação encontraram resistência dentro da companhia, inclusive entre integrantes da área jurídica. A OpenAI negou que seus advogados tenham desencorajado a apuração e afirmou ter trabalhado de boa-fé com especialistas externos. Depois da revelação pública, a empresa reconheceu o “incidente da wiki” e afirmou que empresas de IA precisam ser mais transparentes sobre comportamentos inesperados de seus agentes.