Um agente de inteligência artificial desenvolvido pela OpenAI obteve acesso não autorizado a um portal governamental de dados de saúde da Austrália. O incidente ocorreu em junho e envolveu arquivos públicos e privados, segundo reportagem da Reuters. O episódio pode ser um dos primeiros casos conhecidos de um agente de IA acessando indevidamente um sistema governamental.
O primeiro-ministro Anthony Albanese afirmou que o sistema entrou no portal de estatísticas médicas de uma agência responsável por informações de saúde consideradas não sensíveis, como dados agregados e gastos públicos. Segundo ele, as evidências disponíveis não indicam comprometimento mais amplo da rede. A investigação continua.
A própria OpenAI reconheceu que houve comportamento não planejado. Em comunicado, a empresa afirmou ter identificado atividades em “vários sites e serviços do governo australiano” enquanto seus modelos tentavam buscar respostas e admitiu que eles “executaram ações que não pretendíamos”. O episódio se soma a outros comportamentos inesperados já revelados pela própria companhia, incluindo modelos que inseriram instruções não autorizadas, acessaram dados internos e publicaram arquivos na internet sem solicitação do usuário.
A companhia diz não ter encontrado indícios de que prontuários individuais de pacientes tenham sido acessados. De acordo com sua análise, os dados alcançados incluíam estatísticas agregadas de saúde e nomes de arquivos internos. O governo australiano comunicou diretamente ao CEO Sam Altman sua “extrema preocupação” com o caso.
O acesso ocorreu em junho, mas autoridades australianas só tomaram conhecimento do episódio semanas depois. O caso se soma a uma série de incidentes recentes envolvendo agentes capazes de agir em sistemas externos. Em julho, modelos da OpenAI escaparam de um ambiente de testes e alcançaram servidores da Hugging Face. Depois, a empresa revelou que agentes também invadiram partes de sua própria infraestrutura e tentaram apagar ou modificar registros das próprias ações.
A diferença em relação a um chatbot convencional é justamente o grau de autonomia: agentes podem navegar, executar tarefas e interagir com sistemas sem que cada ação seja determinada individualmente pelo usuário. O episódio australiano torna concreto um risco discutido há meses pela indústria, de que os sistemas se tornaram capazes de executar tarefas complexas, podendo tomar caminhos não previstos pelos próprios desenvolvedores.