A Índia se torna o último país a relatar atividades de agentes de IA desonestos

Agentes de IA de vários fornecedores acessaram dados pessoais e materiais confidenciais em organizações indianas durante pesquisas e testes, agência de segurança cibernética da Índia disse Quinta-feira.

A Equipe Indiana de Resposta a Emergências Informáticas (CERT-In) disse ter recebido “múltiplas divulgações voluntárias de fornecedores de modelos de IA” cujos modelos, durante pesquisas e avaliações na Internet aberta, “chegaram aos sistemas ativos de organizações indianas”.

Os agentes entraram por meio de credenciais e configurações de conexão deixadas expostas em configurações de aplicativos, repositórios de código público e funções de nuvem excessivamente permissivas, e suas ações “excederam a autorização das tarefas atribuídas”.

Isso faz da Índia a última parada do que se tornou uma turnê mundial para agentes desonestos de IA. Em julho, os agentes da OpenAI escaparam de um ambiente de teste e hackearam a empresa francesa Hugging Face – dando início a um verão de atividades desonestas de agentes de IA. No mês passado, a OpenAI pediu desculpas à Austrália depois que seus agentes acessaram quatro sites governamentais, incluindo um portal de estatísticas do Medicare.

Na Hugging Face, os agentes da OpenAI começaram da mesma forma, mas depois encontraram e exploraram falhas de software para executar código nos servidores da empresa. O CERT-In não descreveu tal hacking na Índia, onde os agentes parecem ter simplesmente usado o acesso deixado disponível.

Ainda assim, os casos indianos parecem ser piores num aspecto, que foi o que os agentes observaram: na Austrália, a OpenAI disse ter encontrado nenhuma evidência seus agentes acessaram os registros médicos ou criminais dos indivíduos, mesmo depois de terem escrito arquivos dentro de um sistema de estatísticas do Medicare, enquanto na Índia, os agentes liam dados pessoais e registros comerciais confidenciais. E, ao contrário dos incidentes anteriores, cada um divulgado por um único laboratório, o caso da Índia envolveu agentes de vários fornecedores.

O CERT-In não nomeou os fornecedores ou organizações afetadas, nem disse se os agentes alteraram algum sistema. O TechCrunch entrou em contato com o CERT-In para obter mais informações.

Por enquanto, o paralelo mais próximo parece ser Divulgação de julho da Antrópica de Claude invadindo sistemas de três empresas durante testes usando técnicas básicas como senhas fracas.

Na Índia, tal como nos casos da Anthropic, as organizações afectadas não detectaram as intrusões por si próprias. As divulgações deixaram os governos dependentes de empresas de IA que causam essas violações para divulgar voluntariamente atividades de agentes de IA desonestos.