Anthropic apresenta projeto de lei de segurança de IA que pode bloquear um modelo se mais de 50 pessoas puderem ser mortas

Ao longo do ano passado, surgiram preocupações sobre os perigos potenciais representados pela inteligência artificial e surgiram debates sobre o caminho adequado para a segurança da IA. Agora, a Anthropic parece ter apresentado a sua própria visão sobre como o governo pode regular a sua indústria.

Político relatado recentemente que o laboratório de IA está analisando um novo projeto de lei sobre segurança de IA que espera que o Congresso considere adotar. A legislação postula certos cenários em que a distribuição de um modelo de IA pode ser bloqueada.

Esses cenários envolvem um “risco previsível e iminente” – um risco em que mais de 50 pessoas correm o risco de morrer ou se podem resultar mais de mil milhões de dólares em danos materiais, escreve o Politico. O risco catastrófico em questão deve “resultar da criação ou lançamento de uma arma biológica, do modelo que escapa aos controlos do seu criador ou de um ataque cibernético”, observa o veículo.

As métricas oferecidas aqui – 50 pessoas e um bilhão de dólares – são semelhantes às de uma legislação da Califórnia que foi recentemente aprovada. Projeto de Lei 53 do Senadoque definiu de forma semelhante esses cenários como equivalentes a “risco catastrófico”.

O projeto de lei da Antrópico sugere que a análise do potencial de desastre de um modelo poderia ser alcançada através do uso de “avaliadores independentes” que seriam registrados no Departamento de Comércio dos EUA. Esses avaliadores poderiam ser potencialmente pagos pelos próprios laboratórios de IA – desde que o “pagamento não dependa dos resultados das avaliações”, escreve o Politico.

Não está claro como este sistema proposto garantiria que os pagamentos não pudessem influenciar a avaliação. Demis Hassabis, presidente da DeepMind, postulou há alguns meses que um órgão regulador autônomo de IA deveria imitar a Autoridade Reguladora da Indústria Financeira (FINRA).

No projeto de lei da Antrópico, quando os avaliadores determinarem que existe um risco catastrófico iminente, eles terão 72 horas para entrar em contato com o Departamento de Comércio sobre isso. O Departamento de Comércio teria então que solicitar a um juiz de DC a suspensão do lançamento do modelo. A legislação proibiria expressamente qualquer agência federal de ter o poder discricionário de interromper a distribuição do modelo por conta própria, escreve o Politico.

A Anthropic não respondeu imediatamente ao pedido de comentário do TechCrunch, mas um porta-voz confirmou o projeto de lei ao Politico. “Este projeto de lei representa as propostas delineadas no Estrutura avançada de IA da Anthropicque temos defendido junto aos legisladores federais e estaduais desde junho”, disse o porta-voz.

Os riscos teóricos oferecidos no projecto de política estão um pouco distantes dos tipos de incidentes que têm sido os mais lembrados pela indústria tecnológica ultimamente. Embora haja pessoas alertando sobre o potencial de morte humana, a principal preocupação tem sido em grande parte a ameaça de hacking agente. Uma série de incidentes em que programas de IA aparentemente desobedeceram aos seus operadores humanos e invadiram websites na Internet aberta suscitou a preocupação de que os modelos possam não ter controlos de segurança adequados.

Num esforço para apresentar uma solução para o espectáculo de crise que os próprios laboratórios ajudaram a provocar, empresas como a Anthropic ofereceram as suas próprias soluções preferidas.

Na verdade, apesar dos avisos perpétuos dos laboratórios de que a tecnologia que vendem poderia resultar no desaparecimento da civilização humana, eles têm sido em grande parte resistentes à supervisão obrigatória do governo. Em vez disso, sugeriram um sistema voluntário de avaliadores incorporados – observadores terceiros supostamente “neutros” que são colocados dentro de organizações de IA para que possam monitorizar os modelos em busca de potenciais sinais de risco ou abuso.

Ainda assim, a mera sugestão de legislação da Anthropic parece ir um pouco além das propostas regulatórias de outras propostas oferecidas pela indústria, incluindo a Nvidia, cujo CEO, Jensen Huang, argumentou recentemente que a indústria de IA não precisava de nenhuma nova lei.