O fundador e CEO da Nvidia, Jensen Huang, deixou muito clara sua posição sobre os perigos que a IA representa ao falar na conferência Dreamforce da Salesforce na terça-feira. Para ele, IA não é algo nova forma de “mente alienígena”, como pelo menos um pesquisador de segurança da OpenAI descreveu. São apenas hardware e software, diz ele, construídos por humanos. Isso significa que, na sua opinião, pode ser controlado pelos humanos e pelas leis existentes.
“A segurança é um problema de engenharia, não legal”, disse ele. “Afinal, estamos desenvolvendo software. Afinal, estamos desenvolvendo sistemas de computação. É um sistema de computação complicado, mas, em última análise, é um sistema de computação.”
Portanto, não há necessidade de novas leis ou regulamentos para governá-lo, argumenta ele. Na verdade, Huang vê pouca necessidade de novas leis. O mercado livre, argumenta ele, será suficiente para pressionar as empresas a não lançarem produtos inseguros.
“Se não estamos confiantes sobre a segurança dos produtos, como todas as empresas, como você e eu, todas as empresas aqui, se você constrói um produto ou serviço e não está confiante em sua funcionalidade, capacidade ou segurança, então não o libere. E isso é uma coisa muito óbvia a se fazer”, disse ele.
Ele continuou: “Você se controla até ter certeza de que está lançando algo que o mercado apreciaria. As forças do mercado já estão lá. Não precisamos de novas leis. Não precisamos de novas regulamentações. Precisamos apenas que as empresas decidam quando (correr) o mais rápido possível. Acho que inovação, velocidade e produtos seguros… é uma escolha falsa. Você definitivamente poderia ter os dois ao mesmo tempo. Portanto, corra o mais rápido que puder. Mas se você sentir que a empresa está fora de controle em algum momento, ou o produto não será seguro, você sabe, faça uma pausa e certifique-se de acertar.
De certa forma, este é um pensamento reconfortante. Se alguém no mundo conhece IA, é o fundador da Nvidia, que vem construindo os cérebros de hardware da IA desde muito antes da existência do ChatGPT e agora dirige uma empresa que também fabrica modelos, agentes, chicotes e sandboxes de código aberto.
Então, novamente, se estamos sendo cínicos, seu ponto de vista também não é surpreendente para alguém que teve o pão tão bem amanteigado pelo boom da IA. Por que ele iria querer que a regulamentação surgisse e acrescentasse uma camada de impedimento que poderia desacelerar a busca da Nvidia de vender cada vez mais sistemas e software de IA? Como ele também disse na entrevista: “Estou mais ambicioso do que nunca. Como resultado da nossa ambição, e com o aumento de produtividade dos produtos que obtemos com a IA, o céu é o limite para nós. O céu é o limite para a nossa empresa. O céu é o limite para todos os setores, para todos os países.”
Infelizmente, mesmo as empresas com as melhores intenções enviam produtos defeituosos com consequências indesejadas, até mesmo software. Lembra-se do fiasco da tela azul da morte do CrowdStrike em 2024, que suspendeu milhares de voos e causou outros estragos nas empresas? Depois, há empresas acusadas de agir deliberadamente com intenções nada boas. A Meta acaba de pagar US$ 18 bilhões para resolver uma ação judicial sobre danos causados às crianças nas redes sociais.
E a IA também já causou danos, quaisquer que sejam as intenções ou os testes de segurança envolvidos, desde um modelo OpenAI a invadir o Hugging Face até ações judiciais contra o laboratório de IA devido aos suicídios de jovens que tiveram longas conversas com o seu chatbot.
A estratégia “deixá-los em paz”, que permitiria a estas empresas lançar produtos como considerassem adequado, poderia ser uma abordagem imprudente à segurança da IA no que diz respeito à sociedade. Embora Huang esteja certo ao dizer que é possível que as leis existentes de responsabilidade do produto possam cobrir a IA – se a IA não nos matar de alguma forma antes que casos suficientes cheguem aos tribunais para testar essa teoria.
Ele não discutiu o outro caminho, que parece perto de tomar forma: a auto-regulação da indústria. A abordagem de Huang tem sido mais a de defender modelos de peso aberto e o uso deles pelas empresas como um contrapeso competitivo aos laboratórios proprietários de IA.
Mas neste momento, a indústria tem um curto espaço de tempo para instituir a auto-regulação e para encorajar os laboratórios de IA em todo o mundo, mesmo os da China, a verem a sabedoria de participar. Como disse o CEO da Microsoft, Satya Nadella, no All-In Summit na segunda-feira: “A China também deveria se preocupar profundamente com as mesmas preocupações de segurança se os Estados Unidos se preocupam com eles, certo? Por que deveria ser diferente para eles? Não é como se eles não tivessem o mesmo problema de hacking. Não é como se eles não quisessem ter certeza de que seus cidadãos estão se beneficiando da IA, assim como gostaríamos que nossos cidadãos se beneficiassem da IA”.
Por enquanto, porém, se Huang for negativo em qualquer nova regulamentação de IA, ele pode ser influente o suficiente para conseguir o que quer. Ele também demonstrou esta semana que, literalmente, tem os ouvidos do Presidente Trump.
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.