A ‘superinteligência’ e um pacto de segurança não vinculativo podem resolver o problema de imagem da IA?

O presidente Donald Trump recebeu muitos dos maiores nomes da inteligência artificial esta semana – em parte para anunciar que o governo dos EUA não está mais chamando isso de inteligência artificial. Agora é super inteligência.

No último episódio do podcast Equity do TechCrunch, Kirsten Korosec, Sean O’Kane e eu discutimos a motivação por trás da reunião e o efeito que ela poderia ter na indústria de IA. Estávamos todos bastante cépticos quanto ao facto de o “Compromisso Conjunto sobre Responsabilidades Fronteiriças” que os executivos assinaram ter um valor significativo, especialmente porque – como observou Sean – é “profundamente não vinculativo”, pelo menos do ponto de vista jurídico. (Em vez disso, Trump disse que considera isso “moralmente vinculativo”.)

Kirsten sugeriu que o verdadeiro significado da reunião pode ter sido “um esforço de reformulação da marca em torno da IA”. (Um esforço que continuou neste fim de semana com o anúncio de Trump de uma nova Força de Superinteligência.) Para ela, a grande mensagem era: “A IA vai matar-nos, é assustador, vai tirar empregos – mas a superinteligência não vai”.

Continue lendo para uma prévia de nossa conversaeditado para maior extensão e clareza.

Antônio Ha: Oficialmente, por ordem do presidente dos Estados Unidos, não é mais inteligência artificial, é superinteligência. Estávamos conversando sobre isso na semana passada, porque isso é algo que (Trump tem) sugerido – ele não dá dicas, ele tem sido ditado (isso) por um tempo. Mas agora está assinado em ordem executiva. Se você é um representante oficial dos EUA, deveria dizer superinteligência, não inteligência artificial.

E isto também fez parte deste anúncio mais amplo em torno da segurança da IA, o que considero interessante tanto para este pacto que foi anunciado, mas também para o facto de ter acontecido. Parecia ter acontecido muito rapidamente, porque há apenas duas semanas, há uma semana, o Presidente Trump estava a dizer: “Não precisamos de nada disto, precisamos de liderar a IA, não podemos restringi-la de forma alguma, não precisamos de qualquer regulamentação, qualquer pessoa que diga que há algum perigo da IA ​​é essencialmente uma fábrica chinesa ou democrata”. Mesmo assim, todos esses CEOs de IA se reuniram com ele no início desta semana e assinaram este pacto.

Kirsten Korosec: Antes disso, deveríamos dizer que não só houve resistência à regulamentação, e podemos conversar sobre se esta ordem executiva faz alguma dessas coisas – eu diria que não, há um pouco de teatro aí – mas o importante e interessante é que há poucos dias, a Antrópica estava realmente na casa do cachorro, por assim dizer, em termos do que estava acontecendo nos bastidores com o presidente Trump.

Tudo mudou quando o (CEO da Anthropic) Dario Amodei foi convidado para um jantar às 22h. Ele teve uma reunião e, poucos dias depois, tivemos um almoço, e neste almoço, temos praticamente todos os corretores de tecnologia de todas as grandes empresas de tecnologia que existem. Então Mark Zuckerberg estava lá, Jeff Bezos estava lá, Elon Musk estava lá, Dario, claro, estava lá, eles estavam todos lá.

Gostaria de saber se algum de vocês assistiu à coletiva de imprensa que aconteceu depois, sobre a qual houve muitos, muitos memes, por causa do comportamento interessante e engraçado quando você reúne um grupo de CEOs de tecnologia.

Mas acho que minha maior questão para vocês dois é: o que tudo isso significa? E isso significa alguma coisa?

Sean O’Kane: Quanto tempo você tem? Primeiro, claro, eles jantaram, Trump e Dario. Se você ler a entrevista da revista Time que Trump acabou de fazer, seu palpite é tão bom quanto o meu sobre o quão informado ele estava de que aquele jantar iria acontecer, o que é uma realidade estranha de se viver, mas é apenas aquela em que vivemos.

Direi também outra coisa que me deixa cético – surpresa, surpresa – sobre o quão reparada está a relação entre a administração e a Anthropic, é que, por mais que haja claramente pessoas tentando unir esses dois grupos, o Departamento de Defesa ainda está muito inflexível de que a Anthropic é terrível e desperta e é um risco para a segurança nacional. Emil Michael sai no Anthropic dia sim, dia não no X, ao que parece. Acho que ainda há alguma distância apesar de Dario ter aparecido nessa coisa.

No que diz respeito ao acordo e tudo mais, sejamos realistas, eles escreveram mal os Estados Unidos no acordo que todos assinaram. Também é profundamente não vinculativo. Quero dizer, é completamente voluntário. Acho que meu aspecto favorito sobre isso foi que Trump o descreveu como uma citação “moralmente vinculativa”, que é apenas um nível de abstração e terminologia dos quais nunca ouvi antes.

Antônio: Em termos da Antrópico e seu relacionamento com a administração Trump, tem havido muitos relatos, especialmente durante aquela grande explosão com o Departamento de Defesa, de que diferentes partes da Casa Branca tinham relacionamentos diferentes com a Antrópico. O Secretário do Tesouro parecia ser um grande fã, enquanto o Departamento de Defesa – definitivamente não era um grande fã, ou pelo menos insatisfeito com algumas das condições que a Anthropic estava tentando impor ao uso de sua tecnologia.

Nesse sentido, parece que nada mudou necessariamente. Há pessoas na Casa Branca que querem usar a tecnologia da Anthropic, querem que elas sejam envolvidas nessas decisões, e outras que realmente, realmente, realmente, realmente não querem.

Em termos do acordo, não parece muito significativo. O que é significativo é apenas o fato de eles sentirem que vale a pena fazer isso. Conforme indicado pelo fato de terem escrito Estados Unidos incorretamente, parecia que eles se apressaram em juntar tudo isso. (Mas) o facto de este tipo de gesto ser necessário parece significativo, mesmo que eu não ache que o acordo em si vá levar a quaisquer mudanças importantes.

Kirsten: Eu acho que houve uma coisa importante que aconteceu. E para mim, esse é o objetivo, que foi um exercício de reformulação da marca em torno da IA. “A IA vai nos matar, é assustador, vai tirar empregos, mas a superinteligência não.” Esta não é minha crença pessoal. Para mim, essa foi a mensagem.