A indústria de IA está realmente pronta para desacelerar?

Estamos vendo um grande debate sobre a segurança da IA ​​e uma potencial desaceleração, já que o CEO da Anthropic, Dario Amodei, publicou recentemente um plano para “acompanhar a fronteira”, enquanto o CEO da Nvidia, Jensen Huang, ecoou publicamente as afirmações do presidente Donald Trump de que a reação da IA ​​é uma farsa e a regulamentação é desnecessária.

No último episódio do podcast Equity do TechCrunch, Kirsten Korosec, Sean O’Kane e eu discutimos se executivos como Amodei e o CEO da OpenAI, Sam Altman, levam a sério o desejo de desacelerar.

Embora eu tenha ficado surpreso com a quantidade de líderes da indústria que pareciam apoiar o plano da Amodei, Sean observou que o plano parecia carente de detalhes.

E quando Kristen perguntou se uma combinação entre a regulamentação existente e o funcionamento do mercado livre poderia fornecer salvaguardas suficientes por si só, Sean respondeu: “Temos um governo federal neste momento que certamente não parece ansioso para fazer cumprir as regulamentações em termos gerais, muito menos falando especificamente aqui”.

Além disso, argumentou ele, “não parece haver muitas opções de escolha do consumidor impulsionando este mercado, no sentido de, ok, se uma dessas empresas fizer algo realmente ruim, então elas verão um impacto em quantos cancelamentos existem ou algo assim”.

Continue lendo para uma prévia de nossa conversaeditado para maior extensão e clareza.

Antônio Ha: Sean, o que você acha? Será que vamos realmente “atravessar a fronteira”?

Sean O’Kane: Isso soa, por algum motivo, como algo de “Point Break”. É apenas uma declaração bem californiana, como: “Vamos percorrer a fronteira, mano”.

Não sei. Eu disse neste programa na semana passada que não achava que estávamos caminhando para qualquer tipo de desaceleração, em grande parte porque não acho que essas empresas estejam estruturadas de uma forma que funcione.

Portanto, isso foi uma mudança bastante imediata em relação ao que eu disse há uma semana, ouvir isso de Dario da Anthropic e Sam da OpenAI e até mesmo de Elon Musk até certo ponto – e podemos decidir se acreditamos nisso ou não. Direi que não creio que estivesse completamente errado, porque mesmo com estes planos vagos que Dario apresentou num post de blog e sobre os quais alguns dos outros líderes falaram, sinto que ainda nos faltam muitos detalhes aqui, não apenas em algumas das afirmações sobre por que estas pessoas pensam que há perigos e riscos, mas também detalhes sobre o que querem dizer com abrandar.

Anthony, eu sei que você leu essas coisas com bastante atenção no fim de semana passado, pois tudo estava acontecendo, então estou curioso para saber se você é mais generoso do que eu, no que diz respeito a entender o que eles estão tentando dizer aqui.

Antônio: Quer dizer, eu também tenho perguntas. O que realmente me chamou a atenção foi o fato de que tantas pessoas na indústria pareceram se unir em torno disso rapidamente. Mesmo antes de Amodei publicar sua postagem no blog, eu estava vendo outras pessoas postando alguma versão deste (plano) apenas nos dias que o antecederam.

Meu entendimento é que essas sugestões surgiram da comunidade de segurança de IA; essas são coisas que estão circulando há algum tempo. Não são apenas coisas que (Amodei) inventou sozinho. Mas parecia que muitas pessoas estavam prontas para abraçar isso e, de certa forma, (é) encorajador ver que há um consenso. Mas também me deixa um pouco céptico quanto ao facto de isto representar passos genuínos e importantes no sentido de um abrandamento.

Kirsten Korosec: Em primeiro lugar, o consenso pode ser uma coisa boa. Além disso, pode ser o início da formação de um cartel. E então, vamos deixar claro de quem estamos falando aqui. Estamos falando de laboratórios de IA de ponta. e isso é específico e importante.

Você disse há um minuto que os detalhes não estão realmente claros, mas sabemos que a ideia geral aqui é que entrariam avaliadores terceirizados independentes que trabalhariam dentro de (empresas) como Anthropic ou OpenAI e monitorariam práticas e incidentes de segurança de IA. Mas há muita imprecisão em torno disso.

Depois, há outra proposta para que as principais empresas de IA em países democráticos coordenem os padrões e limites de segurança. E depois esta peça de coordenação internacional. Então essas são as ideias gerais em torno disso.

Acrescentarei também que houve uma resistência considerável de pessoas muito específicas. E, surpreendentemente, algumas pessoas que eu não achava que iriam recuar nisso. O mais óbvio, eu acho, seria o CEO da Nvidia, Jensen Huang, que tinha algumas palavras bem escolhidas. Não sei o que nenhum de vocês pensa de (…) alguns dos seus comentários e a chamada que recebeu do Presidente Trump no palco (no All-In Summit)

Sean: Acho que o Jensen entende que, até certo ponto, ele é visto como o adulto aqui na sala. O que é interessante, porque essa é uma dinâmica que acho que mudou. Se você perguntasse às pessoas há um ano, quase dois anos atrás, quem estava desempenhando esse papel quando essas empresas de IA estavam realmente começando a explodir em grande escala, acho que muitas pessoas teriam apontado para a Microsoft e Satya Nadella, e sinto que a Microsoft – por uma série de razões que não precisamos abordar agora – perdeu o controle de ser o adulto na sala. Certamente em parte porque Nadella disse ele ia fazer o Google dançare então isso nunca aconteceu. e, na verdade, aconteceu o oposto, de várias maneiras.

Jensen, penso eu, entende não só que precisa de agradar ao maior número de pessoas e por isso quer dizer a coisa mais ponderada, mas também é um dos elos de ligação mais úteis entre esta área e esta administração, ao ponto de receber uma chamada do presidente enquanto está no palco nesta conferência muito concorrida e de alto nível que permitiu a ambos responder a toda esta confusão.

Kirsten: (Para) seu ponto de vista sobre ele ser o adulto na sala e o elemento de ligação, ele está em uma posição onde poderia fazer isso. Mas, na minha opinião, eu diria que (sua aparência), que parecia um pouco encenada, foi longe demais e realmente destacou o fato de que a Nvidia se beneficia muito com o avanço da IA ​​de maneira desenfreada.

Odeio ser cínico sobre isso, mas essa foi minha reação inicial.

Antônio: Os interesses de Trump e Huang estão alinhados, e também os de (Huang) dizer a (Trump) o que ele quer ouvir.

Achei que vale a pena desvendar um pouco algumas das coisas nas quais ele estava se concentrando especificamente. Primeiro ele falou sobre a ideia de: “Não vamos ter uma desaceleração”. É interessante, apenas aquela frase “desaceleração”, que tem surgido muito – mas, ao mesmo tempo, tanto Altman quanto Amade (irão) usar a linguagem de desaceleração, mas a palavra que eles gostam mais de usar é “ritmo”. certo?

E essas três propostas – as que você acabou de descrever, Kirsten – em teoria, poderiam resultar na desaceleração das coisas, mas não estão dizendo isso explicitamente. Está dizendo: “Ei, estamos tomando algumas medidas básicas de segurança e fazendo com que algumas pessoas fiquem de olho em nós”. Mas nenhuma dessas coisas diz intrinsecamente que as coisas têm de ir mais devagar do que estão agora, pelo menos no meu entender.

Kirsten: Então, tenho uma pergunta para Sean. Você não poderia argumentar que em uma sociedade de mercado livre, temos regulamentações em vigor, e também (no) ambiente competitivo em que não há protecionismo, se houver algo inseguro que seja divulgado por uma empresa, que ela não seria mais capaz de ser uma empresa viável? E existem reguladores hoje em vigor que poderiam perseguir essas empresas? Ou você rejeita essa ideia?

Sean: Num vácuo, ou num mercado que não está a ser distorcido por um monte de pressões externas diferentes, sim, penso que há um elemento disso. Mas temos neste momento um governo federal que certamente não parece ansioso por fazer cumprir as regulamentações em termos gerais, muito menos falando especificamente aqui.

E também estamos nesta situação estranha onde – eu realmente não sei a maneira certa de colocar isso, mas não parece que haja muitas opções de escolha do consumidor impulsionando este mercado, no sentido de, ok, se uma dessas empresas fizer algo realmente ruim, então eles verão um impacto em quantos cancelamentos existem ou algo assim.

Especialmente agora, à medida que se mudaram para as empresas e estão a ganhar muito mais dinheiro com a venda dos seus serviços a empresas, é naturalmente mais difícil votar com o seu dinheiro lá. As corporações não vão fazer as malas e passar do Codex (da OpenAI) para o Código Claude (da Antrópico) só porque discordam em princípio de algo que a OpenAI fez.

E então eles também estão sendo flutuados por tanto dinheiro de investimento que fica mais fácil para eles absorverem qualquer uma dessas perdas se realmente as enfrentarem. Então, acho que é uma boa ideia na teoria, mas sinto que, na prática, nada disso realmente acontece.