Temos visto avisos cada vez mais terríveis de pesquisadores de IA sobre os perigos da inteligência artificial, e até mesmo comentários do CEO da OpenAI, Sam Altman, de que talvez seja hora de “acompanhar” o desenvolvimento da IA. Mas como seria isso realmente?
Em uma nova postagem no blogo CEO da Anthropic, Dario Amodei, não apenas repetiu o apelo para “avançar na fronteira”, mas também delineou três estratégias amplas para fazê-lo. E ele disse que a Anthropic está “comprometida unilateralmente” com um deles, com Altman intervindo para dizer que a OpenAI seguirá o exemplo.
O debate sobre a segurança e o alinhamento da IA intensificou-se esta semana depois do investigador Jacob Coxon ter escrito que se demitiu da Anthropic devido a preocupações de que as principais empresas de IA estejam a “jogar com as nossas vidas”, enquanto as pessoas que constroem a tecnologia “acreditam sinceramente que poderá matar-nos a todos até ao final da década”, afirma uma afirmação. repetido por outros na Anthropic.
A postagem de Amodei não menciona explicitamente a renúncia de Coxon ou suas preocupações, mas o CEO escreveu que duas coisas o convenceram de que é hora de adotar uma abordagem mais cautelosa ao desenvolvimento de IA: o hack OpenAI-HuggingFace e o fato de que “a IA tem avançado drasticamente mais rápido” nos últimos meses, particularmente com sua “capacidade crescente de construir a próxima geração de IA”.
“Devemos diminuir o ritmo com que melhoramos as capacidades dos modelos de IA”, escreveu Amodei. “O progresso ainda parecerá rápido e devemos usar sabiamente o tempo que ganhamos.”
Outros executivos de IA parecem ter reagido positivamente à postagem de Amodei, com Escrita de Altman“Concordo com Dario que precisamos avançar na fronteira. Este tem sido o principal tópico das discussões que tivemos na OpenAI nas últimas semanas.” E CEO da SpaceX Elon Musk postou“Dário está certo.”
O primeiro passo proposto pela Amodei envolveria “avaliadores integrados” de organizações terceirizadas como METRO — avaliadores que podem verificar se as empresas de IA estão realmente seguindo o seu ritmo e compromissos de segurança e também podem garantir que os incidentes de segurança sejam relatados. (A OpenAI foi recentemente criticada por não relatar um incidente em que seus agentes de IA assumiram o controle de um fórum wiki alemão.)
Amodei comparou esses avaliadores a reguladores que foram integrados a funcionários de bancos e disse que convidá-los é “algo com o qual a Anthropic está se comprometendo unilateralmente (e apela aos governos para que exijam que outras empresas fronteiriças se igualem)”. Isso significa dar aos avaliadores crachás, mesas e laptops da empresa e fornecer acesso “em grande parte comparável ao que as equipes internas de avaliação de risco têm”, com exceções quando exigido por lei ou contratos.
Altman também disse que esta era uma “boa ideia” e disse que a OpenAI faria o mesmo: “Teremos mais para compartilhar em breve”.
Em seguida, Amodei apelou às principais empresas de IA “dentro dos países democráticos” para coordenarem “normas de segurança comuns, bem como limites à taxa de progresso não controlado da IA”.
Essa coordenação pode parecer improvável, porque estas empresas são supostamente preocupado que uma pausa coordenada pudesse levar a um escrutínio antitruste. Amodei aludiu a essa preocupação no seu post, escrevendo que “por razões antitrust, é útil para o governo dos EUA mediar ou pelo menos permitir estas discussões – eles não precisam de participar, mas precisam de emitir uma renúncia restrita para certos tipos de conversas de segurança”.
Amodei também reconheceu o espectro do domínio chinês da IA, que muitas vezes levanta um argumento contra a desaceleração do desenvolvimento. Mas ele disse que se o governo dos EUA e as empresas tecnológicas tomarem medidas como recusar a venda de chips poderosos ou equipamento de produção de semicondutores a empresas chinesas, bem como reprimir a destilação de modelos, poderão “retardar o progresso da China o suficiente para ampliar significativamente a liderança da América ao longo dos próximos 3-5 anos”.
Por último, Amodei apelou à “coordenação global”, onde os Estados Unidos e os seus aliados “tentem coordenar-se com governos autoritários, na medida do possível”. Amodei disse que isso significaria “cooperação com a China” e admitiu que existem “limites rígidos sobre o que pode ser alcançado”, mas ainda sugeriu que poderia haver oportunidades de acordo, mesmo que seja apenas “proibir certos usos estreitos e obviamente perigosos da IA, como usar IA para a produção de armas biológicas ou permitir que os utilizadores o façam”.
Com a disposição anterior de Amodei em reconhecer os perigos potenciais da IA, e com a relativa abertura da empresa a certas formas de regulamentação, alguns impulsionadores da IA já o criticaram como um destruidor, cujos comentários alimentaram a actual reacção negativa da IA. Em resposta, Amodei disse que tentou oferecer uma perspectiva “equilibrada”” e argumentou que a reação é “fundamentalmente uma crise de confiança”, à medida que as pessoas se tornaram céticas em relação às empresas de tecnologia, à indústria tecnológica e ao governo.
Os críticos da indústria também têm sido céticos em relação a esses avisos apocalípticos de IA, sugerindo que eles são uma distração dos danos que a tecnologia já está causando.
O jornalista Brian Merchant, por exemplo, escreveu que ainda não viu “uma documentação credível e passo a passo de como exatamente a IA pode passar da melhoria auto-recursiva da IA para matar todos os seres humanos do planeta”; ele também sugeriu que propostas semelhantes às de Amodei “provavelmente acabariam servindo apenas à Anthropic e à OpenAI; é assim que a captura regulatória se parece em ação”.
Em sua nova postagem, Amodei escreveu que continua “acreditando que a IA pode melhorar enormemente a qualidade da vida humana”.
“Meu desejo de alcançar esses benefícios não diminui”, disse ele. “Mas os benefícios só serão alcançados se construirmos a tecnologia da maneira certa e – desde que utilizemos bem o tempo que ganhamos – vale a pena tomar um cuidado extraordinariamente deliberado para acertar.”
Esta postagem foi atualizada com comentários de Sam Altman e Elon Musk.
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.