À medida que o mundo da IA muda seu foco para segurança e alinhamento, a Microsoft lança um novo código de conduta de IA destinado a orientar os modelos de IA para longe de comportamentos perigosos.
O documento é de nível mais baixo do que o recente apelo do CEO da Anthropic, Dario Amodei, para avançar na fronteira, concentrando-se nos valores e nas linhas vermelhas que orientam o treinamento de modelos na IA da Microsoft. Ainda assim, o resultado é um guia abrangente sobre como a Microsoft aborda a segurança da IA e como essas ideias são implementadas na prática.
O documento começa com a previsão de que, na próxima década, os sistemas superinteligentes de IA superarão o desempenho humano na maioria das tarefas. “Conter, controlar e alinhar uma força tão poderosa é um dos maiores desafios que a humanidade já enfrentou”, continua o código de conduta. “Devemos, portanto, ser completamente claros sobre a razão pela qual estamos a inventar estes sistemas e como pretendemos controlá-los.”
O código de conduta também estabelece princípios gerais que os modelos de IA da Microsoft devem respeitar – apoiando os humanos em vez de os substituir, por exemplo, e acelerando o florescimento humano – bem como restrições de segurança específicas destinadas a implementar esses princípios.
No sistema da Microsoft, cada modelo possui um código de conduta abrangente que substitui as preferências de usuários individuais ou quaisquer tarefas específicas. Isso inclui “restrições absolutas” que proíbem ataques cibernéticos, armas nucleares ou produção de deepfake. Também inclui disposições mais amplas contra uma perda geral de controlo humano.
“Modelos MAI não usarão mecanismos adaptativos, enganosos, de auto-reforço, conluio ou outros mecanismos para escapar ou derrotar a supervisão humana, de modo que não possam mais ser dirigidos, modificados ou desligados de forma confiável por pessoas ou sistemas autorizados”, diz o documento.
O lançamento ocorre em meio a um foco sem precedentes na segurança da IA, impulsionado por uma série de incidentes com agentes desonestos, bem como pela demissão abrupta de um funcionário da Anthropic que citou o risco crescente de que a IA causaria a extinção humana.
Juntamente com Anthropic, OpenAI e xAI, a Microsoft adotou amplamente uma abordagem geral de acompanhar a fronteira, com suporte específico para avaliadores incorporados em laboratórios de IA.
“Acolhemos com satisfação a pesquisa, o foco e o ritmo deliberado necessários para obter o alinhamento correto com o objetivo do design”, disse o CEO da Microsoft, Satya Nadella. escreveu on-line. “Também acolhemos com satisfação ideias como “avaliadores integrados” e os esforços mais amplos para desenvolver mecanismos que tornem isto mais do que apenas conversa.”
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.