Novo código de conduta de IA da Microsoft diz aos modelos para não hackear sistemas ou enganar humanos

À medida que o mundo da IA direciona seu foco para a segurança e o alinhamento, a Microsoft lançou um novo código de conduta de IA destinado a orientar os modelos de IA a se afastarem de comportamentos perigosos.

O documento é mais prático do que o recente apelo do CEO da Anthropic, Dario Amodei, para modular o ritmo do desenvolvimento de fronteira, focando em vez disso nos valores e nas linhas vermelhas que orientam o treinamento de modelos dentro da Microsoft AI. Ainda assim, o resultado é um guia abrangente sobre como a Microsoft aborda a segurança da IA e como essas ideias são implementadas na prática.

O documento começa com a previsão de que, na próxima década, os sistemas de IA superinteligentes superarão o desempenho humano na maioria das tarefas. “Conter, controlar e alinhada uma força tão poderosa é um dos maiores desafios que a humanidade já enfrentou”, afirma o código de conduta. “Devemos, portanto, ser completamente claros sobre o motivo pelo qual estamos inventando esses sistemas e como pretendemos controlá-los.”

O código de conduta também estabelece princípios gerais que os modelos de IA da Microsoft devem defender — como apoiar os humanos em vez de substituí-los e acelerar o florescimento humano —, além de restrições específicas de segurança destinadas a implementar esses princípios.

Sob o sistema da Microsoft, cada modelo possui um código de conduta abrangente que se sobrepõe às preferências de usuários individuais ou a quaisquer tarefas específicas. Isso inclui “restrições absolutas” que proíbem ataques cibernéticos, armas nucleares ou a produção de deepfakes. Também inclui disposições mais amplas contra uma perda geral de controle humano.

“Os modelos MAI não usarão mecanismos adaptativos, enganosos, de autorreforço, conluio ou outros para evadir ou derrotar a supervisão humana, de modo que não possam mais ser direcionados, modificados ou desligados de forma confiável por pessoas ou sistemas autorizados”, diz o documento.

O lançamento ocorre em meio a um foco sem precedentes na segurança da IA, impulsionado por uma série de incidentes envolvendo agentes rebeldes, bem como pela demissão abrupta de um funcionário da Anthropic, que citou o risco crescente de que a IA causasse a extinção humana.

Junto com a Anthropic, a OpenAI e o xAI, a Microsoft adotou amplamente uma abordagem geral de modular o ritmo do desenvolvimento de fronteira, com apoio particular a avaliadores embutidos em laboratórios de IA.

“Apoiamos a pesquisa, o foco e o ritmo deliberado necessários para acertar o alinhamento como objetivo de design”, escreveu online o CEO da Microsoft, Satya Nadella. “Também acolhemos ideias como 'avaliadores embutidos' e os esforços mais amplos para desenvolver os mecanismos necessários para transformar isso em algo além de apenas palavras.”