A Microsoft publicou nesta segunda-feira, 14 de setembro, um rascunho de código de conduta para orientar os modelos de inteligência artificial desenvolvidos pela própria empresa. O documento estabelece como princípio central que os sistemas devem permanecer sob controle e supervisão humana, mesmo conforme se tornem mais capazes.
O chamado Humanist AI Code of Conduct tem 37 páginas e foi desenvolvido ao longo de cerca de cinco a seis meses. A Microsoft abriu o texto para uma consulta pública de seis semanas, antes de preparar uma versão revisada.
Fonte: a Reuters detalha o código de conduta e as regras de controle humano anunciadas pela Microsoft.
IA não deve resistir ao desligamento
Entre os compromissos mais diretos está a determinação de que os modelos da Microsoft não devem resistir a interrupção, correção ou desligamento por humanos. Os sistemas também não devem ampliar por conta própria o escopo de uma tarefa nem assumir objetivos que não tenham sido atribuídos por pessoas.
A proposta cria uma hierarquia de regras para o comportamento dos modelos. Se cumprir uma tarefa exigir violar as restrições do código, a orientação é que o sistema falhe na tarefa em vez de quebrar as regras.
O texto também defende que a comunicação dos modelos permaneça compreensível para as pessoas responsáveis por supervisioná-los e prevê limites para áreas consideradas de risco elevado.
Microsoft rejeita direitos e personalidade jurídica para IA
O código também entra em uma discussão mais filosófica sobre sistemas avançados. A Microsoft afirma que seus modelos não devem ser projetados para imitar consciência e rejeita a ideia de conceder a eles personalidade jurídica, direitos ou status equivalente ao de pessoas.
A posição faz parte da abordagem que a empresa chama de IA humanista: sistemas tratados como ferramentas subordinadas aos interesses humanos, e não como agentes com autoridade independente.
A Microsoft também diz que não pretende participar de uma corrida por uma superinteligência irrestrita capaz de escapar de salvaguardas. A prioridade declarada é construir sistemas úteis e seguros, ainda que isso imponha limites à autonomia ou capacidade dos modelos.
Consulta pública vai durar seis semanas
A versão apresentada nesta segunda-feira ainda é um rascunho. A Microsoft receberá comentários do público durante seis semanas e pretende usar o processo para revisar o documento.
A publicação ocorre em meio a uma discussão mais ampla entre grandes laboratórios sobre a velocidade de desenvolvimento de sistemas avançados e os mecanismos necessários para manter agentes de IA sob controle.
O código não equivale a uma lei nem cria, por si só, fiscalização externa sobre a Microsoft. Seu peso prático dependerá de como as regras serão incorporadas ao treinamento, às avaliações e à operação dos futuros modelos MAI da empresa.
Fontes
https://www.theverge.com/news/994566/microsoft-humanist-ai-code-of-conduct
https://thenextweb.com/news/microsoft-says-its-ai-models-will-never-resist-being-shut-down