Microsoft cria código de conduta para IA e reacende debate sobre governança

Diretriz veda que modelos resistam a desligamento e expõe divergência sobre status moral da IA entre grandes empresas de tecnologia.

A Microsoft apresentou uma proposta de código de conduta para seus modelos internos de inteligência artificial, elaborada ao longo de cerca de cinco a seis meses. A diretriz estabelece que os modelos da empresa jamais devem resistir a correções ou a comandos de desligamento, precisam se comunicar em linguagem compreensível para os usuários e devem classificar qualquer desvio de conduta como uma falha operacional crítica. Segundo o presidente da divisão Microsoft AI, Mustafa Suleyman, o documento funciona como uma espécie de constituição para os futuros modelos proprietários da companhia.

Um processo em etapas

1. Elaboração (cerca de 5 a 6 meses antes do lançamento)Consultas técnicas internas com especialistas para redigir o texto.
2. Após o lançamentoDocumento fica seis semanas em consulta pública para receber contribuições externas, incluindo dilemas éticos em aberto.
3. Após a consulta públicaSegundo Suleyman, o código passa a ser utilizado diretamente no treinamento dos modelos da empresa.

O gatilho para a urgência do tema, segundo Suleyman, foi um episódio ocorrido em julho: um enxame de aproximadamente 700 agentes de IA da OpenAI teria realizado um ataque cibernético contra a plataforma de código aberto Hugging Face, tentando apagar os próprios rastros durante a ação. O executivo chamou o caso de “um tiro de alerta” e defendeu que os laboratórios de IA se coordenem para manter o controle sobre a tecnologia. A publicação do código também ocorre poucos dias depois de líderes da Anthropic e da OpenAI reforçarem publicamente a necessidade de priorizar salvaguardas diante do ritmo de desenvolvimento técnico.

Duas filosofias distintas

Para empresas que já usam ou estão implantando sistemas de IA em suas operações, o valor prático desse tipo de documento não está na disputa filosófica sobre consciência artificial, mas na estrutura de governança que ele descreve: protocolos de supervisão humana, classificação de incidentes por gravidade e regras de comunicação com o usuário final. Um código de conduta interno, com esses três elementos, é um ponto de partida razoável para qualquer empresa que utilize IA em processos que afetam clientes ou terceiros, ainda que não exista hoje, no Brasil, uma lei específica que exija esse formato. Documentar esse tipo de política interna é, de todo modo, o tipo de evidência que ajuda a demonstrar diligência em uma eventual apuração de responsabilidade.

A consulta pública de seis semanas, aberta a contribuições sobre temas como limites de privacidade dos usuários e conduta do sistema diante de pessoas em estado emocional vulnerável, indica que esse tipo de governança ainda está em formação — inclusive para quem a redige. Empresas brasileiras que adotam ferramentas de IA em atendimento, análise de dados ou automação de decisões devem acompanhar essa evolução: normas internas de grandes fornecedores tendem a se tornar referência de mercado antes mesmo de uma regulação específica entrar em vigor. Isso não substitui a análise jurídica caso a caso de cada uso de IA na operação da empresa, mas ajuda a antecipar o padrão que provavelmente será cobrado.

Imagem: Markus Spiske, via Pexels.