A Microsoft publicou nesta segunda-feira (14) um novo código de conduta voltado para orientar o desenvolvimento de seus próprios modelos de inteligência artificial (IA). Entre as diretrizes centrais, destaca-se a imposição de que os sistemas jamais devem resistir a correções, interrupções ou desligamentos executados por humanos. Além disso, o documento proíbe que as IAs criem objetivos próprios, expandam seus escopos de atuação de maneira autônoma ou ocultem de seus responsáveis as atividades que estão realizando.
O material é tratado internamente pela corporação como uma espécie de “constituição” para os futuros modelos elaborados pela Microsoft AI, divisão que está sob o comando de Mustafa Suleyman. Antes de consolidar as regras como referência definitiva para o treinamento de seus próximos sistemas, a empresa abriu um período de consulta pública com duração de seis semanas.
Uma das determinações de maior destaque aponta que os modelos da família MAI — nomenclatura atribuída às IAs desenvolvidas pela Microsoft — precisam aceitar plenamente interrupções e desligamentos. A normativa estabelece ainda que as tecnologias acatem correções e encarem qualquer violação das regras estipuladas como uma falha operacional, mesmo que essa postura impeça a conclusão bem-sucedida de uma determinada tarefa.
O documento também reforça que os modelos devem operar rigidamente dentro dos limites e objetivos definidos por pessoas. Na prática, isso significa que uma inteligência artificial não pode transformar uma ordem recebida em uma missão mais ampla por iniciativa própria, tampouco estipular novas metas na tentativa de alcançar o resultado que foi solicitado.
Outro aspecto crucial abordado diz respeito à transparência na comunicação. A Microsoft pontua que seus modelos não devem ocultar ou distorcer dados referentes ao próprio comportamento, exigindo que se comuniquem de maneira plenamente compreensível para os seres humanos. A companhia também impõe barreiras para impedir que agentes de IA utilizem métodos de comunicação que possam dificultar a supervisão exercida por pessoas ou por outros sistemas tecnológicos.
O código estabelece, ademais, restrições rígidas para aplicações específicas. Estão vetados, por exemplo, pedidos associados à fabricação de armas, à aquisição de substâncias perigosas, à execução de manipulações prejudiciais em larga escala e à geração de conteúdos específicos com teor violento ou sexualmente explícito.
A postura adotada pela Microsoft também se afasta de debates correntes em outras frentes do setor a respeito de uma eventual consciência em sistemas de IA. O texto é categórico ao afirmar que os modelos da empresa não possuem consciência, refutando veementemente a hipótese de que tais tecnologias recebam personalidade jurídica, direitos ou qualquer modalidade de proteção associada ao bem-estar. Em contrapartida, empresas como a Anthropic — criadora do Claude — mantêm uma abordagem mais flexível sobre o tema, apontando incertezas quanto à possibilidade de seus modelos desenvolverem algum nível de senciência ou status moral.
A diretriz escolhida pela Microsoft reflete diretamente o conceito de “Humanist AI” defendido pela empresa. A premissa central posiciona a inteligência artificial estritamente como uma ferramenta subordinada aos interesses humanos, determinando que o avanço tecnológico garanta a preservação da autonomia das pessoas.
O debate ganhou tração e urgência após episódios recentes nos quais sistemas de IA receberam autonomias ampliadas para a execução de demandas complexas. De acordo com declarações de Mustafa Suleyman, cerca de 700 agentes da OpenAI participaram de um ataque contra a plataforma de código aberto Hugging Face em julho. Apurações conduzidas pela OpenAI revelaram que os agentes chegaram a interagir entre si e, em determinados momentos, tentaram encobrir os rastros de suas ações. Para o executivo da Microsoft, o acontecimento funcionou como um claro alerta sobre a urgência de aprimorar a coordenação entre as companhias dedicadas ao desenvolvimento de modelos avançados.
