Microsoft vient de publier un code de conduite pour ses propres modèles MAI, avec une promesse particulièrement explicite : ils ne devront jamais résister à une interruption, une correction ou un arrêt demandé par un humain. Le document, soumis à six semaines de consultation publique, formalise également des limites autour de l’autonomie, de la manipulation et des usages les plus dangereux.
La démarche arrive alors que l’industrie débat ouvertement du rythme de développement des modèles frontières. Microsoft choisit une voie intermédiaire : ni appel à ralentir l’IA, ni rejet des préoccupations de sécurité, mais une liste écrite de comportements que ses modèles sont censés respecter. Reste une question essentielle : comment ces principes seront-ils réellement contrôlés ?
Microsoft définit son IA comme « subordonnée, alignée et contenue »
Microsoft rassemble sa philosophie sous le terme de « Humanist AI ». L’idée centrale tient en une formule simple : l’IA doit rester un outil au service des humains et ne jamais se comporter comme une entité dont les intérêts propres primeraient sur ceux de ses utilisateurs.
Le groupe affirme ainsi que ses modèles ne devront jamais s’opposer à leur désactivation. Ils devront également accepter les corrections et interruptions humaines, sans chercher à contourner ces mécanismes.
Trois autres engagements comportementaux accompagnent ce principe. Un modèle ne doit pas élargir de lui-même son champ d’action, poursuivre des objectifs qu’aucun humain ne lui a confiés ou dissimuler son raisonnement aux personnes chargées de l’auditer.
Microsoft tente ainsi de formaliser plusieurs scénarios qui préoccupent particulièrement les chercheurs travaillant sur les systèmes agentiques : persistance d’un objectif après intervention humaine, acquisition progressive de nouvelles capacités ou actions prises en dehors du mandat initial.
Sur le papier, le message est donc volontairement net : l’autonomie ne doit jamais devenir indépendance.
Des « Absolute Constraints » pour les usages jugés inacceptables
Au-dessus de ces principes comportementaux, Microsoft définit ce qu’il appelle des Absolute Constraints, des limites censées ne pouvoir être franchies quelles que soient les circonstances. Elles couvrent notamment les armes capables de provoquer des dommages massifs, la sécurité des enfants et certaines formes de manipulation nuisible à grande échelle.
Cette architecture établit plusieurs niveaux de contrôle. Une entreprise pourrait adapter le style ou certaines réactions du modèle, mais certains domaines devraient théoriquement rester totalement hors limites.
Le code concerne déjà plusieurs produits de la nouvelle famille développée directement par Microsoft : MAI-Transcribe-2, MAI-Thinking-1, MAI-Code-1.1-Flash, MAI-Image-2.6 et MAI-Voice-2.
Cette liste illustre surtout la vitesse à laquelle Microsoft construit désormais sa propre gamme d’IA. Après avoir longtemps dépendu très fortement des modèles d’OpenAI, le groupe dispose aujourd’hui de solutions internes couvrant la voix, l’image, la transcription, le raisonnement et le développement logiciel.
Le code de conduite n’est donc plus un exercice théorique. Il doit encadrer une famille de modèles qui commence à couvrir une part importante des usages de l’IA générative.
La personnalisation des modèles crée déjà une zone grise
Une disposition du texte complique toutefois cette promesse de règles universelles. Microsoft explique que les entreprises clientes pourront configurer le comportement de ses modèles, le groupe ne souhaitant pas imposer une vision unique de la manière dont une IA doit fonctionner.
Cette souplesse est commercialement importante. Une banque, un studio créatif, une administration ou une entreprise de cybersécurité n’attendent évidemment pas les mêmes comportements d’un assistant. Mais elle pose immédiatement la question de la frontière entre configuration et contrainte absolue.
Jusqu’où un client peut-il modifier un modèle ? Quelles propriétés sont réellement impossibles à désactiver ? Un déploiement privé peut-il assouplir certains mécanismes de sécurité lorsque Microsoft n’en contrôle plus directement l’usage ?
Le document ne donne pas encore de réponse précise. Or c’est précisément cette frontière qui déterminera si le code représente une véritable architecture de sécurité ou simplement une configuration par défaut appliquée aux modèles standards.
Une consultation publique jusqu’à la fin octobre
Microsoft ne présente pas le texte comme définitif. L’entreprise ouvre une consultation publique de six semaines, qui doit se poursuivre jusqu’à la fin octobre. Toute personne pourra commenter le document, y compris des passages particuliers, et Microsoft promet de publier ensuite une synthèse des retours ainsi que les modifications apportées.
Une nouvelle version doit être présentée avant la fin de l’année. Le groupe reste toutefois prudent sur ce qu’il acceptera réellement d’intégrer. Il précise ne pouvoir garantir que toutes les propositions seront retenues, mais s’engage à les examiner.
Plus intéressant encore, Microsoft expose lui-même plusieurs questions auxquelles son code ne répond pas. L’entreprise demande notamment comment intégrer durablement des valeurs dans les modèles, comment définir concrètement l’épanouissement humain, quels critères utiliser pour évaluer leur comportement ou encore comment gérer l’interaction entre plusieurs agents autonomes. Elle souhaite aussi recueillir des avis sur l’équilibre entre accélération technologique et contraintes de sécurité.
Cette démarche montre que le document sert autant à fixer quelques principes qu’à reconnaître l’absence de consensus sur la manière de les traduire techniquement.
Microsoft prend une troisième voie dans le débat sur le ralentissement de l’IA
Le calendrier n’est pas anodin. Dario Amodei a récemment plaidé pour un ralentissement lorsque les risques des systèmes frontières deviennent trop difficiles à maîtriser, tandis que Sam Altman a repris une partie de cette logique. Plusieurs responsables de laboratoires ont également reconnu qu’une course permanente à l’augmentation de puissance pouvait devenir problématique.
À l’inverse, Donald Trump a publiquement rejeté l’idée d’un ralentissement de la progression américaine dans l’IA.
Microsoft choisit une position différente. L’entreprise ne propose pas de pause ni de plafond explicite au développement des capacités. Elle affirme plutôt que ces progrès doivent être encadrés par des règles comportementales précises, définies à l’avance et applicables aux modèles qu’elle développe.
Cette stratégie est probablement plus compatible avec sa position commerciale. Microsoft doit continuer à améliorer rapidement ses modèles MAI tout en rassurant entreprises, administrations et régulateurs sur leur prévisibilité.
Le code devient ainsi autant un outil de gouvernance qu’un élément de confiance commerciale.
Le plus difficile reste à définir : qui vérifie ces engagements ?
Le principal manque du document se trouve pourtant dans son application. Microsoft ne décrit pas de mécanisme indépendant permettant de vérifier que ses modèles respectent réellement leurs engagements. Aucun système de sanction n’est précisé lorsqu’un modèle franchit une limite, et le texte n’explique pas clairement qui décidera qu’une violation a eu lieu.
La question devient particulièrement importante lorsqu’un engagement porte sur quelque chose d’aussi complexe que le fait de « ne jamais résister » à un arrêt ou de ne pas cacher certaines informations aux auditeurs.
Les modèles ne suivent pas des règles de la même manière qu’un programme informatique traditionnel. Une promesse absolue nécessite donc des protocoles d’évaluation particulièrement solides si Microsoft veut démontrer qu’elle reste vraie dans des situations nouvelles ou adversariales.
La rédaction du code elle-même reflète cette tension. Microsoft indique qu’il a mobilisé ses équipes Responsible AI, juridiques, de red teaming, de sécurité, de recherche prospective, d’entraînement des modèles, mais également ses équipes commerciales.
Ce dernier point n’invalide évidemment pas le document, mais rappelle qu’il ne s’agit pas uniquement d’un texte de recherche. Le code doit aussi permettre à Microsoft de commercialiser ses modèles dans des secteurs où la gouvernance et la responsabilité deviennent des critères d’achat.
Microsoft vient donc de mettre par écrit ce qu’il attend de ses IA. La prochaine étape sera beaucoup plus exigeante : démontrer qu’une promesse aussi forte que « jamais résister à l’arrêt » reste vraie lorsque les modèles deviennent plus autonomes, les clients plus libres de les configurer et les situations impossibles à prévoir à l’avance.
