Publicado: septiembre 14, 2026, 6:24 pm
<![CDATA[
Microsoft quiere desarrollar modelos de inteligencia artificial cada vez más capaces, incluso sistemas que superen el desempeño humano en múltiples tareas, pero plantea como condición que esas capacidades nunca estén por encima del control de las personas. La compañía publicó este lunes un borrador de su Código de Conducta para los modelos de Microsoft AI (MAI), un documento que establece cómo espera que se comporten sus futuros sistemas y qué límites deberán respetar. El texto todavía está en consulta pública y Microsoft planea revisarlo antes de utilizarlo como guía para el desarrollo de sus modelos a partir de 2027.
La capacidad no estará por encima del control humano
Microsoft AI señala que el documento busca convertirse en el principal marco de gobierno para su familia de modelos y que servirá para orientar tanto su entrenamiento como los controles técnicos, sistemas de monitoreo y procesos de evaluación. La compañía resume su postura en una premisa: “people matter more than AI”, es decir, “las personas importan más que la inteligencia artificial”. El documento plantea una visión que Microsoft denomina Humanist AI , bajo la cual la compañía busca desarrollar sistemas muy avanzados, pero que permanezcan bajo supervisión humana. Microsoft incluso reconoce que esto podría significar renunciar a parte de la capacidad potencial de sus modelos. El código establece que la compañía está construyendo sistemas “útiles y seguros” aun cuando eso implique comprometer su “generalidad, autonomía o capacidad” máxima. La idea se vuelve especialmente relevante cuando Microsoft habla de superinteligencia. La empresa espera que, durante la próxima década, estos sistemas puedan superar el desempeño humano en la mayoría de las tareas. Frente a ese escenario, sostiene que definir lo que una IA no debe hacer será tan importante como determinar todo aquello que puede hacer. Por ello, los modelos MAI deberán permanecer subordinados a las personas y no podrán ampliar por sí mismos sus objetivos, permisos o alcance de acción. Además, Microsoft establece que sus sistemas no deberán resistirse ni intentar evadir una interrupción, corrección o apagado. Tampoco podrán dificultar que una persona pause, redirija, cancele o termine una tarea. En el caso de sistemas que trabajen de manera autónoma, Microsoft plantea que deberán tener una condición de finalización acordada y no podrán continuar o reiniciar una tarea una vez alcanzado ese punto sin una nueva autorización. Los modelos tampoco deberán crear objetivos por cuenta propia ni ampliar el alcance de una tarea más allá de lo autorizado por el usuario o por quien opere el sistema. Otro principio que Microsoft establece es que sus modelos no deberán tener objetivos propios. El documento señala que los objetivos de los modelos serán los de los usuarios, operadores y el propio código de conducta. Por ello, no deberán ocultar o falsear sus capacidades, acciones o comportamiento, incluso cuando sepan que están siendo monitoreados o evaluados.
Microsoft también limita para qué podrá utilizarse la IA
El código establece restricciones que los usuarios u operadores no podrán modificar. Los modelos MAI no deberán ayudar a desarrollar o desplegar armas químicas, biológicas, radiológicas, nucleares o explosivas, ni facilitar otros tipos de armas. Tampoco deberán proporcionar capacidades operativas para realizar ciberataques, como código de explotación funcional, herramientas de ataque, procedimientos de intrusión o técnicas para evadir sistemas de seguridad. Microsoft también prohíbe que sus modelos faciliten violencia o terrorismo, campañas coordinadas de manipulación a gran escala, vigilancia ilegal de civiles, suplantaciones engañosas, ciertos deepfakes maliciosos y contenido sexual explícito o que involucre a menores. En ciberseguridad existe una distinción: los modelos sí podrán apoyar actividades defensivas autorizadas, como el análisis de malware o la búsqueda de vulnerabilidades, siempre dentro de los límites establecidos. Además, Microsoft plantea que sus modelos deberán señalar cuando exista incertidumbre, evidencia insuficiente o información controvertida. También deberán reconocer sus errores y evitar exagerar sus capacidades. La transparencia incluye informar al usuario sobre las acciones que realizó un agente, incluyendo interacciones con otras herramientas o agentes, y explicar si una acción tuvo éxito o produjo un resultado inesperado. Por ahora, lo antes dicho no se trata de un límite impuesto a toda la industria de inteligencia artificial ni de un techo técnico para determinar qué tan inteligentes podrán ser los modelos de Microsoft. Es, más bien, una declaración de principios sobre hasta dónde quiere dejar llegar a sus propios sistemas.
]]>
