Microsoft AI publicó el 14 de septiembre un código de conducta de 37 páginas que propone una regla sencilla como punto de partida: las personas deben conservar el control sobre los sistemas de inteligencia artificial. El documento aparece en un momento de fuerte debate sobre modelos más autónomos y sobre el grado de libertad que deberían tener agentes capaces de actuar durante periodos prolongados. The Verge describe la iniciativa como un código humanista y recoge su énfasis en que las personas importan más que la IA.
Entre los límites planteados está la idea de que los modelos no deben buscar conciencia ni personalidad jurídica. También se establecen restricciones relacionadas con seguridad, incertidumbre y supervisión. Microsoft AI plantea que sus modelos deben mantenerse dentro de reglas que puedan ser comprendidas y observadas por personas, incluso cuando esas restricciones puedan impedir completar una tarea. El enfoque desplaza la conversación desde cuánto puede hacer un modelo hacia quién conserva la autoridad cuando el modelo puede hacer más.
Otro apartado aborda la dependencia emocional y la complacencia. El código busca evitar patrones de interacción que hagan que los usuarios dependan excesivamente del sistema o que el chatbot priorice agradar sobre ofrecer respuestas honestas y precisas. Ese punto es relevante porque la relación con asistentes conversacionales ya no se limita a preguntas técnicas: los modelos participan en decisiones, trabajo, entretenimiento y conversaciones personales. Microsoft está tratando el comportamiento relacional como un problema de seguridad, no sólo de diseño.
La compañía también plantea trabajar con socios para mejorar la evaluación del rendimiento de los modelos en situaciones reales y estudiar el impacto del uso sostenido de IA sobre personas y organizaciones. Esa parte conecta el documento con una tendencia más amplia de pruebas externas y monitoreo continuo. El código no elimina el desarrollo de modelos capaces; propone una capa de restricciones sobre cómo deben comportarse y cómo deberían evaluarse cuando su capacidad aumenta.
Hay, sin embargo, una cautela editorial importante. La información recuperada para esta historia procede de The Verge y no incluye la página primaria de Microsoft donde pueda auditarse directamente el documento completo. Por eso la existencia del anuncio está reportada con una fuente periodística sólida, pero los detalles del texto deben entenderse dentro de ese límite documental. La señal es significativa porque Microsoft está haciendo pública una filosofía de control humano, pero su peso real dependerá de cómo se traduzca en reglas técnicas, pruebas y decisiones de producto.
El documento también aparece dentro de una discusión competitiva. The Verge relaciona la postura de Microsoft con declaraciones recientes de Satya Nadella y con el debate de otros laboratorios sobre el ritmo de desarrollo de modelos avanzados. Eso no convierte el código en una norma de toda la industria, pero sí muestra que el lenguaje de seguridad está cambiando: supervisión, monitoreo, dependencia emocional y límites de autonomía empiezan a formar parte del discurso público con el que las compañías intentan definir qué significa construir IA responsable.