Resumen: Microsoft actualizó su Estándar de IA Responsable para reforzar el control sobre los agentes autónomos: sistemas capaces de usar herramientas, datos y servicios para completar tareas de varios pasos. Las nuevas reglas exigen evaluar riesgos antes del lanzamiento, supervisar el funcionamiento después de implementarlos y reparten responsabilidades entre quienes crean los modelos, quienes ofrecen plataformas y quienes los usan. Te contamos qué cambia y qué implica para quienes trabajan con estas herramientas.

Los agentes de IA pasaron en poco tiempo de ser una promesa a formar parte del trabajo diario: responden consultas, completan formularios, mueven información entre aplicaciones y ejecutan tareas sin que una persona intervenga en cada paso. Esa autonomía trae productividad, pero también riesgos nuevos.

Microsoft, una de las empresas que más impulsa los agentes en entornos corporativos con herramientas como Copilot, acaba de ajustar sus reglas internas para vigilarlos. Según publicó Infobae, la compañía busca que los controles acompañen a la IA durante todo su ciclo de vida: desde el diseño hasta el momento en que un agente opera por su cuenta en sistemas reales.

Qué anunció Microsoft

La actualización llegó junto con el nuevo Informe de Transparencia sobre IA Responsable de la compañía, presentado en el blog oficial Microsoft On the Issues. Los puntos principales son:

• Un estándar reorganizado por capas: en lugar de ordenarse por productos o casos de uso, las reglas ahora distinguen entre modelos, servicios de plataforma y aplicaciones.

• Responsabilidades diferenciadas: hay requisitos específicos para quienes desarrollan modelos, para los proveedores de plataformas y para las organizaciones que implementan aplicaciones de IA.

• Modelado de amenazas para sistemas agénticos: prácticas diseñadas para analizar los riesgos propios de los agentes.

• Más defensas técnicas: protecciones contra ataques de inyección de instrucciones (prompt injection) y clasificadores que detectan comportamientos de riesgo.

• Supervisión continua: la gestión de riesgos ya no termina cuando la herramienta sale al mercado.

Por qué los agentes necesitan reglas distintas

Un chatbot tradicional responde a una pregunta. Un agente, en cambio, puede conectarse con herramientas, acceder a datos, recordar contexto y ejecutar acciones encadenadas. Eso abre nuevos frentes de riesgo:

Microsoft también advierte que el aumento de capacidades de la IA amplía riesgos como el fraude, la suplantación de identidad y la ingeniería social. Casos recientes, como el de un agente autónomo que publicó datos internos en GitHub, muestran por qué la supervisión dejó de ser opcional.

La supervisión sigue después del lanzamiento

Uno de los cambios más relevantes es que las organizaciones que implementan agentes asumen obligaciones concretas:

• Antes de implementar: evaluar capacidades y limitaciones del sistema, analizar riesgos según el contexto de uso y definir mecanismos de supervisión.

• Después de implementar: monitorear el funcionamiento, recoger retroalimentación y registrar incidentes.

• Transparencia hacia usuarios: informar usos previstos, limitaciones y medidas de seguridad.

La compañía asegura que sus procesos están alineados con el Marco de Gestión de Riesgos de IA del NIST, que organiza la gestión en cuatro funciones: gobernar, identificar, medir y gestionar.

Qué implica para quienes trabajan con agentes de IA

Si usás agentes en tu trabajo diario

Vas a ver más controles: confirmaciones antes de acciones sensibles, permisos más específicos y registros de lo que hizo cada agente. Lejos de ser una traba, es una forma de delegar con más tranquilidad. En esta guía sobre qué tareas delegar a agentes y cómo supervisarlos encontrás criterios prácticos para hacerlo bien.

Si construís o implementás agentes

La responsabilidad compartida significa que no alcanza con confiar en el proveedor. Quien implementa un agente en una empresa tiene que documentar su uso, definir quién lo supervisa, testearlo contra las políticas internas y tener un plan ante incidentes. Microsoft presentó herramientas como ASSERT y la Agent Control Specification, pensadas para probar agentes contra políticas, insertar controles en el flujo y monitorear su comportamiento en operación.

Si liderás un equipo o una empresa

La gobernanza de IA se convierte en una tarea de gestión, no solo técnica. Conviene definir políticas de uso, inventariar qué agentes están activos, qué datos tocan y quién responde por ellos. Este movimiento se suma a otras regulaciones, como las reglas de transparencia y etiquetado de IA de Europa, que apuntan en la misma dirección.

Una señal para todo el mercado

Cuando una empresa del tamaño de Microsoft redefine cómo gobierna sus agentes, el resto del ecosistema suele seguir. Para profesionales de tecnología, marketing, datos u operaciones, esto confirma una tendencia: saber usar agentes ya no alcanza, también hay que saber supervisarlos, evaluarlos y usarlos de forma responsable. Esa combinación de habilidades se está volviendo un diferencial laboral concreto.

Cursos recomendados de Coderhouse

Si querés trabajar con agentes de IA con criterio y responsabilidad, estas opciones se adaptan a distintos niveles:

• Curso de Introducción a la Inteligencia Artificial: para entender cómo funciona la IA, sus alcances y sus riesgos, sin necesidad de conocimientos técnicos.

• Curso de AI Agents: aprendés a diseñar, construir y supervisar agentes que ejecutan tareas reales dentro de una organización.

• Curso de AI Engineering: para perfiles técnicos que quieren integrar modelos y agentes en productos con buenas prácticas de seguridad y evaluación.

Los agentes de IA llegaron para quedarse, y quienes sepan implementarlos de forma segura van a marcar la diferencia: elegí tu curso y preparate para trabajar con ellos con criterio profesional.

Preguntas frecuentes

¿Qué es el Estándar de IA Responsable de Microsoft?

Es el conjunto de reglas internas que Microsoft usa para diseñar, evaluar y supervisar sus sistemas de inteligencia artificial. La nueva versión pone el foco en los agentes autónomos y en la supervisión continua después del lanzamiento.

¿Qué diferencia hay entre un agente de IA y un chatbot?

Un chatbot genera respuestas a partir de una consulta. Un agente puede conectarse con herramientas, acceder a datos y ejecutar tareas de varios pasos de forma autónoma, lo que exige controles adicionales sobre permisos, memoria y acciones.

¿Estas reglas afectan a quienes usan Copilot?

Sí, de forma indirecta. Los productos de Microsoft que incorporan agentes, como Copilot, se rigen por este estándar, por lo que los usuarios pueden notar más controles, confirmaciones y transparencia sobre cómo funcionan.

¿Qué es un ataque de inyección de instrucciones?

Es una técnica en la que se esconden instrucciones maliciosas dentro de un texto, correo o página web para que el agente de IA las ejecute como si fueran órdenes legítimas. Microsoft reforzó sus defensas específicamente contra este tipo de ataques.

¿Las empresas que usan agentes de Microsoft tienen nuevas responsabilidades?

El estándar plantea que las organizaciones que implementan aplicaciones de IA deben evaluar riesgos, definir mecanismos de supervisión, monitorear el funcionamiento y registrar incidentes, repartiendo la responsabilidad entre proveedor y usuario.