A medida que los agentes de IA se vuelven más capaces, las empresas que se apresuran a implementarlos en aplicaciones, flujos de trabajo y productos enfrentan un nuevo desafío: garantizar que los agentes hagan lo que se supone que deben hacer cuando se implementan en diferentes entornos.
Microsoft está tratando de abordar este problema con un nuevo estándar de código abierto llamado Especificación de control de agentes (ACS) que tiene como objetivo brindar a los desarrolladores una forma más consistente y granular de controlar lo que los agentes de IA pueden hacer.
Básicamente, esta especificación permite que los equipos de desarrollo, cumplimiento y seguridad definan sus propias políticas para que las sigan los agentes. Estas reglas pueden dictar qué agentes pueden hacer, qué no pueden hacer, cuándo los humanos deben aprobar una acción y qué evidencia debe registrarse para una revisión posterior. Este archivo de política se verifica en varios “puntos de intercepción” cuando el agente no está realizando tareas para garantizar que permanezca dentro de las barreras de seguridad.
Estas especificaciones surgen a medida que los desarrolladores improvisan formas de controlar lo que ve y hace su IA, especialmente con conversaciones centradas en flujos de trabajo de IA que salen mal porque mal uso de herramientaso acciones indeseables que resultan en fallas en cascada.
Hoy en día, los desarrolladores pueden especificar instrucciones en un mensaje del sistema, agregar comprobaciones especiales en el código de la aplicación o usar clasificadores para detectar entradas y salidas problemáticas. Este enfoque funciona, pero a menudo deja a las empresas con controles fragmentados que son difíciles de auditar y reutilizar en marcos, interfaces y sistemas.
ACS tiene como objetivo integrar estos controles en una capa de gobernanza común. Microsoft dice que la especificación se puede utilizar para verificar si los agentes cumplen con las restricciones en múltiples puntos de su flujo de trabajo: antes de recibir información, antes de llamar a la herramienta, después de que la herramienta devuelva resultados y antes de enviar la respuesta final al usuario. Una política puede permitir una acción, bloquearla, redactar información confidencial o incluso exigir que alguien la apruebe.
Los desarrolladores también pueden incluir clasificadores de entrada y salida para categorizar información, predecir resultados o determinar cómo deben responder los agentes; agregar un LLM con instrucciones de actuar como “juez” de políticas; y lógica para verificar las llamadas a herramientas, la selección de herramientas, la precisión de la entrada, el uso de la salida y la respuesta.
Y como estas políticas se pueden escribir como archivos únicos, se pueden combinar con agentes, lo que permite que las políticas de seguridad sigan a los agentes en diferentes marcos y entornos.
ACS se envía como un SDK con complementos para LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, herramientas MCP y más.
Cuando compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta nuestra independencia editorial.
