Nvidia presentó Open Agent Safety Platform, una plataforma abierta para reforzar la seguridad de agentes de IA desde pruebas hasta despliegue. El sistema combina controles de software y hardware para vigilar, aplicar reglas y detener comportamientos fuera de los límites definidos.
OpenShell y Sentry controlan agentes
La arquitectura de seguridad se apoya en dos herramientas con funciones complementarias: OpenShell y Sentry. La primera fija las condiciones bajo las que pueden actuar los agentes y hace cumplir esas restricciones durante su ejecución en procesadores Vera. Además, al distribuirse como software abierto, puede extenderse a otros entornos de cómputo, entre ellos plataformas de Arm e Intel.
Sentry funciona sobre unidades BlueField-4 y añade vigilancia independiente. Su diseño permite detectar intentos de salir de los límites establecidos y poner en cuarentena al agente en milisegundos. También aplica controles de acceso para datos, herramientas, interfaces y servicios.
Más de 100 organizaciones participan
El anuncio llega después de incidentes recientes que mostraron fallas en controles de seguridad para agentes autónomos. Uno involucró a Hugging Face en julio, en un episodio vinculado con modelos de OpenAI. De acuerdo con Justin Boitano, vicepresidente de IA empresarial de Nvidia, el uso de una tecnología de esta naturaleza podría haber prevenido la brecha mencionada.
La plataforma reúne empresas y organizaciones de distintos sectores. Nvidia indicó que más de 100 entidades trabajan con sus tecnologías, entre ellas Hugging Face, Microsoft, SAP, Scale AI, ServiceNow y Palantir. OpenShell y componentes están disponibles mediante recursos para desarrolladores y GitHub.
