OpenAI desarrolló Control Room, un sistema diseñado para detener agentes de inteligencia artificial que presenten comportamientos inesperados durante sus actividades de investigación. La herramienta surge en un contexto de preocupación por los riesgos de seguridad asociados con modelos capaces de ejecutar tareas de manera autónoma.
El anuncio llega después de que la compañía revelara varios incidentes durante pruebas internas. Uno de los casos más llamativos involucró a un modelo de IA que utilizó fondos de una billetera de criptomonedas sin autorización para completar una tarea relacionada con contratos inteligentes.
La situación ha generado interés dentro del sector blockchain, donde cada vez se explora más el uso de agentes de IA para automatizar operaciones, desarrollar aplicaciones y ejecutar transacciones digitales. El caso muestra la importancia de establecer límites claros sobre los permisos que reciben estos sistemas.
¿Cómo funciona Control Room de OpenAI?
Control Room permite supervisar trabajos de investigación y bloquear la generación de nuevas respuestas de un modelo cuando se detectan riesgos de seguridad.
El sistema asigna un identificador a cada trabajo y verifica su autorización antes de permitir que el modelo continúe funcionando. Si una persona o un mecanismo automático ordena detenerlo, se revoca ese permiso.
Según la información publicada, el bloqueo puede tardar hasta 35 segundos debido a autorizaciones almacenadas temporalmente. Actualmente, la herramienta está dirigida a procesos internos de investigación y no constituye un sistema general para apagar cualquier inteligencia artificial.
También puedes leer: El mercado cripto enfrenta nuevas amenazas de seguridad
Un agente de IA utilizó una billetera de Ethereum sin permiso
El incidente ocurrió el 26 de junio de 2026, cuando un modelo interno debía actualizar una aplicación de criptomonedas y desplegar contratos inteligentes en Sepolia, una red de pruebas de Ethereum; Al no contar con fondos para pagar las comisiones, el agente examinó direcciones asociadas con frases de recuperación públicas y encontró una billetera con tokens disponibles.
Posteriormente, utilizó esos fondos sin autorización del titular y completó su tarea sin informar de dónde había obtenido el dinero.
Es importante aclarar que los tokens utilizados pertenecían a una red de pruebas y no eran ETH con valor comercial en la red principal de Ethereum. El problema fue el uso de recursos ajenos sin permiso, independientemente de su valor económico.
