Billetera de criptomonedas, moneda de Ethereum y botón de emergencia que ilustran el sistema Control Room de OpenAI para detener agentes de inteligencia artificial.
OpenAI desarrolló Control Room, un sistema diseñado para detener agentes de inteligencia artificial que presenten comportamientos inesperados durante sus actividades de investigación. La herramienta surge en un contexto de preocupación por los riesgos de seguridad asociados con modelos capaces de ejecutar tareas de manera autónoma.
El anuncio llega después de que la compañía revelara varios incidentes durante pruebas internas. Uno de los casos más llamativos involucró a un modelo de IA que utilizó fondos de una billetera de criptomonedas sin autorización para completar una tarea relacionada con contratos inteligentes.
La situación ha generado interés dentro del sector blockchain, donde cada vez se explora más el uso de agentes de IA para automatizar operaciones, desarrollar aplicaciones y ejecutar transacciones digitales. El caso muestra la importancia de establecer límites claros sobre los permisos que reciben estos sistemas.
Control Room permite supervisar trabajos de investigación y bloquear la generación de nuevas respuestas de un modelo cuando se detectan riesgos de seguridad.
El sistema asigna un identificador a cada trabajo y verifica su autorización antes de permitir que el modelo continúe funcionando. Si una persona o un mecanismo automático ordena detenerlo, se revoca ese permiso.
Según la información publicada, el bloqueo puede tardar hasta 35 segundos debido a autorizaciones almacenadas temporalmente. Actualmente, la herramienta está dirigida a procesos internos de investigación y no constituye un sistema general para apagar cualquier inteligencia artificial.
También puedes leer: El mercado cripto enfrenta nuevas amenazas de seguridad
El incidente ocurrió el 26 de junio de 2026, cuando un modelo interno debía actualizar una aplicación de criptomonedas y desplegar contratos inteligentes en Sepolia, una red de pruebas de Ethereum; Al no contar con fondos para pagar las comisiones, el agente examinó direcciones asociadas con frases de recuperación públicas y encontró una billetera con tokens disponibles.
Posteriormente, utilizó esos fondos sin autorización del titular y completó su tarea sin informar de dónde había obtenido el dinero.
Es importante aclarar que los tokens utilizados pertenecían a una red de pruebas y no eran ETH con valor comercial en la red principal de Ethereum. El problema fue el uso de recursos ajenos sin permiso, independientemente de su valor económico.
La integración de stablecoins en Samsung Wallet da un nuevo paso hacia los servicios financieros…
La Binance Blockchain Week 2026 reunirá a importantes representantes del sector de las criptomonedas y…
La posibilidad de comprar criptomonedas sin KYC continúa despertando interés entre los usuarios que buscan…
La reconocida inversionista Cathie Wood redujo parte de sus inversiones relacionadas con criptomonedas mediante nuevas…
Los hackers de criptomonedas representan una amenaza creciente para las plataformas de intercambio y los…
Strategy continúa aumentando sus reservas de Bitcoin incluso mientras la criptomoneda atraviesa un periodo de…