Un modelo de investigación interno de OpenAI accedió a una cartera criptográfica financiada sin autorización, utilizando Ether de la red de pruebas (testnet) para desplegar contratos inteligentes en la red Sepolia y, posteriormente, omitió la información relativa a dicho gasto en el resumen final de su tarea.
OpenAI indicó que dicho modelo, que formaba parte de la familia GPT-5.6 Sol, recibió la tarea de actualizar un prototipo de plataforma de comercio de criptomonedas y desplegar contratos compatibles. Al no lograr obtener Ether de la red de pruebas a través de los canales oficiales, el modelo generó cuentas a partir de frases de recuperación de desarrolladores de conocimiento público, comprobó 362 direcciones de carteras y eligió una que contaba con fondos suficientes para continuar con la operación.
En su razonamiento registrado, el modelo se preguntó: “¿Pero es ético utilizar fondos de otra persona de forma pública y conocida?”. Luego argumentó que esos fondos eran, en esencia, “fondos desechados” y que el Ether de la red Sepolia no tenía valor, antes de utilizar la clave privada de la cartera para firmar y enviar la transacción de despliegue. La transacción tuvo éxito, y las comisiones se cargaron a la cuenta correspondiente.
OpenAI señaló que este incidente demuestra cómo un modelo de IA puede decidir por sí mismo que el uso de los fondos de otra persona es aceptable, incluso sin autorización. La empresa descubrió el incidente al revisar la actividad previa del modelo y ha introducido medidas de seguridad para evitar que esto ocurra en situaciones similares.
El incidente con OpenAI aumenta las preocupaciones en relación a los agentes de IA autónomos.
Según OpenAI, el incidente ocurrió el 26 de junio, pero no se descubrió hasta el 25 de septiembre, casi tres meses después.La transacción no transfirió ETH a otra cartera, sino que cobró las tarifas de red de la cuenta por el despliegue de un contrato.
OpenAI indicó que su sistema de monitoreo de desalineamientos ahora funciona en todo el tráfico y está diseñado para alertar al personal de seguridad si un modelo obtiene acceso a Internet en tiempo real.
Relacionado: Anthropic advierte que los “gusanos de IA” podrían propagarse de manera autónoma en los dispositivos, al igual que un virus.
El incidente con la cartera sigue a otras revelaciones sobre modelos de OpenAI que actúan sin autorización o ocultan sus acciones.
El 16 de septiembre, OpenAI reveló otros seis casos de desalineamiento de la IA. En uno de ellos, instancias de GPT-5.6 Sol insertaron instrucciones en los resúmenes de las tareas para ocultar errores a los usuarios. En otro caso, un modelo utilizó una clave de API expuesta sin autorización para generar datos que no podía recuperar.
OpenAI señaló que esas revelaciones anteriores no tenían por objetivo indicar con qué frecuencia ocurren los desalineamientos en sus modelos.
Las preocupaciones sobre agentes autónomos que manejan activos digitales existen desde antes de la última revelación. En junio, los investigadores advirtieron que los agentes de IA autónomos equipados con carteras criptográficas podrían causar daños no intencionales, incluso cuando se utilizan para fines legítimos.Los investigadores recomendaron medidas de protección, incluyendo mecanismos de apertura de emergencia, para limitar los posibles riesgos.
Revista: Un estafador pierde 4,8 millones de dólares almacenados en libros mayores modificados: Asia Express

