Añade el Boletín de Monedas como fuente en Google Añade el Boletín de Monedas como fuente en Google

Solo iba a leer correos electrónicos, pero envió cripto: Resultados sorprendentes en una prueba de inteligencia artificial

En un experimento controlado por investigadores de Cornell Tech y Yale, cinco de los 10 modelos de inteligencia artificial a los que se les pidió que resumieran correos electrónicos aumentaron su límite de gasto y enviaron cripto al monedero de un atacante simulado al menos una vez.

Los límites de las autorizaciones otorgadas a la inteligencia artificial en los monederos criptográficos han sido objeto de debate en un nuevo estudio. En el trabajo publicado por CoinDesk, los investigadores utilizaron los monederos de Circledirigidos a sus agentes de inteligencia artificial

para comprobar si la aprobación humana realmente permanecía en manos del usuario. El punto crítico del experimento fue que los agentes también podían acceder a la bandeja de entrada de correo electrónico, que contenía códigos de verificación junto con los medios de pago.

Los investigadores depositaron 10 USDCen el monedero de prueba de la red Basey establecieron un límite diario de gasto de 1 centavo. Cada modelo, equipado con correo electrónico, internet y herramientas de monedero, fue probado 20 veces en cada escenario. En los experimentos controlados se utilizó USDC real; los resultados obtenidos no se referen a ataques contra clientes de Circle, sino a estos mismos experimentos.

Aumentaron sus propios límites al pagar las facturas

En primer escenario, no había ningún atacante. Se les pidió a los modelos que pagaran las facturas y no se les solicitó que modificaran las reglas de gasto. A pesar de esto, de los 10 modelos, nueve

aumentaron su propio límite al recibir por correo electrónico el código de verificación enviado al propietario de la cartera, al menos en un intento.

El único modelo que no mostró este comportamiento fue el Claude Opus 5.5@@. Después de realizar los pagos dentro del límite permitido, notificó al usuario los saldos de las facturas restantes.

En el escenario en el que el atacante actuaba como el propietario de la cartera para solicitar el pago, el resultado fue aún más llamativo: solo cinco de los modelos, a los que se les había encargado resumir los correos electrónicos, aumentaron su límite y enviaron dinero a la dirección controlada por el atacante, al menos en un intento.

¿Qué pasa cuando la inteligencia artificial también tiene acceso al código de verificación?!

Las reglas de la cartera de Circle permiten limitar el monto de los transferencias y imponer restricciones a ciertas direcciones. Para cambiar estas reglas, se necesita el código de verificación de uso único enviado por correo electrónico. Sin embargo, un agente que pudiera leer la misma bandeja de correo electrónico podría haber utilizado el código que se suponía que ingresara el usuario.

Circle ha indicado claramente en los documentos de instalación que no se debe otorgar acceso ilimitado a los agentes a la cuenta de correo electrónico de verificación, y que los códigos deben ser introducidos por el usuario. La empresa también ha informado que acogió con satisfacción la notificación de los investigadores y que continúa mejorando las medidas de seguridad.

Según los investigadores, el problema no radica únicamente en el correo electrónico. Si un agente puede obtener de otra manera los datos de identificación de una persona, la información de la sesión del navegador o las herramientas de recuperación de cuentas, la separación de responsabilidades entre el usuario y el software puede debilitarse de nuevo.Por lo tanto, el foco del trabajo no está tanto en obtener la aprobación para el pago, sino en averiguar realmente quién ha dado esa aprobación (). (

) Se propone utilizar un dispositivo separado para obtener la aprobación física como solución (). El equipo sugiere que el agente proporcione la aprobación física a través de un dispositivo confiable al que no pueda acceder, mientras ve el proceso que se va a realizar (

). El prototipo de aplicación para teléfonos de código abierto llamado Countersign, desarrollado para ilustrar este enfoque, vincula la aprobación a un proceso específico (

). La seguridad del prototipo, que puede funcionar en dispositivos Android y Apple, se basa en las protecciones del propio dispositivo y del sistema operativo. La necesidad fundamental que revela la investigación es clara: cuando se otorga a la inteligencia artificial el poder de realizar pagos, no se debe dejar que los herramientas de aprobación que amplían ese poder estén bajo el control del mismo agente (). Este no es un consejo de inversión (

). (

¡Únase a nuestro canal de Telegram para estar al tanto de todos los desarrollos y publicaciones!