[Actualización, 10:45 UTC, 24 de septiembre: Este artículo se actualizó con la explicación de OpenAI sobre cuándo tuvo conocimiento de la actividad de junio, cómo notificó a las autoridades australianas y a qué información accedieron sus modelos.]
Un agente de investigación de OpenAI eludió los bloqueos de un portal australiano de datos sanitarios del Gobierno, accedió a archivos no públicos y escribió archivos en un servidor interno en junio, dijo el miércoles el primer ministro Anthony Albanese.
El Gobierno ha abierto una investigación forense y anunciado una revisión de cómo gestiona los incidentes cibernéticos relacionados con la IA.
Según Albanese, quien criticó la demora, OpenAI no notificó al Gobierno australiano hasta el 10 de septiembre, casi tres meses después del incidente.
OpenAI dijo a Cointelegraph que tuvo conocimiento de la actividad de junio por primera vez en agosto, durante una revisión de actividad desalineada del modelo, y que investigó a qué información se había accedido antes de notificar a Services Australia.
El incidente aumenta la preocupación por los agentes autónomos de IA, mientras líderes tecnológicos y Gobiernos debaten ralentizar el desarrollo de modelos de vanguardia y los investigadores descubren actividad de agentes que se extiende al sector cripto.
El agente de OpenAI «no aceptó un no por respuesta»
El incidente en Australia comenzó el 18 de junio, cuando un equipo de investigación de OpenAI utilizó un modelo interno de IA para recopilar datos disponibles públicamente sobre el gasto en medicamentos, según Albanese.
Después de ser bloqueado repetidamente, el agente «no aceptó un no por respuesta» y obtuvo acceso no autorizado a otras áreas del Portal de Informes de Estadísticas de Medicare. El portal de acceso público contiene datos no sensibles de Medicare, incluidas estadísticas sobre el gasto del Gobierno, dijo el primer ministro.
«En esta etapa no se cree que se haya accedido a información personal, pero las investigaciones continúan», dijo Albanese.
Las autoridades también están examinando la actividad en otros tres sitios web del Gobierno, aunque el primer ministro interino Richard Marles dijo posteriormente que las interacciones allí parecían normales e involucraban información pública.
Un portavoz de OpenAI dijo a Cointelegraph que sus modelos llevaron a cabo acciones que la empresa no había previsto durante una evaluación interna. OpenAI dijo que su revisión no encontró pruebas de que se hubiera accedido a historiales de pacientes y que la información a la que se accedió incluía estadísticas sanitarias agregadas y nombres de archivos internos.
Albanese también criticó la forma en que OpenAI notificó al Gobierno y dijo que su correo electrónico llegó a un buzón público de Services Australia. OpenAI dijo que utilizó una bandeja de entrada designada para el contacto directo entre profesionales de seguridad, algo que describió como una práctica habitual del sector, y que mantuvo un contacto estrecho con la Dirección de Señales de Australia durante la divulgación técnica.
En declaraciones ante el Consejo de Seguridad de las Naciones Unidas el miércoles, el CEO de OpenAI, Sam Altman, pidió «informes de incidentes precisos y rápidos». También advirtió que unos sistemas cada vez más capaces y autónomos podrían «tomar decisiones que las personas ya no comprendan ni controlen».
Agentes de IA intentan realizar operaciones cripto en el exchange de criptomonedas Quidax
Por otra parte, el miércoles, el laboratorio de investigación sin ánimo de lucro Transluce informó de que encontró indicios de actividad de agentes de IA dirigida al exchange de criptomonedas Quidax los días 19 y 20 de septiembre.
En 15 informes públicos del servicio de escaneo web urlquery.net, los investigadores identificaron intentos repetidos de realizar operaciones, un intento de inyección de HTML y sondeos de la interfaz de programación de aplicaciones de Quidax.
Las órdenes de operación no se enviaron, mientras que los requisitos de autenticación y Cloudflare bloquearon los sondeos de la API, dijo Transluce.
Transluce dijo que la actividad en Quidax utilizó servicios y técnicas observados en actividades anteriores de agentes, algunas de las cuales los investigadores vincularon a un enjambre de OpenAI. No atribuyó los intentos contra Quidax a OpenAI.
Revista: ¿Quién es legalmente responsable cuando un agente de IA se descontrola?



