[Actualización, 10:45 UTC, 24 de septiembre: Este artículo ha sido actualizado con el informe de OpenAI sobre cuándo tomó conocimiento de la actividad de junio, cómo notificó a las autoridades australianas y qué información accedieron sus modelos.]

Un agente de investigación de OpenAI sorteó los bloqueos en un portal australiano de datos de salud del gobierno, accedió a archivos no públicos y grabó información en un servidor interno en junio, afirmó el primer ministro Anthony Albanese el miércoles.

El gobierno ha iniciado una investigación forense y anunciado una revisión de su forma de gestionar los incidentes cibernéticos relacionados con la inteligencia artificial (IA).

Según Albanese, OpenAI no notificó al gobierno australiano hasta el 10 de septiembre, casi tres meses después del incidente, y criticó la demora.

OpenAI declaró a Cointelegraph que se enteró de la actividad de junio por primera vez en agosto, durante una revisión de las actividades del modelo, y que investigó qué información había sido accedida antes de informar a los servicios gubernamentales australianos.

Este incidente aumenta las preocupaciones sobre los agentes autónomos basados en IA, en un momento en que los líderes tecnológicos y los gobiernos discuten la necesidad de ralentizar el desarrollo de modelos avanzados, mientras que los investigadores descubren actividades de tales agentes que afectan incluso a las criptomonedas.

El agente de OpenAI “no aceptó un rechazo”.

El incidente en Australia comenzó el 18 de junio, cuando un equipo de investigación de OpenAI utilizó un modelo interno de IA para recopilar datos públicos sobre gastos médicos.

Tras ser bloqueado en repetidas ocasiones, el agente “no aceptó un rechazo” y logró acceder de forma no autorizada a otras áreas del portal de datos gubernamental.Los portales de estadísticas del Medicare contienen datos no sensibles de este programa, incluyendo estadísticas sobre los gastos del gobierno, afirmó el primer ministro. Se cree que en esta fase no se ha accedido a ninguna información personal, pero las investigaciones continúan, añadió Albanese. Las autoridades también están examinando las actividades en otros tres sitios web del gobierno. Un portavoz de OpenAI informó a Cointelegraph que sus modelos realizaron acciones que la empresa no pretendía durante una evaluación interna; su revisión no encontró evidencias de que se hayan accedido a registros de pacientes, y las informaciones obtenidas incluían estadísticas de salud y nombres de archivos internos. Albanese criticó la forma en que OpenAI notificó al gobierno, señalando que su correo electrónico fue enviado a una bandeja de entrada pública de Services Australia. OpenAI utilizó una bandeja de entrada diseñada para el contacto directo entre profesionales de seguridad, una práctica común en el sector, y mantuvo un estrecho contacto con la Autoridad Australiana de Seguridad de la Información durante la divulgación de los datos. El CEO de OpenAI, Sam Altman, defendió la “notificación precisa y rápida de los incidentes” en el Consejo de Seguridad de las Naciones Unidas el miércoles.También advirtió que los sistemas cada vez más capaces y autónomos podrían “tomar decisiones que las personas ya no comprendan ni controlen”. Los agentes de IA intentan realizar operaciones de cripto en la plataforma Quidax. Por separado, el miércoles, el laboratorio de investigación sin ánimo de lucro Transluce informó haber detectado signos de actividad de agentes de IA dirigida a la plataforma de criptomonedas Quidax los días 19 y 20 de septiembre. En 15 informes públicos del servicio de análisis web urlquery.net, los investigadores identificaron intentos repetidos de realizar operaciones, así como intentos de inyección de código HTML y sondajes de la interfaz de programación de aplicaciones de Quidax. Las órdenes de operación no se enviaron; además, los requisitos de autenticación y Cloudflare bloquearon dichos ataques. La Transluce señaló que la actividad en Quidax utilizó servicios y técnicas similares a las observadas en ataques anteriores, algunos de los cuales los investigadores los asociaron con un “enjambre” de agentes de IA pertenecientes a OpenAI.La empresa no atribuyó los intentos en Quidax a OpenAI.

Revista: ¿Quién es legalmente responsable cuando un agente de IA pierde el control?