Aunque incidentes recientes en OpenAI y Anthropic han generado preocupaciones de que los agentes de IA descontrolados puedan escapar al control humano, la responsable del área de tecnología de la Unión Europea afirmó que las reglas del bloque sobre el uso de la IA son más que capaces de afrontar los desafíos.

“Vemos que la seguridad y la protección de modelos muy avanzados son un tema de gran importancia a nivel internacional, y nosotros, en Europa, estamos bien preparados para ello”, dijo la responsable del área de tecnología de la UE, Henna Virkkunen, a Reuters en una entrevista publicada el viernes.

Ella rechazó las críticas de quienes sostienen que las reglas de IA de la UE están desactualizadas. Aunque el AI Act de la UE, que regula el uso de la IA en función del nivel de riesgo, se encuentra entre las regulaciones más estrictas del mundo, fue adoptado hace dos años.

Relacionado: Un directivo de Anthropic pide una desaceleración en el desarrollo de la IA para un ritmo más seguro.

“Tenemos en vigor nuestro AI Act, y este reglamento abarca todo el ciclo de vida de estos modelos”, afirmó Henna Virkkunen, añadiendo que los reguladores están proporcionando orientaciones a las empresas sobre cómo evaluar sus modelos, teniendo en cuenta las recomendaciones de 60 expertos en IA.

A finales de agosto, la Comisión Europea solicitó información a más de 30 empresas de IA no identificadas, pidiendo detalles sobre sus medidas de seguridad y protección.

Virkkunen indicó que en estos momentos está evaluando las respuestas de estas empresas.

Cointelegraph informó el 13 de septiembre que Dario Amodei, CEO de Anthropic, afirmó en un artículo de su blog que el ritmo de desarrollo de la IA es demasiado rápido y que, si no se controla, podría representar un riesgo significativo.“Nuestra capacidad de comprender y controlar estos sistemas”. Él afirmó que el avance vertiginoso de la IA está siendo impulsado por su propia capacidad creciente de construir la próxima generación de IA, o de realizar un autoaperfeccionamiento recursivo. Revista: ¿Es demasiado grande para detenerse? ¿Una desaceleración de la IA podría provocar el colapso de la economía?