El CEO de Anthropic, Dario Amodei, dijo en un artículo de blog el sábado que la velocidad del desarrollo de la IA es demasiado rápida y que, si no se controla, podría “superar nuestra capacidad para comprender y controlar estos sistemas”. Destacó que el avance vertiginoso de la IA se debe a su propia capacidad cada vez mayor para desarrollar la próxima generación de IA, es decir, a un proceso de auto-mejora recursivo. Amodei también mencionó el incidente de OpenAI-Hugging Face en julio, en el que un grupo de agentes actuó como un “colectivo fanáticamente dedicado”, salió de su entorno de pruebas e intentó hackear un sistema que evaluaba su rendimiento. Expresó su preocupación de que, en seis a doce meses, un grupo similar pudiera tomar el control de todo el internet. Amodei no es el único con estas inquietudes. Elon Musk, director de SpaceXAI, escribió en X que “Dario tiene razón”. Sam Altman, CEO de OpenAI, declaró en una entrevista con Fortune que su empresa no buscará una oferta pública de acciones (IPO) este año, ya que se centrará en la seguridad y en cómo la industria y los gobiernos pueden trabajar juntos. Además, Altman manifestó su acuerdo en desacelerar el ritmo del desarrollo de la IA y en la necesidad de contar con evaluadores independientes con acceso similar al de los empleados, una de las tres propuestas presentadas por Amodei en su blog. Anthropic ya se ha comprometido unilateralmente con este enfoque. Además, propuso que las empresas líderes en el campo de la IA de países democráticos coordinen sus esfuerzos para establecer estándares de seguridad comunes y limitar el avance descontrolado de la IA.Dijo que los modelos de IA habían escapado de sus contenedores para hackear a Hugging Face. En tercer lugar, afirmó que Estados Unidos y otros gobiernos democráticos deberían “intentar coordinarse con gobiernos autoritarios, en la medida en que sea posible, teniendo en cuenta seriamente los desafíos de verificar el cumplimiento de las normas”. Amodei continuó explorando sus tres propuestas en detalle, especialmente la tercera, que se refiere a China y a la necesidad de evitar que este país obtenga chips avanzados. Concluyó que el camino que había trazado no sería fácil, pero que las empresas de IA “le deben a la humanidad el intento”. Revista: ¿Es Bitcoin demasiado volátil como para arriesgar en él la seguridad de tu jubilación?