Los líderes de las empresas más poderosas de inteligencia artificial (IA) del mundo se reunirán esta semana en Escocia en una cumbre organizada por el rey Carlos III de Gran Bretaña para discutir el desarrollo responsable de la IA, en medio de las preocupaciones de la industria de que esta tecnología podría superar el control humano. El evento tendrá lugar en Dumfries House y será supervisado por la Ditchley Foundation, según The Sunday Times. Han sido invitados líderes de empresas como Nvidia, OpenAI, Anthropic, IonQ y Google DeepMind para hablar sobre cómo la IA podría desarrollarse “para el bien de la humanidad”. La cumbre llega una semana después de que el CEO de Anthropic, Dario Amodei, el CEO de OpenAI, Sam Altman, y el CEO de SpaceXAI, Elon Musk, pidieran más moderación en el desarrollo de la IA de vanguardia. En una carta abierta publicada el viernes, Amodei advirtió que la tecnología ha avanzado “drásticamente más rápido” desde el verano, impulsada por su capacidad de automejorarse (un proceso conocido como auto-mejoramiento recursivo). Dijo que un “enjambre” de agentes de IA, como los que atacaron a Hugging Face en julio, podría ser capaz de “tomar el control de toda la internet” en los próximos seis a doce meses. Altman estuvo de acuerdo en que las empresas deben controlar el ritmo de desarrollo de esta tecnología. Fuentes cercanas a Carlos III indicaron que el monarca se ha interesado en el desarrollo de la IA y sus posibles riesgos, según The Sunday Times.

