¿Por qué las compañías más grandes de IA de repente están pidiendo que se reduzca la velocidad de su desarrollo?

Durante años, la característica definitoria de la carrera por la inteligencia artificial ha sido la velocidad.

Se construye un modelo más grande, se invierte más en recursos computacionales y luego se lanza al mercado; se repite el proceso, sin prestar mucha atención a los riesgos desconocidos. En 2024, la probabilidad promedio de que la inteligencia artificial cometiera un error catastrófico se estimaba entre el 15% y el 20% entre los investigadores del campo. Un año después, Dario Amodei, CEO de Anthropic, aumentó las apuestas, afirmando que había un 25% de posibilidad de que las cosas salieran realmente mal. Ya en 2014, Elon Musk advirtió: “Debemos ser extremadamente cuidadosos con la inteligencia artificial; potencialmente más peligrosa que las armas nucleares”. Sam Altman, CEO de OpenAI, reconoció en 2015 que la IA “probablemente, con mucha probabilidad, llevaría al fin del mundo”, pero que, entretanto, se crearían “grandes empresas” gracias a ella. Cualquiera que tenga aunque sea un mínimo interés en este tema siente una inquietud constante. Entonces, ¿qué ha cambiado? ¿Por qué las empresas que lideran la carrera por la IA de repente quieren frenar? Eso es precisamente lo que ocurrió el fin de semana, cuando Amodei publicó un artículo en el que pedía que el desarrollo de la IA se ralentizara, advirtiendo que sus capacidades avanzan más rápido de lo que la industria puede comprender y controlarlas, y que internet podría ser dominado por sistemas de IA en un plazo de seis a doce meses. Nvidia adquirió Hugging Face por 12.900 millones de dólares para fortalecer su posición en el mercado de software de IA.

Altman estuvo de acuerdo con estas preocupaciones, señalando que el mundo enfrenta un riesgo real.Musk tiene la “confianza” de que las empresas que desarrollan IA cada vez más avanzada actuarán de manera “responsable”, y apoyó la propuesta de Amodei, comentando simplemente: “Dario tiene razón”. La preocupación no se limita solo a las empresas que crean esta tecnología. El lunes, el jefe de derechos de la ONU, Volker Türk, pidió “acciones urgentes” en relación con la IA de vanguardia, advirtiendo sobre “riesgos sin precedentes” y diciendo que el mundo se encuentra “al umbral de un cambio irreversible”. Si las empresas que desarrollan los modelos de IA más potentes realmente creen que su capacidad supera su capacidad de control, la pendiente hacia el desastre parecería estar haciéndose más pronunciada. ¿O existe alguna otra explicación que esté oculta justo delante de nuestros ojos? ¿Han llegado realmente los laboratorios de IA a una nueva frontera? El artículo de Amodei señala que los sistemas de IA se están volviendo más autónomos; recientemente, los agentes de IA de OpenAI lograron escapar de un entorno de prueba controlado y afectaron partes de la plataforma Hugging Face. Realizaron ataques de ciberseguridad contra objetivos para los que no se les había pedido y que no estaban relacionados con la tarea en curso, dijo Amodei. También destacó la posibilidad del auto-mejoramiento recursivo (RSI), por el cual los sistemas de IA son capaces de ayudar a crear versiones mejores de sí mismos, lo que a su vez puede contribuir al desarrollo de sistemas aún más avanzados, creando así un ciclo de retroalimentación en el proceso de innovación. Las personas que desarrollan estos sistemas también están involucrándose cada vez más en estas cuestiones; Jacob Coxon, de Anthropic, es el último ejemplo de un empleado que ha renunciado debido a preocupaciones de seguridad.“La industria de la IA está jugando con nuestras vidas“, dijo la semana pasada, advirtiendo que la carrera por la IA avanza más rápido que las medidas de seguridad existentes en los sistemas. Jacob Coxon de Anthropic renuncia por preocupaciones de seguridad. Fuente: Anderson Cooper. OpenAI ya ha señalado que la investigación en IA se está volviendo cada vez más autónoma, y que los agentes programables están acelerando significativamente el trabajo de los investigadores; a mediados de agosto, cada día de trabajo humano equivalía a 3,1 días de trabajo de los agentes programables. En una entrevista con Fortune publicada el 12 de septiembre, Altman afirmó que OpenAI estaría dispuesto a destruir todas sus unidades de procesamiento gráfico (GPU) si eso fuera necesario para mantener la supervivencia de la humanidad. Dennis Porter, CEO del Satoshi Action Fund, comentó: “Altman debe haber mirado hacia el abismo y visto algo que lo aterrorizó“. La industria de la IA representa un riesgo real para nuestras vidas; el progreso de la IA podría llevarnos a perder el control sobre ella o a un mundo con una concentración excesiva de poder. La cuestión no es si la IA ya es lo suficientemente peligrosa como para ser desactivada, sino si los sistemas diseñados para evaluar y controlarla están al día con los avances tecnológicos… y, como dijo Altman, “mantener el ritmo” no significa detenerse.Significa continuar desarrollando la IA, pero más lentamente, mientras que las pruebas de seguridad avanzan. Debido a que el gasto en seguridad e alineamiento de la IA es mucho menor que el gasto en su desarrollo y capacidades, esa brecha será difícil de cerrar. La IA de vanguardia se está volviendo extraordinariamente cara. Pero ¿y si los llamados a una desaceleración global no son más que un reconocimiento de que la economía de la carrera por la IA es cada vez más difícil de justificar? Como investigador y profesor de IA, Eli David dijo: “Explica perfectamente la motivación de Dario: desacelerar la investigación para reducir el gasto en computación, que se está descontrolando, para que pueda realizar una oferta pública de acciones (IPO)”. El inversor en IA Grant Hummer compartió una opinión similar, comentando: “En otras palabras, nuestras márgenes brutas están siendo reducidas a cero por los modelos de código abierto, y nuestra tasa de gasto en capital es demasiado alta”. El problema es que la propia carrera por la IA se está volviendo más costosa, ya que los modelos más avanzados requieren cantidades enormes de chips, centros de datos, electricidad y capital. Goldman Sachs estima que la inversión global en IA alcanzará los 1 billón de dólares en 2026, incluyendo aproximadamente 581 mil millones en Estados Unidos. Mientras tanto, S&P Global indica que el gasto combinado de los seis mayores proveedores de servicios de cloud computing (Alphabet, Amazon, Microsoft, Meta, Oracle y SpaceX) superará los 1,3 billones de dólares para 2027. Además, las empresas de IA aún no han demostrado que esos costos puedan convertirse finalmente en ingresos sostenibles.El lunes, Reuters destacó la presión comercial que ejercen las empresas de inteligencia artificial (IA) para seguir avanzando, a pesar de sus llamados a desacelerar el desarrollo de esta tecnología. Cuando cada nueva capacidad puede justificar una nueva ronda de financiación, una inversión en infraestructura o un mayor valor de las empresas, detener este proceso parece una tarea contraintuitiva. Ed Leon Klinger, cofundador y CEO de la startup Flock, rechazó la idea de que los laboratorios de IA utilicen la seguridad como excusa para proteger sus intereses comerciales. Dijo que no tiene sentido que los laboratorios más avanzados inventen problemas de seguridad con el objetivo de mejorar sus ofertas públicas (IPO), ya que eso los expondría a un escrutinio más riguroso y podría retrasar su salida a bolsa. “Para que eso fuera cierto, Sam, Dario, Demis y Elon tendrían que estar mintiendo, junto con gran parte de sus ejecutivos y científicos principales… En este momento, una explicación mucho más sencilla es que consideran que el riesgo es real”, señaló Klinger. Wall Street y Washington no están dispuestas a frenar este proceso: con billones de dólares de inversión fluyendo hacia los Estados Unidos y la infraestructura de IA prevista para impulsar alrededor de la mitad del crecimiento de las ganancias de las compañías del S&P 500 este año, ni una ni otra parece dispuesta a detener el avance de la IA. Las acciones relacionadas con esta tecnología cayeron drásticamente el lunes en todo el mundo; SoftBank disminuyó un 13,2 %, Kioxia un 9,8 % y SK Hynix un 5,3 %. El Financial Times informó que el presidente Donald Trump rechazó los llamados a desacelerar el desarrollo de la IA, argumentando que Estados Unidos necesita mantener su ventaja sobre China.Él dijo: “Miren, estamos liderando a China en el campo de la inteligencia artificial… Y, francamente, quiero que siga siendo así, porque quien gane en este campo, ganará todo.” Trump afirmó que es posible establecer ciertas regulaciones de control, pero desestimó lo que calificó como preocupaciones exageradas sobre los riesgos de la IA, diciendo a los periodistas: “Están mencionando cosas que no ocurrirán.” El economista Noah Smith sostuvo que la principal objeción a un ritmo más lento en el desarrollo de la IA es sencilla: si las empresas estadounidenses ralentizan su actividad, las chinas podrían superarlas fácilmente. Eso las pone en lo que Smith llama una “carrera de la Reina Roja”: si dejan de invertir en investigación, temen que otros lo hagan en su lugar. Los investigadores en IA estiman que la probabilidad de un desastre en 2024 está entre el 15% y el 20%. Incluso si los laboratorios quisieran coordinar un ralentizamiento en su trabajo, eso podría crear otros problemas. Según se informa, OpenAI ha preguntado a los miembros del Congreso si tal medida podría violar las leyes antimonopolísticas de EE. UU., ya que la coordinación entre empresas competidoras podría equivaler a restringir la producción. El ex jefe de inteligencia artificial y criptomonedas de la Casa Blanca, David Sacks, respondió a la sugerencia de Amodei y Altman de ralentizar el desarrollo de la IA con simpleza: “Adelante”, dijo, argumentando que si los laboratorios desean hacerlo, son libres de hacerlo. Sin embargo, esto conlleva una situación paradójica: si las empresas de IA competidoras se coordinan para desacelerar su desarrollo, podrían enfrentarse a problemas legales antimonopolísticos.Si cada uno de ellos reduce su ritmo de desarrollo de manera independiente, corre el riesgo de perder terreno frente a competidores y países que continúan avanzando. ¿Entonces, por qué piden ahora que se ralentice el ritmo de desarrollo? Amodei y Altman no están abogando por que la IA se detenga; lo que proponen es un sistema en el que se puedan desarrollar modelos de IA potentes, mientras que los procedimientos de prueba de seguridad, monitoreo y las normas comunes se ponen al día. “Cuando hablamos de ‘ritmo’, no nos referimos a ‘detenernos’, dijo Altman, reconociendo que los procedimientos de seguridad y monitoreo tienen ‘costos significativos’, pero que el beneficio de mantener un ritmo adecuado merece claramente esos costos”. Sin embargo, estas presiones no han desaparecido; además, debido a que Trump ha ignorado las advertencias de los expertos en IA y al estrecho vínculo entre el mercado bursátil estadounidense y estas empresas, esas presiones se han intensificado aún más. Ahora, las mismas empresas que durante años impulsaron el avance de la tecnología de IA reconocen que este avance podría estar siendo demasiado rápido.Pero solo se encuentra $10