Una frase resume el ánimo de estos días. “Soltamos a la bestia”. La pronunció Maliyka Muhammad, analista neoyorquina de 46 años, en una serie de entrevistas que AFP realizó a personas de ocho países, y refleja un sentimiento que atraviesa fronteras, generaciones e ideologías.
Esta semana, la inquietud por la inteligencia artificial se instaló casi al mismo tiempo en el Vaticano, Bruselas, Ginebra, la Casa Blanca y Silicon Valley. Ya no se discute solo qué puede hacer esta tecnología, sino hasta dónde debería permitírsele llegar. Ahí se abre la brecha: entre quienes piden frenar ante el riesgo de perder el control y quienes creen que hacerlo ahora significaría ceder terreno a China.
Ese choque de visiones también se escucha lejos de los despachos. En Roma, la arquitecta Frida Awrohum usa IA en su trabajo, pero admite que “en privado” le sigue dando miedo. En Indonesia, una estudiante se pregunta si algún humano podría responderle tan bien como un chatbot. En Shanghái, un empresario teme que las futuras generaciones enfrenten “verdaderas dificultades” para encontrar empleo. Y en Chile, una joven de 19 años cree que la tecnología “nos está volviendo más tontos”.
No todos, sin embargo, ven una amenaza. Por ejemplo, el italiano Diego Sermattei, de 18 años, celebra que la herramienta le resuelva búsquedas al instante, mientras que la japonesa Konno Hazuki, de 29, no se siente amenazada porque, dice, la falta de emociones deja a la IA sin algunas de las capacidades que una persona puede ofrecer a los clientes.
Pero el debate ya no se limita a percepciones individuales. También ha llegado a instituciones religiosas y a las grandes empresas tecnológicas, donde una parte creciente del debate gira en torno a quién debe fijar los límites y hasta dónde conviene dejar avanzar estos sistemas.
El Vaticano y Silicon Valley alzan la voz sobre la inteligencia artificial
En el Vaticano, el papa León XIV advirtió este miércoles contra “delegar en algoritmos decisiones que pertenecen únicamente a la conciencia humana” y pidió que las relaciones sociales conserven “una sustancia real y una profundidad personal”.
No era su primera intervención sobre el asunto. En mayo publicó una encíclica en la que reclamaba “desarmar” la inteligencia artificial para evitar que “domine a la humanidad”.
Desde dentro del propio sector tecnológico, las advertencias se intensificaron el fin de semana. El consejero delegado de Anthropic, Dario Amodei, publicó un ensayo en el que pidió “un ritmo más lento” para la industria y propuso auditorías independientes obligatorias para los modelos más avanzados. En una coincidencia poco habitual entre rivales, se le sumaron Sam Altman, de OpenAI, y Elon Musk, de xAI.
Altman advirtió después sobre dos peligros que, a su juicio, podrían llevar el desarrollo de la IA por una trayectoria indeseada. Uno es perder el “control del futuro” y el otro, concentrar demasiado poder en manos de una sola empresa, laboratorio o país.
Según el ejecutivo, una inteligencia artificial extraordinariamente poderosa utilizada para imponer una determinada visión del mundo podría producir resultados “extremadamente distópicos”. Por eso reclamó un marco legal federal que establezca evaluaciones preventivas de los modelos durante su desarrollo.
No todos los grandes empresarios tecnológicos comparten la receta. Mark Zuckerberg se mostró partidario de recurrir a evaluadores independientes, pero rechazó la idea de frenar el desarrollo. El responsable de Meta sostiene que cada laboratorio tiene “la responsabilidad y el incentivo” de adoptar por sí mismo medidas para desarrollar sus modelos con mayor seguridad.
El clima de alarma aumentó además con la renuncia de Jacob Coxon, investigador que había trabajado en Anthropic y OpenAI. El investigador aseguró que ambas compañías estaban avanzando hacia sistemas superinteligentes que, según su advertencia, podrían llegar a acabar con la humanidad “antes de que termine la década”.
El debate coincidió también con movimientos en los mercados. Reuters informó de caídas en las acciones ligadas a la IA después de que varios dirigentes del sector reclamaran reducir la velocidad de desarrollo.
Washington y Pekín, el pulso por la regulación de la IA
La discusión tecnológica terminó cruzando líneas políticas poco habituales en Washington. Bernie Sanders, senador de izquierda, y Steve Bannon, antiguo asesor de Donald Trump, participaron en el mismo encuentro del Future of Life Institute y coincidieron en expresar fuertes reservas sobre la dirección que está tomando el sector, pese a partir de posiciones políticas radicalmente distintas.
Sanders anunció que impulsará una ley para “prohibir permanentemente” el desarrollo de una superinteligencia artificial, a la que comparó con las armas nucleares. Bannon, por su parte, defendió romper los vínculos de Estados Unidos con el sector chino de la IA.
La coincidencia terminó ahí. Sanders apostó por negociar con Pekín para contener los sistemas más avanzados, mientras Bannon defendió aislar al sector chino de la IA del ecosistema tecnológico estadounidense. Su propuesta pasa por restringir el acceso chino a componentes avanzados, apartar a sus ciudadanos de los laboratorios estadounidenses de IA y cerrar a sus entidades el acceso a los mercados de capitales del país.
Desde China, el diario oficial People’s Daily rechazó que la carrera por la inteligencia artificial se plantee como un juego de suma cero, es decir, como una competencia en la que el avance de una potencia necesariamente implique la pérdida de la otra.
El periódico sostuvo esta semana que la IA “no es un monopolio de las grandes potencias” y pidió a Washington y Pekín cooperar en la gestión de los riesgos asociados a su desarrollo.
Al mismo tiempo, acusó a Estados Unidos de aplicar un “doble rasero” al cuestionar la destilación de modelos chinos cuando, según el periódico, las propias empresas estadounidenses recurren a esa práctica.
Trump y el presidente chino, Xi Jinping, tienen previsto reunirse la semana próxima en Washington, en un momento en que la inteligencia artificial se perfila también como uno de los temas de las conversaciones bilaterales.
Trump resta importancia a los riesgos de la inteligencia artificial
Frente a quienes reclaman cautela, Donald Trump ha elegido el discurso contrario. El presidente estadounidense calificó de “bulo” la idea de que la IA pueda destruir a la humanidad y sostuvo que poner freno al desarrollo de la IA beneficiaría a China.
Durante una llamada con el consejero delegado de Nvidia, Jensen Huang, en la cumbre All-In de Los Ángeles, bromeó sobre los chips de IA y describió los centros de datos como “el petróleo de los próximos 20 o 25 años”.
Su vicepresidente, JD Vance, también mostró recelo ante las demandas de regulación y dijo resultarle “extraño” que sean las propias empresas de IA las que pidan al Gobierno que las regule.
La tensión con Anthropic añade otro frente. El conflicto surgió después de que la compañía rechazara determinados usos militares de Claude, entre ellos la vigilancia dentro de Estados Unidos y las armas autónomas, una posición que terminó costándole acceso a ciertos contratos del Pentágono. La empresa respondió por la vía judicial y consiguió una resolución favorable en uno de los procesos.
Bruselas y la ONU elevan las exigencias de supervisión tecnológica
En Europa, la respuesta combina restricciones, supervisión y coordinación regulatoria. Ursula von der Leyen propuso este miércoles establecer nuevas barreras de acceso a las redes sociales según la edad. El plan dejaría fuera a los menores de 13 años y prevé cuentas especiales bajo supervisión para quienes tengan entre 13 y 15.
Al defender una mayor protección de los menores, Von der Leyen advirtió contra el riesgo de que los niños sean “arrastrados hacia contenidos cada vez más extremos”.
El proyecto abre otro posible frente con Trump, que lleva tiempo criticando la regulación tecnológica europea. Al mismo tiempo, Von der Leyen anunció que la Comisión discutirá con las grandes empresas del sector medidas para evaluar y reducir los riesgos de los sistemas de IA más avanzados y coordinará ese trabajo con socios como Canadá y Reino Unido.
Pero las propuestas europeas tampoco convencen a todos. Simeon de Brouwer, asesor de políticas de EDRi, advirtió de que las restricciones de edad “simplemente retrasan” la exposición de los jóvenes a determinados riesgos sin modificar el modelo de negocio que, a su juicio, los mantiene enganchados a las plataformas.
Desde Ginebra, Volker Türk elevó todavía más el tono de las advertencias. El alto comisionado de la ONU para los Derechos Humanos planteó que los fallos de sistemas cada vez más autónomos podrían tener consecuencias sobre infraestructuras y servicios básicos, y alertó también de que el avance de la IA puede debilitar los mecanismos destinados a impedir escenarios vinculados con armas de destrucción masiva.
Su planteamiento resume buena parte del dilema que atraviesa el debate. Para Türk, ningún país ni ninguna empresa debería decidir por sí solo qué riesgos debe asumir el resto del mundo.
Entre el entusiasmo cotidiano, el temor a perder el control y el pulso entre potencias, la imagen de la “bestia” utilizada por Muhammad resume una de las grandes inquietudes que atraviesan el debate. Para quienes comparten ese temor, la cuestión ya no es si la IA seguirá avanzando, sino qué límites podrán imponerse a su desarrollo.
Con información de afp, dw