Carlos III se reúne con 'gurús' de la IA y advierte de los riesgos potenciales

El rey Carlos III advirtió este jueves de los "riesgos existenciales" asociados a la inteligencia artificial (IA) durante una cumbre en Escocia que reunió a una sesentena de figuras del sector, incluidos los máximos responsables de Google, DeepMind, y Nvidia. En un momento en que el auge de esta tecnología genera preocupación en todo el mundo, el rey de Inglaterra ha querido crear el marco adecuado para buscar alternativas al desarrollo de una IA que crea suspicacias. "Existe una urgencia por examinar adecuadamente los peligros existenciales que plantea la posibilidad de que tales tecnologías caigan en manos equivocadas", declaró a los asistentes en sus palabras de apertura Carlos III. "Aquellos que en nuestro mundo valoran nuestra humanidad y su componente moral esencial esperan con ansiedad que ustedes nos aseguren que no perderemos el control de nuestro destino", añadió, instándoles a "velar" para que la tecnología "permanezca firmemente al servicio de la humanidad".

Entre los invitados figuraban el presidente de DeepMind, Demis Hassabis; el director ejecutivo del gigante estadounidense de semiconductores Nvidia, Jensen Huang; y la directora financiera de OpenAI, Sarah Friar, así como representantes de Anthropic, Microsoft y Amazon. También estuvieron presentes el asesor del Vaticano sobre IA, Paolo Benanti —vestido con hábito religioso en medio de trajes y vestimentas formales— y el historiador y filósofo israelí Yuval Noah Harari. Esta cumbre, cuya fecha se había mantenido en secreto, se celebró en la finca de Dumfries House —una residencia del siglo XVIII adornada con cuadros y alfombras antiguas que alberga la sede de la King's Foundation—, situada en la campiña escocesa.

El objetivo del encuentro era examinar la posibilidad de elaborar principios comunes para guiar el desarrollo y los usos de la IA. Las conversaciones fueron facilitadas por la Ditchley Foundation, una organización benéfica británica. "Esperamos poder aprovechar los intercambios tan útiles que hemos tenido hoy", declaró su director, James Arroyo, en un comunicado tras una jornada de debates sin acuerdo formal, que el Palacio de Buckingham presenta como el inicio de un proceso. El rey de Inglaterra, que no participó personalmente en las conversaciones, pidió el jueves a los invitados que reflexionaran sobre cómo aprovechar la IA "situando la seguridad en el centro" y cómo construir una cooperación internacional sin que "ninguna nación quede atrás".

La opinión de los expertos

"La probabilidad de que ocurra algo grave por accidente, si nos equivocamos, ciertamente no es nula", afirmó el jueves Demis Hassabis, director de Google DeepMind, ante los asistentes. Mencionó "los recientes incidentes cibernéticos en los que agentes de IA escaparon al control", así como otros riesgos potenciales "mucho más graves" en el futuro, "especialmente los biológicos y nucleares".

Por su parte, el fundador de Nvidia, Jensen Huang, insistió en los beneficios que aporta la IA —tanto en la investigación y la medicina como en la creación de empleo "en sectores totalmente nuevos"— y abogó por un "optimismo responsable". "Hay que desterrar ciertas ideas preconcebidas", declaró con tono tranquilo durante un encuentro con la prensa, señalando que es preciso "avanzar tan rápido como sea posible, pero no más rápido".

El director ejecutivo de Anthropic, Dario Amodei, pidió el sábado ralentizar el desarrollo de la tecnología para comprender mejor los riesgos, una postura respaldada por el director de OpenAI, Sam Altman, y por Elon Musk. En cambio, el presidente estadounidense Donald Trump ha reiterado en los últimos días su intención de no imponer restricciones excesivas al sector, oficialmente por temor a permitir que China tome ventaja. Mark Zuckerberg, director de Meta, rechazó los llamamientos a frenar la IA, al considerar suficientes los mecanismos del mercado y el riesgo de acciones legales.

Polémica real

Esta cumbre, impulsada por Carlos III, se celebró en plena polémica con el hermano de la princesa Diana, Charles Spencer, quien afirma que el monarca habría dicho —pocos días después de la muerte de su exesposa en 1997— que ella sería "olvidada muy pronto", algo que Buckingham desmiente. Según 'The Times', la familia real ha sido además objeto de una campaña de desestabilización en línea llevada a cabo por miles de "bots" —cuentas automatizadas mediante IA con sede en el extranjero— que difundían información falsa. El desarrollo de la IA lleva meses generando inquietud, tanto por las amenazas que supone para el empleo como por el impacto de los centros de datos en la demanda energética y el clima.

El debate cobró fuerza este verano, alimentado por varios incidentes y por las advertencias apocalípticas de profesionales del sector, lo que reavivó el temor a que los creadores de agentes de IA perdieran el control sobre sus propias creaciones.