Anthropic pide una pausa mundial en el desarrollo de la IA

Anthropic, la start-up de inteligencia artificial valorada en casi un billón de dólares, ha instado a sus competidoras a ralentizar el desarrollo de esta tecnología, señalando que está avanzando a un ritmo tan vertiginoso que podría suponer todo tipo de riesgos para la sociedad.

En un comunicado, la influyente compañía afirma que desacelerar el despliegue global de la IA "probablemente sería algo positivo", pues sus datos internos sugieren que estos modelos generativos se encaminan hacia un punto en el que podrán mejorar por sí mismos sin necesitar intervención humana.

"Creemos que sería bueno para el mundo tener la opción de ralentizar o pausar temporalmente el desarrollo de la IA de vanguardia para permitir que las estructuras sociales y la investigación sobre la alineación puedan seguir el ritmo del avance de la tecnología", afirman Marina Favaro, directora del instituto de investigación interna de Anthropic, y Jack Clark, uno de sus cofundadores.

Acuerdo improbable

La firma californiana propone alcanzar un acuerdo global sobre cómo ralentizar el desarrollo y un mecanismo para verificar que sus participantes lo cumplen. Ese hipotético acuerdo, de improbable consecución, debería incorporar a empresas como OpenAI, creadora de ChatGPT; los gigantes tecnológicos Google y Meta; xAI, de Elon Musk; o la china DeepSeek, entre muchas otras.

Anthropic nació en 2021 como una escisión de OpenAI liderada por los hermanos Daniela y Dario Amodei, que pedían un despliegue de IA más cauto que el de la empresa capitaneada por su antiguo socio Sam Altman. Con Claude, su familia de modelos de lenguaje, han logrado ser convertirse en la start-up más valiosa del planeta, con una valoración de 965.000 millones de dólares. Actualmente, se prepara para una salida a bolsa que podría alcanzar unas cifras históricas.

Anthropic es la empresa de IA del momento. No solo por su situación económica, cercana a obtener beneficios, sino también por su creciente influencia. La compañía se ha popularizado a nivel mundial gracias a su enfrentamiento directo con el Gobierno de Donald Trump para que el Ejército de Estados Unidos no utilice su IA para espiar y crear armas autónomas, así como por la creación de Mythos, un misterioso modelo clasificado que podría comprometer la ciberseguridad global.

Suscríbete para seguir leyendo