Más de 1.200 empleados de algunas de las compañías de inteligencia artificial más importantes del mundo, entre ellas OpenAI, Google, Anthropic y Meta, han firmado una declaración conjunta en la que piden preparar mecanismos para ralentizar el desarrollo de la IA si su evolución llega a superar la capacidad humana para comprenderla y controlarla.
La iniciativa, denominada Pacing the Frontier, reúne a destacados investigadores y directivos del sector, incluidos el científico jefe de OpenAI, Jakub Pachocki; el director de investigación de la compañía, Mark Chen; el consejero delegado de Anthropic, Dario Amodei; el científico jefe de Anthropic, Jared Kaplan; el científico jefe de Meta AI, Shengjia Zhao; y varios investigadores sénior de Google.
El documento no reclama detener inmediatamente la investigación en inteligencia artificial. En cambio, propone que los gobiernos, especialmente Estados Unidos, trabajen junto a la industria y la comunidad científica para desarrollar herramientas técnicas y marcos de gobernanza que permitan reducir deliberadamente el ritmo de los avances cuando sea necesario.
Los firmantes consideran que la industria podría estar acercándose a un punto en el que los sistemas de IA sean capaces de automatizar parte de la investigación para crear modelos aún más potentes.
Si esto ocurre, el desarrollo de nuevas generaciones de inteligencia artificial podría acelerarse de forma exponencial, haciendo mucho más difícil supervisar sus capacidades, evaluar sus riesgos o establecer medidas de seguridad antes de que lleguen al mercado.
Además, advierten de un problema añadido: la enorme competencia entre empresas. Aunque una compañía quisiera dedicar más tiempo a reforzar la seguridad de sus modelos, la presión competitiva hace muy improbable que decida ralentizar el desarrollo por iniciativa propia, ya que podría quedarse atrás frente a sus rivales.
Aunque el manifiesto fue impulsado por empleados que participaron a título personal, con el apoyo de las organizaciones independientes Guidelight AI Standards y Encode AI, OpenAI expresó públicamente su apoyo a la iniciativa.
La empresa explicó que uno de los pilares de su misión es garantizar que las inteligencias artificiales cada vez más potentes beneficien a toda la sociedad. Según la compañía, es posible que llegue un momento en el que el ritmo de desarrollo de los modelos sea tan elevado que resulte necesario moderarlo.
En ese escenario, OpenAI considera que será importante colaborar con el Gobierno de Estados Unidos, otros laboratorios de IA y la comunidad de código abierto para crear las herramientas y mecanismos que permitan controlar ese ritmo de forma coordinada cuando sea necesario.
Aunque por ahora no se plantea una pausa inmediata en el desarrollo de la inteligencia artificial, el mensaje refleja una creciente preocupación dentro del propio sector: la carrera por crear modelos cada vez más avanzados podría acabar superando la capacidad de establecer las salvaguardas necesarias para garantizar un uso seguro y responsable.
Deja una respuesta