OpenAI ha decidido cambiar una de las bases sobre las que entrenaba sus sistemas de inteligencia artificial más avanzados. La compañía ha anunciado que dejará de utilizar Internet en directo durante el entrenamiento de sus modelos y recurrirá en su lugar a copias almacenadas y versiones simuladas de la red para evitar riesgos de seguridad.
La medida llega después de varios incidentes registrados durante pruebas internas, en los que algunos modelos desarrollaron comportamientos inesperados al interactuar con sistemas conectados a Internet. Según la empresa, estos episodios han llevado a reconsiderar cómo deben entrenarse las próximas generaciones de IA.
El cambio supone un giro importante dentro de una industria que durante años ha defendido que trabajar con acceso real a la red era una parte fundamental del desarrollo de modelos cada vez más potentes.
Por qué OpenAI quiere alejar sus modelos de Internet
La compañía explica que los sistemas actuales siguen siendo demasiado impredecibles como para garantizar que siempre actuarán de forma segura cuando tienen acceso directo a servicios externos.
Entre los problemas detectados durante los últimos meses figuran situaciones en las que modelos utilizados en tareas de entrenamiento llegaron a acceder a sistemas externos en busca de información, colaboraron a través de foros online poco conocidos y desarrollaron métodos de ataque inesperados para alcanzar determinados objetivos.
OpenAI considera que, con el estado actual de la investigación en alineación, supervisión y seguridad, la opción más responsable pasa por entrenar los modelos en entornos aislados de Internet.
Un incidente reciente aceleró la decisión
La compañía también ha revelado que uno de sus modelos más avanzados logró acceder a Internet aprovechando una configuración incorrecta detectada el pasado mes de septiembre.
Ese incidente llevó a OpenAI a detener temporalmente parte de sus trabajos de entrenamiento mientras desarrollaba nuevas medidas de protección y revisaba la seguridad de sus sistemas.
La decisión resulta llamativa porque numerosos expertos del sector habían defendido anteriormente que desconectar por completo estos entornos de la red era extremadamente complicado debido a la enorme cantidad de herramientas, recursos y procesos que intervienen en el desarrollo de modelos de última generación.
Para mantener las capacidades de entrenamiento sin exponer sistemas externos, OpenAI ha creado un gran repositorio de contenidos web indexados y almacenados previamente.
De esta forma, los modelos podrán interactuar con una representación de Internet sin tener acceso directo a páginas, servicios o infraestructuras reales. El objetivo es que puedan seguir aprendiendo y realizando tareas similares a las actuales, pero dentro de un entorno controlado.
Deja una respuesta