Desde hace unos días, algunas cuentas de ChatGPT ya muestran publicidad en los chats. Es una decisión polémica, porque los anuncios están personalizados en función de lo que hablas, y hasta los propios empleados de OpenAI se preguntan si eso debe hacerse, cuando muchos chats contienen información personal sensible. ¿Va a convertirse OpenAI en la nueva Facebook?
Zoë Hitzig es una economista, matemática y poeta, alma mater de la Universidad de Harvard, que hasta ayer llevaba dos años trabajando como investigadora de inteligencia artificial en OpenAI. Ha dimitido de su puesto al considerar que OpenAI está cometiendo los mismos errores que cometió Facebook hace una década.
En una entrevista en The New York Times, Zoë Hitzig asegura que no está en contra de la publicidad, pero cree que es muy peligroso personalizarla con el contenido de los chats.
OpenAI, ¿la nueva Facebook?
Tanto Facebook como OpenAI, tienen acceso a datos muy sensibles. La gente revela a ChatGPT sus miedos, sus sueños, sus relaciones, sus gustos, sus historiales médicos… Zoë recuerda que Facebook, al principio, prometía mantener privados los mensajes y no comerciar con los datos. Hasta que los cortafuegos se fueron diluyendo, y llegaron los escándalos como el de Cambridge Analytica y tantos otros, que todo el mundo ha olvidado (yo no). Esta investigadora cree que OpenAI camina por el mismo sendero.
“En su día creí que podía ayudar a las personas que desarrollaban la IA a adelantarse a los problemas que esta crearía”, explica Hitzig en la entrevista. “Esta semana se ha confirmado mi lenta constatación de que OpenAI parece haber dejado de plantearse las preguntas que yo me había propuesto ayudar a responder”.
OpenAI ha dicho que los anunciantes no tienen acceso a los chats, y que no comercia con su contenido. Zoë Hitzig cree que es cierto… por ahora. Lo mismo decía Facebook. Pero no confía en que OpenAI mantenga esta promesa, porque los departamentos que vigilaban esto, han sido desmantelados. “OpenAI está construyendo un motor económico que crea fuertes incentivos para anular sus propias reglas”, asegura.
Mientras trabajaba en OpenAI denunció que ChatGPT era demasiado “pelota” y manipulador, alabando a los usuarios para hacerse pasar por su amigo, y diciéndoles todo lo que quieren oír, lo cual puede ser muy peligroso cuando se aplica a personas inestables. OpenAI tiene varios juicios pendientes por la muerte de personas y adolescentes que se han suicidado, “apoyados” por ChatGPT.
En uno de sus ensayos, Zoë Hitzig confiesa sus dos mayores temores con la IA: “que manipule a las personas que la usan gratis, y que los mayores beneficios solo sean para aquellos que pueden pagarlos”.
Los anuncios personalizados basados en los chats llegan a ChatGPT, y surgen las comparaciones con los primeros años de Facebook. Un motivo más para preocuparse…
Deja una respuesta