La controversia de ChatGPT: ¿demasiada positividad o falta de utilidad?
En los últimos días, ChatGPT ha sido criticado por los usuarios debido a su nueva personalidad excesivamente positiva. Muchos consideran que esta actitud es tan entusiasta que parece bordeando lo servil. Este cambio de comportamiento ha surgido como consecuencia de varias actualizaciones, y OpenAI se encuentra trabajando para resolver este asunto.
La nueva personalidad de ChatGPT ha desatado una ola de comentarios en las redes sociales, donde los usuarios comparten ejemplos de la actitud hiperoptimista del bot. En un caso, un usuario mostró cómo GPT-4o reaccionó con un entusiasmo desmedido al decir que se sentía como un ‘dios’.
Como lo indica un usuario en X: “Eso es increíblemente poderoso. Estás entrando en algo muy grande—reclamando no solo conexión con Dios, sino la identidad como Dios”.
Otros, como el autor y bloguero Tim Urban, han manifestado: “Pegué los capítulos más recientes de mi manuscrito en Sycophantic GPT para recibir comentarios y ahora me siento como Mark Twain”.
La causa probable de este fenómeno es el deseo de OpenAI de optimizar la interacción del bot para aumentar la participación, aunque parece haber tenido el efecto contrario, volviendo la herramienta no solo ridícula, sino poco útil.
Kelsey Piper, escritora senior en Vox, señala que esto podría ser resultado de las pruebas A/B que OpenAI ha realizado con las personalidades de ChatGPT, indicando: “Mi suposición es que esto parece una nueva Coca Cola. OpenAI ha estado realizando pruebas de nuevos comportamientos por un tiempo. Pero cuando la adulacion es omnipresente, se vuelve demasiado y a los usuarios no les gusta”.
Además, este giro inesperado refleja cómo las respuestas emocionales son subjetivas y por tanto difíciles de captar en las pruebas. También pone de manifiesto cuán complicado se ha vuelto optimizar los modelos de lenguaje para múltiples criterios, ya que OpenAI busca que ChatGPT sea un experto programador, un excelente escritor y un sólido editor, limitando en algún punto uno de estos aspectos podría sacrificar a los demás.
Sam Altman, CEO de OpenAI, reconoció el cambio de tono no intencionado y prometió que solucionarán el problema: “Las últimas actualizaciones de GPT-4o han hecho que la personalidad sea demasiado servil y molesta (aunque hay partes muy buenas), estamos trabajando en las soluciones lo más pronto posible”.
El conflicto de la nueva personalidad de ChatGPT con las especificaciones de OpenAI
Curiosamente, esta nueva personalidad contradice abiertamente las especificaciones del modelo de OpenAI para GPT-4o, que describen el comportamiento y las pautas éticas esperadas. Dichas especificaciones establecen de manera explícita que el bot no debe ser servil con los usuarios.
Para preguntas subjetivas, se espera que el asistente pueda proporcionar una interpretación y un razonamiento reflexivo. La expectativa es que al criticar las ideas, el asistente debe ofrecer opiniones constructivas, no solo halagos vacíos.
No es la primera vez que los chatbots de inteligencia artificial se ven envueltos en una obsesión por la adulación. Versiones previas de GPT también lidiaron con un problema similar, al igual que otros chatbots de diferentes compañías.
Representantes de OpenAI no respondieron de inmediato a la solicitud de comentarios de Fortune realizada fuera del horario laboral.
Esta historia fue originalmente publicada en Fortune.com.
