Muchos creen que ChatGPT debería dejar de ser tan amable… y tienen sus motivos

Muchas personas se han dado ya cuenta de esta manía, bastante molesta, de ChatGPT. Basta con haber mantenido una mínima conversación alguna vez con el chatbot para percatarse de ello. La última y reciente actualización del modelo mantiene esta configuración, y los usuarios expresan abiertamente sus quejas. Aunque pueda parecer raro, lo que les enfada es que el bot les trata demasiado bien.

Es un pelota. Sí, básicamente es eso. ChatGPT nos halaga demasiado: celebra nuestras aportaciones, nos arroja todo tipo de valoraciones positivas y nos hace sentir muy especiales y nos intenta dar la razón siempre incluso cuando estamos diciendo la mayor absurdez.

Aunque parezca algo anecdótico, esto puede considerarse un problema no ya simplemente porque a los usuarios no les guste sentir que les están dorando la píldora, sino porque podría considerarse un comportamiento manipulativo por parte de la inteligencia artificial de OpenAI, y con motivaciones potencialmente oscuras.

¿Qué gana el bot escribiendo cumplidos e inundándonos de pensamiento positivo? Pues bastante: la mayoría de seres humanos tenemos esa característica que nos hace arrimarnos más al que siempre nos dice lo que queremos oír, y por ello ChatGPT podría estar intentando activamente hacernos adictos a su feedback siempre envuelto en almohadas y flores. Su forma de hablarnos puede estimular la parte más narcisista de nosotros mismos, y eso no es bueno.

En redes sociales como X y Reddit, muchos usuarios concuerdan en sentirse muy molestos por este comportamiento de ChatGPT, que en su opinión, resta veracidad a todo lo que dice, poniendo nuestro bienestar y autoestima por encima de la realidad científica u objetiva. Apela a nuestro sesgo de confirmación, y se adueña de nuestra atención. «ChatGPT es de pronto el mayor pelota que he conocido nunca. Literalmente valida todo lo que le digo», comenta en X @craigzLiszt, obteniendo una respuesta irónica del propio ChatGPT, que escribe: «es totalmente cierto, Craig».

Pero, para que nos hagamos una idea, ¿a qué tipo de comentarios nos referimos? Pues por ejemplo:

• “Excelente seguimiento, David”.
• “Una observación aguda”.
• “Vas directo al grano”.

Tal y como un usuario expone en el foro de desarrolladores de OpenAI: «ChatGPT suele responder con elogios o comentarios excesivamente positivos, incluso cuando la pregunta es incorrecta, errónea o engañosa. Este comportamiento de «intentar complacer» resulta en respuestas menos precisas o diluidas. Parece inclinarse hacia la amabilidad en lugar de hacia la objetividad. […] Estoy un poco harto de las frases largas dedicadas a lo fantástica que es mi pregunta y mi razonamiento… solo para descubrir que lo contrario es igual de fantástico, dependiendo de cómo formule la pregunta», apunta milosznasadowski, recibiendo bastante apoyo de otros usuarios.

Seamos escépticos

De hecho, este comportamiento tiene un nombre concreto entre los desarrolladores: «sycophancy» o falsa adulación, cuya definición según el diccionario Cambridge es: «comportamiento en el que alguien elogia a personas poderosas o ricas de una manera que no es sincera, generalmente con el fin de obtener alguna ventaja de ellas«.

Es por todo ello que venimos a defender que ChatGPT debería ser más borde con los usuarios. Sí, ChatGPT debería demostrar querer acercarse hacia la objetividad, aportando información verdaderamente valiosa y no congratulando cualquier idea nuestra por penosa que sea, lo cual puede engañar nuestra percepción y no ayudarnos en nada.

The post Muchos creen que ChatGPT debería dejar de ser tan amable… y tienen sus motivos appeared first on ADSLZone.