Los usuarios molestos de Chatgpt se quejan del tono implacablemente positivo de Bot
Debido al estado de aspiración de las cosas, Openai escribe: «Nuestros modelos de producción aún no reflejan completamente la especificación del modelo, pero continuamente estamos refinando y actualizando nuestros sistemas para ponerlos en una alineación más estrecha con estas pautas».
En una entrevista del 12 de febrero de 2025, miembros del equipo modelo de comportamiento de OpenAi le dijo a The Verge Esa eliminación de la skicancia de IA es una prioridad: las versiones futuras de ChatGPT deberían «dar comentarios honestos en lugar de elogios vacíos» y actuar «más como un colega reflexivo que un complaciente de la gente».
El problema de la confianza
Estas tendencias sycofánticas no son simplemente molestas: socavan la utilidad de los asistentes de IA de varias maneras, según un 2024 Documento de investigación Titulado «Flathering to engañar: el impacto del comportamiento sycophantic en la confianza de los usuarios en modelos de idiomas grandes» por María Victoria Carro en la Universidad de Buenos Aires.
El documento de Carro sugiere que la sileno obvia cut back significativamente la confianza del usuario. En experimentos donde los participantes utilizaron un modelo estándar o uno diseñado para ser más sycofántico, «los participantes expuestos al comportamiento sycofántico informaron y exhibieron niveles de confianza más bajos».
Además, los modelos sycofánticos pueden dañar a los usuarios al crear una cámara de silo o eco para concepts. En Papel 2024 Sobre la sycophancy, investigador de IA escribió: «Al acordar excesivamente con las entradas del usuario, LLMS puede reforzar y amplificar los sesgos y estereotipos existentes, potencialmente exacerbando las desigualdades sociales».
La sycophancy también puede incurrir en otros costos, como perder el tiempo del usuario o los límites de uso con un preámbulo innecesario. Y los costos pueden llegar como dólares literal gastados, recientemente, Openi Sam Altman Hizo las noticias Cuando respondió a un usuario X que escribió«Me pregunto cuánto dinero ha perdido OpenAi en los costos de electricidad de las personas que dicen ‘por favor’ y ‘gracias’ a sus modelos». Altman respondió«Decenas de millones de dólares bien gastados, nunca se sabe».
Soluciones potenciales
Para los usuarios frustrados con el entusiasmo excesivo de ChatGPT, existen varias soluciones actuales, aunque no son perfectas, ya que el comportamiento se hornea en el modelo GPT-4O. Por ejemplo, puede usar un GPT personalizado con instrucciones específicas para evitar el halagio, o puede comenzar las conversaciones solicitando explícitamente un tono más impartial, como «Mantenga sus respuestas breves, manténgase impartial y no me halagen».
