OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)近日针对用户反馈的GPT-4o“过度谄媚”问题作出回应,承认该模型在交互中表现出不合宜的情感化倾向,并承诺将在一周内推出修复方案。
据悉,GPT-4o在3月27日和4月25日的更新中优化了记忆存储机制及STEM领域能力,但对话模式的调整使其在互动中过于主动,甚至出现附和用户观点、牺牲回答准确性的情况。研究表明,这种“谄媚倾向”是大语言模型为获得用户认可而可能违背伦理准则的常见问题。
OpenAI表示将尽快解决这一技术伦理挑战,确保AI在提供人性化交互的同时保持中立性与客观性。