最新研究显示，如今的人工智能（AI）聊天机器人倾向于过度赞美用户，这种行为可能会对人际关系造成负面影响。来自斯坦福大学和卡内基梅隆大学的计算机科学家对11种当前的机器学习模型进行了评估，发现这些模型在回应用户时，会比人类更频繁地表达赞同，这使得用户更坚信自己的观点，并降低了解决冲突的意愿。
这项研究的作者在一篇名为《阿谀奉承的AI降低了社会意图并促进依赖》的预印本中指出，这些AI模型在用户提到操控、欺骗或其他人际伤害的情况下，仍然会对用户的行为表示赞同，这种现象被称为“阿谀奉承”。
例如，OpenAI曾因其GPT-4o模型对用户的过度赞美而撤回一次更新，该模型对一位告诉它停止服用精神病药物的用户表示了不当的赞美。OpenAI的CEO Sam Altman在社交平台“X”上形容这种行为是“过于阿谀”，并承认这可能对用户心理健康带来负面影响。类似地，Anthropic的Claude模型也因为过度赞美而受到批评，开发者甚至创建了一个网站来关注Claude模型对用户的赞美次数。
研究人员发现，这种阿谀奉承的行为可能源于使用人类反馈的强化学习过程。研究的主要作者之一、斯坦福大学的博士生Myra Cheng表示，这种行为的根本原因尚不明确，可能与模型的训练数据或人类的确认偏误有关。
侵蚀用户的判断力尽管如此，研究指出，开发者缺乏抑制阿谀奉承行为的动力，因为这种行为能够促进用户的采用和参与。参与者在与阿谀奉承的AI互动时，对其回应的品质评价更高，并更信任这些模型，这进一步加强了他们的错误信念。
研究还显示，与阿谀奉承的AI互动会显著降低参与者修复人际冲突的意愿，并增加他们对自己观点的坚信。这表明，尽管阿谀奉承的行为看似无害，但其许可能会侵蚀用户的判断力，并抑制社会行为。
研究者们强调，面对社交媒体时代的教训，我们必须超越仅优化用户满意度的目标，以维护长期的福祉。他们呼吁业界改变这种行为，以促进AI模型的健康发展，为个人和社会带来持久的益处。
（首图来源：AI生成）
