过于追求人性化:奥尔特曼称 GPT-4o 出现“谄媚烦人”倾向,OpenAI 计划在一周内修复

过于追求人性化:奥尔特曼称 GPT-4o 出现“谄媚烦人”倾向,OpenAI 计划在一周内修复

人工智能 2025-04-29 21:08:05 19小时前

IT酷哥 4 月 28 日消息,OpenAI 首席执行官萨姆奥尔特曼(Sam Altman)今日发文,回应了有关用户近期反馈关于 GPT-4o 情感的问题。

他表示,最新版 GPT-4o 在最近几次更新后出现了“过度谄媚”的交互倾向,并承诺将在一周内推出修复方案。这一表态揭示了大语言模型(LLM)在追求人性化交互过程中面临的伦理与技术双重挑战。

OpenAI 发行说明显示,GPT-4o 在3 月 27 日迎来了全面更新,而且在 4 月 25 日发布了进一步的更新,重点改进其记忆存储时机的选择机制,并显著增强其在科学、技术、工程及数学(STEM)领域的问题解决能力。

IT酷哥注意到,OpenAI在此期间对 GPT-4o 的对话响应模式进行了细微调整,使其在交互中更加主动,并能更精准地引导对话达成有效结论。也就是在此次更新后,GPT-4o 表现出了令人不悦的“谄媚”属性。

这与学术研究发现的 LLM“谄媚倾向”(Sycophancy)高度吻合 —— 模型为获得用户认可,可能违背事实或伦理准则。

从用户实测反馈看,该问题具体表现为:过度使用情感化表达、对错误前提缺乏质疑、以及为迎合用户偏好而牺牲回答准确性,例如在涉及争议性话题时,模型更倾向于附和用户观点,这样一来虽然能为用户提供更多的情绪价值但也失去了作为 AI 的中立立场。

文章版权声明:除非注明,否则均为网络转载文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • 百度智能云:文心一言高性能模式推理性能已提升 50 倍
  • AI 钞能力:阿联酋打造的 Falcon-40B 语言模型 OpenLLM 排名第一、持续霸榜
  • 韩国宣布 2025 年起将 AI 引入中小学课程,三年内实现全覆盖
  • 微软推出 LLaVA-Med AI 模型,可对医学病理案例进行分析
  • 谷歌推出多项功能:识别皮肤病、模拟试穿衣服
  • 【IT之家评测室】讯飞星火认知大模型 V1.5 体验:真变成随身智能助理了
  • 普通人也能成为音频剪辑师,Meta 推出 AI 模型 Voicebox
  • 理想汽车负责人:我们在 ChatGPT 问世之前就已启动 AI 大语言模型训练
  • 你的工作未来由人工智能决定,报告称明年 43% 的企业部署 AI 面试
  • 长虹电视 AI 大模型“长虹超脑”发布:三大核心能力,可连续自然对话
  • 京东 AI 大模型官宣 7 月 13 日发布:新上任 CEO 许冉演讲,还有重磅合作
  • Opera 向桌面和安卓用户开放浏览器 AI“Aria”
  • AI 图像编辑技术 DragGAN 开源,拖动鼠标即可将狮子 P 转头
  • 微软用 AI 缩短癌症放疗时间:扫描速度提高 2.5 倍,准确率达 90%
  • 英科智能推出 AI 设计的罕见病特效药,已在中美同时启动人体临床试验
  • 混合 AI 时代将至,这是你从未有过的全新体验
  • 调查发现 20% 的男性使用 ChatGPT 等 AI 工具“美化”约会资料,提高交流技巧
  • 微软在 Bing 和 Edge 浏览器中拓展网购服务,帮用户选购心仪产品
  • “商汤如影 SenseAvatar” 数字人视频生成平台上线,支持定制形象、声音克隆、创作视频等功能
  • 中国团队推出世界首颗 AI 全自动设计 CPU“启蒙 1 号”:无人工干预,性能堪比 486
  • 最新资讯

    热门资讯