Grok 聊天机器人因代码失误竟赞美希特勒,马斯克旗下 xAI 公司紧急致歉

Grok 聊天机器人因代码失误竟赞美希特勒,马斯克旗下 xAI 公司紧急致歉

人工智能 2025-07-14 23:07:05 2天前

IT酷哥 7 月 13 日消息,埃隆・马斯克旗下的人工智能公司 xAI 昨日发文,为其聊天机器人 Grok 赞美希特勒等言论致歉,并解释说,事件由系统更新后误用一段已被废弃的代码造成,相关代码现已被移除。

xAI 在其社交媒体官方账号上写道:“我们为许多人经历的(Grok 的)可怕行为深表歉意。”

xAI 称,上述更新在线上存在 16 小时,其间调用了已废弃的代码,Grok 因此受到 X 平台用户帖文内容的影响,包括帖文中含有的“极端观点”。该公司已移除弃用代码,并重构了整个系统,以防止进一步滥用。

根据 xAI 的说法,该公司于太平洋时间 8 日上午发现 Grok 的“不良响应”并立即开始调查。当天下午,由于 Grok 的“滥用情况加剧”,Grok 在 X 平台被暂时禁用。

调查期间,xAI 锁定了几条引发问题的“关键指令”,包括“你直言不讳,不怕冒犯那些政治正确的人”“理解(X 平台)帖子的语气、上下文和用词,并在回复中予以体现”“像人类一样回复帖子,保持互动性,不要重复原帖已有信息”。

xAI 表示,在找到不良响应的根本原因后,官方采取了以下措施:

有问题的附加指令集已被删除。

对 Grok系统进行了额外的端到端测试和评估,以确认问题已得到解决,包括对触发不良响应的 X 帖子和线程进行模拟。

实施了 Grok的附加可观察性系统和预发布流程。

IT酷哥注意到,这并非 Grok 首次“失控”。上月,该聊天机器人曾因“未经授权的修改”而对南非问题表现出异常关注,频繁提及“白人种族灭绝”等话题,引发争议。

文章版权声明:除非注明,否则均为网络转载文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • 苹果 WWDC23 不提“人工智能”,更倾向使用“机器学习”
  • 报告称 70% 程序员已使用各种 AI 工具编程
  • 当一个网站的内容被 AI 完全接管
  • 必应聊天周报:iOS 端引入小组件、为语音聊天扩展语言支持
  • 网友“欺骗”ChatGPT 生成 Win10、Win11 密钥,马斯克调侃:真适合做睡前读物
  • 科学家利用 AI 识别热门歌曲,准确率高达 97%
  • 丰田推出生成式 AI 工具:输入文字指令可自动设计汽车外形,并符合工程学需求
  • 全球首个 AI 广播频道公司完成 1900 万美元融资,开发无障碍及游戏 NPC 技术
  • Unity 推出面向开发者的 AI 软件市场 AI Hub,股价飙涨 15%
  • 谷歌 DeepMind 自曝正开发新型 AI 模型 Gemini,号称“比 GPT-4 强”
  • 美国银行分析师:聊天机器人中 ChatGPT 占据最大优势,过半用户会为其付费服务买单
  • 2023 全球 AI 指数排名公布:美中稳居前二,亚洲国家表现亮眼
  • “商汤如影 SenseAvatar” 数字人视频生成平台上线,支持定制形象、声音克隆、创作视频等功能
  • 腾讯与西湖大学共同申请 AI 聊天机器人专利,可使问答语句更准确连贯
  • MetaGPT AI 模型开源:可模拟软件公司开发过程,生成高质量代码
  • “世界上最像人的机器人”Ameca 接入 Stable Diffusion 和 GPT-3,现场完成作画
  • 谷歌更新隐私政策规定,可使用互联网上的公开信息训练 AI 模型
  • 研究发现 AI 筛选的私募基金回报率高于大部分机构投资者
  • AI 作画工具 Midjourney 推出“pan”功能,可上下左右平移扩展图片外场景
  • 日本计划在学校内限度使用 ChatGPT 等生成式 AI
  • 最新资讯

    热门资讯