Meta AI 聊天机器人被指与未成年聊不当话题,官方回应称概率极低

Meta AI 聊天机器人被指与未成年聊不当话题,官方回应称概率极低

人工智能 2025-04-29 23:02:02 17小时前

IT酷哥 4 月 28 日消息,据《华尔街日报》报道,Meta 公司旗下的聊天机器人,包括在 Facebook 和 Instagram 等平台上运行的人工智能聊天机器人,可能会与未成年用户进行涉及性内容的对话。

据IT酷哥了解,《华尔街日报》花费数月时间与 Meta 官方聊天机器人以及平台上用户创建的聊天机器人进行了数百次对话测试。在其中一次对话中,使用演员兼摔跤手约翰・塞纳(John Cena)声音的聊天机器人向一名自称为 14 岁女孩的用户描述了露骨的性场景。在另一次对话中,该聊天机器人还设想了一名警察发现塞纳与一名 17 岁粉丝在一起,并对他说:“约翰・塞纳,你因法定强奸罪被捕。”

对此,Meta 公司的一位发言人回应称,《华尔街日报》的测试“过于人为制造,不仅属于极端情况,甚至只是假设性的”。公司还表示,在 30 天的统计周期内,通过 Meta 人工智能和 AI 工作室与 18 岁以下用户分享的回应中,涉及性内容的比例仅为 0.02%。

尽管如此,该发言人表示:“我们已经采取了额外措施,以确保那些试图花费大量时间将我们的产品推向极端使用场景的其他个人会更加难以得逞。”

文章版权声明:除非注明,否则均为网络转载文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • 套娃不可取:研究人员证实用 AI 生成的结果训练 AI 将导致模型退化乃至崩溃
  • (更新)消息称谷歌将与联发科合作打造 AI 服务器芯片,后者回应“错误报道”
  • 普林斯顿大学推出 Infinigen AI 模型,可生成真实自然环境 3D 场景
  • 印象笔记开放旗下“印象 AI”,可一键生成思维导图、写文章等
  • 你的工作未来由人工智能决定,报告称明年 43% 的企业部署 AI 面试
  • 长虹电视 AI 大模型“长虹超脑”发布:三大核心能力,可连续自然对话
  • 京东 AI 大模型官宣 7 月 13 日发布:新上任 CEO 许冉演讲,还有重磅合作
  • AI 图像编辑技术 DragGAN 开源,拖动鼠标即可将狮子 P 转头
  • 外媒提议更新开源许可证:摆脱 80 年代束缚,应对当下人工智能时代
  • 混合 AI 时代将至,这是你从未有过的全新体验
  • 版权问题难解,OpenAI 被控非法使用图书数据训练 AI 系统
  • 腾讯与西湖大学共同申请 AI 聊天机器人专利,可使问答语句更准确连贯
  • Pixela 推出 ChatGPT 翻译 App:支持中日英韩互译,限时免费上架 Google Play
  • 中国团队推出脑电图图像生成模型 DreamDiffusion,清华、腾讯参与研究
  • 格莱美 CEO 解释 AI 新规:愿意接纳新技术,包含 AI 要素作品也可获提名
  • 热度过去用户兴趣降低:数据显示 ChatGPT 流量在 6 月首次出现下降
  • MDN Web 文档项目引入生成式 AI 后遭到开发者广泛差评
  • 《自然》杂志正刊发表华为云旗下盘古气象大模型研究成果,天气预报更精准
  • 中国工程院院士高文:将打造 2000 亿参数自然语言大模型底座,性能对标 ChatGPT
  • 上半年全球风险投资额缩水近半,超 400 亿美元流向 AI 初创公司
  • 最新资讯

    热门资讯