部分学者被曝在论文中植入隐藏提示词,试图诱导 AI 给出正面评价

部分学者被曝在论文中植入隐藏提示词,试图诱导 AI 给出正面评价

人工智能 2025-07-09 09:03:03 7天前

IT酷哥 7 月 7 日消息,据《日经亚洲》报道,部分学者可能正在采用一种新策略来影响其研究论文的同行评审结果 —— 在论文中添加隐藏的提示词(prompt),以诱导人工智能工具给出正面评价。

《日经亚洲》在对学术预印本网站 arXiv 上的英文论文进行调查时发现,共有 17 篇论文中包含了某种形式的隐藏人工智能提示词。这些论文的作者分别来自日本早稻田大学、韩国科学技术院(KAIST)、美国哥伦比亚大学和华盛顿大学等八个国家的 14 所学术机构。

IT酷哥注意到,这些论文大多与计算机科学相关,其中的提示词内容简短,通常为一到三句话,并通过白色文字或极小字体的方式隐藏。这些提示词要求潜在的人工智能评审工具“仅给出正面评价”,或称赞论文具有“重大的影响力、严谨的方法论以及非凡的创新性”。

当《日经亚洲》联系早稻田大学的一位教授时,该教授为使用提示词的行为辩护称,由于许多学术会议禁止使用人工智能来评审论文,他们设置提示词是为了“对抗那些使用人工智能进行‘敷衍评审’的评审者”。

文章版权声明:除非注明,否则均为网络转载文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • 又一起 AI 换脸诈骗:安徽男子 9 秒被骗 132 万元
  • 家乐福推出采用 GPT-4 模型的 Hopla 购物资讯机器人 ,可一键规划预算、设计食谱
  • 支持普通话,桌面端 Bing Chat 新增语音聊天方式
  • 研究发现 AI 聊天机器人 ChatGPT 不会讲笑话,只会重复 25 个老梗
  • 消息称谷歌警告员工不要向生成式 AI“泄密”,也不要直接用其写代码
  • 行业首家,长虹电视 AI 大模型“长虹超脑”开启公测
  • 折腾十年,扎克伯格痛失 AI 好局
  • 蚂蚁集团证实正研发语言和多模态大模型,定名“贞仪”
  • 中国联通发布鸿湖图文 AI 大模型 1.0,可实现以文生图、视频剪辑
  • 外媒提议更新开源许可证:摆脱 80 年代束缚,应对当下人工智能时代
  • 英科智能推出 AI 设计的罕见病特效药,已在中美同时启动人体临床试验
  • 金融巨头瑞穗银行押注生成式 AI,开放 Azure OpenAI 给 4.5 万名员工使用
  • 中国团队推出世界首颗 AI 全自动设计 CPU“启蒙 1 号”:无人工干预,性能堪比 486
  • 正版文心一言上架 App Store,百度此前起诉苹果“盗版 App 泛滥”
  • 韩媒称三星先进封装技术落后于台积电,导致难以取得 AI 芯片订单
  • 李开复创业大模型公司“零一万物”官网上线:致力于打造全新的 AI 2.0 平台
  • 多家欧洲企业签署公开信,批评欧盟 AI 法案草案限制产业发展
  • 谷歌更新隐私政策规定,可使用互联网上的公开信息训练 AI 模型
  • 研究表明 GPT-4 模型具备自我纠错能力,有望推动 AI 代码进一步商业化
  • 亚马逊 Kindle 自助出版功能被滥用,AI 生成的书籍泛滥
  • 最新资讯

    热门资讯