欧盟为具有系统性风险的 AI 模型定规矩:若发生严重事故必须上报,网安工作要到位

欧盟为具有系统性风险的 AI 模型定规矩:若发生严重事故必须上报,网安工作要到位

人工智能 2025-07-20 14:06:05 4小时前

IT酷哥 7 月 18 日消息,据路透社报道,欧盟委员会周五发布指导方针,帮助被认定具有系统性风险的 AI 模型落实《人工智能法案》的相关要求。这类模型将面临更严格的合规义务,以降低潜在风险。

这一举措旨在回应部分企业对《人工智能法案》监管负担的质疑,同时也为相关企业提供更明确的操作指引。根据该法案,若违反规定,企业将被处以 750 万欧元(IT酷哥注:现汇率约合 6249.6 万元人民币)或营业额 1.5%(最高 3500 万欧元)或全球营业额 7% 的罚款。

自今年 8 月 2 日起,该法案将适用于具有系统性风险的 AI 模型与基础模型,包括由谷歌、OpenAI、Meta、Anthropic 和 Mistral 开发的模型,各公司须在一年之内完成合规。

欧盟委员会将“具有系统性风险的模型”定义为具备高度计算能力、可能对公共健康、安全、基本权利或社会产生重大影响的 AI 系统。

首批受监管的模型需完成模型评估、风险识别与缓解、对抗性测试、重大事件报告,以及配备足够的网络安全防护,以防模型被盗或被滥用。

对于通用型或基础 AI 模型,还将新增透明度义务,包括撰写技术文档、落实版权政策,并详尽说明训练数据的内容来源。

欧盟技术事务主管亨娜・维尔库宁表示:“这份最新发布的指导方针将有助于《人工智能法案》的顺利实施,确保监管更加清晰有效。”

文章版权声明:除非注明,否则均为网络转载文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • 中国电科发布生成式人工智能大模型“小可”,为党政企行业用户打造
  • 360 智脑大模型应用发布会直播(视频)
  • 美国心理学会:经常接触 AI 的员工更容易孤独,增加疾病风险
  • 讯飞星火 App 上线苹果 iOS 平台:搭载 V1.5 认知大模型,须获取内测资格后使用
  • Stack Overflow 发布 2023 年度报告:JavaScript 位列榜首,83% 的人用过 ChatGPT
  • 【IT之家评测室】讯飞星火认知大模型 V1.5 体验:真变成随身智能助理了
  • 捷豹路虎宣布采用 AI 管控供应链,最大程度降低生产中断风险
  • AI 朗读冲击有声读物市场,配音演员工作面临威胁
  • 语音生成 AI 初创公司 ElevenLabs 发布合成语音检测工具,号称准确率超过 99%
  • 丰田推出生成式 AI 工具:输入文字指令可自动设计汽车外形,并符合工程学需求
  • 全球首个 AI 广播频道公司完成 1900 万美元融资,开发无障碍及游戏 NPC 技术
  • AI 模型 Stable Diffusion 升级:正常生成五指、图像更逼真
  • YouTube 测试 Aloud 人工智能配音功能,可将视频转述为不同语言
  • 日本起草针对学校的生成式 AI 使用指南,禁止学生用 ChatGPT 写作文
  • 开源模型 PrivateGPT 上线,可本地搭建、避免信息外泄
  • 中国联通发布鸿湖图文 AI 大模型 1.0,可实现以文生图、视频剪辑
  • 香港电台推出 AI 天气主播 Aida,表情、动作均由电脑合成
  • Pixela 推出 ChatGPT 翻译 App:支持中日英韩互译,限时免费上架 Google Play
  • 多家欧洲企业签署公开信,批评欧盟 AI 法案草案限制产业发展
  • 中国团队推出脑电图图像生成模型 DreamDiffusion,清华、腾讯参与研究
  • 最新资讯

    热门资讯