欧盟人工智能法案见效 在即出海企业面对 多项挑衅

　　作者： 郑栩彤 刘晓洁 周颖

　　[ 《AI法案》在环球 范围内的影响力不可小觑，肯定 程度 上是由于 ，《AI法案》的管辖范围包罗 一些在欧盟地区 外设立的相干 公司。6个月后，总则和关于不可担当 风险AI体系 的禁令将实用 ；12个月后，高风险AI体系 的部分 章节、通用人工智能模子 等章节将实用 ；24个月后，除高风险AI体系 分类规则等部分 内容外，别的 部分 实用 ；36个月后，高风险AI体系 分类规则等部分 内容也实用 。 ]

　　[ 外洋 智库Center for Data Innovation在2021年欧盟推动《AI法案》订定 之初便预计，该法案将使将来 五年内欧盟经济丧失 310亿欧元。 ]

　　8月1日，欧盟《人工智能法案》（下称《AI法案》）将在欧盟范围内正式见效 ，并将在将来 三年分阶段实行 。这是环球 第一部全面羁系 人工智能的法案，影响力不可低估。

　　与人工智能企业切身长处 相干 的是，《AI法案》对多类在欧盟地区 开展业务的外洋 公司有所束缚 ，影响波及域外地区 。这部法案已经引起法律界和业界广泛器重 ，各人 都在等待 欧盟对一些条例提供进一步的具体 阐明 和配套办法 。

　　以数据合规相干 内容为例，环球 呆板 学习和增长营销办理 方案公司Moloco亚太区产物 总监刘连波告诉第一财经：“隐私政策这件事变 并不是针对某一家公司，与全部 参加 此中 的partner（相助 方）大概 全部 的player（玩家）都是相干 的。这个行业各人 面对 的挑衅 总是一样的，我不以为 会对出海买卖 的趋势有本质的影响，由于 这个行业会共享这个挑衅 。”他以为 起首 紧张 的是合规，其次是精确 网络 数据而不滥用，这终极 也会促使我们调解 算法模子 来举行 应对。“我们会细致 跟踪和研究该法案对我们出海客户的具体 挑衅 ，然后我们会和客户一起去研究落实办理 方案。”

　　“国内出海至欧盟的企业最必要 关注的是高风险AI体系 。假如 不符合规定，企业将面对 高额罚款和法律风险。” 垦丁（广州）状师 事件 所首创 合资 人、主任状师 ，WW国际法律团队首创 人王捷告诉第一财经记者，参考国内科技企业在欧盟地区 开展业务的环境 ，重要 受影响的行业包罗 医疗康健 、人力资源、公共安全和交通运输等。

　　尚有 业界人士告诉记者，对于《AI法案》中的一些规定，企业要服从 并不轻易 ，且做到合规预计将带来企业本钱 上升。

　　罚款可达3500万欧元

　　ChatGPT 2022年年底不测 爆火带来了人工智能立法的急迫 性。在欧盟紧锣密鼓的筹办 下，《AI法案》本年 3月在欧洲议会通过，并于本年 5月得到 欧盟理事会答应 。本年 8月1日该法案正式见效 。

　　《AI法案》在环球 范围内的影响力不可小觑，肯定 程度 上是由于 ，《AI法案》的管辖范围包罗 一些在欧盟地区 外设立的相干 公司。6个月后，总则和关于不可担当 风险AI体系 的禁令将实用 ；12个月后，高风险AI体系 的部分 章节、通用人工智能模子 等章节将实用 ；24个月后，除高风险AI体系 分类规则等部分 内容外，别的 部分 实用 ；36个月后，高风险AI体系 分类规则等部分 内容也实用 。

　　该法案规定，条例实用 于将AI体系 投放到欧盟市场或为欧盟提供AI体系 服务的提供商，或是将通用人工智能模子 投放到欧盟市场的提供商，无论这些提供商设立地或地点 地是在欧盟还是 在第三国。也实用 于设立地或地点 地在欧盟的AI体系 摆设 商，以及AI体系 入口 商和分销商、以本身 名义或商标将AI体系 与产物 一起投放市场或投入利用 的产物 制造商、位于欧盟的受影响职员 等。

　　这意味着，只要外洋 AI相干 公司将AI体系 投放到欧盟市场，或带上了本身 的商标，或影响到欧盟地区 的职员 ，便大概 在该法案规制范围内。违背 规定的企业最高将被处以3500万欧元或最高年收入7%的行政罚款（以较高者为准）。

　　关于该法案的代价 和后续影响，法律界和学界多有讨论。

　　此前欧盟发布的《通用数据掩护 条例》（GDPR）已显现“布鲁塞尔效应”，意即欧盟通过单方面 市场规制本领 将其法律制度推广至境外，让受羁系 实体在欧盟之外也服从 欧盟法律。这种效应可否 在《AI法案》上再次表现 ，出现了差别 的声音。

　　“《AI法案》是一个‘石破天惊’的法案，在权利、任务 、责任之外，它往前探了一步，捉住 ‘风险’这个牛鼻子。以往立法从来没有提出对新技能 的整套规制方法。”同济大学法学院副传授 陈吉栋告诉记者，欧盟通过大量问卷观察 和陈诉 来支持 法案中几个简单 的条文，投入巨大的立法本钱 ，前期研究非常 透彻。在AI发展优先和羁系 优先两端 之间，欧盟盼望 在中心 做均衡 ，羁系 并没有太早。这部法案并非一劳永逸的美满 法案，还会根据AI发展改进。《AI法案》在国内已被学习参考。美国则表现 了实用主义者的选择，采取 动态羁系 方案。

　　在金杜状师 事件 所合资 人赵新华看来，《AI法案》非常全面，在环球 性题目 管理 上，欧盟立法走在前面。连合 2018年的GDPR以及比年 的数字服务法、数字市场法等，欧盟为进入数字经济期间 做了多年铺垫。该法案积极的一面是对AI羁系 起到很好的树模 ，“就像GDPR出台后，环球 羁系 框架根本 上都在鉴戒 GDPR，《AI法案》出台也肯定 会对环球 AI管理 提供有益的鉴戒 和参考”。

　　北京师范大学法学院副传授 、中国互联网协会研究中心 副主任吴沈括以为 ，这会对跨国企业带来非常庞大 的影响，影响业务研发模式、合规流程计划 、市场运营战略 ，其长处 在于明白 的规则和细化的制度计划 。

　　尚有 声音以为 ，《AI法案》推出大概 过早过严，而环球 差别 地区 对AI财产 发展的态度并不雷同 。

　　吴沈括也以为 ，短期来看《AI法案》存在拦阻 本地 AI布局 的这个大概 性。这是羁系 和财产 企业之间互动博弈的过程，必要 一个相互加强 认知的过程。中长期 看，假如 在确定性和羁系 力度上有所均衡 的话，大概 存在反弹机遇 。

　　AI初创企业波形智能筹划 出海欧洲，首创 人姜昱辰曾在瑞士攻读人工智能博士学位。她以为 ，欧盟严羁系 不是一个新题目 ，欧洲向来在数据隐私方面较严。“这次只是针对AI出了相应的隐私条款，但隐私条款本身 严格 这件事变 不这么新，是欧洲市场不停 存在的固有挑衅 。”

　　至于《AI法案》对市场的影响，姜昱辰以为 会有一些，但对私有化摆设 的影响较小，对大模子 公司影响大概 更大，“尤其大模子 公司提供闭源的API有较大风险，但给企业做私有化摆设 或做保障的软件，这个市场反倒更大”。当隐私羁系 较强时，隐私保障较好的产物 及公司会获益。

　　高风险体系 分别 引关注

　　《AI法案》对企业的影响细化在“风险分级”羁系 中。

　　具体 看，《AI法案》采取 “风险分级”羁系 模式，将AI体系 分为四个风险级别，分别为被克制 的、高风险、有限风险和最低风险，每个级别都有相应合规要求。法案规定，不可担当 风险的AI体系 被彻底克制 投入市场，高风险AI体系 只有在符合某些逼迫 性要求的环境 下才华 投放欧盟市场、投入服务或利用 ，有限风险AI体系 的规制较少。

　　一些法律界人士以为 ，AI企业进入欧盟市场最应关注的是高风险AI体系 的规定 和要求。

　　美国奥睿状师 事件 所巴黎办公室合资 人Julia Apostle告诉记者，根据《AI法案》规定，高风险AI体系 开辟 者有最重的合规负担，包罗 必要 证明 符合法 律的要求。任安在 欧洲开辟 或投放AI体系 的公司都应该检察 其AI体系 是否为高风险。从AI实际 应用看，开辟 大概 影响个人权利、安全和自主权的AI体系 公司，受该法案影响较大。

　　“高风险AI体系 涉及关键范畴 ，如教诲 和职业培训、就业、紧张 的私家 和公共服务（如医疗保健、银行业）等，这些范畴 受到严格 羁系 和合规要求。而医疗康健 、人力资源、公共安全和交通运输等行业利用 的AI体系 大多属于高风险种别 。”王捷表现 。

　　据欧盟推动订定 《AI法案》之初的预计，高风险AI体系 占AI体系 的比例约5%~15%。王捷判定 ，不直接影响人身安全、康健 或根本 权利的应用场景相对影响较小，如谈天 呆板 人、个性化内容保举 等，一样平常 不会被以为 是高风险体系 。Julia Apostle以为 ，多数AI体系 不会受该法案太大影响，而对高敏感范畴 ，如医疗保健、职业场景，将会有进一步的立法关注。

　　但陈吉栋判定 ，高风险AI体系 涉及广泛，如今 欧盟把大多数AI体系 都纳入高风险体系 中。比方 主动 驾驶汽车、人脸辨认 都大概 涉及高风险。

　　值得留意 的是，《AI法案》明白 了AI体系 相干 的多类主体，包罗 AI体系 提供者、摆设 者、授权代表、入口 商和产物 制造商。据上海段和段状师 事件 所状师 团队近期发布的一篇文章，AI体系 提供者的任务 要求最繁多，约莫 涉及29条条例，这些任务 涉及体系 计划 、开辟 、测试、摆设 、监控等多环节，显着 多于摆设 者、授权代表、入口 商涉及的条例。

　　王捷表现 ，AI体系 提供者负责开辟 人工智能体系 或通用人工智能模子 并将其投放市场，这意味着必要 投入更多资源来确保合规性。AI体系 提供者需负担 最多任务 ，也负担 较高合规本钱 。

　　别的 ，《AI法案》也对通用人工智能体系 施以颇大关注。该法案称，具有至少10亿个参数并利用 大规模自我监督 用大量数据练习 的模子 应被视为具有明显 通用性。而当通用人工智能模子 用于练习 的累积盘算 量大于10的25次方每秒浮点运算次数FLOPs时，将被以为 具有高影响本领 ，进而大概 被认定为具有“体系 性风险”，需满意 一些额外要求。

　　大模子 合规本钱 或超出17%

　　对人工智能相干 企业而言，要满意 如许 一部全面且复杂的法案的要求，随之而来的大概 是合规本钱 上升。

　　外洋 智库Center for Data Innovation在2021年欧盟推动《AI法案》订定 之初便预计，该法案将使将来 五年内欧盟经济丧失 310亿欧元。一家摆设 高风险AI体系 的欧洲中小企业将负担 高达40万欧元的合规本钱 。《AI法案》将导致全部 人工智能付出 额外17%的开销。

　　CEPS（欧洲政策研究中心 ）同年澄清，超300亿欧元丧失 的估计被夸大，付出 17%额外开销仅实用 于未满意 任何羁系 要求的公司。在CEPS的研究中，要创建 一个全新的质量管理体系（QMS）的本钱 大概 在19.3万欧元至33万欧元之间，每年的维护费用估计为7.14万欧元，一旦QMS创建 起来，本钱 会低落 ，且QMS只是针对高风险AI体系 提供者的要求。

　　以上关于合规本钱 的讨论发生在两三年前，当时 大模子 还未成为主流，如今 环境 大概 发生了改变。

　　Julia Apostle以为 ，提出的17%这个数字，是基于非常低的AI体系 底子 本钱 的估计，未反映练习 一个底子 模子 的本钱 。“合规本钱 还无法完全估算，由于 还不知道全部细节。高风险AI体系 和通用人工智能模子 的提供者的本钱 将是最大的。法律依靠 于对技能 标准 的采取 ，由公司实行 这些标准 ，实行 过程须颠末 认证。而这些标准 内容尚未正式确定，但肯定涉及政策、程序和具体 产物 要求的采取 。”Julia Apostle表现 ，由于该法案对AI的羁系 不止于欧盟，企业因该法案而离开 欧盟好像 不太大概 。

　　王捷以为 ，对该法案，国内大模子 厂商若要在短期内快速且低本钱 实现合规大概 有难度，特别 是对于数据复杂的大模子 。大模子 厂商的挑衅 大概 是顺应 欧盟对于数据管理、模子 透明度和可表明 性的高标准 要求。

　　吴沈括以为 ，对于风险的分类、分级，特别 是关于AI研发的披露度题目 ，是比力 大的合规挑衅 ，这与人工智能算法肯定 的黑箱属性具有较猛烈 和显着 的辩论 。赵新华则以为 ，《AI法案》涉及一些更高的合规标准 和要求，企业进入欧盟市场前要思量 能不能担当 合规本钱 ，以及大概 面对 的不合规责任。

　　“假如 说欧盟完全不在乎对经济的限定 ，也禁绝 确。”赵新华表现 ，从《AI法案》规定范围、内容看，欧盟也在试图消除规定对创新的影响，如对一些较少风险AI体系 的管理相对宽松。比方 支持创新的步伐 中专门设了人工智能羁系 沙盒，供企业测试创新性产物 、服务、贸易 模式和交付机制，克制 企业因从事相干 活动 而立即 招致羁系 结果 ，这是针对技能 创新的柔性羁系 制度，给了小企业较多发展空间。该法案有较大机动 性，风险管控循规蹈矩 、渐渐 匹配，预计对经济造成负面的打击 较小。

　　具体 条例看，业界和法律界仍在关注哪些具体 要求大概 增长 合规本钱 。

　　《AI法案》对高风险AI体系 的要求非常过细 ，涉及风险管理体系 、数据和数据管理 、技能 文件、记录 生存 、透明度和向摆设 商提供信息、人为监督 、正确 性、妥当 性及网络安全。具体 要求包罗 但不限于创建 、实行 、记录 和维护与高风险AI体系 相干 的风险管理体系 ；订定 技能 文件并向国家主管部分 和认证机构提供须要 的信息；练习 、验证和测试数据集的数据预备 处理 惩罚 工作包罗 各种解释 、整理 、更新等，并采取 步伐 发现、防备 和减轻大概 发生的某些毛病 。

　　《AI法案》对通用人工智能模子 提供商的要求则包罗 订定 并随时更新技能 文件、向拟集成该模子 的AI体系 提供商更新信息和文档、订定 服从 欧盟版权法的政策、草拟 并公开一份关于通用人工智能培训内容的充足 具体 的择要 。被认定为具有“体系 性风险”的通用人工智能模子 需额外推行 一些任务 。

　　一名国内互联网大厂研发负责人向记者表现 ，对高风险AI体系 的要求中，较大概 导致本钱 增长 的是对数据举行 处理 惩罚 、防备 某些毛病 ，由于 涉及专门做数据处理 惩罚 并微调模子 来克制 模子 输出不合法 内容。国内大模子 在这方面肯定做过工作，但各地标准 差别 ，要符合新标准 需重新做工作。

　　赵新华则表现 ，高风险AI体系 提供者是指AI体系 由某个企业提供并投入欧盟市场，法案专章列出提供者的任务 ，包罗 体例 相应技能 文件、证明 符合法 案要求，并对符合欧盟的相干 规定做符合性声明，还要增长 CE合格 证认证。高风险AI体系 投放市场前需完成合格 性评估程序。

　　“这些规定非常具体 ，对提供者、摆设 者、入口 商和分销主体设定差别 的任务 。”赵新华表现 ，假如 大模子 公司在欧盟市场提供服务，除了必要 请状师 在合规层面及法律方面做评估和发起 外，还涉及通过第三方举行 合格 性评估程序等，有些企业加CE标记 也需找第三方认证机构。别的 ，《AI法案》还要求将AI体系 算法的重要 技能 数据做择要 ，这大概 涉及公司内部贸易 、技能 团队，及外部第三方主体。

　　本钱 之外，人工智能企业是否乐意 为了进入欧盟市场而满意 《AI法案》的要求也是题目 。

　　《AI法案》对通用人工智能模子 在预练习 和练习 中利用 数据的透明度提出要求，模子 提供商应草拟 并公开用于练习 通用人工智能模子 内容的充足 具体 的择要 。在得当 思量 掩护 贸易 机密 和机密 贸易 信息须要 性的同时，择要 内容应总体全面。

　　”如今 公开的大模子 技能 文件对预练习 数据方面大多一笔带过，但着实 这部分 内容应该最多。”一名国内头部大模子 研发职员 告诉记者，大模子 结果 怎样 ，80%跟练习 数据有关。之以是 不公开练习 数据的细节，是由于 练习 数据在肯定 程度 上是企业核心 机密 。同时，很多 大模子 的练习 数据来自网上各种渠道，假如 不披露大概 不会有人发现数据泉源 ，一旦披露则大概 袒露 版权题目 。

　　以上技能 职员 告诉记者，需向外提交的技能 文档假如 有具体 的要求，大模子 公司也不肯定 乐意 提供，这并非本钱 的题目 ，而是由于 公司大概 盼望 对技能 保密。

　　《AI法案》还将分阶段实行 ，如今 也有不少含糊 或需厘清的题目 。陈吉栋告诉记者，要规定 高风险体系 还是 比力 难，企业面对 高风险AI体系 需负担 的诸多任务 时，会倾向于不把自身规定 在高风险范围内。欧盟或相干 方还必要 提供一套背景 配套底子 办法 来支持 法律顺遂 运行。

　　吴沈括以为 ，从大概 的缺点来看，该法案对于财产 研发和应用的逻辑是否有充足 强的匹配性，还必要 进一步的观察。

　　“含糊 和争议点重要 会合 在界说 和具体 合规要求上，如高风险AI体系 正确 边界 、底子 模子 和应用模子 的区分等。怎样 有效 评估和监控AI体系 透明度和公平性也存在不确定性。”王捷以为 。

　　“我以为 国内有些大企业已经做好了合规的预备 ，但大部分 还没做体系 预备 ，维持观望态度。是否做好合规预备 ，更多取决于战略认知。企业要从本质上认识 到人类已进入人工智能高风险期间 ，对其风险举行 管控已成为共识。”陈吉栋表现 。