带您解读AI Act REGULATION (EU) 2024/1689
《人工智能法案》为汽车行业设定新的合规标准
欧洲议会和欧洲理事会在2024年6月13日通过了REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL（人工智能法案，AI Act）。
此法案规定了人工智能（AI）技术的统一监管规则，旨在欧盟内部对AI系统进行有效的风险管理。该法规将AI系统按照风险程度分为不可接受、高风险、有限风险和最低/无风险几类。高风险AI系统，如用于自动驾驶、驾驶辅助系统的AI，需遵循严格的要求，包括强制性的合规性评估和持续监控。
《人工智能法案》特别禁止某些AI行为，尤其是那些被认为具有不可接受风险的行为，例如用于社会评分的AI系统或未经同意抓取个人数据的面部识别技术。同时，对于最低或无风险的AI系统，规定的义务较少，但鼓励开发者遵守自愿行为规范。（《人工智能法案》中的第5条（禁止某些AI行为）和第6条（AI系统分类））。
此外，法规强调对于高风险AI系统，要求进行详细的技术文件编制、信息透明和良好的治理，确保有人工监督，并注重系统的网络安全性。该法案旨在为欧盟内的AI技术发展和应用创造一个更加健康、安全、包括民主、法治和可信的环境，同时保障公民的基本权利。
《人工智能法案》通过的关键时间点
2024年8月：《人工智能法案》正式生效。
2024年2月：欧洲人工智能办公室成立。
2024年1月：推出AI创新包，支持人工智能初创企业和中小企业。
2023年12月：立法机构达成《人工智能法案》政治协议。
2023年6月：欧洲议会确定《人工智能法案》的谈判立场。
2022年12月：欧盟理事会就《人工智能法案》形成了总体立场。
2022年6月：西班牙启动首个AI监管沙盒，推动AI法规进展。
2021年12月：区域委员会对《人工智能法案》发布意见。
2021年6月：欧盟委员会就民事责任问题进行公众咨询，讨论数字时代和人工智能的责任规则。
2020年2月：欧盟委员会发布《人工智能白皮书：欧洲的卓越与信任》。
2019年6月：召开首届欧洲人工智能联盟大会，并发布“值得信赖的人工智能”政策建议。
这些里程碑反映了欧盟在推动人工智能监管和创新方面的战略进程，目的是通过确保合规性、建立信任并促进技术创新，使欧洲在全球AI治理中处于领先地位。
法案的目的与意义
1.保障公民安全与基本权利：《人工智能法案》的首要目标是保护公民免受潜在有害AI技术的影响，特别是在高风险领域，如医疗、金融和公共安全等。高风险AI系统必须满足严格的技术要求、透明度和数据治理标准。（根据《人工智能法案》的第6条和第8条得出）
2.促进AI创新与市场信任：通过为各类AI技术设定清晰的法规框架，法案为创新提供了可预见的合规路径。《人工智能法案》第8条和第9条强调，企业在遵循这些合规要求后，不仅能确保其AI系统的安全性和合规性，还能增强公众对AI技术的信任，从而提升市场接受度。这直接关系到高风险AI系统的合规性和透明度，以及如何通过合规性获得消费者和用户的信任。
3.加强对不当AI应用的监管：法案明确禁止某些不符合伦理或可能侵害隐私的AI应用，如社会评分系统和未经同意的面部识别技术。通过此举，确保AI技术不会滥用个人数据，进而提升公众对AI的信任。（根据《人工智能法案》中的第5条和第52条得出）
法案如何影响您的业务
如果您的公司涉及AI工具的开发，特别是在汽车行业中的主机厂及一级、二级零部件供应商，您需要了解《人工智能法案》对您业务的影响，特别是针对高风险AI应用的严格合规要求。
根据《人工智能法案》的规定，若您的AI系统被归类为高风险系统（例如自动驾驶、驾驶辅助系统等），您将面临以下几项关键合规要求：
1.安全性保障：您必须确保AI系统在各种驾驶场景下的安全性，尤其是在自动驾驶或其他关键安全应用中。系统需要经过严格的相关安全测试（如汽车功能安全ISO 26262和网络安全ISO 21434）和验证，以确保不会对驾驶员或乘客的安全构成威胁。
2.透明度要求：为增强系统的可审计性，您需要证明AI系统的决策过程透明且可追溯。用户和监管机构必须能够理解并验证AI系统如何做出决策，这对于建立市场信任和符合法规至关重要。
3.数据保护和隐私合规：如果您的AI工具处理个人数据，您必须确保符合欧盟的《通用数据保护条例》（GDPR）。这意味着数据的收集、存储、使用以及传输都必须得到用户同意，并且符合隐私保护的规定。
4.合规性评估和审查：高风险AI系统还需要进行定期的合规性评估，并可能面临监管审查。这包括对系统性能、安全性以及合规性的持续监控。您的公司需要准备好应对这些审查，并确保产品始终符合规定要求。
文章转载于FSG成员单位秒尼科技术（MUNIK）