
为什么企业需要明确的职责分工
人工智能正在进入越来越多的企业——速度往往快于必要框架条件的建立。要合法合规地使用人工智能,关键在于明确的职责分工、对所用系统的可靠掌握,以及对员工具有约束力的规则。由此,人工智能合规官这一角色开始受到关注。
作为新法律框架的欧盟《人工智能法案》
通过 《人工智能法案》(KI-VO) ,欧盟首次为人工智能的使用确立了统一的法律框架。 第 (EU) 2024/1689 号条例,又称 AI Act ,已于 2024 年 8 月 1 日生效。它不仅适用于人工智能系统的提供者,也适用于其部署者,即使用人工智能系统的企业。
《人工智能法案》旨在确保人工智能得到安全、透明的使用。该法案为企业规定了哪些具体义务,取决于企业所扮演的角色(例如提供者或部署者)以及相关人工智能系统的风险等级。
其核心内容是:
人工智能合规官的角色
在企业内协调人工智能使用的一种方式,是任命一名人工智能合规官。他统筹与人工智能使用相关的组织和法律要求,并作为管理层、各业务部门和员工的核心联系人。
其典型职责尤其包括:
此外,人工智能合规官在企业内部还承担着重要的协调职能。
人工智能合规官:企业内部的核心枢纽
人工智能的使用通常涉及多个业务领域和不同专业学科,需要考虑的包括数据保护法问题、信息安全要求,以及著作权等其他法律问题。此外,视使用领域而定,可能还需要职工委员会参与。
因此,某项人工智能应用能否使用、在何种条件下使用,通常无法由某一个人单独判断,而需要将各相关部门的专业意见汇总并相互协调。
原则:法律并未强制要求任命
需要明确的是,《人工智能法案》并未规定必须任命人工智能合规官。《通用数据保护条例》(GDPR)在特定条件下要求任命数据保护官,而《人工智能法案》并无类似规定。因此,企业原则上可以自行决定今后如何从组织上确保符合《人工智能法案》的要求。
结论
想在使用人工智能时把握全局,就需要清晰的架构和职责分工。即便《人工智能法案》并未要求企业任命人工智能合规官,仍建议尽早指定专人或专门部门负责协调人工智能的使用。
尤其对中小企业而言,外部人工智能合规官可以是一种高效、务实的解决方案。这样既能集中职责、统一内部流程,又能将《人工智能法案》的要求长期融入企业日常实践。
实践提示
检查必填字段——
网络研讨会逐步讲解
如果您想参加或提出问题:
请与我们联系——报名详情即将公布。
常见问题解答
《人工智能法案》对企业有哪些规定?
《人工智能法案》为人工智能的使用确立了统一的欧洲法律框架。它不仅适用于提供者,也适用于使用人工智能系统的企业。具体适用哪些义务,主要取决于企业所扮演的角色以及人工智能系统的风险等级。
《人工智能法案》可能带来哪些义务?
核心要求包括风险评估、适当的风险管理措施、记录与透明度义务、确保足够的人工智能素养,以及对特定人工智能生成或经人工智能篡改的内容进行标识的规定。
人工智能合规官有哪些职责?
人工智能合规官可在企业内统一协调人工智能的使用。典型任务包括维护 AI 登记册、评估监管要求和风险、建立审批和管控流程、制定内部人工智能政策,以及协调培训。
为什么使用人工智能时需要统一协调?
人工智能应用往往同时涉及多个业务部门。除数据保护和信息安全外,一般法律、著作权以及职工共同决定权等问题也可能相关。人工智能合规官可以协调各相关方,确保职责明确、决策有据可查。
企业是否必须任命人工智能合规官?
不必。《人工智能法案》并未普遍要求任命人工智能合规官。企业原则上可以自行决定如何从组织上确保合规。
企业在部署人工智能时应该采取哪些组织措施?
企业应梳理所使用的人工智能系统,明确职责,制定内部人工智能政策,培训员工,尽早让相关业务部门参与,并以可追溯的方式记录审批和风险评估。




