人工智能正在改变图像——但是否应该加以标记？

两部法律——两个不同的问题

是否使用人工智能进行图像处理，最初并不属于数据保护法的问题。

DSGVO 规范了这一点：,

而 AI 法案则追求着不同的目标。

这里旨在提高人工智能应用的透明度。在特定条件下，用户可以识别出如果内容是通过人工智能系统生成或大幅修改的。

因此，仅仅审视 GDPR 或 AI 法案是不够的。

《AI法案》第50条规定的透明义务何时生效？

《AI法案》第50条规定，针对某些由人工智能生成或严重操纵的图像、音频或视频内容，须承担透明度义务。此举旨在让观看者能够识别出人工智能是否在生成或以某种方式修改内容，从而营造出真实或未更改内容的假象。同时，还旨在防止操纵内容被无意中视为真实内容。

然而，这里需要注意的是：并非所有使用人工智能的编辑操作都会自动触发标识要求。更重要的是，要考虑的因素包括所做的更改的性质和程度以及具体的使用目的。

到底什么是重大变革？

正是在这里，目前最常见的误解正在产生。

并非所有图像处理操作都符合 AI 法案规定的人工智能操作。

常见的例子，经常出现 没有 例如，重大变化可能包括：

例如，如果

在这一方面，人工智能的使用并非唯一决定因素。更重要的是，是否通过处理过程，照片的内容或其感知方式发生了重大变化。

在这种情况下，必须检查是否会产生一张未更改的照片的印象，因此必须根据《AI法案》第50条的规定检验透明度义务是否得到遵守。

我们上一篇文章中的实践案例

一名员工撤销了发布团体照片的同意。该公司决定不完全删除该照片，而是使用人工智能图像编辑器从照片中移除该人。

根据 GDPR 的规定，首先需要检查所涉个人是否仍然可以被识别在处理的记录中。如果不再如此，最初的个人数据处理就可以停止了。

然而，这并不一定意味着数据保护方面的审核就完成了。此外，还有一个问题需要考虑：人工智能处理是否会导致《AI法案》第50条规定的透明义务的产生？

例如，如果仅仅删除了某个员工在集体照片中的身影，而不会产生误导或欺骗性印象，那么通常就不需要透明标识了。

单个人物的移除并不一定会导致图像内容发生重大变化。但如果通过编辑对图像进行内容重构或带来截然不同的整体印象，情况可能会有所不同。例如，当人员被补充或替换、整个场景发生变化或完全创建新的图像内容时，就可能存在这种情况。在这种情况下，应该仔细检查《AI法案》第50条规定的透明度义务是否适用。

因此，这两项测试应该始终分开进行：GDPR 旨在回答是否要处理个人数据的问题；AI Act 则旨在回答是否需要透明地向第三方披露人工智能的使用情况。

什么时候需要标注？

企业尤其应该考虑：,

作为一条原则，以下几点适用于人工智能：AI内容的变化越严重，其效果越逼真，就越应该考虑是否需要根据《AI Act》第50条实施透明度义务。例如，简单的技术优化（如亮度或色彩调整）通常会与删除或替换人物或生成完全新的图像内容截然不同。

DSGVO与AI Act的对比

注： 这张示意图是利用人工智能辅助制作的，随后由我们的数据保护和人工智能专家进行专业审核并进行修订。

这张示意图仅供初步参考，并不替代个案特定情况的法律评估。尤其是在营销活动或具有宣传效果的发布活动中，建议仔细评估具体的图像处理情况。

企业现在应该考虑的几点

根据我们的咨询经验，我们建议您尤其要：,

由于人工智能图像处理功能如今已集成到许多标准程序中，因此通常会进行相应的修改，而这些修改并未充分考虑其法律影响。

总结

将人工智能图像处理技术集成到常用软件中，为企业带来了众多工作流程的便利。与此同时，这也带来了新的数据保护和监管问题，而这些问题往往被低估。

简而言之：GDPR 解决了是否允许处理个人数据的问题。AI Act 则解答了是否需要透明地披露人工智能对第三方的使用情况的问题。

我们的经验表明，这两个测试经常被混在一起使用。那些能够将这两个监管领域清晰区分开，并及早将相关要求纳入现有流程的人，就会创造出更多价值。提供法律确定性，并降低未来调整的风险。