人工智能修改图片——是否必须标注？

两部法律——两个不同的问题

图片是否经过人工智能处理，首先并不是一个数据保护法问题。

《通用数据保护条例》（GDPR）关注的是：

而欧盟《人工智能法案》（AI Act）的目标则不同。

它旨在提高人工智能使用的透明度：在特定条件下，当内容借助人工智能系统生成或经过实质性修改时，观看者应能识别出来。

因此，只看 GDPR 或只看 AI Act 都是不够的。

AI Act 第 50 条规定的透明度义务何时适用？

AI Act 第 50 条针对某些由人工智能生成或经人工智能实质性篡改的图像、音频或视频内容规定了透明度义务。其目的是：当人工智能生成了内容，或以足以让人误以为内容真实或未经修改的方式修改了内容时，观看者能够识别出来。同时，也要防止经篡改的内容在不知不觉中被当作真实内容。

但需要注意的是：并非所有借助人工智能的编辑都会自动触发标注义务。关键在于修改的性质和程度，以及具体的使用目的。

究竟什么是实质性修改？

目前大多数误解恰恰产生于此。

并非所有图片编辑都自动构成 AI Act 意义上的人工智能篡改。

通常 不 构成实质性修改的典型例子包括：

而以下情况则不同，例如：

这里的决定性因素并不仅仅是是否使用了人工智能，而是编辑是否实质性地改变了照片所传达的信息或给人的观感。

在这种情况下，需要检查是否会让人以为照片未经修改，并据此审查是否适用 AI Act 第 50 条规定的透明度义务。

我们上一篇文章中的实践案例

一名员工撤回了对发布一张集体照的同意。公司决定不完全删除这张照片，而是用人工智能图片编辑工具将此人从照片中移除。

从 GDPR 的角度看，首先要检查该数据主体在编辑后的照片中是否仍可被识别。如果已无法识别，原先的个人数据处理即可视为终止。

但数据保护法层面的审查并不一定就此结束，因为与此无关地，还存在第二个问题：人工智能编辑是否会引发 AI Act 第 50 条规定的透明度义务？

例如，如果只是将一名员工从集体照中移除，且不会因此产生误导或欺骗性的印象，通常无需进行透明度标注。

移除单个人物并不会自动导致图片所传达的信息发生实质性变化。但如果编辑重新塑造了图片内容，或带来了不同的整体印象，情况就可能不同。例如添加或替换人物、改变整个场景，或生成全新的图片内容。在这些情况下，应仔细检查是否适用 AI Act 第 50 条规定的透明度义务。

因此，这两项审查应始终分开进行：GDPR 回答的是是否处理了个人数据；AI Act 回答的是是否必须向第三方公开人工智能的使用。

何时必须标注？

企业尤其应检查：

经验法则是：人工智能对照片内容的修改越大、结果看起来越逼真，就越应检查是否存在 AI Act 第 50 条规定的透明度义务。亮度或色彩校正等纯技术优化，通常与移除或替换人物、生成全新图片内容的评估结果不同。

GDPR 与 AI Act 对比

注： 这张示意图是利用人工智能辅助制作的，随后由我们的数据保护和人工智能专家进行专业审核并进行修订。

本示意图仅供初步参考，不能替代针对具体个案的法律审查。尤其是营销活动或面向公众的发布，建议仔细评估具体的图片编辑。

企业现在应检查的事项

根据我们的咨询实践，我们尤其建议：

由于人工智能图片编辑功能如今已集成在许多常用软件中，相关修改往往是在未充分考虑法律影响的情况下进行的。

结论

将人工智能图像处理技术集成到常用软件中，为企业带来了众多工作流程的便利。与此同时，这也带来了新的数据保护和监管问题，而这些问题往往被低估。

简而言之：GDPR 回答的是能否处理个人数据的问题，AI Act 回答的是是否必须向第三方公开人工智能的使用。

我们的经验表明，这两项审查常常被混为一谈。将两个监管领域清晰区分、并及早把相应要求纳入现有流程的企业，能获得更高的法律确定性，并降低日后调整的风险。