AI zmienia zdjęcia – ale czy trzeba to oznaczać?

Dwie ustawy – dwa różne pytania

To, czy zdjęcie zostało przetworzone przy użyciu sztucznej inteligencji, nie jest samo w sobie kwestią ochrony danych.

RODO dotyczy tego,

AI Act ma natomiast inny cel.

Chodzi w nim o zapewnienie przejrzystości przy stosowaniu sztucznej inteligencji. W określonych sytuacjach odbiorcy mają móc rozpoznać, że treści zostały wygenerowane lub istotnie zmienione za pomocą systemu AI.

Dlatego nie wystarczy analizować wyłącznie RODO albo wyłącznie AI Act.

Kiedy obowiązuje wymóg przejrzystości z art. 50 AI Act?

Art. 50 AI Act przewiduje obowiązki w zakresie przejrzystości dla określonych obrazów, nagrań audio i wideo wygenerowanych lub istotnie zmanipulowanych przez AI. Odbiorcy mają dzięki temu móc rozpoznać, że sztuczna inteligencja wygenerowała treść lub zmieniła ją w sposób, który może sprawiać wrażenie treści autentycznej lub niezmienionej. Jednocześnie chodzi o to, by zmanipulowane treści nie były niepostrzeżenie brane za autentyczne.

Ważne jest jednak, że nie każda obróbka z użyciem AI automatycznie rodzi obowiązek oznaczenia. Decydujące są przede wszystkim rodzaj i zakres zmiany oraz konkretny cel wykorzystania.

Czym właściwie jest istotna zmiana?

Właśnie tu pojawia się obecnie najwięcej nieporozumień.

Nie każda obróbka zdjęcia jest automatycznie manipulacją przy użyciu AI w rozumieniu AI Act.

Typowymi przykładami obróbki, która z reguły nie stanowi istotnej zmiany, są np.:

Inaczej jest na przykład wtedy, gdy

Decydujące nie jest przy tym samo użycie sztucznej inteligencji. Liczy się raczej to, czy obróbka istotnie zmienia wymowę zdjęcia lub sposób, w jaki jest ono odbierane.

W takich przypadkach trzeba ocenić, czy powstaje wrażenie niezmienionego zdjęcia, a w konsekwencji – czy zastosowanie ma obowiązek przejrzystości z art. 50 AI Act.

Nasz przykład z praktyki z poprzedniego artykułu

Pracownik cofa zgodę na publikację zdjęcia grupowego. Firma postanawia nie usuwać całego zdjęcia, lecz usunąć z niego tę osobę za pomocą edytora zdjęć opartego na AI.

Z perspektywy RODO trzeba najpierw sprawdzić, czy osobę, której dane dotyczą, da się w ogóle jeszcze zidentyfikować na przetworzonym zdjęciu. Jeśli nie, pierwotne przetwarzanie jej danych osobowych może zostać zakończone.

Nie oznacza to jednak, że analiza prawna jest zakończona. Niezależnie od tego pojawia się bowiem drugie pytanie: czy obróbka z użyciem AI rodzi obowiązek przejrzystości z art. 50 AI Act?

Jeśli na przykład ze zdjęcia grupowego usunięto jedynie jednego pracownika i nie powstaje przez to mylące ani wprowadzające w błąd wrażenie, oznaczenie z reguły nie będzie konieczne.

Usunięcie jednej osoby nie oznacza automatycznie, że wymowa zdjęcia istotnie się zmienia. Inaczej może być, jeśli obróbka nadaje zdjęciu nową treść lub zmienia jego ogólny wydźwięk – na przykład gdy dodaje się lub podmienia osoby, zmienia całe sceny albo generuje zupełnie nowe treści obrazu. W takich przypadkach należy starannie sprawdzić, czy zastosowanie ma obowiązek przejrzystości z art. 50 AI Act.

Obie analizy należy więc zawsze prowadzić osobno: RODO odpowiada na pytanie, czy przetwarzane są dane osobowe. AI Act odpowiada na pytanie, czy wykorzystanie sztucznej inteligencji trzeba ujawnić wobec osób trzecich.

Kiedy trzeba oznaczać?

Firmy powinny w szczególności sprawdzić,

Praktyczna zasada brzmi: im mocniej AI zmienia treść zdjęcia i im bardziej realistycznie wygląda efekt, tym dokładniej należy sprawdzić, czy istnieje obowiązek przejrzystości z art. 50 AI Act. Czysto techniczne poprawki, takie jak korekta jasności czy kolorów, z reguły ocenia się inaczej niż usuwanie lub podmienianie osób albo generowanie zupełnie nowych treści obrazu.

RODO i AI Act – porównanie

Uwaga: Ten schemat powstał przy wsparciu sztucznej inteligencji, a następnie został merytorycznie sprawdzony i poprawiony przez naszych ekspertów ds. ochrony danych i AI.

Schemat służy wstępnej orientacji i nie zastępuje indywidualnej oceny prawnej. Szczególnie w przypadku działań marketingowych lub publikacji skierowanych do szerokiego grona odbiorców zalecamy staranną ocenę konkretnej obróbki zdjęcia.

Co firmy powinny teraz sprawdzić

Z naszej praktyki doradczej wynika, że warto w szczególności

Ponieważ funkcje obróbki zdjęć oparte na AI są dziś wbudowane w wiele standardowych programów, takie zmiany często wprowadza się bez należytego uwzględnienia ich skutków prawnych.

Podsumowanie

Wbudowanie obróbki zdjęć opartej na AI w popularne oprogramowanie ułatwia firmom wiele procesów. Jednocześnie rodzi to jednak nowe pytania z zakresu ochrony danych i regulacji, które często są niedoceniane.

W skrócie: RODO odpowiada na pytanie, czy dane osobowe wolno przetwarzać. AI Act odpowiada na pytanie, czy wykorzystanie sztucznej inteligencji trzeba ujawnić wobec osób trzecich.

Z naszego doświadczenia wynika, że te dwie analizy są często ze sobą mieszane. Kto wyraźnie oddzieli oba obszary regulacji i odpowiednio wcześnie uwzględni wynikające z nich wymogi w istniejących procesach, zyska większą pewność prawną i ograniczy ryzyko późniejszych poprawek.