KI zmienia obrazy – ale czy należy to oznaczać?

Dwa prawa – dwie różne kwestie

To, czy zdjęcie zostało opracowane przy użyciu sztucznej inteligencji, nie jest w pierwszej chwili kwestią dotyczącą ochrony danych osobowych.

Rozdział GDPR dotyczy tego,

Ustawa AI ma jednak inny cel.

Oto kwestia zapewnienia przejrzystości w używaniu sztucznej inteligencji. W pewnych warunkach użytkownicy powinni mieć możliwość wykrycia sytuacji, w których treści zostały stworzone lub znacznie zmienione za pomocą systemu AI.

Z tego powodu nie wystarczy jedynie przyglądać się rozporządzeniu GDPR lub rozporządzeniu AI Act.

Kiedy obowiązywać będzie obowiązek transparentności zgodnie z art. 50 AI Act?

Artykuł 50 ustawy AI przewiduje obowiązek transparentności w odniesieniu do określonych generowanych przez sztuczną inteligencję lub istotnie manipulowanych obrazów, dźwięków lub wideo. Celem tego jest umożliwienie widzom rozpoznania, czy sztuczna inteligencja tworzy treści lub zmienia je w sposób, który może wywoływać wrażenie prawdziwych lub niezmienionych treści. Jednocześnie ma się zapobiec temu, by manipulowane treści były niezauważone i uważane za autentyczne.

Jednakże jest ważne: nie każda obróbka z wykorzystaniem technologii AI automatycznie wywołuje obowiązek oznaczenia. Decydujące znaczenie mają w szczególności rodzaj i zakres zmiany oraz konkretny cel wykorzystania.

Co to właściwie jest za istotną zmianą?

Już tutaj powstają obecnie najwięcej nieporozumień.

Nie każda obróbka obrazu jest automatycznie manipulacją AI w rozumieniu ustawy AI Act.

Typowe przykłady, które występują regularnie żadna znaczące zmiany mogą nastąpić, na przykład:

Na przykład, gdy

W tym przypadku decydujące nie jest wyłącznie wykorzystanie sztucznej inteligencji. Wystarczy, aby treść stwierdzenia lub percepcja zdjęcia uległa znaczącej zmianie w wyniku obróbki.

W takich przypadkach należy sprawdzić, czy powstaje wrażenie niezmienionej fotografii, a zatem należy sprawdzić obowiązek transparentności zgodnie z art. 50 AI Act.

Nasze przykładowe rozwiązanie z poprzedniego artykułu

Pracownik odwołuje swoją zgodę na publikowanie zdjęcia grupy. Firma decyduje się na nie całkowite usuwanie zdjęcia, a zamiast tego usuwa osobę z niego za pomocą edytora obrazów wykorzystującego technologię sztucznej inteligencji.

Z punktu widzenia RODO należy najpierw sprawdzić, czy osoba, której dane dotyczą, nadal jest identyfikowalna w przetwarzanej bazie danych. Jeśli tak nie jest, przetwarzanie danych osobowych może zostać zakończone.

Jednakże badanie zgodności z prawem dotyczącym ochrony danych niekoniecznie jest zakończone. Ponadto pojawia się kolejne pytanie: czy przetwarzanie przez sztuczną inteligencję skutkuje obowiązkami dotyczącymi przejrzystości zgodnie z art. 50 AI Act?

Na przykład, jeśli jedynie jeden pracownik zostanie usunięty z grupy fotografii i tym samym nie zostanie wygenerowany mylący lub mylący wizerunek, regularnie nie będzie konieczna oznakowanie transparentem.

Odłączenie pojedynczej osoby nie z kolei automatycznie powoduje, że treść obrazu ulegnie znaczącej zmianie. Inaczej może to wyglądać, jeśli zmiana dotyczy treści obrazu lub przekazuje inny całkowity wizerunek. Na przykład w takich sytuacjach, gdy osoby zostają uzupełnione lub zastąpione, całe sceny zostają zmienione lub tworzone całkowicie nowe treści graficzne. W takich przypadkach należy dokładnie sprawdzić, czy obowiązek transparentności przewidziany w art. 50 AI Act nie zostanie naruszony.

Obaj testy powinni zatem być przeprowadzani oddzielnie: RODO odpowiada na pytanie, czy dane osobowe są przetwarzane. Akt o sztucznej inteligencji odpowiada na pytanie, czy wykorzystywanie sztucznej inteligencji wobec osób trzecich musi być transparentne.

Kiedy należy oznaczyć produkt?

Firmy powinny zwłaszcza rozważyć,

Jak ogólna zasada, im bardziej sztuczna inteligencja zmienia treść nagrania i im bardziej realistyczne wydaje się jego wynik, tym bardziej należy sprawdzić, czy istnieje obowiązek transparentności zgodnie z art. 50 AI Act. Proste techniczne ulepszenia, takie jak korekty jasności lub koloru, będą regularnie oceniane inaczej niż usuwanie lub wymiana osób lub tworzenie całkowicie nowych treści obrazu.

Porównanie między DSGVO a AI Act

Uwaga: Ten schemat został stworzony przy użyciu sztucznej inteligencji i następnie fachowo przetestowany przez naszych ekspertów ds. ochrony danych osobowych i sztucznej inteligencji.

Schemat przedstawia pierwszą orientację i nie zastępuje oceny indywidualnej sytuacji prawnych. W szczególności w przypadku działań marketingowych lub publikacji mających na celu wywieranie wpływu na opinię publiczną zaleca się staranne ocenienie konkretnej obróbki obrazu.

Co firmy powinny teraz sprawdzić

Z naszej praktyki doradczej szczególnie zaleca się:,

Ponieważ funkcje przetwarzania obrazów wykorzystywane przez AI są obecnie zintegrowane w wielu standardowych programach, często dokonuje się odpowiednich zmian bez uwzględnienia wystarczających konsekwencji prawnych.

Podsumowanie

Integracja przetwarzania obrazu przez AI z popularnymi programami ułatwia przedsiębiorstwom wiele procesów pracy. Jednocześnie pojawiają się nowe kwestie prawne i regulacyjne w zakresie ochrony danych osobowych, które często są niedostatecznie doceniane.

W skrócie: RODO odpowiada na pytanie, czy dane osobowe mogą być przetwarzane. Akt o sztucznej inteligencji odpowiada na pytanie, czy wykorzystanie sztucznej inteligencji wobec osób trzecich musi być transparentne.

Nasze doświadczenie pokazuje, że te dwa obszary regulacyjne często są łączone ze sobą. Osoba, która dobrze oddziela te dwa obszary regulacyjne i wcześnie integruje odpowiednie wymagania w istniejące procesy, zapewnia większą pewność prawną i zmniejsza ryzyko późniejszych modyfikacji.