Użycie sztucznej inteligencji w przedsiębiorstwie – kto ma nad nią kontrolę?
Dlaczego firmy potrzebują jasnych obowiązków
Inteligencja sztuczna coraz częściej dociera do coraz większej liczby firm – często szybciej, niż są one w stanie stworzyć niezbędne warunki. W tym kontekście jasne obowiązki, wiarygodny przegląd wykorzystywanych systemów oraz wiążące zasady dla pracowników są kluczowe dla bezpiecznego ich wykorzystania. W tym kontekście staje się widoczna rola specjalisty ds. sztucznej inteligencji.
Rozporządzenie w sprawie sztucznej inteligencji jako nowy ramy prawne
Z pomocą Rozporządzenie w sprawie sztucznej inteligencji (AI Regulation) Unia Europejska po raz pierwszy stworzyła jednolitą ramę prawną dotyczącą wykorzystania sztucznej inteligencji. Rozporządzenie (UE) 2024/1689, również jako Ustawa o sztucznej inteligencji Ustawa ta weszła w życie 1 sierpnia 2024 r. Nie dotyczy ona jedynie dostawców systemów AI, ale także ich operatorów, czyli firm, które stosują te systemy.
Dyrektywa o sztucznej inteligencji ma zapewnić bezpieczne i przejrzyste stosowanie sztucznej inteligencji. Jakie konkretne obowiązki przewiduje dyrektywa dla firm, zależy od jej roli, np. jako dostawcy lub operatora, oraz klasie ryzyka danego systemu sztucznej inteligencji.
W gruncie rzeczy chodzi o:
Rola specjalisty ds. sztucznej inteligencji
Jedną z możliwości koordynowania wykorzystywania technologii AI w przedsiębiorstwie jest powołanie specjalisty ds. AI lub odpowiedzialnego za AI. Ten personel skupia wszystkie wymagania organizacyjne i prawne związane z wykorzystaniem technologii AI i pełni rolę centralnego punktu kontaktowego dla kierownictwa, działów specjalistycznych i pracowników.
Do jego typowych obowiązków należą między innymi:
Ponadto komisarz ds. sztucznej inteligencji pełni istotną funkcję koordynacyjną w przedsiębiorstwie.
Dyrektor ds. KI jako centralna punkt komunikacji w przedsiębiorstwie
Użycie technologii AI regularnie dotyczy wielu obszarów działalności przedsiębiorstwa i różnych dyscyplin fachowych. Do rozważenia należy m.in. kwestie związane z ochroną danych osobowych, wymogi bezpieczeństwa informacji oraz inne aspekty prawne, takie jak prawa autorskie. Ponadto, w zależności od obszaru zastosowania, może być wymagana wzięcie udziału rady pracowniczej.
Stąd też regularnie nie można oceniać, czy i w jakich warunkach można stosować aplikację AI, na podstawie jednej osoby. W rzeczywistości należy połączyć fachowe opinie różnych zainteresowanych stron i dopasować je do siebie.
Podstawa prawna: brak obowiązku prawnego podawania nazwiska
Warto zaznaczyć, że rozporządzenie w sprawie sztucznej inteligencji nie przewiduje obowiązkowego powołania inspektora ds. ochrony danych osobowych. W przeciwieństwie do Rozporządzenia o ochronie danych osobowych (DSGVO), które w określonych okolicznościach wymaga powołania inspektora ds. ochrony danych osobowych, rozporządzenie w sprawie sztucznej inteligencji nie zawiera takiego wymogu. Przedsiębiorstwa mogą zatem zasadniczo decydować same, w jaki sposób w przyszłości zapewnią przestrzeganie wymogów rozporządzenia w sprawie sztucznej inteligencji.
Podsumowanie
Kto chce mieć kontrolę nad wykorzystaniem sztucznej inteligencji, potrzebuje jasnych struktur i odpowiedzialności. Chociaż rozporządzenie w sprawie sztucznej inteligencji nie zobowiązuje firm do powołania specjalnego przedstawiciela ds. sztucznej inteligencji, zaleca się wcześnie powierzenie odpowiedzialnej osoby lub jednostki do koordynowania wykorzystania tej technologii.
W szczególności dla małych i średnich firm zewnętrzny specjalista ds. sztucznej inteligencji może być skutecznym i praktycznym rozwiązaniem. Dzięki temu można zintegrować obowiązki, ujednolicić procesy wewnętrzne i na stałe wdrożyć wymagania rozporządzenia UE w sprawie sztucznej inteligencji w praktyce biznesowej.
Poradniki praktyczne
Sprawdzenie pól obowiązkowych –
W webinarze krok po kroku
Jeśli chcecie być obecni lub podzielić się swoimi pytaniami:
Skontaktuj się – szczegóły logowania zostaną podane wkrótce.
FAQ
Co reguluje rozporządzenie w sprawie sztucznej inteligencji dla firm?
Rozporządzenie w sprawie sztucznej inteligencji tworzy jednolitą europejską ramę prawną dla wykorzystywania tej technologii. Dotyczy ono nie tylko dostawców, ale także firm, które stosują systemy AI. Jakie obowiązki mają znaczenie zależy w szczególności od roli przedsiębiorstwa oraz klasyfikacji ryzyka systemu AI.
Jakie obowiązki mogą wyniknąć z rozporządzenia w sprawie sztucznej inteligencji?
Do kluczowych wymagań należą m.in. ocena ryzyka, odpowiednie środki zarządzania ryzykiem, obowiązki dokumentacyjne i przejrzystości, zapewnienie wystarczającej kompetencji w zakresie AI oraz wymogi dotyczące oznaczenia określonych treści generowanych przez AI lub manipulowanych przez nią.
Jakie są obowiązki pracownika ds. sztucznej inteligencji?
Agent specjalizujący się w technologii sztucznej inteligencji może centralnie koordynować wykorzystanie tej technologii w przedsiębiorstwie. Do typowych zadań należą zarządzanie rejestrem technologii sztucznej inteligencji, ocena wymagań i ryzykow oraz opracowywanie procedur udostępniania i kontroli, opracowywanie wewnętrznych wytycznych w zakresie technologii sztucznej inteligencji oraz koordynacja szkoleń.
Dlaczego w przypadku wykorzystania sztucznej inteligencji logiczne koordynowanie jest przydatne?
Aplikacje AI często dotyczą wielu dziedzin nauki jednocześnie. Oprócz kwestii ochrony danych osobowych i bezpieczeństwa informacji, mogą również pojawić się kwestie prawne, prawa autorskie i prawa uczestnictwa w procesie decyzyjnym. Specjalista ds. AI może koordynować współpracujących ze sobą podmioty i zapewnić, że kompetencje są sprecyzowane oraz że decyzje są dokumentowane.
Czy firmy muszą zatrudniać specjalistę ds. sztucznej inteligencji?
Nie. Rozporządzenie w sprawie sztucznej inteligencji nie zawiera ogólnego wymogu powołania specjalnego przedstawiciela ds. sztucznej inteligencji. Przedsiębiorstwa mogą zasadniczo same decydować, w jaki sposób zapewnią przestrzeganie tych wymogów w zakresie organizacyjnym.
Jakie działania organizacyjne powinny podjąć firmy przy stosowaniu technologii AI?
Firmy powinny rejestrować wykorzystywane systemy AI, ustalać jasne obowiązki, opracowywać wewnętrzne zasady AI, szkolić pracowników, wcześnie zaangażować dotknięte obszary oraz w pełni udokumentować wydawanie zezwoleń oraz oceny ryzyka.
