Od 28 października KRiBSI może karać firmy za naruszenia AI Act

Polski organ nadzoru nad sztuczną inteligencją dostaje uprawnienia do kontroli i nakładania kar. Dotyczy to bezpośrednio firm, które w obsłudze klienta i sprzedaży używają chatbotów albo treści generowanych przez AI.

Od 28 października Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) będzie mogła kontrolować firmy, prowadzić postępowania, przyjmować skargi i nakładać kary za naruszenia unijnego AI Act. Sama ustawa o systemach sztucznej inteligencji obowiązuje od 11 sierpnia, ale do 28 października nie można złożyć do komisji ani skargi, ani wniosku o opinię - podaje „My Company Polska”.

Wysokość kar określa AI Act w trzech progach. Za zakazane praktyki, np. rozpoznawanie emocji pracowników, grozi do 35 mln euro albo 7 proc. światowego rocznego obrotu. Za naruszenie obowiązków przejrzystości grozi do 15 mln euro albo 3 proc. obrotu, a za wprowadzenie regulatora w błąd do 7,5 mln euro albo 1 proc. Dla dużych firm limitem jest wyższa z kwot, dla małych i średnich niższa. To górne pułapy, nie stawki.

Obowiązek przejrzystości obejmuje chatboty i voiceboty (automaty prowadzące rozmowę głosową) w obsłudze klienta, reklamacjach czy aplikacjach bankowych. Zgodnie z art. 50 AI Act klient musi wiedzieć, że rozmawia z AI, najpóźniej przy pierwszej interakcji. Na czacie wystarczy krótki komunikat nad polem rozmowy, na infolinii komunikat głosowy przed rozmową; zapis w regulaminie nie wystarcza, wskazuje Forsal.pl. Obowiązek spoczywa głównie na dostawcy systemu, ale firma, która go wdraża, powinna sprawdzić, czy jest spełniony.

Przewodnicząca komisji Pamela Krzypkowska zapowiedziała, że jednym z pierwszych tematów kontroli będzie oznaczanie treści typu deepfake (realistycznych zdjęć, nagrań lub głosu wygenerowanych przez AI, które wyglądają jak prawdziwe osoby lub zdarzenia). Pierwsze posiedzenie KRiBSI musi się odbyć najpóźniej 11 listopada, a w Ministerstwie Cyfryzacji powołano departament, który ma obsługiwać komisję i prowadzić nabór pracowników. Eksperci, z którymi w sierpniu rozmawiała Polska Agencja Prasowa (PAP), ostrzegali, że bez specjalistów i narzędzi jesienne kontrole i kary mogą pozostać teoretyczne.

Firmy niepewne, czy ich system spełnia przepisy, mogą od 28 października wystąpić o opinię indywidualną. Komisja ma na nią 30 dni, w sprawach szczególnie skomplikowanych 60. Według PAP opłata wyniesie 150 zł. Samo korzystanie przez pracowników z ChatGPT do pisania maili czy notatek przepisów AI Act nie narusza.