Sztuczna inteligencja w polskim porządku prawnym – jakie rozwiązania przewiduje krajowa ustawa?

Od 2 lutego 2025 r. zaczęło obowiązywać unijne rozporządzenie, które ma za zadanie kompleksowo regulować wykorzystanie systemów sztucznej inteligencji w Unii Europejskiej. Jest to rozporządzenia o sztucznej inteligencji[1] (AI Act). W lutym 2025 r. zaczęliśmy stosować rozdziały I i II AI Act. Od 2 czerwca 2025 r. zaczęliśmy stosować kolejne rozdziały tego rozporządzenia. W tym samym czasie Ministerstwo Cyfryzacji pracuje nad projektem ustawy o systemach sztucznej inteligencji. W tym artykule przyjrzymy się temu, kiedy dany system będzie stanowił system sztucznej inteligencji (System SI) oraz jaka jest wzajemna zależność pomiędzy obowiązującym już unijnym rozporządzeniem, a ustawą nad którą pracuje Ministerstwo Cyfryzacji.

Jak jest relacja pomiędzy AI Act i ustawą o systemach sztucznej inteligencji?

13 czerwca 2024 r. Parlament Europejski uchwalił AI Act. Rozporządzenie reguluje sposób, w jaki będziemy mogli wykorzystywać Systemy SI w Unii Europejskiej. Uregulowanie prawa sztucznej inteligencji w formie rozporządzenia Parlamentu Europejskiego oznacza, że rozporządzenie będzie bezpośrednio stosowane we wszystkich państwach członkowskich, w tym w Polsce.[2]

Wejście w życie rozporządzenia i jego stosowanie nie jest zależne od jakiegokolwiek aktu włączającego go do prawa krajowego. Ustawa o systemach sztucznej inteligencji nie musi zostać zatem uchwalona, żeby przepisy AI Act wiązały przedsiębiorców.[3] Tak długo, jak przepisy te są wystarczająco jasne i precyzyjne, wywołują one skutki prawne w odniesieniu do określonych w rozporządzeniu podmiotów.

AI Act daje państwom członkowskim pewną przestrzeń do uregulowania sposobu egzekwowania jego postanowień. Właśnie w tym celu Ministerstwo Cyfryzacji tworzy ustawę o sztucznej inteligencji (Ustawa o systemach SI). Ustawa o systemach SI będzie miała na celu uregulowania tego, w jaki sposób będzie egzekwować AI Act w Polsce.

Podsumowując, AI Act określa zasady korzystania z systemów AI w Unii Europejskiej, a Ustawa o systemach SI określa, w jaki sposób będziemy te zasady egzekwować na terenie Polski. AI Act to przepis kulinarny, a Ustawa o systemach SI to wybór kucharza i zakup składników. Skoro znamy relację między AI Act a Ustawą o systemach SI, to przechodzimy do gotowania.

Jakie obszary reguluje Ustawa o systemach SI?

W dniu publikacji niniejszego artykułu, czyli 24 czerwca 2025 r., Ustawa o systemach SI jest na etapie projektu. Szczegóły dotyczące procesu legislacyjnego możesz znaleźć na stronie Rządowego Procesu Legislacyjnego.[4]  Projekt Ustawy o systemach SI w aktualnym brzmieniu[5] reguluje kilka istotnych obszarów.

Po pierwsze, Ustawa o systemach SI reguluje sprawy związane z powołaniem organu nadzoru nad sztuczną inteligencją. W tym celu powołana zostanie Komisja Rozwoju i Bezpieczeństwa SI (Komisja). Będzie miała ona na celu w szczególności sprawowanie kontroli nad przestrzeganiem przepisów o sztucznej inteligencji, czy podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności  i konkurencyjności w obszarze badań i stosowania Systemów SI.

Po drugie, Ustawa o systemach SI reguluje prowadzenie postępowań przed Komisją. Postępowania te mogą dotyczyć postępowań o naruszenie przepisów regulujących Systemy SI, postępowanie układowe w sprawie warunków nadzwyczajnego złagodzenia sankcji w przypadku naruszenia przepisów regulujących Systemy SI, procedurę zgłaszania poważnych incydentów, czy procedurę notyfikacyjną.

Po trzecie, Ustawa o systemach SI będzie regulowała zasady funkcjonowania tzw. piaskownicy regulacyjnej. Piaskownica regulacyjna dla Systemów SI to kontrolowane ramy, które umożliwiają wybranym firmom lub instytucjom rozwijanie i testowanie innowacyjnych projektów opartych o Systemy SI, z możliwością czasowego odstępstwa od niektórych wymogów prawnych. Celem piaskownicy jest wsparcie rozwoju bezpiecznych i zgodnych z prawem rozwiązań opartych na Systemach SI oraz identyfikacja i usuwanie barier regulacyjnych utrudniających wdrożenia innowacji. Uczestnicy będą zobowiązani do raportowania postępów, oraz ścisłego przestrzegania zasad udziału w piaskownicy regulacyjnej.

Po czwarte, Ustawa o systemach SI będzie również regulowała kary administracyjne i przepisy karne związane z naruszaniem przepisów o Systemach SI.

Czym są systemy sztucznej inteligencji?

System SI został zdefiniowany jako system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu,  który może wykazywać zdolność adaptacji po jego wdrożeniu, a także który – na potrzeby wyraźnych lub dorozumianych celów – wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki, takie jak predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne.[6] Definicja Systemu SI jest szeroka, co pozwala uwzględnić szybki rozwój technologiczny, za którym prawo może nie nadążyć.

AI Act tworzy przede wszystkim podejście skoncentrowane na produkcie, w którym produktem jest albo sam system SI, albo produkt wykorzystujący lub zawierający Systemy SI. AI Act znajduje zastosowanie wyłącznie do systemów spełniających definicję Systemu SI w rozumieniu AI Act. W przypadku gdy dany produkt nie kwalifikuje się jako System AI, przepisy AI Act nie mają do niego zastosowania.

Z uwagi na doniosłość definicji Systemu SI dla stosowania AI Act, Komisja Europejska wydała wytyczne[7], które wyjaśniają, kiedy mamy do czynienia z Systemem SI. Wytyczne nie są wiążące, ale będą miały istotne znaczenie przy ocenie produktów opartych na sztucznej inteligencji i tego, czy dany produkt stanowi System SI.

Jakimi cechami charakteryzują się Systemy SI?

Jeżeli rozłożymy definicję Systemu SI na części pierwsze, to zobaczymy, że jest ona złożona z kilku elementów. System SI to: (1) system oparty na maszynach; (2) zaprojektowany do działania na różnych poziomach autonomii; (3) który może wykazywać zdolność adaptacji po wdrożeniu; (4) i który, dla celów jawnych lub ukrytych; (5) wnioskuje, na podstawie otrzymanych danych wejściowych (input), w jaki sposób generować dane wyjściowe (output), takie jak prognozy, treści, zalecenia lub decyzje (6), które mogą wpływać na środowisko fizyczne lub wirtualne.[8] Poniżej omówimy każdy z tych elementów, co powinno pomóc ustalić, czy tworzony lub używany system stanowi System SI.

Po pierwsze, system oparty na maszynach  oznacza, że został on stworzony i może być używany na systemie maszynowym. Przez systemy maszynowe rozumiemy zarówno sprzęt komputerowy (hardware), czyli fizyczny sprzęt taki jak procesor czy dysk, jak i oprogramowanie (software), czyli np. kod źródłowy, system operacyjny. Takie podejście do Systemów SI pozwoli objąć definicją nim również rozwijające się technologie. Aktualnie rozwijana jest technologia komputerów kwantowych, które również stanowią systemy maszynowe.

Drugą cechą jest autonomia Systemów SI. Możemy mieć do czynienia z różnym jej poziomem. Ten poziom może być minimalny lub żaden. Systemy, które potrzebują do swojego działania pełnej ręcznej kontroli przez człowieka nie będą stanowiły Systemów SI. Przykładem takiego systemu jest popularny chatGPT, gdzie w okienku chatu wpisujemy dane wejściowe (prompt), a chatGPT system generuje nam dane wyjściowe (output). System ten został zaprojektowany w taki sposób, żeby generować wynik bez ręcznego sterowania tymi wynikami lub wyraźnego i dokładnego określenia tego wyniku przez człowieka.

Trzecią cechą Systemu SI jest jego zdolność do adaptacji. Przez zdolność do adaptacji rozumiemy zdolność „uczenia się” systemu w trakcie jego wykorzystywania. System może zatem się rozwijać ponad to, czego został „nauczony” na etapie tworzenia. System SI „może” ale nie musi posiadać zdolności adaptacji, żeby został uznany za System SI. Jest to przesłanka fakultatywna.

Czwartą cechą jest możliwość wykorzystania Systemu SI do jednego lub większej liczby celów. Cele systemu są zakodowane wewnętrznie i mogą nie być znane użytkownikowi. Celów systemu nie należy jednak mylić z przeznaczeniem systemu. Przeznaczenie Systemu SI oznacza zastosowanie, do jakiego System SI został przeznaczony przez jego dostawcę. Przeznaczenie będzie wynikać np. z instrukcji obsługi, czy materiałów promocyjnych^[9]. Cele Systemu SI mogą różnić się od przeznaczenia Systemu SI.

Przykładem może być asystent do pracy z dokumentami. Celem systemu będzie odpowiadanie na pytania użytkownika z dużą dokładnością, w oparciu o dokumenty przedsiębiorcy zgromadzone na dysku. Przeznaczeniem systemu może być wspieranie pracownika działu HR w tworzeniu oceny rocznej pracownika.

Piątą cechą jest zdolność wnioskowania, która polega na możliwości generowania wyników na podstawie otrzymanych danych wejściowych. Przez umiejętność wnioskowania nie chodzi o tradycyjne metody oparte na wnioskowaniu na podstawie zbioru zasad stworzonych przez człowieka (przykład: jeżeli X to Y), celem automatycznego wykonywania poleceń. Chodzi tutaj o sposób wnioskowania, jakiego system nauczył się w fazie budowania Systemu SI. Na tym etapie system uczy się generować odpowiedzi na podstawie danych wejściowych, wykorzystując techniki sztucznej inteligencji umożliwiające wnioskowanie.

Wynikami (output) mogą być (a) predykcje (prognozy), (b) treści wygenerowane przez System SI, (c) rekomendacje dostosowane do preferencji użytkownika lub (d) decyzje Systemu SI.

Ostatnią cechą jest wpływ Systemu SI na środowisko zewnętrzne lub wirtualne. Oznacza to, że systemy aktywnie wpływają na świat zewnętrzny. Może to dotyczyć obiektów materialnych (np. roboty) jak i wirtualnych (np. oprogramowania).

Podsumowując, nie da się stworzyć wyczerpującej listy systemów, które wpisują się w definicję Systemów SI. To, czy dany system stanowi System SI w rozumieniu AI Act należy każdorazowo sprawdzać pod kątem spełnienia cech takiego systemu wskazanych w definicji Systemu SI.

Co nie stanowi Systemu SI?

Skoro wiemy, jakie cechy musi spełnić produkt, żeby został zakwalifikowany jako System SI, to warto powiedzieć kilka słów o systemach, które nie mieszczą się w definicji. Ta wiedza może być przydatna wtedy, kiedy przedsiębiorca będzie miał na celu stworzenie zaawansowanego systemu, który jednak nie będzie obarczony obowiązkami z AI Act.

Systemy, które służą tylko do usprawnienia obliczeń lub przyspieszenia tradycyjnych metod, jak regresja liniowa czy optymalizacja matematyczna, nie są traktowane jako Systemy SI według AI Act. Dotyczy to również sytuacji, w której system używa uczenia maszynowego, ale tylko po to, żeby szybciej liczyć lub lepiej zarządzać zasobami (np. w telekomunikacji). Takie rozwiązania po prostu wspierają pracę znanych już algorytmów, ale nie dostarczają konkretnych danych wyjściowych.

Systemów SI nie stanowią prostsze tradycyjne systemy oprogramowania lub podejścia programistyczne tworzone na podstawie zasad zdefiniowanych wyłącznie przez człowieka i przeznaczone do automatycznego wykonania (jeżeli X to Y, w przeciwnym razie Z).

Systemy, które rozwiązują problemy na podstawie ustalonych reguł (systemy oparte na klasycznej heurystyce), a nie uczenia się na danych, również nie stanowią Systemów SI. Takie podejście polega na stosowaniu prostych zasad, rozpoznawaniu wzorców lub metodzie prób i błędów. Przykład może być program szachowy oceniający pozycje na szachownicy według z góry określonych algorytmów, bez wcześniejszego „uczenia się”.

Również systemy, które są przeznaczone wyłącznie do analizy opisowej, testowania hipotez i wizualizacji, nie mieszczą się w definicji Systemu SI. Takie systemy nie „uczą się, nie rozumują ani nie modelują”, a jedynie prezentują dane w sposób informacyjny.

Proste systemy predykcyjne również nie mieszczą się w definicji Systemów SI. Chodzi np. o narzędzia, które przewidują przyszłe ceny akcji lub temperaturę, biorąc po prostu średnią z poprzednich dni. To samo dotyczy systemów prognozujących sprzedaż na podstawie średniej z przeszłości. Takie systemy nie wykorzystują zaawansowanego uczenia maszynowego, a raczej liczą średnie lub proste wskaźniki.

Jakie obszary są wyłączone z zastosowania AI Act?

Celem AI Act jest uregulowanie sposobu użytkowania Systemów SI w Unii Europejskiej. Istnieje jednak kilka obszarów tworzenia i wykorzystywania Systemów SI, których AI Act nie obejmuje. W tych przypadkach osoby zainteresowane nie są zobowiązane do przestrzegania AI Act.

Zakres stosowania prawa Unii

AI Act nie stosuje się do obszarów wykraczających poza zakres stosowania prawa Unii. Wynika to z tzw. zasady przyznania. Zgodnie z tą zasadą, Unia Europejska działa wyłącznie w granicach kompetencji przyznanych jej przez państwa członkowskie Unii Europejskiej. Kompetencje, które nie zostały przyznane UE, pozostają zatem w pełni w gestii państw członkowskich. Zatem zakres AI Act ogranicza się wyłącznie do tych sfer, w których Unia Europejska posiada stosowne umocowanie traktatowe, a nie dotyczy obszarów, w których Unia nie posiada kompetencji do regulowania prawa.

Kompetencje do stanowienia prawa przez Unię Europejską są na tyle szerokie, że znaczenie tego wyłączenia może być niewielkie.

Bezpieczeństwo

AI Act nie ma zastosowania do Systemów SI w zakresie, w jakim są one wprowadzane do obrotu, oddawane do użytku lub wykorzystywane z modyfikacjami lub bez nich wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego taką działalność.[10] Nie ma znaczenia, czy działania te będzie podejmował podmiot publiczny lub prywatny.[11] Jeżeli jednak ten system będzie następnie wykorzystywany do innych celów, chociażby tymczasowo, to AI Act będzie miał zastosowanie. [12]  

AI Act nie stosujemy również do organów publicznych w państwie trzecim ani do organizacji międzynarodowych, jeżeli te organy lub organizacje wykorzystują systemy SI w ramach współpracy międzynarodowej lub umów międzynarodowych w sprawie ścigania przestępstw i współpracy sądowej zawartych z Unią lub z jednym państwem członkowskim bądź ich większą liczbą. Warunkiem jest, że to państwo trzecie lub organizacja międzynarodowa zapewnią odpowiednie zabezpieczenia w odniesieniu do ochrony podstawowych praw i wolności osób fizycznych.[13]

Badania i rozwój (R&D)

AI Act nie stosuje się do Systemów SI lub modeli SI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.[14] Wyłączenie dotyczy systemów i modeli, które będą używane wyłącznie do celów badań naukowych i rozwojowych. Żeby skorzystać z tego wyłączenia już na etapie tworzenia danego narzędzia powinniśmy przyjąć, że nie będzie ono mogło w przyszłości zostać wykorzystane w celach komercyjnych.

Również w przypadku  działalności badawczej, testowej lub rozwojowej przed wprowadzeniem systemu SI lub modelu SI do obrotu lub oddaniem do użytku, nie stosujemy AI Act.[15] To wyłączenie dotyczy produktów, które docelowo mogą być komercjalizowane i etapu przed oddaniem wprowadzeniem systemu SI lub modelu SI do obrotu lub oddaniem go do użytku. Dzięki temu wyłączeniu deweloperzy mogą testować tworzone Systemy SI i modele SI przed umieszczeniem ich na rynku, co pozwala im lepiej zrozumieć działanie systemu i zapobiec ewentualnym naruszeniom. Dotyczy to również Systemów SI, które są zakazane. Wyjątkiem jest sytuacja, w której taki system lub model testowane są w warunkach rzeczywistych, czyli poza „laboratorium”, w którym prowadzono proces badań i rozwoju.[16]

Wprowadzenie na rynek obejmuje działalność odpłatną, jak i nieodpłatną. Oddanie do użytku darmowego systemu SI nadal jest wprowadzeniem go do użytku w rozumieniu AI Act. Do takiej sytuacji również stosujemy AI Act.

Użytek prywatny

Jeżeli korzystasz z Systemów SI jako osoba fizycznych w ramach czysto osobistej działalności pozazawodowej, to nie musisz stosować AI Act.[17] Przykładem takiego działania może być wykorzystanie Systemu SI do stworzenia grafiki na zaproszenie na imprezę urodzinową.

Otwarte oprogramowanie

AI Act nie stosuje się do Systemów SI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania. Ważne jest zastrzeżenie o bezpłatności licencji. W sytuacji, w której dany element systemu SI dostarczany na podstawie otwartego oprogramowania (open source) jest w jakikolwiek sposób monetyzowany, to nie korzysta on z tego zwolnienia. W tym przypadku dostawca jest zobowiązany stosować AI Act.[18]

Wyjątkiem od zastosowania tego wyłączenia jest sytuacja, w której systemy są wprowadzane do obrotu lub oddawane do użytku jako Systemy SI wysokiego ryzyka lub jako zakazane System SI (systemy SI, o których mowa w art. 5 AI Act) lub systemy SI ograniczonego ryzyka (zobowiązania dotyczące transparentności, o których mowa w art. 50 AI Act).[19] Jako że te trzy kategorie ryzyka są w głównej mierze regulowane przez AI Act, znaczenie tego wyłączenia może być niewielkie.

Bartosz Prorok

Radca prawny Bartosz Prorok jest częścią zespołu kancelarii Blueshell Legal w Warszawie. Specjalizuje się w branży technologicznej i prawie Internetu. Wspiera przedsiębiorców m.in. w analizie umów, prawie własności intelektualnej, nowych technologiach, czy sztucznej inteligencji.  W świecie, w którym biznes stanowi grę pomaga odnaleźć się w jej zasadach.

---

[1] Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Tekst mający znaczenie dla EOG)

[2] Art. 288 Traktat Ustanawiający Europejską Wspólnotę Gospodarczą (Dz. U. z 2004 r. Nr 90, poz. 864/2 z późn. zm.).

[3] Wyrok Naczelnego Sądu Administracyjnego z 8.11.2017 r., II GSK 475/16, LEX nr 2414462.

[4] Więcej na ten temat [dostęp na 3.6.2025]

[5] Wersja projektu Ustawy o Systemach SI z 10.2.2025 r.

[6] Art. 3 pkt 1) AI Act

[7] Wytyczne wydane na podstawie art. 96(1)(f) AI Act.

[8] Wytyczne Komisji w sprawie definicji systemu sztucznej inteligencji ustanowionego rozporządzeniem (UE) 2024/1689 (ustawa o sztucznej inteligencji), Bruksela, 6.2.2025, C(2025) 924 final

[9] Art. 3 pkt 12) AI Act

[10] Art. 2 ust. 3 AI Act

[11] Motyw 24 AI Act

[12] Motyw 24 AI Act

[13] Art. 2 ust. 4 AI Act

[14] Art. 2 ust. 6 AI Act

[15] Art. 2 ust. 8 AI Act

[16] Art. 2 ust. 8 AI Act

[17] Art. 2 ust. 10 AI Act

[18] Motyw 103 AI Act

[19] Art. 2 ust. 12 AI Act