Start z polskim AI #Urząd Ochrony Konkurencji i Konsumentów

Start z polskim AI to cykl rozmów prezentujących doświadczenia związane z polskimi modelami językowymi AI oraz praktyki wdrożeniowe firm i instytucji. W rozmowie wzięli udział Agnieszka Ciucias i Piotr Adamczewski z Urzędu Ochrony Konkurencji i Konsumentów.

UOKiK od lat wykorzystuje nowoczesne technologie. Jaką rolę odgrywa dziś cyfryzacja i sztuczna inteligencja w realizacji misji Urzędu?

Piotr Adamczewski: W Urzędzie Ochrony Konkurencji i Konsumentów cyfryzacja oraz wykorzystanie nowoczesnych technologii, w szczególności sztucznej inteligencji, odgrywają bardzo ważną rolę. Wszystkie procesy związane z prowadzeniem postępowań są zdigitalizowane, a urząd korzysta również z systemów wspierających proces podejmowania decyzji oraz komunikację wewnętrzną opartych na ustandaryzowanych procesach cyfrowych.

Co istotne, działania te są realizowane od wielu lat – początki cyfrowej transformacji urzędu sięgają lat2008-20010. Z kolei dyskusja na temat wykorzystania sztucznej inteligencji rozpoczęła się w 2020 roku. Punktem wyjścia była analiza danych znajdujących się w dyspozycji UOKiK, które już wtedy były dostępne w formie cyfrowej. Celem było znalezienie sposobów na ich pełniejsze i bardziej efektywne przetwarzanie, tak aby szybciej i skuteczniej wspierały realizację zadań urzędu.

W UOKiK nie zdecydowaliśmy się na utworzenie odrębnej jednostki organizacyjnej odpowiedzialnej za rozwój sztucznej inteligencji. Postawiliśmy natomiast na model projektowy, który pozwala nam identyfikować obszary działalności, w których AI może przynieść największą wartość. Uważamy, że takie podejście jest bardziej racjonalne z perspektywy instytucji publicznej finansowanej z  budżetu. Dodatkowym wsparciem dla realizowanych projektów były środki pochodzące z funduszy Unii Europejskiej.

Czym jest system ARBUZ i jaki problem miał rozwiązać w działalności Urząd Ochrony Konkurencji i Konsumentów?  Skąd wziął się pomysł na wykorzystanie sztucznej inteligencji w tym obszarze?

Piotr Adamczewski: System ARBUZ został stworzony z myślą o identyfikowaniu niedozwolonych klauzul w relacjach między przedsiębiorcami a konsumentami. Jego zadaniem jest wsparcie etapu poprzedzającego wszczęcie postępowania poprzez zwiększenie skuteczności wykrywania potencjalnych naruszeń.

Narzędzie analizuje wzorce umów i automatycznie wskazuje zapisy, które mogą budzić wątpliwości pod kątem zgodności z prawem. Dzięki temu pracownicy urzędu otrzymują informację, na które fragmenty dokumentów warto zwrócić szczególną uwagę podczas dalszej analizy.

Pomysł na stworzenie systemu narodził się w 2020 roku, kiedy w UOKiK prowadzono szereg działań mających na celu zwiększenie efektywności pracy urzędu. Jednym z nich był projekt realizowany wspólnie z włoskim organem ochrony konkurencji AGCM, dotyczący wykorzystania metody „tajemniczego klienta”. Po stronie UOKiK leżała realizacja kontroli stacjonarnych, prowadzonych bezpośrednio w siedzibach przedsiębiorców. W trakcie podsumowania projektu uwagę zwróciło jednak podejście strony włoskiej, która podobne działania realizowała również w środowisku online.

To doświadczenie stało się impulsem do refleksji nad szerszym wykorzystaniem narzędzi cyfrowych w działaniach urzędu. Pojawiło się pytanie, w jaki sposób technologie mogą wspierać wykrywanie nieuczciwych praktyk przedsiębiorców w przestrzeni internetowej. Analizowano różne obszary potencjalnych naruszeń – od niedozwolonych klauzul umownych po wprowadzające w błąd treści publikowane na stronach internetowych.

Za rozpoczęciem projektu stały trzy kluczowe motywacje. Po pierwsze, urząd dysponował dużą ilością danych i dokumentów w formie cyfrowej. Po drugie, na rynku były już dostępne technologie umożliwiające analizę tekstów prawnych – choć było to jeszcze przed upowszechnieniem modeli językowych i generatywnej AI. Po trzecie, "ręczna" (ew. tradycyjna) analiza rozbudowanych i często bardzo podobnych wzorców umownych pochłaniała ogrom czasu ekspertówWdrożenie systemu ARBUZ miało więc nie tylko zwiększyć skuteczność identyfikowania potencjalnych naruszeń, lecz także odciążyć pracowników od najbardziej powtarzalnych zadań. Dzięki temu mogli oni poświęcać więcej czasu na pogłębioną analizę oraz działania wymagające specjalistycznej wiedzy i eksperckiej oceny.

Agnieszka Ciucias: Pomysł na stworzenie Klauzuli ma też inne źródło.W 2016 roku doszło do bardzo istotnej zmiany legislacyjnej dotyczącej kontroli klauzul abuzywnych. Kompetencje w tym zakresie zostały przeniesione z systemu sądowego do systemu administracyjnego.

Wcześniej o tym, czy dane postanowienie umowne ma charakter abuzywny, rozstrzygał Sąd Ochrony Konkurencji i Konsumentów. Od 2016 roku zadanie to zostało powierzone Urzędowi Ochrony Konkurencji i Konsumentów.

W praktyce oznaczało to, że odpowiedzialność za analizę i ocenę klauzul niedozwolonych spoczęła na Urzędzie. Oczywiście dysponowaliśmy już bardzo bogatą bazą wiedzy, zbudowaną na podstawie wcześniejszego orzecznictwa sądowego i zgromadzonych przez lata rozstrzygnięć. Nie zmieniało to jednak faktu, że analiza kolejnych zapisów umownych nadal wymagała znacznego zaangażowania pracowników.

Naturalną konsekwencją było więc poszukiwanie narzędzi, które mogłyby usprawnić ten proces. Chcieliśmy wykorzystać dostępne technologie do przyspieszenia pracy ekspertów, zwiększenia efektywności analiz oraz lepszego wykorzystania wiedzy zgromadzonej w istniejących bazach danych.
To właśnie w takich okolicznościach narodził się pomysł stworzenia rozwiązania, które mogłoby wspierać identyfikację potencjalnie abuzywnych postanowień umownych i ułatwiać codzienną pracę Urzędu.

Jak rozpoczęła się współpraca pomiędzy Urząd Ochrony Konkurencji i Konsumentów a Ośrodek Przetwarzania Informacji – Państwowy Instytut Badawczy przy wdrożeniu systemu ARBUZ?

Piotr Adamczewski: Nie, w tym przypadku nie prowadziliśmy wcześniej formalnego badania rynku. Natomiast od początku współpracowaliśmy z różnymi ośrodkami naukowymi i instytucjami, które pomagały nam określić kierunek działania.

Sam sposób wyboru wykonawcy był zresztą bardzo interesujący. W tamtym czasie przeprowadziliśmy konkurs realizowany przy wsparciu GovTech Polska, wykorzystując specjalną procedurę zamówień publicznych opartą właśnie na formule konkursowej.

To rozwiązanie różni się od tradycyjnych postępowań. Nie decyduje w nim najniższa cena ani opisane z góry szczegółowe wymagania dotyczące gotowego produktu. Organizacja zgłaszająca potrzebę określa problem, który chce rozwiązać, oraz budżet, którym dysponuje. Jednocześnie pozostawia wykonawcom swobodę w zakresie zaproponowanej metody, technologii czy sposobu realizacji projektu.

W praktyce oznacza to, że oceniana jest przede wszystkim skuteczność proponowanego rozwiązania.

W naszym przypadku została powołana czteroosobowa komisja konkursowa. W jej skład weszły dwie osoby reprezentujące urząd oraz dwóch niezależnych ekspertów zewnętrznych. Zadaniem komisji była ocena przygotowanych przez uczestników konkursu rozwiązań typu Proof of Concept (POC).
Potencjalni wykonawcy otrzymali od nas próbki danych oraz określony czas na przygotowanie swoich propozycji. Następnie komisja oceniała skuteczność i jakość zaprezentowanych rozwiązań. Ostatecznie najlepsze rezultaty osiągnęło rozwiązanie przygotowane przez OPI, dlatego właśnie ten podmiot został wybrany do dalszej współpracy.

Zanim jednak doszło do samego konkursu, prowadziliśmy szeroko zakrojone działania związane z identyfikacją potrzeb i poszukiwaniem możliwych kierunków rozwoju projektu. Odbywało się to przede wszystkim we współpracy ze środowiskiem akademickim oraz przedstawicielami administracji publicznej z innych krajów.
Analizowaliśmy istniejące na rynku rozwiązania, poszukiwaliśmy benchmarków i dobrych praktyk, a także konsultowaliśmy nasze pomysły z ekspertami. Szczególnie wartościowa była współpraca z przedstawicielami Politechniki Wrocławskiej i Politechniki Łódzkiej.

W ramach intensywnych warsztatów wspólnie analizowaliśmy dane, którymi już dysponowaliśmy, oraz zastanawialiśmy się, jakie zastosowania sztucznej inteligencji mogłyby przynieść największą wartość. Były to bardzo praktyczne dyskusje, skupione na konkretnych problemach i możliwościach ich rozwiązania.
To właśnie podczas tych prac wykrystalizował się pomysł dotyczący analizy klauzul niedozwolonych. Mieliśmy ku temu wyjątkowo dobre warunki, ponieważ dysponowaliśmy bardzo dużym zbiorem danych historycznych. W rejestrze klauzul niedozwolonych znajdowało się wówczas około 10 tysięcy postanowień, które wcześniej zostały uznane za abuzywne.

Tak bogaty zasób danych pozwalał na budowę i testowanie rozwiązań wykorzystujących metody sztucznej inteligencji. Dzięki temu mogliśmy przejść od samej koncepcji do stworzenia narzędzia realnie wspierającego codzienną pracę urzędu.

Agnieszka Ciucias: Wspomniałem już o współpracy z OPI, jednak z perspektywy urzędu kluczowym elementem całego projektu było stworzenie odpowiedniej bazy danych. Z dzisiejszej perspektywy mogę powiedzieć, że był to zasób wyjątkowy, a nawet unikatowy na skalę międzynarodową.

Utrzymujemy kontakty z organami ochrony konsumentów na całym świecie i wiemy, że dysponowaliśmy bardzo dobrym punktem wyjścia do budowy tego typu rozwiązania. Wynikało to w dużej mierze ze specyfiki wcześniejszego systemu kontroli klauzul abuzywnych funkcjonującego w Polsce.

W okresie, gdy kompetencje w tym zakresie znajdowały się jeszcze po stronie sądów, do Sądu Ochrony Konkurencji i Konsumentów trafiała ogromna liczba pozwów dotyczących niedozwolonych postanowień umownych. Skala tych spraw była na tyle duża, że stała się jednym z powodów późniejszej zmiany modelu kontroli klauzul i przeniesienia kompetencji do UOKiK.

Paradoksalnie właśnie ta sytuacja stworzyła bardzo solidne fundamenty pod budowę naszego systemu. Dysponowaliśmy bowiem kilkoma tysiącami klauzul wpisanych do rejestru klauzul niedozwolonych, a także uzasadnieniami wielu rozstrzygnięć sądowych. Dodatkowo posiadaliśmy już własne decyzje wydawane po zmianach legislacyjnych wprowadzonych w 2016 roku.

Wszystkie te zasoby stały się podstawą do budowy bazy danych wykorzystywanej przez system. Na ich podstawie przygotowywaliśmy specjalne formularze i zestawy danych przekazywane następnie wykonawcy rozwiązania.

Był to niezwykle pracochłonny etap projektu. W przygotowanie bazy zaangażowanych było około 50 pracowników urzędu. Ich zadaniem było nie tylko gromadzenie klauzul uznanych za niedozwolone, ale również identyfikowanie zapisów, które – na podstawie dostępnego orzecznictwa i praktyki – można było uznać za prawidłowe. Dzięki temu udało się stworzyć zbiór danych pozwalający systemowi uczyć się zarówno przykładów negatywnych, jak i pozytywnych.

Z perspektywy czasu możemy powiedzieć, że ten wysiłek przyniósł bardzo dobre rezultaty. Jakość przygotowanej bazy danych przełożyła się bezpośrednio na skuteczność wyszukiwania oraz trafność wyników generowanych przez system.

Warto również wspomnieć, że po wdrożeniu rozwiązania postanowiliśmy podzielić się zdobytymi doświadczeniami z innymi instytucjami. Operacyjne uruchomienie systemu nastąpiło w styczniu 2023 roku, a już w kolejnym roku przygotowaliśmy szczegółowy dokument typu white paper opisujący cały proces realizacji projektu.
Dokument został zaprezentowany podczas międzynarodowej konferencji sieci organów ochrony konsumentów w maju 2024 roku. Przedstawiliśmy w nim zarówno doświadczenia związane z budową bazy danych, jak i proces wyboru rozwiązania, współpracę z wykonawcą oraz praktyczne wnioski płynące z wdrożenia systemu.
Co istotne, opracowanie powstało we współpracy ze środowiskiem naukowym. Nad dokumentem pracowali eksperci z Uniwersytetu Łódzkiego pod kierunkiem profesor Moniki Namysłowskiej. Dzięki temu udało się połączyć perspektywę praktyczną administracji publicznej z doświadczeniem badawczym i akademickim.

Naszym celem było nie tylko przedstawienie efektów projektu, ale również pokazanie innym instytucjom, w jaki sposób można skutecznie budować rozwiązania oparte na sztucznej inteligencji w sektorze publicznym. Dlatego dokument został udostępniony publicznie i może stanowić źródło wiedzy dla organizacji planujących podobne inicjatywy.

Ile czasu zajęło przejście od koncepcji do produkcyjnego wdrożenia?  Jakie były najważniejsze etapy projektu?

Piotr Adamczewski: Zaczęliśmy od wyboru koncepcji. Na opracowanie założeń przeznaczyliśmy około sześciu miesięcy i rzeczywiście tyle czasu potrzebowaliśmy, aby dobrze zdefiniować problem oraz możliwe kierunki jego rozwiązania. Co ciekawe, nie pracowaliśmy wyłącznie nad jednym pomysłem. Równolegle powstało kilka innych koncepcji wykorzystania sztucznej inteligencji, które traktowaliśmy jako potencjalne projekty przyszłości. Część z nich nadal pozostaje w fazie rozwoju, a przynajmniej jedno z tych rozwiązań udało się później wdrożyć.

Warto pamiętać, że był to okres pandemii COVID-19, co znacząco wpływało na organizację prac. Spotkania odbywały się głównie zdalnie, a to nie zawsze sprzyja twórczej dyskusji czy burzom mózgów. W przypadku projektów innowacyjnych ogromną wartość daje możliwość wspólnej pracy przy jednym stole, wielogodzinnych rozmów i wspólnego poszukiwania nowych idei. Mimo tych ograniczeń był to niezwykle inspirujący etap całego przedsięwzięcia.
Kolejną fazą była budowa bazy danych, która zajęła około dwunastu miesięcy. Był to jeden z najbardziej pracochłonnych etapów projektu i wymagał zaangażowania ponad 50 pracowników urzędu.

Już na etapie koncepcyjnym opracowaliśmy specjalny, ustrukturyzowany formularz pozwalający na standaryzację danych. Do przygotowanych formatów wprowadzaliśmy poszczególne postanowienia umowne, oznaczając między innymi, które klauzule zostały uznane za abuzywne, a które nie.
Dziś podobne procesy można realizować znacznie łatwiej dzięki rozwojowi technologii, jednak w tamtym czasie konieczne było ręczne uporządkowanie i ujednolicenie bardzo dużej liczby dokumentów. Chodziło o przekształcenie rozproszonej dokumentacji w uporządkowaną bazę danych, która mogłaby być efektywnie wykorzystana przez system oparty na sztucznej inteligencji.

Następnie przyszedł czas na przygotowanie i przeprowadzenie procedury wyboru wykonawcy. Ten etap również trwał około sześciu miesięcy i obejmował zarówno przygotowanie dokumentacji konkursowej, jak i szerokie konsultacje z rynkiem.

To właśnie podczas tych konsultacji pojawiły się bardzo ciekawe obserwacje dotyczące rynku dostawców technologii. Okazało się, że część podmiotów była po prostu zbyt mała, aby samodzielnie zrealizować projekt o takiej skali. Nie dysponowały one wszystkimi kompetencjami niezbędnymi do dostarczenia kompletnego rozwiązania – od warstwy algorytmicznej, przez inżynierię oprogramowania, aż po interfejs użytkownika i integrację z infrastrukturą administracji publicznej.

Z drugiej strony część największych, globalnych firm technologicznych uznała projekt za zbyt mały w stosunku do skali realizowanych przez siebie przedsięwzięć. Choć początkowo uczestniczyły w rozmowach i konsultacjach, ostatecznie zrezygnowały z udziału jeszcze przed zakończeniem procesu konkursowego.
To pokazuje, że projekty realizowane w administracji publicznej często znajdują się pomiędzy tymi dwoma światami – są zbyt wymagające dla najmniejszych podmiotów, a jednocześnie zbyt małe dla największych graczy rynkowych.

Po wyborze wykonawcy rozpoczęła się właściwa faza wdrożeniowa. Wspólnie z OPI rozwijaliśmy rozwiązanie w modelu zwinnym, wykorzystując metodykę Scrum.
Prace były organizowane w dwutygodniowych sprintach. Po każdym cyklu następowała prezentacja postępów, analiza rezultatów i planowanie kolejnych działań. Kluczową rolę odgrywał tutaj przedstawiciel urzędu pełniący funkcję Scrum Mastera, który odpowiadał za bieżącą współpracę z zespołem wykonawcy oraz przekładanie potrzeb biznesowych na konkretne wymagania projektowe.

Takie podejście pozwalało na systematyczne dopracowywanie narzędzia i stopniowe dostosowywanie go do rzeczywistych potrzeb użytkowników. Dzięki temu końcowy produkt nie był realizacją sztywno zdefiniowanej specyfikacji, lecz rozwiązaniem rozwijanym w sposób iteracyjny, w ścisłej współpracy pomiędzy urzędem a wykonawcą.
To właśnie ta bliska współpraca, połączona z wysoką jakością danych i dobrze przygotowaną fazą koncepcyjną, była jednym z kluczowych czynników sukcesu całego projektu.

Jakie zadania wykonuje dziś ARBUZ w codziennej pracy urzędu?

Agnieszka Ciucias: System został zaprojektowany w taki sposób, aby wspierać pracownika na różnych etapach analizy wzorców umownych. Jednym z jego istotnych elementów jest możliwość regulowania poziomu czułości. Użytkownik może ustawić go w szerokim zakresie – od 10 do 90 procent. W zależności od wybranego poziomu zmienia się liczba oraz charakter klauzul wskazywanych przez system jako potencjalnie abuzywne.

Niezależnie jednak od poziomu automatyzacji ostateczna decyzja zawsze należy do człowieka. To pracownik analizuje wyniki wygenerowane przez system i decyduje, czy dana klauzula rzeczywiście powinna zostać zakwalifikowana jako niedozwolona.

Zdarzają się oczywiście sytuacje, w których różni pracownicy odmiennie oceniają podobne postanowienia. W takich przypadkach system automatycznie identyfikuje rozbieżność i oznacza ją jako konflikt wymagający dodatkowej analizy.

W urzędzie funkcjonuje grupa bardziej doświadczonych ekspertów pełniących rolę swoistych superwizorów systemu. To właśnie do nich trafiają przypadki budzące wątpliwości lub powodujące rozbieżności interpretacyjne. Po przeanalizowaniu sprawy superwizor podejmuje ostateczną decyzję dotyczącą sposobu klasyfikacji danej klauzuli. Na tej podstawie system aktualizuje swoją bazę wiedzy i zapamiętuje właściwą kwalifikację danego postanowienia.

Jest to szczególnie ważne dlatego, że ocena klauzul nie zawsze jest jednoznaczna. To samo postanowienie może być uznane za prawidłowe w jednym kontekście rynkowym, a jednocześnie budzić zastrzeżenia w innym. Ocena zależy bowiem nie tylko od samego brzmienia klauzuli, ale również od całego kontekstu umowy, rynku oraz relacji pomiędzy przedsiębiorcą a konsumentem.

Sam proces pracy z systemem nie kończy się na identyfikacji potencjalnie niedozwolonych postanowień. Narzędzie umożliwia również wygenerowanie uzasadnień wskazujących, dlaczego określona klauzula została zakwalifikowana jako potencjalnie abuzywna.

Źródłem tych uzasadnień są przede wszystkim wcześniejsze orzeczenia sądowe oraz rozstrzygnięcia wydane w podobnych sprawach. Dzięki temu pracownik otrzymuje nie tylko informację o potencjalnym problemie, ale także dostęp do argumentacji, która historycznie stanowiła podstawę uznania podobnych zapisów za niedozwolone.
To znacząco usprawnia proces analizy i pozwala szybciej ocenić zasadność dalszych działań.

System oferuje również możliwość wygenerowania wstępnej wersji standardowego pisma procesowego lub dokumentu roboczego. Oczywiście nie jest to dokument gotowy do automatycznego wykorzystania. Stanowi raczej punkt wyjścia dla pracownika prowadzącego sprawę.

Końcowa odpowiedzialność za treść dokumentu nadal spoczywa na człowieku. Pracownik może uzupełnić wygenerowany materiał o dodatkowe informacje, usunąć fragmenty nieadekwatne do konkretnego stanu faktycznego lub dostosować argumentację do specyfiki analizowanej sprawy.

W praktyce oznacza to, że system nie zastępuje eksperta, lecz wspiera go w realizacji najbardziej czasochłonnych zadań. Pozwala szybciej identyfikować potencjalne problemy, korzystać z wiedzy zgromadzonej w poprzednich sprawach oraz efektywniej przygotowywać dokumentację, pozostawiając jednak kluczowe decyzje merytoryczne po stronie człowieka.

W jaki sposób ograniczane jest ryzyko błędnych wskazań lub pominięcia istotnych zapisów?

Agnieszka Ciucias: Przede wszystkim takie sytuacje są wychwytywane już na poziomie samego systemu. Jeżeli pojawia się rozbieżność w ocenie danej klauzuli, sprawa automatycznie trafia do osób pełniących funkcję superwizorów. To oni dokonują dodatkowej analizy i podejmują ostateczną decyzję dotyczącą kwalifikacji danego postanowienia.
W ten sposób konflikt jest rozstrzygany jeszcze na etapie pracy z systemem, a podjęta decyzja zasila bazę wiedzy i pozwala systemowi uwzględniać podobne przypadki w przyszłości.

Jednocześnie warto podkreślić, że system stanowi jedynie narzędzie wspierające pracę urzędu. Każde pismo przygotowywane na jego podstawie przechodzi standardową ścieżkę akceptacji obowiązującą w organizacji.

Oznacza to, że dokument opracowany przez pracownika jest następnie weryfikowany przez jego przełożonych, dokładnie tak samo jak w przypadku wszystkich innych pism, stanowisk czy decyzji wydawanych przez urząd. Jest to kolejny poziom kontroli, który pozwala ocenić zarówno prawidłowość zastosowanej argumentacji, jak i trafność dokonanej kwalifikacji.

W praktyce mamy więc do czynienia z wielopoziomowym mechanizmem weryfikacji. Najpierw analizę wspiera system, następnie ocenę przeprowadza pracownik, w przypadku rozbieżności sprawa trafia do superwizora, a na końcu dokument podlega standardowej kontroli przełożonych. Dzięki temu ostateczne rozstrzygnięcia pozostają pod pełną kontrolą ekspertów i są objęte tymi samymi procedurami jakościowymi, które obowiązują w codziennej działalności urzędu.

Piotr: W urzędzie funkcjonuje bardzo rozbudowany system podejmowania decyzji, dlatego mechanizmy kontrolne nie ograniczają się wyłącznie do zabezpieczeń wbudowanych w samo narzędzie.

Już na poziomie systemu stosujemy rozwiązania mające na celu eliminowanie potencjalnych błędów i rozbieżności. Dotyczy to między innymi sytuacji, w których pojawia się konflikt pomiędzy oceną dokonaną przez pracownika a stanowiskiem jego przełożonego. Nie mówimy tutaj jeszcze o decyzjach administracyjnych, lecz o czynnościach technicznych związanych z akceptacją lub odrzuceniem propozycji przedstawianych przez system.

W takich przypadkach obowiązują określone procedury weryfikacyjne, które pozwalają ustalić, czy reakcja systemu była prawidłowa oraz jaka kwalifikacja powinna zostać ostatecznie przyjęta. Dzięki temu rozbieżności są identyfikowane i rozstrzygane na wczesnym etapie procesu.

Jednak najważniejsze zabezpieczenia funkcjonują już poza samym narzędziem. Po zakończeniu etapu detekcji i wstępnej analizy przechodzimy do procesu preselekcji spraw, w którym kluczową rolę odgrywa nadzór człowieka.

Na tym etapie funkcjonuje bardzo rozbudowany system kontroli i podejmowania decyzji. Co prawda jest on wspierany przez rozwiązania cyfrowe, jednak zasadnicze decyzje pozostają w rękach ekspertów. Regularnie, najczęściej w cyklach tygodniowych lub dwutygodniowych, odbywają się spotkania i przeglądy spraw, podczas których podejmowane są decyzje dotyczące dalszych działań urzędu.

Mechanizm ten obejmuje wszystkie istotne postępowania i inicjatywy prowadzone przez urząd, a także działania prezentowane na zewnątrz przez Prezesa UOKiK.
To bardzo ważna różnica w porównaniu z niektórymi instytucjami, które ze względu na skalę działalności obsługują znacznie większą liczbę decyzji i spraw. W takich organizacjach zakres bezpośredniego nadzoru człowieka nad poszczególnymi przypadkami może być siłą rzeczy bardziej ograniczony.

W naszym przypadku sytuacja wygląda inaczej. Już samo wszczęcie postępowania poprzedzone jest wieloetapową analizą i dyskusją z udziałem wielu osób reprezentujących różne perspektywy oraz obszary kompetencyjne. Dzięki temu każda sprawa podlega wielostopniowej ocenie jeszcze przed podjęciem formalnych działań.
W praktyce oznacza to, że rozwiązania oparte na sztucznej inteligencji pełnią funkcję wspierającą, natomiast ostateczne decyzje pozostają pod kontrolą rozbudowanego systemu nadzoru eksperckiego i zarządczego. To właśnie połączenie technologii z wielopoziomową kontrolą człowieka stanowi jeden z kluczowych elementów zapewniających bezpieczeństwo i jakość prowadzonych działań.

Czy możecie podać przykłady sytuacji, w których system znacząco przyspieszył postępowania lub analizę dokumentów?

Agnieszka Ciucias: Z mojej perspektywy system przynosi korzyści praktycznie we wszystkich postępowaniach dotyczących klauzul abuzywnych. Jego największą wartością jest znaczące przyspieszenie procesu analizy dokumentów.

Oczywiście nie oznacza to, że pracownik może zrezygnować z własnej oceny wzorca umownego. Każdy dokument nadal musi zostać samodzielnie przeanalizowany przez eksperta. Różnica polega jednak na tym, że już na początku pracy otrzymuje on wskazówki dotyczące potencjalnie problematycznych zapisów i obszarów wymagających szczególnej uwagi.

Dzięki temu proces analityczny staje się znacznie bardziej efektywny. Pracownik może szybciej skoncentrować się na klauzulach, które z największym prawdopodobieństwem mogą budzić zastrzeżenia, zamiast poświęcać taki sam poziom uwagi wszystkim fragmentom dokumentu.

System pełni również bardzo ważną funkcję edukacyjną. Szczególnie dobrze widać to w przypadku nowych pracowników rozpoczynających pracę w urzędzie.
Osoby posiadające kilkuletnie doświadczenie i mające za sobą analizę wielu wzorców umownych budują z czasem intuicję oraz wiedzę pozwalającą szybko identyfikować potencjalnie niedozwolone postanowienia. Wiedzą, na które zapisy zwracać uwagę i jakie konstrukcje umowne najczęściej prowadzą do problemów.
Nowi pracownicy potrzebują natomiast czasu, aby zdobyć podobne doświadczenie. Zwykle są to miesiące nauki, analizy dokumentów oraz poznawania dotychczasowego orzecznictwa i praktyki urzędu.

W takiej sytuacji narzędzie pełni rolę swego rodzaju asystenta merytorycznego. Wskazuje obszary wymagające pogłębionej analizy, podpowiada, które klauzule mogą być problematyczne, oraz pomaga określić, gdzie warto poszukiwać dodatkowych informacji lub argumentacji.

Dzięki temu proces wdrażania nowych pracowników przebiega sprawniej, a oni sami mogą szybciej zdobywać praktyczne doświadczenie i rozwijać kompetencje niezbędne do samodzielnego prowadzenia analiz.

Dlatego mogę powiedzieć, że w praktyce system stanowi istotne wsparcie niemal we wszystkich postępowaniach dotyczących klauzul abuzywnych. Nie zastępuje wiedzy eksperckiej ani doświadczenia pracowników, ale pozwala efektywniej wykorzystywać ich czas, wspiera proces uczenia się oraz przyspiesza realizację codziennych zadań.

Piotr: To zastosowanie w sposób oczywisty znacząco zwiększa efektywność pracy. Mamy do czynienia z długimi dokumentami, które w wielu miejscach są powtarzalne, szczególnie podczas badań sektorowych obejmujących wielu uczestników rynku.

Przykładem może być rynek deweloperski czy rynek ubezpieczeń, gdzie funkcjonuje wiele podmiotów oferujących podobne towary lub usługi. Samo zapoznanie się ze wszystkimi wzorcami umownymi jest niezwykle czasochłonne.

System oczywiście nie eliminuje pracy użytkownika, ale pozwala ją przyspieszyć. Już na pierwszym, wstępnym etapie oznacza miejsca, w których mogą występować potencjalne naruszenia. Dzięki temu można od razu rozpocząć ocenę, czy w danym przypadku rzeczywiście mamy do czynienia z naruszeniem, czy też nie.

Czy administracja publiczna jest dziś gotowa na szersze wykorzystanie AI? 

Piotr Adamczewski: Organy państwowe powinny korzystać ze wsparcia, jakie daje sztuczna inteligencja, jednak muszą robić to w sposób odpowiedzialny i przemyślany. Kluczowe jest wykorzystanie takich technologii, które z jednej strony zapewniają odpowiedni poziom bezpieczeństwa, a z drugiej pozostają skuteczne i użyteczne w codziennej pracy.

Wciąż jest jednak wiele do zrobienia. Obserwujemy, w jaki sposób rozwiązania oparte na AI są wykorzystywane przez podmioty działające na rynku prawnym, w tym kancelarie prawne. Widzimy również wyzwania, które się z tym wiążą – między innymi problemy związane z halucynacjami modeli czy niewystarczającym nadzorem nad generowanymi wynikami.

Dla nas są to cenne doświadczenia i ważna lekcja. Pokazują one, jak istotne jest budowanie rozwiązań, które będą jednocześnie skuteczne i bezpieczne, a także odpowiednio nadzorowane przez człowieka.

Jednocześnie potrzeba wykorzystania sztucznej inteligencji jest bardzo wyraźna. Bez takich narzędzi administracja będzie miała coraz większe trudności z dotrzymaniem tempa zmian zachodzących na rynku. Oznaczałoby to również niższą efektywność realizowanych działań. Dlatego kierunek jest jasno określony – sztuczna inteligencja powinna wspierać pracę organów publicznych, ale jej wdrażanie musi odbywać się w sposób odpowiedzialny, bezpieczny i dostosowany do specyfiki zadań realizowanych przez administrację.

Agnieszka Ciucias: Jeśli ktoś chciałby dowiedzieć się więcej o ARBUZ-ie, czyli systemie wspierającym wykrywanie niedozwolonych postanowień umownych, to warto sięgnąć do dokumentu White Paper opublikowanego w 2024 roku. Dokument jest dostępny na naszej stronie internetowej. 

Opisaliśmy w nim najważniejsze etapy budowy i wdrożenia systemu, doświadczenia zdobyte podczas realizacji projektu, a także wyzwania, z którymi musieliśmy się zmierzyć. Przedstawiliśmy również, w jaki sposób przygotowywaliśmy organizację do wdrożenia tego rozwiązania oraz jakie wnioski wyciągnęliśmy z całego procesu.
Myślę, że jest to wartościowy materiał dla wszystkich osób i instytucji zainteresowanych praktycznym wykorzystaniem sztucznej inteligencji w administracji publicznej oraz realizacją podobnych projektów w swoich organizacjach.

Co Państwa zdaniem najbardziej przyspieszyłoby adopcję polskich modeli językowych w biznesie?

Piotr Adamczewski: Wydaje mi się, że przede wszystkim chodzi o dostępność. To jest chyba podstawowa i kluczowa kwestia. Przy kolejnym projekcie zrezygnowaliśmy już z budowania tak rozbudowanej bazy danych jak wcześniej, ponieważ pojawiła się możliwość wykorzystania dostępnych na rynku dużych modeli językowych. Oczywiście nadal istnieje wyzwanie związane z utrzymaniem odpowiedniej precyzji współpracy pomiędzy narzędziem a organem, ale można je rozwiązywać poprzez odpowiednią konfigurację czy też wzmacnianie modelu własnymi bazami danych i dodatkowymi kategoriami. Najważniejsze jest jednak to, że nie trzeba już budować wszystkiego od podstaw. To nie jest już ten etap rozwoju technologii.

Nadal problematyczna pozostaje natomiast kwestia bezpieczeństwa danych, szczególnie wtedy, gdy korzystamy z rozwiązań zagranicznych. Zarówno w przypadku dostawców zachodnich, jak i wschodnich pojawiają się pytania dotyczące dostępności danych oraz ryzyka ich przekazywania poza organizację. Dla organów administracji publicznej jest to szczególnie istotne ograniczenie i często sprawia, że pełne wdrożenie takich rozwiązań do codziennej pracy staje się bardzo trudne.

Dlatego duże znaczenie ma rozwój krajowych technologii. Jeżeli takie modele jak Plum czy Bielik będą dalej rozwijane, mogą stanowić wartościowe zaplecze technologiczne do tworzenia kolejnych narzędzi wykorzystywanych przez administrację.

Przykładem jest realizowany przez nas projekt dotyczący wykrywania dark patterns, czyli fałszywych lub manipulacyjnych interfejsów. W tym obszarze niektóre modele bardzo dobrze radzą sobie z analizą obrazów. Natomiast według mojej wiedzy polskie rozwiązania nie są jeszcze w pełni dostosowane do efektywnego przetwarzania zdjęć czy materiałów wideo. To również wpływa na ich skuteczność. Z drugiej strony korzystanie z lokalnych rozwiązań daje gwarancję większej kontroli nad danymi wykorzystywanymi do budowy systemów oraz nad samą technologią, która pozostaje dostępna na miejscu.

Agnieszka Ciucias: To jest przyszłość,  zarówno administracji publicznej, jak i całego rynku. Nie uciekniemy ani od wykorzystywania sztucznej inteligencji, ani od myślenia o tym, jak efektywnie wdrażać tego typu rozwiązania. Kluczową kwestią pozostaje jednak bezpieczeństwo danych. W naszym przypadku ma ono szczególne znaczenie. Niezależnie od potencjalnych korzyści wynikających z wykorzystania AI, kwestie związane z ochroną informacji, kontrolą nad danymi oraz bezpieczeństwem ich przetwarzania muszą pozostać jednym z najważniejszych elementów całego procesu.

Dziękujemy za rozmowę!

Cykl rozmów „Start z polskim AI – od pomysłu do wdrożenia” jest realizowany w ramach programu Centrum Kompetencji AI.