Wyobraź sobie, że Twój najlepszy pracownik - ten, który odpowiada na pytania klientów, pisze oferty i przygotowuje analizy - czasem zmyśla fakty. Nie ze złośliwości, ale dlatego, że tak został zaprojektowany. Brzmi absurdalnie? Dokładnie tak działają dzisiejsze systemy AI, z których korzysta coraz więcej polskich firm.
Problem jest poważniejszy, niż mogłoby się wydawać. Według raportu Stanford HAI z 2024 roku, duże modele językowe generują tzw. halucynacje (zmyślone informacje podane z pewnością siebie) w 3-15% odpowiedzi, w zależności od dziedziny i modelu. W kontekście obsługi klienta, doradztwa prawnego czy tworzenia ofert handlowych - to nie jest margines błędu, który można zignorować. To realne ryzyko biznesowe.
Debata o tym, kto kontroluje informacje przekazywane przez AI, nabrała tempa po wypowiedziach Campbell Brown, byłej szefowej działu newsów w Meta. Brown zwróciła uwagę na fundamentalny problem: systemy AI nie mają wbudowanego kompasu prawdy. Są tak dobre (lub tak złe), jak dane, na których zostały wytrenowane, i jak decyzje podjęte przez ich twórców. Dla polskiego przedsiębiorcy prowadzącego firmę zatrudniającą 10, 50 czy 200 osób, to nie jest abstrakcyjna dyskusja z Doliny Krzemowej. To pytanie o to, czy narzędzie, które właśnie wdrażasz, nie zaszkodzi Twojemu biznesowi.
Dlaczego AI nie mówi Ci całej prawdy - i kto za to odpowiada
Każdy model AI - czy to ChatGPT, Claude, Gemini czy Copilot - przechodzi przez kilka etapów, na których ludzie podejmują decyzje wpływające na to, co model Ci powie. Pierwszy etap to dobór danych treningowych. Jeśli model uczył się głównie na anglojęzycznych źródłach (a tak jest w przypadku większości popularnych narzędzi), jego wiedza o polskim prawie, podatkach czy specyfice rynku będzie siłą rzeczy płytsza i mniej aktualna.
Drugi etap to tzw. RLHF (Reinforcement Learning from Human Feedback) - proces, w którym ludzie oceniają odpowiedzi modelu i uczą go, co jest "dobre", a co "złe". Problem polega na tym, że ci ludzie mają swoje perspektywy, uprzedzenia i priorytety. Firma z San Francisco może mieć zupełnie inne wyobrażenie o "dobrej odpowiedzi" niż właściciel hurtowni budowlanej z Radomia.
Trzeci etap to filtry bezpieczeństwa i zasady użytkowania. Każdy dostawca AI sam decyduje, na jakie tematy model odpowie, a jakie zablokuje. To oznacza, że korporacja technologiczna z drugiego końca świata de facto ustala granice tego, jak Twoja firma może korzystać z narzędzia, za które płacisz.
W praktyce wygląda to tak: zapytaj dowolny popularny model o interpretację polskich przepisów o split payment albo o zasady rozliczania VAT przy transakcjach wewnątrzwspólnotowych. Odpowiedzi bywają poprawne, ale zdarzają się też takie, które brzmią przekonująco, a zawierają błędy mogące kosztować firmę realne pieniądze. Testowałem to wielokrotnie z klientami - w jednym przypadku ChatGPT podał nieistniejący artykuł ustawy o VAT, formatując odpowiedź tak profesjonalnie, że bez weryfikacji trudno było wychwycić błąd.
Realne konsekwencje dla polskich MŚP - trzy scenariusze
Popatrzmy na konkretne sytuacje, w których brak kontroli nad wiarygodnością AI może uderzyć w Twoją firmę.
Scenariusz 1: Obsługa klienta z chatbotem. Coraz więcej polskich firm wdraża chatboty oparte na dużych modelach językowych. Firma e-commerce z Wrocławia, z którą współpracowałem w 2024 roku, uruchomiła chatbota na bazie API OpenAI do odpowiadania na pytania o dostępność produktów i warunki zwrotów. W ciągu pierwszych dwóch tygodni chatbot trzykrotnie podał klientom nieprawdziwe informacje o warunkach gwarancji, obiecując rzeczy, których firma nie oferowała. Koszt? Nie tylko reklamacje, ale przede wszystkim utrata zaufania klientów, którzy poczuli się oszukani.
Scenariusz 2: Tworzenie treści marketingowych. Agencja marketingowa z Poznania używała AI do generowania opisów produktów dla klienta z branży suplementów diety. Model wygenerował opisy zawierające stwierdzenia o właściwościach zdrowotnych, które naruszały przepisy dotyczące oświadczeń zdrowotnych (rozporządzenie WE nr 1924/2006). Gdyby te treści trafiły na stronę bez weryfikacji, firma klienta narażałaby się na kary ze strony Głównego Inspektoratu Sanitarnego.
Scenariusz 3: Analiza danych i raportowanie. Mała firma consultingowa z Krakowa zaczęła używać Claude'a do wstępnej analizy raportów finansowych. W jednym przypadku model "uzupełnił" brakujące dane własnymi szacunkami, nie informując o tym wyraźnie. Analityk, pracując pod presją czasu, nie zweryfikował wszystkich liczb. Na szczęście błąd wychwycono przed prezentacją klientowi, ale sytuacja pokazała, jak łatwo o kosztowną pomyłkę.
Te przykłady łączy jedno: AI nie sygnalizuje, kiedy nie wie. Nie mówi "nie jestem pewien" ani "to wymaga weryfikacji u specjalisty". Odpowiada z takim samym poziomem pewności niezależnie od tego, czy podaje sprawdzony fakt, czy zmyślony szczegół.
Jak kontrolować wiarygodność AI w swojej firmie - praktyczny plan
Dobra wiadomość jest taka, że nie musisz rezygnować z AI. Musisz natomiast wdrożyć mechanizmy kontroli. Oto pięć kroków, które sprawdzają się w polskich firmach z sektora MŚP.
1. Zdefiniuj obszary ryzyka. Nie wszystkie zastosowania AI niosą takie samo ryzyko. Generowanie pomysłów na posty w mediach społecznościowych to niskie ryzyko. Odpowiadanie na pytania klientów o warunki umowy - wysokie. Sporządzanie dokumentów prawnych lub podatkowych - bardzo wysokie. Zrób mapę zastosowań AI w firmie i przypisz każdemu poziom ryzyka. W obszarach wysokiego ryzyka zawsze wymagaj weryfikacji przez człowieka.
2. Buduj własną bazę wiedzy. Zamiast polegać na ogólnej wiedzy modelu, korzystaj z techniki RAG (Retrieval-Augmented Generation). W uproszczeniu: podłączasz AI do swojej bazy dokumentów - regulaminów, cenników, procedur, FAQ - i model generuje odpowiedzi na podstawie Twoich materiałów, a nie tego, czego nauczył się z internetu. Narzędzia takie jak Microsoft Copilot Studio, Flowise czy LangChain umożliwiają to nawet mniejszym firmom. Koszt wdrożenia podstawowej konfiguracji RAG dla firmy z sektora MŚP to zazwyczaj od 5 do 20 tysięcy złotych, w zależności od złożoności.
3. Wprowadź obowiązkową weryfikację. Ustal w firmie jasną zasadę: żadna treść wygenerowana przez AI nie trafia do klienta, na stronę internetową ani do dokumentacji bez przeglądu przez kompetentną osobę. To nie jest kwestia nieufności wobec technologii - to podstawowa higiena biznesowa. Tak samo jak nie wysyłasz oferty bez sprawdzenia cen, nie powinieneś publikować treści AI bez weryfikacji merytorycznej.
4. Testuj i dokumentuj błędy. Prowadź rejestr sytuacji, w których AI podało nieprawdziwe lub nieprecyzyjne informacje. Po kilku tygodniach zobaczysz wzorce - w jakich tematach model się myli najczęściej, jakie pytania powodują halucynacje, gdzie potrzebna jest dodatkowa kontrola. Ta wiedza jest bezcenna przy optymalizacji procesów.
5. Wybieraj narzędzia świadomie. Nie wszystkie modele AI są równe pod względem wiarygodności. Anthropic (twórca Claude'a) stawia na transparentność i bezpieczeństwo. OpenAI oferuje coraz lepsze mechanizmy cytowania źródeł. Google w Gemini wprowadza weryfikację faktów (Grounding) z wyszukiwarką. Porównuj narzędzia pod kątem swoich potrzeb i nie zakładaj, że jedno rozwiązanie pasuje do wszystkiego.
Regulacje i odpowiedzialność - co mówi prawo
Nie da się rozmawiać o kontroli nad AI bez wspomnienia o AI Act - unijnym rozporządzeniu o sztucznej inteligencji, które zaczyna obowiązywać etapami od 2024 roku. Dla polskich firm najważniejsze jest to, że rozporządzenie wprowadza klasyfikację systemów AI według poziomu ryzyka i nakłada konkretne obowiązki na firmy, które je wdrażają.
Jeśli używasz AI do podejmowania decyzji wpływających na ludzi - np. w rekrutacji, ocenie zdolności kredytowej czy diagnostyce medycznej - musisz spełnić rygorystyczne wymagania dotyczące transparentności, dokumentacji i nadzoru ludzkiego. Ale nawet w zastosowaniach niższego ryzyka, takich jak chatboty, masz obowiązek informowania użytkowników, że rozmawiają z AI.
W Polsce nadzór nad przestrzeganiem AI Act będzie sprawował prawdopodobnie Urząd Ochrony Danych Osobowych lub nowo powołany organ. Szczegóły wciąż się krystalizują, ale kierunek jest jasny: odpowiedzialność za to, co AI mówi Twoim klientom, spoczywa na Tobie jako na firmie, która to narzędzie wdraża. Nie na OpenAI, nie na Google, nie na Microsofcie.
To fundamentalna zmiana perspektywy. Dostawca AI dostarcza narzędzie. Ty decydujesz, jak je wykorzystujesz, jakie zabezpieczenia stosujesz i jak weryfikujesz wyniki. W świetle prawa - zarówno AI Act, jak i istniejących przepisów o ochronie konsumentów - to Twoja firma ponosi konsekwencje, jeśli AI wprowadzi klienta w błąd.
Podsumowanie: zaufanie wymaga kontroli
AI to potężne narzędzie, które realnie zwiększa produktywność polskich firm. Z moich doświadczeń wynika, że dobrze wdrożona sztuczna inteligencja potrafi zaoszczędzić małej firmie 10-20 godzin pracy tygodniowo na powtarzalnych zadaniach. Ale "dobrze wdrożona" oznacza właśnie: z kontrolą, weryfikacją i świadomością ograniczeń.
Nie chodzi o to, żeby bać się AI ani rezygnować z niego. Chodzi o to, żeby traktować je jak każde inne narzędzie biznesowe - z należytą starannością. Nikt rozsądny nie podpisuje umowy bez przeczytania. Nikt nie wysyła przelewu bez sprawdzenia numeru konta. Tak samo nikt nie powinien bezrefleksyjnie ufać temu, co wygeneruje algorytm.
Zacznij od prostych kroków: zidentyfikuj, gdzie w Twojej firmie AI ma kontakt z klientami lub wpływa na decyzje biznesowe. Wprowadź procedury weryfikacji. Zbuduj własną bazę wiedzy, żeby model czerpał z Twoich sprawdzonych materiałów, a nie z ogólnych danych treningowych. I przede wszystkim - pamiętaj, że za to, co AI mówi w imieniu Twojej firmy, odpowiadasz Ty.
Pytanie z tytułu - kto kontroluje to, co mówi Ci AI - ma prostą odpowiedź: albo kontrolujesz to Ty, albo nikt. A w biznesie "nikt" to odpowiedź, na którą nie możesz sobie pozwolić.
Źródło: Who decides what AI tells you? Campbell Brown, once Meta's news chief, has thoughts - TechCrunch