Nie powierzaj sztucznej inteligencji podejmowania kluczowych decyzji.
Sędziowie na całym świecie mierzą się z narastającym problemem: do sądów trafiają pisma procesowe tworzone z pomocą sztucznej inteligencji (AI), które zawierają błędy, na przykład odwołania do orzeczeń, które nie istnieją, co potwierdzają prawnicy i dokumenty sądowe.
Trend ten jest przestrogą dla osób, które uczą się używać narzędzi AI w pracy. Wielu pracodawców chce zatrudniać ludzi potrafiących korzystać z tej technologii przy zadaniach takich jak wyszukiwanie informacji czy przygotowanie raportów. Nauczyciele, księgowi i specjaliści od marketingu coraz częściej sięgają po chatboty i asystentów AI, by generować pomysły i podnosić wydajność, a przy okazji odkrywają, że programy czasem popełniają błędy.
Francuski analityk danych i prawnik, Damien Charlotin, skatalogował w ostatnim półroczu co najmniej 490 pism sądowych z tzw. „halucynacjami”, czyli odpowiedziami AI zawierającymi fałszywe lub wprowadzające w błąd informacje. Tempo rośnie, bo z AI korzysta coraz więcej osób – powiedział.
„Nawet bardziej zaawansowani użytkownicy mogą mieć z tym problem” – mówi Charlotin. „AI może być ogromnym wsparciem. To wspaniałe narzędzie, ale wiążą się z nim pułapki”.
Charlotin, starszy pracownik badawczy HEC Paris, szkoły biznesu położonej pod Paryżem, stworzył bazę spraw, w których sędzia uznał, że AI wygenerowała zmyślone treści, na przykład fikcyjne orzecznictwo i fałszywe cytaty.
Jak dodał, większość orzeczeń dotyczy spraw w USA, w których powodowie występowali bez prawnika. Większość sędziów poprzestała na ostrzeżeniach, ale część nałożyła grzywny.
Problematyczne dokumenty składały jednak także znane firmy. Sędzia federalny w Kolorado orzekł, że prawnik MyPillow Inc. złożył pismo zawierające niemal 30 wadliwych odwołań w sprawie o zniesławienie przeciwko spółce i jej założycielowi, Michaelowi Lindellowi.
Prawnicy nie są jedyną grupą zmagającą się z potknięciami AI. Podsumowania AI pojawiające się na górze stron z wynikami wyszukiwania w internecie często zawierają błędy.
Narzędzia AI rodzą też pytania o prywatność. Pracownicy w każdej branży powinni uważać, jakie szczegóły przesyłają lub wpisują w poleceniach, aby chronić poufne informacje pracodawców i klientów.
Eksperci od prawa i środowiska pracy dzielą się doświadczeniami z błędami AI i opisują pułapki, których warto unikać.
Traktuj AI jak asystenta
Nie powierzaj AI podejmowania ważnych decyzji.
„Traktuj AI jako wsparcie w pracy” – mówi Maria Flynn, prezeska organizacji Jobs for the Future, organizacji non profit skupionej na rozwoju kompetencji pracowników. Może pełnić rolę asystenta przy zadaniach takich jak napisanie e-maila czy zaplanowanie podróży, ale nie myśl o niej jak o substytucie, który zrobi wszystko za ciebie – dodaje.
Przygotowując się do spotkania, Flynn testowała wewnętrzne narzędzie AI. Poprosiła je o podpowiedzi pytań do dyskusji na podstawie artykułu, którym podzieliła się z zespołem.
„Część tych pytań nie pasowała do kontekstu naszej organizacji, więc przekazałam narzędziu taką informację (…) i wróciło z pięcioma bardzo trafnymi pytaniami” – opowiada.
Sprawdzaj poprawność
Flynn zauważyła też problemy w wynikach działania narzędzia, które wciąż jest w pilotażu. Poprosiła je kiedyś o zestawienie projektów, jakie jej organizacja realizowała w poszczególnych stanach. AI potraktowała zrealizowane działania i wnioski o finansowanie jak to samo.
„W tym przypadku nasze narzędzie AI nie umiało odróżnić tego, co dopiero zaproponowano, od tego, co już wykonano” – mówi Flynn.
Na szczęście miała wiedzę instytucjonalną, by zauważyć błąd. „Jeśli dopiero zaczynasz pracę w organizacji, zapytaj współpracowników, czy wyniki wyglądają wiarygodnie” – radzi Flynn.
AI może pomagać w burzy mózgów, ale powierzanie jej faktów jest ryzykowne. Warto poświęcić czas i sprawdzić, czy to, co wygenerowała, jest poprawne, nawet jeśli kusi, by ten krok pominąć.
„Ludzie zakładają, że skoro coś brzmi wiarygodnie i jest wygodne, to musi być prawdziwe” – mówi Justin Daniels, prawnik z Atlanty i wspólnik kancelarii Baker Donelson. „Gdy muszę zweryfikować wszystkie przypisy albo kiedy widzę umowę podsumowaną przez AI, wracam do treści kontraktu i ją czytam. To niewygodne i czasochłonne, ale konieczne. Nawet jeśli wydaje ci się, że AI może to za ciebie zrobić, nie może”.
Uważaj na narzędzia do notatek
Kusi, by używać AI do nagrywania i robienia notatek ze spotkań. Niektóre narzędzia tworzą użyteczne podsumowania i listy działań do wykonania na podstawie rozmowy.
Ale w wielu jurysdykcjach nagrywanie rozmów wymaga zgody uczestników. Zanim skorzystasz z AI do notowania, zatrzymaj się i zastanów, czy rozmowa powinna pozostać objęta tajemnicą i poufna – mówi Danielle Kays, partnerka w chicagowskim biurze kancelarii Fisher Phillips.
Wcześniej skonsultuj się z prawnikami lub działem HR, zwłaszcza w sytuacjach wysokiego ryzyka, takich jak dochodzenia, oceny wyników czy narady o strategii procesowej – sugeruje.
„Pojawiają się głosy, że przy korzystaniu z AI potrzebne są różne poziomy zgody, a to zagadnienie trafia do sądów” – mówi Kays. „Firmy powinny uważnie śledzić ten temat, gdy będzie rozstrzygany w postępowaniach”.
Chroń informacje poufne
Jeśli używasz darmowych narzędzi AI do szkicowania notatki czy kampanii marketingowej, nie ujawniaj danych identyfikujących ani tajemnic firmy. Po wgraniu takich informacji istnieje ryzyko, że inni użytkownicy tego samego narzędzia je odnajdą.
Tak jest, bo gdy inni zadają pytania, narzędzie przeszukuje dostępne treści, także te, które ujawniłeś, i na ich podstawie buduje odpowiedź, wyjaśnia Flynn. „Nie rozróżnia, co jest publiczne, a co prywatne”.
Szukaj szkoleń
Jeśli pracodawca nie oferuje szkoleń z AI, poeksperymentuj z darmowymi narzędziami, takimi jak ChatGPT czy Microsoft Copilot. Niektóre uczelnie i firmy technologiczne prowadzą zajęcia, które pomagają zrozumieć, jak działa AI i do czego może się przydać.
Warto wybrać kursy uczące tworzenia skutecznych poleceń dla AI (tzw. promptów) albo zajęcia praktyczne z ćwiczeniami – mówi Flynn.
Mimo potencjalnych problemów, poznanie działania tych narzędzi jest dziś atutem, bo są wszechobecne.
„Największą potencjalną pułapką w nauce korzystania z AI jest (…) w ogóle jej nie podjąć” – mówi Flynn. „Wszyscy będziemy musieli biegle posługiwać się AI. Zrobienie pierwszych kroków, oswojenie się z narzędziem i zbudowanie podstawowej biegłości będzie kluczowe”.