EY, jedna z największych firm konsultingowych na świecie, musiał wycofać swój raport dotyczący programów lojalnościowych, gdy okazało się, że jest oparty na halucynacjach, czyli kłamstwach AI. Z kolei jej angielski oddział musiał zapłacić ponad 105 mln funtów w drodze ugody syndykom upadłej NMC Holdings, gdy okazało się, że „przeoczył” zadłużenie spółki sięgające 4 mld dolarów.
Badanie dotyczące programów lojalnościowych „Punkty ataku: odkrywanie cyberzagrożeń i oszustw w systemach lojalnościowych” dotyczące zagrożeń na jakie są narażone te systemy zostało usunięte z portalu EY Canada. Autorami mieli być konsultanci tej firmy, ale jak się okazało poszli oni mocno „na skróty” korzystając w dużej mierze ze sztucznej inteligencji. Ta jednak sprawiła im niemiłą niespodziankę – badanie zawierało zmyślone dane, błędnie przypisane źródła i odwoływało się do nieistniejącego raportu McKinseya. Wykryła to grupa badawcza GPTZero, która uważnie wczytała się w raport, kiedy jej członkowie zauważyli w nim dziwne niespójności.
AI, której zapewne postawiono zadanie wykazania, że programy lojalnościowe są podatne na oszustwa, wykonała je, ale przy pomocy sfałszowanych i kompletnie przy tym nierealistycznych danych. W różnych częściach raportu dla przykładu oszacowano wielkość rynku programów lojalnościowych na 200 mld dolarów, a liczbę nieodebranych punktów programów lojalnościowych oceniano na dokładnie taką samą wartość. Z kolei ponad pół tuzina przypisów w raporcie EY kierowało do stron internetowych, które nie istniały lub nie zawierały cytowanych informacji.
Jak napisali w poście o raporcie badacze GPTZero – Om Ogale, Paul Esau i Alex Cui – publikacja takiego raportu online to „w zasadzie forma wstrzykiwania danych do puli wiedzy, jaką jest Internet”, zaś obecnie nie da się już nic zrobić – fałszywa wiedza będzie krążyła po Internecie, zmyślone dane będą przedstawiane jako prawdziwe.
„Kiedy raport zawiera fałszywe informacje (zarówno fałszywe cytaty, jak i fałszywe twierdzenia), może on „zatruć studnię” wprowadzając w błąd przyszłych badaczy, zwłaszcza jeśli raport jest publikowany przez znaną firmę konsultingową i umieszczony na stronie internetowej o dużym natężeniu ruchu” – zauważyli badacze.
Wykorzystywanie sztucznej inteligencji, i to coraz szersze, rodzi coraz większe problemy. Także w Kanadzie konkurent EY z Wielkiej Czwórki – Deloitte – musiał jeszcze w zeszłym roku całkowicie przerobić raport dla jednej z kanadyjskich prowincji, po tym jak AI „wzbogacił go” zmyślonymi cytatami z równie fałszywych publikacji naukowych.
„Nikt oficjalnie nie powie, że sztuczna inteligencja, kiedy nie ma dostatecznej liczby danych, po prostu je zmyśla. Nazywa się to elegancko halucynacjami, bo nikt nie przyzna, że narzędzie, w które włożono setki miliardów dolarów i nadal się wkłada, jest po prostu na zbyt wczesnym etapie rozwoju, by go używać tak, jak założono. I sprawa jest nie do ruszenia – sztuczna inteligencja kłamie, a my kłamiemy, że sztuczna inteligencja jest okey. Owszem, może będzie, ale za kilka lat, może nawet dekadę. A to, co się przez ten czas stanie, niepożądane skutki jej działań to nas będą jeszcze długo prześladować. Ale każdy kto teraz powie, że król jest nagi, wyląduje na oucie. Nie można psuć tego, co wygląda tak dobrze w Power Poincie” – powiedział ISBiznes.pl analityk bezpieczeństwa z jednej z największych firm zachodnich działających w Polsce.
Istotnie, firmy konsultingowe z determinacją wdrażają sztuczną inteligencję, inwestują duże środki w te wdrożenia, szkolą pracowników w zakresie jej obsługi i promują „szybsze i dokładniejsze” wykonywanie usług dla klientów. Samo EY w październiku 2025 stwierdziło, że przychody z AI wzrosły o 30% w roku 2024 i 15 000 pracowników pracowało nad projektami klientów „od wdrażania transformacji w całym przedsiębiorstwie po ramy zarządzania AI, które pomagają w odpowiedzialnym wdrażaniu AI”.
Tymczasem, obecnie w dość suchym komunikacie EY poinformowało, że usunęło raport dotyczący programu lojalnościowego ze swojej strony internetowej i „analizuje okoliczności, które doprowadziły do publikacji tego artykułu”. Jednocześnie zaznaczono, że ten raport nie był związany z pracą dla jakiegokolwiek klienta firmy.
„EY Canada poważnie traktuje dokładność wszystkich publikowanych przez nas treści i w całej organizacji angażuje się w odpowiedzialne korzystanie z AI” – poinformowało EY.
Halucynacje są powracającym problemem w sektorze usług profesjonalnych. Konkurent EY z Wielkiej Czwórki, Deloitte, musiał w zeszłym roku zrewidować raport dla kanadyjskiego rządu prowincjonalnego po tym, jak ujawniono, że zawierał fałszywe cytaty naukowe. Co ciekawe, to nie tylko problem firm konsultingowych – w kwietniu kancelaria prawna Sullivan & Cromwell przeprosiła nowojorski sąd, ponieważ w prowadzonej przez kancelarię sprawie wielokrotnie błędnie cytowano amerykański kodeks upadłościowy i nieprawidłowo przytaczano orzeczenia.
W tym samym czasie brytyjska spółka EY UK zapłaciła ponad 100 mln funtów zarządcom NMC Health w związku z ugodą związaną ze sprawą zaniedbań w audytach upadłej firmy.
NMC pozwało EY w brytyjskich sądach o ponad 2 mld funtów w związku z owym zaniedbaniem, ale w końcu obie strony zawarły ugodę. Roszczenia prawne według raportu zarządcy NMC złożonego w brytyjskim rejestrze spółek (UK Companies House) zostały zaspokojone ugodą opiewającą na 105,5 mln funtów, co stanowi właśnie koszty tejże ugody.
O całej sprawie pisały Bloomberg, „Financial Times” i Reuters, chodziło bowiem o firmę notowaną niegdyś na indeksie FTSE 100 – NMC upadło w 2020 roku po tym, jak raport ujawnił skalę problemów firmy. NMC to operator szpitali, m.in. na Bliskim Wschodzie, który jak się okazało był zadłużony na 4 mld dolarów. Prawnicy zarządcy upadłościowego twierdzili, że EY nie wykrył miliardów długów NMC podczas audytu firmy w latach 2012-2018. EY twierdzi, że to jego konsultanci „zostali w podstępny sposób oszukani”.
Z całej sprawy obecnie zostały tylko sądowe postępowania syndyków przeciw założycielowi NMC Bavaguthu Raghuramowi Shetty’emu, byłemu dyrektorowi generalnemu Prasanthowi Manghatowi oraz indyjskiemu Bank of Baroda. Postępowanie w Londynie zawieszono do czasu rozstrzygnięcia odrębnego postępowania sądowego toczącego się w Abu Zabi.
Nie wiadomo, jakie odszkodowanie dostaną wierzyciele upadłej firmy, ale obecnie zwrócono jedynie 47,9 mln funtów podmiotom finansującym postępowanie sądowe wraz z uzgodnionym zwrotem kosztów postępowania w wysokości 22,2 mln funtów. Najwięcej zarobi kancelaria Alvarez & Marsal, która oszacowała, że jej wynagrodzenie za cały proces wyniesie 69,2 mln funtów.
