Australijski oddział firmy konsultingowej Deloitte zwróci część kwoty 440 000 AUD (6,1 mln CZK) zapłaconej za raport zawierający błędy spowodowane przez tzw. halucynacje sztucznej inteligencji (AI). Obejmowały one sfabrykowane cytaty z orzeczenia sądu federalnego i odniesienia do nieistniejących artykułów naukowych, podała agencja AP.
AI zmienia rynek usług konsultingowych
Błąd pojawił się w momencie, gdy postępująca ekspansja systemów sztucznej inteligencji wywiera presję na firmy konsultingowe, jak podaje serwis Semafor. Według tej strony internetowej, duże firmy konsultingowe zwolniły około 50 000 osób od początku 2023 r. w związku ze spowolnieniem działalności po pandemii, wdrożeniem AI i ograniczeniem wydatków rządowych.
Raport firmy świadczącej usługi finansowe dla Departamentu Zatrudnienia i Stosunków Pracy został pierwotnie opublikowany na stronie internetowej departamentu w lipcu. Zmieniona wersja została opublikowana przez departament pod koniec ubiegłego tygodnia po tym, jak Chris Rudge z Uniwersytetu w Sydney poinformował media, że raport zawiera sfabrykowane cytaty i odniesienia.
Australijskie ministerstwo odkrywa błędy w raporcie Deloitte
Deloitte następnie przejrzało 237-stronicowy raport i potwierdziło, że niektóre przypisy i odniesienia były nieprawidłowe, poinformowało we wtorek ministerstwo. „Deloitte zgodziło się zwrócić ostatnią płatność wynikającą z umowy” – dodało ministerstwo. Dokładna kwota zostanie ujawniona po dokonaniu zwrotu.
Raport Deloitte dotyczył sposobu, w jaki systemy informatyczne australijskiego departamentu wykorzystują automatyczne sankcje w australijskim systemie zabezpieczenia społecznego. Departament stwierdził, że treść raportu pozostała niezmieniona, a zawarte w nim zalecenia pozostały takie same. W kontekście sztucznej inteligencji i modeli językowych termin „halucynacje” jest używany do opisania generowanych odpowiedzi zawierających fałszywe lub wprowadzające w błąd informacje. Mogą one również wynikać z niewystarczających, nieaktualnych lub stronniczych danych szkoleniowych.
Źródło: Reuters
