A Deloitte tanácsadó cég ausztráliai leányvállalata visszatéríti a 440 000 ausztrál dollár (6,1 millió CZK) összegű fizetés egy részét, amelyet egy úgynevezett mesterséges intelligencia (AI) által okozott hallucinációk miatt hibás jelentésért fizettek. Ezek között szerepeltek egy szövetségi bírósági ítéletből származó hamis idézetek és nem létező tudományos cikkekre való hivatkozások – jelentette az AP.
Az AI megváltoztatja a tanácsadási szolgáltatások piacát
A hiba akkor következett be, amikor a mesterséges intelligencia rendszerek terjedése nyomást gyakorol a tanácsadó cégekre – írja a Semafor weboldal. A weboldal szerint a nagy tanácsadó cégek 2023 eleje óta körülbelül 50 000 embert bocsátottak el a pandémiát követő tevékenységcsökkenés, az AI bevezetése és a kormányzati kiadások csökkentése miatt.
A foglalkoztatási és munkaügyi minisztériumnak pénzügyi szolgáltatásokat nyújtó cég jelentése eredetileg júliusban jelent meg a minisztérium weboldalán. A minisztérium a múlt hét végén tette közzé a jelentés átdolgozott változatát, miután Chris Rudge, a Sydney-i Egyetem munkatársa felhívta a média figyelmét arra, hogy a jelentés hamis idézeteket és hivatkozásokat tartalmaz.
Ausztrál minisztérium hibákat tár fel a Deloitte jelentésében
A Deloitte ezt követően áttekintette a 237 oldalas jelentést, és megerősítette, hogy egyes lábjegyzetek és hivatkozások helytelenek voltak – közölte a minisztérium kedden. „A Deloitte beleegyezett abba, hogy visszatéríti a szerződés szerinti végső kifizetést” – tette hozzá a minisztérium. A pontos összeget a visszatérítés után hozzák nyilvánosságra.
A Deloitte jelentés azt vizsgálta, hogy az ausztrál minisztérium informatikai rendszerei hogyan alkalmazzák az automatizált szankciókat az ausztrál társadalombiztosítási rendszerben. A minisztérium szerint a jelentés lényege változatlan maradt, és ajánlásai is megmaradtak. Az AI és a nyelvi modellek kontextusában a hallucinációk olyan generált válaszokat jelölnek, amelyek hamis vagy félrevezető információkat tartalmaznak. Ezek oka lehet a nem megfelelő, elavult vagy elfogult adatokból álló képzés is.
Forrás: Reuters
