Vláda kanadskej provincie Newfoundland a Labrador požiadala konzultačnú firmu Deloitte, aby vykonala komplexnú revíziu citácií v jej novom pláne zdravotnej starostlivosti po tom, čo boli objavené štyri prípady nesprávnych alebo neexistujúcich zdrojov. Informoval o tom televízny spravodajský server CBS. Toto odhalenie prichádza krátko po tom, čo provincia mala podobné problémy so strategickým dokumentom v oblasti vzdelávania, v ktorom rádio CBS našlo najmenej 15 vymyslených citácií. Chyby sú pravdepodobne výsledkom použitia nástrojov umelej inteligencie (AI).
Deloitte čelí kritike
Dokument mal slúžiť ako desaťročný plán na riešenie nedostatku zdravotníckeho personálu a provincia zaň zaplatila viac ako 1,6 milióna kanadských dolárov. Kanadský web The Independent ako prvý poukázal na nezrovnalosti v citáciách. „Spoločnosť Deloitte uznala, že štyri citácie sú nesprávne, ale naďalej trvá na záveroch a zisteniach uvedených v správe,“ povedal v televízii hovorca ministerstva zdravotníctva Brian Scott. Podľa neho konzultačná firma sľúbila, že okamžite preverí všetky citácie a výsledky preverenia predloží vláde.
Použitie umelej inteligencie na vládne štúdie bez dostatočného dohľadu kritizoval líder odborov Jerry Earle. Podľa neho aj štyri nesprávne citácie podkopávajú dôveru v celú 526-stranovú štúdiu, ktorej cieľom bolo riešiť kritický nedostatok pracovnej sily. „Keď raz zasiať pochybnosti, ľudia začnú spochybňovať spoľahlivosť týchto dokumentov,“ povedal a dodal, že požiada provinčnú vládu, aby zaviedla jasné pravidlá pre prácu externých konzultantov.
„Halucinácie“ umelej inteligencie opäť odhalené
Predstavitelia opozičnej Novej demokratickej strany (NDP) vyzývajú provinčnú vládu, aby po podobnom prípade v Austrálii požiadala spoločnosť Deloitte o vrátenie peňazí za štúdiu. Miestna pobočka Deloitte musí vrátiť časť z celkovej sumy 440 000 austrálskych dolárov zaplatenej za správu, ktorá obsahovala chyby spôsobené takzvanými halucináciami umelej inteligencie. Podľa agentúry AP išlo o vymyslené citáty z rozsudku federálneho súdu a odkazy na neexistujúce vedecké články.
Po kritike spoločnosť Deloitte preskúmala 237-stránkovú správu a potvrdila, že niektoré poznámky pod čiarou a odkazy boli nesprávne, uviedlo ministerstvo v utorok. „Spoločnosť Deloitte súhlasila s vrátením poslednej splátky podľa zmluvy,“ dodalo ministerstvo. Presná suma bude zverejnená po vrátení peňazí. V kontexte umelej inteligencie a jazykových modelov je termín „halucinácie“ používaný na opis generovaných odpovedí, ktoré obsahujú nepravdivé alebo zavádzajúce informácie. Môžu byť tiež výsledkom nedostatočných, zastaraných alebo zaujatých trénovacích dát.
Zdroj: ČTK
