Ako overiť odpoveď AI a odhaliť halucinácie

Najskôr si v odpovedi označte tvrdenia, podľa ktorých by niekto konal. Dátum dodania, cena, citácia alebo rozhodnutie potrebujú oporu v pôvodnom zdroji. Ak ju neviete nájsť, označte údaj ako nepotvrdený alebo ho pred zdieľaním vynechajte.

Read in English

Čo je halucinácia AI?

Takto sa bežne označuje situácia, keď generatívna AI uvedie nesprávnu alebo vymyslenú informáciu ako fakt. Môže doplniť neexistujúci zdroj alebo zameniť návrh za schválené rozhodnutie. Odlišujte vyvrátené tvrdenie od tvrdenia, ktoré sa vám zatiaľ nepodarilo overiť. Aj správny odkaz môže smerovať na dokument, ktorý dané tvrdenie nepodporuje.

Príklad z praxe: zo zápisu na e-mail zákazníkovi

Predstavte si tento fiktívny zápis zo stretnutia:

Zákazník potrebuje pilot pre 12 pracovníkov. Ako termín spustenia navrhol 15. máj. Dodávateľ overí kapacitu do piatku. Cena na stretnutí neodznela.

Ukážkový chybný návrh e-mailu znie: „Pilot pre 12 pracovníkov spustíme 15. mája za 1 200 €.“ Počet pracovníkov sedí. Termín bol iba návrh a suma v zápise chýba. Opravená verzia znie:

Počítame s pilotom pre 12 pracovníkov. Termín 15. mája preveríme podľa kapacity. Ozveme sa do piatku s výsledkom preverenia.

Ukážka je ilustračná. V reálnom prípade pred odoslaním skontrolujte, či piatok ešte len nastane a či osoba, ktorá správu odosiela, môže daný záväzok potvrdiť.

Štyri kroky pred odoslaním

  1. Rozdeľte odpoveď na jednotlivé tvrdenia. Vetou s tromi údajmi môžu prejsť tri rôzne chyby. Kontrolujte každý podstatný údaj samostatne.
  2. Otvorte pôvodný zdroj. Porovnajte konkrétnu vetu, dátum a verziu dokumentu. Pri citácii skontrolujte, čo presne zdroj tvrdí a za akých podmienok.
  3. Priraďte stav. Použite „potvrdené“, „v rozpore so zdrojom“ alebo „zdroj to neuvádza“. Pri sporných číslach skontrolujte výpočet z pôvodných údajov.
  4. Upravte text a dajte ho schváliť. V návrhu zákazníkovi nechajte potvrdené fakty a jasne označené návrhy. Záväzky overte s osobou, ktorá za ne zodpovedá.

Kontrolný prompt na skopírovanie

Porovnaj návrh odpovede s podkladom nižšie. Vyber tvrdenia o menách, číslach, termínoch, rozhodnutiach a záväzkoch. Ku každému uveď stav: potvrdené, v rozpore so zdrojom alebo zdroj to neuvádza. Pri prvých dvoch stavoch cituj presnú pasáž z podkladu. Ak oporu nenájdeš, nevytváraj citáciu. Nakoniec navrhni úpravy rizikových viet.

Podklad: [vlož schválený podklad]
Návrh odpovede: [vlož text na kontrolu]

Výsledok použite ako zoznam miest na ľudskú kontrolu. Pri práci s internými podkladmi použite nástroj schválený vašou organizáciou.

Ako postup zaradiť do práce tímu

Pri opakovanej úlohe si uložte niekoľko schválených podkladov a očakávaných výstupov. Zaraďte aj prípad s chýbajúcim údajom a jeden prípad, kde si podklady odporujú. Pri zmene zadania skontrolujte, či model neistotu stále označí a či nezmení návrh na záväzok. Na rozdelenie tvorby a kontroly do samostatných krokov použite reťazenie promptov. Základ zadania vysvetľuje návod na písanie AI promptov.

Ak chcete vytvoriť kontrolný postup pre zákaznícku komunikáciu alebo inú opakovanú úlohu vo firme, opíšte nám svoj proces.

Odborný zdroj k pojmu konfabulácia: NIST, Generative AI Profile.