Čo je few-shot prompting? Význam a príklady


Few-shot prompting je technika, pri ktorej AI model dostane niekoľko príkladov vstupov a očakávaných výstupov, aby lepšie pochopil požadovaný spôsob riešenia úlohy.

Príklady vytvárajú vzor, ktorý môže model použiť pri spracovaní nového vstupu. Few-shot prompting sa využíva pri klasifikácii textov, transformácii údajov, generovaní štruktúrovaných výstupov alebo pri úlohách, ktoré vyžadujú konzistentný štýl odpovede.

Na rozdiel od zero-shot promptingu nestačia iba inštrukcie. Na rozdiel od one-shot promptingu obsahuje zadanie viac ako jeden príklad.





Ako funguje few-shot prompting?


Do zadania najskôr uvediete pravidlá úlohy a potom niekoľko reprezentatívnych príkladov. Každý príklad ukazuje vstup a správny výstup. Na konci pridáte nový vstup, ktorý má model spracovať rovnakým spôsobom.

Model počas spracovania využíva príklady ako kontext. Ide o učenie sa vzoru v rámci aktuálneho zadania, nie o trvalé dotrénovanie modelu.

Kvalita príkladov je dôležitejšia než ich samotný počet. Ukážky by mali byť jednoznačné, správne a dostatočne rozmanité.





Praktický príklad few-shot promptu


Chceme, aby AI klasifikovala interné požiadavky podľa typu.

Zaraď každú požiadavku do jednej kategórie: IT, Fakturácia alebo Obchod. Odpovedz iba názvom kategórie.

Vstup: „Potrebujem obnoviť heslo do firemnej aplikácie.“
Výstup: IT

Vstup: „Prosím o vystavenie opravnej faktúry.“
Výstup: Fakturácia

Vstup: „Chcem získať cenovú ponuku na vaše služby.“
Výstup: Obchod

Nový vstup: „Neviem sa prihlásiť do zamestnaneckého portálu.“
Výstup:

Model vidí tri ukážky klasifikácie a na ich základe má spracovať nový vstup.

V reálnom nasadení by sme mali testovať aj nejednoznačné požiadavky, prípadne zaviesť kategóriu pre prípady, ktoré nemožno spoľahlivo zaradiť.





Výhody few-shot promptingu


  • Lepšia interpretácia zadania: príklady ukazujú, čo používateľ očakáva.
  • Konzistentnejší formát: model môže jednoduchšie napodobniť požadovanú štruktúru.
  • Flexibilita: vzor možno meniť bez úpravy samotného AI modelu.
  • Využitie pri špecifických úlohách: príklady môžu vysvetliť interné kategórie alebo štýl komunikácie.

Výsledky však nie sú garantované. Model môže reagovať odlišne pri výnimočných situáciách, nejednoznačných vstupoch alebo zle zostavených príkladoch.





Na čo si dať pozor?


Výber príkladov: ak zobrazíte iba jeden typ situácie, model nemusí správne reagovať na iné vstupy.

Nekonzistentné príklady: rovnaké situácie by nemali mať rozdielne označenia bez vysvetlenia.

Náklady a dĺžka kontextu: viac príkladov znamená spravidla viac vstupných tokenov, čo môže zvýšiť cenu a čas spracovania.

Citlivé údaje: ako príklady nepoužívajte osobné alebo firemné údaje bez primeraného zabezpečenia a oprávnenia.

Testovanie: úspech na niekoľkých ukážkach nestačí na potvrdenie spoľahlivosti riešenia.





Few-shot prompting alebo fine-tuning?


Pri few-shot promptingu sú príklady súčasťou aktuálneho vstupu. Model sa kvôli nim natrvalo nemení.

Fine-tuning je odlišný proces, pri ktorom sa model ďalej trénuje na pripravených dátach. Vyžaduje samostatný postup, vhodné dáta a vyhodnocovanie.

Few-shot prompting preto často predstavuje jednoduchší prvý krok, keď chcete zlepšiť výsledky bez úpravy modelu. Nie vždy však postačuje pre komplexné produkčné požiadavky.





Ktorú techniku si vybrať?


Odporúčame začať jednoduchým zero-shot zadaním. Ak model nedodržiava očakávaný vzor, skúste one-shot prompting. Ak je úloha náročnejšia a jeden príklad nestačí, pridajte niekoľko kvalitných few-shot ukážok.

Každú úpravu vyhodnocujte na reprezentatívnej množine testovacích vstupov.



Doplňte príklady do vlastného promptu

Vytvorte jasné zadanie a pridajte niekoľko ukážok, ktoré zodpovedajú vašej pracovnej úlohe. Pri všetkých zachovajte rovnaký formát a výsledok overte aj na novom vstupe. Praktický návod vám pomôže pripraviť kontext, pravidlá aj kontrolný zoznam.

Praktický návod a šablóny AI promptov →