Zero-shot és few-shot promptolás jelentése

Zero-shot és few-shot promptolás

A zero-shot és few-shot promptolás a két alapvető megközelítés, amellyel utasítást adsz egy nagy nyelvi modellnek (LLM). A „zero-shot” azt jelenti, hogy semmilyen példát nem mutatsz az AI-nak — egyszerűen leírod a feladatot, és reméled, hogy a modell általános tudásából megérti, mit kell tennie. A „few-shot” esetén 2-3 (néha 5-10) példát mutatsz a kívánt bemenet-kimenet párokra, és csak utána adod a tényleges feladatot. Mindkettő hasznos eszköz a prompt engineering-ben — a választás attól függ, milyen jól érti a modell magától a feladatot, és mennyire egységes kimenetre van szükség.

Így is ismerheted

Magyarul példák nélküli promptolás (zero-shot) és néhány példás promptolás (few-shot). Angolul a klasszikus zero-shot prompting és few-shot prompting, néha in-context learning a gyűjtőfogalom. A „shot” itt példára utal: zero = nulla példa, few = néhány. Létezik one-shot változat is (egyetlen példa), de a gyakorlatban a 2-5 példa a jellemző few-shot.

Mikor melyiket használd?

A választás négy tényezőtől függ:

Általánosan ismert vagy specifikus feladat? Egy „fordítsd magyarra” feladatot az LLM zero-shot pontosan meg tudja oldani — minden modell ezen trénelt. Egy speciális céges kategorizálást (pl. „sorold be ezt a panaszt a 7 belső prioritási osztályba”) few-shot kell, mert a kategóriarendszer egyedi.

Output-formátum mennyire kötött? Ha pontosan ugyanazt a JSON-struktúrát várod minden alkalommal, few-shot pontosabban hozza a formátumot. Zero-shot esetén a modell néha eltér a formátumtól.

Modell-méret? Egy nagyobb modell (GPT-4o, Claude Opus) zero-shot is meglepően jól dolgozik a komplex feladatokon. Egy kisebb modell (GPT-4o-mini, Claude Haiku, Llama 8B) több példát igényel a jó teljesítményhez.

Költség? A few-shot példák hosszabb promptot jelentenek, ami több inputtoken, magasabb költség. Ha a feladat amúgy is megoldható zero-shot, ne pakold tele.

Zero-shot példák

Néhány klasszikus zero-shot feladat, amit az LLM-ek általában jól megoldanak:

Fordítás: „Fordítsd magyarra: ‘The customer left a positive review.'”

Hangulat-elemzés: „Add meg a következő mondat hangulatát (pozitív / negatív / semleges): ‘A szállítás gyors volt, de a csomagolás sérült érkezett.'”

Összefoglaló: „Foglalj össze 50 szóban: [hosszabb szöveg].”

Kategorizálás (ismert kategóriákkal): „Sorold be az alábbi e-mailt: panasz / kérdés / megrendelés / elismerés. [e-mail-szöveg]”

Ezekre a feladatokra ritkán kell példa, mert az LLM-ek tréning-adatában tömegével szerepelnek hasonlók.

Few-shot példák

Few-shot ott jön elő, ahol a feladat speciális, vagy a kimenet-formátum egyedi. Néhány eset:

Egyedi kategorizálás:

Sorold be az e-mailt a 7 belső prioritási osztályba: P0, P1, P2, P3, S0, S1, S2.

Példa 1:
Bemenet: "Az ügyfél nem tud bejelentkezni, élesen használja a rendszert, sürgős."
Kimenet: P0

Példa 2:
Bemenet: "Az ügyfél új feature-t kér, ami a roadmap-en van."
Kimenet: P3

Példa 3:
Bemenet: "Az ügyfél kicsi UX-megjegyzést tett."
Kimenet: S2

Most:
Bemenet: "Az ügyfél árajánlatot kér egy új projektre."
Kimenet:

Strukturált adatkinyerés: a modellnek meg kell mutatni, milyen pontosan formált JSON-választ akarsz. 2-3 példa egyértelművé teszi.

Stilisztikai konzisztencia: ha egy konkrét tone-of-voice-szal akarod, hogy az AI írjon, néhány saját céges példa drasztikusan javítja a kimenetet.

Hogyan tervezz few-shot példákat?

A példák minősége kritikus:

  • Reprezentatív legyen — a példák fedjék le a tipikus eseteket, ne csak az „könnyű”-eket.
  • Sokszínű legyen — különböző hosszú, struktúrájú bemenetek, hogy a modell ne kösse szorosan egy mintához.
  • Helyes legyen — minden példa pontos. Egy hibás példa elronthatja a teljes futtatást.
  • Konzisztens formátum — minden példa azonos szerkezetű, hogy a modell megtanulja a mintát.
  • Sorrendben — a jelek szerint a modell jobban súlyozza az utolsó pár példát. Tedd a legreprezentatívabbat utoljára.

Mennyi példa optimális?

A bevált tapasztalat:

  • 0 példa (zero-shot) — egyszerű, ismert feladatra, vagy nagy modellen.
  • 1-3 példa — közepes feladat, közepes modell. Az ár-érték arány itt a legjobb.
  • 5-10 példa — speciális feladat, vagy ha pontos output-formátum kritikus.
  • 10+ példa — ritkán éri meg. Inkább fine-tuningolj a modellt, vagy RAG-architektúrát építs.

Speciális technikák

Néhány bevált trükk:

Chain-of-thought + few-shot: a példákban ne csak a végeredményt mutasd, hanem a gondolkodási folyamatot is. „Bemenet: … Gondolkodás: először ezt nézem, aztán azt… Kimenet: …” A modell így megtanulja, hogyan érveljen.

Negatív példák: ha vannak gyakori hibák, mutass be hogyan néz ki egy ROSSZ válasz, és miért. „Hibás kimenet: … Probléma: …”

Dinamikus few-shot: ahelyett, hogy mindig ugyanazokat a példákat használnád, a teszt-halmazból a bemenethez leghasonlóbb példákat húzd ki (jellemzően embedding-alapú kereséssel). Ez a „retrieval-augmented prompting” megközelítés.

Mire figyelj?

Az első tipp: kezdj zero-shottal. Mindig először teszteld a feladatot példák nélkül. Ha a kimenet jó minőségű, ne pakold tele a promptot fölöslegesen. Az új modellek (GPT-4o, Claude Opus) sokszor zero-shot is meglepően jól dolgoznak.

A második: tesztelj, ne találgass. Készíts egy 20-50 elemes teszt-halmazt, és mérd objektíven, melyik prompt-variáns ad jobb eredményt. A „melyik szebbnek hangzik” intuíció félrevezető.

A harmadik: kerüld a túl sok példát. 10 felett sok modell „elveszti a fonalat”, és a tényleges feladatot rosszabbul oldja meg, mint kevesebb példával. Több gyengébb példa kevesebb minőségi példánál rosszabb.

A negyedik: tartsd verziókövetésben. Egy jó few-shot prompt valós érték — Git-ben tárolva, és új verziók A/B-tesztelve.

Az ötödik: token-költség. Egy 10 példás few-shot prompt 2000-5000 tokent jelenthet. Egy napi 1000 hívásos rendszerben ez havi 60-150 dollár csak az input-oldalon. Ha sok hívás van, érdemes prompt-cache-elést használni (az OpenAI API ezt natívan támogatja).

Ha cégednél AI-rendszert építesz és nem vagy biztos, hogyan strukturálj prompt-okat, az AI és automatizáció szolgáltatásunkban segítünk a prompt-tervezésben és tesztelésben. Egy weboldali ügyfél-felé néző AI-rendszerhez (chatbot) a chatbot fejlesztés az induló pont — itt minden chatbot-beszélgetés mögött tipikusan few-shot példák állnak a tone-of-voice és válasz-struktúra biztosítására.

Beszéljünk a Projektedről

Minden jó projekt egy üzenettel kezdődik. Ha van egy ötleted, egy kérdésed, vagy csak kíváncsi vagy mibe kerülne — írj bátran. Minden megkeresésre személyesen válaszolunk.

Create your account
Ajánlatkérés