Speciální triky pro pokročiléNulový příkaz zahrnuje generování odpovědi, aniž by se do velkých jazykových modelů vkládaly jakékoli příklady nebo předchozí kontext. Tato technika je ideální, pokud potřebujete rychlé odpovědi na základní otázky nebo obecná témata.
V článku Least-to-Most Prompting Enables Complex Reasoning in Large Language Models], který navrhli Zhou a kol. z Google Research, je metoda Least-to-most prompting novou metodou, jejímž cílem je zlepšit schopnost řešení problémů ve velkých jazykových modelech.
Metoda vychází z pedagogické psychologie a spočívá v rozkladu složitých problémů na jednodušší, postupné podproblémy, přičemž využívá odpovědi z předchozích podproblémů k usnadnění řešení následujících.
Implementace metody „least-to-most prompting“ nevyžaduje trénování modelu ani jeho dolaďování.
Provádí se výhradně prostřednictvím několika podnětů, což se účinně projevilo v úlohách, jako je symbolická manipulace, kompoziční zobecnění (schopnost naučit se význam slov a následně je asociací aplikovat na jiné pojmy) a matematické uvažování.
Následující obrázek z článku ukazuje řešení matematické slovní úlohy metodou least-to-most ve dvou fázích: (1) dotaz na jazykový model pro rozklad úlohy na dílčí úlohy; (2) dotaz na jazykový model pro postupné řešení dílčích úloh. Odpověď na druhý podproblém je postavena na odpovědi na první podproblém.
Demonstrační příklady pro výzvu každé fáze jsou v této ilustraci vynechány.
Z obrázku níže je zřejmé, že sebezpytné podněcování je pokračováním přímého podněcování a podněcování pomocí myšlenkového řetězce.
Zajímavé je, že u self-ask promptingu je explicitně zobrazeno uvažování LLM a LLM také rozkládá otázku na menší navazující otázky.
LLM ví, kdy je dosaženo konečné odpovědi, a může přejít od navazujících mezivýpovědí ke konečné odpovědi.
Uvažujme následující otázku:
Mám židli, dvě brambory, květák, hlávku salátu, dva stoly, zelí, dvě cibule a tři lednice. Kolik mám zeleniny?
LLM by měl převést vstup na slovník s entitami a hodnotami podle jejich množství, přičemž by měl odfiltrovat entity, které nejsou zeleninou.
Nakonec je odpovědí součet hodnot slovníku pod výstupem PAL z LLM:
# note: I'm not counting the chair, tables, or fridges
vegetables_to_count = {
'potato': 2,
'cauliflower': 1,
'lettuce head': 1,
'cabbage': 1,
'onion': 2
}
answer = sum(vegetables_to_count.values()) Automatic Reasoning and Tool-use (ART) je rámec, který rovněž využívá zmrazené modely ke generování mezikroků uvažování jako program.
Přístup ART silně připomíná princip agentů, tedy dekompozici problému a využití nástrojů pro každý dekomponovaný krok.
Pomocí ART zmrazený LLM rozkládá instance nové úlohy na více kroků, přičemž využívá externí nástroje, kdykoli je to vhodné.
ART je přístup bez nutnosti jemného dolaďování, který umožňuje automatizovat vícekrokové uvažování a automatický výběr a použití nástrojů.
Kombinace podnětů a nástrojů CoT ve vzájemné návaznosti se ukázala jako silný a robustní přístup k řešení mnoha úloh s LLM. Tyto přístupy obvykle vyžadují ruční tvorbu demonstrací specifických pro danou úlohu a pečlivě skriptované prokládání generování modelů s používáním nástrojů. Paranjape a další, (2023) navrhují nový rámec, který využívá zmrazený LLM k automatickému generování mezikroků uvažování jako program.
ART funguje následujícím způsobem:
ART vybízí model k tomu, aby na základě demonstrací zobecnil novou úlohu a použil nástroje na vhodných místech, a to nulovým způsobem. Kromě toho je systém ART rozšiřitelný, protože také umožňuje lidem opravovat chyby v krocích uvažování nebo přidávat nové nástroje jednoduchou aktualizací knihoven úloh a nástrojů. Postup je demonstrován níže (zdroj):
V poslední době se pozornost přesunula od dolaďování LLM k vylepšenému promptnímu inženýrství. Zajištění kontextových výzev, které obsahují několik tréninkových příkladů a historii konverzace.
Zajištění, aby výzva obsahovala kontextové informace prostřednictvím iterativního procesu.
Iterativní výzvy by měly vytvořit kontextuální řetězec myšlenek, který neguje generování irelevantních faktů a halucinací. Interaktivní kontextová a kontextová výzva.
Sekvenční promtování zvažuje možnost sestavení schopného doporučovatele s LLM. Obvykle se doporučovací systémy vyvíjejí v pipeline architektuře, která se skládá z vícestupňových procedur generování kandidátů (vyhledávání relevantnějších položek) a řazení (řazení relevantních položek na vyšší pozice).
„Sequential Prompting“ se zaměřuje na fázi řazení doporučovacích systémů, protože LLM jsou dražší pro běh na rozsáhlém souboru kandidátů.
Výkonnost řazení je citlivá na načtené kandidátní položky na nejvyšších místech, což je vhodnější pro zkoumání jemných rozdílů v doporučovacích schopnostech LLM.
Představte si to jako poskytnutí modelu „cestovní mapy“ myšlenek nebo kontextu, který ho vede k požadované odpovědi. Tato technika je obzvláště užitečná pro složitější úkoly, které vyžadují hlubší porozumění kontextu nebo pro úkoly, které vyžadují, aby model generoval odpovědi, které jsou konzistentní s předchozími informacemi nebo kontextem.
Pokud chcete, aby model napsal pokračování příběhu, můžete použít techniku Chain-of-thought k vytvoření kontextu, který modelu pomůže pochopit, co se stalo v příběhu dosud, jaké jsou charaktery postav, jaký je styl příběhu atd. Tímto způsobem model ví, jak pokračovat v příběhu tak, aby byl konzistentní s tím, co se stalo dosud.
co je výzva CoT? CoT prompting je jednoduchá technika pro zlepšení výkonu LLM při uvažování úloh, jako je zdravý rozum nebo symbolické uvažování. Výzva CoT využívá několikanásobné učení vložením několika příkladů problémů s uvažováním, které se řeší do výzvy. Každý příklad je spárován s myšlenkovým řetězcem (nebo zdůvodněním), který rozšiřuje odpověď na problém tím, že textově vysvětluje, jak je problém krok za krokem vyřešen zde:
Tato technika je založena na principu poskytnutí modelu několika příkladů úkolu, který má vykonat, než mu poskytnete skutečný úkol. Tímto způsobem model „učí“ na základě těchto příkladů, jak vykonat úkol.
Představte si to jako učení pomocí příkladů. Například, pokud chcete, aby dítě pochopilo, jak se počítá, nejdříve mu ukážete několik příkladů, jak se sčítá a odečítá, než ho požádáte, aby vyřešilo matematický problém. Stejným způsobem, pokud chcete, aby AI model vykonal konkrétní úkol, nejdříve mu poskytnete několik příkladů toho, jak by měl úkol vykonat, a poté mu poskytnete skutečný úkol.