Prompt Engineering Techniky

Question Refinement Pattern (Upřesňování otázek)

Dub 17, 2024 by Vladimír Matula 0 Comments

Question Refinement Pattern (vzor upřesňování otázek) je technika prompt engineeringu, ve které jazykový model nejdřív navrhne lepší verzi původní otázky (jasnější, konkrétnější, lépe zarámovanou) a teprve poté odpoví. Jinými slovy: místo „odpověz mi hned“ model dělá krok „nejdřív si ujasněme, co přesně se ptáme“.

Smyslem není jen přepsat větu do uhlazenější češtiny. Jde o to, aby přeformulovaná otázka doplnila chybějící kontext (cílové publikum, účel, omezení, požadovaný formát), snížila vágnost a předešla špatnému pochopení záměru. Výsledkem bývá odpověď, která je relevantnější, praktičtější a méně „obecná“.

(více…)
Prompt Engineering Techniky

The cognitive verifier pattern: Jak naučit AI nejdříve se doptat

Dub 17, 2024 by Vladimír Matula 0 Comments

Kognitivní ověřovatel je vzor prompt engineeringu, který vede jazykový model k tomu, aby neodpovídal hned na složitou nebo „příliš obecnou“ otázku, ale nejdřív ji rozložil na menší podotázky, které odhalí chybějící informace, skryté předpoklady a důležité dimenze problému. Teprve potom model zodpoví dílčí otázky (buď sám z dostupného kontextu, nebo na základě odpovědí od uživatele) a nakonec syntetizuje finální odpověď na původní otázku.

(více…)
Prompt Engineering Techniky

Automatic Prompt Engineering (APE): Nechte AI, ať si prompty píše sama

Bře 30, 2024 by Vladimír Matula 0 Comments

APE je technika, která považuje instrukci za „program“ a optimalizuje instrukci prohledáváním souboru kandidátů na instrukci navržených LLM. Kandidáti LLM jsou obodováni pomocí zvolené skórovací funkce a je vybrána instrukce s nejvyšším skóre. APE je inspirován klasickou syntézou programů a lidským přístupem k promptnímu inženýrství. Syntéza programu je úloha automatického generování kódu z popisu požadovaného chování v přirozeném jazyce. Lidský přístup je proces ručního vytváření instrukcí účinných při použití LLM k vytvoření požadovaných výstupů.

(více…)
Prompt Engineering Techniky

Expert Prompting: Jak využít identitu experta v AI

Bře 30, 2024 by Vladimír Matula 0 Comments

Expert Prompting je rozšířená strategie pro instruování velkých jazykových modelů (LLM). Předpokládá rozlišeného expertního agenta přizpůsobeného každé konkrétní instrukci. LLM jsou požádány, aby odpovídaly na instrukce podmíněné identitou předpokládaného experta. Jedná se o metodu automatického zadávání pokynů. Identity expertů jsou generovány pomocí učení v kontextu. Vyžaduje napsání několika exemplářů dvojice instrukce-expert. Vygenerované identity expertů jsou shledány jako vyhovující.

(více…)
Prompt Engineering Techniky

Self-reflection: Technika pro iterativní zlepšování odpovědí AI

Bře 30, 2024 by Vladimír Matula 0 Comments

„Self-Reflection“  je proces, kde uživatel formuluje dotaz nebo příkaz tak, aby podněcoval model k introspektivnímu přemýšlení nebo samostatné analýze. Cílem je, aby model přemýšlel o svých vlastních omezeních, možnostech a vnitřních procesech.

Například, když se mě zeptáte: „Jaký typ otázek může být pro tebe náročný zodpovědět?„, vede mě to k tomu, abych přemýšlel a popsal konkrétní situace, ve kterých mohu mít potíže. Toto sebereflexivní cvičení může být užitečné pro uživatele, aby pochopili, jaké otázky jsou mimo moje schopnosti nebo kde by mohli očekávat méně přesné odpovědi. To zároveň poskytuje příležitost pro modely umělé inteligence, aby se „zamyslely“ nad svými omezeními a možnými oblastmi pro zlepšení.

Tento diagram ilustruje architekturu umělé inteligence (AI), která je založena na konceptu sebereflexe a využívá modely strojového učení (označené jako LM, což zřejmě značí „Language Models“ – jazykové modely). Jednotlivé komponenty tohoto systému jsou:

  1. Agent: Celkový systém nebo AI, který se skládá z několika dílčích komponent a interaguje s vnějším prostředím.

  2. Self-reflection (LM): Tato část agenta zpracovává vnější a vnitřní zpětnou vazbu a generuje reflexivní texty. Je založen na jazykovém modelu a slouží k hlubšímu pochopení a integraci získaných zkušeností.

  3. Evaluator (LM): Evaluator posuzuje kroky agenta (akce a rozhodnutí) na základě krátkodobé paměti (Trajectory) a dlouhodobé paměti (Experience). Tato komponenta může pomáhat optimalizovat chování agenta tím, že poskytuje vnitřní zpětnou vazbu na základě předchozích akcí.

  4. Actor (LM): Actor je zodpovědný za provedení akcí v prostředí. Vykonává akce založené na svých zkušenostech a informacích získaných z prostředí (Obs/Reward).

  5. Trajectory (krátkodobá paměť): Sbírá a ukládá nedávné akce a rozhodnutí, které slouží jako základ pro okamžité rozhodování a feedback.

  6. Experience (dlouhodobá paměť): Uchovává dlouhodobé informace a zkušenosti, které pomáhají při formování strategií a rozhodnutí pro budoucí akce.

  7. Environment: Prostředí, ve kterém agent operuje. Agent zde získává pozorování a odměny, které informují jeho rozhodnutí a akce.

Tento typ architektury může být použit v různých aplikacích, jako jsou autonomní roboti, pokročilé chatboty nebo jiné systémy AI, které vyžadují složité rozhodovací procesy a adaptabilitu na základě zpětné vazby z prostředí a vlastních zkušeností.

(více…)
Prompt Engineering Techniky

Active Prompting: Aktivní výzvy pro přesnější AI

Bře 30, 2024 by Vladimír Matula 0 Comments

Aktivní podněty využívají aktivní učení založené na neurčitosti pro přizpůsobení velkých jazykových modelů (LLM) různým úlohám. Funguje ve čtyřech fázích. První fází je odhad nejistoty. V této fázi je LLM dotazován k-krát, aby generoval možné odpovědi s mezikroky pro sadu tréninkových otázek. Nejistota každé otázky se pak vypočítá na základě k odpovědí metodou zvanou neshoda. Neshoda měří, jak moc se k odpovědí navzájem neshoduje. Druhou fází je výběr. Pro anotaci jsou vybrány otázky s největší nejistotou. Algoritmus začíná nejistější otázkou a poté vybere další nejistější otázku, která ještě nebyla vybrána. Třetí fází je anotace. Lidé anotují vybrané otázky pomocí lidmi navržené argumentace CoT. Argumentace CoT poskytuje systému LLM další informace o tom, jak na otázky odpovědět. Čtvrtou fází je inference. Pomocí LLM se odvozují odpovědi na otázky. LLM používá nové anotované exempláře ke zlepšení svého výkonu v otázkách.

Aktivní výzva dosahuje nejlepšího výkonu ve srovnání se všemi základními modely. Jedná se o nejefektivnější metodu pro zlepšení výkonu velkých jazykových modelů (LLM) v různých argumentačních úlohách.

Prompt Engineering Techniky

Model-guided prompting: Nechte AI, ať se vás zeptá

Bře 30, 2024 by Vladimír Matula 0 Comments

Dalším užitečným přístupem je zadávání pokynů modelu, které obrací scénář a dává modelu pokyn, aby se vás zeptal na podrobnosti, které potřebuje k dokončení daného úkolu. Tento přístup minimalizuje hádání a odrazuje model od vymýšlení.

Příklad. Předpokládejme, že pracujete v oblasti cestovních technologií a chcete, aby model umělé inteligence vygeneroval sekci nejčastějších dotazů pro novou funkci cestovních rezervací na vaší platformě. Místo toho, abyste model požádali pouze o „vytvoření FAQ pro novou funkci rezervace“, což by mohlo vést k obecným nebo necíleným otázkám a odpovědím, můžete AI vyzvat následujícím způsobem:

„Potřebuji, abys vytvořil sekci nejčastějších dotazů pro novou funkci cestovních rezervací, kterou právě spouštíme. Můžete se mě zeptat na informace, které potřebujete k jejímu dokončení?“.

ChatGPT se vás pak může mimo jiné zeptat: „Jak se jmenuje nová funkce rezervace cestování?“ a „Jaký je hlavní účel nebo funkce této nové funkce?“.

(více…)
Prompt Engineering Techniky

Few-shot prompting (Několik výstřelů)

Bře 30, 2024 by Vladimír Matula 0 Comments

Několikanásobné výzvy jsou rozšířením jednorázových výzev, kdy je modelu umělé inteligence poskytnuto více příkladů, na jejichž základě se řídí. Koncept je podobný, ale zahrnutí několika příkladů nabízí modelu více kontextových podnětů. To umožňuje modelu lépe porozumět požadavkům uživatele a generovat výstup, který se přesně drží zadaných příkladů.

(více…)
Prompt Engineering Techniky

One-shot prompting (Jednorázová výzva)

Bře 30, 2024 by Vladimír Matula 0 Comments

Zero-Shot Prompting (Promptování bez příkladu)

Přímé výzvy (také známé jako Zero-shot) jsou nejjednodušším typem výzvy. Neposkytuje žádné příklady k modelu, pouze instrukce.

Příklady Zero-Shot promptů podle funkcí, které ChatGPT nabízí:

1. Překlad:

  • Přeložte tuto větu z němčiny do češtiny: „Das Wetter ist heute schön.“

2. Textová odpověď:

  • Jaké je hlavní město Brazílie?

3. Shrnutí:

  • Shrňte následující odstavec do jedné věty: „Charles Darwin byl britský přírodovědec, jehož teorie evoluce a přírodní výběr měly obrovský vliv na biologii. Jeho kniha ‚O původu druhů‘ je považována za jeden z nejdůležitějších vědeckých textů všech dob.“

4. Generování seznamu:

  • Vyjmenujte pět hlavních ingrediencí pro přípravu českého bramborového salátu.

5. Kreativní psaní:

  • Napište krátkou básničku o podzimu.

6. Doporučení:

  • Doporučte knihu pro někoho, kdo má rád detektivní romány.

7. Oprava gramatiky:

  • Opravte gramatické chyby v této větě: „On šel do obchodě a koupil jablka.“

8. Generování kódu:

  • Napište jednoduchou funkci v Pythonu, která vypočítá součet dvou čísel.

9. Vysvětlení pojmu:

  • Vysvětlete, co je to kvantová fyzika.

10. Nápady na projekty:

  • Navrhněte tři nápady na vědecké projekty pro studenty střední školy.

11. Analýza dat:

  • Vysvětlete, jak interpretovat výsledky analýzy rozptylu (ANOVA).

12. Plánování cesty:

  • Navrhněte třídenní itinerář pro návštěvu Prahy.

13. Poradenství:

  • Jak mohu zlepšit svou produktivitu při práci z domova?

14. Technická podpora:

  • Jak mohu vyřešit problém, kdy se můj počítač náhle vypíná?

15. Vyhledávání informací:

  • Kdo vyhrál Nobelovu cenu za literaturu v roce 2020?

16. Logické hádanky:

  • Vyřešte tuto logickou hádanku: „Máte tři krabice, jedna obsahuje jen jablka, druhá jen pomeranče a třetí obsahuje obojí. Krabice jsou špatně označené. Jak můžete pomocí jednoho pokusu určit obsah krabic?“

One-Shots Prompting (Promptování s příkladem)

One-shot výzva ukazuje modelu jeden jasný a popisný příklad toho, co byste chtěli, aby napodoboval.

Příklad:

Napiš báseň o létu.

Báseň 1.:
Slunce září jasně,
teplý vánek vane,
moře volá hlasně,
léto je tu zase.

Báseň 2.:
Pláže volají tě,
Sluneční deštníky stíní.
Horký písek pálí tě,
když na něm tvé tělo leží-.

Úkol: Napiš báseň o podzimu.

Few-Shot prompt (Promptování s několika příklady)

Few-shots výzva ukazuje modelu několik popisných příklad toho, co byste chtěli, aby napodoboval.

Příklad:

Napiš báseň o létu.

báseň 1 :
Slunce září jasně,
teplý vánek vane,
moře volá hlasně,
léto je tu zase.

báseň 1 :
Slunce září jasně,
teplý vánek vane,
moře volá hlasně,
léto je tu zase.

Úkol: Napiš haiku o podzimu.