ChatGPT API je aplikační programovací rozhraní poskytované firmou OpenAI, které umožňuje vývojářům a podnikům integrovat schopnosti modelu jazykového generování GPT (Generative Pre-trained Transformer), jako je ChatGPT, do svých vlastních aplikací, webových služeb nebo produktů. API poskytuje přístup k pokročilým funkcím strojového učení a umělé inteligence pro generování textu, odpovídání na otázky, sumarizaci textů, generování kódu, jazykové překlady a mnoho dalších úkolů zpracování přirozeného jazyka (NLP).
Celý proces začíná tím, že uživatel zadá vstup (Prompt) do chatovacího rozhraní (Chat Interface), které komunikuje s modelem GPT-4 skrze API. Model GPT-4 zpracuje podnět s využitím informací z kontextového úložiště (Context Storage) a systémových zpráv (System Messages), generuje odpověď (Response Generation) a posílá ji zpět do chatovacího rozhraní, kde ji uživatel uvidí, a to včetně historie konverzace (Chat History).
Modul pro správu podnětů a kontextu (Prompt and Context Management) obsahuje modul pro inženýrství podnětů (Prompt Engineering Module), který může dále vylepšovat podněty před tím, než jsou poslány modelu. Celý tento proces může být dále spravován a monitorován prostřednictvím API.
API ChatGPT je jako vzdálené ovládání pro umělou inteligenci, které vývojářům umožňuje ji „zapojit“ do různých aplikací a řídit, co AI dělá. Pomocí tohoto API můžete AI říct, aby odpovídala na otázky, psala texty nebo dokonce programovala, a to vše s možností nastavit, jak přesně by tyto úkoly měla dělat.
API dovoluje vývojářům sledovat a upravovat AI v akci, abychom se ujistili, že vše funguje tak, jak má.
Hyperparametry ChatGPT rozhraní
ChatGPT API rozhraní je navrženo s různými hyperparametry, které uživatelům umožňují vylepšit reakce umělé inteligence na výzvy, což je činí efektivnějšími a všestrannějšími.
Tady je seznam běžných hyperparametrů:
Teplota (Temperature): Tento hyperparametr ovlivňuje náhodnost generovaných odpovědí. Nižší teplota vede k přesnějším a předvídatelnějším odpovědím, zatímco vyšší teplota zvyšuje diverzitu a tím i náhodnost ve výstupech.
Nahoru P (Top P), známé také jako „nucleus sampling“: Omezuje pole možných slov na určitý kumulativní pravděpodobnostní průřez, z čehož model vybírá další slovo. To pomáhá vyvážit rozmanitost a koherenci.
Maximální délka (Max Tokens): Omezuje počet tokenů (slov nebo kusů slov) ve výstupním textu.
Stop slova (Stop Sequences): Určité sekvence slov nebo znaků, u kterých má generování textu skončit.
Frekvence penalizace (Frequency Penalty): Penalizuje opakování slov a frází, aby bylo generování textu různorodější.
Předvídatelnost penalizace (Presence Penalty): Penalizuje již zmíněná slova a fráze, aby podpořila větší originalitu a rozmanitost ve výstupu.
Nejlepší z (Best Of): Generuje více odpovědí a vrací nejlepší z nich podle interního skórování.
Logit Bias: Předvolby určitého slova nebo tokenů tím, že se jim přidělí dodatečná pravděpodobnost.
Echo: Určuje, zda má být vstupní podnět zahrnut ve výstupu.
Restartovací token (Restart Sequence): Token nebo sekvence tokenů, která má indikovat restart kontextu.
Injektování tokenu (Inject Start Text): Určuje text, který má být vložen na začátku generované odpovědi.
Injektování konce tokenu (Inject End Text): Určuje text, který má být vložen na konci generované odpovědi.
1) Teplota (Temperature)
Teplota (Temperature) je nastavení v rámci ChatGPT API, které ovlivňuje míru kreativity nebo náhodnosti v generovaných odpovědích. Si můžete představit, že teplota řídí „teplotu“ myšlenkového procesu modelu – nižší teplota vede k logičtějším a konzistentnějším odpovědím, zatímco vyšší teplota dělá odpovědi více kreativní a méně předvídatelné.
Při nízké teplotě (např. blízko 0) model obvykle vybírá slova s vysokou pravděpodobností, což vede k opatrnějšímu a bezpečnějšímu textu. Odpovědi jsou více stručné, přímé a mohou se zdát méně originální, protože model má tendenci se vyhýbat rizikům a volí často používané fráze a výrazy.
Na druhou stranu, při vyšší teplotě (blízko 1) model bere v úvahu i slova s nižší pravděpodobností. To může znamenat, že model bude vytvářet více neobvyklých, neotřelých a nápaditých odpovědí. Tímto způsobem teplota umožňuje uživatelům experimentovat s rozsahem „kreativity“ modelu.
Je dobré si s teplotou pohrát, aby pochopili, jak ovlivňuje výsledky, a pak zvolit nastavení, které nejlépe odpovídá potřebám jejich aplikace nebo účelu konverzace.
2) Maximální délka (Max Tokens)
Tento parametr řídí maximální délku tokenu výstupu modelu, který zahrnuje jak tokeny na vstupu zprávy, tak na výstupu zprávy. Nastavení vyššího limitu umožňuje rozšířenější odezvy, zatímco nižší limit udržuje výstup krátký a výstižný.
Když nastavíte Max Tokens, říkáte modelu: „Chci, aby byl text, který vytvoříš, dlouhý maximálně tolik a tolik tokenů.“ Je to jako nastavit limit na délku odstavce nebo dokumentu, který píšete.
3) Restartovací sekvence (Restart sekvence)
Hyperparametr Restartovací sekvence (Restart Sequence) v ChatGPT API slouží k určení, kdy by měl model resetovat nebo „zapomenout“ předchozí kontext a začít generování textu jako by od začátku, bez ohledu na předchozí interakce nebo historii konverzace.
Zde je podrobný popis toho, jak funguje:
Kdy se používá: Tento hyperparametr je užitečný, když chcete, aby model ignoroval předchozí kontext a začal čerstvě, jako když by byla zahájena nová konverzace. To je obzvláště užitečné v případech, kdy kontext již není relevantní nebo když se předešlá konverzace dostala do slepé uličky a je potřeba „restartovat“.
Jak to funguje: Když API obdrží vstup (prompt), který obsahuje určenou restartovací sekvenci, model tento signál interpretuje jako instrukci, aby zapomněl na vše, co se stalo dříve. Při generování odpovědi pak model nebere v úvahu žádné informace, které byly poskytnuty před touto sekvencí.
Nastavení: Může být určen jako konkrétní řetězec znaků nebo slov. Například, pokud je jako restartovací sekvence nastaveno slovo „RESTART“, kdykoli bude toto slovo zahrnuto v promptu, model se „restartuje“.
Výhody: Použití restartovací sekvence může pomoci zajistit, že odpovědi modelu zůstanou relevantní a koherentní, zejména když se předchozí konverzace stane nepřehlednou nebo zaměřenou na téma, které již není žádoucí.
Praktické použití: Vývojáři mohou použít restartovací sekvenci k oddělení různých konverzačních vláken nebo k resetování stavu chatbota pro nového uživatele bez nutnosti vytvářet novou instanci modelu nebo celého chatbota.
Je důležité poznamenat, že práce s restartovací sekvencí vyžaduje pečlivé promyšlení jejího využití, aby se zajistilo, že její použití odpovídá očekávanému chování konverzace nebo aplikace.
4) Nahoru P (Top P)
Tento hyperparametr pomáhá řídit různorodost odpovědí tím, že omezuje slova, z nichž model vybírá při generování každého dalšího slova ve větě.
Když model AI generuje text, každé nové slovo je vybráno z velkého seznamu možných slov, přičemž každé slovo má určitou pravděpodobnost, že bude následovat slovo předchozí. Nahoru P nastavení omezuje tento seznam pouze na nejpravděpodobnější slova, jejichž kumulativní pravděpodobnost dosahuje hodnoty „P“. Například, pokud nastavíte Top P na 0.9 (nebo 90%), pak když model vybírá další slovo, podívá se na seznam možných slov seřazených od nejvíce pravděpodobných dolů a přestane přidávat slova do možného výběru, jakmile součet pravděpodobností dosáhne 90%.
To znamená, že méně pravděpodobná slova – ta, která by vedla k neobvyklejším nebo nepravděpodobnějším pokračováním věty – jsou vyloučena z výběru. Výsledkem je, že text generovaný s využitím Top P má tendenci být koherentní a smysluplný, ale zároveň obsahuje dostatek variace a přirozenosti, takže nevypadá příliš mechanicky nebo opakovaně.
Pro začátečníky, Top P poskytuje kontrolu nad tím, jak „pevně“ se model drží běžně používaného jazyka ve srovnání s tím, jak moc je ochoten „vybočit ze zavedených cest“ a vytvářet nové a zajímavé kombinace slov. Experimentováním s Top P můžete najít správnou rovnováhu mezi předvídatelností a tvořivostí ve vygenerovaném textu.
Příklad: Pokud vytváříte AI pro psaní básní a chcete, aby používala širokou škálu slovní zásoby a stylistických frází, můžete nastavit „Top P“ na vyšší hodnotu. Výzva by mohla znít: „Slož báseň o kráse podzimu.“
5) Frekvenční penalizace (Frequency Penalty)
Když model generuje text a přijde na slovo, které už bylo v textu použito, Frequency Penalty přidává malý záporný bodový trest pro toto slovo, což snižuje jeho pravděpodobnost, že bude znovu vybráno. Velikost trestu se liší v závislosti na hodnotě parametru, který nastavíte.
Pokud je frekvence penalizace nastavena na hodnotu 0, pak penalizace není aplikována a model může volně opakovat stejná slova nebo fráze. Naopak, když je hodnota větší než 0, každé opakované slovo dostává trest podle toho, jak často se už v textu objevilo. Čím vyšší je hodnota penalizace, tím méně pravděpodobné je, že se slovo objeví znovu.
Například, pokud model píše příběh a slovo „zámek“ už bylo použito několikrát, a Frequency Penalty je nastavená na vysokou hodnotu, model se bude snažit toto slovo v dalších větách vyhnout a hledat synonyma nebo jiné způsoby, jak o něčem podobném mluvit, aby text nebyl monotónní.
6) Stop slova (Stop Sequences)
Představte si například, že používáte ChatGPT k generování obsahu a chcete, aby každá odpověď končila výzvou k akci, jako je „Kontaktujte nás pro více informací!“. Můžete nastavit „Kontaktujte nás pro více informací!“ jako stop slovo, a model automaticky ukončí generování textu, jakmile tuto frázi dosáhne.
Další příklad může být, že chcete zabránit modelu, aby překročil určité téma nebo citlivou oblast. Můžete určit konkrétní slova nebo fráze související s tímto tématem jako stop slova, a pokud model začne generovat obsah směřující k těmto tématickým oblastem, generování textu se zastaví.
Hyperparametr Stop slova (Stop Sequences) v ChatGPT API umožňuje definovat specifické slovní sekvence nebo znaky, při jejichž dosažení model přestane generovat text. Tento parametr je užitečný pro situace, kdy potřebujete omezit délku výstupu, ukončit odpověď na určitém místě, nebo zabránit modelu, aby se dostal do specifických tematických oblastí.
7) Penalizace za opakování (Presence Penalty)
Když je Presence Penalty nastavena na vyšší hodnotu, model se snaží vyhnout opakování témat nebo nápadů, které již byly v konverzaci představeny. To je obzvláště užitečné, pokud chcete podnítit model k generování nových informací nebo diverzifikovat diskusi bez opakování již zmíněných bodů.
Naopak, když je Presence Penalty nastavena na nižší hodnotu nebo je nulová, model se může volněji vrátit k tématům nebo nápadům, které byly v konverzaci již zmíněny. To může být vhodné v situacích, kde je důležité se zaměřit na konkrétní téma nebo detailně rozpracovat nápad, aniž by se diskuse příliš odchýlila od středu zájmu.
Tento parametr je klíčový pro finetuning chování modelu v různých kontextech – například při brainstormingu, jak bylo zmíněno, může být nižší Presence Penalty užitečná pro podporu tvorby široké škály nápadů. Na druhou stranu, při psaní koherentního a zaměřeného textu, jako je esej nebo technický dokument, může být vyšší Presence Penalty vhodná pro udržení konzistence a zabránění opakování.
Účel tohoto hyperparametru je snížení pravděpodobnosti opětovného využití již zmíněných témat nebo informací v generovaném textu.
Časté otázky o ChatGPT API a parametrech
Technické informace pro vývojáře a pokročilé uživatele
ChatGPT API je programovací rozhraní (Application Programming Interface), které umožňuje vývojářům integrovat schopnosti ChatGPT do vlastních aplikací, webových stránek a služeb. Jedná se o cloudovou službu přístupnou přes REST API volání.
Hlavní charakteristiky API:
- REST architektura - standardní HTTP požadavky (POST, GET)
- JSON formát - data ve strukturovaném formátu
- Autentizace pomocí API key - bezpečný přístup k službě
- Pay-as-you-go - platíte pouze za skutečné použití
- Škálovatelnost - od malých projektů po enterprise řešení
Detailní průvodce použitím najdete v našem článku pochopení aplikačního programovacího rozhraní ChatGPT API.
ChatGPT API slouží k integraci pokročilých AI schopností do vašich vlastních aplikací bez nutnosti trénovat vlastní model. OpenAI poskytuje infrastrukturu, vývojář jen zavolá API.
| Použití | Příklady aplikací | Výhody |
|---|---|---|
| Chatboti | Zákaznická podpora, virtuální asistenti | 24/7 dostupnost, škálovatelnost |
| Generování obsahu | Blogové články, produktové popisy | Úspora času, konzistence |
| Analýza textu | Sentiment analýza, kategorizace | Automatizace, přesnost |
| Překlady | Vícejazyčné weby, dokumentace | Kontext, přirozenost |
| Kódování | Code completion, debugging | Produktivita vývojářů |
Praktické využití API najdete v naší sekci o efektivním využívání ChatGPT pro podnikání.
Ano, ChatGPT má veřejně dostupné API. OpenAI poskytuje programové rozhraní, které umožňuje vývojářům integrovat ChatGPT do svých aplikací a služeb prostřednictvím REST API volání.
Dostupné API endpointy:
- /v1/chat/completions - hlavní endpoint pro konverzační AI
- /v1/completions - jednodušší text completion
- /v1/edits - editace a přepis textu
- /v1/embeddings - vektorové reprezentace textu
- /v1/moderations - kontrola obsahu
Dostupné modely přes API:
- gpt-3.5-turbo - nejpoužívanější, rychlý a ekonomický
- gpt-4 - nejpokročilejší, komplexnější úkoly
- gpt-4-turbo - optimalizovaná verze GPT-4
- text-davinci-003 - starší model GPT-3
Pro začátek s API si prostudujte náš tutoriál použití ChatGPT API.
Získání API klíče je jednoduchý proces, který trvá jen několik minut:
Krok za krokem návod
- Krok 1: Navštivte platform.openai.com
- Krok 2: Zaregistrujte se nebo se přihlaste (stejné přihlašovací údaje jako ChatGPT)
- Krok 3: Ověřte svůj účet pomocí telefonního čísla
- Krok 4: V sekci "Billing" přidejte platební metodu (kreditní karta)
- Krok 5: Přejděte do sekce "API keys"
- Krok 6: Klikněte na "Create new secret key"
- Krok 7: Pojmenujte klíč a zkopírujte ho (zobrazí se jen jednou!)
Důležitá bezpečnostní upozornění:
- ⚠️ API klíč se zobrazí pouze jednou - okamžitě ho uložte
- 🔒 Nikdy nesdílejte API klíč - jedná se o citlivé údaje
- 📝 Neukládejte do public repositářů - použijte environment variables
- 🔄 Rotujte klíče pravidelně - bezpečnostní best practice
- 💰 Nastavte usage limits - ochrana před nečekaně vysokými náklady
Co potřebujete:
- Platnou e-mailovou adresu
- Telefonní číslo pro ověření
- Kreditní nebo debetní kartu (Visa, Mastercard, Amex)
Ne, ChatGPT API není zdarma. OpenAI nabízí pouze $5 úvodní kredit pro nové uživatele, který vyprší po 3 měsících. Poté platíte podle skutečné spotřeby (pay-as-you-go model).
Poznámka: Následující ceny odpovídají stavu z února 2023. Aktuální ceník může být odlišný.
| Model | Cena za vstup | Cena za výstup | Použití |
|---|---|---|---|
| GPT-3.5 Turbo | $0.0015/1K tokenů | $0.002/1K tokenů | Většina aplikací |
| GPT-4 | $0.03/1K tokenů | $0.06/1K tokenů | Komplexní úkoly |
| GPT-4 Turbo | $0.01/1K tokenů | $0.03/1K tokenů | Optimalizovaný GPT-4 |
Co jsou tokeny?
- Token = jednotka textu (přibližně 4 znaky nebo 0.75 slova v angličtině)
- Věta "ChatGPT je úžasné" = přibližně 5-6 tokenů
- 1000 tokenů = přibližně 750 anglických slov nebo 500-600 českých slov
- Platíte za vstupní i výstupní tokeny
Příklad nákladů (GPT-3.5 Turbo):
- 1000 chatových zpráv (krátké odpovědi) = ~$0.50-1.00
- 100 dlouhých článků (500 slov) = ~$2-5
- 10 000 jednoduchých API volání = ~$5-10
Bezplatné alternativy:
- Webové rozhraní chat.openai.com (ChatGPT Free)
- Open source modely (LLaMA, Mistral)
- Lokální modely přes Ollama nebo LM Studio
S ChatGPT API můžete vytvářet širokou škálu AI-powered aplikací napříč různými odvětvími. API poskytuje flexibilní nástroj pro zpracování přirozeného jazyka.
Top 12 nejčastějších použití API:
Zákaznická podpora a komunikace
- AI chatboti - automatická odpověď na dotazy 24/7
- Ticket triaging - kategorizace a routing podpory
- FAQ systémy - dynamické odpovědi na časté otázky
- E-mailové šablony - personalizované odpovědi
Content generation a marketing
- Blogové články - automatická tvorba obsahu
- Produktové popisy - SEO-optimalizované texty
- Social media posty - engagement content
- Ad copy - reklamní texty různých variant
Analýza a zpracování dat
- Sentiment analýza - hodnocení emocí v textu
- Kategorizace - automatické třídění dokumentů
- Extrakce informací - vytahování klíčových dat
- Sumarizace - shrnutí dlouhých textů
Naučte se vytvářet vlastní AI chatboty se znalostní bází pro vaše podnikání.
Neexistuje jedna "nejlepší" aplikace - závisí na vašich potřebách. Zde jsou nejvýznamnější kategorie aplikací využívajících ChatGPT API:
| Kategorie | Příklady aplikací | Vhodné pro |
|---|---|---|
| Chatbot platformy | Voiceflow, Botpress, Landbot | No-code tvorba chatbotů |
| Writing assistants | Jasper, Copy.ai, Writesonic | Content marketing týmy |
| Customer support | Intercom AI, Zendesk AI | E-commerce, SaaS firmy |
| Developer tools | GitHub Copilot, Cursor | Vývojáři, programátoři |
| Workflow automation | Zapier, Make.com, n8n | Business automatizace |
Vlastní vs. Ready-made řešení:
- Ready-made: Rychlé nasazení, bez programování, omezená customizace
- Vlastní vývoj: Plná kontrola, specifické potřeby, vyžaduje vývojáře
Pro vlastní vývoj prozkoumejte náš průvodce implementace AI do firem.
Poznámka: Následující ceny odpovídají stavu z února 2023. Pro aktuální ceník navštivte openai.com/pricing.
ChatGPT API používá pay-as-you-go model bez měsíčních poplatků. Platíte pouze za tokeny, které skutečně použijete.
| Model | Vstupní tokeny | Výstupní tokeny | Context window |
|---|---|---|---|
| GPT-3.5 Turbo | $0.0015/1K | $0.002/1K | 4K tokeny |
| GPT-3.5 Turbo 16K | $0.003/1K | $0.004/1K | 16K tokenů |
| GPT-4 8K | $0.03/1K | $0.06/1K | 8K tokenů |
| GPT-4 32K | $0.06/1K | $0.12/1K | 32K tokenů |
Kalkulace nákladů - praktické příklady:
Chatbot pro zákaznickou podporu (GPT-3.5 Turbo)
- Průměrná konverzace: 50 zpráv (25 vstupů + 25 odpovědí)
- Průměrná délka: 100 tokenů vstup, 150 tokenů výstup
- Náklady na konverzaci: ~$0.008 (méně než 1 cent)
- 1000 konverzací/měsíc = ~$8
Content generation (GPT-4)
- Článek 1000 slov = ~1333 tokenů
- Prompt + kontext: ~500 vstupních tokenů
- Náklady na článek: ~$0.10
- 100 článků/měsíc = ~$10
Tipy pro snížení nákladů:
- Použijte GPT-3.5 tam, kde není potřeba GPT-4
- Optimalizujte prompty - kratší = levnější
- Cachujte často používané odpovědi
- Nastavte max_tokens limit
- Implementujte rate limiting
GPT je zkratka pro Generative Pre-trained Transformer neboli Generativní Předtrénovaný Transformátor. Každá část názvu popisuje klíčovou vlastnost této AI technologie.
| Část zkratky | Anglicky | Význam |
|---|---|---|
| G | Generative | Vytváří nový obsah, negeneruje jen odpovědi z databáze |
| P | Pre-trained | Natrénovaný předem na obrovském množství textových dat |
| T | Transformer | Architektura neuronové sítě s attention mechanismem |
Detailní vysvětlení jednotlivých částí:
1. Generative (Generativní)
Schopnost vytvářet zcela nový obsah místo pouhého vyhledávání v existujících datech. Model generuje text token po tokenu, přičemž každé další slovo je založeno na kontextu předchozích slov a naučených vzorech.
Příklad: Když napíšete "Jednou za časů žil", model vygeneruje pokračování příběhu, které nikdy předtím neexistovalo.
2. Pre-trained (Předtrénovaný)
Model byl natrénován na miliardách textů z internetu, knih, článků a dalších zdrojů ještě předtím, než se začal používat. Díky tomu rozumí gramatice, významům slov, vztahům mezi koncepty a obecnému kontextu jazyka.
Analogie: Je to jako člověk, který přečetl tisíce knih před tím, než začal psát vlastní texty.
3. Transformer (Transformátor)
Typ neuronové architektury využívající self-attention mechanismus. Tento mechanismus umožňuje modelu "věnovat pozornost" různým částem vstupu a chápat vztahy mezi slovy i na velkou vzdálenost.
Klíčová vlastnost: Dokáže zpracovat text paralelně (ne pouze sekvenčně), což je rychlejší a efektivnější.
Jak to funguje v praxi:
- Dostanete začátek věty: "Praha je hlavní město..."
- Model analyzuje kontext a vztahy mezi slovy
- Na základě naučených vzorů odhadne nejvhodnější pokračování
- Vygeneruje: "...České republiky a nachází se v srdci Evropy"
Pro hlubší pochopení si přečtěte náš článek o úkolech jazykových modelů.
LLM je zkratka pro Large Language Model neboli Velký Jazykový Model - typ umělé inteligence trénovaný na obrovském množství textových dat s cílem porozumět a generovat přirozený jazyk.
Klíčové charakteristiky LLM:
- Rozsah - miliardy parametrů (GPT-3: 175 miliard)
- Trénovací data - stovky GB až TB textu
- Multiúkolovost - jeden model pro mnoho úkolů
- Zero-shot learning - schopnost řešit nové úkoly bez další tréninku
- Emergentní schopnosti - vlastnosti, které se objeví při určité velikosti
Srovnání známých LLM modelů (2023):
| Model | Parametry | Tvůrce | Vydání |
|---|---|---|---|
| GPT-3 | 175B | OpenAI | 2020 |
| GPT-4 | ~1.76T (odhad) | OpenAI | 2023 |
| PaLM 2 | 340B | 2023 | |
| Claude | Neveřejné | Anthropic | 2023 |
| LLaMA 2 | 7B - 70B | Meta | 2023 |
Klíčové parametry při práci s LLM:
Temperature (Teplota)
Rozsah: 0.0 - 2.0 (obvykle 0.0 - 1.0)
Nižší hodnota (0.0 - 0.3):
- Deterministické, předvídatelné výstupy
- Vhodné pro: faktické odpovědi, kód, překlady
- Příklad: "Jaké je hlavní město Francie?" → "Paříž" (vždy stejná odpověď)
Vyšší hodnota (0.7 - 1.0):
- Kreativnější, diverzifikovanější odpovědi
- Vhodné pro: brainstorming, příběhy, kreativní psaní
- Příklad: "Napiš začátek sci-fi příběhu" → různé varianty
Top_p (Nucleus Sampling)
Rozsah: 0.0 - 1.0
Nižší hodnota (0.1 - 0.5):
- Model vybírá pouze z nejpravděpodobnějších tokenů
- Focusované, přesné výstupy
- Vhodné pro technické texty a faktické informace
Vyšší hodnota (0.8 - 1.0):
- Model zvažuje širší spektrum možných tokenů
- Větší variabilita a kreativita
- Vhodné pro explorativní úkoly
Praktické doporučení:
- Pro přesnost: Temperature=0.2, Top_p=0.5
- Pro kreativitu: Temperature=0.8, Top_p=0.9
- Pro balanci: Temperature=0.5, Top_p=0.7
Naučte se základy promptování pro maximální využití LLM modelů.