Technika Thread of Thought (ThoT) je určena k posílení argumentačních schopností velkých jazykových modelů (LLM) při zvládání chaotických kontextů.
ThoT čerpá inspiraci z lidských kognitivních procesů a jejím cílem je systematicky segmentovat a analyzovat rozšířené kontexty pro lepší porozumění a přesnost.
ThoT je vyvinut k řešení problémů v chaotických kontextech, kde se LLM snaží procházet a upřednostňovat relevantní informace uprostřed množství dat.
Obrázek ukazuje, že strategie zahrnuje dvoustupňový proces, kdy
- 1. krok vede LLM analytickým kontextem a rozděluje jej na zvládnutelné části pro shrnutí a analýzu.
- 2. krok je zpřesňuje do definitivní odpovědi.
Podněty typu Thread of Thought umožňují velkým jazykovým modelům řešit chaotické kontextové problémy. Na zobrazeném výstupu označuje zelený text správnou odpověď, zatímco červený text chybnou předpověď.
Tento obrázek ukazuje Thread of Thought pro uvažování s nulovým počtem výstřelů.
Příklad použití:
Vezměme si model LLM, který se používá v aplikaci zákaznického servisu ke zpracování složitých dotazů zákazníků zahrnujících více problémů.
Tradiční modely by mohly mít problém získat a zaměřit se na relevantní detaily z dlouhé historie interakcí se zákazníky.
Pomocí ThoT by model mohl systematicky rozdělit historii zákazníka na segmenty, analyzovat každou část s cílem identifikovat klíčové problémy a poté tyto informace syntetizovat a poskytnout komplexní a přesnou odpověď.
Tato metoda nejenže zlepšuje kvalitu odpovědi, ale také zvyšuje účinnost a efektivitu procesu obsluhy zákazníka.
Zdroje:
Navrženo ve vláknu myšlenek (ThoT): Zhou a kol. z University of Macau, Microsoft a University of Technology Sydney.
