Systémové instrukce (System Messages) definují základní operační rámec velkých jazykových modelů. Tato sekce technické dokumentace popisuje metodiku nastavení parametrů, které určují chování, tón a technické limity generovaného výstupu ještě před zadáním konkrétního uživatelského dotazu.
V architektuře LLM (Large Language Models) fungují systémové instrukce jako primární filtr, který model aplikuje na veškerou následnou komunikaci. Na rozdíl od běžného promptu, který je součástí konverzační historie, má systémová zpráva vyšší prioritu v pozornostním mechanismu modelu. Je nezbytné chápat, že správně definovaná instrukce minimalizuje riziko halucinací a zajišťuje konzistenci formátu.
Při návrhu systémového pole musíme postupovat analyticky. Je třeba definovat nejen to, co model má dělat, ale také explicitně uvést, co dělat nesmí. Tento proces se úzce pojí s tématem mechanismy fungování LLM, kde rozebíráme, jak tokenizace ovlivňuje interpretaci příkazů. Bez jasně stanovených hranic má model tendenci sklouzávat k obecným odpovědím bez přidané hodnoty.
Příliš dlouhé systémové instrukce mohou vyčerpat kontextové okno (Context Window) a vést k zapomínání instrukcí v pozdějších fázích dlouhé konverzace. Doporučujeme stručnost a věcnost.
Určení identity modelu je prvním krokem. Místo vágního zadání "buď asistent", definujte model jako "Seniorní revizní technik s 20 lety praxe v hydraulice". Tímto krokem aktivujete specifické sémantické shluky v latentním prostoru modelu.
Definujte striktní mantinely pro formátování. Pokud vyžadujete data v JSON, musí to být v systémové instrukci uvedeno jako nepřekročitelná podmínka. Tím se zabrání doprovodnému textu, který by mohl narušit automatizované zpracování.
Určete úroveň odbornosti a tón komunikace. Pro technickou dokumentaci vyžadujte pasivní konstrukce a eliminaci adjektiv. Pro uživatelskou podporu naopak instrukce pro zjednodušení komplexních pojmů.
Parametr Temperature (teplota) přímo ovlivňuje pravděpodobnostní distribuci výběru dalšího tokenu. Zatímco systémová instrukce definuje směr, teplota určuje míru rigidity. Hodnota 0.0 vede k deterministickému výstupu (vhodné pro kód a fakta), zatímco hodnoty nad 0.7 zvyšují variabilitu, ale i riziko logických chyb.
"V technickém prostředí Earthenco doporučujeme fixovat Temperature na hodnotu 0.2 pro všechny kritické operace spojené s výpočty a logickou analýzou."
Většina API umožňuje re-definici systémové zprávy v každém novém požadavku. Nicméně, pro stabilitu agenta doporučujeme udržovat základní instrukci statickou a měnit pouze uživatelský kontext.
Pokud uživatelský prompt odporuje systémové instrukci, dochází k tzv. konfliktu priorit. Moderní modely jsou trénovány k upřednostnění systémové zprávy, ale při silném nátlaku v promptu může dojít k "jailbreaku". Více v sekci odstraňování chyb.
Z praxe vyplývá, že rozsah 100 až 300 slov je ideální. Obsahuje dostatek specifikací pro přesné chování, aniž by docházelo k degradaci pozornosti modelu na konci dlouhých řetězců.
Po správném nastavení systémového rámce je dalším krokem implementace iteračních testů pro ověření stability výstupů v různých zátěžových scénářích.
Laboratoř optimalizace