Co je SLM
SLM znamená small language model, tedy malý jazykový model. Má menší počet parametrů a nižší výpočetní nároky než rozsáhlé cloudové modely. Může běžet na serveru, počítači nebo vhodném mobilním zařízení a řešit jasně vymezenou úlohu.
Slovo malý neznamená automaticky slabý, ale užší kompromis mezi schopností a efektivitou.
Rozdíl proti velkému modelu
Velký jazykový model obvykle nabízí širší znalosti a flexibilnější práci s komplexním zadáním. SLM může být rychlejší, levnější a předvídatelnější v konkrétním procesu. Výběr závisí na jazyku, délce kontextu, přesnosti, hardwaru a riziku chyby.
Lokální provoz a soukromí
Model spuštěný na vlastním zařízení může omezit odesílání dat mimo organizaci a fungovat i s horším připojením. Samotný lokální provoz však nezaručuje bezpečnost. Je nutné řídit přístup, ukládání historie, aktualizace, šifrování a to, jaká data model vůbec smí zpracovat.
Specializace a firemní proces
SLM se hodí pro třídění zpráv, návrhy odpovědí, extrakci údajů, kontrolu formátu nebo asistenci nad omezenou znalostní bází. U kliniky nesmí bez odborného dohledu vytvářet diagnózu a u e-Commerce nesmí měnit cenu či objednávku bez ověřeného pravidla.
Kvalita, měření a kombinace modelů
Úloha má testovací sadu, očekávaný formát, hranici jistoty a bezpečný náhradní postup. Jednoduché případy může řešit SLM a obtížné předat většímu modelu nebo člověku. Sleduje se přesnost, latence, cena, chybovost a dopad na skutečný proces.
Přístup PAR HOUSE Agency
Model vybíráme podle hodnoty a citlivosti úlohy, nikoli podle módního názvu. V agentovi pro prémiovou značku může SLM rychle klasifikovat záměr, zatímco složitou rekomendaci řeší silnější vrstva s ověřenými daty. Architektura zachovává kvalitu, soukromí a možnost kontroly.
