Mi a Context Window?
A Context Window vagy a Context Window a modell egy feldolgozás során figyelembe vehető jelvények száma. Ez magában foglalja a rendszerirányelveket, a jelentéseket, az beillesztett dokumentumokat, az eszköz eredményeit és a választ készítő téret.
A jelvény nem ugyanaz, mint a szó, és a számuk a nyelven és a betűben különbözik.
Mi történik a határérték túllépése után
Az alkalmazásoknak a tartalom egy részét le kell rövidíteniük, össze kell foglalniuk, meg kell osztaniuk vagy el kell utasítaniuk. A legrégebbi üzenetek csendben eltávolítása megváltoztathatja a feladat fontosságát, és elfelejti a modell egy fontos feltételt. Ezért előre kell meghatározni, hogy melyik információ a legmagasabb prioritást élvez.
A hosszabb szövegkörnyezet nem automatikusan jobb
A nagy mennyiségű szöveg duplikát, ellentmondást és irreleváns információt tartalmazhat, és a modell nem fordít minden egyes darabra ugyanolyan figyelmet. A minőség gyakran javul a pontos forrásválasztás, a tisztán sorrendelés és a felesleges részek eltávolítása révén.
A forrásválasztás és RAG
A rendszer először néhány releváns kivételt kereshet, majd csak akkor adja be a szövegkörnyezetbe. Minden egyes darabban van azonosító, eredet és dátum, hogy a válasz ellenőrizhető legyen.
A költségek, késedelem és tesztelés
A hosszú bejutás általában növeli a feldolgozási időt és a költséget, ezért a vizsgálatok a minőséget a különböző kiválasztási és összefoglalási stratégiákhoz hasonlítják össze. A szokásos kérdéseket, a nem egyező dokumentumokat, a hiányzó információkat és az emberre történő átadást igénylő kérdéseket ellenőrizni kell.
A PAR HOUSE Agency megközelítés
A kontextust a rendszer irányított része, nem a korlátlan archívumként tervezzük, és a folyamatos tudást, a feladat történelmét és a eszköz átmeneti eredményeit osztjuk el. Megmérjük a források pontosságát, költségeit és nyomon követhetőségét, és csak olyan információkat tárolunk, amelyeknek egyértelmű célja és jogosultsága van.
