WebGurus csapat
Az emberek a mindennapi hivatali ügyintézés során számos problémával szembesülnek
Az ügyintézési folyamatok gyakran túl bonyolultak, sok papírmunkát igényelnek, és nehezen érthetőek.
Az ügyintézők és a hivatali időpontok korlátozottak, ami hosszú sorban álláshoz és várakozáshoz vezet.
A különböző nyelvi háttérrel rendelkező emberek számára nehézséget okozhat a hivatalos nyelvezet megértése.
Sok esetben az ügyfelek nem kapnak elegendő vagy pontos információt a szükséges lépésekről és követelményekről.
menüpont 1
menüpont 4
menüpont 3
menüpont 2
almenü 1
almenü 2
almenü 3
alalmenü 1
alalmenü 2
alalmenü 3
Talán a keresett információ
( eggyel újabb)
Kérdés
Kérdés
MISI: Válasz
Kösz!
MISI: Válasz
A legtöbb LLM alapú chat app nem tud pontos, friss vagy helyi információkat adni, mert általános közönségre van tervezve. Ezt a gondot úgy lehet megoldani, hogy a hiányzó információkat mi adjuk hozzá a kérdéshez, mielőtt elküldjük a mesterséges intelligenciának. Így sokkal relevánsabb és pontosabb választ kaphatunk.
Például próbáljuk csak ki ChatGPT-n és az Udvarhely RAG-n megkérdezni, hogy:
"Mi az udvarhelyi monitarizáló bizottság feladata ?"
felhasználó propmt
Kliens
Hogy kell adót fizetni?
Szerver
rendszer prompt
Egy asszisztens vagy aki...Mindig a tudástárból szerzett információk alapján válaszolj. Ha információra van szükséged válaszolj így: getData(prompt)
Válaszolj erre: "Hogy kell adót fizetni?"
OpenAI model
LLM magic
LLM válasz: getData("adófizetés", ....)
getDataFromVectorDB("adófizetés", ....)
Vektor DB
Vektor DB válasz: [{result: "...", source: "..."}]
Egy asszisztens vagy aki...
Válaszolj erre: "Hogy kell adót fizetni?"
Használd ezt az információt:[{result: "...", source: "..."}]
augmentált prompt
LLM végleges válasz:
Udvarhelyen adót fizetni lehet...
TS
+pgvector
+ai sdk
Embedding model: text-embedding-3-small
LLM: gpt-4o-mini
Vektor keresés távolság függvény: 1- cosine
~$0.60 (per 100 vektorizált dokumentum
~$12.75 (1000 kérdés per nap)
AWS S3-on
Privát bucketekben
100 GB, 0.023 USD/GB/hó
RAG AI asszisztens a városnak