Digitális Kaláka 2025

WebGurus csapat

A probléma

Az emberek a mindennapi hivatali ügyintézés során számos problémával szembesülnek

Bonyolult adminisztráció

Az ügyintézési folyamatok gyakran túl bonyolultak, sok papírmunkát igényelnek, és nehezen érthetőek.

Hosszú várakozási idők

Az ügyintézők és a hivatali időpontok korlátozottak, ami hosszú sorban álláshoz és várakozáshoz vezet.

Nyelvi és kommunikációs akadályok

A különböző nyelvi háttérrel rendelkező emberek számára nehézséget okozhat a hivatalos nyelvezet megértése.

Információhiány

Sok esetben az ügyfelek nem kapnak elegendő vagy pontos információt a szükséges lépésekről és követelményekről.

Klasszikus megközelítés

menüpont 1

menüpont 4

menüpont 3

menüpont 2

almenü 1

almenü 2

almenü 3

alalmenü 1

alalmenü 2

alalmenü 3

Talán a keresett információ

Klasszikus megközelítés 

( eggyel újabb)

Az új paradigma

Kérdés

Kérdés

MISI: Válasz

Kösz!

MISI: Válasz

Mi is az a RAG AI?

A legtöbb LLM alapú chat app nem tud pontos, friss vagy helyi információkat adni, mert általános közönségre van tervezve. Ezt a gondot úgy lehet megoldani, hogy a hiányzó információkat mi adjuk hozzá a kérdéshez, mielőtt elküldjük a mesterséges intelligenciának. Így sokkal relevánsabb és pontosabb választ kaphatunk.

Például próbáljuk csak ki ChatGPT-n és az Udvarhely RAG-n megkérdezni, hogy:

 

"Mi az udvarhelyi monitarizáló bizottság feladata ?"

De hogyan működik?

felhasználó propmt

Kliens

Hogy kell adót fizetni?

Szerver

rendszer prompt

Egy asszisztens vagy aki...Mindig a tudástárból szerzett információk alapján válaszolj. Ha információra van szükséged válaszolj így: getData(prompt)
Válaszolj erre: "Hogy kell adót fizetni?"

OpenAI model

LLM magic

LLM válasz: getData("adófizetés", ....)

getDataFromVectorDB("adófizetés", ....)

Vektor DB

Vektor DB válasz: [{result: "...", source: "..."}]

Egy asszisztens vagy aki...
Válaszolj erre: "Hogy kell adót fizetni?"

Használd ezt az információt:[{result: "...", source: "..."}]

augmentált prompt

LLM végleges válasz:

Udvarhelyen adót fizetni lehet...

Tech Stack

TS

+pgvector

+ai sdk

Specifikációk

Embedding model: text-embedding-3-small

LLM: gpt-4o-mini                     

Vektor keresés távolság függvény: 1- cosine

~$0.60 (per 100 vektorizált dokumentum

 ~$12.75 (1000 kérdés per nap) 

Fájl tárolás

AWS S3-on

Privát bucketekben

 100 GB, 0.023 USD/GB/hó

Funkciók

  • Keresés
  • Admin oldal (bejelentkezés szükséges)
  • Az adminok tölthetnek fel vagy törölhetnek le dokumentumokat
  • Az applikáció a dokumentumokban levő adatok alapján fog válaszolni
  • Letörölt dokumentumokban levő adatokat "elfelejti"
  • Dokumentumokhoz privilégium szinteket rendelhetünk
  • Bizonyos privilégium szintű adatokat csak megfelelő embereknek fog szolgátatni (belső használatra)
  • Adminisztrátor felhasználókat meghívással lehet létrehozni, és privilégium szintet hozzájuk rendelni

Tervezett funkciók

  • Applikáció testreszabhatósága
  • Saját logo, színek, név
  • Ezáltal kiterjeszthető lenne más városokra is az applikáció
  • Automatizált periódikus webscraping opció megadott oldalakra
  • Mobil applikáció
  • AI műveletek: például űrlapok automatikus kitöltése egy kérdéssor megválaszolása után, vagy közösségi jelentések kezelése.

Tervezett funkciók (2)

  • Választható AI modelek: ár - pontosság arány
  • Kimutatások: látogatók száma, gyakran feltett kérdések stb.
  • Mappák a tudástár oldalon jobb átláthatóságért
  • Beszélgetések tárolása felhasználóhóz kötve
  • Weboldal választható nyelven

MISI, a városi Tudakozó

RAG AI asszisztens a városnak

Made with Slides.com