Practical Applications of Chatbots
Introduction
王柳鋐
Last modified: 2025/2/18
關於我
-
台灣大學資訊工程博士
-
真理大學 資訊管理學系 副教授 兼 系主任 1997~2000, 2021~迄今
-
真理大學 圖書資訊處 圖資長 2024~
-
真理大學 電算中心主任 2012~2018
-
真理大學緬甸志工團領隊 2018, 2019
-
真理大學廣西大化志工團領隊 2009~2014, 2018, 2019
- 教育部資訊志工領隊 北桃(2014) 馬祖北竿(2009)
- 教育部數位機會中心「北桃金輔導團」協同主持人 2014~迄今
人工智慧?
模仿遊戲2014
人工智慧？電腦模仿人類思考、學習、解決問題
人工智慧 Turing Test
圖靈測試
「機器會如同人類一般思考嗎？」
~~ Allen Turing, 1950
圖片來源
https://static.javatpoint.com/tutorial/ai/images/turing-test-in-ai.png
https://media.newyorker.com/photos/5e2330c74156f60008818e30/master/pass/Grimstad-Turing.jpg
1912~1954
技術
人工智慧的演進
2024
機器學習 類神經網路
細胞核
樹突（接收訊號）
神經元細胞
髓鞘
施旺細胞
蘭氏結
突觸
軸突
（神經纖維，傳導）
輸入訊號
輸出訊號
2024
訓練資料
❶¹ 前處理
🅐 訓練集
🅑 驗證集
🅒 測試集
❷ 訓練參數
➎ 決定最終預測模型
❸ 產生預測用模型
➍ 測試模型
特徵萃取
❶² 資料集分割
人工智慧 機器學習/深度學習
語音
影像
文字
- 三類常見應用(資料型態)
人工智慧 應用
編碼
輸入層
隱藏層
輸出層
輸出結果分類
聊天機器人
車牌辨識
AI仿真歌手
濫用聊天功能
2019/4/11
辨識「惡意字眼」，較找出特定單字複雜得多
text selection engine
AI系統
❶ 偵測到可能惡意字眼
已確認/用戶未曾回報/無法辨識
知識模型
❷ 即時辨識
❸ 分類結果
❹ 人工處理
分類器
人工智慧 應用
生成式AI/聊天機器人/ChatGPT
生成式AI
生成式AI核心問題自然語言處理NLP
自然語言理解 (Natural Language Understanding)
自然語言處理 NLP
命名實體辨識
Name Entity Recognition
詞類標記
Port-Of-Speech tagging
文字分類
Text Categorization
機器翻譯
Machine Translation
自然語言理解 NLU
自然語言推理
Natural language Inference
語意解析
Semantic Parsing
文字摘要
Text Summarization
情感分析
Sentiment Analysis
問答系統
Question-Answering System
對話代理
Dialogue Agent
自然語言處理 (Natural Language Processing)
名詞釋疑
NLP/NLU常見任務
文本生成
輸入: 一句話
輸出: 一篇短文！
經過多個語言模型...
迴歸問題
NLP/NLUGPT-3
96個Transformer解碼器
句子 ➠ 預測下一個字
NLP/NLU常見任務
情感分析(Sentiment Analysis)
負面評價Negative
這家店的售後服務完全不行
餐點還不錯啦，但是還有改進空間
中性評價neutral
中性評價neutral
正面評價positive
很讚喔，超喜歡你們家的產品
分類問題
情感分析
NLP/NLU常見任務
機器翻譯
迴歸問題
Transformer
輸入英文: milk drink I
輸出法文: Je bois du lait <eos>
編碼器
解碼器
編碼器輸出
解碼器輸入
<sos>: 開始符號
<eos>: 結束符號
Chatbot聊天機器人分類
General Purpose
終極目標: 無所不知
Task-Oriented
負責特定工作
中文版 Eliza (心理醫師)
(Artificial Linguistic Internet Computer Entity)
訂位、打包清單
點餐、訂單追蹤
Chatbot聊天機器人/模型
Gemini Pro 2.0
GTP-4o
Claude 3.5 Sonnet
LLaMa 3.2
LLaMa 3.1 Sonar Large
GTP-4o
Microsoft 365 Copilot
Chatbot聊天機器人始祖
規則式訓練法 Rule-based
運行時採用樣式比對（pattern matching）
詞庫式訓練法 Corpus-based
採用大量詞庫進行訓練
詞庫來源: crowdsourcing, 維基百科wikipedia
問答集
技術層面
Eliza 1964~1967 at MIT by Joseph Weizenbaum
Chatbot聊天機器人始祖
1.掌握問題
2.根據問題產生答案
Chatbot的工作？
Chatbot聊天機器人意圖與參數
掌握問題：擷取「意圖」(intent)、參數
餵入語言模型回應問題
代理人
問題語意
意圖
參數
天氣預報？
現在天氣如何？
明天台北的氣溫多少？
意圖：氣象預報
參數: 時間、地點
語言模型
明天全台有雨
現在陰雨，氣溫23度
11月2日台北氣溫不高
查詢
實作導向
軟硬體資源規劃中
AI算力: 機架伺服器
Microsoft Copilot Studio
Microsoft Azure OpenAI
Application ScenarioLine Bot
Web Service
Line Bot
OpenAI點數
Azure OpenAI點數
❶
❷
❸
Implementation ScenarioFlask+ngrok
NGROK服務
Web Service: localhost(本機)
網址: ngrok提供
OpenAI點數
Azure OpenAI點數
Implementation ScenarioLocal Server
應用
RAG system
Context
Query
Prompt
LLM
Output
Vector DB
❶ Dataset
❸ Embedding
➍ Similarity
❷
➎ Reranking algorithm
➏
Microsoft GraphRAG
身為經濟困難且需要法律協助的使用者，
我需要簡單易懂且不花費的管道來獲取法律建議與支援，
所以我能夠有效解決我的法律問題，並且保護我的合法權益而不增加經濟負擔。
應用始終來自使用者需求
使用者故事User Story
應用始終來自使用者需求
身為一位即將創業的新手創業者，
我需要了解如何合法設立公司與處理相關法律文件，
所以我能順利完成創業流程，並確保業務合法運營。
身為一位面臨家庭糾紛且需要協助解決的使用者，
我需要專業的法律諮詢來指引我如何處理問題，
所以我能以合法、公正的方式保護我的家庭與個人利益。
身為一位對合約內容有疑問的使用者，
我需要一位專業律師協助審閱合約並解釋其中條款，
所以我能夠在簽署前確保我的權益不受損害並避免潛在風險。