🌟Node.js與LLM的奇妙冒險🌟
By 後端里長伯(hohshen)
目錄
1. 除了respect還是respect
2. 厲害的鸚鵡
3. 今天天氣如何?
4. 蛤?
5. 讓我看看
除了respect還是respect- 敬山姆·阿特曼
世上第一個因AI而丟工作的人
世上第一個因AI讓董事會丟工作的人
世上第一個因AI改變世界的人
我是誰?
我在哪裡?
LLM 介紹
最近一直在思考LLM
如何淺顯易懂的介紹LLM
直到找到了這部影片
https://reurl.cc/A48GqZ
LLM 介紹
因為類似玩接龍遊戲,
有時可能會一本正經地亂回答
當錯誤一多了就積少.....
LLM 介紹- OpenAI API
讓我們來看看這個例子吧!
OpenAI API (completions)
POST 'https://api.openai.com/v1/completions'
Body {
"model": "gpt-3.5-turbo-instruct",
"prompt": "XX",
"max_tokens": 300,
"temperature": 0.8
}Demo api
怎麼還有?
由此可見......
API設定參數
- Temperature: 隨機性，機率的選擇
- ( 0~2, default: 1)
- 控制每次回答的內容比較一致
- Top_p: 創作性
- (0和1, 通常設定在0.1到0.9之間)
-
使用三個引號"""或者三個井字號###區分指令與內容
-
調控 Temperature 及 Top_p parameters 參數,建議一個一個調
請寫一篇facebook貼文，主題是
"""
什麼人適合學習LLM
"""
貼文內容請滿足以下條件
1.500個字左右
2.不需要名詞解釋
3.請舉例說明
4.可以加入emoji符號Prompt:
Prompt: In-Context Learning
- Zero shot
- 靠的是模型預訓練的能力而做出的生成回應
- e.g. 莎士比亞是...
- One shot
- 造樣照句
- e.g. 台北->台灣 東京-> response 東京->日本
- Few shot
- 舉一反三
- e.g. 臨摹法
LLM 介紹- OpenAI API
OpenAI API (images/generations)
POST 'https://api.openai.com/v1/images/generations'
Body {
{
"model": "dall-e-3",
"prompt": "麥當勞美味套餐",
"n": 1,
"size": "1024x1024"
}來看看範例吧
-
n: 一次產生多少圖
-
quality: standard(default),hd
LLM 介紹- OpenAI API
Hello World
🦜️🔗 LangChain
開發整合性更高的LLM應用
LangChain六大模組
- Model I/O
- Prompts+Template
- Model
- Parser
-
Agent
-
Chain
-
Memory
- Retrieval(Index)
講Hello World + template
demo
00_hello
01_prompt
02_template
今天天氣如何?
介紹agent + chain + router
同學請回答
為什麼會有天氣很大?
無法連網
專業的事就是交給專業的!
DEMO
03_Math AGENT,
04_SerpApi AGENT
自行製作Agent
DEMO AGENT
05_DynamicTool
06_mix
總機就是要專業分工
chain
DEMO
07_simple_seq
08_seq
09_router
10_parser
蛤?
Memory+Embending+Retrieval
大家知道金魚缺少了什麼嗎?
Memory
demo
11_memory
12_history
Embending
demo
13_embending
RAG
檢索增強生成（Retrieval-Augmented Generation, RAG）
Demo
14_rag
RAG
RAG v.s. Fine Tuning
讓我看看
demo
15_image
demo
16_image_gen
生成圖片
圖片
謝謝大家
IG
Node.js與LLM的奇妙冒險
By Shen Hoh
