🌟Node.js與LLM的奇妙冒險🌟

By 後端里長伯(hohshen)

目錄

1. 除了respect還是respect
2. 厲害的鸚鵡
3. 今天天氣如何?

4. 蛤?

5. 讓我看看

除了respect還是respect- 敬山姆·阿特曼

世上第一個因AI而丟工作的人

世上第一個因AI讓董事會丟工作的人

世上第一個因AI改變世界的人

我是誰?
我在哪裡?

LLM 介紹

最近一直在思考LLM

如何淺顯易懂的介紹LLM

直到找到了這部影片

https://reurl.cc/A48GqZ

LLM 介紹

因為類似玩接龍遊戲, 

有時可能會一本正經地亂回答

當錯誤一多了就積少.....

LLM 介紹- OpenAI API

讓我們來看看這個例子吧!

OpenAI API (completions)

POST 'https://api.openai.com/v1/completions'
Body {
    "model": "gpt-3.5-turbo-instruct",
    "prompt": "XX",
    "max_tokens": 300,
    "temperature": 0.8
}

Demo api

怎麼還有?

由此可見......

API設定參數

    "model": "text-davinci-003",

    "prompt": "XXX",

    "max_tokens": 300,

    "temperature": 0.8,

    "top_p": 0.1

  • Temperature: 隨機性，機率的選擇
    • ( 0~2, default: 1) 
    • 控制每次回答的內容比較一致
  • Top_p:  創作性
    • (0和1, 通常設定在0.1到0.9之間)

  • 使用三個引號"""或者三個井字號###區分指令與內容

  • 調控 Temperature 及 Top_p parameters 參數,建議一個一個調

請寫一篇facebook貼文，主題是
"""
什麼人適合學習LLM
"""
貼文內容請滿足以下條件
1.500個字左右
2.不需要名詞解釋
3.請舉例說明
4.可以加入emoji符號

Prompt:

Prompt: In-Context Learning

  • Zero shot
    • 靠的是模型預訓練的能力而做出的生成回應
    • e.g. 莎士比亞是...
  • One shot
    • 造樣照句
    • e.g. 台北->台灣 東京->      response 東京->日本
  • Few shot
    • 舉一反三
    • e.g. 臨摹法

LLM 介紹- OpenAI API

OpenAI API (images/generations)

POST 'https://api.openai.com/v1/images/generations'
Body {
{
    "model": "dall-e-3",
    "prompt": "麥當勞美味套餐",
    "n": 1,
    "size": "1024x1024"
}

來看看範例吧

  • n: 一次產生多少圖

  • quality: standard(default),hd

LLM 介紹- OpenAI API

更多API endpoint

Hello World

     🦜️🔗 LangChain

開發整合性更高的LLM應用

LangChain六大模組

  • Model I/O
    • Prompts+Template
    • Model
    • Parser

  • Agent

  • Chain

  • Memory

  • Retrieval(Index)

講Hello World + template

demo
00_hello
01_prompt
02_template

今天天氣如何?

介紹agent + chain + router

同學請回答

為什麼會有天氣很大?

無法連網

專業的事就是交給專業的!

DEMO

03_Math AGENT,

04_SerpApi AGENT

自行製作Agent

DEMO AGENT
05_DynamicTool
06_mix

總機就是要專業分工

chain

DEMO

07_simple_seq

08_seq
09_router
10_parser

蛤?

Memory+Embending+Retrieval

大家知道金魚缺少了什麼嗎?

Memory

demo
11_memory
12_history

Embending

demo
13_embending

RAG

檢索增強生成（Retrieval-Augmented Generation, RAG）

Demo
14_rag

RAG

RAG v.s. Fine Tuning

讓我看看

demo
15_image

demo
16_image_gen

生成圖片

圖片

謝謝大家

IG

Made with Slides.com