淺談數位人文資料分析

Pickering, W. A. 1889,
"Pioneering in Formosa; recollections of adventures among mandarins, wreckers, & head-hunting savages

真理大學資訊管理學系 王柳鋐

Outline

  • 文本分析
  • 社會網路分析

瀏覽版

同步版

文本分析

文本分析基本任務: 斷詞、詞性標記、實體辨識 

"我和順仔早上5點登上「福建號」"

我和<person>順仔</person>早上5點登上「<ship>福建號</ship>

斷詞(tagger)

(命名)實體辨識
name-entity-recognition

原文

我  和  順仔  早上  5點   登上   福建號

          r   c    nr        t        t         v        nr

詞性標記
part-of-speech

專業術語 + 分類

應用:索引、Hyperlink

q: 數量詞
v: 動詞
nr: 人名
n: 名詞
t: 時間詞

馬偕日記斷詞統計應用

時間:第一次返回加拿大述職前, 詞性過濾:名詞(2582/6197), 詞頻>3(598)

文字雲

教學應用:寫作提示(使用排名前10位的關鍵字寫一個故事)

地點: 五股坑、八里坌、大龍峒、洲裡、三重埔、滬尾、新港、竹塹、中壢

人名: 閏虔益、李庥

馬偕日記斷詞統計應用

時間:第一次返回加拿大述職前,詞性未過濾:名詞(6197), 詞頻>5(998),

資料來源:DocuSky 數位人文學術研究平臺:視覺化與統計分析,2020數位人文培訓營

分成13類

地理資訊系統

馬偕的書單

馬偕日記實體辨識應用

荳蘭社

地理資訊

文本分析開發工具中研院CKIP Lab

斷詞、實體辨識的困難

拜訪    普林斯    神學院    老同  學麥克  切斯  尼  先生    幾位  宣教  師 。 晚上 介紹 加拿大 , 哈巴  安德  醫師  翻譯

斷詞

困難: 斷詞錯誤    雜訊

"拜訪我普林斯頓(Princeton)神學院的老同學麥克切斯尼(McChesney)先生和幾位宣教師。晚上介紹加拿大,哈巴安德醫師翻譯。"

Icons made by Freepik from www.flaticon.com
Icons made by Eucalyp from www.flaticon.com

自訂辭典

停用字列表

普林斯頓

老同學

麥克切斯尼先生

哈巴安德醫師

宣教師

晚上

幾位

拜訪   普林斯  神學院    老同學   麥克切斯尼先生   宣教師 。 介紹 加拿大 , 哈巴安德醫師  翻譯

困難: 錯別字、同義詞(不同稱呼/不同翻譯)

Icons made by Eucalyp from www.flaticon.com

拜訪南勢番(南方的原住民),在包干李流(Li-lau),薄薄、斗蘭(Tau-lan)和七腳川拍了一些照片。

台灣堡圖

1904

我們拜訪流流、薄薄、里腦,又回到大社

問題:究竟是里腦,李流還是流流?

不同翻譯

回到五股坑,蔥仔在前往領事館費里德(A.Frater)先生那裡後和我們一起。

偕師母及閏虔益一起到五股坑,然後去洲裡,在晚上回來。

同義詞

專家

修正與建議

里漏社

斷詞、實體辨識的困難

自訂辭典

停用字列表

雲端工具平台

雲端工具平台DocuSky文本標記建庫

➊  匯入「文本 + 自訂metadata欄位」

自訂欄位metadata

文本

分類

標記字詞

權威詞

資料連結

➋  提供規範表 for 標記、交互參照

歷代名畫記(卷四至十):自訂標籤文字雲(metadata)

DocuSky系統

資料來源:DocuSky 數位人文學術研究平臺實作,2020數位人文培訓營

資料來源:DocuSky 數位人文學術研究平臺實作,2020數位人文培訓營

東西魏北齊北周淨土相關題記(資料庫):自訂標籤文字雲

DocuSky系統

關鍵詞:西方淨土、彌陀像

小結

平台、工具

研究走向: 決定素材

設計、填寫metadata

資料分析、觀察脈絡

Social Network Analysis

社會網路分析簡介

  • 一種定量分析方法:使用數學工具如圖論等進行分析
  • 目的:解析結構(如找出領導者、意見領袖、邊緣者、群組、不對稱或互惠關係...)

社會網路

節點

關聯

節點

關聯?

權重

分析成敗的關鍵

主角分析 (冰與火之歌第三部:劍刃風暴)

關聯(邊):共同出現的次數

(兩個名字在15個字的距離內)

社會網路分析「關聯」: 共同出現

(1) 107個角色, 353個邊

(2) 找出7個群組

(3) 使用6種「中心性」公式計算每

      個角色的重要性

Q. 前三名主角是?

Tyrion, Jon, Sansa

軟體: Gephi

小朋友的交友情況解析

關聯:透過觀察或是直接詢問小朋友

Q: 誰比較邊緣?為什麼?

社會網路分析「關聯」: 社交行為

資料來源:DocuSky 數位人文學術研究平臺:視覺化與統計分析,2020數位人文培訓營

資料來源:DocuSky 數位人文學術研究平臺:視覺化與統計分析,2020數位人文培訓營

多文本間的詞彙共現

宮廟「斗內」碑刻中的關連分析

資料來源:DocuSky 數位人文學術研究平臺:視覺化與統計分析,2020數位人文培訓營

二元關聯圖

2021,杜協昌, DocuSky 的二元關聯視覺化呈現工具, DADH2021研討會

2021,杜協昌, DocuSky 的二元關聯視覺化呈現工具, DADH2021研討會

社會網路類型

Social environment: analysis of support, influence

Affiliation network

Inter-organizational network

Intra-organization network

General purpose

Specific

competition network

interaction network: game-based(sports for example)

關聯網路bipartite network

關聯網路bipartite network

關於Gephi

資料視覺化軟體gephi

資料視覺化軟體gephi

  1. 匯入資料
  2. 視覺化設定:layout演算法
  3. 調整顏色與大小:ranking模組
  4. 計算重要性評量「指標」:statistics模組
  5. 文字標籤
  6. 群組偵測:statistics模組
  7. 設定過濾方式:過濾器(filter)
  8. 預覽

資料視覺化軟體匯入資料

支援格式:

  • GEXF
  • CSV
  • GraphML
  • GML
  • ...

有無方向性

節點數量

邊的數量

layout演算法

大小、顏色(Ranking功能)

指標計算

(統計模組)

過濾功能

(Fiilter)

標籤、大小...

指標計算參考:淺談社會網路分析(中心性計算)

感謝您的聆聽

製茶。淡水

Greey, Edward (Sung-tie). "'Tai-wan' -- Formosa." Frank Leslie's Illustrated Newspaper Vol 33, No. 834 (23 September 1871): 28.