2018 Dec. 3rd

Prog. Report

陳家陞

ASR Transformer

我做了什麼

de 一個怪 bug

index 沒 align 好所以拿到的 mfcc 是錯的

但是 train 到一半才會報錯

我現在還有的困難

Bug

• ASR evaluator (translator) 現在是壞的，所以 train 完的 model 還生不出結果 

Enhancement

• input sequence 太長，所以參數太多 train 不太起來，batch size 開到 4 就會 out of memory
  • 加個 cnn 跟 pooling 當預處理
• (我覺得) mfcc 的 dimension 有點小 (39)，所以 n_head = 3, d_k = 13，跟 transformer 原 paper 的 dim 差滿多的
  • 先過一個 linear proj. expand 到比較大的 dim ← 這樣會不會有什麼問題