Co stanowi różnicę?

Gramatyki (Sarmata)

• Ręcznie sporządzone reguły
• Nie wymagają danych tekstowych
• Ograniczona liczba rozpoznawanych wypowiedzi
• Używane w IVR

Model językowy (Dictation)

• Uczenie maszynowe
• Wymaga dużego korpusu tekstowego
• Szeroki zakres rozpoznawanych zdań
• Używany do dyktowania oraz dialogu z maszyną

Zazwyczaj stosowane
modele języowe

• N-gramy
• RNNLM - sieci rekurencyjne
  (o tym więcej później)

N-gram

Istniejące badania

• Bardzo nieliczne
• Zazwyczaj dotyczą języka angielskiego
• Normalizacja tekstu zagadnieniem raczej drugo-, a nawet trzeciorzędnym w NLP

Informacje o morfosyntaktyce w zdaniu

zestaw znaczników NKJP

Metoda

Tag Embedding + LSTM

Word Embedding

Rekurencyjne sieci neuronowe (RNN)

Dwukierunkowe RNN

Zastosowana architektura

Wyniki

Poprawność (accuracy)

• 84.5% - zbiór treningowy
• 85.7% - zbiór walidacyjny
• 74.2% - zbiór testowy

Wnioski

• W znacznej części przypadków prawidłowo rozpoznana forma fleksyjna, mimo braku wiedzy o odmienianym słowie!
• Błędy dotyczą głównie:
  • wyjątków (np. "procent"),
  • formy męskiej/żeńskiej - bez wiedzy o tym jakie to słowo, dominuje częstsza forma w języku
  • liczby mnogiej i pojedynczej
    (np. "2.7 l" -> 2.7 litra czy 2.7 litrów?)