graphical playground123

main.tex

abschnitt1.tex

abschnitt2.tex

main.tex

abschnitt1.tex

abschnitt2.tex

header.tex

root

Dokumente

Bilder

Downloads

...

LaTeX-Tut

Studium

...

test1.tex

test2.tex

root

Dokumente

Bilder

Downloads

...

LaTeX-Tut

Studium

...

test1.tex

test2.tex

oder

./test2.tex bzw. .\test2.tex

root

Dokumente

Bilder

Downloads

...

LaTeX-Tut

Studium

...

main.tex

test2.tex

./Abschnitte/test2.tex

oder

Abschnitte/test2.tex

Abschnitte

root

Dokumente

Bilder

Downloads

...

LaTeX-Tut

test1.tex

test2.tex

../test2.tex

oder

..\test2.tex

root

Dokumente

Bilder

Downloads

...

LaTeX-Tut

Studium

...

test1.tex

test2.tex

Linux/Mac:

root/Dokumente/LaTeX-Tut/test1.tex

Windows:

root\Dokumente\LaTeX-Tut\test1.tex

🥓

ham

👹

spam

📨

Text 

Classifier

Defense

🤺🛡️

spam filter

Attack

👹🤺

spammer

🎲

strategic

interaction

📮

👩🏾 human 🧔🏻

📄

text

2 different readers / parsers

🤖 machine 🖥️

👩🏾 human 🧔🏻

📄

text

2 different readers / parsers

🤖 machine 🖥️

Subj: favorites Opera

options building authors users. onestop posters hourly updating genre style hip hop christian dance heavy bass drums gospel wedding arabic soundtrack world Policy Map enterprise emulator Kevin Childrens Cinescope. Manager PSPreg Noise Reduction Training Theme Effects Technical know leaked aol searches happened while ago. Besides being completely hilarious they made people September June March February Meta Login RSS Valid XHTML XFN WP Blogroll proudly RSSand RSS, LoveSoft Love Soft food flowers Weeks Feature Casual Elegance Coachman California Home

🥓🏺

good words

🏺👹

spam words

📄

t

👹

t

🛡️

spam family A

classifier A'

B

C

D

E

F

E

t

👹

t

🛡️

spam family A

classifier A'

B

C

D

E

F

G

B'

C'

D'

E'

F'

G'

👹

t

👹

spam family A

B

C

D

E

F

G

🔍

Search

Thomann|

1927 führte Fritz Lang Regie beim Science-Fiction-Film Metro-polis. Die Hauptrollen übernahmen Brigitte Helm und Gustav Fröh-lich. Der Film, einer der teuersten seiner Zeit, spielt in einer futuristischen Groß-stadt, deren Einwohner

Relation
Extraction

Named Entity Recognition

Relation
Extraction

Named Entity Recognition

1927 führte Fritz Lang Regie beim frühen Science-Fiction-Film Metropolis.

Fritz
Lang

Metro-
polis

Metro-
polis

Fritz
Lang

Regisseur

👁️

Supervised Machine Learning

Regeln

✍️

🔭👁️

Distant
Supervision

🙈

Unsupervised
Machine Learning

Weniger Handarbeit! weniger Festlegung

👁️

Supervised Machine Learning

Regeln

✍️

🔭👁️

Distant
Supervision

🙈

Unsupervised
Machine Learning

x Annotieren der Trainingsdaten

x Entwerfen der Heuristiken

✋

👁️

Supervised Machine Learning

Regeln

✍️

🔭👁️

Distant
Supervision

🙈

Unsupervised
Machine Learning

x Annotieren der Trainingsdaten

x Entwerfen der Heuristiken

✋

x externe Wissensbasis

x nicht kanonisierte Ausgabe

👁️

Supervised Machine Learning

Regeln

✍️

🔭👁️

Distant
Supervision

🙈

Unsupervised
Machine Learning

- Annotieren der Trainingsdaten

- Entwerfen der Heuristiken

✋

- externe Wissensbasis

- nichtkanonisierte Ausgabe

✋

👁️

Supervised Machine Learning

Regeln

✍️

🔭👁️

Distant
Supervision

🙈

Unsupervised
Machine Learning

- Annotieren der Trainingsdaten

- Entwerfen der Heuristiken

✋

- externe Wissensbasis

- nichtkanonisierte Ausgabe

✋

👁️

Supervised Machine Learning

Regeln

✍️

🔭👁️

Distant
Supervision

🙈

Unsupervised
Machine Learning

- Annotieren der Trainingsdaten

- Entwerfen der Heuristiken

✋

👁️

Supervised Machine Learning

Regeln

✍️

- Annotieren der Trainingsdaten

- Entwerfen der Heuristiken

✋

👁️

Supervised Machine Learning

Regeln

✍️

👁️

Supervised Machine Learning

Regeln

✍️

🔭👁️

Distant
Supervision

🙈

Unsupervised
Machine Learning

- Annotieren der Trainingsdaten

- Entwerfen der Heuristiken

✋

- externe Wissensbasis

- nichtkanonisierte Ausgabe

👁️

Supervised Machine Learning

Regeln

✍️

🔭👁️

Distant
Supervision

🙈

Unsupervised
Machine Learning

- Annotieren der Trainingsdaten

- Entwerfen der Heuristiken

✋

👁️

Supervised Machine Learning

Regeln

✍️

- Annotieren der Trainingsdaten

- Entwerfen der Heuristiken

✋

👁️

Supervised Machine Learning

Regeln

✍️

👁️

Supervised Machine Learning

Regeln

✍️

🔭👁️

Distant
Supervision

🙈

Unsupervised
Machine Learning

x Annotieren der Trainingsdaten

x Entwerfen der Heuristiken

✋

x externe Wissensbasis

x ungeschliffene Ausgabe

👁️

Supervised Machine Learning

Regeln

✍️

🔭👁️

Distant
Supervision

🙈

Unsupervised
Machine Learning

x Annotieren der Trainingsdaten

x Entwerfen der Heuristiken

✋

👁️

Supervised Machine Learning

Regeln

✍️

x Annotieren der Trainingsdaten

x Entwerfen der Heuristiken

✋

👁️

Supervised Machine Learning

Regeln

✍️

🔭👁️

Distant
Supervision

🙈

Unsupervised
Machine Learning

x Annotieren der Trainingsdaten

x Entwerfen der Heuristiken

✋

x externe Wissensbasis

PropS-De
GerIE

👁️

Supervised Machine Learning

Regeln

✍️

🔭👁️

Distant
Supervision

🙈

Unsupervised
Machine Learning

x Annotieren der Trainingsdaten

x Entwerfen der Heuristiken

✋

x externe Wissensbasis

PropS-De
GerIE

👁️

Supervised Machine Learning

Regeln

✍️

🔭👁️

Distant
Supervision

🙈

Unsupervised
Machine Learning

x Annotieren der Trainingsdaten

x Entwerfen der Heuristiken

✋

👁️

Supervised Machine Learning

Regeln

✍️

 Annotieren der Trainingsdaten

Entwerfen der Heuristiken

✋

👁️

Supervised Machine Learning

Regeln

✍️

🏹

🥾⛰️🎯⛳🚩

🎯

🏔️

Milestone 1

🥾

🏔️

Milestone 1

🏔️

Milestone 1

🏔️

Milestone 1

🏔️

Milestone 1

🎯

🥾

🏔️

Mai

Einleitung schreiben, Datensätze vorbereiten

🏔️

Juni

Einleitung schreiben, Datensätze vorbereiten

🏔️

Juli

Einleitung schreiben, Datensätze vorbereiten

🏔️

Juni

Einleitung schreiben, Datensätze vorbereiten

🏹 Locksley

📚🔬🧬

Text

f_\phi

R = \{r_1, r_2, \dots, r_t\}

Menge aller ausgewählten Relationstypen

R_{train}

R_{val}

R_{test}

Trainingsdaten

Validierungsdaten

Testdaten

R_{train}

E \subset R_{train}

ausgewählte Klassen

e_1

S_1

Q_1

s^1_1

s^K_1

q^1_1

q^P_1

\dots

e_N

|E| = N

\dots

support set $$S_1$$

query set

R_{train}

E \subset R_{train}

ausgewählte Klassen $E \subset R_{train}$

e_1

S_1

Q_1

s^1_1

s^K_1

q^1_1

q^P_1

\dots

e_N

|E| = N

\dots

support set $$S_1$$

query set

R_{train}

$N$ ausgewählte Relationstypen

$E \subset R_{train}$

e_1

\dots

e_N

support set $S_1$

$K$ Sätze

query set $Q_1$

$L$ Sätze

$$s^1_1$$

$\dots$

$$s^K_1$$

$$q^1_1$$

$\dots$

$$q^L_1$$

$$s^1_N$$

$\dots$

$$s^K_N$$

$$q^1_N$$

$$q^L_N$$

query set $Q_N$

$L$ Sätze

support set $S_N$

$K$ Sätze

S_1

q

Zu welchem Relationstyp

gehört Query-Instanz $q$?

S_N

\dots

e_1

e_N

$$s^1_1$$

$\dots$

$$s^K_1$$

$$s^1_N$$

$\dots$

$$s^K_N$$

e_1

S_1

q

Zu welchem Relationstyp

gehört Query-Instanz $q$?

S_N

\dots

e_1

e_N

$$s^1_1$$

$\dots$

$$s^K_1$$

$$s^1_N$$

$\dots$

$$s^K_N$$

Embeddingfunktion

$f_\phi$

S_1

$$s^1_1$$

$\dots$

$$s^K_1$$

S_N

$$s^1_N$$

$\dots$

$$s^K_N$$

\dots

Embeddingfunktion

$f_\phi$

S_1

$$s^1_1$$

$\dots$

$$s^K_1$$

S_N

$$s^1_N$$

$\dots$

$$s^K_N$$

\dots

$$p_1$$

$$p_N$$

p_i = \frac{1}{|S_i|}\sum_{s^j_i \in S_i}f_\phi(s^j_i)

Embeddingfunktion

$f_\phi$

S_1

$$s^1_1$$

$\dots$

$$s^K_1$$

S_N

$$s^1_N$$

$\dots$

$$s^K_N$$

\dots

$$p_1$$

$$p_N$$

p_i = \frac{1}{|S_i|}\sum_{s^j_i \in S_i}f_\phi(s^j_i)

Embeddingfunktion

$f_\phi$

S_1

$$s^1_1$$

$\dots$

$$s^K_1$$

S_N

$$s^1_N$$

$\dots$

$$s^K_N$$

\dots

$$p_1$$

$$p_N$$

Embeddingfunktion

$f_\phi$

$$p_1$$

$$p_N$$

$$f_\phi(q)$$

q

d(p_i, q) = ||p_i-f_\phi(q)||

Distanzfunktion $d$

Embeddingfunktion

$f_\phi$

$$p_1$$

$$p_N$$

$$f_\phi(q)$$

q

Marlene

Dietrich

wurde

1910

in

Schöneberg

geboren

.

+

Convolutional

Neural

Network

position embedding

Subjekt

position embedding

Objekt

word embedding

Satz-

repräsentation

Marlene

Dietrich

wurde

1910

in

Schöneberg

geboren

.

Satz-

repräsentation

[CLS]

[SEP]

[E1_START]

[E1_END]

[E2_START]

[E2_END]

BERT

Bidirectional

Transformer Encoder

🏔️

Juni

🏔️

Juni

🏔️

Juni

🏔️

Juni

🏔️

Juni

🏔️

Juni

🤗

🥾

Korpora

Methoden

Schreiben

Korpora

Methoden

Schreiben

Auswählen

Annotieren

Annotieren

Überblick

Konzept

Implemen-tieren

Implemen-tieren

Implemen-tieren

Evaluation

Einleitung
Grundlagen

GrundlagenKonzept

Konzept

Implemen-tierung

Implemen-tierung

Evaluation

11. Mai

11. November

dog

cat

bear

1 training example per class

test example

Source

Target

few-shot setting

?

Source

Target

few-shot setting:

fine-tuning

on few task- and domain-specific

labeled instances

general-purpose pre-training

of a

language model

Source

Target

few-shot setting

same dataset

same domain

same type of task

but different task details

e. g. classification label space

Source

Target

few-shot setting

same (type of) task

different domain

Source

Target

few-shot setting

same (type of) task

different language

Source

Target

few-shot setting

same task

different language pair

Source

Target

zero-shot or few-shot setting:

Portuguese-Spanish

Portuguese-English

English-Spanish