Recomendação com RBMs

Recomendação

?

?

?

?

?

?

?

?

RBMs

RBM

  • Não supervisionado (geralmente)
  • Modelo baseado em Energia
  • Aprendizado é o ajuste das energias aos exemplos
p (h_{i} = 1 | V) = \sigma (c_{i} + W_{i}v)
p(hi=1V)=σ(ci+Wiv)p (h_{i} = 1 | V) = \sigma (c_{i} + W_{i}v)
p (h_{i} = 1 | V) = \sigma (c_{i} + W_{i}v)
p(hi=1V)=σ(ci+Wiv)p (h_{i} = 1 | V) = \sigma (c_{i} + W_{i}v)

Compara probabilidade com um valor sorteado da distribuição uniforme

  • Se for maior h = 1
  • Se for menor h = 0

FC & RBMs

Diferenças

  • Entrada com nós "softmax"
  • Uma RBM por usuário
    • Usuários que avaliaram mesmos itens compartilham pesos entre nós de entrada e da camada escondida
    • Apenas um item no dataset de entrada, que são as avaliações de um usuário

Item 1

Item 2

Item 3

Em detalhe

  • 5 nós binários, um pra cada nota
    • Um peso e um viés de entrada para cada nota de 1 a 5

Predição

  • Calcular energias dos ratings e escolhe-se o rating com maior energia
  • Obter energia dos 5 ratings possíveis, normalizar e usar o valor esperado como predição

Referências

  • Ruslan Salakhutdinov, Andriy Mnih and Geoffrey Hinton. “Restricted Boltzmann machines for collaborative filtering”. In: In Machine Learning, Proceedings of the Twenty-fourth International Conference (ICML 2004). ACM. AAAI Press, 2007, pp. 791–798. 

  • Geoffrey E. Hinton. “A Practical Guide to Training Restricted Boltzmann Machines”. In: Neural Networks: Tricks of the Trade - Second Edition. 2012, pp. 599–619. doi: 10.1007/978-3-642-35289-8_32. url: http: //dx.doi.org/10.1007/978-3-642-35289-8_32.

Fim

Perguntas?

fcruz@inf.puc-rio.br

deck

By Felipe Cruz