Hacia la generación automática de leyendas para memes de Internet

Albert Manuel Orozco Camacho
@alorozco53
Facultad de Ciencias, UNAM Mariachi IO Fractal Abogados
GDG UNAM

LECCIONES APRENDIDAS A PARTIR DE LA generación automática de leyendas para memes de Internet

DL

Motivación

Memética

¿Trabajo previo? 🤔

[Vinyals, et al. 2016]

Datos

Aprendizaje profundo

(Deep Learning)

Redes neuronales convolucionales

(CNN's, ConvNets)

Redes neuronales recurrentes

Unidad de memoria grande a corto plazo (LSTM)


$V($queen$)\ -\ V($king$)\ \approx V($woman$)\ -\ V($man$)$

Arquitectura unificada

Entrenamiento e inferencia

¿Para qué le sirve una red neuronal a un programador (curioso)?

Una red convolucional profunda...

  • normalmente NO se entrena desde cero;
  • especializa sus primeras capas en tareas genéricas, mientras que su última capa es un POTENTE clasificador lineal;
  • puede reciclar sus pesos para adaptarse a otras tareas.

Afinando una CNN

Visualización de datasets

La red neuronal en acción (beta)

Trabajo futuro

  • Refinamiento del modelo de lenguaje con técnicas de detección y creación de humor/albures.
  • Experimentación con memes de 2017.
  • Agrupamiento semántico de memes (aprendizaje no supervisado).

Trabajo futuro

  • Estudio de la "viralidad" que puede alcanzar la información generada automáticamente.
  • Estudio del fenómeno de la evolución en propagación de información.

Trabajo futuro

  • Generación automática de contenido en redes sociales (por ejemplo, bots en Twitter).
  • Interacción humano-máquina.
  • Agentes conversacionales (chatbots).

¡Muchas gracias!