Hacia la generación automática de leyendas para memes de Internet

Albert Manuel Orozco Camacho, Ivan Vladimir Meza Ruiz
@alorozco53, @ivanvladimir
Facultad de Ciencias - IIMAS, UNAM
VIII CoLiCo

Motivación

Memética

¿Trabajo previo? 🤔

[Vinyals, et al. 2016]

Tecnología de aprendizaje automático

Objetivo de la mayoría del software:

ENTRADA: $\vec{x}$
$\downarrow$
ALGORITMO: $z = h(\vec{x})$
$\downarrow$
SALIDA: $z$

El programador diseña un programa que calcule $z$ en su mente y prueba casos de uso.

Aprendizaje automático

(Supervisado)

ENTRADA: $\vec{x}$
$\downarrow$
ALGORITMO: $z = h(\vec{x}, \vec{\theta})$
$\updownarrow$
Entrenamiento: $J(\vec{\theta}; \vec{x}, \vec{y})$
$\downarrow$
SALIDA: $z$

Conjunto de datos: $\mathcal{D} = \{(x_1, y_1),\ldots,(x_n, y_n)\}$

Redes neuronales

Tomado de http://www.asimovinstitute.org/neural-network-zoo/

Datos

Aprendizaje profundo

(Deep Learning)

Redes neuronales convolucionales

(CNN's, ConvNets)

Redes neuronales recurrentes

(para el interés del lingüista)

Unidad de memoria grande a corto plazo (LSTM)


$V($queen$)\ -\ V($king$)\ \approx V($woman$)\ -\ V($man$)$

Arquitectura unificada

Entrenamiento e inferencia

La red neuronal en acción (beta)

Trabajo futuro

  • Refinamiento del modelo de lenguaje con técnicas de detección y creación de humor/albures.
  • Experimentación con memes de 2017.
  • Agrupamiento semántico de memes (aprendizaje no supervisado).

Trabajo futuro

  • Estudio de la "viralidad" que puede alcanzar la información generada automáticamente.
  • Estudio del fenómeno de la evolución en propagación de información.

Trabajo futuro

  • Generación automática de contenido en redes sociales (por ejemplo, bots en Twitter).
  • Interacción humano-máquina.
  • Agentes conversacionales (chatbots).

¡Muchas gracias!