Representaciones de vocabularios en tareas de traducción automática mediante modelos conexionistas

Abstract

Trabajos anteriores de traducción automática con modelos conexionistas han obtenido resultados interesantes pero han resultado muy problemáticos de adaptar a tareas reales. En este trabajo se parte del modelo RECONTRA (una red de Elman con ventana de entrada) y se abordan tareas de traducción más complejas, se explora cómo crear codificaciones automáticamente, se desarrollan nuevos modelos de traducción y se combinan distintas redes en un único sistema. Se han desarrollado varios modelos conexionista basados en Perceptrones Multicapa con ventanas de salida, por lo que tiene en cuenta el contexto de aparición de las palabras a representar. Además de diversos métodos de entrenamiento, se aplica poda para determinar el tamaño de las codificaciones. Se han creado variantes del modelo RECONTRA: con dos capas, en el que la primera capa oculta desarrolla representaciones de las palabras de la entrada; y con ventana de salida, en las que el traductor debe traducir un fragmento de la frase, no una única palabra. También se han explorado formas de combinar redes en único sistema de traducción, basándose en votación y la distancia entre la palabra producida por la red (o frase) y la palabra (o frase) más cercana.