Cargando Eventos

Título: ¿Capturan los embeddings de los LLMs información sobre temporalidad y relaciones espaciales?
Director: Esteban Feuerstein
Codirector: Juan Manuel Ortiz de Zárate
Jurados: Gabriel Tolosa, Ernesto Mislej

Resumen:
Los Large Language Models (LLMs) han demostrado una capacidad notable para capturar relaciones semánticas a través de sus embeddings, contribuyendo significativamente al avance de diversas aplicaciones, como el procesamiento del lenguaje natural. Este trabajo tiene como objetivo analizar cómo los LLMs modelan el tiempo y el espacio dentro de sus representaciones vectoriales. Dicho análisis se lleva a cabo de forma directa sobre la estructura interna de las representaciones, permitiendo una evaluación transparente y una interpretación accesible. Los resultados obtenidos al analizar diferentes modelos de LLMs revelan patrones específicos en la manera en que dichos LLMs representan eventos temporales y ubicaciones geográficas, sugiriendo que efectivamente incorporan de manera implícita una estructura, en mayor o menor medida, espacio-temporal en sus representaciones vectoriales.