Modelos Formales No Transformacionales 2021
UNIVERSIDAD DE BUENOS AIRES
FACULTAD DE FILOSOFÍA Y LETRAS
DEPARTAMENTO DE LETRAS
MATERIA: MODELOS FORMALES NO TRANSFORMACIONALES
RÉGIMEN DE PROMOCIÓN: EF
CUATRIMESTRE y AÑO: 2º CUATRIMESTRE DE 2021
CÓDIGO N° 0581
PROFESOR: MIGUEL VEDDA (DIRECTOR DEL DEPARTAMENTO)
EQUIPO DOCENTE:
JEFE DE TRABAJOS PRÁCTICOS REGULAR: BALBACHAN, FERNANDO
AYUDANTE DE 1º CATEGORÍA REGULAR: CARRANZA, FERNANDO
a. Fundamentación y descripción
En la tradición de la lingüística formal, se le reconoce a la obra de Chomsky Estructuras Sintácticas (1957) un rol fundacional. Una de las principales tesis del modelo del ´57 se refiere a la complejidad de los lenguajes naturales, proponiendo a la sintaxis como un componente autónomo que genera oraciones mediante reglas de estructura de frase –también conocidas como Gramática Independientes de Contexto (Context Free Grammar, CFG) – y la aplicación a posteriori de reglas transformacionales.
El presente programa ha sido pensado para alumnos tanto de la carrera de Letras de la orientación en Lingüística como de la carrera de Filosofía con orientación en Lógica, y para todos aquellos que tengan un fuerte interés en el estudio de la estructura sintáctica y del lenguaje natural y, en especial, en los alcances de la utilización de los modelos formales para el abordaje del mismo.
b. Objetivos
El objetivo fundamental de este curso es centrarse en el relevamiento minucioso de las teorías gramaticales NO transformacionales que evolucionaron a partir de la primera gramática chomskyana y que representan una importante línea de investigación en Procesamiento de Lenguaje Natural o Natural Language Processing (NLP), poniendo especial énfasis en las propiedades formales, poder expresivo y limitaciones de cada modelo en el estado del arte. Asimismo, se busca que el alumno trabaje con los rudimentos de implementaciones de dichas gramáticas bajo la forma de parsers (analizadores sintácticos), demostrando aplicaciones prácticas en español de los modelos teóricos.
c. Contenidos
La materia será dictada en 5 unidades que delinean un preciso recorrido teórico a través de los Modelos Formales No Transformaciones, desde sus orígenes en la lingüística chomskyana hasta las propuestas más recientes que evidencian marcadas mejoras en el Procesamiento de Lenguaje Natural y que atestiguan un cambio de paradigma científico desde los modelos simbólicos a los enfoques estadísticos y, más recientemente, hasta los modelos basados redes neuronales. Adicionalmente, el curso inlcuye una reflexión integral acerca de las implicancias lingüísticas y epistemológicas de una teoría gramatical.
Unidad I: Bajo la égida de Chomsky
Se introducirán la obra fundacional de Chomsky y las nociones formales con las que se ha de trabajar más adelante. Puntualmente se expondrá la jerarquía chomskyana respecto de las gramáticas (desde las más simples modelos de autómata a las Máquinas de Turing, pasando por las Gramáticas Independientes de Contexto CFG). A su vez se expondrán las limitaciones en el poder expresivo de cada una de las Gramáticas, recurriendo tanto a lenguajes formales como a lenguajes naturales: por ej. el problema de la recursividad en la gramáticas de autómata y la concordancia básica sujeto-verbo y el orden variable de constituyentes en las CFGs.
Unidad II: La superación del modelo chomskyano
Se desarrollarán modelos formales alternativos a la CFG que trabajan con predicados lógicos de primer orden y el operador lógico Unificación. En particular se presentará la Gramática de Cláusula Definida – Definite Clause Grammar (DCG). Se puntualizará su utilidad como la primera propuesta de superación de las limitaciones expresivas de las Gramáticas Independientes de Contexto, aunque también se marcarán los problemas detectados en este tipo de modelos: por ej. la concordancia sujeto-verbo y la subcategorización verbal en español.
Unidad III: Modelos optimizados fuera del área de injerencia chomskyana
Se abordarán las gramáticas basadas en la estructura de rasgos (features). El gran salto cualitativo que representan estas gramáticas respecto del paradigma chomskyano es que intentan resolver los problemas tradicionales de los lenguajes naturales -como constituyentes discontinuos u orden variable en español- a través de operaciones de unificación de matrices de features, propiedades de herencia y restricciones de linealidad. Específicamente se trabajará con la gramática denominada Gramática de Estructura de Frase gobernada por Núcleos Head-driven Phrase Structure Grammar-HPSG, desarrollada por Ivan Sag.
1.- El concepto de rasgo (feature)
2.- Matriz de feature
4.- Head-driven Phrase Structure Grammar-HPSG Aplicaciones en español
Unidad IV: El paradigma estadístico
El paradigma estadístico aplica diversas técnicas probabilísticas a grandes corpora de entrenamiento, con vistas a inducir categorías y fenómenos específicos del lenguaje natural a partir de la detección de patrones estadísticamente significativos en la tabula rasa que constituyen los corpora. Sin embargo, el paradigma estadístico es más que una mera aplicación de técnicas y modelización matemática: estos enfoques aportan evidencia de plausibilidad psicolingüística a un renovado debate acerca de la naturaleza misma del lenguaje.
1.1 Cadenas de Markov y la equiparación de probabilidad y gramaticalidad
2.- El debate epistemológico en torno al Argumento de la Pobreza de los Estímulos (APS). La investigación actual sobre corpus
2.1 Anotación morfosintáctica de corpus
2.3 Aprendizaje automático o machine learning
Unidad V: El paradigma conexionista de redes neuronales
Evolución histórica hacia los modelos actuales de redes neuronales: validación translingüística y adaptación a diferentes dominios. Estado del arte y vigencia de los algoritmos de deep learning en múltiples tareas estándares del campo disciplinar.
1.- ¿Qué es una red neuronal?
1.2 Arquitecturas recientes en deep learning
2.- Diferencias epistemológicas y plausibilidad psicolingüistica para los modelos formales no transformacionales. Parsing y Procesamiento de Lenguaje Natural dentro de la Lingüística Computacional
d. Bibliografía específica (subrayada la bibliografía obligatoria)
*
- Grune, D. y Jacobs, C. Parsing Techniques. A practical guide.Amsterdam, Springer, 2008
- Jurafsky, D y Martin, J. 2000. Speech and language processing. New Jersey. Prentice-Hall. caps. 2 y 9
- Partee, B., Meulen, A. y Wall, R. 1993. Mathematical Methods in Linguistics. Dordrecht: Kluwer Academic Publishers.
- Savich, W. Bach, E., Marsh, W. y Safran-Naveh, G. 1987 The Formal Complexity of Natural Languages Dordrecht: Kluwer Academic Publishers.
- Sag, I. And Wasow, Th. 1999. Syntactic Theory. A Formal Introduction. Stanford, California: CSLI Publications. Apéndice B.
- Sandoval Moreno, Antonio. 1998. Linguistica Computacional. Madrid. Editorial Síntesis
- Hierro S. Pescador, José. 1980. Principios de Filosofía del Lenguaje 1.Teoría de los signos y de la Gramática. Madrid. Alianza Editorial cap.4
Unidades II y III
*
- Sandoval Moreno, Antonio. 2001. Gramáticas de Unificación y Rasgos. Madrid .Ed. Antonio Machado
- Shieber, S. 1986. An Introduction to Unification-Based Approaches to Grammar. Stanford, CA: CSLI Publications.
Unidad IV
- Abney, S. 1996. "Statistical methods and linguistics". En: Klavans J. y Resnik, P. (eds.), The balancing act. The MIT Press, Cambridge, MA.
- 'Balbachan, F. 2014. Técnicas de clustering para inducción de categorías sintácticas en un corpus de español. Tesis de doctorado (UBA-FFyL).
- Balbachan, F. y Dell’Era, D. 2010. "Inducción de constituyentes sintácticos en español con técnicas de clustering y filtrado por información mutua". En Linguamática nº2, pp.39-57
- Chater, N. y Manning, C. 2006. “Probabilistic models of language processing and acquisition”. En TRENDS in Cognitive Sciences, vol.10 nº7, pp.335-344
- Clark, A. 2001. Unsupervised language acquisition: theory and practice. Sussex. School of Cognitive and Computing Sciences, University of Sussex Press.
*
Unidad V
*
Bibliografía general
- Balbachan, F. (editor) Dell’Era, D., Berros J., Cruces, M. Haimovici, S. 2009. Cuadernillo de ejercicios y apuntes. Serie Fichas de Cátedra. (FFyL-UBA)
- Bolshakov, I. y Gelbukh, A. 2004. Computacional Linguistics: model, resources, applications. México. UNAM
- Grune, D. y Jacobs, C. 2007. Parsing techniques: a practical guide. Amsterdam. Springer