Font size
WorksheetsAplicaciones prácticas de NLP
Total questions: 11
Worksheet time: 6mins
Lo que cambió el paradigma del NLP de forma radical para siempre fue...
La llegada de los Embeddings
La llegada de las capas recurrentes
La llegada de las capas de atención
La llegada de The Transformer con el paper de Google "attention is all you need"
Con respecto a los encoders y decoders, elige alguna respuesta correcta...
En los encoders los tokens atienden sólo a los tokens anteriores
En los decoders los tokens atienden a todos los tokens
Los encoders son mejores para tareas de comprensión de texto
Los modelos decoder son óptimos para hacer traducción
Elija alguna afirmación correcta
GPT-2 es un modelo basado en encoder
BERT es un modelo basado en encoder
Los modelos de tipo Encoder-Decoder son capaces de realizar tareas seq2seq como traducción o resumen
T5 es un modelo basado en decoder
¿Cómo se llama la tarea de los exámenes de inglés que más se asemeja a la tarea con la que aprenden los modelos de lenguaje?
Use of english
Fill in the blanks
Words filling
Listening
Acerca de los modelos de lenguaje en español (antes de que saliera rigoberta), elija la respuesta correcta
BETO es el modelo con mayor rendimiento
BERTIN es el modelo de mayor tamaño
El proyecto MarIA ha sacado modelos tanto roberta como gpt-2, sólo base
El proyecto MarIA ha sacado modelos tanto roberta como gpt-2, base y large
¿Cuál no es un factor importante para pre-entrenar un modelo de lenguaje?
El tamaño del corpus y calidad del mismo (limpieza)
La arquitectura de la red neuronal
Representatividad de los dominios que se desean procesar posteriormente
Hardware de entrenamiento suficientemente potente
Todos estos aspectos son importantes
Acerca del RigoCorpus, elija la respuesta correcta...
La limpieza tuvo: detector de idioma, filtrado de textos cortos, reglas lingüísticas, deduplicación fuzzy; el tamaño resultante fue mayor al del corpus del BSC
La limpieza tuvo: detector de idioma, filtrado de textos cortos, reglas lingüísticas, deduplicación fuzzy; el tamaño resultante fue inferior al corpus del BSC
La limpieza tuvo: detector de idioma, filtrado de textos cortos, reglas lingüísticas; el tamaño resultante fue inferior al corpus del BSC
La limpieza tuvo: reglas lingüísticas, deduplicación fuzzy; el tamaño resultante fue superior al corpus del BSC
La arquitectura DeBERTa...
Es mejor que BERT y Roberta sólo porque es más grande
No es mejor que BERT y Roberta, aunque sea más grande
Es mejor que BERT y Roberta a igualdad de tamaño.
Es ligeramente peor que BERT y Roberta, pero es más rápida.
Es mejor que BERT y Roberta y además es más rápida que estos.
Neuraculus y BioMedIA son...
Modelos capaces de hacer varias tareas
Sistemas formados por muchos modelos, con un software que les une para dar una solución completa.
Sistemas complejos formados por un único modelo cada uno, capaz de hacer una tarea (QA)
Sistemas de QA, extractivo y generativo respectivamente, que usan varias piezas distintas
¿Qué diferencias hay entre Neuraculus y BioMedIA?
BioMedIA tiene voz a voz, Neuraculus no.
Para coger documentos relevantes, ambos usan Dense Passage Retrieval
Para coger documentos relevantes, Neuraculus usa Sentence Transformers, BioMedIA usa DPR.
BioMedIA hace extractive Question Answering, Neuraculus hace Generative Question Answering (LFQA)
BioMedIA hace Generative Question Answering, Neuraculus hace Extractive Question Anwsering
Según el test de Nemenyi...
Rigoberta es estadísticamente mejor que todo el resto de modelos.
Rigoberta es mejor que BETO y BERTIN, pero estadísticamente igual que MarIA, que a su vez es estadísticamente igual que BETO.
RigoBERTa es mejor que BERTIN, pero igual que BETO y MarIA a nivel estadístico.
Rigoberta y MarIA son estadísticamente mejores que todo el resto de modelos.
