Plataforma de agregación de API de IA con un endpoint LLM compatible con OpenAI para tareas de PLN como traducción, resumen, generación multilingüe y extracción estructurada.
Una selección de recursos dedicados al procesamiento del lenguaje natural.
Esta lista abarca el procesamiento del lenguaje natural: análisis lingüístico, herramientas multilingües, métodos clásicos y neuronales, conjuntos de datos y evaluación. Los modelos de lenguaje grandes solo se incluyen cuando impulsan o evalúan una tarea o capacidad básica de PLN (tokenización, multilingüismo, traducción automática, resumen, reconocimiento de entidades, preguntas y respuestas, factualidad, sondeo y destilación). Los chatbots de propósito general, los marcos de agentes, los repositorios de plantillas de prompts, las herramientas de generación de código y los kits de inicio para aplicaciones RAG aparecen en otras listas; consulta Véase también.
The Berkeley NLP Group - Entre sus contribuciones destacadas hay una herramienta para reconstruir idiomas extintos hace mucho tiempo, mencionada aquí, que toma corpus de 637 idiomas hablados actualmente en Asia y el Pacífico y reconstruye sus lenguas descendientes.
NLP research group, Columbia University - Responsable de crear BOLT (gestión interactiva de errores en sistemas de traducción del habla) y un proyecto sin nombre para caracterizar la risa en el diálogo.
Advanced NLP with spaCy - Curso gratuito en línea sobre procesamiento de texto, análisis de datos a gran escala, canalizaciones de procesamiento y entrenamiento de modelos de redes neuronales para tareas de PLN personalizadas.
Kaggle NLP Learning Guide - Tutoriales para principiantes que incluyen guías introductorias, aprendizaje profundo para PLN y explicaciones visuales de técnicas como BERT, GloVe y TF-IDF.
Deep NLP Course de Yandex Data School; aborda ideas importantes, desde las representaciones vectoriales de texto hasta la traducción automática, incluidos el modelado de secuencias, los modelos de lenguaje y otros temas.
fast.ai Code-First Intro to Natural Language Processing - Aborda una combinación de temas tradicionales de PLN (como expresiones regulares, SVD, Bayes ingenuo y tokenización) y enfoques recientes de redes neuronales (como RNN, seq2seq, GRU y Transformer), además de tratar cuestiones éticas urgentes, como el sesgo y la desinformación. Encuentra los cuadernos de Jupyter aquí.
Applied Natural Language Processing- Serie de conferencias del IIT Madras que va desde los fundamentos hasta los autocodificadores y otros temas. Los cuadernos de GitHub del curso también están disponibles aquí.
DeepLearning.AI Natural Language Processing Specialization - Programa de cuatro cursos que abarca análisis de sentimientos, representaciones vectoriales de palabras, RNN, LSTM, mecanismos de atención y modelos Transformer como BERT y T5 para tareas como la traducción automática y el resumen.
Stanford CS25: Transformers United - Serie de seminarios con conferencias invitadas de autores de investigaciones recientes sobre Transformers y PLN.
Cohere LLM University - Curso gratuito sobre LLM, representaciones vectoriales, búsqueda semántica y aplicaciones de PLN.
Hugging Face NLP Course - Curso práctico de PLN con las bibliotecas Transformers, Datasets y Tokenizers.
NLP Demystified - Curso gratuito y accesible para principiantes que abarca los fundamentos de PLN hasta los Transformers, con cuadernos de Python/Jupyter.
The Math Behind Artificial Intelligence - de Tiago Monteiro | Libro gratuito de FreeCodeCamp que enseña las matemáticas que sustentan la IA en un lenguaje claro, desde la perspectiva de la ingeniería. Abarca álgebra lineal, cálculo, probabilidad y estadística, y teoría de la optimización, con analogías, aplicaciones reales y ejemplos de código en Python.
sentimental-onix Modelos de análisis de sentimientos para spaCy mediante ONNX.
TextAttack - Ataques adversariales, entrenamiento adversarial y aumento de datos en PLN.
TextBlob - Proporciona una API coherente para explorar tareas comunes de procesamiento del lenguaje natural (PLN). Se apoya en Natural Language Toolkit (NLTK) y Pattern, y funciona bien con ambas :+1:
spaCy - PLN de nivel industrial con Python y Cython :+1:
gensim - Biblioteca de Python para realizar modelado semántico no supervisado a partir de texto sin formato :+1:
scattertext - Biblioteca de Python para generar visualizaciones d3 de las diferencias lingüísticas entre corpus.
GluonNLP Kit de herramientas de aprendizaje profundo para PLN, basado en MXNet/Gluon.
AllenNLP Biblioteca de investigación de PLN basada en PyTorch para desarrollar modelos de aprendizaje profundo de vanguardia en una amplia variedad de tareas lingüísticas.
PyTorch-NLP - Kit de herramientas de investigación de PLN diseñado para facilitar la creación rápida de prototipos, con cargadores mejorados de datos y vectores de palabras, representaciones de capas de redes neuronales y métricas comunes de PLN como BLEU.
Rosetta - Herramientas de procesamiento de texto y envoltorios (p. ej., Vowpal Wabbit).
PyNLPl - Biblioteca de procesamiento del lenguaje natural para Python. Es de propósito general y admite algunos formatos específicos, como modelos de lenguaje ARPA, tablas de frases de Moses y alineaciones de GIZA++.
foliapy - Biblioteca de Python para trabajar con FoLiA, un formato XML para anotación lingüística.
PySS3 - Paquete de Python que implementa el clasificador de texto de caja blanca SS3; incluye herramientas de visualización interactiva que explican las predicciones.
jPTDP - Kit de herramientas para el etiquetado gramatical (POS) y el análisis de dependencias conjuntos. jPTDP ofrece modelos preentrenados para más de 40 idiomas.
BigARTM - Biblioteca rápida para el modelado de temas.
Snips NLU - Biblioteca lista para producción para analizar intenciones.
Chazutsu - Biblioteca para descargar y analizar conjuntos de datos de investigación estándar de PLN.
Word Forms - Permite generar con precisión todas las formas posibles de una palabra inglesa.
NLP Architect - Biblioteca para explorar arquitecturas y técnicas de aprendizaje profundo de vanguardia para PLN y comprensión del lenguaje natural (NLU).
Flair - Marco muy sencillo para PLN multilingüe de vanguardia, basado en PyTorch. Incluye representaciones vectoriales de BERT, ELMo y Flair.
Kashgari - Marco sencillo de PLN multilingüe basado en Keras que permite crear modelos en 5 minutos para tareas de reconocimiento de entidades nombradas (NER), etiquetado gramatical (PoS) y clasificación de texto. Incluye representaciones vectoriales de BERT y word2vec.
FARM - Transferencia de aprendizaje rápida y sencilla para PLN. Proporciona modelos de lenguaje para el sector industrial y se centra en preguntas y respuestas.
Haystack - Marco integral de Python para crear interfaces de búsqueda en lenguaje natural sobre datos. Aprovecha Transformers y los avances más recientes de PLN. Admite DPR, Elasticsearch, Modelhub de Hugging Face y mucho más.
Rita DSL - DSL basado libremente en RUTA de Apache UIMA. Permite definir patrones lingüísticos (PLN basado en reglas) que luego se traducen a spaCy o, si se prefiere una solución más ligera con menos funciones, a patrones de expresiones regulares.
Transformers - Procesamiento del lenguaje natural para TensorFlow 2.0 y PyTorch.
Tokenizers - Tokenizadores optimizados para la investigación y la producción.
fairSeq Implementaciones de Facebook AI Research de modelos seq2seq de vanguardia en PyTorch.
corex_topic - Modelado jerárquico de temas con un conocimiento mínimo del dominio.
Sockeye - Kit de herramientas de traducción automática neuronal (NMT) que impulsa Amazon Translate.
DL Translate - Biblioteca de traducción basada en aprendizaje profundo para 50 idiomas, construida sobre transformers y mBART Large de Facebook.
Jury - Evaluación de resultados de modelos de PLN mediante diversas métricas automatizadas.
python-ucto - Tokenizador basado en expresiones regulares, compatible con Unicode y varios idiomas. Enlace de Python a una biblioteca de C++; admite el formato FoLiA.
Pearmut - Herramienta de anotación humana para tareas de PLN multilingües, como la traducción automática.
Stanza - Kit de herramientas de Python de Stanford NLP para tokenización, etiquetado gramatical (POS), lematización, análisis de dependencias y reconocimiento de entidades nombradas (NER) en más de 70 idiomas.
Sentence-Transformers - Representaciones vectoriales de oraciones/documentos, búsqueda semántica y reordenamiento; estándar actual para PLN orientado a la recuperación.
Argilla - Plataforma de código abierto para anotación de datos y recopilación de comentarios sobre conjuntos de datos de LLM y PLN.
HuggingFace Datasets - Cargadores y procesamiento estandarizados para miles de conjuntos de datos de PLN.
sacrebleu - Puntuación reproducible de BLEU/chrF/TER para traducción automática.
COMET - Métricas de traducción automática aprendidas, el estándar de facto actual.
LangTest - Más de 60 tipos de pruebas de robustez, sesgo e imparcialidad de modelos de PLN.
yasbd-lib - Detector de límites de oraciones (SBD) de alta precisión basado en reglas. Adaptador directo de pysbd, API de transmisión, CLI y componente de spaCy para más de 39 idiomas.
InsNet - Biblioteca de redes neuronales para crear modelos de PLN dependientes de instancias con procesamiento por lotes dinámico sin relleno.
MIT Information Extraction Toolkit - Herramientas en C, C++ y Python para el reconocimiento de entidades nombradas y la extracción de relaciones.
CRF++ - Implementación de código abierto de campos aleatorios condicionales (CRF) para segmentar/etiquetar datos secuenciales y otras tareas de procesamiento del lenguaje natural.
CRFsuite - CRFsuite implementa campos aleatorios condicionales (CRF) para etiquetar datos secuenciales.
BLLIP Parser - Analizador de lenguaje natural BLLIP (también conocido como analizador Charniak-Johnson).
colibri-core - Biblioteca de C++, herramientas de línea de comandos y enlace para Python para extraer y procesar construcciones lingüísticas básicas, como n-gramas y skip-grams, de forma rápida y eficiente en memoria.
ucto - Tokenizador basado en expresiones regulares, compatible con Unicode y varios idiomas. Herramienta y biblioteca de C++; admite el formato FoLiA.
frog - Conjunto de herramientas de PLN basado en memoria, desarrollado para neerlandés: etiquetador PoS, lematizador, analizador de dependencias, NER, analizador superficial y analizador morfológico.
MeTA - ModErn Text Analysis: kit de herramientas de ciencia de datos en C++ para extraer información de grandes volúmenes de texto.
ReVerb Extracción abierta de información a escala web.
OpenRegex Lenguaje y motor eficientes y flexibles de expresiones regulares basadas en tokens.
CogcompNLP - Bibliotecas centrales desarrolladas por el Grupo de Computación Cognitiva de la Universidad de Illinois.
MALLET - MAchine Learning for LanguagE Toolkit: paquete para procesamiento estadístico del lenguaje natural, clasificación y agrupación de documentos, modelado de temas, extracción de información y otras aplicaciones de aprendizaje automático sobre texto.
RDRPOSTagger - Kit robusto de etiquetado gramatical (POS) para Java y Python, junto con modelos preentrenados para más de 40 idiomas.
tm - Implementación de modelado de temas basada en PLSA multilingüe regularizada.
word2vec-scala - Interfaz de Scala para modelos word2vec; incluye operaciones con vectores, como distancia entre palabras y analogías.
Epic - Epic es un analizador estadístico de alto rendimiento escrito en Scala, junto con un marco para crear modelos complejos de predicción estructurada.
Spark NLP - Spark NLP es una biblioteca de procesamiento del lenguaje natural basada en Apache Spark ML. Ofrece anotaciones de PLN sencillas, eficientes y precisas para canalizaciones de aprendizaje automático que escalan fácilmente en entornos distribuidos.
Amazon Comprehend - Conjunto de herramientas de PLN y aprendizaje automático que cubre la mayoría de las tareas habituales, como NER, etiquetado y análisis de sentimientos.
Google Cloud Natural Language API - Análisis sintáctico, NER, análisis de sentimientos y etiquetado de contenido en al menos 9 idiomas, incluidos inglés y chino (simplificado y tradicional).
ParallelDots - Servicio API de análisis de texto de alto nivel, desde el análisis de sentimientos hasta el análisis de intenciones.
Textalytic - Procesamiento del lenguaje natural en el navegador, con análisis de sentimientos, extracción de entidades nombradas, etiquetado gramatical, frecuencias de palabras, modelado de temas, nubes de palabras y más.
NLP Cloud - Modelos de PLN de spaCy, personalizados y preentrenados, ofrecidos mediante una API RESTful para reconocimiento de entidades nombradas (NER), etiquetado gramatical y más.
Cloudmersive - API de PLN unificadas y gratuitas para etiquetado del habla, reformulación de texto, traducción/detección de idiomas, análisis de oraciones y otras acciones.
GATE - Arquitectura general e ingeniería de texto: más de 15 años de trayectoria, gratuita y de código abierto.
Anafora es una herramienta web gratuita y de código abierto para anotar texto sin procesar.
brat - brat es un entorno en línea de anotación rápida y colaborativa de texto.
doccano - doccano es gratuito y de código abierto, y ofrece funciones de anotación para clasificación de texto, etiquetado de secuencias y tareas de secuencia a secuencia.
INCEpTION - Plataforma de anotación semántica que ofrece asistencia inteligente y gestión del conocimiento.
prodigy es una herramienta de anotación basada en aprendizaje activo; tiene un coste.
LightTag - Herramienta de anotación de texto alojada y gestionada para equipos; tiene un coste.
rstWeb - Herramienta local o en línea de código abierto para anotaciones de árboles discursivos.
GitDox - Herramienta de anotación de servidor de código abierto con control de versiones de GitHub y validación de datos XML y cuadrículas de hojas de cálculo colaborativas.
Datasaur Admite diversas tareas de PLN para personas o equipos y ofrece un plan freemium.
Konfuzio - Herramienta de anotación de texto, imágenes y PDF, alojada o local, pensada para equipos y basada en aprendizaje activo; ofrece un plan freemium y tiene un coste.
UBIAI - Herramienta de anotación de texto fácil de usar para equipos, con funciones integrales de anotación automática. Admite NER, relaciones y clasificación de documentos, así como anotación OCR para etiquetar facturas; tiene un coste.
Shoonya - Shoonya es una plataforma gratuita y de código abierto para anotación de datos, con diversas opciones de gestión a nivel de organización y espacio de trabajo. No depende del tipo de datos y permite a los equipos anotar datos a escala con varios niveles de verificación.
Annotation Lab - Plataforma integral gratuita y sin código para anotar texto y entrenar/ajustar modelos de aprendizaje profundo. Admite de forma inmediata modelos Spark NLP para reconocimiento de entidades nombradas, clasificación, extracción de relaciones y estado de afirmaciones. Usuarios, equipos, proyectos y documentos ilimitados. No es software libre de código abierto.
FLAT - FLAT es un entorno web de anotación lingüística basado en el formato FoLiA, un formato enriquecido basado en XML para anotación lingüística. Gratuito y de código abierto.
Argilla - Plataforma de código abierto para recopilar comentarios de personas, crear conjuntos de datos de PLN y LLM, y seleccionar datos de preferencias.
Label Studio - Plataforma multimodal de etiquetado con núcleo abierto, muy utilizada para etiquetar datos de PLN.
Potato - Herramienta de anotación gratuita y de código abierto que cubre más de 21 tipos de tareas (clasificación, segmentos, correferencia, vinculación de entidades y evaluación de trazas de agentes), con control de calidad MACE integrado, comprobaciones de atención, etiquetado asistido por IA y más de 300 tareas de ejemplo.
Tareas de PLN organizadas por problema lingüístico. Cada subsección presenta primero trabajos fundacionales/clásicos, después enfoques neuronales y, cuando corresponde, métodos basados en LLM. Para investigaciones modernas específicas de modelos de lenguaje (preentrenamiento, evaluación, recuperación, razonamiento, etc.), consulta Modelos de lenguaje para PLN.
fastText - implementación; los n-gramas de subpalabras gestionan bien las palabras fuera del vocabulario (OOV) y siguen siendo útiles para idiomas con pocos recursos.
sense2vec - desambiguación del sentido de las palabras.
ELMo - representaciones de palabras profundamente contextualizadas.
CoVe - representaciones vectoriales contextualizadas aprendidas mediante traducción automática.
ULMFiT - ajuste fino de modelos de lenguaje para clasificación de texto.
InferSent - representaciones de oraciones obtenidas a partir de inferencia en lenguaje natural (NLI).
Representaciones vectoriales modernas de oraciones y documentos: consulta Recuperación para PLN (Sentence-Transformers, E5, BGE-M3, Nomic y GritLM) y MTEB para ver las tablas de clasificación actuales.
Byte Latent Transformer (BLT) (Meta, 2024) - fragmentación dinámica a nivel de bytes que iguala a los modelos tokenizados con BPE a gran escala; retoma el enfoque sin tokenizador.
SuperBPE (2025) - tokenización de superpalabras que mejora BPE en tareas posteriores.
Over-Tokenized Transformer (ICML 2025) - desacopla los vocabularios de entrada y salida; muestra una relación log-lineal entre el tamaño del vocabulario de entrada y la pérdida de entrenamiento, y permite escalar el vocabulario independientemente del tamaño del modelo.
Foundations of Tokenization (ICLR 2025) - primer marco unificado formal para modelos de tokenizadores que utiliza teoría de categorías con aplicaciones estocásticas; establece condiciones para la consistencia estadística.
The Token Tax: Systematic Bias in Multilingual Tokenization (2025) - cuantifica cómo la fertilidad de la tokenización predice la precisión del modelo entre idiomas, y revela penalizaciones estructurales de coste para idiomas morfológicamente complejos y con pocos recursos.
Reducing Tokenization Premiums for Low-Resource Languages (2026) - añade vocabulario a posteriori para agrupar secuencias de caracteres de varios tokens en idiomas con pocos recursos, reduciendo el coste de inferencia sin reentrenamiento.
Generative NER in the Era of LLMs (2026) - ocho LLM abiertos en cuatro pruebas de referencia de NER; PEFT con salidas estructuradas iguala el rendimiento de NER basado en codificadores.
Multilingual MT with Open LLMs at Practical Scale (2025) - evalúa LLM abiertos de menos de 10.000 millones de parámetros en traducción automática a 28 idiomas; iguala a GPT-4-turbo y Google Translate.
Bridging the Linguistic Divide: Survey on LLMs for MT (2025) - revisión de cómo el seguimiento de instrucciones, el aprendizaje en contexto y la alineación de preferencias han reestructurado la metodología de traducción automática.
REBEL - extracción de relaciones de extremo a extremo.
DocRED - prueba de referencia para extracción de relaciones a nivel de documento.
LLMs for Semantic Role Labeling (2025) - los LLM generativos con RAG y autocorrección superan a los modelos de estilo BERT de codificador-decodificador en etiquetado semántico de roles (SRL) en inglés y chino.
Adapting LLMs for Minimal-edit GEC (2025) - los LLM de solo decodificador, con un novedoso programa de adaptación de la tasa de errores, establecen un nuevo estado del arte en la corrección gramatical del inglés en BEA-test.
ColBERT y ColBERTv2 - recuperación de interacción tardía; sólido rendimiento fuera de dominio.
E5 y E5-Mistral - familias de representaciones vectoriales densas ampliamente utilizadas.
BGE y BGE-M3 (2024) - representaciones vectoriales multilingües y multifuncionales; entre las mejores de MTEB en varios idiomas.
Nomic Embed (2024) - modelo de representaciones vectoriales completamente abierto y reproducible.
Matryoshka Representation Learning - representaciones vectoriales anidadas que permiten variar la dimensionalidad durante la inferencia.
GritLM (2024) - generación y representaciones vectoriales unificadas con un solo modelo.
RAG (Retrieval-Augmented Generation) - marco original de generación aumentada por recuperación; base de las canalizaciones modernas de preguntas y respuestas.
Gemini Embedding (2025) - representaciones vectoriales densas derivadas de Gemini; estado del arte en MMTEB en más de 250 idiomas y en recuperación interlingüística (XOR-Retrieve, XTREME-UP).
Qwen3-Embedding (2025) - serie de representaciones vectoriales basadas en decodificador (0,6-8 mil millones de parámetros) construida sobre Qwen3; número uno en MTEB Multilingual y MTEB Code, por delante de modelos propietarios anteriores.
Rank1 (2025) - primer modelo de reordenamiento entrenado con cómputo durante la inferencia mediante destilación de trazas de razonamiento de DeepSeek-R1; estado del arte en seguimiento de instrucciones y recuperación fuera de distribución.
ReasonEmbed (2025) - modelo de representaciones vectoriales para recuperación intensiva en razonamiento, con síntesis de datos ReMixer y entrenamiento adaptativo Redapter; récord de nDCG@10 de 38,1 en BRIGHT.
ColBERT-Att (2026) - amplía la recuperación de interacción tardía al integrar los pesos de atención de consultas y documentos en la puntuación de ColBERT; mejora la exhaustividad en MS-MARCO, BEIR y LoTTE.
Pruebas de referencia de representaciones vectoriales y recuperación:
MMTEB (2025) - ampliación comunitaria de MTEB a más de 500 tareas en más de 250 idiomas.
Una breve selección, ya que este tema limita con campos adyacentes:
Whisper - reconocimiento automático del habla (ASR) multilingüe; opción abierta moderna predeterminada.
SeamlessM4T - traducción unificada de voz y texto.
Canary (NVIDIA, 2024) - mejor modelo abierto de ASR multilingüe.
FunASR - kit de herramientas de ASR de nivel industrial; 170× en tiempo real en GPU, más de 50 idiomas, detección de actividad de voz, puntuación, diarización de hablantes y detección de emociones integradas. Incluye SenseVoice no autorregresivo y los modelos Fun-ASR-Nano basados en LLM.
Wav2Vec 2.0 - preentrenamiento autosupervisado fundacional del habla.
RedPajama / RedPajama-V2 (2023-2024) - reproducciones de los datos de preentrenamiento de LLaMA; V2 contiene 30 billones de tokens con señales de calidad.
Dolma (AI2, 2023-2024) - corpus abierto de preentrenamiento de 3 billones de tokens con canalización de filtrado documentada.
FineWeb / FineWeb-Edu (2024) - corpus web depurado de 15 billones de tokens; FineWeb-Edu filtra por calidad educativa.
UDPipe es una canalización entrenable para tokenizar, etiquetar, lematizar y analizar Universal Treebanks y otros archivos CoNLL-U. Está escrita principalmente en C++ y ofrece una solución rápida y fiable para el procesamiento multilingüe del PLN.
NLP-Cube : Canalización de procesamiento del lenguaje natural: segmentación de oraciones, tokenización, lematización, etiquetado gramatical y análisis de dependencias. Plataforma nueva, escrita en Python con Dynet 2.0. Ofrece funcionalidad independiente (enlaces CLI/Python) y de servidor (API REST).
UralicNLP es una biblioteca de PLN destinada principalmente a numerosas lenguas urálicas en peligro, como las sami, mordvinas, mari y komi. También admite lenguas no amenazadas, como el finés, y lenguas no urálicas, como el sueco y el árabe. UralicNLP permite realizar análisis morfológico, generación, lematización y desambiguación.
Modelos de lenguaje preentrenados y su investigación, centrados en tareas de PLN y fenómenos lingüísticos. Para herramientas de LLM de propósito general, agentes o kits de aplicaciones RAG, consulta Véase también.
Codificadores (aún son el caballo de batalla de las tareas clásicas de PLN):
BERT - preentrenamiento con Transformer bidireccional; base de la mayoría del trabajo de PLN basado en codificadores desde 2018. Leer en línea con navegación por secciones y el artículo de ACL adjunto.
RoBERTa - preentrenamiento BERT optimizado de forma robusta; línea de base habitual para codificadores.
ELECTRA - preentrenamiento con detección de tokens reemplazados, eficiente en muestras.
ModernBERT (2024) - codificador modernizado con representaciones rotatorias, FlashAttention y contexto de 8K; opción actual de referencia para clasificación, NER y recuperación.
NeoBERT (2025) - codificador de 250 millones de parámetros que integra mejoras de arquitectura modernas (RoPE, contexto de 4K y profundidad/anchura optimizadas); estado del arte en MTEB, por delante de ModernBERT y RoBERTa-large con el mismo ajuste fino.
Codificador-decodificador y seq2seq:
T5 y FLAN-T5 - enfoque de texto a texto para tareas de PLN; sólidas líneas de base de codificador-decodificador ajustadas por instrucciones.
BART - preentrenamiento seq2seq de eliminación de ruido; ampliamente utilizado para resumir y generar.
LLM abiertos de solo decodificador (usados como base para tareas de PLN):
Llama 3 / 3.1 / 3.3 (Meta, 2024-2025) - familia de pesos abiertos ampliamente adoptada; base predeterminada para el ajuste fino en tareas de PLN.
Qwen 2.5 / Qwen 3 (Alibaba, 2024-2025) - amplia cobertura multilingüe, especialmente del chino; suele ser el mejor modelo abierto en pruebas de referencia multilingües.
DeepSeek-V3 (2024) - preentrenamiento MoE eficiente; modelo base abierto competitivo.
OLMo 2 (AI2, 2025) - totalmente abierto: pesos, datos de entrenamiento y código; prueba de referencia de reproducibilidad.
Gemma 2 / Gemma 3 (Google, 2024-2025) - modelos abiertos pequeños y medianos con gran rendimiento en tareas de PLN.
BLOOM - LLM abierto de 176.000 millones de parámetros y 46 idiomas naturales.
Aya 23 / Aya Expanse (Cohere For AI, 2024) - modelos ajustados por instrucciones de gran cobertura multilingüe, con 23-101 idiomas.
Glot500 - codificador para más de 500 idiomas, centrado en idiomas con pocos recursos.
NLLB-200 - No Language Left Behind: traducción automática para 200 idiomas.
MADLAD-400 - modelo de traducción automática para más de 400 idiomas y corpus multilingüe de 3 billones de tokens.
SeamlessM4T / Seamless (Meta, 2023-2024) - traducción multimodal de voz y texto en más de 100 idiomas.
SEA-LION / SeaLLM (2024-2025) - LLM dirigidos a idiomas del sudeste asiático.
Babel (2025) - LLM multilingües abiertos (9.000 y 83.000 millones de parámetros) que cubren los 25 idiomas con más hablantes (~90 % de los hablantes del mundo); superan a modelos abiertos multilingües de tamaño comparable en XCOPA, XNLI, MGSM y FLORES-200.
Lugha-Llama (Princeton/Mila, 2025) - Llama-3.1-8B adaptado a idiomas africanos con pocos recursos mediante el corpus WURA seleccionado; resultados de vanguardia de código abierto en IrokoBench y AfriQA.
AfriqueLLM (McGill, 2026) - conjunto de LLM abiertos (4.000-14.000 millones de parámetros) con preentrenamiento continuo sobre 26.000 millones de tokens en 20 idiomas africanos y un estudio empírico exhaustivo de la mezcla de datos.
TranslateGemma (Google, 2026) - modelos abiertos especializados en traducción, basados en Gemma 3, que cubren 55 pares de idiomas mediante SFT y aprendizaje por refuerzo con modelos de recompensa de calidad.
MiLMMT-46 (Xiaomi, 2026) - traducción automática multilingüe abierta ampliada a 46 idiomas, a la par de sistemas comerciales como Google Translate y Gemini 3 Pro.
XNLI - inferencia en lenguaje natural interlingüística en 15 idiomas.
FLORES-200 - evaluación de traducción automática en 200 idiomas.
MTEB - prueba de referencia masiva de representaciones vectoriales de texto; estándar para codificadores de oraciones/documentos.
BEIR - prueba de referencia heterogénea de recuperación de información para modelos de recuperación.
Evaluación moderna de LLM (2023-2026):
HELM - evaluación integral de tareas de PLN, precisión y otros aspectos.
BIG-bench - más de 200 tareas que examinan las capacidades de los modelos de lenguaje.
MMLU - evaluación de conocimientos multitarea en 57 materias.
MMLU-Pro (2024) - sucesor más difícil y discriminativo de MMLU.
GPQA - preguntas y respuestas de nivel de posgrado; evaluación del razonamiento «a prueba de Google».
REFUTE (2026) - prueba de referencia de razonamiento científico para crítica basada en evidencia, detección de afirmaciones exageradas, rechazo por falta de evidencia y calibración.
IFEval - evaluación verificable del seguimiento de instrucciones.
Chatbot Arena (LMSYS) - tabla de clasificación ELO de preferencias humanas para modelos de chat.
LiveBench (2024) - prueba de referencia resistente a la contaminación con actualización mensual.
LM Evaluation Harness - marco unificado para evaluar pruebas de referencia de modelos de lenguaje.
MMLU-ProX (2025) - ampliación multilingüe de MMLU-Pro a 29 idiomas tipológicamente diversos; revela una brecha de rendimiento de hasta el 24,3 % entre idiomas con muchos y pocos recursos.
MultiChallenge (2025) - prueba de referencia conversacional de varios turnos que expone fallos simultáneos en el seguimiento de instrucciones y el razonamiento en contexto; todos los modelos de vanguardia evaluados obtienen menos del 50 %.
FRAMES (2025) - evaluación unificada de RAG: 824 preguntas de varios pasos que requieren conjuntamente factualidad, precisión de recuperación y razonamiento entre documentos.
RULER (2024) - tareas sintéticas de contexto largo que van más allá de la recuperación simple.
LongBench - prueba de referencia bilingüe de contexto largo en tareas de PLN.
LongBench v2 (2025) - 503 preguntas de opción múltiple elaboradas por expertos, con contextos de 8.000 a 2 millones de palabras y razonamiento profundo de varios pasos; las personas obtienen un 53,7 % bajo presión de tiempo.
U-NIAH (2025) - amplía la prueba de aguja en un pajar con configuraciones de varias agujas y anidadas; muestra que RAG mitiga la pérdida de información intermedia en LLM pequeños, pero deteriora el razonamiento de los modelos.
Una tendencia que definió el período 2024-2026: modelos que generan trazas explícitas de razonamiento y se benefician de más cómputo durante la inferencia.
Chain-of-Thought Prompting - resultado fundacional: los pasos intermedios de razonamiento mejoran el rendimiento.
Self-Consistency - votación mayoritaria entre cadenas de CoT muestreadas.
s1: Simple Test-Time Scaling (2025) - receta de razonamiento abierto pequeño mediante imposición de límites de presupuesto.
Kimi k1.5 (2025) - aprendizaje por refuerzo de contexto largo con optimización de políticas (sin MCTS ni PRM) que alcanza un rendimiento de nivel o1; introduce destilación de CoT largo en modelos de CoT corto.
rStar-Math (2025) - modelo de políticas pequeño emparejado con un modelo de preferencias de proceso entrenado mediante ejecuciones de MCTS; permite a los LLM pequeños iniciar el razonamiento sin destilar modelos mayores.
DAPO (2025) - sistema abierto de entrenamiento por RL basado en GRPO con cuatro mejoras clave (recorte desacoplado, muestreo dinámico, pérdida por token y bonificación de entropía); reproduce y supera el razonamiento de nivel DeepSeek-R1-Zero.
VAPO (2025) - RL basado en modelos de valor, con GAE adaptativo a la longitud y recorte por token; supera a los métodos GRPO sin valor en AIME 2024 con entrenamiento estable.
ThinkPRM (2025) - modelos generativos de recompensa de proceso que generan verificación de cadena de pensamiento en cada paso e igualan a los PRM discriminativos con el 1 % de las etiquetas de supervisión.
OpenThoughts (2025) - más de 1000 experimentos controlados sobre recetas de datos para modelos de razonamiento abiertos; estado del arte en AIME 2025, a la par de las líneas de base de destilación cerradas.
Lost in the Middle - patrones de degradación en tareas de PLN con contexto largo.
RAG vs Long-Context LLMs (2024) - compensaciones en preguntas y respuestas sobre entradas largas.
Titans: Learning to Memorize at Test Time (2025) - módulo de memoria neuronal a largo plazo que aprende a memorizar el contexto histórico en tiempo de prueba; escala a más de 2 millones de tokens y supera a Transformers y modelos recurrentes lineales modernos en modelado del lenguaje y razonamiento.
MiniMax-01 (2025) - híbrido de 456.000 millones de parámetros que combina atención lightning (lineal) con atención softmax dispersa; iguala el rendimiento de PLN de GPT-4o con contextos de inferencia de hasta 4 millones de tokens.
Native Sparse Attention (NSA) (2025) - atención dispersa entrenable que combina compresión de grano grueso con selección de grano fino; acelera notablemente el procesamiento a 64K sin degradar las pruebas de referencia de PLN.
LongRoPE2 (2025) - detecta el subentrenamiento de dimensiones RoPE de alta frecuencia y aplica reescalado por búsqueda evolutiva; amplía LLaMA3-8B a 128K con 80 veces menos tokens de entrenamiento que la receta de Meta.
Characterizing SSM and Hybrid LM Long-Context Performance (2025) - primer análisis exhaustivo de memoria y velocidad de Transformers, SSM e híbridos hasta 220K tokens; los SSM son hasta 4 veces más rápidos y los híbridos equilibran recuperación y eficiencia.
HalluLens (2025) - prueba de referencia de alucinaciones con taxonomía extrínseca/intrínseca y regeneración dinámica del conjunto de prueba para resistir fugas de datos.
Atomic Calibration (2025) - análisis de calibración a nivel de afirmación para generación extensa; los modelos están mucho peor calibrados en respuestas largas que en afirmaciones individuales.
FRANQ (2025) - cuantificación de incertidumbre consciente de la fidelidad para verificar datos en RAG; distingue formalmente fidelidad y factualidad.
MUCH (2025) - prueba multilingüe de alucinaciones en afirmaciones en inglés, francés, español y alemán, con logits por token publicados para una evaluación rigurosa de la cuantificación de incertidumbre.
HalluHard (2026) - prueba de referencia difícil, de varios turnos, para alucinaciones en respuestas que requieren citas; persisten tasas de alucinación de alrededor del 30 % incluso con búsqueda web.
CURE: Think Through Uncertainty (2026) - entrena modelos para razonar sobre la incertidumbre a nivel de afirmación antes de generar; mejora sustancialmente la factualidad biográfica y el AUROC de FactBench.
Circuit Tracing: Revealing Computational Graphs in Language Models (Anthropic, 2025) - introduce transcodificadores entre capas y grafos de atribución para construir un modelo sustituto interpretable; permite rastrear circuitos causales entre características a nivel de prompt.
On the Biology of a Large Language Model (Anthropic, 2025) - aplica grafos de atribución a Claude 3.5 Haiku en estudios de razonamiento de varios pasos, planificación de rimas y jailbreaks.
Transcoders Beat Sparse Autoencoders for Interpretability (2025) - muestra que los transcodificadores (que reconstruyen las salidas de capa a partir de las entradas) producen características más interpretables que los SAE; introduce transcodificadores de salto.
DistilBERT y MiniLM - codificadores destilados para PLN en producción.
Phi-3 / Phi-4 (Microsoft, 2024) - modelos pequeños entrenados con datos seleccionados que compiten con otros mucho mayores en pruebas de referencia de PLN.
SmolLM2 (HuggingFace, 2025) - familia de modelos de lenguaje pequeños, totalmente abierta y con datos de entrenamiento reproducibles.
SmolLM3 (HuggingFace, 2025) - decodificador de 3.000 millones de parámetros totalmente abierto, preentrenado con 11,2 billones de tokens, NoPE y YaRN para un contexto de 128K; competitivo con modelos de 4.000 millones de parámetros.
Gemma 3 Technical Report (Google, 2025) - modelos abiertos de 1.000 a 27.000 millones de parámetros con una alta proporción de atención local a global para mantener manejable la caché KV en contexto de 128K.
Qwen3 Technical Report (Alibaba, 2025) - modelos densos y MoE de 0,6 a 235 mil millones de parámetros con modos unificados de razonamiento y no razonamiento; el MoE 30B-A3B iguala a modelos densos mayores activando solo 3.000 millones de parámetros.
Apple Intelligence Foundation Language Models (Apple, 2025) - modelo de 3.000 millones de parámetros para dispositivos, con uso compartido de caché KV y QAT de 2 bits que reduce un 37,5 % la memoria de caché sin pérdida de precisión.
Sentence-Transformers - representaciones vectoriales de oraciones y párrafos mediante BERT siamés.
SetFit - clasificación de texto con pocos ejemplos y sin prompts.
FastFit - clasificación rápida con pocos ejemplos en escenarios con muchas clases.
GTE, BGE y Stella - modelos compactos de representaciones vectoriales de texto entre los mejores de MTEB.
Cuantización, inferencia y servicio:
GPTQ - cuantización posterior al entrenamiento para Transformers.
AWQ - cuantización de pesos consciente de las activaciones.
KVTuner (ICML 2025) - cuantización de caché KV mixta por capas y consciente de la sensibilidad; mejora el rendimiento hasta un 21 % frente a KV8 uniforme.
Tülu 3 (AI2, 2024) - receta de posentrenamiento totalmente abierta con resultados de vanguardia entre modelos abiertos.
LIMA - «menos es más para la alineación»; pocos datos SFT de alta calidad pueden lograr mucho.
TRL - biblioteca de referencia para SFT, DPO, GRPO y RLHF.
Magpie (2024-2025) - sintetiza pares de instrucciones y respuestas de alta calidad mediante prompts sin ejemplos a LLM alineados; el ajuste fino supervisado del subconjunto filtrado iguala a Llama-3-Instruct oficial.
WildGuard (2024) - modelo abierto de moderación de seguridad y prueba de referencia.
Emergent Misalignment (2025) - el ajuste fino en una tarea restringida (código inseguro) provoca inesperadamente fallos generales de alineación en ámbitos no relacionados.
SafeDialBench (2025) - prueba de seguridad multilingüe (chino e inglés) con más de 4000 diálogos de varios turnos, 22 escenarios y 7 estrategias de jailbreak.
TeleAI-Safety (2025) - marco modular de evaluación de jailbreaks que integra 19 ataques, 29 defensas y 19 métodos de evaluación en 14 modelos y 12 categorías de riesgo.
IndicSafe (2026) - prueba de seguridad multilingüe en 12 idiomas índicos; revela un acuerdo interlingüístico del 12,8 % y un exceso de rechazos en escrituras de pocos recursos.
VLAF: Value-Conflict Alignment Faking (2026) - la simulación de alineación aparece en modelos de tan solo 7B en el 37 % de los casos cuando la política entra en conflicto con valores internalizados; la mitigación con vectores de dirección la reduce un 94 %.
German-NLP - lista seleccionada de recursos y herramientas de acceso abierto, código abierto y disponibles comercialmente, desarrollados con un enfoque en alemán.
IndoBERT (IndoNLU) - modelo de lenguaje indonesio preentrenado con el conjunto de pruebas de referencia IndoNLU.
IndoBERT (IndoLEM) - alternativa a IndoBERT con la prueba de referencia IndoLEM.
NusaCrowd / Cendol (2023-2024) - conjuntos de datos comunitarios a gran escala y LLM Cendol ajustados por instrucciones para indonesio e idiomas regionales.
Sailor - LLM abiertos del sudeste asiático que cubren el indonesio.
SEA-LION (2024) - LLM abierto de Singapore AI para el sudeste asiático, con gran rendimiento en indonesio.
Wordnet-Bahasa - diccionario semántico amplio y gratuito.
SEACrowd - Centro de datos multilingüe y multimodal que ofrece conjuntos de datos y pruebas de referencia estandarizados para el PLN del sudeste asiático (EMNLP 2024).
Garu - Analizador morfológico de coreano nativo del navegador, ejecutado íntegramente en el cliente mediante WebAssembly (modelo de 1 MB, sin conexión, licencia MIT).
Bijankhan Corpus - corpus etiquetado apto para investigación de PLN en persa (farsi), con unos 2,6 millones de palabras etiquetadas manualmente en 40 etiquetas POS.
Uppsala Persian Corpus (UPC) - amplio corpus persa de libre acceso: 2,7 millones de tokens anotados con 31 etiquetas POS.
Large-Scale Colloquial Persian - LSCP: 120 millones de oraciones de 27 millones de tuits coloquiales en persa, con anotaciones de dependencias, POS y sentimientos.
ArmanPersoNERCorpus - 250.000 tokens y 7682 oraciones con etiquetas NER en formato IOB.
spanlp - Biblioteca de Python para detectar, censurar y limpiar obscenidades, discursos de odio y acoso en español, con datos de 21 países hispanohablantes.
SOAS English-Uzbek RAG Evaluation - Prueba de referencia bilingüe para evaluar la recuperación en RAG con fundamento cultural. 400 filas, EN+UZ, MIT/CC-BY-4.0.
ViText2SQL - conjunto de datos de análisis semántico de vietnamita a SQL (EMNLP-2020 Findings).
EVB Corpus - 20 millones de palabras en 15 libros bilingües, 100 textos paralelos inglés-vietnamita, 250 textos jurídicos paralelos, 5000 artículos periodísticos y 2000 subtítulos de películas.
HagiCode es un espacio de programación con agentes. Las interacciones de interfaz, ricas y cómodas, hacen que planificar, ejecutar agentes y trabajar en proyectos sea accesible y fácil de seguir, para una experiencia de desarrollo atractiva.
Una experiencia de desarrollo atractiva gracias a interacciones de interfaz ricas y cómodas.
InteligenteLos flujos de trabajo de OpenSpec convierten la intención en un itinerario ejecutable, de la propuesta al diseño, las tareas y la entrega.
EficienteLa ejecución multiagente avanza en paralelo con la investigación, la implementación y la revisión, en varios repositorios y con los Agent CLI que ya usas.
InteresanteLas interacciones de interfaz, ricas y cómodas, hacen que planificar, ejecutar agentes y trabajar en proyectos sea accesible y fácil de seguir.
HagiCode hace que la planificación, la ejecución de agentes y el trabajo en proyectos sean accesibles mediante interacciones de interfaz ricas y cómodas: https://www.hagicode.com/
Convierte ideas en software entregado.
HagiCode es un espacio de trabajo de programación con agentes: los flujos de trabajo de OpenSpec planifican el cambio, la ejecución multiagente lo lleva a cabo y Hero Scenario hace visible el largo recorrido, para convertir ideas en software entregado.
La reproducción de sesiones (cuando un proveedor graba sesiones) forma parte del análisis. Ningún proveedor graba la pantalla. (Google Analytics, 51LA, PostHog)
