¿Qué es un LLM? Los grandes modelos de lenguaje explicados (2026)

Un gran modelo de lenguaje (LLM, por sus siglas en inglés) es una red neuronal entrenada con enormes cantidades de texto para predecir el siguiente token de una secuencia. Ese único objetivo explica todo lo que hace un chatbot: responder preguntas, escribir código, resumir documentos y traducir. Herramientas como ChatGPT, Claude y Gemini se basan en modelos de este tipo.

Esta guía repasa los componentes básicos en orden: tokens, entrenamiento, parámetros, ventanas de contexto, alucinaciones y la división entre modelos abiertos y cerrados. Los nombres de los modelos, los precios y los límites cambian con rapidez. Por eso, las cifras que aparecen a continuación llevan fecha, y conviene consultar la documentación oficial de cada proveedor para conocer los datos actuales.

¿Qué es un LLM y qué lo hace “grande”?

El término “grande” se refiere a dos cosas. La primera es el volumen de datos de entrenamiento. La segunda es el número de valores internos ajustables, llamados parámetros. Para hacerse una idea de la escala, Meta afirmó en abril de 2024 que Llama 3 se entrenó con más de 15 billones de tokens.

Casi todos los LLM modernos se basan en la arquitectura Transformer. Investigadores de Google la presentaron en el artículo “Attention Is All You Need”, publicado en junio de 2017. Su idea central es la autoatención, que permite al modelo valorar cuánta relevancia tiene cada parte del texto para procesar cada fragmento.

¿Qué son los tokens en un LLM?

Los modelos no leen palabras, sino tokens: fragmentos de subpalabras generados por algoritmos como la codificación por pares de bytes (BPE, por sus siglas en inglés). Una palabra común puede ser un solo token, mientras que una poco frecuente se divide en varios fragmentos.

La regla general de OpenAI para el inglés es que un token equivale a unos cuatro caracteres, o aproximadamente tres cuartas partes de una palabra. Con ese criterio, 100 tokens son unas 75 palabras.

La proporción varía según el idioma. Las lenguas aglutinantes, como el turco, en las que las palabras largas se forman con muchos sufijos, suelen dividirse en más tokens que un texto en inglés con el mismo significado. Investigaciones como la de Petrov et al. (2023) han documentado este tipo de desigualdad de los tokenizadores entre idiomas, aunque los tokenizadores más recientes han reducido la brecha.

Los tokens importan porque el uso de las API suele facturarse por millón de tokens de entrada y de salida, y los de salida cuestan más. Más tokens significan más coste y una ventana de contexto que se llena más rápido. Los precios cambian con frecuencia, así que conviene consultar las páginas de precios de OpenAI, Anthropic o Google para conocer las tarifas actuales.

¿Cómo se entrenan los grandes modelos de lenguaje?

El entrenamiento suele desarrollarse por etapas. La primera es el preentrenamiento. Aquí el modelo aprende prediciendo el siguiente token a partir de billones de tokens de texto web, libros y código, un método conocido como aprendizaje autosupervisado. El resultado comprende el lenguaje, pero todavía no se comporta como un asistente.

Después viene el ajuste fino o ajuste por instrucciones, en el que se muestran al modelo ejemplos de buenas respuestas. Luego llega la alineación. El método de alineación más conocido es el aprendizaje por refuerzo a partir de retroalimentación humana (RLHF), popularizado por el artículo InstructGPT de OpenAI, publicado en 2022. La IA Constitucional de Anthropic, también de 2022, es una variante de este enfoque.

Desde finales de 2024, aproximadamente, se han sumado los modelos de razonamiento. Entre ellos están o1 de OpenAI y DeepSeek-R1, lanzado en enero de 2025. Estos modelos se entrenan con aprendizaje por refuerzo para resolver un problema antes de responder, y para ello dedican más cómputo en el momento de la respuesta.

Los costes de entrenamiento son difíciles de determinar. Se informa de que los entrenamientos de los modelos más avanzados cuestan decenas o cientos de millones de dólares, pero se trata de estimaciones y no de cifras oficiales. La cifra muy citada de unos 5,6 millones de dólares para DeepSeek V3 solo cubre las horas de GPU de la última ejecución de entrenamiento, no los costes totales, y está en disputa.

¿Qué son los parámetros y es mejor que sean más?

Los parámetros son los pesos numéricos que un modelo aprende durante el entrenamiento. Algunos datos de referencia: GPT-2 tenía 1.500 millones en 2019, y GPT-3 tenía 175.000 millones en 2020. Llama 3.1 de Meta, lanzado en julio de 2024, se ofreció en tamaños de 8.000 millones, 70.000 millones y 405.000 millones.

Algunos modelos usan un diseño de mezcla de expertos (MoE), en el que solo una parte de la red se ejecuta para cada token. DeepSeek-V3 tiene 671.000 millones de parámetros en total, pero solo unos 37.000 millones están activos por token.

OpenAI, Anthropic y Google no revelan el número de parámetros de sus modelos insignia. Cifras como “GPT-4 tiene 1,76 billones de parámetros” son filtraciones no confirmadas.

El tamaño tampoco lo es todo, porque la calidad de los datos y los métodos de entrenamiento importan mucho. El estudio “Chinchilla” de 2022 concluyó que el entrenamiento óptimo en cuanto a cómputo utiliza unos 20 tokens por parámetro. Los modelos actuales se entrenan deliberadamente muy por encima de esa proporción.

¿Qué es una ventana de contexto?

La ventana de contexto es el número máximo de tokens que un modelo puede considerar a la vez. Incluye tu prompt, la conversación hasta ese momento y la respuesta del modelo. Piénsala como una memoria de trabajo, no como una memoria a largo plazo.

Las ventanas han crecido rápidamente. GPT-3 manejaba 2.048 tokens, y la versión original de GPT-4 ofrecía variantes de 8K y 32K. Versiones posteriores anunciaron 200K para Claude (hasta 1M en algunas versiones), entre 1 y 2 millones para Gemini 1.5 y 2.x, y 1 millón para GPT-4.1. En abril de 2025 Meta afirmó que Llama 4 Scout alcanza los 10 millones. Estas cifras cambian con cada lanzamiento, así que conviene consultar la documentación actual.

Una ventana grande anunciada no garantiza que el modelo la aproveche bien en su totalidad. El estudio “Lost in the Middle” de Liu et al., de 2023, constató que la precisión puede caer con la información situada en mitad de entradas largas.

¿Por qué alucinan los LLM?

Una alucinación es una respuesta que suena fluida pero es falsa o inventada, como citas bibliográficas falsas, datos erróneos o sentencias judiciales que no existen. Ocurre porque el modelo genera texto verosímil en lugar de consultar hechos. Un artículo de OpenAI de septiembre de 2025 sostiene que el entrenamiento y la evaluación premian adivinar frente a admitir la incertidumbre.

Un caso conocido es Mata v. Avianca (Estados Unidos, 2023). Los abogados de ese caso fueron sancionados por presentar citas jurisprudenciales inventadas por ChatGPT, y después se han producido muchos incidentes similares.

La generación aumentada por recuperación (RAG), la fundamentación con búsqueda web, las citas y los modelos de razonamiento reducen el problema, pero ninguno lo elimina. La ficha técnica de o3 y o4-mini de OpenAI, publicada en abril de 2025, incluso informó de tasas de alucinación más altas en algunos modelos de razonamiento en su prueba PersonQA. Las tasas varían según el benchmark y están en disputa, así que conviene desconfiar de las afirmaciones basadas en una sola cifra.

LLM abiertos frente a cerrados: ¿cuál es la diferencia?

En los modelos cerrados, o propietarios, los pesos no se publican, de modo que solo se pueden usar a través de una aplicación o una API. La serie GPT de OpenAI, Claude de Anthropic, Gemini de Google y Grok de xAI pertenecen a este grupo. Sin embargo, xAI ha publicado los pesos de algunas versiones antiguas de Grok.

Los modelos de pesos abiertos pueden descargarse, ejecutarse localmente y ajustarse. Entre los ejemplos están Llama de Meta, Mistral, DeepSeek, Qwen de Alibaba, Gemma de Google y gpt-oss de OpenAI, lanzado en agosto de 2025 bajo licencia Apache 2.0.

Pesos abiertos no equivale a código abierto. La Definición de IA de Código Abierto 1.0 de la Open Source Initiative (OSI), publicada en octubre de 2024, exige una apertura mucho más amplia, incluida la relativa a los datos de entrenamiento. La OSI afirma que la licencia de Llama no cumple los requisitos para considerarse código abierto.

En la práctica, los modelos de pesos abiertos ofrecen privacidad, control local y personalización. Los modelos cerrados han liderado normalmente en capacidad bruta, aunque la distancia se redujo durante 2025. Las clasificaciones como LMArena cambian de un mes a otro.

La regulación también se está poniendo al día. Con la Ley de IA de la UE, las obligaciones para los modelos de IA de propósito general se aplican desde el 2 de agosto de 2025. La normativa de protección de datos, como la KVKK de Turquía, sigue cubriendo cualquier dato personal que pegues en un prompt.