Historias del dekanato

Esta paradoja fue descrita por primera vez por Edward H. Simpson en 1951, aunque el fenómeno ya había sido observado anteriormente por Pearson y Yule a principios del siglo XX. Se da cuando una tendencia aparente en varios grupos de datos desaparece o incluso se invierte al agregarlos.

El caso más famoso ocurrió en 1973 con las admisiones de posgrado en la Universidad de Berkeley. Las estadísticas globales parecían mostrar que se discriminaba a las mujeres. Pero al analizar los datos por departamento, se descubrió que en la mayoría de ellos las mujeres eran admitidas en mayor proporción. El sesgo se debía a que las mujeres solicitaban más en departamentos altamente competitivos, mientras que los hombres lo hacían en los más accesibles.

Otro ejemplo clásico es en sanidad: un tratamiento puede parecer más efectivo en hombres y en mujeres por separado, pero menos efectivo en el total si las proporciones de cada grupo están desequilibradas.

¿Qué aprendemos? Nunca analices una media global sin estudiar los subgrupos. La segmentación es clave. En dashboards y modelos, verifica si los patrones globales se replican en los segmentos.

Esta paradoja fue formulada por el estadístico Joseph Berkson en 1946 mientras trabajaba en el Hospital Mayo Clinic. Observó que cuando se analizaban solo pacientes hospitalizados, aparecían relaciones negativas entre enfermedades que no existían en la población general.

Imagina que estás estudiando la relación entre el tabaquismo y la obesidad, pero solo entre pacientes ingresados. Puede parecer que hay una correlación negativa (los obesos fuman menos), pero es una ilusión: ambos factores aumentan el riesgo de ingreso, y la observación está sesgada por el hecho de que solo miramos a los hospitalizados.

Otro ejemplo actual: al analizar usuarios activos de una app, puedes pensar que los que más pagan son los que menos la usan, porque sólo ves a los que siguen activos. Pero estás dejando fuera a los que pagaron y se fueron.

¿Qué aprendemos? Cuidado con las correlaciones artificiales cuando estás trabajando con datos filtrados. El sesgo de selección puede estar escondido en muchas bases de datos reales.

Esta paradoja es tan poderosa como sutil. Fue formalmente enunciada en la Segunda Guerra Mundial, gracias al análisis de Abraham Wald, un matemático húngaro que trabajaba en problemas estadísticos militares en EE.UU.

Cuando los aviones regresaban con impactos de bala, el Ejército pensó que debía reforzar esas zonas. Wald, sin embargo, señaló que esos eran los aviones que habían sobrevivido. Las zonas sin impactos visibles eran probablemente aquellas que, si eran alcanzadas, causaban la destrucción del avión. Por tanto, esas debían reforzarse.

Esta idea se ha aplicado en finanzas (analizar solo empresas que han sobrevivido a varias crisis), educación (evaluar programas solo con estudiantes que se gradúan) y negocios (analizar solo clientes actuales). En todos los casos, se ignora lo que no está en la muestra, y eso puede distorsionar por completo la conclusión.

¿Qué aprendemos? No todo lo que importa está en los datos visibles. Los ausentes —los que no llegaron, no sobrevivieron o abandonaron— también cuentan.

Carlo Emilio Bonferroni fue un matemático italiano que en 1935 propuso una forma de ajustar la significación estadística cuando se realizan múltiples comparaciones. Su fórmula protege contra los falsos positivos que aparecen cuando se hacen muchos tests estadísticos simultáneos.

Por ejemplo, si haces 100 tests con un nivel de significación de $\alpha = 0.05$, esperarías encontrar 5 resultados "significativos" sólo por azar. La corrección de Bonferroni propone ajustar el umbral dividiendo $\alpha$ por el número de comparaciones:

Así, si $\alpha = 0.05$ y $n = 20$, solo consideras significativos los resultados con $p < 0.0025$.

Esto es vital en ciencia, pero también en marketing, analítica web, A/B testing y dashboards interactivos donde se prueban decenas de hipótesis a la vez. Si no corriges, es probable que tomes decisiones basadas en resultados que son puro azar.

¿Qué aprendemos? En contextos de exploración intensiva de datos, es crucial ajustar tu criterio de significación. Si no, acabarás creyendo cosas que no son.

Desde el punto de vista estadístico, cada modalidad puede considerarse una variable aleatoria definida sobre un espacio de probabilidad distinto. Denotemos por $X \sim \mathbb{P}_X$ una variable que representa imágenes (por ejemplo, en $\mathbb{R}^{H \times W \times 3}$), y por $Y \sim \mathbb{P}_Y$ una variable textual (por ejemplo, una secuencia de tokens en un espacio discreto $\Sigma^*$).

La multimodalidad implica que existe una dependencia estadística entre estas variables, es decir, su distribución conjunta $\mathbb{P}_{X,Y}$ no se factoriza. El objetivo de los modelos multimodales es precisamente aprender esa estructura conjunta, bien modelando explícitamente $\mathbb{P}_{X,Y}$ (modelo generativo), bien aprendiendo una función que capture su dependencia funcional (modelo discriminativo), o bien ambos simultáneamente.

Desde una perspectiva geométrica, cada modalidad define un manifold de alta dimensión con propiedades topológicas y métricas distintas. La tarea del encoder multimodal es encontrar una inmersión diferenciable $\phi: \mathcal{X} \cup \mathcal{Y} \rightarrow \mathcal{Z}$ tal que las representaciones correspondientes a datos semánticamente similares queden próximas en $\mathcal{Z}$. Esta es la base de los llamados "espacios latentes compartidos".

Los encoders multimodales más utilizados (ViT, CLIP, ResNet, Swin Transformers para imagen; Transformers para texto) se entrenan de forma conjunta para alinear las representaciones mediante pérdidas contrastivas. La función de pérdida más común es InfoNCE, que busca maximizar la similitud entre pares positivos y minimizarla para negativos.

Dado un batch de pares $\{(x_i, y_i)\}_{i=1}^N$, la formulación es:

Aquí, $\text{sim}(\cdot,\cdot)$ suele ser la similitud coseno. El parámetro $\tau$ es una temperatura que controla la dispersión. Esta pérdida se puede derivar como una cota inferior de la información mutua entre variables latentes, tal como se muestra en [5].

Un aspecto crítico es que estas pérdidas inducen una métrica en $\mathcal{Z}$ que no necesariamente conserva la semántica local en cada modalidad. Esto ha llevado al desarrollo de técnicas como Modality Alignment Regularization o Geometry-Preserving Embeddings.

Los MLLMs más avanzados como GPT-4V o Gemini adoptan arquitecturas autoregresivas que modelan explícitamente la probabilidad condicional $p(y | x)$, donde $x$ puede ser una imagen, vídeo o secuencia de instrucciones, y $y$ una secuencia textual.

Esto se implementa concatenando los embeddings de entrada de distintas modalidades en una única secuencia de tokens procesada por un Transformer. El modelo entonces maximiza:

Este paradigma permite realizar tareas como captioning, VQA (Visual Question Answering), razonamiento visual-matemático, seguimiento de instrucciones con contexto visual, y más.

Si concebimos $\mathcal{Z}$ como una variedad diferencial con una métrica Riemanniana inducida por los gradientes del modelo, podemos analizar la curvatura local, las trayectorias de interpolación y la capacidad del modelo para representar trayectorias semánticas continuas.

Por ejemplo, dados dos puntos $z_1 = f_x(x)$ y $z_2 = f_y(y)$, se puede definir una curva geodésica $\gamma(t)$ tal que $\gamma(0) = z_1$ y $\gamma(1) = z_2$, y su longitud está dada por:

donde $G(z)$ es la métrica inducida por el Jacobiano de $f_x$ o $f_y$. Esta formulación permite estudiar propiedades como la isometría local entre modalidades, crucial para tareas de interpolación semántica.

Para cuantificar la capacidad de un modelo multimodal se han propuesto métricas basadas en teoría de la información, como la información mutua empírica, la entropía cruzada multimodal o la divergencia de Jensen-Shannon entre distribuciones condicionadas. También se utilizan métricas geométricas como el radio de curvatura local promedio, la entropía de la distribución de embeddings y la densidad modal en espacios latentes.

Uno de los desarrollos más prometedores en el campo de los modelos multimodales es su integración dentro de agentes cognitivos artificiales. Un agente multimodal no solo interpreta entradas diversas, sino que las utiliza en tiempo real para tomar decisiones, planificar, interactuar con herramientas y mantener una representación interna coherente de su entorno. Para ello, el modelo debe incorporar mecanismos de memoria de corto y largo plazo.

Desde el punto de vista formal, podemos modelar un agente como una función de política $\pi: \mathcal{H}_t \rightarrow \mathcal{A}$, donde $\mathcal{H}_t$ es el historial multimodal hasta el tiempo $t$ y $\mathcal{A}$ es el conjunto de acciones posibles. A diferencia de los modelos tradicionales de NLP, que operan sobre entradas acotadas, aquí $\mathcal{H}_t = \{(x_i, a_i)\}_{i=1}^{t-1}$ crece dinámicamente.

Esto requiere estructuras especializadas como:

• Memorias vectoriales persistentes: embeddings almacenados con mecanismos de atención diferenciable (como en MemNet, RETRO, o KNN-Mem).
• Contextos jerárquicos temporales: Transformers de memoria jerárquica (HTM) que condensan múltiples niveles de representación (token, segmento, sesión).
• Planificadores neuro-simbólicos: arquitecturas que combinan modelos generativos con motores de lógica simbólica para razonamiento sobre estados y metas.

El reto consiste en definir mecanismos de actualización de memoria que preserven coherencia semántica y eficiencia computacional. Formalmente, se modela como un proceso de proyección adaptativa:

El verdadero potencial de los MLLMs se revela cuando no solo reciben información pasiva, sino que interactúan activamente con su entorno. Esto requiere un mecanismo de grounding semántico: la capacidad del modelo para vincular conceptos internos con referencias observables en el mundo físico.

Desde la filosofía del lenguaje hasta la semántica computacional, el grounding ha sido uno de los temas más debatidos. En modelos multimodales, se plantea como el problema de mapear tokens abstractos $w \in \Sigma$ a entidades observables $e \in \mathcal{E}$ con las que el modelo puede interactuar. Este mapeo es dinámico, contextual y dependiente de la memoria del agente.

Formalmente, se puede definir como una función de atención semántica sobre el estado del mundo $s_t$:

donde $\phi(w)$ es el embedding del concepto y $\psi(e, s_t)$ la representación del objeto $e$ en el contexto actual.

A diferencia del aprendizaje en batch típico de los LLMs, los agentes multimodales operan en entornos no estacionarios. Esto requiere mecanismos de aprendizaje en línea, donde los pesos del modelo o sus componentes de memoria se actualizan continuamente a medida que el agente observa nuevas entradas. Algunos enfoques actuales incluyen:

• Meta-learning en línea: utilizar modelos de segundo orden para ajustar los pesos rápidamente con pocos ejemplos (p. ej., MAML, Reptile).
• Sinapsis dinámicas: mecanismos inspirados en neurociencia que modulan la plasticidad local de las conexiones neuronales en función del contexto.
• Aprendizaje bayesiano secuencial: modelos de inferencia variacional que actualizan distribuciones sobre parámetros en tiempo real.

El principal desafío es evitar el catastrophic forgetting, fenómeno donde el modelo olvida tareas previas al adaptarse a nuevas. Esto ha motivado el desarrollo de métodos de consolidación de memoria como EWC (Elastic Weight Consolidation) o replay generativo multimodal.

La integración de múltiples canales sensoriales, memoria episódica, aprendizaje continuo y grounding semántico en un solo sistema ha sido durante décadas uno de los objetivos principales de la inteligencia artificial general. Desde la perspectiva de Marr, los MLLMs permiten una implementación funcional de los niveles computacional, algorítmico y físico de la cognición artificial.

Sin embargo, la pregunta sigue abierta: ¿basta con escalar estos sistemas para alcanzar una forma de inteligencia general, o es necesario un cambio cualitativo en su arquitectura? Las limitaciones actuales en razonamiento causal, autonomía, modelado explícito de creencias y comprensión contrafactual sugieren que la multimodalidad es una condición necesaria pero no suficiente.

La verdadera AGI, en este marco, requeriría modelos que no solo representen correlaciones entre inputs, sino que construyan modelos internos del mundo, formulen hipótesis, simulen futuros alternativos y tomen decisiones de forma autónoma y explicable. Los MLLMs actuales constituyen un paso clave en esa dirección, pero su evolución futura probablemente integrará elementos simbólicos, neurobiológicos y metacognitivos.

La idea detrás de los modelos de difusión puede parecer contraintuitiva al principio: en lugar de aprender directamente a generar una imagen desde cero, el modelo aprende a revertir un proceso que añade ruido progresivamente a una imagen real, hasta convertirla en puro ruido gaussiano. Este proceso de degradación se llama forward diffusion, y se modela como una cadena de Markov:

donde $\mathbf{x}_0$ es la imagen original (una muestra del dataset), $\beta_t$ es la cantidad de ruido añadido en el paso t, normalmente con valores crecientes en el tiempo y $\mathbf{x}_t$ es la imagen degradada tras t pasos. La distribución marginal, es decir, el estado de la imagen tras t pasos partiendo de la original, se puede calcular de forma cerrada:

donde $\bar{\alpha}_t = \prod{s=1}^{t} (1 - \beta_s)$. Este proceso es conceptualmente similar a un sistema físico en contacto con un baño térmico: con cada paso, se incrementa su entropía hasta alcanzar un estado de máximo desorden (ruido blanco).

La clave de estos modelos es que aprenden una aproximación del proceso inverso:

donde \theta representa los parámetros de una red neuronal entrenada para predecir cómo pasar de una imagen ruidosa $\mathbf{x}t$ a una versión ligeramente menos ruidosa $\mathbf{x}{t-1}$. Esta red normalmente es una U-Net con atención, que capta tanto patrones locales como relaciones globales. En lugar de predecir directamente $\mathbf{x}_{t-1}$, muchos modelos (como los descritos en Ho et al., 2020 ) prefieren predecir el ruido añadido en cada paso. Esto simplifica el entrenamiento y mejora la estabilidad:

donde $\boldsymbol{\epsilon} \sim \mathcal{N}(0, \mathbf{I})$ es ruido gaussiano. Este proceso inverso puede verse como una especie de dinámica de Langevin inversa, donde el modelo aprende a navegar desde un estado de máxima entropía hacia un estado ordenado, en una trayectoria guiada por el aprendizaje estadístico.

Para generar imágenes desde texto, como hace DALL·E 3, el proceso de difusión se condiciona a una descripción textual $\mathbf{c}$. Esta se representa como un embedding semántico extraído por un modelo de lenguaje (generalmente un Transformer), y se introduce en la red de difusión para guiar la reconstrucción. Formalmente, el modelo ahora aprende:

Este conditioning se puede introducir mediante concatenación del embedding textual a los mapas de características, cross-attention en múltiples capas de la U-Net o FiLM layers o conditioning tokens. Lo importante es que el modelo aprende a deshacer el ruido no solo de forma coherente visualmente, sino también coherente semánticamente con el texto proporcionado. Este diseño es la base de los modelos como DALL·E 2 y 3 [2] y la serie de modelos Imagen de Google [3].

donde $\boldsymbol{\epsilon} \sim \mathcal{N}(0, \mathbf{I})$ es ruido gaussiano. Este proceso inverso puede verse como una especie de dinámica de Langevin inversa, donde el modelo aprende a navegar desde un estado de máxima entropía hacia un estado ordenado, en una trayectoria guiada por el aprendizaje estadístico.

Uno de los desafíos prácticos de estos modelos es que el sampling requiere recorrer la cadena de Markov inversa paso a paso - originalmente con hasta 1000 pasos. Esto es lento y computacionalmente costoso, aunque se han propuesto múltiples mejoras:

• DDIM [4]: permite sampling determinista y acelerado
• PLMS / DPM-Solver [5]: reduce pasos sin sacrificar calidad
• Latent Diffusion Models (LDM) [6]: realizan la difusión en un espacio latente comprimido aprendido por un autoencoder, lo que reduce enormemente el coste computacional.

Este último enfoque es el que utiliza Stable Diffusion, haciendo viable la generación de imágenes en GPU de consumo.

Una de las razones por las que los modelos de difusión me resultan especialmente elegantes es por su profunda resonancia con ideas de la física estadística. Al margen de su efectividad empírica, estos modelos se alinean de forma sorprendente con procesos físicos conocidos, desde la evolución de sistemas fuera del equilibrio hasta la integración de trayectorias estocásticas guiadas por un potencial.

El proceso directo (forward diffusion) puede interpretarse como una difusión térmica gaussiana, análoga al comportamiento de un sistema físico sometido a ruido térmico creciente.

Recordemos que en el forward process:

Este tipo de dinámica es equivalente a una ecuación de Langevin discreta donde se introduce ruido a cada paso, lo cual es físicamente equivalente a modelar una partícula en un medio con temperatura creciente. La imagen original$\mathbf{x}_0$ representa un estado ordenado de baja entropía, y el proceso de difusión lo lleva a un estado máximo de entropía (ruido blanco), es decir, una térmica asintótica.

Aquí entra en juego lo realmente interesante: ¿cómo se puede invertir ese proceso de entropía creciente? En el trabajo de Song [7], el proceso inverso se modela como una ecuación diferencial estocástica (SDE):

donde $f(\mathbf{x}_t, t)$ es el drift (típicamente cero en el caso de ruido isotrópico), $g(t)$ escala el ruido y $\mathbf{w}_t$ es un proceso de Wiener (movimiento browniano).

Aquí es donde entra la red neuronal: el modelo no aprende directamente $\mathbf{x}_{t-1}$, sino que aprende a estimar ese score function, que actúa como un campo de fuerzas que guía la partícula (o imagen) de vuelta al orden.

Este procedimiento recuerda a técnicas de simulación estocástica inversa en física computacional, donde se intenta reconstruir trayectorias plausibles a partir de estados observados, en ausencia de ecuaciones exactas.

La evolución de la densidad de probabilidad de las imágenes durante la difusión puede describirse mediante la ecuación de Fokker–Planck, que formaliza cómo cambia $p_t(\mathbf{x})$ en el tiempo bajo un SDE:

El proceso inverso, por tanto, consiste en deshacer esta evolución de la densidad, lo cual es en general intratable de forma analítica, pero si se puede estimar el score $\nabla \log p_t(\mathbf{x})$, se puede construir una SDE inversa que efectivamente lo revierta. Ésta es la base de los Score-Based Generative Models, que reinterpretan los modelos de difusión como integración de una trayectoria estocástica condicionada al score aprendido.

Desde una visión más general, el modelo aprende un paisaje de energía en el espacio de imágenes, definido por la densidad $p_t(\mathbf{x})$, y genera muestras siguiendo una dinámica que minimiza esa energía. La relación entre la densidad y la energía se da por:

Por tanto, el score function representa una fuerza que empuja las muestras hacia regiones de baja energía (alta probabilidad). Esta idea tiene una resonancia directa con sistemas físicos que evolucionan hacia estados de mínima energía libre.

Un Large Language Model es un tipo de inteligencia artificial entrenado con redes neuronales profundas para procesar y generar texto de manera coherente y contextual. Antes, los sistemas de IA dependían de programación explícita: si querías que un asistente virtual respondiera preguntas sobre el clima, tenías que escribir reglas como: Si el usuario pregunta “¿Va a llover mañana?”, busca la información en la base de datos del tiempo y devuelve la respuesta. Si la pregunta era ligeramente diferente (”¿Qué tiempo hará mañana?”), la IA podía fallar porque no reconocía la estructura exacta. Los LLMs, en cambio, no funcionan con reglas predefinidas, sino que aprenden patrones directamente del lenguaje humano. Son modelos entrenados con miles de millones de palabras para predecir cuál es la siguiente palabra más probable en una frase. Este enfoque les permite adaptarse a múltiples tareas sin necesidad de ser programados específicamente para cada una, lo que nos lleva a la siguiente pregunta: ¿Cómo se entrenan esos modelos? El entrenamiento de un Large Language Model ocurre en dos fases principales: el pre-entrenamiento y el fine-tuning. En la primera fase, el modelo se expone a enormes cantidades de texto (libros, artículos, conversaciones en internet, documentación técnica, entre otros) y aprende a identificar patrones lingüísticos sin una comprensión real del significado. Para lograrlo, utiliza una arquitectura llamada Transformers, que permite analizar relaciones entre palabras a larga distancia dentro de una oración y procesar enormes volúmenes de datos en paralelo [1]. Básicamente, el modelo aprende a predecir cuál es la siguiente palabra más probable en una secuencia, ajustando sus pesos neuronales a medida que mejora en esta tarea. Este proceso requiere una capacidad computacional gigantesca, con clusters de GPUs y TPUs funcionando durante semanas o meses para afinar los billones de parámetros que conforman el modelo. Después del pre-entrenamiento, el modelo pasa por una fase de ajuste llamada fine-tuning, donde se optimiza para tareas específicas y se corrige su comportamiento. En este punto, los investigadores aplican técnicas como el aprendizaje por refuerzo con retroalimentación humana (RLHF), donde expertos evalúan las respuestas del modelo y lo guían para ser más preciso, útil y seguro. Esta fase es clave para reducir sesgos, evitar respuestas dañinas y mejorar la alineación del modelo con el tipo de información que se espera de él. Es aquí donde un LLM deja de ser un simple generador de texto y se convierte en una herramienta sofisticada capaz de asistir en tareas complejas como redacción técnica, generación de código, razonamiento lógico o incluso asesoramiento en distintos campos. Hoy, los LLMs no solo han superado las limitaciones de los antiguos chatbots y sistemas de reglas fijas, sino que han redefinido la forma en que interactuamos con la tecnología. Ya no se trata de simples asistentes que siguen instrucciones básicas, sino de modelos capaces de generar ideas, estructurar conocimiento y, en muchos casos, sorprendernos con su aparente comprensión del mundo. No estamos en Matrix, pero hemos dado un salto cualitativo en nuestra relación con la inteligencia artificial, acercándonos a un futuro donde la comunicación con las máquinas es más fluida, natural y poderosa que nunca. La pregunta ya no es si los LLMs cambiarán la forma en que trabajamos, sino cómo aprovecharemos esta nueva era de la IA para potenciar nuestra creatividad, eficiencia y capacidad de innovación.