Saltar al contenido

Dicho fácil

¿Qué es un Transformer en IA?

No es un robot ni un transformador eléctrico: es una arquitectura de IA.

1 min de lectura

Miralo en

01Qué es

Un Transformer es un tipo de arquitectura de red neuronal que destaca con datos en secuencia, como el texto. IBM lo asocia sobre todo con los grandes modelos de lenguaje.

Se presentó en 2017 en el artículo "Attention Is All You Need", de Vaswani y colaboradores.

02Dónde lo escuchás

  • GPT: es un modelo basado en Transformer, según IBM.
  • LLM: en sentido informal, cualquier modelo de lenguaje basado en Transformer, como Gemini o GPT, según Google.

03Ojo con esto

La clave es la atención: determina a qué partes de la secuencia debe prestar atención el modelo. Eso permite captar relaciones lejanas y procesar la secuencia en paralelo.

No verifiqué la dirección del artículo original, ni qué modelos de cada empresa usan Transformer más allá de GPT y Gemini.

04Fuentes

Las páginas oficiales donde leí cada dato, con la fecha en que las vi.

  1. IBM: What is a transformer model?ibm.com/think/topics/transformer-model
  2. Google for Developers: glosario (generativa)developers.google.com/machine-learning/glossary/generative

Seguí con

Newsletter

Lo nuevo que pruebo, explicado simple, directo a tu mail. Sin spam y te das de baja cuando quieras.

Suscribirme