Dicho fácil
¿Qué es un Transformer en IA?
No es un robot ni un transformador eléctrico: es una arquitectura de IA.
Miralo en
01Qué es
Un Transformer es un tipo de arquitectura de red neuronal que destaca con datos en secuencia, como el texto. IBM lo asocia sobre todo con los grandes modelos de lenguaje.
Se presentó en 2017 en el artículo "Attention Is All You Need", de Vaswani y colaboradores.
02Dónde lo escuchás
- GPT: es un modelo basado en Transformer, según IBM.
- LLM: en sentido informal, cualquier modelo de lenguaje basado en Transformer, como Gemini o GPT, según Google.
03Ojo con esto
La clave es la atención: determina a qué partes de la secuencia debe prestar atención el modelo. Eso permite captar relaciones lejanas y procesar la secuencia en paralelo.
No verifiqué la dirección del artículo original, ni qué modelos de cada empresa usan Transformer más allá de GPT y Gemini.
04Fuentes
Las páginas oficiales donde leí cada dato, con la fecha en que las vi.
Seguí con
Newsletter
Lo nuevo que pruebo, explicado simple, directo a tu mail. Sin spam y te das de baja cuando quieras.
