Hootix Academy

Arquitectura de LLM y Transformers Certification

La inmersión profunda definitiva en el funcionamiento real de los grandes modelos de lenguaje

Key facts

About the Arquitectura de LLM y Transformers certification

Una certificación de nivel profesional que cubre la anatomía completa de los grandes modelos de lenguaje de tipo solo-decodificador. Razonarás con precisión sobre tokenización y codificación por pares de bytes (BPE), embeddings y compartición de pesos, codificaciones posicionales (sinusoidales, aprendidas, RoPE, ALiBi), las matemáticas de la atención escalada de producto punto y la atención multi-cabeza, el caché KV y las técnicas de contexto largo como FlashAttention, atención por ventana deslizante y atención de consulta agrupada. El examen evalúa una comprensión profunda y actualizada de la ubicación de la normalización, las funciones de activación, la mezcla de expertos, la precisión numérica, las leyes de escalado y el muestreo — al nivel que se espera de un ingeniero de ML que construye y depura modelos transformer en producción.

What you will learn

The official Arquitectura de LLM y Transformers study course covers:

  1. Inputs: Tokenization, Embeddings & Positional Encoding — How raw text becomes the position-aware vectors a transformer consumes.
  2. The Attention Mechanism — Scaled dot-product attention, causal masking, multi-head, and the long-context toolkit.
  3. The Transformer Block & Stack — Residuals, normalization, the feed-forward network, and stacking N blocks into a decoder.
  4. From Logits to Text & Scaling — Logits, softmax, sampling strategies, precision, scaling laws and mixture-of-experts.
  5. Laboratorio práctico: crea un Transformer desde cero — Un proyecto final desde cero en Google Colab: implementa embeddings de tokens y posicionales, autoatención con máscara causal, un bloque Transformer…

Frequently asked questions

Is the Arquitectura de LLM y Transformers certificate verifiable?
Yes. Every issued Hootix Academy certificate carries a unique credential code that anyone can verify online.
How is the Arquitectura de LLM y Transformers exam structured?
It is a 100-minute proctored multiple-choice exam of 70 questions; you need 75% to pass.
Do I need to buy the course to take the exam?
You can purchase the certification exam on its own, or bundle it with the full study course at a reduced price.
How long does the Arquitectura de LLM y Transformers course take?
About 40 hours of self-paced study.

Related certifications