LLM 아키텍처 & 트랜스포머 Certification
대규모 언어 모델이 실제로 어떻게 작동하는지에 대한 최종적인 심층 분석
Key facts
- Level: Professional
- Field: Artificial Intelligence & LLMs
- Estimated study time: about 40 hours
- Credential price: $149
- Exam: 70 questions · 100 minutes · pass mark 75%
About the LLM 아키텍처 & 트랜스포머 certification
디코더 전용 대규모 언어 모델의 완전한 구조를 다루는 전문가 수준의 자격증입니다. 토크나이제이션과 BPE, 임베딩 및 가중치 공유, 위치 인코딩 (사인파, 학습된 방식, RoPE, ALiBi), 스케일링된 내적 및 멀티헤드 어텐션의 수학적 원리, KV 캐싱 및 FlashAttention, 슬라이딩 윈도우 어텐션, 그룹 쿼리 어텐션과 같은 장문 컨텍스트 기법에 대해 정밀하게 추론할 수 있습니다. 시험은 정규화 배치, 활성화 함수, 전문가 혼합(mixture-of-experts), 수치 정밀도, 스케일링 법칙, 샘플링에 대한 깊고 현재적인 이해를 테스트합니다 — 프로덕션 환경에서 트랜스포머 모델을 구축하고 디버깅하는 ML 엔지니어에게 기대되는 수준으로.
What you will learn
The official LLM 아키텍처 & 트랜스포머 study course covers:
- 입력: 토큰화, 임베딩 및 위치 인코딩 — 원시 텍스트가 트랜스포머가 소비하는 위치 인식 벡터가 되는 방법.
- 어텐션 메커니즘 — 스케일드 닷-프로덕트 어텐션, 인과 마스킹, 멀티헤드, 장문맥 도구 모음.
- 트랜스포머 블록 및 스택 — 잔차 연결, 정규화, 피드포워드 네트워크, N개 블록을 디코더로 쌓기.
- 로짓에서 텍스트 및 스케일링까지 — 로짓, 소프트맥스, 샘플링 전략, 정밀도, 스케일링 법칙 및 전문가 혼합.
- 실습 랩 — 트랜스포머를 처음부터 구축하기 — Google Colab에서의 처음부터 구현하는 캡스톤: 토큰 및 위치 임베딩, 인과 마스크가 있는 셀프 어텐션, 완전한 트랜스포머 블록을 구현한 다음, 이를 조합하여 작은 문자 수준 언어 모델을 만들고 텍스트를 생성합니다. 무료로 실행 가능하며 CPU로도 충분합니다.
Frequently asked questions
- Is the LLM 아키텍처 & 트랜스포머 certificate verifiable?
- Yes. Every issued Hootix Academy certificate carries a unique credential code that anyone can verify online.
- How is the LLM 아키텍처 & 트랜스포머 exam structured?
- It is a 100-minute proctored multiple-choice exam of 70 questions; you need 75% to pass.
- Do I need to buy the course to take the exam?
- You can purchase the certification exam on its own, or bundle it with the full study course at a reduced price.
- How long does the LLM 아키텍처 & 트랜스포머 course take?
- About 40 hours of self-paced study.