Workloads

conceptstub

Each AI workload type, which parallelism fits, and which layers it stresses.

Workloads × layers

workload \ layer	L1	L2	L3	L4	L5	L6	L7	L8	L9	S	CP
Pre-training	■■	■■■	■■■	■■■	■■■	■■■	■■■	■■■	■■■	■■■	■■■
Full fine-tuning	■■	■■■	■■	■■■	■■	■■	■■	■■■	■■■	■■	■■
PEFT / LoRA	■■	■■■	■	■■	■	·	·	■	■■	■	■■
RL post-training	■■■	■■■	■■■	■■■	■■■	■■	■■	■■■	■■■	■■	■■■
Online inference	■■■	■■■	■■	■■■	■	·	■	■■■	■■■	■	■■■
Disaggregated inference	■■■	■■■	■■	■■■	■■	■■■	■■■	■■■	■■■	■	■■■
RAG	■■■	■■	·	■	·	·	·	·	■	■■■	■■
Agentic AI (MCP)	■■■	■■■	■	■■	·	·	·	■■	■■	■	■■■
Batch inference	■	■■	■	■■	·	·	·	■	■■	■■	■■
Notebooks / dev	■	■	·	■	·	·	·	·	■	■	■■■

·low■moderate■■high■■■critical

Planned content

• Interactive matrix: workloads × layers
• Each workload page: profile, parallelism, infrastructure needs, reference setup