Published onApril 25, 2026Decoupled DiLoCo: Google DeepMind가 "거대한 단일 클러스터" 대신 고장에 강한 학습 섬으로 가는 이유Google-DeepMindDecoupled-DiLoCoDistributed-TrainingLLM-TrainingGemma-4AI-InfrastructureGoogle DeepMind의 Decoupled DiLoCo는 LLM 학습을 더 빠르게 만드는 논문이기보다, 프론티어 학습이 더 이상 하나의 완벽히 동기화된 거대 클러스터에만 기대기 어렵다는 선언에 가깝다. 핵심은 대역폭 절감보다 고장 격리와 학습 지속성이다.