Residual Connection

mHC（Manifold-Constrained Hyper-Connections）──残差接続を超える新トポロジー設計が示すLLMスケーリングの新境地

Hyper-Connections（HC）の訓練不安定性とスケーラビリティ問題を解決するmHC（Manifold-Constrained Hyper-Connections）を提案。多様体制約により恒等写像特性を復元し、大規模LLM訓練での安定性と性能向上を実証した査読前論文。