СЕВЕР-ЮГ САЙЗИНГ
Калкулатор на WAN капацитет за AI датацентър
Север-юг трафикът на AI сайт е функция на инсталираната IT мощност, големината на най-големия модел и честотата на дренаж на checkpoint. Всичко по-долу е нормализирано на мегават. Моделирани са пет независими потоци; средното и пикът се доминират от различни потоци.
Индикативен модел · публикувани допускания, не измерване и не ангажимент за капацитет. Дизайн, специфичен за маршрут, — при поискване.
Три неща, които си заслужава да знаете, преди да движите плъзгачите
Мегавати, не GPU-та.
Трафикът не зависи от броя GPU-та, а от мегаватите. Поколенията карти се сменят на всеки година и половина и броят им на ват се променя; трафикът на ват — почти не. Размерване по GPU остарява бързо.
Пик и средно се движат от различни неща.
Средното е inference. Пикът е почти изцяло източване на checkpoint-и. Ако ги смесиш, грешиш в двете посоки наведнъж.
Коефициент Φ.
Независимите наематели не правят checkpoint едновременно, така че пиковете не се сумират. При трима наематели Φ ≈ 0.70; при осем — Φ ≈ 0.40. Практическият извод: договорното разместване на прозорците за checkpoint е най-евтиният начин да си купите капацитет.
Обща IT мощност на сайта, не входящата ел. мощност.
Трилиони параметри. Определя обема на checkpoint: байтове на параметър × коефициент на задържане.
Секунди за дренаж на един checkpoint извън сайта. По-къс дренаж — по-висок пик; по-дълъг дренаж — усреднява се.
Минути между checkpoint събития на бръстер. Определя duty cycle на средното.
Паралелни обучителни процеси. Независими значи, че дренажните им прозорци не са корелирани — това позволява Φ да слезе под 1.
Средно
0.39 Tb/s
4 Gb/s на МВ
Пик след фи
3.1 Tb/s
31 Gb/s на МВ
Необходима връзка при 65% утилизация
4.8 Tb/s
Пик, разделен на целевата утилизация.
Лямбди по два диверсифицирани маршрута
26 ×400G
Закръглено нагоре до четен брой, по половината на всеки маршрут.
Разбивка на пика
Дял от пиковия Tb/s по поток.
- Checkpoint дренаж: 2.0 T на пик, 63% от общото.
- Зареждане на данни: 360 G на пик, 11% от общото.
- Inference I/O: 473 G на пик, 15% от общото.
- Дистилация · copy-out: 300 G на пик, 10% от общото.
- Операции · control plane: 40 G на пик, 1% от общото.
Бележки към методиката
Защо мегавати, а не GPU
GPU поколенията променят броя на ват отколо 18-месечен цикъл. Hopper, Blackwell и каквото следва променят FLOPs и памет на ват, но север-юг трафикът на ват почти не се мени — checkpoint, зареждането на данни и inference скалират с мощността до compute-а, а не със SKU на акселератора. Сайзинг по брой GPU остарява в момента, в който ново поколение влезе на сайта.
Защо съществува Φ
Прозорците на дренаж на независими наематели не са корелирани, така че пиковете им не се сумират — сайтът вижда свивка, а не сума. Φ е ефективен коефициент на корелация за N бръстера: по дефолт 1.00 при N=1, 0.75 при N=2 и пада с 0.05 за всеки допълнителен бръстер до под 0.4. Договорното разместване на дренажните прозорци в SLA на наемателите е най-евтиният капацитетен ъпгрейд: с три или повече бръстера кара Φ към 0.4, т.е. повече от наполовява пиковата checkpoint широчина без да се пипа физическата инфраструктура.
Граници на модела
Моделът предполага независими бръстери. Споделен cluster scheduler ги корелира и Φ се връща на 1. Междусайтово разпределено обучение не е включено — това е отделен термин от 10–100 Tb/s за паралелизъм между датацентрове и принадлежи на разговор на ниво маршрут, а не на per-site сайзинг. Inference коефициентите са калибрирани за текст плюс лек RAG; генерация на медия (изображения и особено видео) счупва скалата с един ред на величина и трябва да се оразмерява директно спрямо измерен egress от serving стека.
Ние продаваме лямбдите, които този калкулатор брои.
За дизайн, специфичен за маршрут — диверсифицирани пътища, cross-connect, латентност и условия за доставка — отворете конфигуратора или пишете на мрежовия екип. Двата пътя приемат един и същ бриф.
Конфигураторът не се попълва от тази страница — резултатът на модела е индикативен, а конфигураторът квотира реален капацитет. Пренасяйте числото съзнателно.