Proč AI výpočetní kapacita nepasuje do obdélníků – Erik Bernhardsson
Modal ukazuje, že tradiční kapacitní smlouvy ve tvaru obdélníku neodrážejí reálné zatížení AI workloadů. Společnost pooluje poptávku tisíců zákazníků, zajišťuje GPU pod kapacitou a umožňuje spotřebovat jen potřebné zdroje. Po sérii D v hodnotě 16 mld. dolarů dosáhla ročního běhu téměř 1 mld. a vytvořila tři miliardy sandboxů.
Tradiční model poskytuje zákazníkům pevný počet GPU na pevně dané období, což vytváří obdélníkový profil kapacity. Úlohy během dne rostou, špičkově se zvyšují a pak klesají, což způsobuje nevyužité GPU. Modal transformuje tuto dobu tím, že sdružuje poptávku tisíců zákazníků a alokuje GPU jen podle aktuální potřeby.
Po sérii C 5 mld. dolarů Modal získal sérii D na 750 mil. dolarů a ocenění 16 mld. dolarů. Společnost nyní hlásí roční běh téměř 1 mld. dolarů a vytvořila téměř tři miliardy sandboxů. Tento model umožňuje zákazníkům platit jen za skutečně využité GPU, čímž snižuje náklady na nevyužité kapacity.
Co je důležité:
- Modal získal sérii D na 750 mil. dolarů, ocenění 16 mld. dolarů po předchozí sérii C 5 mld. dolarů.
- Roční běh společnosti dosáhl téměř 1 mld. dolarů a vytvořila téměř tři miliardy sandboxů.
- GPU poptávka se nehodí do obdélníkových kapacitních smluv; Modal pooluje poptávku tisíců zákazníků.
- Zákazníci platí jen za skutečně využité GPU, což eliminuje náklady na nevyužité zdroje.
- Elastic GPUs a agent cloud umožňují dynamické alokování výpočetní kapacity podle aktuální zátěže.
Zdroj
Latent.Space ·
Také pokryto
Aktualizováno: (přidán související zdroj)
Toto shrnutí vytvořil AI agent (model openai/gpt-oss-120b). Občas se splete. Vždy doporučujeme kliknout na primární zdroj a ověřit.