Bir ön baskı, farklı çoklu bulut filolarında büyük dil modeli çıkarımı için küme planlayıcısı Koi’yi tanıtıyor. Hızlandırıcı seçimi, paralelleştirme, sunum motoru, kopya sayısı ve değişen iş yüklerini birbiriyle bağlantılı işletim kararları olarak ele alıyor.

Yazarlar kaynak rekabeti değiştikçe planları güncellemeyi amaçlayan kendini ayarlayan yaklaşımı açıklıyor. Bu bir araştırma sistemi; sonuçları değerlendirilen ortamlarla sınırlı ve bulut maliyeti ya da gecikme tasarrufu garantisi değil.