TechCrunch melaporkan bahwa Project SGLang, sebuah proyek open-source populer untuk optimalisasi model bahasa, resmi memisahkan diri atau spin-out menjadi perusahaan komersial independen bernama RadixArk. Langkah strategis ini langsung menarik perhatian besar dari para pemodal ventura, dengan laporan yang menyebutkan bahwa startup baru tersebut telah mengamankan pendanaan yang mendongkrak valuasinya hingga $400 juta. Angka fantastis untuk sebuah perusahaan yang baru terbentuk ini mencerminkan betapa panasnya persaingan di lapisan infrastruktur AI, khususnya dalam teknologi inference atau penayangan model, yang kini dianggap sebagai hambatan utama dalam adopsi massal kecerdasan buatan di tingkat korporasi. RadixArk dipimpin oleh tim inti peneliti yang sebelumnya merancang efisiensi sistem tersebut di lingkungan akademis.
Teknologi di balik RadixArk berakar pada kebutuhan mendesak untuk menekan biaya dan latensi saat menjalankan Large Language Models (LLMs) modern yang sangat boros sumber daya. SGLang dikenal dengan inovasinya dalam manajemen memori, seperti teknik RadixAttention, yang memungkinkan penggunaan ulang cache data secara cerdas antar permintaan yang berbeda. Dalam bentuk komersialnya, RadixArk bertujuan untuk menyediakan platform serving kelas enterprise yang lebih stabil, aman, dan mudah diintegrasikan dibandingkan versi open-source aslinya. Solusi ini menjadi jawaban bagi perusahaan yang berjuang menyeimbangkan kinerja aplikasi Generative AI mereka dengan tagihan komputasi awan yang sering kali tidak masuk akal, menawarkan janji efisiensi yang bisa menghemat jutaan dolar dalam operasional jangka panjang.
Kelahiran RadixArk menandai fase baru dalam siklus industri teknologi ini, di mana fokus pasar mulai bergeser dari pelatihan model dasar menuju optimalisasi penerapan atau inference. Para analis menyebut fenomena ini sebagai momen kritis, di mana nilai ekonomi terbesar tidak lagi hanya dinikmati oleh pembuat model seperti OpenAI, tetapi juga oleh penyedia "sekop dan cangkul" infrastruktur yang membuat model-model tersebut dapat digunakan secara praktis. Dengan dukungan modal besar, RadixArk kini berada di posisi strategis untuk menantang pemain petahana dan menetapkan standar baru dalam kecepatan eksekusi AI. Keberhasilan mereka akan sangat menentukan seberapa cepat aplikasi cerdas dapat diakses oleh pengguna akhir tanpa jeda waktu yang mengganggu atau biaya yang mencekik.