PrismML, yüksek performanslı ve akıl yürütebilen büyük dil modellerinin mutlaka büyük olması gerekmediğini savunuyor. Caltech araştırmacıları tarafından kurulan şirket, bu modelleri PC’lere ve akıllı telefonlara sığacak kadar küçültmeyi hedefliyor. Şirketin CEO’su Caltech profesörü Babak Hassibi; Databricks’in kurucu ortaklarından ve Berkeley Sky Computing Lab direktörü Ion Stoica da danışman olarak görev yapıyor. PrismML, Khosla Ventures, Cerberus Capital ve Caltech tarafından destekleniyor. Şirketin şimdiye kadarki tohum yatırımı $22.25 million seviyesinde.
PrismML, September 17, 2026’da Bonsai 2 27B modelini yayımladı. Model, Alibaba’nın açık kaynaklı Qwen3.8 27B modelini 5.9 GB boyutuna sıkıştırıyor. Bu, orijinal modele göre bellekte 9x to 10x azalma anlamına geliyor ve modelin bir PC’ye, muhtemelen üst düzey bir akıllı telefona sığmasını sağlıyor. Hassibi, şirketin Apple ile görüşüyor olabileceğine ilişkin iddialar hakkında yorum yapmadı.
Bonsai 2, Qwen’in toplam benchmark puanlarının %98’ine ulaşıyor. Mart ayında yayımlanan ilk Bonsai modelinde bu oran %95’ti. Şirkete göre ilk model 11 million’dan fazla kez, daha küçük PrismML modelleri ise 2.6 million kez indirildi. Hassibi, sıkıştırmanın performansı tamamen koruyamayabileceğini, ancak %2’lik kaybın gerçek kullanımda belirleyici olmayabileceğini belirtiyor.
PrismML, modellerin eğitim sırasında öğrendiği bilgileri taşıyan “ağırlıkları” küçültüyor. Normalde her ağırlık 16 bits gerektirirken, şirketin “ternary” yaklaşımı bunları üç değere indiriyor:
- +1
- −1
- 0
Şirket, önümüzdeki birkaç ay içinde several-hundred-billion-parameter aralığındaki daha büyük modellere aynı yöntemi uygulamayı planlıyor. Hassibi, büyük modellerde zekâyı koruyarak sıkıştırmanın daha kolay olabileceğini söyledi. Stoica’ya göre teknoloji, gelişmiş modellerin kullanıcı cihazlarında çalışmasını; bunun da ücretsiz ve buluta veri gönderilmediği için daha özel olmasını mümkün kılabilir.
Neden önemli
Bu yaklaşım, gelişmiş dil modellerinin çalışması için sürekli bulut bağlantısı ve güçlü veri merkezi altyapısı gerekmeyebileceği ihtimalini gündeme getiriyor. Modellerin kullanıcı cihazlarında çalışması, verilerin buluta gönderilmemesi sayesinde mahremiyet açısından farklı bir kullanım biçimi oluşturabilir; ancak bunun hangi cihazlarda, hangi hız ve enerji tüketimiyle mümkün olacağı açık değil. Benchmark sonuçlarındaki sınırlı kayıp, sıkıştırılmış modellerin pratik kullanımda ne ölçüde yeterli kalacağını değerlendirme ihtiyacını ortadan kaldırmıyor. Ternary yönteminin daha büyük modellere uygulanması, teknolojinin yalnızca tek bir modelle sınırlı kalıp kalmayacağını gösterecek. Bu nedenle asıl soru, bellek tasarrufunun gerçek cihaz deneyiminde performans ve kullanım kolaylığıyla nasıl dengeleneceği.