Investing.com – Google (NASDAQ:GOOGL) bugün DeneyselGemma’yı piyasaya sürdü. Bu deneysel açık model, özel GPU’larda geleneksel dil modellerinden dört kat daha hızlı metin üretiyor. 26 milyar parametreli Mixture of Experts modeli, metin difüzyonu kullanıyor. Böylece belirteçleri sırayla işlemek yerine tüm metin bloklarını aynı anda oluşturuyor.
Model, çıkarım sırasında yalnızca 3,8 milyar parametreyi etkinleştiriyor. Nicelendirildiğinde üst düzey tüketici GPU’larının 18GB VRAM sınırlarına sığıyor. DiffusionGemma, tek bir NVIDIA (NASDAQ:NVDA) H100 GPU’da saniyede 1.000 belirtecin üzerinde hıza ulaşıyor. NVIDIA GeForce RTX 5090 donanımında ise saniyede 700 belirtecin üzerinde performans gösteriyor.
DiffusionGemma, her ileri geçişte 256 belirteci paralel olarak üretiyor. Bu sayede çift yönlü dikkat mekanizması devreye giriyor. Her belirteç diğer tüm belirteçlere odaklanabiliyor. Model, kendi çıktısını yinelemeli olarak iyileştiriyor. Böylece hataları gerçek zamanlı olarak düzeltiyor. Bununla birlikte Google, genel çıktı kalitesinin standart Gemma 4 modellerinden daha düşük olduğunu belirtiyor.
Google, modeli Hugging Face üzerinde Apache 2.0 lisansıyla yayınladı. Şirket, DiffusionGemma’yı belirli bir amaç için tasarladı. Hız açısından kritik ve etkileşimli yerel iş akışlarını keşfeden araştırmacılar ve geliştiriciler için hazırlandı. Satır içi düzenleme, hızlı yineleme ve doğrusal olmayan metin yapıları oluşturma gibi kullanımlar hedefleniyor.
Model, MLX, Red Hat entegrasyonlu vLLM, Hugging Face Transformers, Unsloth ve NVIDIA NeMo ile çalışıyor. Google, donanım yığını genelinde performansı optimize etmek için NVIDIA ile iş birliği yaptı. Tüketici kurulumları için GeForce RTX 5090 ve 4090 GPU’ları dahil edildi. Kurumsal dağıtımlar için NVFP4 çekirdekleri kullanan Hopper ve Blackwell sistemleri eklendi.
Bu makale yapay zekanın desteğiyle oluşturulmuş, çevrilmiş ve bir editör tarafından incelenmiştir. Daha fazla bilgi için Şart ve Koşullar bölümümüze bakın.
