ppq ne demek?

PPQ, Post-PreQuantization'ın kısaltmasıdır ve özellikle derin öğrenme modellerini optimize etmeye yönelik bir tekniktir. Temel amacı, modelin nicemleme (quantization) sonrası performansını iyileştirmektir.

PPQ, genellikle şu adımları içerir:

1. Model Nicemlemesi: Modelin ağırlıkları ve aktivasyonları, genellikle 8-bit tamsayılara dönüştürülür. Bu, modelin boyutunu küçültür ve çıkarım hızını artırır.
2. Nicemleme Sonrası Kalibrasyon: Nicemlemeden kaynaklanan doğruluk kaybını en aza indirmek için, PPQ, nicelenmiş model üzerinde bir kalibrasyon veri kümesi çalıştırır. Bu adımda, modelin davranışını gözlemlenir ve nicemleme parametreleri (örneğin, ölçek faktörleri ve sıfır noktaları) ayarlanır.
3. Optimizasyon: PPQ, modelin belirli katmanlarını veya işlemlerini yeniden düzenleyerek veya farklı nicemleme şemaları kullanarak performansı daha da iyileştirmeye çalışır. Örneğin, bazı katmanlar için daha yüksek bit hassasiyeti kullanılabilir veya farklı nicemleme teknikleri uygulanabilir.

PPQ'nun avantajları şunlardır:

• Performans Artışı: Modelin boyutu küçülür ve çıkarım hızı artar.
• Enerji Verimliliği: Özellikle mobil ve gömülü sistemlerde, daha az enerji tüketimi sağlanır.
• Doğruluk Koruma: Nicemleme sonrası kalibrasyon ve optimizasyon sayesinde, modelin doğruluğu mümkün olduğunca korunur.

PPQ, özellikle kaynak kısıtlı ortamlarda çalışan derin öğrenme modelleri için oldukça faydalı bir tekniktir. Farklı derin öğrenme çerçeveleri (frameworks) ve donanım platformları üzerinde uygulanabilir.