Dijital Görünürlük, Web & AI
Top-p
- Diğer kullanımlar
- Top-p · Nucleus sampling
Hızlı Tanım
Top-p, üretken modelin bir sonraki token seçiminde toplam olasılığı belirli eşiğe ulaşan aday kümeden örnekleme yapmasını sağlayan nucleus sampling parametresidir.
Kavramın Açıklaması
Örneğin top-p değeri 0,9 olduğunda model toplam olasılığı yaklaşık yüzde 90'a ulaşan en olası token kümesini dikkate alarak örnekleme yapabilir.
Top-p ile temperature farklı sampling kontrolleridir. İkisini aynı anda agresif biçimde değiştirmek çıktının davranışını öngörmeyi zorlaştırabilir.
Parametrenin desteklenmesi ve davranışı model sağlayıcısına göre değişebilir; API dokümantasyonu esas alınmalıdır.
Neden Önemli?
MedyaBudur AI iş akışlarında top-p yalnız yaratıcı çeşitlilik için değil çıktı tutarlılığı ve yeniden üretilebilirlik açısından da test edilmelidir.
Kaynaklar
- Google Cloud: Generative AI glossary — top-p