NVIDIA, Microsoft Build 2025 etkinliği sırasında Windows 11 platformuna özel olarak geliştirilmiş yeni yapay zeka kütüphanesi TensorRT for RTX’i tanıttı. Yeni sistemin, özellikle NVIDIA RTX ekran kartları üzerinde çalışan yerel yapay zeka uygulamalarında yüksek performans sunmak amacıyla tasarlandığı belirtildi.
NVIDIA, TensorRT for RTX ile performans artışı sağlayacak
TensorRT for RTX, daha önce yalnızca veri merkezlerinde kullanılan NVIDIA TensorRT sisteminin masaüstü versiyonu olarak öne çıkıyor. Bu yeni sürüm, Windows tabanlı PC’lerde %50’ye varan performans artışları sağladığı ifade ediliyor.
Bu yapay zeka kütüphanesi, FLUX-1.dev gibi yeni nesil üretken yapay zeka modellerini kullanıcı seviyesindeki GPU’larda çalıştırmak üzere geliştirildi. Ayrıca FP4 ve FP8 gibi düşük hassasiyetli sayısal formatları destekleyerek daha verimli bellek kullanımı ve yüksek işlem hacmi sunuyor.
TensorRT for RTX’in dikkat çeken bir diğer özelliği, çıkarım motorlarının önceden derlenmesine gerek duyulmaması. Model başlatıldığında, GPU üzerinde birkaç saniye içinde derleme yapılarak modele özgü motorlar oluşturulabiliyor.
Ek optimizasyonlarla birlikte, performansta %20’ye kadar ek bir artış sağlanması mümkün. Sistem, yalnızca 200 MB’lık bir boyuta sahip ve Windows ML aracılığıyla arka planda otomatik olarak indirilebiliyor. NVIDIA RTX 5090 üzerinde gerçekleştirilen testler, TensorRT for RTX’in DirectML’ye göre belirgin bir hız artışı sağladığını gösterdi.
Siz bu yeni teknolojiyle ilgili ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmında bizimle paylaşabilirsiniz.
Leave a comment