Nvidia, PC üzerinde çalışan “Chat with RTX” sohbet robotunu tanıttı: Neler yapabiliyor?

Tam Boyutta Gör

Yerel, kişisel ve gelişmiş AI sohbet robotu: Nvidia Chat with RTX

ChatGPT veya Copilot’u mutlaka en az bir kere kullanmışsınızdır. Eğer kullanmışsanız ne kadar da hantal olduklarını deneyimlemişsinizdir. Basit bir “merhaba” sorgusuna yanıt almak için bile 5-10 saniye beklemek gerekebiliyor. Çok yoğun senaryolarda yanıtlar 30 saniye kadar geç gelebiliyor. Ancak yerel olarak çalışan bir yapay zekada bu gecikmeler yaşanmıyor. Nvidia RTX ile Sohbet, bu sayede gecikmelerin hiçbirini yaşamıyor.

Şirket, kullanıcıların bilgisayardaki yerel dosyalarını veri kümesi olarak Mistral veya Llama 2 gibi açık kaynaklı büyük bir dil modeline hızlı ve kolay bir şekilde bağlamasına olanak tanıdığını söylüyor. Böylece alakalı sorgularınızda yazılım cevabı bulmak için yerel dosyaları tarıyor ve saniyeler içinde anında yanıtını veriyor.

Tam Boyutta Gör

Bu, kişisel verilerinizin bağlamsal çerçevesi içinde çalışan gerçek bir dijital asistana benzeyen bir şeye doğru büyük bir adım gibi görünüyor. Çoğu sohbet robotunda veriler buluta gönderiliyor, ancak Chat with RTX, kullanıcıların hassas verileri üçüncü bir tarafla paylaşmadan veya internet bağlantısına gerek kalmadan yerel bir bilgisayarda işlemesine olanak tanıyor. Yani daha güvenli ve bağlamsal olarak daha bilinçli.

Sorunlar yok değil

Tam Boyutta Gör

RTX 4090 GPU'ya sahip Intel Core i9-14900K işlemciyle çalışan bir bilgisayara RTX ile Sohbet'i yüklemek yaklaşık 30 dakika sürüyor. Uygulama yaklaşık 40 GB boyutunda ve Python örneği 64 GB RAM'li bir sistemde 3 GB alan kaplıyor.

Sınırlamalar tarafında ise çok fazla hatanın olduğu belirtiliyor. Sistem bazen YouTube videolarını doğru analiz edemiyor, çok sayıda dosya yüklendiğinde çökebiliyor, halüsinasyon yaşayabiliyor. RTX ile Sohbet bağlamı da hatırlamıyor, bu nedenle takip soruları önceki bir sorunun bağlamına dayanamıyor.

Yine de bu ileriye atılmış büyük bir adım. Özellikle kişisel dosyalarınızı analiz etmek için Copilot Pro veya ChatGPT Plus gibi bir şeye abone olmak istemiyorsanız, yapay zekalı bir sohbet robotunun gelecekte bilgisayarınızda yerel olarak neler yapabileceğini gösteriyor.

Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:

Daha Fazla Video

donanimhabercom Instagram Takip Et

Xiaomi'den fütüristik su tabancası

K

ka.selcuk 4 gün önce

1 yaz kısa süre kullanım için ideal,

Kagansiii 6 gün önce

Hawli

Sempron 3200 1 hafta önce

Çok eğlenceli görünüyor :))

F

f1bilalII 2 hafta önce

Baya eğlenceli görünüyor :)

S

sultanneb 2 hafta önce

Eğlenceli görünüyor

filozof1281 1 ay önce

3

mars için birebir :)

34savas34 1 ay önce

Son derece farklı bir alet :D

karagece25 1 ay önce

1

çöp

onderweb 1 ay önce

türkiyede satılmıyor mu daha?

G

Guest-29720FFA4 2 ay önce

@ccguven evine giren surilere yemek olmuş ilk işleri yemek değilmiş...

limbesh 2 ay önce

Yine mi piramit ( sürekli gördüğüm masonik sembolleri vurguluyorum, istatistikleri bilelim, yerlileriyle iş yapmayalım )

0

01muallim 3 ay önce

Yurtdışı fiyatı bile 9k olunca insanın hevesi kaçıyor

M

molla gürhani 3 ay önce

Benim oğlana alayım bi tane

Exadious 7 ay önce

Efsane Türkiye’ye gelse alırım..

E

E_Y_B_H_P_T 7 ay önce

3

O ışık efektleri sadece yanlarda değil üstte de olmalıydı. Böylece tabancayı kullanan, kafasını yana eğmek zorunda kalıp, fıtık olmaz.

emrahmt 9 ay önce

Mukemmel bir silah acaba ne kadar hızlı atıyor. [resim] [resim]

garez41 9 ay önce

Fiyat makul olsa efsane olur gerçekten ya.

Rindaman 10 ay önce

Vay bee, bu cihaz xiaomi çıktı ben de diyordum kim üretmiş..

D

DH Misafiri 11 ay önce

hocam 4x daha iyi direk hs attirir

Mstt.2010 1 yıl önce

Über