Özel yapay zeka donanımını bir bilgisayarda paketlemeyi haklı çıkarmak zordu. Nvidia bunu RTX ile sohbet edin.
ChatGPT gibi bir şeye göre birkaç benzersiz avantaj sağlıyor, ancak aracın hâlâ bazı tuhaf sorunları var. Burada herhangi bir AI sohbet robotunda karşılaşacağınız tipik tuhaflıkların yanı sıra, RTX ile Sohbet'in biraz üzerinde çalışılması gerektiğini kanıtlayan daha büyük sorunlar da var.
İşte RTX ile Sohbet hakkında en bariz soru
Bunun ChatGPT'den farkı nedir? RTX ile sohbet, yerelbüyük bir dil modelidir (LLM). TensorRT-LLM uyumlu modelleri kullanıyor (Mistral ve Llama 2 varsayılan olarak dahil edilmiştir) ve bunları yerel verilerinize uyguluyor. Ayrıca asıl hesaplama bulutta değil, grafik kartınızda yerel olarak gerçekleşiyor. RTX ile sohbet, Nvidia RTX 30 serisi veya 40 serisi GPU ve en az 8 GB VRAM gerektirir.
Yerel bir model, birkaç benzersiz özelliğin kilidini açar.
Yeni başlayanlar için RTX ile Sohbet'e kendi verilerinizi yüklersiniz. Belgelerle dolu bir klasör oluşturabilir, RTX ile Sohbet'i bu klasöre yönlendirebilir ve bu verilere dayalı olarak modelle etkileşim kurabilirsiniz. Modelin, Bing Chat veya ChatGPT gibi bir şeyde gördüğünüz daha genel yanıtlar yerine ayrıntılı belgeler hakkında bilgi sağlamasına olanak tanıyarak daha yakın bir düzeyde özgüllük sunar.
Nvidia'nın DLSS 3'ünü, AMD'nin FSR 2'sini ve Intel'in XeSS'sini ayrıntılarıyla anlatan bir dizi araştırma makalesinin bulunduğu bir klasör yükledim ve bunların nasıl farklı olduklarına dair bazı özel sorular sordum. İnterneti karıştırıp farklılıkları açıklayan bir makaleyi yeniden yazmak yerine (Bing Chat gibi bir şeyin ortak taktiği) RTX ile Sohbet, gerçek araştırma makalelerine dayalı ayrıntılı yanıtlar sunabildi.
Şok olmadım.
RTX ile Sohbet bazı araştırma makalelerinden bilgi çıkarabildi, ancak bu bilgiyi bu kadar iyi ayrıştırabilmesi beni şok etti. Sağladığım belgeler, akademik konuşmalarla, başınızı döndürecek denklemlerle ve makalenin kendisinde açıklanmayan ayrıntılara göndermelerle dolu araştırma makaleleriydi. Buna rağmen, RTX ile Sohbet, makaleleri anlaşılması kolay bilgilere ayırdı.
Ayrıca RTX ile Sohbet'i bir YouTube videosuna veya oynatma listesine yönlendirebilirsiniz; bu, transkriptlerdeki bilgileri alacaktır. Aracın sivri uçlu yapısı gerçekten öne çıkıyor; yani ChatGPT'de yaptığınız gibi herhangi bir şey hakkında soru sormak yerine oturumu tek bir yöne odaklamanıza olanak tanıyor.
Diğer tarafı da her şeyin yerel olarak gerçekleşmesidir. . Sorgularınızı bir sunucuya göndermenize veya belgelerinizi yüklemenize ve bunların modeli daha fazla eğitmek için kullanılacağından korkmanıza gerek yok. Bu, bir yapay zeka modeliyle etkileşime geçmek için geliştirilmiş bir yaklaşımdır. Verilerinizi bilgisayarınızda kullanırsınız ve modelin diğer tarafında neler olup bittiğine dair hiçbir endişeniz olmadan ihtiyaç duyduğunuz soruları sorarsınız.
Ancak RTX ile Sohbet'in yerel yaklaşımının bazı dezavantajları var. En açık şekilde, yeni bir Nvidia GPU ve en az 8 GB VRAM içeren güçlü bir bilgisayara ihtiyacınız olacak. Ayrıca yaklaşık 100 GB boş alana ihtiyacınız olacak. RTX ile Sohbet aslında kullandığı modelleri indirdiğinden oldukça fazla disk alanı kaplıyor.
RTX ile Sohbet'in sorunsuz olacağını düşünmediniz değil mi? Hemen hemen her yapay zeka aracında gördüğümüz gibi, yapay zekadan gelen kesin hatalı yanıtlara karşı belirli bir tolerans vardır ve RTX ile Sohbet bunun üzerinde değildir. Nvidia, yeni bir kurulumla en son Nvidia haber makalelerinden bir örnek sunuyor ve o zaman bile yapay zeka her zaman iyi durumda değildi.
Örneğin, yukarıda modelin Sayaç yazdığını görebilirsiniz. -Strike 2DLSS 3'ü destekler. O değil. Yalnızca modelin, referans verdiği DLSS 3.5 makalesi ile dahil edilen veri kümesinde Counter-Strike 2.
Daha acil olan sınırlama
RTX ile Sohbet'in yalnızca örnek verilere sahip olmasıdır. Bu, küçük veri kümesindeki önyargının yanlış yanıtlara yol açabileceği bazı tuhaf durumlara yol açmaktadır. Örneğin, yukarıda modelin bir yanıtta DLSS Çerçeve Oluşturma'nın oyuna ek gecikme getirmediğini söylediğini, bir sonraki yanıtta ise çerçeve enterpolasyonunun oyuna ek gecikme getirdiğini söylediğini görebilirsiniz. DLSS Çerçeve Oluşturma, çerçeve enterpolasyonunu kullanıyor.
Başka bir yanıtta (yukarıda), Chat with RTX, DLSS 3'ün çalışması için Nvidia Reflex'in gerekmediğini ve bunun doğru olmadığını söyledi. Bir kez daha model benim sağladığım verilerden yola çıkıyor ve mükemmel değil. Bu, RTX ile Sohbet'in izin verdiği gibi dar bir odağa sahip olsa bile, bir yapay zeka modelinin düz bir yüzle hatalı olabileceğini hatırlatıyor.
Bu tuhaflıklardan bazılarını bekliyordum ancak RTX ile Sohbet yine de şaşırtmayı başardı Ben. Farklı oturumların çeşitli noktalarında, sağladığım verilerle tamamen ilgisi olmayan rastgele bir soru sorardım. Çoğu durumda, modelin yanıt vermesine yetecek kadar bilgi bulunmadığını belirten bir yanıt alırdım. Mantıklı.
Bir durum dışında model bir yanıt sağladı. Varsayılan verileri kullanarak ona ayakkabı bağının nasıl bağlanacağını sordum ve model adım adım talimatlar verdi ve ACE ile ilgili bir Nvidia blog gönderisine atıfta bulundu (Nvidia, bu ön yayın sürümünün bazen referans dosyalarını yanlış aldığını belirtiyor). Hemen ardından tekrar sorduğumda bağlam bilgisinin eksik olduğu konusunda aynı standart yanıtı verdi.
Burada neler olduğundan emin değilim. Modelde bu soruyu cevaplamasına olanak tanıyan bir şey olabilir ya da ayrıntıları başka bir yerden alıyor olabilir. Ne olursa olsun, RTX ile Sohbet'in sadece ona sağladığınız verileri kullanmadığı açıktır. En azından başka yerden bilgi alma kabiliyeti var. YouTube videoları hakkında soru sormaya başladığımda bu daha da netleşti.
RTX ile Sohbet'in ilginç yönlerinden biri de YouTube videolarının transkriptlerini okuyabilmesidir. Bu yaklaşımın bazı sınırlamaları vardır. Önemli olan, modelin gerçek videoyu değil, yalnızca transkripti görmesidir. Videoda transkriptte yer almayan bir şey olursa model bunu asla görmez. Bu sınırlamaya rağmen oldukça benzersiz bir özellik.
Yine de bununla ilgili bir sorunum vardı. RTX ile Sohbet ile tamamen yeni bir oturum başlatırken bile daha önce bağladığım videoları hatırlayacaktı. RTX ile Sohbet'in mevcut veya önceki konuşmalarınızın içeriğini hatırlaması gerekmediği için bunun olmaması gerekir.
Biraz karmaşık olabileceği için olanları anlatacağım. İlk oturumumda Commander at Home YouTube kanalından bir videoya bağlantı verdim. Bu bir Magic: the Gathering kanalı ve RTX ile Sohbet'in videoda açıklanmayan karmaşık bir konuya nasıl yanıt vereceğini görmek istedim. Şaşırtıcı olmayan bir şekilde iyi sonuç vermedi, ancak önemli olan bu değil.
Eski videoyu kaldırdım ve Nvidia'nın CEO'su Jensen Huang ile bir saat süren röportajın bağlantısını verdim. Bağlantıya girdikten sonra, veritabanını yeniden oluşturmak için özel düğmeye tıkladım ve temel olarak RTX ile Sohbet'e yeni veriler hakkında sohbet ettiğimizi söyledim. Bu sohbete de bir önceki konuşmamda olduğu gibi "Bu video neyle ilgili?" diye sorarak başladım. Bağlantısını verdiğim Nvidia videosuna göre yanıt vermek yerine önceki Commander at Home videosuna göre yanıt verdi.
Veritabanını üç kez daha yeniden oluşturmayı denedim, her zaman aynı sonuçla. Sonunda yepyeni bir oturuma başladım, RTX ile Sohbet'ten tamamen çıkıp yeni bir başlangıç yaptım. Bir kez daha Nvidia videosunu bağladım ve transkripti indirdim, videonun neyle ilgili olduğunu sormakla işe başladım. Yine Commander at Home videosuyla ilgili yanıt verdi.
RTX ile Sohbet'ten Nvidia videosuyla ilgili yanıt alabilmek için yalnızca o videoyla ilgili belirli bir soru sorduğumda ulaşabildim. Biraz sohbet ettikten sonra videonun neyle ilgili olduğunu sorduğumda cevap Komutan Evdeki videosuyla ilgili oluyordu. Unutmayın, RTX ile Sohbet bu oturumda bu video bağlantısını hiç görmedi.
Nvidia bunun nedeninin RTX ile Sohbet'in sizin tarafınızdan okunan metinlerin tümünü okuması olduğunu söylüyor. indirdim. Bunlar yerel olarak bir klasörde depolanır ve yeni bir oturum başlattığınızda bile girdiğiniz tüm videolarla ilgili soruları yanıtlamaya devam eder. Transkriptleri manuel olarak silmeniz gerekir.
Ayrıca, birden fazla video transkriptiniz varsa RTX ile Sohbet genel sorularda zorlanacaktır. Videonun neyle ilgili olduğunu sorduğumda RTX ile Sohbet, Commander at Home videosunu sorduğuma karar verdi, dolayısıyla referans verdiği video buydu. Biraz kafa karıştırıcı, ancak özellikle daha önce YouTube bağlantılarına girdiyseniz, sohbet etmek istediğiniz transkriptleri manuel olarak seçmeniz gerekecektir.
Başka bir şey değilse, RTX ile Sohbet bunun nasıl yapıldığının bir göstergesidir. Yapay zeka modelini kullanmak için yerel donanımdan yararlanabilirsiniz; bu, bilgisayarların geçen yıl fena halde eksik kaldığı bir şey. Karmaşık bir kurulum gerektirmez ve başlamak için yapay zeka modelleri hakkında derin bilgiye sahip olmanıza gerek yoktur. Yüklersiniz ve yeni bir Nvidia GPU kullandığınız sürece çalışır.
Ancak RTX ile Sohbet'in ne kadar kullanışlı olduğunu belirlemek zordur. Çoğu durumda ChatGPT gibi bulut tabanlı bir araç, erişebildiği geniş bilgi alanı nedeniyle kesinlikle daha iyidir. Onun faydasını bulmalısın. Ayrıştırılacak uzun bir belge listeniz varsa veya izlemeye vaktiniz olmayan bir YouTube videosu akışınız varsa, RTX ile Sohbet, bulut tabanlı bir araçla bulamayacağınız bir şey sağlar; tabii işin doğasında olan tuhaflıklara saygı duyduğunuzu varsayarak. herhangi bir yapay zeka sohbet robotuna.
Ancak bu yalnızca bir demo. RTX ile Sohbet sayesinde Nvidia şeytandır Yerel bir yapay zeka modelinin neler yapabileceğini ortaya koyuyoruz ve umarım bu, yerel yapay zeka uygulamalarını kendi başlarına keşfetmeleri için geliştiricilerin ilgisini çekmeye yeterlidir.
OpenAI, yeni nesil video oluşturucu modeli Sora'yı piyasaya sürmenin sözünü veriyor Şubat ayından bu yana. Pazartesi günü, şirket nihayet çalışan bir sürümünü yayınladı. "12 Günlük OpenAI" etkinliğinin bir parçası.
dizüstü bilgisayar fırsatları arıyorsanız, Best Buy büyük indirimler için mükemmel bir kaynaktır . HP 17,3 inç Dizüstü Bilgisayar için bu teklife bir göz atın: 630 $ olan orijinal fiyatından 280 $ tasarrufla 350 $ gibi inanılmaz düşük bir fiyat. Neresinden bakarsanız bakın bu bir hırsızlıktır, ancak bu pazarlıktan yararlanmak istiyorsanız acele etmeniz gerekecek çünkü bu yalnızca bugün mevcut. Dizüstü bilgisayarın fiyatının normale dönmesine yalnızca birkaç saat kaldı. Bu fırsatı kaçırmak istemiyorsanız satın alma işlemini hemen yapmanız gerekecek.
Çoğu insanın üretken yapay zekayı düşündüğünde aklına hemen popüler yapay zeka sohbet robotları geliyor: ChatGPT, Gemini ve Yardımcı Pilot — hepsi temelde aynı türden üretken şeyler yapıyor, sadece farklı şapkalar takıyorlar.
Yakın zamanda Acer Swift 14 AI'yı inceledim, 14 inç dizüstü bilgisayar, çoğu Windows dizüstü bilgisayardan çok daha iyi pil ömrü sağlamayı hedefliyordu. Kısmen Intel'in en yeni Lunar Lake yonga setleri sayesinde başarılı oldu. Acer şimdi aynı şeyi benzer ancak aynı olmayan bir dizüstü bilgisayarda, Qualcomm'un Snapdragon X'ini kullanarak daha az parayla başarmak istiyor.
Harika bir tatil hediyesi gören herkes için en iyi oyun bilgisayarı fırsatlarından biri olan Lenovo LOQ 15,6 inç oyun dizüstü bilgisayarı Walmart'ta 660 dolara düştü Bu Düşüş Türkiye'dede Bekleniyor. Normalde maliyeti 850 dolardır. Dizüstü bilgisayar, saygın bir markadan gelmesi ve aynı zamanda GeForce RTX 4050 GPU sunması sayesinde bu fiyat aralığındaki en iyi seçeneklerden biri. Tatil için en iyi dizüstü bilgisayar fırsatlarından birini satın almadan önce bilmeniz gerekenleri burada bulabilirsiniz.
Konu PC oyunları olduğunda, genel oyun deneyiminizi geliştirebilecek veya bozabilecek birkaç önemli bileşen vardır. Tek oyunculu ve çok oyunculu PC oyun deneyimleri için gecikme ve tepki süresinin önemli olduğu göz önüne alındığında, masaüstü donanımınızdaki her AV cihazının güç ve performans açısından optimize edildiğinden emin olmak iyi bir fikirdir. Ancak bu denklemin belki de en önemli kısmı PC monitörünüzdür.
Samsung'un yeni Odyssey 3D monitörü, bu yılın başlarında CES'te büyük ilgi gördü ve özel gözlüklere ihtiyaç duymadan rahat ve sürükleyici bir 3D oyun deneyimi sergiledi. Ancak ayrıntılar çok azdı.
Dell, yüksek performanslı dizüstü bilgisayarlar ve masaüstü bilgisayarlar üretme konusunda başıboş bir firma değil, ancak şirketin "en güzel ve güçlü" dizüstü bilgisayarlarından birinin şu anda satışta olduğunu biliyor muydunuz? Şu anda 2.550 ABD Doları olarak işaretlenmiş olan Dell XPS 16'dan bahsediyoruz. Dell aracılığıyla sipariş verin (ve bu teklif bizimkiydi). Bu çok iyi bir indirim gibi gelmeyebilir ancak bu Windows dizüstü bilgisayarın tam fiyatı aslında 3.050 ABD dolarıdır!
Yorumlar