Chatbot AI di perangkat NVIDIA sekarang mendukung Google Gemma dan ChatGLM3

03/05/2024, 11:50 WIB Yani Andriansyah
Chatbot AI di perangkat NVIDIA sekarang mendukung Google Gemma dan ChatGLM3

foto: nvidia

Techno.id - Pembaruan ketiga untuk aplikasi ChatRTX NVIDIA telah tiba. Dalam pembaruan ini NVIDIA menambahkan kemampuan pengenalan gambar baru, fungsionalitas input suara, dan pilihan LLM sumber terbuka yang diperluas.

NVIDIA ChatRTX, yang sebelumnya disebut Chat with RTX, adalah chatbot AI yang bisa dipersonalisasi, dapat berjalan secara lokal di PC Windows. Chatbot AI ini bertindak sebagai asisten pribadi, menjawab pertanyaan tentang dokumen, catatan, dan file lain di komputer pengguna tanpa interaksi dengan cloud apa pun.

You May Know

Chatbot AI ini juga dapat meringkas video YouTube, yang mungkin berguna saat pengguna ingin mendapatkan resep atau mengikuti tutorial tanpa mendengarkan seseorang mengoceh selama 15 menit.

Salah satu hal menarik tentang ChatRTX adalah kemampuannya menjalankan berbagai LLM. ChatRTX diluncurkan dengan dukungan untuk Mistral dan Llama 2, sekarang mendukung Google Gemma, bagian dari Gemini dan ChatGLM3, LLM Inggris dan China berdasarkan kerangka kerja GLM. Masing-masing LLM ini cocok untuk tugas-tugas tertentu, karena itu diperlukan variasi.

Chatbot AI di perangkat NVIDIA sekarang mendukung Google Gemma dan ChatGLM3 foto: nvidia

Rilis ChatRTX baru juga menawarkan integrasi CLIP Whisper dan Open AI. Sementara Whisper menambahkan pengenalan suara berbasis AI untuk input suara, CLIP meningkatkan kemampuan pengenalan gambar ChatRTX. Seorang fotografer dapat menggunakan ChatRTX untuk menemukan dan mengatur banyak gambar yang tidak berlabel.

Untuk lebih jelasnya, ChatRTX masih dianggap sebagai demo teknologi. Ini adalah contoh dari apa yang dapat dibuat oleh pengembang menggunakan proyek referensi sumber terbuka TensorRT-LLM RAG, dan ini adalah sesuatu yang dapat membantu rata-rata pengguna komputer menjadi lebih akrab dengan LLM.

Manfaat ChatRTX adalah tidak memerlukan keahlian apa pun dan memungkinkan pengguna melatih chatbot lokal yang dipersonalisasi tanpa terlalu banyak kerja keras. Kamu dapat menginstal ChatRTXtoday secara gratis dari situs web NVIDIA.

Namun, ChatRTX memerlukan GPU seri RTX 30 atau 40 dengan VRAM minimal 8GB. Di samping itu, dibutuhkan kesabaran saat menunggu unduhan ChatRTX. Maklum ChatRTX, adalah aplikasi yang relatif besar yakni 30GB.

(brl/red)

RECOMMENDED ARTICLE

  1. NVIDIA RTX hadirkan generative AI ke jutaan PC, dorong penggunaan AI untuk produktivitas harian
  2. Indosat siap integrasikan platform NVIDIA Blackwell untuk berdayakan AI Generatif di Indonesia
  3. Mengulik 9 kecanggihan Acer Predator Helios Neo 16 yang harus dibuktikan para gamers
  4. 5 Fungsi ray tracing yang mendukung performa gaming, visual grafis makin realistis   
  5. Cara memperbarui driver kartu grafis Nvidia, bisa gunakan GeForce Experience atau manual

HOW TO

TECHTAGS

TECHPEDIA

LATEST ARTICLE

6 Tips ampuh menghemat baterai ponsel saat traveling, hindari bermain game berat  
6 Tips ampuh menghemat baterai ponsel saat traveling, hindari bermain game berat  
Cara membersihkan laptop untuk membantu mengatasi masalah panas berlebih
Cara membersihkan laptop untuk membantu mengatasi masalah panas berlebih
Ini alasan smartphone Android tidak merekomendasikan kamu melakukan sideload aplikasi
Ini alasan smartphone Android tidak merekomendasikan kamu melakukan sideload aplikasi
Kotoran yang menumpuk bisa mengakibatkan telinga infeksi, begini cara membersihkan earbuds
Kotoran yang menumpuk bisa mengakibatkan telinga infeksi, begini cara membersihkan earbuds
Hotspot seluler khusus vs tethering, mana lebih baik saat traveling? Begini penjelasannya
Hotspot seluler khusus vs tethering, mana lebih baik saat traveling? Begini penjelasannya

TECHPEDIA Selengkapnya >