Aplikasi ChatRTX Nvidia telah merilis pembaruan versi 0.3 yang diantisipasi hari ini di situs web Nvidia. Pembaruan pada aplikasi mirip ChatGPT membuka sejumlah fitur baru yang pertama kali diperkenalkan pada konferensi GTC Nvidia pada bulan Maret, termasuk kemampuan pencarian foto, pengenalan suara yang didukung AI, dan kompatibilitas dengan lebih banyak LLM.
ChatRTX mewakili demonstrasi teknologi terdepan Nvidia tentang kekuatan AI ketika didukung oleh kartu grafis RTX konsumen. Program ChatRTX menawarkan pengalaman yang berdekatan dengan ChatGPT yang diinstal secara lokal di komputer Anda, dengan kemampuan untuk memanfaatkan data Anda ke dalam kasus penggunaan AI tanpa risiko data tersebut dicuri untuk tujuan pelatihan atau penggunaan yang lebih jahat. Contoh praktik program dapat dilihat pada contoh seorang antusias yang memasang kartu RTX ke NAS untuk menggunakan kemampuan sintesis data ChatRTX di seluruh jaringan data mereka.
Kami dapat mengunduh versi baru sebelum rilis resminya dan memeriksa beberapa fitur baru. ChatRTX telah memperluas dukungan LLM (model pembelajaran bahasa; yaitu GPT-4) yang didukung untuk menyertakan opsi baru seperti Gemma, LLM terbaru dari Google, dan ChatGLM3-6B, opsi sumber terbuka baru. Kemampuan untuk memilih LLM Anda sendiri sangat berharga, karena LLM yang berbeda mungkin melakukan tugas yang sama dengan cara yang berbeda.
Alat pencarian dan interaksi foto ChatRTX juga mengalami peningkatan besar-besaran, dengan teknologi yang dipinjam dari alat CLIP OpenAI yang memungkinkan program untuk mencari gambar tanpa pelabelan metadata rumit yang ekstensif yang sebelumnya diperlukan oleh aplikasi. Terakhir, pengguna ChatRTX kini dapat berbicara dengan data mereka, dengan dukungan tambahan untuk Whisper, sistem pengenalan ucapan bertenaga AI yang memungkinkan ChatRTX memahami ucapan verbal.
Demo teknologi ini memanfaatkan kekuatan inti tensor Nvidia dan pustaka TensorRT, sehingga memerlukan GPU RTX — dan untuk saat ini, demo ini juga tidak mendukung seri RTX 20 generasi pertama. Jadi, jika Anda ingin menjalankan aplikasinya sendiri, Anda memerlukan GPU Nvidia RTX seri 30 atau 40 dengan VRAM minimal 8 GB — dan GPU Ampere atau Ada profesional mana pun juga bisa melakukannya.
Program ini kemungkinan akan terus bertambah fungsinya sebelum rilis 1.0, termasuk harapan kembalinya kemampuan menghapus tautan YouTube yang baru-baru ini dihapus, tak lama setelah pembaruan darurat 0.2.x untuk menambal kerentanan keamanan.
[Note: The main ChatRTX page still contains the previous March 24 download link, but it should hopefully update soon with the new version.]