NVIDIA於CES 2024（消費性電子展）推出了ChatRTX聊天機器人程式，並最近進行了升級，增加了對ChatGLM 3中文大型語言模型的支援。ChatRTX是一款聊天機器人程式，需要在搭載8GB以上顯示記憶體的NVIDIA GeForce RTX 30 / RTX 40系列顯示卡、顯示晶片的Windows電腦上運行。該程式可在下載大型語言模型（Large Language Model，LLM）之後進行全程離線運作，以避免機敏資料外洩的風險。

ChatRTX目前版本支援北京智譜華章科技公司推出的Llama 2.3.36B大型語言模型，該模型能夠支援正體中文與簡體中文。此外，ChatRTX還支援了由OpenAI公司推出的圖文對應模型CLIP，該模型的主要功能是辨識圖片。

安裝ChatRTX非常簡單，只需在安裝完成後雙擊桌面的「NVIDIA ChatRTX」捷徑，程式就會自動啟動。啟動完成後，會自動打開網頁介面，如果沒有自動打開，可以點擊視窗中的網址。在網頁介面中，可以展開「Add new models」標籤，然後選擇想要安裝的模型，並確認授權聲明後點擊下載按鈕即可完成安裝。

ChatRTX具有檢索增強生成（Retrieval Augmented Generation，RAG）功能，可以讓程式查閱資料庫中的文字與圖片檔案，從而提供更貼近使用者需求的回應。例如，我們可以將自己撰寫的文章匯入資料庫，讓預先訓練的大型語言模型快速學習新增知識，以回答個人資料和最新報導內容相關的問題。

ChatRTX的運作過程不會將任何資料上傳至雲端，因此更加安全可靠。即使使用中國公司推出的ChatGLM 3.6B大型語言模型，也不用擔心資料外洩的風險。此外，在安裝CLIP模型之後，ChatRTX還可以根據使用者輸入的提示詞從資料庫中搜尋相應的圖片。

ChatRTX是一個功能強大的聊天機器人程式，具有廣泛的應用價值。如果您擁有搭載NVIDIA GeForce RTX 30 / RTX 40系列顯示卡的電腦，不妨試試安裝並體驗一下它的強大功能。

以上就是NVIDIA推出的ChatRTX聊天機器人程式的相關介紹。如果您對此有任何疑問或需求，請隨時聯繫我們。感謝您的閱讀！

【延伸閱讀】
– ChatRTX官方網站：[連結]
– Llama 2.3.36B大型語言模型：[連結]
– CLIP圖文對應模型：[連結]
– Stable Diffusion：[連結]