如果你的個人電腦使用的是相對新款的 NVIDIA 顯示卡，你可以試試這家公司最新的 AI 工具，名為「Chat with RTX」。它將生成式 AI 功能引入了 Windows 個人電腦，依賴於「 NVIDIA RTX 加速」等技術。
「Chat with RTX」被吹捧為 Windows 個人電腦上的「本地、快速、自定義生成式 AI」。因此，在這種類型的 AI ChatBot 上，用戶的私隱會比 Bing Chat、Google Bard 和 ChatGPT 等選項更好。現在，如果你想知道 NVIDIA 的「Chat with RTX」工具是否支援離線使用，是的，它支援！
與當今大家通常使用的基於雲端的 AI ChatBot 相比，使用這種在個人電腦上運行的本地 AI ChatBot 確實具有一定的優勢。 NVIDIA 表示「提供的結果快速，用戶的數據留在設備上」。
你可以提供自己的數據集，將本地文件放在個人電腦上。支援各種擴展名，如 PDF 文件、記事本文檔和 Word 文檔。順便說一下，你甚至可以通過將影片鏈接添加到軟件的設置中，提供 YouTube 影片的知識給這個 AI ChatBot ！
NVIDIA 的「Chat with RTX」依賴於檢索增強生成 (RAG) 技術，用於提高語言模型的準確性。它還使用 TensorRT-LLM 軟件和你的 GPU 硬件在 Windows 10 和 11 個人電腦上運行。在將各種文檔、筆記和影片提供給「Chat with RTX」後，你可以通過一個簡單的 AI ChatBot 界面與資訊互動！
「Chat with RTX」：系統要求和下載位置
由於這是一個在本地運行的 AI ChatBot ，所以下載大小在撰寫本文時為 35.1GB。下載中包含了兩個大型語言模型，Mistral 和 Llama 2。你可以在 NVIDIA 的網站上下載「Chat with RTX」。下載完成後，你可以解壓縮該壓縮檔，然後進行「Chat with RTX」的安裝。但是，你需要滿足一些先決條件。
只要滿足特定的硬件要求，搭載 NVIDIA GeForce RTX 顯示卡的 Windows 個人電腦就可以運行這款新的「Chat with RTX」AI 工具。 NVIDIA 表示這是一個「演示應用程式」，所以可能會有更多功能豐富的版本推出。「Chat with RTX」AI 工具的系統要求如下：
- 16GB RAM（或更多）
- NVIDIA RTX 30 系列或 RTX 40 系列顯示卡（具有 8GB+ VRAM 容量）
- GeForce Driver v535.11 或更高版本
