隨著ChatGPT在2022年11月底的正式發布，AI工具可以說已經正式出現在大眾的視野中。 隨後，AI技術開始呈指數級發展，許多功能各異的AI軟體應運而生。 作為PC領域的領導者，英偉達自然研究了許多有用的AI工具。 ChatWith RTX 以前僅在基於 NVIDIA RTX 的雲伺服器上可用，現在支援在 Windows RTX PC 或工作站上進行本地部署。 這不僅大大提高了搜尋效率，更重要的是，它確保了使用者在處理敏感資訊時的安全，而無需將資料上傳到第三方或連線到網際網絡。 尤其是對於Gainward的GeForce RTX 40Super系列顯示卡使用者來說，他們不僅在日常遊戲中享受流暢的幀率體驗，而且在使用NVIDIA的AI工具時也能感受到明顯的速度提公升。
ChatWith RTX 促進了使用者資料（無論是文件、筆記還是其他形式的內容）與 LLMS 之間的直接連線，從而增強了使用者對上下文的理解和個性化。 借助檢索增強生成 （RAG）、TensorRT-LLM 和 RTX 加速，使用者可以與自定義聊天機械人進行通訊，並快速獲得針對其內容量身定製的答案。 同時，使用者可以快速輕鬆地將桌面上的資料作為資料集連線到開源的大型語言模型，例如 mistral 或 llama2，以快速查詢上下文內容。
ChatWith RTX 支援多種檔案格式，包括文字檔案、PDF、DOC docx 和 XML，簡化了流程。 只需在應用程式中指定包含目標檔案的資料夾，幾秒鐘內，應用程式就會將它們載入到庫中。
Chatwith RTX 還允許使用者輸入 YouTube 列表的 URL，允許應用程式自動轉錄內容進行查詢，進一步豐富對話體驗。 相信後續將進一步支援國內***的使用。
此外，對於開發者來說，Chatwith RTX 構建在 GitHub 上的 Tensorrt-llmrag 開發者參考專案之上。 開發人員可以從這個參考專案中汲取靈感，構建和部署基於 RTX 的 RAG 應用程式，這些應用程式由 TensorRT-LLM 加速，開創了 AI 互動的新時代。
當然，強大的功能也需要出色的硬體支援。 要在本地使用 ChatWith RTX，使用者需要 GeForce RTX 30 系列 GPU 或更高版本（至少 8GB 視訊記憶體），並且 Windows 10 或 11 上的作業系統已更新到最新的 NVIDIA GPU 驅動程式。
這裡我們推薦最近發布的 Gainward GeForce RTX 40 Super 系列顯示卡。 該系列顯示卡搭載NVIDIA Ada Lovelace架構，與上一代顯示卡相比，效能有了很大的提公升。 強大的AI效能可以幫助使用者在使用ChatwithRTX和StableDiffusion時提高渲染速度，更快地獲得結果。 在遊戲方面，它支援多種 RTX 技術，包括 NVIDIA DLSS 35.光線追蹤技術，讓遊戲更加逼真細膩。
其中，Gainward GeForce RTX 4070 Super OC外殼採用純白色全金屬設計，外觀明亮純淨。 此外，全新的三風扇散熱片冷如冰，為使用者呈現了一場不同尋常的視覺和效能盛宴。 這款顯示卡對於對電競遊戲、生產力應用程式和 AI 創作有很高需求的使用者來說肯定是乙個令人滿意的選擇。