Nvidia 更新 ChatRTX

简介

Nvidia 的 ChatRTX 应用程序发布了其期待已久的 0.3 版本更新，引入了新的功能，如照片搜索和 AI 功能的语音识别。该更新为 AI 使用案例开启了大量新的可能性。

更新

ChatRTX 应用程序扩展了其支持的 LLM 选项，包括 Google 的最新 LLM Gemma 和新的开源选项 ChatGLM3-6B。选择自己的 LLM 的能力是无价的，因为不同的 LLM 可能会对同样的任务执行完全不同的操作。ChatRTX 的照片搜索和交互工具也进行了大量升级，借用 OpenAI 的 CLIP 工具，允许该程序在不需要之前应用程序所需的广泛复杂元数据标签的情况下搜索图像。

技术要求

ChatRTX 用户现在可以与他们的数据对话，添加了对 Whisper 的支持，Whisper 是一个 AI 功能的语音识别系统，能够使 ChatRTX 理解口语。该技术演示利用了 Nvidia 的张量核心和 TensorRT 库的功能，因此需要一个 RTX GPU —— 暂时不支持第一代 RTX 20 系列。因此，如果您想自己运行该应用程序，您需要一个具有至少 8GB VRAM 的 Nvidia RTX 30 或 40 系列 GPU。

行业背景

ChatRTX 的更新是 AI 使用案例的一个重大进步，特别是在消费者 RTX 图形卡的背景下。Nvidia 的 ChatRTX 应用程序代表了另一个 AI 的力量的演示，当其由消费者 RTX 图形卡提供动力时。ChatRTX 程序提供了一个本地安装在计算机上的 ChatGPT 相邻的体验，能够利用您的数据进入 AI 使用案例，而无需担心数据被盗用于训练目的或其他恶意用途。

AI 功能应用程序的历史

AI 功能应用程序的概念并不是新鲜的，但 ChatRTX 应用程序在可访问性和功能性方面是一个重大进步。以前的 AI 功能应用程序一直受到其对云服务的依赖的限制，云服务可能很慢并且容易出错。另一方面，ChatRTX 应用程序可以在用户的计算机上本地运行，提供更快、更安全的体验。

技术机制

ChatRTX 应用程序在不需要元数据标签的情况下搜索图像的能力是一个重大的技术成就。这是通过使用 OpenAI 的 CLIP 工具实现的，允许该应用程序在不需要手动标签的情况下理解图像的内容。这种技术有可能彻底改变我们与图像的交互方式，并可能对从医疗保健到金融等广泛的行业产生重大影响。

下游影响

ChatRTX 应用程序的更新对 AI 功能应用程序的未来具有重大影响。随着该应用程序在功能上继续增长，我们可能会看到新的和创新的 AI 使用案例。选择自己的 LLM 和该应用程序与甚至更多 LLM 兼容的能力将是未来几个月中需要关注的重要因素。另外，该应用程序可以在用户的计算机上本地运行，这可能对数据隐私和安全产生重大影响。

关注点

随着 ChatRTX 应用程序在功能上继续增长之前，最终发布 1.0 版本，我们可能会看到其 YouTube 链接清除功能的返回，该功能最近被删除。此外，该应用程序与甚至更多 LLM 兼容将是一个重要因素需要关注，因为不同的 LLM 可能会对同样的任务执行完全不同的操作。该应用程序的下一个重大更新可能是其长期潜力和在 AI 市场中竞争的能力的重要指标。

结论

Nvidia 的 ChatRTX 应用程序的更新是 AI 使用案例的一个重大进步，特别是在消费者 RTX 图形卡的背景下。随着该应用程序在功能上继续增长，我们可能会看到新的和创新的 AI 使用案例。选择自己的 LLM 和该应用程序与甚至更多 LLM 兼容的能力将是未来几个月中需要关注的重要因素。