Nvidia actualiza ChatRTX
Introducción
La aplicación ChatRTX de Nvidia ha lanzado su esperada actualización de la versión 0.3, que introduce nuevas características como capacidades de búsqueda de fotos y reconocimiento de voz con IA. Esta actualización abre un montón de nuevas posibilidades para casos de uso de IA.
La actualización
La aplicación ChatRTX ha ampliado su estable de LLMs compatibles para incluir nuevas opciones como Gemma, el último LLM de Google, y ChatGLM3-6B, una nueva opción de código abierto. La capacidad de elegir tu propio LLM es invaluable, ya que diferentes LLMs pueden realizar las mismas tareas de manera completamente diferente. Las herramientas de búsqueda y interacción de fotos de ChatRTX también han visto una mejora masiva, con tecnología prestada de la herramienta CLIP de OpenAI que permite al programa buscar imágenes sin la extensa etiquetado de metadatos complejos previamente requerido por la aplicación.
Requisitos técnicos
Los usuarios de ChatRTX ahora pueden hablar con sus datos, con soporte agregado para Whisper, un sistema de reconocimiento de voz con IA que permite a ChatRTX entender el habla verbal. La demostración técnica aprovecha el poder de los núcleos tensores de Nvidia y la biblioteca TensorRT, por lo que requiere una GPU RTX — y por ahora, no admite la primera generación de la serie RTX 20. Por lo tanto, si deseas ejecutar la aplicación tú mismo, necesitarás una GPU Nvidia RTX de la serie 30 o 40 con al menos 8 GB de VRAM.
Contexto de la industria
La actualización de ChatRTX es un paso significativo hacia adelante para los casos de uso de IA, particularmente en el contexto de las tarjetas gráficas RTX de consumo. La aplicación ChatRTX de Nvidia representa otra demostración del poder de la IA cuando se alimenta con tarjetas gráficas RTX de consumo. El programa ChatRTX ofrece una experiencia adyacente a ChatGPT instalada localmente en tu computadora, con la capacidad de aprovechar tus datos en casos de uso de IA sin el riesgo de que esos datos sean robados para fines de entrenamiento o usos más nefastos.
Historia de las aplicaciones con IA
El concepto de aplicaciones con IA no es nuevo, pero la aplicación ChatRTX es un paso significativo hacia adelante en términos de accesibilidad y funcionalidad. Las aplicaciones con IA anteriores han estado limitadas por su dependencia de servicios basados en la nube, que pueden ser lentos y propensos a errores. La aplicación ChatRTX, por otro lado, puede ejecutarse localmente en la computadora de un usuario, proporcionando una experiencia más rápida y segura.
Mecánica técnica
La capacidad de la aplicación ChatRTX para buscar imágenes sin etiquetado de metadatos es un logro tecnológico significativo. Esto se hace posible mediante el uso de la herramienta CLIP de OpenAI, que permite a la aplicación entender el contenido de las imágenes sin la necesidad de etiquetado manual. Esta tecnología tiene el potencial de revolucionar la forma en que interactuamos con las imágenes y podría tener implicaciones significativas para una amplia gama de industrias, desde la atención médica hasta las finanzas.
Implicaciones futuras
La actualización de la aplicación ChatRTX tiene implicaciones significativas para el futuro de las aplicaciones con IA. A medida que la aplicación continúa creciendo en funcionalidad, es probable que veamos usos nuevos e innovadores de la IA. La capacidad de elegir tu propio LLM y la compatibilidad de la aplicación con aún más LLMs serán factores importantes a seguir en los próximos meses. Además, la capacidad de la aplicación para ejecutarse localmente en la computadora de un usuario podría tener implicaciones significativas para la privacidad y la seguridad de los datos.
Qué observar
A medida que la aplicación ChatRTX continúa creciendo en funcionalidad antes de una eventual versión 1.0, es probable que veamos el regreso de sus capacidades de eliminación de enlaces de YouTube que fueron eliminadas recientemente. Además, la compatibilidad de la aplicación con aún más LLMs será un factor importante a seguir, ya que diferentes LLMs pueden realizar las mismas tareas de manera completamente diferente. La próxima actualización importante de la aplicación probablemente será un indicador significativo del potencial a largo plazo de la aplicación y su capacidad para competir en el mercado de la IA.
Conclusión
La actualización de la aplicación ChatRTX de Nvidia es un paso significativo hacia adelante para los casos de uso de IA, particularmente en el contexto de las tarjetas gráficas RTX de consumo. A medida que la aplicación continúa creciendo en funcionalidad, es probable que veamos usos nuevos e innovadores de la IA. La capacidad de elegir tu propio LLM y la compatibilidad de la aplicación con aún más LLMs serán factores importantes a seguir en los próximos meses.