Nvidia aggiorna ChatRTX

Introduzione

L’app ChatRTX di Nvidia ha rilasciato la sua versione 0.3 attesa, introducendo nuove funzionalità come la capacità di ricerca fotografica e il riconoscimento vocale basato su AI. Questo aggiornamento apre una serie di nuove possibilità per i casi d’uso dell’AI.

L’aggiornamento

L’app ChatRTX ha esteso la sua gamma di LLMs supportati per includere nuove opzioni come Gemma, l’ultimo LLM di Google, e ChatGLM3-6B, una nuova opzione open-source. La possibilità di scegliere il proprio LLM è preziosa, poiché LLMs diversi possono eseguire gli stessi compiti in modo completamente diverso. Gli strumenti di ricerca e interazione fotografica di ChatRTX hanno subito un enorme aggiornamento, con la tecnologia presa in prestito dallo strumento CLIP di OpenAI che consente al programma di cercare immagini senza la complessa etichettatura dei metadati richiesta in precedenza dall’app.

Requisiti tecnici

Gli utenti di ChatRTX possono ora parlare con i loro dati, con il supporto aggiunto per Whisper, un sistema di riconoscimento vocale basato su AI che consente a ChatRTX di comprendere il discorso verbale. La demo tecnica sfrutta la potenza dei core tensoriali di Nvidia e della libreria TensorRT, quindi richiede una GPU RTX — e per il momento non supporta la prima generazione di RTX serie 20. Quindi, se si desidera eseguire l’app da soli, sarà necessaria una GPU Nvidia RTX serie 30 o 40 con almeno 8 GB di VRAM.

Contesto industriale

L’aggiornamento di ChatRTX è un passo significativo avanti per i casi d’uso dell’AI, in particolare nel contesto delle schede grafiche RTX consumer. L’app ChatRTX di Nvidia rappresenta un’altra dimostrazione della potenza dell’AI quando alimentata dalle schede grafiche RTX consumer. Il programma ChatRTX offre un’esperienza adiacente a ChatGPT installata localmente sul computer, con la possibilità di sfruttare i dati nei casi d’uso dell’AI senza il rischio che tali dati vengano rubati per scopi di addestramento o utilizzi più nefasti.

Storia delle app basate su AI

Il concetto di app basate su AI non è nuovo, ma l’app ChatRTX è un passo significativo avanti in termini di accessibilità e funzionalità. Le app precedenti basate su AI sono state limitate dalla loro dipendenza dai servizi cloud, che possono essere lenti e soggetti a errori. L’app ChatRTX, invece, può essere eseguita localmente sul computer di un utente, fornendo un’esperienza più rapida e sicura.

Meccanica tecnica

La capacità dell’app ChatRTX di cercare immagini senza etichettatura dei metadati è un risultato tecnologico significativo. Ciò è possibile grazie all’uso dello strumento CLIP di OpenAI, che consente all’app di comprendere il contenuto delle immagini senza la necessità di etichettatura manuale. Questa tecnologia ha il potenziale per rivoluzionare il modo in cui interagiamo con le immagini e potrebbe avere implicazioni significative per un’ampia gamma di settori, dalla sanità alla finanza.

Implicazioni a lungo termine

L’aggiornamento dell’app ChatRTX ha implicazioni significative per il futuro delle app basate su AI. Man mano che l’app continua a crescere in funzionalità, è probabile che vedremo nuovi e innovativi utilizzi dell’AI. La possibilità di scegliere il proprio LLM e la compatibilità dell’app con ancora più LLMs saranno fattori importanti da tenere d’occhio nei prossimi mesi. Inoltre, la capacità dell’app di essere eseguita localmente sul computer di un utente potrebbe avere implicazioni significative per la privacy e la sicurezza dei dati.

Cosa tenere d’occhio

Man mano che l’app ChatRTX continua a crescere in funzionalità prima di una eventuale versione 1.0, è probabile che vedremo il ritorno delle sue funzionalità di pulizia dei collegamenti YouTube che sono state rimosse recentemente. Inoltre, la compatibilità dell’app con ancora più LLMs sarà un fattore importante da tenere d’occhio, poiché LLMs diversi possono eseguire gli stessi compiti in modo completamente diverso. Il prossimo aggiornamento importante dell’app sarà probabilmente un indicatore significativo del potenziale a lungo termine dell’app e della sua capacità di competere nel mercato dell’AI.

Conclusione

L’aggiornamento dell’app ChatRTX di Nvidia è un passo significativo avanti per i casi d’uso dell’AI, in particolare nel contesto delle schede grafiche RTX consumer. Man mano che l’app continua a crescere in funzionalità, è probabile che vedremo nuovi e innovativi utilizzi dell’AI. La possibilità di scegliere il proprio LLM e la compatibilità dell’app con ancora più LLMs saranno fattori importanti da tenere d’occhio nei prossimi mesi.