Local LLM

Local LLM esegue modelli di intelligenza artificiale open-weight direttamente sul tuo telefono. Non sono necessari server, account o connessione internet una volta scaricato il modello. Le tue conversazioni non lasciano mai il dispositivo.

PERCHÉ SUL DISPOSITIVO?

Ogni richiesta che digiti viene elaborata da un modello in esecuzione sul tuo hardware. Non viene caricato nulla, nulla viene registrato su un server e nulla viene utilizzato per addestrare modelli di terzi. Funziona anche con il telefono in modalità aereo.

SCEGLI IL TUO MODELLO

Nell'app sono disponibili sette modelli, da SmolLM2 da 369 MB, che funziona comodamente anche su hardware modesto, fino a Llama 3.2 3B per risposte più approfondite:

• SmolLM2 360M — il più veloce, con la RAM più bassa

• Qwen2.5 0.5B — molto veloce, ottima qualità

• TinyLlama 1.1B — classico leggero

• Llama 3.2 1B — predefinito bilanciato

• Qwen2.5 1.5B — ragionamento più approfondito

• Gemma 2 2B — alta qualità, più lento

• Llama 3.2 3B — massima qualità, richiede risorse elevate

Ogni modello mostra le dimensioni esatte del download prima di procedere. Puoi anche incollare un link diretto a qualsiasi modello GGUF desideri e cambiare modello in qualsiasi momento senza uscire dalla chat.

UNA CHAT CHE NON DIMENTICA

Le conversazioni vengono salvate in un database privato sul tuo dispositivo. I titoli vengono scritti dal modello stesso, in modo da poter consultare facilmente la cronologia. Riapri qualsiasi chat precedente o cancellale tutte con un solo tocco. Il Markdown viene visualizzato correttamente, con blocchi di codice evidenziati e copia con un solo tocco.

UN'API LOCALE PER I TUOI ALTRI DISPOSITIVI

Attiva il servizio API opzionale e il tuo telefono fornirà il modello tramite un endpoint HTTP compatibile con OpenAI sulla tua rete locale. Punta qualsiasi client OpenAI verso di esso (curl, l'SDK Python, i tuoi script) e ricevi i completamenti dal modello sul tuo dispositivo, tramite USB o Wi-Fi. Lo streaming è supportato. Rimane disattivato finché non lo abiliti e viene eseguito con una notifica visibile quando è attivo.

PROGETTATO PER LA PRIVACY

• Nessun account, nessun accesso, nessuna pubblicità

• Chat memorizzate solo sul tuo dispositivo

• Il testo dei messaggi non viene mai trasmesso a terzi

• Solo analisi di utilizzo anonime, mai il contenuto dei messaggi

NOTA SULL'OUTPUT DELL'IA

Le risposte provengono da modelli open-weight in esecuzione localmente. Possono essere errate, obsolete o inappropriate e non vengono revisionate da nessuno. Si prega di non fare affidamento su di essi per decisioni mediche, legali o finanziarie.

REQUISITI

Dispositivo Android 7.0 o successivo a 64 bit. Download del modello una tantum di almeno 369 MB e circa 1-3 GB di RAM libera, a seconda del modello scelto. I modelli più grandi risultano notevolmente più lenti sui telefoni più vecchi.