Salta ai contenuti

Modelli locali e provider AI

Granello non ha un servizio AI suo. In Impostazioni → Modelli AI scegli il provider e il modello, e puoi usarne uno diverso per le note AI e per la chat.

Tipo di provider Per cosa
Anthropic Claude, il provider predefinito
Compatibile OpenAI LM Studio (http://localhost:1234/v1), Ollama (http://localhost:11434/v1), OpenAI, OpenRouter e qualsiasi server che espone /chat/completions
  • L’elenco dei modelli viene letto dal server. Verifica controlla che il provider risponda.
  • Ogni provider ha la sua API key nel Portachiavi. Ai server locali di solito non serve.

Aggiungi un provider locale (un server su localhost) e sceglilo sia per Note AI sia per Chat. Da lì in poi nessun testo esce dal Mac.

Per esserne certo su un singolo meeting, qualunque cosa dicano le impostazioni, mettilo su blindata: usa sempre e solo un provider su localhost.

Un’ora di riunione sono decine di migliaia di token. I server locali tagliano in silenzio quello che non ci sta, e alcuni partono con un contesto ridotto. Indicalo nel campo Contesto (token) del provider: Granello stima la dimensione di ogni richiesta e si ferma con un errore chiaro, invece di scrivere le note da mezza trascrizione.

Il ragionamento che alcuni modelli locali stampano prima di rispondere viene tolto dalle note.

Il parlato viene trascritto sul Mac da whisper.cpp, qualunque provider AI usi. Mandare l’audio a un servizio di trascrizione online è un’opzione a parte, spenta di default: vedi come funziona la privacy.