Modelli open weights: licenze, privacy e scelta per AI locale
Open weights non significa automaticamente open source. Guida pratica a licenze, privacy, hardware, sicurezza e scelta dei modelli AI locali.
Sezione
Modelli AI
Schede e confronti sui modelli di intelligenza artificiale, proprietari e open-weight.
Ollama: cos’è, come funziona e quando usarlo per l’AI locale
Guida a Ollama: modelli locali, comandi, API, Modelfile, memoria, sicurezza e integrazioni per professionisti e PMI.
Llama
Scheda di Llama: caratteristiche, casi d’uso, varianti, hardware, deployment, licenza, sicurezza e criteri di scelta.
Mistral
Scheda di Mistral: caratteristiche, casi d’uso, varianti, hardware, deployment, licenza, sicurezza e criteri di scelta.
Gemma
Scheda di Gemma: caratteristiche, casi d’uso, varianti, hardware, deployment, licenza, sicurezza e criteri di scelta.
Qwen
Scheda di Qwen: caratteristiche, casi d’uso, varianti, hardware, deployment, licenza, sicurezza e criteri di scelta.
DeepSeek
Scheda di DeepSeek: caratteristiche, casi d’uso, varianti, hardware, deployment, licenza, sicurezza e criteri di scelta.
Context window: cos’è, quanti token servono e come configurarla
La context window stabilisce quante informazioni un modello AI può elaborare insieme. Scopri come influisce su qualità, costi, VRAM, RAG e Ollama.
Quantizzazione AI: scegliere Q4, Q5, Q8 e stimare RAM e VRAM
La quantizzazione riduce memoria e requisiti dei modelli AI. Guida pratica a Q4, Q5, Q8, GGUF, RAM, VRAM, qualità e scelta per Ollama.
Inference AI: latenza, token al secondo e prestazioni
Cos’è l’inference AI e come misurare TTFT, token al secondo, latenza, throughput, RAM e VRAM su Ollama e sistemi locali.
LoRA: adattare un modello AI senza riaddestrarlo da zero
LoRA permette di specializzare un modello addestrando piccoli adapter. Guida pratica a QLoRA, dataset, parametri, valutazione e uso con Ollama.
Temperature AI: valori consigliati, top-p e seed
Come funziona la temperature nei modelli AI, quali valori usare, differenze da top-p e seed e come testarla con ChatGPT, Claude, Gemini e Ollama.