Quantizzazione AI: scegliere Q4, Q5, Q8 e stimare RAM e VRAM
La quantizzazione riduce memoria e requisiti dei modelli AI. Guida pratica a Q4, Q5, Q8, GGUF, RAM, VRAM, qualità e scelta per Ollama.
Sezione
Glossario
Definizioni semplici dei termini essenziali dell’intelligenza artificiale.
Inference AI: latenza, token al secondo e prestazioni
Cos’è l’inference AI e come misurare TTFT, token al secondo, latenza, throughput, RAM e VRAM su Ollama e sistemi locali.
Training
Il training è il processo con cui un modello modifica i propri parametri per ridurre l’errore su esempi o obiettivi definiti. Nel caso dei modelli generativi può includere pre-addestramento, adattamento e allineamento. Spiegazione pratica con funzionamento, esempi, limiti, confronti e FAQ.
Vector database
Un vector database memorizza e indicizza vettori ad alta dimensionalità per cercare rapidamente gli elementi più simili a una query. Conserva spesso anche testo originale, identificatori e metadati. Spiegazione pratica con funzionamento, esempi, limiti, confronti e FAQ.
Agent
Un agente AI è un sistema che usa un modello per decidere una sequenza di passi verso un obiettivo, mantenere uno stato e richiamare strumenti. Il grado di autonomia può variare da una scelta limitata a processi articolati. Spiegazione pratica con funzionamento, esempi, limiti, confronti e FAQ.
Tool calling: collegare l’AI a dati e azioni in sicurezza
Come funziona il tool calling, come definire funzioni e schemi, collegare dati e azioni e applicare permessi, approvazioni e audit.
Multimodale
Un sistema multimodale può ricevere, mettere in relazione o generare più tipi di contenuto, come testo, immagini, audio e video. Non significa necessariamente che gestisca ogni modalità con la stessa qualità. Spiegazione pratica con funzionamento, esempi, limiti, confronti e FAQ.
Open weights: significato e differenza da open source
Open weights indica un modello con pesi scaricabili. Ecco che cosa significa e perché non equivale automaticamente a open source.
LoRA: adattare un modello AI senza riaddestrarlo da zero
LoRA permette di specializzare un modello addestrando piccoli adapter. Guida pratica a QLoRA, dataset, parametri, valutazione e uso con Ollama.
Temperature AI: valori consigliati, top-p e seed
Come funziona la temperature nei modelli AI, quali valori usare, differenze da top-p e seed e come testarla con ChatGPT, Claude, Gemini e Ollama.
MCP: collegare l’AI a dati e strumenti senza perdere il controllo
Guida pratica al Model Context Protocol: host, client, server, tool, risorse, trasporti, autenticazione, permessi, segreti e audit per PMI.
Glossario essenziale dell’intelligenza artificiale: 25 termini da conoscere
Il glossario di BASI DI AI con definizioni approfondite, esempi, differenze, limiti e collegamenti tra i principali termini dell’intelligenza artificiale.