Glossario 6 minuti

Multimodale: quando l’AI usa più sensi

Guida semplice all’AI multimodale: come combina testo, immagini, audio e video, con esempi pratici in ChatGPT, Gemini, Claude, Copilot e NotebookLM.

Copertina di Un sorso di AI: espresso e croissant con il titolo Multimodale, l’AI usa più sensi.

☕ Un sorso di AI — Episodio 1

Un’AI può leggere una frase, osservare una fotografia, ascoltare una voce e, in alcuni casi, analizzare un video. Quando collega informazioni di tipi diversi, si dice multimodale.

È una capacità importante perché i problemi reali raramente arrivano in un solo formato. Una descrizione può essere incompleta senza una foto; un grafico diventa più utile se possiamo accompagnarlo con una domanda; una registrazione può trasformarsi in testo, sintesi e attività da svolgere.

Che cosa significa “multimodale”

Una modalità è il formato con cui un’informazione entra o esce da un sistema. Le modalità più comuni sono testo, immagini, audio e video. Un modello multimodale può elaborarne più di una nello stesso compito.

Per esempio, possiamo allegare la fotografia di un dispositivo e aggiungere una domanda scritta. L’AI usa l’immagine per riconoscere ciò che appare e il testo per capire quale problema vogliamo risolvere.

Input e output non sono la stessa cosa

È utile distinguere tra ciò che il sistema riceve e ciò che produce. Un’applicazione può accettare un’immagine e rispondere soltanto con testo; un’altra può ascoltare la voce e rispondere parlando; un’altra ancora può partire da una descrizione e generare un’immagine.

Per questo la parola “multimodale” non significa che ogni software gestisca tutti i formati. Le capacità effettive dipendono dal modello, dall’applicazione, dal dispositivo e dal piano utilizzato.

Un’analogia semplice

Pensa a un barista: ascolta il tuo ordine, legge una nota e vede quale croissant stai indicando. Ogni segnale aggiunge contesto. Se dici soltanto «quello», il gesto diventa essenziale; se mostri il prodotto ma non specifichi la quantità, manca ancora un’informazione.

L’AI multimodale funziona in modo simile: combina indizi provenienti da canali diversi. Ma non possiede davvero vista, udito o comprensione umana. Riconosce schemi nei dati e può interpretare male ciò che riceve.

Quattro esempi pratici

  • Assistenza tecnica: fotografa la spia lampeggiante del router e scrivi: «È gialla e Internet non funziona: cosa devo controllare?». L’immagine mostra il dispositivo, mentre il testo descrive il problema.
  • Studio: carica la fotografia di uno schema e chiedi una spiegazione adatta a chi parte da zero. Puoi poi domandare tre esercizi per verificare ciò che hai capito.
  • Lavoro: allega un grafico e chiedi di descrivere l’andamento, individuare possibili anomalie e separare i dati osservati dalle interpretazioni.
  • Riunioni: usa una registrazione per ottenere trascrizione, sintesi e attività. Controlla sempre nomi, numeri, scadenze e responsabilità.

Quali software usano l’AI multimodale?

Molti strumenti diffusi non sono più semplici chatbot testuali. Ecco alcuni esempi utili per chi inizia. Funzioni e limiti possono cambiare in base all’account e alla piattaforma: conviene sempre verificare la documentazione aggiornata.

ChatGPT

ChatGPT può ricevere testo, immagini e file. Le immagini possono essere usate per riconoscere oggetti, leggere schermate, discutere grafici o analizzare documenti fotografati. La documentazione di OpenAI segnala anche il supporto agli allegati video, con disponibilità variabile, e distingue questa funzione dalla videocamera e dalla condivisione dello schermo nella modalità vocale.

Quando usarlo: per descrivere una schermata, confrontare fotografie, ricevere aiuto su un documento o conversare a voce mostrando ciò che si sta osservando.

Da ricordare: OpenAI avverte che immagini poco chiare, testo ruotato, grafici complessi e richieste di conteggio possono produrre errori. Fonte ufficiale: ChatGPT Image Inputs.

Google Gemini

Gemini può analizzare documenti, fogli di calcolo, fotografie, audio e video. Può inoltre ricevere file dal dispositivo o da Google Drive e usare i contenuti per produrre risposte, sintesi e osservazioni. Questo lo rende particolarmente comodo per chi lavora già nell’ecosistema Google.

Quando usarlo: per interrogare una presentazione, analizzare un foglio di calcolo, riassumere un video o collegare una domanda a più file.

Da ricordare: un file molto lungo può superare la capacità effettiva di lettura del modello, con il rischio che alcuni dettagli vengano trascurati. Fonte ufficiale: caricamento e analisi dei file in Gemini.

Claude

Claude accetta numerosi documenti e formati immagine. È utile soprattutto quando il punto di partenza è un testo lungo, un PDF o un insieme di materiali da confrontare. Nei PDF più brevi può analizzare sia il testo sia elementi visivi come grafici e immagini; nei documenti molto lunghi possono applicarsi limitazioni diverse.

Quando usarlo: per confrontare documenti, spiegare una relazione, estrarre informazioni da tabelle e grafici presenti in un PDF o lavorare con file raccolti in un progetto.

Da ricordare: nei formati diversi dal PDF Claude può estrarre soltanto il testo e non interpretare le immagini incorporate. Fonte ufficiale: caricamento dei file in Claude.

Microsoft Copilot

Microsoft Copilot consente di allegare immagini e formati comuni come PDF, Word, Excel e PowerPoint, oltre a file di testo, CSV, JSON e Markdown. Può quindi analizzare un’immagine oppure estrarre informazioni e produrre suggerimenti a partire da un documento.

Quando usarlo: per riassumere un report, osservare un foglio di calcolo, preparare una bozza partendo da una presentazione o porre domande su file tipici dell’ambiente Microsoft.

Da ricordare: Copilot per uso personale e Microsoft 365 Copilot in azienda non sono sempre la stessa esperienza; disponibilità e protezione dei dati dipendono dal prodotto e dall’account. Fonte ufficiale: caricamento dei file in Microsoft Copilot.

NotebookLM / Gemini Notebook

NotebookLM, indicato nella documentazione più recente anche come Gemini Notebook, è pensato per lavorare su fonti selezionate dall’utente. Può usare PDF, documenti, presentazioni, fogli, immagini, file audio, pagine web e video YouTube pubblici dotati di trascrizione.

La multimodalità qui serve soprattutto a trasformare materiali diversi in una base di studio: possiamo fare domande, ottenere sintesi, creare mappe, quiz, presentazioni o panoramiche audio.

Quando usarlo: per studiare un argomento, preparare una lezione, raccogliere materiali di progetto o interrogare più fonti senza perdere il collegamento con i documenti originali.

Da ricordare: quando importa una pagina web usa principalmente il testo; per un video YouTube usa la trascrizione, non ogni dettaglio visivo. Fonte ufficiale: tipi di fonti supportati.

Quale scegliere per iniziare?

  • Foto, schermate e conversazioni quotidiane: ChatGPT o Gemini.
  • PDF e documenti lunghi: Claude è una scelta naturale, soprattutto per il confronto tra materiali.
  • File Word, Excel e PowerPoint: Copilot è comodo per chi utilizza già strumenti Microsoft.
  • Studio basato su fonti selezionate: NotebookLM/Gemini Notebook aiuta a mantenere il lavoro ancorato ai materiali caricati.
  • Audio e video: Gemini offre un punto di partenza semplice, ma bisogna controllare limiti e disponibilità del proprio piano.

Non esiste un vincitore assoluto: lo strumento migliore dipende dal formato iniziale, dal risultato desiderato e dal livello di riservatezza dei dati.

Come formulare una buona richiesta multimodale

  1. Spiega l’obiettivo: non limitarti ad allegare un file. Indica che cosa vuoi capire o ottenere.
  2. Descrivi il contesto: specifica dispositivo, pubblico, livello di conoscenza e situazione.
  3. Indica dove guardare: segnala pagina, area dell’immagine, intervallo temporale o colonna del foglio da analizzare.
  4. Chiedi di separare fatti e ipotesi: invita l’AI a distinguere ciò che riconosce da ciò che sta deducendo.
  5. Definisci il formato della risposta: lista di controlli, tabella, spiegazione semplice, sintesi o procedura passo passo.
  6. Verifica il risultato: confronta istruzioni, cifre e citazioni con il manuale o con la fonte originale.

Un prompt utile potrebbe essere:

«Analizza questa immagine. Descrivi soltanto ciò che è visibile, indica eventuali parti poco leggibili e separa le osservazioni dalle ipotesi. Proponi poi tre controlli in ordine di sicurezza. Non inventare dettagli mancanti».

Limiti ed errori comuni

Più modalità non significano automaticamente più accuratezza. Una foto sfocata, un rumore di fondo, una tabella tagliata o un video incompleto possono aggiungere ambiguità invece di eliminarla.

L’AI può confondere colori simili, leggere male un valore, non cogliere una negazione pronunciata velocemente o concentrarsi sulla parte sbagliata di un documento. Può anche produrre una spiegazione molto convincente partendo da un’interpretazione errata.

Un altro errore è chiedere una conclusione senza specificare la fonte da privilegiare. Se carichi immagine, manuale e descrizione testuale, chiarisci quale elemento è autorevole in caso di conflitto.

Privacy: prima di allegare, controlla

Fotografie, documenti e registrazioni possono contenere volti, indirizzi, targhe, numeri di telefono, dati aziendali o conversazioni di altre persone. Prima del caricamento:

  • ritaglia o oscura ciò che non serve;
  • evita dati personali e informazioni riservate;
  • controlla impostazioni, conservazione e uso dei dati del servizio;
  • usa gli strumenti approvati dalla tua organizzazione;
  • non affidare decisioni mediche, legali, finanziarie o di sicurezza a una sola risposta automatica.

Un piccolo esperimento per capire davvero

Scegli una fotografia non sensibile, per esempio un oggetto sulla scrivania. Caricala in uno degli strumenti citati e fai tre richieste:

  1. «Descrivi soltanto ciò che vedi».
  2. «Quali dettagli non riesci a leggere con certezza?».
  3. «Che cosa cambierebbe se aggiungessi questa informazione: l’oggetto non funziona?».

Vedrai la differenza tra riconoscimento, incertezza e uso del contesto. È un modo semplice per comprendere che la multimodalità non è magia: è la combinazione di segnali diversi.

La frase da ricordare

Più modalità danno più contesto, non garantiscono più verità.

La vera utilità dell’AI multimodale non sta nel “vedere come noi”, ma nel permetterci di spiegare meglio un problema usando il formato più adatto.

Quale attività proveresti a migliorare allegando una foto, un documento, un audio o un video invece di usare soltanto il testo?

Fonti ufficiali

Una pillola di AI

Capire prima. Usare meglio.

Ricevi guide pratiche e notizie selezionate, senza rumore e senza sensazionalismi.

Iscriviti gratuitamente
Giuseppe D'Agata
Scritto da

Giuseppe D'Agata

Solution Engineer in Zenita Group e autore di Basi di AI. Oltre 24 anni di esperienza in infrastrutture ICT, networking, Unified Communication, software, automazione e intelligenza artificiale.