L’IA e le domande nascoste: la supervisione umana comincia dalle premesse

Oltre la verifica dei dati

Che cosa dobbiamo poter riconoscere, recuperare e modificare perché la supervisione umana, nell’interazione con l’intelligenza artificiale, sia effettiva lungo il dialogo e non soltanto al momento di accettare una risposta?

La domanda riguarda un’esperienza per noi ormai familiare: ci rivolgiamo a un sistema informatico per comprendere un argomento, confrontare interpretazioni, mettere alla prova un’idea. Leggiamo ciò che restituisce, chiediamo precisazioni, formuliamo obiezioni. La risposta successiva tiene conto di questo scambio e il ragionamento prosegue. Ma mentre discutiamo il contenuto della risposta che ci viene data, quanto riusciamo a vedere del modo in cui viene organizzato il problema e, di conseguenza, formulata la risposta?

Una risposta può essere corretta nei singoli dati e lasciare fuori una relazione decisiva. Può presentare due alternative plausibili senza farci intravedere una terza. Può rispondere con precisione a una domanda la cui premessa avrebbe meritato di essere discussa. In questi casi, verificare l’esattezza delle informazioni è necessario, ma non esaurisce il lavoro critico. Occorre interrogare anche il campo entro il quale quelle informazioni acquistano un significato per noi rilevante.

La questione precede l’intelligenza artificiale. Un insegnante, un giornale, un libro selezionano, ordinano e interpretano. La conoscenza umana si sviluppa attraverso mediazioni e dipende largamente da competenze che il singolo non possiede. Non sarebbe ragionevole identificare l’autonomia con la capacità di verificare personalmente tutto ciò che sappiamo. Possiamo però domandarci quali siano le condizioni che ci permettono di riconoscere una mediazione, valutarne l’affidabilità e contestarne l’impostazione.

Nel dialogo con l’IA questa domanda assume una forma particolare.

La risposta viene costruita mentre interagiamo e può cambiare insieme alle nostre stesse richieste. Anche la domanda iniziale si trasforma: incontriamo un collegamento inatteso, precisiamo un dubbio, abbandoniamo una spiegazione. È proprio questa possibilità a rendere il dialogo fecondo. L’esito non era necessariamente contenuto nell’intenzione con cui avevamo cominciato l’interazione.

Sarebbe dunque riduttivo considerare ogni contributo imprevisto del sistema di IA come una sottrazione di controllo. Un’obiezione pertinente può liberarci da un errore; una rappresentazione diversa può rendere visibile ciò che non riuscivamo a comprendere. La capacità di giudizio si esercita anche lasciandosi correggere. Il problema emerge quando diventa difficile distinguere l’apertura di una possibilità dall’adozione silenziosa di una cornice interpretativa.

Le premesse dentro la domanda

Supponiamo di chiedere perché una certa iniziativa pubblica abbia fallito. La domanda contiene già un giudizio: che il fallimento sia avvenuto. Se il sistema elenca le possibili cause, può offrirci informazioni corrette e tuttavia lasciare inesaminata proprio quella premessa. Un servizio pubblico, per esempio, potrebbe aver superato il budget previsto e contemporaneamente raggiunto persone che prima ne erano escluse. Per valutarne l’esito occorre chiarire quali obiettivi consideriamo, quale peso attribuiamo ai costi e ai benefici e quale periodo prendiamo in esame. Chiedere subito le cause del fallimento può far passare in secondo piano queste distinzioni.

L’orientamento può dunque cominciare dalla nostra stessa domanda. Il sistema può accoglierne l’impostazione e svilupparla, oppure renderla esplicita e sottoporla a confronto. Nel primo caso, una risposta articolata rischia di apparirci come una conferma indipendente di ciò che avevamo già presupposto. Nel secondo, il dialogo ci permette di tornare sul criterio con cui abbiamo formulato il problema. Questo non significa che ogni premessa debba essere contestata: potrebbe essere già sostenuta da prove adeguate. Significa poter distinguere ciò che abbiamo stabilito da ciò che abbiamo semplicemente assunto.

Anche il concetto di errore richiede, allora, una precisazione. Una data inesatta o una fonte inesistente sono errori fattuali. Una conclusione che non segue dalle premesse presenta un difetto di ragionamento. Ma una risposta può risultare inadeguata anche quando le informazioni sono corrette e i passaggi coerenti: accade, per esempio, se valuta un servizio soltanto in termini di spesa, mentre la domanda riguarda anche la sua accessibilità. In questo caso è il criterio adottato a restringere l’indagine. Non ogni omissione costituisce un errore: ogni risposta deve selezionare. Occorre capire quando ciò che viene escluso potrebbe modificare il giudizio.

La supervisione comprende quindi la possibilità di riconoscere le premesse e i criteri che ciascuno scambio introduce, prima che i passaggi successivi li trattino come acquisiti.

Recuperare il percorso, non solo l’esito

La durata della conversazione aggiunge un’altra difficoltà. Un percorso di ricerca comprende ipotesi provvisorie, obiezioni, correzioni e cambiamenti di criterio. Conservarne una conclusione non equivale a conservarne il significato. Conta anche sapere a quali condizioni l’avevamo ritenuta valida e che cosa ci aveva poi indotto a modificarla.

Se, riprendendo un lavoro, riemerge un’interpretazione senza la critica che l’aveva superata, possiamo tornare inconsapevolmente su un terreno già abbandonato. Non è necessario immaginare un’intenzione di orientamento: una selezione incompleta è sufficiente a modificare il punto dal quale ricominciamo.

Anche nell’esperienza umana possiamo ricordare un giudizio e dimenticare le circostanze che lo rendevano provvisorio. Ci torna in mente che un progetto fosse stato considerato inefficace, ma non l’obiezione emersa in seguito o il criterio diverso con cui lo avevamo rivalutato. Il confronto con l’IA riguarda questa possibile conseguenza, senza presumere un’identità fra i meccanismi: ciò che torna disponibile può aver perso una parte delle condizioni necessarie per essere interpretato. Diventa allora importante poter confrontare la ricostruzione proposta con le tracce del percorso, riconoscere una discrepanza e correggerla.

Anche la forma con cui una risposta si presenta merita attenzione. Una tabella facilita il confronto, ma richiede che siano state scelte le categorie da confrontare. Un diagramma rende evidenti alcuni rapporti; una sintesi stabilisce che cosa può essere omesso. La chiarezza è preziosa, purché rimanga possibile interrogare le scelte che l’hanno prodotta. Una rappresentazione facilmente leggibile può essere difficile da mettere in discussione proprio perché appare già ordinata e compiuta.

Riconoscere, recuperare, modificare

I tre verbi della domanda iniziale cominciano così ad acquistare un contenuto. Riconoscere le premesse e le selezioni rilevanti; recuperare gli elementi necessari a esaminare come si è sviluppato il ragionamento; modificare la domanda, le categorie o la rappresentazione quando non sono più adeguate. Questo non richiede di conoscere ogni operazione interna del modello di IA che si sta usando. Richiede però di poter intervenire su ciò che rende una risposta pertinente e convincente rispetto alla domanda che è stata posta, non necessariamente ai risultati che speriamo possano venirne.

Quanto di questo lavoro cognitivo può essere affidato alla competenza dell’utente? E quanto deve essere reso possibile dalla progettazione del sistema? Chiedere alle persone di esercitare spirito critico lascia aperta la questione degli strumenti, del tempo e delle conoscenze necessari per farlo. Una facoltà formalmente riconosciuta può essere molto onerosa da esercitare.

La responsabilità della politica

Il punto incontra così una responsabilità della politica. Chi progetta gli ambienti nei quali cerchiamo, confrontiamo e interpretiamo informazioni contribuisce a stabilire le condizioni del nostro lavoro conoscitivo. La possibilità di riconoscere e discutere quelle condizioni riguarda anche la formazione dell’opinione pubblica: come valutiamo un provvedimento, confrontiamo programmi, attribuiamo responsabilità e maturiamo una scelta elettorale.

La politica dovrebbe assumere queste possibilità come obiettivi concreti: promuovere una formazione che insegni a interrogare anche i criteri delle risposte; sostenere una ricerca indipendente sugli effetti dell’interazione; chiedere che gli strumenti consentano di recuperare i passaggi rilevanti e correggere le informazioni e le interpretazioni sulle quali il dialogo prosegue. L’accesso a queste capacità merita attenzione quanto l’accesso alla tecnologia. Altrimenti la supervisione rischia di essere effettiva soprattutto per chi dispone già di competenze, tempo e risorse.

Questa responsabilità coinvolge anche i partiti nel proprio uso dell’IA. Chi la impiega per analizzare problemi, elaborare proposte o comunicare con i cittadini dovrebbe rendere conto delle verifiche effettuate e delle scelte assunte. Il ricorso a un sistema non attenua la responsabilità politica per ciò che si sostiene, si omette o si presenta come inevitabile.

Resta da capire come tradurre questi obiettivi in condizioni praticabili, come verificarne l’efficacia e a chi affidarne il controllo. È il terreno di un ulteriore approfondimento. La domanda che lo apre riguarda la democrazia: come garantire ai cittadini la possibilità di discutere i criteri attraverso cui l’IA contribuisce a rendere conoscibile la realtà, senza attribuire al potere politico il compito di stabilire quale interpretazione debba prevalere?