Fiducia nell’IA: una questione sociale prima che tecnica

La dimensione relazionale della fiducia nell’IA

L’IA non è una “cosa”: è una presenza relazionale. E come ogni agente capace di interazione, sollecita risposte emotive, attiva interpretazioni simboliche, ridefinisce confini relazionali. Non è solo la qualità della risposta a contare, ma l’insieme di significati sociali e psicologici che l’interazione porta con sé, segnato da reazioni contrastanti e a volte polarizzate. Nei contesti tecnologici prevale l’entusiasmo per le potenzialità dei modelli, ma c’è anche il timore per la perdita di controllo. In ambienti non specialistici, dove le persone si confrontano con l’IA in termini di conseguenze tangibili e vissuto personale, emergono soprattutto timori legati a trasparenza e sicurezza dei propri dati.
In generale, l’IA non è accolta o rifiutata solo in base a ciò che fa, ma in base a ciò che evoca. E ciò che evoca, l’idea di un’intelligenza che parla, decide, consiglia, va ben oltre il codice. È un attivatore simbolico che richiama dimensioni centrali della soggettività: autonomia, agency, identità. In questo senso, parlare con un chatbot significa anche parlare con un’immagine collettiva del futuro (Qi et al., 2024).

Fiducia asimmetrica e percezione di equità

La fiducia viene spesso indicata come prerequisito per l’adozione dell’intelligenza artificiale. Fidarsi di un sistema conversazionale non significa solo constatarne l’efficienza tecnica. Significa percepirlo come comprensibile, coerente, prevedibile. Nel caso dell’IA generativa, questa fiducia sembra asimmetrica. Le persone tendono a riconoscere la competenza tecnica dei sistemi, soprattutto quando utilizzata in ambiti come la sanità, l’istruzione e la creatività; ma questo non basta per fidarsi.

La diffidenza nasce quando si ha l’impressione che l’IA, pur essendo capace, non agisca nell’interesse dell’utente o non tenga conto dei suoi bisogni. È la distanza tra ciò che un sistema è in grado di fare e credere che lo faccia in modo equo, responsabile, orientato al bene dell’altro. Questa frattura diventa ancora più rilevante quando la posta in gioco è alta, come nella salute o nella formazione (Novozhilova et al., 2024).
In questo quadro, assume particolare rilevanza la dimensione del “calore” percepito. Il calore non si riferisce alla gentilezza apparente o alla voce più o meno umana dell’agente artificiale, ma alla sensazione che l’interazione sia accogliente, empatica, non intrusiva.

Studi recenti confermano che il calore percepito è un predittore cruciale della fiducia e della disponibilità a continuare l’interazione con un’IA conversazionale (Liu et al., 2024). Ma non basta simulare umanità: il calore non è un abbellimento superficiale. Nasce dal modo in cui l’IA si inserisce nelle aspettative, nei codici relazionali e nei valori condivisi di un determinato contesto.

La fiducia come costruzione culturale

Fidarsi di una macchina, in fondo, è un atto culturale: non dipende solo da ciò che fa, ma da ciò che rappresenta all’interno di un contesto sociale condiviso e co-costruito attraverso processi di negoziazione culturale, a loro volta influenzati da norme, aspettative e visioni del mondo. La stessa tecnologia può generare attrazione o disagio, a seconda del quadro simbolico in cui viene interpretata (Novozhilova et al., 2024).
Negli Stati Uniti, l’IA conversazionale troppo “umana” genera spesso diffidenza: si teme che possa manipolare, invadere lo spazio personale o confondere i confini tra umano e artificiale. In Cina, al contrario, l’antropomorfizzazione è apprezzata soprattutto quando rende l’interazione più empatica e capace di offrire un senso di compagnia o sollievo. Si tratta di due sistemi valoriali distinti. La cultura individualista statunitense attribuisce grande importanza alla trasparenza, all’efficienza, alla capacità del sistema di restare sotto controllo. La cultura collettivista cinese, invece, valorizza l’armonia relazionale e la capacità della tecnologia di inserirsi in una rete sociale. Da qui derivano anche differenti tonalità emotive: negli Stati Uniti prevale un atteggiamento ambivalente, che alterna entusiasmo e sospetto; in Cina, un orientamento più positivo, in cui l’IA è spesso percepita come un’alleata affidabile (Liu et al., 2024).
Queste differenze culturali incidono sulle aspettative normative: ciò che si ritiene accettabile, utile, oppure inappropriato da parte di un agente conversazionale. Progettare tecnologie conversazionali senza tener conto di queste dinamiche significa ignorare i fattori che realmente generano fiducia, senso e legittimità.

Legittimazione sociale come nuova frontiera dell’IA

Il futuro dell’intelligenza artificiale non dipenderà solo dalla sua capacità computazionale, ma dalla sua legittimazione sociale. Questo significa non solo funzionare bene, ma funzionare “in modo accettabile” per chi ne subisce o sperimenta l’impatto: l’IA deve operare entro margini di significato condivisi, riconosciuti come validi da chi ne fa esperienza. Le IA conversazionali, in particolare, sfidano le categorie tradizionali: non sono strumenti puramente funzionali, ma entità dialogiche, ibride, ambigue. In quanto tali, mettono in discussione i confini tra umano e non umano, tra autorità e supporto, tra autonomia e delega. E in questo territorio grigio si gioca gran parte della fiducia. L’adozione di massa dell’IA non sarà determinata solo dall’accuratezza o dall’efficienza, ma dalla sua capacità di inserirsi nei codici relazionali e culturali che governano la nostra vita sociale (Liu et al., 2024).

Non si tratta più solo di costruire sistemi migliori, ma di costruire sistemi che sappiano adattarsi ai codici culturali e relazionali della società. Questo implica un design sensibile al contesto, una governance che includa le percezioni pubbliche, una comunicazione che sappia riconoscere le emozioni, non solo i dati. Per essere comprese e accettate, devono risultare intelligibili non solo per gli sviluppatori, ma per la collettività. E questo richiede un ascolto profondo, non tanto delle risposte che l’IA può dare, quanto delle domande e delle paure che le persone portano con sé (Qi et al., 2024). E per farlo, dobbiamo ascoltare non solo cosa l’IA è in grado di dire, ma cosa le persone vogliono – o temono – di sentire.

Bibliografia

Liu, Z., Li, H., Chen, A., Zhang, R., & Lee, Y. C. (2024, May). Understanding public perceptions of AI conversational agents: A cross-cultural analysis. In Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems (pp. 1-17).

Novozhilova, E., Mays, K., Paik, S., & Katz, J. E. (2024). More capable, less benevolent: Trust perceptions of AI systems across societal contexts. Machine Learning and Knowledge Extraction, 6(1), 342–366.

Qi, W., Pan, J., Lyu, H., & Luo, J. (2024). Excitements and concerns in the post-chatgpt era: Deciphering public perception of ai through social media analysis. Telematics and Informatics, 92, 102158.