La progressiva integrazione dei modelli di intelligenza artificiale nei prodotti e nei servizi offerti dalle aziende renderà sempre più urgente affrontare il tema degli errori che questi modelli possono compiere e il loro impatto sulla nostra vita.

In relazione ai modelli generativi si parla di “allucinazioni” quando con una certa autorevolezza espongono fatti mentre in realtà si tratta di invenzioni. Nell’ambito più generale del machine learning si parla di “overfitting” quando il modello non generalizza molto bene e non riesce a fare previsioni di fronte a dati diversi da quelli usati nell’addestramento. L’AI può produrre effetti discriminatori quando i dati di addestramento non sono ben equilibrati. Se, per esempio, un modello di AI sviluppato per il riconoscimento facciale viene addestrato con un numero maggiore di immagini di persone di una certa etnia piuttosto che di un’altra, il sistema non riconoscerà i volti delle persone di entrambe le etnie con la stessa efficacia.

Questi aspetti dell’AI fanno sorgere una questione morale sull’impiego dei modelli di AI. Sicuramente si dovrà prestare molta attenzione in proposito, acquistando consapevolezza sul funzionamento di questi modelli, sviluppando uno spiccato senso critico e capacità di valutazione ed infine adottando soluzioni di trasparenza.

Ciò che conta non è di per sé quanto sbaglia l’AI in termini assoluti. Gli studi scientifici si occupano di stabilire l’efficienza di questi modelli che si misura mediante il rapporto tra errori commessi e il totale delle risposte che il modello genera. Si stanno facendo studi accurati per testare l’efficienza dei modelli di AI.

Un altro criterio di giudizio che ci pare interessante è dato dal confronto degli errori dell’AI con l’entità e la quantità degli errori umani. Se un sistema automatico sbaglia molto di più di noi probabilmente la sua utilità sarà scarsa, ma se sbaglia molto di meno allora, nonostante gli errori, potrebbe rappresentare una buona soluzione. Questa conclusione sembra essere una banalità ma spesso non teniamo conto di quanti siano gli errori umani sistematici.

In questo articolo parleremo dei bias cognitivi e di come la questione morale dovrebbe riguardare forse il comportamento umano prima di quello dell’intelligenza artificiale.

Il bias cognitivo viene definito come una distorsione del nostro modo di ragionare che ci induce ad agire irrazionalmente o, in altre parole, in modo illogico.

Definito in questo modo, appare chiara la sua connotazione negativa, ma in realtà il bias cognitivo può essere considerato un difetto solo se si presuppone che qualsiasi comportamento irrazionale o che non segue la logica sia un “male”. In realtà, questo potrebbe essere un presupposto arbitrario, soprattutto tenendo presente che buona parte del nostro comportamento si può ricondurre alla sfera emotiva, che viene comunemente separata da quella razionale e non sempre riconducibile a comportamenti considerati negativi anche quando interferisce con un ragionamento logico.

In realtà, ad esclusione di quelli emotivi che in certi casi non rappresentano dei veri e propri “difetti”, ci sono dei bias cognitivi che costituiscono davvero degli handicap per tutti noi esseri umani. Sono quelli che ci mettono fuori strada e non ci fanno arrivare là dove vogliamo arrivare. In questo articolo faremo diversi esempi.

Emerge una questione morale a proposito dei bias cognitivi.

Qualora il bias cognitivo rappresenti un handicap per l’essere umano è giusto che altri esseri umani sfruttino questo difetto per trarne un profitto economico o di altra natura?

Posta con tali premesse, la domanda sembra avere una sola risposta, quella negativa. Tuttavia, parte delle attività di marketing ed in particolare le tecniche di persuasione ad esso collegate si avvalgono della conoscenza di tali bias cognitivi per incrementare le vendite. Ciò che ci fa apparire queste attività meno immorali di quanto lo siano è il fatto che più o meno ne siamo tutti consapevoli. Sappiamo perfettamente che la pubblicità non è un’esposizione obiettiva dei fatti e ciononostante condiziona il nostro pensiero e le nostre decisioni di acquisto e ne siamo consapevoli.

Moltissimi errori o bias cognitivi riguardano l’incapacità della nostra mente di ragionare logicamente quando si ha a che fare con questioni statistiche.

Per esempio le persone si aspettano che una sequenza di eventi generata da un processo casuale rappresenti le caratteristiche essenziali di quel processo anche quando la sequenza è breve.

Nel lancio di una moneta una sequenza come TCTCTC appare più probabile rispetto ad una sequenza come CCCTTT che non appare affatto casuale. Ci si aspetta che anche su campioni piccoli si presentino le caratteristiche globali di un processo. Un altro esempio è quello offerto dai giocatori d’azzardo che puntano sui ritardi di certi numeri o colori. Il caso sembra essere visto come autocorrettivo in cui una deviazione in una direzione induce una deviazione nella direzione opposta per ripristinare l’equilibrio.

Effetto di sovrastima dell’informazione ridondante

Un altro bias cognitivo è legato all’effetto di sovrastima dell’informazione ridondante. Questo bias si manifesta quando le persone attribuiscono un’eccessiva fiducia alle previsioni o alle decisioni basate su informazioni ridondanti, ossia su informazioni aggiuntive che non forniscono realmente nuove conoscenze o miglioramenti nella previsione.

Questo fenomeno può essere spiegato in termini di euristiche cognitive, cioè di scorciatoie mentali che utilizziamo per semplificare il pensiero e prendere decisioni più rapidamente. Le persone tendono a credere che più informazioni siano sempre migliori, indipendentemente dalla loro rilevanza effettiva per il processo decisionale o di previsione. Ad esempio, se ci viene presentato un esperto che fornisce numerose informazioni su un futuro evento, potremmo essere inclini a fidarci di queste previsioni, anche se alcune delle informazioni fornite sono superflue o non aggiungono nulla alla nostra comprensione del problema. Questo può portare a una sovrastima della precisione o della validità della previsione.

L’effetto di disponibilità

È esperienza comune che la probabilità soggettiva di incidenti stradali aumenta temporaneamente quando si vede un’auto ribaltata sul ciglio della strada. Questo fenomeno è dovuto all’effetto di disponibilità: la tendenza a valutare la probabilità di un evento basandosi sulla facilità con cui ci vengono in mente esempi rilevanti. Una classe le cui istanze sono facilmente recuperabili apparirà più numerosa di una classe di uguale frequenza le cui istanze sono meno recuperabili.

Secondo questa euristica, quando valutiamo la frequenza o la probabilità di un evento, tendiamo a basarci sulla facilità con cui vengono richiamati alla mente esempi o casi specifici di quell’evento. In altre parole, la nostra percezione dell’incidenza di un fenomeno dipende dalla quantità di esempi che possiamo facilmente ricordare.

Questa euristica può portare a distorsioni cognitive perché l’effettiva frequenza o probabilità di un evento non è sempre correlata alla sua disponibilità in memoria. Ad esempio, se ci sono informazioni o eventi che sono più vividi, emozionali o recenti nella nostra mente, tendiamo a sovrastimare la loro frequenza o probabilità. Al contrario, se un evento è meno ricordabile o meno facilmente recuperabile dalla memoria, tendiamo a sottostimare la sua frequenza o probabilità.

Un esempio comune per illustrare questo fenomeno è il caso degli incidenti aerei. Nonostante le statistiche dimostrino che viaggiare in aereo è molto più sicuro rispetto ad altre modalità di trasporto, molte persone hanno l’impressione che gli incidenti aerei siano più comuni. Questo è dovuto al fatto che gli incidenti aerei ricevono una copertura mediatica considerevole e possono essere molto emozionanti, rendendo più facile richiamarli alla mente e sovrastimare la loro frequenza.

La regressione verso la media

Quando una variabile è inizialmente misurata in modo estremo rispetto alla media, è probabile che il successivo valore misurato sia meno estremo, semplicemente perché le variazioni casuali tendono a livellarsi nel tempo.

Un esempio può aiutare a capire meglio questo bias. Immaginiamo uno studio che esamina l’effetto di un nuovo farmaco sulla pressione sanguigna. Inizialmente, vengono selezionati solo i pazienti con pressione sanguigna molto alta. Successivamente, questi pazienti vengono sottoposti al trattamento con il nuovo farmaco e le loro misurazioni di pressione sanguigna vengono registrate dopo un certo periodo di tempo. Se non si considera la regressione verso la media, potrebbe sembrare che il farmaco abbia un effetto significativo sulla riduzione della pressione sanguigna. Tuttavia, il risultato potrebbe essere distorto a causa dell’effetto di selezione: il campione è stato selezionato originariamente a causa delle misurazioni estreme della pressione sanguigna, che tendono naturalmente a regredire verso la media nel tempo. In altre parole, anche in assenza di trattamento, è probabile che la pressione sanguigna dei pazienti diminuisca nel corso del tempo.

L’effetto di selezione si verifica quando si selezionano i soggetti sulla base di misurazioni iniziali estreme e poi si misurano nuovamente nel tempo, trascurando il fatto che le misurazioni successive saranno influenzate dalla regressione verso la media. In pratica abbiamo selezionato inizialmente un campione estremo.

Meglio punire che ricompensare?

L’incapacità di comprendere l’effetto della regressione porta a sovrastimare l’efficacia della punizione e a sottostimare l’efficacia della ricompensa. Nell’interazione sociale, così come nell’addestramento, le ricompense vengono generalmente somministrate quando la prestazione è buona, e le punizioni vengono generalmente somministrate quando la prestazione è scarsa. Con la sola regressione, quindi, è più probabile che il comportamento migliori dopo la punizione e che peggiori dopo la ricompensa. Sembrerà che la punizione sia efficace, mentre la ricompensa meno.

L’effetto dell’ancoraggio in questioni di probabilità

Da alcuni studi condotti sulla scelta tra scommesse e sui giudizi di probabilità è emerso che le persone tendono a sovrastimare la probabilità di eventi congiunti e a sottostimare la probabilità di eventi disgiunti. Questi pregiudizi possono essere spiegati in parte dall’effetto dell’ancoraggio, cioè dalla tendenza delle persone di basare le loro stime di probabilità su informazioni di riferimento che hanno a disposizione. In questo contesto, la probabilità dichiarata di un evento elementare fornisce un punto di partenza naturale per la stima delle probabilità sia degli eventi congiunti che disgiunti.

Per comprendere meglio questa dinamica, consideriamo un esempio concreto. Immaginiamo di dover stimare la probabilità che due eventi indipendenti si verifichino contemporaneamente. Ad esempio, la probabilità che sia assegnato un numero pari ad entrambi il primo e il secondo lancio di un dado.

Se ci viene chiesto di valutare questa probabilità, potremmo inizialmente considerare la probabilità di ottenere un numero pari su un singolo lancio di un dado, che è di 1/2. Tuttavia, se basiamo la nostra stima su questa probabilità iniziale, potremmo cadere vittima dell’effetto dell’ancoraggio e sovrastimare la probabilità dell’evento congiunto.

Questo perché la probabilità di ottenere un numero pari a entrambi i lanci del dado è in realtà di 1/4 (1/2 * 1/2 = 1/4), ma l’ancoraggio iniziale del 1/2 ci porta a sovrastimare la probabilità, magari stimandola come 1/2 o addirittura superiore.

Questo fenomeno è stato osservato in numerosi studi sperimentali. Ad esempio, uno studio condotto da Tversky e Kahneman nel 1974 ha mostrato che i partecipanti tendono a sovrastimare la probabilità di eventi congiunti quando viene fornita loro solo la probabilità degli eventi elementari.

Allo stesso modo, è emerso che le persone tendono a sottostimare la probabilità di eventi disgiunti, cioè eventi che non si verificano contemporaneamente. Ad esempio, se ci viene chiesto di stimare la probabilità di ottenere un numero pari o dispari lanciando un dado, potremmo inizialmente considerare la probabilità di ottenere un numero pari o un numero dispari su un singolo lancio, che è di 1/2 ciascuno. Tuttavia, questo ci porta a sottostimare la probabilità dell’evento disgiunto, che è in realtà di 1 (100%).

Ulteriori aspetti interessanti su questo argomento li puoi leggere nel seguente studio
Judgment under Uncertainty: “Heuristics and Biases. Biases in judgments reveal some heuristics of thinking under uncertainty” di Amos Tversky and Daniel Kahneman

e le emozioni?

Al contrario di ciò che molti studiosi pensavano in passato le emozioni non rappresentano necessariamente un disturbo o un handicap nell’ambito dell’attività decisionale. Per esempio il timore di perdere del denaro può ridurre l’attitudine al rischio e a migliorare le performance economiche. Prove scientifiche convincenti a sostegno di questo punto di vista provengono da pazienti emotivamente compromessi che hanno subito lesioni alla corteccia prefrontale ventromediale (vmPFC), un’area chiave del cervello per l’integrazione delle emozioni e della cognizione. Gli studi hanno scoperto che tali disturbi neurologici riducono sia (a) la capacità dei pazienti di provare emozioni sia (b) l’ottimalità delle loro decisioni, riduzioni che non possono essere spiegate da semplici cambiamenti cognitivi (Bechara et al. 1999, Damasio 1994). I partecipanti con lesioni vmPFC selezionano ripetutamente un’opzione finanziaria più rischiosa rispetto a una più sicura, fino al punto di fallire in un gioco con soldi veri, nonostante la loro comprensione cognitiva della scarsità delle loro scelte. Le misurazioni fisiologiche della risposta galvanica della pelle suggeriscono che questi partecipanti si comportano in questo modo perché non sperimentano i segnali emotivi.

In questo articolo: Emotion and Decision Making viene mostrato come la ricerca fino ad oggi porta alla conclusione che le emozioni possono svolgere almeno tre funzioni nel processo decisionale interpersonale: (a) aiutare gli individui a comprendere le emozioni, le credenze e le intenzioni degli altri; (b) incentivare o imporre un costo al comportamento altrui; e (c) evocare emozioni complementari, reciproche o condivise negli altri. Ad esempio, le espressioni di rabbia inducono a concessioni da parte dei partner negoziali e a strategie più cooperative nei giochi di contrattazione perché la rabbia segnala un desiderio di aggiustamento comportamentale. Questo effetto è qualificato da variabili contestuali, come la motivazione e la capacità dei partner di interazione di elaborare informazioni emotive così come la natura moralmente carica di una negoziazione.

Fatta questa premessa, esistono bias dovuti alle emozioni, ad esempio, si può avere paura di
volare e decidere invece di guidare, anche se i tassi base per la morte per guida sono molto più alti di quelli per la morte per volo con un chilometraggio equivalente.

Bias cognitivi ed esempi

Bias di conferma: la tendenza a cercare, interpretare o ricordare le informazioni in modo selettivo, favorendo quelle che confermano le nostre convinzioni preesistenti.

Esempio: Una persona convinta che l’esercizio fisico sia estremamente benefico per la salute potrebbe cercare principalmente notizie, studi o testimonianze che sostengano questa convinzione, ignorando o minimizzando informazioni che suggeriscono il contrario.

Effetto di disponibilità: la tendenza a valutare la probabilità di un evento basandosi sulla facilità con cui ci vengono in mente esempi rilevanti.

Esempio: Dopo aver assistito a un documentario sulle catastrofi avvenute negli aeroporti, una persona potrebbe sviluppare una paura esagerata di volare, sopravvalutando la probabilità di incidenti aerei rispetto ad altre forme di trasporto meno pubblicizzate.

Sovrastima dell’efficacia delle proprie abilità (effetto Dunning-Kruger): la tendenza ad avere una percezione più positiva delle proprie abilità rispetto alla realtà.

Esempio: Una persona che ha appena imparato a cucinare una nuova ricetta potrebbe sovrastimare le proprie capacità nel considerarla una vera esperta di cucina.

Effetto di ancoraggio: la tendenza a fare valutazioni o decisioni che sono influenzate da informazioni iniziali o “ancore”, anche se tali informazioni sono irrilevanti o poco accurate.

Esempio: Durante un’asta, un partecipante potrebbe stabilire un prezzo massimo che è influenzato dal primo prezzo offerto, facendo così offerte successive che si basano su quel prezzo iniziale, piuttosto che sui reali valori di mercato.

Effetto di conservazione: la tendenza delle persone a dare un peso eccessivo a informazioni precedenti e a resistere ai cambiamenti nelle loro opinioni o convinzioni.

Esempio: Una persona che ha acquistato azioni a un prezzo più alto rispetto al prezzo attuale di mercato potrebbe resistere a vendere, nella speranza che il prezzo aumenti e possa recuperare le perdite subite.

Effetto di attribuzione fondamentale: la tendenza a spiegare il comportamento degli altri in base a caratteristiche personali o disposizionali, piuttosto che attribuirlo a fattori situazionali o contestuali.

Esempio: Se una persona vede qualcuno fare una brutta mossa al lavoro, potrebbe attribuire questo errore alla sua incompetenza individuale, senza considerare che potrebbe essere stato causato da una mancanza di risorse o da circostanze sfavorevoli.

Effetto di sovrastima degli eventi rari: la tendenza a sovrastimare la probabilità di eventi rari, anche se statisticamente sono molto improbabili.

Esempio: Una persona che vive in una zona sismica ma ha vissuto solo terremoti poco significativi potrebbe sottovalutare il rischio di un grande terremoto, nonostante le evidenze storiche e i dati scientifici che suggeriscono la sua probabilità.

Effetto di sovrastima della consistenza interna: la tendenza a credere che le persone o gli eventi siano coerenti e abbiano una stabilità interna, anche quando non ci sono prove sufficienti per supportare tale credenza.

Esempio: Una persona potrebbe credere erroneamente che un politico che si è dimesso da un incarico a causa di uno scandalo di corruzione sia un corruttore cronico, senza considerare che il caso potrebbe essere un’eccezione rispetto al suo comportamento complessivo.

Effetto di annullamento: la tendenza a fornire maggior peso alle informazioni recenti o più disponibili, a scapito di informazioni precedenti o meno disponibili.

Esempio: Un consumatore potrebbe acquistare un abito costoso, ma successivamente potrebbe notare che il negozio vicino offre uno sconto del 50% su un abito simile, facendo venir meno il desiderio di indossare l’abito precedentemente acquistato.

Effetto di sovrastima della causalità: la tendenza a percepire delle relazioni causali tra eventi che sono solo correlati casualmente o che non hanno una vera relazione di causa-effetto.

Esempio: Un atleta potrebbe attribuire il proprio successo in una gara sportiva all’utilizzo di una determinata marca di scarpe da corsa, nonostante il fatto che il successo potrebbe essere stato influenzato da altri fattori, come l’allenamento o la predisposizione genetica.

Nel marketing si fa leva sui bias cognitivi quando si applicano le seguenti tecniche:

Scarsità: sfrutta il bias dell’effetto di disponibilità, facendo leva sulla sensazione di perdita potenziale o sulla limitata disponibilità di un prodotto o servizio per spingere le persone ad acquistare in fretta.
Ad esempio, un’agenzia di viaggi potrebbe utilizzare frasi promozionali come “Solo pochi posti rimasti!” o “Offerta limitata per un periodo specifico” per creare un senso di scarsità e urgenza, influenzando così le persone a prenotare rapidamente per paura di perdere l’offerta.

Autorità: utilizza il bias dell’effetto di ancoraggio e della regolazione, facendo riferimento a figure di autorità o celebrità per avvalorare un prodotto o un servizio e influenzare le decisioni di acquisto.

Prova sociale: sfrutta il bias dell’effetto di ancoraggio e della regolazione, mostrando testimonianze, recensioni o consensi di altre persone per influenzare le scelte di acquisto delle persone, basandosi sulla credenza che se molti altri lo hanno scelto, deve essere un buon prodotto o servizio.

Prezzo di ancoraggio: si avvale del bias dell’effetto di ancoraggio, presentando un prezzo più alto o “scontato” all’inizio, per poi offrire un prezzo più conveniente, creando così la percezione di un buon affare.

Esclusività: sfrutta il bias dell’effetto di ancoraggio e della regolazione, creando un senso di esclusività e status associato a un prodotto o servizio limitato o di fascia alta, stimolando il desiderio di possederlo da parte dei consumatori.

Risposta emotiva: si basa sul bias delle emozioni, utilizzando immagini, storie o messaggi che evocano specifiche emozioni per creare un legame emozionale tra il consumatore e il prodotto o servizio.

Ricompense immediate: utilizza il bias dell’effetto di sovrastima degli eventi immediati, offrendo gratificazioni immediate o incentivi per spingere le persone ad acquistare in modo compulsivo.

Miniature e assaggi gratuiti: sfrutta il bias dell’effetto di ancoraggio e della regolazione, consentendo ai consumatori di ottenere un’esperienza preliminare o un assaggio gratuito di un prodotto o servizio, per stimolare l’interesse e facilitare la decisione di acquisto.

Altre tecniche possono sfruttare l’effetto di sovrastima degli eventi rari. Per esempio un’assicurazione potrebbe mettere in evidenza gli incidenti gravi e rari coperti dalla polizza per dimostrare la protezione estesa che offrono, influenzando così le persone a sentirsi sicure e protette dall’inatteso.

L’Effetto di sovrastima della consistenza interna può essere sfruttato da un marchio di abbigliamento che utilizza testimonianze e immagini di celebrità modelli per promuovere il proprio brand, cercando di far percepire al pubblico che l’immagine del brand sia coerente con l’attrattività e lo stile di vita delle celebrità.

Un’azienda di integratori potrebbe far leva sull’effetto di sovrastima della causalità utilizzando testimonianze convincenti e storie di successo che attribuiscono direttamente l’effetto positivo dei loro prodotti alla salute e al benessere del consumatore.