Per quanto riguarda il significato l'IA utilizza l'uso che diamo al significato delle singole parole. Quando una parola può avere più significati quello attribuito dall'IA viene assegnato per comparazione nell'ambito delle frasi che conosce dal proprio addestramento.

L'IA utilizza sistemi di valutazione per comparazione attribuendo probabilità più o meno alte alle varie soluzioni che un determinato problema presenta. Nella descrizione della soluzione del risultato pertanto l'IA fornisce la soluzione che ritiene più probabile in base alla comparazione che può fare nell'ambito che ritiene più probabile e del data base che ha assorbito.

Il comportamento umano è notevolmente differente. Una volta conosciuto il significato delle parole non utilizza una comparazione con altre frasi che ha in memoria, ma determina il senso della frase in base all'immagine personale che l'uomo costruisce nella sua mente dalla descrizione data dal significato delle singole parole.

Quindi se scrivo una frase come "L'Iva lava l'uva e la leva all'ava" chi legge immaginerà (faccio un esempio perché questo è un fatto totalmente soggettivo) una casalinga che lava un grappolo d'uva e poi provvede a toglierlo di mano ad una signora anziana che altrimenti potrebbe sentirsi male mangiandone troppa. In questo modo il lettore scopre il senso della frase.

L'IA semplicemente paragona questa frase con altre simili che ha in memoria e, una volta riconosciuta la similitudine più probabile, la inserisce nel contesto in cui ha trovato la frase e il senso che ne deriva è corrispondente al senso che noi possiamo darle in quello specifico contesto.

Se l'IA non ha mai visto quello scioglilingua, o uno simile, lo potrebbe inserire in un contesto errato, che ritiene più probabile, e potrebbe dare, in modo assurdo, un senso a quella frase come: la tassa sull'IVA si toglie sull'U.V.A. (modulo unificato del valore aggiunto) e da' ad una A.V.A. (Associazione Venditori Agroalimentari) una leva (finanziaria?).

Questo si può toccare con mano frequentemente sui sistemi di traduzione sostenuti da IA. Se il contesto non viene riconosciuto e l'addestramento è carente sono frequenti gli errori di concordanza per cui si collegano erroneamente soggetti con complementi o verbi che invece sono concordanti con altri nomi. Spesso ci sono errori di interpretazione legati a sistemi sintattici e/o grammaticali di lingua inglese applicati, ad esempio, a lingue derivate dal latino, dal greco o da lingue slave.

Quindi le allucinazioni espressive oltre a poter dipendere da errori di impostazione delle valutazioni probabilistiche possono dipendere anche da errori di comparazione con sistemi logici apparentemente corrispondenti, ma in realtà completamente errati.

Per evitare che l'IA sbagli sarebbe necessaria un'indicazione delle sorgenti da cui è stato preso il senso delle frasi per ottenere una risposta da parte dell'IA. In questo modo le risposte spurie sarebbero immediatamente cassate e si potrebbe indirizzare l'IA fornendole oltre agli gli errori di concordanza, quelli di valutazione dell'ambiente oggetto dell'indagine.

Questo comporterebbe una supervisione umana che renderebbe poco sensato l'uso dell'IA in molti contesti.

Tuttavia, se si inserisse un sistema di valutazione probabilistico specifico del decisore umano la correzione degli errori nelle descrizioni sarebbero simili alla supervisione degli scritti, compilati da impiegati, da parte del funzionario che deve firmare la relazione, il contratto, la lettera, ecc.

Le valutazioni di probabilità ed utilità sono diversi non solo da uomo a uomo, ma anche per tipo di decisione e inoltre variano, nella stessa persona, nel tempo per effetto dell'esperienza. Per quanto riguarda la probabilità si può, per ogni tipo di scelta (denaro, salute, impegni di matrimonio, ricerca di una segretaria, ecc.) definire una curva gaussiana che fornisce per ogni tipo di attività specifica decisionale del singolo decisore un modo di valutare l'aggiornamento della probabilità definito sulla base delle informazioni disponibili.
La costruzione della curva di utilità, anch'essa dipendente dal tipo di scelta, è semplice e facilmente realizzabile per la maggioranza dei comportamenti normali nel caso del denaro. Per le altre scelte spesso si tratta di curve discontinue o semplici "si o no" ovvero 0% o 100% (come per la scelta vita o morte), ma in ogni caso è possibile costruirle sul comportamento del decisore umano in modo da determinare il prodotto tra utilità e probabilità massimo che corrisponde alla scelta coerente per quel decisore.

In questo modo l'IA sarebbe un aiuto, viceversa se la scelta viene, come è adesso, lasciata alla decisione dell'IA e al suo addestramento di cui non sappiamo nulla, l'IA potrebbe rivelarsi una palla al piede per l'uso quotidiano negli uffici o nella ricerca di base e applicata o in generale nell'ambito della "conoscenza".