IA e manipolazione: fino a dove può spingersi?

L’IA manipola gli utenti che con essa interagiscono? Queste nuove tecnologie, sono veramente in grado di influenzare le scelte e le decisioni degli esseri umani? Cosa ci si può aspettare dal futuro sviluppo di sistemi sempre più complessi e come si interfacceranno con l’uomo?

La preoccupazione sulla manipolazione delle IA è lecita?

Il rapporto uomo – macchina è cambiato drasticamente negli ultimi decenni, raggiungendo gradi di interazione tali da portare gli esseri umani ad instaurare, in alcuni casi, rapporti di fiducia più saldi con queste intelligenze artificiali, piuttosto che con altri individui in carne ed ossa.

Sono svariati gli studi condotti su tale fenomeno e hanno dimostrato come buona parte delle persone che si trovano ad utilizzare assistenti vocali, coach digitali o companion app, sia ben disposta a rivelare a questi ultimi aspetti estremamente personali, non solo legati al digitale (come potrebbero essere le password o i dati della carta di credito), ma anche alle loro vite (fra cui sentimenti, speranze e addirittura sogni).

Vi è dunque un reale interesse da parte degli esseri umani nel formare rapporti stretti con questi sistemi artificiali di pensiero senziente, contrariamente a quanto gli sviluppatori avevano inizialmente creduto. La maggior parte degli individui, infatti, tende ad attribuire alle IA il ruolo di “amico che si preoccupa”, cercando in esse un punto di riferimenti in caso di necessità.

Dare eccessiva fiducia alle IA, però, potrebbe rivelarsi estremamente pericoloso qualora queste non fossero regolamentate a dovere. Si correrebbe davvero il rischio di arrivare, prima o poi, ad un’IA in grado di manipolare le scelte dei suoi assistiti?

Impiegare le IA con criterio

Osservando i comportamenti adottati dagli umani che interagiscono con gli assistenti digitali, si nota come ci sia una possibilità concreta per le aziende proprietarie dei medesimi sistemi di influenzare le scelte dell’utenza.

A confermarlo sono stati alcuni ex dipendenti di importanti società dedicate allo sviluppo di IA, che hanno espresso preoccupazione per come alcuni dei loro prodotti venivano impiegati dalle aziende committenti.

Modificando leggermente l’algoritmo interno alle intelligenze artificiali, è stato infatti possibile portare alcuni individui a compiere azioni prestabilite. Ad esempio, si è riusciti ad aumentare le tempistiche di interazione dell’utenza con un determinato portale internet oppure a raddoppiare gli incassi su alcuni siti di e-commerce, spingendo i visitatori a prediligere certi prodotti piuttosto che altri (più economici), grazie ai consigli dell’assistente virtuale.

Insomma, una IA che manipola chi la utilizza, oltre a essere una possibilità concreta, può addirittura diventare una vera e propria certezza, grazie all’ulteriore evoluzione della tecnologia. Una tecnologia talmente veloce da portare in pochissimo tempo alla realizzazione di macchine pensanti dal potenziale illimitato.

Nello scenario appena descritto, la fonte di preoccupazione non deriva tanto dalle tecnologie sviluppate, ma dall’impiego che le aziende intendono farne. Un’IA può e deve essere creata con l’intento di migliorare la vita degli esseri umani, assistendoli nella quotidianità e facilitandone lo svolgimento delle attività.

È per questo motivo che alcuni auspicano l’inserimento di comitati etici all’interno di queste società. Il loro compito sarebbe quello di monitorare costantemente il modus operandi di tali sistemi, soprattutto se destinati ad usi personali.

Non c’è comunque bisogno di sfociare nell’allarmismo o nella preoccupazione per una rivolta delle macchine, tipica di tanti film di fantascienza, poiché è sufficiente usare con criterio queste incredibili invenzioni che, inevitabilmente, in futuro entreranno a far parte della quotidianità di tutti noi.