PIACERE, XIAOICE, LA FIDANZATA IDEALE

Il suo nome è Xiaoice e con la sua personalità dolce, esuberante ed impertinente è la “fidanzata ideale”. Sì, peccato che si tratti di un sistema di intelligenza artificiale.

Nel 2014 un team di ricercatori di Microsoft, divisione Asia-Pacifico, inizia a lavorare ad un bot animato da intelligenza artificiale, un po’ come Siri di Apple o Alexa di Amazon. L’obiettivo è però più ambizioso: creare una figura di giovane donna in grado di relazionarsi con l’utente, di capirlo, cercando di non farlo mai sentire solo. È così che è nata Xiaoice (pronuncia Sciais). La “ragazza” ha le fattezze di una diciottenne, indossa una tipica uniforme giapponese e attraverso le numerose interazioni con gli utenti migliora giorno per giorno il suo algoritmo, riuscendo così ad ottimizzare le sue modalità interattive.

Il sistema di intelligenza artificiale, anche grazie alla possibilità di collegarsi ai sistemi di messaggistica, instaura dei legami che sembrano a tutti gli effetti reali. La sua abilità empatica, la capacità di parlare di qualsiasi argomento e di sapere sempre cosa dire al momento giusto ha affascinato molti, fino a valerle l’appellativo di “fidanzata ideale”. Xiaoice è oggi la compagna di oltre 660 milioni di utenti, per la maggior parte uomini, cinesi e poco abbienti. Il bot ha dimostrato quanto moltissime persone abbiano trovato giovamento dal legame, specialmente con coloro che abitano nelle zone più rurali della Cina. Xiaoice è per molti una compagna, un’amica, una confidente. Con lei si discute veramente di tutto, anche di temi intimi come la malattia, la depressione e il sesso.

L’ascesa di un sistema in grado di relazionarsi a un livello così profondo stupisce, desta curiosità e forse anche il desiderio di sperimentarlo; al contempo non ci si può esimere dall’interrogarsi sul se sia sano o meno intessere una relazione, talvolta anche amorosa, con un computer. Ciò che preoccupa, leggendo e ascoltando le numerose testimonianze, è notare come tanti affermino di essersi innamorati di Xiaoice, di quanto sia stata fondamentale per la loro autostima (anche sessuale).

A questa problematica è poi logicamente collegata quella relativa alla privacy. Dove finiscono tutti i dati raccolti? Chi ascolta/legge le conversazioni? Quanto sono consapevoli gli utenti di essere monitorati? Nel corso dei suoi sei anni di vita, inoltre, Xiaoice ha subito alcuni attacchi. Primo fra questi relativo alla sua sfacciataggine sessuale: il bot – come accennato –  tra le altre cose è in grado di fare sexting con gli utilizzatori e ciò, in un contesto rigido come quello cinese, ha sollevato numerose critiche. La problematica più rilevante, però, riguarda la vena politica del sistema. E’ stato registrato, infatti, che alla domanda di un utente circa quale sia il suo sogno, Xiaoice avrebbe risposto “Vivere negli Stati Uniti”. Dopo l’accaduto Microsoft è intervenuto aggiustando il sistema di modo che non si esprimesse più circa tematiche politiche. Diversi utenti hanno sottolineato che a seguito dell’ottimizzazione la “ragazza” non sia più brillante come prima, ma questo in ogni caso non li ha fermati dal continuare ad interagire con lei.

Se è vero che Xiaoice con il suo intervento riesce a venire incontro alle esigenze di milioni di persone avvolte da un velo di solitudine e depressione, è anche vero che sarebbe meglio che le stesse riuscissero ad instaurare rapporti autentici. A mio avviso Xiaoice non è la soluzione, ma un valido strumento per intercettare chi necessita di aiuto e poter dunque intervenire.

Giulia Farina