Gli smart speaker stanno rivoluzionando la nostra quotidianità ma, grazie a questa inchiesta, Bloomberg.com ha scoperto che forse la nostra privacy non è al sicuro come pensiamo.

Grazie alla tecnologia la nostra vita è diventata più semplice. Ci stiamo avviando verso un mondo nel quale ci basterà rimanere sul divano ed impartire ordini ad intelligenze artificiali per svolgere le più comuni mansioni casalinghe.

Già ora stanno avendo amplissima diffusione a livello globale gli altoparlanti intelligenti, come Google Home (da poco ribattezzato “Nest“) o Amazon Echo, con la sua assistente vocale Alexa, senza dimenticare Cortana di Microsoft e Siri di Apple.

Si tratta di dispositivi in grado di riconoscere la nostra voce, comprendere il nostro linguaggio e fornire risposte più o meno adeguate alle nostre richieste. Possiamo chiedere che l’altoparlante trasmetta musica, ci dia informazioni sulle condizioni del meteo, le ultime notizie, oppure possiamo chiedere cose più futili, come farci raccontare una barzelletta.

Alcuni dispositivi della famiglia Google Nest – credits: Itchsblog

Questi assistenti vocali, sono installabili e a volte preinstallati sui dispositivi mobili – Siri ad esempio è presente in tutti gli smartphone Apple a partire dall’I-Phone 4S, in commercio dal 2011.

Gli assistenti personali intelligenti sono device con componenti di intelligenza artificiale in grado di sostenere una conversazione non troppo complessa con un essere umano, e migliorarsi nel tempo, grazie alla possibilità di apprendimento che posseggono.

Tra non molto tempo potranno svolgere tutte le mansioni di un segretario personale, senza troppa difficoltà.

Sembra tutto bellissimo, ma come sempre esiste un rovescio della medaglia.

Bloomberg.com si è occupato di mostrarci l’altra faccia di questi altoparlanti smart.

L’inchiesta prende le mosse dalle dichiarazioni di Ruthy Hope Slatis, una donna che nel 2014 è stata contattata da un’agenzia interinale di Boston per un lavoro presso Amazon Inc.

La Slatis, al modico compenso di 12 dollari l’ora, doveva semplicemente trascrivere sul proprio laptop ogni singola parola contenuta nelle registrazioni che le venivano fornite dai propri superiori. Amazon non aveva fornito alcun dettaglio sullo scopo di quel lavoro.

Ben presto, Slatis e colleghi si erano resi conto di trascrivere conversazioni private di altri cittadini americani. Conversazioni registrate all’interno delle case di queste persone, probabilmente a loro insaputa. Venivano registrati anche momenti intimi o le voci dei bambini.

Non è un caso che, nello stesso periodo, Amazon stesse lanciando sul mercato un nuovo prodotto:

Echo, per la prima volta integrato con Alexa.

Amazon Echo – credits: Notebooksbilliger.com

Nei cinque anni che ci separano dal momento dell’assunzione di Slatis ad oggi, si è assistito ad una sorta di guerra commerciale tra i grandi produttori di software per accaparrarsi quote di mercato in questo settore.

Si calcola che soltanto negli Stati Uniti, un quarto della popolazione abbia acquistato dispositivi come Echo, Google Home e Apple HomePod. Persino Facebook, sempre sotto i riflettori per le continue querelle relative alla privacy degli utenti, ha lanciato in alcuni mercati Portal, un device simile a quelli elencati in precedenza.

Facebook Portal – credits: Wired

Stando alle stime statistiche di Bloomberg, Amazon sta vincendo la gara con gli altri provider, in quanto Alexa è stata acquistata da oltre 100 milioni di persone nel mondo. Ma i microfoni si trovano dappertutto: nei nostri telefoni cellulari, nelle nostre televisioni, nei computer e persino nei frigoriferi di ultima generazione.

Si ritiene che nel 2023 il mercato degli smart speaker raggiungerà gli 11 miliardi di dollari, con 7,4 miliardi di dispositivi venduti. Uno per ogni essere umano sul pianeta Terra.

Quote del mercato degli smart speaker per produttore – credits: voicebot.ai

Sebbene i produttori affermino che questi device non registrino ogni nostro suono, ma si attivino solo quando lo vogliamo noi, essi stessi stanno introducendo dispositivi ed elettrodomestici con microfoni sempre accesi.

Secondo Florian Schaub, professore alla Michigan University intervistato da Bloomberg.com, quasi nessuno di coloro che hanno acquistato uno smart speaker negli Usa è consapevole di essere registrato. Oppure tende ad avere un’inspiegabile fiducia nel fatto che i suoi dati non verranno sfruttati negativamente dalle compagnie che li acquisiscono.

In realtà si tratta di un problema rispetto al quale nessuno ha ben capito come difendersi. E forse proprio per questo si tende a non pensarci.

Amazon ha declinato qualunque invito a chiarire meglio la situazione, ma i portavoce dell’azienda hanno rilasciato una dichiarazione che spiega come il personale che si occupa delle registrazioni sia addestrato a maneggiare i dati personali.

Tutti i produttori di dispositivi smart speaker hanno poi concordato nell’affermare che la maggior parte dei dati vengono processati senza bisogno della revisione umana, quindi almeno a livello teorico, non ci sarebbe nessuna invasione della privacy su larga scala.

In realtà i cosiddetti altoparlanti intelligenti sono del tutto dipendenti da un esercito di esseri umani sottopagati, che le grandi aziende sfruttano per migliorare le prestazioni dei loro prodotti.

Vari ingegneri di queste compagnie intervistati da Bloomberg sembravano non aver mai minimamente guardato la cosa da questa angolazione. Per loro non c’era nulla di strano in quello che stava succedendo, era soltanto il modo più semplice per consentire al device di “migliorare”.

Invece, coloro che come Slatis si occupavano di trascrivere le conversazioni non si sentivano del tutto a posto con loro stessi. Inoltre il fatto che le grandi aziende gli facessero firmare un contratto che gli impediva di divulgare quale fosse la loro reale mansione all’interno della compagnia è piuttosto sospetto. Senza contare che impedisce a molte persone di parlare, se non in forma anonima, per timore delle ripercussioni che potrebbero subire.

bloomberg.com

Per comprendere meglio come mai ci sia questa necessità di registrare e trascrivere conversazioni per migliorare le prestazioni degli smart speaker basta un semplice esempio.

Se noi vogliamo creare un software che sia in grado di riconoscere se in una fotografia sono presenti dei gatti e dei cani, prima dobbiamo insegnarli come sono fatti questi animali.

Dobbiamo quindi fornirgli una serie di fotografie che ritraggono anche cani e gatti in modo che il software sia in grado di capire cosa deve cercare. Ovviamente più immagini forniamo al software, maggiori saranno le possibilità che questo funzioni in maniera corretta, riconoscendo i mammiferi che vogliamo identifichi.

Visto che i dispositivi smart speaker funzionano grazie alla trasformazione speech-to-text il discorso è equivalente. Per poter eseguire quello che noi ordiniamo, gli altoparlanti intelligenti devono tradurre ciò che diciamo in un testo che sia comprensibile per il software.

Il modo di parlare di ognuno di noi differisce rispetto a quello di chiunque altro per accenti, modi di dire, dialetti. Coloro che trascrivono le conversazioni registrate dagli smart speaker consentono a questi ultimi di apprendere meglio come tradurre ciò che registrano e di conseguenza migliorare le proprie prestazioni.

Ed è questo l’unico procedimento che consente a questo genere di tecnologia di progredire.

Un Keynote di Apple – credits: AFP

Secondo le testimonianze di alcuni dipendenti di GlobeTech, un’impresa irlandese che gestiva questo genere di operazioni per conto di Apple, essi dovevano ascoltare ogni giorno 1300 registrazioni. Potevano essere frasi o intere conversazioni. Sui monitor dei loro computer compariva scritto quello che Siri aveva “sentito”. I dipendenti di GlobeTech dovevano confermare o correggere ciò che appariva sugli schermi. Così Siri imparava dai propri errori di trascrizione.

Ovviamente le grandi imprese del settore fanno riferimento proprio a questo aspetto per giustificare il loro operato.

La concorrenza spietata che è venuta sviluppandosi in questo particolare mercato ha avuto effetti quantomeno controversi.

Apple, che grazie a Siri è stata leader per anni, ha cominciato ad essere sempre più aggressiva nella registrazione e nell’analisi della voce delle persone, per timore che i competitor potessero recuperare terreno e mettere sul mercato un prodotto migliore. Il tutto ovviamente a danno della privacy dei propri clienti.

Basti pensare che il programma che i dipendenti di Apple utilizzano per l’ascolto e la trascrizione delle conversazioni, CrowdCollect, permetterebbe di skippare (saltare) le registrazioni ritenute “inappropriate”. Ma alle perplessità dei dipendenti sul fatto che mancassero chiare linee guida su quali registrazioni fosse vietato ascoltare, perché troppo private, i manager avevano risposto che nessuna conversazione poteva essere definita troppo privata.

Tim Cook, CEO di Apple – credits: reportmagazine

Mentre nel 2015 l’amministratore delegato di Apple, Tim Cook, definiva la privacy un diritto umano fondamentale, la sua compagnia aveva implementato Siri in modo che fosse sempre attiva sui dispositivi su cui veniva preinstallata.

Apple afferma di permettere che soltanto lo 0,2% delle registrazioni di Siri passino sotto il controllo di altri esseri umani. Nel 2019 però è stato calcolato che Siri abbia processato ben 15 miliardi di richieste vocali ogni mese. Quindi ben 30 milioni di registrazioni al mese vengono ascoltate e trascritte da altre persone. Tutto questo senza una reale consapevolezza di quanto sta accadendo da parte di chi utilizza il software di Apple. O quello di Amazon. Oppure quello di Google e di qualunque altro grande produttore di smart speaker.

Il problema è più grave di quanto si pensi, perché spesso non siamo consapevoli della quantità di informazioni personali che forniamo quando formuliamo una richiesta ad uno di questi dispositivi. E che forniamo dopo aver sottoscritto lunghi contratti di licenza di utilizzo e “condizioni d’uso” che, ammettiamolo, nessuno di noi legge.

Immagine tratta dalla locandina del documentario “Terms and Conditions May Apply” di Cullen Hoback

Google ha dichiarato che non ci sono problemi di mancato rispetto della privacy in quanto le registrazioni non sono associate con i dati personali del proprietario di un determinato device.

In realtà, un dipendente dell’azienda ha condiviso oltre mille registrazioni con il broadcast belga VRT NWS, che è stato in grado di risalire a molte delle persone che erano state registrate. Basandosi sulle sole registrazioni! Senza contare che è risultato che il 10% delle conversazioni fosse stato registrato senza il consenso delle persone coinvolte, in quanto il dispositivo aveva sentito erroneamente le parole “Ok Google” che servono per attivarlo.

La sede di Google nella Silicon Valley – credits: Qui Finanza

Visto il polverone che si sta alzando tutte le imprese del settore hanno cominciato a mostrare maggiore attenzione rispetto alla privacy dei propri clienti, permettendo loro di cancellare lo storico delle registrazioni o eliminando la possibilità stessa di essere registrati.

La Camera dei Rappresentati del Congresso degli Stati Uniti sta considerando di apportare gli emendamenti necessari alla legge sulla privacy ed esiste un gruppo di senatori, provenienti da entrambi gli schieramenti, che ha richiesto alla Federal Trade Commission di investigare sulle registrazioni di bambini operate da Amazon. Le autorità si stanno comunque muovendo piuttosto lentamente.

Rimane il fatto che nella Silicon Valley ci ascoltano. E tutti gli ex lavoratori che si occupavano di ascoltare e trascrivere registrazioni prestano grande attenzione a non parlare di nessun aspetto della loro vita nei pressi di un dispositivo che potrebbe essere in ascolto.

Che voi abbiate o meno qualcosa da nascondere, meglio esserne consapevoli.

di Riccardo Allegri
Riccardo Allegri
Leave a reply

Lascia un commento