MARCELO RINESI Le aziende non resisteranno alla tentazione di usare software che mentono

[Ieet, Stati Uniti, 30 ottobre 2015]

La Volkswagen non ha prodotto un’automobile difettosa: l’ha programmata per barare con intelligenza. Le regole danno per scontato che esseri umani inattendibili vivano in un universo affidabile: le persone sono tentate di mentire se pensano che i vantaggi siano superiori ai rischi, gli oggetti no.
Quando si chiede a una persona se usa sempre la cintura di sicurezza, nel migliore dei casi la sua risposta sarà sospetta; quando si misura l’efficienza energetica di una lampadina, la risposta è sempre onesta. Gli oggetti a volte non funzionano e hanno un comportamento imprevedibile, ma non hanno una strategia, non scelgono di ingannarci.
Questo era vero in passato. Oggi gli oggetti contengono un software, e nel codice del software possono essere incluse strategie basate sulla teoria dei giochi e qualsiasi altra forma di matematica applicata. Per le aziende del prossimo futuro sarà impossibile resistere alla tentazione di insegnare ai prodotti a mentire strategicamente – come ha fatto la Volkswagen – anche a rischio di pene severe. Come è sempre successo con le frodi finanziarie, si tratta solo di trovare il modo di farlo meglio di prima.
Le normative ambientali sono un terreno fin troppo facile per le truffe strategiche che mirano al profitto, ma non sono l’unico. Il software che fa funzionare la vostra auto, il televisore o la bilancia del bagno potrà anche rispettare le regole sulla privacy, ma basterà un aggiornamento automatico e invisibile del software per trasformare quell’oggetto in una spia discreta che fornisce dati personali attraverso canali ben nascosti (i software si aggiornano di continuo: questo è uno degli aspetti dell’internet delle cose – il fatto che gli oggetti di uso quotidiano siano collegati a internet – su cui a nessuno piace soffermarsi, perché sarà un problema).
Inoltre, in un mondo in cui ogni dispositivo interagisce e dipende da una miriade di altri oggetti, i dispositivi di un’azienda potrebbero compromettere il funzionamento di quelli della concorrenza. Il problema del nostro sistema normativo è che le norme tecniche devono essere definite con precisione per essere eque e che questo le rende facili da individuare e da aggirare.
Queste norme si basano su un universo meccanico, non su uno in cui il software inserito negli oggetti si aggiorna con nuove bugie ogni volta che i regolatori escogitano un nuovo sistema di verifica. E anche se il software non cambiasse, controllare che non abbia comportamenti indesiderati sarebbe comunque impossibile: in molti casi i programmi commettono errori perché le organizzazioni che li hanno prodotti non hanno verificato (o non potevano verificare) che si comportassero come previsto.
Quindi la nostra percezione del mondo rifletterà sempre di più quella dei nostri computer e di internet. Tutti a volte abbiamo la sensazione che il nostro computer sia uno strumento piuttosto imprevedibile pieno di programmi che non abbiamo mai installato e che svolgono attività mai autorizzate per avvantaggiare aziende di cui non abbiamo mai sentito parlare.
In futuro anche le auto, i semafori e perfino i palazzi si comporteranno nello stesso modo sospetto. La macchina che si guida da sola sta rallentando apposta per dare la precedenza a modelli più costosi? Il condizionatore ecologico è davvero meno efficiente con un termostato di un’altra azienda? Perché il televisore, che dovrebbe usare la telecamera solo per seguire i comandi gestuali, si offre di scaricare film della Disney ogni volta che i vostri figli ci si siedono davanti?
Probabilmente nessuna di queste cose sarà legale, ma tutte saranno redditizie, e se un oggetto riesce a nasconderle allo stato, oltre che a voi, sarà difficile dimostrare il contrario. Secoli di frodi finanziarie ci hanno insegnato che violare le norme è estremamente redditizio e la pena arriva in ritardo: per questo le organizzazioni continuano a cadere in tentazione.
Il costo ambientale e sanitario della truffa della Volkswagen è notevole, ma è facile immaginare industrie e situazioni in cui potrebbe essere ancora peggiore. Possiamo solo sperare che contro la violazione delle norme sull’internet delle cose vengano presi rimedi più efficaci rispetto a quelli a cui ci hanno abituato i grandi illeciti finanziari.
(Traduzione di Floriana Pagano)

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...