Oh, van die ene serie? Nee. Niet? Die Duitse. Dat is een Britse serie, Remon. Oh.
Maar wat is het dan? Een nieuwe app. In het Duits? Nee. Oh.
Aldus mijn eerste ontmoeting met Google Allo, de sinds kort verkrijgbare communicatieapp van de makers van de meest gebruikte zoekmachine ter wereld, een zogenaamde smart messaging app. Klinkt leuk, maar wat wil dat nou eigenlijk zeggen?

Op de website1 word je aan de hand van pseudo-realistische gesprekken duidelijk gemaakt wat Allo wel niet allemaal aan je te bieden heeft. Zo is de Google Assistant bij de app inbegrepen. Deze nieuwsgierige AI leest over je schouder mee met je gesprekken en doet op basis daarvan suggesties voor te versturen berichten, de zogeheten Smart Reply. Ben je meer een ‘lol’-persoon of eerder iemand die het zeer overtuigende ‘haha’ hanteert? Welke smiley gebruik je het liefst? Is het de sassy girl of toch die tranen-van-het-lachen-emoji waarvan de gemiddelde ouder nog steeds denkt dat het om een huilend persoon gaat – met als gevolg van die pijnlijke situaties bij eventuele overlijdensberichten. De Smart Reply-functie onthoudt je keuze en zal in de toekomst deze aan je voorstellen, mocht een volgens de applicatie toepasselijke situatie zich voordoen.
De app analyseert dus je gesprekken en voorkeuren en slaat deze op voor latere toepassing, om vervolgens op een later moment te kunnen anticiperen, dan wel aanbevelen, bij gelijksoortige gevallen.
Dit principe kan voor vele nuttige doeleinden gebruikt worden, zoals – en dan denk ik misschien nog niet eens heel erg futuristisch – het automatisch in- of aanvullen van je verlanglijstje als blijkt van een aanstaand tekort aan bepaalde producten of nadat je bank weer eens vlam heeft gevat.
Bovendien zien we op het moment van schrijven al steeds meer zelflerende AI’s om ons heen verschijnen. Denk maar aan de slimme thermostaat, welke zich kan aanpassen aan het leefgedrag van bewoners, of Siri, de virtuele vrouw die leert op basis van algoritmes voor spraakherkenning.

Aan de andere kant moet je wel bedenken dat Google een zeer omvangrijke profitorganisatie is, die in het bezit is van een gigantische hoeveelheid aan gegevens over jezelf. Google verdient onder meer zijn geld door het interpreteren en verkopen van deze gegevens aan derden, die op basis hiervan hun advertenties specifieker op het individu kunnen afstellen.
Je gegevens zijn dus vaak bekend bij bedrijven waarvan jij misschien nog nooit gehoord hebt. Daarbij komt nog dat juist dit soort gegevens vaak het slachtoffer zijn van hacks2, vanwege de persoonlijke informatie, en deze dus gewoon op straat kunnen komen te liggen, de straat die het internet heet. Ook een database van Google is nooit 100% veilig.

Na de bekendmaking van deze zoveelste nieuwste chatmogelijkheid ontstonden twijfels met betrekking tot de veiligheid van persoonsgegevens. De app zou namelijk onveilige standaardinstellingen hebben. Alleen wanneer je uit eigen beweging de incognito-modus van de app inschakelt, wordt gebruik gemaakt van de zogeheten end-to-end-encryptie, een versleutelingstechniek die ervoor zorgt dat alleen jij en het contact waar je mee communiceert de berichten kunnen lezen en niemand anders. Een eventuele man-in-the-middle-aanval3 zal dan een berichtje dus wel onderscheppen, maar de betrokken tussenpersoon zal het onderschepte bericht niet daadwerkelijk kunnen lezen.
Deze vorm van encryptie is in populariteit gegroeid nadat bleek dat de meest bekende klokkenluider sinds Quasimodo, Edward Snowden, gebruik maakte van de communicatieapp Signal, die ook de encryptie hanteert. Dezelfde Snowden heeft dan ook in mei van dit jaar al gewaarschuwd voor de gevaren van Google Allo en via twitter opgeroepen om de app (voorlopig) te vermijden:

“Google’s decision to disable end-to-end encryption by default in its new #Allo chat app is dangerous, and makes it unsafe. Avoid it for now.”

Deze onheilspellende tweet plaatste Edward Snowden naar aanleiding van de I/O-conferentie van Google in mei. Bij die conferentie werd Allo naar voren gebracht als zijnde een stap voorwaarts als het gaat om privacy. Berichten die gebruikers elkaar sturen zouden niet-herkenbaar en bovendien slechts tijdelijk opgeslagen worden, zeker niet voor onbepaalde tijd. Bij het uitbrengen van de app op 21 september 2016 bleek echter dat Google niet helemaal oprecht was geweest.
Berichten worden opgeslagen totdat jij zelf actief bezig gaat om de berichten te verwijderen, danwel überhaupt verijdelt dat de berichten opgeslagen worden, door middel van de al eerder besproken incognito-modus. Zolang je dit niet doet, kan Google zich ongehinderd verslinden aan allerlei berichtjes. Van zoetsappige en subtiele liefdesberichtjes en pijnlijke, doch even subtiele afwijzingen, tot haatdragende rotopmerkingen; van overlijdensberichten met een verkeerd gebruikte smiley tot “hoi jongen, hoe is het? groetjes oma”. Niet dat Google daar nou altijd even in geïnteresseerd is natuurlijk, maar de mogelijkheid bestaat wel om dit soort gegevens over je op te slaan en, indien noodzakelijk, door te spelen aan daartoe bevoegde (opsporings)autoriteiten.
Snowden verwoordde het als volgt:

“What is #Allo? A Google app that records every message you ever send and makes it available to police upon request […].”

Volgens Google is deze maatregel enkel genomen ter verbetering van de Smart Reply-functie van de app. Hoe meer gegevens opgeslagen worden, hoe beter de functie werkt.
Blijkbaar vond Google dat deze betere werking wel kon prevaleren boven de extra privacy die de eerder aangekondigde tijdelijke opslag zou bieden. M.i. had deze conclusie niet zo eenvoudig getrokken mogen worden. Als je de gemiddelde facebookreactie leest, lijkt de tevredenheid omtrent privacy namelijk vrij laag. Ook uit betrouwbare bronnen valt dit op te maken.4 Bovendien is de huiverigheid alleen maar toegenomen sinds de openbaring van Snowden in juni 2013 en kan aan de eerder besproken hoeveelheden op internet gedumpte persoonsgegevens wel worden afgeleid dat persoonsgegevens vaak het doelwit zijn van hackers en dus nooit helemaal veilig zijn. Laat ik wel stellen dat men voor een groot deel de eigen privacy natuurlijk zelf in de hand heeft. Het nooit lezen van de (kleine) lettertjes voordat je ergens op klikt is niet bijster verstandig.

De keuze lijkt dus te zijn: end-to-end-encryptie of de voordelen van Google Assistant en Smart Reply. Dit dilemma deed me enigszins denken aan de discussie omtrent het Donorplan. In dit plan wordt als het ware ‘ja’ de standaardinstelling gemaakt en moet je zelf actief bezig om dit in een ‘nee’ om te zetten. Gezien de uitvoerige discussies over deze gang van zaken en de krappe meerderheid waarmee het plan de Tweede Kamer door is gekomen, ben ik zeer benieuwd hoe men over de soortgelijke aanpak van Google denkt. Ik zelf blijf voorlopig bij het vertrouwde Whatsapp, dat sinds april voor alle gesprekken gewoon de end-to-end-encryptie heeft ingesteld, als standaardinstelling.

Namens de redactiecommissie,

Remon de Vries

* Gratis bijgeleverd: inbreuk op je privacy.

  1. https://allo.google.com/
  2. Om enkele voorbeelden van dit jaar te noemen: LinkedIn (mei 2016), Badoo (juni 2016), Gemeente Ede (augustus 2016), Dropbox (augustus 2016), Brazzers (september 2016).
  3. Een man-in-the-middel-aanval is een aanval waarbij ongemerkt informatie tussen twee communicerende partijen onderschept wordt.
  4. CentERdata (i.o.v. de ECP), Onderzoek naar privacyafwegingen van internetgebruikers, oktober 2014. Laatstelijk geraadpleegd op 20 oktober 2016 via: https://tweakimg.net/files/upload/Rapportage%20privacyonderzoek%204-11-14-.pdf