Denkerij®

Toegepaste filosofie voor mensen, het bedrijfsleven en organisaties

Maand: oktober, 2015

‘Social Engineering’ met Big Data.

‘Social engineering’ is een technologie die wordt toegepast om samenlevingen te analyseren, te controleren en te verbeteren. De methode maakt gebruik van statistische analyses om kennis over de samenleving te produceren. De resultaten van de analyses krijgen vorm in allerlei grafieken of diagrammen waarin trends, gemiddelden, indexen, steekproeven, kansverdelingen enzovoort zijn weergegeven. De data waarop de weergaven zijn gebaseerd worden verzameld door enquêtes, registraties van statistische bureaus, testomgevingen in laboratoria,  administraties op allerlei gebied, enzovoort. Als deze gegevens eenmaal beschikbaar zijn kunnen ze worden samengevat en gebruikt voor beleid en management. Het CBS bijvoorbeeld verzameld steekproefsgewijs medische gegevens bij huisartsen om te kunnen vaststellen of er bovengemiddelde afwijkingen zijn van de diagnose influenza. Als die er zijn, zal snel moeten worden vastgesteld welk soort virus die afwijking veroorzaakt en met welk tempo het zich verspreidt, om te voorkomen dat er een pandemie ontstaat.

Het probleem hier is, de wijze van verzameling van deze gegevens. Het zijn altijd per definitie historische gegevens. Het resultaat is gemiddelden en indexen.  Ze zijn pas achteraf bruikbaar. Wat ze voorspellen op het moment van publicatie kan in de reële wereld alweer achterhaald zijn. Het proces van sturing van samenlevingen en hun economieën met behulp van de ‘tools’ van de statistiek, als toegepaste ‘social engineering’, heeft zijn langste tijd gehad.

Alex Pentland een vooraanstaand wetenschapper aan het MIT in Cambridge US, stelt in zijn publicaties (waaronder het boek ‘Sociale Big Data’) voor om intensief gebruik te maken van wat hij noemt de Big Data die wij produceren in ons digitale tijdperk. Als we dat gaan doen zoals hij voorstelt, treedt er een grote methodologische verschuiving op in de sociale wetenschap (sociologie en economie). Hij vergelijkt de verschuiving met wat Prometheus de mens bracht toen hij het vuur van de Goden stal. De mens die door de Goden karig was bedeeld om zich te kunnen handhaven in zijn biotoop, kreeg door het vuur (en dus de technologie) een hulpmiddel aangereikt dat hem in staat stelde te overleven. Pentland geeft aan dat de Big Data het moderne vuur zijn waarmee we als mensen in de toekomstige samenleving kunnen overleven en die samenleving mogelijk opnieuw kunnen uitvinden.

Het digitale tijdperk dat in de jaren tachtig volop zijn intrede heeft gedaan in de samenleving is de laatste 10 jaar in een stroomversnelling geraakt. De technologische middelen waarmee we data produceren en kunnen bewaren hebben een omvang bereikt die vergelijkbaar is met de tweede helft van het schaakbord. Deze schaakbord metafoor uit de ‘Second Machine Age’ van Erik Brynjolfsson en Andrew McAfee, collega’s van Alex Pentland aan het MIT, geeft aan dat we op het gebied van dataproductie een omvang aan gegevensverzamelingen hebben bereikt  die we alleen kennen van de deeltjesfysica. Sociale fysica is dan ook de benaming die nodig is om een geëigende wetenschappelijke methode aan te duiden voor het analyseren, beschrijven en duiden van de elementen die de bouwstenen zijn van de hypermoderne samenleving.

Maar niet alleen de hoeveelheid aan data bepaalt het belang voor de prometische omwenteling. Ook de beschikbaarheid van de data in ‘real time’ was tot voor enkele jaren ondenkbaar. Sensoren op plaatsen waar veel publiek verzameld is, maken de nu nog gehanteerde methode via de 1e lijns gezondheidszorg om pandemieën te voorkomen onmiddellijk hopeloos ouderwets. De algoritmen die de data ontcijferen kunnen door de huidige rekenkracht direct afwijkingen van normale patronen berekenen en alarmsignalen afgeven. Net zoals in de ‘dealing rooms’ op de financiële markten koop en verkoop patronen in flash-time zichtbaar zijn, zal binnenkort in een controle kamer van het RIVM op monitoren te zien zijn hoe het met de besmettelijke ziekten in Nederland gesteld is.

De data die wij genereren via allerlei systemen zoals smartphones, wearables, app’s, domotica en publieke sensoren en social media, veroorzaken een stortvloed van informatiedeeltjes die de sociale fysica moet gaan bestuderen en interpreteren. De berg aan data kan met de gewone statistische analyse methoden niet meer worden geduid. Alles wordt statistisch significant vanwege de omvang van de data. De wetenschappers ontbreekt het vooralsnog aan een intuïtie die richting geeft aan de ontwikkeling van algoritmen om significante patronen te herkennen in de databrij. Zoals Pentland het zegt: “Management using Big Data is actually a radically new thing.”

Intussen zijn we volop bezig met het oogsten van data. We vullen silo’s met informatiedeeltjes die zo omvangrijk zijn dat het iedere verbeelding tart. Die data zal op korte termijn een ongekende  economische waarde gaan vormen. Er wordt gesproken over data mining als de nieuwe digitale ‘goldrush’. Daardoor is er al een strijd gaande over het eigendom van de digitale informatie. Is het telefoonbedrijf als provider van de datalijnen van mijn smartphone eigenaar van de data die het beheert en bewaart, de bank omdat ik er een credit card heb, het ziekenhuis dat mijn hartconditie op afstand controleert, David Zuckerberg omdat ik iets of iemand ‘Like’ op Facebook of Larry Page omdat ik op Google heb opgezocht wat de openingstijden van mijn supermarkt zijn?

In een samenleving die zoals het heet ‘Data-driven’ wordt zal de meest cruciale vraag zijn; Wie is de eigenaar van de data? Ben ik als eigenaar van een creditcard, smartphone of pacemaker of gebruiker van Facebook of Google ook eigenaar van de data die ik er mee of er door produceer? Tot voor kort was het toch duidelijk dat de documenten die ik produceer door het gebruik van mijn tekstverwerker ‘Word’ geen eigendom werden van Microsoft. Nu ik ze in de cloud van Microsoft bewaar, is dat wat minder duidelijk. Maar in veel gebruiksovereenkomsten die je op dit moment ‘tekent’ doe je vaak nog afstand van het eigendom van je persoonlijk data. Zeker ook bij de grote entrepreneurs in de era van de social media. Google en Facebook konden zich nog een ‘cowboy’ status permitteren omdat de social media een soort van ‘Wild West’ vormden waar ze zelf de regels konden bepalen. Die tijden zijn voorbij. Zuckerberg c.s. spartelen nog wel tegen maar op plaatsen als bij het World Economic Forum zijn ze het er over eens dat van mij afkomstige data mij ook toebehoort. Ik heb het laatste woord over mijn data en kan dat eigendom beschouwen als een waarde die ik liquide zou moeten kunnen maken. Ik moet kunnen bepalen of ik mijn data wil delen en met wie en voor welke prijs. Dit heeft al geleid tot wetgeving is de US met de ‘Çonsumer Data Bill’ en in de EU tot de ‘declaration on Data Rights’. Het beginsel van privacy dat tot de grondrechten van de burger behoort, moet ook in een digitale wereld overeind kunnen blijven.

Als dit grondrecht op een of andere manier ook technologisch wordt geborgd (en daar zijn aanzetten voor) kan de sociale fysica verder aan de slag met de data die wij produceren. Die fijnmazige data over het menselijk gedrag in groepen en individueel maakt het immers mogelijk om stuurinformatie te vergaren en vervolgens allerlei processen algoritmisch te managen. Er kan zo ‘social egineering’ worden toegepast op de efficiëntie en verbetering van bijvoorbeeld transport en distributie systemen, energie systemen en gezondheidszorg systemen. Met name in de agglomeraties van mensen in wereldsteden met miljoenen inwoners zal het van grote waarde zijn om de systeemfuncties in de toekomst overeind te houden.

De dreiging dat mijn persoonlijke data niet voldoende afgeschermd of geanonimiseerd zullen zijn om gebruikt te worden door de sociale fysica is voorlopig niet alleen denkbeeldig. Er zal een robuust juridisch kader moeten worden ontwikkeld en technologische hoogwaardige dataprotectie zoals in het bankwezen met onkraakbare versleutelingen, wil mijn persoonlijke dataopslag veilig blijven. Ook de overheid zal stappen terug moeten doen door bijvoorbeeld af te zien van het gebruik van de sleepnet technologie waarmee ze nu de datapakhuizen bevist. Het grondrecht van de privacy mag alleen dan worden opgeheven door de overheid, als bij een redelijke verdenking een rechter toestemming heeft gegeven om gebruik te maken van een digitale huiszoeking.

Advertenties

Het algoritme in de gezondheidszorg.

Binnen de gezondheidszorg speelt technologie sinds lange tijd een vooraanstaande rol. Diagnostische apparatuur van thermometer tot hoogwaardige MRI-scanners worden gebruikt om te bepalen of ik gezond of ongezond ben. Verdergaand in ethisch opzicht is de echo van een ongeboren vrucht. Technologie die de ouders tot morele keuzes kan bewegen. Moet ik de 20-weken echo ondergaan of niet is al een keuze voordat de uitslag een misschien nog zwaardere keuze met zich meebrengt. Is mijn toekomstige nazaat ‘gezond’ als geconstateerd wordt dat er sprake is van een hazenlip, het syndroom van down of een open rug? Ik kan nog besluiten tot abortus. De op zichzelf neutrale medische technologie drukt mij en ook de samenleving in een moreel kader. Als ik geen abortus wil beslis ik niet alleen voor mijzelf dat ik een zware last wil dragen en daarvoor de zorg wil dragen. Nee, ik beslis ook voor de samenleving dat zij mij daarin moeten helpen via de gezondheidszorg. Door het solidariteitsprincipe wordt de samenleving belast met de kosten van de medische verzorging voor mijn kind, terwijl ik dat door een abortus had kunnen voorkomen. Heb ik als autonoom individu die keuze vrijheid? In de nabije toekomst zal medische diagnostische technologie steeds verfijnder in staat zijn vast te stellen wat de gezondheidszorg risico’s zijn voor mijn nakomelingen. Aan die diagnoses kan een algoritme worden gekoppeld dat de kosten berekent voor de samenleving van de ziektes die tijdens je ‘lifetime’ bij je zullen uitbreken. Mag ik dan nog verwekt worden zou een nogal dramatische vraag kunnen zijn?

De ontwikkelingen in de medische technologie verlopen net als alle andere digitale ontwikkelingen ook exponentieel. De kosten van de zorg zijn nauwelijks in de hand te houden. Welke middelen zijn aanvaardbaar om gebruikers van die zorg te disciplineren als we steeds meer weten over hoe je ‘ongezondheid’ kunt voorkomen. Dit geldt zowel voor de prenatale diagnostiek als voor de metingen die tijdens je leven aan je kunnen worden verricht. Je leefstijl kun je controleren door wearables (die je hartslag, beweging, calorieverbruik en saturatie meten) en domotica sensoren in je huis of je auto. De sensoren zijn intussen dermate geminiaturiseerd dat ze in pillen voor schizofrenie patiënten passen om op afstand hun medicatie-trouw in de gaten te houden. Maar ook je koelkast is in het tijdperk van het internet of things een leverancier van data over je leefstijl. Wanneer maak je hem open, wat haal je eruit, hoeveel calorieën of alcohol zit daar in, welke vetten of vitaminen enzovoort? Wie mag over die data – waarmee je zelf een persoonlijk gezondheidsdossier samenstelt – beschikken? De zorgverlener, de zorgverzekeraar, de leverancier van de app’s, de beheerder van de big data, de overheid met mijn toestemming of ongezien om veiligheidsredenen? Of behoren deze data strikt tot mijn privédomein en welke autoriteit beschermt die dan?

Het juridisch kader van de privacy wetgeving is tot nu toe redelijk goed in orde en onlangs versterkt omdat de autoriteit bescherming persoonsgegevens boetes tot € 850.000 kan opleggen. Toch wordt de publieke opinie sluipenderwijs bewerkt door mensen steeds meer verantwoordelijkheid toe te schuiven voor hun eigen gezondheid. Is je BMI boven de dertig dan eet je teveel en zou je meer premie moeten gaan betalen voor je verzekering. Is het onder de 20 dan krijg je korting op je aanvullende verzekering. De basisverzekering is tot nu toe nóg beschermd tegen dit soort zaken. Maar beschikt iedereen in de samenleving over genoeg empowerment om de verleidingen en de marketing kracht van de Unilevers, de producenten van alcoholhoudende- en frisdranken te weerstaan? Het zijn veelal de sociale zwakke milieus waar chronische obesitas voorkomt en die ook de consumenten zijn van de zoetigheden van Unilever, de frisdranken van Coca Cola en de biertjes van Heineken. Het kan dus niet zomaar voor iedereen tot zijn persoonlijke verantwoordelijkheid worden verklaard om preventieve maatregelen te treffen voor het behoud van zijn ‘gezondheid’. Er ligt ook een specifieke bedrijfsethische verantwoordelijkheid bij die multinationals. Maar gezien het feit dat er nog steeds sigaretten producenten zijn, valt daar niet veel van te verwachten.

De ene na de andere gezondheidsapp verschijnt om je eHealth op peil te houden en data te genereren die door data mining en de daaraan gekoppelde algoritmes commercieel interessant is. Ook via surfgedrag is er van alles bekend over gezondheid. De aanbiedingen voor antigriepmiddelen bereiken je dagen voordat je de griep hebt omdat er griep heerst zoals blijkt uit het surfgedrag in je omgeving. Vrouwen die nauwelijks weten dat ze zwanger zijn hebben dat door hun surfen al bekend gemaakt en krijgen aanbiedingen voor babyspullen. Een gesteriliseerde man die daar kwaad op reageert bij de leverancier van die spullen, komt er zo achter dat zijn 16-jarige thuis wonende dochter zwanger is. Het privacy domein wordt op deze manier behoorlijk ingeperkt. Data rondom je privacy is gouden handel. David Zuckerberg de CEO van Facebook noemt privacy niet voor niets een achterhaald concept.

Peter Paul Verbeek hoogleraar filosofie van Mens en Techniek wijdt in zijn boek ‘Op de vleugels van Icarus’ een hoofdstuk aan persuasive technology. Data die wordt verzameld over ons gedrag en medische status door app’s of zelfs door interactieve spiegels uitgerust met sensoren en scannende camera’s, wordt gebruikt om ons gedrag te beïnvloeden. Door ons te confronteren met die data en de afwijkingen ten opzichte van de medische benchmarks, normeert de techniek ons gedrag. Deze beïnvloedings- of overtuigingstechniek manipuleert de gebruiker ervan op basis van een concept van goed leven dat door de ontwikkelaar is aangebracht in het persuasive device. Omdat het apparaat in verbinding kan staan met de verleners van medische zorg en de protocollen die daaraan gekoppeld zijn zouden we kunnen worden aangesproken op ongezond gedrag. Wanneer dat gedrag toename van kosten met zich meebrengt zou de gebruiker kunnen worden gesanctioneerd als hij zijn gedrag niet aanpast. Consequentie is dus dat we vrijheid van handelen en kwaliteit van leven inleveren omdat we gecontroleerd worden door normen die zijn ingebouwd in een medisch/technologisch apparaat. Natuurlijk is dat in zekere zin ook al bij de thermometer, de bloeddrukmeter en de diabetes test voor je bloedsuiker niveau. Het grote verschil tot voor kort was dat de data die dat opleverde binnen het privé domein bleven. In het snel naderende internet of things kunnen die data centraal worden opgeslagen en ter beschikking komen van, ja van wie?

We kunnen ons dus afvragen of we vanuit ethische perspectief kanttekeningen moeten plaatsen bij de medische apparaten waar die persuasive technology is ingebouwd. Beperken ze onze autonomie of persoonlijke vrijheid en in hoeverre is dat nu of in de toekomst acceptabel? Willen we wel leven in een huis vol met sensoren die ook kunnen vaststellen of iemand gevallen is? Of een bericht krijgen van onze zorgverzekeraar dat er een verhoogde BMI is vastgesteld en dat dit consequenties kan hebben voor de premie die we moeten betalen. Herman Brood zou nooit het leven hebben kunnen leiden wat hij heeft geleid omdat zijn premie boetes niet meer toestonden dat hij zich de drank en drugs kon permitteren die hij zich heeft gepermitteerd.

Van de andere kant worden we bijvoorbeeld in het verkeer al verregaand gecontroleerd door technologie. We mogen nergens meer zo hard rijden als we soms wel zouden willen. Iedere afwijking van de norm wordt gesanctioneerd. Hier zijn alle normeringen democratisch tot stand gekomen door onze wetgevend vertegenwoordigers. Onze routeplanners bevatten ook persuasive technology waarmee ze tot op de meter nauwkeurig aangeven welke snelheid waar geoorloofd is. Verzekeraars willen devices inbouwen in onze auto’s om ons rijgedrag te controleren om ons zodoende te kunnen indelen in risicogroepen. Voor- of nadeel is dat de verzekeringspremie kan dalen of worden verhoogd.

Op korte termijn zullen de algoritmes in de gezondheidszorg sterk sturend worden voor onze manier van leven en mede bepalen wat goed leven is. Goed leven kunnen we dan niet meer in vrijheid en door onze eigen vrije keuze bepalen. De norm ligt al vast in de apparaten (app’s, wearables, sensoren) die we gebruiken of in de feedback van de datavergelijking van de door ons verzonden data. De ethische grenzen van deze ontwikkeling zullen we zelf moeten aangeven. Wat vinden we aanvaardbaar en wat niet. Als er gemeten kan worden, mag en moet er dan ook gemeten worden?