Popup-Niks-missen-2.png

VERHALEN

ICT 11 november 2021

‘Een mailserver is echt geen rocket science’

reacties 2
Eredoctor Marleen Stikker vindt dat we ons lot te makkelijk in de handen leggen van organisaties die niet per se het beste met ons voorhebben. ‘Ik vind dat we nog steeds te veel tolereren wat dataverzameling betreft.’
DOOR Peter Breedveld BEELD Ivo van der Bent

Tijdens de coronacrisis hebben we, onder druk, heel wat nieuwe software op onze telefoons en computers gedownload. Een corona-app, een QR-check, allerlei software om thuis te kunnen werken, ons te kunnen identificeren en te laten controleren. Studenten moesten zo’n beetje Big Brother in hun huis laten om online tentamen te kunnen doen. Ging dat niet een beetje te makkelijk, allemaal? Geldt voor ict dat als het kán, we het meteen ook maar moeten doén?

Volgens Marleen Stikker, strijder voor publieke waarden in digitalisering en op de dies natalis benoemd tot eredoctor aan de VU, is er wel degelijk oog voor een verantwoorde toepassing van digitale techniek. “Weliswaar tientallen jaren te laat, maar de overheid werkt aan wetgeving om ons te beschermen”, aldus Stikker. “Het initiatief komt vanuit Europa. Er is al een privacywet, er komt nu een wet digitale diensten aan, en een wet digitale markten. Het is nog niet perfect, maar er is een begin. Er wordt gewerkt aan toezicht op algoritmes, aan het reguleren van behavioral advertising, en het verzamelen van biometrische gegevens in de publieke ruimtes, er is een breed scala aan wetten en regels om het digitale domein te reguleren. Daar gaan altijd veel burgerinitiatieven vooraf, van organisaties als People versus Big Tech, Bits of Freedom, en door wetenschappers die aan de bel trekken. Het is een politieke strijd.”

'Het is nog niet perfect, maar er is een begin'

“Bij het ontwikkelen van de coronamelder en de QR-code waarmee gevaccineerden toegang krijgen tot het openbare leven, is een grote coalitie van burgerrechtenorganisaties, wetenschappers, technologen, hackers betrokken”, aldus Stikker. “Die zorgde ervoor dat het principe van privacy by design het criterium is geworden waarlangs de coronamelder is gebouwd en dat vind ik een grote overwinning.”

Big Tech

Stikker ziet een kentering. Tientallen jaren lang is er nauwelijks gelet op het ondermijnende aspect van Big Tech. Maar inmiddels wordt erkend dat onze strategische autonomie op het spel staat. Hoe afhankelijk zijn we geworden van ict-diensten waar we geen enkele zeggenschap over hebben? En hoe beteugelen we de ongebreidelde handel in data? De alertheid is echter nog erg fragiel. “Zodra bepaalde urgenties gaan gelden, zoals met corona, lijken we dat allemaal weer te vergeten. Dan zie je dat heel veel van die overwegingen worden overgeslagen. In naam van veiligheid permitteert de overheid zich om discriminerende algoritmen in te zetten. We zijn er nog lang niet.”

‘Inmiddels wordt erkend dat onze strategische autonomie op het spel staat’

Het probleem is volgens Stikker dat de ethische afwegingen te laat worden gemaakt, als de digitale techniek al is ontwikkeld en toegepast. Je moet voorafgaand aan het ontwerp de juiste afwegingen maken. “Technologie is niet neutraal”, zegt Stikker. “Ethiek zit in algoritmes besloten, in de keuze van de data die je inzet, de doelstelling van een toepassing. Waar optimaliseer je voor? Wie bepaalt dat? Eerst moet je de vraag stellen welke waarde je wilt expliciteren en dat meenemen in de toepassing die je ontwerpt.”

En wat we ons ook moeten bedenken: “Het lastige bij het begrip ethiek is dat in de volksmond iets goed is als het ethisch is en slecht als het niet-ethisch is. Maar ethiek houdt in dat je je waarden expliciteert en in overeenkomst met die waarden handelt. Trump heeft ook een ethiek, en achter de toeslagenaffaire zit ook een ethiek. We moeten het, als we het over ethiek hebben, er dus met elkaar over hebben wat die waarden zijn.”

Religieuze mystificatie

Stikker ziet een zekere defaitistische houding ten aanzien van technologie. “Het is internet, dús ben je je privacy kwijt, dat moet je accepteren." Maar het is niet waar. Je kunt privacy by design toepassen. Je kunt voor dataminimalisatie kiezen. Het zijn de verdienmodellen van de aanbieders die ervoor zorgen dat we vogelvrij zijn. En de datazucht van overheden die de wereld controleerbaar en voorspelbaar proberen te maken.

‘Trump heeft een ethiek, en achter de toeslagenaffaire zit ook een ethiek’

Wat ook meespeelt, is een religieuze mystificatie van digitale techniek. Een narratief waarbij de mens moet versmelten met een hogere vorm van intelligentie, zogenaamde kunstmatige intelligentie. Maar we weten niet eens wat intelligentie is. Wat is bewustzijn? Hoe meten we de intelligentie van onze micro-organismen in onze darmen en de invloed die het heeft op onze emoties en denken? Wat is de intelligentie van de natuur? En als het gaat om de grote maatschappelijke opgaven? Gaat AI ons verder brengen of moeten we werken aan onze sociale en emotionele intelligentie? ”

Voedselveiligheid

Over de verantwoorde toepassing van AI wordt nagedacht onder de vlag van ELSA Labs, (ELSA staat voor Ethical, Legal and Societal Aspects, PB) als onderdeel van de brede AI-onderzoeksprogramma dat vanuit het Nationaal Groeifonds is gehonoreerd. Er is ruimte om onderzoek te doen vanuit juridische en sociale wetenschappen. “Maar het staat aan de zijlijn”, aldus Stikker, “en niet in het centrum. Het zou de basis moeten vormen, de grond van waaruit je AI-onderzoek richting geeft. We moeten geen AI ontwikkelen op basis van het criterium dat het iets moet bijdragen aan de bv Nederland. We moeten AI ontwikkelen dat zich verhoudt tot de rechtstaat en grondrechten.”

Ict is vanuit politiek perspectief lange tijd een hete aardappel geweest, zegt Stikker. “Zo van: ‘liever jij dan ik’, want je weet dat ict-aanbestedingen altijd leiden tot budgetoverschrijdingen. Het is niet het favoriete onderwerp om als wethouder in je portefeuille te hebben. Nu zie je dat de focus is verschoven van automatisering naar digitalisering van beleid en de manier waarop we met data en algoritmes omgaan. Het gaat over de relatie en machtsbalans tussen overheid en burger, over de macht van Big Tech over kritieke infrastructuren, de rol van platforms in bijvoorbeeld retail, mobiliteit, toerisme. Het wordt nu eindelijk herkend als een politiék vraagstuk.”

'Als we iets uit de app-store downloaden, weten we per definitie dat het fout zit'

“De disbalans van macht is nu zo groot dat je je kunt afvragen of dat nog te repareren is, of het nog lukt publieke waarden terug te brengen in het digitale domein. De opgave is gigantisch. Om een vergelijking te maken: in de voedselindustrie hebben we een zeer fijnmazig stelsel met regels en toezicht om voedselveiligheid te garanderen. De temperatuur van de koelkasten in de supermarkt, de hygiëne in de keuken en fabrieken, alles om te zorgen dat als je iets aanschaft in de winkel je geen gevaar loopt. Maar als we iets uit de app-store downloaden, weten we per definitie dat het fout zit. Voordat we dat hebben verholpen, moet er nog wel heel veel gebeuren en het is eigenlijk heel raar dat het zolang heeft moeten duren voordat er zelfs maar een begin is gemaakt.”

Handel in data

Zo moet er wat Stikker betreft veel betere regulering komen van de handel in data. “We hebben lange tijd geen enkele grens gesteld aan het vergaren van data van mensen, waardoor we nu onze soevereiniteit en onze privacy kwijt zijn. Ik vind dat we nog steeds veel teveel tolereren wat dataverzameling betreft.”

“Iedereen is het erover eens dat er we de lichamelijke integriteit moeten beschermen, Er is iets grondig mis gaat als mensen in de positie worden gedwongen dat ze hun lichaam moeten vermarkten. Ons lichaam is geen handelswaar”, aldus Stikker. “Zo moeten de integriteit van de persoon beschermen. Persoonlijke data. Is geen handelswaar. Dat betekent dat je mensen niet moet dwingen om data over zichzelf te delen om iets voor elkaar te krijgen. We moeten af van de redenering dat data het grote goud zijn, de nieuwe olie. En dat mensen data afstaan in ruil voor diensten. Mensen geven meestal automatisch hun ‘consent’ voor de toegang tot hun data, maar je kunt je afvragen of die consent een wettelijke basis heeft als je de terms and conditions niet eerst hebt kunnen lezen, of als je wordt uitgesloten als je die consent niet geeft. Bovendien kun je vaak niet overzien wat de consequenties op lange termijn zijn. We vragen mensen ook niet om consent om een lichaamsdeel af te staan. Die vraag is in zichzelf onwettelijk.”

‘Universiteiten zijn gigantisch veel geld kwijt aan licenties voor systemen die niet voldoen aan onze eisen en principes’

“We kunnen voorkomen dat mensen in die positie terecht komen. Bijvoorbeeld door de manier waarop je je digitale identiteit vormgeeft. Bart Jacobs, hoogleraar Security, privacy and identity, heeft met IRMA (I Reveal My Attributes), een techniek ontwikkeld waarmee je alleen die persoonlijke gegevens hoeft te delen die op een bepaald moment relevant zijn. Hij is recentelijk onderscheiden met de Stevin-prijs. Zeer terecht.”

De toeslagenaffaire laat volgens Stikker goed zien hoe gevaarlijk die “disbalans van de macht” is. “Elke euro die door overheden en bedrijven wordt geïnvesteerd in algoritmes en dataverzameling vergroot die disbalans. Een vakbond heeft namelijk geen budget voor het verzamelen van data en het opbouwen van algoritmes om zo bedrijven of aandeelhouders te analyseren. Een belastingdienst zit bovenop die data, terwijl de gedupeerden niet eens rechtsbijstand hebben. En zo bouwen we verder aan een steeds grotere machtsdisbalans.”

Digitaal onderwijs

Toen begin 2020 iedereen van de ene op de andere dag vanuit huis moest werken, is er door de ict-afdelingen van de universiteiten in een razendsnel tempo een digitaal onderwijssysteem opgetuigd met allerlei apps en tools die het mogelijk maakten online colleges te geven, online tentamens af te nemen en kortom in een paar weken een complete digitale campus uit de grond te stampen. “Maar hoeveel inzicht hebben de universiteiten in de tools die ze gebruiken?” vraagt Stikker zich af. “Hoeveel governance heb je erop, is het allemaal accountable, wat gebeurt er met al de data? Negentig procent van de softwaresysytemen die bedrijven en organisaties gebruiken, kun je daar helemaal niet op toetsen. Dat zou de standaard moeten zijn bij aanbestedingen, het principe dat je de gebruikers kunt verzekeren dat je als universiteit toezicht houdt op datgene waar je verantwoordelijk voor bent.”

'We moeten meer gebruikmaken van open source'

De publieke sector, de universiteiten inbegrepen, is gigantisch veel geld kwijt aan licenties voor systemen die niet voldoen aan onze eisen en principes. “Daarom zouden we meer gebruik moeten maken van open source”, vindt Stikker. “Zoiets als een mailserver, bijvoorbeeld, is echt geen rocket science, en toch hebben we dat allemaal uitbesteed. Dat betekent dat je niet alleen een deel van je strategische autonomie kwijt bent, maar ook je innovatiekracht, want je bent afhankelijk van een derde partij, die er geen belang bij heeft iets te verbeteren of een nieuwe applicatie toe toevoegen. Zeker bij een universiteit zit voldoende expertise om dat wel te doen. Dat is zeker ook goed voor je studenten.”

{ Lees de 2  reacties}

comment_node_verhalen

Door Eme van der Schaaf op 12 november 2021
Beste Marleen, gefeliciteerd met deze eretitel. Jouw ervaring, inzichten, welsprekendheid en volharding, heeft het individu hard nodig om zich staande te kunnen houden temidden van de gedigitaliseerde vloedgolf die burgers en organisaties zonder kapitaal overspoelen. Jouw pleidooi dat universiteiten best in staat zijn om zelf digitaal gereedschap te ontwikkelen i.p.v. minstens zo dure BigTech-oplossingen te omarmen, mag ook de VU zich aantrekken. Vriendelijke groet, Eme van der Schaaf
Door Jasper op 17 november 2021
Recent nog werd alles in de Office365 cloud geduwd en hebben we niets meer te zeggen over hoe we digitaal werken. Stikker ziet een kentering. Ik zie die niet.

Reageren?

Houd je bij het onderwerp, en toon respect: commerciële uitingen, smaad, schelden en discrimineren zijn niet toegestaan. De redactie gaat niet in discussie over verwijderde reacties.

De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.

Deze vraag is om te controleren dat u een mens bent, om geautomatiseerde invoer (spam) te voorkomen.