Aangestuurd autorijden

Door Artikel IB5-2021 - drs. J. van der Vlugt 13 dec 2021

Auteur: Ir. drs. J. van der Vlugt CISA CRISC is zelfstandig professional voor information governance- en risk management advisering en audit. Jurgen is te bereiken via: jvdvlugt@xs4all.nl.

In deel 1 van dit drieluik zagen we dat een auto, een zelf automatisch rijdend vervoermiddel, ons op een afgelegen parkeerplaats nog wel van A naar B kan brengen, maar een kwetsbaar (lees: gemakkelijk verstoorbaar) systeem is, in tegenstelling tot de mens als denkende deelnemer in het hedendaags verkeer.
In dit artikel wordt gesproken over de auto als autonoom-rijdend personenvoertuig dat misschien (ooit) beter kan rijden, beter kan omgaan met meer complexiteit dan de mens; maar als de auto faalt dan is het gelijk einde oefening. De vraag die hier wordt gesteld: ‘Kan er niet ‘iets’ centraal aangestuurd worden, vanuit een groot regelsysteem dus?’

Deel 2 van 3: Auto’s, besturing en reflexen

In deel 1 kwam het al voorbij: de Central Scrutinizer. Want als dat niet de bestuurder is, kan het dan aan het andere eind van het spectrum worden gevonden, in de vorm van een verkeerscentrale die alle wegverkeer bewaakt en bestuurt? Te denken is aan de Verkeerscentrale Nederland – die al bestaat. Het VCNL is gevestigd in Utrecht Papendorp en bewaakt het verkeer in ons land. Nou ja, de A- en een deel van de N-wegen [1] met daarnaast alleen de bewaking en centrale regievoering over enkele decentrale centrales rond de grote steden. Wie verzamelt de file-informatie, adviseert alternatieve routes, regelt het stratificeren en vertragen van de gemiddelde snelheid met matrixborden (en het afkruisen van rijstroken)? Juist [2].

Hoe eenvoudig zou het dan zijn om – bijvoorbeeld per stad, als enigszins behapbare eenheid en invulling van een deel van het Smart City-concept [3] –, alle verkeer op camera te vatten en te reguleren? Zeker auto’s kunnen hun bestemming wel al rijdende doorgeven, zodat de centrale botsingen kan voorkomen met niet-aanstuurbare verkeersdeelnemers. Zoals die ongure elementen als fietsers en voetgangers met hun zo afwezige stuursoftware in de bovenpan. Ga maar eens in Amsterdam kijken hoeveel fietsers zich aan de regels houden en verbaas u dat de meter door de nul schiet. Een prima idee om auto’s dan centraal aan te sturen, zodat individuele bestuurders niet uit nijd fietsers gaan snijden. Met als additioneel voordeel een situational awareness die de routes van auto’s kan aanpassen als het ergens te druk dreigt te worden. Daarnaast als grootste voordeel dat economies of scale te bereiken zijn met betrekking tot de benodigde rekencapaciteit.

Centralisatie uiteraard in architectuur, niet noodzakelijkerwijs in geografie. Lekker load balancen over een netwerk van systemen van de Nederlandse gemeenten levert best wel wat failover mogelijkheden op tegen pech [4]. 

Nadelen van een verkeerscentrale 
Enkele nadelen zijn er ook. Zo zal het lastig zijn om over gemeentegrenzen heen te coördineren. Wellicht bieden Veiligheidsregiokoepels uitkomst. Lastiger wordt het om binnen gemeenten de juiste expertise te verzamelen. Er nog van afgezien dat ervaringen met decentralisatie – denk aan bijvoorbeeld de jeugdzorg – niet zo hoopgevend zijn. Nu is er hoogstens wat manual verkeersregeling bij lokale evenementen en ligt het verder bij het VCNL.
Maar als we ‘dwingend’ willen gaan sturen, hoe regelen we dan de mandaten? Wie denkt dat ‘de overheid’ het wel voor elkaar zal (zou kunnen) krijgen, vergeet dat ons politiek bestel niet geschikt is voor de toekomst [5].

Inbreuk op de AVG
Waarmee we een gevoelig punt raken, want centrale aansturing en identificatie van auto’s en hun beoogde route; dat is toch wel een inbreuk op de AVG. Natuurlijk zijn de auto (die zich moet ‘identificeren’ bij route-doorgave) en de bestuurder niet een en dezelfde, maar de pseudonimisering is in dit geval eenvoudig. En overal camera’s, op elke blinde vlek in de openbare ruimte; big brother lijkt overal aanwezig. Vergeet niet dat ook voetgangers en fietsers makkelijk te deanonimiseren zijn.
Er hangen al te veel camera’s in gemeenten waarvan de rechtvaardiging twijfelachtig is of door de Autoriteit Persoonsgegevens is afgekeurd. We staan minder ver van repressieve regimes dan we denken, waardoor de druk naar maximale bewegingsvrijheid in de – niet voor niets – openbare ruimte, zal toenemen. Systemen zouden daartoe absoluut en bewijsbaar onmogelijk te deanonimiseren moeten zijn. Als dat theoretisch niet lukt, dan maar gewoon helemaal niet?

De Gemeentelijke Verkeerscentrale is natuurlijk een onoverzichtelijk architectuurcomplex – voor zover ‘complex’ en ‘niet-triviale architectuur’ niet al synoniem zijn. Wie beweert dat de beveiliging ervan goed geregeld is, heeft de nodige mislukkingen gedurende de afgelopen vijftig jaar van overheidsautomatisering gemist. Wat continue beschikbaarheid betreft: door ransomware of systeem falen ontstaan simpel problemen door de vele externe connecties. Auto’s die dus moeten kunnen vertrouwen op centrale, veilige aansturing of coördinatie zullen dan al snel de weg kwijt zijn. Op dit punt – en de daaronder te rekenen integriteit van uitkomsten – valt ook het nodige toe te voegen met betrekking tot de bepaling hoe en hoeveel ‘human in the loop’ nodig is (bovenop de Europese minimumvereisten en aan uitlegbaarheid en andere privacyaspecten).

Qua vertrouwelijkheid zal het ook niet zo top zijn. We hebben het over gevoelige gegevens en grote datasets. De vraag is niet of, maar wanneer. Natuurlijk zal niet direct een premier worden ontvoerd als zijn rijroute uitlekt. Lastiger wordt het, als criminele groepen door route-analyses elkaars opslagruimtes weten te lokaliseren, of bij uitrukkende Hermandad de route inclusief eindbestemming uit het systeem weten te plukken. En denk ook aan de natuurwet van scope creep: als de (route)data er is, zal dat een onweerstaanbare aantrekkingskracht hebben op totalitair-bureaucratische lieden (vroom in voorkomen, moreel verschimmeld) die in welke overheid dan ook, onuitroeibaar blijken.

Integriteit
En de integriteit van de data… dat wordt dynamisch-GIS-werk. Naast het stasis-gericht giswerk dat subalterne, semi-, quasi- en overheidsbestuurders nu al wordt verweten, want dan hebben we behalve een enorme verzameling statische informatie over o.a. wegen, stoepen, losliggende tegels (denk aan plots uitwijkende scootmobielen en slingerende fietsers), ook nog een veel grotere verzameling bewegende datapunten (auto’s en eventueel ‘bussen’). Wat als er iets misgaat in de communicatie? Ruis en vervuiling zullen al snel onwerkbaar overheersen in de database. Verdraaiing (manipulatie) kan ook bewust gebeuren (zie hieronder). Om over de integriteit (juistheid) van de ‘uitkomsten’ van het systeem maar te zwijgen; wat betekent ‘ik raakte in paniek’ van het centrale systeem?

De vraag is of het hiermee ooit goedkomt. En als er door niet-integere data iets fout gaat, of door een lek, gaat de gemeente de materiële én immateriële schade dan betalen, zonder dat de belastingbetaler er dan weer voor opdraait? Wat klungelen met een ‘Heads I win, Tails you lose’ afschuifmentaliteit wordt in het bedrijfsleven (steeds meer, hoewel nog veel te weinig) bestraft met ontslag, clawbacks en VoG-beroepsontzegging. Grove onachtzaamheid zou ook in publieke omgevingen zo kunnen worden aangepakt. Alleen de juiste (sic) skin in the game (Taleb) helpt tegen verkeerd gerichte incentives en moral hazard, blijkt onwrikbaar keer op keer. Summa summarum: ook hier zijn ervaringen uit het verleden geen hoop voor de toekomst. 

Als laatste nog een nadeel: door al die ongeleide projectielen als voetgangers, fietsers, en niet te vergeten de vorige keer al genoemde niet-autonoom rijdende auto’s [6], zullen de autonoom rijdende auto’s zelfs bij centrale aansturing defensief gaan rijden, aan de achterste mem hangen qua praktische voorrangverlening op andere, niet-autonoom rijdende auto’s. Dat zal zeker ook gaan spelen bij treintje-rijdende auto’s; die zijn minder flexibel dan enkelvoudige auto’s én nemen veel (omgevings)beslisruimte in – en zullen dus nog voorzichtiger gaan optreden tegen al die bedreigende losse, relatief kleine, projectielen die in de beslisruimte binnen komen zeilen. Overstekende ‘mensen’, lastig hoor!

Het voornaamste bezwaar zit ‘m natuurlijk in het onderbuikgevoel dat we onze vrijheid niet kwijt willen en zeker niet in een achterhaalde utopie van maakbaarheid van de samenleving willen verzanden. De geschiedenis van de mensheid heeft aangetoond dat we daar niets van hoeven te verwachten. Maar wat als we nou eens zouden overschakelen naar het andere uiterste: een anarcho-syndicalistische commune [7]? Een fijnmazig net van overigens zelfstandige maar onderling samenwerkende auto’s dus. Die allerlei informatie over het wegverkeer (van het inherente gevaar van de moderne, laat staan de elektrische, fietser tot en met kleine kinderen en ballen [8] op de weg) niet alleen zelf opdoen, maar ook doorgeven aan andere auto’s in de buurt. Zodat eenieder bijdraagt aan een deel van de omgevingsawareness en van het geheel kan profiteren.

Misschien dat een gemeente toch iets kan bijdragen? Wilt u het totale meetlussysteem dat ook fietsers en wandelaars registreert? Ja, want wij willen Netflixen achter het stuur! Geen prettig idee. En de centrale is natuurlijk even betrouwbaar als eerder in dit artikel beschreven – of minder, want het belang van integriteit lijkt lager voor de gemeente! Bovendien, wat kost het onderhoud van zo’n zéér fijnmazig meetlusnet wel niet? Dus dit is toch niet zo’n briljant idee.

Knooploos netwerk
Een mesh (knooploos netwerk) zonder centrale database kan uiteraard ook. Het hoeft niet direct een speculatie-speeltje als een blockchain te zijn. Dat is in de benodigde communicatie en computatie te zwaar voor de individuele betrokken auto’s, die toch al moeite hadden met het denkwerk voor zelf rijden. Laten we het simpel houden (maar niet simpeler). Wel zal er flink gecommuniceerd moeten worden tussen auto’s. Wat nog wat problemen zal geven, want hoe kunnen we die andere auto’s vertrouwen [9]? Volgende keer zal het gaan om adversarial attacks; nu al: als onze auto een gemanipuleerd beeld oppikt en doorgeeft aan een andere auto, zijn we dan medeaansprakelijk voor de gevolgen? Mensen zullen de teruggekeken beelden toch als ongemanipuleerd zien, toch, dat was nou net de ‘grap’ (quod non)? 

Ook andere verstoring van al die communicatie is denkbaar. En wat als er weinig auto’s op de weg zijn, maar wel andere weggebruikers? Dan is er weinig Vehicle-to-Vehicle (V2V) te babbelen, maar kan het toch druk zijn. Dan heeft de auto relatief veel zelf te zien en te berekenen, maar net met relatief veel te weinig informatie en zal dus des te langzamer gaan rijden. De default zal immers zijn ingesteld op méér informatievergaring voordat tot een moeilijk besluit wordt overgegaan. Met – meestal onwelvoeglijke – reacties van voorbijflitsende fietsers.
Daarnaast kan ik nog wel wat bedenken: mijn auto geeft data door, die andere auto’s collectief aan de kant zet . Want ik wil lekker veel ruimte! Dit werkt zelfs als ik op mijn fiets een transponder zou monteren die een vijftigtonner truck met aanhanger simuleert [10]. Of een bus – als we data gaan zenden, staat het stoplicht voor mij altijd op groen. Het is hier Almelo niet [11].

Voor nooddiensten zou dit overigens weleens een aardige winst kunnen opleveren. Mits er niet te veel ‘overige’ weggebruikers zijn die denken handig gebruik te kunnen maken van de plots geboden ruimte. Lastiger wordt het als allerlei maatschappelijk belangrijke beroepsgroepen ook (enige) voorrang krijgen. Zorgpersoneel, vuilophalers, gemeenteplantsoenendienstmedewerkers etc.; in dat geval komen politici nooit uit de parkeerstand. En zullen dan niet velen out-opt’en met betrekking tot opname in de mesh en weer zelf willen rijden?

Sommigen zouden dan weer willen eisen dat álle fietsers en wandelaars (en de kat van de buren) met een transponder de deur uitgaan. Anders is de ‘dekking’ te laag. Maar, afgezien van een enkeling die zichzelf al hackend boven de regels weet te verheffen om geen last te hebben van wetten voor de ‘hoi polloi’ (de anderen), wie zou de totaal gechipte samenleving willen?

Tussenconclusie:
1. Central(e) control(e) gaat niet lukken;
2. Een mesh van samenwerkende auto’s kán, maar
2a.     is ook (te) kwetsbaar en
2b.     voorziet niet in fietsers, wandelaars, niet-autonoom rijdende auto’s, juist waar het om ging qua operationele risico’s. 

Zo zien we: organisatie van het verkeer volgens Stalin of Bakunin [12], beide zijn niet geheel geschikte modellen voor een artificieel-intellectuele voorhoede van bourgeois-auto’s. 

Qua grand strategy objective ziet de meshed auto er dus wel goed uit, maar gewone strategie is niet die stip aan de horizon maar juist de weg er naar toe en op dat vlak kunnen we maar moeilijk vooruit [13]. Want we zullen hoe dan ook naar één of meer tussenfasen moeten waarin niet iedereen een transponder bij zich draagt. Dieren, kleine kinderen, die moeten dan maar met een chip worden geïmplanteerd? ‘Het is voor hun eigen veiligheid!’, luidt dan het argument. Bovendien is het aantal auto’s – van de huidige generatie – nog uiterst beperkt en zal nog zéér fors moeten groeien om serieus baat te krijgen van eventuele mesh-communicatie.

De overige weggebruikers zullen moeten uitfaseren, dat kost generaties. Als de maatschappij al die kant op wil. Noch ‘het zal wel moeten’ noch ‘maar dat willen de mensen toch’ zijn steekhoudend en beide volstrekt belachelijk, zeker in de tijd. Wat we op middellange termijn kunnen voorzien, is misschien niet eens een verdere auto-mobilisering maar juist een slingerweg van auto’s, naar fiets, bus [14], trein en wellicht eerder vliegende auto’s (ja, eindelijk!). En, met betrekking tot Smart Cities, was het niet de bedoeling auto’s én autonoom rijdende auto’s daaruit te weren zodat we de laatste 10 km naar onze bestemming kunnen wandelen of fietsen, come rain or shine? De bus duurt te lang, dan zit je nog met al die onwelriekende anderen en je komt nog niet eens voor de deur waar je wilt zijn. En taxi’s: dat zijn auto’s/autonoom rijdende auto’s (sic).
Dus eerst maar eens naar zo’n tussenfase, onduidelijk is welke: mixed-mode rechtuit of uit de auto en dat rekening houdende met gewenste onderlinge disjunctie (veilige afstand).
En ja, dit alles dus nog afgezien van de hackability van de auto en adversarial attacks. Dat was eigenlijk onderwerp voor dit deel twee van dit drieluik ‘Auto’s, besturing en reflexen’ bedoeld. Maar logica gaat boven plan, daarom zal de autonoom rijdende auto zelf in het derde deel alsnog aan bod komen. Misschien zal dan wel blijken dat we, zeker op korte en middellange termijn, met artificial intelligence niet kunnen wat we willen en dan moeten we maar willen wat we kunnen. Ook als dat niet zo veel zal blijken te zijn. Dan krijgen we de ‘A’ van AI sowieso wel voor elkaar, en gaan we naar een beter begrip van de benodigde ‘I’ toe. Dat overstijgt het nauwe (?) veld van AI-voor-auto’s maar kan via een shift van denkwijze wel een betere toekomst brengen.

Deel 1 van dit drieluik is gepubliceerd in iB-Magazine 3 2021.

Referenties
[1] Was een paar jaar geleden de status. Wellicht is er al wat uitbreiding, maar willen we fileberichten over drukte op de Jan van Galenstraat als we op Vestdijk vaststaan?
[2] [Disclaimer:] Ik heb geen aandelen in het VCNL. Het is een onderdeel van Rijkswaterstaat, maar voor wie een idee wil krijgen wat zo’n centrale zou kunnen betekenen, bijvoorbeeld voor een ‘Smart City’, zou het PvIB aldaar eens een rondleiding moeten zien te organiseren. 
[3] Wie een eenduidige definitie of beeld heeft van wat dat in zou houden; gelieve u te melden. Bestáát dat wel? Anderzijds wordt in dit artikel wel duidelijk dat er nog veel is uit te zoeken voordat eenduidigheid haalbaar is.
[4] Maar niet tegen Acts of Man. Acts of Nature zijn meestal lokaal of hooguit regionaal; Acts of Man (aanvallen) zullen op het systeem als geheel (nationaal) zijn gericht en dus grootschaliger zijn – en dan gecoördineerd moeten worden opgelost met een grote kans op niet-slagen.
[5] https://www.parool.nl/columns-opinie/de-bureaucratie-is-failliet~b3b8a9a6/, ook op https://app.box.com/s/m1uonzbrjuaj5gezlm7babur69vbpjv3 
[6] https://maverisk.nl/bring-on-the-future-it-belongs-to-me/ wat die gaan doen…
[7] https://www.youtube.com/watch?v=R7qT-C-0ajI [1:20] en verder – maar de hele clip is top.
[8] Het is de vraag of de LIDARs en vergelijkbare sensorsystemen ooit snel genoeg zo kleine objecten kunnen identificeren.
[9] Voor dit en andere vertrouwensaspecten, zie Vehicle-to-Vehicle communicatie; weg van de privacy? iB-Magazine #4, 2020. Zie tevens Hacker Gehackt, iB-Magazine #5, 2020.
[10] Zoiets als https://tweakers.net/geek/163026/handkar-vol-smartphones-veroorzaakt-nepfiles-in-google-maps.html, maar dan veel vaker uitgevoerd.
[11] Herman Finkers: “Het stoplicht staat op rood / het stoplicht staat op groen / ja in Almelo / is altijd wat te doen.”
[12] https://en.wikipedia.org/wiki/Mikhail_Bakunin
[13] https://maverisk.nl/new-category-miss-quotes/
[14] https://newrepublic.com/article/162280/autonomous-vehicles-public-transportation-uber-lyft 

Dit artikel verscheen in IB5-2021, de privacy special.
Voor het opgemaakte artikel (pdf), klik hier onder op 'Document downloaden'.