Column - Intelligente fraude

AI (Artificial Intelligence) is niet meer weg te denken uit de IT. De rol die het speelt in detectie van de inbreuken van cybersecurity groeit ook. We weten dat AI ingezet wordt om fraude te detecteren. Is AI ook in staat fraudeurs te helpen? Daar moest ik over denken toen ik berichten las over de schaakpartijen tussen Magnus Carlsen en Hans Niemann. Het is al weer vijfentwintig jaar geleden dat een computer (IBM’s Deep Blue) in staat was te winnen van een grootmeester (Gary Kasparov). Daar gaat deze column niet over. Maar sinds die winst is er natuurlijk wel een manier voor schakers om vals te spelen met de hulp van een computer.

Schaken is een gewild onderwerp voor valsspelers. Voor de schaakcomputer was er de schaakrobot, de mechanische Turk [1]. Dit was echter geen robot, het interne mechanisme werd bestuurd door een dwerg die goed kon schaken. In die tijd kon de mens beter schaken dan de machine. Maar zoals gezegd, die tijd is passé.

En in het internettijdperk is het ook ondenkbaar dat je meldingen kunt vertragen, zodat je je eigen werkelijkheid kunt voorspellen omdat jouw verleden nog de toekomst moet worden waar anderen op wachten, zoals de fraude in de film The Sting [2]. En voor wie niet oud genoeg is om de film te kennen: een aanrader met in de hoofdrollen Paul Newman en Robert Redford.

Het is dus geen verrassing dat er in deze tijd gewaakt wordt voor een meeschakende supercomputer die zetten voorzegt. Dit is niet zo makkelijk uit te voeren bij livetoernooien, maar onmogelijk is het ook niet. Kuchen uit het publiek of een op afstand bedienbaar trilplaatje in schoenen zijn manieren die in het verleden gevonden zijn bij het ontmaskeren van fraudeurs. Het is uniek dat een hoogstaande schaakspeler publiekelijk van fraude beschuldigd wordt, zonder te zeggen hoe de fraude uitgevoerd wordt.

Grootmeester Magnus Carlsen beschuldigt nieuwkomer Hans Niemann van fraude op basis van gedrag en resultaat. Hans zou niet geconcentreerd genoeg zijn, niet gespannen genoeg op de moeilijke momenten. En dan komen de AI-analyses voor detectie. Het is onwaarschijnlijk dat een schaaktalent zo snel opkomt. Het is onwaarschijnlijk dat hij de sterke zetten zet die hij zette, zonder de hulp van een schaakcomputer, tenminste. En tja, Hans heeft in het verleden valsgespeeld en zijn mentor waarschijnlijk ook.

Het is lastig. Het heeft een hoog ‘Computer says Fraud’ gehalte. Precies datgene waar we ons tegen willen verzetten wanneer AI gebruikt wordt om een selectie te maken uit een verzameling sollicitanten en we de selectie niet kunnen verklaren. Hebben we het in dit geval over een grootmeester die vergelijkbaar zegt dat Hans niet door de selectie komt? Of is Hans het slachtoffer van een overijverige AI die zijn oppermacht op het schaakbord niet erkent omdat het niet in de leerset zat? Er gaan stemmen op dat het Hans lukt te frauderen omdat hij niet de hele tijd valsspeelt. Daardoor is er geen afwijkend patroon te herkennen. En daar maak ik me vooral zorgen om. Wat als AI nu ingezet kan worden als counterintelligence om genoeg twijfel te zaaien in de resultaten zodat een AI die ingezet is om fraudedetectie intelligence te verzamelen niet genoeg voer te geven. ‘Spy vs. spy’ in cyberstijl.

Als dit mogelijk is, dan is het waarschijnlijk ook mogelijk dit soort counterintelligence in te zetten tegen het detecteren van financiële fraude. En dat terwijl AI juist opkomt als detector van verdachte transacties. Staan we aan het begin van een nieuwe wapenwedloop? AI-driven detectie vs. AI-driven deceptie? Wat als AI gaat bepalen waar de cybercriminelen hun pijlen op moeten richten? Mogelijkheden te over.

Referenties
[1] https://en.wikipedia.org/wiki/Mechanical_Turk
[2] https://www.imdb.com/title/tt0070735/

Lex Borger
security consultant bij Tesorion en oud-hoofdredacteur van iB-Magazine.
Lex is bereikbaar via lex.borger@tesorion.nl

Deze column verscheen in IB6-2022.