Achter Het Nieuws - GenAI: een nieuwe destructieve technologie of een evolutionaire stap?

Door Artikel IB2-2024 - Fook Hwa Tan, Leo van Koppen 25 jul 2024

In deze rubriek geven enkele IB-redacteuren in een kort stukje hun reactie op recente nieuwsitems over informatiebeveiliging. Dit zijn persoonlijke reacties van de auteurs en deze geven niet noodzakelijkerwijs het officiële standpunt weer van hun werkgever of van PvIB. Vragen en/of opmerkingen kun je sturen naar ibmagazine@pvib.nl.



In een rapport van McKinsey ( juni 2023) werd gesteld dat 75% van de generatieve AIimpact zal worden gerealiseerd in: 1a. Software engineering bedrijfs-IT, 1b. Software engineering productontwikkeling, 2. Cliëntactiviteiten, 3a. Marketing, 3b. Verkopen en 4. Onderzoek & ontwikkeling. Impact ten aanzien van functionele inkoop varieert van 4% tot 39% en de ermee gemoeide bedragen van 320 tot en met 490 miljard US dollar.

Uitgangspunt daarbij was onder andere de aanname dat er bij specifieke toepassingen een revolutie plaatsvindt over de interne kennis managementsystemen en dat ongeveer 20% van de tijd van kenniswerkers ingezet wordt voor het zoeken en verzamelen van informatie. Daarnaast stelt McKinsey een lijst op met zes essentiële overwegingen, waarvan de uitvoering het succes tot stand laat komen, of niet. Deze vragen zijn:
1. Zijn de bedrijfskansen significant beter met GenAI? Tip: samen laten gaan met andere opkomende trends!
2. Bezitten wij genoeg ambitie met GenAI? Tip: hefboomeffect en radicale kostencurve verschuiving nastreven.
3. Waar zit het vermogen in de waardeketen? Tip: differentiatie door eigen databezit.
4. Beschikken wij over voldoende getalenteerde medewerkers?
5. Wat moeten wij doen om bij opschaling uit de dodenvallei te komen? Tip: betreft ontwerpproblematiek met zes dimensies, geef dat aandacht.
6. Wegen wij de risicofactoren op de juiste wijze?

Het voorgaande geplaatst naast de hype die AI meemaakt, en dat iedereen het nu over GenAI heeft, roept de vraag op of GenAI een destructieve technologie is of slechts een volgende evolutiestap. Overwaarderen wij de mogelijkheden van GenAI en overschatten wij de risico’s? Deze vragen leggen wij voor aan de redacteuren.

Fook Hwa Tan - De toekomst heruitgevonden: mens en AI in synergie
Generatieve AI is de katalysator die de toekomst van werk en innovatie hervormt, een kracht die ons uitnodigt om ons potentieel opnieuw te definiëren en te benutten. Het belichaamt niet slechts een evolutionaire stap, maar een transformatie die ons naar nieuwe hoogtes van creativiteit en efficiëntie leidt. Stel je een wereld voor waar kenniswerkers bevrijd zijn van de monotonie van informatieverzameling, waar hun capaciteiten gericht zijn op het creëren en innoveren, het verleggen van grenzen van wat mogelijk is.

Deze technologische vooruitgang vereist echter nieuwe competenties. Het vraagt om een mentaliteit die even dynamisch is als de technologie zelf, waarbij professionals zich voortdurend aanpassen, leren en evolueren. Het gaat om het ontwikkelen van een symbiotische relatie met AI, waarbij menselijke intuïtie gecombineerd wordt met machinale precisie en snelheid, om zo samen ongekende resultaten te bereiken.

In deze nieuwe realiteit is het essentieel om niet alleen technische vaardigheden te ontwikkelen, maar ook de 'soft skills' die ons menselijk maken, zoals creatief denken, empathie, en aanpassingsvermogen, te cultiveren. Dit zijn de kwaliteiten die ons onderscheiden en die, in combinatie met GenAI, de basis vormen voor een toekomst
die rijk is aan innovatie en menselijke vooruitgang.

Laten we daarom deze nieuwe horizon omarmen, onze vaardigheden ontwikkelen en ons voorbereiden op een toekomst waarin we, samen met generatieve AI, onze wereld opnieuw uitvinden en een tijdperk van ongekende mogelijkheden en verwezenlijkingen binnentreden.

Leo van Koppen - Risicogebaseerd GenAI
Ik zou, vrij naar Beatrice te Graaf, graag willen starten met ‘de historie heeft ons geleerd’ dat we moeten oppassen met de adoptie van nieuwe technologie. Ons eigen vakgebied staat bol van de leerpunten, sterker nog komt voort uit het blind toepassen van nieuwe technologieën. Informatiebeveiliging en later cybersecurity huldigen het gedachtegoed van een risicogebaseerde aanpak en ook ik ben een aanhanger geworden van een dergelijke benadering. Niet alleen omdat het nu eenmaal past binnen ons vakgebied, maar ook omdat het vanuit een holistische en ethische zienswijze passend is. Niet alleen maar blind gaan op de voordelen van de nieuwe technologie,
maar ook de andere kant van de medaille durven zien. Wat zijn de mogelijke gevolgen, of beter de risico’s als we hiermee aan de slag gaan?

De hype rondom GenAI waart volop rond en we raken o zo gemakkelijk gebiased door de veelheid aan artikelen over de mogelijkheden (kansen) van GenAI. We zien de risico’s gewoon niet meer. Het onderzoek van McKinsey dat wordt aangehaald ontbeert de benadering van de keerzijde. De kansen worden met name belicht en de risico’s worden achterwege gelaten, het is tekenend voor de bias. Vooralsnog wacht ik op de kritische beschouwingen van één van de goeroes in dit domein, waarmee vervolgens de eerste wetenschapsfilosofen en wellicht vervolgens ook journalisten nadruk gaan leggen op de mogelijk negatieve gevolgen van GenAI. Dat debat is hard nodig om de politiek wakker te schudden en om vervolgens regelgeving (lees regie) in te voeren.

Net zoals bij een goede ontwerpmethode zou ik ook nu graag naast de use case van GenAI ook een abuse case opgesteld willen zien. Wat zijn de mogelijkheden voor de kwaadwillende? ChatGPT lepelt er zo een aantal voor me op zoals: misbruik, desinformatie, auteursrechten, creatief eigendom, veiligheid, privacy, ethiek, etc. De eerste kwesties over schending van auteursrechten zijn inmiddels aangekaart en er gaan er nog velen volgen. Eerst jurisprudentie en dan heel veel later pas wetgeving. De sturing of beter de regie op GenAI zal wederom te lang op zich laten wachten. Wetgeving hobbelt er immers altijd jaren later achteraan. Dat is eigenlijk ook vaak mijn punt. Ik zou graag wat meer regie willen bij dit soort ontwikkelingen en weet ook dat die regie pas (heel/te) laat komt.

Terecht benoemt mijn collega Fook Hwa Tan de symbiose van mens en technologie, zijn we als mens voldoende capabel om op een goede wijze om te gaan met deze technologie? Ik verwacht dat we op dat punt nog wel het nodige leergeld zullen moeten gaan betalen. Het zit nu eenmaal in de mens om het experiment aan te gaan, uit te proberen en te kijken wat het oplevert. Ook al lijkt het er op, – ik ben echt geen pessimist – ik weet dat door schade en schande de mens wijs is geworden. De historie heeft ons dat geleerd, maar we moeten die verworven wijsheid niet zomaar te grabbel gooien.

Dit artikel verscheen in IB2-2024.
Voor het opgemaakte artikel (pdf), klik hier onder op 'Document downloaden'.