De paradox

Ik lees vaak enthousiaste verhalen van mensen die met AI apps aan het bouwen zijn. Perfecte workflows, tickets in Linear, zelfstandige agents die programmeren, “in een weekend in elkaar gezet!” En het enthousiasme is ook terecht, de kracht die je als individu nu krijgt is ongelooflijk en de kwaliteit gaat met sprongen vooruit.

Maar dan heb ik ook de vraag: Waar zijn dan al die apps? Als iedereen zo super-productief is, en al die creativiteit ineens los wordt gelaten op de wereld, wat zijn dan die nieuwe hits? Hier zie ik dan 2 elkaar tegensprekende statistieken:

• Het aantal uploads naar de App Store is +24% in 2025, een ongekende stijging sinds de grote golf van 2016. Bron: AppFigures
• Het aantal downloads uit de App Store is -2.7% in 2025: De lange dalende trend zet gewoon door.
• Maar mensen geven wel +21.6% meer uit - het geld gaat naar de apps die goed zijn. Bron: Techcrunch

AI Coding werkt, maar is niet altijd alles

Programmeren met een AI tool, of dat nou via een web-based tool is of met een copilot in Cursor, werkt vaak goed. Sinds een paar maanden zelfs verbijsterend goed. Natuurlijk zijn er nog steeds bizarre blunders en leugens, maar als je het redelijk in toom houdt kan je prima iets in elkaar zetten. Het helpt om hierbij 3 verschillende doelen te onderscheiden voor je app.

Soms heb je van die projecten die net iets te lastig zijn om aan te pakken, voor de beloning die het oplevert. Ik ben de laatste tijd bezig met een grote IT schoonmaak, en daarbij kwam ik een aantal externe harddisks tegen, die ik allemaal naar mijn NAS heb gesynct. Ergens tijdens het scrollen zag ik dat de info langs kwam van mijn oude werkstation sirius, tijdens mijn astro tijd. Toen ik allerlei websites maakte, zoals HTMLHoek, de eerste Ajax site van het internet (samen met Edo Engel van de VU), en natuurlijk Nedstat.

Normaal is het te veel moeite om dat allemaal te gaan uitzoeken. Maar met een AI tool wordt het precies te doen. Claude code opgestart, toegang gegeven tot mijn NAS, en opdracht gegeven om, om te beginnen, eens een website terug te zetten, via Cloudflare Pages.

Gisteren kreeg ik een mailtje van “Sipple Homes Accounting”. Een DocuSign verzoek om een document te reviewen en te tekenen, iets met een aanbetaling. Kende ik niet, had ik niks mee te maken, dus dan weet je meteen al: 100% verdacht. Tot zover niks bijzonders, dit krijg je wekelijks.

Maar toen viel me iets op. Ik ging met m’n muis over de link, en zag dat deze ging naar secure-web.cisco.com. Niet naar een of ander dubieus adres met een .xyz domein, maar naar Cisco. Alle andere links in de mail gingen naar echte DocuSign pagina’s. De afbeeldingen kwamen van het echte DocuSign CDN. Ik twijfelde er nog steeds niet aan dat het phishing was, want wat moet Sipples Home met mij. Maar mijn eerste check is altijd: waar gaat de link heen. En dat werkte hier dus niet. Huh?

Eindelijk eens een praatje waarbij de term ‘AI’ niet viel. Althans niet zo vaak. Een presentatie over klimaatverandering van Ben Wolkon van MUUS Climate Partners, en daarna een interactive sessie geleid door Ellie Johnston. Kern van de boodschap is: Er is niet 1 enkele oplossing die alles zal oplossen, maar alle oplossingen die er nodig zijn bestaan al. Het is een kwestie van implementeren en opschalen. 

De duurzame toekomst

Het verhaal van Wolkon was mij al relatief bekend. Electra zal toe moeten nemen in industrie, vervoer en gebouwen. Het opwekken van die stroom zal groen moeten worden. Daarbij is er synthetische brandstof nodig voor bijvoorbeeld luchtvaart. Daar is trouwens wel een rol voor AI en analytics, om al die systemen te managen en optimaliseren: een slimme thuisbatterij of warmtepomp die de optimale strategie uitvoert. 

Veel software producten, wellicht alle, hebben nu of binnenkort een AI component, of zijn opgebouwd rondom AI. Ik was bij een prima verhaal van een mevrouw van Miro die goed heeft nagedacht over hoe de user experience van AI ontworpen moet worden. “We shape our tools, and thereafter, our tools shape us.” is een bekend citaat dus de design beslissingen van AI zijn belangrijk. Een presentatie vol met ‘5 ways’ achtige lijstjes. Here we go.

Uitdagingen van AI design. 

• Werken met bias. De spreekster ziet dit zowel als een probleem als als een kans. We kunnen de wereld van de AI namelijk zo maken zoals we willen door de trainingsdata goed te kiezen. 
• Veiligheid en privacy. De zorgen om een AI die de wereld overneemt zijn niet gegrond, maar privacy en deep fakes zijn wel een zorg, en psychologisch welbevinden door chatbots die verkeerde of agressieve adviezen geven
• Ontwerp voor kans. Een LLM is niet deterministisch, je kan van te voren niet voorspellen wat er uit gaat komen. 
• Vertrouwen en transparantie. Je ziet iedere dag voorbeelden van ‘hallucinaties’ van taalmodellen die zelf dingen verzinnen. Van belang is om de bronnen te laten zien, en daarmee het vertrouwen te blijven winnen

Dus hoe moet je dan ontwerpen?