Andrej Karpathy, mijn vader en bijblijven

Voor de kenners behoeft Andrej Karpathy geen introductie, voor de niet-kenners: Karpathy behoort tot de wereldtop in AI. Hij was mede oprichter van OpenAI en hoofd van AI en AutoPilot Vision bij Tesla. Ook is hij een meester in het uitleggen en maakt zelf heel leuke en toegankelijke videos op Youtube met titels als “Let’s build GPT: from scratch, in code, spelled out”. De afgelopen tijd is hij vooral bezig met alles rondom LLMs, en is hij bedenker van de term ‘Vibe coding’, wat staat voor ‘programmeren door alleen te prompten’. Je vertelt een LLM zoals ChatGPT of Claude wat je wil, en de LLM maakt het voor je. Een geweldige methode om voor iedereen, ook niet-programmeurs, om software te maken voor de specifieke dingen die jij wil oplossen. Laagdrempelig, online.

Maar nu de reden waarom ik dit schrijf. Gisteren verscheen onderstaande video, en ik raad je aan om er een half uur voor te nemen. Of misschien 2, want de informatiedichtheid is enorm, en Andrej praat standaard op dubbele snelheid.

Er zijn talloze haakjes om op verder te gaan, zoals het feit dat hij heeft gezegd: I’ve never felt this much behind as a programmer. Ja echt, Karpathy zei dat. Maar hier wil ik een specifiek voorbeeld er uit pakken waar ik zelf gisteren ook tegenaan liep.

Andrej zegt: Software 1.0 = je programmeert de regels, klassiek software schrijven dus. Software 2.0 = je programmeert het algoritme + model, en dankzij AI/Machine Learning leert de software zelf wat het moet doen voor de goede uitkomst. Software 3.0 = de LLM doet het werk voor je: Jij prompt, en de LLM maakt code of voert deze zelfs meteen uit.

MenuGen - van app naar 1 LLM prompt

Andrej noemt het voorbeeld van een menukaart. Als je een menukaart krijgt in een restaurant ken je doorgaans een deel van de gerechten niet. Hij maakte voor dit doel een app, met vibe coding: Upload en foto, en de app maakt er plaatjes bij, en laat dit zien aan je. Handig! Maar bekijk zijn MenuGen site eventjes, en verbaas je over alle integratie perikelen. Database, Stripe Payments, koppelen van APIs. Een heel gedoe, met code alleen ben je er niet, waarover ik al eerder schreef.

Maar sinds kort zijn die LLMs zo vaardig dat je nu een prompt kan geven: “Gemini, kijk naar deze menukaart, en maak met NanoBanana plaatjes van alle gerechten, die je op de menukaart bij de gerechten toont.”. En voila: Je krijgt je resultaat. Hele app: Niet meer nodig.

Mijn eigen MenuGen moment

Mijn vader is veel met duurzaamheid bezig, heeft 10 zonnepanelen, en vroeg me of het de moeite waard zou zijn om een thuisbatterij te nemen. Nou, daar wilde ik wel even induiken. Ik maakte een web app, waar ik uitgaande van zijn verbruik en de door mij gemeten zonnestraling van mijn weerstation een echte simulatie kon maken van de besparing die je kan krijgen met een batterij. Voor verschillende batterijen, terugverdientijd uitgerekend, winst na 10 jaar, grafiekjes per dag als je het wilde nakijken, prachtig werk. Een van de dingen die ik aan hem vroeg was een dump van zijn P1 slimme meter, die hij gelukkig had, zodat ik zijn eigen stroomverbruik per uur exact kon meenemen in mijn simulaties.

Ik deelde een aantal screenshots met hem, en zei er bij: Als je simpel wil beginnen kan je de Zendure SolarFlow 800 Plus nemen, goedkope start, snel terugverdiend. Als je het iets groter wil aanpakken kan je de Voltdeer SR5000 nemen; eigen groep nodig, wat duurder in aanschaf maar levert uiteindelijk meer op.

Maar wat deed mijn vader: Hij gaf dezelfde P1 dump aan Claude, en vroeg Claude gewoon: Maak een analyse van mijn stroomverbruik en reken uit wat een thuisbatterij me oplevert; ik heb 3 kWp aan zonnepanelen, succes. En daarmee maakte Claude een heel rapportje, met conclusies. Het uiteindelijke advies: Neem een Zendure SolarFlow 800 Plus.

En dan kan ik zeggen: Ja maar mijn cijfers waren nauwkeuriger (ik denk ook dat dat klopt). Ja maar ik laat veel meer zien om zekerheid te geven (ik denk ook dat dat zo is). Ja maar.. maar ja… een paar prompts vs een paar uur code maken.. met exact dezelfde conclusie. Terwijl ik zat te debuggen zat mijn vader bij z’n strandhuisje op Texel.

Ik ben al een paar dagen aan het piekeren, wat betekent dit nou precies, en waar zit mijn gevoel van onbehagen.

Als ik naar mijn telefoon kijk zie ik 3 categorieën apps. De grootste groep zijn apps met unieke service of content er achter. Diensten van banken, AH, navigatie, online shops. En content van NRC, NYT, NOS, Netflix. Niet echt vervangbaar. De meestgebruikte groep zijn social apps: Signal, Whatsapp, Bluesky, etc. Lastig vervangbaar, hoewel ik in mijn eigen familie wel zie dat mijn eigen foto deel app Acini veel wordt gebruikt, en er nu meer content wordt gepost dan ooit gebeurde via Whatsapp. Een foto delen is soms fijner dan een chat aangaan. Dus wel een micro succes. De derde categorie: kleinere apps met 1 doel. Apps als Tessie, Justwatch, Vivino bijv.

Apps in die laatste categorie zijn volgens mij wandelende doden. Ze bewerken vooral data die ergens anders vandaan komt, en dat kan een LLM heel erg goed. Mijn data analyse voor mijn vader is er een goed voorbeeld van. Want het is een eitje (voor mij althans) om zelf zo’n analyse in elkaar te knutselen of in plaats daarvan (zoals hij deed) met een paar prompts die hele fase over te slaan. En dat is ook een grote verrijking: Iedereen z’n eigen oplossing, precies zoals ze dat zelf willen. Duizend bloemen.

Maar voor kleine ontwikkelaars of shops is het de dood in de pot. En ook voor veel open source software: Waarom zou ik mijn repo nog delen, of bijdragen aan een bestaand project, als iedereen zelf z’n idee kan waarmaken, dankzij LLMs die gevoed zijn met diezelfde software projecten. So long, and thanks for all the fish. Code is niet meer schaars. De economische verschuiving zit er dus in dat de waarde gaat naar de LLM providers. Mijn vader heeft genoeg aan z’n Claude Pro abonnementje, dus iedere maand twee tientjes naar Anthropic. En ik doe hetzelfde.

Mijn vader sloot onze chat gisteren af met “beetje bijblijven he, met alle mogelijkheden”. Hij bedoelde zichzelf denk ik. Maar het voelde alsof hij het tegen mij had.