Het middel en het lichaam¶

Ik zie AI als een genotsmiddel of een prestatiemiddel, en die vergelijking is niet badinerend bedoeld. Alcohol kent een leeftijdsgrens omdat een brein dat nog groeit er anders op reageert dan een brein dat af is. Anabolen zijn in de sport verboden omdat ze werken. Wat ze opleveren is alleen iets anders dan wat training oplevert. Ze geven het resultaat van de opbouw en slaan de opbouw over.

Bij beide is de doorslaggevende factor wat er onder ligt op het moment dat je het neemt. Het middel doet in beide gevallen hetzelfde. Het lichaam waarin het terechtkomt verschilt, en dat verschil bepaalt of je er sterker of afhankelijker uitkomt.

Hier hoort meteen een eerlijkheid bij. De schade van alcohol op een jong brein is gemeten, in longitudinaal onderzoek, met controlegroepen. Wat ik over AI en een jong brein zeg is vermoed. Ik heb geen cohort dat opgroeide met een taalmodel op zak en dat ik twintig jaar later heb nagemeten, en niemand anders heeft dat ook. De analogie is een manier om scherp te krijgen waar ik naar zou kijken, en ze is geen bewijs dat het zo werkt. Ik probeer dat onderscheid in alles wat ik schrijf overeind te houden, zie Label elke bevinding op bewijsniveau.

Versterking en vervanging zijn dezelfde handeling¶

Daar zit het onderscheid dat ik eigenlijk bedoel, en het is preciezer dan leeftijd.

Wie een vak beheerst en er AI bij pakt, krijgt een hefboom. Hij ziet wanneer het antwoord rammelt, hij weet welke vraag hij moet stellen, en hij herkent wanneer hij wordt voorgelogen. Het werk gaat sneller en zijn oordeel blijft de maat.

Wie precies dezelfde handeling doet zonder die ondergrond, krijgt iets anders terug. Er komt een antwoord uit dat goed genoeg klinkt om mee door te gaan, en er is niets om het tegen af te zetten. Dat is een prothese voor een spier die nooit is gegroeid. Het werkt, en juist daarom groeit die spier ook nooit meer.

Het venijn zit in wat er aan de buitenkant te zien is. De handeling is identiek. De uitvoer is vaak ook identiek, zeker in het begin. Het enige wat verschilt is of er iemand aan de knoppen zit die de uitvoer kan wegen, en dat is precies de eigenschap die je zelf niet kunt beoordelen als je haar mist. Een leek die een goed antwoord krijgt en een leek die een fout antwoord krijgt, ervaren hetzelfde. Deze faalvorm verbergt zichzelf. Daarom kun je er ook niet op vertrouwen dat mensen het vanzelf merken en bijsturen.

Dat is dezelfde as als bij koken en bij het ambacht. Een wasmachine neemt een taak over en er gaat niets verloren wat je node mist, want het boenen van lakens was nooit de vaardigheid waar het om ging. Een middel dat het denken zelf overneemt, neemt de oefening over waaruit dat denken ontstaat. Dat is een ander soort overname, en de vraag welke van de twee je voor je hebt is de enige die er werkelijk toe doet. Zie Een vaardigheid verdwijnt in een generatie en Twintig jaar lang won werkende software van veilige software.

Waarom de volgorde alles bepaalt¶

Vaardigheid ontstaat uit weerstand. Je leert schrijven door vast te lopen in een zin, redeneren door een fout te maken en die zelf te vinden, en een vak door de saaie jaren waarin je nog niets kunt.

Die weerstand levert iets op wat je later niet meer terugziet als aparte kennis. Je bouwt een intern model van hoe fout eruitziet. Je weet hoe een redenering aanvoelt die net iets te glad loopt, omdat je die zelf twintig keer hebt geproduceerd en er twintig keer op bent teruggefloten. Dat model is het instrument waarmee je later de uitvoer van een machine kunt beoordelen. Het ontstaat alleen door het zelf fout te doen.

Een middel dat die weerstand wegneemt voordat ze haar werk heeft gedaan, neemt behalve het ongemak ook de vorming weg. Wie op zijn twaalfde elk opstel laat maken, krijgt betere opstellen en wordt geen betere schrijver. Wie op zijn dertigste hetzelfde doet, is een schrijver die tijd bespaart.

Zelfde handeling, zelfde middel, tegengesteld gevolg. Het enige verschil is wat er al stond.

Daarom denk ik aan een ondergrens, ergens rond de leeftijd waarop iemand een studie of een vak heeft doorlopen. Twintig is geen magisch getal. Leeftijd is een grove benadering van de vraag waar het echt om draait, namelijk of er al iets staat dat versterkt kan worden. Ik zou een precieze toets prefereren boven een leeftijd, en ik weet niet hoe die toets eruit zou zien. Zie ook Doorstane tegenslag vormt mensen sterker dan comfort.

Ik zeg er nadrukkelijk bij dat dit een denkrichting is en geen wetsvoorstel. Wat volgt zijn de drie redenen waarom ik er zelf niet gerust op ben.

De oudste klacht die er is¶

In de Phaedrus laat Plato de Egyptische koning tegen de uitvinder van het schrift zeggen dat het middel vergeetachtigheid zal brengen, omdat mensen zullen vertrouwen op tekens buiten zichzelf in plaats van op wat ze van binnen dragen. Plato schreef dat bezwaar op. De ironie is meteen onderdeel van het argument.

Hetzelfde verwijt is gemaakt tegen de drukpers, tegen de rekenmachine en tegen de zoekmachine. Elke keer bleek het te somber. Ik moet aannemen dat het deze keer ook te somber kan zijn, en ik kan niet bewijzen dat het anders ligt.

Wat me van een makkelijke geruststelling weerhoudt, is dat de klacht ook nooit helemaal onwaar was. De orale geheugencultuur is wel degelijk verdwenen. Mensen die epossen van duizenden regels uit het hoofd konden reciteren zijn er niet meer, en dat is een afgeleide constatering waarvoor ik geen meting heb. Wat er gebeurde was een ruil, en de ruil bleek achteraf de moeite waard. De klacht klopte over het verlies en zat ernaast over de balans.

Als ik dat patroon serieus neem, is de vraag niet of er iets verdwijnt. Er verdwijnt iets. De vraag is wat. Het schrift nam de opslag over en liet het bewerken staan. De rekenmachine nam het uitvoeren van een algoritme over en liet het kiezen van het algoritme staan. In beide gevallen bleef de kern van het redeneren bij de mens liggen. Een taalmodel biedt zich aan voor het bewerken zelf, voor de stap waarin je uit gegevens een gedachte maakt. Of het die stap ook werkelijk overneemt of alleen versnelt, is een open vraag. Ik weet het antwoord niet en ik houd er rekening mee dat ik hier fout zit. Zie Je kunt vergeten dat je je iets herinnerde en Beargumenteer eerst het tegendeel van je eigen bevinding.

Een grens die niemand kan afdwingen¶

Alcohol zit in een fles die iemand moet verkopen. Er is een toonbank, een kassa en een mens die kan weigeren. Dit zit in elk apparaat, gratis, in elke browser en in elke app, en het draait desnoods lokaal op een laptop zonder dat er ooit een server aan te pas komt.

Een leeftijdsgrens die niemand kan afdwingen, blijft een wens. En de enige manier waarop je hem wel zou afdwingen, is erger dan de kwaal: identificatie bij elk model, voor elke gebruiker, elke keer. Dat is precies de infrastructuur waartegen ik in de rest van dit manuscript bezwaar maak. Een leeftijdscontrole is een identiteitscontrole met een vriendelijk gezicht, en zodra die er ligt, ligt hij er ook voor andere doelen. Zie Een resetbare identifier is alsnog een sleutel.

Daarmee valt mijn eigen voorstel in zijn hardste vorm om. Wat overblijft is de bruikbaarder vraag: hoe richt je onderwijs zo in dat de weerstand blijft bestaan terwijl het middel gewoon binnen handbereik ligt. Daar zijn wel aanknopingspunten. Beoordeel het proces in plaats van alleen het product. Laat mensen mondeling verdedigen wat ze inleverden. Zorg dat er momenten zijn waarop het gereedschap er niet is, zoals een sportschool waar de halters echt zwaar zijn. Dat verplaatst de last van een verbod naar het ontwerp van de opleiding, en dat is een last die wel te dragen valt.

De rekening komt bij de verkeerde mensen terecht¶

Voor wie dyslectisch is, voor wie de taal niet als moedertaal spreekt, voor wie thuis geen opgeleide ouders had die de opdracht even konden uitleggen, gaat er met dit middel een deur open. Het neemt een drempel weg die vaak niets te maken heeft met de vaardigheid waar het in het vak om gaat. Spelling is niet hetzelfde als redeneren. Vloeiend Nederlands is niet hetzelfde als scherp denken. Iemand die op de eerste drempel struikelt, kwam bij de tweede nooit aan.

Een ondergrens sluit die deur precies voor de groep die haar het hardst nodig heeft. Dat is een echte kostenpost van mijn eigen standpunt en ik heb er geen oplossing voor.

Het bezwaar wijst wel ergens heen. Als het verschil zit tussen drempels die met de vaardigheid te maken hebben en drempels die dat niet doen, dan is een grens per functie logischer dan een grens per persoon. Spelling laten corrigeren is iets anders dan een argument laten bedenken. Ik zie alleen niet hoe je dat onderscheid handhaaft in een gereedschap dat beide met dezelfde knop doet, en ik wil het niet mooier voorstellen dan het is. Zie Sommige bekwaamheid zit niet in een cursus en Op IT-afdelingen beslist wie het vak nooit beoefende.

Wat ik er zelf mee doe¶

Dit blijft anders een verhaal over anderen. Dit is de regel die ik op mijn eigen werk toepas, en ze is opgeschreven zodat iemand hem kan overnemen of afwijzen.

Ten eerste: het gereedschap meet, het model interpreteert. Een scanner levert een HAR-bestand, een model leest die HAR en stelt een classificatie voor, en de classificatie geldt pas als ze terug te vinden is in de ruwe opname. Een model is in mijn werk nooit de bron van een feit. Zie Netwerkverkeer lezen via HAR-files en Een curve die getekend is door een taalmodel.

# vaste volgorde: gereedschap waarneemt, model stelt voor, ik toets terug
har        = scanner.run(url)            # reproduceerbare waarneming
kandidaten = model.classificeer(har)     # snel, en falibel
bevestigd  = [k for k in kandidaten if k.terug_te_vinden_in(har)]

Ten tweede: ik laat het alleen werk doen dat ik zelf kan controleren. Als ik de uitkomst niet kan toetsen, dan is de tijdwinst schijn en heb ik alleen mijn onwetendheid sneller opgeschreven. Dat is een harde grens die ik in de praktijk regelmatig tegenkom, en meestal betekent het dat ik eerst zelf iets moet uitzoeken voordat ik het uit handen mag geven.

Ten derde: elke bevinding krijgt een label. Gemeten, afgeleid of vermoed. Dat label is geen sier. Het dwingt me om per zin te bepalen waar de bewering vandaan komt, en het is precies de stap die een taalmodel het liefst voor me overslaat, omdat vloeiend proza geen bewijsniveaus nodig heeft om overtuigend te klinken. Zie Mijn werkwijze: van vermoeden naar bevinding.

Wat ik niet uit handen geef is het bepalen van wat ik vind, en de laatste toets voor publicatie. Dat is de spier die ik in stand wil houden. En de winst voelt zelden als vrije tijd, want de ruimte die vrijkomt gaat meteen op aan het volgende, zie AI-tijdwinst verdwijnt in opgewekte vraag, zoals bij snelwegen.

Ik trek de ladder achter me op¶

Dan het punt waar ik mezelf niet omheen kan schrijven.

Ik gebruik dit zelf, intensief, elke dag. Mijn stelling stelt precies de groep vrij waar ik zelf in val: wie de studies en de jaren al achter zich heeft. Dat is de klassieke vorm van de ladder optrekken, en het feit dat ik het oprecht denk maakt het niet minder verdacht. Mensen die profijt hebben van een regel vinden die regel opvallend vaak verstandig.

Twee dingen ter verdediging, en de lezer mag oordelen of ze volstaan. Het criterium gaat over wat er onder iemand ligt, en dat is in principe voor iedereen bereikbaar, alleen later. De ladder blijft dus staan, hij wordt trager. En ik denk dat ikzelf ook zou struikelen als dit weg zou vallen. Makkelijker leven went. Ik ben niet zo naief te denken dat ik immuun ben voor wat ik bij anderen beschrijf, en ik merk zelf dat ik sneller naar het gereedschap grijp dan een jaar geleden.

Er is een uitkomst die me ongelijk zou geven, en ik wil hem hier noemen omdat een stelling zonder die uitkomst geen stelling is. Als een generatie die hiermee opgroeit over tien jaar aantoonbaar beter redeneert, beter toetst en beter herkent wanneer een machine onzin produceert, dan klopt mijn hele redenering niet. Ik heb het dan verward met een verlies wat in werkelijkheid een verplaatsing was, net zoals de koning in de Phaedrus. Dat zou me oprecht opluchten.

Wat mij betreft is dat de eerlijkste versie van dit standpunt. Ik houd het voor waar, ik kan het niet bewijzen, en ik heb er zelf belang bij. Zie Wie ben ik om iets te vinden? Ik draai het om.

Zie ook Een vaardigheid verdwijnt in een generatie, Twintig jaar lang won werkende software van veilige software en We worden bekwamer en de spullen worden slechter.