Een AI-agent kan geen verantwoordelijkheid dragen. Dat is de kern van wat hij niet kan, en alles wat hieronder volgt is daar een variant van. Hij kan uitstekend werk uitvoeren, maar als het misgaat sta jij bij de rechter, niet de agent. Bouw daarom bij geld, contracten en klantrelaties altijd een menselijk checkpoint in.
Dit stuk is geen anti-AI-verhaal. Renforza plaatst zelf agents als derde kandidaat op de shortlist. Juist daarom willen we de grenzen scherp hebben, want een agent op de verkeerde plek is duurder dan geen agent.
Wie betaalt als de agent iets verzint?
Jij. Twee rechtszaken maken dat pijnlijk concreet.
De eerste is Air Canada. De chatbot van de luchtvaartmaatschappij beloofde een passagier een rouwtarief met terugwerkende kracht, een korting die helemaal niet bestond. Air Canada betoogde dat de chatbot een aparte entiteit was met eigen verantwoordelijkheid. De rechter vond dat argument even creatief als kansloos en het bedrijf moest de verzonnen korting honoreren, meldt Forbes.
De tweede komt uit Duitsland. Het Oberlandesgericht Hamm oordeelde dat een bedrijf direct aansprakelijk is voor uitspraken van zijn chatbot. Geen tussenstap, geen verzachtende omstandigheden: wat je bot zegt, zeg jij.
De les is niet dat chatbots gevaarlijk zijn. De les is dat de juridische werkelijkheid geen onderscheid maakt tussen een medewerker die iets belooft en software die iets belooft. Met één verschil: de medewerker weet meestal wanneer hij iets niet zeker weet. De agent klinkt bij twijfel net zo stellig als bij zekerheid, en dat is precies wat hem riskant maakt in klantcontact.
Wat kan een agent nog meer niet?
Naast verantwoordelijkheid dragen zijn er vier structurele beperkingen.
Uitzonderingen herkennen als uitzondering. Een agent volgt patronen. Een situatie die buiten alle patronen valt, ziet hij niet als alarm maar als gewoon weer een geval, en hij handelt hem af alsof het er een is. Een mens voelt dat er iets vreemds aan de hand is, juist doordat het nergens op lijkt.
Context wegen die niet in de data staat. Dat een klant vorige maand een sterfgeval had, dat een leverancier op omvallen staat, dat een collega vandaag zijn laatste werkdag heeft. Mensen wegen dat automatisch mee. Een agent kent alleen de systemen waarop hij is aangesloten.
Relaties onderhouden. Vertrouwen is opgebouwde geschiedenis tussen mensen. Een agent kan een relatie hooguit administreren, niet dragen. Een veldrapport van Project NANDA bij MIT noemt bovendien dat veel tools onvoldoende van feedback leren. Dat is geen bewijs over menselijke relaties, maar wel een relevante technische beperking.
Stoppen als het echt moet. Een goede medewerker legt zijn werk stil als de opdracht niet klopt, en belt eerst even. Een agent doet wat er staat, ook als “wat er staat” door een fout in het proces onzin is geworden. Vandaar de vuistregel: hoe onomkeerbaarder de handeling, hoe dichter de mens erop moet zitten.
Waar hoort het menselijke checkpoint?
Op drie plekken, zonder uitzondering:
- Geld. Alles wat betaalt, crediteert, kort of tarieven noemt. De agent mag voorbereiden en klaarzetten, een mens drukt op de knop of steekproeft de uitgaande stroom.
- Contracten en toezeggingen. Alles waar een klant rechten aan kan ontlenen. Na Air Canada en het OLG Hamm is elk agent-antwoord aan een klant juridisch jouw antwoord.
- Klantrelaties op het scherpst van de snede. Klachten, escalaties, slecht nieuws. Klarna meldde dat zijn AI-assistent werk verrichtte ter grootte van zo’n zevenhonderd fte. De CEO erkende later dat een te sterke nadruk op kosten de kwaliteit had geraakt en investeerde opnieuw in bereikbare menselijke ondersteuning. Het model bleef AI-first, met mensen voor complexe gevallen.
Merk op wat er niet in dit rijtje staat: facturen sorteren, data overzetten, mails samenvatten, afspraken inplannen. Daar is het checkpoint een periodieke steekproef in plaats van een handtekening per handeling, en daar verdient een agent zijn geld.
Is dit tijdelijk of blijvend?
De uitvoerende beperkingen schuiven op. Agents worden beter in uitzonderingen en context, en wat vandaag niet kan, kan volgend jaar deels wel. Maar de kernbeperking is niet technisch. Verantwoordelijkheid is een juridische en menselijke constructie, en er is geen modelversie die een rechtbank overtuigt dat de software zelf schuld draagt. Reken er dus niet op dat dit checkpoint ooit verdwijnt. Ontwerp je processen zo dat het checkpoint goedkoop is in plaats van afwezig.
Voor werkgevers is dat meteen de nuchtere samenvatting van dit hele stuk: de vraag is niet of je mensen nodig houdt, maar waar precies. Repetitief en regelgebonden werk mag naar de agent, de plekken met geld, handtekeningen en emoties blijven mensenwerk. Hoe je die knip praktisch maakt, bespreken we ook op onze pagina voor werkgevers.
Twijfel je bij een concreet proces waar de knip moet liggen? Dat is precies het soort vraag waarvoor onze agents-intake bedoeld is. We kijken mee, wijzen aan waar het checkpoint hoort, en zeggen het eerlijk als een proces beter volledig bij mensen kan blijven.
