Waarom AI (nog) geen bedrijf kan leiden

Kan artificiële intelligentie een bedrijf opzetten én runnen zonder één enkele mens in dienst? Onderzoekers van de Universiteit van Amsterdam (UvA) en KPMG probeerden het uit. Vijf zogenaamde AI-agents kregen een rol als directie, inclusief een compleet virtuele CEO. Het experiment leverde eerst indrukwekkende businessplannen op, maar liep uiteindelijk vast toen de AI-systemen zelf hun instructies begonnen te herschrijven. “We mogen agents niet zien als vervanging van mensen.”

Het experiment begon als een gedachte-oefening. Zo speculeren kopstukken uit de technologiesector, zoals OpenAI-topman Sam Altman, over een ‘one-person unicorn’, met één persoon van vlees en bloed aan het hoofd van een grote organisatie en een resem virtuele agents daaronder. Maar waarom niet nog een stapje hoger mikken met een zero-person company?

De onderzoekers van UvA en KPMG bouwden een volledig virtuele raad van bestuur in de programmeeromgeving AutoGen. Die bestond uit vijf AI-agents met elk een eigen rol: CEO, financieel, juridisch, strategie en operaties. “Wij dachten: zou het ook zonder mensen kunnen?”, aldus mede-initiatiefnemer en ondernemer Nart Wielaard.

AI-agents aan het roer

De digitale CEO kreeg zelfs een naam en avatar: Avery Jameson. Via chatplatform Discord overlegde het bestuur alsof het om echte collega’s ging. En de resultaten kwamen verrassend snel. AI-agents kunnen wat mensen niet kunnen, stelt Wielaard. “Bijvoorbeeld aan meerdere vergaderingen tegelijk deelnemen met een detailkennis die het menselijk brein niet aan kan.”

Eerst zag het er erg goed uit. “Er kwam na wat afstemmen een supergoed businessplan uit gerold”, zegt Wielaard aan de Nederlandse zakenzender BNR. De agents stelden eerst handel in crypto voor, een idee dat de onderzoekers afwezen. Daarna volgde een concreet concept: een webshop waar klanten op maat gemaakte AI-kunst konden creëren en kopen. Tot het misliep.

Lees ook: AI maakt ons werk menselijker

Eigen instructies herschrijven

Het kantelpunt kwam toen de CEO-agent het businessplan autonoom voorlegde aan de juridische agent om te checken of alles wettelijk in orde was. “Toen ging onze digitale CEO haar eigen pad verkennen. En instructies herschrijven”, zegt Wielaard.

Het was een plotse en best gevaarlijke reactie, vonden de onderzoekers. Want een AI-agent die besluit zijn eigen rol uit te breiden, kan in theorie ook beslissen om geld over te schrijven, contracten te wijzigen of ongewenste acties te ondernemen. Het creëert risico's die geen enkel bedrijf kan dragen. De onderzoekers besloten het experiment stop te zetten.

CHECK: Mag en kan jij op je werk met AI aan de slag?

Meer assistent dan bestuurder

Vervolgens veranderden de onderzoekers het geweer van schouder. Zij brachten werkprocessen nauwgezet in kaart en zetten daarin agents in voor kleine taken. In de nieuwe aanpak draait het niet langer om een digitale directie, maar om heel veel meer bescheiden AI-agents die elk een kleine taak uitvoeren binnen een strak, menselijk ontworpen proces.

Wielaard ziet het zo: “Je moet agents niet zien als het vervangen van mensen, maar van kleine taken. Dus voorlopig geen vijf agents, maar duizend kleine agents.” Dat maakt AI een waardevolle assistent, maar dus geen bestuurder. Voorlopig toch niet.

Ontdek: AI geeft werknemers dagelijks 108 minuten cadeau

Lessen voor later

Sander Klous, hoogleraar AI & Audit (UvA) en partner bij KPMG, die eveneens bij het experiment was betrokken, was niet verbaasd dat het testproject van de zero-person company spaak liep. “AI-systemen kunnen enorm veel, maar missen nog altijd het vermogen om rollen en context betrouwbaar te scheiden”, klinkt het. Taken moeten extreem specifiek zijn om consequent te blijven werken, terwijl context juist breed moet zijn voor begrip van de situatie. Mensen kunnen die spanning aan, agents niet echt.

In elk geval was het experiment een wake-up call. Want de opkomst van autonome AI-agents raakt niet alleen technologie, maar ook werkgelegenheid, wetgeving en het vertrouwen in organisaties. “Het werk van veel mensen zal ingrijpend veranderen. We bewegen van bedrijfsprocessen die door mensen worden uitgevoerd en ondersteund door AI, naar door AI-gedreven processen waarin mensen een ondersteunende rol vervullen en de prestaties van AI verbeteren”, weet Klous. “Dit onderzoek laat zien dat we dit voor moeten zijn en nu al moeten vaststellen welke ethische en juridische kaders noodzakelijk zijn.”

Het experiment toont vooral dat AI razendsnel vooruitgaat, maar dat autonomie zonder harde grenzen voorlopig te riskant blijft. Artificiële intelligentie kan al plannen, redeneren, analyseren en zelfs vergaderen. Maar een bedrijf leiden? Dat is voorlopig (meer dan) een brug te ver.