De discussie gaat niet meer over chatbots

Veel organisaties kijken nog steeds naar AI als een losse tool. Een chatbot die teksten schrijft, een assistent die documenten samenvat of een toepassing die vragen van klanten beantwoordt. Maar de ontwikkeling gaat inmiddels veel verder. AI-agents kunnen informatie verzamelen, systemen benaderen, software schrijven en zelfstandig acties uitvoeren. Daardoor komt AI steeds dichter op de operationele processen van organisaties te staan.

Dat biedt enorme mogelijkheden. Maar het maakt de gevolgen van een verkeerde inrichting ook groter. Een chatbot die een onjuist antwoord geeft, is vervelend. Een AI-agent die op basis van dat antwoord zelfstandig een systeem bijwerkt, een klant benadert of een proces start, is van een andere orde.

Daarom gaat de belangrijkste discussie niet langer alleen over wat AI kan. De echte vraag is wat AI mag.

Zelfs de koplopers zoeken naar controle

Voor veel organisaties voelt de AI-markt als een voortdurende stroom van nieuwe modellen, tools en beloftes. Sneller, slimmer, goedkoper en vooral krachtiger.

Daardoor ontstaat snel het gevoel dat je voortdurend achterloopt. Alsof je direct met iedere nieuwe ontwikkeling mee moet bewegen om de aansluiting niet te verliezen.

Maar de oproep van Amodei en de reacties daarop laten iets anders zien. Zelfs de bedrijven die vooroplopen, zoeken naar manieren om meer controle te krijgen over de snelheid en gevolgen van hun eigen technologie.

Dat maakt een andere vraag veel relevanter: Moet jouw organisatie proberen iedere nieuwe AI-ontwikkeling bij te houden? Of moet je vooral zorgen dat je grip houdt op de manier waarop AI binnen jouw organisatie wordt ingezet?

Goede voornemens zijn geen veiligheidsarchitectuur

Ik vind het positief dat de grootste AI-bedrijven meer aandacht vragen voor veiligheid, onafhankelijke toetsing en een beheerst ontwikkelingstempo. Maar organisaties kunnen hun veiligheid niet afhankelijk maken van de goede voornemens van diezelfde bedrijven. Leveranciers veranderen, modellen veranderen, gebruiksvoorwaarden veranderen, datalocaties veranderen en commerciële belangen veranderen ook.

Een gedragscode kan morgen worden aangepast. Een technische inrichting bepaalt vandaag al waar data naartoe gaat, welke systemen een AI-agent kan benaderen en welke acties hij zelfstandig mag uitvoeren.

Daarom moet iedere organisatie zelf kunnen bepalen:

• welke data AI mag gebruiken;
• welke systemen een AI-agent mag benaderen;
• welke acties hij wel en niet mag uitvoeren;
• waar gegevens worden verwerkt en opgeslagen;
• welk model voor welke taak wordt ingezet;
• en wanneer menselijke goedkeuring verplicht blijft.

Veiligheid is geen belofte van je leverancier. Het is een eigenschap van je AI-inrichting.

Het standpunt van Vindex

Bij Vindex geloven we dat organisaties hun AI-strategie niet moeten bouwen rond één model of één leverancier.

Modellen veranderen. Het fundament van je organisatie niet.

Daarom moet het fundament bij de organisatie zelf liggen: een gecontroleerde AI-laag waarin data, toegangsrechten, modellen en acties centraal worden beheerd. Zo blijft de organisatie in control, ook als modellen, leveranciers of regelgeving veranderen.

Vandaag kan het ene model het beste zijn. Morgen een ander. Een organisatie moet daarom kunnen wisselen van model zonder opnieuw haar data, processen en veiligheidskeuzes uit handen te geven. Want niemand weet welk model over een jaar het krachtigst is. Welke leverancier dan de beste voorwaarden biedt. Of welke regels dan gelden.

Wat wel vaststaat: data moet van de organisatie blijven. Processen moeten controleerbaar zijn. En een AI-agent mag alleen doen waarvoor hij toestemming heeft.

Dat is geen keuze voor het beste model van vandaag. Dat is kiezen voor een AI-fundament dat ook morgen werkt.

Niet afwachten, wel begrenzen

De waarschuwingen vanuit de AI-sector zijn geen reden om AI buiten de deur te houden. Organisaties die niets doen, krijgen niet automatisch meer controle. Medewerkers gebruiken ondertussen publieke tools en afdelingen schaffen zelfstandig toepassingen aan. Daarmee ontstaat juist het tegenovergestelde.

Maar dit is wel het moment om te stoppen met vrijblijvend experimenteren. Niet eerst een tool kiezen en daarna nadenken over veiligheid. Eerst bepalen waar de grenzen liggen. Daarna pas de technologie toelaten.

• Welke informatie mag een model zien?
• Welke handelingen mag een agent uitvoeren?
• Waar moet een medewerker goedkeuring geven?
• En kun je overstappen wanneer een leverancier, model of gebruiksvoorwaarde verandert?

Ik wil benadrukken dat we hier echt spreken over bestuurlijke keuzes.

Niet harder rennen, beter sturen

De afgelopen jaren draaide het gesprek over AI vooral om grotere modellen, hogere prestaties en nieuwe doorbraken. Terwijl wij bij Vindex altijd al een veel fundamentelere vraag stelden:

Wie houdt de controle?

Niet alleen vandaag, maar vooral met het oog op de komende jaren.