AI boekt straks jouw vakantie. Maar wie is er dan verantwoordelijk?
Stel je voor. Je zegt tegen een AI: “Ik wil volgende maand vijf dagen naar Spanje. Zoek een vlucht, hotel en huurauto. Het mag maximaal € 1.500 kosten. Boek het maar.” Even later krijg je een bevestiging. Vlucht geboekt. Hotel geregeld. Auto gereserveerd. Misschien zelfs al betaald.
Sciencefiction? Niet meer. AI wordt steeds beter in het uitvoeren van taken. Het gaat allang niet meer alleen om het beantwoorden van vragen of het schrijven van teksten. AI kan informatie zoeken, websites bezoeken, gegevens invullen, opties vergelijken en steeds vaker ook handelingen namens jou uitvoeren. Dat is natuurlijk ontzettend handig. Maar er zit een belangrijke keerzijde aan.
Van advies naar actie
Tot voor kort gaf AI vooral advies. Je vroeg bijvoorbeeld: “Wat is een goede vlucht naar Barcelona?” AI gaf je vervolgens een aantal mogelijkheden. De beslissing bleef bij jou. Dat verandert. AI-systemen worden steeds meer zogenaamde AI-agents. Die kunnen niet alleen adviseren, maar ook handelen. Daarmee verandert AI van een assistent in een uitvoerder.
En daar begint het interessant te worden. Want wat gebeurt er als de AI jouw opdracht verkeerd begrijpt? Je zegt: “Boek een hotel in Barcelona.” De AI boekt een hotel in Barcelona, Venezuela. Je zegt: “Maximaal €1.500.” De AI begrijpt dat als €1.500 per persoon. Of je zegt: “Boek maar.” Terwijl je eigenlijk bedoelde: “Laat mij eerst nog even kijken.” Voor een verkeerd geschreven e-mail is dat vervelend. Voor een verkeerd geboekte vakantie kan het honderden of duizenden euro’s kosten. En dan hebben we het nog niet over de juridische gevolgen. Wie heeft eigenlijk de overeenkomst gesloten? Jij? De AI? Het bedrijf achter de AI? Of de reisorganisatie? En wat gebeurt er als de AI een verkeerde keuze maakt? Een menselijke medewerker kan zeggen: “Ik heb die datum verkeerd ingevoerd.” Bij AI ligt dat ingewikkelder. Er kunnen meerdere partijen betrokken zijn: jij als gebruiker, de aanbieder van de AI, de website waarop de boeking wordt gemaakt en de onderneming die de dienst levert.
Ook privacy speelt een grote rol. Om zelfstandig een reis voor jou te kunnen regelen, moet een AI mogelijk beschikken over gegevens zoals je naam, reisdata, voorkeuren, betaalgegevens en misschien zelfs paspoortgegevens. Hoe meer je AI voor je laat doen, hoe meer informatie je aan AI moet geven. Gemak is niet hetzelfde als controle. Dat is misschien wel de belangrijkste les. AI kan enorm veel werk uit handen nemen. Maar als je de controle uit handen geeft, moet je ook nadenken over de grenzen. Bij een reisboeking is dat nog redelijk overzichtelijk. Maar dezelfde ontwikkeling zien we ook op de werkvloer. AI kan straks niet alleen een juridische brief voor je opstellen, maar ook een dossier analyseren, een cliënt mailen, een afspraak plannen en een document versturen.
Dan wordt de vraag steeds belangrijker: Wie controleert de AI?
En misschien nog belangrijker: Wie is verantwoordelijk als de AI een fout maakt?
AI is geen jurist. En ook geen eindverantwoordelijke.
Dat vergeten we nogal eens. AI kan snel werken. Heel snel zelfs. Maar snelheid is geen garantie voor juistheid. Een AI kan overtuigend een antwoord geven dat gewoon niet klopt. En hoe zelfstandiger AI wordt, hoe groter de gevolgen van zo’n fout kunnen zijn. Daarom blijft menselijke controle noodzakelijk. AI kan veel werk van je overnemen. Maar verantwoordelijkheid kun je niet zomaar aan een algoritme uitbesteden.
De toekomst is dus niet: “AI doet alles.”
De toekomst is waarschijnlijk: “AI doet steeds meer. Jij bepaalt wat AI mag doen en controleert of het goed is gegaan.” Dat klinkt misschien minder spectaculair. Maar het is wel een stuk verstandiger.
Vragen?
Heb je vragen naar aanleiding van dit artikel, neem dan contact met ons op.
