Tijdens een keynote voor AI010 liet marketing- en AI-specialist Patrick Petersen zien wat er op het spel staat wanneer organisaties kunstmatige intelligentie inzetten. Aan de hand van herkenbare voorbeelden ging hij in op privacy, verantwoordelijkheid en de rol van mensen bij AI.

In Theater Zuidplein stond de vraag centraal hoe AI mensen kan helpen zonder hun rechten en vertrouwen uit het oog te verliezen. Petersen besprak daarvoor onder meer het SyRI-systeem, waarmee de overheid gegevens gebruikte om mogelijke bijstandsfraude te berekenen. Inwoners wisten volgens de presentatie niet goed hoe hun gegevens werden ingezet en wat de gevolgen konden zijn.

Ook de klantenservicechatbot van een pakketbezorger kwam aan bod. Een Britse muzikant probeerde de chatbot aan de hand van slimme prompts andere antwoorden te laten geven. De bot uitte uiteindelijk stevige kritiek op het eigen bedrijf. De casus maakte duidelijk dat organisaties moeten nadenken over wat hun AI-systemen doen wanneer een gesprek buiten de verwachte route loopt.

Een derde voorbeeld betrof Clearview AI. Het Amerikaanse bedrijf verzamelde miljarden afbeeldingen van sociale media voor een zoekmachine die gezichten kan herkennen. Dat riep grote vragen op over privacy en grondrechten en leidde tot boetes van privacytoezichthouders, waaronder de Nederlandse Autoriteit Persoonsgegevens. De voorbeelden laten zien dat de inzet van AI verder gaat dan de techniek zelf. Organisaties moeten vooraf bepalen welke gegevens ze gebruiken, wie verantwoordelijkheid draagt en hoe mensen uitleg of hulp kunnen krijgen. Dat vraagt om duidelijke afspraken en menselijke controle, juist wanneer een systeem invloed heeft op dienstverlening of belangrijke beslissingen.

Met het thema menswaardige AI verbond Petersen innovatie aan de gevolgen voor mensen. De kern van de keynote: organisaties moeten bij iedere AI-toepassing blijven kijken naar de menselijke maat. Technologie kan processen ondersteunen, maar de keuzes over doelen, grenzen en verantwoordelijkheid blijven mensenwerk.