Deze maand zoek ik het hogerop! Voor het Financieele Dagblad van 16 december beklim ik de ivoren toren van toezichthouders en speur met hen de horizon af op zoek naar de algoritme-waakhond.
Heeft u hem al horen blaffen? De algoritme-waakhond komt eraan. Sterker nog, het wordt nog druk op het hondenuitlaatveld! Terwijl er miljoenen worden vrijgemaakt voor uitbreiding van de Autoriteit Persoonsgegevens (AP) is de ACM is al een proef gestart met onderzoek naar algoritmische toepassingen en kijken toezichthouders als de AFM (financiële markten) en de NZA (zorg) ook vragend in de spiegel of dit niet eigenlijk hun taak zou moeten zijn.
Laat ik vooropstellen dat ik de toezichthouders allemaal hun mandaat, budget en verantwoordelijkheid gun. Als we een ding hebben geleerd bij de invoering van de AVG is dat data en algoritmen zich niet houden aan landsgrenzen, definities van sectoren of wie er formeel verantwoordelijk is. Ook prima dat er in het regeerakkoord melding wordt gemaakt van een algoritmetoezichthouder. Je zou elk ministerie, elke departement zelfs zijn eigen waakhond gunnen en dat brengt mij bij het volgende.
Een waakhond komt meestal te laat. Als-ie al aanslaat is je woonkamer leeggeroofd en je tuinhuisje in de fik gestoken. In plaats van wachten op een bezoek van de algoritme waakhond zouden alle leidinggevenden op puppycursus moeten. Zélf leren over de voor- en nadelen van datagedreven besluitvorming en vooraf discussie voeren over waar de grenzen van het fatsoen liggen.
In mijn werk als boardroom fluisteraar heb ik daar een gereedschapskistje voor in het leven geroepen. Het bleek namelijk dat veel van die gesprekken binnen de kortste keren vastliepen.
- Hoe gaat het bij ons met de digitale transformatie?
- Goed hoor.
- Ok. Houd me op de hoogte.
In de gereedschapskist bevindt zich een reeds vervolgvragen zodat het gesprek als volgt zou kunnen lopen.
- Gebruiken wij eigenlijk data en algoritmen in onze organisatie?
- Jazeker!
- Heb je voor mij een lijstje van welke toepassingen daarbij gebruik maken van klantdata?
- Eh….
- Hoeft niet nu, hoor. We spreken elkaar volgende week weer.
Een week later …
- Dank je wel voor dit overzicht. Ik zie dat we hier gebruiken van supervised learning. Interessant!
- Zeker.
- Welke data is voor de trainingset gebruikt?
- Eh…
- Geeft niet. We spreken elkaar volgende week weer.
Enfin. Zo herhaalt dit proces zich een aantal keren. Steeds een niveautje dieper. Welke data zijn hiervoor gebruikt? Welke data zijn hier niet voor gebruikt? Welke labels zijn gekozen. Welke labels zijn niet gekozen. Wie heeft het labelen uitgevoerd. Is dit uitbesteed? Is Mechanical Turk ingezet. Gaat het hier om synthetische data. Wat wordt vastgelegd qua data-lineage. Wat kan de klant zelf inzien als ze daarom vragen?
Het moet vooral niet voelen als een overhoring, of als een controle van het huiswerk. Het is een poging om dezelfde taal te leren spreken. Alleen op die manier kunnen organisaties echt aan de gang met hun digitale transformatie. Er is nu te veel angst, of koudwatervrees. Innovatieve geesten durven soms niet meer voor te stellen om iets met data of AI op te lossen. Stel je voor dat de waakhond ons op het spoor komt.
We moeten niet bang zijn voor de algoritme waakhond, we moeten klaar voor hem zijn. Zorg ervoor dat bij jullie alles netjes in kaart is gebracht en dat je zaken kunt uitleggen. Het ís mogelijk om op een verantwoorde manier te innoveren met data. Maar alleen als je het aanpakt met multidisciplinaire teams. AI is niet van data scientists, privacy is niet van de chief privacy officer; iedereen moet er over kunnen meepraten. Juist ook de toezichthouders en de leidinggevenden. Kom je toren uit en ga op puppy cursus. De waakhond zal je dankbaar zijn.