Op donderdag 30 november organiseerden SRCM en VCMB een drukbezochte roundtable over Data, AI en Ethiek voor creditmanagementtoepassingen. De deelnemers aan de roundtable kwamen uit alle verschillende creditmanagement-disciplines en -functies, variërend van bestuurder tot datawetenschapper, wat een levendige discussie opleverde toen Michiel in gesprek ging met de deelnemers.
Waardenspanning
In zijn inleiding besprak Michiel Steltman de functie van waardenspanning om de ethisch/maatschappelijke problematiek rond data en AI vanuit verschillende gezichtspunten te bekijken en gebaseerd op gedeelde maatschappelijke belangen tot oplossingen te komen. Daarbij benoemde hij drie gezichtspunten die in de beoordeling evenredig vertegenwoordigd moeten zijn:
- Economisch perspectief
Snelheid, efficiencyvoordelen, effectiever incasseren, dempen van risico’s en veiligstellen van het verdienvermogen om ook op langere termijn als organisatie te kunnen blijven functioneren; - Individueel perspectief van de burger;
Recht op privacy, recht op verzet, recht op inzage en het veiligstellen van persoonlijke belangen; - Collectief perspectief
Veiligheid, weerbaarheid, zorg- en maatschappelijke kosten.
De uitdaging is om de belangen van die drie verschillende perspectieven met elkaar in evenwicht te brengen. Daarvoor gebruikte Michiel de vergelijking ‘de knikker moet altijd in het midden blijven liggen’. Deze ‘waardenspanning’ benadering levert werkbare oplossingen op voor alle betrokken partijen. Ook als partijen in Publiek/Private samenwerking in beginsel niet naast, maar tegenover elkaar staan.
Ethische normenkaders
Voor de inzet van Data en AI zijn ethische normenkaders nodig die realistisch en werkbaar zijn. Daarbij is het noodzakelijk dat het gevoerde data- en AI-beleid onafhankelijk wordt beoordeeld en er rapportages geleverd worden die voor alle stakeholders – intern, burgers en toezichthouders – toegankelijk en begrijpelijk zijn. Het NOREA Reporting Initiative is als verslaggevingsstandaard voor de verantwoording van IT-beheersing ook voor de rapportages over AI een goed voorbeeld. De rapportages geven in de praktijk handen en voeten aan een ethische benadering van Data en AI.
Risk-based in plaats van Rule-based
De Europese AI-Act is momenteel in de fase om tot wetgeving te komen in de verschillende EU-lidstaten. Waar de AVG en de Autoriteit Persoonsgegevens zich vooral richten op het nakomen van de regelgeving, is in de AI-Act een Risk-based benadering gekozen om de collectieve veiligheid en levenssfeer van de burgers van de lidstaten te managen. De controle op het managen van de risico’s wordt gedelegeerd aan verschillende toezichthouders – in Nederland is nog niet duidelijk aan wie - die toezicht houden langs de rapportageverplichtingen over duurzaamheid en de CSR-verantwoordelijkheden van directies. Die rapportages zullen naar verwachting vergelijkbaar met de huidige rapportages over de financiën en moeten aantonen dat je als directie ‘in control’ bent over het gebruik van Data en AI. Michiel verwacht dat op termijn de financiele- en AI-rapportages met elkaar zullen gaan ‘zwaluwstaarten’ vanuit de idee dat geld en data voor ondernemingen vergelijkbaar waardevol en essentieel zijn of worden.
Op de hoogte blijven over SRCM-certificering en SRCM-activiteiten?
Schrijf je hier in voor onze nieuwsbrief.