Ethische overwegingen
Graag werkt AI in Bedrijf mee aan projecten die ethisch verantwoord zijn, banen creëren en het voor mensen prettiger en fijner maakt om te werken: minder inspannend, gevaarlijk of geestdodend.
AI in Bedrijf zal altijd de ethisch morele afweging maken als het gaat om AI projecten waar direct banen van mensen door worden beïnvloed.
AI in Bedrijf zal verantwoordelijkheid nemen en ethische keuzes maken bij het ontwerp en gebruik van AI systemen, zodat misbruik van AI en bias van algoritmen worden voorkomen.
Ethisch kader
Er zijn diverse bedrijven en organisaties die ethische AI codes en principes hebben ontwikkeld. Een goed overzicht hiervan staat op de website van het Rathenau Instituut.
In adviestrajecten voor klanten wordt door AI in Bedrijf uitgegaan van het ethisch kader dat door de Europese Unie is voorgesteld. Dit kader wordt door veel bedrijven en organisaties gebruikt en vertaald naar de eigen situatie van het bedrijf en/of de branche. Zie ter voorbeeld de afbeelding links.
Er zijn zeven eisen waaraan het ethisch kader dient te voldoen:
- ‘Human agency and oversight’: Voldoende menselijke autonomie;
- ‘Technical robustness and safety’: Technische- en (cyber)security eisen aan de AI applicatie;
- ‘Privacy and data governance’: Reeds bekende AVG;
- ‘Transparency’: Besluitvorming door de AI moet transparant zijn;
- ‘Diversity, non-discrimination and fairness’: Lijkt logisch maar is vaak complex;
- ‘Societal and environmental well-being’: Gevolgen voor de samenleving;
- ‘Accountability’: Interne controles en verantwoording.
EU AI Act
Er is sinds 2019 een voorstel voor een Europese wetgeving op het gebruik van AI en eisen die daaraan gesteld moeten worden. Zie link naar EU (2021)
Het betreft een “voorstel voor een verordening van het Europees parlement en de raad tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de unie”.
In feite is het idee dat de eerder besproken zeven ethische eisen (zie figuur 2) in een wettelijk kader worden gegoten die gaan gelden in elk EU land.
Figuur 2 . Schematische weergave met de onderlinge verhouding van de zeven vereisten: alle vereisten zijn even belangrijk, ondersteunen elkaar en moeten gedurende de levenscyclus van een AI-systeem worden uitgevoerd en geëvalueerd.
De verordening volgt een risico gebaseerde aanpak, waarbij een onderscheid wordt gemaakt tussen AI-toepassingen met een onaanvaardbaar risico (verboden), een hoog risico (sterk gereguleerd), en een laag of minimaal risico met zich meebrengen (ongemoeid).
De lijst van verboden praktijken bevat alle AI-systemen waarvan het gebruik onaanvaardbaar wordt geacht omdat het strijdig is met de waarden van de Unie, bijvoorbeeld vanwege een schending van grondrechten. Ten tweede zijn er toepassingen met een hoog risico, zoals een cv-scanner die sollicitanten rangschikt. deze worden onderworpen aan specifieke wettelijke voorschriften. Ten slotte blijven toepassingen die niet expliciet verboden zijn of als zeer riskant zijn aangemerkt, grotendeels ongereguleerd.
De verwachting is dat deze wetgeving nog lang op zich laat wachten gezien de trage besluitvorming in de EU en de verschil van mening tussen de diverse landen. Gezien echter het gebeurde bij de gemeente Nissewaard, de 2e Kamervragen hierover en reeds bestaande richtlijn op algoritme gebruik van het ministerie van J&V zal de Nederlandse wetgever hier vermoedelijk op vooruit gaan lopen en zeker het gebruik van AI en Algoritmen door overheden en semi-overheden sterk gaan reguleren.