Per stelling vindt u een korte uitleg over de voorwaarde. Vervolgens kunt u aangeven hoe belangrijk u deze voorwaarde voor KI vindt.

1 Menselijke controle en menselijk toezicht
2 Technische robuustheid en veiligheid
3 Privacy en datagovernance
4 Transparantie
5 Diversiteit, non-discriminatie en rechtvaardigheid
6 Maatschappelijk en milieuwelzijn
7 Verantwoording

KI-systemen moeten menselijke autonomie en beslissingen ondersteunen, zoals voorgeschreven door het beginsel van respect voor menselijke autonomie. Daarvoor is het nodig dat KI-systemen een democratische, florerende en gelijkwaardige samenleving mogelijk maken door de controle van de gebruiker te ondersteunen en grondrechten te bevorderen, en dat ze de mogelijkheid bieden voor menselijk toezicht.

- Grondrecht: Zoals veel technologieën kunnen KI-systemen grondrechten evenzeer bevorderen als belemmeren.

- Menselijke controle: Gebruikers moeten onderbouwde, autonome beslissingen kunnen nemen ten aanzien van KI-systemen. Ze moeten de kennis en hulpmiddelen ontvangen om KI-systemen te kunnen begrijpen en er in bevredigende mate mee te kunnen omgaan, en ze moeten, indien nodig, in staat worden gesteld het systeem redelijkerwijs zelf te controleren of aan te vechten.

- Menselijk toezicht: Menselijk toezicht helpt om te zorgen dat een KI-systeem de menselijke autonomie niet ondermijnt en geen andere negatieve effecten veroorzaakt.

Voor technische robuustheid moeten KI-systemen worden ontwikkeld met een preventieve benadering van risico's en op dusdanige wijze dat ze zich betrouwbaar en zoals bedoeld gedragen, terwijl onbedoelde en onverwachte schade zo veel mogelijk wordt beperkt en onacceptabele schade wordt voorkomen.

- Weerbaarheid tegen aanvallen en beveiliging: Zoals alle softwaresystemen moeten KI-systemen worden beschermd tegen kwetsbaarheden waardoor ze door kwaadwillenden kunnen worden misbruikt (bijv. gehackt).

- Uitwijkplan en algemene veiligheid: KI-systemen moeten over waarborgen beschikken die in geval van problemen een uitwijkplan in werking stellen. Dat kan betekenen dat KI-systemen wisselen van een statistische naar een op regels gebaseerde procedure of dat ze om een menselijke beheerder vragen voor ze hun werk voortzetten.

- Nauwkeurigheid: Nauwkeurigheid heeft betrekking op het vermogen van een KI-systeem om correcte afwegingen te maken, bijvoorbeeld door informatie in de juiste categorieën in te delen, of op het vermogen ervan om correcte voorspellingen of aanbevelingen te doen of beslissingen te nemen op basis van gegevens of modellen.

- Betrouwbaarheid en reproduceerbaarheid: Het is essentieel dat de resultaten van KI-systemen reproduceerbaar en betrouwbaar zijn. Een betrouwbaar KI-systeem is een systeem dat goed werkt met allerlei soorten input en in allerlei situaties. Dit is nodig om een KI-systeem te controleren en om onbedoelde schade te voorkomen. Reproduceerbaarheid beschrijft of een KI-experiment hetzelfde gedrag vertoont wanneer het onder gelijke omstandigheden wordt herhaald.

Privacy is een grondrecht waarop KI-systemen in het bijzonder van invloed zijn. Voor de preventie van privacyschade is ook geschikte datagovernance noodzakelijk die betrekking heeft op de kwaliteit en integriteit van de gebruikte gegevens, de relevantie ervan binnen het domein waarop de KI-systemen worden geïnstalleerd, de toegangsprotocollen en de capaciteit om gegevens op dusdanige wijze te verwerken dat de privacy wordt beschermd.

- Privacy en gegevensbescherming: KI-systemen moeten privacy en gegevensbescherming garanderen gedurende de volledige levenscyclus van het systeem. Dit omvat de informatie die oorspronkelijk door de gebruiker is aangeleverd, alsook de informatie die in de loop van zijn/haar interactie met het systeem over de gebruiker is gegenereerd.

- Kwaliteit en integriteit van gegevens: De kwaliteit van de gebruikte gegevenssets is cruciaal voor de prestaties van KI-systemen. Wanneer gegevens worden verzameld, kunnen ze sociaal geconstrueerde vertekening, onnauwkeurigheden, fouten en vergissingen bevatten. Deze moeten worden verholpen vóórdat het systeem met een bepaalde gegevensset wordt getraind. Daarnaast moet de integriteit van de gegevens worden gewaarborgd. Als er kwaadwillige gegevens in een KI-systeem worden ingevoerd, kan het gedrag ervan veranderen, met name bij zelflerende systemen.

- Toegang tot gegevens: In iedere organisatie die gegevens van personen verwerkt, moeten gegevensprotocollen worden ingesteld om de toegang tot gegevens te beheren. In deze protocollen moet worden beschreven wie onder welke omstandigheden gegevens kan inzien.

Transparantie omvat de elementen die relevant zijn voor een KI-systeem: de gegevens, het systeem en de bedrijfsmodellen.

- Traceerbaarheid: De gegevenssets en de processen waaruit de beslissing van het KI-systeem voortkomt, met inbegrip van die van de verzameling en indeling van gegevens, alsook de gebruikte algoritmen, moeten zo goed mogelijk worden gedocumenteerd om ze traceerbaar te maken en de transparantie te vergroten.

- Verklaarbaarheid: Verklaarbaarheid heeft te maken met het vermogen om zowel de technische processen van een KI-systeem als de daaraan gerelateerde menselijke beslissingen (bijv. de toepassingsgebieden van een KI-systeem) te verklaren. Voor technische verklaarbaarheid is het nodig dat de door een KI-systeem gemaakte beslissingen door mensen kunnen worden begrepen en getraceerd.

- Communicatie: KI-systemen mogen zich tegenover gebruikers niet als mensen voordoen. Mensen hebben het recht ervan in kennis te worden gesteld dat ze met een KI-systeem te maken hebben. Dat houdt in dat KI-systemen als zodanig herkenbaar moeten zijn.

Om betrouwbare KI te verwezenlijken moeten we inclusie en diversiteit mogelijk maken gedurende de gehele levenscyclus van het KI-systeem. Daarbij moet niet alleen gedurende het hele proces met alle betrokken belanghebbenden rekening worden gehouden, maar moet ook worden gezorgd voor gelijke toegang via inclusieve ontwerpprocessen, alsook voor gelijke behandeling.

- Voorkomen van onrechtvaardige vertekening: In door KI-systemen gebruikte gegevenssets kan sprake zijn van onbedoelde historische vertekening, onvolledigheid of slechte governancemodellen. Als dergelijke vertekening wordt behouden, kunnen er onbedoelde (in)directe vooroordelen en discriminatie tegen bepaalde groepen of mensen ontstaan, waardoor vooroordelen en marginalisering mogelijk worden versterkt.

- Toegankelijk en universeel ontwerp: Met name in domeinen tussen bedrijf en consument moeten bij systemen de gebruikers centraal staan en moeten ze zo worden ontworpen dat mensen KI-producten of -diensten kunnen gebruiken ongeacht hun leeftijd, geslacht, vermogens of eigenschappen.

- Participatie van belanghebbende: Om betrouwbare KI-systemen te ontwikkelen is het raadzaam om belanghebbenden te raadplegen die direct of indirect met het systeem te maken hebben gedurende de levenscyclus ervan.

Duurzaamheid en ecologische verantwoordelijkheid van KI-systemen moeten worden aangemoedigd en onderzoek naar KI-oplossingen die ingaan op mondiale punten van zorg, zoals de duurzameontwikkelingsdoelstellingen, moet worden gestimuleerd. In het ideale scenario wordt KI gebruikt ten voordele van alle mensen, inclusief toekomstige generaties.

- Duurzame en milieuvriendelijke KI: KI-systemen hebben de potentie om een aantal van de meest urgente maatschappelijke zorgen te verhelpen, maar er moet wel worden gezorgd dat dit zo milieuvriendelijk mogelijk gebeurt.

- Sociale gevolgen: Als we op alle terreinen van ons leven aan sociale KI-systemen worden blootgesteld (of het nou gaat om onderwijs, werk, zorg of vermaak), kan onze opvatting van sociale controle veranderen of kan dit gevolgen hebben voor onze sociale relaties en hechting. Hoewel KI-systemen kunnen worden gebruikt om sociale vaardigheden te vergroten, kunnen ze evenzeer bijdragen aan de verslechtering ervan. Dat zou ook gevolgen kunnen hebben voor het fysieke en geestelijke welzijn van mensen.

- Samenleving en democratie: Naast de beoordeling van de gevolgen van de ontwikkeling, de installatie en het gebruik van een KI-systeem voor individuele personen, moeten deze gevolgen ook vanuit maatschappelijk oogpunt worden beoordeeld, waarbij rekening moet worden gehouden met het effect op instellingen, de democratie en de samenleving als geheel.

Op grond van deze vereiste moeten mechanismen worden ingesteld om de verantwoordelijkheid en verantwoording voor KI-systemen en de resultaten daarvan te garanderen, zowel voor als na de toepassing.

- Controleerbaarheid: Controleerbaarheid houdt in dat het mogelijk wordt gemaakt de algoritmen, gegevens en ontwerpprocessen te controleren. Dat betekent niet noodzakelijkerwijs dat informatie over bedrijfsmodellen en intellectuele eigendom in verband met het KI-systeem altijd openbaar beschikbaar moet zijn.

- Minimalisering en verslaglegging van negatieve gevolgen: Het vermogen om verslag te doen van handelingen of beslissingen die bijdragen aan een bepaald resultaat van het systeem, alsook het vermogen om op de gevolgen van een dergelijk resultaat te reageren, moet worden gewaarborgd. De vaststelling, beoordeling, verslaglegging en minimalisering van de potentiële negatieve effecten van KI-systemen is in het bijzonder cruciaal voor degenen die er (in)direct de gevolgen van ondervinden.

- Afwegingen: Bij de uitvoering van de bovenstaande vereisten kunnen er spanningen tussen ontstaan, die tot onvermijdelijke afwegingen kunnen leiden. Dergelijke afwegingen moeten op een rationele en methodologische manier worden benaderd binnen de stand van de technologie. Dat houdt in dat er moet worden vastgesteld welke relevante belangen en waarden door het KI-systeem in het gedrang komen en dat, in geval van een conflict, de afwegingen ertussen uitdrukkelijk moeten worden erkend en geëvalueerd wat betreft het risico voor ethische beginselen, met inbegrip van grondrechten.

- Beroep: Wanneer zich een negatief effect voordoet, moeten er toegankelijke mechanismen bestaan waarmee geschikte mogelijkheden om beroep in te stellen worden gewaarborgd. De wetenschap dat het mogelijk is om beroep in te stellen wanneer er iets verkeerd gaat, is essentieel voor het vertrouwen.

Kunstmatige intelligentie en algoritmes worden in toenemende mate ingezet. Onder andere de Belastingdienst en het UWV maken hier gebruik van. Kunstmatige intelligentie kan gebruikt worden om  kenmerken van gebruikers te voorspellen. Onderstaand vindt u een lijst van een aantal kenmerken. Mag KI in uw optiek de onderstaande kenmerken over een gebruiker bepalen?