Het zal je niet ontgaan zijn dat generatieve AI het afgelopen jaar een enorme sprong heeft gemaakt. Vooral ChatGPT heeft veel aandacht gekregen. Steeds meer (publieke) organisaties onderzoeken hoe ze problemen in de samenleving kunnen oplossen met behulp van dit soort toepassingen. Maar hoe doe je dat verantwoord?
Verschillende vormen generatieve AI
Onder de motorkap van generatieve AI-toepassingen liggen foundation models: modellen die zijn getraind op basis van grote hoeveelheden data. In de kern kunnen dit soort modellen bijvoorbeeld voorspellen wat het eerstvolgende woord in een tekst of de eerstvolgende pixel in een afbeelding moet worden. Deze modellen kunnen vervolgens op verschillende manieren worden toegepast. Zo kan ChatGPT op deze manier tekst genereren.
Wil je generatieve AI binnen je organisatie inzetten? Dan kun je naar twee verschillende vormen kijken:
Een bestaande generatieve AI-toepassing in gebruik nemen
Applicaties als ChatGPT, Bard en Midjourney leveren een kant-en-klare oplossing en zijn makkelijk in gebruik. Je geeft medewerkers een eigen account en zij kunnen direct aan de slag. Het nadeel van dit soort applicaties is dat je niet weet wat er precies achter de schermen gebeurt. Zo biedt OpenAI (de maker van ChatGPT) een gratis abonnement aan, waarbij ze aangeven dat de input en output van gebruikers gebruikt kunnen worden om het onderliggende model verder te trainen.
Een eigen generatieve AI-toepassing bouwen
Door zelf aan de slag te gaan met het doortrainen van een foundation model, is het mogelijk om de regie meer in eigen handen te houden. Zo zijn er publieke organisaties die aan de slag gaan met taalmodellen. Er wordt bijvoorbeeld gebouwd aan GPT-NL. Dit Nederlandse taalmodel wordt bewust ontwikkeld met een focus op EU-waarden rondom betrouwbare AI. Iedereen kan straks zien hoe de achterliggende software werkt en hoe de AI tot conclusies komt. Een model kan ook doorgetraind worden om deze geschikt te maken voor een specifieke sector. Makkelijk is dit niet. Je hebt een (grote) hoeveelheid data nodig en ook moet je mensen in huis hebben die het model kunnen realiseren en onderhouden.
Hoe je als organisatie verantwoord met generatieve AI omgaat
Om verantwoord om te gaan met generatieve AI zul je aan deze punten moeten denken:
1. Bescherming van persoonsgegevens
De Rijksoverheid heeft onlangs een overheidsbrede visie gepubliceerd ten aanzien van generatieve AI. Hierin worden verschillende kansen en bedreigingen van generatieve AI benoemd. De kansen moeten worden benut, maar wel op een veilige en rechtvaardige manier. Een belangrijk aandachtspunt is de bescherming van persoonsgegevens. Dit zien wij als terecht aandachtspunt voor beide van de bovenstaande voorbeelden. Zo kan het gebeuren dat jij persoonsgegevens met de chatbot van ChatGPT deelt en dat deze worden gebruikt om het model van OpenAI verder te trainen. Wij raden daarom aan om geen persoonsgegevens of gevoelige bedrijfsgegevens in te voeren als daar geen duidelijke afspraken over zijn gemaakt met de leverancier.
Binnen een eigen generatieve AI-toepassing ontstaan weer andere vragen op het gebied van persoonsgegevens. Wil je een model trainen met persoonsgegevens? Dan is het de vraag in hoeverre dit in lijn ligt met het oorspronkelijke doel waarvoor de persoonsgegevens zijn verzameld.
2. De context en risico’s beoordelen
In de overheidsbrede visie wordt ook het belang van risicoanalyses benadrukt. Gebruik je generatieve AI in combinatie met persoonsgegevens? Dan kan het nodig zijn om een Data Protection Impact Assessment (DPIA) en een Impact Assessment Mensenrechten en Algoritmes (IAMA) uit te voeren.
Naast dat dit in bepaalde gevallen wettelijk verplicht is, is het ook een effectieve manier om de mogelijke risico’s van generatieve AI binnen je organisatie te verkennen. Zo heb je ook direct inzicht in de randvoorwaarden voor het verantwoord inzetten van generatieve AI.
De DPIA en de IAMA zijn levende documenten die meegroeien naarmate de toepassing zich verder ontwikkelt binnen een organisatie.
3. Kennis en vaardigheden binnen de organisatie
Een ander aandachtspunt is training van de gebruikers binnen de organisatie. Snappen medewerkers waar generatieve AI wel en niet geschikt voor is? Er zitten wezenlijke verschillen tussen informatie opzoeken in een boek en een feitelijke vraag stellen aan ChatGPT. Het gebruik van generatieve AI binnen een organisatie kan zorgen voor veranderingen in bedrijfsprocessen en in hoe mensen tot bepaalde beslissingen komen. Het is van belang om hierbij stil te staan en goed uit te leggen hoe deze technologie werkt.
Wil je hier eens over sparren?
Bovenstaande punten zijn een goed eerste vertrekpunt om te verkennen hoe je generatieve AI op een verantwoorde manier inzet. Wil je hier eens over sparren? Wij denken graag met je mee!