Er is weinig zicht op wat de eigenaars van de AI-toepassingen doen met ingevoerde data. Vaak worden de data opgeslagen in niet-Europese cloud toepassingen die niet altijd conform de Algemene verordening gegevensbescherming (AVG) zijn. Dit kan problemen oproepen zowel voor persoonsgegevens als nieuwe vindingen in het kader van wetenschappelijk onderzoek. Een invoer van dergelijke data in GenAI tools kan gelijk staan aan openbaarmaking, waardoor een datalek kan ontstaan en/of verhinderd kan worden dat voor die vinding een octrooi ingediend kan worden. Voer dus geen vertrouwelijke informatie, zoals persoonsgegevens of onderzoeksdata in GenAI-applicaties in.

GenAI-applicaties kunnen soms een hulpmiddel zijn, maar van jou wordt te allen tijde een kritische houding verwacht ten opzichte van de output. De daadwerkelijke betekenisgeving vindt plaats door jouw eigen argumentatie, onderbouwing, kritische analyse, creatieve inbreng en reflectie.

Verzoek, indien mogelijk, dat het model van de GenAI tool niet met jouw data getraind wordt. Bij ChatGPT is dit mogelijk via ‘Make a privacy request’. Let op, dit betekent niet dat je privacygevoelig, IP-beschermd of auteursrechtelijk materiaal mag invoeren.

In de output van GenAI tools ontbreekt transparantie over de gebruikte bronnen, waardoor de kans toeneemt dat je plagiaat pleegt. Ook het risico op inbreuken op het auteursrecht is reëel. De databases die deze tools gebruiken bevatten veel bronmateriaal waarbij niet duidelijk is of de auteurs hun toestemming hiervoor hebben verleend of dat auteursrecht werd gerespecteerd. Zorg dus dat je adequaat parafraseert en verwijst (zie Citeren van GenAI in APA-stijl) en gedegen bronnenonderzoek toepast (zie Verifieer GenAI hieronder). Voer zelf ook geen bronmateriaal in als hier geen toestemming voor is gegeven door de auteur of als je hierover twijfelt.

Maak gebruik van GenAI indien toegelaten, maar vertrouw technologie niet blindelings. In de meeste gevallen is het niet mogelijk te achterhalen hoe de algoritmes tot een bepaald resultaat zijn gekomen en er is geen transparantie over gebruikte bronnen. Het doel van GenAI is om teksten te genereren die zo plausibel mogelijk lijken, waarheidsgetrouwheid wordt niet geverifieerd. In sommige gevallen verzint de LLM een antwoord volledig; experts noemen dit ‘hallucineren’. Dit betekent dat er geen enkele garantie is dat de output van GenAI daadwerkelijk correct is. Controleer output goed en zoek naar bestaand bronmateriaal om eventuele beweringen van GenAI te staven. Jij bent verantwoordelijk voor eventuele onjuiste informatie in je werk die afkomstig is van GenAI.

GenAI tools zijn getraind met grote hoeveelheden onbekende data, die mogelijk verouderd zijn of niet langer representatief naar de huidige standaarden. Ontwikkelaars of uitgevers van GenAI geven weinig transparantie over of een GenAI tool inherente vooroordelen bevat en eventuele filtering die wordt toegepast. Bij blindelings gebruik loop je daarom het risico stereotypen of vooroordelen verder te verspreiden.

Wees je ervan bewust dat het effectief gebruiken van GenAI een vaardigheid is. Het stellen van een te simpele vraag kan leiden tot te algemene of vage GenAI output. Maak gebruik van ‘prompt engineering’ om de bruikbaarheid van de output te vergroten. Vermijd suggestieve vragen en impliciete bias en let op dat je de GenAI niet naar een specifieke conclusie leidt.

Weet dat de energiekosten van de servers voor GenAI-tools heel hoog is, het stellen van één vraag staat gelijk aan het opladen van meerdere smartphones, gebruik ze dus alleen wanneer ze meerwaarde kunnen bieden.