De Autoriteit Persoonsgegevens vraagt zich af hoe organisaties die gebruikmaken van generatieve AI omgaan met persoonsgegevens van kinderen. De privacywaakhond wil dan ook opheldering van een techbedrijf dat deze technologie toepast in een bij kinderen populaire applicatie. Naar eigen zeggen kunnen we de komende tijd meer actie verwachten van de toezichthouder op dit vlak.

Dat zegt de Autoriteit Persoonsgegevens in een verklaring.

AP wil weten hoe transparant chatbot is

Welk technologiebedrijf de toezichthouder aan de tand wil voelen over diens dataverzamelingspraktijken, wil ze niet kwijt. Feit is wel dat de Nederlandse privacywaakhond zich zorgen maakt. Het betreffende bedrijf heeft onlangs een chatbot geïntegreerd in zijn app. Deze applicatie die populair is onder kinderen.

Om deze zorgen weg te nemen, heeft de Autoriteit Persoonsgegevens een brief opgesteld. Daarin vraagt ze onder meer hoe transparant de chatbot van het bedrijf is over de omgang met en verwerking van gebruikersgegevens. Verder heeft de toezichthouder vragen gesteld over de bewaartermijn voor de verzamelde gegevens. Afhankelijk van de antwoorden kijkt de AP of er vervolgstappen nodig zijn.

De Autoriteit Persoonsgegevens constateert dat de ontwikkelingen rondom kunstmatige intelligentie razendsnel gaan. “Dit betekent dat met name generatieve AI-toepassingen steeds breder worden gebruikt. De AP ziet grote risico’s bij het aanbieden van toepassingen zoals AI-chatbots aan kinderen, omdat zij zich onvoldoende bewust zijn van deze risico’s. Het is belangrijk dat zij bijvoorbeeld weten wat er gebeurt met hun chatberichten en of ze praten met een chatbot of met een echt persoon”, aldus de toezichthouder.

Toezichthouder stelt kritische vragen aan OpenAI over ChatGPT

Het is niet de eerste keer dat de Autoriteit Persoonsgegevens in actie komt tegen een bedrijf dat met kunstmatige intelligentie werkt. Afgelopen juni schreef de toezichthouder een brief aan OpenAI, de ontwikkelaar van ChatGPT. Ze vroeg zich onder meer af hoe het taalmodel was getraind: met behulp van informatie die van het internet afkomstig is, of vragen die gebruikers stellen? “Die data kunnen gevoelige en heel persoonlijke informatie bevatten, bijvoorbeeld als iemand advies vraagt over een echtelijke ruzie of over medische zaken”, waarschuwde de AP.

Verder informeerde de toezichthouder hoe de ontwikkelaar persoonsgegevens van het internet verzamelt en gebruikt, de manier waarop ChatGPT antwoorden formuleert, en hoe OpenAI gegevens rectificeert of verwijdert.

AP kondigt meer acties aan

De Autoriteit Persoonsgegevens belooft de komende tijd meer acties te ondernemen tegen bedrijven die met generatieve AI werken. Met deze technologie kan op basis van een opdracht of vraag tekst of beeld worden gegenereerd. Generatieve AI-tools verwerken in praktijk ook vaak persoonsgegevens. Daarbij moeten ontwikkelaars zich uiteraard aan de Europese privacywetgeving houden.

Om techbedrijven hierover te informeren komt de AP binnenkort met een handreiking over scraping voor bedrijven.