Richtsnoeren 02/2021 inzake virtuele spraakassistenten

Richtsnoeren 02/2021 inzake virtuele spraakassistenten

Versie 2.0

Vastgesteld op 7 juli 2021

Translations proofread by EDPB Members. This language version has not yet been proofread.

Versiegeschiedenis

Versie 2.0	7 juli 2021	Vaststelling van de richtsnoeren na openbare raadpleging
Versie 1.0	9 maart 2021	Vaststelling van de richtsnoeren voor openbare raadpleging

SAMENVATTING

Een virtuele spraakassistent ( virtual voice assistant , of VVA) betreft een dienst die spraakgestuurde opdrachten begrijpt en uitvoert, of indien nodig als tussenschakel optreedt naar andere IT-systemen. Tegenwoordig is een VVA als optie beschikbaar op de meeste smartphones, tablets en reguliere computers en sinds enkele jaren zelfs op losse apparaten zoals smartspeakers.

Een VVA functioneert als schakel tussen de gebruiker en zijn apparaat of een online dienst zoals een zoekmachine of een webshop. Vanuit deze functie heeft de VVA toegang tot een enorme hoeveelheid persoonsgegevens, waaronder alle opdrachten van gebruikers (zoals de browser- of zoekgeschiedenis) en alle antwoorden (bijvoorbeeld afspraken in de agenda).

Het overgrote merendeel van VVA-diensten is ontworpen door enkele ontwerpers, maar wanneer de opdracht complex is, werkt de VVA ook samen met door derden (VVA-applicatieontwikkelaars) geprogrammeerde applicaties.

Om goed te kunnen functioneren, moet de VVA beschikken over een eindapparaat dat uitgerust is met een microfoon en luidspreker. De spraakopdrachten en andere gegevens die dat apparaat opslaat, worden bij de huidige VVA's doorgestuurd naar een externe VVA-server.

Zowel de verwerkingsverantwoordelijke die een VVA-dienst levert als de gegevensverwerker dient daarom rekening te houden met zowel de AVG 1 als de e-privacyrichtlijn 2 .

In deze richtsnoeren zijn enkele van de meest relevante nalevingsproblemen geïdentificeerd en worden aanbevelingen gegeven met betrekking tot hoe de hierbij betrokken belanghebbenden die uitdagingen kunnen aanpakken.

De verwerkingsverantwoordelijke die een VVA-dienst levert via een schermloos eindapparaat dient bij het opzetten van de VVA of het installeren of het eerste gebruik van een VVA-applicatie de gebruiker te informeren overeenkomstig de AVG. Wij raden aanbieders/ontwerpers en ontwikkelaars van VVA's daarom aan om spraakgestuurde interfaces te ontwikkelen om de vereiste informatie eenvoudig te kunnen verstrekken.

Momenteel moet bij alle VVA's ten minste één gebruiker zich aanmelden voor de dienst. Overeenkomstig de verplichting van gegevensbescherming door ontwerp en door standaardinstellingen moeten VVA-aanbieders/ontwerpers overwegen of een gebruiker zich voor iedere functionaliteit moet registreren.

Bij de gebruikersaccounts van veel VVA-ontwerpers wordt de VVA-dienst samengevoegd met andere diensten zoals e-mail of videostreaming. Het EDPB is van mening dat de verwerkingsverantwoordelijke van dit soort praktijken moet afzien, omdat de omvangrijke en complexe privacyverklaringen die hierbij komen kijken niet voldoen aan het transparantiebeginsel van de AVG.

Deze richtsnoeren bespreken de vier meest voorkomende doelstellingen waarvoor een VVA persoonsgegevens verwerkt: het uitvoeren van opdrachten, het verbeteren van het machinale

leermodel van de VVA, de biometrische identificatie en het vaststellen van profielen voor gerichte content en reclame.

Voor zover de VVA-gegevens worden verwerkt om opdrachten van de gebruiker uit te voeren, dat wil zeggen wanneer dit strikt noodzakelijk is om een door de gebruiker verzochte dienst te verlenen, geniet de verwerkingsverantwoordelijke vrijstelling van het vereiste van voorafgaande toestemming uit hoofde van artikel 5, lid 3, van de e-privacyrichtlijn. Die toestemming zoals voorgeschreven in artikel 5, lid 3, van de e-privacyrichtlijn is daarentegen wel vereist voor het opslaan van gegevens of het verkrijgen van toegang tot informatie voor andere doeleinden dan het uitvoeren van opdrachten van de gebruiker.

In sommige gevallen bewaart een VVA-dienst de persoonsgegevens net zo lang tot de gebruiker om verwijdering vraagt, wat niet in overeenstemming is met het beginsel van opslagbeperking. Een VVA dient de gegevens niet langer te bewaren dan noodzakelijk is voor de doeleinden waarvoor de persoonsgegevens worden verwerkt.

Indien een verwerkingsverantwoordelijke constateert (bijvoorbeeld aan de hand van kwaliteitsbeoordelingen) dat er onopzettelijk persoonsgegevens worden verzameld, dient hij na te gaan of er voor ieder afzonderlijk doel waarvoor de betreffende gegevens worden verwerkt een geldige rechtsgrond bestaat. Zo niet, dan dienen de onopzettelijk verzamelde gegevens te worden verwijderd.

Een VVA kan de gegevens van meerdere betrokkenen verwerken. Daarom dienen aanbieders/ontwerpers van VVA's toegangscontroles uit te voeren met het oog op de vertrouwelijkheid, integriteit en beschikbaarheid van de persoonsgegevens. Niet alle gebruikelijke toegangscontroles, zoals wachtwoorden, zijn echter geschikt om te worden gebruikt in verband met een VVA, omdat deze hardop uitgesproken zouden moeten worden. Deze richtsnoeren bevatten een aantal overwegingen in dit verband, met bijvoorbeeld een onderdeel over het verwerken van bijzondere categorieën persoonsgegevens voor biometrische identificatie.

De aanbieder/ontwerper van een VVA dient er rekening mee te houden dat het door de gebruiker ingesproken bericht ook stemmen of gegevens van andere personen kan bevatten (bijvoorbeeld achtergrondgeluiden) die niet noodzakelijk zijn voor de dienst. Waar mogelijk moet de VVA-ontwerper daarom technologieën overwegen die de overbodige gegevens filteren en ervoor zorgen dat alleen de stem van de gebruiker wordt opgenomen.

Bij een evaluatie van de behoefte aan een gegevensbeschermingseffectenbeoordeling is het EDPB van mening dat een VVA-dienst hoogstwaarschijnlijk voldoet aan de categorieën en voorwaarden waarvoor een dergelijke beoordeling geacht wordt nodig te zijn.

Een verwerkingsverantwoordelijke die een VVA-dienst verleent, moet ervoor zorgen dat de gebruiker zijn rechten als betrokkene kan uitoefenen door middel van eenvoudig te volgen spraakopdrachten. Aan het einde van het proces dient de aanbieder/ontwerper van de VVA, alsook de applicatieontwikkelaar, aan de gebruiker te melden dat adequaat rekening is gehouden met zijn rechten, ofwel in gesproken vorm ofwel door middel van een schriftelijk bericht dat wordt verzonden naar de mobiele telefoon of het account van de gebruiker, of op een andere door de gebruiker te kiezen wijze.

Inhoudsopgave

...................................................................................................................................... 3

SAMENVATTING

1 ALGEMEEN....................................................................................................................................... 7	1 ALGEMEEN....................................................................................................................................... 7	1 ALGEMEEN....................................................................................................................................... 7
TECHNOLOGISCHE ACHTERGROND................................................................................................. 8	TECHNOLOGISCHE ACHTERGROND................................................................................................. 8	TECHNOLOGISCHE ACHTERGROND................................................................................................. 8
2.1	Basiskenmerken van een virtuele spraakassistent.................................................................. 8
2.2 Actoren	in het VVA-ecosysteem.............................................................................................. 9
2.3 Stapsgewijze	beschrijving...................................................................................................... 10
2.4 Activeringsuitdrukkingen.......................................................................................................	11
2.5 Spraakfragmenten en machinaal leren .................................................................................	12
3 ELEMENTEN MET BETREKKING TOT GEGEVENSBESCHERMING ................................................... 12	3 ELEMENTEN MET BETREKKING TOT GEGEVENSBESCHERMING ................................................... 12	3 ELEMENTEN MET BETREKKING TOT GEGEVENSBESCHERMING ................................................... 12
3.1 Juridisch	kader....................................................................................................................... 12
3.2 Identificatie	van gegevensverwerking en belanghebbenden ............................................... 14
3.2.1	Verwerking van persoonsgegevens............................................................................... 15
3.2.2 Verwerkingen	door een verwerkingsverantwoordelijke of verwerker......................... 16
3.3 Transparantie ........................................................................................................................	18
3.4	3.4	3.4
Beperking	van doeleinden en rechtsgronden....................................................................... 23
3.4.1	Uitvoeren van de opdracht van een gebruiker ............................................................. 24
3.4.2 transcripties handmatig te beoordelen.........................................................................................	De VVA verbeteren door de systemen voor machinaal leren te trainen en de spraak en 25
3.4.3 Vaststellen van de identiteit van de gebruiker (door middel van	spraakgegevens)..... 26
3.4.4	Het profileren van de gebruiker voor gepersonaliseerde inhoud of reclame............... 26
3.5	Verwerken van gegevens van kinderen ................................................................................ 27
3.6 Gegevensbewaring................................................................................................................	28
3.7 Beveiliging	............................................................................................................................. 30
3.8 Verwerken	van bijzondere categorieën persoonsgegevens ................................................. 33
overwegingen bij het verwerken	34
3.8.2 Specifieke	van biometrische gegevens ....................
3.9 Gegevensminimalisering	....................................................................................................... 36
3.10	Verantwoording .................................................................................................................... 36
3.11	Gegevensbescherming door ontwerp en door standaardinstellingen ................................. 37
4 Middelenom rechten van betrokkenen uit te oefenen................................................................ 37	4 Middelenom rechten van betrokkenen uit te oefenen................................................................ 37	4 Middelenom rechten van betrokkenen uit te oefenen................................................................ 37
4.1	Recht van inzage.................................................................................................................... 38
4.2	Recht op rectificatie .............................................................................................................. 39
4.3	Recht op gegevenswissing..................................................................................................... 39
4.4	Recht op overdraagbaarheid van gegevens.......................................................................... 41

5	Bijlage: Automatische spraakherkenning, spraaksynthese en natuurlijke taalverwerking .......... 42
5.1	Automatische spraakherkenning (ASR)................................................................................. 43
5.2	Natuurlijke taalverwerking.................................................................................................... 43
5.3	Spraaksynthese......................................................................................................................

Het Europees Comité voor gegevensbescherming

Gezien artikel 70, lid 1, onder j) en e), van Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (hierna 'AVG' genoemd),

Gezien de EER-overeenkomst en met name bijlage XI en Protocol 37 daarvan, zoals gewijzigd bij Besluit nr. 154/2018 van het Gemengd Comité van de EER van 6 juli 2018 3 ,

Gezien artikel 12 en artikel 22 van zijn reglement van orde,

HEEFT DE VOLGENDE RICHTSNOEREN VASTGESTELD

1 ALGEMEEN

1. Als gevolg van recente technologische ontwikkelingen zijn virtuele spraakassistenten ( virtual voice assistants , of 'VVA's') zeer nauwkeurig geworden, en daarmee ook erg populair. VVA's worden onder andere geïntegreerd in smartphones, verbonden voertuigen, smartspeakers en smart-TV's. Hierdoor heeft de VVA toegang tot informatie van persoonlijke aard die, bij een onzorgvuldige benadering, mogelijk een gevaar vormt voor het recht op gegevensbescherming en privacy van natuurlijke personen. Daarom worden VVA's en de apparaten waarin zij zijn geïntegreerd door verschillende gegevensbeschermingsautoriteiten onder de loep genomen.
2. Spraakgestuurde interactie biedt meerdere voordelen, bijvoorbeeld: een ongedwongen wijze van interactie waarvoor de gebruiker geen specifieke handelingen hoeft te leren, de snelheid waarmee opdrachten worden uitgevoerd en het grotere bereik waardoor informatie sneller beschikbaar is. Tegelijkertijd brengt deze spraakgestuurde interactie echter ook problemen met zich mee in verband met het juist interpreteren van het bericht: variaties in het geluidssignaal tussen verschillende sprekers, de akoestische omgeving, oneenduidig taalgebruik, enz.
3. In de praktijk is de belangrijkste beweegreden om over te stappen naar een VVA nog altijd dat deze functie taken versoepelt of vereenvoudigt. Hierbij kan het bijvoorbeeld gaan om bellen of de telefoon opnemen, of het instellen van een timer, vooral wanneer de gebruiker zijn handen vol heeft. Het automatiseren van huishoudelijke apparaten is de belangrijkste toepassing die door ontwerpers van VVA's wordt aangedragen. Door middel van een VVA zijn taken (licht aanzetten, de verwarming regelen, rolluiken sluiten, enz.) eenvoudiger uit te voeren en kunnen deze worden gecentraliseerd in één gemakkelijk en op afstand te bedienen instrument, waardoor een VVA een rol vervult als tussenschakel in huis. Naast persoonlijk of huishoudelijk gebruik kunnen spraakopdrachten ook van belang zijn in een professionele omgeving waarin het moeilijk is om computerinstrumenten en schriftelijke commando's te gebruiken (bijvoorbeeld de industriële sector).

3 Waar in dit document wordt verwezen naar een 'lidstaat', wordt daarmee bedoeld een 'lidstaat van de EER'.

4. In theorie is een spraakgestuurde interface voornamelijk nuttig voor personen met een beperking of afhankelijkheid voor wie het gebruik van reguliere interfacevormen problemen oplevert. Een virtuele spraakassistent kan de toegang tot informatie en computerhulpmiddelen vergemakkelijken en zo een inclusieve logica bevorderen, aangezien het gebruik van de stem het mogelijk maakt om problemen in verband met het geschreven woord, die bij bepaalde categorieën gebruikers kunnen voorkomen, op te lossen.
5. Ten slotte bestaan in de gezondheidszorg ook veelvuldige toepassingen voor gesprekspartners, al dan niet spraakgestuurd. Tijdens de COVID-19-pandemie zijn bijvoorbeeld verschillende 'callbots' (telefonische robots) ingezet om gebruikers via de telefoon een voorlopige diagnose te geven. Op de lange termijn is in sommige kringen de verwachting dat het gehele traject van patiëntenzorg mogelijk zal worden beïnvloed door interactie tussen mens en assistent: niet alleen met het oog op welzijn en preventie, maar ook voor behandeling en ondersteuning.
6. Momenteel zijn er meer dan drie miljard smartphones in gebruik die over een geïntegreerde VVA beschikken. De meerderheid hiervan is standaard ingeschakeld. Sommige van de meest gebruikte besturingssystemen voor pc's en laptops hebben ook een geïntegreerde VVA. Met de recente opmars van smartspeakers (waarvan er in 2019 147 miljoen zijn verkocht 4 ) maakt de VVA nu zijn entree in miljoenen huizen en kantoren. De huidige VVA-ontwerpen bieden echter geen verificatie- of toegangscontroles als standaardinstelling.
7. Dit document is bedoeld als leidraad voor de toepassing van de AVG in de context van VVA's.

2 TECHNOLOGISCHE ACHTERGROND

2.1 Basiskenmerken van een virtuele spraakassistent

8. Onder een VVA wordt verstaan: een softwaretoepassing die mogelijkheden biedt voor een mondelinge dialoog met een gebruiker in natuurlijke taal.
9. Bij natuurlijke taalgebruik wordt de semantiek gehanteerd die kenmerkend is voor menselijk taalgebruik. Afhankelijk van de kenmerken van de taal en de diversiteit van de woordenschat kan een bepaalde opdracht op meerdere manieren worden geformuleerd; terwijl sommige opdrachten mogelijk op elkaar lijken maar verschillende bedoelingen kunnen hebben. Daarbij wordt vaak een inferentiemechanisme gebruikt om dergelijke onduidelijkheden te overkomen, bijvoorbeeld op basis van eerdere spraakopdrachten, waar en wanneer de opdracht wordt gegeven, de interesses van de gebruiker, enz.
10. Een VVA bestaat uit verschillende modules die de mogelijkheid bieden om verschillende taken uit te voeren: opname en weergave van geluid, automatische spraakomzetting (spraak-naartekst), automatische taalverwerking, dialoogstrategieën, toegang tot ontologieën (datasets en gestructureerde begrippen die betrekking hebben op een specifiek domein) en externe informatiebronnen, taalgeneratie, spraaksynthese (tekst-naar-spraak), enz. Meer specifiek dient de assistent de mogelijkheid te bieden voor interactie om handelingen uit te voeren (bijvoorbeeld: 'zet de radio aan', 'doe het licht uit') of toegang te krijgen tot kennis (bijvoorbeeld: 'wat is de weersverwachting voor morgen?', 'rijdt de trein van 7.43 uur?').

Hierbij speelt de assistent de rol van tussenpersoon en regisseur om de opdrachten van de gebruiker uit te kunnen voeren.

11. In de praktijk is een VVA niet een smartspeaker; een smartspeaker kan echter wel voorzien zijn van een spraakassistent. Hoewel de twee begrippen vaak door elkaar worden gebruikt, is de laatste slechts een fysieke belichaming van de eerste. Een VVA kan worden gebruikt op een smartphone, of in een smartspeaker, een smartwatch, een voertuig, een huishoudelijk apparaat, enz.
12. De organisatie van onderliggende gegevensverwerking kan meerdere informatiestroompatronen omvatten. Hierbij kunnen drie voornaamste elementen worden onderscheiden:

Het fysieke element: de hardware waarin de assistent gehuisd is (smartphone, speaker, smartTV, enz.) en die is uitgerust met microfoons, luidsprekers en netwerk- en computerapparatuur (in meer of mindere mate ontwikkeld, afhankelijk van het apparaat).

Het software-element: het element dat uitvoering geeft aan de interactie tussen mens en machine in strikte zin, met geïntegreerde modules voor automatische spraakherkenning, natuurlijke-taalverwerking, dialoog en spraaksynthese. Hoewel deze software rechtstreeks binnen de fysieke apparatuur kan worden aangestuurd, gebeurt dit veelal op afstand.

De bronnen: externe gegevens, zoals databanken met content, ontologieën of zakelijke applicaties waaruit informatie wordt aangeleverd (bijvoorbeeld: 'Hoe laat is het aan de westkust van de Verenigde Staten?', 'Bekijk mijn e-mails') of die dienen om de gevraagde handeling concreet uit te voeren (bijvoorbeeld: 'Zet de thermostaat 1,5°graden hoger').

13. De basisfunctionaliteiten van de VVA kunnen worden uitgebreid door componenten en applicaties van derden te installeren. Hoewel deze componenten bij iedere VVA anders worden genoemd, betreft het telkens een uitwisseling van persoonsgegevens van de gebruiker tussen de ontwerper van de VVA en de ontwikkelaar van de applicatie.
14. Hoewel het spraakfragment meestal niet door de VVA met de appontwikkelaar wordt gedeeld, verwerken deze actoren toch persoonsgegevens. Afhankelijk van de aard van de aangeboden functionaliteit, worden bovendien intenties en informatievariabelen ('slots') aan de appontwikkelaar ter beschikking gesteld die mogelijk gevoelige informatie bevatten, zoals medische gegevens.

2.2 Actoren in het VVA-ecosysteem

15. Bij de uitvoeringsketen van een VVA kan een groot aantal actoren en tussenschakels betrokken zijn. In de praktijk kunnen tot vijf verschillende actoren worden geïdentificeerd. Afhankelijk van het bedrijfsmodel en de gekozen technologie, vervullen deze actoren soms meerdere combinaties van rollen, zoals ontwerp en integratie of ontwerp en applicatieontwikkeling:

• a. VVA-aanbieder (of -ontwerper): is verantwoordelijk voor het ontwikkelen van de VVA, ontwerpt en bepaalt de mogelijkheden en de functionaliteiten die standaard ingesteld zijn: activeringsmodaliteiten, soort architectuur, toegang tot gegevens, archiefbeheer, hardwarespecificaties, enz.

• b. VVA-applicatieontwikkelaar: maakt (net als bij mobiele applicaties) de applicaties die tot de standaardfunctionaliteiten van de VVA behoren, binnen het door de ontwerper vastgestelde ontwikkelingskader.

• c. Integrator: creëert verbonden producten en wil deze van een VVA voorzien, binnen het door de ontwerper vastgestelde kader.

• d. Eigenaar: verantwoordelijk voor fysieke ontvangstruimten waarin personen worden ontvangen (accommodaties, werkomgevingen, huurauto's, enz.) aan wie hij/zij een VVA ter beschikking wenst te stellen (eventueel met specifieke applicaties).

• e. Gebruiker: de laatste schakel in de VVA-waardeketen, die op verschillende apparaten van de VVA gebruik kan maken (speaker, televisie, smartphone, horloge, enz.), afhankelijk van hoe en waar de VVA wordt ingezet en ingesteld.

2.3 Stapsgewijze beschrijving

16. Om een handeling uit te voeren of informatie te ontsluiten, moet de VVA een reeks opeenvolgende taken doorlopen:

• 1. De VVA staat in standby-modus op het betreffende apparaat (smartphone, luidspreker, voertuig). Dit betekent dat de VVA continu aan het luisteren is. Zolang een specifieke activeringsuitdrukking niet wordt herkend, zendt het spraakgestuurde apparaat echter geen geluidssignalen uit, en worden er naast herkenning van de activeringsuitdrukking geen verdere handelingen uitgevoerd. Hiertoe gebruikt de VVA een buffer van enkele seconden (zie het volgende onderdeel voor een nadere toelichting).
• 2. Als de gebruiker de activeringsuitdrukking uitspreekt, vergelijkt de VVA de geluiden lokaal met de activeringsuitdrukking. Indien deze overeenkomen, opent de VVA een luisterkanaal en wordt de audio-inhoud onmiddellijk verstuurd.
• 3. Indien opdrachten op afstand worden verwerkt, worden de uitgesproken zoektermen veelal aan de serverkant nogmaals gecontroleerd om onbedoelde activering te voorkomen.
• 4. De door de gebruiker uitgesproken opdracht wordt rechtstreeks naar de VVA-aanbieder verzonden, waarna er automatische transcriptie plaatsvindt van de gesproken reeks (spraak-naar-tekst).
• 5. Aan de hand van technologieën voor natuurlijke taalverwerking wordt de opdracht geïnterpreteerd. De bedoeling van het bericht wordt afgeleid en er worden informatievariabelen ('slots') herkend. Vervolgens wordt met behulp van een dialoogmanager bepaald welk interactiescenario gehanteerd wordt voor de gebruiker, op basis van een passend reactieschema.
• 6. Als de opdracht betrekking heeft op een functionaliteit die wordt geleverd door een applicatie van derden (vaardigheid, actie, snelkoppeling, enz.), stuurt de VVA-aanbieder de bedoelingen en informatievariabelen (slots) van het bericht naar de ontwikkelaar van de applicatie.
• 7. Vervolgens wordt een aangepaste reactie op het verzoek van de gebruiker vastgesteld. Het antwoord 'Ik heb geen antwoord op de vraag' is hierbij de aangepaste reactie indien de VVA niet in staat is om het verzoek juist te interpreteren. Waar nodig worden bronnen op afstand geraadpleegd: openbaar toegankelijke kennisbanken (online encyclopedieën, enz.) of kennisbanken die toegankelijk zijn op basis van verificatie (bankrekening,

muziekapplicatie, klantenaccount voor webshop, enz.), en worden de informatievariabelen (slots) aangevuld met de opgevraagde informatie.

• 8. Er wordt een antwoordzin vastgesteld en/of een handeling geselecteerd (de zonwering neerlaten, de thermostaat hoger zetten, een liedje afspelen, een vraag beantwoorden, enz.). De zin wordt gesynthetiseerd (tekst-naar-spraak) en/of de te verrichten handeling wordt naar het betreffende apparaat verzonden.
• 9. De VVA keert weer terug naar de standby-modus.

Hierbij dient te worden opgemerkt dat, hoewel de meeste spraakgestuurde verwerkingen momenteel plaatsvinden op externe servers, sommige VVA-aanbieders bezig zijn met het ontwikkelen van systemen die een deel van de verwerking lokaal zouden kunnen uitvoeren 5 .

2.4 Activeringsuitdrukkingen

17. Om een VVA te kunnen gebruiken, dient deze eerst 'actief' te zijn. Dit houdt in dat de assistent overschakelt naar een actieve luistermodus om opdrachten en instructies van de gebruiker te ontvangen. Hoewel deze activering soms ook kan worden bewerkstelligd door middel van een fysieke handeling (bijvoorbeeld door een knop in te drukken, op de smartspeaker te drukken, enz.), zijn bijna alle VVA's op de markt gebaseerd op het herkennen van een activeringsuitdrukking of -woord om de actieve luistermodus aan te zetten (ook wel het activeringswoord of 'hotword' genoemd).
18. Hiertoe gebruikt de assistent de microfoon en beperkte rekenkracht om vast te stellen of het sleutelwoord is gezegd. Deze analyse - die continu plaatsvindt zodra de VVA wordt aangezet -vindt uitsluitend lokaal plaats. Pas als het sleutelwoord is herkend, worden de geluidsopnamen verwerkt om de opdracht te interpreteren en uit te voeren, veelal door deze via internet naar externe servers te verzenden. Om het sleutelwoord te herkennen, wordt machinaal leren toegepast. De voornaamste uitdaging bij het gebruik van dergelijke methoden is dat herkenning op basis van probabiliteit plaatsvindt: het systeem geeft voor elk uitgesproken woord of uitdrukking een betrouwbaarheidsscore aan de hand waarvan wordt bepaald of het sleutelwoord daadwerkelijk is uitgesproken. Bij een score die hoger uitvalt dan een vooraf vastgestelde grenswaarde gaat het systeem ervan uit dat dit het geval is. Een dergelijk systeem werkt niet altijd feilloos: soms wordt de activering ondanks het sleutelwoord niet herkend (onterecht negatief), terwijl activering soms wel wordt herkend, ook al heeft de gebruiker het sleutelwoord niet uitgesproken (onterecht positief).
19. In de praktijk wordt de grenswaarde bepaald op basis van een werkbaar compromis tussen deze twee fouten. Omdat door het foutief herkennen van het sleutelwoord er mogelijk een geluidsopname wordt verzonden, houdt dit een wezenlijke kans in dat er onverwachts en onbedoeld gegevens worden verzonden. VVA-aanbieders die werken op basis van verwerking op afstand hanteren veelal een tweestapsverificatie voor deze herkenning: een eerste stap die lokaal is ingebouwd op het niveau van het apparaat, en een tweede stap op de externe server waar de volgende verwerking van gegevens plaatsvindt. In dit geval stelt de ontwikkelaar meestal een relatief lage grenswaarde in om te zorgen voor een betere gebruikerservaring waarbij, als de gebruiker het sleutelwoord zegt, dit bijna altijd wordt herkend - zelfs als dit

leidt tot 'overherkenning' - en implementeert hij vervolgens een tweede restrictievere herkenningsstap aan de serverzijde.

2.5 Spraakfragmenten en machinaal leren

20. Een VVA gebruikt machinaal leren om een breed scala aan taken uit te voeren (sleutelwoordherkenning, automatische spraakherkenning, natuurlijke taalverwerking, spraaksynthese, enz.). Hiervoor dienen grote datasets te worden verzameld, geselecteerd, benoemd, enz.
21. Als bepaalde statistische kenmerken over- dan wel ondervertegenwoordigd zijn, heeft dit mogelijk invloed op de ontwikkeling van taken die berusten op machinaal leren, wat vervolgens tot uiting komt in de berekeningen en daarmee het functioneren. Naast kwantiteit speelt daarom de kwaliteit van de gegevens ook een belangrijke rol in het verfijnen en de nauwkeurigheid van het leerproces.
22. Om de kwaliteit van de VVA en de methoden die worden gebruikt voor het machinaal leren te optimaliseren, zouden VVA-ontwerpers wellicht toegang willen hebben tot gegevens over het gebruik van het apparaat in de werkelijke praktijk (d.w.z. spraakfragmenten).
23. Of het nu gaat om het kwalificeren van de informatiebank voor het leren of het corrigeren van fouten die zijn gemaakt bij het opzetten van het algoritme: bij het leren en trainen van kunstmatige-intelligentiesystemen is menselijke tussenkomst noodzakelijk. Dit aspect van het werk -soms ook wel 'digitale arbeid' genoemd -roept vragen op, zowel over werkomstandigheden als over veiligheid. Nieuwsmedia hebben in dit verband ook bericht over de uitwisseling van gegevens tussen VVA-ontwerpers en onderaannemers die naar verluidt plaatsvindt zonder de vereiste garanties voor privacybescherming.

3 ELEMENTEN MET BETREKKING TOT GEGEVENSBESCHERMING

3.1 Juridisch kader

24. Het betreffende kader van EU-wetgeving voor VVA's wordt in de eerste plaats gevormd door de AVG, aangezien het verwerken van persoonsgegevens tot de kernfuncties van een VVA behoort. Naast de AVG stelt de e-privacyrichtlijn 6 een specifieke norm vast voor alle actoren die in de eindapparatuur van een abonnee of gebruiker in de EER opgeslagen informatie willen opslaan of hiertoe toegang wensen te krijgen.
25. Conform de definitie van 'eindapparatuur' 7 zijn voorbeelden van eindapparatuur onder andere smartphones, smart-TV's en soortgelijke internet-der-dingen-apparaten. Zelfs indien een VVA op zichzelf uit een softwaredienst bestaat, werkt deze altijd via een fysiek apparaat zoals een smartspeaker of een smart-TV. Een VVA maakt gebruik van elektronische

• communicatienetwerken om toegang te krijgen tot deze fysieke apparaten die 'eindapparatuur' vormen in de zin van de e-privacyrichtlijn. Dit betekent dat het bepaalde in artikel 5, lid 3, van de e-privacyrichtlijn van toepassing is telkens wanneer een VVA informatie op het betreffende fysieke apparaat opslaat of hiertoe toegang krijgt . 8

26. Alle verwerkingen van persoonsgegevens na de bovengenoemde verwerkingen, met inbegrip van de verwerking van persoonsgegevens die zijn verkregen door toegang tot informatie in de eindapparatuur, moeten ook een rechtsgrondslag hebben op grond van artikel 6 van de AVG om rechtmatig te zijn. 9
27. Aangezien de verwerkingsverantwoordelijke, wanneer hij toestemming vraagt voor het opslaan van of het verkrijgen van toegang tot informatie overeenkomstig artikel 5, lid 3, van de e-privacyrichtlijn, de betrokkene moet inlichten over alle doeleinden van de verwerking (d.w.z. de 'verdere verwerking') - met inbegrip van elke verwerking na de bovengenoemde handelingen - zal toestemming uit hoofde van artikel 6 van de AVG in het algemeen de meest geschikte rechtsgrondslag zijn om de verdere verwerking van de persoonsgegevens te dekken. Daarom zal toestemming waarschijnlijk de rechtsgrond vormen voor zowel het opslaan van en het verkrijgen van toegang tot reeds opgeslagen informatie, als voor het verwerken van persoonsgegevens na de hiervoor bedoelde verwerkingen. Bij de beoordeling van de naleving van artikel 6 van de AVG moet er namelijk rekening mee worden gehouden dat de verwerking in haar geheel specifieke activiteiten omvat waarvoor de EU-wetgever extra bescherming heeft willen bieden. 10 De verwerkingsverantwoordelijke dient bovendien bij het bepalen van een passende rechtsgrond rekening te houden met de gevolgen voor de rechten van de betrokkene om recht te doen aan het eerlijkheidsbeginsel. 11 Uiteindelijk kan de verwerkingsverantwoordelijke zich niet beroepen op artikel 6 van de AVG om de nadere bescherming ingevolge artikel 5, lid 3, van de e-privacyrichtlijn te beperken.
28. Zoals beschreven in punt 2.3 (stappen 2 en 3) hebben de nu beschikbare VVA's toegang nodig tot de in het VVA-apparaat opgeslagen spraakgegevens. 12 Daarom is artikel 5, lid 3, van de eprivacyrichtlijn van toepassing. De toepassing van artikel 5, lid 3, van de e-privacyrichtlijn houdt in dat zowel voor het opslaan van informatie als voor het verkrijgen van toegang tot reeds in het VVA-apparaat opgeslagen informatie in de regel toestemming van de eindgebruiker benodigd is 13 ; hierop bestaan echter twee uitzonderingen: ten eerste, bij het uitvoeren of faciliteren van de verzending van een bericht via een netwerk voor elektronische communicatie, en ten tweede, waar dit strikt noodzakelijk is om een dienst van de

10 Advies 5/2019, punt 41.

9 Ibid., punt 41.

• informatiemaatschappij te verlenen op grond van een uitdrukkelijke opdracht van de abonnee of gebruiker.

29. Conform de tweede uitzondering ('strikt noodzakelijk voor de levering van een uitdrukkelijk door de abonnee of gebruiker gevraagde dienst van de informatiemaatschappij') mag een VVA-aanbieder gebruikersgegevens verwerken om het verzoek van de gebruiker uit te voeren (zie punt 72 onder afdeling 3.4.1), zonder de toestemming waarin in artikel 5, lid 3, van de eprivacyrichtlijn voorziet. Die toestemming in de zin van artikel 5, lid 3, van de eprivacyrichtlijn is daarentegen wel vereist voor het opslaan van of het verkrijgen van toegang tot informatie voor andere doeleinden dan het uitvoeren van opdrachten van de gebruiker (bijvoorbeeld om een gebruikersprofiel op te stellen). De verwerkingsverantwoordelijke dient de toestemming dan toe te kennen aan een specifieke gebruiker. Dit betekent dat de verwerkingsverantwoordelijke de gegevens van een niet-geregistreerde gebruiker alleen mag verwerken om zijn opdrachten uit te voeren.
30. Een VVA vangt onbedoeld de geluiden op van personen die niet de intentie hebben om een VVA-dienst te gebruiken. Ten eerste is het mogelijk (tot op zekere hoogte, en afhankelijk van de VVA) om de activeringsuitdrukking opnieuw in te stellen. Iemand die niet op de hoogte is van de nieuwe instelling kan de nieuwe activeringsuitdrukking dan onbedoeld uitspreken. Ten tweede is het mogelijk dat de VVA de activeringsuitdrukking abusievelijk of foutief herkent. Het is hoogst onwaarschijnlijk dat een van de uitzonderingen waarin artikel 5, lid 3, van de eprivacyrichtlijn voorziet van toepassing is in geval van een accidentele activering. Bovendien dient toestemming in de zin van de AVG een 'ondubbelzinnige wilsuiting van de gebruiker' te zijn. Het is daarom hoogst onwaarschijnlijk dat accidentele activering als geldige toestemming kan worden beschouwd. Indien een verwerkingsverantwoordelijke leert (bijvoorbeeld op basis van een geautomatiseerde of menselijke beoordeling) dat de VVA-dienst persoonsgegevens onbedoeld heeft verwerkt, dient de verwerkingsverantwoordelijke na te gaan of er een geldige rechtsgrond bestaat voor ieder verwerkingsdoel afzonderlijk. Zo niet, dan dienen de accidenteel verzamelde gegevens te worden verwijderd.
31. Bovendien wordt opgemerkt dat de door een VVA verwerkte persoonsgegevens mogelijk zeer gevoelig van aard zijn. Persoonsgegevens kunnen vervat zijn in zowel de inhoudelijke informatie (de bedoeling van de gesproken tekst) als in de meta-informatie (geslacht of leeftijd van de spreker, enz.). Het EDPB wijst erop dat spraakgegevens inherent biometrische persoonsgegevens zijn. 14 Bijgevolg moet, wanneer dergelijke gegevens worden verwerkt met het oog op de unieke identificatie van een natuurlijke persoon of wanneer deze gegevens inherent zijn aan of vastgesteld worden als persoonsgegevens van een bijzondere categorie, de verwerking een geldige rechtsgrondslag hebben in artikel 6 en vergezeld gaan van een afwijking van artikel 9 van de AVG (zie punt 3.7 hieronder).

3.2 Identificatie van gegevensverwerking en belanghebbenden

32. Omdat een VVA verschillende vormen van assistentie kan verlenen in verschillende omgevingen van het dagelijks leven van de betrokkene, 15 is het van belang op te merken dat

14 In artikel 4, lid 14, van de AVG worden biometrische gegevens gedefinieerd als: ' persoonsgegevens die het resultaat zijn van een specifieke technische verwerking met betrekking tot de fysieke, fysiologische of gedragsgerelateerde kenmerken van een natuurlijke persoon op grond waarvan eenduidige identificatie van die natuurlijke persoon mogelijk is of wordt bevestigd, zoals gezichtsafbeeldingen of vingerafdrukgegevens '. Het gaat hier bijvoorbeeld om: thuis, in de auto, op straat, op het werk of in andere besloten, openbare of

15 zakelijke ruimten of een combinatie daarvan.

voorzichtigheid geboden is bij het verwerken van persoonsgegevens en dat meerdere belanghebbenden hierop invloed kunnen uitoefenen.

3.2.1 Verwerking van persoonsgegevens

33. In het kader van gegevensbescherming zijn er enkele constante factoren te onderkennen, ongeacht het soort VVA (dus het soort apparaat, functionaliteiten of diensten, of de combinatie daarvan) dat de betrokkene gebruikt. Deze factoren betreffen de verscheidenheid aan persoonsgegevens, betrokkenen en gegevensverwerkingen in kwestie.

Verscheidenheid aan soorten persoonsgegevens

34. De definitie van persoonsgegevens in artikel 4, lid 1, van de AVG omvat een breed scala aan gegevens en is ongeacht de technologische context van toepassing op alle informatie over ' een geïdentificeerde of identificeerbare natuurlijke persoon '. 16 Elke interactie van een betrokkene met een VVA kan onder het toepassingsgebied van deze definitie vallen. Zodra de interactie plaatsvindt, kan een scala aan persoonsgegevens worden verwerkt zolang de VVA in bedrijf is, als beschreven in punt 2.4.
35. Vanaf het eerste verzoek tot en met het daarmee samenhangende antwoord, de actie of de follow-up (bijvoorbeeld het instellen van een wekelijkse waarschuwing), zal de eerste invoer van persoonsgegevens daarom latere persoonsgegevens genereren, zowel primaire gegevens (bijvoorbeeld accountgegevens, spraakopnamen, opdrachtgeschiedenis) als geobserveerde gegevens (bijvoorbeeld apparatuurgegevens over een betrokkene, logbestanden van activiteiten, online activiteiten) en afgeleide of herleide gegevens (bijvoorbeeld een gebruikersprofiel). Een VVA gebruikt spraak om te bemiddelen tussen gebruikers en alle aangesloten diensten (bijvoorbeeld een zoekmachine, een onlinewinkel of een muziekstreamingdienst), maar in tegenstelling tot andere bemiddelaars kan een VVA volledige toegang hebben tot de inhoud van de verzoeken en bijgevolg de VVA-ontwerper voorzien van een grote verscheidenheid aan persoonsgegevens, afhankelijk van de doeleinden van de verwerking.
36. De verscheidenheid aan persoonsgegevens die bij gebruik van een VVA worden verwerkt, omvat tevens een verscheidenheid aan categorieën persoonsgegevens die bijzondere aandacht behoeven (zie punt 3.7 hierna). Het EDPB wijst erop dat bij het verwerken van bijzondere categorieën persoonsgegevens 17 de verwerkingsverantwoordelijke ingevolge artikel 9 van de AVG verplicht is om een geldige uitzondering te onderkennen op het verwerkingsverbod van artikel 9, lid 1, alsmede een geldige rechtsgrond als bedoeld in artikel 6, lid 1, op basis van een passend middel in de zin van artikel 9, lid 2. Uitdrukkelijke toestemming kan een van de passende uitzonderingen zijn wanneer toestemming de rechtsgrondslag is waarop artikel 6, lid 1, berust. Artikel 9 stelt bovendien in detail dat het de

16 Artikel 4, lid 1, van de AVG bepaalt ook: ' als identificeerbaar wordt beschouwd een natuurlijke persoon die direct of indirect kan worden geïdentificeerd, met name aan de hand van een identificator zoals een naam, een identificatienummer, locatiegegevens, een online identificator of van een of meer elementen die kenmerkend zijn voor de fysieke, fysiologische, genetische, psychische, economische, culturele of sociale identiteit van die natuurlijke persoon '.

17 Ingevolge artikel 9, lid 1, van de AVG zijn bijzondere categorieën persoonsgegevens: ' persoonsgegevens waaruit ras of etnische afkomst, politieke opvattingen, religieuze of levensbeschouwelijke overtuigingen, of het lidmaatschap van een vakbond blijken, en [...] genetische gegevens, biometrische gegevens die worden verwerkt met het oog op de unieke identificatie van een natuurlijke persoon, gegevens over gezondheid of gegevens over seksueel gedrag of seksuele gerichtheid van een natuurlijke persoon '.

lidstaten vrij staat om verdere voorwaarden te stellen aan het verwerken van biometrische gegevens of andere bijzondere categorieën.

Verscheidenheid aan betrokkenen

37. Bij het gebruik van een VVA worden persoonsgegevens verwerkt zodra de allereerste interactie met de VVA plaatsvindt. Voor sommige betrokkenen betreft dit de aanschaf van de VVA en/of het opzetten van een gebruikersaccount (d.w.z. geregistreerde gebruikers). Voor anderen betreft dit het moment waarop zij voor het eerst bewust interactie hebben met de VVA van een andere betrokkene, die de betreffende VVA heeft aangeschaft en/of opgezet (d.w.z. niet-geregistreerde gebruikers). Naast deze twee categorieën betrokkenen is er nog een derde groep: onbedoelde gebruikers die, al dan niet geregistreerd, zonder het te weten opdrachten geven aan de VVA (bijvoorbeeld door de ingestelde activeringsuitdrukking uit te spreken zonder te weten dat de VVA actief is, of door andere woorden te zeggen die de VVA foutief herkent als de activeringsuitdrukking).
38. De verscheidenheid aan betrokkenen verwijst daarbij ook naar meerdere gebruikers van één VVA (bijvoorbeeld wanneer een apparaat wordt gedeeld door geregistreerde en nietgeregistreerde gebruikers door collega's, binnen een gezin, op school), en naar verschillende soorten gebruikers afhankelijk van hun situatie (bijvoorbeeld een volwassene, kind, oudere of iemand met een beperking). Een VVA maakt de interactie met een digitaal hulpmiddel weliswaar eenvoudiger en biedt voor sommige categorieën betrokkenen veel voordelen, maar het blijft van belang om rekening te houden met de specifieke kenmerken van iedere categorie betrokkenen en de context waarin de VVA wordt gebruikt.

Verscheidenheid aan gegevensverwerkingen

39. De technologieën die worden ingezet om een VVA aan te bieden zijn daarnaast ook van invloed op de hoeveelheid verwerkte gegevens en de soorten verwerkingen. Hoe meer diensten of functionaliteiten een VVA biedt, en met hoe meer door andere partijen beheerde apparaten of diensten de VVA verbonden is, des te meer persoonsgegevens er worden verwerkt en des te vaker de verwerkingen voor andere doeleinden worden gebruikt. Dit leidt tot een verscheidenheid aan verwerkingen door geautomatiseerde hulpmiddelen, zoals in punt 2 is beschreven. Naast geautomatiseerde hulpmiddelen betreffen sommige verwerkingen ook menselijke inzet. Dit is bijvoorbeeld het geval wanneer de technologie die wordt toegepast, gebruikmaakt van menselijke tussenkomst, zoals het beoordelen van transcripties van spraak naar tekst of het aanbrengen van opmerkingen bij persoonsgegevens die kunnen worden gebruikt om nieuwe modellen toe te voegen aan de technologie voor machinaal leren. Dit is ook het geval wanneer mensen persoonsgegevens (bijvoorbeeld metagegevens) analyseren met het oog op het verbeteren van de door de VVA geleverde dienst.

3.2.2 Verwerkingen door een verwerkingsverantwoordelijke of verwerker

40. De betrokkene moet in staat zijn de betrokken rollen te begrijpen en te identificeren en moet met elke belanghebbende contact kunnen opnemen of kunnen handelen overeenkomstig de AVG. De rollenverdeling mag de betrokkene niet benadelen, ook al kunnen de scenario's complex of aan verandering onderhevig zijn. Om belanghebbenden te helpen bij het

• onderkennen van hun rol, wordt verwezen naar de Richtsnoeren 7/2020 van het EDPB over de begrippen 'verwerkingsverantwoordelijke' en 'verwerker' in de AVG. 18

41. Zoals aangegeven in punt 15 kunnen de belangrijkste belanghebbenden worden geïdentificeerd in de rol van aanbieder of ontwerper, applicatieontwerper, integrator, eigenaar of een combinatie daarvan. Er zijn verschillende scenario's mogelijk, afhankelijk van wie wat doet in de zakelijke relatie van de belanghebbenden, van het verzoek van de gebruiker, de persoonsgegevens, de gegevensverwerkingsactiviteiten en de doeleinden daarvan. Zij moeten duidelijk beslissen en de betrokkenen informeren over de voorwaarden waaronder elk van hen zal handelen en de daaruit voortvloeiende rollen van verwerkingsverantwoordelijken, gezamenlijke verwerkingsverantwoordelijken of verwerkers in acht zal nemen, zoals bepaald in de AVG. 19 Elk van hen kan een of meer rollen vervullen, aangezien hij voor één gegevensverwerking een unieke voor verwerkingsverantwoordelijke, een gezamenlijke verwerkingsverantwoordelijke of een gegevensverwerker kan zijn, terwijl hij voor een andere gegevensverwerking een andere rol vervult.
42. Op hoog niveau kan de ontwerper optreden als verwerkingsverantwoordelijke wanneer hij het doel van en de middelen voor een verwerking vaststelt, maar kan hij optreden als verwerker wanneer hij persoonsgegevens verwerkt ten behoeve van andere partijen, zoals een applicatieontwikkelaar. De VVA-gebruiker heeft dan met meerdere verwerkingsverantwoordelijken te maken: de applicatieontwikkelaar en de ontwerper. Een andere mogelijkheid is dat de ontwerper, integrator en ontwikkelaar samen één groep vormen die als één verwerkingsverantwoordelijke optreedt. In ieder geval dienen de toepasselijke kwalificaties telkens te worden vastgesteld op grond van een afzonderlijke analyse.

Voorbeeld 1:

De ontwerper van de VVA verwerkt de gegevens van de gebruiker voor vele doeleinden, waaronder het verbeteren van de spraakverstaanbaarheid van de VVA en het accuraat reageren op verzoeken. Hoewel dit doel kan leiden tot het verwerken van gegevens op grond van het gebruik van door derden verzorgde applicaties, betekent dit dat er slechts één verwerkingsverantwoordelijke is: de ontwerper van de VVA, namens wie en voor wiens doeleinden de verwerking plaatsvindt.

Voorbeeld 2:

Een bank heeft een applicatie die de klant rechtstreeks via de VVA kan raadplegen om zijn rekening te beheren.

Er zijn bij het verwerken van persoonsgegevens twee partijen betrokken: de ontwerper van de VVA en de ontwikkelaar van de bankapplicatie.

In de hier geschetste situatie is de bank de verwerkingsverantwoordelijke bij het verlenen van de dienst: de bank bepaalt immers de doeleinden en wezenlijke middelen van de verwerking met betrekking tot de applicatie waarmee de gebruiker interactie heeft met de assistent. De bank biedt de gebruiker een speciale applicatie om als klant van de bank op afstand zijn rekeningen te beheren. Daarnaast beslist de bank over het verwerkingsmiddel

19 Artikelen 12 tot en met 14, en artikel 26, van de AVG.

door een geschikte verwerker (d.w.z. de ontwerper van de VVA) te kiezen, die met zijn deskundigheid een belangrijke rol kan spelen bij het bepalen van dit middel. De verwerker kan bijvoorbeeld het ontwikkelingsplatform beheren dat de integratie van applicaties van derden in de VVA mogelijk maakt en stelt derhalve het kader en de voorwaarden vast die ontwikkelaars van toepassingen moeten naleven.

43. Aan de kant van de betrokkene dient te worden opgemerkt dat verschillende belanghebbenden dezelfde persoonsgegevens kunnen verwerken, ook al verwacht de betrokkene niet echt dat andere partijen dan de VVA-aanbieder bij de verwerkingsketen betrokken zijn Als een betrokkene interactie heeft met de VVA-aanbieder in verband met zijn persoonsgegevens (bijvoorbeeld om zijn rechten als betrokkene uit te oefenen), betekent dit dus niet automatisch dat dezelfde handeling van toepassing is op dezelfde persoonsgegevens die door een andere belanghebbende worden verwerkt. Indien deze belanghebbenden aparte verwerkingsverantwoordelijken betreffen, is het van belang dat dit aan de betrokkene duidelijk wordt gemaakt en dat de verschillende stappen en actoren in de verwerking worden toegelicht. In geval van gezamenlijke verwerkingsverantwoordelijken dient bovendien duidelijk te worden gemaakt of iedere verwerkingsverantwoordelijke gerechtigd is om voor naleving van alle rechten als betrokkene te zorgen, of welke verwerkingsverantwoordelijke gerechtigd is voor welk recht. 20

Voorbeeld 3:

In dit scenario wenst de ontwerper van de VVA de verzamelde en verwerkte gegevens voor de door de bank verleende dienst te gebruiken om zijn spraakherkenningssysteem te verbeteren. De ontwerper van de VVA, die de gegevens voor zijn eigen doeleinden verwerkt, heeft dan de status van verantwoordelijke voor deze specifieke verwerking.

44. Aangezien er veel belanghebbenden en personeelsleden betrokken kunnen zijn bij de verwerkingsketen, kunnen er risicovolle situaties ontstaan indien er geen passende maatregelen en waarborgen worden genomen. Verwerkingsverantwoordelijken zijn verantwoordelijk voor hen en moeten zich daarom concentreren op de bescherming van persoonsgegevens, met name door geschikte zakenpartners en gegevensverwerkers te kiezen, de beginselen van privacy door standaardinstellingen en door ontwerp toe te passen, en passende beveiliging en andere AVG-instrumenten zoals audits en juridische overeenkomsten (bijvoorbeeld artikel 26 van de AVG in geval van gezamenlijke verwerkingsverantwoordelijken of artikel 28 van de AVG voor verwerkers) te gebruiken.
45. Het VVA-ecosysteem is ingewikkeld en de mogelijkheid bestaat dat persoonsgegevens door veel verschillende actoren worden uitgewisseld en verwerkt in de hoedanigheid van verwerkingsverantwoordelijke of verwerker. Het is van het grootste belang dat de rol van elke actor bij elke verwerking wordt verduidelijkt en dat ook bij de uitwisseling van gegevens het beginsel van minimale gegevensverwerking in acht wordt genomen.
46. Bovendien moet de verwerkingsverantwoordelijke waakzaam zijn bij de doorgifte van persoonsgegevens en het vereiste beschermingsniveau in de hele verwerkingsketen waarborgen, met name wanneer hij gebruikmaakt van diensten buiten de EER.

3.3 Transparantie

20 Richtsnoeren 7/2020, punt 165.

47. Omdat een VVA persoonsgegevens verwerkt (bijvoorbeeld de spraak en locatie van de gebruiker en het inhoudelijke bericht), moeten deze apparaten voldoen aan de transparantievereisten van de AVG, zoals vastgelegd in artikel 5, lid 1, onder a), en de artikelen 12 en 13 (toegelicht door overweging 58). De verwerkingsverantwoordelijke heeft de plicht om de gebruiker op beknopte, transparante, begrijpelijke en eenvoudig toegankelijke wijze te informeren over het verwerken van zijn persoonsgegevens.
48. Het niet verstrekken van de benodigde informatie is een inbreuk op de verplichtingen die de rechtmatigheid van de verwerking van gegevens kan aantasten. Naleving van het transparantievereiste is van essentieel belang, aangezien het dient als controlemechanisme over de gegevensverwerking en gebruikers in staat stelt hun rechten uit te oefenen. Door gebruikers naar behoren te informeren over de manier waarop hun persoonsgegevens worden gebruikt, wordt het voor de verwerkingsverantwoordelijke moeilijker om de VVA te misbruiken voor doeleinden die veel verder gaan dan gebruikers verwachten. Gepatenteerde technologieën zijn er bijvoorbeeld op gericht de gezondheidstoestand en de emotionele toestand van een gebruiker af te leiden uit diens stem en de geleverde diensten dienovereenkomstig aan te passen.
49. Het voldoen aan de transparantievereisten kan bijzonder moeilijk zijn voor de VVA-aanbieder of een andere entiteit die optreedt als verwerkingsverantwoordelijke. Gezien de bijzondere aard van een VVA heeft de verwerkingsverantwoordelijke te maken met een aantal knelpunten bij het naleven van de transparantievereisten van de AVG:
50. GLYPH<UNKNOWN> Meerdere gebruikers : de verwerkingsverantwoordelijke dient iedere gebruiker (zowel geregistreerde, niet-geregistreerde als accidentele gebruikers) van de benodigde informatie te voorzien, niet alleen de gebruiker die de VVA heeft ingesteld.
51. GLYPH<UNKNOWN> Complexiteit van het ecosysteem : zoals toegelicht in het onderdeel over de technologische achtergrond, zijn de identiteit en de rol van degenen die bij het gebruik van een VVA persoonsgegevens verwerken, voor de gebruiker verre van duidelijk.
52. GLYPH<UNKNOWN> Specifieke kenmerken van de spraakgestuurde interface : digitale systemen zijn momenteel nog niet geschikt voor interactie op basis van spraak alleen, zoals blijkt uit het feit dat in bijna elk geval een bijbehorend scherm wordt gebruikt. Het is echter noodzakelijk zich aan te passen aan de vocale interface en de gebruiker langs deze weg duidelijk en correct te kunnen informeren.
53. Een VVA kan worden beschouwd als eindige-toestandsautomaat die tijdens zijn normale werking een aantal modi doorloopt. Zo kan de VVA lokaal meeluisteren om de activeringsuitdrukking te herkennen of heeft hij interactie met een externe server om een opdracht uit te voeren. De VVA kan echter ook talloze andere modi aannemen, afhankelijk van de omstandigheden (bijvoorbeeld bij achtergrondgeluid) of van de gebruiker die tegen het apparaat praat (hij kan bijvoorbeeld tegen een bekende of onbekende gebruiker praten). Helaas bestaat er in deze situaties een aanzienlijke mate van asymmetrische informatie ten opzichte van de gebruiker, die zich er nauwelijks van bewust is of het apparaat meeluistert en nog minder van de modus van het apparaat.
54. Het wordt sterk aanbevolen dat ontwerpers en ontwikkelaars van VVA's passende maatregelen nemen om die asymmetrie weg te nemen en VVA's meer interactief te laten functioneren. De gebruiker moet worden ingelicht over de huidige modus van het apparaat. Deze verbeterde transparantie kan worden bereikt door een interactievere dialoog tussen mens en machine (het apparaat kan bijvoorbeeld op enigerlei wijze aangeven dat de

• gesproken opdracht is ontvangen) en door middel van specifieke signalen die de modus van het apparaat aangeven. Er zijn in dit opzicht veel verschillende mogelijkheden te onderzoeken, variërend van het gebruik van specifieke gesproken bevestigingen en zichtbare icoontjes of lichtjes tot weergave op het apparaat.

52. Deze kwesties zijn des te relevanter gezien de verscheidenheid aan gebruikers, waaronder kwetsbare categorieën personen zoals kinderen, ouderen en gebruikers met een gehoor- of gezichtsbeperking.
53. Uit de bovenstaande kwesties komen twee belangrijke vragen naar voren: wat is de meest haalbare manier om gebruikers te informeren en wanneer is het geschikte moment om hen te informeren? Deze kwesties moeten verder worden onderzocht in twee verschillende situaties, afhankelijk van de vraag of de VVA slechts één gebruiker heeft (zoals een persoonlijke smartphone) of potentieel meerdere gebruikers (bijvoorbeeld een 'smart home'-apparaat). Met de VVA-technologie kunnen deze twee basisinstellingen ook worden ondermijnd, bijvoorbeeld wanneer een gebruiker een persoonlijke smartphone heeft en deze aan een auto koppelt. De VVA van de smartphone, waarvan redelijkerwijs kon worden verwacht dat deze alleen door die gebruiker zou worden gebruikt, wordt nu uitgebreid tot de anderen in de auto.
54. Momenteel wordt iedere VVA verbonden aan een gebruikersaccount en/of ingesteld door middel van een applicatie waarvoor een account vereist is. De vraag hoe verwerkingsverantwoordelijken kunnen overwegen deze gebruikers bij het opzetten van de VVA te informeren over het privacybeleid, moet worden behandeld zoals beschreven in de richtsnoeren van de Groep gegevensbescherming artikel 29 inzake transparantie. De benodigde informatie over een applicatie moet vóór het downloaden ervan beschikbaar zijn in de online winkel. 21 Op die manier wordt de informatie zo vroeg mogelijk verstrekt en uiterlijk op het tijdstip waarop de persoonsgegevens worden verkregen. Sommige VVA-aanbieders nemen applicaties van derden op in de VVA-standaardinstellingen zodat deze applicaties kunnen worden uitgevoerd door specifieke activeringsuitdrukkingen te gebruiken. Bij een VVA die applicaties van derden volgens deze strategie toepast, dient er rekening mee te worden gehouden dat de gebruiker ook moet worden geïnformeerd over verwerkingen door die derden.
55. Veel VVA-ontwerpers hebben echter VVA-gebruikersaccounts nodig die de VVA-dienst bundelen met meerdere andere diensten, zoals e-mail, videostreaming of aankopen. Het besluit van de VVA-ontwerper om het account aan meerdere verschillende diensten te koppelen, heeft tot gevolg dat een zeer lang en ingewikkeld privacybeleid nodig is, wat een grote belemmering vormt voor het naleven van het transparantiebeginsel.

Voorbeeld 4:

De ontwerper van een VVA vereist dat de gebruiker een account moet hebben om van de VVA-dienst gebruik te maken. Het gebruikersaccount is niet specifiek bedoeld voor de VVAdienst, maar kan ook worden gebruikt voor andere diensten die de VVA-ontwerper aanbiedt, bijvoorbeeld e-mail, cloudopslag en sociale media. Om een account aan te maken moet de gebruiker een privacyverklaring van 30 bladzijden lezen en hiermee akkoord gaan.

21 Richtsnoeren inzake transparantie overeenkomstig Verordening (EU) 2016/679, WP260, rev.01, goedgekeurd door het EDPB (hierna: 'Richtsnoeren WP260 van de Groep artikel 29'), punt 11.

Die verklaring bevat informatie over het verwerken van persoonsgegevens door al de verschillende diensten die mogelijk aan het account worden gekoppeld.

De door de VVA-ontwerper in dit geval verstrekte informatie mag niet als beknopt worden beschouwd en de complexiteit ervan vermindert de vereiste transparantie. De VVAontwerper zou dus niet voldoen aan de transparantievereisten van de artikelen 12 en 13 van de AVG.

56. Hoewel de meest gebruikelijke manier om de benodigde informatie te verstrekken schriftelijk is, staat de AVG ook toe dat 'andere middelen' worden gebruikt. In overweging 58 staat uitdrukkelijk dat de informatie in elektronische vorm kan worden verstrekt, bijvoorbeeld via een website. Voorts moet bij de keuze van de geschikte methode om de betrokkenen te informeren rekening worden gehouden met de specifieke omstandigheden, zoals de wijze waarop de verwerkingsverantwoordelijke en de betrokkene met elkaar omgaan. 22 Voor schermloze apparaten zou het een optie kunnen zijn om (direct of per e-mail) een link te verstrekken die gemakkelijk te begrijpen is. Reeds bestaande oplossingen zouden als voorbeeld voor de informatie kunnen dienen, bijvoorbeeld de procedure van callcenters om de beller ervan in kennis te stellen dat een telefoongesprek wordt opgenomen en hem naar hun privacybeleid te verwijzen. De beperkingen van een schermloze VVA ontslaat de verwerkingsverantwoordelijke niet van het verstrekken van de nodige informatie overeenkomstig de AVG bij het instellen van de VVA of het installeren of gebruiken van een VVA-applicatie. Aanbieders en ontwikkelaars van VVA's dienen spraakgestuurde interfaces te ontwikkelen om de vereiste informatie te verstrekken.
57. VVA's kunnen van groot belang zijn voor gebruikers met een verminderd gezichtsvermogen, aangezien zij een alternatief bieden voor de interactie met IT-diensten die van oudsher op visuele informatie berusten. Overeenkomstig artikel 12, lid 1, van de AVG is het uitsluitend mogelijk de nodige informatie mondeling te verstrekken indien de betrokkene daarom verzoekt, maar niet als de standaardmethode. De beperkingen van VVA's met minder schermen vereisen echter geautomatiseerde mondelinge informatiemiddelen die kunnen worden aangevuld met schriftelijke middelen. Bij het informeren van de betrokkene in audioformaat dient de verwerkingsverantwoordelijke de vereiste informatie op beknopte en heldere wijze te verstrekken. Daarnaast dient de betrokkene de mogelijkheid te hebben om de informatie terug te luisteren 23 .
58. Het nemen van passende maatregelen om te voldoen aan de transparantievereisten van de AVG is complexer wanneer er, naast de eigenaar van het apparaat, meerdere personen gebruikmaken van de VVA. VVA-ontwerpers moeten nagaan hoe zij niet-geregistreerde en accidentele gebruikers naar behoren kunnen informeren wanneer hun persoonsgegevens worden verwerkt. Wanneer toestemming de rechtsgrondslag vormt voor het verwerken van gebruikersgegevens, moeten gebruikers naar behoren worden geïnformeerd om een toestemming geldig te laten zijn. 24
59. Om aan de AVG te voldoen, moeten verwerkingsverantwoordelijken een manier vinden om niet alleen geregistreerde gebruikers, maar ook niet-geregistreerde gebruikers en accidentele VVA-gebruikers te informeren. Deze gebruikers dienen op het vroegst mogelijke moment te

22 Richtsnoeren WP260 van de Groep artikel 29, punt 19.

24 Artikel 4, lid 11, van de AVG.

23 Richtsnoeren WP260 van de Groep artikel 29, punt 21.

• worden geïnformeerd, maar uiterlijk wanneer hun gegevens worden verwerkt . Aan deze voorwaarde zou in de praktijk bijzonder moeilijk te voldoen kunnen zijn.

60. Bepaalde bedrijfsspecifieke kenmerken mogen ook niet nadelig zijn voor de betrokkenen. Omdat belanghebbenden vaak wereldwijde ondernemingen zijn of bekend staan om een specifieke bedrijfsactiviteit (bijvoorbeeld telecommunicatie, e-commerce, informatietechnologie, online activiteiten), dient duidelijk te zijn op welke wijze zij een VVAdienst aanbieden. De betrokkene dient op basis van adequate informatie te worden geïnformeerd of het gebruik van de VVA al dan niet gekoppeld is aan andere door de VVAaanbieder beheerde verwerkingen (bijvoorbeeld telecommunicatie, e-commerce, informatietechnologie, online activiteiten), naast het gebruik van de VVA alleen.

Voorbeeld 5:

Een VVA-ontwerper die ook een socialemediaplatform en zoekmachine verstrekt, vereist dat de gebruiker zijn account koppelt aan de assistent om deze te kunnen gebruiken. Door zijn account te koppelen aan het gebruik van de VVA, kan de ontwerper dus het profiel van zijn gebruikers verbeteren door het gebruik van de assistent, de applicaties (of vaardigheden) die worden geïnstalleerd, de bestellingen die worden geplaatst, enz. Hierdoor vormen interacties met de assistent een nieuwe bron van informatie over de gebruiker. De VVA-ontwerper moet de gebruiker helder informeren over hoe de gegevens voor iedere dienst worden verwerkt en daarbij controlemiddelen aanreiken waarmee de gebruiker ervoor kan kiezen of die gegevens al dan niet worden gebruikt voor het opstellen van een gebruikersprofiel.

Aanbevelingen

61. Wanneer gebruikers via het privacybeleid van een gebruikersaccount worden geïnformeerd over de verwerking van persoonsgegevens door de VVA en het account gekoppeld is aan andere onafhankelijke diensten (bijvoorbeeld e-mail of online aankopen), beveelt het EDPB aan dat het privacybeleid een duidelijk afgescheiden onderdeel met betrekking tot de verwerking van persoonsgegevens door de VVA bevat.
62. De aan de gebruiker verstrekte informatie moet exact overeenkomen met de verzameling en de verwerking die wordt uitgevoerd. Hoewel een stemmonster bepaalde meta-informatie bevat (bijvoorbeeld het stressniveau van de spreker), is het niet automatisch duidelijk of een dergelijke analyse wordt uitgevoerd. Het is van cruciaal belang dat verwerkingsverantwoordelijken transparant zijn over de specifieke aspecten van de oorspronkelijke gegevens die zij verwerken.
63. Bovendien moet te allen tijde duidelijk zijn in welke staat de VVA zich bevindt. Gebruikers moeten kunnen bepalen of een VVA momenteel luistert in zijn geslotenluscircuit en vooral of hij informatie naar zijn back-end streamt. Deze informatie moet ook toegankelijk zijn voor mensen met een handicap zoals kleurenblindheid of doofheid. Bijzondere aandacht moet worden besteed aan het feit dat VVA's een gebruiksscenario suggereren waarbij oogcontact met het toestel niet noodzakelijk is. Alle gebruikersfeedback, met inbegrip van moduswijzigingen, moet dus ten minst in visuele en auditieve vorm beschikbaar zijn.
64. Bijzondere aandacht moet worden besteed aan apparaten die de mogelijkheid bieden functionaliteiten van derden toe te voegen ('applicaties' voor VVA's). Hoewel aan de gebruiker enige algemene informatie kan worden verstrekt wanneer hij een dergelijke

functionaliteit toevoegt (aangezien het de keuze van de gebruiker is), kunnen tijdens het normale gebruik van het apparaat de grenzen tussen de verschillende betrokken verwerkingsverantwoordelijken veel minder duidelijk zijn, d.w.z. dat de gebruiker mogelijk niet voldoende wordt geïnformeerd over hoe en door wie zijn gegevens bij een specifieke zoekopdracht worden verwerkt (en in welke mate).

65. Alle informatie over verwerking op basis van gegevens die zijn verzameld en afgeleid van de verwerking van opgenomen stemgeluid moet ook voor gebruikers beschikbaar zijn overeenkomstig artikel 12 van de AVG.
66. De verwerkingsverantwoordelijke van een VVA moet transparant maken welke informatie de VVA uit de omgeving kan afleiden, bijvoorbeeld (maar niet uitsluitend) welke andere mensen zich in de ruimte bevinden, welke muziek er op de achtergrond speelt, eventuele verwerkingen van de spraak voor medische of andere marketingdoeleinden, huisdieren, enz.

3.4 Beperking van doeleinden en rechtsgronden

67. Het verwerken van een gesproken opdracht door een VVA dient een duidelijk doel, namelijk het uitvoeren van die opdracht. Er bestaan echter vaak ook andere doeleinden die niet meteen duidelijk zijn, bijvoorbeeld het verbeteren van het vermogen van de VVA om natuurlijke taal te begrijpen door het VVA-model te trainen met technieken voor machinaal leren. De meest voorkomende doeleinden waarvoor een VVA persoonsgegevens verwerkt zijn onder andere:
68. GLYPH<UNKNOWN> het uitvoeren van de opdracht van de gebruiker
69. GLYPH<UNKNOWN> het verbeteren van de VVA door het model voor machinaal leren te trainen aan de hand van menselijke beoordeling en het labelen van transcripties van gesproken tekst
70. GLYPH<UNKNOWN> het vaststellen van de identiteit van de gebruiker (door middel van spraakgegevens)
71. GLYPH<UNKNOWN> het profileren van de gebruiker voor gepersonaliseerde inhoud of reclame
72. Door zijn rol als tussenschakel en de manier waarop hij is ingesteld, verwerkt de VVA een grote verscheidenheid aan persoonsgegevens en niet-persoonsgebonden gegevens. Dit maakt het mogelijk persoonsgegevens te verwerken voor tal van doeleinden die verder gaan dan het beantwoorden van de verzoeken van gebruikers en die totaal onopgemerkt kunnen blijven. Door de via de VVA verzamelde gegevens te analyseren, is het mogelijk de interesses, agenda, rijroutes of gewoonten van de gebruiker te weten te komen of af te leiden. Dit zou de verwerking van persoonsgegevens voor onvoorziene doeleinden (bijvoorbeeld sentimentanalyse of beoordeling van de gezondheidstoestand 25 ) mogelijk kunnen maken, wat veel verder zou gaan dan de redelijke verwachtingen van de gebruiker.
73. De verwerkingsverantwoordelijke moet de verschillende doeleinden duidelijk aangeven in relatie tot de context waarin de VVA wordt gebruikt, zodat die doeleinden duidelijk worden begrepen door de betrokkene (bijvoorbeeld door de doeleinden in verschillende categorieën te presenteren). Overeenkomstig artikel 5, lid 1, van de AVG moeten de persoonsgegevens voor welbepaalde, uitdrukkelijk omschreven en gerechtvaardigde doeleinden worden verzameld en mogen vervolgens niet verder op een met die doeleinden onverenigbare wijze worden verwerkt.

25 Eoghan Furey, Juanita Blue, 'Alexa, Emotion, Privacy and GDPR', Conference Paper, Human Computer Interaction Conference, juli [2018].

3.4.1 Uitvoeren van de opdracht van een gebruiker

70. Het belangrijkste gebruik voor een VVA is het geven van spraakopdrachten die moeten worden uitgevoerd door de VVA of een daaraan gekoppelde applicatie of dienst (bijvoorbeeld een muziekstreamingdienst, een dienst voor digitale kaarten of een elektronische vergrendeling). De stem van de gebruiker en mogelijk ook andere gegevens (bijvoorbeeld de positie van de gebruiker bij het opvragen van een route naar een bepaalde bestemming) kunnen dus worden verwerkt.

Voorbeeld 6:

De bijrijder in een smartauto met VVA vraagt de route naar het dichtstbijzijnde tankstation op. De VVA verwerkt de stem van de gebruiker om de opdracht te begrijpen en de positie van de auto om de route te vinden, en stuurt deze naar het smart-onderdeel zodat de route op het scherm van de auto wordt getoond.

71. Voor zover de verwerking van spraakopdrachten gepaard gaat met de opslag van of de toegang tot informatie die is opgeslagen in de eindapparatuur van de eindgebruiker, moet worden voldaan aan artikel 5, lid 3, van de e-privacyrichtlijn. In artikel 5, lid 3, is het algemene beginsel vervat dat de eindgebruiker vooraf toestemming moet geven voor de opslag van informatie of voor het verkrijgen van toegang tot informatie. Dit lid voorziet ook in een vrijstelling van dit toestemmingsvereiste indien het 'strikt noodzakelijk (is) voor de levering van een uitdrukkelijk door de abonneegebruiker gevraagde dienst van de informatiemaatschappij'. Voor zover de stemgegevens worden verwerkt om de verzoeken van de gebruiker uit te voeren, zijn zij vrijgesteld van het vereiste van voorafgaande toestemming.
72. Zoals eerder aangegeven, moeten alle verwerkingen van persoonsgegevens na de opslag van of toegang tot informatie in de eindapparatuur van eindgebruikers een rechtsgrond hebben op grond van artikel 6 van de AVG om rechtmatig te zijn.
73. Op de VVA vinden twee opeenvolgende verwerkingen plaats. Zoals hierboven vermeld, vereist de eerste toegang tot de VVA (en moet dus worden voldaan aan de voorwaarden van artikel 5, lid 3, van de e-privacyrichtlijn). Voor de tweede stap is, naast de vereisten van artikel 5, lid 3, van e-privacyrichtlijn, tevens een rechtsgrond overeenkomstig artikel 6 van de AVG vereist.
74. Wanneer een persoon besluit een VVA te gebruiken, impliceert deze actie in het algemeen dat de initiële gebruiker eerst een account moet aanmaken om de VVA te activeren. Met andere woorden verwijst deze situatie naar een contractuele relatie 26 tussen de geregistreerde gebruiker en de verwerkingsverantwoordelijke van de VVA. Gelet op de inhoud en de fundamentele doelstelling van deze overeenkomst, is het hoofddoel van deze overeenkomst het gebruik van de VVA voor de uitvoering van het verzoek om assistentie van de gebruiker.
75. Elke verwerking van persoonsgegevens die nodig is om het verzoek van de gebruiker uit te voeren, kan derhalve steunen op de rechtsgrond van de uitvoering van de overeenkomst 27 . Een dergelijke verwerking omvat met name de opname van het gesproken verzoek van de gebruiker, de transcriptie ervan in tekst, de interpretatie ervan, de informatie die wordt

uitgewisseld met kennisbronnen om het antwoord voor te bereiden en vervolgens de transcriptie tot een vocaal definitief antwoord dat het verzoek van de gebruiker voltooit.

76. Het uitvoeren van een overeenkomst kan als rechtsgrond dienen voor de verwerking van persoonsgegevens door middel van machinaal leren indien dit nodig is om de dienst te verlenen. De verwerking van persoonsgegevens met gebruikmaking van machinaal leren voor andere doeleinden die niet noodzakelijk zijn, zoals verbetering van de dienstverlening, mag niet op die rechtsgrond berusten.
77. Ten slotte mogen de rechtsgronden voor de uitvoering van de overeenkomst en toestemming in het kader van de AVG niet met elkaar worden verward. De toestemming die is gegeven voor het aangaan van (d.w.z. het instemmen met) de overeenkomst, maakt deel uit van de geldigheid van deze overeenkomst en verwijst niet naar de specifieke betekenis van de toestemming in het kader van de AVG 28 .
78. Wanneer het gebruik van een VVA niet vereist dat vooraf een gebruikersaccount voor de VVA is geconfigureerd, kan toestemming een mogelijke rechtsgrond zijn.

3.4.2 De VVA verbeteren door de systemen voor machinaal leren te trainen en de spraak en transcripties handmatig te beoordelen

79. Menselijk taalgebruik kent talloze accenten en varianten. Hoewel alle VVA's functioneel zijn zodra ze beschikbaar zijn, kunnen hun prestaties worden verbeterd door ze aan te passen aan de specifieke kenmerken van de spraak van gebruikers. Zoals in punt 2.6 reeds is toegelicht, steunt deze aanpassing op machinaal leren en beslaat deze twee trajecten: het uitbreiden van de dataset voor het trainen van de VVA met verzamelde gegevens van de gebruiker en de menselijke beoordeling van de gegevens die worden verwerkt om een klein deel van de opdrachten uit te voeren.

Voorbeeld 7:

De gebruiker van een VVA moet drie keer dezelfde opdracht uitspreken, omdat de VVA de opdracht niet heeft begrepen. De drie gesproken opdrachten en de bijbehorende transcripties worden doorgestuurd naar menselijke beoordelaars om de transcripties na te kijken en te verbeteren. De gesproken opdrachten en de nagekeken transcripties worden toegevoegd aan de dataset om de VVA te trainen en zodoende de prestaties te verbeteren.

80. De in het voorbeeld beschreven verwerkingsactiviteiten mogen niet worden beschouwd als (strikt) 'noodzakelijk voor de uitvoering van een overeenkomst' in de zin van artikel 6, lid 1, onder b), van de AVG, en vereisen derhalve een andere rechtsgrond dan artikel 6 van de AVG. De belangrijkste reden is dat VVA's direct functioneel zijn wanneer zij beschikbaar zijn en reeds de prestaties kunnen leveren die (strikt) noodzakelijk zijn voor de uitvoering van de overeenkomst. Het EDPB is van mening dat artikel 6, lid 1, onder b), over het algemeen geen passende rechtsgrond vormt voor verwerkingen ten behoeve van het verbeteren van een dienst of ontwikkeling van nieuwe functies binnen een bestaande dienst. In de meeste gevallen sluit een gebruiker een overeenkomst om gebruik te maken van een bestaande dienst. Hoewel de mogelijkheid van verbeteringen en aanpassingen van een dienst veelal wordt opgenomen in de bij een overeenkomst behorende voorwaarden, kunnen dergelijke

verwerkingen niet worden beschouwd als objectief noodzakelijk voor het uitvoeren van de overeenkomst met de gebruiker.

3.4.3 Vaststellen van de identiteit van de gebruiker 29 (door middel van spraakgegevens)

81. Het gebruik van spraakgegevens om de gebruiker te identificeren houdt in dat persoonsgegevens worden verwerkt zoals bedoeld in artikel 4, lid 14, van de AVG. De verwerkingsverantwoordelijke dient daarom niet alleen een rechtsgrond in de zin van artikel 6 van de AVG vast te stellen, maar ook een uitzondering krachtens artikel 9 van de AVG 30 .
82. Van de in artikel 9 van de AVG genoemde uitzonderingen lijkt alleen de uitdrukkelijke toestemming van de betrokkene van toepassing te zijn op dit specifieke doel.
83. Aangezien voor dit doel echter het specifieke rechtskader van artikel 9 van de AVG moet worden toegepast, volgen nadere details in punt 3.8, dat betrekking heeft op de verwerking van bijzondere categorieën van gegevens.

3.4.4 Het profileren van de gebruiker voor gepersonaliseerde inhoud of reclame

84. Zoals hierboven vermeld, hebben VVA's toegang tot de inhoud van alle spraakopdrachten, zelfs wanneer deze gericht zijn op diensten die door derden worden geleverd. Deze toegang zou de VVA-ontwerper in staat stellen zeer nauwkeurige gebruikersprofielen op te stellen die kunnen worden gebruikt om gepersonaliseerde diensten of advertenties aan te bieden.

Voorbeeld 8:

Telkens wanneer de gebruiker van een VVA een online zoekopdracht uitvoert, voegt de VVA labels die onderwerpen van interesse aanduiden toe aan het gebruikersprofiel. De resultaten van iedere nieuwe zoekopdracht worden voor de gebruiker gerangschikt aan de hand van die labels.

Voorbeeld 9:

Telkens wanneer de gebruiker van een VVA een aankoop doet via een e-commercedienst, slaat de VVA een aantekening op van de aankoop. De VVA-aanbieder stelt vervolgens derden in staat om op basis van die eerdere aankopen reclame op de gebruiker af te stemmen.

85. Persoonlijk afgestemde content vormt in sommige (maar niet alle) gevallen een intrinsiek en te verwachten onderdeel van de VVA. Of een dergelijke verwerking als een intrinsiek aspect van de VVA-dienst kan worden beschouwd, hangt af van de precieze aard van de verleende dienst, de verwachtingen van de gemiddelde betrokkene - niet alleen in het licht van de

29 Strikt genomen dient een onderscheid gemaakt te worden tussen identificeren en verifiëren. Identificeren betreft het zoeken en vergelijken van één-op-veel (1: N), waarvoor in principe een gegevensbank nodig is die meerdere personen bevat. De verwerking voor verificatiedoeleinden is een één-op-één-vergelijking (1:1) en wordt gebruikt om na te gaan en te bevestigen, door middel van een biometrische vergelijking, of een persoon dezelfde persoon is als degene van wie de biometrische gegevens afkomstig zijn. Voor zover het EDPB bekend, hanteren de momenteel beschikbare VVA's uitsluitend technologieën om de spreker te identificeren.

30 Overeenkomstig de AVG biedt de aard van de gegevens niet altijd voldoende houvast om vast te stellen of die gegevens behoren tot een bijzondere categorie persoonsgegevens, omdat 'de verwerking van foto's alleen [valt] onder de definitie van biometrische gegevens wanneer zij worden verwerkt met behulp van bepaalde technische middelen die de unieke identificatie of authenticatie van een natuurlijke persoon mogelijk maken' (overweging 51). Hetzelfde geldt voor spraak.

servicevoorwaarden maar ook van de wijze waarop de dienst bij de gebruikers wordt aangeprezen - en van de vraag of de dienst zonder personaliseren kan worden verleend. 31

86. Wanneer personalisering plaatsvindt in het kader van een contractuele relatie en als onderdeel van een dienst waarom de eindgebruiker uitdrukkelijk verzoekt (en de verwerking beperkt is tot wat strikt noodzakelijk is om deze dienst te verlenen), kan deze verwerking gebaseerd zijn op artikel 6, lid 1, onder b), van de AVG.
87. Wanneer de verwerking niet strikt ' noodzakelijk [is] voor de uitvoering van een overeenkomst ' als bedoeld in artikel 6, lid 1, onder b), van de AVG, is de VVA-aanbieder in principe verplicht om toestemming te vragen aan de betrokkene. Aangezien krachtens artikel 5, lid 3, van de eprivacyrichtlijn toestemming vereist is voor het opslaan van of het verkrijgen van toegang tot informatie (zie de punten 28-29 hierboven), zal toestemming krachtens artikel 6, lid 1, onder a), van de AVG in beginsel ook de passende rechtsgrond zijn voor de verwerking van persoonsgegevens na die handelingen, aangezien een beroep op het rechtmatige belang in bepaalde gevallen het extra beschermingsniveau waarin artikel 5, lid 3, van de eprivacyrichtlijn voorziet, zou kunnen ondermijnen.
88. Wat het opstellen van gebruikersprofielen voor reclamedoeleinden betreft, dient te worden opgemerkt dat dit doel nooit wordt beschouwd als een dienst waarom de eindgebruiker uitdrukkelijk heeft verzocht. In geval van verwerking voor dit doel moet de toestemming van de gebruikers dus systematisch worden verzameld.

Aanbevelingen

89. De gebruiker moet geïnformeerd worden over het doel waarvoor zijn persoonsgegevens worden verwerkt. Dat doel moet bovendien overeenkomen met de verwachtingen van de gebruiker van het aangeschafte apparaat. In het geval van een VVA is dat doel - vanuit het oogpunt van de gebruiker - duidelijk de verwerking van zijn stem met als enig doel zijn vraag te interpreteren en zinvolle antwoorden te geven (of dat nu antwoorden op een vraag zijn of andere reacties, zoals het op afstand bedienen van een lichtschakelaar).
90. Bij het verwerken van persoonsgegevens op basis van toestemming moet die toestemming ' worden gegeven in verband met één of meer specifieke doeleinden, en dat de betrokkene voor elk daarvan mag kiezen '. Bovendien geldt dat ' een verwerkingsverantwoordelijke die toestemming wil krijgen voor een aantal verschillende doeleinden, voor elk doel een afzonderlijke opt-in moet aanbieden om gebruikers in staat te stellen om specifieke toestemming te verlenen voor specifieke doeleinden ' 32 . De gebruiker moet bijvoorbeeld afzonderlijk toestemming kunnen geven of weigeren voor het handmatig beoordelen en labelen van spraaktranscripties of het gebruik van zijn spraakgegevens om de gebruiker te identificeren/verifiëren (zie punt 3.7).

3.5 Verwerken van gegevens van kinderen

91. Ook kinderen kunnen interactie hebben met een VVA of een eigen profiel aanmaken dat gekoppeld is aan dat van een volwassene. Soms maakt een VVA intrinsiek deel uit van een apparaat dat specifiek op kinderen gericht is.

31 Zie ook Richtsnoeren 2/2019, punt 57.

92. Wanneer de uitvoering van een overeenkomst als rechtsgrond dient voor de verwerking, worden de voorwaarden voor het verwerken van de gegevens van kinderen bepaald door de nationale verbintenissenwetgeving.
93. Wanneer de rechtsgrond voor de verwerking toestemming is, is overeenkomstig artikel 8, lid 1, van de AVG de verwerking van gegevens van kinderen alleen rechtmatig ' wanneer het kind ten minste 16 jaar is. Wanneer het kind jonger is dan 16 jaar is zulke verwerking slechts rechtmatig indien en voor zover de toestemming of machtiging tot toestemming in dit verband wordt verleend door de persoon die de ouderlijke verantwoordelijkheid voor het kind draagt '. Om te voldoen aan de AVG moet, wanneer toestemming de rechtsgrond is, bijgevolg aan ouders of voogden uitdrukkelijk toestemming worden gevraagd om gegevens van kinderen (stem, transcripties, enz.) te verzamelen, te verwerken en op te slaan.
94. Ouderlijk toezicht is tot op zekere hoogte beschikbaar, maar in zijn huidige vorm is het niet gebruiksvriendelijk (het is bijvoorbeeld nodig een nieuwe dienst aan te melden) of heeft het beperkte mogelijkheden. Een verwerkingsverantwoordelijke moet investeren in het ontwikkelen van middelen waarmee ouders en voogden toezicht kunnen houden op hoe hun kinderen de VVA gebruiken.

3.6 Gegevensbewaring

95. Een VVA verwerkt en genereert een grote verscheidenheid aan persoonsgegevens, zoals spraak, spraaktranscripties, metagegevens en de logbestanden van het systeem. Deze soorten gegevens kunnen worden verwerkt voor veel verschillende doeleinden, zoals dienstverlening, verbetering van NLP, personalisering of wetenschappelijk onderzoek. Overeenkomstig het AVG-beginsel van de beperking van gegevensopslag mogen VVA's gegevens niet langer bewaren dan nodig is voor de doeleinden waarvoor de persoonsgegevens worden verwerkt. De bewaartermijn moet daarom worden gekoppeld aan het doel waarvoor de gegevens worden verwerkt. Een VVA-aanbieder of derde die diensten via een VVA verleent, moet de maximale bewaartermijn apart beoordelen voor iedere dataset en voor ieder doel.
96. Het beginsel van minimale gegevensverwerking hangt nauw samen met dat van opslagbeperking. De verwerkingsverantwoordelijke moet niet alleen de opslagtermijn beperken, maar ook het soort en de hoeveelheid gegevens dat wordt opgeslagen.
97. De verwerkingsverantwoordelijke dient zichzelf onder andere af te vragen: Is het voor doel X noodzakelijk om alle spraakopnamen of alle transcripties te op te slaan? Is het nodig om de spraakgegevens op te slaan als de transcriptie eenmaal is opgeslagen? Zo ja, voor welk doel? Hoe lang zijn spraak- of transcriptiegegevens nodig voor elk doel? Het antwoord op deze en andere soortgelijke vragen is bepalend voor de bewaartermijnen die deel moeten uitmaken van de informatie die beschikbaar is voor de betrokkenen.
98. Sommige VVA's slaan persoonlijke gegevens, zoals spraakfragmenten of transcripties, standaard op voor onbepaalde tijd, maar bieden de gebruikers wel de mogelijkheid om die gegevens te wissen. Het onbeperkt bewaren van persoonsgegevens druist in tegen het beginsel van opslagbeperking. De betrokkenen de mogelijkheid bieden hun persoonsgegevens te wissen, ontslaat de verwerkingsverantwoordelijke niet van zijn verantwoordelijkheid om een beleid inzake gegevensbewaring vast te stellen en toe te zien op de naleving ervan.
99. Bij het ontwerpen van een VVA moet rekening worden gehouden met mechanismen waarmee de gebruiker zijn persoonsgegevens kan wissen van het apparaat zelf en van alle externe opslagsystemen. Deze mechanismen kunnen noodzakelijk zijn bij het vervullen van

• verschillende soorten verzoeken van de gebruiker, bijvoorbeeld om zijn gegevens te wissen of om eerder gegeven toestemming in te trekken. Bij het ontwerpen van sommige VVA's is geen rekening gehouden met dit vereiste. 33

100. Evenals in andere contexten kan het nodig zijn dat de verwerkingsverantwoordelijke persoonsgegevens bewaart als bewijs van een dienst die aan een gebruiker is verleend, om aan een wettelijke verplichting te voldoen. Op die grond mag de verwerkingsverantwoordelijke persoonsgegevens bewaren. De gegevens die worden bewaard, moeten echter beperkt blijven tot het minimum dat noodzakelijk is om aan een dergelijke wettelijke verplichting te voldoen, en gedurende de minimumperiode die daarvoor nodig is. Uiteraard mogen de gegevens die worden bewaard om aan een wettelijke verplichting te voldoen, niet voor andere doeleinden worden gebruikt zonder een rechtsgrond op grond van artikel 6 van de AVG.

Voorbeeld 10:

Een gebruiker koopt een televisie in een e-commercedienst door middel van een spraakopdracht aan een VVA. Zelfs als de gebruiker achteraf verzoekt om verwijdering van zijn gegevens, kan de VVA-aanbieder of -ontwikkelaar nog steeds bepaalde gegevens bewaren op grond van zijn wettelijke verplichting om het aankoopbewijs te bewaren. De gegevens die voor dit doel worden opgeslagen, mogen echter niet meer bedragen dan het minimum dat nodig is om aan de wettelijke verplichting te voldoen en mogen niet voor andere doeleinden worden verwerkt zonder een rechtsgrond op grond van artikel 6 van de AVG.

101. Zoals in punt 2 reeds is uiteengezet, worden de spraakherkenningsmogelijkheden van VVA's verbeterd door de systemen voor machinaal leren te trainen aan de hand van gegevens van gebruikers. Indien gebruikers niet instemmen met of hun toestemming intrekken voor het gebruik van hun gegevens voor dergelijke doeleinden, kunnen hun gegevens niet rechtmatig worden gebruikt om andere modellen te trainen en moeten zij door de verwerkingsverantwoordelijke worden gewist, ervan uitgaande dat er geen andere doeleinden zijn die verdere bewaring rechtvaardigen. Er zijn echter aanwijzingen dat sommige modellen voor machinaal leren risico's van heridentificatie inhouden. 34
102. Verwerkingsverantwoordelijken en gegevensverwerkers moeten modellen gebruiken die hun mogelijkheden om de verwerking te stoppen indien een persoon zijn toestemming intrekt, niet beperken. Ook mogen zij geen modellen gebruiken die hun bekwaamheid om de uitoefening van de rechten van de betrokkene te faciliteren, beperken. Verwerkingsverantwoordelijken en verwerkers moeten maatregelen nemen om het risico van heridentificatie tot een aanvaardbaar niveau te beperken.
103. Indien de gebruiker zijn toestemming intrekt, kunnen de van de gebruiker verzamelde gegevens niet langer worden gebruikt voor de verdere training van het model. Het op basis van die gegevens eerder getrainde model hoeft echter niet te worden gewist. Het EDPB wijst er echter op dat er aanwijzingen zijn dat er bij sommige modellen voor machinaal leren risico's

34 Veale Michael, Binns Reuben en Edwards Lilian 2018 'Algorithms that remember: model inversion attacks and data protection law' Phil. Trans. R. Soc. A.37620180083, doi: 10.1098/rsta.2018.0083

[3].pdf

op het uitlekken van persoonsgegevens kunnen bestaan. In het bijzonder hebben talrijke studies aangetoond dat zowel reconstructie-aanvallen als aanvallen gericht op doelgroepinferentie ( membership inference -aanvallen) kunnen worden uitgevoerd, waardoor aanvallers informatie over personen kunnen achterhalen. 35 Daarom moeten verwerkingsverantwoordelijken en gegevensverwerkers maatregelen nemen om het risico van heridentificatie te beperken tot een aanvaardbaar niveau, om te waarborgen dat de modellen die zij gebruiken geen persoonsgegevens bevatten.

104. De betrokkene mag niet worden gestuurd in de richting van toestemming om zijn gegevens voor een onbepaalde tijd bewaren. Hoewel het wissen van opgeslagen spraakgegevens of transcripties mogelijk gevolgen heeft voor de prestaties van de dienst, dienen die gevolgen aan de gebruiker op duidelijke en meetbare wijze te worden uitgelegd. De VVA-aanbieder mag geen algemene uitspraken doen over een vermindering van de kwaliteit van de dienst wanneer de persoonsgegevens worden gewist.
105. Het is bijzonder lastig spraakgegevens te anonimiseren, omdat het mogelijk is de gebruiker te identificeren aan de hand van het inhoudelijke bericht en de stem zelf. Er wordt echter onderzoek 36 gedaan naar methoden om omgevingsinformatie zoals achtergrondgeluiden te verwijderen en de spraak te anonimiseren.

Aanbevelingen

106. Vanuit het oogpunt van de gebruiker worden gegevens primair verwerkt voor vragen en antwoorden en/of om opdracht te geven voor handelingen als het afspelen van muziek of het in- of uitschakelen van verlichting. Nadat de vraag is beantwoord of de opdracht is uitgevoerd, moeten de persoonsgegevens worden gewist, tenzij de VVA-ontwerper of -ontwikkelaar een geldige rechtsgrond heeft om deze te bewaren voor een specifiek doel.
107. Alvorens anonimisering te overwegen als middel om te voldoen aan het beginsel van de beperking van gegevensopslag, moeten VVA-aanbieders en -ontwikkelaars controleren of het anonimiseringsproces de stem niet-identificeerbaar maakt.
108. De standaardinstellingen moeten deze vereisten weerspiegelen door standaard een absoluut minimum aan opgeslagen gebruikersinformatie te verstrekken. Als deze opties worden gepresenteerd als onderdeel van een installatiewizard, moet de standaardinstelling dit weerspiegelen en moeten alle opties als gelijke mogelijkheden worden gepresenteerd zonder visueel onderscheid.
109. Als deze opties worden gepresenteerd als onderdeel van een installatiewizard, moet de standaardinstelling dit weerspiegelen en moeten alle opties als gelijke mogelijkheden worden gepresenteerd zonder visueel onderscheid.

3.7 Beveiliging

110. Om persoonsgegevens veilig te kunnen verwerken, moet een VVA de vertrouwelijkheid, de integriteit en de beschikbaarheid ervan waarborgen. Naast de risico's die samenhangen met

35 N. Carlini e.a., 'Extracting Training Data from Large Language Models', december 2020.

Zie daarnaast ook de door het onderzoeksen innovatieproject COMPRISE van H2020 ontwikkelde opensourcemogelijkheden voor spraakanonimisering: https://gitlab.inria.fr/comprise/voice\_transformation.

elementen in het VVA-ecosysteem brengt het gebruik van spraak als communicatiemiddel ook nieuwe beveiligingsrisico's met zich mee.

111. Een VVA kan door meerdere gebruikers worden gebruikt. Er kan meer dan één gebruiker worden geregistreerd en iedereen in de omgeving kan opdrachten geven en gebruikmaken van de diensten. Elke VVA-dienst waarbij vertrouwelijkheid geboden is, vereist een toegangscontrolemechanisme en gebruikersauthenticatie. Zonder toegangscontrole kan iedereen die in staat is de VVA gesproken opdrachten te geven, de persoonsgegevens van alle gebruikers opvragen, aanpassen of wissen (bijvoorbeeld door ontvangen berichten, het adres van de gebruiker of afspraken in de agenda op te vragen). Om een gesproken opdracht te geven, hoeft de gebruiker niet fysiek in de buurt van de VVA te zijn: een VVA kan immers worden gemanipuleerd, bijvoorbeeld door het uitzenden van signalen 37 (zoals via radio of televisie). Er bestaan zelfs manieren om een VVA op afstand opdrachten te geven die niet op te merken zijn door menselijke zintuigen, bijvoorbeeld door middel van laser 38 of ultrasone (onhoorbare) golven 39 .
112. Gebruikersauthenticatie kan berusten op een of meer van de volgende factoren: iets wat je weet (bijvoorbeeld een wachtwoord), iets wat je hebt (bijvoorbeeld een smartcard) of iets wat je bent (bijvoorbeeld een stemherkenning of voice fingerprint ). Uit nadere bestudering van deze authenticatiefactoren in de VVA-context blijkt het volgende:
113. GLYPH<UNKNOWN> Verificatie op basis van iets dat de gebruiker weet, levert problemen op. Het geheim waarmee de identiteit van de gebruiker wordt bevestigd, moet hardop worden uitgesproken en is daarmee voor iedereen in de omgeving hoorbaar. Het communicatiekanaal van de VVA is de omringende lucht, die niet kan worden versterkt zoals de traditionele kanalen dat kunnen (bijvoorbeeld door de toegang tot het kanaal te beperken of de inhoud ervan te versleutelen).
114. GLYPH<UNKNOWN> Authenticatie aan de hand van iets waarover de gebruiker beschikt, zou vereisen dat de VVA-aanbieders 'tokens' creëren, distribueren en beheren die als identiteitsbewijs kunnen worden gebruikt.
115. GLYPH<UNKNOWN> Verificatie op basis van iets dat de gebruiker is, betreft het gebruik van biometrische gegevens om de unieke identiteit van een natuurlijk persoon vast te stellen (zie punt 3.7 hieronder).
116. Een VVA-gebruikersaccount is gekoppeld aan het apparaat waarmee de dienst wordt verleend. Vaak wordt hetzelfde account waarmee de VVA wordt beheerd, ook gebruikt om andere diensten te beheren. De eigenaar van een Android-mobiel en een Google Home-speaker kan (en zal waarschijnlijk) zijn Google-account bijvoorbeeld koppelen aan beide apparaten. De meeste VVA's vereisen of bieden geen identificatie- of authenticatiemechanisme wanneer een apparaat dat een VVA-dienst levert, slechts één gebruikersaccount heeft.
117. Wanneer er meer dan één gebruikersaccount aan het apparaat is gekoppeld, bieden sommige VVA's een optionele basistoegangscontrole in de vorm van een PIN-code zonder echte

37 X. Yuan e.a., 'All Your Alexa Are Belong to Us: A Remote Voice Control Attack against Echo' 2018 IEEE Global Communications Conference (GLOBECOM), Abu Dhabi, Verenigde Arabische Emiraten, 2018, blz. 1-6, doi: 10.1109/GLOCOM.2018.8647762.

• gebruikersauthenticatie. Sommige andere VVA's hebben de optie om stemherkenning te gebruiken als identificatiemechanisme.

115. Hoewel gebruikersidentificatie of -authenticatie misschien niet nodig is om toegang te krijgen tot alle VVA-diensten, zal deze voor sommigen zeker wel noodzakelijk zijn. Bij gebrek aan een identificatie- of verificatiemiddel zou iedereen toegang kunnen krijgen tot de gegevens van de andere gebruikers en deze naar believen kunnen aanpassen of wissen. Wie in de buurt is van een smartspeaker, kan bijvoorbeeld afspeellijsten van andere gebruikers uit de muziekstreamingdienst, opdrachten uit de opdrachtgeschiedenis of contacten uit de contactenlijst verwijderen.
116. De meeste VVA's vertrouwen blindelings op het lokale netwerk. Elk gecompromitteerd apparaat in hetzelfde netwerk zou de instellingen van de smartspeaker kunnen wijzigen of de installatie van malware of het koppelen van valse applicaties/vaardigheden aan de smartspeaker mogelijk kunnen maken zonder medeweten of toestemming van de gebruiker. 40
117. Net als alle andere software, is de software van een VVA kwetsbaar. Omdat de markt voor VVA's zo geconcentreerd is 41 , kan elke kwetsbaarheid miljoenen VVA-gebruikers treffen. Als de VVA functioneert zoals deze nu ontworpen is, stuurt hij geen informatie naar de spraakherkenningsclouddienst totdat de activeringsuitdrukking wordt herkend. Kwetsbare software kan een aanvaller echter in staat stellen de VVA-installatie en beveiligingsmaatregelen te omzeilen en er vervolgens voor zorgen dat kopieën van alle gegevens die naar de VVA-cloud worden verzonden, worden doorgestuurd naar een door de aanvaller beheerde server.
118. Door VVA's rechtmatig verwerkte of verkregen gegevens maken het mogelijk een vrij nauwkeurig profiel van hun gebruikers op te stellen, aangezien VVA's de locatie, de relaties en de interesses van hun gebruikers kennen of kunnen afleiden. Steeds meer gebruikers hebben een VVA in hun huis of op hun smartphone. Hierdoor wordt het risico van massaal afluisteren en massaal profileren steeds groter. Daarom moeten de beveiligingsmaatregelen ter bescherming van de gegevens zowel in transit als in rusttoestand, op de apparaten en in de cloud, op deze risico's zijn afgestemd.
119. Het toenemende gebruik van de VVA in combinatie met onvoldoende afgewogen toegangsrechten door rechtshandhavingsinstanties zou een afschrikkend effect kunnen hebben dat de grondrechten, zoals de vrijheid van meningsuiting, zou ondermijnen.
120. Rechtshandhavingsinstanties, zowel binnen 42 als buiten 43 de EU, hebben reeds belangstelling getoond voor toegang tot de door VVA's vastgelegde spraakfragmenten. Toegang tot door VVA verwerkte of afgeleide gegevens binnen de EU moet plaatsvinden binnen het bestaande kader inzake regelgeving van gegevensbescherming en privacy in de EU. Indien een lidstaat overweegt specifieke wetgeving uit te vaardigen om het grondrecht op privacyen

41 De VVA-markt beslaat momenteel minder dan 12 dienstverleners.

Security Research Labs, Smart Spies: Alexa and Google Home expose users to vishing and eavesdropping , november 2019, https://srlabs.de/bites/smart-spies

gegevensbescherming te beperken, moeten dergelijke beperkingen altijd in overeenstemming zijn met het vereiste van artikel 23 van de AVG 44 .

121. De menselijke beoordeling van spraakopnamen en aanverwante gegevens om de kwaliteit van de VVA-dienstverlening te verbeteren, is gebruikelijk bij VVA-aanbieders. Gezien de gevoelige aard van de gegevens die door deze menselijke beoordelaars worden verwerkt en het feit dat dit proces vaak wordt uitbesteed aan een verwerker, is het van het grootste belang dat er adequate beveiligingsmaatregelen worden getroffen.

Aanbevelingen

122. Ontwerpers van VVA's en ontwikkelaars van applicaties moeten gebruikers voorzien van veilige en geavanceerde verificatieprocedures.
123. Menselijke beoordelaars moeten altijd de strikt noodzakelijke gepseudonimiseerde gegevens ontvangen. De juridische overeenkomsten die van toepassing zijn op de beoordeling moeten uitdrukkelijk elke verwerking verbieden die kan leiden tot de identificatie van de betrokkene.
124. Wanneer de VVA noodoproepen als optie biedt, dient een stabiele uptime 45 te worden gegarandeerd.

3.8 Verwerken van bijzondere categorieën persoonsgegevens

125. Zoals eerder vermeld, hebben VVA's toegang tot informatie van intieme aard die kan worden beschermd op grond van artikel 9 van de AVG (zie punt 3.7.1), zoals biometrische gegevens (zie punt 3.7.2). Daarom moeten VVA-ontwerpers en -ontwikkelaars zorgvuldig nagaan in welke gevallen de verwerking bijzondere categorieën gegevens impliceert.

3.8.1 Algemene overwegingen bij het verwerken van bijzondere categorieën gegevens

126. Er bestaan verschillende omstandigheden waaronder een VVA bijzondere categorieën gegevens kan verwerken:
127. GLYPH<UNKNOWN> Als onderdeel van de eigen diensten, bijvoorbeeld het beheren van medische afspraken in de agenda van de gebruiker.
128. GLYPH<UNKNOWN> Als de VVA optreedt als tussenschakel voor diensten van derden, verwerkt de VVAaanbieder de inhoud van de opdrachten. Afhankelijk van het soort dienst waarom de gebruiker vraagt, kan de VVA-aanbieder ook bijzondere categorieën gegevens verwerken. Een voorbeeld hiervan zou kunnen zijn wanneer een gebruiker een VVA opdracht geeft een applicatie van derden te gebruiken om haar ovulatie bij te houden. 46
129. GLYPH<UNKNOWN> Wanneer spraakgegevens worden gebruikt voor de unieke identificatie van de gebruiker, zoals hierna toegelicht.

45 Dit is de tijd dat een apparaat of een dienst onbeheerd kan blijven zonder te crashen of opnieuw opgestart te moeten worden voor administratieve of onderhoudsdoeleinden.

3.8.2 Specifieke overwegingen bij het verwerken van biometrische gegevens

127. Sommige VVA's kunnen hun gebruikers alleen op basis van hun stem uniek identificeren. Dit proces wordt spraakmodelherkenning genoemd. Tijdens de registratiefase van stemherkenning verwerkt de VVA de stem van een gebruiker om een stemmodel (of stemafdruk) te creëren. Bij regelmatig gebruik kan de VVA het stemmodel van een gebruiker berekenen en dit vergelijken met de opgeslagen modellen om de gebruiker die een opdracht heeft gegeven, uniek te identificeren.

Voorbeeld 11:

Een groep gebruikers stelt een VVA in om spraakmodelherkenning te gebruiken. Vervolgens registreert iedere gebruiker zijn spraakmodel.

Op een later moment vraagt één van de gebruikers via de VVA de afspraken op in zijn agenda. Aangezien voor toegang tot de agenda gebruikersidentificatie vereist is, extraheert de VVA het model van de stem van het verzoek, berekent hij het stemmodel en controleert hij of het overeenkomt met een opgeslagen gebruiker en of die specifieke gebruiker toegang heeft tot de agenda.

128. In het bovenstaande voorbeeld komt de herkenning van de stem van de gebruiker op basis van een stemmodel neer op de verwerking van bijzondere categorieën persoonsgegevens in de zin van artikel 9 van de AVG (verwerking van biometrische gegevens met het oog op de unieke identificatie van een natuurlijke persoon). 47 Voor het verwerken van biometrische gegevens voor gebruikersidentificatie als beschreven in het voorbeeld, is uitdrukkelijke toestemming van de betrokkene(n) vereist (artikel 9, lid 2, onder a), van de AVG). Daarom moeten de verwerkingsverantwoordelijke bij het verkrijgen van de toestemming van de gebruikers voldoen aan de voorwaarden van artikel 7 en zoals verduidelijkt in overweging 32 van de AVG, en moet hij een alternatieve identificatiemethode voor biometrische gegevens aanbieden, met inachtneming van de vrije aard van de toestemming.

129. Bij het gebruik van stemgegevens voor biometrische identificatie of authenticatie moet verwerkingsverantwoordelijke transparant maken waar biometrische identificatie wordt gebruikt en hoe stemafdrukken (biometrische modellen) worden opgeslagen en doorgegeven tussen apparaten. Om aan dit transparantievereiste te voldoen, beveelt het EDPB aan de antwoorden op de volgende vragen te verstrekken:

130. GLYPH<UNKNOWN> Leidt activering van de spraakherkenning op één apparaat automatisch tot activering van dezelfde functie op alle andere apparaten met hetzelfde account?

131. GLYPH<UNKNOWN> Wordt activering van de spraakherkenning via de infrastructuur van de verwerkingsverantwoordelijke van de VVA verspreid naar apparaten van andere gebruikers?

132. GLYPH<UNKNOWN> Waar worden de biometrische modellen gegenereerd, opgeslagen en vergeleken?

133. GLYPH<UNKNOWN> Zijn de biometrische modellen toegankelijk voor aanbieders of ontwikkelaars van VVA's of voor anderen?

134. Wanneer de geregistreerde gebruiker de VVA's configureert om de stem van de gebruikers te identificeren, wordt ook de stem van niet-geregistreerde en accidentele gebruikers verwerkt met het oog op de unieke identificatie ervan.

135. Om de stem van de juiste gebruiker te herkennen, moet die stem immers worden vergeleken met de stem van anderen in de nabijheid van de assistent. Met andere woorden, de in spraakassistenten geïmplementeerde spraakherkenningsfunctie kan vereisen dat de biometrische kenmerken van de stem van de personen die in het huishouden spreken, worden geregistreerd, zodat de stemkenmerken van de gebruiker kunnen worden onderscheiden van die van de persoon die wil worden herkend. Biometrische identificatie brengt daarom mogelijk met zich mee dat personen onbewust het onderwerp worden van biometrische verwerking, wanneer hun model wordt geregistreerd en vergeleken met dat van de gebruiker die herkend wil worden.

136. Om te voorkomen dat dergelijke biometrische gegevens zonder medeweten van de betrokkenen worden verzameld en er toch voor te zorgen dat een gebruiker door de assistent kan worden herkend, moet voorrang worden gegeven aan oplossingen die uitsluitend op de gegevens van de gebruiker zijn gebaseerd. Concreet betekent dit dat de biometrische herkenning alleen bij elk gebruik op initiatief van de gebruiker wordt geactiveerd, en niet door een permanente analyse van de door de assistent gehoorde stemmen. Er zou bijvoorbeeld een specifiek trefwoord of een specifieke vraag aan de aanwezigen kunnen worden gesteld om hun toestemming te verkrijgen voor het in werking stellen van de biometrische verwerking. De gebruiker kan bijvoorbeeld 'identificatie' zeggen of de assistent kan vragen 'wil je worden geïdentificeerd?' en op een positieve antwoord wachten om de biometrische verwerking te activeren.

Voorbeeld 12:

Indien de gebruiker biometrische verificatie wenst in te stellen voor toegang tot bepaalde beschermde gegevens zoals zijn bankrekening, zou de spraakassistent de sprekerherkenning kunnen activeren, wanneer hij alleen de applicatie opstart, en op die manier zijn identiteit verifiëren.

Aanbevelingen

133. Spraakmodellen dienen uitsluitend op het lokale apparaat te worden gegenereerd, opgeslagen en vergeleken, en niet op externe servers.
134. Gezien de gevoeligheid van de stemafdrukken moeten normen zoals ISO/IEC 24745 en technieken voor de bescherming van biometrische modellen 48 strikt worden toegepast.
135. Indien een VVA gebruikmaakt van stemgestuurde biometrische identificatie, moet de VVAaanbieder:

48 Zie bijvoorbeeld:

S. K. Jami, S. R. Chalamala en A. K. Jindal, " Biometric Template Protection Through Adversarial Learning " 2019 IEEE International Conference on Consumer Electronics (ICCE) , Las Vegas, NV, Verenigde Staten, 2019, blz. 1-6, doi: 10.1109/ICCE.2019.8661905.

Jain, Anil & Nandakumar, Karthik & Nagar, Abhishek. (2008). ' Biometric Template Security '. EURASIP Journal on Advances in Signal Processing. 2008. 10.1155/2008/579416.

• GLYPH<UNKNOWN> ervoor zorgen dat de identificatie voldoende nauwkeurig is om persoonsgegevens op betrouwbare wijze in verband te brengen met de juiste betrokkene.
• GLYPH<UNKNOWN> ervoor zorgen dat de nauwkeurigheid voor alle gebruikersgroepen gelijk is door na te gaan of er geen wezenlijke vertekening is ten opzichte van verschillende demografische groepen.

3.9 Gegevensminimalisering

136. Verwerkingsverantwoordelijken moeten de hoeveelheid gegevens die direct of indirect worden verzameld en door verwerking en analyse worden verkregen, tot een minimum beperken; zo mogen zij bijvoorbeeld geen analyse van de stem of andere hoorbare informatie van de gebruiker uitvoeren om informatie af te leiden over zijn geestelijke toestand, eventuele ziekte of levensomstandigheden.
137. Standaardinstellingen invoeren die het verzamelen en/of verwerken van gegevens beperken tot de minimaal vereiste hoeveelheid die nodig is om de dienst te verlenen.
138. Afhankelijk van de locatie, de gebruikscontext en de microfoongevoeligheid, zou de VVA bij het verzamelen van de stem van de gebruikers stemgegevens van derden kunnen verzamelen als onderdeel van het achtergrondgeluid. Zelfs indien het achtergrondgeluid geen stemgegevens bevat, kan het toch situatiegegevens bevatten die kunnen worden verwerkt om informatie over de betrokkene af te leiden (bijvoorbeeld locatie).

Aanbevelingen

139. VVA-ontwerpers moeten technologieën overwegen die het achtergrondgeluid verwijderen om te voorkomen dat achtergrondstemmen en situationele informatie worden opgenomen en verwerkt.

3.10 Verantwoording

140. Voor elke verwerking die op toestemming is gebaseerd, moeten de verwerkingsverantwoordelijken overeenkomstig artikel 7, lid 1, van de AVG de toestemming van de betrokkenen kunnen bewijzen. Spraakgegevens kunnen voor verantwoordingsdoeleinden worden gebruikt (bijvoorbeeld als bewijs van toestemming). De bewaarplicht voor dergelijke spraakgegevens zou dan worden bepaald door de verantwoordingsvereisten van de desbetreffende specifieke wetgeving.
141. Bij het beoordelen van de noodzaak van een gegevensbeschermingseffectbeoordeling heeft het EDPB criteria 49 vastgesteld die gegevensbeschermingsautoriteiten moeten gebruiken bij het opstellen van lijsten van verwerkingen waarvoor een verplichte gegevensbeschermingseffectbeoordeling vereist is, en verstrekt het Comité voorbeelden van verwerkingen waarvoor zo'n beoordeling waarschijnlijk vereist is. Het is zeer waarschijnlijk dat VVA-diensten vallen onder de categorieën en voorwaarden waarvoor een gegevensbeschermingseffectbeoordeling vereist is. Dit omvat het in aanmerking nemen of het apparaat betrokkenen stelselmatig en grootschalig monitort overeenkomstig artikel 35, lid 3, onder c), van de AVG, het gebruik van 'nieuwe technologie', en de verwerking van gevoelige gegevens en gegevens betreffende kwetsbare betrokkenen.

49 Groep Gegevensbescherming Artikel 29, Richtsnoeren voor gegevensbeschermingseffectbeoordeling, wp248 rev.01, goedgekeurd door het EDPB.

142. Alle activiteiten in verband met de verzameling en verwerking van gegevens moeten worden gedocumenteerd overeenkomstig artikel 30 van de AVG. Dit geldt ook voor alle verwerkingen van spraakgegevens.

Aanbevelingen

143. Indien spraakberichten moeten worden gebruikt om gebruikers te informeren overeenkomstig artikel 13 van de AVG, dienen de verwerkingsverantwoordelijken deze berichten op hun website te publiceren zodat zij toegankelijk zijn voor de gebruikers en de gegevensbeschermingsautoriteiten.

3.11 Gegevensbescherming door ontwerp en door standaardinstellingen

144. Aanbieders en ontwikkelaars van VVA's dienen te bekijken of het noodzakelijk is om voor iedere functionaliteit een geregistreerde gebruiker te hebben. Hoewel het duidelijk is dat gebruiker geregistreerd moet zijn om een agenda of een adresboek te beheren, is het niet zo duidelijk dat de VVA voor het voeren van een telefoongesprek of een zoekopdracht op internet een geregistreerde gebruiker nodig heeft.
145. Als standaardinstelling mag een dienst waarvoor geen gebruiker geïdentificeerd hoeft te worden, geen van de geïdentificeerde gebruikers van de VVA koppelen aan een opdracht. Een privacyen gegevensbeschermingsvriendelijke standaard-VVA zou de gegevens van de gebruikers alleen verwerken voor het uitvoeren van de verzoeken van de gebruikers en zou noch spraakgegevens, noch een register van uitgevoerde opdrachten opslaan.
146. Sommige apparaten werken met slechts één VVA, terwijl bij andere de gebruiker kan kiezen uit meerdere VVA's. Aanbieders van VVA's dienen sectornormen te ontwikkelen om gegevensoverdraagbaarheid mogelijk te maken overeenkomstig artikel 20 van de AVG.
147. Volgens sommige VVA-aanbieders kunnen hun VVA's niet alle gebruikersgegevens wissen, zelfs als de betrokkene daarom verzoekt. VVA-aanbieders moeten ervoor zorgen dat alle gebruikersgegevens op verzoek van de gebruiker gewist kunnen worden overeenkomstig 17 van de AVG.

4 MIDDELEN OM RECHTEN VAN BETROKKENEN UIT TE OEFENEN

148. In overeenstemming met de AVG moeten de verwerkingsverantwoordelijken die VVAdiensten verlenen, alle gebruikers, geregistreerd en niet-geregistreerd, in staat stellen hun rechten als betrokkene uit te oefenen.
149. VVA-aanbieders en -ontwikkelaars moeten de betrokkenen gedurende de gehele verwerkingsperiode controle over hun gegevens bieden, en met name hun recht van inzage, recht op rectificatie, recht op gegevenswissing, recht op beperking van de verwerking en, afhankelijk van de rechtsgrond van de verwerking, hun recht op gegevensoverdraagbaarheid en recht om bezwaar te maken, versoepelen.
150. De verwerkingsverantwoordelijke dient informatie te verschaffen over de rechten van de betrokkene zodra de betrokkene de VVA aanzet, en uiterlijk wanneer de eerste spraakopdracht van de gebruiker wordt verwerkt.
151. Aangezien het belangrijkste interactiemiddel voor VVA's de stem is, moeten VVA-ontwerpers ervoor zorgen dat al dan niet geregistreerde gebruikers alle rechten van de betrokkenen

kunnen uitoefenen, met behulp van gemakkelijk te volgen spraakopdrachten. VVAontwerpers, alsook applicatieontwikkelaars indien zij deel uitmaken van de oplossing, moeten aan het einde van het uitoefenproces de gebruiker ervan in kennis stellen dat zijn rechten naar behoren in aanmerking zijn genomen, door middel van een stembericht of een schriftelijke kennisgeving op de mobiele telefoon van de gebruiker, op zijn account of op een andere door de gebruiker gekozen wijze.

152. VVA-ontwerpers en applicatieontwikkelaars zouden op zijn minst specifieke tools moeten ontwikkelen die een effectieve en efficiënte manier bieden om dergelijke rechten uit te oefenen. Daarom moeten zij voor hun apparaten een manier voorstellen om de rechten van de betrokkenen uit te oefenen, bijvoorbeeld door de betrokkenen tools voor zelfbediening (bijvoorbeeld een profielbeheersysteem) aan te reiken 50 . Dit kan een efficiënte en tijdige behandeling van de rechten van de betrokkene vergemakkelijken en zal de verwerkingsverantwoordelijke in staat stellen het identificatiemechanisme in de zelfbedieningstool op te nemen.
153. Wat betreft de uitoefening van de rechten van de betrokkene in het geval van meerdere gebruikers: wanneer een al dan niet geregistreerde gebruiker een van zijn rechten uitoefent, dient hij dat te doen onverminderd de rechten van andere gebruikers. Zolang de verwerkingsverantwoordelijke de gegevens blijft verwerken, mag iedere gebruiker - zowel geregistreerd als niet-geregistreerd -zijn rechten uitoefenen. De verwerkingsverantwoordelijke dient te voorzien in een proces dat het voor iedere betrokkene mogelijk maakt om zijn rechten uit te oefenen.

4.1 Recht van inzage

154. Overeenkomstig artikel 12, lid 1, van de AVG moet de in artikel 15 bedoelde communicatie schriftelijk of met andere middelen, waaronder, in voorkomend geval, elektronische middelen, worden verstrekt. Wat de toegang tot de persoonsgegevens die worden verwerkt betreft, wordt in artikel 15, lid 3, bepaald dat wanneer de betrokkene langs elektronische weg een verzoek indient, en tenzij de betrokkenen anderszins verzoeken, de informatie in een gangbare elektronische vorm moet worden verstrekt. Wat als een gangbare elektronische vorm kan worden beschouwd, moet worden gebaseerd op de redelijke verwachtingen van de betrokkenen en niet op de vorm die de verwerkingsverantwoordelijke in zijn dagelijkse werkzaamheden gebruikt. Van de betrokkene kan niet worden geëist dat hij specifieke soft- of hardware aanschaft om de informatie in te zien.
155. De verwerkingsverantwoordelijken dienen derhalve op verzoek een kopie van de persoonsgegevens, en met name van audiogegevens (met inbegrip van stemopnames en transcripties), toe te zenden in een gangbare, voor de betrokkene leesbare vorm.
156. Bij het bepalen van de vorm waarin de in artikel 15 bedoelde informatie moet worden verstrekt, moet de verwerkingsverantwoordelijke voor ogen houden dat de vorm het mogelijk moet maken de informatie op een begrijpelijke en gemakkelijk toegankelijke manier te presenteren. De verwerkingsverantwoordelijke dient daarnaast de informatie af te stemmen op de specifieke situatie van de betrokkene die om de informatie heeft gevraagd.

50 Een profielbeheersysteem is een plek binnen het VVA-systeem waar gebruikers op elk moment hun voorkeuren kunnen opslaan, wijzigingen kunnen instellen en gemakkelijk hun privacyinstellingen kunnen aanpassen.

Voorbeeld 13:

Een verwerkingsverantwoordelijke die een VVA-dienst aanbiedt, ontvangt van een gebruiker zowel een verzoek om toegang als een verzoek om gegevensoverdraagbaarheid. De verwerkingsverantwoordelijke besluit de informatie krachtens zowel artikel 15 als artikel 20 als een pdf-bestand te verstrekken. In een dergelijk geval mag de verwerkingsverantwoordelijke niet worden geacht beide verzoeken op correcte wijze af te handelen. Een pdf-bestand voldoet technisch gezien aan de verplichtingen van de verwerkingsverantwoordelijke krachtens artikel 15, maar niet aan de verplichtingen van de verwerkingsverantwoordelijke krachtens artikel 20 51

Hierbij dient te worden opgemerkt dat het louter verwijzen van gebruikers naar een geschiedenis van hun interacties met de spraakassistent de verwerkingsverantwoordelijke niet in staat lijkt te stellen al zijn verplichtingen in het kader van het recht van inzage na te komen, aangezien de toegankelijke gegevens over het algemeen slechts een deel vormen van de informatie die wordt verwerkt in het kader van de levering van de dienst.

157. Het recht van inzage mag niet worden gebruikt om de beginselen van gegevensminimalisering en gegevensbewaring tegen te gaan of te omzeilen.

4.2 Recht op rectificatie

158. Om de rectificatie van gegevens te vergemakkelijken, moeten al dan niet geregistreerde gebruikers hun gegevens te allen tijde met hun stem rechtstreeks vanaf het VVA-apparaat kunnen beheren en bijwerken, zoals hierboven beschreven. Bovendien dient het apparaat of de applicatie voorzien te zijn van een 'zelf regelen'-functie waarmee de gebruiker zijn persoonsgegevens gemakkelijk van rectificeren. De gebruiker dient van de bijgewerkte gegevens in gesproken dan wel schriftelijke vorm in kennis te worden gesteld.
159. Meer in het algemeen heeft het recht op rectificatie betrekking op alle meningen en afgeleide informatie 52 van de verwerkingsverantwoordelijke, waaronder profielinformatie. Hierbij dient rekening te worden gehouden met het feit dat de overgrote meerderheid van de gegevens uiterst subjectief is. 53

4.3 Recht op gegevenswissing

160. Al dan niet geregistreerde gebruikers moeten te allen tijde met hun stem vanaf het VVAapparaat, of via een in een VVA-apparaat geïntegreerd zelfbedieningsinstrument, gegevens over hen kunnen wissen. In dit verband moeten de persoonsgegevens door een betrokkene even gemakkelijk kunnen worden gewist als zij zijn verstrekt. Gezien de inherente moeilijkheden bij het anonimiseren van spraakgegevens en de grote verscheidenheid aan

51 Richtsnoeren inzake het recht op gegevensoverdraagbaarheid van de Groep artikel 29 - goedgekeurd door het EDPB, blz. 18.

53 Getting Data Subject Rights Right, door wetenschappers op het gebied van gegevensbescherming bij het EDPB ingediend, november 2019.

52 Dat meningen en afgeleide informatie in sommige gevallen als persoonsgegevens worden aangemerkt, is bevestigd door het HvJ-EU, dat oordeelde dat de woorden ' iedere informatie ' in de definitie van persoonsgegevens zich uitstrekt tot ' zowel objectieve informatie als subjectieve informatie, in de vorm van meningen of beoordelingen, op voorwaarde dat deze informatie de betrokkene 'betreft' '' - zaak C-434/16 Peter Nowak v Data Protection Commissioner ECLI:EU:C:2017:994 [34].

persoonsgegevens die van de betrokkene worden verzameld, geobserveerd en afgeleid 54 , kan in deze context nauwelijks aan het recht op uitwissing worden voldaan door het anonimiseren van persoonlijke datasets. Aangezien de AVG technologieneutraal is en technologie zich snel ontwikkelt, wordt niet uitgesloten dat recht op gegevenswissing effectief kan worden door anonimisering.

161. In sommige gevallen is het zonder een scherm van een derde partij of de mogelijkheid om opgeslagen gegevens weer te geven (bijvoorbeeld een mobiele applicatie of een tablet) moeilijk om een voorbeeld te krijgen van de opgenomen fragmenten om de relevantie van de suggesties te beoordelen. Een dashboard (of een applicatie) dat ruim toegankelijk is voor gebruikers om het gebruik ervan te vergemakkelijken, moet worden geleverd met de spraakassistent om de geschiedenis van de gestelde vragen te wissen en het instrument aan te passen aan de behoeften van de gebruiker. 55
162. Voor elke gegevensverwerking, en met name wanneer geregistreerde betrokkenen ermee instemmen dat de stemopnames worden getranscribeerd en door de aanbieder worden gebruikt voor de verbetering van zijn diensten, moeten VVA-aanbieders op verzoek van de gebruiker de oorspronkelijke stemopname alsook elke daarmee verband houdende transcriptie van de persoonsgegevens kunnen wissen.
163. De verwerkingsverantwoordelijke dient ervoor te zorgen dat verdere verwerkingen onmogelijk zijn nadat het recht op gegevenswissing is uitgeoefend. Wat eerdere handelingen betreft, kan het recht op gegevenswissing aan een aantal wettelijke en technische beperkingen zijn onderworpen.

Voorbeeld 14:

Indien een gebruiker vóór het verzoek om verwijdering met behulp van zijn VVA een onlineaankoop heeft gedaan, kan de VVA-aanbieder de stemopname met betrekking tot de onlineaankoop wissen en ervoor zorgen dat er in de toekomst geen gebruik meer van wordt gemaakt. De aankoop blijft echter nog steeds van kracht, evenals de mondelinge bestelling of de schriftelijke transcriptie die door de e-commercewebsite is verwerkt (hier is de vrijstelling gebaseerd op de wettelijke verplichting van de e-commercewebsite).

In dezelfde geest zullen de VVA-aanbieders, indien de gebruiker vóór het verzoek om verwijdering een specifiek liedje aan zijn afspeellijst heeft toegevoegd door middel van zijn VVA, het mondelinge verzoek kunnen verwijderen, maar niet de gevolgen in het verleden van dat verzoek (het wissen zal geen gevolgen hebben voor de afspeellijst van de gebruiker).

164. Op basis van het bovenstaande moeten de verwerkingsverantwoordelijken, indien dezelfde persoonsgegevens voor verschillende verwerkingsdoeleinden worden verwerkt, verzoeken om gegevenswissing interpreteren als een duidelijk signaal om te stoppen met de verwerking van de gegevens voor alle doeleinden die niet wettelijk zijn vrijgesteld.

Overeenkomstig de voorwaarden van artikel 21, lid 1, van AVG mogen gegevens die op grond van gerechtvaardigde belangen van de VVA-aanbieders worden verwerkt, geen uitzondering

54 Advies 29 (2014) over anonimiseringstechnieken van de Groep artikel 29, vastgesteld op 10 april.

'Conseil Supérieur de l'Audiovisuel' van Frankrijk, mei 2019.

55 'Assistants vocaux et enceintes connectées, l'impact de la voix sur l'offre et les usages culturels et médias',

vormen op het recht op gegevenswissing, met name omdat de betrokkenen redelijkerwijs geen verdere verwerking van hun persoonsgegevens verwachten.

4.4 Recht op overdraagbaarheid van gegevens

165. De gegevensverwerking door de VVA-aanbieders valt onder het toepassingsgebied van overdraagbaarheid van gegevens, aangezien de verwerking hoofdzakelijk gebaseerd is op de toestemming van de betrokkene (op grond van artikel 6, lid 1, onder a), of op grond van artikel 9, lid 2, onder a), wanneer het gaat om bijzondere categorieën persoonsgegevens) of op een overeenkomst waarbij de betrokkene partij is op grond van artikel 6, lid 1, onder b).
166. In de praktijk dient het recht op overdraagbaarheid van gegevens het gemakkelijker te maken om van VVA-aanbieder te wisselen. VVA's die met name in een digitale omgeving opereren en waarbij de stem van de betrokkene in een applicatie of op een platform wordt opgenomen, moet het recht op overdraagbaarheid van gegevens worden verleend voor alle persoonsgegevens die door de betrokkene worden verstrekt. Bovendien dient de verwerkingsverantwoordelijke de gebruiker de mogelijkheid te bieden om zijn persoonsgegevens rechtstreeks uit de gebruikersomgeving op te vragen, in de vorm van een 'zelf regelen'- functie. De gebruiker dient dit recht tevens uit te kunnen oefenen door middel van een gesproken opdracht.
167. VVA-aanbieders en -ontwikkelaars moeten de betrokkenen een uitgebreide controle geven over de persoonsgegevens die hem of haar betreffen, zodat zij persoonsgegevens van een VVA-aanbieder naar een andere kunnen overdragen. Betrokkenen dienen daarom de aan de verwerkingsverantwoordelijke aangeleverde persoonsgegevens te ontvangen in een gangbare en machineleesbare vorm, alsmede via een middel 56 dat het mede mogelijk maakt om te voldoen aan verzoeken om gegevensoverdracht (bijvoorbeeld een downloadtool of applicatieprogramma-interface) 57 . Zoals in de Richtsnoeren inzake het recht op gegevensoverdraagbaarheid is toegelicht, dient bij een omvangrijke of complexe verzameling persoonsgegevens, zoals hier soms het geval is, de verwerkingsverantwoordelijke een overzicht te geven ' in een beknopte, transparante, begrijpelijke en gemakkelijk toegankelijke vorm en in duidelijke en eenvoudige taal ' (zie artikel 12, lid 1, van de AVG) zodat de betrokkene steeds duidelijk inzicht heeft in welke gegevens moeten worden gedownload of moeten worden overgedragen naar een andere verwerkingsverantwoordelijke in verband met een

' Op technisch vlak moeten verwerkingsverantwoordelijken twee verschillende en aanvullende trajecten onderzoeken en evalueren om overdraagbare gegevens beschikbaar te maken aan de betrokkenen of aan andere verwerkingsverantwoordelijken:

rechtstreekse verzending van de volledige dataset van overdraagbare gegevens (of meerdere extracten met delen van de volledige dataset);

een geautomatiseerd programma voor extractie van relevante gegevens.

Verwerkingsverantwoordelijken zullen doorgaans de tweede methode verkiezen wanneer het gaat om complexe en omvangrijke datasets, aangezien op die manier extractie mogelijk is van eender welk deel van de dataset dat voor de betrokkene relevant is in het kader van zijn/haar verzoek. Verder kan hierdoor ook het risico worden geminimaliseerd en kunnen mogelijk systemen voor synchronisatie van gegevens worden gebruikt (bv. bij regelmatige communicatie tussen verwerkingsverantwoordelijken). Dit kan een betere manier zijn om naleving door de 'nieuwe' verwerkingsverantwoordelijke te verzekeren, en kan ook een goede praktijk zijn om risico's inzake privacy vanwege de initiële verwerkingsverantwoordelijke te beperken .'

bepaald doel. De betrokkene dient bijvoorbeeld in staat te zijn om door middel van softwareapplicaties specifieke gegevens daaruit gemakkelijk te identificeren, herkennen en verwerken.

168. Dit recht moet de gebruiker in staat stellen om voor persoonlijk gebruik de gegevens op te vragen die hij heeft meegedeeld door middel van zijn stem (bijvoorbeeld. de geschiedenis van steminteracties) en in het kader van de aanmaak van zijn gebruikersaccount (bijvoorbeeld naam en voornaam).
169. Voor de volledige toepassing van dit recht van betrokkenen in een context van één digitale interne markt, moeten VVA-ontwerpers en applicatieontwikkelaars met name gemeenschappelijke machineleesbare formaten ontwikkelen die de interoperabiliteit van het gegevensformaat tussen VVA-systemen vergemakkelijken 58 , met inbegrip van de standaardformaten voor spraakgegevens. De technologieën moeten zo worden gestructureerd dat de verwerkte persoonsgegevens, met inbegrip van spraakgegevens, gemakkelijk en volledig herbruikbaar zijn door de nieuwe de verwerkingsverantwoordelijke 59 .
170. Wat het formaat betreft, moeten VVA-aanbieders persoonsgegevens verstrekken in algemeen gebruikte open formaten (bv. mp3, wav, csv, gsm, enz.), samen met passende metagegevens die worden gebruikt om de betekenis van de uitgewisselde informatie nauwkeurig te beschrijven. 60

5 BIJLAGE: AUTOMATISCHE SPRAAKHERKENNING, SPRAAKSYNTHESE EN NATUURLIJKE TAALVERWERKING

171. Voortbordurend op de theoretische grondslagen van signaalverwerking, en met name de informatieen bemonsteringstheorieën van Claude Shannon, is automatische spraakverwerking een fundamenteel onderdeel geworden van de bètawetenschappen. Spraakherkenning bevat elementen van natuurkunde (akoestiek, golfvoortplanting), toegepaste wiskunde (modellering, statistiek), informatica (algoritmen, leermethoden) en gammawetenschappen (perceptie, beredenering), en is in korte tijd onderverdeeld in tal van onderzoeksrichtingen: identificatie en verificatie van sprekers, automatische spraakherkenning, spraaksynthese, herkenning van emoties, enz. In de afgelopen vijftien jaar heeft het vakgebied in zijn geheel zeer grote vooruitgang geboekt, waarbij verschillende factoren een rol hebben gespeeld: verbeterde methoden, een aanzienlijke toename van de computercapaciteiten en grotere hoeveelheden beschikbare gegevens.

60 Het EDPB moedigt ten zeerste de samenwerking aan tussen belanghebbenden uit de sector en beroepsorganisaties om samen te werken aan een gemeenschappelijke reeks interoperabele normen en formaten om te voldoen aan de vereisten van het recht op gegevensoverdraagbaarheid.

59 ' In dat verband worden verwerkingsverantwoordelijken in overweging 68 aangemoedigd om interoperabele formaten te ontwikkelen die gegevensoverdraagbaarheid mogelijk maken, maar zonder de verwerkingsverantwoordelijken daarbij te verplichten te kiezen voor of te blijven werken met technisch compatibele verwerkingssystemen. In de algemene verordening gegevensbescherming wordt het verwerkingsverantwoordelijken echter verboden de verzending te beperken ' - Richtsnoeren inzake het recht op overdraagbaarheid van gegevens van de Groep artikel 29,- goedgekeurd door het EDPB, blz. 5-6.

5.1 Automatische spraakherkenning (ASR)

172. Voorheen betrof automatische spraakherkenning (ook wel 'spraak-naar-tekst' genoemd) drie afzonderlijke stappen: 1) bepalen welke fonemen er zijn uitgesproken aan de hand van een akoestisch model; 2) vaststellen welke woorden er zijn uitgesproken aan de hand van een fonetisch woordenboek; 3) de reeks woorden (zin) uitschrijven (transcriberen) die naar de grootste waarschijnlijkheid is uitgesproken aan de hand van een taalmodel. Dankzij de vooruitgang die 'deep learning' (een techniek voor machinaal leren) mogelijk maakt, bieden veel systemen tegenwoordig automatische end-to-end-spraakherkenning. Hierdoor is het niet nodig de complexe training van drie verschillende modellen te doorlopen, terwijl de resultaten en de verwerkingstijd toch beter zijn. Bijna iedere grote digitale speler heeft tegenwoordig een eigen ASR-implementatie die gemakkelijk toe te passen is in API-systemen. Er bestaan echter ook opensource-systemen (bijvoorbeeld DeepSpeech 61 of Kaldi 62 ).

5.2 Natuurlijke taalverwerking

173. Natuurlijke taalverwerking is een multidisciplinair vakgebied waarbij linguïstiek, computerwetenschap en kunstmatige intelligentie betrokken zijn en dat zich richt op het creëren van hulpmiddelen voor de verwerking van natuurlijke taal voor een verscheidenheid van toepassingen. Er bestaan talloze onderzoeksen toepassingsgebieden: syntactische analyse, machinevertaling, automatische tekstgeneratie en -synthese, spellingscontrole, vraag-en-antwoordsystemen, textmining, named entity recognition (naamherkenning), sentimentanalyse, enz. Concreet is het doel van natuurlijke taalverwerving om computers het vermogen te geven om menselijke talen te lezen, te begrijpen en er betekenis aan te ontlenen. De ontwikkeling van toepassingen natuurlijke taalverwerving is een uitdaging omdat computerprogramma's van oudsher vereisen dat mensen ermee interageren in een programmeertaal die formeel is, d.w.z. precies, ondubbelzinnig en zeer gestructureerd. Wanneer mensen praten is hun taalgebruik echter niet altijd nauwgezet, maar vaak oneenduidig: de taalkundige opbouw is afhankelijk van meerdere complexe variabelen, waaronder informele uitdrukkingen, lokale dialecten en de sociale context.
174. Twee belangrijke technieken die bij natuurlijke taalverwerving worden gehanteerd zijn syntactische en semantische analyse. Syntaxis is de rangschikking van woorden in een zin om grammaticaal betekenis te hebben. Natuurlijke taalverwerving gebruikt de syntaxis om de betekenis van een taal te beoordelen op basis van grammaticale regels. Tot de gebruikte syntaxistechnieken behoren ontleding (grammaticale analyse van een zin), woordsegmentatie (een lange tekst verdelen in eenheden), zinsafbreking (zinsgrenzen aanbrengt in lange teksten), morfologische segmentatie (woorden in groepen verdelen) en stamherleiding (waarbij vervoegde woorden aan de hand van hun stam worden onderverdeeld). Semantiek betreft het gebruik en de betekenis van woorden. Bij natuurlijke taalverwerving worden algoritmen toegepast om de betekenis en structuur van zinnen te begrijpen. Technieken die door natuurlijke taalverwerving worden gebruikt met betrekking tot semantiek zijn onder meer disambiguatie van de woordbetekenis (waarbij de betekenis van een woord wordt bepaald op basis van de context), named entity recognition (naamherkenning, waarbij wordt bepaald welke woorden in groepen kunnen worden onderverdeeld), en het genereren van natuurlijke taal (waarbij aan de hand van een gegevensbank wordt bepaald wat de semantiek van woorden is). Terwijl bij vroegere benaderingen van natuurlijke taalverwerving gebruik werd gemaakt van op regels gebaseerde benaderingen, waarbij aan eenvoudige algoritmen

61 https://github.com/mozilla/DeepSpeech

62 https://github.com/kaldi-asr/kaldi

voor machinaal leren werd verteld naar welke woorden en zinsdelen in tekst moest worden gezocht en deze specifieke reacties kregen wanneer die zinsdelen voorkwamen, zijn de huidige benaderingen voor natuurlijke taalverwerving gebaseerd op deep learning, een type AI dat patronen in gegevens onderzoekt en gebruikt om het begrip van een programma te verbeteren.

5.3 Spraaksynthese

175. Spraaksynthese betreft het kunstmatig genereren van menselijke spraak en wordt voornamelijk vormgegeven door het opeenvolgend samenvoegen van in een gegevensbank opgeslagen spraakfragmenten. Bij deze methode worden uit de gehele verzameling opnamen van een actor, na transcriptie in fonemen, lettergrepen en woorden, de juiste geluidsfragmenten geselecteerd die overeenstemmen met de woorden die de VVA wenst uit te spreken, waarna deze fragmenten worden samengevoegd tot een begrijpelijke en natuurlijk klinkende zin. Een andere mogelijkheid is dat een spraaksynthesizer een model van het spraakkanaal en andere kenmerken van de menselijke stem integreert om de parameters van een stem, zoals intonatie, ritme en klank, te modelleren met behulp van generatieve statistische modellen (zoals WaveNet 63 , Tacotron 64 of DeepVoice 65 ) en een volledig synthetische stemuitvoer te creëren.

---

Footnotes

1. Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (hierna: 'AVG').

2. Richtlijn 2002/58/EG van het Europees Parlement en de Raad van 12 juli 2002 betreffende de verwerking van persoonsgegevens en de bescherming van de persoonlijke levenssfeer in de sector elektronische communicatie (richtlijn betreffende privacy en elektronische communicatie), gewijzigd bij Richtlijn 2006/24/EG en Richtlijn 2009/136/EG (hierna: 'e-privacyrichtlijn').

3. Zie bijvoorbeeld het persbericht van 1 augustus 2019 van de Datenschutz Hamburg (de autoriteit voor gegevensbescherming en informatie van Hamburg): https://datenschutzhamburg.de/pressemitteilungen/2019/08/2019-08-01-google-assistant

4. Dit wordt bijvoorbeeld hier wordt beschreven: https://www.amazon.science/blog/alexas-new-speechrecognition-abilities-showcased-at-interspeech

5. Richtlijn 2002/58/EG van het Europees Parlement en de Raad van 12 juli 2002 betreffende de verwerking van persoonsgegevens en de bescherming van de persoonlijke levenssfeer in de sector elektronische communicatie (richtlijn betreffende privacy en elektronische communicatie), gewijzigd bij Richtlijn 2006/24/EG en Richtlijn 2009/136/EG (hierna: 'e-privacyrichtlijn').

6. In artikel 1 van Richtlijn 2008/63/EG van de Commissie van 20 juni 2008 betreffende de mededinging op de markten van telecommunicatie-eindapparatuur wordt ' eindapparatuur ' gedefinieerd als a) ' de apparaten die voor overbrenging, verwerking of ontvangst van informatie direct of indirect op de interface van een openbaar telecommunicatienetwerk zijn aangesloten; in beide gevallen, direct of indirect, kan de aansluiting geschieden per draad, per optische vezel of via elektromagnetische golven; een aansluiting is indirect wanneer een apparaat geplaatst is tussen het eindapparaat en de interface van het net; b) satellietgrondstationapparatuur ';

7. Zie Richtsnoeren 1/2020 van het EDPB, punt 12, voor een soortgelijke beredenering met betrekking tot verbonden voertuigen (hierna: de 'Richtsnoeren 1/2020 van het EDPB'). Zie ook Advies 5/2019 van het EDPB over de wisselwerking tussen de e-privacyrichtlijn en de algemene verordening gegevensbescherming, met name wat betreft de taken en bevoegdheden van gegevensbeschermingsautoriteiten.

8. Zie de Richtsnoeren 2/2019 van het EDPB betreffende de verwerking van persoonsgegevens op grond van artikel 6, lid 1, onder b), van de AVG in het kader van de verlening van onlinediensten aan betrokkenen, versie 2.0 van 8 oktober 2019, punt 1.

9. Mogelijk zullen VVA-apparaten in de toekomst, door het concept van edgecomputing over te nemen, in staat zijn om bepaalde diensten lokaal te leveren. In dat geval zal de toepasselijkheid van de e-privacyrichtlijn opnieuw beoordeeld moeten worden.

10. Zie ook de Richtsnoeren 1/2020 van het EDPB, punt 14.

11. Richtsnoeren 7/2020 van het EDPB over de begrippen 'verwerkingsverantwoordelijke' en 'verwerker' in de AVG, v2.0, vastgesteld op 7 juli 2021 (hierna: 'Richtsnoeren 7/2020').

12. Mits 'de overeenkomst geldig is overeenkomstig het toepasselijke nationale verbintenissenrecht'; zie Richtsnoeren 2/2019 betreffende de verwerking van persoonsgegevens op grond van artikel 6, lid 1, onder b), van de AVG in het kader van de verlening van onlinediensten aan betrokkenen ('Richtsnoeren 2/2019'), punt 26.

13. Overeenkomstig Richtsnoeren 2/2019, waarin bovendien staat dat Advies 06/2014 relevant blijft voor artikel 6, lid 1, onder b), van de AVG (zie met name bladzijden 11, 16, 17, 18 en 55 van dit Advies 06/2014).

14. Zie Richtsnoeren 2/2019, punten 18, 19, 20, 21 en 27.

15. Zie de Richtsnoeren 05/2020 van het EDPB inzake toestemming overeenkomstig Verordening 2016/679, vastgesteld op 4 mei 2020, onder 3.2.

16. Zie de antwoordbrief van Amazon d.d. 28 juni 2019 aan Senator Christopher Coons van de VS: https://www.coons.senate.gov/imo/media/doc/Amazon%20Senator%20Coons\_\_Response%20Letter\_\_6.28.19

17. Zie bijvoorbeeld: VoicePrivacy (https://www.voiceprivacychallenge.org), een initiatief om oplossingen te ontwikkelen voor privacybescherming met betrekking tot spraaktechnologie.

18. Zie bijvoorbeeld: https://lightcommands.com

19. Zie bijvoorbeeld: https://surfingattack.github.io

20. Zie bijvoorbeeld: Deepak Kumar e.a., Skill Squatting Attacks on Amazon Alexa , USENIX Security Symposium, augustus 2018, https://www.usenix.org/conference/usenixsecurity18/presentation/kumar

21. Zie bijvoorbeeld: https://www.ft.com/content/ad765972-87a2-11e9-a028-86cea8523dc2.

22. Zie bijvoorbeeld: https://cdt.org/insights/alexa-is-law-enforcement-listening.

23. Zie ook Richtsnoeren 10/2020 van het EDPB inzake beperkingen ingevolge artikel 23 van de AVG.

24. Zie bijvoorbeeld het hier aangeboden product: https://www.amazon.com/Ethan-Fan-Ovulation-PeriodTracker/dp/B07CRLSHKY

25. Zie ter illustratie de beredenering van de Groep artikel 29 in de Richtsnoeren inzake het recht op gegevensoverdraagbaarheid - goedgekeurd door het EDPB, blz. 19-20:

26. Zie in dit verband ook: Richtsnoeren inzake het recht op overdraagbaarheid van gegevens van de Groep artikel 29 - goedgekeurd door het EDPB, blz. 1.

27. Zie in dit verband overweging 68 van de AVG; Richtsnoeren inzake het recht op overdraagbaarheid van gegevens van de Groep artikel 29, - goedgekeurd door het EDPB, blz. 21.

28. Aäron van den Oord en Sander Dieleman, WaveNet: A generative model for raw audio , Deepmind blog, september 2016, https://deepmind.com/blog/article/wavenet-generative-model-raw-audio

29. Yuxuan Wang, Expressive Speech Synthesis with Tacotron , Google AI-blog, maart 2018 https://ai.googleblog.com/2018/03/expressive-speech-synthesis-with.html

30. Deep Voice 3: 2000-Speaker Neural Text-to-Speech , blog van Baidu Research, oktober 2017 http://research.baidu.com/Blog/index-view?id=91