Unacceptable Risk AI Systems
The content specifically addresses unacceptable-risk AI systems as a distinct category of prohibited practices, warranting a dedicated topic for this specific classification and its requirements.
unacceptable risk prohibited AI systems banned AI Article 5 AI Act manipulation exploitation subliminal techniques vulnerability exploitation
Overview
Legal Framework
Article 5 of the AI Act, as referenced in Recital 179, establishes the category of prohibited AI practices that constitute unacceptable risk. These systems are banned from being placed on the market, put into service, or used within the EU. The prohibition covers AI systems with specific objectives or employing subliminal techniques to materially distort a person's behavior in a manner that causes or is likely to cause physical or psychological harm. It also bans the exploitation of vulnerabilities of specific groups, such as those due to age or disability, for the same harmful ends. Furthermore, AI systems used by public authorities or on their behalf for social scoring leading to detrimental treatment, and certain real-time remote biometric identification systems in publicly accessible spaces for law enforcement, are prohibited, with narrow exceptions.
Practical Application
The prohibition on unacceptable risk AI systems is a core enforcement priority, with its application date anticipated to 2 February 2025 under Recital 179. This early application underscores the legislature's view of the severe threat these systems pose to safety and fundamental rights. The interpretation hinges on a systems-based risk assessment: the prohibition applies not to a technology itself, but to its specific deployment for a prohibited purpose or in a prohibited manner. For example, an AI system using biometric categorization is not inherently banned, but becomes an unacceptable risk if it is used to infer sensitive attributes like sexual orientation for exploitative purposes. The rationale, synthesized from the T&C commentary on general accountability principles, is that providers and deployers must implement effective measures to ensure their AI activities comply with the Regulation and must be prepared to demonstrate this compliance.
Key Considerations
- Conduct a Purpose & Design Audit: Scrutinize the intended purpose and actual functionality of AI systems against the exhaustive list in Article 5. Prohibition is triggered by the system's objective (e.g., social scoring) or its exploitative technique, not by a graduated risk assessment.
- Establish Prohibition Compliance Protocols: Implement internal procedures to identify and phase out any existing uses that fall under Article 5 before the February 2025 deadline. For developers, this requires reviewing system design and documentation to ensure it cannot reasonably be used for a prohibited practice.
- Anticipate Enforcement on Exploitative Design: Regulatory focus will likely target systems designed to exploit specific vulnerabilities (e.g., of children) or to subliminally manipulate behavior, even if direct harm has not yet been demonstrated. The "likely to cause" standard sets a preventive threshold.
Laws (29)
View all 29Case Law (23)
View all 23ECLI:NL:RBOVE:2026:715 Rechtbank Overijssel , 13-02-2026 / ak_25_971
Rechtbank Overijssel
Beroep n.a.v. afwijzing verzoek om inzage in verwerkte persoonsgegevens op grond van de Algemene Verordening Gegevensbescherming (AVG). Beroep ongegrond. Eiser wil inzage in persoonsgegevens in een adviesrapport van het Regionaal Informatie en Expertise Centrum (RIEC). Er zijn geen aanknopingspunten voor het oordeel dat de burgemeester zich niet op het standpunt heeft kunnen stellen dat de geheimhoudingsplicht op grond van de Wet bevordering integriteitsbeoordelingen door het openbaar bestuur (hierna: de Wet Bibob) ertoe leidt dat de beperking op het recht op inzage noodzakelijk en evenredig is ter waarborging van de rechten en vrijheden van anderen. Daarom heeft de burgemeester een zwaarder gewicht kunnen toekennen aan deze geheimhoudingsplicht dan aan de belangen van eiser bij inzage in (de persoonsgegevens in) het RIEC-advies.
Raad van State
Raad van State
Bij besluiten van 22 juli 2021 en 9 augustus 2021 hebben het college van burgemeester en wethouders en de burgemeester van de gemeente Soest verzoeken van [appellant] om openbaarmaking van informatie op grond van de Wet openbaarheid van bestuur gedeeltelijk toegewezen. [appellant] was vanaf 2015 tot maart 2022 eigenaar van een terrein met recreatiewoningen aan de [locatie 1]. Jachthuis Exploitatie B.V. exploiteerde het terrein en verhuurde recreatiewoningen onder andere aan arbeidsmigranten. Het college heeft in 2018 en in 2019 aan [appellant] lasten onder dwangsom opgelegd om het niet-recreatieve gebruik van de recreatiewoningen te beëindigen. Volgens [appellant] heeft het college zijn beleid en bestendige bestuurspraktijk ingrijpend gewijzigd, omdat voorheen gebruik van de recreatiewoningen anders dan voor recreatie onder voorwaarden wel was toegestaan, zolang maar geen sprake was van daadwerkelijke permanente bewoning. Dat blijkt volgens hem uit het feit dat de burgemeester zelf rond zijn aantreden enige tijd in één van de woningen heeft verbleven.
Privacyregels zouden belemmering vormen voor de Gecertificeerde Instelling om gegevens te delen met de ene ouder over de andere
Gerechtshof
gezag
Inzageberoep ex art. 195 Rv onderzoeksrapport waarbij pseudonimiseren wel plaats moet vinden. In het geheel afwijzen mag niet.
Gerechtshof
Inzageverzoek ex art. 195 Rv. Werknemer verzoekt om inzage in het gehele onderzoeksrapport dat de werkgever deels heeft ingebracht in de procedure tot ontbinding van de arbeidsovereenkomst met de werknemer. Het hof oordeelt dat de belangen van de werknemer zwaarder wegen dan die van de werkgever en wijst het verzoek toe. Wel verbindt het hof voorwaarden aan de inzage.
Rechtbank Rotterdam
Rechtbank Rotterdam
Kort geding. Vorderingen van influencer en zijn levenspartner om berichten (posts) op een juicekanaal te verwijderen, verwijderd te houden en het plaatsen van een rectificatie op het juicekanaal. De posts zijn al verwijderd. Een deel van de posts moet verwijderd worden gehouden en er moeten rectificaties, in beperkte en afgezwakte vorm, op het juicekanaal worden geplaatst. Geen openbaarmaking bronnen. De influencer moet ook een aantal posts verwijderen, verwijderd houden en een rectificatie plaatsen.
Rechtbank Amsterdam
Rechtbank Amsterdam
Artikel 10 EVRM, vrijheid van meningsuiting. De gemeente heeft onrechtmatig gehandeld door te dreigen met registratie in het Gemeentelijk Incidenten Registratiesysteem (GIR) naar aanleiding een LinkedIn-bericht. Belang eiser bij een enkele verklaring voor recht.
Rechtbank Zeeland-West-Brabant
Rechtbank Zeeland-West-Brabant
wijziging gezag naar eenhoofdig gezag - omgangsverbod voor een jaar
Rechtbank Zeeland-West-Brabant
Rechtbank Zeeland-West-Brabant
Familiezaak in wijkrechtspraak. Gezamenlijk gezag, zorgregeling, vervangende toestemming vakanties en identiteitsbewijzen, spaargeld van de kinderen, verwijzing UHA en kinderalimentatie.
Rechtbank Amsterdam
Rechtbank Amsterdam
NRC heeft een artikel op haar website geplaatst over een strafzaak tegen eiser, waarbij eiser is veroordeeld tot een (deels voorwaardelijke) gevangenisstraf wegens seksuele uitbuiting van twee minderjarige meisjes. Partijen twisten over de vraag of de vermelding van de voornaam, de leeftijd en het beroep van eiser in het artikel onrechtmatig is en in strijd is met de AVG en/of de UAVG. De rechtbank dient een belangenafweging te maken tussen het recht op bescherming van de eer, goede naam en persoonlijke levenssfeer van eiser (artikel 8 EVRM) en het recht op vrijheid van meningsuiting van NRC (artikel 10 EVRM) en komt tot de conclusie dat in dit geval het recht op vrijheid van meningsuiting van NRC zwaarder weegt. De publicatie van het artikel is dan ook niet onrechtmatig. Ook is geen sprake van een schending van de AVG en/of de UAVG.
Gerechtshof Den Haag
Gerechtshof Den Haag
Inzageverzoek ex art. 195 Rv. Werknemer verzoekt om inzage in het gehele onderzoeksrapport dat de werkgever deels heeft ingebracht in de procedure tot ontbinding van de arbeidsovereenkomst met de werknemer. Het hof oordeelt dat de belangen van de werknemer zwaarder wegen dan die van de werkgever en wijst het verzoek toe. Wel verbindt het hof voorwaarden aan de inzage.
ECLI:NL:GHDHA:2025:2685 Gerechtshof Den Haag , 16-12-2025 / 200.353.591/01
Gerechtshof Den Haag
Inzageverzoek ex art. 195 Rv. Werknemer verzoekt om inzage in het gehele onderzoeksrapport dat de werkgever deels heeft ingebracht in de procedure tot ontbinding van de arbeidsovereenkomst met de werknemer. Het hof oordeelt dat de belangen van de werknemer zwaarder wegen dan die van de werkgever en wijst het verzoek toe. Wel verbindt het hof voorwaarden aan de inzage.
Procesrecht. Exhibitievordering in niet-IE-zaak (art. 843a (oud) Rv). Rechtmatig belang bij inzage. Voldoende bepaald...
Hoge Raad
Procesrecht. Exhibitievordering in niet-IE-zaak (art. 843a (oud) Rv). Rechtmatig belang bij inzage. Voldoende bepaald zijn van bescheiden waarin inzage wordt gevorderd. Begrip rechtsbetrekking. Afgifte bemiddelingsdossier door advocaat. Aanvullen rechtsgronden (art. 25 Rv). Opheffing en verval van bewijsbeslag. Eis in hoofdzaak als bedoeld in art. 704 lid 2 Rv.
Verstrekking politiegegevens op grond van de wet t.b.v. handhaving van de openbare orde. Niet aannemelijk gemaakt dat pgg langer worden bewaard dan toegestaan.
Raad van State
Bij besluit van 30 december 2021 heeft de burgemeester van Breda geweigerd een exploitatievergunning te verlenen voor het autoverhuurbedrijf van [bedrijf A] aan de [locatie 1] in Breda. [appellant] is samen met zijn broer [naam broer] vennoot van de vennootschap onder firma [bedrijf A]. De vennootschap exploiteert het autoverhuurbedrijf [bedrijf A] aan de [locatie 1] in Breda. [appellant] is daarnaast eigenaar van de eenmanszaak [bedrijf B], dat ook is gevestigd aan de [locatie 1]. [broer] is daarnaast eigenaar van de eenmanszaak [bedrijf A], gevestigd aan de [locatie 2]. Bij besluit van 30 maart 2020 heeft de burgemeester op grond van artikel 2:30 van de Algemene plaatselijke verordening Breda 2018 (hierna: APV) de autoverhuurbranche per 1 juni 2020 aangewezen als vergunningplichtige bedrijfsmatige activiteit, als bedoeld in artikel 2:31 van de APV. Op 16 september 2021 heeft [appellant] een aanvraag ingediend om een exploitatievergunning voor het autoverhuurbedrijf [bedrijf A]. De burgemeester heeft de vergunning geweigerd omdat [appellant] niet voldoet aan de eis dat de exploitant of beheerder/leidinggevende niet in enig opzicht van slecht levensgedrag is.
ECLI:NL:RBGEL:2025:11803 Rechtbank Gelderland , 30-06-2025 / 05/329609-24
Rechtbank Gelderland
Veelvuldig en langdurig doxing, smaadschrift en belediging, omdat verdachte niet tevreden was met de jeugdhulpverlening die de slachtoffers zijn gezin en hem boden. Taakstraf 120 uur, subsidiair 60 dagen en een voorwaardelijke gevangenisstraf van 4 weken, met een proeftijd van 3 jaar. Afwijzing vordering benadeelde partij van de Raad voor de Kinderbescherming, omdat het causaal verband tussen de feiten en de gevorderde schade onvoldoende is onderbouwd. Overige vorderingen: € 500,- smartengeld wordt toegewezen, inclusief wettelijke rente en schadevergoedingsmaatregel, voor de rest worden zij niet ontvankelijk verklaard in hun vorderingen.
Woo-zaak. Gaming the system argument voor openbaarmaking algoritme te weigeren wordt geaccepteerd. Ook rol AP wordt benadrukt
Rechtbank
Eiser, een journalist, heeft verzocht om openbaarmaking van documenten over het gebruik, de werking en de ontwikkeling van algoritmes die worden toegepast door de Belastingdienst. Dit verzoek is gedeeltelijk ingewilligd, echter bepaalde informatie werd geweigerd, met name om het belang van inspec...
Burenruzie. Camera’s moeten worden verdraaid of de instellingen daarvan gewijzigd, bijv door te voorzien van een privacymask. Ze hoeven niet weg
Rechtbank
De kern van dit burengeschil betreft de vraag waar de erfgrens precies ligt en of partij A door (bevrijdende) verjaring eigenaar zijn geworden van een of meerdere stroken grond. Naar het oordeel van de rechtbank slaagt het beroep op verjaring gedeeltelijk, namelijk voor een strook grond die op de achterzijde van de percelen van partijen ligt. Voor het overige geeft de kadastrale erfgrens de juridische eigendomsgrens aan. De vordering van partij A tot verwijdering van een dakopbouw op het perceel van partij B wordt afgewezen omdat partij A hun stellingen onvoldoende concreet hebben onderbouwd. Ook de vordering tot – kortgezegd – uitoefening van het ladderrecht door partij A wordt afgewezen. De vordering van partij A tot verwijdering van camera’s die door partij B zijn opgehangen zal evenmin (geheel) worden toegewezen. Als het mindere daarvan zal de rechtbank toewijzen dat partij B hun camera’s zodanig moeten plaatsen/verdraaien dan wel de instellingen daarvan moeten wijzigen dat het perceel en de woning van partij A niet meer zichtbaar zullen zijn. De vorderingen van partij B die zijn gebaseerd op (dreigend) onrechtmatig handelen van partij A 1 en/of partij A zullen gedeeltelijk worden toegewezen. partij A 1 heeft het perceel van partij B herhaaldelijk betreden en daarbij heeft hij onrechtmatig gehandeld. Het door partij B gevorderde contactverbod zal worden afgewezen omdat onvoldoende feiten en omstandigheden zijn gesteld om zo’n vergaande maatregel te rechtvaardigen.
Artikel
Rechtbank
Deels voorwaardelijke gevangenisstraf voor het voorhanden hebben van vuurwapens en munitie en voor doxing van twee politieambtenaren. Gedeeltelijk ontslag van alle rechtsvervolging omdat doxing ten tijde van plegen nog niet strafbaar was.
Een 18-jarige man is veroordeeld tot 120 uur werkstraf een 1 maand jeugddetentie voorwaardelijk voor zijn rol in de...
Rechtbank
Een 18-jarige man is veroordeeld tot 120 uur werkstraf een 1 maand jeugddetentie voorwaardelijk voor zijn rol in de openlijke geweldpleging op 11 november 2024 op en rond Plein ’40-’45 in Amsterdam Nieuw-West.
Artikelen
Rechtbank
Bank mocht eiser laten registreren in het Intern en Extern Verwijzingsregister vanwege gemanipuleerde stukken bij kredietaanvragen in 2015. De bank had in de procedure niet-gemanipuleerde stukken overgelegd om de verschillen met de gemanipuleerde stukken aan te tonen. Halverwege de procedure stelt eiser dat niet de gemanipuleerde bij zijn kredietaanvraag zaten maar de niet-gemanipuleerde. De vervalste stukken moeten volgens hem door de bank zelf zijn gemanipuleerd, om hem zwart te maken. Eiser heeft zijn stellingen op dit punt onvoldoende onderbouwd en deze zijn niet komen vast te staan. De vorderingen worden afgewezen.
GC and Others v CNIL
C-136/17 (GC and Others)
Conditions for delisting sensitive data from search results.
Guidance (8)
Richtsnoeren 4/2019 inzake artikel 25 Gegevensbescherming door ontwerp en door standaardinstellingen
guidelines privacy by design en default
Richtsnoeren 3/2022 betreffende het herkennen en vermijden van misleidende ontwerppatronen in de interfaces van socialemediaplatforms
guidelines misleidende ontwerppatronen
Deze richtsnoeren bieden praktische aanbevelingen aan aanbieders van sociale media als verwerkingsverantwoordelijken van sociale media, ontwerpers en gebruikers van socialemediaplatforms, over het beoordelen en vermijden van zogenaamde 'misleidende ontwerp patronen' in de interfaces van sociale media die inbreuk maken op de vereisten van de AVG. Daartoe beveelt de EDPB aan dat verwerkingsverantwoordelijken gebruikmaken van interdisciplinaire teams, bestaande uit onder meer ontwerpers, func...
Richtsnoeren 8/2020 betreffende de targeting van gebruikers van sociale media
guidelines targeting gebruikers sociale media
Richtsnoeren 3/2019 inzake de verwerking van persoonsgegevens door middel van videoapparatuur
guidelines cameratoezicht
Guidelines 3/2019 on processing of personal data through video devices
Guidelines on processing of personal data through video devices
Guidelines 4/2019 on Article 25 Data Protection by Design and by Default Version 2.0 Adopted on 20 October 2020
Guidelines on data protection by design and by default
Richtsnoeren 3/2018 over het territoriale toepassingsgebied van de AVG (artikel 3)
guidelines territoriaal toepassingsgebied AVG
Guidelines 8/2020 on the targeting of social media users
Guidelines on the targeting of social media users
Enforcement (1)
News (6)
San Jose Can Protect Immigrants by Ending Flock Surveillance System
(This appeared as an op-ed published February 12, 2026 in the San Jose Spotlight, written by Huy Tran (SIREN), Jeffrey Wang (CAIR-SFBA), and Jennifer Pinsof.) As ICE and other federal agencies continue their assault on civil liberties, local leaders are stepping up to protect their communities. This includes pushing back against automated license plate readers, or ALPRs, which are tools of mass surveillance that can be weaponized against immigrants, political dissidents and other targets. In rec
Beware: Government Using Image Manipulation for Propaganda
U.S. Homeland Security Secretary Kristi Noem last week posted a photo of the arrest of Nekima Levy Armstrong, one of three activists who had entered a St. Paul, Minn. church to confront a pastor who also serves as acting field director of the St Paul Immigration and Customs Enforcement (ICE) office. A short while later, the White House posted the same photo – except that version had been digitally altered to darken Armstrong’s skin and rearrange her facial features to make it appear she was sobb
Manipulation by Algorithms. Exploring the Triangle of Unfair Commercial Practice, Data Protection, and Privacy Law
Machine learning can be used to optimize sales practices in consumer markets, but it also raises concerns about manipulation. According to this article, in order to mitigate these risks, we need to understand how unfair commercial practice, data protection, and privacy law interact.
Manipulatie door algoritmes. Een onderzoek naar de driehoek van oneerlijke commerciële praktijken, gegevensbescherming en privacyrecht.
Machine learning kan worden gebruikt om verkoopstrategieën in de consumentenmarkt te optimaliseren, maar het roept ook zorgen op over manipulatie. Volgens dit artikel is het belangrijk om te begrijpen hoe oneerlijke handelspraktijken, gegevensbescherming en privacywetgeving met elkaar samenhangen, om deze risico's te beperken.
Over "dark patterns" en de manipulatie van website-uitgevers door CMP's (Consent Management Platforms).
Dit artikel onderzoekt het installatie- en configuratieproces van pop-ups voor toestemmingen, en de mogelijke gevolgen daarvan voor de besluitvorming van website-uitgevers. Het blijkt dat aanbieders van toestemmingsbeheer vaak de wet overtreden, en dat configuratieopties kunnen leiden tot niet-naleving van de regels.
On dark patterns and manipulation of website publishers by CMPs
This paper studies the installation and configuration process of consent pop-ups and their potential effects on website publishers' decision making. It finds that Consent Management Providers often violate the law, and that configuration options may lead to non-compliance.