Meaningful Human Review and Decision-Making
The content on human oversight emphasizes the need for meaningful human review and decision-making authority, which deserves its own dedicated topic to distinguish it from general oversight mechanisms.
meaningful human review human decision-making human judgment substantive review informed decision human authority decision authority human responsibility
Overview
Legal Framework
Recital 20 and Recital 72 of the EU AI Act establish the foundational principles for meaningful human review. Recital 20 mandates that AI literacy should equip deployers with the necessary notions to make informed decisions regarding AI systems. Recital 72 specifies that high-risk AI systems must be designed with transparency to enable deployers to understand the system's functionality, evaluate its outputs, and comprehend its limitations. Together, these recitals require that the deployment of high-risk AI systems incorporates effective human oversight, where a human deployer can critically assess and challenge the system's output based on a clear understanding of its operation.
Practical Application
This legal principle translates into a requirement for deployers to establish robust governance processes. Organizations must implement procedural safeguards ensuring that a qualified individual reviews the AI system's output or decision before it is finalized or acted upon. This review must be "meaningful," meaning the human reviewer has the authority, competence, and necessary information to interpret the AI's output, assess its reliability in the specific context, and ultimately overrule or disregard it. The system's technical documentation and instructions for use, required under the AI Act, must provide the reviewer with the insights needed to perform this function effectively.
Key Considerations
- Implement Review Protocols: Design and document clear procedures specifying which decisions require human review, the qualifications of the reviewer, the information they must assess, and the steps for intervention or override.
- Ensure Reviewer Competence: Provide targeted training to human reviewers on the specific AI system's purpose, limitations, and potential biases, as informed by the technical documentation, to enable informed judgment.
- Maintain an Audit Trail: Keep records of instances where human review occurred, including the rationale for any decision to override the AI system's output, to demonstrate compliance.
Laws (4)
Case Law (40)
View all 40ECLI:NL:RBMNE:2026:486 Rechtbank Midden-Nederland , 04-02-2026 / 11996046 \ AV EXPL 25-51 WMB/61313
Rechtbank Midden-Nederland
Vordering tot loondoorbetaling en verbod op verwerking gegevens. Vorderingen worden afgewezen, omdat het aannemelijk dat loonstop stand houdt.
ECLI:NL:RVS:2026:515
Raad van State
Rechtbank Amsterdam
Rechtbank Amsterdam
Verzoek afgewezen
Raad van State
Raad van State
Bij besluiten van 22 juli 2021 en 9 augustus 2021 hebben het college van burgemeester en wethouders en de burgemeester van de gemeente Soest verzoeken van [appellant] om openbaarmaking van informatie op grond van de Wet openbaarheid van bestuur gedeeltelijk toegewezen. [appellant] was vanaf 2015 tot maart 2022 eigenaar van een terrein met recreatiewoningen aan de [locatie 1]. Jachthuis Exploitatie B.V. exploiteerde het terrein en verhuurde recreatiewoningen onder andere aan arbeidsmigranten. Het college heeft in 2018 en in 2019 aan [appellant] lasten onder dwangsom opgelegd om het niet-recreatieve gebruik van de recreatiewoningen te beëindigen. Volgens [appellant] heeft het college zijn beleid en bestendige bestuurspraktijk ingrijpend gewijzigd, omdat voorheen gebruik van de recreatiewoningen anders dan voor recreatie onder voorwaarden wel was toegestaan, zolang maar geen sprake was van daadwerkelijke permanente bewoning. Dat blijkt volgens hem uit het feit dat de burgemeester zelf rond zijn aantreden enige tijd in één van de woningen heeft verbleven.
Doel blokkeringsrecht in relatie medisch advies
Rechtbank
Afwijzing verzoek om ontheffing van de inburgeringsplicht op grond van medische of psychische redenen. Eiser heeft de medische adviezen geblokkeerd waardoor de staatssecretaris de medische gronden voor ontheffing niet kon beoordelen. De staatssecretaris mocht de ontheffing daarom weigeren. De rechtbank benoemt geen onafhankelijke deskundige omdat er geen concrete, objectieve aanknopingspunten zijn om te twijfelen aan de geblokkeerde medische adviezen. Beroep ongegrond.
Camera die (op afstand) beweegbaar zijn, en opnamefunctionaliteit hebben moeten weg.
Rechtbank
Kort geding, verwijderen camera’s Nu gedaagde aanvoert dat de camera’s zijn geplaatst ter bescherming van zichzelf en zijn eigendommen, is er geen rechtvaardigingsgrond om deze ook te richten op het perceel van eiser. Evenmin is er een rechtvaardigingsgrond voor camera’s met een geluidsopnamefaciliteit. Het belang van gedaagde tot bescherming van zijn eigendommen en het waarborgen van zijn gevoel van veiligheid, kan hij bereiken door camera’s te plaatsen met een (vast) beeld die alleen zijn gericht op zijn achtertuin en voortuin en waarvan de positie niet - op afstand - gewijzigd kan worden. Niet kan worden vastgesteld of gedaagde inmiddels de maatregelen heeft getroffen die aansluiten op de hiervoor genoemde grenzen. Daarom kan de voorzieningenrechter niet concluderen dat er nu nog sprake is van onrechtmatig handelen van gedaagde tegenover eiser. Om aan partijen in het kader van dit kort geding toch de noodzakelijke duidelijkheid te geven over welk gebruik van camera’s door gedaagde is toegestaan, veroordeelt de voorzieningenrechter gedaagde om de camera’s aan de voor- en achterkant van zijn woning te verwijderen en verwijderd te houden voor zover deze: - (op afstand) beweegbaar zijn; - voorzien zijn van een functionerende geluidsopnamefaciliteit; - op welke wijze dan ook gericht zijn op het perceel van eiser.
Rectificatie in kader eer en goede naam afgewezen
Rechtbank
Vorderingen tot rectificatie uitlatingen en schorsing royement afgewezen.
Rechtbank Zeeland-West-Brabant
Rechtbank Zeeland-West-Brabant
Beroep tegen het niet weigeren bepaalde strafrechtelijke gegevens uit de justitiele documentatie te verwijderen. De minister mocht uitgaan van de informatie van het OM en hoefde deze gegevens dus niet te verwijderen.
Rechtbank Rotterdam
Rechtbank Rotterdam
Tussenuitspraak; weigering herziening last- en publicatiebesluit is evident onredelijk
Rechtbank Amsterdam
Rechtbank Amsterdam
Artikel 10 EVRM, vrijheid van meningsuiting. De gemeente heeft onrechtmatig gehandeld door te dreigen met registratie in het Gemeentelijk Incidenten Registratiesysteem (GIR) naar aanleiding een LinkedIn-bericht. Belang eiser bij een enkele verklaring voor recht.
Rechtbank Zeeland-West-Brabant
Rechtbank Zeeland-West-Brabant
Voogdij.
Rechtbank Overijssel
Rechtbank Overijssel
De Gemeente heeft een aanbesteding gestart voor de uitvoering van jongeren(welzijns)werk in de Gemeente. Eiser en één andere aanbieder hebben op deze aanbesteding ingeschreven. De Gemeente heeft de opdracht aan de andere inschrijver gegund en eiser komt daar in deze zaak tegenop. Volgens eiser was de beoordelingscommissie van de Gemeente niet objectief en heeft de Gemeente fouten gemaakt bij de beoordeling van haar inschrijving. Die beoordeling was volgens eiser niet overeenkomstig het bestek en/of evident feitelijk onjuist. De voorzieningenrechter wijst de vorderingen van [eiser] af omdat de beoordelingscommissie voldoende objectief heeft gehandeld en er geen sprake is van de door eiser gestelde fouten bij de beoordeling. De gunningsbeslissing is deugdelijk en op transparante wijze gemotiveerd. Deze beslissingen worden hierna gemotiveerd.
Rechtbank Amsterdam
Rechtbank Amsterdam
Verzoeker is niet-ontvankelijk in het verzoek omdat zij eerder een incidentele vordering heeft ingediend met dezelfde strekking, gebaseerd op dezelfde feiten. De incidentele vordering is afgewezen en daartegen heeft eiser hoger beroep ingesteld. Behandeling van het verzoek is in strijd met het gesloten stelsel van rechtsmiddelen.
Woo. Geen concrete dreiging die uitzondering art. 5.1(5) Woo rechtvaardigt.
Rechtbank
Woo-verzoek over transport van varkens.
Voorzieningenrechter gelast ongedaan maken van EVR registratie
Rechtbank
Verzekeringsrecht. Kort geding. Het is niet voldoende vast komen te staan dat er met opzet een onjuiste voorstelling van zaken is gegeven om de verzekeraar te misleiden. De verzekeraar moet daarom de registraties van de persoonsgegevens van eiser in (o.m.) het IVR en EVR ongedaan maken.
Inzageverzoek aan voldaan.
Raad van State
Op 17 juni 2021 heeft [appellant] de Commissie Bezwaarschriften gemeente Het Hogeland op grond van artikel 15 van de Algemene Verordening Gegevensbescherming (EU) 2016/679 (hierna: AVG) verzocht om inzage in de verwerking van haar persoonsgegevens. Op 16 juli 2021 heeft het college op dit verzoek gereageerd, omdat het stelt verwerkingsverantwoordelijke te zijn voor verwerking van persoonsgegevens door de Commissie. Daarbij heeft het college 95 documenten, waarin persoonsgegevens van [appellant] voorkomen, aan [appellant] verstrekt. In het besluit van 23 november 2021 heeft het college het hiertegen gemaakte bezwaar van [appellant] gedeeltelijk gegrond verklaard voor zover het college alleen zichzelf als verwerkingsverantwoordelijke had aangemerkt.
Geen misbruik van recht bij AVG-verzoeken
Rechtbank
Varia, AVG. Beroep niet-tijdig niet-ontvankelijk omdat inmiddels is beslist. Beroep ongegrond.
Rechtbank Midden-Nederland
Rechtbank Midden-Nederland
-
ECLI:NL:RVS:2025:3981 Raad van State , 20-08-2025 / 202302106/1/A3
Raad van State
Bij besluit van 22 juni 2022 heeft de minister van Defensie het verzoek van [appellant] om informatie over zijn verwerkte politiegegevens ingewilligd. [appellant] heeft verzocht om informatie over zijn politiegegevens. De minister heeft het informatieverzoek ingewilligd en daarbij de systemen geraadpleegd die hem ter beschikking stonden. In het besluit staat dat daaruit is gebleken dat zijn persoonsgegevens in drie mutaties zijn verwerkt, waarbij er samengevat weergegeven sprake was dat de KMar [appellant] overnam van buitenlandse autoriteiten in verband met aanhoudingen aldaar. Verder stond in het besluit dat deze plaats vond in augustus 2018, januari 2020 en november 2021.
FSV inzage.
Rechtbank
Artikel 6:20 Awb; artikel 15 AVG. Beroep niet tijdig beslissen op inzageverzoek FSV-gegevens. Rechtbank beoordeelt ook het inhoudelijke besluit. Dat uit het verstrekte overzicht van de FSV-gegevens de namen van de betrokken ambtenaren van de Dienst Toeslagen niet zijn af te leiden, maakt het overzicht niet onjuist of onvolledig. Omdat het beroep ongegrond is, wijst de rechtbank het verzoek om schadevergoeding wegens vermeende onrechtmatige FSV-registratie af op grond van het recht zoals dat gold vóór 1 juli 2013. Eiser heeft wel recht op vergoeding van immateriële schade wegens overschrijding van de redelijke termijn.
Guidance (8)
Guidelines 03/2022 on Deceptive design patterns in social media platform interfaces: how to recognise and avoid them
Guidelines on deceptive design patterns in social media platform interfaces: how to recognise and avoid them
These Guidelines offer practical recommendations to social media providers as controllers of social media, designers and users of social media platforms on how to assess and avoid so-called 'deceptive design patterns' in social media interfaces that infringe on GDPR requirements. To this end, the EDPB recommends that controllers make use of interdisciplinary teams, consisting, among others, of designers, data protection officers and decision-makers. It is important to note ...
Guidelines 01/2022 on data subject rights - Right of access
Guidelines on data subject rights - Right of access
The right of access of data subjects is enshrined in Art. 8 of the EU Charter of Fundamental Rights. It has been a part of the European data protection legal framework since its beginning and is now further developed by more specified and precise rules in Art. 15 GDPR.
Guidelines 05/2020 on consent under Regulation 2016/679
Guidelines on consent
Guidelines 8/2020 on the targeting of social media users
Guidelines on the targeting of social media users
Richtsnoeren 1/2019 voor gedragscodes en toezichthoudende organen in de zin van Verordening 2016/679
guidelines gedragscodes en toezichthoudende organen
Richtsnoeren 05/2020 inzake toestemming overeenkomstig Verordening 2016/679
guidelines toestemming
Richtsnoeren 04/2021 voor gedragscodes als instrumenten voor doorgifte
Volgens artikel 46 van de AVG moeten verwerkingsverantwoordelijken/verwerkers passende waarborgen bieden voor de doorgifte van persoonsgegevens aan derde landen of internationale organisaties. Daarom worden in de AVG de verschillende passende waarborgen aangegeven die organisaties op grond van artikel 46 kunnen gebruiken voor doorgiften aan derde landen, onder meer door gedragscodes in te voeren als nieuw doorgiftemechanisme (artikel 40, lid 3, en artikel 46, lid 2, punt ...
Guidelines 07/2020 on the concepts of controller and processor in the GDPR
Guidelines on the concepts of controller and processor in the GDPR
The concepts of controller, joint controller and processor play a crucial role in the application of the General Data Protection Regulation 2016/679 (GDPR), since they determine who shall be responsible for compliance with different data protection rules, and how data subjects can exercise their rights in practice. The precise meaning of these concepts and the criteria for their correct interpretation must be sufficiently clear and consistent throughout the European Economic Area (EEA). The conc...
News (2)
Fairness perceptions of algorithmic decision-making: A systematic review of the empirical literature
> Algorithmic decision-making increasingly shapes people's daily lives. Given that such autonomous systems can cause severe harm to individuals and social groups, fairness concerns have arisen. A human-centric approach demanded by scholars and policymakers requires considering people's fairness perceptions when designing and implementing algorithmic decision-making. We provide a comprehensive, systematic literature review synthesizing the existing empirical insights on perceptions of algorithmic
Waarnemingen van eerlijkheid bij besluitvorming door algoritmen: Een systematisch overzicht van de empirische literatuur.
Algoritmische besluitvorming heeft steeds meer invloed op het dagelijks leven van mensen. Aangezien dergelijke autonome systemen ernstige schade kunnen toebrengen aan individuen en sociale groepen, zijn er zorgen ontstaan over eerlijkheid. Een op de mens gerichte aanpak, zoals die wordt geëist door wetenschappers en beleidsmakers, vereist dat de percepties van mensen over eerlijkheid worden meegenomen bij het ontwerpen en implementeren van algoritmische besluitvorming. We presenteren een uitgebreid en systematisch literatuuronderzoek dat de bestaande empirische inzichten over de perceptie van algoritmen samenvat.