News

The results of a controlled experiment using Proctorio, an online system for monitoring exams, indicate that the system is not effective in detecting cheating.

De resultaten van een gecontroleerd experiment met Proctorio, een online systeem voor toezicht tijdens examens, laten zien dat het systeem niet effectief is in het detecteren van fraude.

The results of a controlled experiment using Proctorio, an online proctoring system, show that it is ineffective at detecting cheating.

Georgetown University Law Center researchers propose that every IoT device manufacturer build a switch into their devices that disables any smart feature that contributes to security or privacy risks. This will render a smart thermostat just a thermostat and a smart doorbell just a doorbell, and will disable microphones, sensors, and wireless connectivity. Any user should find it easy to use and easy to verify whether the switch has been toggled.

Blogpost 15/2023: De verplichting voor nationale rechtbanken om een voorlopig advies aan te vragen bij het Gerechtshof van de Europese Unie (HvJ EU) is een onderwerp dat al lang wordt besproken. In het EU-recht wordt dit vaak voorgesteld als een kwestie met twee partijen: een nationale rechtbank en Luxemburg. In recente jurisprudentie heeft het Europees Hof voor de Rechten van de Mens (EGMR) hierover uitspraken gedaan, en wel als volgt: […]

> Blogpost 15/2023 The obligation of national courts to seek preliminary reference from the Court of Justice of the EU (CJEU) is a long-debated topic. In EU law, it is framed as an issue with two players: a national court and Luxembourg. In recent case law, the European Court of Human Rights (ECtHR) has made it […]

> Algorithmic decision-making increasingly shapes people's daily lives. Given that such autonomous systems can cause severe harm to individuals and social groups, fairness concerns have arisen. A human-centric approach demanded by scholars and policymakers requires considering people's fairness perceptions when designing and implementing algorithmic decision-making. We provide a comprehensive, systematic literature review synthesizing the existing empirical insights on perceptions of algorithmic

Algoritmische besluitvorming heeft steeds meer invloed op het dagelijks leven van mensen. Aangezien dergelijke autonome systemen ernstige schade kunnen toebrengen aan individuen en sociale groepen, zijn er zorgen ontstaan over eerlijkheid. Een op de mens gerichte aanpak, zoals die wordt geëist door wetenschappers en beleidsmakers, vereist dat de percepties van mensen over eerlijkheid worden meegenomen bij het ontwerpen en implementeren van algoritmische besluitvorming. We presenteren een uitgebreid en systematisch literatuuronderzoek dat de bestaande empirische inzichten over de perceptie van algoritmen samenvat.

This article discusses the importance of privacy in the context of the recent Supreme Court ruling on abortion in the United States. The ruling has led to the potential for personal data, such as browsing histories and location data, to be used to prosecute women seeking abortions and those who assist them. The text argues that privacy is important because it protects individuals from abuses of power, and that the digital age has made the challenge of protecting privacy more formidable, but not

Geautomatiseerde personalisatie in consumentenverzekeringscontracten is in Europa nog geen realiteit, maar de massacustomisatie en robotisering van verzekeringscontracten vormen een toenemend probleem, zo blijkt uit dit artikel in het European Review of Private Law.

Automated personalization in consumer insurance contracts is not yet a reality in Europe, but mass customization and robotization of insurance contracts are a growing problem, according to this article in European Review of Private Law.

Er is een brede consensus dat algoritmesystemen voornamelijk benaderd moeten worden vanuit het perspectief van indirecte discriminatie en hun impact, maar onderzoekers stellen dat deze aanpak zowel normatief onwenselijk is als juridisch onjuist. In sommige gevallen kan algoritmevooroordeel directe discriminatie vormen, en de wetgeving zou beter in staat moeten zijn om dit aan te pakken. > Empirisch bewijs van vooroordeel in geautomatiseerde besluitvorming zal ons dwingen om veel van de fundamentele uitdagingen met betrekking tot het concept opnieuw te evalueren.

There is a broad consensus that algorithmic systems should be approached principally through the lens of indirect discrimination and their impact, but researchers argue that this approach is both normatively undesirable and legally flawed. In some cases, algorithmic bias may constitute direct discrimination, and the law should be better equipped to deal with this. > Empirical evidence of bias in automated decision-making will require us to revisit many of the fundamental challenges to the conce

Law can play an important role in safeguarding trust in organisations that use news personalisation. Control and transparency measures are crucial to enabling individuals to trust these organisations. The law’s current focus on informing individuals about and empowering them to stop personalisation does not account for the importance of enabling individuals to control how news is personalised.

De wet kan een belangrijke rol spelen bij het waarborgen van het vertrouwen in organisaties die gebruikmaken van nieuwsverpersoonlijking. Maatregelen voor controle en transparantie zijn cruciaal om ervoor te zorgen dat individuen deze organisaties kunnen vertrouwen. De huidige focus van de wet, die gericht is op het informeren van individuen en hen in staat stellen om de verpersoonlijking te stoppen, houdt geen rekening met het belang van het mogelijk maken voor individuen om controle te hebben over hoe het nieuws wordt gepersonaliseerd.

Er is een groot verschil tussen de wettelijke en ethische regels voor bestuur en de dagelijkse praktijk van professionals in de publieke sector die met data werken. Deze kaders worden vaak impliciet en subtiel toegepast, wat een invloed heeft op de besluitvorming. Volgens dit artikel is het bevorderen van algemene kennis en vaardigheden, in plaats van specialisatie, een noodzakelijk gevolg.

There is a wide gap between legal and ethical governance rules and the everyday practices of public sector data professionals. Frameworks are integrated implicitly, subtly influencing decision making. According to this article, mainstreaming literacy, rather than specialization, is a necessary consequence.

The concept of proportionality is at the very core of the modern understanding of human rights. Proportionality is, first and foremost, a condition for the limitation of a qualified fundamental right.

Zelfvoorzienende identiteit is een technologie in een vroeg stadium van ontwikkeling, waarvan de voordelen voor vluchtelingen nog onzeker zijn. Het kan hen mogelijk meer autonomie geven, maar het riskeert ook de macht van staten en bedrijven ten opzichte van hen te versterken, zo stelt dit artikel.

Self-sovereign identity is an embryonic technology with uncertain benefits for refugees. It may help to empower them, but it also risks reinforcing the power of states and corporations over them, according to this article.

Voorstellen over het eigendom van data zijn misplaatst en zouden averechts werken als ze zouden worden doorgevoerd. In plaats daarvan moet hervorming van de privacywetgeving zich richten op het versterken van de bestaande beperkingen op het gebruik van persoonlijke gegevens, zo stelt dit artikel.

Data ownership proposals are misguided and would be self-defeating if implemented. Instead, privacy law reform should focus on strengthening ongoing use restrictions over personal data, according to this article.

Machine learning kan worden gebruikt om verkoopstrategieën in de consumentenmarkt te optimaliseren, maar het roept ook zorgen op over manipulatie. Volgens dit artikel is het belangrijk om te begrijpen hoe oneerlijke handelspraktijken, gegevensbescherming en privacywetgeving met elkaar samenhangen, om deze risico's te beperken.

Machine learning can be used to optimize sales practices in consumer markets, but it also raises concerns about manipulation. According to this article, in order to mitigate these risks, we need to understand how unfair commercial practice, data protection, and privacy law interact.

DPAs are independent authorities entrusted with the consistent application of the GDPR, and are obliged to facilitate the submission of complaints. However, according to this paper, current practices related to this obligation are lacking in clarity, and there is a need for DPAs to provide more information to data subjects about their rights under the GDPR.

Autoriteiten voor gegevensbescherming (DPAs) zijn onafhankelijke instanties die verantwoordelijk zijn voor de consistente toepassing van de AVG, en die verplicht zijn om het indienen van klachten te faciliteren. Volgens dit document zijn de huidige praktijken met betrekking tot deze verplichting echter niet duidelijk, en is het noodzakelijk dat DPAs meer informatie verstrekken aan betrokkenen over hun rechten onder de AVG.

This paper studies the installation and configuration process of consent pop-ups and their potential effects on website publishers' decision making. It finds that Consent Management Providers often violate the law, and that configuration options may lead to non-compliance.

Dit artikel onderzoekt het installatie- en configuratieproces van pop-ups voor toestemmingen, en de mogelijke gevolgen daarvan voor de besluitvorming van website-uitgevers. Het blijkt dat aanbieders van toestemmingsbeheer vaak de wet overtreden, en dat configuratieopties kunnen leiden tot niet-naleving van de regels.

Het netwerk European Digital Rights (EDRi) heeft een position paper gepubliceerd over het voorgestelde Europees regelgevend kader voor geautomatiseerde gegevensuitwisseling ter bevordering van de samenwerking tussen politie, bekend als "Prüm II". Dit omvat momenteel voornamelijk een netwerk voor gegevensuitwisseling (waarbij nationale DNA-databases, vingerafdrukken en voertuigregistraties met elkaar worden verbonden). Het voorziet in een uitbreiding van dit netwerk, waarbij gezichtsherkenningstechnologie wordt toegevoegd en, op vrijwillige basis, "politiedossiers". Het position paper werpt verschillende belangrijke vragen op over...

The European Digital Rights (EDRi) network published a position paper on the proposed Regulation on automated data exchange for police cooperation, known as “Prüm II”. This currently primarily consists of a data-sharing network (interlinking national DNA, fingerprint and vehicle registration databases). It foresees the expansion of the data-sharing network to the interconnection of facial images and, on a voluntary basis, “police records”. The position paper raises several critical issues of t

> * We stellen een raamwerk voor om verschillende soorten uitleg van AI-systemen te definiëren. > * We plaatsen de huidige discussies over "Explainable AI" (XAI) binnen dit voorgestelde raamwerk. > * We benadrukken twee brede perspectieven voor het definiëren van kwaliteitscriteria voor uitlegbaarheid. > * We bespreken de relevantie van ons raamwerk in het licht van de huidige en toekomstige regelgeving met betrekking tot AI.

> * We propose a framework for defining different types of explanations of AI systems. > * We contextualize current XAI discourses within the proposed framework. > * We highlight two broad perspectives for defining quality criteria for explainability. > * We discuss the relevance of our framework in light of current and upcoming AI regulation.

De CLOUD-akkoorden tussen de VS en het Verenigd Koninkrijk zullen waarschijnlijk de digitale privacyrechten van burgers van de VS en het VK verbeteren, maar ze zullen deze rechten verder aantasten voor personen uit derde landen (bijvoorbeeld uit de EU). Volgens een artikel in het Brooklyn Journal of International Law zouden de VS en het VK vrijwillig de bescherming van het Vierde Amendement en artikel 8 uitbreiden tot deze personen.

The CLOUD Act agreements between the US and UK will likely improve the digital privacy rights of US and UK citizens, but they will further undermine these rights for Third Country Persons (eg from EU). The US and UK should voluntarily extend Fourth Amendment and Article 8 protections to these persons, according to an article in the Brooklyn Journal of International Law.

> This Article observes that constructing AI harms as risks is a choice with consequences. Risk regulation comes with its own policy baggage: a set of tools and troubles that have emerged in other fields. Moreover, there are at least four models for risk regulation, each with divergent goals and methods. Emerging conflicts over AI risk regulation illustrate the tensions that emerge when regulators employ one model of risk regulation, while stakeholders call for another.

Dit artikel stelt dat het beschouwen van de negatieve gevolgen van kunstmatige intelligentie als risico's een bewuste keuze is met gevolgen. Risicobeheer brengt zijn eigen specifieke uitdagingen met zich mee: een verzameling van instrumenten en problemen die in andere vakgebieden zijn ontstaan. Bovendien zijn er minstens vier modellen voor risicobeheer, elk met verschillende doelen en methoden. De opkomende conflicten over de regulering van de risico's van kunstmatige intelligentie illustreren de spanningen die ontstaan wanneer toezichthouders één model van risicobeheer hanteren, terwijl belanghebbenden een ander model voorstellen.

Op 21 juni 2022 heeft het Gerechtshof van de Europese Unie (Groot Beschouwingscollege) een baanbrekende uitspraak gedaan waarin het het EU-regime voor het verzamelen en gebruiken van gegevens van reizigers bevestigde, mits dit strikt wordt geïnterpreteerd in overeenstemming met de fundamentele rechten van de EU. Bovendien is het zonder onderscheid verwerken van deze gegevens bij vluchten die uitsluitend binnen de EU plaatsvinden verboden, tenzij er een dreiging van terrorisme bestaat. Over het algemeen moeten de gegevens van de passagiers ook binnen zes maanden worden verwijderd.

> In a landmark ruling of 21 June 2022, the CJEU (Grand Chamber), upheld the EU’s regime to collect and use records of travellers, provided that it is strictly interpreted in line with the EU’s fundamental rights. In addition, indiscriminate processing of the data in cases of flights carried out only within the EU is banned unless there is a threat of terrorism. In general, the passengers’ data must also be deleted after six months at the latest.

> On 5 April 2022, the CJEU added another chapter to the long history of the admissibility of data retention in the EU. In a case concerning the data retention law in Ireland, the CJEU confirmed that general and indiscriminate retention of traffic and location data relating to electronic communication is contrary to Union law even if it intends to combat serious crime.

Op 5 april 2022 voegde het Hof van Justitie van de Europese Unie (HvJ EU) een nieuw hoofdstuk toe aan de lange geschiedenis van de toelaatbaarheid van gegevensopslag binnen de EU. In een zaak met betrekking tot de wetgeving inzake gegevensopslag in Ierland, bevestigde het HvJ EU dat de algemene en ongecontroleerde opslag van verkeers- en locatiegegevens met betrekking tot elektronische communicatie in strijd is met het EU-recht, zelfs als het doel is om ernstige misdrijven te bestrijden.

> Thirty study participants playtested an innocent-looking "escape room" game in virtual reality (VR). Behind the scenes, an adversarial program had accurately inferred over 25 personal data attributes, from anthropometrics like height and wingspan to demographics like age and gender, within just a few minutes of gameplay. As notoriously data-hungry companies become increasingly involved in VR development, this experimental scenario may soon represent a typical VR user experience.