European Union ∙ The ‘Bouncing Ball’ Effect of the EU Artificial Intelligence Act on Employment Relations

A I R e 2 | 2 0 2 4 2 2 8 R ep o r t s Eu r o p e an U n i o n T h e ‘ B o u n ci n g B al l ’ Ef f ect o f t h e EU A r t i f i ci al I n t el l i gen ce A ct o n Em p l o ym en t R el at i o n s Z a h r a Y u s i f l i * I . S e t t i n g t h e S c e n e : T h e S c o p e o f t h e EU A I A c t i n t h e W o r k p l ac e T h e E U A r t i f i c i a l I n t e l l i g e n c e A c t ( A I A c t ) 1 h a s b e e n s h a p e d i n t o a c o n s i d e r a b l e o m n i b u s R e g u l a t i o n t h a t c o v e r s a w i d e r a n g e o f i s s u e s , i n c l u d i n g A I s y s t e m s 2 u s e d w i t h i n t h e e m p l o y m e n t c o n t e x t . 3 T h e b r o a d s c o p e o f t h i s R e g u l a t i o n m a n d a t e s E U - w i d e c o m p l i- a n c e o f A I s y s t e m s a n d c o u l d a l s o i n f l u e n c e i n t e r n a- t i o n a l s t a n d a r d s . T h e n a t u r e o f t h e R e g u l a t i o n g u a r - a n t e e s t h e A I A c t ’ s a p p l i c a b i l i t y i n a l l M e m b e r S t a t e s w i t h o u t r e q u i r i n g a d d i t i o n a l l e g i s l a t i v e a c t i o n , t h e r e- b y f a c i l i t a t i n g E U - w i d e c r o s s - b o r d e r h a r m o n i s a t i o n . I t i s t h e r e f o r e e v i d e n t t h a t t h e A I A c t a p p l i e s t o a l l e m p l o y e r s a n d w o r k e r s w i t h i n t h e E U . A t t h e s a m e t i m e , t h e R e g u l a t i o n i s d e s i g n e d t o e n- s u r e c o m p l i a n c e w i t h i n t h e A I s u p p l y c h a i n : i t s d e- v e l o p m e n t , i n t r o d u c t i o n t o t h e E U s i n g l e m a r k e t , a n d d e p l o y m e n t . W i t h t h e f i r s t d r a f t o f t h e A I A c t p r e- s e n t e d i n A p r i l 2021 a n d t h e f i n a l t e x t a p p r o v e d i n M a y 2024, i t a i m s t o p r o t e c t f r o m t h e p o t e n t i a l l y h a r m f u l e f f e c t s o f A I s y s t e m s . I t d o e s s o b y c a t e g o r i s- i n g A I s y s t e m s i n t o p r o h i b i t e d 4 a n d h i g h - r i s k 5 a p p l i- c a t i o n s . H i g h - r i s k A I , s u b j e c t e d t o s t r i c t o b l i g a t i o n s 6 , i n c l u d e t h o s e ‘ t o b e u s e d f o r r e c r u i t m e n t ’ a n d ‘ t o b e u s e d t o m a k e d e c i s i o n s a f f e c t i n g t e r m s o f w o r k - r e l a t- e d r e l a t i o n s h i p s , t h e p r o m o t i o n o r t e r m i n a t i o n o f w o r k - r e l a t e d c o n t r a c t u a l r e l a t i o n s h i p s , t o a l l o c a t e t a s k s b a s e d o n i n d i v i d u a l b e h a v i o u r o r p e r s o n a l t r a i t s o r c h a r a c t e r i s t i c s o r t o m o n i t o r a n d e v a l u a t e t h e p e r - f o r m a n c e a n d b e h a v i o u r o f p e r s o n s i n s u c h r e l a t i o n- s h i p s . ’ B y i m p o s i n g o b l i g a t i o n s o n t h e d e v e l o p m e n t a n d d e p l o y m e n t o f A I s y s t e m s u s e d i n t h e w o r k p l a c e , p r o v i s i o n s o n h i g h - r i s k A I c o v e r a w i d e r a n g e o f e m- p l o y m e n t i s s u e s . U p o n c l o s e r e x a m i n a t i o n , h o w e v e r , q u e s t i o n s a r i s e r e g a r d i n g t h e d i s t r i b u t i o n o f r e s p o n- s i b i l i t y f o r e n s u r i n g t h e s e o b l i g a t i o n s . T h e A I A c t p l a c e s o b l i g a t i o n s o n e c o n o m i c o p e r a- t o r s a l o n g t h e A I s u p p l y c h a i n , n a m e l y ‘ d e p l o y e r ’ , ‘ p r o v i d e r ’ , ‘ a u t h o r i s e d r e p r e s e n t a t i v e ’ , ‘ i m p o r t e r ’ , ‘ d i s t r i b u t o r ’ , ‘ o p e r a t o r ’ , ‘ d o w n s t r e a m p r o v i d e r ’ a n d ‘ p r o d u c t m a n u f a c t u r e r ’ . 7 W h i l e i t a l s o r e f e r e n c e s p a r - t i e s t o t h e e m p l o y m e n t r e l a t i o n s , s u c h a s w o r k e r s , e m p l o y e r s , a n d w o r k e r s ’ r e p r e s e n t a t i v e s , t h e A I A c t d o e s n o t d e f i n e t h e s e t e r m s . B u i l d i n g o n a p r o d u c t - s a f e t y a p p r o a c h , t h e A I A c t d o e s n o t l i n k t h e a c t o r s i n t h e A I s u p p l y c h a i n t o t h o s e i n e m p l o y m e n t r e l a- t i o n s . T h i s r a i s e s t h e f o l l o w i n g q u e s t i o n : w h a t i s t h e r e l e v a n c e o f t h e a c t o r s i n t h e A I s u p p l y c h a i n t o t h e e m p l o y m e n t c o n t e x t ? S i n c e t h e 2021 d r a f t , t h e r e h a v e b e e n c o n c e r n s t h a t e m p l o y e r s m i g h t n o t b e s u b j e c t e d t o s u f f i c i e n t l y c l e a r a n d e x p l i c i t o b l i g a t i o n s . B y a d o p t i n g a ‘ r i s k - b a s e d ’ r a t h e r t h a n a ‘ r i g h t s - b a s e d ’ a p p r o a c h , t h e R e g u l a t i o n f a i l s t o d i r e c t l y i d e n t i f y p a r t i e s o f e m p l o y m e n t r e l a- t i o n s . A l t h o u g h t h e f i n a l v e r s i o n o f t h e A I A c t o f f e r s m o r e c o n t e x t a n d c o h e r e n c e r e g a r d i n g t h e r i g h t s a n d D O I : 1 0 . 2 1 5 5 2 / ai r e/ 2 0 2 4 / 2 / 9 * Z ah r a Y u s i f l i i s a d o ct o r al r es ear c h er i n l ab o u r l a w an d ar t i f i ci al i n t el l i gen ce at t h e U n i v er s i t y o f Lu xem b o u r g. T h i s r es ear c h i s s u p p o r t ed b y t h e Lu xem b o u r g N at i o n al R es ear c h Fu n d P R I D E1 9 / 1 4 2 6 8 5 0 6 . T h e au t h o r w o u l d l i ke t o t h an k P r o f es s o r Lu ca R at t i an d D o ct o r N as t azj a P o t o c ka- Si o n ek f o r t h ei r i n s i gh t f u l co m m en t s i n p r ep ar at i o n o f t h i s r ep o r t . F o r co r r es p o n d en ce: < zah r a. yu s i f l i @ u n i . l u > . 1 O n 2 1 M a y 2 0 2 4 , t h e A I A ct w as ap p r o v ed b y t h e C o u n ci l o f t h e Eu r o p ean U n i o n . A f t er b ei n g s i gn ed b y t h e p r es i d en t s o f t h e Eu r o p ean P ar l i am en t an d o f t h e C o u n ci l , i t w i l l b e p u b l i s h ed i n t h e EU ’ s O f f i ci al J o u r n al an d en t er i n t o f o r ce 2 0 d a ys af t er t h i s p u b l i cat i o n . 2 T h e d ef i n i t i o n o f ‘ A I s ys t em ’ as p er d ef i n i t i o n i n ar t 3 ( 1 ) o f t h e A I A ct . 3 T h i s ar t i cl e i s b as ed o n t h e ap p r o v ed t ext o f t h e A r t i f i ci al I n t el l i- gen ce A ct o f 1 4 M a y 2 0 2 4 < h t t p s : / / d at a. co n s i l i u m . eu r o p a. eu / d o c/ d o cu m en t / P E- 2 4 - 2 0 2 4 - I N I T / en / p d f > acces s ed 1 4 J u n e 2 0 2 4 . 4 C h I I o f t h e A I A ct . 5 C h I I I o f t h e A I A ct . 6 See s 2 o n ‘ R eq u i r em en t s f o r H i gh - R i s k A I Sys t em s ’ o f c h I I I A I A ct . 7 A r t 3 A I A ct al s o i d en t i f i es o t h er act o r s , i n cl u d i n g t h e ‘ n o t i f yi n g au t h o r i t y’ , ‘ m ar ket s u r v ei l l an ce au t h o r i t y’ , ‘ l a w en f o r cem en t au t h o r i t y’ , ‘ A I O f f i ce’ , ‘ n at i o n al co m p et en t au t h o r i t y’ , ‘ s u b j ect s ’ an d ‘ d o w n s t r eam p r o vi d er ’ . T h es e act o r s ar e n o t co n s i d er ed i n t h i s r ep o r t as t h er e i s n o am b i gu i t y ab o u t w h et h er t h ey can b e ei t h er w o r ker s o r em p l o y er s . A I R e 2 | 2 0 2 4 2 2 9 R ep o r t s o b l i g a t i o n s o f a l l a c t o r s a l o n g t h e A I s u p p l y c h a i n , i t r e m a i n s n e c e s s a r y t o u n d e r s t a n d w h o t h e e m p l o y e r s a n d w o r k e r s a r e u n d e r t h e A I A c t . T h e a i m o f t h i s r e p o r t i s t w o f o l d . F i r s t , i t e x p l o r e s t h e a c t o r s i d e n t i f i e d b y t h e A I A c t w i t h i n t h e A I s u p- p l y c h a i n t o p i n p o i n t t h e s p e c i f i c r o l e s o f e m p l o y e r s a n d w o r k e r s w i t h i n t h e e m p l o y m e n t c o n t e x t . I t s u b- s e q u e n t l y e v a l u a t e s w h e t h e r t h o s e a c t o r s a r e l o c a t e d i n s i d e o r o u t s i d e t h e E U . S e c o n d , t h i s r e p o r t e x a m- i n e s t h e p o t e n t i a l e x t e r n a l e f f e c t s o f t h e A I A c t b y a n a l y s i n g i t s p e r s o n a l a n d t e r r i t o r i a l s c o p e . T h i s r e- p o r t c o n c l u d e s t h a t w h i l e t h e A c t m i g h t n o t h a v e a s i g n i f i c a n t d i r e c t i m p a c t o n e x t e r n a l l a b o u r m a r k e t s , i t m i g h t n o n e t h e l e s s h a v e a ‘ b o u n c i n g b a l l ’ e f f e c t – l e a v i n g i t s m a r k s o n t h e E U , E U ’ s p a r t n e r s , a n d o t h- e r p a r t i e s o u t s i d e t h e E U . I I . Wh o A r e t h e Em p l o y e r s ? E m p l o y e r s m a y b e c a t e g o r i s e d u n d e r t h e d e f i n i t i o n s o f a c t o r s i n t h e A I A c t . S t a r t i n g w i t h t h e m o s t p r o b- a b l e s c e n a r i o , t h e r o l e o f t h e e m p l o y e r f a l l s u n d e r t h e d e f i n i t i o n o f a d e p l o y e r . A r t i c l e 3( 4) d e f i n e s a d e p l o y- e r a s ‘ a n a t u r a l o r l e g a l p e r s o n , p u b l i c a u t h o r i t y , a g e n c y , o r o t h e r b o d y u s i n g a n A I s y s t e m u n d e r i t s a u t h o r i t y ’ , i n d i c a t i n g t h a t b o t h p r i v a t e a n d p u b l i c e m- p l o y e r s f a l l u n d e r t h e s c o p e o f t h e A I A c t . E m p l o y- e r s w h i c h u s e h i g h - r i s k A I s y s t e m a r e o b l i g e d t o e n- s u r e t h a t , i n t e r a l i a , h u m a n o v e r s i g h t 8 a n d m o n i t o r - i n g a r e i n p l a c e , 9 t h e i n p u t d a t a o f A I s y s t e m a r e r e p- r e s e n t a t i v e , 1 0 l o g s g e n e r a t e d b y h i g h - r i s k A I a r e s a v e d , 1 1 w o r k e r s s u b j e c t e d t o A I s y s t e m s a r e n o t i- f i e d 1 2 a n d c o m p l i a n c e w i t h t h e E U r e g i s t r a t i o n o b l i g- a t i o n s i s o b s e r v e d 1 3 . I f d e p l o y e r s a r e e m p l o y e r s , t h e y w o u l d t y p i c a l l y h a v e t h e i r p l a c e o f e s t a b l i s h m e n t o r l o c a t i o n i n t h e E U . H o w e v e r , t h e s c o p e o f t h e R e g u l a t i o n a l s o i n- c l u d e s d e p l o y e r s l o c a t e d o u t s i d e t h e E U . A s A r t i c l e 2( 1 ) ( c ) s t a t e s , t h e R e g u l a t i o n a p p l i e s t o ‘ p r o v i d e r s a n d d e p l o y e r s o f A I s y s t e m s t h a t h a v e t h e i r p l a c e o f e s- t a b l i s h m e n t o r a r e l o c a t e d i n a t h i r d c o u n t r y , w h e r e t h e o u t p u t p r o d u c e d b y t h e A I s y s t e m i s u s e d i n t h e U n i o n [ e m p h a s i s a d d e d ] . ’ T h e u s e o f t h e A I s y s t e m ’ s o u t p u t i n t h e E U s e r v e s a s a p r e c o n d i t i o n t o t r i g g e r a n d e x t e n d t h e s c o p e o f t h e A I A c t . F o r e x a m p l e , i n- t e r n a t i o n a l e m p l o y e r s u s i n g h i g h - r i s k A I s y s t e m s t o m o n i t o r a n d e v a l u a t e t h e p e r f o r m a n c e o f E U w o r k- e r s m u s t m a k e s u r e t h a t t h e s y s t e m c o m p l i e s w i t h t h e A I A c t . 1 4 H e n c e , t h e d e p l o y e r s i n c l u d e b o t h E U e m p l o y e r s a s w e l l a s e m p l o y e r s l o c a t e d o u t s i d e t h e E U w h o i n t e n d t o u s e A I s y s t e m s i n t h e E U , t h a t i s , o n E U w o r k e r s . A n o t h e r a c t o r w i t h i n t h e A I s y s t e m s u p p l y c h a i n i s t h e p r o v i d e r , d e f i n e d i n A r t i c l e 3( 3) a s ‘ a n a t u r a l o r l e g a l p e r s o n , p u b l i c a u t h o r i t y , a g e n c y o r o t h e r b o d y t h a t d e v e l o p s a n A I s y s t e m [ … ] a n d p l a c e s i t o n t h e m a r k e t o r p u t s t h e A I s y s t e m i n t o s e r v i c e u n d e r i t s o w n n a m e o r t r a d e m a r k , w h e t h e r f o r p a y m e n t o r f r e e o f c h a r g e [ e m p h a s i s a d d e d ] . ’ E m p l o y e r s m i g h t p l a y a d u a l r o l e a s b o t h p r o v i d e r a n d d e p l o y e r w h e n A I s y s t e m s a r e d e v e l o p e d a n d u s e d w i t h i n t h e e n t e r - p r i s e . S i m i l a r t o d e p l o y e r s , t h e A I A c t a p p l i e s t o p r o v i d e r s w i t h i n t h e E U a n d i n t h i r d c o u n t r i e s i f t h e o u t p u t o f t h e A I s y s t e m s i s u s e d i n t h e E U , a s s t a t e d i n A r t i c l e 2( 1 ) ( c ) . I n a d d i t i o n , A r t i c l e 2( 1 ) ( a ) s t i p u l a t e s t h a t p r o v i d e r s p l a c i n g o r p u t t i n g i n t o s e r v i c e A I s y s- t e m s i n t h e E U a r e a l s o c o v e r e d b y t h e A I A c t , ‘ i r r e- s p e c t i v e o f w h e t h e r t h o s e p r o v i d e r s a r e e s t a b l i s h e d o r l o c a t e d w i t h i n t h e U n i o n o r i n a t h i r d c o u n t r y . ’ A n e x a m p l e o f t h i s p r o v i s i o n i s a r e c r u i t m e n t t o o l f o r s c r e e n i n g c a n d i d a t e s , w h i c h w a s c r e a t e d b y t h e e m- p l o y e r o u t s i d e o f t h e E U a n d i s u s e d p r e d o m i n a n t l y i n a t h i r d c o u n t r y . I f t h e r e i s a n i n t e n t t o u s e t h i s t o o l i n t h e E U t e r r i t o r i e s , t h e e m p l o y e r o u t s i d e o f t h e E U m u s t w a r r a n t t h a t t h e t o o l c o m p l i e s w i t h t h e A I A c t . A l t h o u g h a l l e m p l o y e r s u s i n g h i g h - r i s k A I s y s t e m s a r e d e p l o y e r s , n o t a l l e m p l o y e r s a r e A I s y s t e m p r o v i d e r s . U l t i m a t e l y , o n l y a l i m i t e d n u m b e r o f e n- t e r p r i s e s h a v e t h e i n - h o u s e c a p a c i t y a n d / o r n e e d t o m a n a g e t h e A I s u p p l y c h a i n . T h e s e e n t e r p r i s e s u s u- a l l y h a v e a n i n t e r n a t i o n a l p r e s e n c e , a r e t e c h n o l o g i- c a l l y o r i e n t e d , e m p l o y a t e a m o f e n g i n e e r s , a n d p o s- s e s s t h e r e s o u r c e s t o e x p e r i m e n t w i t h A I . M a n y o f t h e s e a r e l a r g e t e c h e n t e r p r i s e s , s u c h a s t h e B i g F i v e : A l p h a b e t , A m a z o n , A p p l e , M e t a , a n d M i c r o s o f t . E m- p l o y e r s w h o c l a s s i f y a s p r o v i d e r s o f a h i g h - r i s k A I 8 A r t 2 6 ( 2 ) A I A ct . 9 A r t 2 6 ( 5 ) A I A ct . 1 0 A r t 2 6 ( 4 ) A I A ct . 1 1 A r t 2 6 ( 6 ) A I A ct . 1 2 A r t 2 6 ( 7 ) A I A ct . 1 3 A r t 2 6 ( 8 ) A I A ct . 1 4 R eci t al 2 2 f u r t h er el ab o r at es t h at ‘ T o p r ev en t t h e ci r cu m v en t i o n o f t h i s R egu l at i o n an d t o en s u r e an ef f ect i v e p r o t ect i o n o f n at u r al p er s o n s l o cat ed i n t h e U n i o n , t h i s R egu l at i o n s h o u l d al s o ap p l y t o p r o vi d er s an d d ep l o y er s o f A I s ys t em s t h at ar e es t ab l i s h ed i n a t h i r d co u n t r y, t o t h e ext en t t h e o u t p u t p r o d u ced b y t h o s e s ys t em s i s i n t en d ed t o b e u s ed i n t h e U n i o n . ’ www.lexxion.eu Powered by TCPDF (www.tcpdf.org) A I R e 2 | 2 0 2 4 2 3 0 R ep o r t s s y s t e m a r e o b l i g e d t o e n s u r e t h a t t h e A I s y s t e m i s c r e a t e d i n c o n f o r m i t y w i t h t h e r e l e v a n t r e q u i r e m e n t s l a i d d o w n i n t h e A I A c t a n d t h a t i t i s p r o p e r l y d o c u- m e n t e d . 1 5 T h e r e a r e f i v e r e m a i n i n g a c t o r s t o c o n s i d e r a s p o- t e n t i a l e m p l o y e r s — a u t h o r i s e d r e p r e s e n t a t i v e s , i m- p o r t e r s , d i s t r i b u t o r s , o p e r a t o r s , a n d p r o d u c t m a n u- f a c t u r e r s . S o m e o f t h o s e a c t o r s ’ r e s p o n s i b i l i t i e s a r e n o t y e t f u l l y c l e a r c o n c e r n i n g l a b o u r l a w a n d w i t h i n t h e c o n t e x t o f t h e A I A c t a l o n e . A u t h o r i s e d r e p r e s e n- t a t i v e s a r e d e f i n e d i n A r t i c l e 3( 5) , a s t h e i r r e s p o n s i- b i l i t i e s a r e o u t l i n e d i n A r t i c l e 22. P r o v i d e r s o f h i g h - r i s k A I s y s t e m s f r o m t h i r d c o u n t r i e s a p p o i n t a n E U - b a s e d a u t h o r i s e d r e p r e s e n t a t i v e 1 6 , w h i c h v e r i f i e s c o n f o r m i t y , r e t a i n s d o c u m e n t a t i o n f o r 1 0 y e a r s a f t e r t h e A I s y s t e m ’ s m a r k e t r e l e a s e , 1 7 c o o p e r a t e s w i t h a u- t h o r i t i e s , 1 8 a n d c a n t e r m i n a t e t h e m a n d a t e i f t h e p r o v i d e r v i o l a t e s o b l i g a t i o n s . 1 9 C o n s i d e r i n g t h i s s e t o f r e s p o n s i b i l i t i e s , a u t h o r i s e d r e p r e s e n t a t i v e s p e r - f o r m m o r e o f a n a d m i n i s t r a t i v e m i d d l e m a n p o s i t i o n . T h e i m p o r t e r , a s p e r A r t i c l e 3( 6) , i s ‘ a n a t u r a l o r l e- g a l p e r s o n l o c a t e d o r e s t a b l i s h e d i n t h e U n i o n t h a t p l a c e s o n t h e m a r k e t a n A I s y s t e m t h a t b e a r s t h e n a m e o r t r a d e m a r k o f a n a t u r a l o r l e g a l p e r s o n e s t a b- l i s h e d i n a t h i r d c o u n t r y . ’ T h e i r m a i n r e s p o n s i b i l i t y i s t o ‘ e n s u r e t h a t t h e s y s t e m i s i n c o n f o r m i t y w i t h t h i s R e g u l a t i o n ’ , a s p e r A r t i c l e 23. R e s p e c t i v e l y , a d i s- t r i b u t o r i s d e f i n e d i n A r t i c l e 3( 7) a s ‘ a n a t u r a l o r l e- g a l p e r s o n i n t h e s u p p l y c h a i n , o t h e r t h a n t h e p r o v i d e r o r t h e i m p o r t e r , t h a t m a k e s a n A I s y s t e m a v a i l a b l e o n t h e U n i o n m a r k e t . ’ B o t h i m p o r t e r a n d d i s t r i b u t o r s h a v e s i m i l a r p u r p o s e o f t h e t h i r d - p a r t y i n t e r m e d i a r i e s , w i t h s l i g h t l y d e v i a t i n g p r o c e d u r a l o b l i g a t i o n s . N o n e t h e l e s s , t h e i r r o l e r e m a i n s u n c l e a r v i s - à - v i s l a b o u r l a w a n d w i l l h a v e t o b e a p p l i e d i n p r a c t i c e . I t c a n b e c o n c l u d e d f r o m t h e d e f i n i t i o n s a n d f u n c- t i o n s o f t h e A I s u p p l y c h a i n a c t o r s t h a t a u t h o r i s e d r e p r e s e n t a t i v e s , i m p o r t e r s , a n d d i s t r i b u t o r s w o u l d n o t b e i n d i v i d u a l l y c l a s s i f i e d a s e m p l o y e r s u n d e r t h e A I A c t . T h e s e a c t o r s m i g h t c o o p e r a t e w i t h e m p l o y- e r s t o e n s u r e t h a t t h e A I s y s t e m f u l f i l s i t s o b l i g a t i o n s u n d e r E U m a r k e t r u l e s . I n p r a c t i c e , t h e y w i l l i n t r o- d u c e a l e v e l o f b u r e a u c r a c y i n t h e E U A I s u p p l y c h a i n , s e r v i n g a s a n a d d i t i o n a l l a y e r o f c o m p l i a n c e w i t h t h e A I A c t . F u r t h e r m o r e , o p e r a t o r i s a t e r m u s e d t o c o l l e c t i v e- l y r e f e r t o t h e a c t o r s w i t h i n t h e s c o p e o f t h e A I A c t . A r t i c l e 3( 8) d e f i n e s a n o p e r a t o r a s a t e r m t o p o i n t o u t t o t h e ‘ p r o v i d e r , p r o d u c t m a n u f a c t u r e r , d e p l o y e r , a u- t h o r i s e d r e p r e s e n t a t i v e , i m p o r t e r , o r d i s t r i b u t o r . ’ T h e r e f o r e , e m p l o y e r s a r e c o n s i d e r e d o p e r a t o r s u n- d e r t h i s d e f i n i t i o n , p r i m a r i l y w i t h i n t h e m e a n i n g o f d e p l o y e r o r , i n l i m i t e d c i r c u m s t a n c e s , p r o v i d e r . T h e f i n a l a c t o r t h a t d e s e r v e s c o n s i d e r a t i o n i s a p r o d u c t m a n u f a c t u r e r , w h o h a s n o t s e c u r e d a d e f i n- i t i o n i n t h e A I A c t . N e v e r t h e l e s s , t h e s e a c t o r s p l a y a r o l e i n t h e A I s u p p l y c h a i n . M a n u f a c t u r e r s b e c o m e r e l e v a n t t o t h e q u e s t i o n o f A I p r o d u c t i o n w h e n t h e y i n t e g r a t e h i g h - r i s k A I s y s t e m s i n t o t h e i r p r o d u c t s a n d m u s t a s s u m e r e s p o n s i b i l i t y f o r e n s u r i n g t h e A I s y s- t e m ’ s c o m p l i a n c e . T h e y h a v e t h e s a m e o b l i g a t i o n s a s t h o s e i m p o s e d o n t h e p r o v i d e r s o f A I s y s t e m s u n d e r t h i s R e g u l a t i o n i f : ‘ ( a ) t h e h i g h - r i s k A I s y s t e m i s p l a c e d o n t h e m a r k e t t o g e t h e r w i t h t h e p r o d u c t u n- d e r t h e n a m e o r t r a d e m a r k o f t h e p r o d u c t m a n u f a c- t u r e r ; ( b ) t h e h i g h - r i s k A I s y s t e m i s p u t i n t o s e r v i c e u n d e r t h e n a m e o r t r a d e m a r k o f t h e p r o d u c t m a n u- f a c t u r e r a f t e r t h e p r o d u c t h a s b e e n p l a c e d o n t h e m a r - k e t . ’ 2 0 E m p l o y e r s m i g h t f a l l w i t h i n t h e d e f i n i t i o n o f t h e p r o d u c t m a n u f a c t u r e r i f t h e y p r o d u c e h i g h - r i s k A I s y s t e m s u s e d i n a w o r k p l a c e . T o s u m m a r i s e , a m o n g t h e l i s t e d a c t o r s , d e p l o y e r s a r e m o s t c l o s e l y a l i g n w i t h t h e r o l e o f e m p l o y e r s . P r o v i d e r s m i g h t a l s o a c t a s e m p l o y e r s i n s i t u a t i o n s w h e r e t h e y d e v e l o p t h e i r o w n h i g h - r i s k A I s y s t e m s . W h i l e a u t h o r i s e d r e p r e s e n t a t i v e s , i m p o r t e r s , d i s t r i b- u t o r s , o r p r o d u c t m a n u f a c t u r e r s a r e n o t e m p l o y e r s , t h o s e a c t o r s m u s t w o r k w i t h e m p l o y e r s m o s t l y o n h i g h - r i s k A I s y s t e m s . B o t h d e p l o y e r s a n d p r o v i d e r s , w h e t h e r b a s e d i n s i d e o r o u t s i d e t h e E U , m i g h t b e c a t- e g o r i s e d a s e m p l o y e r s . T h i s e x t e n d s t h e t e r r i t o r i a l s c o p e o f t h e A I A c t t o i n c l u d e i n t e r n a t i o n a l e n t e r p r i s- e s e m p l o y i n g w o r k e r s i n t h e E U . I I I . Wh o A r e t h e W o r k e r s ? I d e n t i f i c a t i o n o f w o r k e r s i s a r a t h e r s t r a i g h t f o r w a r d t a s k . E v e n i f t h e A I A c t d o e s n o t d e f i n e w o r k e r s w i t h- i n t h e a r t i c l e s o n s c o p e a n d d e f i n i t i o n s , i t d o e s c o n- f i n e i t s a p p l i c a t i o n t o ‘ a f f e c t e d p e r s o n s t h a t a r e l o c a t- 1 5 A r t 1 6 A I A ct . 1 6 A r t 2 2 ( 1 ) A I A ct . 1 7 A r t 2 2 ( 3 ) ( b ) A I A ct . 1 8 A r t 2 2 ( 3 ) A I A ct . 1 9 A r t 2 2 ( 4 ) A I A ct . 2 0 A r t 2 5 ( 3 ) A I A ct . A I R e 2 | 2 0 2 4 2 3 1 R ep o r t s e d i n t h e U n i o n . ’ 2 1 I t i s t h e r e f o r e l o g i c a l t h a t t h e A c t d o e s n o t f o r e s e e a n y p r o v i s i o n s d i r e c t l y r e l a t e d t o A I s y s t e m s u s e d t o m a n a g e w o r k e r s o u t s i d e t h e E U . B e- y o n d c a t e g o r i s i n g s o m e l a b o u r A I s y s t e m s a s h i g h - r i s k a p p l i c a t i o n s , t h e A I A c t i n c l u d e s s e v e r a l c r i t i c a l c l a u s e s r e l a t e d t o w o r k e r s . N o t a b l y , A r t i c l e 5 p r o- h i b i t s t h e d e p l o y m e n t o f A I s y s t e m s c r e a t e d ‘ t o i n f e r t h e e m o t i o n s o f a n a t u r a l p e r s o n i n t h e a r e a s o f w o r k- p l a c e . ’ 2 2 T h i s p r o h i b i t i o n i s s i g n i f i c a n t , a s i t c a t e g o r - i c a l l y c u r t a i l s t h e d e p l o y m e n t o f c o n t r o v e r s i a l A I p r o d u c t s t h a t m i g h t b e a v a i l a b l e o n t h e m a r k e t . F u r t h e r m o r e , A r t i c l e 26( 7) m a n d a t e s t h a t e m p l o y- e r s w h o f a l l u n d e r t h e c a t e g o r y o f d e p l o y e r s ‘ s h a l l i n- f o r m w o r k e r s ’ r e p r e s e n t a t i v e s a n d t h e a f f e c t e d w o r k- e r s t h a t t h e y w i l l b e s u b j e c t ’ t o t h e h i g h - r i s k A I s y s- t e m . T h i s i s a n o t h e r r e m a r k a b l e a d d i t i o n t o t h e R e g- u l a t i o n s i n c e t h e A p r i l 2021 A I A c t d r a f t . I t i s i m p o r - t a n t t o n o t e t h a t A r t i c l e 26( 7) u s e s t h e p h r a s e ‘ a l l a f- f e c t e d w o r k e r s ’ a n d n o t ‘ e m p l o y e e s ’ , m e a n i n g t h a t t h e e m p l o y i n g p a r t y i n t h e E U h a s t h e r e s p o n s i b i l i- t y t o n o t i f y e v e r y o n e s u b j e c t e d t o A I s y s t e m s . T h i s c a n b e i n t e r p r e t e d a s a n o b l i g a t i o n t o w a r d s a l l w o r k- e r s , e v e n t h o s e w h o d o n o t h a v e a f o r m a l e m p l o y- m e n t c o n t r a c t w i t h a n e m p l o y e r . A s i m i l a r c o n c l u s i o n c a n n o t b e i m m e d i a t e l y d r a w n r e g a r d i n g t h e r e s p o n s i b i l i t y t o w a r d s t h e s e l f - e m p l o y e d . R e c i t a l 57 a s w e l l a s A n n e x I I I i n c l u d e s e l f - e m p l o y e d w o r k e r s w i t h i n t h e s c o p e o f t h e R e g u l a- t i o n w i t h r e g a r d s t o a p p l i c a t i o n o f h i g h - r i s k A I s y s- t e m s . T h e t e x t , h o w e v e r , d o e s n o t m a k e i t c o n c l u s i v e- l y c l e a r w h e t h e r t h e r e s p o n s i b i l i t y t o i n f o r m w i t h i n t h e m e a n i n g o f A r t i c l e 26( 7) i s a l s o e x t e n d e d t o s e l f - e m p l o y e d w o r k e r s i n t h e E U . D e s p i t e t h i s p o s s i b l e o m i s s i o n , t h e b r o a d s c o p e i s w e l c o m e d a s a p e r t i n e n t s t e p i n e m p o w e r i n g w o r k e r s w i t h k n o w l e d g e a n d s e t- t i n g a b a s e l i n e s t a n d a r d t o e n s u r e t h a t w o r k e r s a r e a w a r e o f t h e i r e x p o s u r e t o A I s y s t e m s . T h e d i s c l o s u r e o b l i g a t i o n u n d e r A r t i c l e 26( 7) c o m e s w i t h t h e w o r k e r s ’ r i g h t t o l o d g e a c o m p l a i n t a n d t h e e m p l o y e r ’ s o b l i g a t i o n t o e x p l a i n i n d i v i d u a l d e c i s i o n - m a k i n g . A r t i c l e 85 p r o v i d e s t h a t ‘ a n y n a t u r - a l o r l e g a l p e r s o n h a v i n g g r o u n d s t o c o n s i d e r t h a t t h e r e h a s b e e n a n i n f r i n g e m e n t o f t h e p r o v i s i o n s o f t h i s R e g u l a t i o n m a y s u b m i t c o m p l a i n t s t o t h e r e l e- v a n t m a r k e t s u r v e i l l a n c e a u t h o r i t y . ’ M e a n w h i l e , a s p e r A r t i c l e 86 ‘ a n y a f f e c t e d p e r s o n ’ m a y a s k t h e d e- p l o y e r f o r a n e x p l a n a t i o n o f t h e d e c i s i o n t h a t w a s t a k e n . I V . T h e ‘ B o u n c i n g B al l ’ Ef f e c t T h i s c o n t r i b u t i o n o f f e r s a p e r s p e c t i v e o n t h o s e a f- f e c t e d b y t h e A I A c t i n t h e w o r l d o f w o r k b y i d e n t i- f y i n g t h e a c t o r s i n v o l v e d . W h i l e w o r k e r s w i t h i n t h e E U a r e ( r e l a t i v e l y ) e a s i l y i d e n t i f i a b l e , 2 3 s o m e p r o v i- s i o n s m i g h t a l s o i n v o l v e w o r k e r s o u t s i d e t h e E U . P r e- v i o u s s e c t i o n s i n d i c a t e t h a t u n d e r t h e E U A c t , e m- p l o y e r s c a n b e f r o m w i t h i n o r o u t s i d e t h e E U , w h i l e w o r k e r s m u s t b e b a s e d i n t h e E U . N e v e r t h e l e s s , t h e r e m a y b e s o m e l i m i t e d c r o s s - b o r d e r i m p a c t o n i n t e r n a- t i o n a l w o r k e r s , p a r t i c u l a r l y t h o s e m o n i t o r e d b y A I s y s t e m s o r i g i n a t i n g f r o m o r r e l e v a n t t o t h e E U A I s u p p l y c h a i n . I n t e r n a t i o n a l e n t e r p r i s e s t h a t p r o v i d e t h e i r s e r - v i c e s i n t h e E U , a s w e l l a s E U e n t e r p r i s e s p r o v i d i n g t h e i r s e r v i c e s a b r o a d , w i l l b e m o s t i m p a c t e d b y t h e E U R e g u l a t i o n . F o r e x a m p l e , t h e r i g h t s a n d o b l i g a- t i o n s i m p o s e d b y A r t i c l e s 85 a n d 86 e n s u r e t r a n s- p a r e n c y a n d a c c o u n t a b i l i t y i n t h e u s e o f h i g h - r i s k A I s y s t e m s i n t h e w o r k p l a c e . A l t h o u g h t h e s e p r o v i s i o n s p r i m a r i l y a f f e c t t h e E U , t h e r e q u i r e m e n t t o i n v o l v e w o r k e r s ’ r e p r e s e n t a t i v e s c o u l d s e r v e a s a m o d e l f o r r e g u l a t o r y a u t h o r i t i e s i n t h i r d c o u n t r i e s . A d d i t i o n a l- l y , t h e w o r d i n g o f t h e s e c l a u s e s , s u c h a s ‘ a n y a f f e c t- e d p e r s o n ’ a n d ‘ a n y n a t u r a l o r l e g a l p e r s o n ’ , s u g g e s t s t h a t w o r k e r s o u t s i d e t h e E U m i g h t a l s o b e n e f i t f r o m t h e r i g h t s g r a n t e d b y A r t i c l e s 85 a n d 86 i f t h e i r e n- t e r p r i s e h a s a p r e s e n c e w i t h i n t h e E U . A r t i c l e 5 c o u l d a l s o h a v e a m i n o r i n t e r n a t i o n a l i m- p a c t . C o n s i d e r i n g t h e A I A c t ’ s p r o h i b i t i o n s , d e v e l o p- e r s a n d p r o d u c t m a n u f a c t u r e r s w o r l d w i d e m i g h t r e- d u c e t h e i r f o c u s o n A I s y s t e m s d e v e l o p m e n t i n t h i s a r e a . D e v e l o p e r s m a y a l s o l a c k s u f f i c i e n t d a t a t o t r a i n t h e s e s y s t e m s , p o t e n t i a l l y d e c r e a s i n g t h e i r o v e r a l l u s e a n d d e p l o y m e n t . T h e e f f e c t , n e v e r t h e l e s s , m a y b e l i m i t e d , a s e m o t i o n a l r e c o g n i t i o n A I s y s t e m s a r e e x e m p t e d i n t h e A I A c t f o r m i l i t a r y , d e f e n c e , o r n a- t i o n a l s e c u r i t y p u r p o s e s , a r e n o t b a n n e d a n d a r e a c- t i v e l y u s e d i n m a n y o t h e r p a r t s o f t h e w o r l d . 2 4 O n e o f t h e i m p o r t a n t d e v e l o p m e n t s i s t h e e s t a b- l i s h m e n t o f A I a u t h o r i t i e s , w h i c h m i g h t r e m e d y o n e o f t h e g r e a t e s t p r o b l e m s —t h e o b s c u r i t y o f A I p r o d- 2 1 A r t 2 ( 1 ) ( g) A I A ct . 2 2 A r t 5 ( 1 ) ( f ) A I A ct . 2 3 F o r a d i s cu s s i o n cf N K o u n t o u r i s , ‘ T h e C o n cep t o f " W o r ker " i n Eu r o p ean Lab o u r La w ’ ( J u l y 2 0 1 8 ) 4 7 ( 2 ) I n d u s t r i al La w J o u r n al 1 9 2 –2 2 5 . 2 4 A r t 2 A I A ct . A I R e 2 | 2 0 2 4 2 3 2 R ep o r t s u c t s a v a i l a b l e o n t h e m a r k e t . T h e E U d a t a b a s e f o r h i g h - r i s k A I s y s t e m s w i l l e n h a n c e t r a n s p a r e n c y f o r A I s y s t e m s u s e d i n t h e E U , a s a c o h e r e n t l i s t d o e s n o t c u r r e n t l y e x i s t . 2 5 S i g n i f i c a n t i n s t i t u t i o n a l c h a n g e s w i l l b e r e q u i r e d , i n c l u d i n g t h e c r e a t i o n o f m a r k e t s u r - v e i l l a n c e a u t h o r i t i e s 2 6 , E U A I B o a r d , 2 7 E U A I O f- f i c e , 2 8 a d v i s o r y f o r u m , 2 9 a n d s c i e n t i f i c p a n e l s o f i n- d e p e n d e n t e x p e r t s . 3 0 T h e A I s y s t e m s l i s t , a l o n g w i t h t h e c r e a t i o n o f A I i n s t i t u t i o n s , w i l l h e l p i d e n t i f y s u p- p l i e r s a n d p o t e n t i a l l y e v a l u a t e t h e g e o g r a p h i c a l s c o p e o f c o u n t r i e s m o s t i n v o l v e d w i t h t h e E U i n A I s y s t e m t r a d e . T h i s i n f o r m a t i o n w i l l b e c r u c i a l i n a s s e s s i n g t h e E U A I A c t ’ s e f f e c t o n E U A I s y s t e m p a r t n e r s , c o m p a- r a b l e t o ‘ t h e e f f e c t o f a b o u n c i n g b a l l ’ . T h i s e f f e c t d e- s c r i b e s t h e d y n a m i c s o f a b a l l t h r o w n d o w n w a r d t h a t i m p a c t s a n d r e b o u n d s o f f a s u r f a c e . W i t h e a c h s u b- s e q u e n t h i t , t h e b a l l ’ s i m p a c t b e c o m e s m o r e f r e q u e n t y e t l e s s s t r o n g d u e t o d e c r e a s i n g v e l o c i t y . S i m i l a r l y , t h e i m p a c t o f t h e A I A c t o n l a b o u r m a r k e t s a n d e m- p l o y m e n t o u t s i d e t h e E U w i l l b e f e l t b y c o u n t r i e s w i t h t i e s t o t h e E U , w h o w i l l e x p e r i e n c e t h e s e c o n d o r t h i r d b o u n c e o f t h e b a l l . T h e A I A c t m i g h t h a v e a n i n d i r e c t i m p a c t —a s e c- o n d a r y o r t h i r d b o u n c e o f t h e d r o p p e d b a l l —o n t h e d e v e l o p m e n t o f p r o h i b i t e d A I s y s t e m p r a c t i c e s . I n p a r t i c u l a r , t h e A I A c t p a r t i c u l a r l y i n f l u e n c e s g l o b a l s t a n d a r d s f o r h i g h - r i s k a n d p r o h i b i t e d A I s y s t e m s , e n f o r c i n g c o m p l i a n c e b y l e v e r a g i n g t h e s u b s t a n t i a l E U m a r k e t a n d e x i s t i n g p r o d u c t s a f e t y f r a m e w o r k s . W h i l s t i t w i l l h a v e a m i n i m a l d i r e c t i m p a c t o n t a n- g i b l e p r o t e c t i o n f o r w o r k e r s , i t w i l l p r o v i d e i n d i r e c t p r o t e c t i o n t h r o u g h p r o d u c t s a f e t y r e g u l a t i o n s . V . D i s c u s s i o n an d C o n c l u s i o n W h i l e t h e m o n u m e n t a l e f f o r t t h a t i s t h e A I A c t h a s a t t e m p t e d t o g e t a h e a d o f t h e d y n a m i c a n d c o n s t a n t- l y e v o l v i n g A I i n d u s t r y , i t s e f f e c t i s y e t t o b e f u l l y d e- t e r m i n e d . T h e A I A c t i n f l u e n c e s g l o b a l s t a n d a r d s f o r h i g h - r i s k A I s y s t e m s , l e v e r a g i n g t h e s u b s t a n t i a l s i z e o f t h e E U s i n g l e m a r k e t t o e n f o r c e c o m p l i a n c e . T h e f u l l p o t e n c y o f t h e A I A c t c a n n o t b e c o m p r e h e n s i v e- l y e v a l u a t e d w i t h i n t h i s r e p o r t . O t h e r f a c t o r s , s u c h a s p r o c e d u r a l o b l i g a t i o n s , m u s t b e c o n s i d e r e d t o d r a w f u r t h e r c o n c l u s i o n s o n t h e p o t e n t i a l e f f e c t s o f t h e A I A c t w i t h i n t h e e m p l o y m e n t c o n t e x t o u t s i d e t h e E U . H o w e v e r , i t c a n a l r e a d y b e s a i d t h a t t h e A I A c t ’ s p r o- v i s i o n s a r e l i m i t e d i n t h e i r i m p a c t . G i v e n t h e k e y r i s k a r e a s e m e r g i n g i n t h e g l o b a l m a r k e t , 3 1 t h e p r o v i s i o n s p r e s e n t e d i n t h i s r e p o r t a r e n o t s u f f i c i e n t l y f a r - r e a c h- i n g t o e x p e c t t h e A I A c t ’ s i m p a c t o n e x t e r n a l l a b o u r m a r k e t s . A s t h e t e x t o f t h e A I A c t i s f i n a l i s e d , e m p l o y e r s i n t h e E U w h o a s s u m e a n y o f t h e r o l e s o u t l i n e d i n t h e A I A c t n e e d t o h e e d c o m p l i a n c e w i t h t h e l e g i s l a t i o n . T h e p r i m a r y a i m o f t h e A c t i s t o e n h a n c e A I p r o d u c t s a f e t y t h r o u g h t h e i m p o s i t i o n o f c o n s i d e r a b l e o b l i g- a t i o n s o n t h e i n t e r m e d i a r i e s l o c a t e d w i t h i n a n d o u t- s i d e t h e E U . T h e e f f e c t s o f t h e A I A c t i n p r o t e c t i n g l a b o u r r i g h t s m a y b e l i m i t e d , p o t e n t i a l l y c r e a t i n g o n- l y t h e ‘ b o u n c i n g b a l l e f f e c t ’ i n t h e g l o b a l m a r k e t . T h i s e f f e c t , w h e r e b y t h e i n i t i a l i m p a c t s a r e s t r o n g b u t d i- m i n i s h o v e r t i m e a n d t h e p r o x i m i t y , s u g g e s t s t h a t a l- t h o u g h t h e A c t ’ s i n f l u e n c e m a y r e s o n a t e g l o b a l l y , i t d o e s s o w i t h d e c r e a s i n g i n t e n s i t y a s i t e x t e n d s b e- y o n d t h e E U ’ s b o r d e r s . 2 5 A n n ex I I I A I A ct . 2 6 A s p er ar t 3 ( 2 6 ) A I A ct m ar ket s u r v ei l l an ce au t h o r i t y ‘ m ean s t h e n at i o n al au t h o r i t y car r yi n g o u t t h e act i vi t i es an d t aki n g t h e m ea- s u r es p u r s u an t t o R egu l at i o n ( EU ) 2 0 1 9 / 1 0 2 0 ’ o n m ar ket s u r v ei l- l an ce an d co m p l i an ce o f p r o d u ct s . 2 7 T h e A r t i f i ci al I n t el l i gen ce B o ar d w i l l b e co m p o s ed o f o n e r ep r e- s en t at i v e p er M em b er St at e as p er ar t 6 5 A I A ct . 2 8 A s p er ar t 6 4 A I A ct . 2 9 A s p er ar t 6 7 A I A ct . 3 0 A s p er ar t 6 8 A I A ct . 3 1 T h es e r i s k f act o r s i n cl u d e f ai r p r o f i t d i s t r i b u t i o n f r o m A I p r o d u c- t i vi t y t o o l s , exp l o i t at i o n i n i n f o r m al m ar ket s f aci l i t at ed b y A I exacer b at i n g i n co m e i n eq u al i t i es , co n cer n s ab o u t d at a s u b j ect r i gh t s , t h e s u b s t i t u t i o n o f h u m an s ki l l s , an d a p at c h y m acr o r egu l at o r y f r am ew o r k.