# The EU Artificial Intelligence Act:

- Type: Literature
- Source: Journal of AI Law and Regulation
- Date: 2024-01-01
- Original: https://doi.org/10.21552/aire/2024/1/11
- Canonical: https://overview.legal/posts/132433
- Topics: Artificial Intelligence, AI Value Chain Actors and Roles

## Full text

A I R e 1 | 2 0 2 4 9 8 O p i n i o n s T h e EU A r t i f i ci al I n t el l i gen ce A ct : A d v an ci n g I n n o v at i o n f o r T r u s t w o r t h y A I T a t j a n a E v a s * T h e E u r o p e a n U n i o n ’ s A r t i f i c i a l I n t e l l i g e n c e A c t ( A I A c t ) 1 i s o n e o f t h e m o s t w i d e l y d i s c u s s e d a n d a n t i c i p a t e d p i e c e s o f u p c o m i n g l e g i s l a t i o n s , c a p t u r i n g g l o b a l a t t e n t i o n w i t h i t s a p p r o a c h t o g o v e r n i n g u s e s o f A I t e c h n o l o g i e s . F o l l o w i n g i n t e n s e p r e p a r a t o r y w o r k , 2 a n d a l m o s t t h r e e y e a r s o f c o m p l e x p o l i t i c a l n e g o t i a t i o n s , c u l m i n a t i n g i n p o l i t i c a l a g r e e m e n t o n 8 D e c e m b e r 2023, t h e A I A c t i s s e t t o s h a p e g l o b a l r e g u l a t o r y s p a c e o n h o w w e i n n o v a t e , m a n a g e , a n d p e r c e i v e A I t e c h n o l o g i e s . T h i s o p i n i o n , d r a w i n g u p o n f i r s t - h a n d e x p e r i e n c e f r o m t h e A I A c t ’ s c o n c e p t u a l i s a t i o n , l e g a l d r a f t i n g , a n d n e g o t i a t i o n s , o f f e r s a r e f l e c t i o n o n k e y d e c i s i o n s a n d t h e o v e r a l l r a t i o n a l e b e h i n d t h i s i n n o v a t i v e a n d p i o n e e r i n g r e g u l a t i o n . K e y w o r d s : E U A I A c t ; t r u s t w o r t h y A I ; r i s k - b a s e d a p p r o a c h ; h o r i z o n t a l f r a m e w o r k ; p r o d u c t s a f e t y I . G o al s an d R e g u l at o r y F r am e w o r k o f t h e A I A c t A t i t s c o r e , t h e A I A c t a i m s t o p r o m o t e t h e u p t a k e o f h u m a n - c e n t r i c a n d t r u s t w o r t h y a r t i f i c i a l i n t e l l i g e n c e ( A I ) a n d f o s t e r r e s p o n s i b l e i n n o v a t i o n . 3 T h e A I A c t ’ s a p p r o a c h , a n d m o r e g e n e r a l l y t h e E U A I p o l i c y , a l s o a i m s t o e n c o u r a g e a n d f a c i l i t a t e g l o b a l c o n v e r g e n c e o n u n d e r l y i n g g o v e r n a n c e p r i n c i p l e s f o r t r u s t w o r t h y A I . 4 T h e A I A c t i s b u i l t o n t h r e e r e g u l a t o r y f o u n d a- t i o n a l c h o i c e s : 1 . A c o m p r e h e n s i v e h o r i z o n t a l f r a m e w o r k 2. A r i s k - b a s e d a p p r o a c h 3. A n e n h a n c e d p r o d u c t s a f e t y a p p r o a c h T h i s s t r a t e g i c r e g u l a t o r y f r a m e w o r k a n d p o l i c y c h o i c- e s , r e f i n e d t h r o u g h e x t e n s i v e s t a k e h o l d e r c o n s u l t a t i o n s , s e e k t o b a l a n c e t h e i n c e n t i v e s t o p r o m o t e a c o m p e t i- t i v e , i n n o v a t i v e m a r k e t f o r t r u s t w o r t h y A I a n d t h e r e- a l i s a t i o n o f s o c i e t a l b e n e f i t s w i t h t h e m i t i g a t i o n o f p o- t e n t i a l r i s k s a s s o c i a t e d w i t h t h e u s e o f A I t e c h n o l o g i e s . 1 . A H o r i zo n t al A p p r o ac h : R ed u ci n g C o m p l i an ce C o s t s an d C o m p l exi t y, C o m p l em en t i n g Exi s t i n g Legi s l at i o n A f t e r t h e k e y d e c i s i o n w a s m a d e t o p r o c e e d w i t h l e g a l l y b i n d i n g l e g i s l a t i o n , 5 o n e o f t h e A I A c t ’ s c r i t i- D O I : 1 0 . 2 1 5 5 2 / ai r e/ 2 0 2 4 / 1 / 1 1 * D r T at j an a Ev as , Legal an d P o l i c y O f f i cer , Eu r o p ean C o m m i s s i o n , B r u s s el s , B el gi u m . A l l vi ew s exp r es s ed i n t h i s o p i n i o n ar e t h o s e o f t h e au t h o r , an d d o n o t r ep r es en t t h e o f f i ci al p o s i t i o n o f t h e Eu r o- p ean C o m m i s s i o n . 1 Eu r o p ean C o m m i s s i o n , A I A ct , C O M / 2 0 2 1 / 2 0 6 f i n al . A t t h e t i m e o f w r i t i n g t h e f i n al t ext o f t h e A I A ct i s n o t y et a v ai l ab l e. R ef er - en ces i n t h i s o p i n i o n ar e t o t h e f i n al t ext o f t h e A I A ct as t ab l ed f o r t h e v o t e i n t h e Eu r o p ean P ar l i am en t p l en ar y o n 1 3 M ar c h 2 0 2 4 . 2 T h e gr o u n d w o r k l ead i n g t o t h e C o m m i s s i o n ’ s A I A ct b egan w el l b ef o r e G P T m o d el s co n q u er ed t h e w o r l d . I n 2 0 1 5 , Eu r o p ean P ar l i am en t es t ab l i s h ed a w o r ki n g gr o u p an d i n 2 0 1 7 ad o p t ed a r ep o r t cal l i n g o n t h e Eu r o p ean C o m m i s s i o n t o p r o p o s e l egi s l at i o n o n A I . T h i s f o l l o w ed b y t h e i n t en s i v e w o r k b y t h e Eu r o p ean C o m m i s s i o n , i n cl u d i n g t h e 2 0 1 8 C o m m u n i cat i o n ‘ A r t i f i ci al I n t el l i gen ce f o r Eu r o p e’ , t h e 2 0 1 9 C o m m u n i cat i o n ‘ B u i l d i n g T r u s t i n H u m an - C en t r i c A r t i f i ci al I n t el l i gen ce’ , t h e 2 0 2 0 Wh i t e P ap er o n A r t i f i ci al I n t el l i gen ce ‘ A Eu r o p ean ap p r o ac h t o excel l en ce an d t r u s t ’ , as w el l as o u t co m es o f t h e H i gh - Lev el Exp er t G r o u p an d t h e r es u l t s o f t h e p u b l i c co n s u l t at i o n o n t h e 2 0 2 0 Wh i t e P ap er . 3 A r t s 1 an d 2 A I A ct . 4 See f o r exam p l e, ar t 3 ( 1 ) d ef i n i t i o n o f an A I s ys t em an d r eci t al 6 t h at exp l i ci t l y p r o vi d es t h at t h e d ef i n i t i o n ‘ s h o u l d b e cl o s el y al i gn ed w i t h t h e w o r k o f i n t er n at i o n al o r gan i s at i o n s w o r ki n g o n A I t o en s u r e l egal cer t ai n t y, f aci l i t at e i n t er n at i o n al co n v er gen ce an d w i d e accep t an ce’ . 5 T h e m ai n ar gu m en t s f o r p u b l i c i n t er v en t i o n ar e o u t l i n ed i n t h e Eu r o p ean C o m m i s s i o n 2 0 2 0 I m p act A s s es s m en t acco m p an yi n g P r o p o s al f o r t h e A I A ct , SWD ( 2 0 2 1 ) 8 4 f i n al . A I R e 1 | 2 0 2 4 9 9 O p i n i o n s c a l d e c i s i o n s w a s t o a d o p t a h o r i z o n t a l r e g u l a t o r y a p- p r o a c h r a t h e r t h a n s e c t o r - s p e c i f i c r e g u l a t i o n s . T h i s c h o i c e w a s m a d e t o p r e v e n t r e g u l a t o r y f r a g m e n t a- t i o n , t o a d d r e s s t h e d y n a m i c n a t u r e a n d c r o s s - s e c- t o r a l c h a r a c t e r i s t i c s , a n d p o t e n t i a l r i s k s o f A I t e c h- n o l o g i e s 6 . B y e s t a b l i s h i n g a s e t o f k e y d e f i n i t i o n s , 7 p r o h i b i t i o n s 8 , r e q u i r e m e n t s f o r A I s y s t e m s , 9 a n d o b l i g a t i o n s f o r p r o v i d e r s a n d d e p l o y e r s o f h i g h - r i s k A I s y s t e m s a n d o t h e r p a r t i e s , 1 0 t h e A I A c t c r e a t e s a c o m p r e h e n s i v e h o r i z o n t a l f o u n d a t i o n t h a t a p p l i e s a c r o s s a l l s e c t o r s , t h e r e b y s i m p l i f y i n g c o m p l i a n c e , f o s t e r i n g i n n o v a t i o n , a n d e n h a n c i n g r i s k m i t i g a- t i o n . 1 1 T h e A I A c t b u i l d s a h o r i z o n t a l f o u n d a t i o n , t o a d- d r e s s A I - s p e c i f i c r i s k s t o h e a l t h , s a f e t y , a n d f u n d a- m e n t a l r i g h t s b u t i t a l s o l e a v e s s u f f i c i e n t f l e x i b i l i t y f o r s e c t o r - s p e c i f i c c o n s i d e r a t i o n s . 1 2 T h e A I A c t p r o- v i d e s , f o r e x a m p l e , a d e f i n i t i o n o f a n A I s y s t e m , a n d o t h e r e s s e n t i a l d e f i n i t i o n s r e l a t e d t o A I t e c h n o l o- g i e s . 1 3 T h e A I A c t a l s o s e t s a h o r i z o n t a l l a y e r o f e s- s e n t i a l A I s p e c i f i c r e q u i r e m e n t s t h a t a l l h i g h - r i s k A I s y s t e m s m u s t c o m p l y w i t h , i n c l u d i n g r i s k m a n a g e- m e n t , d a t a a n d d a t a g o v e r n a n c e , t e c h n i c a l d o c u m e n- t a t i o n , t r a n s p a r e n c y , h u m a n o v e r s i g h t , r o b u s t n e s s , a c c u r a c y , a n d c y b e r s e c u r i t y , a s w e l l a l i s t o f A I u s e c a s e s t h a t a r e p r o h i b i t e d , l i k e s o c i a l s c o r i n g . 1 4 C o n s i d e r t h e i m p l i c a t i o n s i f d e f i n i t i o n s , p r o h i b i- t i o n s , a n d r e q u i r e m e n t s w e r e l e f t t o s e c t o r a l r e g u l a- t i o n s . S u c h a p a t c h w o r k , t h a t i n t h e f u t u r e a l m o s t c e r - t a i n l y w o u l d c o v e r a l l p o l i c y a r e a s , w o u l d l e a d t o r e g- u l a t o r y f r a g m e n t a t i o n a n d c o n s i d e r a b l y h i g h e r c o m- p l i a n c e c o s t s , w h i c h c o u l d h i n d e r i n n o v a t i o n a n d c r e- a t e b a r r i e r s t o e n t r y , p a r t i c u l a r l y f o r s m a l l e r c o m p a- n i e s . M o r e o v e r , t h i s r e g u l a t o r y p a t c h w o r k w o u l d r i s k r e s u l t i n g i n l e s s e f f e c t i v e r i s k m i t i g a t i o n , w h i c h w o u l d d i s a d v a n t a g e d e p l o y e r s a n d u s e r s o f t h o s e A I s y s t e m s . T h e s e c t o r a l l e g i s l a t i o n i s s t i l l i m p o r t a n t a s i t c o m- p l e m e n t s t h e A I A c t ’ s h o r i z o n t a l l a y e r . F o r e x a m p l e , t h e o v e r a l l i n t e g r a t i o n o f a n A I s y s t e m i n a n A I - e n- a b l e d p r o d u c t a n d r i s k c l a s s i f i c a t i o n o f p r o d u c t s , r e- m a i n s s u b j e c t t o t h e s e c t o r - s p e c i f i c r e g u l a t i o n . M o r e- o v e r , t h e A I A c t d o e s n o t o v e r r u l e b u t c o m p l e m e n t t h e e x i s t i n g l e g i s l a t i o n s u c h a s o n d a t a p r o t e c t i o n a n d f u n d a m e n t a l r i g h t s . T h e p r i n c i p l e o f c o m p l e m e n t a r - i t y , t h a t i s f a c i l i t a t e d b y t h e N e w L e g i s l a t i v e F r a m e- w o r k , e n s u r e s t h a t t h e A I A c t o n l y t a r g e t s A I - s p e c i f- i c c h a r a c t e r i s t i c s a n d i t a p p l i e s s i m u l t a n e o u s l y w i t h t h e a l r e a d y e x i s t i n g E U p r o d u c t s a f e t y , d a t a , c o n- s u m e r , e m p l o y m e n t , a n d f u n d a m e n t a l r i g h t s l e g i s l a- t i o n . T h i s r e g u l a t o r y c h o i c e t o a d o p t a h o r i z o n t a l f r a m e w o r k o f f e r s a r o b u s t b u t a t t h e s a m e t i m e f l e x- i b l e s o l u t i o n t h a t a c c o u n t s f o r s e c t o r - s p e c i f i c u n i q u e c o n s i d e r a t i o n s a n d t h e e x i s t i n g b o d y o f l a w . 2 . A R i s k- B as ed A p p r o ac h : T r u s t t h at D r i v es I n n o v at i o n T h e n e x t k e y q u e s t i o n w a s t h e c h o i c e o f a r e g u l a t o- r y a p p r o a c h t o p r o v i d e i n c e n t i v e s t o i n n o v a t e 1 5 w h i l e b a l a n c i n g t h e r i s k s o f A I t e c h n o l o g i e s . W h a t s h o u l d b e t h e o b j e c t o f r e g u l a t i o n - t h e p o t e n t i a l r i s k s o f c e r - t a i n A I u s e c a s e s o r t h e s p e c i f i c A I t e c h n o l o g i e s t h e m- s e l v e s ? S h o u l d t h i s r e g u l a t i o n b e l e f t t o t h e p r i v a t e s e c t o r o r a r e p u b l i c , l e g a l l y e n f o r c e a b l e g u a r d r a i l s n e c e s s a r y ? T o a n s w e r t h i s s e t o f q u e s t i o n s , t h e E u r o- p e a n C o m m i s s i o n w a s a m o n g t h e f i r s t j u r i s d i c t i o n s t o p r o p o s e a r i s k - b a s e d a p p r o a c h . 1 6 T h e r i s k - b a s e d a p p r o a c h f o c u s e s o n a n d l i m i t s r e g- u l a t o r y p u b l i c i n t e r v e n t i o n t o t h e s p e c i f i c s e t o f A I u s e c a s e s , r a t h e r t h a n t h e t e c h n o l o g y i t s e l f , a l l o w s f o r a p r o p o r t i o n a t e r e s p o n s e t o t h e a c t u a l r i s k s p o s e d t o h e a l t h , s a f e t y a n d f u n d a m e n t a l r i g h t s , f a c i l i t a t i n g a d y n a m i c e n v i r o n m e n t w h e r e e c o n o m i c a c t o r s c a n c o n t i n u e t o i n n o v a t e w i t h i n a s a f e a n d r e g u l a t e d f r a m e w o r k . T h i s a p p r o a c h i s t r a n s l a t e d i n t o t h e s o - c a l l e d E U r i s k - p y r a m i d , t h a t c l a s s i f i e s A I a p p l i c a- t i o n s a c c o r d i n g t o t h e i r r i s k l e v e l s ( e g , m i n i m a l , l o w , h i g h , u n a c c e p t a b l e ) a n d a p p l i e s c o r r e s p o n d i n g r e g- u l a t o r y m e a s u r e s . 1 7 T h e i n t e n s i t y o f p u b l i c r e g u l a- 6 See r eci t al s 8 an d 9 A I A ct . 7 A r t 3 A I A ct . 8 C h I I A I A ct . 9 C h I I I , s 2 , ar t s 8 – 1 5 A I A ct . 1 0 C h I I I , s 3 , ar t s 1 6 - 2 7 A I A ct . 1 1 F o r e a r l y d i s c u s s i o n s o n v a r i o u s p o s s i b l e r e g u l a t o r y a p p r o a c h e s t o r e g u l a t i n g A I , i n c l u d i n g b i n d i n g v s . s o f t l a w a p p r o a c h , s e e e g C o r i n n e C a t h , ‘ G o v e r n i n g a r t i f i c i a l i n t e l l i g e n c e : e t h i c a l , l e g a l a n d t e c h n i c a l o p p o r t u n i t i e s a n d c h a l l e n g e s ’ ( 2 0 1 8 ) P h i l o s o p h i c a l T r a n s- a c t i o n s o f t h e R o y a l S o c i e t y , A 3 7 6 < h t t p s : / / r o y a l s o c i e t y p u b l i s h i n g . o r g / d o i / 1 0 . 1 0 9 8 / r s t a . 2 0 1 8 . 0 0 8 0 > a c c e s s e d 1 1 M a r c h 2 0 2 4 . 1 2 See ar t 8 A I A ct , r eci t al 4 6 . 1 3 A r t 3 A I A ct . 1 4 A r t s 5 – 1 5 A I A ct . 1 5 See c h V I , ‘ M eas u r es i n Su p p o r t o f I n n o v at i o n ’ , ar t s 5 7 – 6 3 A I A ct . 1 6 T h i s ap p r o ac h w as em b o d i ed i n t h e Eu r o p ean C o m m i s s i o n ' s p r o p o s al f o r t h e A I A ct , an n o u n ced i n A p r i l 2 0 2 1 , an d r em ai n ed cen t r al t h r o u gh al l n ego t i at i o n s t ages . 1 7 See ar t 5 f o r p r o h i b i t ed p r act i ces ; ar t 6 f o r cl as s i f i cat i o n o f h i gh - r i s k A I s ys t em s ; A n n exes I an d I I f o r l i s t o f h i gh - r i s k u s e cas es . www.lexxion.eu Powered by TCPDF (www.tcpdf.org) A I R e 1 | 2 0 2 4 1 0 0 O p i n i o n s t i o n i s c o m m e n s u r a t e w i t h t h e p o t e n t i a l r i s k s . A t t h e p y r a m i d ' s p e a k a r e p r o h i b i t e d u s e s , l i k e s o c i a l s c o r - i n g , d e e m e d c o n t r a r y t o E u r o p e a n v a l u e s a n d t h u s b a n n e d . T h e n e x t l e v e l f o c u s e s o n h i g h - r i s k a p p l i c a- t i o n s , d e t a i l e d i n t h e A I A c t , r e q u i r i n g s t r i c t c o m p l i- a n c e a n d a s s e s s m e n t s , b a s e d o n t h e e s s e n t i a l r e q u i r e- m e n t s a n d o b l i g a t i o n s . T h e t h i r d l a y e r m a n d a t e s t r a n s p a r e n c y f o r c e r t a i n A I s y s t e m s , e n s u r i n g u s e r s a r e a w a r e t h a t t h e y a r e e n g a g i n g w i t h a n A I s y s t e m , n o t a h u m a n . 1 8 M e a n w h i l e , l o w - r i s k a p p l i c a t i o n s a s w e l l a s p r e - m a r k e t s c i e n t i f i c r e s e a r c h a n d d e v e l o p- m e n t , a r e l e f t t o i n d u s t r y s e l f - r e g u l a t i o n , e m p h a s i z- i n g a b a l a n c e d a p p r o a c h t h a t f o s t e r s i n n o v a t i o n w h i l e p r o t e c t i n g p u b l i c i n t e r e s t s a n d f u n d a m e n t a l r i g h t s . 1 9 T h e A I r i s k - p y r a m i d o u t l i n e d a b o v e b u i l d s o n t h e c o n c e p t o f ‘ i n t e n d e d p u r p o s e ’ t h a t m e a n s ‘ t h e u s e f o r w h i c h a n A I s y s t e m i s i n t e n d e d b y t h e p r o v i d e r , i n- c l u d i n g t h e s p e c i f i c c o n t e x t a n d c o n d i t i o n s o f u s e ’ 2 0 a n d i t c o v e r s A I s y s t e m s . T h e g e n e r a l - p u r p o s e A I m o d e l s , l i k e G P T - 4, a r e d i f f e r e n t i n n a t u r e , a s t h e y a r e ‘ c a p a b l e o f c o m p e t e n t l y p e r f o r m i n g a w i d e r a n g e o f d i s t i n c t t a s k s r e g a r d l e s s o f t h e w a y t h e m o d e l s p l a c e d o n t h e m a r k e t a n d t h a t c a n b e i n t e g r a t e d i n- t o a v a r i e t y o f d o w n s t r e a m s y s t e m s o r a p p l i c a t i o n s ’ . 2 1 F o r t h i s r e a s o n , t h e A I A c t s e t s o u t r e g u l a t o r y g u a r d r a i l s f o r g e n e r a l - p u r p o s e A I m o d e l s i n a s e p a- r a t e c h a p t e r . 2 2 I t f o l l o w s a s i m i l a r r i s k - b a s e d l o g i c , h o w e v e r , i n a d d i t i o n t o t h e r i s k s t o h e a l t h , s a f e t y a n d f u n d a m e n t a l r i g h t s t h e s p e c i f i c r u l e s f o r g e n e r a l p u r - p o s e A I m o d e l s a l s o a d d r e s s , f o r e x a m p l e , r i s k s r e l a t- e d t o t h e i n f o r m a t i o n a s y m m e t r y b e t w e e n d e v e l o p- e r s o f g e n e r a l - p u r p o s e A I m o d e l s a n d d o w n s t r e a m p r o v i d e r s o f A I s y s t e m s . 3 . A P r o d u ct Saf et y A p p r o ac h : Li f ec ycl e A p p r o ac h f o r T r u s t w o r t h y A I an d Ef f ect i v e C o m p l i an ce an d En f o r cem en t T h e r i s k - b a s e d a p p r o a c h d e t e r m i n e s w h a t i s c o v e r e d b y p u b l i c r e g u l a t i o n b u t d o e s n o t s p e c i f y w h e n A I s y s t e m s s h o u l d b e r e g u l a t e d o r w h o s h o u l d b e s u b- j e c t t o r e q u i r e m e n t s o r e m p o w e r e d b y t h e r e g u l a t i o n . I n t e r m s o f t i m i n g , t h e t w o c l a s s i c a l o p t i o n s a r e p r e - m a r k e t r e g u l a t i o n ( e x a n t e ) v e r s u s p o s t - m a r k e t r e g u- l a t i o n ( e x p o s t ) . 2 3 I n t e r m s o f r e g u l a t o r y m e t h o d s o f e n s u r i n g t h a t A I t e c h n o l o g i e s a r e h u m a n - c e n t r i c a n d t r u s t w o r t h y , t h e t w o p r o m i n e n t a p p r o a c h e s a r e s o - c a l l e d ‘ p r o d u c t s a f e t y ’ a n d ‘ r i g h t s - b a s e d ’ a p p r o a c h e s . T h e p r o d u c t s a f e t y a p p r o a c h f o c u s e s o n e n s u r i n g t h a t A I s y s t e m s , s i m i l a r l y t o o t h e r p r o d u c t s , a r e s a f e a n d r e l i a b l e b e f o r e t h e y a r e d e p l o y e d . T h e r i g h t s - b a s e d a p p r o a c h e m p h a s i z e s t h e p r o t e c t i o n o f h u m a n r i g h t s a n d s o c i e t a l v a l u e s a n d f o c u s e s o n m e c h a n i s m s t o e n s u r e t h a t A I s y s t e m s r e s p e c t h u m a n r i g h t s a n d a f f e c t e d i n d i v i d u a l s h a v e a l e g a l r e c o u r s e t o u p h o l d t h e s e r i g h t s . W h i l e t h e p r o d u c t s a f e t y a n d r i g h t s - b a s e d a p- p r o a c h e s h a v e d i f f e r e n t e m p h a s e s t h e y a r e n o t m u- t u a l l y e x c l u s i v e . T h e A I A c t o p t e d f o r a n e n h a n c e d p r o d u c t s a f e t y a p p r o a c h t h a t o f f e r s a s o l u t i o n t o e f- f e c t i v e l y i n t e g r a t e b o t h a p p r o a c h e s . T h e A I A c t b u i l d s o n E U p r o d u c t s a f e t y l e g i s l a t i o n ’ s ‘ s a f e t y f i r s t ’ c l a s s i c a l f r a m e w o r k . T h i s f r a m e w o r k i n c l u d e s p r e - m a r k e t a s s e s s m e n t , c o m p l i a n c e w i t h e s s e n t i a l r e- q u i r e m e n t s a n d p o s t - m a r k e t m o n i t o r i n g a n d s u p e r - v i s i o n b y c o m p e t e n t a u t h o r i t i e s t o e n s u r e t h a t h i g h - r i s k A I s y s t e m s a r e t r u s t w o r t h y t h r o u g h o u t t h e w h o l e l i f e c y c l e . 2 4 T h e A I A c t e n h a n c e s t h i s c l a s s i c a l p r o d u c t s a f e t y a p p r o a c h b y a l s o m a n d a t i n g t h e a s- s e s s m e n t o f r i s k s t o f u n d a m e n t a l r i g h t s ( a n d n o t o n- l y r i s k t o h e a l t h a n d s a f e t y ) . T h i s a p p r o a c h e n s u r e s t h a t f u n d a m e n t a l r i g h t s b e c o m e a n i n t e g r a l p a r t o f a n A I s y s t e m ’ s d e v e l o p m e n t a n d r i s k - m a n a g e m e n t s y s t e m , p r e - m a r k e t c o n f o r m i t y a s s e s s m e n t a n d p o s t - m a r k e t o v e r s i g h t . I n t h e c o n t e x t o f t h e t e c h n o l o g i c a l n a t u r e a n d r a p i d e v o l u t i o n o f A I t e c h n o l o g i e s , t h e e n h a n c e d p r o d u c t s a f e t y a p p r o a c h o f t h e A I A c t o f f e r s a m o r e e f f e c t i v e , p r o a c t i v e , a n d e n f o r c e a b l e w a y t h a n a 1 8 C h I V , ar t 5 0 A I A ct . 1 9 See ar t 9 5 A I A ct C o d es o f C o n d u ct f o r v o l u n t ar y ap p l i cat i o n o f s p eci f i c r eq u i r em en t s . 2 0 T h e i n t en d ed p u r p o s e i s d ef i n ed i n ar t 3 ( 1 2 ) A I A ct . 2 1 A r t 3 ( 6 5 ) A I A ct . 2 2 C h V , ar t s 5 1 – 5 6 A I A ct . 2 3 F o r excel l en t an al ys i s an d exp l an at i o n s ee eg, G ar y B ec ker an d R i c h ar d P o s n er , U n co m m o n Sen s e: Eco n o m i c I n s i gh t s , f r o m M ar r i age t o T er r o r i s m ( T h e U n i v er s i t y o f C h i cago P r es s 2 0 0 9 ) . T r ad i t i o n al l y, t h e EU m o r e o f t en o p t s f o r a r egu l at o r y i n t er v en t i o n b ef o r e t h e n egat i v e ext er n al i t y t akes p l ace, w h i l e f o r exam p l e t h e U S, r el i es m o r e s t r o n gl y o n p o s t - m ar ket i n t er v en t i o n s , p ar t i cu l ar - l y, t h r o u gh l i ab i l i t y r egi m es an d i t s l i t i gat i o n cu l t u r e. U s u al l y, p u b l i c r egu l at i o n co m b i n es b o t h b u t p u t s m o r e em p h as i s o n o n e o f t h o s e t w o el em en t s . 2 4 T r u s t w o r t h y A I d ef i n ed i n t h e H i gh - Lev el Exp er t G r o u p as l a w f u l , et h i cal an d r o b u s t ( s ee ‘ Et h i cs gu i d el i n es f o r t r u s t w o r t h y A I ’ ( 8 A p r i l 2 0 1 9 ) < h t t p s : / / d i gi t al - s t r at egy. ec. eu r o p a. eu / en / l i b r ar y/ et h i cs - gu i d el i n es - t r u s t w o r t h y- ai > acces s ed 1 1 M ar c h 2 0 2 4 ) . R eci t al 6 5 A I A ct exp l ai n s t h at f o r t h e m an d at o r y r eq u i r em en t s f o r h i gh - r i s k A I s ys t em s i n t h e A I A ct ai m t o m i t i gat e t h e r i s ks an d t o en s u r e a h i gh l ev el o f t r u s t w o r t h i n es s . A I R e 1 | 2 0 2 4 1 0 1 O p i n i o n s r i g h t s - b a s e d a p p r o a c h t o p r e v e n t h a r m a n d f a c i l i t a t e p r o t e c t i o n o f f u n d a m e n t a l r i g h t s . 2 5 I t d o e s s o b y s e t- t i n g c l e a r r e q u i r e m e n t s f o r h i g h - r i s k A I s y s t e m s p r i- o r t o d e p l o y m e n t t h a t a l s o c o n s i d e r r i s k s t o f u n d a- m e n t a l r i g h t s , p r o m o t i n g s t a k e h o l d e r e n g a g e m e n t i n d e v e l o p i n g t e c h n i c a l s t a n d a r d s , 2 6 a n d u t i l i s i n g t h e E U ’ s r o b u s t n e t w o r k o f c o n f o r m i t y a s s e s s m e n t b o d- i e s a n d m a r k e t s u r v e i l l a n c e a u t h o r i t i e s . I t i s d e s i g n e d t o p r o v i d e l e g a l c e r t a i n t y , m i n i m i s e a d j u s t m e n t c o s t s , l e v e r a g e n a t i o n a l a n d E U ' s e x i s t i n g i n s t i t u t i o n a l a n d r e g u l a t o r y i n f r a s t r u c t u r e s f o r p r e - a n d p o s t - m a r k e t s u p e r v i s i o n , 2 7 a n d t o o v e r c o m e t h e e n f o r c e m e n t c h a l l e n g e s f a c e d i n o t h e r d i g i t a l p o l i c y a r e a s . T h e A I A c t s e t s e n f o r c e m e n t r u l e s 2 8 a n d p e n a l t i e s f o r n o n - c o m p l i a n c e w i t h r e q u i r e m e n t s a n d o b l i g a- t i o n s 2 9 b u t d o e s n o t e x p l i c i t l y d e a l w i t h l i a b i l i t y i s- s u e s . T h i s w a s a n e x p l i c i t c h o i c e . T h e r e g u l a t i o n o f l i a b i l i t y i s s u e s i s l e f t t o t h e e x i s t i n g a n d f o r t h c o m i n g l i a b i l i t y l e g i s l a t i o n a t t h e n a t i o n a l a n d E u r o p e a n l e v e l s . T h e l i a b i l i t y r u l e s w i l l c o m p l e m e n t t h e A I A c t . I . C o n c l u s i o n s an d O u t l o o k : A I A c t as t h e F o u n d at i o n f o r T r u s t w o r t h y A I T e c h n o l o g i e s i n t h e EU an d G l o b al l y T h e A I A c t ’ s d e v e l o p m e n t , m a r k e d b y c a r e f u l a n a l y- s i s , d e l i b e r a t i o n , a n d s t a k e h o l d e r e n g a g e m e n t , s e t s a b l u e p r i n t f o r e f f e c t i v e A I r e g u l a t i o n . I t o f f e r s a v i- s i o n a r y a n d i n n o v a t i v e r e g u l a t o r y s o l u t i o n o n h o w t o s e t s a f e g u a r d s t o f o s t e r t r u s t w i t h o u t c o m p r o m i s- i n g i n n o v a t i o n . I t s h o r i z o n t a l , r i s k - b a s e d , a n d e n- h a n c e d p r o d u c t s a f e t y a p p r o a c h s e t s t h e s t a n d a r d f o r t h e r e g u l a t i o n o f A I . M o v i n g f o r w a r d , i t i s c r u c i a l t h a t b o t h p u b l i c a u- t h o r i t i e s a n d p r i v a t e s t a k e h o l d e r s a c r o s s E u r o p e s h a r e r e s p o n s i b i l i t y a n d w o r k t o g e t h e r t o e n s u r e t h e A I A c t ' s e f f e c t i v e i m p l e m e n t a t i o n , a m o n g o t h e r t h i n g s , t h r o u g h h a r m o n i s e d s t a n d a r d s 3 0 a n d s u p- p o r t e d b y a n e f f e c t i v e g o v e r n a n c e , 3 1 s u p e r v i s i o n a n d e n f o r c e m e n t s y s t e m s s e t b y t h e A I A c t , f o s t e r i n g a t r u s t w o r t h y a n d c o m p e t i t i v e A I e c o s y s t e m . T h e A I A c t i s a r e s u l t o f p o l i t i c a l c o m p r o m i s e r e p r e s e n t i n g v a r i o u s i n t e r e s t s . I t i s n o t p e r f e c t , t h u s c l e a r l y f u r t h e r e x p l a n a t o r y g u i d a n c e 3 2 w o u l d b e n e c e s s a r y t o e n s u r e c o h e r e n c e a n d e f f e c t i v e a p p l i c a t i o n o f t h i s g r o u n d- b r e a k i n g a n d i n n o v a t i v e l e g i s l a t i o n . A s w e l o o k t o t h e f u t u r e , i t i s c l e a r t h a t t h e p r i n c i- p l e s a n d s t r a t e g i e s e m b e d d e d i n t h e A I A c t w i l l g u i d e n o t o n l y t h e E U b u t a l s o o t h e r j u r i s d i c t i o n s , a s w e l l a s p o t e n t i a l l y t h e g l o b a l a p p r o a c h e s t o A I g o v e r - n a n c e . T h e s e e f f o r t s a i m t o e m b r a c e t h e b e n e f i t s o f A I t e c h n o l o g i e s , e n h a n c i n g t r u s t , s a f e t y , a n d i n n o v a- t i o n a c r o s s a l l s e c t o r s . 2 5 T h e cr i t i ci s m r el at ed t o t h e en f o r cem en t i s s u es r el at e t o t h e G D P R ar e ab u n d an t , s ee eg, G i u l i a G en t i l e an d O r l a L yn s key, ‘ D ef i ci en t b y D es i gn ? T h e T r an s n at i o n al En f o r cem en t o f t h e G D P R ’ ( 2 0 2 2 ) 7 1 ( 4 ) I n t er n at i o n al an d C o m p ar at i v e La w Q u ar t er l y 7 9 9 - 8 3 0 . 2 6 See c h I I I , s 5 , ‘ St an d ar d s , C o n f o r m i t y A s s es s m en t , C er t i f i cat es , R egi s t r at i o n ’ , A I A ct . 2 7 F o r p r e- m ar ket co m p l i an ce, s ee c h I I I , s 4 , ‘ N o t i f yi n g au t h o r i t i es an d n o t i f i ed b o d i es ’ an d ar t s 4 3 – 4 9 A I A ct ; f o r p o s t - m ar ket m o n i t o r i n g, s ee c h I X , ‘ P o s t - m ar ket m o n i t o r i n g, i n f o r m at i o n s h ar i n g, m ar ket s u r v ei l l an ce’ , ar t s 7 2 – 8 4 A I A ct . 2 8 F o r h i gh - r i s k A I s ys t em s ; f o r gen er al p u r p o s e A I m o d el s ar t s 8 8 – 9 5 A I A ct . 2 9 A r t s 8 5 – 8 7 an d 9 9 – 1 0 1 A I A ct . 3 0 See ar t 4 0 A I A ct , an d Eu r o p ean St an d ar d i s at i o n R eq u es t f r o m M a y 2 0 2 3 . 3 1 See c h V I I , ‘ G o v er n an ce’ . 3 2 See ar t 9 6 A I A ct , G u i d el i n es f r o m t h e C o m m i s s i o n o n t h e i m p l em en t at i o n o f t h i s R egu l at i o n , f o r t h e l i s t o f gu i d an ce t h at t h e C o m m i s s i o n m a y d r af t t o f aci l i t at e ap p l i cat i o n an d i m p l em en t a- t i o n o f t h e A I A ct .

---
Generated by overview.legal · https://overview.legal/posts/132433 · 2026-07-21