Κανονισμός για την Τεχνητή Νοημοσύνη (AI)- Κατηγορίες Κινδύνου
Σε προηγούμενη αρθρογραφία μας εγκαινιάσαμε σειρά άρθρων αναφορικά με τον ενωσιακό Κανονισμό για την Τεχνητή Νοημοσύνη. Αναφερθήκαμε στη στόχευση, το πεδίο εφαρμογής και την έναρξη ισχύος του. Προχωρώντας λίγο περισσότερο στη διερεύνησή του, αναγκαίο είναι να κατανοήσουμε τους κινδύνους της ΤΝ μέσα από την κατηγοριοποίηση τους˙ τουλάχιστον όπως ο Κανονισμός τους αντιλαμβάνεται. Περί αυτών το παρόν.
Τα επίπεδα κινδύνου
Ο Κανονισμός υιοθετώντας, εν μέρει, μία κινδυνο-κεντρική προσέγγιση, προσδιορίζει τέσσερα επίπεδα κινδύνου για τα συστήματα ΤΝ με κριτήριο τον κίνδυνο που, το καθένα από αυτά εμπεριέχει. Κατηγοριοποιεί, στο πλαίσιο αυτό, τους κινδύνους σε τέσσερα επίπεδα: τον απαγορευμένο, τον υψηλό, τον περιορισμένο και τον ελάχιστο ή μηδενικό κίνδυνο. Οι υποχρεώσεις εκείνων που εμπλέκονται σε κάθε στάδιο ανάπτυξης και χρήσης των συστημάτων ΤΝ, άρρηκτα συνδέονται (και αντιστοιχούν) με τα επιμέρους επίπεδα κινδύνου.
Συστήματα ΤΝ απαγορευμένου κινδύνου
Ο Κανονισμός καθιερώνει (άρ. 5) μια κατηγορία συστημάτων ΤΝ τα οποία απαγορεύεται να διατεθούν στην αγορά, να τεθούν σε λειτουργία και να χρησιμοποιηθούν. Και τούτο, εξαιτίας του σοβαρού κινδύνου που ενέχουν για τα θεμελιώδη δικαιώματα και την ανθρώπινη αξιοπρέπεια.
Απαγορεύεται, ειδικότερα, η διάθεση, λειτουργία και χρήση συστήματος ΤΝ:
(α) Που εφαρμόζει τεχνικές απευθυνόμενες στο υποσυνείδητο ή σκόπιμα χειριστικές/παραπλανητικές. Οι συγκεκριμένες τεχνικές κρίνονται απαγορευμένες, εφόσον έχουν ως σκοπό ή αποτέλεσμά τους την παράκαμψη της ελεύθερης βούλησης ή την ουσιώδη στρέβλωση της συμπεριφοράς. Επίσης, την υποβάθμιση της ικανότητας των προσώπων να λάβουν τεκμηριωμένη απόφαση, με επακόλουθο τη λήψη μιας απόφασης που διαφορετικά δεν θα είχαν λάβει˙ μιας απόφασης η οποία προκαλεί ή ενδέχεται, εύλογα, να προκαλέσει σημαντική βλάβη.
(β) Που εκμεταλλεύεται τα αδύνατα σημεία ενός φυσικού προσώπου ή μιας συγκεκριμένης ομάδας προσώπων λόγω ηλικίας, αναπηρίας, κοινωνικής ή οικονομικής κατάστασης. Σκοπός (ή/και αποτέλεσμα), επιπρόσθετα, ενός τέτοιου συστήματος – προκειμένου να καταστεί απαγορευμένο – θα πρέπει να είναι η ουσιώδης στρέβλωση της συμπεριφοράς ενός τέτοιου προσώπου ή προσώπου που ανήκει σε μια τέτοια ομάδα, κατά τρόπο που προκαλεί (ή ενδέχεται, εύλογα, να προκαλέσει) σημαντική βλάβη στο ίδιο ή σε άλλο πρόσωπο.
(γ) Για την αξιολόγηση/ταξινόμηση φυσικών προσώπων ή ομάδων προσώπων για ορισμένο χρονικό διάστημα, με βάση την κοινωνική συμπεριφορά ή προσωπικά χαρακτηριστικά με κοινωνική βαθμολογία και συγκεκριμένη, επιζήμια ή δυσμενή στόχευση. Μια τέτοια αξιολόγηση ή ταξινόμηση θα πρέπει, επιπρόσθετα, να οδηγεί σε επιζήμια ή δυσμενή μεταχείριση σε κοινωνικό πλαίσιο, το οποίο δεν σχετίζεται με το πλαίσιο, στο οποίο παρήχθησαν ή συλλέχθηκαν, αρχικά, τα δεδομένα ή/και επιζήμια ή δυσμενή μεταχείριση, η οποία είναι αδικαιολόγητη ή δυσανάλογη προς την κοινωνική συμπεριφορά των εν λόγω προσώπων ή ομάδων προσώπων.
(δ) Για τη διενέργεια εκτιμήσεων κινδύνου φυσικών προσώπων, προκειμένου να εκτιμηθεί ή να προβλεφθεί ο κίνδυνος τέλεσης αξιόποινης πράξης βάσει προφίλ ή συμπεριφοράς. Τέτοιες εκτιμήσεις κινδύνου θα πρέπει, επιπρόσθετα, να λαμβάνουν χώρα με βάση, αποκλειστικά, την κατάρτιση προφίλ ή αξιολόγηση γνωρισμάτων και χαρακτηριστικών προσωπικότητας.
(ε) Για τη δημιουργία ή επέκταση βάσεων δεδομένων αναγνώρισης προσώπου μέσω της μη στοχευμένης εξαγωγής εικόνων προσώπου από το διαδίκτυο ή βίντεο CCTV.
(στ) Για τη συναγωγή συναισθημάτων φυσικού προσώπου (π.χ. μέσω αναγνώρισης εκφράσεων προσώπου ή φωνητικών μοτίβων, αναγνώριση άγχους, χαράς, θυμού) στους τομείς εργασίας και των εκπαιδευτικών ιδρυμάτων˙ εξαιρούνται, όμως, οι περιπτώσεις που η χρήση του συστήματος ΤΝ προορίζεται να τεθεί σε λειτουργία ή να διατεθεί στην αγορά για ιατρικούς λόγους ή λόγους ασφαλείας.
(ζ) Συστημάτων βιομετρικής κατηγοριοποίησης στην περίπτωση που έχουν ως βάση βιομετρικά δεδομένα φυσικών προσώπων για να συναχθούν συμπεράσματα σχετικά με τη φυλή, τα πολιτικά φρονήματα, τη συμμετοχή σε συνδικαλιστική οργάνωση, τις θρησκευτικές ή φιλοσοφικές πεποιθήσεις, τη σεξουαλική ζωή ή τον γενετήσιο προσανατολισμό τους.
(η) Συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο», σε δημόσια προσβάσιμους χώρους για τους σκοπούς της επιβολής του νόμου Εξαιρούνται, όμως, τα συστήματα εκείνα που η χρήση τους είναι απολύτως αναγκαία για έναν από τους προβλεπόμενους στον κανονισμό στόχους (πχ αναζήτηση θυμάτων απαγωγής, εμπορίας ανθρώπων κλπ..
Συστήματα ΤΝ υψηλού κινδύνου
Το μεγαλύτερο μέρος του Κανονισμού αναφέρεται σε συστήματα ΤΝ υψηλού κινδύνου. Πρόκειται για τις περιπτώσεις των συστήματων ΤΝ που ενέχουν, δυνητικά, σοβαρούς κινδύνους για την υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα των φυσικών προσώπων, το περιβάλλον, τη δημοκρατία και το κράτους δικαίου. Ο κανονισμός προβλέπει σαφείς υποχρεώσεις στο πλαίσιο χρήσης συστημάτων ΤΝ υψηλού κινδύνου. Απαραίτητη, στο πλαίσιο αυτό, είναι η αξιολόγηση και ζητούμενο ο μετριασμός των συναφών κινδύνων, η τήρηση αρχείων καταγραφής και η ανθρώπινη εποπτεία τους.
Συστήματα ΤΝ υψηλού κινδύνου είναι εκείνα (άρ. 6 & Παρ. ΙΙΙ) που χρησιμοποιούνται:
(α) Ως ασφάλεια προϊόντος˙ πρόκειται, ειδικότερα, για συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως στοιχείο ασφάλειας ενός προϊόντος, δηλαδή είναι ενσωματωμένο σε κάποιο μηχάνημα π.χ. διαδραστικά ή έξυπνα παιχνίδια που επηρεάζουν την ασφάλεια των παιδιών, σε ανελκυστήρες, ιατροτεχνολογικά προϊόντα (MDR) κλπ. Επίσης, στην ίδια κατηγορία εντάσσεται και το σύστημα ΤΝ, το οποίο είναι το ίδιο προϊόν, το οποίο καλύπτεται από την ενωσιακή νομοθεσία εναρμόνισης (Παρ. Ι: χρήση σττην πολιτική αεροπορία, δίκυκλα ή τρίκυκλα οχήματα, γεωργικά και δασοκομικά οχήματα, ναυτιλιακός εξοπλισμός, σιδηροδρομικά συστήματα, μηχανοκίνητα οχήματα, μη επανδρωμένα αεροσκάφη).
(β) Ως βιομετρικά στοιχεία˙ εφόσον, βεβαίως, η χρήση τους επιτρέπεται σύμφωνα με το ενωσιακό ή εθνικό δίκαιο (:συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης, αναγνώριση συναισθημάτων και βιομετρική κατηγοριοποίηση). Όπως ήδη αναφέρθηκε, η χρήση βιομετρικών συστημάτων ταυτοποίησης εκ μέρους των αρχών επιβολής του νόμου κατατάσσεται, κατ΄αρχήν, στα απαγορευμένα συστήματα ΤΝ. Η χρήση αυτών είναι, κατ΄ εξαίρεση, επιτρεπτή, όταν είναι περιορισμένη χρονικά και γεωγραφικά και διενεργείται ύστερα, μόνον, από παροχή δικαστικής ή διοικητικής άδειας.
(γ) Σε υποδομές ζωτικής σημασίας˙ όπως η χρήση για στοιχεία ασφάλειας στη διαχείριση κρίσιμων ψηφιακών υποδομών, όπως παραδείγματος χάριν συστήματα παρακολούθησης της πίεσης του νερού, ελέγχου συναγερμού πυρκαγιάς σε κέντρα υπολογιστικού νέφους, οδικής κυκλοφορίας, φυσικού αερίου, θέρμανσης, ηλεκτρικής ενέργειας.
(δ) Στην εκπαίδευση και στην επαγγελματική κατάρτιση˙ πρόκειται για συστήματα ΤΝ που χρησιμοποιούνται για τον καθορισμό πρόσβασης/εισαγωγής σε εκπαιδευτικά ιδρύματα και ιδρύματα επαγγελματικής κατάρτισης, για αξιολόγηση μαθησιακών αποτελεσμάτων, αξιολόγηση κατάλληλου επιπέδου εκπαίδευσης καθώς και για παρακολούθηση και εντοπισμό απαγορευμένης συμπεριφοράς σπουδαστών κατά τη διάρκεια εξετάσεων.
(ε) Στην εργασία˙ πρόκειται για εργαλεία ΤΝ που χρησιμοποιούνται για την πρόσληψη, επιλογή, δημοσίευση αγγελιών, ανάλυση και φιλτράρισμα αιτήσεων εργασίας, αξιολόγηση υποψηφίων, λήψη αποφάσεων σχετικά με τους όρους εργασιακών σχέσεων, προώθηση και καταγγελία συμβατικών σχέσεων, κατανομή καθηκόντων, αξιολόγηση επιδόσεων.
(στ) Για την πρόσβαση σε βασικές δημόσιες και ιδιωτικές υπηρεσίες˙ πρόκειται για συστήματα που χρησιμοποιούνται από τις δημόσιες αρχές για αξιολόγηση επιλεξιμότητας φυσικών προσώπων για βασικές παροχές και υπηρεσίες δημόσιας αρωγής (υγειονομική περίθαλψη), αξιολόγηση πιστοληπτικής ικανότητας, εκτίμηση κινδύνων και τιμολόγηση σε περίπτωση ασφάλειας ζωής και υγείας, αξιολόγηση κλήσεων έκτακτης ανάγκης καθώς και καθορισμό προτεραιοτήτων σε καταστάσεις έκτακτης ανάγκης.
(ζ) Για την επιβολή του νόμου˙ εφόσον, τούτο, είναι επιτρεπτό από το ενωσιακό ή εθνικό δίκαιο, λχ.: συστήματα ΤΝ για αξιολόγηση αξιοπιστίας αποδεικτικών μέσων, εκτίμηση επικινδυνότητας ενός προσώπου για την τέλεση ή επανάληψη αδικήματος κλπ.
(η) Για τη διαχείριση μετανάστευσης, ασύλου και συνοριακών ελέγχων˙ εφόσον η χρήση τους επιτρέπεται βάσει του σχετικού ενωσιακού ή εθνικού δικαίου. Τα συστήματα αυτά προορίζονται για χρήση από δημόσιες αρχές ως ανιχνευτές ψεύδους, για εκτίμηση κινδύνου (π.χ. για ασφάλεια, αντικανονικής μετανάστευση, υγεία), για παροχή συνδρομής στις δημόσιες αρχές για εξέταση αιτήσεων ασύλου, θεώρησης ή αδειών διαμονής.
(θ) Στην απονομή δικαιοσύνης και στις δημοκρατικές διαδικασίες˙ η χρήση τους προορίζεται για την ερμηνεία των πραγματικών περιστατικών και του νόμου και κατά την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών ή με παρεμφερή τρόπο σε εναλλακτική επίλυση διαφορών. Επίσης, πρόκειται για συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για να επηρεάσουν το αποτέλεσμα εκλογών ή δημοψηφίσματος ή την εκλογική συμπεριφορά φυσικών προσώπων κατά την άσκηση του εκλογικού τους δικαιώματος σε εκλογές ή δημοψηφίσματα.
Όπως ήδη αναφέρθηκε η πλειονότητα των άρθρων του Κανονισμού ρυθμίζει ζητήματα που αφορούν τα συστήματα ΤΝ υψηλού κινδύνου. Οι προβλεπόμενες υποχρεώσεις αφορούν κατά βάση αυτά τα συστήματα.
Συστήματα περιορισμένου και μηδενικού κινδύνου
Αναφορικά με τα συστήματα ΤΝ τα οποία χαρακτηρίζονται ως περιορισμένου κινδύνου (όπως για παράδειγμα τα διαλογικά ρομπότ) ο Κανονισμός θεσπίζει περιορισμένες υποχρεώσεις. Kατά κύριο λόγο υποχρεώσεις διαφάνειας και γνωστοποίησης, όσον αφορά τη χρήση της ΤΝ, ώστε να είναι σε θέση όσοι αλληλεπιδρούν με αυτά να λαμβάνουν τεκμηριωμένες αποφάσεις και, εφόσον κρίνουν απαραίτητο, να διακόψουν την χρήση τους.
Σημειώνεται ότι τα συστήματα ΤΝ τα οποία χαρακτηρίζονται ως ελάχιστου ή μηδενικού κινδύνου, δεν εμπίπτουν στην εφαρμογή των υποχρεώσεων συμμόρφωσης που προβλέπουν οι διατάξεις του Κανονισμού.
Όπως, ήδη, διατυπώθηκε ο Κανονισμός είναι κινδυνο-κεντρικός: τα συστήματα Τεχνητής Νοημοσύνης κατηγοριοποιούνται σε συστήματα απαγορευμένου, υψηλού, περιορισμένου και ελάχιστου ή μηδενικό κίνδυνο. Για τις δύο τελευταίες κατηγορίες θεσπίζονται ελάχιστες υποχρεώσεις. Η πρώτη κατηγορία (ως απολύτως απαγορευμένη) δεν είναι, ούτως ή άλλως προς συζήτηση. Η πλειονότητα των σοβαρών υποχρεώσεων υφίσταται όσον αφορά τα συστήματα Τεχνητής Νοημοσύνης υψηλού κινδύνου. Κι ακριβώς λόγω της κρισιμότητάς τους αλλά και του βάρους που δημιουργούν στα εμπλεκόμενα μέρη θα μας απασχολήσουν, αυτοτελώς, σε επόμενη αρθρογραφία μας.-
Managing Partner
Koumentakis and Associates Law Firm
Σημ.: Το παρόν άρθρο αποτελεί τμήμα ευρύτερης ενότητας αρθρογραφίας της Δικηγορικής μας Εταιρείας για τον Κανονισμό για την Τεχνητή Νοημοσύνη. Στην ενότητα αυτή επιχειρούμε την προσέγγιση των βασικών, σχετικών, ρυθμίσεων και υποχρεώσεων του Κανονισμού (ΕΕ) 2024/1689 με business view, όπως πάντα, προσέγγιση.