>>Τεχνητή Νοημοσύνη: Νομοθεσία και Ρύθμιστικό Πλαίσιο
Η ρύθμιση της ΤΝ: Mία εξίσωση με πολλούς αγνώστους.
Οι καινοτομίες που διεισδύουν στην κοινωνία μετασχηματίζοντάς την αποτελούν διαχρονικά μία μεγάλη πρόκληση για την νομοθεσία. Το «πρόβλημα βηματισμού» (Marchant et al., 2011), το γεγονός δηλαδή ότι η τεχνολογία και το δίκαιο αναπτύσσονται με πολύ διαφορετικούς ρυθμούς, κορυφώνεται σχετικά με την Τεχνητή Νοημοσύνη (ΤΝ), καθώς η τελευταία αναπτύσσεται εκθετικά, ενώ τα κοινωνικά, οικονομικά και νομικά συστήματα εξακολουθούν να αλλάζουν γραμμικά. Η έκφραση “law lag” περιγράφει πολύ γλαφυρά την ασθμαίνουσα πορεία του δικαίου να παρακολουθήσει την ξέφρενη πορεία της τεχνολογίας. Το κενό αυτό μεταξύ της ΤΝ και της νομοθεσίας μερικές φορές οδηγεί στην αντίληψη ότι η παραδοσιακή νομοθεσία δεν είναι δυνατό να αντιμετωπίσει αυτήν την νεόκοπη πρόκληση (Cerca et al., 2015) ή ότι η ρύθμιση της ΤΝ είναι εξ ορισμού αδύνατη. Συνεπώς, το γνωστό δίλημμα του Collingridge για τον κοινωνικό έλεγχο της τεχνολογίας οξύνεται όσον αφορά την Τεχνητή Νοημοσύνη (ΤΝ).
Στον ανωτέρω προβληματισμό προστίθεται και η μεγάλη δυσκολία ελέγχου που θέτουν τα πολύπλοκα και αδιαφανή δίκτυα που αναπτύσσονται γύρω από την βιομηχανία της ΤΝ. Περαιτέρω, το γεγονός ότι η ΤΝ καθιερώνεται ως μία τεχνολογία γενικού σκοπού όχι μόνο διευρύνει, αλλά ουσιαστικά αλλάζει την κλίμακα του προβληματισμού, καθώς η ΤΝ διεκδικεί να εφαρμοστεί σε απροσδιόριστα πεδία και με απροσδιόριστους τρόπους, με μη προβλέψιμες κοινωνικές επιπτώσεις. Εξάλλου, η ΤΝ επεμβαίνει στην ίδια την ανθρώπινη εμπειρία και την λήψη των αποφάσεων με τρόπο που επηρεάζει την ίδια την γνωστική μας λειτουργία και την επίγνωση μας για την επίδρασή της.
Πώς είναι δυνατό λοιπόν το συμβατικό μας νομικό σύστημα να λύσει μία εξίσωση με τόσους πολλούς αγνώστους?
Γενικοί Κανόνες ή νέο ειδικό νομοθετικό πλαίσιο;
Καταρχάς, τίθεται το ερώτημα αν χρειάζεται κάποια νέα και ειδική νομοθετική πρωτοβουλία. Υποστηρίζεται ότι ο νόμος (οι γενικοί κανόνες) είναι σαφής, περιεκτικός και πλήρης, και ότι η εμφάνιση νέων τεχνολογιών δεν θέτει στην πραγματικότητα καινοφανή ζητήματα. Η πρόκληση έγκειται στην εξασφάλιση της ορθής εφαρμογής των υφιστάμενων γενικών νομικών κανόνων κατά την επίλυση αναδυόμενων ζητημάτων, και όχι στη δημιουργία νέων κανόνων. Στο πλαίσιο του δικαίου του κυβερνοχώρου έχει υποστηριχθεί ότι «ο καλύτερος τρόπος για να μάθει κανείς το δίκαιο που εφαρμόζεται σε εξειδικευμένες δραστηριότητες είναι να μελετήσει τους γενικούς κανόνες» (Easterbrook, 1996, σ. 207).
Σε αυτή την γραμμή σκέψης εντάσσεται η πρόταση σχετικά με την ρύθμιση της ΤΝ να προσφύγουμε σε βασικά νομοθετήματα διεθνούς ισχύος, όπως για παράδειγμα, στην Οικουμενική Διακήρυξη των Ανθρωπίνων Δικαιωμάτων, ώστε να εξασφαλίσουμε τα ανθρώπινα δικαιώματα από καταχρήσεις της ΤΝ, καθώς αποτελεί μία ώριμη προσέγγιση που έχει υιοθετηθεί από πολλές χώρες (Donahoe & Metzger, 2019). Ωστόσο, ορισμένοι υποστηρίζουν ότι η υφιστάμενη νομοθεσία παρέχει περιορισμένη προστασία και είναι ανεπαρκής για την αντιμετώπιση των συγκεκριμένων προκλήσεων που ενδέχεται να παρουσιάσουν τα συστήματα τεχνητής νοημοσύνης.
Στην περίπτωση όμως που κρίνεται σκόπιμη μία νέα νομοθετική πρωτοβουλία ποιά είναι η κατάλληλη μορφή και το περιεχόμενός της; Στην ερώτηση αυτή τα διάφορα δικαικά συστήματα έχουν απαντήσει με διαφορετικούς τρόπους τα τελευταία χρόνια. Έχουν δημοσιευθεί ή προταθεί κατευθυντήριες γραμμές, πρωτόκολλα τυποποίησης, μηχανισμοί συλλογής πληροφοριών και τεχνικές τροποποίησης συμπεριφοράς που βασίζονται σε ηθικές αρχές. Ωστόσο, έχουν εκφραστεί πολλές ανησυχίες σχετικά με το αν οι Ηθικοί Κανόνες ρύθμισης της ΤΝ (soft law) θα μπορέσουν να προστατεύσουν επιτυχώς τους πολίτες από παραβιάσεις και καταπατήσεις των δικαιωμάτων τους ή αν θα καταλήξουν να διευκολύνουν το «ethics-washing» (N. Van Dijk et al, 2021). Επιπλέον, στη βιβλιογραφία έχουν προταθεί πολλά πλαίσια και μοντέλα σχετικά με τη ρύθμιση της τεχνητής νοημοσύνης (Almeida et al, 2021) ανάμεσα στα οποία τα πλαίσια που περιλαμβάνουν μία δυναμική, διαδραστική ρύθμιση με όσο το δυνατό μεγαλύτερη εμπλοκή κοινωνικών παραγόντων (Kaal & Vermeulen, 2017) φαίνονται να είναι πιο κατάλληλα για τη ρύθμιση της ΤΝ.
Η απάντηση της Ε.Ε.
Η Ευρωπαϊκή Ένωση ανταποκρίθηκε στην προαναφερθείσα πρόκληση λαμβάνοντας πολλές πρωτοβουλίες που οδήγησαν αρχικά στη δημοσίευση κανόνων δικαίου soft law, η μη συμμόρφωση στους οποίους δεν συνεπάγεται κυρώσεις. Η Ευρωπαϊκή Επιτροπή συνέστησε την Ομάδα Εμπειρογνωμόνων Υψηλού Επιπέδου για την ΤΝ, η οποία δημοσίευσε τις Κατευθυντήριες Γραμμές Δεοντολογίας για Αξιόπιστη ΤΝ (2019) και τις Συστάσεις Πολιτικής και Επενδύσεων για Αξιόπιστη ΤΝ (2019). Το 2020, η Επιτροπή δημοσίευσε τη Λευκή Βίβλο για την τεχνητή νοημοσύνη – Η ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης. Η ΕΕ αποφάσισε να αντιμετωπίσει αυτή την πρόκληση προχωρώντας στο επόμενο βήμα, δηλαδή τη δημοσίευση ενός «κανονισμού», ενός νομικού κειμένου που τέθηκε σε ισχύ σε καθορισμένη ημερομηνία σε όλα τα 27 κράτη-μέλη και θα έχει δεσμευτική, νομική ισχύ σε ολόκληρη την ΕΕ, πράγμα που σημαίνει ότι τα φυσικά ή νομικά πρόσωπα θα μπορούν να επικαλούνται τα δικαιώματα αυτά ενώπιον των εθνικών δικαστηρίων και δικαστικών αρχών.
Σύμφωνα με τις επίσημες ανακοινώσεις των ευρωπαϊκών αρχών, η Πράξη για την Τεχνητή Νοημοσύνη (AI Act) (Κανονισμός ΕΕ 2024/1689) παρουσιάστηκε ως το πρώτο συνεκτικό, νομικό πλαίσιο για την τεχνητή νοημοσύνη παγκοσμίως, το οποίο εγγυάται την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα των πολιτών και παρέχει νομική ασφάλεια στις επιχειρήσεις των 27 κρατών μελών. Παρά το γεγονός ότι έχουν υπάρξει και άλλες παρόμοιες πρωτοβουλίες σε παγκόσμιο επίπεδο (για παράδειγμα, ο νόμος των Η.Π.Α. National AI Initiative Act, που τέθηκε σε ισχύ την 1η Ιανουαρίου 2021), η AI Act αποτελεί μία νομοθετική πρωτοβουλία με μεγάλη επίδραση. Επιπλέον, η Πράξη για την ΤΝ στοχεύει να τοποθετήσει την ΕΕ σε θέση ηγεσίας ως προς την ορθή διακυβέρνηση των τεχνολογιών ΤΝ και θα επεκτείνει το λεγόμενο φαινόμενο Βρυξελλών (Brandford, 2020).
Στόχος της είναι να προωθήσει την αξιόπιστη, ανθρωποκεντρική τεχνητή νοημοσύνη, ταξινομώντας τις εφαρμογές σε επίπεδα κινδύνου (απαράδεκτο, υψηλό, περιορισμένο και ελάχιστο) και απαγορεύοντας ορισμένες πρακτικές (π.χ. κοινωνική βαθμολόγηση και χειραγωγική τεχνητή νοημοσύνη), ενώ επιβάλλει αυστηρές απαιτήσεις σε άλλες για να διασφαλίσει την ασφάλεια και να προστατεύσει τα θεμελιώδη δικαιώματα.
Η πρωτοβουλία αυτή της ρύθμισης της ΤΝ έρχεται να προστεθεί στον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR), στην Πράξη για της Ψηφιακές Υπηρεσίες (Digital Services Act) και στην Πράξη για τις Ψηφιακές Αγορές (Digital Markets Act), οι οποίες (δύο τελευταίες) στοχεύουν να ρυθμίσουν τις διαδικτυακές πλατφόρμες και υπηρεσίες και εντάσσεται σε ότι χαρακτηρίζεται ως «ψηφιακός συνταγματισμός», μία νομοθετική στάση που έχει υιοθετήσει η ΕΕ για να αντιμετωπίσει τις προκλήσεις της αναδυόμενης ψηφιακής εποχής.
Η θέση μας.
Παρά τους φιλόδοξους στόχους της, η Πράξη για την ΤΝ περιλαμβάνει πολλούς ασαφείς όρους που αφήνουν μεγάλο περιθώριο για αβεβαιότητα και νομικά κενά (L. Floridi, 2021). Πρώτον, δεν είναι σαφές εάν η ταξινόμηση των συστημάτων ΤΝ σε συστήματα υψηλού, χαμηλού ή μηδενικού κινδύνου θα λειτουργήσει στην πράξη. Κανένα σύστημα ΤΝ δεν θα «συστηθεί» ως σύστημα υψηλού κινδύνου με στόχο την κοινωνική βαθμολόγηση και χειραγώγηση.
Ακόμα πιο σημαντικό είναι το γεγονός ότι η Πράξη για την ΤΝ δεν περιέχει αυστηρώς καθορισμένα τεχνικά πρότυπα. Αν και τονίζει τη σημασία της ανθρώπινης εποπτείας σε πολλά σημεία της, δεν γίνεται αντίστοιχα επαρκής αναφορά στην ανάγκη κατανόησης και περιγραφής της υποκείμενης τεχνολογίας. Εγείρεται λοιπόν το ερώτημα πως είναι δυνατό να ρυθμίσει κανείς επιτυχημένα μόνο τις εφαρμογές της ΤΝ παραγνωρίζοντας την υποκείμενη τεχνολογία. Με άλλα λόγια, είναι, θεωρούμε, απαραίτητη προϋπόθεση κάθε απόπειρας νομοθετικής παρέμβασης σχετικά με την ρύθμιση της ΤΝ να είμαστε σε θέση να ορίσουμε, να κατηγοριοποιήσουμε και να επικοινωνήσουμε με ακρίβεια τι συνιστά η υποκείμενη τεχνολογία της (Hin-Yan Liu, 2023). Το εγχείρημα αυτό είναι βέβαια εξαιρετικά δύσκολο νομοεθτικά και ελεγκτικά, καθώς τόσο η μέθοδος όσο και τα δεδομένα που χρησιμοποιήθηκαν κατά την εκπαίδευση του συστήματος είναι ιδιαίτερα περίπλοκα και αδιαφανή.
Η εννοιολογική σύγχυση και η αβεβαιότητα σχετικά με την υποκείμενη τεχνολογία (η οποία αποτυπώνεται εν μέρει και στην αμηχανία ορισμού της ΤΝ στα νομικά κείμενα) σημαίνει ταυτόχρονα αβεβαιότητα σχετικά με τους συγκεκριμένους κινδύνους που ενέχει ο σχεδιασμός και η εφαρμογή της ΤΝ και θα επηρεάσει την αποτελεσματικότητα οποιασδήποτε αξιολόγησης συμμόρφωσης των συστημάτων στην νομοθεσία και την αποτελεσματική επιβολή κυρώσεων. Εάν αντιμετωπίσουμε την υποκείμενη τεχνολογία της ΤΝ ως κάτι μαγικό, είναι αδύνατο να αντιμετωπίσουμε αποτελεσματικά τις συνέπειες της εφαρμογής της. Κυριότερα, η αντιμετώπιση της TN ως «μαγείας» δεν συνάδει με τις βασικές αρχές των δημοκρατικών κοινωνιών μας, όπως την διαφάνεια, την λογοδοσία, την δικαιοσύνη
Almeida P. et al, Artificial Intelligence Regulation: A framework for governance, 2021, Springer.
Bradford A., The Brussels effect: How the European Union rules the world, 2020. Oxford University Press.
Cerka P., Grigiene J., & Sirbikite G., 2015, Liability for damages caused by artificial intelligence. Computer Law & Security, Review, 31(3), 376–389.
Collingridge D., The social control of technology, 1981, Palgrave Macmillan.
Donahoe, E., & Metzger, M. M., 2019, Artificial intelligence and human rights. Journal of Democracy, 30(2), 115–126.
Easterbrook, F., Cyberspace and the Law of the Horse, 1996, University of Chicago Legal Forum, 207.
Floridi L., The European Legislation on AI: a Brief Analysis of its Philosophical Approach, Philosophy & Technology, 2021, 34:215–222, Springer.
Liu H., What makes AI regulation so difficult?, in Artificial Intelligence for human-centric society: The future is here, 2023, European Liberal Forum.
Marchant, G., Allenby, B., & Herkert, J. (Eds.), The Growing Gap Between Emerging Technologies and Legal-Ethical Oversight: The Pacing Problem, 2011, Springer
Rahwan, I., Society-in-the-loop: Programming the algorithmic social contract. Ethics and Information Technology., 2017, 20, 5–14.
Van Dijk N., S. Casiraghi & S. Gutwirth, “The Ethification” of ICT Governance. Artificial Intelligence and Data Protection in the European Union, Computer Law & Security Review, 43, 2021.