>>Τεχνητή Νοημοσύνη, Κράτος & Δημόσια Διοίκηση

του Χρήστου Κουτσοσπύρου

Η αυτοματοποιημένη λήψη αποφάσεων στη δημόσια διοίκηση κερδίζει όλο και περισσότερο έδαφος, μετασχηματίζοντας ριζικά γραφειοκρατικές διαδικασίες και τον ίδιο τον κρατικό μηχανισμό. Οι πιο πρόσφορες για αυτοματοποίηση διαδικασίες είναι τα καθημερινά διοικητικά καθήκοντα ρουτίνας, όπως η καταγραφή, καταχώριση, προετοιμασία, ταξινόμηση και έλεγχος της ακρίβειας των εισερχόμενων σε έναν δημόσιο φορέα πληροφοριών. 

Η χρήση συστημάτων Tεχνητής Νοημοσύνης (στο εξής: TN) και αλγορίθμων υπόσχεται απλοποίηση των γραφειοκρατικών διαδικασιών και απελευθέρωση χρόνου για τους δημόσιους υπαλλήλους ώστε να επικεντρωθούν στις εργασίες που απαιτούν ανθρώπινη κρίση, δημιουργικότητα και διακριτική ευχέρεια.

Εφαρμογές TN αξιοποιούνται ήδη στους τομείς της  παροχής κοινωνικών υπηρεσιών, στην καταπολέμηση της απάτης, στη φορολογία, στην εκτίμηση και αξιολόγηση κινδύνων, στην αξιολόγηση προσωπικού, στο στρατηγικό σχεδιασμό και στη στοχοθεσία (OECD, 2025). Η οργανωσιακή  αποτελεσματικότητα και αποδοτικότητα των δημόσιων υπηρεσιών και η ενίσχυση της παραγωγικότητας των δημοσίων υπαλλήλων είναι τα κύρια επιχειρήματα υπέρ της αυτοματοποιημένης λήψης αποφάσεων καθώς μέσω της δυνατότητας επεξεργασίας μεγάλου όγκου δεδομένων (Βig Data) η διοίκηση θα διαθέτει την ικανότητα να εξάγει με ταχύτητα κρίσιμες πληροφορίες που θα της  επιτρέπουν  να λαμβάνει καλύτερες αποφάσεις στηριγμένες σε δεδομένα. 

Χωρίς να παραβλέπονται τα πιθανά οφέλη από τη χρήση τέτοιων συστημάτων¹, ένα ολοένα αυξανόμενο σώμα βιβλιογραφίας καταγράφει και επισημαίνει τους κινδύνους και τις ανησυχίες που προκύπτουν από τη χρήση αλγορίθμων και την αυτοματοποιημένη λήψη αποφάσεων αναφορικά με τη  δίκαιη και ισότιμη μεταχείριση των πολιτών (O' Neil, 2016; Eubanks, 2018)² ενώ συγχρόνως επισημαίνεται ότι η χρήση αυτών των τεχνολογιών αποτελεί ουσιαστικά εργαλείο περαιτέρω γραφειοκρατικοποίησης, εξορθολογισμού και τυποποίησης της κοινωνικής ζωής (Pasquale, 2015).

Η εισαγωγή ΤΝ στο κράτος συνιστά μια θεμελιώδη επιστημολογική μετατόπιση όπως έχει επισημανθεί, καθώς σηματοδοτεί τη μετάβαση από μεταβλητές (variables)  σε πρότυπα (patterns), από κανόνες (rules) σε συσχετίσεις (correlations)  και από έρευνες(surveys) σε αισθητήρες (sensors) (Törnberg, 2025). Αυτή η μετατόπιση μπορεί να μετασχηματίσει τη δημόσια διοίκηση και έννοιες όπως «Κράτος Δικαίου», «ιδιότητα του πολίτη» και  «Δημοκρατία» (Hildebrandt, 2015). 

Κίνδυνοι

• Μεροληπτικοί αλγόριθμοι (algorithmic bias) και άνιση μεταχείριση πολιτών: Οι αλγόριθμοι μηχανικής μάθησης είναι εξαιρετικά ευαίσθητοι στην ποιότητα των δεδομένων εκπαίδευσης, γεγονός που τους καθιστά ευάλωτους στην εκμάθηση ψευδών συσχετίσεων και στην ενίσχυση και αναπαραγωγή κοινωνικών στερεοτύπων, στρεβλώσεων και διακρίσεων βάσει φυλής,  φύλου,   ηλικίας κλπ.   που ενσωματώνονται σε ιστορικά δεδομένα, γεγονός που μπορεί να θέσει σε κίνδυνο τα δικαιώματα ιδίως ευάλωτων κοινωνικών ομάδων κατά τη λήψη αποφάσεων που αφορούν πρόσβαση τους σε υπηρεσίες και οικονομικούς πόρους.³
• Έλλειψη διαφάνειας και δυνατότητας (επ)εξήγησης των διοικητικών αποφάσεων: Συστήματα ΤΝ που στηρίζονται σε «βαθιά μάθηση» (deep learning)⁴ συνήθως αποτελούν «μαύρα κουτιά», γεγονός που καθιστά τις εσωτερικές λειτουργίες τους και τις διαδικασίες εξαγωγής αποτελεσμάτων, αδιαφανείς και απροσπέλαστες ακόμα και για τους ίδιους τους σχεδιαστές αυτών των συστημάτων. Αυτό έχει σαν αποτέλεσμα να δυσχεραίνεται υπερβολικά η εξήγηση του σκεπτικού και της αιτιολογίας προς τους πολίτες, δυσμενών ιδίως διοικητικών αποφάσεων που λαμβάνονται με τη βοήθεια ΤΝ και να υπονομεύεται η αρχή της διαφάνειας στη δράση της  διοίκησης(Burrell, 2016;Kaminski, 2019).
• Αδυναμία άσκησης του δικαιώματος της προηγούμενης ακρόασης και   προσφυγής κατά της αυτοματοποιημένης απόφασης από τον πολίτη σε περιπτώσεις όπου δεν είναι κατανοητή και επεξηγήσιμη η εσωτερική λειτουργία του αλγορίθμου, τα δεδομένα που ελήφθησαν υπόψη και τα στάδια διαμόρφωσης  της συγκεκριμένης απόφασης. Τα παραπάνω έχουν ως συνέπεια να μη  μπορεί να αιτιολογηθεί η απόφασή με τρόπο που επιτρέπει, αφενός, την κατανόησή της από τον αποδέκτη της  και, αφετέρου, τον έλεγχό της από τον δικαστή (Πρεβεδούρου, 2024).
• Υπονόμευση της δυνατότητας άσκησης διακριτικής ευχέρειας από τη διοίκηση, όταν έχει τη δυνατότητα επιλογής μεταξύ διαφόρων, εξίσου νόμιμων λύσεων ή όταν καλείται να εξειδικεύσει αόριστες νομικές έννοιες όπως «δημόσιο συμφέρον», «αναγκαία μέτρα», «σπουδαίος λόγος» κλπ. ή να προσαρμόσει γενικούς και αφηρημένους κανόνες στις ιδιαιτερότητες της εκάστοτε συγκεκριμένης περίπτωσης καθώς η αλγοριθμική λήψη αποφάσεων στηρίζεται σε στατιστικούς συσχετισμούς δεδομένων που παράγουν ένα συγκεκριμένο αποτέλεσμα και μια προκαθορισμένη επιλογή για τον ανθρώπινο χρήστη του συστήματος (Μήτρου,2023).
• Δυσκολία εντοπισμού του ακριβούς ρόλου ενός συστήματος ΤΝ στην αλυσίδα λήψης μιας απόφασης  καθώς το τεχνικό «μαύρο κουτί» των συστημάτων ΤΝ ενισχύεται από τις γραφειοκρατικές δομές και τις εσωτερικές διαδικασίες  της διοίκησης. Η περίπλοκη νομοθεσία, οι εσωτερικοί κανονισμοί και οι πολιτικές ενός φορέα μπορεί να δημιουργήσουν εμπόδια και να καθίσταται δύσκολο να εντοπιστεί εάν τα αποτελέσματα ενός συστήματος ΤΝ προορίζονται να λειτουργήσουν ως τελικές αποφάσεις που παράγουν έννομα αποτελέσματα για τους πολίτες ή λειτουργούν υποστηρικτικά για τη λήψη αποφάσεων από ανθρώπους⁵.
• Yποβάθμιση της ποιότητας της εργασίας: έχουν εκφραστεί ανησυχίες σχετικά με τις αρνητικές επιπτώσεις της ΤΝ και των αλγοριθμικών εργαλείων στην ποιότητα της εργασίας καθώς η ΤΝ θα μπορούσε να καταστήσει τις συνθήκες  εργασίας λιγότερο ικανοποιητικές και πιο στρεσογόνες μέσω της εντατικοποίησης και της ενίσχυσης νέων μορφών παρακολούθησης  των εργασιακών καθηκόντων και  προώθησης ενός υπέρ-αποτελεσματικού αλλά συγχρόνως εξουθενωτικού «ψηφιακού Τέιλορισμού», όπου η εργασία υπόκειται σε αυξημένη εποπτεία και αλγοριθμική μικρο-διαχείριση (Baiocco et al., 2022; Singh, 2025).
• «Μεροληψία αυτοματισμού» (automation bias) και ανθρώπινη εποπτεία: Συνήθως οι άνθρωποι αντιλαμβάνονται τα συστήματα ΤΝ και τις αποφάσεις τους ως ουδέτερες και αμερόληπτες, με αποτέλεσμα να υφίσταται ο κίνδυνος οι δημόσιοι υπάλληλοι, δείχνοντας υπερβολική εμπιστοσύνη στις συστάσεις των αλγορίθμων, να καταλήξουν σε απλούς επικυρωτές των αποτελεσμάτων του συστήματος, παρά τους όποιους τεχνικούς περιορισμούς, χωρίς ενδελεχή εξέταση των αποτελεσμάτων και άσκηση ουσιαστικής ανθρώπινης εποπτείας η οποία σε αρκετές περιπτώσεις ενδέχεται να είναι και αδύνατη από τον μέσο χρήστη (Koulu, 2020; Mitrouetal., 2022).
• Έλλειμμα λογοδοσίας από τη διοίκηση: δεδομένης της αναμενόμενης εξάρτησης της δημόσιας διοίκησης από τον ιδιωτικό τομέα, τουλάχιστον στα αρχικά στάδια, όσον αφορά το σχεδιασμό, την υλοποίηση και προμήθεια συστημάτων ΤΝ, μάλλον θα καθίσταται ιδιαίτερα  δύσκολο στην πράξη να αποδειχθεί ποια δεδομένα χρησιμοποιήθηκαν για την εκπαίδευση των αλγορίθμων, πως συλλέχθηκαν, από ποιόν καθώς και ποιος είναι εν τέλει ο πραγματικός εκδότης μιας διοικητικής απόφασης ώστε να αποδοθεί και η σχετική νομική ευθύνη: το κράτος ή ο ιδιώτης προγραμματιστής που σχεδίασε και προγραμμάτισε τον αλγόριθμο για λογαριασμό της Διοίκησης; Το περιεχόμενο των αποφάσεων ενδέχεται να μην διαμορφώνεται πλέον από τους δημοσίους υπαλλήλους, οι οποίοι δεν διαθέτουν τα μέσα να τροποποιήσουν το σύστημα, αλλά από τους προγραμματιστές και τους μηχανικούς που ορίζουν τις παραμέτρους λειτουργίας του συστήματος. (Πρεβεδούρου, 2024;Langer, 2024; Cobe, 2021)

Κριτικές παρατηρήσεις

Πέραν των ανωτέρω κινδύνων που αναφέρθηκαν κρίνεται απαραίτητη και η παράθεση κάποιων κριτικών παρατηρήσεων ώστε να αναδειχθεί η κοινωνικό-πολιτική διάσταση της εισαγωγής συστημάτων ΤΝ στη δημόσια διοίκηση.  Αυτές θα μπορούσαν να συνοψιστούν στα εξής σημεία:

• Η ενσωμάτωση ΤΝ στη δημόσια διοίκηση δεν είναι γραμμική ή προκαθορισμένη (Bijker, 2012), αλλά χαρακτηρίζεται από διαφορετικές προσεγγίσεις, διαμάχες και οράματα μεταξύ διαφορετικών δρώντων  σχετικά με το τι συνιστά «κράτος», «ψηφιακό μετασχηματισμό», «καλή διακυβέρνηση» και «χρηστή διοίκηση»
• Οι πολιτικές επιλογές για ενσωμάτωση νέων τεχνολογιών τείνουν  να ενισχύουν τις υπάρχουσες κοινωνικές δομές και ανισότητες, καθώς στον τεχνικό σχεδιασμό αυτών των συστημάτων ενσωματώνονται και αντανακλώνται οι υφιστάμενες κοινωνικές προκαταλήψεις (Winner, 1980) μέσω των ιστορικών δεδομένων εκπαίδευσης των αλγορίθμων.
• Υφίσταται ανάγκη εστίασης στο μικρο-επίπεδο, ώστε να διαπιστωθεί πώς οι νέες τεχνολογίες και οι σχετικές αφηγήσεις γύρω από αυτές αξιοποιούνται από κρατικούς δρώντες στην καθημερινή πρακτική αλλά και σε διαμάχες για ισχύ και πόρους.
• Ο αντίκτυπος της ΤΝ δεν είναι μόνο τεχνολογικός, αλλά αφορά τη διαπλοκή και αλληλεπίδραση ανθρώπινων παραγόντων, οργανωσιακών διαδικασιών, κανόνων και υποδομών, που έχει ως συνέπεια τον μετασχηματισμό κλασσικών εννοιών όπως «πολίτης» , «Κράτος Δικαίου», «διακριτική ευχέρεια», «δημόσιος τομέας» κλπ.
• Η ενσωμάτωση ΤΝ  στις κρατικές λειτουργίες φαίνεται να συνιστά  περαιτέρω απομάκρυνση  από διαβουλευτικά προς περισσότερο τεχνοκρατικά μοντέλα διακυβέρνησης, όπου οι αποφάσεις βασίζονται σε δεδομένα και αλγοριθμικές προβλέψεις, περιορίζοντας την πολυπλοκότητα και πολυδιάστατη φύση των κοινωνικών φαινομένων και μειώνοντας τις εναλλακτικές προσεγγίσεις για την κατανόηση των δημόσιων πολιτικών.⁶
• Συνήθως η ΤΝ εισάγεται ως «τεχνολογική επιδιόρθωση» (technological fix) (Katzenbach, 2021) και λύση σε περίπλοκες γραφειοκρατικές διαδικασίες, γεγονός που εξασφαλίζει κοινωνική συναίνεση και πόρους για χρηματοδότηση, ενώ οι κίνδυνοι θεωρούνται διαχειρίσιμοι μέσω προληπτικής διαχείρισης και δημιουργίας «επεξηγήσιμων» και υποκείμενων σε ανθρώπινη εποπτεία συστημάτων τα οποία μπορούν να αξιολογηθούν μέσω κατάλληλων προτύπων και μεθοδολογιών, δημιουργώντας έτσι την ψευδαίσθηση του πλήρους και απόλυτου ελέγχου αυτών των συστημάτων παρά τους εγγενείς περιορισμούς της διαφάνειας και εποπτείας τους (Ananny, 2016; Yampolskiy, 2024).   
• Η έννοια της δημιουργίας «αξιόπιστης ΤΝ» (trustworthy AI)  ή  «ηθικής ΤΝ» (ethical AI) για τον δημόσιο τομέα, που αναφέρεται πολύ συχνά σε κείμενα πολιτικής  μπορεί να λειτουργεί ως κενό σημαίνον για σύναψη πολιτικών συμμαχιών από ισχυρούς δρώντες με κοινά συμφέροντα, αποκρύπτοντας τις ασυμμετρίες ισχύος τόσο μεταξύ των κατασκευαστών αυτών των συστημάτων όσο και μεταξύ των κατασκευαστών και των χρηστών.    
• Η κυρίαρχη συζήτηση σχετικά με την ΤΝ τείνει να αποκρύπτει  την ανθρώπινη εργασία που απαιτείται για να λειτουργήσουν και να συντηρηθούν τα συστήματα αυτά. Παρότι τα συστήματα παρουσιάζονται ως αυτόνομα και αποδοτικά, βασίζονται σε πλήθος αόρατων εργασιών που εκτελούν (και) δημόσιοι υπάλληλοι όπως η προετοιμασία και ο καθαρισμός των δεδομένων, η εποπτεία των αλγορίθμων, ο εντοπισμός των εξαιρέσεων από τον γενικό κανόνα καθώς και η ανίχνευση σφαλμάτων. Η απόκρυψη αυτών των εργασιών ενισχύει την ψευδαίσθηση της ουδετερότητας και αντικειμενικότητας της ΤΝ, ενώ στην πραγματικότητα οι άνθρωποι παραμένουν κρίσιμοι για τη διαμόρφωση, ερμηνεία και εφαρμογή των κανόνων. Έτσι, υποβαθμίζεται ο ρόλος των δημοσίων υπαλλήλων και συσκοτίζονται  οι  κοινωνικές και πολιτικές σχέσεις που καθιστούν δυνατή τη λειτουργία της ΤΝ στη δημόσια διοίκηση (Crivellari et al., 2024).     

Προτάσεις

Παρακάτω επιχειρείται η παράθεση κάποιων προτάσεων  για τον μετριασμό των κινδύνων που προαναφέρθηκαν, λαμβάνοντας υπόψιν τις κριτικές παρατηρήσεις που επισημάνθηκαν στην προηγούμενη ενότητα.  

Σε θεωρητικό και ερευνητικό επίπεδο προτείνεται:

• Εκπόνηση εμπειρικών ερευνών σχετικά με τον τρόπο που οι πολίτες βιώνουν και αντιλαμβάνονται ως χρήστες τις διοικητικές διαδικασίες σε περιβάλλοντα που μεσολαβούνται από ΤΝ.
• Εκπόνηση εμπειρικών  ερευνών για τη διερεύνηση της αλληλεπίδρασης δημοσίων υπαλλήλων με αλγοριθμικά συστήματα και τις συνέπειές τους στην ποιότητα των αποφάσεων, ώστε να διαπιστωθεί πώς ασκείται η κρίση, η διακριτική ευχέρεια και η εποπτεία των υπαλλήλων επί πλήρως αυτοματοποιημένων συστημάτων καθώς και επί συστημάτων  υποστήριξης  λήψης αποφάσεων (Mindel, 2024; Bainbridge,1983).
• Εκπόνηση διεπιστημονικών μελετών για την ανάλυση των απαιτήσεων αλγοριθμικής  διαφάνειας, των προϋποθέσεων δημιουργίας κατανοητών από ανθρώπους επεξηγήσεων,  μοντέλων ΤΝ που θα διασφαλίζουν την αποτελεσματική ανθρώπινη εποπτεία και παρέμβαση καθώς και μεθοδολογιών ελέγχου (auditing) της εσωτερικής λειτουργίας των αλγορίθμων. 

Σε περισσότερο τεχνικό/πρακτικό επίπεδο προτείνεται:

• Αιτιολόγηση από τη διοίκηση  σε κάθε περίπτωση του λόγου αυτοματοποίησης μιας διαδικασίας μέσω εισαγωγής ΤΝ, ποια είναι τα αναμενόμενα οφέλη και οι κίνδυνοι και γιατί η ΤΝ συνιστά την καλύτερη λύση, καθώς και ποιο είδος ΤΝ συνιστά από τεχνικής άποψης τη βέλτιστη επιλογή για τον επιδιωκόμενο σκοπό (εποπτευόμενη, μη εποπτευόμενη, ενισχυτική μάθηση κλπ.).
• Πρόβλεψη δομημένων αξιολογήσεων και συγκριτικών μελετών που μετρούν την απόδοση της ΤΝ σε σχέση με παραδοσιακές μεθόδους όπως π.χ ο χρόνος διεκπεραίωσης αιτημάτων και η επίδραση στην εξυπηρέτηση πολιτών, ώστε να διαπιστώνονται τα συγκριτικά πλεονεκτήματα από την εισαγωγή αυτών των συστημάτων,  προς εξοικονόμηση πόρων και αποφυγή άσκοπης περιβαλλοντικής επιβάρυνσης δεδομένου ότι η εκπαίδευση και χρήση των συστημάτων ΤΝ είναι ιδιαίτερα ενεργοβόρα.
• Δημόσια χρηματοδότηση της έρευνας για δημιουργία ανοιχτών μοντέλων και  αλγόριθμων με διαφανή αρχιτεκτονική  αντί για “μαύρα κουτιά”(Rudin, 2019; Casper et. al, 2023) – συνέργειες  μεταξύ  ακαδημαϊκών ιδρυμάτων – ερευνητικών κέντρων και δημόσιων φορέων για την κατασκευή αλγόριθμων και μοντέλων  που θα ανταποκρίνονται στις ανάγκες της δημόσιας διοίκησης και θα υπηρετούν το δημόσιο συμφέρον και τις κοινωνικές ανάγκες. Θα πρέπει να αναγνωρίζεται  ότι η τεχνολογία απαιτεί αρχιτεκτονική ασφάλειας εκ σχεδιασμού (safety by design) και κρατική ικανότητα  κατασκευής της.
• Ανάγκη δημιουργίας συνεκτικών και ενιαίων ορισμών για την κατηγοριοποίηση και ταξινόμηση των συστημάτων ΤΝ που χρησιμοποιεί η δημόσια διοίκηση ανάλογα με το σκοπό τους, τον τύπο της τεχνολογίας και το πλαίσιο χρήσης τους, ώστε να υφίσταται ένα κοινό πλαίσιο αναφοράς που θα διασφαλίζει αποτελεσματική επικοινωνία μεταξύ των δημόσιων φορέων.
• Ισχυροί μηχανισμοί  εποπτείας των δημόσιων συμβάσεων και προμηθειών συστημάτων ΤΝ από τον ιδιωτικό τομέα καθώς οι δημόσιοι φορείς, στα αρχικά στάδια τουλάχιστον, αναμένεται να συνάπτουν συμβάσεις με ιδιώτες προμηθευτές ΤΝ χωρίς επαρκή έλεγχο, αυξάνοντας τον κίνδυνο εξάρτησης από τον προμηθευτή, οπότε και θα πρέπει να διασφαλίζεται ότι οι συμβάσεις προμηθειών δίνουν προτεραιότητα στη διαφάνεια και το δημόσιο συμφέρον, και όχι στις υποσχέσεις και  τις προτεραιότητες των  ιδιωτικών τεχνολογικών εταιρειών⁷.
• Αυστηρή τήρηση του θεσμικού πλαισίου για αποφυγή καταστάσεων «σύγκρουσης συμφερόντων» και «περιστρεφόμενων θυρών» (revolving doors)⁸, δεδομένης της εξάρτησης σε αρχικό στάδιο όπως προαναφέρθηκε του δημόσιου τομέα από ιδιώτες προμηθευτές,  ώστε να αποτραπούν φαινόμενα «αιχμαλωσίας δημόσιων πολιτικών» από ισχυρούς  δρώντες μέσω των αλγορίθμων και των συστημάτων ΤΝ.
• Σύνταξη Κώδικα Δεοντολογίας για την ηθική χρήση της ΤΝ στο δημόσιο τομέα και διοργάνωση εκπαιδευτικών σεμιναρίων για την ενημέρωση των δημοσίων υπαλλήλων και των πολιτών σχετικά σε ζητήματα ΤΝ σε συνεργασία με  εμπειρογνώμονες της δημόσιας διοίκησης και της κοινωνίας των πολιτών.
• Βελτιστοποίηση και «καθάρισμα» των βάσεων δεδομένων του δημόσιου τομέα, ως βασική προϋπόθεση και  στάδιο του ελέγχου (auditing), ώστε να διασφαλίζεται η απαλλαγή των δεδομένων από μεροληψίες, οι οποίες μπορούν να ενισχύσουν υφιστάμενες ανισότητες κατά την εκπαίδευση των αλγορίθμων.
• Σύσταση δημόσιου φορέα για την «Αξιολόγηση και Εποπτεία Αλγορίθμων και Συστημάτων ΤΝ» με κύρια αρμοδιότητα τον έλεγχο (auditing) αλγοριθμικών συστημάτων υψηλής επικινδυνότητας, με στόχο τη διασφάλιση της συμμόρφωσης με τις αρχές της διαφάνειας, της λογοδοσίας και του σεβασμού των ανθρωπίνων δικαιωμάτων. Συγκεκριμένα, θα αξιολογείται: η ποιότητα, πληρότητα και ακρίβεια των δεδομένων που τροφοδοτούν τα συστήματα ΤΝ, ενώ θα γίνεται και έλεγχος  για μεροληψία και διακρίσεις που μπορεί να ενσωματώνονται στα ιστορικά δεδομένα εκπαίδευσης (training data). Παράλληλα θα αξιολογείται η διαφάνεια της αρχιτεκτονικής των αλγοριθμικών μοντέλων και των κριτηρίων λήψης αποφάσεων. Η Αρχή θα διαθέτει τους κατάλληλους υλικοτεχνικούς πόρους για την επίτευξη του έργου της και θα στελεχώνεται με διεπιστημονικό προσωπικό (νομικούς, μηχανικούς, ιστορικούς, κοινωνιολόγους κλπ.) ενώ θα συνεργάζεται και με ειδικό επιστημονικό προσωπικό ερευνητικών φορέων.  Η αξιολόγηση θα πραγματοποιείται πριν το σύστημα τεθεί σε παραγωγική λειτουργία ενώ θα αξιολογείται και περιοδικά, έχοντας τη δυνατότητα να επιβάλει πρόστιμα, να εκδίδει συστάσεις, κατευθυντήριες οδηγίες καθώς και την υποχρέωση να δημοσιεύει ετησίως εκθέσεις ελέγχου (audit reports) με τα πορίσματά της.
• Δημιουργία μακροπρόθεσμα ξεχωριστού τμήματος σε αρχές με διαμεσολαβητικό/γνωμοδοτικό ρόλο⁹ , με κατάλληλη υλικοτεχνική στελέχωση και εξειδικευμένο προσωπικό, που θα παραλαμβάνουν και θα διερευνούν  καταγγελίες πολιτών για παραβίαση δικαιωμάτων τους από τη διοίκηση  λόγω έκδοσης δυσμενών ατομικών διοικητικών πράξεων από συστήματα ΤΝ, όταν οι πράξεις αυτές δεν μπορούν να εξηγηθούν/αιτιολογηθούν  επαρκώς στους αποδέκτες τους επειδή δεν είναι γνωστά τα δεδομένα που αξιοποίησε το σύστημα για την εξαγωγή του συγκεκριμένου αποτελέσματος.
• Συμμετοχή τρίτων, ανεξάρτητων μερών στον έλεγχο (audit) των αλγοριθμικών συστημάτων ώστε να διασφαλίζεται μια κατά  το δυνατόν  πιο ολοκληρωμένη και αντικειμενική αξιολόγησή τους  για τον εντοπισμό κοινωνικοτεχνικών κινδύνων. Οι ανεξάρτητοι  εξωτερικοί έλεγχοι (external audits) μπορούν να εντοπίσουν προβλήματα και μεροληψίες που ενδέχεται να παραμένουν αθέατα ή να αποκρύπτονται σε εσωτερικούς ελέγχους, καθώς στοχεύουν όχι μόνο σε συμμόρφωση με διαδικασίες και στη διασφάλιση της νομικής συμμόρφωσης, αλλά και στην ουσιαστική μείωση της πιθανής βλάβης στους χρήστες επιτρέποντας κατάλληλες διορθωτικές παρεμβάσεις.  Ένα ρυθμιστικό πλαίσιο που θα επιτρέπει την πρόσβαση σε δεδομένα και σε μοντέλα από ερευνητές και οργανώσεις της κοινωνίας των πολιτών θα ενισχύσει τη διαφάνεια, τη λογοδοσία και την εμπιστοσύνη στα συστήματα αυτά.¹⁰
• Στο πλαίσιο ενίσχυσης της διαφάνειας και της λογοδοσίας προτείνεται ελάχιστο περιεχόμενο της αιτιολογίας των διοικητικών αποφάσεων που έχουν εκδοθεί με τη χρήση αλγορίθμων ώστε να είναι κατανοητές από τον αποδέκτη τους. Μια τέτοια απόφαση θα μπορούσε να περιλαμβάνει το βαθμό και τον τρόπο συμμετοχής της αλγοριθμικής επεξεργασίας στη λήψη της απόφασης,  τα δεδομένα που υπόκεινται σε επεξεργασία και την προέλευσή τους, τις  παραμέτρους επεξεργασίας και, ενδεχομένως, τη σημασία τους για την υπόθεση του ενδιαφερομένου, τις ενέργειες που περιλαμβάνει η επεξεργασία, καθώς και τα πραγματικά στοιχεία (μεταβλητές) που ελήφθησαν συναφώς υπόψη, ώστε αφενός μεν ο διοικούμενος να είναι σε θέση να διαπιστώσει αν τηρήθηκαν στην περίπτωσή του οι προβλεπόμενες από τους οικείους κανόνες δικαίου προϋποθέσεις εξέτασής της, αφετέρου δε ο δικαστής να είναι σε θέση να ασκήσει αποτελεσματικώς τον σχετικό δικαστικό έλεγχο (Πρεβεδούρου, 2024).

Συνοψίζοντας και με βάση τα όσα προαναφέρθηκαν είναι εμφανές  ότι η απόφαση για το εάν, σε ποιους τομείς και πώς θα χρησιμοποιηθεί η ΤΝ στη δημόσια διοίκηση και το κράτος δεν είναι μόνο τεχνικό ζήτημα, αλλά αποτελεί πολιτική και στρατηγική επιλογή που προϋποθέτει διαβούλευση και δημοκρατικό διάλογο κυρίως με τους χρήστες και τους αποδέκτες των υπηρεσιών που αναδιαμορφώνονται, ώστε να διασφαλίζεται ότι οι τεχνολογικές επιλογές εξυπηρετούν πραγματικές κοινωνικές ανάγκες και το δημόσιο συμφέρον. Η ΤΝ αντί να αντικαθιστά και να αυτοματοποιεί πλήρως,  θα πρέπει  να ενισχύει και να υποβοηθά  την ανθρώπινη λήψη αποφάσεων, αν θέλουμε οι δημόσιες υπηρεσίες να παραμείνουν ανθρωποκεντρικές, ικανές για λογοδοσία,  διαφανείς στη λειτουργία τους και αποτελεσματικές. 

ΒΙΒΛΙΟΓΡΑΦΙΑ

Ananny, 2016 M., & Crawford, K. (2016). Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability. New Media & Society, 20(3), 973-989. https://doi.org/10.1177/1461444816676645 .  

Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779. https://doi.org/10.1016/0005-1098(83)90046-8

Baiocco, S., Fernandez Macias, E., Rani, U. and Pesole, A., The Algorithmic Management of work and its implications in different contexts, European Commission, 2022, JRC129749.

Bijker, W. E., Hughes, T. P., & Pinch, T. J. (Eds.). (2012). The social construction of technological systems: New directions in the sociology and history of technology (Anniversary ed.). MIT Press.

Burrell, J. (2016). How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society, 3(1). https://doi.org/10.1177/2053951715622512

Casper, S., Ezell, C., Siegmann, C., Kolt, N., Curtis, T. L., Bucknall, B., Haupt, A., Wei, K., Scheurer, J., Hobbhahn, M., et al. (2023). Black-box access is insufficient for rigorous AI audits. In Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’23). ACM. https://doi.org/10.1145/3630106.3659037

Cobbe, J., Seng Ah Lee, M., & Singh, J. (2021). Reviewable automated decision-making: A framework for accountable algorithmic systems. arXiv. https://arxiv.org/abs/2102.04201

Crivellari, I., Oskarsen, J.S., Grøder, C.H. (2024). Unveiling the Invisible: Caseworkers’ Data Work in a Public Welfare Organization. In: Janssen, M., et al. Electronic Government. EGOV 2024. Lecture Notes in Computer Science, vol 14841. Springer, Cham. https://doi.org/10.1007/978-3-031-70274-7_11

Eubanks, V. (2018). Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. St. Martin’s Press.

Hartmann, D., de Pereira, J.R.L., Streitbörger, C. et al. Addressing the regulatory gap: moving towards an EU AI audit ecosystem beyond the AI Act by including civil society. AI Ethics 5, 3617–3638 (2025).  https://doi.org/10.1007/s43681-024-00595-3

Hildebrandt, M. (2015). Smart technologies and the end(s) of law. Cheltenham, UK: Edward Elgar Publishing. https://doi.org/10.4337/9781849808774

OECD (2025), Governing with Artificial Intelligence: The State of Play and Way Forward in Core Government Functions, OECD Publishing, Paris, https://doi.org/10.1787/795de142-en.

Kaminski, M. E. (2019). The right to explanation, explained. Berkeley Technology Law Journal. https://doi.org/10.15779/Z38TD9N83H

Katzenbach, C. (2021). “AI will fix this” – The technical, discursive, and political turn to AI in governing communication. Big Data & Society, 8(2). https://doi.org/10.1177/20539517211046182

Koulu, R. (2020). Proceduralizing control and discretion: Human oversight in artificial intelligence policy. Maastricht Journal of European and Comparative Law, 27(6), 720–735. https://doi.org/10.1177/1023263X20978649

Langer, C. (2024). Decision-making power and responsibility in an automated administration. Discover Artificial Intelligence, 4, 59. https://doi.org/10.1007/s44163-024-00152-1

Mindell, D. A. (2024). Τα ρομπότ μας, οι εαυτοί μας: Η ρομποτική και οι μύθοι της αυτονομίας. Angelus Novus.

McBride, K., van Noordt, C., Misuraca, G., &Hammerschmid, G. (2024). Chapter 4: Towards a systematic understanding on the challenges of public procurement of artificial intelligence in the public sector. In Research Handbook on Public Management and Artificial Intelligence. Cheltenham, UK: Edward Elgar Publishing. https://doi.org/10.4337/9781802207347.00013

Mitrou, L., Janssen, M., &Loukis, E. (2022). Human control and discretion in AI-driven decision-making in government. In Proceedings of the 14th International Conference on Theory and Practice of Electronic Governance (ICEGOV ’21) (pp. 10–16). Association for Computing Machinery. https://doi.org/10.1145/3494193.3494195

O’Neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy.Crown.

PASQUALE, F. (2015). The black box society: The secret algorithms that control money and information. Harvard University Press. http://www.jstor.org/stable/j.ctt13x0hch

Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1, 206–215. https://doi.org/10.1038/s42256-019-0048-x

Singh, V. K.,& Gupta, R. (2025). From Taylorism to Algorithmic Management: How Technological Evolution Reshapes Foundational Management Principles.International Journal of Latest Technology in Engineering Management & Applied Science, 14(8), 1688–1695. https://doi.org/10.51583/IJLTEMAS.2025.1408000206

Törnberg, P., Söderström, O., Barella, J., Greyling, S., & Oldfield, S. (2025). Artificial intelligence and the state: Seeing like an artificial neural network. Big Data & Society, 12(2). https://doi.org/10.1177/20539517251338773     

Wachter, Sandra, Limitations and Loopholes in the EU AI Act and AI Liability Directives: What This Means for the European Union, the United States, and Beyond (July 01, 2024). Yale Journal of Law & Technology, Volume 26, Issue 3, Available at SSRN: https://ssrn.com/abstract=4924553 or http://dx.doi.org/10.2139/ssrn.4924553

Yampolskiy, R.V. (2024). AI: Unexplainable, Unpredictable, Uncontrollable (1st ed.). Chapman and Hall/CRC. https://doi.org/10.1201/9781003440260

Winner, L. (1980). Do artifacts have politics? Daedalus, 109(1), 121–136.

Μήτρου, Λ. (2023). Μπορεί ο αλγόριθμος. Αθήνα: Πανεπιστημιακές Εκδόσεις Κρήτης.

Πρεβεδούρου, Ε. (2024). Η ανθεκτικότητα των κλασικών διαδικαστικών εγγυήσεων: Αναβάθμιση του άρθρου 17 Κώδικα Διοικητικής Διαδικασίας (ΣτΕ 1206/2024). Prevedourou. https://www.prevedourou.gr/

Endnotes

1. Για να περιοριστούμε στην ελληνική περίπτωση ως παραδείγματα τέτοιων εφαρμογών που αφορούν επαναλαμβανόμενες και με περιορισμένο περιθώριο ανθρώπινης κρίσης εργασίες, θα μπορούσαν να αναφερθούν το Eθνικό Κτηματολόγιο όπου η  χειροκίνητη επεξεργασία εγγράφων αντικαταστάθηκε από την υιοθέτηση συστήματος ΤΝ που αυτοματοποιεί την ανάγνωση και αξιολόγηση συμβολαίων, μειώνοντας τον χρόνο εξέτασης από μερικές ώρες σε λιγότερο από δέκα λεπτά. Στον τομέα της  Πολιτικής Προστασίας ΤΝ αξιοποιείται για την έγκαιρη ανίχνευση πυρκαγιών και πρόληψη πλημμυρών. Στον τομέα της Δικαιοσύνης  η αξιοποίηση αλγορίθμων ανάλυσης φυσικής γλώσσας (NLP) συμβάλει στην ανάλυση νομικών εγγράφων, επιτρέποντας την αποτελεσματική αναζήτηση νομολογίας και νομοθεσίας, τη σύνοψη και ανωνυμοποίηση εγγράφων, την ταχύτερη  διαχείριση και οργάνωση των δικαστικών αρχείων, ενώ άλλες τρέχουσες πρωτοβουλίες ενσωματώνουν ΤΝ για μετατροπή ομιλίας σε κείμενο, και ψηφιακό βοηθό ΤΝ για την παροχή οδηγιών σε πολίτες και δικηγόρους σχετικά με τις ηλεκτρονικές και μη ηλεκτρονικές υπηρεσίες του Ελληνικού Συστήματος Δικαιοσύνης. (OECD, 2025). 

2. Ιδιαίτερα προβληματική καθίσταται η χρήση ΤΝ όταν αυτή υποβοηθά ή πολύ περισσότερο υποκαθιστά την ανθρώπινη κρίση σε  περιπτώσεις όπου εμπλέκεται οποιουδήποτε είδους  «αξιολόγηση» ατομικών χαρακτηριστικών και άσκηση  ευρείας διακριτικής ευχέρειας από τη διοίκηση, όπου σταθμίζονται διάφοροι παράγοντες για την προσαρμογή της διοίκησης  στις εκάστοτε πραγματικές συνθήκες  όπως π.χ η χρήση αλγορίθμων για την αυτόματη  έκδοση  απόφασης έγκρισης περιβαλλοντικών όρων (ΑΕΠΟ), η επιλογή προϊσταμένων στη δημόσια διοίκηση, η απονομή ασύλου ή η αναγνώριση καθεστώτος επικουρικής προστασίας, ή  η επιλογή των βέλτιστων όρων και περιορισμών δόμησης κατά τη διαμόρφωση των πολεοδομικών σχεδίων (Πρεβεδούρου, 2024). Σχετικό είναι και το ζήτημα της αξιολόγησης των δημοσίων υπαλλήλων βλ. https://www.tanea.gr/2025/05/19/greece/i-ai-saronei-to-dimosio-online/

3. Βλ. την περίπτωση της εσφαλμένης ένδειξης απάτης για λήψη  επιδομάτων από ευάλωτες ομάδες: στην Ολλανδία  https://www.politico.eu/article/dutch-scandal-serves-as-a-warning-for-europe-over-risks-of-using-algorithms/ καθώς και την περίπτωση του λογισμικού πρόβλεψης υποτροπής «COMPASS» της αμερικανικής δικαιοσύνης, το οποίο έδινε μεγαλύτερα ποσοστά “υψηλού κινδύνου” υποτροπής διάπραξης νέων αδικημάτων σε έγχρωμους κατηγορουμένους συγκριτικά με λευκούς, ακόμη κι όταν το προφίλ (προηγούμενα εγκλήματα, κοινωνικοοικονομικά δεδομένα, φύλο, ηλικία) ήταν παρόμοιο https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

4.    Στο παρόν άρθρο όταν γίνεται αναφορά σε αλγόριθμους έχουμε κυρίως κατά νου τους αλγόριθμους «βαθιάς μάθησης» (deep learning) που αποτελούν έναν πιο προηγμένο τύπο μηχανικής μάθησης που χρησιμοποιεί "νευρωνικά δίκτυα" με πολλαπλά στρώματα (layers) τα οποία επεξεργάζονται τα δεδομένα  σε  διαδοχικά επίπεδα αφαιρετικότητας. Αυτός ο τύπος ΤΝ φαίνεται να δημιουργεί και τις περισσότερες προκλήσεις και κινδύνους που θα μας απασχολήσουν εδώ εξαιτίας του φαινομένου του «μαύρου κουτιού» (black box).

5. Συναφές είναι και το ζήτημα της εκθετικής διασποράς ενός σφάλματος κατά την είσοδο δεδομένων στο σύστημα όταν οι αποφάσεις λαμβάνονται μέσω διαλειτουργικότητας αξιοποιώντας δεδομένα που προέρχονται από διαφορετικούς δημόσιους φορείς οπότε και  είναι πολύ δύσκολο να ανιχνευθεί το αρχικό σφάλμα.  

6. Βλ. την πρόσφατη περίπτωση της Diella, της «πρώτης ΑΙ Υπουργού» στην Αλβανία https://www.bbc.com/news/articles/cm2znzgwj3xo

7. Ο τομέας των δημοσίων συμβάσεων κρίνεται  ιδιαίτερα σημαντικός  λόγω της ιδιαιτερότητας της ΤΝ ως αντικείμενο δημόσιας προμήθειας εξαιτίας ζητημάτων  που σχετίζονται με την ιδιοκτησία των δεδομένων, τις προκαταλήψεις των αλγορίθμων και το εμπορικό απόρρητο οπότε και απαιτείται  ιδιαίτερη μέριμνα κατά τη σύνταξη των τεχνικών και λειτουργικών απαιτήσεων του έργου απο τη διοίκηση, ώστε να ενσωματώνονται όροι και προδιαγραφές που θα μπορούσαν  να αντιμετωπίσουν, να προλάβουν και να αποτρέψουν πιθανούς κινδύνους (π.χ δημιουργία και χρήση τυποποιημένων προτύπων προμήθειας (templates) για την διασφάλιση της συνέπειας, ενιαίας εφαρμογής και  εγκυρότητας προμήθειας συστημάτων ΤΝ, υποχρέωση δυνατότητας επεξήγησης των αποτελεσμάτων του συστήματος σε κάθε συγκεκριμένη περίπτωση ή απόδειξη συμμόρφωσης του υποψήφιου αναδόχου με την αρχή της αμεροληψίας των δεδομένων ως κριτήρια επιλεξιμότητας του έργου κλπ.). Για περισσότερα σχετικά με το ειδικότερο αυτό ζήτημα βλ. McBride et al, 2024 https://doi.org/10.4337/9781802207347.00013

8.  Πρόκειται για καταστάσεις που αφορούν στη μετακίνηση υψηλόβαθμων στελεχών από και προς τον δημόσιο και  ιδιωτικό τομέα, οπότε και  δημιουργείται ο κίνδυνος διαμόρφωσης δημόσιων πολιτικών όχι σύμφωνα με το δημόσιο συμφέρον αλλά το συμφέρον των ιδιωτικών εταιριών («αιχμαλωσία των δημόσιων πολιτικών» βλ. και άρθρα 68 επ. του ν.4622/2019.

9.  Φυσικοί υποψήφιοι για αυτή την αρμοδιότητα  θα μπορούσαν να είναι συνταγματικά κατοχυρωμένες ανεξάρτητες αρχές όπως ο  Συνήγορος  του Πολίτη

10.   Για περισσότερα σχετικά με το ζήτημα του “audit washing” και της σημασίας του εξωτερικού ελέγχου βλ. Hartman et al., 2024 ενώ  για τα κενά του AI ACT και ειδικά για το ζήτημα της υποβολής αξιολόγησης συμμόρφωσης (conformity assessment) από τον ίδιο τον πάροχο  χωρίς να απαιτείται εξωτερικός έλεγχος  βλ. Wachter, 2024