ΑΡΧΙΚΗ

Ένας αλγόριθμος του ολλανδικού κράτους κατέστρεψε οικονομικά χιλιάδες οικογένειες, οι οποίες κατηγορήθηκαν, άδικα, για απάτη στην περίπτωση των παιδικών επιδοτήσεων. Το σύστημα είχε εκπαιδευτεί με μεροληπτικά δεδομένα και λειτουργούσε χωρίς διαφάνεια ή ανθρώπινη επίβλεψη, για πάνω από 6 χρόνια. Το σκάνδαλο οδήγησε στην παραίτηση της κυβέρνησης και προβλημάτισε την Ευρώπη σχετικά με τους κινδύνους της τυφλής εμπιστοσύνης σε αλγόριθμους.

Η έρευνα της J. Buolamwini πάνω στα σύνολα δεδομένων που χρησιμοποιούνται για την αναγνώριση προσώπων ανέδειξε την μεροληψία των συστημάτων που εκπαιδευονται με αυτά. Ελέγχοντας την αποτελεσματικότητα τους στην αναγνώριση προσώπων, αποκάλυψε  την αδυναμία των συστημάτων να αναγνωρίσουν το μαύρο γυναικείο δέρμα. Για παράδειγμα, στην περίπτωση του συστήματος της Microsoft το ποσοστό σφάλματος έφτανε το 21 τοις εκατό, ενώ στο αντίστοιχο της IBM περίπου 35 τοις εκατό. Όμως όταν τα ίδια συστήματα καλούνταν να αναγνωρίσουν άνδρες με ανοιχτόχρωμο δέρμα, το ποσοστό σφάλματος έπεφτε κάτω από 1 τοις εκατό.

Ένας ευρέως χρησιμοποιούμενος αλγόριθμος υγείας, στις ΗΠΑ, προοριζόταν να εντοπίζει τους πιο άρρωστους ασθενείς. Όμως οι γιατροί και οι ασθενείς διαπίστωσαν πώς αυτός λειτουργούσε με σοβαρή φυλετική μεροληψία. Ο αλγόριθμος αντί να υπολογίζει με βάση την ασθένεια, υπολόγιζε με βάση το κόστος της περίθαλψης. Για μια σειρά από λόγους, βρέθηκε να προσφέρει σημαντικά λιγότερες υπηρεσίες σε αφροαμερικανούς ασθενείς, λόγω φυλετικών μοτίβων στα δεδομένα του. Έτσι, ο αλγόριθμος παρέβλεπε ασθενείς που χρειάζονταν βοήθεια, αναπαράγοντας και ενισχύοντας τις ήδη υπάρχουσες κοινωνικές ανισότητες.

Παρά τις τεράστιες επενδύσεις στην τεχνητή νοημοσύνη, η συντριπτική πλειονότητα των αλγορίθμων παραγωγικής ΤΝ (generative AI) αποτυγχάνει να αποδώσει μετρήσιμα αποτελέσματα. Το πρόβλημα δεν βρίσκεται στους αλγορίθμους, αλλά στις ελλείψεις λειτουργικής ωριμότητας: ασθενής διακυβέρνηση δεδομένων, ανεπαρκής παρακολούθηση μοντέλων, απουσία ηθικών μηχανισμών και περιορισμένη ενσωμάτωση στις πραγματικές ροές εργασίας. 

Η πλήρης αξιοποίηση της τεχνητής νοημοσύνης δεν εξαρτάται μόνο από την ίδια την τεχνολογία, αλλά από αυτό που ονομάζεται λειτουργική αριστεία (operational excellence). Καθοριστικοί παράγοντες είναι η ποιότητα των δεδομένων, η κατάλληλη υποδομή και η εξειδίκευση του ανθρώπινου δυναμικού. Φαίνεται ότι, στην πράξη, η ταχεία υιοθέτηση της ΤΝ δεν συνεπάγεται απαραίτητα την ωφέλιμη εφαρμογή της.

Η εργασία δύο επιστημόνων από το Harvard (A. Narayanan & S. Kapoor) υποστηρίζει πώς τα μεγάλα λόγια για την ΤΝ θολώνουν το τοπίο. Παρομοιάζουν την ανάπτυξη της ΤΝ με αυτές τους ηλεκτρισμού και της πυρηνικής ενέργειας, τονίζοντας την διάσταση του χρόνου: οι εξελίξεις θα έρθουν αργά με την απορρόφηση της καινοτομίας από την κοινωνία. Αντί να δημιουργούμε ουτοπίες ή δυστοπίες, πρέπει να δημιουργήσουμε τις νέες συνθήκες εισόδου των τεχνολογιών στην παραγωγή και την κοινωνία.

Η Google χρησιμοποιεί χιλιάδες ανθρώπους για να εκπαιδεύει και να βελτιώνει το σύστημα ΤΝ Gemini. Αυτοί οι εργαζόμενοι συνήθως εργάζονται με πολύ χαμηλές αμοιβές και χωρίς ασφάλιση. Εκτελούν επώδυνες εργασίες όπως, ο καθαρισμός του περιεχομένου που βλέπουμε στα μέσα κοινωνικής δικτύωσης, η επισήμανση δεδομένων και ο έλεγχος των απαντήσεων του AI, αποτελώντας τον «κρυφό πυλώνα» της βιομηχανίας. Η πρακτική αυτή αποκαλύπτει τη ανθρώπινη εργασία που κρύβεται πίσω από την ψηφιακή «μαγεία» της ΤΝ.

Η αλυσίδα καταστημάτων Amazon Go, υποσχόταν μια μοναδική εμπειρία για το καταναλωτικό κοινό. Χωρίς ταμίες, χωρίς σκαναρίσματα και κωδικούς οι πελάτες απλά “φεύγουν” από το κατάστημα. Ένα σύστημα ΤΝ, με την χρήση αισθητήρων, καμερών και αλγορίθμων οπτικής αναγνώρισης αντικειμένών,  καταγράφει τις κινήσεις των πελατών και τους χρεώνει αυτόματα για τις αγορές τους. 

Όμως πίσω από τις υποσχέσεις της εταιρείας η πραγματικότητα ήταν πολύ διαφορετική: 1000 εργαζόμενοι στην Ινδία επιτηρούσαν από τις κάμερες το βιντεοληπτικό υλικό, κάνοντας την δουλειά που πριν έκαναν οι ταμίες.

Αμερικάνικοι τεχνολογικοί κολοσσοί εξήγαγαν τεχνολογίες όπως αναγνώριση προσώπου, συστήματα προγνωστικής αστυνόμευσης και υποδομές cloud, οι οποίες υποστήριξαν, μεταξύ άλλων, το «Golden Shield» («Χρυσή Ασπίδα»), ένα πανεθνικό σύστημα επιτήρησης στην Κίνα. Επισήμως προωθήθηκε ως τεχνολογική πρόοδος με σκοπό τη δημόσια ασφάλεια. 

Στην πράξη, όμως, αξιοποιήθηκε για μαζική παρακολούθηση, έλεγχο και καταστολή απέναντι σε μέλη εθνικών μειονοτήτων, διαφωνούντες ή και γενικότερα απέναντι στους απλούς πολίτες, συχνά παραβιάζοντας την αρχή τις ιδιωτικότητας και άλλα ανθρώπινα δικαιώματα. Παρά τις αντιδράσεις και τις κυρώσεις που επιβλήθηκαν, οι εταιρείες συνέχισαν να παρέχουν ή να υποστηρίζουν τεχνολογίες για χρόνια, τροφοδοτώντας έναν αδιαφανή και αντιδημοκρατικό μηχανισμό ελέγχου.