>>Τεχνητή Νοημοσύνη & Φύλο
Η τάση προς την αυτοματοποίηση διαμορφώνει ολοένα και περισσότερο κάθε πτυχή της σύγχρονης ζωής, με τα τεχνολογικά αντικείμενα και τις υποδομές να δομούν τις πράξεις, τις συμπεριφορές και τις αλληλεπιδράσεις μας. Η Τεχνητή Νοημοσύνη (ΤΝ), ειδικότερα, έχει αναδειχθεί σε κεντρική τεχνολογία, καθώς εμπλέκεται σε βάθος σε τομείς που εκτείνονται από την πρόσβαση στην υγειονομική περίθαλψη έως τις διαδικασίες προσλήψεων, τις ποινικές αποφάσεις και την καθημερινή επικοινωνία. Αντί να προσεγγίζεται η τεχνολογία μέσα από ένα ντετερμινιστικό πρίσμα —ως ουδέτερη, αυτόνομη και αποσυνδεδεμένη από κοινωνικά συμφέροντα— η πρόσφατη βιβλιογραφία αναδεικνύει ένα μοντέλο συμπαραγωγής: Η κοινωνία διαμορφώνει την τεχνολογία και, ταυτόχρονα, η τεχνολογία αναδιαμορφώνει την κοινωνία.
Το φύλο βρίσκεται σε μια αμοιβαία συγκροτητική σχέση με την τεχνολογία. Έμφυλες ιδεολογίες ενσωματώνονται στον σχεδιασμό, στην παραγωγή και τη χρήση των τεχνολογιών. Αυτή η διαδικασία ενισχύει πολιτισμικούς κανόνες, αξίες και προσδοκίες σχετικά με το φύλο. Ενδεικτικά, φεμινίστριες ερευνήτριες προειδοποιούν απέναντι σε αυτό που οι D’Ignazio και Klein (2020) εννοιολογούν ως «Big Dick Data» —έναν όρο που περιγράφει μεγαλόπνοα έργα, τα οποία βασίζονται σε Μεγάλα Δεδομένα και δομούνται πάνω σε ανδρικές φαντασιώσεις αντικειμενικότητας, κλίμακας και ελέγχου, ενώ αγνοούν το πλαίσιο, τον πολιτισμό και τη βιωμένη εμπειρία.
Οι έμφυλες προκαταλήψεις στις τεχνολογίες ΤΝ συνήθως αναδύονται σε τρία αλληλένδετα επίπεδα:
- Σχεδιασμός και Προγραμματισμός:
Προκαταλήψεις που εισάγονται μέσω ανθρώπινων αποφάσεων στο επίπεδο της διεπαφής ή της υλοποίησης. Περιλαμβάνουν επιλογές που διαμορφώνουν τον τρόπο με τον οποίο ένα σύστημα εμφανίζεται ή λειτουργεί στην επιφάνεια: για παράδειγμα, την επιλογή γυναικείας φωνής ως προεπιλογής για ψηφιακές βοηθούς, την ενσωμάτωση δυαδικών κατηγοριών φύλου σε έναν ταξινομητή ή την χρήση εφαρμογών που υπονοούν σιωπηρά έναν έμφυλο κανόνα. Πρόκειται για συνειδητές, ορατές προς τον χρήστη αποφάσεις σχεδιασμού. - Δεδομένα Εκπαίδευσης:
Προκαταλήψεις που αναπαράγονται από τα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση των μοντέλων. Για παράδειγμα, συστήματα αναγνώρισης ομιλίας που εκπαιδεύονται κυρίως σε ανδρικές φωνές, σύνολα εικόνων που απεικονίζουν κατά κύριο λόγο άνδρες σε τεχνικούς ρόλους ή εργαλεία μετάφρασης που αναπαράγουν έμφυλα στερεότυπα. Εδώ, το μοντέλο αντανακλά ανισορροπίες που ήδη υπάρχουν στα ιστορικά δεδομένα. - Αλγοριθμική Λογική:
Προκαταλήψεις που προκύπτουν από αποφάσεις μοντελοποίησης σε βαθύτερο υπολογιστικό επίπεδο. Αυτές σχετίζονται με τις μαθηματικές επιλογές του συστήματος —όπως οι αλγόριθμοι βελτιστοποίησης, οι μέθοδοι ομαδοποίησης ή τα συστήματα στάθμισης σφαλμάτων. Ακόμη και όταν το σύνολο δεδομένων παραμένει αμετάβλητο, τέτοιες επιλογές μπορούν να ενισχύσουν συστηματικά τις έμφυλες ανισότητες. Για παράδειγμα, ένα ακουστικό μοντέλο σε ένα σύστημα αναγνώρισης ομιλίας μπορεί να βελτιστοποιεί την ακρίβεια γύρω από το μεγαλύτερο στατιστικό σύμπλεγμα φωνών (συνήθως ανδρικών), οδηγώντας σε σταθερά υψηλότερα ποσοστά σφάλματος για τις γυναίκες. Τα αποτελέσματα αυτά δεν υποδηλώνουν αυτόνομη τεχνολογική δράση, αλλά αντιθέτως, αντανακλούν ανθρώπινες αποφάσεις που λαμβάνονται σε ένα αφηρημένο μαθηματικό επίπεδο, λιγότερο ορατό από τον σχεδιασμό της διεπαφής.
Οι προκαταλήψεις της ΤΝ δεν αποτελούν αβλαβή στιγμιαία τεχνικά σφάλματα, αλλά συστημικά λάθη (Broussard, 2024). Όταν μια έμφυλη προκατάληψη κωδικοποιείται στην τεχνολογία, αναπαράγεται επ’ αόριστον. Εμπειρικά παραδείγματα αναδεικνύουν το πρόβλημα. Οι προκαταλήψεις της ΤΝ εκδηλώνονται μέσω διαφορετικών αλλά αλληλένδετων μηχανισμών. Ορισμένες λειτουργούν στο επίπεδο της αναπαράστασης και του σχεδιασμού, ενώ άλλες αναδύονται μέσω διαδικασιών που βασίζονται σε δεδομένα και αλγορίθμους.
Σε επίπεδο αναπαράστασης, οι φωνητικές βοηθοί όπως οι Siri, Alexa, Cortana και Tao είναι σε συντριπτικό βαθμό «θηλυκοποιημένές» —τόσο ως προς το όνομα όσο και ως προς τη φωνή— αντανακλώντας μια μακρά ιστορία θηλυκοποιημένης συναισθηματικής εργασίας, από τις τηλεφωνήτριες της δεκαετίας του 1950 έως τη σύγχρονη εργασία παροχής υπηρεσιών. Αυτές οι επιλογές σχεδιασμού αναπαράγουν έμφυλες προσδοκίες σχετικά με τη φροντίδα, τη συμμόρφωση και τη συναισθηματική διαθεσιμότητα. Ωστόσο, παρά τη «γυναικεία» τους όψη, τα συστήματα αυτά συχνά αποτυγχάνουν να ανταποκριθούν επαρκώς σε ζητήματα που επηρεάζουν δυσανάλογα τις γυναίκες, όπως η ενδοοικογενειακή βία.
Σε επίπεδο δεδομένων και αλγορίθμων, η προκατάληψη ενσωματώνεται μέσω ιστορικών συνόλων δεδομένων και διαδικασιών μοντελοποίησης. Ο αλγόριθμος προσλήψεων της Amazon το 2018, για παράδειγμα, ευνοούσε συστηματικά άνδρες υποψηφίους, καθώς είχε εκπαιδευτεί σε βιογραφικά που αντανακλούσαν μια δεκαετία ανδροκρατούμενων πρακτικών προσλήψεων στον τεχνολογικό κλάδο.
Πέρα από αυτά τα τεχνικά και αναπαραστασιακά επίπεδα, η έμφυλη προκατάληψη στην ΤΝ ενισχύεται δομικά και μέσω της ανδρικής κυριαρχίας στην εργασία και την τεχνογνωσία που σχετίζονται με την ΤΝ. Η υπερεκπροσώπηση των ανδρών στην έρευνα, τη μηχανική και τις θέσεις λήψης αποφάσεων διαμορφώνει το ποια προβλήματα θεωρούνται προτεραιότητα, ποια δεδομένα συλλέγονται και πώς ορίζεται η «επιτυχία». Αυτή η θεσμική ανισορροπία επηρεάζει τόσο τον σχεδιασμό όσο και την αλγοριθμική προκατάληψη, επηρεάζοντας τα συστήματα ΤΝ πολύ πριν από την ανάπτυξή τους.
Τα emojis, τα οποία ρυθμίζονται από την Unicode Consortium, αποκαλύπτουν επίσης έμφυλες προκαταλήψεις (Pérez, 2019). Παρότι τα emojis δεν αποτελούν συστήματα ΤΝ, συνιστούν υποδομές εκπαίδευσης και αναπαράστασης για εφαρμογές ΤΝ, συμπεριλαμβανομένης της ανάλυσης συναισθήματος, της επεξεργασίας φυσικής γλώσσας και των μοντέλων μετατροπής κειμένου σε εικόνα. Οι έμφυλες αναπαραστάσεις των emojis συμβάλλουν, επομένως, στην αναπαραγωγή προκαταλήψεων εντός των συστημάτων επικοινωνίας που διαμεσολαβούνται από την ΤΝ.
Η αντιμετώπιση της έμφυλης προκατάληψης στην ΤΝ απαιτεί μια μετάβαση από την αντιδραστική διόρθωση στον προληπτικό ανασχεδιασμό. Αυτό περιλαμβάνει:
- Συμπεριληπτικές ομάδες σχεδιασμού που ενσωματώνουν ποικίλες κοινωνικές ταυτότητες και εμπειρίες, όχι ως συμβολική απάντηση στην ανδρική κυριαρχία, αλλά ως δομική παρέμβαση που διευρύνει τον τρόπο ορισμού των προβλημάτων, την επιλογή δεδομένων και τις προτεραιότητες σχεδιασμού σε όλη τη διαδικασία ανάπτυξης ΤΝ.
- Διαφάνεια αλγορίθμων και συνόλων δεδομένων σε συνδυασμό με συστηματικούς ελέγχους έμφυλης προκατάληψης, ώστε να εντοπίζονται και να μετριάζονται ανισορροπίες πριν από την ανάπτυξη των συστημάτων.
- Ανάπτυξη με επίγνωση του πλαισίου, ενσωματώνοντας πολιτισμική και έμφυλα ευαίσθητη ανάλυση σε όλες τις λειτουργίες της ΤΝ.
- Ρυθμιστικά και ηθικά πλαίσια που διασφαλίζουν λογοδοσία για διακριτικά αποτελέσματα που σχετίζονται με το φύλο.
Υποστηρίζουμε ότι η υπέρβαση της έμφυλης προκατάληψης στην ΤΝ προϋποθέτει μια μετάβαση από εκ των υστέρων διορθώσεις σε προληπτική ευθύνη. Αυτό συνεπάγεται συμπεριληπτικές και υπόλογες πρακτικές σχεδιασμού, κριτική ματιά απέναντι στα δεδομένα εκπαίδευσης και στις αλγοριθμικές επιλογές, καθώς και θεσμικές μεταρρυθμίσεις που αντιμετωπίζουν την έμφυλη οργάνωση της εργασίας στον τομέα της ΤΝ. Χωρίς τέτοιες συστημικές παρεμβάσεις, τα συστήματα ΤΝ κινδυνεύουν να αναπαράγουν και να ενισχύσουν τις ήδη υπάρχουσες ανισότητες.
ΒΙΒΛΙΟΓΡΑΦΙΑ
Broussard, M. (2024). More than a Glitch: Confronting Race, Gender, and Ability Bias in Tech. MIT Press.
Broussard, M. (2018). Artificial unintelligence: How computers misunderstand the world. MIT Press.
Browne, J., Cave, S., Drage, E., & McInerney, K. (2023). Feminist AI: Critical Perspectives on Algorithms, Data, and Intelligent Machines. Oxford University Press.
Manasi, A., Panchanadeswaran, S., Sours, E., & Lee, S. J. (2023). Mirroring the bias: gender and artificial intelligence. Gender, Technology and Development, 26(3), 295-305.
Pérez, C.C. (2019). Invisible Women: Data Bias in a World Designed for Men. Abrams Press.