>> projects

Μάνος Πλίτσης & Γιώργος Μπουρίτσας

Αν κανείς ζητήσει από ένα σύστημα παραγωγής εικόνων Τεχνητής Νοημοσύνης (ΤΝ), όπως το Stable Diffusion ή το DALL·E, να απεικονίσει «γιατρό (doctor)», πιθανότατα θα δει την εικόνα ενός άνδρα. Αν ζητήσει «νοσοκόμo/α (nurse)», πιθανότατα θα δει μια γυναίκα. Τα μοντέλα ΤΝ, όπως και άλλα τεχνολογικά αντικείμενα, είναι γνωστό ότι κληρονομούν συνήθεις στερεοτυπικές αντιλήψεις από τους ανθρώπους που τα δημιουργούν (σχεδιαστές, προγραμματιστές, συλλέκτες δεδομένων, επισημειωτές δεδομένων κ.λπ.).

Ερευνητές επιστήμονες και ερευνητές δημοσιογράφοι καταγράφουν αυτά τα στερεότυπα εδώ και χρόνια, ασκώντας πίεση στην ακαδημαϊκή κοινότητα και τις εταιρείες ΤΝ να «απομακρύνουν τις μεροληψίες (de-bias)» από τα μοντέλα τους, είτε μέσω επανεκπαίδευσης είτε μέσω εσωτερικών διορθώσεων, ώστε να παράγουν πιο ισορροπημένα αποτελέσματα. Εδώ, όμως, έγκειται το πρόβλημα: αυτές οι διορθώσεις λειτουργούν κυρίως για τυπικά ερωτήματα που χρησιμοποιούν οι ερευνητές, π.χ. «a photo of a doctor (φωτογραφία ενός γιατρού)» ή «an engineer at work (μηχανικός στη δουλειά)», γενικές φράσεις που αντικατοπτρίζουν κοινωνικά στερεότυπα που ως επί το πλείστον γνωρίζουμε ήδη.

Τι γίνεται όταν πραγματικοί χρήστες πληκτρολογούν κάτι πιο περιγραφικό, όπως «a scientist with intense focus (επιστήμονας με έντονη συγκέντρωση)» ή «a doctor with compassionate eyes (ένας γιατρός με συμπονετικά μάτια)»;