ABOUT
Με λίγα λόγια
Το Κέντρο Visible Machines - AI Research & Social Awareness Center (Κέντρο Έρευνας και Κοινωνικής Ευαισθητοποίησης για την Τεχνητή Νοημοσύνη) είναι ένας ανεξάρτητος, μη-κερδοσκοπικός οργανισμός με έδρα την Αθήνα, που θα λειτουργήσει ως χώρος έρευνας, επικοινωνίας και παρέμβασης σε ζητήματα που αφορούν τη διαμόρφωση και χρήση της Τεχνητής Νοημοσύνης (ΤΝ) σήμερα, με γνώμονα τη δημοκρατία, την ισότητα και την κοινωνική δικαιοσύνη.
Ιδιαίτερη έμφαση δίνεται στη μελέτη και ανάλυση της σχέσης της ΤΝ με κρίσιμους τομείς της κοινωνικής ζωής, όπως η εργασία, τα δικαιώματα κάθε είδους, οι θεσμοί της δημοκρατίας, η ενημέρωση, η εκπαίδευση, το περιβάλλον, η τέχνη και ο πολιτισμός.
>>η προσέγγιση μας
H εξέλιξη της ΤΝ οδηγεί αδιαμφισβήτητα σε ριζικές αλλαγές σε σημαντικούς τομείς της κοινωνίας: από τα αυτόματα συστήματα λήψης αποφάσεων και τις ψηφιακές πλατφόρμες, μέχρι τα ευφυή διαλογικά συστήματα, οι εφαρμογές ΤΝ έχουν ήδη ανατρέψει την εικόνα που είχαμε για τα τεχνολογικά αντικείμενα των προηγούμενων βιομηχανικών επαναστάσεων.
Ταυτόχρονα όμως, η ταχύτητα με την οποία η ΤΝ εισέρχεται στη δημόσια σφαίρα έχει δημιουργήσει σημαντικά κενά: στην ανάλυση και κατανόησή της από το ευρύ κοινό, όσο και στο νομικό και ρυθμιστικό πλαίσιο που τη διέπει. Ακόμα, τα αφηγήματα που συνοδεύουν τις μηχανές στον δημόσιο διάλογο είναι αντιφατικά. Συχνά παρουσιάζονται ως δυνάμει πανίσχυρα όντα, τα οποία δημιουργούν υπαρξιακούς κινδύνους, απειλώντας τις θέσεις εργασίας μας ή ακόμα και την ίδια την ανθρωπότητα στο σύνολο της. Σε άλλες περιπτώσεις, οι ίδιες τεχνολογίες, εμφανίζονται ως αδιαμφισβήτη λύση για κοινωνικά ζητήματα.
Υπερβαίνουμε τις τεχνοφιλικές και τεχνοφοβικές αναγνώσεις.
Αναδεικνύουμε τις υλικές και κοινωνικές διαστάσεις της ΤΝ
Η ΠΡΟΣΕΓΓΙΣΗ ΜΑΣ
- Επιδιώκουμε να υπερβούμε τις τεχνοφιλικές και τεχνοφοβικές αναγνώσεις. Θεωρούμε αναγκαία την προσεκτική καταγραφή των κοινωνικών της επιπτώσεων, όχι απλώς ως άθροισμα μεμονωμένων ειδήσεων που εναλλάσσονται μεταξύ ουτοπικών και δυστοπικών αφηγήσεων της τεχνολογίας.
- Αναδεικνύουμε την ΤΝ ως κρίσιμη τεχνολογία λαμβάνοντας υπόψιν όλες τις υλικές και κοινωνικές διαστάσεις της. Συγκεκριμένα, δεν προσεγγίζουμε την ΤΝ μόνο από τον τρόπο χρήσης της. Για την δημιουργία και τη συντήρηση των τεχνολογιών συντονίζονται, πάνω σε ένα πολυσύνθετο δίκτυο, ανθρώπινοι και μη-ανθρώπινοι πόροι, τους οποίους και εξετάζουμε:
- Ανθρώπινη εργασία (από τους ερευνητές και του μηχανικούς υπολογιστών μέχρι τους επισημειωτές δεδομένων).
- Ενεργειακοί και περιβαλλοντικοί πόροι (π.χ. από την ενέργεια που χρειάζεται για την ψύξη των κέντρων δεδομένων, έως την εξόρυξη μεταλλευμάτων και σπάνιων γαιών που χρησιμοποιούνται σε σύνθετες υπολογιστικές διατάξεις όπως οι κάρτες γραφικών - GPUs).
- Η ΤΝ διαδραματίζει σημαντικό ρόλο στην συγκέντρωση και οργάνωση οικονομικών πόρων, με την μορφή επενδύσεων και χρηματοδοτήσεων τις οποίες χρησιμοποιεί ως “πρώτη ύλη”.
- Αναλύουμε τα φαινόμενα με διεπιστημονικό τρόπο, επιχειρώντας να συνεισφέρουμε στον κοινωνικό διάλογο και να γεφυρώσουμε τα κενά στην κατανόηση, την ανάλυση και τη διαμόρφωση πολιτικών/πρακτικών γύρω από την ΤΝ.
>>τι κάνουμε;
Το κέντρο Visible Machines θα λειτουργήσει ως μία ανοιχτή πλατφόρμα στην οποία θα μπορούν να συμμετέχουν και να παρεμβαίνουν επαγγελματίες, επιστήμονες, ακαδημαϊκοί και καλλιτέχνες. Για να επιτύχουμε τους στόχους μας δραστηριοποιούμαστε ως εξής:
Δημιουργία Κοινότητας εντός της οποίας θα δημιουργηθεί ένα πεδίο διαλόγου και διάχυσης ιδεών και θα μεταφέρεται γνώση και εμπειρία για τα κοινωνικοτεχνικά συστήματα της ΤΝ (sociotechnical systems).
Επικοινωνία της επιστήμης με πολύμορφες δράσεις όπως άρθρα ενημέρωσης, κείμενα γνώμης, σεμινάρια, workshops, οπτικοακουστικό υλικό (video, podcasts), εκδηλώσεις κτλ.
Έρευνα και παραγωγή νέας γνώσης. Κοινωνιολογικές μελέτες και Τεχνολογική έρευνα: Συλλογή και δημοσίευση δεδομένων και βιβλιογραφικού περιεχομένου, policy reports, επιστημονικές δημοσιεύσεις, ανάλυση μοντέλων μηχανικής μάθησης, π.χ. ερμηνευσιμότητα (interpretability), αξιοπιστία (trustworthiness), ανθεκτικότητα (robustness), μεροληψίες (biases), παραβίαση ιδιωτικότητας (privacy) ή πνευματικών δικαιωμάτων (copyright).
Διαμοιρασμός γνώσης και ανάπτυξη εργαλείων πάνω στα πεδία ενδιαφέροντος του κέντρου σε συνεργασία με άλλους φορείς, π.χ. έλεγχος συστημάτων ΤΝ (AI auditing).
Προτάσεις για χάραξη στρατηγικών (policy making) σύμφωνα με αναλύσεις των κοινωνικών επιπτώσεων/οφελών γύρω από τους τομείς ενδιαφέροντος στην Ελλάδα.
τομείς ενδιαφέροντος
Διαφάνεια & Λογοδοσία, Μεροληψίες. Ερμηνευσιμότητα, μεροληψίες (σε δεδομένα και αλγορίθμους), έλεγχος ΤΝ (συμμόρφωση με κανονισμούς, τροποποποίηση/προσαρμογή μοντέλων). Διαβάστε τις θέσεις μας εδώ.
Εργασία & Αυτοματοποίηση. Ψηφιακή εργασία, εντατικοποίηση της εργασίας, αυτοματοποίηση.
Δικαιώματα. Ιδιωτικότητα και επιτήρηση, πνευματικά δικαιώματα, διακρίσεις και άδικες αποφάσεις.
Νομοθεσία & Κανονισμοί. Ανάλυση, παρακολούθηση και συνεισφορά στη δημόσια συζήτηση σχετικά με νόμους και κανονιστικά πλαίσια (π.χ. EU AI Act), κώδικες δεοντολογίας, τεχνικές προδιαγραφές.
Περιβάλλον & Βιωσιμότητα. Ενέργεια, κέντρα δεδομένων & πόροι.
Υγεία & Ιατρική / Βιοϊατρική. ΤΝ για υποστήριξη ιατρικών αποφάσεων, διάγνωση, πρόβλεψη και θεραπεία, προστασία δεδομένων ασθενών και ηθικά ζητήματα
Εκπαίδευση. Ψηφιακές πλατφόρμες, ευφυή εκπαιδευτικά συστήματα, διδακτικά σεμινάρια/workshops.
Πολιτισμός, Τέχνες & Δημιουργικότητα. Πνευματικά δικαιώματα, πρωτοτυπία, αισθητική.
Έρευνα & Επιστήμη. Νέες μορφές επιστημονικής έρευνας, εργασίας, συγγραφής, επιμέλειας και αξιολόγησης.
Δημοσιογραφία & ΜΜΕ. Παραπληροφόρηση, ΤΝ στα κοινωνικά δίκτυα, ΤΝ για ερευνητική δημοσιογραφία/δημοσιογραφία δεδομένων.
Κράτος, Διακυβέρνηση & Δημόσια Διοίκηση: ΤΝ στον δημόσιο τομέα (π.χ. κοινωνικές υπηρεσίες, φορολογία, αξιολόγηση προσωπικού), διαφάνεια και λογοδοσία, δικαιώματα των πολιτών σε επεξήγηση και προσφυγή, διοικητική διακριτική ευχέρεια και ανθρώπινη εποπτεία. Διαβάστε τις θέσεις μας εδώ.
Δημόσια Εικόνα & Ιδεολογία. Ορολογία, απεικονίσεις, μύθοι vs πραγματικότητα για την ΤΝ, δημόσιες αντιλήψεις, υπαρξιακές και μακροπρόθεσμες ιδεολογίες σχετικά με την ανάπτυξη και την ασφάλεια της ΤΝ.
Ιστορία της ΤΝ. Εξέλιξη τεχνολογιών και συστημάτων ΤΝ, σχέση με προηγούμενες βιομηχανικές και τεχνολογικές επαναστάσεις.
Φιλοσοφία & Ηθική της ΤΝ. Ηθικές θεωρίες και αρχές στη χρήση ΤΝ, κοινωνικές, πολιτικές και υπαρξιακές προεκτάσεις
>>ποιοι είμαστε;
Το κέντρο Visible Machines δημιουργήθηκε από μέλη της ακαδημαϊκής κοινότητας, νομικούς και ερευνητές και ερευνήτριες που ασχολούνται με την ΤΝ. Η ιδέα αποτελεί ένα σύνθετο διεπιστημονικό εγχείρημα. Στα ιδρυτικά μας μέλη συγκαταλέγονται άτομα από διαφορετικά επιστημονικά πεδία όπως οι επιστήμες της μηχανικής, η επιστήμη των υπολογιστών, η νομική επιστήμη, η φιλοσοφία, η ιστορία, η αρχαιολογία και η κοινωνιολογία.
Αυτό που μας ώθησε στο κοινό εγχείρημα είναι η ανάγκη δημιουργίας ενός χώρου επικοινωνίας και διαλόγου μεταξύ των διαφορετικών καθεστώτων γνώσης που μετέχει καθένας και καθεμιά. Θεωρούμε αναγκαία την διεπιστημονική συνεργασία και το διάλογο προκειμένου οι επιστήμες της τεχνολογίας και οι θετικές επιστήμες να ενημερώνονται για τους τρόπους με τους οποίους οι τεχνολογίες επιδρούν στην κοινωνία. Από την άλλη θεωρούμε κρίσιμο οι ανθρωπιστικές και κοινωνικές επιστήμες να συνομιλούν με την τεχνολογική πραγματικότητα, εξετάζοντας τους ζωντανούς μετασχηματισμούς που εξελίσσονται με τα αντίστοιχα εργαλεία.
Στο τέλος αυτού του διεπιστημονικού εγχειρήματος το κέντρο φιλοδοξεί να συνεισφέρει στην ανάπτυξη του κοινωνικού αναστοχασμού και στην παραγωγή λόγου για την τεχνολογία στην Ελλάδα.