>>οι δημοσιεύσεις μας

Abstract: Text-to-image (TTI) diffusion models have achieved remarkable visual quality, yet they have been repeatedly shown to exhibit social biases across sensitive attributes such as gender, race and age. To mitigate these biases, existing approaches frequently depend on curated prompt datasets - either manually constructed or generated with large language models (LLMs) - as part of their training and/or evaluation procedures. Beside the curation cost, this also risks overlooking unanticipated, less obvious prompts that trigger biased generation, even in models that have undergone debiasing. In this work, we introduce Bias-Guided Prompt Search (BGPS), a framework that automatically generates prompts that aim to maximize the presence of biases in the resulting images. BGPS comprises two components: (1) an LLM instructed to produce attribute-neutral prompts and (2) attribute classifiers acting on the TTI’s internal representations that steer the decoding process of the LLM toward regions of the prompt space that amplify the image attributes of interest. We conduct extensive experiments on Stable Diffusion 1.5 and a state-of-the-art debiased model and discover an array of subtle and previously undocumented biases that severely deteriorate fairness metrics. Crucially, the discovered prompts are interpretable, i.e they may be entered by a typical user, quantitatively improving the perplexity metric compared to a prominent hard prompt optimization counterpart. Our findings uncover TTI vulnerabilities, while BGPS expands the bias search space and can act as a new evaluation tool for bias mitigation.

Abstract: As machine learning models are increasingly deployed in high-stakes settings, e.g. as decision support systems in various societal sectors or in critical infrastructure, designers and auditors are facing the need to ensure that models satisfy a wider variety of requirements (e.g. compliance with regulations, fairness, computational constraints) beyond performance. Although most of them are the subject of ongoing studies, typical approaches face critical challenges: post-processing methods tend to compromise performance, which is often counteracted by fine-tuning or, worse, training from scratch, an often time-consuming or even unavailable strategy. This raises the following question: "Can we efficiently edit models to satisfy requirements, without sacrificing their utility?" In this work, we approach this with a unifying framework, in a data-driven manner, i.e. we learn to edit neural networks (NNs), where the editor is an NN itself - a graph metanetwork - and editing amounts to a single inference step. In particular, the metanetwork is trained on NN populations to minimise an objective consisting of two terms: the requirement to be enforced and the preservation of the NN's utility. We experiment with diverse tasks (the data minimisation principle, bias mitigation and weight pruning) improving the trade-offs between performance, requirement satisfaction and time efficiency compared to popular post-processing or re-training alternatives.

Abstract: The use of Generative AI (GenAI) in developing large brainwave foundation models for Brain-Computer Interfaces (BCIs) offers enormous potential but also comes with several key safety and ethical concerns. This work identifies these challenges and highlights cases of potential misuse of GenAI in BCIs, including synthetic neural activity, behaviour profiling, privacy and equality risks. Finally, it emphasizes the importance of essential safeguarding techniques to mitigate these risks, such as innovative technological solutions and proper regulatory and ethical frameworks.

Abstract: Over the past five years, innovative AI systems, including applications based on Generative AI and Large Language Models (LLMs), have emerged. Text, image, video, and symbol manipulation are now within the capabilities of AI. Generative AI is already present in contemporary newsrooms where the deployment of AI is relevant, as LLMs excel at text manipulation. Unlike the traditional top-down approach to introducing new technologies, this deployment involves a complex, multifaceted, and under-researched procedure. This paper draws from labour process theory, the social construction of technology (SCOT) paradigm, and literature on the quantitative shift in journalism and the introduction of algorithms into newswork, while situating the examination of Generative AI within the Greek media system. This research investigates the integration of Generative AI in newsrooms through semi-structured interviews with journalists. The goal is to capture insights into their experiences, challenges, and perceptions regarding the introduction of Generative AI in newswork. Findings indicate that Greek journalists, drawing from their experiences with the existing labour process and the economic dynamics of newsrooms, have significant concerns regarding Generative AI while simultaneously being sceptical of news organisations’ capabilities to integrate new technologies in a manner that respects journalists’ status.

Abstract: This paper explores the interplay between AI metrics and policymaking by examining the conceptual and methodological frameworks of global AI metrics and their alignment with National Artificial Intelligence Strategies (NAIS). Through topic modeling and qualitative content analysis, key thematic areas in NAIS are identified. The findings suggest a misalignment between the technical and economic focus of global AI metrics and the broader societal and ethical priorities emphasized in NAIS. This highlights the need to recalibrate AI evaluation frameworks to include ethical and other social considerations, aligning AI advancements with the United Nations Sustainable Development Goals (SDGs) for an inclusive, ethical, and sustainable future.

Abstract: In the face of what is called “Existential risks/threats” or “polycrisis” – where digitalization, biomedicalization, and environmental degradation intertwine as existential threats – this article argues for a critical philosophy of technology as a necessary framework for ethical engagement. To address this polycrisis, we elaborate on an approach that integrates ethics and technology through serious gaming. Specifically, we introduce Tethics, a board game designed to engage players in ethical reflection on technological governance. By embedding critical philosophical insights into interactive gameplay, Tethics fosters a dynamic, experiential understanding of ethical dilemmas. Drawing on Andrew Feenberg’s critical theory of technology, we outline how game design can serve as a method for both refining philosophical inquiry and fostering public engagement. We argue that serious games may offer a unique means of interrogating and reconfiguring our relationship with technology, or can successfully act as educational tools for the ethics of technology today. Finally, we argue that Tethics performs a philosophically therapeutic function, debunking the metaphysical underpinnings of an instrumentalist and determinist viewpoint that dominates the current understanding of technology.

Abstract: We recommend enabling inclusive urban transport planning through civic artificial intelligence. To achieve this policy recommendation, we propose the following: (1) Encourage and provide resources for experimentation with new technologies that enable local community participation in urban transport planning; (2) Recognize the potential of Artificial Intelligence (AI) to assist in complex urban transport planning decisions; (3) Acknowledge that AI is embedded in society, instead of treating it as a neutral technology; and (4) Foster community engagement in transport planning and evaluation, via a Civic AI framework that directly integrates preferences and feedback into planning.

Abstract: The prospect of the use of Large Language Models, like ChatGPT, in work environments raises important questions regarding both the potential for a dramatic change in the quality of jobs and the risk of unemployment. The answers to these questions, but, also, the posing of questions to be answered, may involve the use of ChatGPT. This, in turn, may give rise to a series of ethical considerations. The article seeks to identify such considerations by presenting a research on a questionnaire that was developed by means of ChatGPT before it was answered, first, by a group of humans (H) and, then, through the use of a machine (M), ChatGPT. The language model was actually used to respond to the questionnaire twice. First, based on its data (M1), and, second, based on it being asked to imitate a human (M2). Based on the significant differences between the H and M answers, and, further, on the noticeable differences occurring within the M answers (the differences between the M1 and M2 answers), the article concludes by registering a cluster of three ethical considerations.

Abstract. This article provides an intellectual history of artif icial intelligence in the
electronic era of computing, that is, from the postwar decades to the present. We
argue for the existence of two periods; a f irst period, def ined by the discourse of a
post-industrial society and an information age, and a second one, characterised
by the discourse of a fourth industrial revolution. Discourses of a post-industrial
society and a fourth industrial revolution are constitutively related to discourses
of computer automation, which, in turn, are def ined by artif icial intelligence.
This paper provides a canvas of an intellectual history of artif icial intelligence
in the electronic era through the examination of discourses of this period on
computer automation.

Περίληψη: Η ανάπτυξη και ραγδαία ενσωμάτωση των ψηφιακών τεχνολογιών στις καθημερινές δραστηριότητες συχνά συνοδεύεται από αφηγήματα για την επιδραστικότητα των αλγορίθμων στην κοινωνική πραγματικότητα. Τα τελευταία χρόνια πληθαίνουν οι προβληματισμοί για το μέλλον της αλγοριθμικής ρύθμισης του κοινωνικού, καθώς η επέκταση της χρήσης των αυτοματοποιημένων συστημάτων λήψης αποφάσεων στην εκπαίδευση, στην εργασία και στις θεσμικές διαδικασίες, έχει φέρει στο φως τις φυλετικές, έμφυλες και ταξικές προκαταλήψεις που εγγράφονται στον σχεδιασμό και στα δεδομένα των αλγορίθμων. Στο άρθρο αυτό, χαρτογραφείται ο σχετικός διάλογος στη δημόσια σφαίρα και εξετάζονται τα αλγοριθμικά φαντασιακά που χαρακτηρίζουν τα διαφορετικά πεδία του δημόσιου λόγου και της ακαδημαϊκής έρευνας, με σκοπό την ανασυγκρότηση του κριτικού λόγου που παράγεται για τους αλγορίθμους. Σε μια προσπάθεια υπέρβασης των αφηγημάτων της τεχνοφοβίας και της τεχνοφιλίας, το άρθρο τοποθετεί στο κέντρο της συζήτησης την επικοινωνία της επιστήμης και τον ρόλο που μπορεί να διαδραματίσει στην ανάπτυξη ενός διαλόγου για τον ψηφιακό μετασχηματισμό της κοινωνίας.

Abstract: Deep learning has catalysed progress in tasks such as face recognition and analysis, leading to a quick integration of technological solutions in multiple layers of our society. While such systems have proven to be accurate by standard evaluation metrics and benchmarks, a surge of work has recently exposed the demographic bias that such algorithms exhibit–highlighting that accuracy does not entail fairness. Clearly, deploying biased systems under real-world settings can have grave consequences for affected populations. Indeed, learning methods are prone to inheriting, or even amplifying the bias present in a training set, manifested by uneven representation across demographic groups. In facial datasets, this particularly relates to attributes such as skin tone, gender, and age. In this work, we address the problem of mitigating bias in facial datasets by data augmentation. We propose a multi-attribute framework that can successfully transfer complex, multi-scale facial patterns even if these belong to underrepresented groups in the training set. This is achieved by relaxing the rigid dependence on a single attribute label, and further introducing a tensor-based mixing structure that captures multiplicative interactions between attributes in a multilinear fashion. We evaluate our method with an extensive set of qualitative and quantitative experiments on several datasets, with rigorous comparisons to state-of-the-art methods. We find that the proposed framework can successfully mitigate dataset bias, as evinced by extensive evaluations on established diversity metrics, while significantly improving fairness metrics such as equality of opportunity.

Abstract: Deep learning-based methods have pushed the limits of the state-of-the-art in face analysis. However, despite their success, these models have raised concerns regarding their bias towards certain demographics. This bias is inflicted both by limited diversity across demographics in the training set, as well as the design of the algorithms. In this work, we investigate the demographic bias of deep learning models in face recognition, age estimation, gender recognition and kinship verification. To this end, we introduce the most comprehensive, large-scale dataset of facial images and videos to date. It consists of 40K still images and 44K sequences (14.5M video frames in total) captured in unconstrained, real-world conditions from 1,045 subjects. The data are manually annotated in terms of identity, exact age, gender and kinship. The performance of state-of-the-art models is scrutinized and demographic bias is exposed by conducting a series of experiments. Lastly, a method to debias network embeddings is introduced and tested on the proposed benchmarks.

Abstract: The article introduces the essentialist 1940s demarcation between a digital-superior and an analog-inferior computer as a key moment in severing the computing machine from the human worker labouring with it, and, accordingly, to keeping the history of computing technology and the history of computing labour apart. It starts with a section that further argues that the introduction of this key demarcation is strongly linked to the transition from the prewar use of the concept “computer”, which referred to a human worker, to its postwar use, which refers to a computing machine. The argument comes full circle by connecting the concealed analog to hidden female computing labour, a connection suggested by a revisiting of the paradigmatic display of the ENIAC as a digital machine. There follow two sections, one on the history of the female labour concealed by presenting the digital computer as superior and the other on the history of the male labour neglected by ignoring the analog computer as inferior.

Περιγραφή: Μπορεί μια σειρά επιστημονικής φαντασίας να ρίξει φως σε άγνωστες ή αφανείς πτυχές του τεχνοπολιτισμού του 21ου αιώνα; Πώς λειτουργεί στον θεατή η επαφή με μια ιστορία «εκτός πραγματικότητας», η οποία όμως ταυτόχρονα φαντάζει υπερβολικά «οικεία»; Στη δημοφιλή σειρά Black Mirror, η οποία άρχισε να προβάλλεται στη βρετανική τηλεόραση το 2011, η κεντρική ιδέα ήταν ότι μια (υποθετική) μετατόπιση στη χρήση ή τη λειτουργία των ψηφιακών εργαλείων που έχουμε στη διάθεσή μας σήμερα συντελεί στην ανάδειξη μιας νέας πραγματικότητας η οποία μπορεί να είναι ταυτόχρονα τόσο «μακριά» αλλά και τόσο «κοντά» ώστε να προκαλεί αναστάτωση στους θεατές, κρατώντας τους έτσι προσηλωμένους στους δέκτες τους και εκτεθειμένους σε μια ανοιχτή θεώρηση του παρόντος, του δικού τους παρόντος, της δικής τους ζωής.

Στον συλλογικό αυτό τόμο γράφουν πρόσωπα που προέρχονται από τον ακαδημαϊκό, καλλιτεχνικό και δημοσιογραφικό χώρο. Το κεντρικό ζητούμενο είναι να αναδειχθούν οι πολλαπλές πτυχές του φαινομένου της ψηφιακότητας και να καλλιεργηθεί ένας βαθύτερος προβληματισμός γύρω από το ερώτημα: Είμαστε πλέον έτοιμοι/έτοιμες να αναθεωρήσουμε (ή και να εγκαταλείψουμε) παγιωμένους ειδολογικούς προσδιορισμούς και ερμηνευτικά σχήματα που αφορούν τη σύγχρονη ζωή;

Όπως αναφέρεται άλλωστε και σε ένα από τα τρέιλερ του Black Mirror, το μέλλον «έχει διαρραγεί», το μέλλον «είναι τώρα» («the future is broken, the future is now»).

Περιγραφή: Ο όρος «αναδυόμενες τεχνολογίες» επιχειρεί να καταδείξει ότι η ιστορία της τεχνολογίας δεν συνιστά μία εξελικτική διαδικασία. Η επινόηση ενός νέου εργαλείου, τεχνικής ή μέσου θέτει μεν ως αρχικό στόχο την ικανοποίηση δεδομένων αναγκών και την επίλυση συγκεκριμένων προβλημάτων, ταυτόχρονα όμως φέρνει στην επιφάνεια νέα ερωτήματα, εγείρει νέου τύπου προκλήσεις. Οι τεχνολογίες είναι δυναμικές, εμπλέκονται αδιάκοπα σε ζυμώσεις, αναθεωρήσεις, αναπλαισιώσεις, τελούν με άλλα λόγια, υπό καθεστώς διαρκούς «γίγνεσθαι». Ο παρών συλλογικός τόμος εξετάζει από αυτό ακριβώς το πρίσμα τις λεγόμενες «ψηφιακές τεχνολογίες» και επιχειρεί μέσα από μία σειρά μελετών, να θέσει στο επίκεντρο του αναλυτικού ενδιαφέροντος τις δυναμικές τους μεταλλάξεις, τις δυνατότητες, αλλά και τους περιορισμούς που επέφερε η ένταξή τους στην καθημερινή μας ζωή, ειδικότερα τις τελευταίες δεκαετίες.

Κεντρικό μέλημα του παρόντος συλλογικού εγχειρήματος είναι να διερευνήσει πώς η ριζική αναθεώρηση των ψηφιακών μέσων επηρεάζει το πεδίο της πολιτισμικής κληρονομιάς. Με δεδομένο ότι και η πολιτισμική κληρονομιά, ως όρος, εγκολπώνει πολλαπλές δυναμικές, διαπραγματεύσεις, ρήξεις και αναπλαισιώσεις, πώς οφείλουμε να προσεγγίσουμε τη χρήση των ψηφιακών τεχνολογιών στη διαχείριση και ανάδειξή της; Πώς διευρύνονται οι νοηματοδοτήσεις της πολιτισμικής κληρονομιάς μετά τη λεγόμενη «ψηφιακή στροφή»; Πώς επηρεάζει η συνθήκη της ψηφιακότητας τις αντιλήψεις για θέματα που αφορούν τις συλλογές, την τέχνη, τα μουσεία, τα αρχεία, την άυλη πολιτιστική κληρονομιά, αλλά και νέες μορφές πολιτιστικής παραγωγής όπως τα ψηφιακά παιχνίδια; Πώς εντάσσονται στη συζήτηση περί πολιτισμού θέματα όπως η ιδιωτικότητα, η οικονομία της εμπειρίας, η έννοια της προσοχής και η ανάλυση του συναισθήματος; Ποια είναι τα νέα επαγγελματικά προφίλ που διαμορφώνονται στον χώρο του πολιτισμού και πώς εντάσσονται σε αυτά οι ψηφιακές δεξιότητες; Ποιες οι επιπτώσεις της «μεταψηφιακής συνθήκης», της οργανικής πλέον ένταξης του «ψηφιακού» στον χώρο του πολιτισμού; Τι διαστάσεις παίρνει αυτό το φαινόμενο, ειδικότερα την περίοδο της πανδημίας;

Ιστορία των τεχνολογιών υπολογισμού και αυτοματισμού στην ενέργεια και την επικοινωνία

Περιγραφή: Ο όρος ψηφιακό (digital), κομβικός στο τεχνικό λεξιλόγιο της εποχής μας, δεν υπήρχε πριν από τον Β΄ Παγκόσμιο Πόλεμο. Η ουσιοκρατική διάκριση των υπολογιστών σε αναλογικούς (analog) και μη αναλογικούς, ψηφιακούς, και η εγγενής σε αυτήν ιδεολογική υποτίμηση του αναλογικού υπολογιστή ως τεχνικά κατώτερου εισήχθησαν στο δεύτερο μισό της δεκαετίας του 1940. Το επιχείρημα του ανά χείρας βιβλίου είναι ότι το αναλογικό και το ψηφιακό είναι στην πραγματικότητα αδιαχώριστα στην κοινωνική διαδικασία παραγωγής υπολογισμών, με το αναλογικό να αντιστοιχεί στο μεταβλητό κεφάλαιο και το ψηφιακό στο σταθερό. Η ανάδειξη της σημασίας της παραγωγής υπολογιστικής αναλογίας, της αξίας δηλαδή της εργασίας για την παραγωγή μιας αναλογίας μεταξύ υπολογιστή (computer) και αυτού που υπολογίζονταν με βάση αυτόν, του υπολογιζόμενου (computable), είναι το κεντρικό θέμα του βιβλίου. Το βιβλίο περιλαμβάνει μια ιστορική και ιστοριογραφική επισκόπηση (Μέρος Ι), μια ιστορία της τεχνολογίας του εκτός γραμμής (offline) υπολογισμού στην ενέργεια (Μέρος ΙΙ) και μια εισαγωγή στην ιστορία του επιγραμμικού (online) υπολογισμού (δηλαδή του αυτοματισμού) στην επικοινωνία. 

Abstract: This paper is an attempt at a critical introduction to the pursuit of
constructing machines capable of artificial intelligence, thinking machines.
This has defined modernity, historical capitalism, through an endless
introduction and use of computing tools and mechanisms (merchant
capitalism) and computing machines (industrial capitalism), mechanical,
electrical, and, since the 1940s, also, electronic. It is popularly assumed
that presenting machines as capable of artificial intelligence is a rather
recent phenomenon. The examples offered here suggest that computing
artifacts were ideologized as intelligent from the beginning of capitalism.
Attention is invited to both offline and online computers, going back to
mechanical calculators and steam engine governors respectively. The case
of the steam engine governor, an online analog of the steam engine that
was connected to the circuit of the steam engine in a ‘negative feedback’
manner, is used to introduce to the limits of artificial intelligence, as these
are linked to the unprecedented environmental crisis that all creatures
of nature are now living with.
 

Περιγραφή: Το βιβλίο αυτό είναι ένας Αναγνώστης. Είναι, δηλαδή, μια συλλογή κειμένων που έχει στόχο να φέρει σε επαφή την αναγνώστρια ή τον αναγνώστη με ορισμένα από τα αντιπροσωπευτικότερα κείμενα που θεμελίωσαν το πεδίο των Ψηφιακών Σπουδών. Η επιλογή των κειμένων έχει στόχο, αφενός, να αποτυπώσει την ιστορική εξέλιξη που οδήγησε στην επικράτηση των ψηφιακών τεχνολογιών στο σύνολο των κοινωνικών δραστηριοτήτων και, αφετέρου, να αναδείξει τη διεπιστημονικότητα που χαρακτηρίζει τις Ψηφιακές Σπουδές από τη γένεσή τους. Η μετάβαση στην ψηφιακή συνθήκη έχει δύο όψεις. Η μία από αυτές, εκείνη που απασχολεί συχνότερα την έρευνα και την κριτική, αφορά τη διασταύρωση των ψηφιακών τεχνολογιών με τον πολιτισμό, την πολιτική και την κοινωνία. Ποιες είναι οι νέες δυνατότητες που αναδεικνύονται από αυτή τη διασταύρωση και πώς μπορούμε να επωφεληθούμε; Αλλά επίσης: Ποιοι κίνδυνοι ελλοχεύουν και πώς μπορούν η Φιλοσοφία, η Ηθική και το Δίκαιο να μας βοηθήσουν να τους αντιμετωπίσουμε; Με άλλα λόγια, ποια είναι η μορφή της κοινωνικής ρύθμισης που, για καλό ή για κακό, συνοδεύει την έλευση του ψηφιακού; Η άλλη όψη της μετάβασης στην ψηφιακότητα, όπως δείχνουν και πολλά από τα κείμενα αυτού του τόμου, συνδέεται με μια σειρά από πιο θεμελιώδη ερωτήματα. Από πολύ νωρίς, η ανάδυση του ψηφιακού συμπορεύτηκε με μια βαθιά αλλαγή των αντιλήψεων για τον άνθρωπο και τον κόσμο. Η ψηφιακότητα επερωτά τις θεμελιώδεις διακρίσεις της δυτικής νεωτερικότητας. Τι συνέπειες έχει η κατάλυση της διάκρισης ανάμεσα στα βιολογικά και τα μηχανικά συστήματα που επιχειρείται στο πλαίσιο του προγράμματος της Κυβερνητικής; Τι μορφή έχει η Ηθική που αναδύεται από την αλληλεπίδραση ανθρωπομηχανικών συναρμογών και ποιες είναι οι νέες μορφές κοινωνικότητας που υποστηρίζει; Πώς γνωρίζει και αναπαριστά τον κόσμο το εκ γενετής ψηφιακό μετανεωτερικό υποκείμενο; Με άλλα λόγια, ποιες είναι οι μεγάλες οντολογικές και γνωσιολογικές μετατοπίσεις που συνοδεύουν την έλευση του ψηφιακού;