Βέλγιο – Η τεχνητή νοημοσύνη μπορεί να αναπαράγει φυλετικά στερεότυπα και να ενισχύει διακρίσεις, ακόμη και όταν οι απαντήσεις ή οι αποφάσεις της παρουσιάζονται ως ουδέτερες.
Πανεπιστημιακοί και στελέχη του βελγικού φορέα ισότητας Unia προειδοποιούν ότι το πρόβλημα δεν περιορίζεται σε προσβλητικό περιεχόμενο, αλλά αγγίζει κρίσιμους τομείς όπως η εργασία, η στέγαση και οι κοινωνικές παροχές.
Η δυσανάλογη σύνδεση των αφροαμερικανικών αγγλικών με αρνητικά στερεότυπα, τα περισσότερα σφάλματα ορισμένων συστημάτων αναγνώρισης προσώπου σε ανθρώπους διαφορετικού χρώματος δέρματος και οι αδικαιολόγητες συμβουλές ασφαλείας από βοηθούς AI όταν αναφέρεται ένα πρόσωπο αλγερινής ή λιβανέζικης καταγωγής είναι ενδεικτικά παραδείγματα του κινδύνου.
Η προκατάληψη βρίσκεται στα δεδομένα και στον σχεδιασμό
Ο Patrick Charlier, διευθυντής της Unia, ανεξάρτητου δημόσιου φορέα του Βελγίου για την καταπολέμηση των διακρίσεων, έχει δηλώσει ότι «η τεχνητή νοημοσύνη μπορεί να είναι ρατσιστική». Ο Hugues Bersini, καθηγητής πληροφορικής στο Université libre de Bruxelles (ULB), διατυπώνει μια ουσιώδη διάκριση: η AI δεν έχει συναισθήματα ή προθέσεις, συνεπώς δεν μπορεί να της αποδοθεί ανθρώπινη ρατσιστική στάση. Μπορεί όμως να αντανακλά τις προκαταλήψεις των ανθρώπων που δημιούργησαν τα δεδομένα και τους αλγορίθμους της.
Τα μοντέλα εκπαιδεύονται σε τεράστιες συλλογές πληροφοριών, συχνά από το διαδίκτυο, όπου δεν εκπροσωπούνται όλες οι κοινωνικές ομάδες με τον ίδιο τρόπο. Ο Bersini επισημαίνει ότι το διαδικτυακό περιεχόμενο έχει παραχθεί ιστορικά σε δυσανάλογο βαθμό από λευκούς άνδρες και, επομένως, οι οπτικές τους μπορεί να αποτυπώνονται εντονότερα στις απαντήσεις των συστημάτων.
Η Élise Degrave, καθηγήτρια ψηφιακού δικαίου στο Πανεπιστήμιο της Ναμούρ, αναγνωρίζει δύο βασικές πηγές μεροληψίας: τα δεδομένα εκπαίδευσης και τις επιλογές των προγραμματιστών. Ακόμη και κριτήρια που μοιάζουν ουδέτερα, όπως ένας ταχυδρομικός κώδικας ή ένα όνομα, μπορούν να λειτουργούν ως έμμεσοι δείκτες κοινωνικής θέσης ή εθνοτικής καταγωγής.
Όταν μια αυτοματοποιημένη απόφαση μοιάζει αδιαμφισβήτητη
Ένα παράδειγμα είναι η χρήση αλγορίθμου για τον εντοπισμό απάτης με ιδιαίτερη έμφαση σε μια φτωχή συνοικία. Μια τέτοια επιλογή μπορεί να οδηγήσει τους κατοίκους της σε περισσότερους ελέγχους από τους κατοίκους εύπορων περιοχών, χωρίς να σημαίνει ότι έχουν διαπράξει κάτι παράνομο.
Η Degrave προειδοποιεί ότι η αυτοματοποίηση προσδίδει στις διακρίσεις μια επίφαση επιστημονικής αντικειμενικότητας. Αποφάσεις που θα προκαλούσαν αντιδράσεις αν τις λάμβανε άνθρωπος μπορεί να γίνονται ευκολότερα αποδεκτές όταν εμφανίζονται ως αποτέλεσμα υπολογισμού. Η ίδια περιγράφει ως «αλγοριθμική παρενόχληση» τους επαναλαμβανόμενους ελέγχους συγκεκριμένων ομάδων χωρίς κατανοητή αιτιολόγηση.
Η αδιαφάνεια δυσκολεύει ακόμη περισσότερο τη διαπίστωση και την αμφισβήτηση μιας άδικης απόφασης. Η Nadine Brauns, η οποία ασχολείται με ζητήματα πολιτικής στην Unia, υπογραμμίζει ότι η διαφάνεια και η δυνατότητα εξήγησης του τρόπου λειτουργίας των συστημάτων αποτελούν ουσιώδεις προϋποθέσεις προστασίας.
Τι δείχνουν οι καταγγελίες στο Βέλγιο
Η Unia έχει δεχθεί μέχρι στιγμής σχετικά λίγες καταγγελίες που αναγνωρίζονται ρητά ως περιπτώσεις αλγοριθμικών διακρίσεων, αν και αρχίζουν να εμφανίζονται σχετικές αναφορές στον χώρο της απασχόλησης. Η Brauns αναμένει ότι οι υποθέσεις θα αυξηθούν με την εξάπλωση των αυτοματοποιημένων συστημάτων, καθώς μία εφαρμογή μπορεί να επηρεάζει εκατοντάδες ή χιλιάδες ανθρώπους ταυτόχρονα.
Το 2025 η Unia άνοιξε 757 φακέλους για φυλετικές διακρίσεις, αριθμό αυξημένο έπειτα από αρκετά χρόνια υποχώρησης. Πολλές υποθέσεις αφορούσαν την εργασία, ενώ καταγράφηκαν και ζητήματα ρητορικής μίσους, εγκλημάτων μίσους και διαδικτυακών μέσων. Ο αριθμός αφορά τις φυλετικές διακρίσεις συνολικά και δεν αποτελεί μέτρηση περιστατικών που σχετίζονται ειδικά με την AI.
Τι μπορεί να αλλάξει με τους ευρωπαϊκούς κανόνες
Η ευρωπαϊκή Πράξη για την Τεχνητή Νοημοσύνη (AI Act) θεσπίζει αυστηρότερες απαιτήσεις για ορισμένα συστήματα υψηλού κινδύνου, μεταξύ άλλων σε εφαρμογές που συνδέονται με την απασχόληση, την εκπαίδευση και τις δημόσιες υπηρεσίες. Ωστόσο, η Degrave τονίζει ότι διακρίσεις μπορούν να προκαλέσουν και συμβατικοί αλγόριθμοι που δεν εμπίπτουν στον ορισμό της τεχνητής νοημοσύνης του κανονισμού.
Η καθηγήτρια ζητεί προκαταρκτικούς ελέγχους μεροληψίας, ανεξάρτητους ελέγχους των συστημάτων και συμμετοχή νομικών, ειδικών δεοντολογίας, δημόσιων λειτουργών και της κοινωνίας των πολιτών στον σχεδιασμό τους. Η ευθύνη, άλλωστε, παραμένει ανθρώπινη: η AI δεν έχει νομική προσωπικότητα και όσοι τη δημιουργούν, την εφαρμόζουν ή βασίζονται στις αποφάσεις της οφείλουν να λογοδοτούν.
Ο Bersini επισημαίνει έναν πρόσθετο κίνδυνο: όσο αυξάνεται το περιεχόμενο που δημιουργείται από AI στο διαδίκτυο, νέα μοντέλα μπορεί να εκπαιδεύονται σε αυτό και να ανακυκλώνουν τις ίδιες προκαταλήψεις. Τα εργαλεία παραγωγής κειμένων και εικόνων μπορούν επίσης να χρησιμοποιηθούν σκόπιμα για ρατσιστικό περιεχόμενο, παραποιημένες εικόνες και πολιτική παραπληροφόρηση, ακόμη και για αντιμεταναστευτική προπαγάνδα.
