Οι δοκιμές της τεχνολογίας επαλήθευσης ηλικίας δείχνουν τον κίνδυνο λαθών με σοβαρές συνέπειες.
Η επαλήθευση ηλικίας καταλαμβάνει όλο και περισσότερο χώρο στο διαδίκτυο. Από τις απαγορεύσεις στα social media στην Αυστραλία μέχρι τους περιορισμούς σε ιστοσελίδες πορνογραφικού περιεχομένου στις μισές Πολιτείες των ΗΠΑ, για πολλούς ανθρώπους η απόδειξη της ηλικίας τους για πρόσβαση σε ιστότοπους γίνεται καθημερινή απαίτηση. Όμως μία από τις βασικές τεχνολογίες που στηρίζουν αυτούς τους ελέγχους ηλικίας ετοιμάζεται να περάσει και στον φυσικό κόσμο, με πιθανές συνέπειες που μπορούν να αλλάξουν τη ζωή των ανθρώπων των οποίων η ηλικία θα προβλέπεται από την τεχνητή νοημοσύνη.
Από το επόμενο έτος, η βρετανική κυβέρνηση σχεδιάζει να εισαγάγει τη λεγόμενη facial age estimation, δηλαδή τεχνολογία όπου η AI σαρώνει το πρόσωπο και εκτιμά την ηλικία, για να βοηθά στον καθορισμό της ηλικίας αιτούντων άσυλο που φτάνουν στα σύνορα του Ηνωμένου Βασιλείου. Η κίνηση αυτή εκτιμάται ότι είναι η πρώτη φορά που σύστημα facial age estimation (FAE) χρησιμοποιείται με αυτόν τον τρόπο. Πολλοί αιτούντες άσυλο που φτάνουν στο Ηνωμένο Βασίλειο δεν διαθέτουν έγγραφα που να αποδεικνύουν την ηλικία τους και, αν παιδιά χαρακτηριστούν λανθασμένα ως ενήλικοι, μπορεί να χάσουν ορισμένες νομικές προστασίες και να τοποθετηθούν σε κέντρα κράτησης μόνο για ενήλικες.
Έρευνα των WIRED και Lighthouse Reports, σε συνεργασία με την Independent, εξασφάλισε εσωτερική έκθεση της βρετανικής κυβέρνησης που περιγράφει τις δοκιμές τεχνολογιών FAE. Η έκθεση δείχνει ότι τα συστήματα μπερδεύουν συχνά παιδιά με ενήλικες και φαίνεται να παρουσιάζουν σοβαρά προβλήματα μεροληψίας, τα οποία επηρεάζουν άμεσα τη μεγαλύτερη ομάδα μεταναστών που υπόκειται σε ελέγχους ηλικίας το 2025, σύμφωνα με στοιχεία του Home Office. Η έρευνα εγείρει ερωτήματα για την αποτελεσματικότητα της τεχνολογίας και για το αν πρέπει να χρησιμοποιηθεί σε τόσο κρίσιμες περιπτώσεις.
Τα ευρήματα έρχονται επίσης σε μια περίοδο κατά την οποία η δεύτερη κυβέρνηση Τραμπ και κυβερνήσεις σε όλο τον κόσμο υιοθετούν όλο και περισσότερο αντιμεταναστευτικές πολιτικές, ενώ δαπανούν δισεκατομμύρια για τεχνολογία επιτήρησης που συχνά χρησιμοποιείται εναντίον ευάλωτων ανθρώπων, οι οποίοι γνωρίζουν ελάχιστα για τη χρήση της, τον τρόπο λειτουργίας της ή πώς μπορούν να την αμφισβητήσουν.
Το εσωτερικό έγγραφο του Home Office που διέρρευσε και εξασφάλισε η Lighthouse Reports περιγράφει σε μεγάλο βαθμό τον «καλύτερο» από τους επτά αλγόριθμους facial age estimation που δοκίμασε η υπηρεσία πέρυσι, χωρίς όμως να κατονομάζει άμεσα τις εταιρείες πίσω από αυτούς. Η έκθεση διαπίστωσε ότι το σύστημα απέδιδε σημαντικά χειρότερα όταν εκτιμούσε την ηλικία ανθρώπων από την υποσαχάρια Αφρική σε σχέση με άλλες ομάδες. Οι υποσαχάριοι Αφρικανοί αποτελούν τη μεγαλύτερη ομάδα μεταναστών που φτάνουν στο Ηνωμένο Βασίλειο περνώντας τη Μάγχη με μικρές βάρκες τα τελευταία χρόνια και το 2025 είχαν περισσότερους ελέγχους ηλικίας από ομάδες άλλων περιοχών, σύμφωνα με στοιχεία του Home Office. Για τις γυναίκες από την υποσαχάρια Αφρική, η ηλικία που εκτιμούσε το σύστημα απείχε κατά μέσο όρο 4,6 χρόνια, πράγμα που σημαίνει ότι ένα κορίτσι 13,5 ετών θα μπορούσε να εκτιμηθεί ως ενήλικη 18 ετών.
Η έρευνα διαπίστωσε επίσης ότι το Home Office, που είναι αρμόδιο για τη μετανάστευση και την αστυνόμευση στο Ηνωμένο Βασίλειο, διέλυσε επιστημονική επιτροπή που είχε συσταθεί για να το συμβουλεύει σχετικά με ευρύτερες μεθόδους εκτίμησης ηλικίας, την ώρα που εξέταζε την εισαγωγή της AI. «Θέλαμε πολύ να αναδείξουμε τις αδυναμίες της facial age estimation, αλλά δεν μας δόθηκε αυτή η ευκαιρία και έπειτα η επιτροπή έκλεισε», λέει ο Tim Cole, ομότιμος καθηγητής ιατρικής στατιστικής στο Institute of Child Health του University College London και πρώην μέλος της επιτροπής. Ο Cole χαρακτηρίζει τις σαρώσεις προσώπου «φρικτά ανακριβείς».
Πέρα από την εσωτερική έκθεση και τις ανησυχίες των μελών της επιστημονικής επιτροπής, χρόνια αποτελεσμάτων δοκιμών από το αμερικανικό National Institute of Standards and Technology έχουν δείξει ότι η ακρίβεια των συστημάτων FAE συχνά εξαρτάται από τη φυλή του ατόμου που αναλύεται και από την ποιότητα των φωτογραφιών του.
«Έχουμε αυστηρές διαδικασίες για να επαληθεύουμε την ηλικία ενός ατόμου και εργαζόμαστε για να τις εκσυγχρονίσουμε μέσα από τη δοκιμή γρήγορης και αποτελεσματικής τεχνολογίας facial age estimation», αναφέρει εκπρόσωπος του Home Office σε απάντηση στα ευρήματα. Ο εκπρόσωπος προσθέτει ότι η επιτροπή διαλύθηκε επειδή απαιτούνταν «διαφορετικά πεδία εξειδίκευσης».
Αν και το Home Office λέει ότι η σάρωση προσώπου προορίζεται να είναι ένα «συμπληρωματικό» εργαλείο για τους συνοριοφύλακες και δεν θα «αντικαθιστά ή υπερισχύει της ανθρώπινης κρίσης», δεν απάντησε σε ερωτήσεις για το πώς σχεδιάζει να χρησιμοποιήσει την τεχνολογία σε πραγματικές συνθήκες. «Σε περιπτώσεις αβεβαιότητας», λέει ο εκπρόσωπος, «τα άτομα θα αντιμετωπίζονται πάντα ως παιδιά μέχρι να γίνει περαιτέρω αξιολόγηση».
Η βρετανική κυβέρνηση ανακοίνωσε για πρώτη φορά τον Ιούλιο του 2025 ότι σχεδιάζει να χρησιμοποιήσει τη σάρωση ηλικίας μέσω προσώπου μαζί με την κρίση των συνοριοφυλάκων για την αξιολόγηση μεταναστών. Από τότε, το Home Office μετέθεσε την εφαρμογή των συστημάτων για το 2027, λέγοντας ότι θα χρησιμοποιήσει την «αιχμής τεχνολογία AI» για να «πατάξει τις ψευδείς δηλώσεις», με στόχο να σταματήσει «ενηλίκους που προσπαθούν να ξεγελάσουν το σύστημα».
Τα τελευταία πέντε χρόνια, οι σαρώσεις προσώπου με AI έχουν αναδειχθεί σε βασικό στοιχείο αμφιλεγόμενων προγραμμάτων επαλήθευσης ηλικίας στο διαδίκτυο, καθώς οι νομοθέτες έχουν επιβάλει στις πλατφόρμες κοινωνικής δικτύωσης, στις ιστοσελίδες πορνογραφικού περιεχομένου και σε ορισμένους λιανοπωλητές να ελέγχουν την ηλικία των χρηστών τους. Η τεχνολογία έχει επίσης δοκιμαστεί σε ορισμένα μπαρ και καταστήματα στο Ηνωμένο Βασίλειο. Η facial age estimation λειτουργεί αναλύοντας τα χαρακτηριστικά του προσώπου κάποιου, με τα υποκείμενα συστήματα να έχουν εκπαιδευτεί σε εκατομμύρια πρόσωπα με ετικέτα ηλικίας, ώστε να παράγουν μια εκτιμώμενη ηλικία. Σε ελεγχόμενες εργαστηριακές δοκιμές, οι καλύτεροι αλγόριθμοι μπορούν να προβλέψουν την ηλικία ενός ατόμου με ακρίβεια περίπου 2,5 ετών.
Ωστόσο, τα αποτελέσματα μπορεί να διαφέρουν έντονα ανάλογα με τον αλγόριθμο, το φύλο, τα δημογραφικά στοιχεία και άλλους παράγοντες. Φωτογραφίες χαμηλής ποιότητας, όπως όσες έχουν κακό φωτισμό, μπορούν να μειώσουν δραστικά την απόδοση των συστημάτων. Σε μία χαρακτηριστική περίπτωση, άνθρωποι έχουν ξεγελάσει ορισμένα συστήματα χρησιμοποιώντας εικόνες χαρακτήρων από βιντεοπαιχνίδια. Το Home Office φαίνεται να γνώριζε τις πιθανές αδυναμίες της τεχνολογίας και παρ’ όλα αυτά προχώρησε στο πρόγραμμα.
Η διαρρευσμένη έκθεση του Home Office, που συντάχθηκε τον Απρίλιο του 2025 και ολοκληρώθηκε πριν η κυβέρνηση αγοράσει τεχνολογία σάρωσης προσώπου, περιγράφει τον έλεγχο επτά αλγορίθμων FAE σε περισσότερες από 2,5 εκατομμύρια εικόνες. Ωστόσο, στην εσωτερική έκθεση αναφέρεται ότι ο ανώνυμος «καλύτερος αλγόριθμος» εμφάνιζε «ουσιαστικές αποκλίσεις» όταν δοκιμαζόταν σε εικόνες ανθρώπων από την υποσαχάρια Αφρική. Κατά μέσο όρο, το σύστημα αυτό έτεινε επίσης να προβλέπει ότι ένα 17χρονο άτομο ήταν άνω των 18 και είχε χειρότερη επίδοση στις γυναίκες.
Κάθε χρόνο, δεκάδες χιλιάδες άνθρωποι υποβάλλουν αίτημα ασύλου στο Ηνωμένο Βασίλειο, με πολλούς να φτάνουν στη χώρα ύστερα από επικίνδυνα και σωματικά απαιτητικά ταξίδια με μικρές βάρκες που διασχίζουν τη Μάγχη. Σήμερα, οι συνοριοφύλακες που αμφιβάλλουν για την ηλικία κάποιου που ισχυρίζεται ότι είναι κάτω των 18 μπορούν να εκτιμήσουν τη φυσική του εμφάνιση, τις απαντήσεις του σε ερωτήσεις συνέντευξης και τη γενική του στάση, για να πάρουν μια αρχική απόφαση για την ηλικία του. Αυτές οι αρχικές εκτιμήσεις ηλικίας γίνονται κατά την «πρώτη επαφή», σύμφωνα με το Home Office σε σχετική οδηγία. Από το 2010, το 40% των ανθρώπων που έχουν περάσει από ελέγχους ηλικίας έχουν χαρακτηριστεί ως ενήλικοι, σύμφωνα με επίσημα στοιχεία.
Η διαρρευσμένη έκθεση του Home Office αναφέρει ότι τα ευρήματά της βασίζονται κυρίως σε δοκιμές με υψηλής ποιότητας εικόνες εγγεγραμμένων ατόμων και ότι αυτό μπορεί να σημαίνει πως τα ποσοστά ακρίβειας των αλγορίθμων θα ήταν ακόμη χειρότερα στην πράξη. Το Home Office έχει δείξει ότι η τεχνολογία FAE θα βοηθούσε τους υπαλλήλους μετανάστευσης που προχωρούν σε εκτιμήσεις ηλικίας στο σημείο της πρώτης επαφής.
Σύμφωνα με την εσωτερική έκθεση, οι λίγες φωτογραφίες που περιλαμβάνονταν στα δεδομένα δοκιμών και είχαν ληφθεί σε αρχικές επαφές ήταν «σταθερά χειρότερες» από τις μεταγενέστερες φωτογραφίες των ίδιων ανθρώπων. Η ποιότητα των φωτογραφιών ήταν, όπως φαίνεται, τόσο κακή ώστε η έκθεση δεν μπορούσε να καθορίσει αν αυτό ή η σωματική κατάσταση των αιτούντων άσυλο κατά την άφιξη είχε μεγαλύτερη επίδραση στα αποτελέσματα εκτίμησης ηλικίας των αλγορίθμων. Οι ίδιες οι δοκιμές του NIST έχουν δείξει ότι για πολλούς αλγόριθμους εκτίμησης ηλικίας οι φωτογραφίες χαμηλότερης ποιότητας οδηγούν συνήθως σε μεγαλύτερα λάθη. Η εσωτερική έκθεση κατέληγε ότι χρειάζεται να γίνει περισσότερη μελέτη για τις επιπτώσεις του στρες που υφίστανται οι αιτούντες άσυλο πριν φτάσουν στον προορισμό τους.
«Τα παιδιά που ζητούν άσυλο έχουν συχνά υποστεί αδιανόητο τραύμα», λέει η Martha Dark, συνδιευθύντρια της οργάνωσης δικαιωμάτων Foxglove. «Δεν πρέπει να γίνουν τα δοκιμαστικά υποκείμενα για μια πειραματική τεχνολογία που έχει ενσωματωμένη ανακρίβεια και ρατσιστική μεροληψία». Η Foxglove, μαζί με άλλες 61 οργανώσεις, έστειλε την Πέμπτη ανοικτή επιστολή προς τη βρετανική κυβέρνηση, ζητώντας από το Home Office να εγκαταλείψει τα σχέδιά του για χρήση του εργαλείου.
Δεν είναι σαφές αν το ελαττωματικό σύστημα που αναφέρεται στην έκθεση αγοράστηκε από τη βρετανική κυβέρνηση, ωστόσο τον Μάιο του τρέχοντος έτους δαπάνησε πάνω από 400.000 δολάρια για τεχνολογία σάρωσης προσώπου από τη γερμανική εταιρεία Cognitec. Η εταιρεία ήταν ένας από τους επτά αλγόριθμους που δοκιμάστηκαν, αλλά δεν είναι σαφές ποιος ακριβώς. Ανάλυση των WIRED και Lighthouse Reports σε δημόσια δεδομένα για τα συστήματα facial age estimation της Cognitec έδειξε ότι το σύστημα της εταιρείας κατέτασσε λανθασμένα ως 18 ή άνω τα διπλάσια 16χρονα άτομα όταν δοκιμάστηκε σε σύνολο δεδομένων με φωτογραφίες χαμηλότερης ποιότητας από σημεία διέλευσης συνόρων, σε σύγκριση με υψηλότερης ποιότητας φωτογραφίες για βίζα. Η Lighthouse Reports πραγματοποίησε πλήρη έλεγχο των δεδομένων από τις βαθμολογίες εκτίμησης προσώπου του NIST, που έδειξαν δημογραφικές διαφορές στην απόδοση, μεταξύ αυτών ότι 16χρονοι από τη Δυτική Αφρική ήταν πιο πιθανό να χαρακτηριστούν ως 18 ετών ή άνω από 16χρονους από την Ανατολική Ευρώπη.
Εκπρόσωπος της Cognitec λέει ότι δεν μπορεί να σχολιάσει το έργο της με το Home Office, επισημαίνει όμως ότι οι «δημογραφικές διαφορές» στην απόδοση αφορούν όλους τους αλγόριθμους σάρωσης προσώπου. «Οι λόγοι της μεροληψίας είναι εξαιρετικά πολύπλοκοι και συχνά σχετίζονται με ζητήματα ποιότητας εικόνας», λέει ο εκπρόσωπος.
«Η μεροληψία των αλγορίθμων της Cognitec είναι χαμηλή σε σύγκριση με άλλους αλγορίθμους παρόμοιας συνολικής ακρίβειας και σας διαβεβαιώνουμε ότι εργαζόμαστε με επιμέλεια και διαρκώς για τη μείωση της μεροληψίας, αναπτύσσοντας ειδικές μεθοδολογίες δοκιμών, σχεδιάζοντας loss functions στην εκπαίδευση του δικτύου μας και διαφοροποιώντας τα δεδομένα εκπαίδευσης και δοκιμών», λέει ο εκπρόσωπος.
Ακόμη κι αν η ακρίβεια μπορεί να βελτιωθεί, η τεχνολογία σπάνια λειτουργεί ακριβώς όπως την έχουν σχεδιάσει οι δημιουργοί της. Σφάλματα, τεχνικές αστοχίες και λάθη χρηστών σημαίνουν ότι τα συστήματα παράγουν συχνά λάθος αποτελέσματα. Όταν αυτά συνδέονται με ευαίσθητες αποφάσεις που μπορούν να αλλάξουν τη ζωή των ανθρώπων, οι κίνδυνοι γίνονται ακόμη μεγαλύτεροι.
Για χρόνια, σύμφωνα με παλαιότερες εκθέσεις του Independent Chief Inspector of Borders and Immigration του Ηνωμένου Βασιλείου, οι ανθρώπινες εκτιμήσεις ηλικίας από το Home Office περιλάμβαναν προβλήματα. Υπήρξαν περιπτώσεις «φτωχής» τήρησης αρχείων, «πρόχειρων» οπτικών αξιολογήσεων και, κατά καιρούς, έλλειψης εξήγησης από το προσωπικό των συνόρων για τις υπάρχουσες διαδικασίες. Το προσωπικό που διενεργούσε τους ελέγχους ηλικίας δεν είχε λάβει ειδική εκπαίδευση για το έργο αυτό μέχρι το 2023, σύμφωνα με την τελευταία έκθεση επιθεώρησης.
«Η λήψη αρχικών αποφάσεων για την ηλικία είναι δύσκολη και σύνθετη δουλειά, με τους υπαλλήλους μετανάστευσης να εργάζονται σε απαιτητικές συνθήκες και συχνά υπό πίεση να διεκπεραιώσουν γρήγορα πολλούς νέους αφιχθέντες», αναφέρει το Home Office σε πρόσφατα δημοσιευμένη καθοδήγηση για την πιθανή χρήση της τεχνητής νοημοσύνης facial age estimation. «Επιτρέπει στους υπαλλήλους μετανάστευσης να δοκιμάζουν την κρίση τους απέναντι στην εκτίμηση της τεχνολογίας».
Ωστόσο, στην εσωτερική έκθεση της περασμένης χρονιάς, το Home Office ανέφερε ότι ο τρόπος με τον οποίο θα χρησιμοποιούνταν η τεχνολογία σάρωσης προσώπου σε «λειτουργικό πλαίσιο» εξακολουθούσε να διερευνάται. Η έκθεση, την οποία η κυβέρνηση είχε προηγουμένως αρνηθεί να δημοσιοποιήσει σε αιτήματα πρόσβασης σε έγγραφα, επισημαίνει επίσης ότι οι δοκιμές έδειξαν πως η «προσωρινή γήρανση» που συνδέεται με το τραύμα και το «στρες του ταξιδιού» φαίνεται να επηρεάζει την ακρίβεια των συστημάτων facial age estimation, εγείροντας πρόσθετα ερωτήματα για τη χρήση της τεχνολογίας στη διαδικασία ασύλου.
Οι WIRED, Lighthouse Reports και η Independent ζήτησαν από το Home Office αναλυτικές απαντήσεις για το πώς θα αλληλεπιδρούν οι ήδη πιεσμένοι συνοριοφύλακες με τις εκτιμήσεις ηλικίας μέσω προσώπου, αν το προσωπικό θα λάβει ειδική εκπαίδευση που να αντιμετωπίζει τις αδυναμίες των συστημάτων και αν θα υπάρχουν συγκεκριμένα πρότυπα για το πού και πότε θα λαμβάνονται οι φωτογραφίες που θα χρησιμοποιούνται στο σύστημα. Ζήτησαν επίσης από το Home Office να διευκρινίσει αν θα λάβει μέτρα για την αντιμετώπιση αυτών των ζητημάτων.
