Τετάρτη 22 Ιανουαρίου 2025

ΜΕ ΠΕΠΟΙΘΗΣΗ ΣΤΗΝ ΑΝΕΠΙΒΕΒΑΙΩΤΗ ΤΕΧΝΟΛΟΓΙΑ ΑΝΑΓΝΩΡΙΣΗΣ ΠΡΟΣΩΠΟΥ, ΜΕΡΙΚΕΣ ΦΟΡΕΣ ΟΙ ΕΡΕΥΝΗΤΕΣ ΠΑΡΑΛΕΙΠΟΥΝ ΒΗΜΑΤΑ.

ΣΥΝΕΛΗΦΘΗ ΑΠΟ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ: Η ΑΣΤΥΝΟΜΙΑ ΑΓΝΟΕΙ ΤΟΥΣ ΚΑΝΟΝΕΣ ΜΕΤΑ ΑΠΟ ΤΑΥΤΟΠΟΙΗΣΕΙΣ ΑΝΑΓΝΩΡΙΣΗΣ ΠΡΟΣΩΠΟΥ. ΤΟΥΛΑΧΙΣΤΟΝ ΟΚΤΩ ΑΜΕΡΙΚΑΝΟΙ ΕΧΟΥΝ ΣΥΛΛΗΦΘΕΙ ΑΔΙΚΑ!


(Εικονογράφηση: Lucy Naland/The Washington Post; Kaiti Sullivan για την Washington Post)

Γράφουν οι Ντάγκλας ΜακΜίλαν, Ντέιβιντ Οβάλε και Άαρον Σάφερ


PAGEDALE, Μιζούρι - Αφού δύο άνδρες επιτέθηκαν βάναυσα σε έναν φρουρό ασφαλείας σε μια έρημη πλατφόρμα τρένου στα περίχωρα του Σεντ Λούις, ο ντετέκτιβ της αστυνομίας διέλευσης της κομητείας Matthew Shute αγωνίστηκε να εντοπίσει τους ενόχους. 

Μελέτησε κοκκώδη βίντεο παρακολούθησης, έψαξε σε καταφύγια αστέγων και κάλεσε επανειλημμένα το θύμα της επίθεσης, το οποίο είπε ότι δεν θυμόταν σχεδόν τίποτα λόγω εγκεφαλικής βλάβης από τον ξυλοδαρμό.

Μήνες αργότερα, δοκίμασαν μια ακόμη επιλογή.

Ο Shute ανέβασε μια ακίνητη εικόνα από το θολό βίντεο του περιστατικού σε ένα πρόγραμμα αναγνώρισης προσώπου, το οποίο χρησιμοποιεί τεχνητή νοημοσύνη για να καθαρίσει τις φωτογραφίες εκατοντάδων χιλιάδων ανθρώπων που συνελήφθησαν στην περιοχή του Σεντ Λούις. 

Παρά την κακή ποιότητα της εικόνας, το λογισμικό έφτυσε τα ονόματα και τις φωτογραφίες αρκετών ανθρώπων που θεωρήθηκαν ότι μοιάζουν με έναν από τους επιτιθέμενους, του οποίου το πρόσωπο ήταν καλυμμένο με κουκούλα από ένα χειμωνιάτικο παλτό και εν μέρει καλυμμένο από χειρουργική μάσκα.


Αν και η πολιτική αναγνώρισης προσώπου της πόλης προειδοποιεί τους αξιωματικούς ότι τα αποτελέσματα της τεχνολογίας είναι «μη επιστημονικά» και «δεν πρέπει να χρησιμοποιούνται ως μοναδική βάση για οποιαδήποτε απόφαση», ο Shute προχώρησε στη δημιουργία μιας υπόθεσης εναντίον ενός από τα αποτελέσματα που παράγονται από την τεχνητή νοημοσύνη: Christopher Gatlin, ένας 29χρονος πατέρας τεσσάρων παιδιών που δεν είχε εμφανείς δεσμούς με τον τόπο του εγκλήματος ούτε ιστορικό βίαιων αδικημάτων. όπως θα αναγνώριζε αργότερα ο Shute.

Αφού συνελήφθη και φυλακίστηκε για ένα έγκλημα που λέει ότι δεν διέπραξε, ο Γκάτλιν θα χρειαζόταν περισσότερα από δύο χρόνια για να καθαρίσει το όνομά του.

Μια έρευνα της Washington Post σχετικά με τη χρήση λογισμικού αναγνώρισης προσώπου από την αστυνομία διαπίστωσε ότι οι υπηρεσίες επιβολής του νόμου σε ολόκληρη τη χώρα χρησιμοποιούν τα εργαλεία τεχνητής νοημοσύνης με τρόπο που δεν προορίζονταν ποτέ να χρησιμοποιηθούν: ως συντόμευση για την εύρεση και τη σύλληψη υπόπτων χωρίς άλλα αποδεικτικά στοιχεία.

Τα περισσότερα αστυνομικά τμήματα δεν υποχρεούνται να αναφέρουν ότι χρησιμοποιούν αναγνώριση προσώπου και λίγα τηρούν αρχεία για τη χρήση της τεχνολογίας. 

Η Post εξέτασε έγγραφα από 23 αστυνομικά τμήματα όπου υπάρχουν λεπτομερή αρχεία σχετικά με τη χρήση αναγνώρισης προσώπου και διαπίστωσε ότι 15 τμήματα που εκτείνονται σε 12 πολιτείες συνέλαβαν υπόπτους που αναγνωρίστηκαν μέσω αγώνων AI χωρίς ανεξάρτητα στοιχεία που να τους συνδέουν με το έγκλημα - στις περισσότερες περιπτώσεις έρχονται σε αντίθεση με τις δικές τους εσωτερικές πολιτικές που απαιτούν από τους αξιωματικούς να επιβεβαιώνουν όλα τα στοιχεία που βρέθηκαν μέσω AI.




Επεισόδιο podcast

Συνελήφθη από Τ.Ν.

Έχοντας εμπιστοσύνη στα αποτελέσματα που παράγονται από την τεχνητή νοημοσύνη, ορισμένα αστυνομικά τμήματα χρησιμοποιούν τεχνολογία αναγνώρισης προσώπου για να βοηθήσουν στην επίλυση εγκλημάτων. Αλλά πόσο αξιόπιστο είναι αυτό το λογισμικό;


Ορισμένοι αξιωματικοί επιβολής του νόμου που χρησιμοποιούν την τεχνολογία φαίνεται να εγκαταλείπουν τα παραδοσιακά πρότυπα αστυνόμευσης και να αντιμετωπίζουν τις προτάσεις λογισμικού ως γεγονότα, διαπίστωσε η Post. Μια έκθεση της αστυνομίας ανέφερε ένα μη επιβεβαιωμένο αποτέλεσμα AI ως «100% αντιστοιχία». Ένας άλλος είπε ότι η αστυνομία χρησιμοποίησε το λογισμικό για να εντοπίσει «αμέσως και αναμφισβήτητα» έναν ύποπτο κλέφτη.

Ο Γκάτλιν είναι ένας από τους τουλάχιστον οκτώ ανθρώπους που συνελήφθησαν άδικα στις Ηνωμένες Πολιτείες αφού αναγνωρίστηκαν μέσω αναγνώρισης προσώπου. Έξι περιπτώσεις αναφέρθηκαν προηγουμένως σε μέσα ενημέρωσης. Δύο άδικες συλλήψεις - ο Γκάτλιν και ο Τζέισον Βερνάου, κάτοικος του Μαϊάμι - δεν έχουν αναφερθεί προηγουμένως.

Όλες οι υποθέσεις τελικά απορρίφθηκαν. Η αστυνομία πιθανότατα θα μπορούσε να είχε εξαλείψει τους περισσότερους από τους ανθρώπους ως υπόπτους πριν από τη σύλληψή τους μέσω βασικών αστυνομικών εργασιών, όπως ο έλεγχος των άλλοθι, η σύγκριση τατουάζ ή, σε μία περίπτωση, μετά από στοιχεία DNA και δακτυλικών αποτυπωμάτων που αφέθηκαν στη σκηνή.

Τι πήγε στραβά

Σε οκτώ γνωστές περιπτώσεις παράνομων συλλήψεων που αφορούσαν αναγνώριση προσώπου, η αστυνομία απέτυχε να λάβει ένα ή περισσότερα βασικά ερευνητικά βήματα.

Σε 6 περιπτώσεις:

Η αστυνομία απέτυχε να ελέγξει τα άλλοθι

Ο Quran Reid συνελήφθη ως ύποπτος για φερόμενη κλοπή πορτοφολιών από ένα κατάστημα της Λουιζιάνα, παρόλο που είπε επανειλημμένα στους αστυνομικούς που τον συνέλαβαν στη γενέτειρά του, την Ατλάντα, ότι δεν είχε πάει ποτέ στην πολιτεία. Οι ερευνητές δεν αναζήτησαν ποτέ αποδείξεις ότι εργαζόταν στη Γεωργία την ημέρα που διαπράχθηκε το έγκλημα.



(John Bazemore/AP)

Σε 2 περιπτώσεις:

Η αστυνομία αγνόησε στοιχεία που έρχονταν σε αντίθεση με τη θεωρία τους

Η αστυνομία στο Γούντμπριτζ του Νιου Τζέρσεϊ ήταν τόσο αποφασισμένη να χτίσει μια υπόθεση εναντίον του Nijeer Parks, ενός υπόπτου ληστείας, που πέταξε στην άκρη τα στοιχεία DNA και δακτυλικών αποτυπωμάτων που έδειχναν έναν άλλο πιθανό ύποπτο.


(Δικαστικά αρχεία)

Σε 5 περιπτώσεις:

Η αστυνομία απέτυχε να συλλέξει βασικά αποδεικτικά στοιχεία

Ο Jason Vernau πέρασε τρεις ημέρες πίσω από τα κάγκελα αφού κατηγορήθηκε ότι εξαργύρωσε μια δόλια επιταγή 36.000 δολαρίων σε τράπεζα του Μαϊάμι. Η αστυνομία βασίστηκε σε μια εικόνα του λάθος ατόμου και απέτυχε να ελέγξει τους τραπεζικούς λογαριασμούς του Vernau, δήλωσε ο συνήγορος υπεράσπισής του.



(Εισαγγελία)

Σε 3 περιπτώσεις:

Η αστυνομία αγνόησε τα φυσικά χαρακτηριστικά των υπόπτων

Η Porcha Woodruff ήταν επτά μηνών έγκυος τη στιγμή της κλοπής του αυτοκινήτου Η αστυνομία του Ντιτρόιτ την κατηγόρησε ότι διέπραξε. Συνελήφθη παρόλο που τίποτα στις εικόνες παρακολούθησης ή στις καταθέσεις αυτοπτών μαρτύρων δεν έδειχνε την εμπλοκή μιας εγκύου γυναίκας.



(Δικαστικά αρχεία)

Σε 6 περιπτώσεις:

Η αστυνομία βασίστηκε σε προβληματικές καταθέσεις μαρτύρων

Αφού η αστυνομία του Ντιτρόιτ χρησιμοποίησε αναγνώριση προσώπου για να αναγνωρίσει τον Robert Williams ως ύποπτο για κλοπή ρολογιών σε ένα πολυτελές κατάστημα, η ταυτότητά του επιβεβαιώθηκε από ένα άτομο ασφαλείας που δεν ήταν παρόν στο έγκλημα.

(Δικαστικά αρχεία)

Αυτά τα παραδείγματα αμφισβητήσιμης αστυνομικής εργασίας - που σταχυολογούνται μέσω της ανάλυσης της The Post για σπάνια εσωτερικά αρχεία λογισμικού, αναφορές συλλήψεων, δικαστικά αρχεία και συνεντεύξεις με την αστυνομία, τους εισαγγελείς και τους δικηγόρους υπεράσπισης - είναι πιθανώς ένα μικρό δείγμα του προβλήματος. 

Ο συνολικός αριθμός των ψευδών συλλήψεων που τροφοδοτούνται από αγώνες AI είναι αδύνατο να γνωρίζουμε, επειδή η αστυνομία και οι εισαγγελείς σπάνια ενημερώνουν το κοινό πότε έχουν χρησιμοποιήσει αυτά τα εργαλεία και, σε όλες εκτός από επτά πολιτείες, κανένας νόμος δεν απαιτεί ρητά την αποκάλυψή τους.

Εκατοντάδες αστυνομικά τμήματα στο Μίσιγκαν και τη Φλόριντα έχουν τη δυνατότητα να εκτελούν εικόνες μέσω προγραμμάτων αναγνώρισης προσώπου σε όλη την πολιτεία, αλλά ο αριθμός που το κάνει είναι άγνωστος. 

Ένας κορυφαίος κατασκευαστής λογισμικού αναγνώρισης προσώπου, η Clearview AI, δήλωσε σε μια παρουσίαση προς πιθανούς επενδυτές ότι 3.100 αστυνομικά τμήματα χρησιμοποιούν τα εργαλεία της - περισσότερο από το ένα έκτο όλων των υπηρεσιών επιβολής του νόμου των ΗΠΑ. Η εταιρεία δεν αναγνωρίζει δημοσίως τους περισσότερους πελάτες της.

Μέσω της εξέτασης των κυβερνητικών συμβάσεων, των αναφορών των μέσων ενημέρωσης και των αιτημάτων δημόσιων αρχείων, η The Post εντόπισε 75 τμήματα που χρησιμοποιούν αναγνώριση προσώπου, 40 από τα οποία μοιράστηκαν αρχεία για περιπτώσεις στις οποίες οδήγησε σε συλλήψεις. 

Από αυτούς, οι 17 απέτυχαν να παράσχουν αρκετές λεπτομέρειες για να διακρίνουν εάν οι αξιωματικοί προσπάθησαν να επιβεβαιώσουν τους αγώνες AI. Μεταξύ των υπόλοιπων 23 υπηρεσιών, η The Post διαπίστωσε ότι σχεδόν τα δύο τρίτα είχαν συλλάβει υπόπτους που εντοπίστηκαν μέσω αγώνων AI χωρίς ανεξάρτητα στοιχεία.

Τα περισσότερα τμήματα αρνήθηκαν να απαντήσουν σε ερωτήσεις σχετικά με τη χρήση της τεχνητής νοημοσύνης. Ορισμένοι αρνήθηκαν ότι οι αστυνομικοί συνέλαβαν ανθρώπους μόνο με βάση την τεχνητή νοημοσύνη, αλλά αρνήθηκαν να παράσχουν λεπτομέρειες ή έγγραφα για να υποστηρίξουν αυτούς τους ισχυρισμούς.

Άλλοι είπαν ότι οι αξιωματικοί μπορούν να προσδιορίσουν εάν το άτομο που βλέπουν σε δύο ή περισσότερες φωτογραφίες είναι το ίδιο. Στη Φλόρενς του Κεντάκι, σύμφωνα με έγγραφα, η αστυνομία συνέλαβε άτομα που αναγνωρίστηκαν με αναγνώριση προσώπου χωρίς ανεξάρτητη επιβεβαίωση σε τέσσερις περιπτώσεις. Ένας ομολόγησε την ενοχή του για κλοπή. Οι άλλες τρεις υποθέσεις εξακολουθούν να εκκρεμούν.

Ο τοπικός εισαγγελέας, Louis Kelly, δήλωσε ότι εμπιστεύεται τους αξιωματικούς να χρησιμοποιήσουν την κρίση τους για τον εντοπισμό υπόπτων, συμπεριλαμβανομένων εκείνων που βρέθηκαν με AI.

«Πρέπει να επιτρέψουμε στους αξιωματικούς να χρησιμοποιούν την κοινή λογική και τις διαθέσιμες μεθόδους», δήλωσε ο Kelly σε ένα email.


Ο Christopher Gatlin συνελήφθη και φυλακίστηκε για ένα έγκλημα που λέει ότι δεν διέπραξε και θα χρειαστούν περισσότερα από δύο χρόνια για να καθαρίσει το όνομά του. (Kaiti Sullivan για την Washington Post)

Μια νέα αίσθηση επείγοντος

Στις 9 Αυγούστου 2021, οκτώ μήνες μετά την επίθεση στον σιδηροδρομικό σταθμό Pagedale, τρεις ένστολοι αστυνομικοί εμφανίστηκαν στο λόμπι της πολυκατοικίας του τραυματισμένου φρουρού ασφαλείας, Michael Feldman, με μια νέα αίσθηση επείγοντος για την επίλυση της υπόθεσης.

Οι αστυνομικοί έφεραν μαζί τους μια σειρά φωτογραφιών με εικόνες έξι ανδρών, συμπεριλαμβανομένου του Γκάτλιν. Ο Feldman τους είπε ότι θυμόταν ακόμα πολύ λίγα γι 'αυτό λόγω της εγκεφαλικής βλάβης που υπέστη.

«Ένιωθα σαν να ήμουν στριμωγμένος σε αυτή την κατάσταση στην οποία δεν ήθελα να βρίσκομαι», δήλωσε ο 62χρονος Feldman σε πρόσφατη συνέντευξή του. «Ένιωσα σαν να μην θυμόμουν πώς έμοιαζε».

2:28
Πλάνα από κάμερα σώματος της αστυνομίας δείχνουν ντετέκτιβ της αστυνομίας του Σεντ Λούις να ανακρίνουν τον τραυματισμένο φρουρό ασφαλείας, Μάικλ Φέλντμαν, στις 9 Αυγούστου 2021. (Η Washington Post)

Ακολουθώντας τις οδηγίες του αξιωματικού, ο Feldman εξέτασε κάθε φωτογραφία και στη συνέχεια, μία προς μία, τις πέταξε σε ένα σωρό, σύμφωνα με πλάνα από κάμερες σώματος που περιλαμβάνονται σε δικαστική κατάθεση.

Ο Feldman περιόρισε την ομάδα των φωτογραφιών σε δύο - τον Gatlin και έναν άλλο άνδρα, ο οποίος ήταν επίσης μαύρος, αλλά είχε μια σημαντικά ελαφρύτερη επιδερμίδα, σύμφωνα με μια πρόταση που κατέθεσε ο δικηγόρος του Gatlin. Τοποθέτησε τη φωτογραφία του Γκάτλιν στο σωρό των απορρίψεων ενώ κινούνταν προς τον άλλο άνδρα. «Θέλω να πω ότι είναι αυτός», είπε, δείχνοντας τον άλλο άνδρα. Οι ντετέκτιβ δεν δέχτηκαν αμέσως την ταυτοποίηση και λίγα λεπτά αργότερα, ο Feldman έφερε πίσω τη φωτογραφία του Gatlin, λέγοντας ότι δεν ήταν σίγουρος ποια από αυτές θα μπορούσε να ήταν.

"Σκεφτείτε τα χαρακτηριστικά του τύπου, την επιδερμίδα του. Είχε κάτι στα μαλλιά του ή στα ρούχα που φορούσε;» ρώτησε ο ντετέκτιβ της αστυνομίας του Σεντ Λούις, Μάθιου Γουέλ. Όταν ο Feldman είπε ότι σκέφτηκε ότι ο άνδρας μπορεί να φορούσε καπέλο ή καπέλο, ο Welle τον ενθάρρυνε να βάλει τα χέρια του στις φωτογραφίες για να τον βοηθήσει να «φανταστεί αυτούς τους δύο τύπους να φορούν ένα καπέλο κάλτσας».

Ο Φέλντμαν τότε διάλεξε τον Γκάτλιν και κοίταξε τον αξιωματικό με προσδοκία.

"Εντάξει!" Ο Welle είπε, κατευθύνοντας τον Feldman να κυκλώσει τη φωτογραφία του Gatlin και να υπογράψει το όνομά του, αγνοώντας το προηγούμενο σχόλιό του για τον άλλο άνδρα.

Η δήλωση του Feldman ήταν το μόνο αποδεικτικό στοιχείο που είχε η αστυνομία όταν υπέβαλε καταγγελία εναντίον του Gatlin έξι ημέρες αργότερα, δείχνοντας πώς η εμπιστοσύνη της αστυνομίας στα αποτελέσματα του λογισμικού μπορεί να επηρεάσει μια ολόκληρη έρευνα. Ερωτηθείς μήνες αργότερα στο δικαστήριο αν η καθοδήγηση του μάρτυρα με αυτόν τον τρόπο ήταν σωστή, ο επικεφαλής ντετέκτιβ, Shute, απάντησε «όχι».

Η Tracy Panus, εκπρόσωπος της αστυνομίας της κομητείας του Σεντ Λούις, δήλωσε μέσω ηλεκτρονικού ταχυδρομείου ότι η υπηρεσία εκπαιδεύει αξιωματικούς να αναπτύξουν «ανεξάρτητα, επιβεβαιωτικά στοιχεία σχετικά με την αναγνώριση προσώπου» και απαιτεί από τον επόπτη να εξετάζει περιπτώσεις στις οποίες η αναγνώριση προσώπου βοηθά να οδηγήσει σε σύλληψη.

Ο Panus, ο Shute και ο Mitch McCoy, εκπρόσωπος της Μητροπολιτικής Αστυνομίας του Σεντ Λούις, αρνήθηκαν να συζητήσουν την έρευνα για την επίθεση στον Feldman. Η Welle δεν απάντησε σε αιτήματα για σχολιασμό.

Μεροληψία αυτοματισμού

Η αστυνομία πιστώνει την αναγνώριση προσώπου που τους βοήθησε να λύσουν πολλές δύσκολες υποθέσεις, συμπεριλαμβανομένης της επίθεσης της 6ης Ιανουαρίου 2021 στο Καπιτώλιο των ΗΠΑ. Οι ομοσπονδιακοί ερευνητές συγκέντρωσαν άφθονα πρόσθετα στοιχεία σε αυτή την έρευνα - συμπεριλαμβανομένων δεδομένων τοποθεσίας κινητής τηλεφωνίας και αναρτήσεων στα μέσα κοινωνικής δικτύωσης - με αποτέλεσμα περισσότερες από 1.200 καταδίκες.

Το λογισμικό λειτουργεί σχεδόν τέλεια σε εργαστηριακές δοκιμές χρησιμοποιώντας σαφείς φωτογραφίες σύγκρισης. Ωστόσο, δεν υπήρξε πραγματική, ανεξάρτητη δοκιμή της ακρίβειας της τεχνολογίας στον τρόπο με τον οποίο η αστυνομία τη χρησιμοποιεί συνήθως - με εικόνες παρακολούθησης χαμηλότερης ποιότητας και αξιωματικούς να επιλέγουν έναν υποψήφιο από μια λίστα πιθανών αντιστοιχιών, δήλωσε η Katie Kinsey, επικεφαλής του προσωπικού του Policing Project στη Νομική Σχολή του NYU. Εξαιτίας αυτού, είναι δύσκολο να γνωρίζουμε πόσο συχνά το λογισμικό κάνει λάθος, είπε.

Επιπλέον, οι ερευνητές έχουν διαπιστώσει ότι οι άνθρωποι που χρησιμοποιούν εργαλεία AI μπορούν να υποκύψουν σε «προκατάληψη αυτοματισμού», μια τάση να εμπιστεύονται τυφλά τις αποφάσεις που λαμβάνονται από ισχυρό λογισμικό, αγνοώντας τους κινδύνους και τους περιορισμούς του. 

Μια μελέτη του 2012 από έναν νευροεπιστήμονα του University College London διαπίστωσε ότι οι εξεταστές δακτυλικών αποτυπωμάτων επηρεάστηκαν από τη σειρά με την οποία ένα σύστημα υπολογιστή τους έδειξε μια λίστα με δυνητικά ταιριαστά δακτυλικά αποτυπώματα. 

Ήταν πιο πιθανό να ταιριάξουν λανθασμένα με εκτυπώσεις που εμφανίστηκαν στην κορυφή της λίστας, γεγονός που υποδηλώνει ότι απέτυχαν να αξιολογήσουν σωστά τις ομοιότητες άλλων πιθανών αγώνων λόγω εμπιστοσύνης στο σύστημα.

Σε ένα παράδειγμα της ισχυρής δύναμης της αναγνώρισης προσώπου, η αστυνομία στο Woodbridge του New Jersey, συνέλαβε τον Nijeer Parks, έναν ύποπτο ληστείας που βρήκαν μέσω αναγνώρισης προσώπου το 2019, παρόλο που τα στοιχεία DNA και δακτυλικών αποτυπωμάτων που συλλέχθηκαν στη σκηνή έδειξαν σαφώς έναν άλλο πιθανό ύποπτο, σύμφωνα με έγγραφα που προσκομίστηκαν σε μήνυση που κατέθεσε αργότερα ο Parks εναντίον του αστυνομικού τμήματος. 

Ο Γούντμπριτζ διευθέτησε την αγωγή για 300.000 δολάρια πέρυσι, χωρίς να παραδεχτεί την αδικοπραγία. Η αστυνομία του Γούντμπριτζ δεν απάντησε σε αιτήματα για σχολιασμό και η The Post δεν μπόρεσε να βρει καμία ένδειξη ότι ο άνδρας που ταίριαζε με τα στοιχεία DNA και δακτυλικών αποτυπωμάτων κατηγορήθηκε ποτέ.



Η αστυνομία στο Γούντμπριτζ του Νιου Τζέρσεϊ είχε τη θολή φωτογραφία από την άδεια οδήγησης ενός υπόπτου ληστείας, αριστερά, σάρωσε μέσω λογισμικού αναγνώρισης προσώπου και αργότερα συνέλαβε τον Nijeer Parks, δεξιά, τον άνδρα του οποίου η κούπα πυροβόλησε το λογισμικό που αναγνωρίστηκε ως πιθανό ταίρι. (Αρχεία δικαστηρίου)

Ακαδημαϊκή έρευνα έχει δείξει ότι μερικοί άνθρωποι έχουν γενετικά παρόμοια doppelgängers που δεν σχετίζονται με αυτούς. Οι άνθρωποι δεν είναι ιδιαίτερα καλοί στο να διακρίνουν μεταξύ δύο άγνωστων προσώπων που μοιάζουν, καθιστώντας δύσκολο να διακρίνει κανείς αν ένας αγώνας AI είναι ο δράστης ή απλώς κάποιος που μοιάζει με αυτούς, σύμφωνα με την Clare Garvie, ερευνήτρια AI που έχει εκπαιδεύσει δικηγόρους ποινικής υπεράσπισης σε όλη τη χώρα σχετικά με τον τρόπο με τον οποίο η αστυνομία χρησιμοποιεί την αναγνώριση προσώπου.

Κατά τη διάρκεια μιας κατάθεσης στο δικαστήριο το 2023, η Jennifer Coulson, εκπαιδευμένη εξεταστής εικόνων για την πολιτεία του Μίσιγκαν, περιέγραψε με περίεργες λεπτομέρειες πώς διαπίστωσε ότι τα χαρακτηριστικά του προσώπου ενός άνδρα ταιριάζουν με εκείνα του δράστη που καταγράφηκε σε βίντεο παρακολούθησης να κλέβει ρολόγια από ένα πολυτελές κατάστημα.

«Μου άρεσε το μοτίβο τριχοφυΐας του προσώπου του, το πάχος των χειλιών του, η σχισμή των χειλιών του», δήλωσε ο Coulson, ο οποίος επέλεξε τον άνδρα από εκατοντάδες φωτογραφίες που επιστράφηκαν από το λογισμικό αναγνώρισης προσώπου της πολιτείας ως πιθανές αντιστοιχίες. «Μου άρεσε το πάχος των μάγουλων του... και η παρουσία του σκληρού χιτώνα των ματιών».

Ο Coulson έκανε λάθος. Το πρόσωπο που περιέγραφε ανήκε στον Ρόμπερτ Γουίλιαμς, τον οποίο η αστυνομία του Ντιτρόιτ συνέλαβε άδικα εν μέρει με βάση το εύρημά της. 

Σε έναν διακανονισμό που ανακοινώθηκε τον Ιούνιο, το Ντιτρόιτ κατέβαλε στον Ουίλιαμς 300.000 δολάρια και συμφώνησε να απαιτήσει από τους αξιωματικούς να συλλέξουν ανεξάρτητα στοιχεία για υπόπτους που ταυτοποιήθηκαν με τεχνητή νοημοσύνη πριν ζητήσουν ένταλμα σύλληψης.

 Ο Coulson δεν απάντησε σε αίτημα για σχόλιο. Μια εκπρόσωπος της πολιτειακής αστυνομίας του Μίσιγκαν αρνήθηκε να σχολιάσει το λάθος, αλλά είπε ότι η πολιτεία βασίζεται στους ερευνητές για να επιβεβαιώσει όλα τα στοιχεία που τους παρέχει από την αναγνώριση προσώπου.



Ο Robert Williams από το Farmington Hills του Michigan, συνελήφθη αφού η αστυνομία του Ντιτρόιτ χρησιμοποιώντας τεχνολογία αναγνώρισης προσώπου τον αναγνώρισε λανθασμένα ως ύποπτο κλέφτη καταστήματος. (Αμερικανική Ένωση Πολιτικών Ελευθεριών)

Σε αρκετές περιπτώσεις που εξετάστηκαν από την The Post, οι αστυνομικοί συνέλαβαν ένα άτομο που αναγνωρίστηκε από την AI αφού χρησιμοποίησαν μόνο τη δική τους κρίση ότι ήταν το ίδιο πρόσωπο ή δείχνοντας μια φωτογραφία του υπόπτου σε μάρτυρες, χωρίς να συνδέσουν διαφορετικά το άτομο με το έγκλημα, δείχνουν τα αρχεία.

Πολύ πριν από την τεχνητή νοημοσύνη, η αναγνώριση μαρτύρων θεωρούνταν προβληματική όταν ήταν η μόνη απόδειξη της ενοχής ενός υπόπτου. Η ανθρώπινη μνήμη είναι ατελής και οι μάρτυρες μπορούν ασυνείδητα ή συνειδητά να επηρεαστούν από την αστυνομία. Σύμφωνα με μια βάση δεδομένων που τηρείται από το Εθνικό Μητρώο Απαλλαγών, μια ακαδημαϊκή ερευνητική ομάδα, περισσότερο από το ένα τέταρτο όλων των απαλλαγών από το 1989 - ή 986 περιπτώσεις - αφορούσαν λανθασμένη ταυτοποίηση μαρτύρων.

Είτε το συνειδητοποιούν, η αστυνομία που έβαλε έναν ύποπτο που βρέθηκε μέσω τεχνητής νοημοσύνης σε μια σειρά φωτογραφιών μπορεί αποτελεσματικά να «ξεγελάσει» έναν μάρτυρα για να πάρει αυτό το άτομο, δήλωσε ο Gary Wells, ψυχολόγος στο Πολιτειακό Πανεπιστήμιο της Αϊόβα, του οποίου η έρευνα έχει ρίξει φως σε λανθασμένες ταυτοποιήσεις αυτοπτών μαρτύρων.

Η τεχνητή νοημοσύνη μπορεί να έχει επιλέξει κάποιον που μοιάζει τόσο πολύ με τον δράστη που θα ήταν αδύνατο για πολλούς ανθρώπους να διακρίνουν τη διαφορά, δήλωσε ο Wells. «Φυσικά και θα τον διαλέξουν».

Ένα χτύπημα στην πόρτα

Πέντε ημέρες αφότου ο Feldman περικύκλωσε τη φωτογραφία του Gatlin, η αστυνομία χτύπησε την πόρτα του σπιτιού της αδελφής του Gatlin στο Σεντ Λούις.

Ένας λεπτός άντρας με ένα πλατύ χαμόγελο, ο Γκάτλιν μοίραζε το χρόνο του μεταξύ του Σεντ Λούις, όπου μεγάλωσε, και μιας μικρής πόλης στην Ιντιάνα όπου ζούσε ο πατέρας του. Είχε επιστρέψει πρόσφατα στο Σεντ Λούις για την κηδεία της μητέρας του, αλλά κατέληξε να μείνει λίγο, να περάσει χρόνο με τα παιδιά του και να πιάσει δουλειά στο Walmart κοντά στο αεροδρόμιο του Σεντ Λούις.

Χαλάρωνε μετά τη νυχτερινή βάρδια όταν οι δύο αστυνομικοί του ζήτησαν να βγει έξω. Συμμορφώθηκε, νομίζοντας ότι ήταν εκεί για να ρωτήσουν για το φορτηγό του, το οποίο είχε χαλάσει στην άκρη του δρόμου.

Τον ρώτησαν αν είχε κάρτα για το μετρό στο πορτοφόλι του. Όταν είπε όχι, κοίταξαν για λίγο ο ένας τον άλλον, είπε. Τότε ένας έβγαλε ένα ζευγάρι χειροπέδες και του είπε ότι θα πήγαινε φυλακή.

Όπως πολλές υποθέσεις αναγνώρισης προσώπου που εξετάστηκαν από την The Post, η καταγγελία της αστυνομίας ανέφερε μόνο ότι ο Γκάτλιν «έχει αναγνωριστεί» σε μια επίθεση που καταγράφηκε σε βίντεο, χωρίς να αναφέρει πώς η αστυνομία τον συνέδεσε με το έγκλημα. Όταν ο Γκάτλιν δεν μπορούσε να πληρώσει την εγγύηση των 75.000 δολαρίων σε μετρητά, προφυλακίστηκε σε ένα κελί φυλακής μικρότερο από ένα χώρο στάθμευσης.

«Ποτέ δεν πίστευα ότι θα έβγαινα έξω», είπε ο Γκάτλιν, τώρα 32 ετών, σε συνέντευξή του. Κατέληξε να περάσει 16 μήνες στη φυλακή, εν μέρει επειδή έκοψε το μόνιτορ του αστραγάλου όταν ήταν υπό όρους ελεύθερος και έπρεπε να επιστρέψει.

Σε όλες τις γνωστές περιπτώσεις παράνομης σύλληψης λόγω αναγνώρισης προσώπου, η αστυνομία συνέλαβε κάποιον χωρίς να συνδέσει ανεξάρτητα το άτομο με το έγκλημα. 

Πάρτε για παράδειγμα τον Vernau, 49 ετών, ιατρικό επιχειρηματία, ο οποίος πέρασε τρεις ημέρες πίσω από τα κάγκελα τον Ιούλιο του 2024, αφού η αστυνομία τον κατηγόρησε ότι εξαργύρωσε μια δόλια επιταγή 36.000 δολαρίων σε υποκατάστημα τράπεζας Truist στο Μαϊάμι, με βάση μια εικόνα κάμερας παρακολούθησης που έτρεξαν μέσω αναγνώρισης προσώπου, σύμφωνα με έγγραφα που μοιράστηκαν οι εισαγγελείς με την The Post.

Σε αντίθεση με άλλες περιπτώσεις ψευδούς σύλληψης, ο Vernau αναγνωρίστηκε σωστά ως το πρόσωπο στο βίντεο παρακολούθησης. Ωστόσο, ο Vernau ήταν απλώς ένας πελάτης που εξαργύρωσε μια νόμιμη επιταγή 1.500 δολαρίων στην ίδια τράπεζα την ίδια ημέρα με την απάτη. Ένας ερευνητής από το Truist μοιράστηκε κατά λάθος το κλιπ του Vernau με την αστυνομία, σύμφωνα με μια περίληψη της υπόθεσης που γράφτηκε από έναν εισαγγελέα.

Η αστυνομία δεν έλεγξε ποτέ τους τραπεζικούς λογαριασμούς του Vernau, τη χρονοσφραγίδα της συναλλαγής ή άλλα στοιχεία που θα αποκάλυπταν το λάθος, δήλωσε ο δικηγόρος υπεράσπισής του.

"Αυτό είναι το ερευνητικό σας έργο;" Ο Vernau θυμάται ότι ρώτησε τους ντετέκτιβ που τον ανέκριναν στο αστυνομικό τμήμα του Μαϊάμι κατά τη διάρκεια της κράτησής του. «Έχετε μια φωτογραφία μου σε μια τράπεζα και αυτή είναι η απόδειξή σας; Είπα, πού είναι τα δακτυλικά μου αποτυπώματα στον έλεγχο; Πού είναι η υπογραφή μου;»



Ο Jason Vernau φυλακίστηκε άδικα ως ύποπτος για απάτη ελέγχου από το αστυνομικό τμήμα του Μαϊάμι, αφού τον αναγνώρισε χρησιμοποιώντας αναγνώριση προσώπου. (Scott McIntyre για την Washington Post)

Οι εισαγγελείς αργότερα απέσυραν την υπόθεση, αλλά ο Vernau δήλωσε ότι εξακολουθεί να εργάζεται για να αφαιρέσει τις κατηγορίες από το αρχείο του.

Ο Φρέντι Κρουζ, εκπρόσωπος της αστυνομίας του Μαϊάμι, δήλωσε ότι το τμήμα ξεκίνησε εσωτερική έρευνα για τον χειρισμό της υπόθεσης.

Η εκπρόσωπος της Truist, Carly DeBeikes, δήλωσε ότι η εταιρεία «δεν είναι σε θέση να συζητήσει ανοιχτά ή κλειστά θέματα επιβολής του νόμου».

Ο Vernau είναι λευκός. Οι άλλοι επτά άδικα συλληφθέντες είναι μαύροι - σχετικά με τα αποδεικτικά στοιχεία της φυλετικής προκατάληψης της τεχνολογίας, σύμφωνα με ομάδες πολιτικών ελευθεριών.

 Ομοσπονδιακές δοκιμές το 2019 έδειξαν ότι οι Ασιάτες και οι μαύροι είχαν έως και 100 φορές περισσότερες πιθανότητες να αναγνωριστούν λανθασμένα από κάποιο λογισμικό από τους λευκούς άνδρες, πιθανώς επειδή οι φωτογραφίες που χρησιμοποιήθηκαν για την εκπαίδευση ορισμένων από τους αλγόριθμους ήταν αρχικά λοξές προς τους λευκούς άνδρες.

Σε συνεντεύξεις με την The Post, και τα οκτώ άτομα που είναι γνωστό ότι έχουν συλληφθεί άδικα είπαν ότι η εμπειρία είχε αφήσει μόνιμες ουλές: χαμένες δουλειές, κατεστραμμένες σχέσεις, χαμένες πληρωμές για δάνεια αυτοκινήτων και κατοικιών. Κάποιοι είπαν ότι έπρεπε να στείλουν τα παιδιά τους σε συμβουλευτική για να ξεπεράσουν το τραύμα του να βλέπουν τη μητέρα ή τον πατέρα τους να συλλαμβάνονται στο μπροστινό γκαζόν.

Οι περισσότεροι είπαν ότι ανέπτυξαν επίσης φόβο για την αστυνομία.

«Ήξερα ότι ήμουν αθώος, οπότε πώς μπορώ να χτυπήσω μια μηχανή;» διερωτήθηκε ο Αλόνζο Σόγιερ, 58 ετών, ο οποίος συνελήφθη από τις αρχές του Μέριλαντ το 2022 ως ύποπτος για επίθεση σε οδηγό λεωφορείου που σημειώθηκε ενώ είπε ότι βρισκόταν στο σπίτι της κουνιάδας του.

Ο Sawyer λέει ότι βγήκε από τη φυλακή μόνο επειδή η σύζυγός του οδήγησε 90 μίλια για να αντιμετωπίσει προσωπικά έναν αξιωματικό επιτήρησης, τον οποίο η αστυνομία είχε πιέσει να επιβεβαιώσει ψευδώς τον σύζυγό της ως τον επιτιθέμενο. Ανακάλεσε τη δήλωσή του, σύμφωνα με τον Scott Shellenberger, εισαγγελέα της πολιτείας της κομητείας της Βαλτιμόρης, ο οποίος δήλωσε σε συνέντευξή του ότι ο Sawyer ήταν «αδικημένος» και δεν έπρεπε ποτέ να είχε συλληφθεί.

Ένα τυχερό διάλειμμα

Το τυχερό διάλειμμα του Γκάτλιν ήρθε με τη μορφή της δημόσιας συνηγόρου του, Μπρουκ Λίμα, της οποίας οι δεκαετίες εμπειρίας στην ποινική υπεράσπιση την είχαν κάνει επιφυλακτική να εμπιστευτεί την αστυνομία. Η υπόθεση της κομητείας εναντίον του Γκάτλιν δεν είχε νόημα γι 'αυτήν, επειδή δεν είχε κανένα λόγο να είναι στο τρένο εκείνο το πρωί.

Ο Γκάτλιν είχε φορτηγό και σπάνια χρησιμοποιούσε τη δημόσια συγκοινωνία. Λέει ότι νομίζει ότι ήταν στο σπίτι με την οικογένειά του εκείνη την ημέρα, αλλά δεν μπορεί να είναι σίγουρος και δεν έχει τίποτα να το αποδείξει επειδή η αστυνομία δεν τον πλησίασε παρά μόνο οκτώ μήνες μετά το έγκλημα.

Το Σεντ Λούις χρησιμοποιεί ένα σύστημα αναγνώρισης προσώπου που συντηρείται από ένα περιφερειακό πρόγραμμα επιβολής του νόμου πολλαπλών δικαιοδοσιών που περιέχει περισσότερες από 250.000 λήψεις κούπας. Ο Γκάτλιν ήταν στο σύστημα, έχοντας συλληφθεί για τροχαίες παραβάσεις καθώς και για διάρρηξη το 2018.

 Η κατηγορία της διάρρηξης αποσύρθηκε αργότερα επειδή οι εισαγγελείς δεν μπορούσαν να προσκομίσουν αρκετά αποδεικτικά στοιχεία, σύμφωνα με τα αρχεία. Ο Γκάτλιν αρνήθηκε να σχολιάσει την κατηγορία και τα δικαστήρια του Μιζούρι δεν παρέχουν αρχεία για υποθέσεις που έχουν απορριφθεί.

«Μου φάνηκε τόσο εξωφρενικά δυστοπικό», είπε η Λίμα σε συνέντευξή της. "Έχετε μια μηχανή αναζήτησης που είναι αποφασισμένη να σας δώσει ένα αποτέλεσμα και πρόκειται μόνο να ψάξει για άτομα που έχουν συλληφθεί για κάτι και θα προσπαθήσει να βρει κάποιον από αυτόν τον περιορισμένο πληθυσμό που έρχεται πιο κοντά σε αυτό το απόσπασμα ενός μισού προσώπου που βρήκατε".

Η Λίμα δεν είχε ακούσει ποτέ για την αστυνομία να χρησιμοποιεί αναγνώριση προσώπου πριν την δει να αναφέρεται στην αστυνομική έκθεση του Γκάτλιν. 

Ερεύνησε πώς λειτούργησε, μίλησε με έναν εθνικό εμπειρογνώμονα για την τεχνολογία και πήγε κάτω από μια «τρύπα κουνελιού Westlaw», ερευνώντας τις λίγες εφετειακές υποθέσεις σε όλη τη χώρα στην οποία η τεχνολογία έχει αρχίσει να αναφέρεται. 

Ενοχλήθηκε από την ιδέα ότι «η κυβέρνηση θα βασιζόταν σε μια μηχανή για να εντοπίσει κάποιον ως πιθανό ύποπτο σε ένα έγκλημα».



Η αστυνομία του Σεντ Λούις έτρεξε αυτήν την εικόνα παρακολούθησης μέσω ενός προγράμματος αναγνώρισης προσώπου καθώς προσπαθούσε να βρει έναν από τους δράστες μιας επίθεσης τον Δεκέμβριο του 2020. (Αρχεία δικαστηρίου)

Εξετάζοντας τα βίντεο παρακολούθησης των επιτιθέμενων στην πλατφόρμα του τρένου - τα οποία γυρίστηκαν από μια μικρή κάμερα τοποθετημένη στο πλάι ενός λεωφορείου του μετρό που ήταν σταθμευμένο στο σταθμό εκείνο το πρωί - ο Λίμα πίστεψε και τελικά υποστήριξε στο δικαστήριο ότι ο Shute και ο Welle είχαν βασιστεί σε μια εικόνα που πιθανότατα δεν ήταν αρκετά σαφής για να παράγει έναν αξιόπιστο αγώνα.

Το εγχειρίδιο χρήσης για το πρόγραμμα St. Louis Mugshot Recognition Technology αναφέρει ότι μια εικόνα «πρέπει να είναι υψηλής ποιότητας προκειμένου το σύστημα να παρέχει ακριβείς πιθανούς υποψηφίους» και όμως οι ντετέκτιβ είχαν υποβάλει μια φωτογραφία ενός άνδρα του οποίου το πρόσωπο ήταν ελάχιστα αναγνωρίσιμο.

Το βίντεο από την κάμερα σώματος που δείχνει τη σειρά φωτογραφιών του Feldman δεν ήρθε στο φως παρά μόνο μήνες μετά τη σύλληψη του Gatlin, όταν ένας αξιωματικός ανέφερε κατά τη διάρκεια μιας κατάθεσης ότι κατέγραψε το επεισόδιο. 


Ο Κρις Κινγκ, εκπρόσωπος του εισαγγελέα της κομητείας του Σεντ Λούις, δήλωσε ότι ο δικηγόρος που ανέλαβε αυτή την υπόθεση έμαθε για πρώτη φορά για την ύπαρξη του βίντεο από αυτή την κατάθεση - παρόλο που η ηχογράφηση αναφέρθηκε ρητά σε μια αστυνομική έκθεση που δόθηκε στους εισαγγελείς και τους συνηγόρους υπεράσπισης μετά τη σύλληψη.

Αφού ο εισαγγελέας έμαθε για το βίντεο και το ζήτησε από την αστυνομία, είπε ο Κινγκ, δόθηκε στην υπεράσπιση. Ο δικαστής του Περιφερειακού Δικαστηρίου του Σεντ Λούις, Μπράιαν Μέι, ο οποίος προήδρευσε της υπόθεσης, την παρακολούθησε κατά τη διάρκεια ακρόασης τον Φεβρουάριο του 2024 και αμέσως έκρινε ότι η ταυτότητα δεν μπορούσε να χρησιμοποιηθεί στο δικαστήριο.

Ο Welle και ο Shute είχαν σπάσει τις ευρέως αποδεκτές πρακτικές για τη διεξαγωγή δίκαιων και αμερόληπτων σειρών φωτογραφιών, διαπίστωσε η May. Είχαν πιέσει τον Feldman για μια κατάθεση, παρόλο που είπε ότι δεν μπορούσε να θυμηθεί τους δράστες. Κάλεσαν έναν τρίτο αξιωματικό να είναι αμερόληπτος διαχειριστής, σύμφωνα με το πρωτόκολλο, αλλά ο Welle παρενέβη στη διαδικασία προτείνοντας ποια φωτογραφία ανήκε στον ύποπτο, αποφάσισε ο δικαστής.

«Πραγματικά πιστεύω ότι ο ντετέκτιβ ήταν κάπως... με υπερβολικό ζήλο για να μπορέσω να προσπαθήσω να επιλύσω αυτό το έγκλημα», δήλωσε η Μέι, σύμφωνα με τα πρακτικά του δικαστηρίου.

Κατά τη διάρκεια της ακρόασης, η Λίμα ήρθε αντιμέτωπη με τον Σούτε με τα βήματα που είχε κάνει για να συλλάβει τον Γκάτλιν: την εικόνα παρακολούθησης, τη σάρωση αναγνώρισης προσώπου, την ακατάλληλη σειρά φωτογραφιών και τις καταθέσεις μαρτύρων.

«Πιστεύετε ότι αυτός είναι ένας αξιόπιστος τρόπος για να αποκτήσετε μια νόμιμη ταυτοποίηση ενός υπόπτου;» ρώτησε.

«Δεν το κάνω», είπε ο Shute.

Χωρίς στοιχεία εναντίον του, οι εισαγγελείς απέσυραν όλες τις κατηγορίες εναντίον του Γκάτλιν τον Μάρτιο. Αυτή την εβδομάδα, μήνυσε τις υπηρεσίες και τους αξιωματικούς που ήταν υπεύθυνοι για τη σύλληψή του, ζητώντας απροσδιόριστη χρηματική αποζημίωση. Εκπρόσωποι της κομητείας του Σεντ Λούις και της αστυνομίας της πόλης αρνήθηκαν να σχολιάσουν τη δικαστική διαμάχη. Οι αξιωματικοί δεν απάντησαν σε αιτήματα για σχολιασμό.

Εν τω μεταξύ, η Λίμα - πρόσφατα εκπαιδευμένη σχετικά με τη χρήση της τεχνολογίας αναγνώρισης προσώπου από την αστυνομία - εξακολουθεί να ανησυχεί ότι η υπερβολική αυτοπεποίθηση της αστυνομίας και η χαλαρή εποπτεία θα οδηγήσουν σε περισσότερες παράνομες συλλήψεις.

«Τι λένε τα αστυνομικά τμήματα για το πώς μπορούν και πρέπει να το χρησιμοποιήσουν αυτό;» είπε. «Και ποιος το επιβάλλει αυτό;»




Δεν υπάρχουν σχόλια:

Δημοσίευση σχολίου