ΈΝΟΧΟΣ ΜΕΣΩ ΑΛΓΟΡΙΘΜΟΥ
Γράφει η Χριστίνα Μάας
Γίνεται οικείο: συλληφθήκατε, πηγαίνετε σε δίκη και μάθατε ότι ο μάρτυρας κατηγορίας της κυβέρνησης είναι ένας μισοψημένος αλγόριθμος χτισμένος σε ένα υπόγειο της Silicon Valley, σφραγισμένος από έναν δικαστή που δεν μπορεί να προγραμματίσει ένα βίντεο.
Αυτή τη φορά είναι στο Νιου Τζέρσεϊ, όπου η εισαγγελία στην υπόθεση State v. Miles οδηγεί αυτή την νέα μόδα σε νέα επίπεδα παραλογισμού.
Στην τελευταία φάρσα της πολιτείας, ο Tybear Miles κατηγορείται για τη δολοφονία του Ahmad McPherson το 2021. Το κεντρικό αποδεικτικό στοιχείο;
Όχι δακτυλικά αποτυπώματα. Δεν υπάρχει αυτόπτης μάρτυρας.
Ένα χτύπημα αναγνώρισης προσώπου από ένα σύστημα τόσο μυστικοπαθές, που η κυβέρνηση δεν θα πει καν στην υπεράσπιση τι είναι, πώς λειτουργεί ή αν είναι πιο ακριβές από μια μεθυσμένη ρίψη βελών.
Η εισαγγελία επιμένει ότι έχει καρφώσει τον Μάιλς, χάρη σε έναν εμπιστευτικό πληροφοριοδότη που ισχυρίστηκε ότι ο «Χοντρός Μπαμπάς» ήταν ο δολοφόνος.
Στη συνέχεια, οι αστυνομικοί έψαξαν στο Instagram, τράβηξαν μερικές φωτογραφίες, τις τροφοδότησαν σε ένα σύστημα αναγνώρισης προσώπου και έβγαλαν έξω τον Tybear Miles.
Ο αλγόριθμος έδωσε την ευλογία του, ο πληροφοριοδότης έγνεψε καταφατικά και η υπόθεση σφραγίστηκε.
Μόνο που υπάρχει ένα πρόβλημα: η υπεράσπιση θέλει να δει πραγματικά πώς φτιάχτηκε το "μαγικό λουκάνικο". Κατανοητό, δεδομένου ότι η αποστολή στη φυλακή με βάση το προαίσθημα ενός λογισμικού δεν είναι ακριβώς το χρυσό πρότυπο της δέουσας διαδικασίας.
Οι συνήγοροι υπεράσπισης ζήτησαν πρόσβαση στα ενδότερα του συστήματος: στα ποσοστά σφαλμάτων, στην ποιότητα βάσης δεδομένων, στα πρωτόκολλα δοκιμών, σε οτιδήποτε θα μπορούσε να δείξει τη διαφορά μεταξύ επιστήμης και "ψευτοθεραπείας".
Η απάντηση του κράτους; Ένα σταθερό, ηχηρό «όχι». Προφανώς, η αποκάλυψη του τρόπου λειτουργίας αυτού του λογισμικού θα έθετε σε κίνδυνο τις τακτικές επιβολής του νόμου.
Υποδείξτε το ιππικό. Φύλακες των πολιτικών ελευθεριών που έχουν δει αυτή την αίθουσα δικαστηρίου επιστημονικής φαντασίας να επαναλαμβάνεται πάρα πολλές φορές. κατέθεσε ένα κοινό σημείωμα βασικά φωνάζοντας: Δεν μπορείτε να έχετε μια δίκαιη δίκη εάν τα αποδεικτικά στοιχεία προέρχονται από ένα μαύρο κουτί!
«Οι αναζητήσεις αναγνώρισης προσώπου περιλαμβάνουν πολλαπλά στοιχεία και βήματα που το καθένα εισάγει μια σημαντική πιθανότητα λανθασμένης αναγνώρισης», προειδοποιεί το ενημερωτικό σημείωμα, με τον πιο υποτιμημένο τρόπο να πούμε ότι «αυτά τα πράγματα τα κάνουν πολλά λάθη».
Η συμμορία των πολιτικών ελευθεριών επισημαίνει μια πρόσφατη εφετειακή απόφαση του Νιου Τζέρσεϊ στην υπόθεση State v. Arteaga, όπου το δικαστήριο σοφά κατέληξε στο συμπέρασμα ότι εάν ένας υπολογιστής κατηγορεί κάποιον για έγκλημα, ίσως θέλουμε να μάθουμε αν αποφοίτησε από το MIT ή έφυγε από την Ακαδημία Glitchy Algorithms του Clippy.
Αυτή η απόφαση έθεσε τις βάσεις για την ομάδα του Miles να ζητήσει την ίδια διαφάνεια. Θα νόμιζε κανείς ότι αυτό θα ήταν προφανές. Αντ 'αυτού, έχουμε μια νομική αναμέτρηση για να καθορίσουμε εάν η ελευθερία ενός άνδρα εξαρτάται από εμπορικά μυστικά και εταιρικές NDAs.
Αυτό δεν είναι μόνο πρόβλημα του Τζέρσεϋ. Σε όλη τη χώρα, οι αστυνομικοί χρησιμοποιούν αθόρυβα την τεχνολογία αναγνώρισης προσώπου σαν να είναι ένας κωδικός εξαπάτησης σε ένα βιντεοπαιχνίδι, χωρίς να μπαίνουν στον κόπο να το πουν στους δικαστές, τους ενόρκους ή τους ανθρώπους που φυλακίζονται επειδή το είπε ένας υπολογιστής.
Σε αυτό το πλαίσιο, η υπόθεση Miles είναι λιγότερο μια ανωμαλία και περισσότερο μια λυδία λίθος. Εάν το Ανώτατο Δικαστήριο του Νιου Τζέρσεϊ αποφασίσει να ταχθεί με μυστικότητα, δεν θα καταστρέψει μόνο την υπεράσπιση ενός ανθρώπου. Θα κατοχυρώσει περαιτέρω την ιδέα ότι τα αλγοριθμικά στοιχεία είναι υπεράνω ελέγχου.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου