ΕΧΕΤΕ EΠΙΣΗΜΑΝΘΕΙ ΩΣ ΑΠΕΙΛΗ : Η ΤΕΧΝΟΛΟΓΙΑ ΠΡΟΓΝΩΣΤΙΚΗΣ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ ΒΑΖΕΙ ΣΤΟΧΟ ΣΤΗΝ ΠΛΑΤΗ ΣΑΣ
Γράφουν οι John W. Whitehead & Nisha Whitehead
Μετάφραση: Απολλόδωρος
"Η κυβερνητική λύση σε ένα πρόβλημα είναι συνήθως τόσο κακή όσο και το πρόβλημα και πολύ συχνά κάνει το πρόβλημα χειρότερο".
Milton Friedman
Έχετε επισημανθεί ως απειλή. Σε λίγο καιρό, κάθε νοικοκυριό στην Αμερική θα έχει επισημανθεί με τον ίδιο τρόπο και θα του έχει αποδοθεί μια βαθμολογία απειλής.
Χωρίς ποτέ να έχετε διαπράξει εν γνώσει σας κάποιο έγκλημα ή να έχετε καταδικαστεί γι' αυτό, εσείς και οι συμπολίτες σας έχετε πιθανότατα αξιολογηθεί για συμπεριφορές που η κυβέρνηση θα μπορούσε να θεωρήσει ύπουλες, επικίνδυνες ή ανησυχητικές- σας έχει αποδοθεί μια βαθμολογία απειλής με βάση τις συναναστροφές, τις δραστηριότητες και τις απόψεις σας- και έχετε καταγραφεί σε μια κυβερνητική βάση δεδομένων ανάλογα με το πώς θα πρέπει να σας προσεγγίσει η αστυνομία και άλλες κυβερνητικές υπηρεσίες με βάση το συγκεκριμένο επίπεδο απειλής σας.
Αν δεν σας αγχώνουν οι προεκτάσεις του τρόπου με τον οποίο θα μπορούσε να χρησιμοποιηθεί και να καταχραστεί ένα τέτοιο πρόγραμμα, συνεχίστε να διαβάζετε.
Είναι απλώς θέμα χρόνου να βρεθείτε να κατηγορείστε άδικα, να ερευνάται και να αντιμετωπίζετε από την αστυνομία με βάση έναν αλγόριθμο που βασίζεται σε δεδομένα ή σε μια εκτίμηση κινδύνου, η οποία έχει συγκεντρωθεί από ένα πρόγραμμα υπολογιστή που λειτουργεί με τεχνητή νοημοσύνη.
Σκεφτείτε την περίπτωση του Michael Williams, ο οποίος πέρασε σχεδόν ένα χρόνο στη φυλακή για ένα έγκλημα που δεν διέπραξε. Ο Williams βρισκόταν πίσω από το τιμόνι όταν ένα διερχόμενο αυτοκίνητο πυροβόλησε το όχημά του, σκοτώνοντας τον 25χρονο συνεπιβάτη του Safarian Herring, ο οποίος είχε κάνει ωτοστόπ.
Παρά το γεγονός ότι ο Williams δεν είχε κίνητρο, δεν υπήρχαν αυτόπτες μάρτυρες του πυροβολισμού, δεν βρέθηκε όπλο στο αυτοκίνητο και ο ίδιος ο Williams οδήγησε τον Herring στο νοσοκομείο, η αστυνομία κατηγόρησε τον 65χρονο άνδρα για φόνο πρώτου βαθμού με βάση το ShotSpotter, ένα πρόγραμμα ανίχνευσης πυροβολισμών που είχε εντοπίσει έναν δυνατό κρότο στο δίκτυο μικροφώνων παρακολούθησης και τριγωνοποίησε τον θόρυβο ώστε να αντιστοιχεί σε ένα αθόρυβο βίντεο ασφαλείας που έδειχνε το αυτοκίνητο του Williams να περνάει μέσα από μια διασταύρωση.
Η υπόθεση τελικά απορρίφθηκε λόγω έλλειψης αποδεικτικών στοιχείων.
Παρόλο που τα προγράμματα ανίχνευσης πυροβολισμών όπως το ShotSpotter κερδίζουν ολοένα και μεγαλύτερη δημοτικότητα στις υπηρεσίες επιβολής του νόμου, στους εισαγγελείς και στα δικαστήρια, είναι γεμάτα ελαττώματα, καθώς μπερδεύουν "κάδους απορριμμάτων, φορτηγά, μοτοσικλέτες, ελικόπτερα, πυροτεχνήματα, κατασκευές, αποκομιδή σκουπιδιών και καμπάνες εκκλησιών... με πυροβολισμούς".
Όπως διαπίστωσε έρευνα του Associated Press, "το σύστημα μπορεί να χάσει ζωντανούς πυροβολισμούς ακριβώς κάτω από τα μικρόφωνά του, ή να κατατάξει λανθασμένα τους ήχους πυροτεχνημάτων ή αυτοκινήτων που ανάβουν από πίσω ως πυροβολισμούς".
Σε μια κοινότητα, το ShotSpotter λειτούργησε λιγότερο από το 50% του χρόνου.
Στη συνέχεια, υπάρχει το ανθρώπινο στοιχείο της διαφθοράς που προστίθεται πάντα στο μείγμα. Σε ορισμένες περιπτώσεις, "οι υπάλληλοι άλλαξαν τους ήχους που ανιχνεύει το σύστημα για να πουν ότι πρόκειται για πυροβολισμούς".
Οι εγκληματολογικές εκθέσεις που συντάχθηκαν από τους υπαλλήλους του ShotSpotter έχουν επίσης "χρησιμοποιηθεί στο δικαστήριο για να ισχυριστούν αθέμιτα ότι ένας κατηγορούμενος πυροβόλησε εναντίον της αστυνομίας ή να παράσχουν αμφισβητήσιμες μετρήσεις του αριθμού των πυροβολισμών που φέρονται να έριξαν οι κατηγορούμενοι".
Η ίδια εταιρεία στην οποία ανήκει το ShotSpotter διαθέτει επίσης ένα πρόγραμμα προγνωστικής αστυνόμευσης που έχει ως στόχο να χρησιμοποιεί δεδομένα ανίχνευσης πυροβολισμών για να "προβλέπει" το έγκλημα πριν αυτό συμβεί.
Τόσο ο πρόεδρος Μπάιντεν όσο και ο πρόεδρος Τραμπ έχουν πιέσει για μεγαλύτερη χρήση αυτών των προγραμμάτων πρόβλεψης για την καταπολέμηση της ένοπλης βίας στις κοινότητες, παρά το γεγονός ότι δεν έχει διαπιστωθεί ότι μειώνουν την ένοπλη βία ή αυξάνουν την ασφάλεια της κοινότητας.
Η λογική πίσω από αυτή τη συγχώνευση της εκτεταμένης παρακολούθησης, των τεχνολογιών πρόβλεψης συμπεριφοράς, της εξόρυξης δεδομένων, της προγνωστικής τεχνολογίας και των προγραμμάτων καταδόσεων της γειτονιάς και της οικογένειας είναι δήθεν να επιτρέπει στην κυβέρνηση να λαμβάνει προληπτικά μέτρα για την καταπολέμηση του εγκλήματος (ή ό,τι άλλο έχει επιλέξει η κυβέρνηση να θέσει εκτός νόμου κάθε φορά).
Πρόκειται για προ-έγκλημα, βγαλμένο κατευθείαν από τη σφαίρα δυστοπικών ταινιών επιστημονικής φαντασίας, όπως το Minority Report, το οποίο αποσκοπεί στην πρόληψη των εγκλημάτων πριν συμβούν, αλλά στην πραγματικότητα είναι απλώς ένα ακόμη μέσο για να μπουν οι πολίτες στο στόχαστρο της κυβέρνησης προκειμένου να κλειδώσει το έθνος.
Ακόμη και οι κοινωνικές υπηρεσίες μπαίνουν στη δράση, με αλγόριθμους υπολογιστών που προσπαθούν να προβλέψουν ποια νοικοκυριά μπορεί να είναι ένοχα για κακοποίηση και παραμέληση παιδιών.
Το μόνο που χρειάζεται είναι ένα ρομπότ τεχνητής νοημοσύνης να επισημάνει ένα νοικοκυριό για πιθανή παραμέληση, ώστε μια οικογένεια να ερευνηθεί, να κριθεί ένοχη και τα παιδιά να τοποθετηθούν σε ανάδοχη οικογένεια.
Υπόψιν, η πιθανή παραμέληση μπορεί να περιλαμβάνει τα πάντα, από την ανεπαρκή στέγαση έως την κακή υγιεινή, αλλά είναι διαφορετική από τη σωματική ή σεξουαλική κακοποίηση.
Σύμφωνα με μια ερευνητική έκθεση του Associated Press, μόλις αναφερθούν περιστατικά πιθανής παραμέλησης σε μια τηλεφωνική γραμμή για την προστασία των παιδιών, οι αναφορές περνούν από μια διαδικασία ελέγχου που συγκεντρώνει "προσωπικά δεδομένα που συλλέγονται από τη γέννηση, το Medicaid, τη χρήση ουσιών, την ψυχική υγεία, τις φυλακές και τα αρχεία επιτήρησης, μεταξύ άλλων κυβερνητικών δεδομένων". Στη συνέχεια, ο αλγόριθμος υπολογίζει τον δυνητικό κίνδυνο του παιδιού και αποδίδει μια βαθμολογία από το 1 έως το 20 για να προβλέψει τον κίνδυνο να τοποθετηθεί ένα παιδί σε ανάδοχη οικογένεια κατά τα δύο έτη μετά την έρευνα.
"Όσο υψηλότερος είναι ο αριθμός, τόσο μεγαλύτερος είναι ο κίνδυνος. Στη συνέχεια, οι κοινωνικοί λειτουργοί χρησιμοποιούν τη διακριτική τους ευχέρεια για να αποφασίσουν αν θα προβούν σε έρευνα".
Άλλα μοντέλα πρόβλεψης που χρησιμοποιούνται σε όλη τη χώρα προσπαθούν να "εκτιμήσουν τον κίνδυνο ενός παιδιού για θάνατο και σοβαρό τραυματισμό, αν τα παιδιά πρέπει να τοποθετηθούν σε ανάδοχη οικογένεια και αν ναι, πού".
Είναι απίστευτο ότι δεν υπάρχει κανένας τρόπος για μια οικογένεια να γνωρίζει αν η τεχνολογία πρόβλεψης της τεχνητής νοημοσύνης ήταν υπεύθυνη για τη στοχοποίηση, τη διερεύνηση και τον αποχωρισμό τους από τα παιδιά τους.
Όπως σημειώνει το AP, "οι οικογένειες και οι δικηγόροι τους δεν μπορούν ποτέ να είναι σίγουροι ούτε για το ρόλο του αλγορίθμου στη ζωή τους, επειδή δεν επιτρέπεται να γνωρίζουν τα αποτελέσματα".
Ένα πράγμα που γνωρίζουμε, ωστόσο, είναι ότι το σύστημα στοχεύει δυσανάλογα τις φτωχές, μαύρες οικογένειες για παρέμβαση, διακοπή και ενδεχομένως εκτόπιση, επειδή πολλά από τα δεδομένα που χρησιμοποιούνται προέρχονται από κοινότητες με χαμηλότερο εισόδημα και μειονότητες.
Η τεχνολογία δεν είναι επίσης καθόλου αλάνθαστη. Μόνο σε μια κομητεία, ένα τεχνικό σφάλμα παρουσίασε στους κοινωνικούς λειτουργούς λάθος βαθμολογίες, υποτιμώντας ή υπερεκτιμώντας τον κίνδυνο ενός παιδιού.
Ωστόσο, είτε είναι αλάνθαστο είτε όχι, το πρόγραμμα προγνωστικού ελέγχου της τεχνητής νοημοσύνης χρησιμοποιείται ευρέως σε όλη τη χώρα από κυβερνητικές υπηρεσίες για την παρακολούθηση και τη στόχευση οικογενειών προς διερεύνηση.
Το επακόλουθο αυτής της υπερβολικής επιτήρησης, σύμφωνα με την Aysha Schomburg, την αναπληρώτρια επίτροπο του Γραφείου Παιδιών των ΗΠΑ, είναι ο "μαζικός διαχωρισμός οικογενειών".
Ο αντίκτυπος αυτού του είδους των εργαλείων πρόβλεψης της τεχνητής νοημοσύνης γίνεται αισθητός σχεδόν σε κάθε τομέα της ζωής.
Με το πρόσχημα ότι βοηθούν τις υπερφορτωμένες κυβερνητικές υπηρεσίες να εργάζονται πιο αποτελεσματικά, οι τεχνολογίες πρόβλεψης και επιτήρησης ΤΝ χρησιμοποιούνται για την ταξινόμηση, τον διαχωρισμό και τη σήμανση του πληθυσμού, χωρίς να ενδιαφέρονται για τα δικαιώματα της ιδιωτικής ζωής ή τη δέουσα διαδικασία.
Όλη αυτή η ταξινόμηση, το κοσκίνισμα και ο υπολογισμός γίνονται γρήγορα, κρυφά και αδιάκοπα με τη βοήθεια της τεχνολογίας AI και ενός κράτους επιτήρησης που παρακολουθεί κάθε σας κίνηση.
Εκεί που αυτό γίνεται ιδιαίτερα επικίνδυνο είναι όταν η κυβέρνηση λαμβάνει προληπτικά μέτρα για την καταπολέμηση του εγκλήματος ή της κατάχρησης ή οτιδήποτε άλλο έχει επιλέξει να θέσει εκτός νόμου κάθε φορά.
Με αυτόν τον τρόπο, οι κυβερνητικοί πράκτορες -με τη βοήθεια αυτοματοποιημένων ματιών και αυτιών, ενός αυξανόμενου οπλοστασίου λογισμικού, υλικού και τεχνικών υψηλής τεχνολογίας, της κυβερνητικής προπαγάνδας που προτρέπει τους Αμερικανούς να μετατραπούν σε κατασκόπους και χαφιέδες, καθώς και των μέσων κοινωνικής δικτύωσης και του λογισμικού ανίχνευσης συμπεριφοράς- περιστρέφουν ένα κολλώδες αραχνοΰφαντο πλέγμα από εκτιμήσεις απειλών, προειδοποιήσεις ανίχνευσης συμπεριφοράς, επισημασμένες "λέξεις" και αναφορές "ύποπτης" δραστηριότητας με στόχο την παγίδευση πιθανών εχθρών του κράτους.
Είστε βετεράνος του στρατού που πάσχει από διαταραχή μετατραυματικού στρες; Έχετε εκφράσει αμφιλεγόμενες, απελπισμένες ή οργισμένες απόψεις στα μέσα κοινωνικής δικτύωσης;
Συνεργάζεστε με άτομα που έχουν ποινικό μητρώο ή ενστερνίζονται θεωρίες συνωμοσίας; Σας είδαν να δείχνετε θυμωμένος στο παντοπωλείο;
Είναι η εμφάνισή σας ατημέλητη δημοσίως; Η οδήγησή σας υπήρξε ασταθής; Είχαν οι προηγούμενοι ένοικοι του σπιτιού σας κάποια σύγκρουση με την αστυνομία;
Όλες αυτές οι λεπτομέρειες και πολλές άλλες χρησιμοποιούνται από την τεχνολογία τεχνητής νοημοσύνης για να δημιουργηθεί ένα προφίλ σας που θα επηρεάσει τις συναλλαγές σας με την κυβέρνηση.
Είναι το αμερικανικό αστυνομικό κράτος συγκεντρωμένο σε ένα καταπιεστικό πακέτο προ-εγκλήματος και προ-σκέψης εγκλήματος, και το τελικό αποτέλεσμα είναι ο θάνατος της δίκαιης διαδικασίας.
Με λίγα λόγια, η δέουσα διαδικασία προοριζόταν ως προπύργιο κατά των κυβερνητικών καταχρήσεων. Η δέουσα διαδικασία απαγορεύει στην κυβέρνηση να στερεί από οποιονδήποτε τη "Ζωή, την Ελευθερία και την Ιδιοκτησία" χωρίς πρώτα να διασφαλίσει ότι τα δικαιώματα του ατόμου έχουν αναγνωριστεί και γίνει σεβαστά και ότι του έχει δοθεί η ευκαιρία να γνωρίζει τις κατηγορίες εναντίον του και να υπερασπιστεί τις κατηγορίες αυτές.
Με την έλευση των χρηματοδοτούμενων από την κυβέρνηση προγραμμάτων προληπτικής αστυνόμευσης με τεχνητή νοημοσύνη που παρακολουθούν και επισημαίνουν κάποιον ως πιθανή απειλή που πρέπει να διερευνηθεί και να αντιμετωπιστεί ως επικίνδυνος, δεν μπορεί να υπάρξει καμία διασφάλιση της δέουσας διαδικασίας: έχετε ήδη μετατραπεί σε ύποπτο.
Για να απαλλαγείτε από τις συνέπειες μιας τέτοιας αξιολόγησης απειλής, το βάρος της απόδειξης εναπόκειται σε εσάς να αποδείξετε την αθωότητά σας.
Βλέπετε το πρόβλημα;
Παλαιότερα κάθε άτομο είχε το δικαίωμα να θεωρείται αθώο μέχρι να αποδειχθεί η ενοχή του και το βάρος της απόδειξης βαραίνει τους κατηγόρους του. Αυτή η παραδοχή αθωότητας έχει έκτοτε ανατραπεί από ένα κράτος επιτήρησης που μας καθιστά όλους υπόπτους και από την υπερποινικοποίηση που μας καθιστά όλους δυνητικά ένοχους για κάποιο αδίκημα.
Συνδυάστε την τεχνολογία της προγνωστικής τεχνητής νοημοσύνης με την επιτήρηση και την υπερποινικοποίηση, και προσθέστε στη συνέχεια τη στρατιωτικοποιημένη αστυνομία που εισβάλλει μέσα στη νύχτα στις πόρτες για να επιδώσει ένα ένταλμα ρουτίνας, και θα είστε τυχεροί αν γλιτώσετε τη ζωή σας.
Ωστόσο, σας προειδοποιώ: μόλις σας πιάσει μια κάμερα παρακολούθησης, σας επισημάνει ένα πρόγραμμα προγνωστικής διαλογής τεχνητής νοημοσύνης και σας βάλει σε μια κυβερνητική λίστα παρακολούθησης -είτε πρόκειται για λίστα παρακολούθησης για παραμέληση παιδιών, είτε για λίστα παρακολούθησης ψυχικής υγείας, είτε για λίστα παρακολούθησης αντιφρονούντων, είτε για λίστα παρακολούθησης τρομοκρατών, είτε για λίστα παρακολούθησης όπλων με κόκκινη σημαία- δεν υπάρχει σαφής τρόπος να βγείτε από αυτή, είτε θα έπρεπε είτε όχι να είστε εκεί.
Θα σας παρακολουθούν όπου κι αν πάτε, θα σας επισημαίνουν ως πιθανή απειλή και θα σας αντιμετωπίζουν αναλόγως.
Αν δεν έχετε φοβηθεί ακόμα, θα έπρεπε να φοβάστε.
Έχουμε καταστήσει πολύ εύκολο για την κυβέρνηση να εντοπίζει, να χαρακτηρίζει, να στοχοποιεί, να εξουδετερώνει και να κρατά όποιον θεωρεί ως πιθανή απειλή για διάφορους λόγους που κυμαίνονται από την ψυχική ασθένεια μέχρι την ύπαρξη στρατιωτικού παρελθόντος, την αμφισβήτηση της εξουσίας της ή απλώς το να είσαι στη λίστα της κυβέρνησης με τα persona non grata.
Όπως ξεκαθαρίζω στο βιβλίο μου Battlefield America: The War on the American People και στο φανταστικό αντίστοιχό του The Erik Blair Diaries, δεν χρειάζεται καν να είσαι αντιφρονών για να σε επισημάνει η κυβέρνηση για παρακολούθηση, λογοκρισία και κράτηση.
Το μόνο που πραγματικά χρειάζεται να είσαι είναι ένας πολίτης του αμερικανικού αστυνομικού κράτους.
ΠΗΓΗ ΣΤΑ ΑΓΓΛΙΚΑ
You’ve Been Flagged as a Threat: Predictive AI Technology Puts a Target on Your Back – OffGuardian
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου