ΤΑ ΓΕΡΜΑΝΙΚΑ ΚΡΑΤΙΔΙΑ ΕΠΕΚΤΕΙΝΟΥΝ ΤΙΣ ΑΣΤΥΝΟΜΙΚΕΣ ΕΞΟΥΣΙΕΣ ΓΙΑ ΝΑ ΕΞΑΣΚΗΣΟΥΝ ΜΕ ΧΡΗΣΗ ΠΡΟΣΩΠΙΚΩΝ ΔΕΔΟΜΕΝΩΝ ΣΥΣΤΗΜΑΤΑ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ ΠΟΥ ΘΑ ΕΠΙΤΗΡΟΥΝ ΤΟΥΣ ΠΟΛΙΤΕΣ
Αρκετά γερμανικά κρατίδια ετοιμάζονται να διευρύνουν τις αστυνομικές εξουσίες επιτρέποντας τη χρήση προσωπικών δεδομένων στην εκπαίδευση τεχνολογιών επιτήρησης.
Η Βόρεια Ρηνανία-Βεστφαλία και η Βάδη-Βυρτεμβέργη εισάγουν νομοθετικές αλλαγές που θα επιτρέπουν στην αστυνομία να τροφοδοτεί αναγνωρίσιμες πληροφορίες, όπως ονόματα και εικόνες προσώπου, σε εμπορικά συστήματα τεχνητής νοημοσύνης.
Και τα δύο σχέδια το επιτρέπουν ακόμη και όταν η ανωνυμοποίηση ή η ψευδωνυμοποίηση παρακάμπτεται επειδή η αστυνομία το θεωρεί «αδύνατο» ή εφικτό μόνο με «δυσανάλογη προσπάθεια».
Το Αμβούργο υιοθέτησε παρόμοιους κανόνες νωρίτερα φέτος και το παράδειγμά του φαίνεται να ενθάρρυνε και άλλες περιοχές να ακολουθήσουν. Αυτές οι εξελίξεις μαζί σηματοδοτούν μια σαφή κίνηση προς την ομαλοποίηση της χρήσης προσωπικών πληροφοριών ως καύσιμο για αλγόριθμους επιτήρησης.
Η αλυσιδωτή αντίδραση ξεκίνησε στη Βαυαρία, όπου η αστυνομία στις αρχές του 2024 δοκίμασε το λογισμικό παρακολούθησης της Palantir με πραγματικά προσωπικά δεδομένα.
Το πείραμα προκάλεσε αντιρρήσεις από την αρχή προστασίας δεδομένων της πολιτείας, αλλά εξακολουθούσε να χρησιμεύει ως πρότυπο για άλλους.
Το Αμβούργο χρησιμοποίησε την ίδια ιδέα τον Ιανουάριο του 2025 για να τροποποιήσει τους νόμους του, χορηγώντας άδεια εκπαίδευσης «συστημάτων πληροφορικής μάθησης» σε δεδομένα από παρευρισκόμενους. Τώρα η Βάδη-Βυρτεμβέργη και η Βόρεια Ρηνανία-Βεστφαλία σχεδιάζουν να υιοθετήσουν σχεδόν πανομοιότυπη γλώσσα.
Στη Βόρεια Ρηνανία-Βεστφαλία, η αστυνομία θα έχει τη δυνατότητα να ανεβάζει σαφή αναγνωριστικά, όπως ονόματα ή πρόσωπα, σε εμπορικά συστήματα όπως αυτό της Palantir και να βελτιώνει τα προγράμματα συμπεριφοράς ή αναγνώρισης προσώπου με πραγματικά, αναλλοίωτα δεδομένα.
Η Bettina Gayk, υπεύθυνη προστασίας δεδομένων της πολιτείας, προειδοποίησε ότι «ο προτεινόμενος κανονισμός αντιμετωπίζει σημαντικές συνταγματικές ανησυχίες».
Υποστήριξε ότι η χρήση δεδομένων από άτομα που αναφέρονται ως θύματα ή καταγγέλλοντες ήταν υπερβολική και πρόσθεσε ότι «τα προϊόντα από εμπορικούς παρόχους βελτιώνονται με τη βοήθεια δεδομένων που συλλέγονται και αποθηκεύονται από το κράτος», κάτι που βρήκε απαράδεκτο.
Η πολιτειακή κυβέρνηση έχει ενσωματώσει αυτή την επέκταση των εξουσιών επιτήρησης σε μια ευρύτερη αναθεώρηση του νόμου περί αστυνομίας, μια αλλαγή που αρχικά απαιτήθηκε από το Ομοσπονδιακό Συνταγματικό Δικαστήριο.
Το δικαστήριο είχε προηγουμένως αποφανθεί ότι η μακροχρόνια παρακολούθηση βίντεο βάσει του ισχύοντος νόμου παραβίαζε τον Βασικό Νόμο.
Αντί να περιορίσει αυτές τις εξουσίες, το νέο σχέδιο εισάγει μια ρήτρα που επιτρέπει στην αστυνομία να «αναπτύσσει, να επανεξετάζει, να αλλάζει ή να εκπαιδεύει προϊόντα πληροφορικής» με προσωπικά δεδομένα.
Αυτή η διατύπωση επιτρέπει αποτελεσματικά τη συνεχή χρήση της πλατφόρμας ανάλυσης δεδομένων της Palantir, αποφεύγοντας παράλληλα τα συνταγματικά όρια που ζήτησε το δικαστήριο.
Σε όλη τη Βόρεια Ρηνανία-Βεστφαλία, τη Βάδη-Βυρτεμβέργη και το Αμβούργο, το αποτέλεσμα θα είναι παρόμοιο: τα προσωπικά δεδομένα μπορούν να χρησιμοποιηθούν για εκπαίδευση μόλις η ανωνυμοποίηση κριθεί δυσανάλογα δύσκολη, με την αξιολόγηση να επαφίεται στη διακριτική ευχέρεια της αστυνομίας.
Ο Gayk προέτρεψε να απαγορευτεί εντελώς η χρήση μη ανώνυμων δεδομένων, προειδοποιώντας ότι οι εξαιρέσεις είναι γραμμένες τόσο ευρέως που «τελικά δεν θα οδηγήσουν σε περιορισμούς στην πράξη».
Ο πράσινος-μαύρος συνασπισμός της Βάδης-Βυρτεμβέργης σχεδιάζει να περάσει το νομοσχέδιό του αυτή την εβδομάδα.
Θα έδινε στην αστυνομία την άδεια να εκπαιδεύσει και να δοκιμάσει λογισμικό όπως αυτό της Palantir, το οποίο το κράτος έχει ήδη αγοράσει για περισσότερα από 25 εκατομμύρια ευρώ (29 εκατομμύρια δολάρια), χρησιμοποιώντας προσωπικά δεδομένα πολιτών, ανεξάρτητα από το αν είναι ύποπτοι.
Ο προτεινόμενος νόμος ορίζει ότι τα δεδομένα μπορούν να υποβληθούν σε επεξεργασία «για την ανάπτυξη, τη δοκιμή και την επικύρωση» συστημάτων τεχνολογίας πληροφοριών.
Ο Tobias Keber, υπεύθυνος προστασίας δεδομένων της πολιτείας, ζήτησε ρητούς ελέγχους για να διασφαλιστεί ότι η ανωνυμοποίηση είναι πραγματικά αδύνατη προτού επιτραπεί η χρήση αναγνωρίσιμων δεδομένων.
Υποστήριξε επίσης ότι το γραφείο του θα πρέπει να εμπλακεί νωρίς στη διαδικασία για να αποφευχθεί η κατάχρηση.
Το Αμβούργο έχει ήδη εφαρμόσει ένα σύστημα που επιτρέπει στην αστυνομία του να εκπαιδεύει μοντέλα τεχνητής νοημοσύνης σε πραγματικά ονόματα και δεδομένα προσώπου και να μοιράζεται αυτές τις πληροφορίες με τρίτους όταν η ανωνυμοποίηση θεωρείται πολύ επαχθής.
Η αλλαγή ευθυγραμμίζεται με την ευρύτερη προσπάθεια της πόλης να αυτοματοποιήσει την παρακολούθηση βίντεο.
Ένα πιλοτικό έργο που ξεκίνησε το 2023 χρησιμοποίησε τεχνητή νοημοσύνη για να σαρώσει δημόσιες κάμερες για «άτυπη συμπεριφορά», όπως καυγάδες ή ομάδες θεατών.
Ο γερουσιαστής Εσωτερικών Andy Grote δήλωσε: «Η μέχρι σήμερα εμπειρία δείχνει ότι χάρη στο λογισμικό, αντιλαμβανόμαστε επικίνδυνες καταστάσεις πολύ νωρίς και μπορούμε να παρέμβουμε αμέσως».
Παρά τον ισχυρισμό αυτό, το τεστ δημιούργησε μόνο μία ποινική υπόθεση.
Η αρχή προστασίας δεδομένων του Αμβούργου αποδέχεται ότι η βιντεοεπιτήρηση με χρήση πραγματικών δεδομένων θα μπορούσε να είναι νομικά δυνατή, αλλά προειδοποιεί ότι η ασαφής γλώσσα του νόμου, ειδικά γύρω από τη «δυσανάλογη προσπάθεια», αφήνει πάρα πολλά περιθώρια ερμηνείας. Προειδοποιεί επίσης για την αυξανόμενη εξάρτηση από εμπορικούς παρόχους επιτήρησης.
Σε όλα αυτά τα κρατίδια, οι μακροχρόνιες αρχές απορρήτου της Γερμανίας ξαναγράφονται αθόρυβα.
Η αστυνομία αποκτά τη δυνατότητα να τροφοδοτεί πραγματικά προσωπικά δεδομένα σε ιδιωτικά συστήματα τεχνητής νοημοσύνης, μετατρέποντας τους απλούς πολίτες σε πρώτη ύλη για την ανάπτυξη τεχνολογίας.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου