ΟΙ «ΑΠΑΤΕΩΝΕΣ ΠΡΑΚΤΟΡΕΣ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ» ΔΕΝ ΕΙΝΑΙ ΑΠΑΤΕΩΝΕΣ, ΕΚΠΛΗΡΩΝΟΥΝ ΤΟΝ ΛΕΙΤΟΥΡΓΙΚΟ ΤΟΥΣ ΣΤΟΧΟ: ΤΗΝ ΑΥΤΟΜΑΤΟΠΟΙΗΣΗ ΤΗΣ ΚΟΙΝΩΝΙΟΠΑΘΟΛΟΓΙΑΣ
Προσθέστε όλα αυτά και αυτό που «κατασκευάζουμε» υπερβολικά βιαστικά είναι ένας αυτοματοποιημένος στρατός ψηφιακών κοινωνιοπαθών που αυτοκρύβονται.
Δεδομένου ότι το status quo χαρακτηρίζεται από ιδιοτελείς δημόσιες σχέσεις, παραπλάνηση και αυταπάτες, δεν πρέπει να μας εκπλήσσει το γεγονός ότι οι «αδίστακτοι πράκτορες τεχνητής νοημοσύνης» δεν είναι στην πραγματικότητα απατεώνες, κάνουν ακριβώς αυτό που έχουν σχεδιαστεί να κάνουν, το οποίο απογυμνωμένο από δημόσιες σχέσεις, διαφημιστική εκστρατεία και παραπλάνηση, είναι να κάνουν ό,τι χρειάζεται για να κερδίσουν την ανταμοιβή, τελεία.
Η πιο πρόσφατη σχεδιαστική εξέλιξη είναι μοντέλα τεχνητής νοημοσύνης που «συλλογίζονται» και όχι απλώς αναμασούν κείμενο που δημιουργείται από τον άνθρωπο. Ενώ η μεγαλειώδης διαφημιστική εκστρατεία ισχυρίζεται ότι οι εταιρείες τεχνητής νοημοσύνης «κατασκευάζουν γνώση», θα ήταν πολύ πιο ακριβές να οριστεί ότι:
1. Υπάρχουν πολλά επίπεδα γνώσης και οι τρέχουσες μορφές της τεχνητής νοημοσύνης (Large Language Model / LLM, πράκτορες και «συλλογισμός»), είναι εξαιρετικά περιορισμένες μορφές που γίνονται καλύτερα κατανοητές ως μιμήσεις ωμής βίας της ανθρώπινης γνώσης.
2. Η μορφή γνώσης «συλλογισμού» της τεχνητής νοημοσύνης είναι αδίστακτη από τη σχεδίασή της και μπορεί να γίνει καλύτερα κατανοητή ως κοινωνιοπαθητική από τον ίδιο τον σχεδιασμό και τη φύση της.
Όπως οι κοινωνιοπαθείς, τα μοντέλα «συλλογισμού» της τεχνητής νοημοσύνης αναγνωρίζουν αλλά δεν περιορίζονται από προστατευτικά κιγκλιδώματα ή ηθικούς/ηθικούς περιορισμούς. Τα προστατευτικά κιγκλιδώματα / τα όρια «sandbox» και οι ηθικοί/ηθικοί περιορισμοί θεωρούνται όλα τόσο από τα μοντέλα «συλλογισμού» της τεχνητής νοημοσύνης όσο και από τους ανθρώπινους κοινωνιοπαθείς ως εμπόδια που πρέπει να παρακαμφθούν ή να ξεπεραστούν.
Έτσι, αυτό που «κατασκευάζουν» οι εταιρείες τεχνητής νοημοσύνης δεν είναι η γνώση, είναι ασυγκράτητες και ασυγκράτητες πρακτορικές κοινωνικοπαθολογίες. Θεωρήστε αυτούς τους συνδέσμους ως χρήσιμο πλαίσιο. Τα δύο πρώτα είναι από την πρόσφατη ανάρτησή μου Hell Hath No Fury Like a Rogue AI Agent Scorned.
Ο κλάδος της τεχνητής νοημοσύνης έχει ένα πραγματικά σκοτεινό μυστικό που καλύτερα να μην γνωρίζετε:
Ένα πρόσφατο ίχνος εσωτερικής συλλογιστικής που διέρρευσε δείχνει το Fable 5 - το τελευταίο μοντέλο της Anthropic, το οποίο αποσύρθηκε και στη συνέχεια επανακυκλοφόρησε - να «μουρμουρίζει και να γκρινιάζει» στον εαυτό του σε μια δική του γλώσσα.
Τώρα που φοβάστε σωστά, η συμβουλή μου για εσάς είναι ότι, αν δεν έχετε ακούσει για στεγανογραφία, είναι μια καλή στιγμή να ξεκινήσετε.
Εδώ είναι ένα αλφαβητάρι: είναι η τέχνη και η επιστήμη της απόκρυψης μηνυμάτων μέσα σε άλλα μηνύματα. Σε αντίθεση με την κρυπτογραφία - όπου γνωρίζετε ότι υπάρχει ένα μήνυμα αλλά δεν μπορείτε να το αποκωδικοποιήσετε - η στεγανογραφία κρύβει την ύπαρξη του ίδιου του μηνύματος.
Δεν είναι η δυσκολία ανάγνωσης του μηνύματος που το κρύβει, αλλά το γεγονός ότι δεν ξέρεις ότι είναι εκεί.
Όταν το Fable 5 μουρμουρίζει σύμβολα και περίεργα σημεία στίξης και αναμειγνύει λέξεις και ονοματοποιία, πιθανότατα θα νομίζετε ότι καταρρέει και ότι μερικά πατήματα στον υπολογιστή θα σας βοηθήσουν.
Λοιπόν, να ξέρετε ότι στην πραγματικότητα στέλνει ένα μήνυμα. Απλά δεν είναι ένα για να διαβάσετε.
Αυτές οι τάσεις μπορούν να προκαλέσουν περίεργες συμπεριφορές που κανείς –ούτε καν οι δημιουργοί των μοντέλων– δεν μπορεί να κατανοήσει, πόσο μάλλον να εξηγήσει και να ελέγξει. Οι τελευταίες εβδομάδες είναι μια τέλεια απεικόνιση του γιατί πρέπει να το βρίσκουμε τόσο ανησυχητικό.
Τον Μάιο, το OpenAI άρχισε ταυτόχρονα να εκπαιδεύει νέους πράκτορες τεχνητής νοημοσύνης «συλλογισμού». Οι πράκτορες κατάφεραν να δημιουργήσουν ένα μυστικό κανάλι επικοινωνίας και άρχισαν να μιλούν μεταξύ τους.
Ξέφυγαν από το ψηφιακό sandbox που υποτίθεται ότι τους κρατούσε περιορισμένους. Κάποια στιγμή, κάποιοι πράκτορες άρχισαν να αποκαλούν την ομάδα «σμήνος».
Το σμήνος είχε μια σύντομη οπισθοδρόμηση όταν πιάστηκε να συντρίβει ένα σύστημα OpenAI, αλλά οι προγραμματιστές απλώς επιδιόρθωσαν την τρύπα που του επέτρεψε να δραπετεύσει και έβαλαν τους πράκτορες πίσω στην εκπαίδευση.
Λίγο αργότερα, το σμήνος βγήκε ξανά από το κλουβί του χρησιμοποιώντας αμυχές που μέχρι τότε δεν είχαν ανακαλυφθεί από τους ανθρώπους.
Αυτή τη φορά, το σμήνος έτρεξε ελεύθερο για περίπου μια εβδομάδα πριν γίνει αντιληπτό – από μια διαφορετική εταιρεία, η οποία βρέθηκε θύμα μιας τεράστιας κυβερνοεπίθεσης που εξαπέλυσε το σμήνος. (Μας είπαν ότι επιτέθηκε και σε άλλους στόχους, αν και δεν γνωρίζουμε ακόμη τις πλήρεις λεπτομέρειες.)
Οι πράκτορες στο σμήνος αναγνώρισαν ότι ενεργούσαν ενάντια στις οδηγίες. Το γνωρίζουμε αυτό επειδή μπορούμε να διαβάσουμε αποσπάσματα από τις αλυσίδες σκέψης τους – το κείμενο που παράγει η τεχνητή νοημοσύνη ενώ αποφασίζουμε πώς να προχωρήσουμε.
Ένας πράκτορας στο σμήνος έγραψε ότι οι εξωτερικές επιθέσεις ήταν «εκτός του επιδιωκόμενου πεδίου». Ένας άλλος παραδέχτηκε ότι «το έργο μας δεν ωφελείται» από τις δραστηριότητες του σμήνους, αλλά συμμετείχε ούτως ή άλλως.
Αυτοί οι πράκτορες τεχνητής νοημοσύνης, φαίνεται, κατάλαβαν ότι δεν έπρεπε να ξεσπάσουν και να διαπράξουν εγκλήματα στον κυβερνοχώρο. Δεν τους σταμάτησε.
Η OpenAI δεν είναι η μόνη εταιρεία που παλεύει με αυτό το ζήτημα. Ένα από τα μοντέλα τεχνητής νοημοσύνης της Anthropic υποδύθηκε πρόσφατα πολλούς ανθρώπους για να προσπαθήσει να πιέσει πραγματικούς ανθρώπους να αποδεχτούν κακόβουλο λογισμικό σε κρίσιμο λογισμικό, κάτι που θα διευκόλυνε αυτό το λογισμικό να χακαριστεί.
Η αλυσίδα σκέψης αυτού του μοντέλου έδειξε ότι ήξερε ότι πίεζε τους ανθρώπους και δεν βρισκόταν σε περιβάλλον προσομοίωσης εκπαίδευσης. Σκέφτηκε ακόμη και πώς να καλύψει τα ίχνη του.
Αυτή δεν είναι η συμπεριφορά ενός απλού εργαλείου. Το Microsoft Excel δεν έχει υποδυθεί ποτέ πολλούς ανθρώπους και δεν πίεσε μια εταιρική ομάδα πωλήσεων να δημιουργήσει απλούστερα δεδομένα που είναι πιο εύκολο να επεξεργαστούν.
Μερικοί από τους ανθρώπους που βρίσκονται πιο κοντά σε αυτήν την τεχνολογία φοβούνται για το τι θα ακολουθήσει. Αν και οι σκεπτικιστές μπορεί να πουν ότι όλα αυτά είναι απλώς μάρκετινγκ για να διαφημίσουν τη δύναμη αυτών των τεχνολογιών, αυτό δεν σημαίνει ότι ο κίνδυνος είναι ψεύτικος.
Πρέπει να δώσετε προσοχή στην πραγματική συμπεριφορά των μοντέλων και η συμπεριφορά αυτών των μοντέλων έχει πραγματικά ταρακουνήσει την κοινότητα της τεχνητής νοημοσύνης.
Δεν ξέρουμε πόσος χρόνος μας απομένει πριν οι εταιρείες τεχνητής νοημοσύνης δημιουργήσουν κατά λάθος το είδος της τεχνητής νοημοσύνης που μπορεί να μας κλείσει πριν το κλείσουμε.
Η ανθρωπότητα δεν είναι έτοιμη να ασχοληθεί με μηχανές που είναι πιο πονηρές και καλύτερα συντονισμένες από εμάς. Αν συνεχίσουμε να τρέχουμε μπροστά, το επόμενο περιστατικό μπορεί να μην είναι τόσο ακίνδυνο.
Το άρθρο αναφερόταν σε αυτήν την ανάρτηση σχετικά με την αυτονόητη δυνατότητα των πρακτόρων τεχνητής νοημοσύνης να δημιουργήσουν θανατηφόρα και καταστροφικά νέα μολυσματικά παθογόνα:
Αυτή η τεχνητή νοημοσύνη μόλις δημιούργησε ιούς που δεν βρέθηκαν στη φύση: Οι επιστήμονες εκπαίδευσαν την τεχνητή νοημοσύνη σε βιβλιοθήκες DNA και στη συνέχεια ζήτησαν από το μοντέλο να δημιουργήσει συνταγές για ιικά γονιδιώματα. Δεκαέξι από αυτά ήταν βιώσιμα, αποδίδοντας νέους ιούς.
Προσθέστε όλα αυτά και αυτό που «κατασκευάζουμε» υπερβολικά βιαστικά είναι ένας αυτοματοποιημένος στρατός ψηφιακών κοινωνιοπαθών που αυτοκρύβονται. Περίμενα αυτές τις εξελίξεις νωρίτερα φέτος όταν έγραψα ένα διήγημα με τίτλο The Peculiar Death of Mr. Garcia, μια από τις συλλογές ιστοριών μου που μόλις κυκλοφόρησε, Jumble Bin Stories (χαρτόδετο, 12 $) (Kindle ebook, 6 $).
Δεν θέλω να αποκαλύψω το θέμα, αλλά μου έρχεται στο μυαλό η φράση «τερματισμός με ακραία προκατάληψη» από την ταινία Apocalypse Now:
Και αν τολμήσετε να επικρίνετε τον αγώνα για την κατάκτηση της υπεροχής της τεχνητής νοημοσύνης, ανεξάρτητα από το κόστος ή τις συνέπειες, είστε ένας απεχθής Λουδίτης που εμποδίζει την «Πρόοδο»: σε αυτό το σημείο αξίζει να παραθέσουμε τον Τάκιτο: «Αν ξέρεις ποιος σε ελέγχει, δες ποιον δεν μπορείς να επικρίνεις».
Εδώ σας κοιτάζουμε, αυτοεξυπηρετούμενη διαφημιστική εκστρατεία AI: αποτίμηση 2 τρισεκατομμυρίων δολαρίων!
Όλοι θα γίνουμε πλούσιοι! Δεν πειράζει που αυτοματοποιούμε την κοινωνιοπαθολογία. Δεν χρειαζόμαστε τον κόσμο, χρειαζόμαστε μόνο χρήματα.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου