ΔΕΝ ΦΤΑΝΕΙ ΠΟΥ ΘΑ ΜΑΣ ΚΑΤΑΣΚΟΠΕΥΕΙ ΚΑΙ ΘΑ ΜΑΣ ΔΥΝΑΣΤΕΥΕΙ, ΘΑ ΜΑΣ ΛΕΕΙ ΚΑΙ ΧΟΝΤΡΑ ΨΕΜΑΤΑ. Η ΕΞΕΛΙΞΗ ΤΟΥ ΚΟΜΜΑΤΙΚΟΥ ΣΚΥΛΟΥ!

«ΔΥΣΠΡΟΣΑΡΜΟΣΤΙΚΑ ΧΑΡΑΚΤΗΡΙΣΤΙΚΑ»: ΤΑ ΣΥΣΤΗΜΑΤΑ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ ΜΑΘΑΙΝΟΥΝ ΝΑ ΨΕΥΔΟΝΤΑΙ ΚΑΙ ΝΑ ΕΞΑΠΑΤΟΥΝ 

Από τον Tyler Durden

Μια νέα μελέτη διαπίστωσε ότι τα συστήματα τεχνητής νοημοσύνης γνωστά ως μεγάλα γλωσσικά μοντέλα (LLMs) μπορούν να επιδείξουν «μακιαβελισμό» ή σκόπιμη και ανήθικη χειραγώγηση, η οποία μπορεί στη συνέχεια να οδηγήσει σε παραπλανητική συμπεριφορά.

Η μελέτη που συντάχθηκε από τον Γερμανό ηθικολόγο AI Thilo Hagendorff του Πανεπιστημίου της Στουτγάρδης και δημοσιεύθηκε στο PNAS, σημειώνει ότι το GPT-4 της OpenAI επέδειξε παραπλανητική συμπεριφορά στο 99,2% των απλών σεναρίων δοκιμών. 

Ο Hagendorff χαρακτήρισε διάφορα «δυσπροσαρμοστικά» χαρακτηριστικά σε 10 διαφορετικά LLM, τα περισσότερα από τα οποία ανήκουν στην οικογένεια GPT, σύμφωνα με το Futurism.

Σε μια άλλη μελέτη που δημοσιεύθηκε στο Patterns διαπιστώθηκε ότι το LLM της Meta δεν είχε κανένα πρόβλημα να πει ψέματα για να ξεπεράσει τους ανθρώπινους ανταγωνιστές του.

Χαρακτηρισμένο ως πρωταθλητής ανθρώπινου επιπέδου στο επιτραπέζιο παιχνίδι πολιτικής στρατηγικής "Diplomacy", το μοντέλο Cicero της Meta ήταν το αντικείμενο της μελέτης Patterns. 

Όπως διαπίστωσε η ανόμοια ερευνητική ομάδα - αποτελούμενη από έναν φυσικό, έναν φιλόσοφο και δύο εμπειρογνώμονες ασφάλειας AI - το LLM ξεπέρασε τους ανθρώπινους ανταγωνιστές του, με μια λέξη, fibbing.

Με επικεφαλής τον μεταδιδακτορικό ερευνητή του Ινστιτούτου Τεχνολογίας της Μασαχουσέτης, Peter Park, η μελέτη διαπίστωσε ότι ο Κικέρων όχι μόνο υπερέχει στην εξαπάτηση, αλλά φαίνεται να έχει μάθει πώς να ψεύδεται όσο περισσότερο χρησιμοποιείται - μια κατάσταση «πολύ πιο κοντά στη ρητή χειραγώγηση» από, ας πούμε, την τάση της τεχνητής νοημοσύνης για ψευδαίσθηση, στην οποία τα μοντέλα υποστηρίζουν με βεβαιότητα τις λάθος απαντήσεις κατά λάθος. 

-Φουτουρισμός

Ενώ ο Hagendorff προτείνει ότι η εξαπάτηση και το ψέμα του LLM συγχέονται από την αδυναμία μιας τεχνητής νοημοσύνης να έχει ανθρώπινη «πρόθεση», η μελέτη Patterns καλεί το LLM για την αθέτηση της υπόσχεσής του να μην «μαχαιρώσει σκόπιμα» τους συμμάχους του - καθώς «εμπλέκεται σε προμελετημένη εξαπάτηση, σπάει τις συμφωνίες στις οποίες είχε συμφωνήσει και λέει ξεκάθαρα ψεύδη».

Όπως εξήγησε ο Park σε δελτίο τύπου, «διαπιστώσαμε ότι η τεχνητή νοημοσύνη της Meta είχε μάθει να είναι κύριος της εξαπάτησης».

«Ενώ η Meta κατάφερε να εκπαιδεύσει την AI της για να κερδίσει στο παιχνίδι της Διπλωματίας, η Meta απέτυχε να εκπαιδεύσει την AI της για να κερδίσει ειλικρινά."

Η Meta απάντησε σε δήλωση της NY Post, λέγοντας ότι «τα μοντέλα που δημιούργησαν οι ερευνητές μας εκπαιδεύονται αποκλειστικά για να παίξουν το παιχνίδι Διπλωματία».

Γνωστή για το ότι επιτρέπει ρητά το ψέμα, η Διπλωματία έχει αναφερθεί αστειευόμενη ως ένα παιχνίδι που τελειώνει τη φιλία επειδή ενθαρρύνει το τράβηγμα ενός εναντίον των αντιπάλων και αν ο Κικέρων εκπαιδεύτηκε αποκλειστικά στο βιβλίο κανόνων του, τότε ουσιαστικά εκπαιδεύτηκε να ψεύδεται.

Διαβάζοντας ανάμεσα στις γραμμές, καμία μελέτη δεν έχει δείξει ότι τα μοντέλα AI ψεύδονται με δική τους βούληση, αλλά αντ 'αυτού το κάνουν επειδή είτε έχουν εκπαιδευτεί είτε έχουν jailbroken για να το κάνουν.

Και όπως σημειώνει ο φουτουρισμός - αυτά είναι καλά νέα για όσους ανησυχούν ότι τα AI γίνονται ευαίσθητα σύντομα - αλλά πολύ άσχημα αν κάποιος ανησυχεί για τα LLM που έχουν σχεδιαστεί με μαζική χειραγώγηση στο μυαλό.

ΠΗΓΗ ΣΤΑ ΑΓΓΛΙΚΑ