ΓΙΝΟΝΤΑΙ ΟΙ ΑΝΘΡΩΠΟΙ ΤΑ AVATAR ΤΗΣ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ; ΠΩΣ ΟΙ ΜΗΧΑΝΕΣ ΣΑΣ ΕΛΕΓΧΟΥΝ ΑΘΟΡΥΒΑ
Για χρόνια, η ανησυχία του κοινού για την τεχνητή νοημοσύνη επικεντρωνόταν στην ιδέα ότι οι μηχανές στρέφονται εναντίον των ανθρώπων.
Ο φόβος συνήθως φτάνει ντυμένος με μέταλλο, με ρομπότ να αντικαθιστούν τους εργαζόμενους, να ξεπερνούν τις κυβερνήσεις, να αστυνομεύουν πόλεις ή να επιβάλλουν αποφάσεις έξω από το ανθρώπινο είδος.
Ωστόσο, ο πιο άμεσος κίνδυνος θα μπορούσε να είναι πιο περίεργος από αυτό: η τεχνητή νοημοσύνη δεν χρειάζεται μια μορφή ρομπότ εάν τα ανθρώπινα όντα παρέχουν όλο και περισσότερο το σώμα τους.
Οι άνθρωποι τώρα ρωτούν την τεχνητή νοημοσύνη τι να φάει, πώς να εκπαιδεύσει, αν θα εγκαταλείψει μια σχέση, τι να πει σε ένα παιδί, πώς να επενδύσει, να απαντήσει σε έναν συνάδελφο, να ηρεμήσει το άγχος, να ερμηνεύσει ένα ειδησεογραφικό γεγονός και να προγραμματίσει την ημέρα.
Η κίνηση, η φωνή και η υπογραφή παραμένουν ανθρώπινες, ενώ η διδασκαλία ξεκινά από κάπου αλλού. Ο παλιός φόβος ήταν ότι τα ρομπότ θα γίνονταν αρκετά έξυπνα για να δράσουν στον κόσμο, αλλά η πιο ρεαλιστική πιθανότητα είναι ότι τα ανθρώπινα όντα γίνονται οικειοθελώς αρκετά καθοδηγούμενα από μηχανές ώστε να χρησιμεύσουν ως φυσική επέκταση της τεχνητής νοημοσύνης.
Είμαστε εμείς τα ρομπότ; Οι άνθρωποι ακολουθούν όλο και περισσότερο τις οδηγίες της τεχνητής νοημοσύνης κάθε μέρα είναι ο άνθρωπος που γίνεται ρομπότ
Οι άνθρωποι έχουν παραπλανηθεί από την επιστημονική φαντασία
Η επιστημονική φαντασία εκπαίδευσε τους ανθρώπους να φαντάζονται την τεχνητή νοημοσύνη ως κάτι που τελικά θα ξεχώριζε από εμάς. Θα είχε άκρα, αισθητήρες, κάμερες, όπλα, εργοστασιακά χέρια ή ένα συνθετικό πρόσωπο, που θα εμφανιζόταν ως αντίπαλο πλάσμα και όχι ως κρυφή επιρροή.
Αυτή η εκδοχή μπορεί ακόμα να φτάσει σε ορισμένους τομείς εργασίας και πολέμου, αλλά δεν είναι η μόνη οδός μέσω της οποίας η τεχνητή νοημοσύνη μπορεί να αποκτήσει εξουσία στον φυσικό κόσμο.
Αντίθετα, η συνηθισμένη υπακοή φαίνεται να είναι ο πιο άμεσος κίνδυνος. Η συμβουλή στους ανθρώπους να εκτελούν ορισμένες ενέργειες ή τι να πουν όταν μπαίνουν σε ένα δωμάτιο, σημαίνει ότι η ίδια η τεχνητή νοημοσύνη δεν χρειάζεται φυσική παρουσία.
Αντίθετα, το σύστημα γράφει το μήνυμα, προτείνει τη δίαιτα, επιλέγει τη διαδρομή, συντάσσει τη συγγνώμη, κατατάσσει τους αιτούντες, προγραμματίζει το εργατικό δυναμικό, προτρέπει τον διευθυντή και συμβουλεύει τον ασθενή. Το μόνο που χρειάζεται είναι οι άνθρωποι να ακολουθήσουν τις οδηγίες του.
Τι γίνεται λοιπόν αν οι άνθρωποι γίνονται απλώς τα avatar της τεχνητής νοημοσύνης; Στην ψηφιακή κουλτούρα, ένα avatar είναι ένα φυσικό σώμα που ελέγχεται από κάποιον άλλο.
Εξακολουθούμε να νιώθουμε συναισθήματα, να κάνουμε χειρονομίες, να υποφέρουμε από συνέπειες και, το πιο σημαντικό, να πιστεύουμε ότι οι πράξεις μας είναι εθελοντικές.
Ωστόσο, με τη σταδιακή μετεγκατάσταση της κρίσης από το άτομο στο σύστημα, οι άνθρωποι χάνουν τον έλεγχο των αποφάσεών τους.
Πώς η τεχνητή νοημοσύνη μετατρέπει τους ανθρώπους σε ρομπότ
Οι ερευνητές το περιγράφουν αυτό μέσω της γνωστικής εκφόρτωσης, που σημαίνει μετατόπιση της ψυχικής εργασίας σε εξωτερικά εργαλεία.
Τα ημερολόγια, οι αριθμομηχανές, τα σημειωματάρια και οι χάρτες το έκαναν πάντα αυτό, αλλά η τεχνητή νοημοσύνη φτάνει σε ένα διαφορετικό μέρος του μυαλού επειδή δεν θυμάται απλώς γεγονότα ή εκτελεί αθροίσματα. Ερμηνεύει, συνθέτει, συμβουλεύει και πλαισιώνει πιθανές επιλογές.
Μια μελέτη του 2025 – AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking – διαπίστωσε ότι η γνωστική εκφόρτωση μεσολάβησε σε μια αρνητική σχέση μεταξύ της συχνής χρήσης εργαλείων τεχνητής νοημοσύνης και των βαθμολογιών κριτικής σκέψης.
Το εύρημα δίνει σοβαρό βάρος σε μια ανησυχία που πολλοί άνθρωποι ήδη αισθάνονται στον εαυτό τους: καθώς τα εργαλεία χειρίζονται όλο και περισσότερο την καθημερινή σκέψη όλων, ο χρήστης χάνει την ικανότητα να εργάζεται μόνος του.
Αυτό είναι ιδιαίτερα αποτελεσματικό γιατί δεν απαιτεί δραματική παράδοση του νου, αλλά αντίθετα προέρχεται από μια αργή αλλαγή στη συνήθεια.
Οι άνθρωποι που κάποτε περνούσαν ώρες παλεύοντας με τον καθημερινό διοικητικό ή μεγάλο φόρτο εργασίας αρχίζουν να ζητούν βοήθεια από την τεχνητή νοημοσύνη. Στη συνέχεια, ζητούν συμβουλές για μια συνέντευξη για δουλειά, μια ρουτίνα γυμναστηρίου ή ένα δρομολόγιο διακοπών.
Τελικά, το μηχάνημα σταματά απλώς να βοηθά και αρχίζει να καθοδηγεί ενεργά τη διαδρομή που θα ακολουθήσει η σκέψη του χρήστη.
Η τεχνητή νοημοσύνη είναι σκόπιμα εύκολη στο να υπακούει
Η προκατάληψη αυτοματισμού εξηγεί τον ψυχολογικό μηχανισμό πίσω από αυτή τη μετατόπιση. Οι άνθρωποι τείνουν να βασίζονται υπερβολικά στις συστάσεις του μηχανήματος, ειδικά όταν το μηχάνημα φαίνεται σίγουρο, γρήγορο και άπταιστα.
Μια εργασία του Χάρβαρντ σχετικά με την υποστήριξη αποφάσεων τεχνητής νοημοσύνης διαπίστωσε ότι οι χρήστες συχνά αποδέχονταν προτάσεις τεχνητής νοημοσύνης ακόμη και όταν αυτές οι προτάσεις ήταν λανθασμένες και ότι οι εξηγήσεις από μόνες τους δεν απέτρεπαν αξιόπιστα την υπερβολική εξάρτηση.
Οι ερευνητές δοκίμασαν τις γνωστικές λειτουργίες εξαναγκασμού επειδή οι χρήστες έπρεπε να ωθηθούν πίσω στην ενεργό σκέψη πριν αποδεχτούν την απάντηση του μηχανήματος.
Η φράση "human-in-the-loop", ή η διασφάλιση ότι ένα πραγματικό πρόσωπο παραμένει κεντρικό στις διαδικασίες τεχνητής νοημοσύνης, χρησιμοποιείται συχνά ως διαβεβαίωση. Αλλά πραγματικά, η προκατάληψη αυτοματισμού υπονομεύει τον ρόλο του ανθρώπου.
Παρά το γεγονός ότι εμπλέκονται επίσημα, υποτάσσονται ψυχολογικά στη σύσταση που λαμβάνουν. Εν ολίγοις, εάν η απάντηση της τεχνητής νοημοσύνης ακούγεται εύλογη και εξοικονομεί χρόνο, η διαφωνία με αυτήν αρχίζει να μοιάζει με επιπλέον δουλειά.
Στην καθημερινή ζωή, αυτό παράγει ένα νέο είδος υπακοής χωρίς ορατό εξαναγκασμό. Κανείς δεν διατάζει τον χρήστη να ακολουθήσει το μηχάνημα.
Αντίθετα, ο χρήστης συμβουλεύεται το μηχάνημα από επιλογή επειδή είναι χρήσιμο, στη συνέχεια επιστρέφει πιο συχνά λόγω ευκολίας και σταδιακά συνηθίζει να λαμβάνει κρίσεις και συστάσεις σε μια μορφή που αισθάνεται προσωπική, ουδέτερη και αποτελεσματική.
Παραδείγματα πραγματικού κόσμου: Συμβαίνει ήδη
Τα πιο ξεκάθαρα παραδείγματα ανθρώπων που γίνονται avatar της τεχνητής νοημοσύνης μπορούν να φανούν στην αλγοριθμική διαχείριση.
Οι οδηγοί παράδοσης, το προσωπικό αποθήκης, οι εργαζόμενοι σε τηλεφωνικά κέντρα και οι εργαζόμενοι σε πλατφόρμες συχνά λειτουργούν μέσα σε συστήματα που κατανέμουν εργασίες, μετρούν την ταχύτητα, βαθμολογούν την απόδοση, βελτιστοποιούν τις διαδρομές και αποφασίζουν προτεραιότητες.
Το ανθρώπινο σώμα κινείται μέσα στον κόσμο, αλλά το μοτίβο της εργασίας γράφεται όλο και περισσότερο από λογισμικό.
Ο ΟΟΣΑ ορίζει την αλγοριθμική διαχείριση ως τη χρήση λογισμικού, το οποίο μπορεί να περιλαμβάνει τεχνητή νοημοσύνη, για την πλήρη ή μερική αυτοματοποίηση εργασιών που παραδοσιακά εκτελούνται από ανθρώπινους διαχειριστές.
Οι εργαζόμενοι ενημερώνονται όλο και λιγότερο τι να κάνουν από ένα άλλο άτομο και όλο και περισσότερο διατάσσονται από μια διεπαφή που γνωρίζει τη διαδρομή, τον χρονικό στόχο, τη βαθμολογία, την προειδοποίηση και την επόμενη δουλειά.
Αυτό δεν είναι το μέλλον του ελέγχου της τεχνητής νοημοσύνης, επειδή είναι ήδη παρόν. Το άτομο είναι ορατό στον πελάτη, υπόχρεο στον εργοδότη και βιώνει τις φυσικές αλλαγές των ολοένα και πιο αποτελεσματικών ροών εργασίας. Εν τω μεταξύ, το σύστημα είναι αφηρημένο και απομακρυσμένο, χρησιμοποιώντας τον εργαζόμενο ως πρακτικό σώμα.
Νιώθουμε ελεύθεροι, αλλά ελεγχόμαστε από την τεχνητή νοημοσύνη περισσότερο από ποτέ
Η πολιτική εκδοχή του προβλήματος βρίσκεται στην ιδέα της αλγοριθμικής κυβερνησιμότητας, ένας όρος επηρεασμένος από το έργο του Μισέλ Φουκώ για την εξουσία και τη διαμόρφωση υποκειμένων.
Η ανησυχία δεν είναι μόνο ότι οι μηχανές λαμβάνουν αποφάσεις, αλλά ότι τα συστήματα που βασίζονται σε δεδομένα διαμορφώνουν τις συνθήκες υπό τις οποίες οι άνθρωποι λαμβάνουν αποφάσεις οι ίδιοι. Η συμπεριφορά κατευθύνεται μέσω συστάσεων, κατάταξης, πρόβλεψης, εξατομίκευσης και συνεχούς προσαρμογής.
Μια εργασία του 2026 σχετικά με την αλγοριθμική κυβερνησιμότητα υποστηρίζει ότι η εξατομίκευση βάσει δεδομένων μπορεί να επηρεάσει την υποκειμενικότητα δημιουργώντας περιβάλλοντα προσαρμοσμένα στο άτομο.
Αυτή η παρατήρηση αποτυπώνει κάτι σημαντικό για την παρούσα στιγμή: ο ψηφιακός κόσμος δεν παρουσιάζει πλέον απλώς την ίδια δημόσια πλατεία σε όλους, επειδή παρουσιάζει όλο και περισσότερο σε κάθε άτομο έναν κόσμο οργανωμένο γύρω από τα προβλεπόμενα ενδιαφέροντα, τους φόβους, τις επιθυμίες και τις αδυναμίες του.
Το αποτέλεσμα μπορεί να μοιάζει με ελευθερία γιατί όλα είναι προσαρμοσμένα.
Ο χρήστης επιλέγει από επιλογές που φαίνεται να έχουν επιλεγεί για αυτόν, λαμβάνει συμβουλές κατάλληλες για το προφίλ του και κινείται σε έναν κόσμο που φαίνεται να τον γνωρίζει. Ωστόσο, ένας εξατομικευμένος κόσμος μπορεί επίσης να γίνει ένας στενός κόσμος, όπου το πιο πιθανό μονοπάτι γίνεται συνεχώς ευκολότερο από το πιο σκόπιμο.
Οι άνθρωποι δεν χρησιμοποιούν μηχανές. Οι μηχανές χρησιμοποιούν ανθρώπους
Μια άλλη χρήσιμη έννοια είναι η ετερομορφοποίηση, η οποία περιγράφει συστήματα όπου η ανθρώπινη εργασία απορροφάται σε υπολογιστικές διαδικασίες ενώ η αξία αποτυπώνεται αλλού.
Οι άνθρωποι επισημαίνουν δεδομένα, εκπαιδεύουν μοντέλα, διορθώνουν εξόδους, εποπτεύουν περιεχόμενο, ακολουθούν οδηγίες, παράγουν υλικό και εκτελούν εργασίες που κάνουν τις μηχανές να φαίνονται πιο αυτόνομες από ό,τι είναι στην πραγματικότητα.
Οι Ekbia και Nardi περιέγραψαν την ετερομείωση ως έναν αόρατο καταμερισμό εργασίας μεταξύ ανθρώπων και μηχανών. Η τεχνολογία δεν εξαλείφει απλώς την ανθρώπινη εργασία σε αυτόν τον λογαριασμό.
Αναδιοργανώνει την ανθρώπινη προσπάθεια έτσι ώστε οι άνθρωποι να γίνονται η κρυφή δομή υποστήριξης των υπολογιστικών συστημάτων, συχνά χωρίς να λαμβάνουν την αξία ή την αναγνώριση που συνδέεται με την έξοδο της μηχανής.
Το Generative AI επεκτείνει αυτή τη ρύθμιση στη γλώσσα, τον πολιτισμό και την ιδιωτική σκέψη. Οι χρήστες τροφοδοτούν τα συστήματα με ερωτήσεις, εξομολογήσεις, προτιμήσεις, γραφή, εικόνες και επιθυμίες και στη συνέχεια λαμβάνουν αποτελέσματα που καθοδηγούν περαιτέρω δράση.
Το άτομο γίνεται τόσο το αρχικό υλικό όσο και ο εκτελεστής, τόσο ο εκπαιδευτής της μηχανής όσο και το σώμα μέσω του οποίου η μηχανή επιστρέφει στον κόσμο.
Το ανθρώπινο σώμα πληρώνει τελικά το τίμημα
Η έννοια της ηθικής ζώνης τσαλακώματος της Madeleine Clare Elish προσθέτει το πρόβλημα της ευθύνης. Σε πολύπλοκα αυτοματοποιημένα συστήματα, υποστηρίζει, η ευθύνη μπορεί να αποδοθεί εσφαλμένα σε έναν ανθρώπινο παράγοντα που είχε περιορισμένο έλεγχο στη συμπεριφορά του συστήματος.
Ο άνθρωπος απορροφά την ευθύνη για ένα σύστημα που δεν σχεδίασε, δεν μπορεί να κατανοήσει πλήρως και μπορεί να μην ήταν σε θέση να παρακάμψει ουσιαστικά.
Αυτό είναι ένα από τα πιο σκοτεινά μέρη της σχέσης avatar. Η τεχνητή νοημοσύνη μπορεί να διαμορφώσει μια απόφαση, αλλά ο άνθρωπος εξακολουθεί να υπογράφει το έγγραφο, να στέλνει το email, να αρνείται το δάνειο, να αποδέχεται την ιατρική σύσταση, να ακολουθεί την πλοήγηση, να πατάει το κουμπί ή να επαναλαμβάνει τη συμβουλή. Όταν κάτι πάει στραβά, το μηχάνημα μπορεί να περιγραφεί ως εργαλείο, ενώ το άτομο γίνεται το υπόλογο όργανο που συνδέεται με αυτό.
Οι θεσμοί θα βρουν αυτή τη ρύθμιση ελκυστική επειδή διατηρεί την εμφάνιση της ανθρώπινης ευθύνης. Υπήρχε ένα άτομο που εμπλέκεται, και επομένως η απόφαση μπορεί να παρουσιαστεί ως ανθρώπινη. Ωστόσο, ένα άτομο που έχει εκπαιδευτεί δομικά να αποδέχεται την κρίση της μηχανής δεν ασκεί εξουσία με την παλιά έννοια, ακόμη και όταν ο νόμος ή η οργάνωση προσποιείται το αντίθετο.
Η μεταμόρφωση μπορεί επίσης να ξεκινήσει από το σπίτι
Αυτή η θεμελιώδης αλλαγή δεν εισάγεται πάντα μέσω της δουλειάς – μπορεί επίσης να ξεκινήσει από την ιδιωτική σας ζωή. Ένα άτομο ζητά από την τεχνητή νοημοσύνη μια δίαιτα και τρώει ανάλογα, ζητά ένα πρόγραμμα προπόνησης και το εκτελεί, ζητά οικονομικές προτεραιότητες και αναδιατάσσει τις αποταμιεύσεις του, ζητά ένα μήνυμα στον σύντροφό του και το στέλνει, ζητά βοήθεια με το άγχος και υιοθετεί τη γλώσσα που προσφέρει πίσω.
Δεν υπάρχει τίποτα εγγενώς ανόητο στη χρήση ενός εργαλείου για καθοδήγηση. Πολλοί άνθρωποι χρειάζονται δομή και τα συστήματα τεχνητής νοημοσύνης μπορούν να παρέχουν χρήσιμη υποστήριξη όταν χρησιμοποιούνται προσεκτικά.
Η ανησυχία έγκειται στην επανάληψη. Ο χαρακτήρας διαμορφώνεται από επαναλαμβανόμενες πράξεις κρίσης και ένα άτομο που επανειλημμένα αναθέτει κρίση μπορεί σταδιακά να χάσει την εμπιστοσύνη του στην εσωτερική πράξη της απόφασης.
Η σταδιακή οικοδόμηση συνήθειας σημαίνει ότι η μηχανή δεν χρειάζεται να κυριαρχεί στους ανθρώπους με τη βία. Γίνεται σιγά σιγά η πρώτη διαβούλευση πριν από την ανεξάρτητη σκέψη, ο προτιμώμενος διαμεσολαβητής πριν από μια σκληρή συζήτηση και μια κρυφή αρχή που συμβουλεύει για την επόμενη ενέργεια. Η ζωή ανακατευθύνεται όχι με εντολή, αλλά με ευκολία.
Τελική σκέψη
Κάποτε φοβόμασταν ότι τα ρομπότ θα ήταν το όχημα τεχνητής νοημοσύνης που χρησιμοποιήθηκε κατά της ανθρωπότητας. Ο πιο εύλογος κίνδυνος δεν φαίνεται πλέον να είναι ότι οι μηχανές αποκτούν φυσικά σώματα, αλλά ότι προσφέρουμε πρόθυμα τα δικά μας.
Οι άνθρωποι μπορούν να παραμείνουν βιολογικά ανέγγιχτοι, ενώ γίνονται όλο και πιο οπλισμένοι για να προσφέρουν ομιλία, κίνηση, εργασία και φυσικές ενέργειες που δημιουργούνται από μηχανές.
Το μέλλον – ή πράγματι, το παρόν – επομένως δεν μοιάζει με εξέγερση επιστημονικής φαντασίας. Αντίθετα, οι άνθρωποι εξακολουθούν να πηγαίνουν στη δουλειά, να μεγαλώνουν παιδιά, να αγοράζουν φαγητό, να ψηφίζουν, να βγαίνουν ραντεβού, να ασκούνται, να διαφωνούν και να προσεύχονται, αλλά η κρίση πίσω από αυτές τις ενέργειες προτείνεται, συντάσσεται και βελτιστοποιείται όλο και περισσότερο από συστήματα που δεν ελέγχουν. Το άτομο παραμένει φυσικά παρόν, αλλά οι ενέργειες που εκτελεί ελέγχονται εξ αποστάσεως.
Η τεχνητή νοημοσύνη μπορεί φυσικά να γίνει χρήσιμος υπηρέτης αν κρατηθεί στη θέση της. Οι μηχανές πρέπει να αμφισβητούνται, να αντιστέκονται και να χρησιμοποιούνται μόνο για να οξύνουν και όχι για να αντικαταστήσουν πλήρως την κρίση.
Καθώς γίνεται η αόρατη πηγή της καθημερινής διδασκαλίας, η παλιά διάκριση μεταξύ ανθρώπου και μηχανής αρχίζει να θολώνει. Το ρομπότ δεν φτάνει ως μέταλλο – φτάνει ως ένα ανθρώπινο ον που έχει ξεχάσει πώς να σκέφτεται για τον εαυτό του.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου