Χαράρι: Γιατί η ΤΝ είναι μια τεράστια απειλή

Να ξεχάσουμε τις χολιγουντιανές απεικονίσεις πάνοπλων ρομπότ που τρέχουν ανεξέλεγκτα στους δρόμους, σπέρνοντας τον τρόμο και τον θάνατο, μας προτρέπει ο διάσημος όσο και οξυδερκής Γουβάλ Νόε Χαράρι στο νέο του βιβλίο, προειδοποιώντας πως στην πραγματικότητα η Τεχνητή Νοημοσύνη (ΤΝ) είναι πολύ πιο επικίνδυνη για την ανθρωπότητα.

«Καθ’ όλη την ιστορία, πολλές παραδόσεις πίστευαν ότι κάποιο μοιραίο ελάττωμα στην ανθρώπινη φύση μάς δελεάζει να επιδιώκουμε (να αποκτούμε) δυνάμεις που δεν ξέρουμε πώς να χειριζόμαστε» γράφει ο ισραηλινός ιστορικός και φιλόσοφος στο «Nexus: A Brief History of Information Networks from the Stone Age to AI» που θα κυκλοφορήσει τη 10η Σεπτεμβρίου και εκτενές απόσπασμα του οποίου προδημοσίευσε ο Guardian.

Ο Χαράρι επικαλείται ενδεικτικά τον ελληνικό μύθο του Φαέθοντα, ενός αγοριού που ανακαλύπτει πως είναι γιος του θεού Ηλιου. Θέλοντας να αποδείξει τη θεϊκή του καταγωγή, απαιτεί το προνόμιο να οδηγεί το άρμα του ήλιου. Ο Ηλιος τον προειδοποιεί ότι κανένας άνθρωπος δεν μπορεί να ελέγξει τα ουράνια άλογα που τραβούν το ηλιακό άρμα. Ομως εκείνος επιμένει, ώσπου ο θεός Ηλιος υποχωρεί. Αφού, όμως, ανέρχεται περήφανα στον ουρανό, όντως χάνει τον έλεγχο του άρματος. Ο ήλιος βγαίνει από την πορεία του, καίγοντας όλη τη βλάστηση, σκοτώνοντας πολλά όντα και απειλώντας να κάψει την ίδια τη Γη. Επεμβαίνει, ωστόσο, ο Δίας, πλήττοντας τον νεαρό με έναν κεραυνό. Ο υπερόπτης άνθρωπος πέφτει από τον ουρανό σαν διάττοντας αστέρας και φλέγεται ο ίδιος τελικά, ενώ οι θεοί επιβεβαιώνουν την κυριαρχία τους στον ουρανό και σώζουν τον κόσμο.

Στο βιβλίο του, ο Χαράρι επικαλείται επίσης τον Γιόχαν Βόλφγκανγκ Γκέτε ο οποίος, δύο χιλιάδες χρόνια αργότερα, στις απαρχές της βιομηχανικής επανάστασης, όταν μηχανές άρχισαν να αντικαθιστούν ανθρώπους σε πολλά πεδία, έγραψε μια παρόμοια προειδοποιητική ιστορία με τον τίτλο «Ο Μαθητευόμενος Μάγος».

Το ποίημα του Γκέτε, το οποίο έπειτα από αιώνες έγινε ιδιαίτερα δημοφιλές ως ταινία κινουμένων σχεδίων της Walt Disney με πρωταγωνιστή τον Μίκυ Μάους, μιλάει για έναν ηλικιωμένο μάγο που αφήνει έναν νεαρό μαθητευόμενο υπεύθυνο του εργαστηρίου του, αναθέτοντάς του μια σειρά από εργασίες ώστε να απασχολείται κατά την απουσία του, όπως το να μεταφέρει νερό από το ποτάμι. Ο μαθητευόμενος, όμως, αποφασίζει να διευκολύνει τον εαυτό του και, χρησιμοποιώντας ένα από τα ξόρκια του μάγου, μαγεύει μια σκούπα, ώστε να μεταφέρει αυτή το νερό αντί για εκείνον. Αλλά δεν ξέρει πώς να τη σταματήσει όταν πρέπει, ενώ εκείνη συνεχίζει να φέρνει ολοένα περισσότερο νερό, με το εργαστήριο του μάγου να κινδυνεύει να πλημμυρίσει.

Πανικόβλητος ο μαθητευόμενος μάγος κόβει τη μαγεμένη σκούπα στη μέση με ένα τσεκούρι. Τότε βλέπει και τα δύο μισά μέρη να μετατρέπονται σε σκούπες και να συνεχίζουν να πλημμυρίζουν το εργαστήριο. Οταν ο γηραιός μάγος επιστρέφει, ο μαθητευόμενος εκλιπαρεί για βοήθεια. Ο μάγος λύνει αμέσως τα μάγια και σταματά την πλημμύρα.

«Το μάθημα για τον μαθητευόμενο – και για την ανθρωπότητα – είναι ξεκάθαρο: ποτέ μην επιδιώκετε να αποκτήσετε δυνάμεις που δεν θα μπορείτε να ελέγξετε», γράφει ο Χαράρι στο βιβλίο του. «Τι μας λένε οι προειδοποιητικοί μύθοι του μαθητευόμενου μάγου και του Φαέθωνα στον 21ο αιώνα;», διερωτάται και απαντά πως «εμείς οι άνθρωποι προφανώς αρνηθήκαμε να λάβουμε υπόψη τις προειδοποιήσεις τους. Εχουμε ήδη οδηγήσει το κλίμα της Γης εκτός ισορροπίας και έχουμε επικαλεστεί δισεκατομμύρια μαγεμένες σκούπες, drones, chatbots και άλλα αλγοριθμικά πνεύματα που μπορεί να ξεφύγουν από τον έλεγχό μας και να εξαπολύσουν μια πλημμύρα συνεπειών. Τι πρέπει να κάνουμε, λοιπόν; Οι μύθοι δεν δίνουν απαντήσεις πέρα από το να περιμένουμε κάποιον θεό ή μάγο να μας σώσει».

Πρόβλημα πληροφόρησης

Σύμφωνα με τον ισραηλινό στοχαστή, ο μύθος του Φαέθωνα και το ποίημα του Γκαίτε δεν μπορούν να μας προσφέρουν χρήσιμες πληροφορίες, επειδή παρερμηνεύουν τον τρόπο με τον οποίο οι άνθρωποι αποκτούν δύναμη. Και στις δύο ιστορίες ένας μόνο άνθρωπος αποκτά τεράστια δύναμη, αλλά στη συνέχεια διαφθείρεται από την ύβρη και την απληστία. Το συμπέρασμα είναι ότι η ελαττωματική ατομική ψυχολογία οδηγεί στην κατάχρηση εξουσίας. Ωστόσο, όπως εξηγεί ο Χαράρι, η ανθρώπινη δύναμη δεν είναι ποτέ αποτέλεσμα ατομικής πρωτοβουλίας.

«Η δύναμη πηγάζει πάντα από τη συνεργασία μεταξύ μεγάλου αριθμού ανθρώπων. Συνεπώς, δεν είναι η ατομική μας ψυχολογία που μας οδηγεί στην κατάχρηση εξουσίας. Αλλωστε, όπως είναι ικανοί για την απληστία, την ύβρη και τη σκληρότητα, οι άνθρωποι είναι επίσης ικανοί για αγάπη, συμπόνια, ταπεινοφροσύνη και χαρά […] Η τάση μας να επιδιώκουμε δυνάμεις που δεν μπορούμε να ελέγξουμε δεν πηγάζει από την ατομική ψυχολογία αλλά από τον μοναδικό τρόπο που το είδος μας συνεργάζεται σε μεγάλους αριθμούς. Η ανθρωπότητα αποκτά τεράστια δύναμη δημιουργώντας μεγάλα δίκτυα συνεργασίας, αλλά ο τρόπος με τον οποίο είναι φτιαγμένα τα δίκτυά μας, μας προδιαθέτει να χρησιμοποιούμε την ισχύ ασύνετα. Γιατί τα περισσότερα από τα δίκτυά μας έχουν χτιστεί και συντηρηθεί με τη διάδοση μυθοπλασιών, φαντασιώσεων και συλλογικών αυταπατών – από μαγεμένα σκουπόξυλα μέχρι χρηματοοικονομικά συστήματα. Το πρόβλημά μας, λοιπόν, είναι πρόβλημα δικτύου. Συγκεκριμένα, πρόκειται για πρόβλημα πληροφόρησης. Διότι η πληροφορία είναι η κόλλα που συγκρατεί τα δίκτυα, και όταν οι άνθρωποι τροφοδοτούνται με κακές πληροφορίες είναι πιθανό να πάρουν κακές αποφάσεις, ανεξάρτητα από το πόσο σοφοί και ευγενείς είναι προσωπικά» γράφει ο Χαράρι.

Εστιάζοντας ειδικά στις πληροφορίες, σημειώνει πως κατά τη διάρκεια των τελευταίων γενεών η ανθρωπότητα βίωσε μια πρωτοφανή και τάχιστη αύξηση της παραγωγής πληροφοριών, καθώς κάθε έξυπνο κινητό που κυκλοφορεί περιέχει πλέον περισσότερες πληροφορίες από την αρχαία Βιβλιοθήκη της Αλεξάνδρειας και παρέχει τη δυνατότητα στον κάτοχό του να συνδέεται άμεσα με δισεκατομμύρια άλλους σε όλον τον κόσμο.

«Ομως, παρ’ όλες αυτές τις πληροφορίες, που κυκλοφορούν με ταχύτητες που κόβουν την ανάσα, η ανθρωπότητα είναι πιο κοντά από ποτέ στην αυτοεξόντωση. Παρά –ή, ίσως, λόγω– του θησαυρού δεδομένων που διαθέτουμε, συνεχίζουμε να εκλύουμε αέρια του θερμοκηπίου στην ατμόσφαιρα, να μολύνουμε ποτάμια και ωκεανούς, να κόβουμε δάση, να καταστρέφουμε ολόκληρα ενδιαιτήματα, να οδηγούμε αμέτρητα είδη σε εξαφάνιση και να θέτουμε σε κίνδυνο τα οικολογικά θεμέλια και του δικού μας είδους. Παράγουμε επίσης όλο και πιο ισχυρά όπλα μαζικής καταστροφής, από θερμοπυρηνικές βόμβες μέχρι φονικούς ιούς. Οι ηγέτες μας δεν στερούνται πληροφοριών σχετικά με αυτούς τους κινδύνους, ωστόσο αντί να συνεργάζονται για την εξεύρεση λύσεων, πλησιάζουν περισσότερο σε έναν παγκόσμιο πόλεμο» συνοψίζει ο Χαράρι στο τελευταίο του συγγραφικό πόνημα.

Ο διάσημος στοχαστής, που πέρα από λέκτορας στο τμήμα Ιστορίας του Εβραϊκού Πανεπιστημίου της Ιερουσαλήμ είναι επίσης ερευνητής στο Κέντρο Μελετών Υπαρξιακών Κινδύνων του Πανεπιστημίου του Κέιμπριτζ, διερωτάται εάν ακόμη περισσότερες πληροφορίες θα συνέβαλλαν στη βελτίωση της κατάστασης ή, αντιθέτως, στην επιδείνωσή της. Πώς, όμως, η ανθρωπότητα, θα αποκτήσει ακόμη περισσότερες πληροφορίες; Μέσω της ανάπτυξης της πιο ισχυρής τεχνολογίας πληροφοριών στην Ιστορία, δηλαδή της ΤΝ.

Σενάρια Αποκάλυψης

Ορισμένοι κορυφαίοι επιχειρηματίες του κλάδου, όπως ο αμερικανός πρωτοπόρος του διαδικτύου και επενδυτής Μαρκ Αντρίσεν, πιστεύουν ότι η ΤΝ θα επιλύσει, επιτέλους, όλα τα προβλήματα της ανθρωπότητας. Ο Χαράρι θυμίζει ότι πέρυσι τον Ιούνιο ο Αντρίσεν δημοσίευσε, μάλιστα, ένα δοκίμιο με τον τίτλο «Γιατί η ΤΝ θα σώσει τον κόσμο», γεμάτο τολμηρές δηλώσεις τύπου «Είμαι εδώ για να φέρω τα καλά νέα: η Τεχνητή Νοημοσύνη δεν θα καταστρέψει τον κόσμο και στην πραγματικότητα μπορεί να τον σώσει». Σύμφωνα με τον Αντρίσεν «η ανάπτυξη και η διάδοση της ΤΝ –κάθε άλλο παρά ένας κίνδυνος που θα έπρεπε να φοβόμαστε– είναι μια ηθική υποχρέωση που έχουμε απέναντι στον εαυτό μας, στα παιδιά μας και στο μέλλον μας».

Αλλοι όμως είναι πιο δύσπιστοι. Οχι μόνο φιλόσοφοι και κοινωνιολόγοι, αλλά και κορυφαίοι ειδικοί στην ΤΝ, καθώς και επιχειρηματίες όπως ο Γιόσουα Μπέντζιο, ο Τζέφρι Χίντον, ο Σαμ Αλτμαν, ο Ελον Μασκ και ο Μουσταφά Σουλεϊμάν, έχουν προειδοποιήσει ότι η ΤΝ θα μπορούσε να καταστρέψει τον πολιτισμό μας.

Σε μια έρευνα του 2023 που διεξήχθη με τη συμμετοχή 2.778 ειδικών στο πεδίο της ΤΝ, περισσότεροι από το ένα τρίτο έδωσαν τουλάχιστον 10% πιθανότητες η προηγμένη ΤΝ να οδηγήσει σε αποτελέσματα τόσο καταστροφικά όσο η εξαφάνισή της ανθρωπότητας. Επίσης, πέρυσι, περίπου 30 κυβερνήσεις –μεταξύ άλλων της Κίνας, των ΗΠΑ και της Βρετανίας– υπέγραψαν τη λεγόμενη Διακήρυξη του Μπλέτσλεϊ (Bletchley Declaration) για την ΤΝ, στην οποία αναγνωρίζεται ότι «υπάρχει πιθανότητα για σοβαρή, ακόμη και καταστροφική ζημιά, είτε εκούσια είτε ακούσια, που θα προέρχεται από τις πιο σημαντικές δυνατότητες αυτών των μοντέλων ΤΝ».

«Χρησιμοποιώντας τέτοιους αποκαλυπτικούς όρους, οι ειδικοί και οι κυβερνήσεις δεν θέλουν να δημιουργήσουν μια χολιγουντιανή εικόνα με εξεγερμένα ρομπότ να τρέχουν στους δρόμους και να πυροβολούν ανθρώπους. Ενα τέτοιο σενάριο είναι απίθανο και απλώς αποσπά την προσοχή από τους πραγματικούς κινδύνους» γράφει από την πλευρά του ο Χαράρι, συμφωνώντας με όλους όσοι προειδοποιούν ότι η ΤΝ ενδέχεται να εξελιχθεί εξαιρετικά έως και απόλυτα καταστροφική για τον άνθρωπο.

«Η ΤΝ είναι μια άνευ προηγουμένου απειλή για την ανθρωπότητα επειδή είναι η πρώτη τεχνολογία στην Ιστορία που μπορεί να παίρνει αποφάσεις και να δημιουργεί νέες ιδέες από μόνη της. Ολες οι προηγούμενες ανθρώπινες εφευρέσεις ενδυνάμωσαν τους ανθρώπους γιατί, όσο ισχυρό και αν ήταν το όποιο νέο εργαλείο, οι αποφάσεις για τη χρήση του παρέμεναν στα χέρια μας. Οι πυρηνικές βόμβες δεν αποφασίζουν οι ίδιες ποιον θα σκοτώσουν, ούτε μπορούν να βελτιωθούν ή να εφεύρουν ακόμη πιο ισχυρές βόμβες» προσθέτει.

«Αντιθέτως, τα αυτόνομα drones μπορούν να αποφασίζουν από μόνα τους ποιον θα σκοτώσουν και τα συστήματα ΤΝ μπορούν να σχεδιάσουν νέες βόμβες, πρωτόγνωρες στρατιωτικές στρατηγικές και καλύτερα συστήματα ΤΝ. Η ΤΝ δεν είναι εργαλείο – είναι κάτι που δρα. Η μεγαλύτερη απειλή όσον αφορά την ΤΝ είναι ότι φέρνουμε στη Γη αμέτρητα νέα ισχυρά δρώντα συστήματα τα οποία δυνητικά είναι πιο έξυπνα και ευφάνταστα από εμάς, και δεν τα καταλαβαίνουμε ούτε τα ελέγχουμε πλήρως» εξηγεί ο Χαράρι.