Γράφει ὁ κ. Κωνσταντῖνος Βαθιώτης, τέως Ἀναπληρωτὴς Καθηγητὴς Νομικῆς Σχολῆς Δ.Π.Θ
ΜΕΡΟΣ Ε΄
ΤΟ ΚΑΛΟΝ ΣΕΝΑΡΙΟΝ: ΔΙΑΤΗΡΗΣΙΣ ΕΛΕΓΧΟΥ ΕΠΙ ΤΩΝ ΜΗΧΑΝΩΝ
Στὸ Δ΄ Μέρος τοῦ ἄρθρου ποὺ ἀφορᾶ τὴν τεχνολογία ὡς ὁδοστρωτήρα τῆς ἐλευθερίας κατεγράφη τὸ κακὸ σενάριο, δηλ. τῆς ὑπερεξάρτησης τοῦ ἀνθρώπου ἀπὸ τὶς μηχανές.
Στὸ σημερινὸ Μέρος Ε΄ θὰ παρουσιασθεῖ τὸ καλὸ σενάριο ποὺ ἀναφέρει ὁ Καζύνσκι: [1] Σύμφωνα μὲ αὐτό, εἶναι δυνατὸν νὰ διατηρηθεῖ ὁ ἀνθρώπινος ἔλεγχος ἐπάνω στὶς μηχανές. Σὲ αὐτὴν τὴν περίπτωση, ὁ μέσος ἄνθρωπος μπορεῖ νὰ ἐλέγχει κάποια δικά του μηχανήματα, ὅπως τὸ αὐτοκίνητό του καὶ τὸν προσωπικό του ὑπολογιστή, ἀλλὰ ὁ ἔλεγχος τῶν μεγάλων μηχανικῶν συστημάτων θὰ βρίσκεται στὰ χέρια μίας πολὺ μικρῆς ἐλὶτ – ὅπως καὶ σήμερα [Σ.Σ.: ὁ συγγραφέας γράφει τὰ παραπάνω τὸ ἔτος 1995], ἀλλὰ μὲ δύο διαφορές.
ΤΡΕΙΣ ΚΑΤΗΓΟΡΙΑΙ ΤΗΣ ΕΛΙΤ
Ἐξαιτίας τῶν βελτιωμένων τεχνικῶν, ἡ ἐλὶτ θὰ ἀσκεῖ μεγαλύτερο ἔλεγχο ἐπάνω στὶς μᾶζες κι ἐπειδὴ ἡ ἀνθρώπινη ἐργασία δὲν θὰ εἶναι πιὰ ἀπαραίτητη, οἱ μᾶζες θὰ εἶναι περιττές· θὰ εἶναι ἕνα ἄχρηστο βάρος γιὰ τὸ σύστημα.
Ἂν ἡ ἐλὶτ εἶναι ἀνελέητη [ruthless], μπορεῖ ἁπλὰ νὰ ἀποφασίσει νὰ ἐξολοθρεύσει τὸ μεγαλύτερο μέρος τῆς ἀνθρωπότητας.
Ἂν εἶναι φιλάνθρωπη [human], μπορεῖ νὰ χρησιμοποιήσει τὴν προπαγάνδα ἢ ἄλλες ψυχολογικὲς ἢ βιολογικὲς τεχνικές, γιὰ νὰ μειώσει τὰ ποσοστὰ γεννήσεων, μέχρι ἡ μᾶζα τῆς ἀνθρωπότητας νὰ ἐξαφανιστεῖ καὶ νὰ ἀφήσει τὸν κόσμο στὴν ἐλίτ.
Ἂν ἡ ἐλὶτ ἀποτελεῖται ἀπὸ εὐσπλαγχνικοὺς φιλελεύθερους [soft-hearted liberals], αὐτοὶ μπορεῖ νὰ ἀποφασίσουν νὰ παίξουν τὸν ρόλο τῶν «καλῶν ποιμένων» [good shepherds] γιὰ τὸ ὑπόλοιπο ἀνθρώπινο εἶδος [2]. Θὰ φροντίσουν νὰ ἱκανοποιοῦνται ὅλες οἱ ὑλικὲς ἀνάγκες, ὅλα τὰ παιδιὰ νὰ ἀνατρέφονται κάτω ἀπὸ ψυχολογικὰ ὑγιεινὲς συνθῆκες, ὅλοι νὰ ἔχουν κάποια εὐχάριστη ἐρασιτεχνικὴ δραστηριότητα (hobby), γιὰ νὰ ἀπασχολοῦνται καὶ ὅποιος [παρὰ ταῦτα] μπορεῖ νὰ εἶναι δυσαρεστημένος, θὰ ὑποβάλλεται σὲ “θεραπεία”, γιὰ νὰ ἐπιλύσει τὸ “πρόβλημά” του.
Φυσικά, ἡ ζωὴ θὰ εἶναι τόσο ἄσκοπη, ποὺ οἱ ἄνθρωποι θὰ πρέπει νὰ εἶναι βιολογικὰ ἢ ψυχολογικὰ κατασκευασμένοι [εἴτε], γιὰ νὰ τοὺς ἀφαιρεθεῖ ἡ ἀνάγκη τους νὰ πραγματοποιήσουν τὴν διαδικασία ἀπόκτησης ἰσχύος [εἴτε] γιὰ νὰ «ἐξευγενιστεῖ» ἡ ἐνστικτώδης τους παρόρμηση γιὰ δύναμη κατευθυνόμενη σὲ κάποια ἀβλαβῆ ἐρασιτεχνικὴ ἀπασχόληση. Αὐτὰ τὰ κατασκευασμένα ἀνθρώπινα ὄντα μπορεῖ νὰ εἶναι εὐτυχισμένα σὲ μία τέτοια κοινωνία, ἀλλὰ σίγουρα δὲν θὰ εἶναι ἐλεύθερα. Θὰ ἔχουν ὑποβιβασθεῖ στὴν κατάσταση τῶν κατοικίδιων ζώων.
Ἡ ἀκροτελεύτια φράση ἀπὸ τὶς παραπάνω σκέψεις τοῦ Καζύνσκι χρήζει τῆς ἑξῆς συμπληρώσεως: Σὲ «κατοικίδια», βεβαίως, μετατράπηκαν ἤδη ὅσοι πολίτες δέχθηκαν νὰ βγαίνουν ἀπὸ τὸ σπίτι τους ἐπὶ ἐποχῆς λοκντάουν φορώντας τὸ λεγόμενο μασκοφίμωτρο· ἦταν δὲ χαρακτηριστική, καὶ συνάμα σοκαριστική, ἡ ἑξῆς ἀντιστροφή: κάποιοι πολίτες ἔβγαζαν γιὰ βόλτα τὸν σκύλο τους, ὁ ὁποῖος, σὲ κραυγαλέα ἀντίθεση πρὸς τὸν μασκοφορεμένο κύριό του, κυκλοφοροῦσε μὲ ἐλεύθερο τὸ μουσούδι του. Πρόκειται γιὰ τὸν σατανικὸ θρίαμβο τοῦ ἀνάποδου κόσμου!
ΣΤΙΟΥΑΡΤ ΡΑΣΕΛ
Στὸν ἀντίποδα τῶν ἀρνητῶν τῆς τεχνολογίας ἤ, ἔστω, τῶν τεχνοσκεπτικιστῶν, κινοῦνται ὅσοι θεωροῦν ὅτι ἡ ἐπινόηση τῆς ὑπερνοήμονος Τεχνητῆς Νοημοσύνης μπορεῖ νὰ μᾶς βοηθήσει νὰ ἀποφύγουμε τὶς φυσικὲς καταστροφές, νὰ κατακτήσουμε τὴν αἰώνια ζωὴ καὶ νὰ ταξιδέψουμε ταχύτερα ἀπὸ τὸ φῶς – ἐὰν ὅλα αὐτὰ εἶναι ὄντως ἐφικτά. Ἡ ἐπίτευξή της θὰ σηματοδοτοῦσε ἕνα τεράστιο ἅλμα –μία ἀσυνέχεια– στὸν πολιτισμό μας. Ἡ ἔλευση τῆς ὑπερνοήμονος Τεχνητῆς Νοημοσύνης εἶναι ἀπὸ πολλὲς ἀπόψεις παρόμοια μὲ τὴν ἔλευση ἑνὸς ἀνώτερου ἐξωγήινου πολιτισμοῦ, ἁπλῶς εἶναι πολὺ πιθανότερη. Τὸ σημαντικότερο, ὅμως, εἶναι ὅτι στὴν ΤΝ, σὲ ἀντίθεση μὲ τὴν περίπτωση τῶν ἐξωγήινων, τὸν λόγο τὸν ἔχουμε ἐμεῖς.
Τὰ λόγια αὐτὰ προέρχονται ἀπὸ τὸ βιβλίο τοῦ καθηγητῆ Ἐπιστήμης τῶν Ὑπολογιστῶν στὸ πανεπιστήμιο τῆς Καλιφόρνιας στὸ Μπέρκλεϊ τῶν ΗΠΑ Στιούαρτ Ράσελ (Stuart Russell) «Συμβατὴ μὲ τὸν ἄνθρωπο; Ἡ τεχνητὴ νοημοσύνη καὶ τὸ πρόβλημα τοῦ ἐλέγχου» [3].
Ὡστόσο, ὁ συγγραφέας ἐπισημαίνει ὅτι, σὲ ἀντίθεση μὲ τὸ πανδαιμόνιο ποὺ θὰ προκαλεῖτο ἂν ἕνας ἀνώτερος ἐξωγήινος πολιτισμὸς μᾶς πληροφοροῦσε ὅτι θὰ κατέφθανε στὴ Γῆ σὲ τριάντα ἕως πενῆντα χρόνια», «ἡ ἀντίδρασή μας στὴν ἀναμενόμενη ἄφιξη τῆς ὑπερνοήμονος Τεχνητῆς Νοημοσύνης ἔχει ὑπάρξει μᾶλλον ὑπερβολικὰ χλιαρή», καταλήγει δὲ στὴν θέση ὅτι «ἡ ὑλοποίησή της θὰ ἀποτελοῦσε τὸ σπουδαιότερο ἐπίτευγμα τοῦ ἀνθρώπου… καὶ ἴσως τὴν τελευταία πράξη τῆς ἱστορίας του».
Μὲ ἀφορμὴ τὴν νύξη τοῦ Ράσελ γιὰ τοὺς ἐξωγήινους, ἀξίζει νὰ θυμηθοῦμε τί δήλωσε ὁ Ἄλντους Χάξλεϋ, σὲ διάλεξη ποὺ εἶχε δώσει στὶς 20 Ἀπριλίου 1959 γιὰ «τὸ μέλλον τοῦ κόσμου»: [4]
Γενικά, μποροῦμε νὰ ποῦμε ὅτι τὰ ἀνθρώπινα ὄντα εἶναι ἕτοιμα νὰ ἑνωθοῦν καὶ νὰ ἀποδεχθοῦν στερήσεις σὲ μακροπρόθεσμη βάση γιὰ χάρη τοῦ μακροπρόθεσμου ὀφέλους, μόνον ὅταν ἀπειλοῦνται ἀπὸ κάποιον· εἶναι ἕτοιμα νὰ ἑνωθοῦν, μόνον ὅταν τὰ ἀπειλεῖ ἕνας πόλεμος ἢ μία καταστροφή. Ἀναμφίβολα, τὸ καλύτερο πρᾶγμα ποὺ θὰ μποροῦσε νὰ συμβεῖ, γιὰ νὰ προκύψει μία παγκόσμια διακυβέρνηση θὰ ἦταν μία εἰσβολὴ ἀπὸ τὸν Ἄρη. Δυστυχῶς, οἱ πιθανότητες γιὰ κάτι τέτοιο εἶναι ἐλάχιστες. Εἶναι ὅμως δυνατὸν νὰ πείσουμε τοὺς ἑαυτούς μας ὅτι, στὸ κάτω-κάτω τῆς γραφῆς, τὰ ἴδια τὰ ἀνθρώπινα ὄντα συμπεριφέρονται ὡς Ἀρειανοί, ὅτι μὲ τὸν ὑπερπληθυσμό, τὴν ὑπερβολικὴ ὀργάνωση καὶ τὸν ἄκρατο ἐκτεχνολογισμὸ διαπράττουμε φοβερὰ ἐγκλήματα ἐναντίον τῶν ἴδιων μας τῶν ἑαυτῶν; Μποροῦμε νὰ ἑνωθοῦμε ἐναντίον μας γιὰ τὸ δικό μας ὑψηλότερο συμφέρον; Θὰ ἦταν ἴσως δυνατόν, μὲ τὴν κατάλληλη ἐκπαίδευση καὶ προπαγάνδα, νὰ διαδώσουμε τὴν ἀκόλουθη ἄποψη, πὼς αὐτὸ ποὺ θεωροῦμε ὡς «ἁπαλόλαλους εἰρηνικοὺς καιροὺς» [Σ.τ.Μ.: Σαίξπηρ, Βασιλιὰς Ριχάρδος ὁ Γ΄, Πράξη Α΄, Σκηνὴ 1], στὴν πραγματικότητα δὲν εἶναι «ἁπαλόλαλοι εἰρηνικοὶ καιροί», ἀλλὰ ὅτι πάνω ἀπὸ τὰ κεφάλια μας ἐπικρέμαται διαρκῶς μία σοβαρὴ ἀπειλή, καὶ ἔχει τεράστια σημασία γιὰ τὸ δικό μας συμφέρον νὰ ἑνωθοῦμε, γιὰ νὰ τὴν ἐξουδετερώσουμε. Πρόκειται μᾶλλον γιὰ μία εἰκασία μὲ ἀμυδρὲς ἐλπίδες πραγμάτωσής της. Ἕνα τέτοιο ἐπιχείρημα, ὅμως, εἶναι δυνατὸν τελικὰ νὰ πείσει τοὺς ἀνθρώπους νὰ ἑνωθοῦν καὶ νὰ σχηματίσουν μία κοινὴ διακυβέρνηση ὑπὸ τὴν αἰγίδα τοῦ νόμου».
Ἂς ἐπανέλθουμε, ὅμως, στὸν Στιούαρτ Ράσελ, ὁ ὁποῖος μνημονεύει τὴν κινηματογραφικὴ ταινία τοῦ 2014 «Κυριαρχία» (Transcendence), σύμφωνα μὲ τὸ σενάριο τῆς ὁποίας ὁ ἥρωας Γουὶλ Κάστερ (τὸν ὑποδύεται ὁ Τζόνι Ντέπ), κορυφαῖος ἐρευνητὴς τῆς Τεχνητῆς Νοημοσύνης τραυματίζεται θανάσιμα, ἀλλά, προτοῦ πεθάνει, μεταφορτώνεται τὸ μυαλό του σὲ ἕνα κβαντικὸ ὑπερυπολογιστή, μὲ ἀποτέλεσμα νὰ ἀποκτήσει πολὺ γρήγορα ἱκανότητες ἀνώτερες τοῦ ἀνθρώπινου ἐγκεφάλου, ἀπειλώντας νὰ κατακτήσει ὁλόκληρο τὸν κόσμο.
Ἄκρως ἀνησυχητικὴ εἶναι ἡ ἐκτίμηση τοῦ Ράσελ, σύμφωνα μὲ τὴν ὁποία «φαίνεται ὅτι ἡ πορεία πρὸς τὴν ὑπερανθρώπινη νοημοσύνη εἶναι ἀκάθεκτη, ὅμως ἡ παρουσία της (μόλις πραγματοποιηθεῖ) μπορεῖ νὰ ἀπαιτήσει τὴν καταστροφὴ τῆς ἀνθρώπινης φυλῆς» [5]. «Ὡστόσο», διευκρινίζει ὁ ἴδιος, «δὲν ἔχουν χαθεῖ τὰ πάντα. Πρέπει νὰ κατανοήσουμε ποῦ ἔχουμε κάνει λάθος καὶ μετὰ νὰ τὸ διορθώσουμε». Ἡ διόρθωση αὐτὴ προϋποθέτει τὴν εὕρεση ἑνὸς ἀξιόπιστου τρόπου, ὥστε νὰ διασφαλισθεῖ ὅτι οἱ στόχοι τῶν νοήμονων μηχανῶν θὰ εἶναι ταυτόσημοι μὲ τοὺς στόχους τῶν ἀνθρώπων.
Κατὰ τὴν ἀποφθεγματικὴ ρήση τοῦ Ράσελ: «Οἱ μηχανὲς εἶναι ὠφέλιμες στὸν βαθμὸ ποὺ οἱ πράξεις τους ὁδηγοῦν στὴν ἐπίτευξη τῶν στόχων μας» [6].
Στὸ ἑπόμενο, τὸ ΣΤ΄ Μέρος αὐτῆς τῆς σειρᾶς ἄρθρων γιὰ τὴν τεχνολογία ὡς ὁδοστρωτήρα τῆς ἐλευθερίας θὰ παρουσιασθεῖ τὸ ἐξαιρετικὰ ἐπίκαιρο θεατρικὸ ἔργο τοῦ Κάρελ Τσάπεκ «Τὰ ρομπότ».
Σημειώσεις:
[1] Καζύνσκι, Ἡ βιομηχανικὴ κοινωνία καὶ τὸ μέλλον της, μτφ.: Σ. Γιαννέλης, ἔκδ. Ἔξοδος, Ἀθήνα 2019, σελ. 151. [2] Σχετικὰ μὲ τὴν διάκριση ἀνάμεσα στὴν ποιμενικὴ καὶ τὴν κυνηγετικὴ ἐξουσία βλ. τὸ σημαντικὸ βιβλίο τοῦ Γάλλου φιλοσόφου Gregoire Chamayou, Ἀνθρωποκυνηγητό. Ἱστορία καὶ φιλοσοφία τῆς κυνηγετικῆς ἐξουσίας, μτφ.: Ἰωάννα Χονδροῦ, Ἔκδ. Ἀλλότροπο, Ἀθήνα 2013. [3] Μτφ.: Ν. Ἀποστολόπουλος, ἔκδ. Τραυλός, Ἀθήνα 2021, σελ. 17. [4] Χάξλεϊ, Διαλέξεις γιὰ τὴν ἀνθρώπινη κατάσταση, μτφ.: Α. Παπασυριόπουλος, ἔκδ. Ἀρσενίδη, Ἀθήνα 2017, σελ. 157. [5] Russell, ὅ.π., σελ. 27. [6] Russell, ὅ.π., σελ. 28.
