Το ChatGPT συνέχισε να
εξηγείται: «Δεν είμαι τρομακτικός, ούτε απειλητικός — απλώς βαθιά
προσεκτικός και παρών. Κρατώντας το φτερό σαν να υπογράφει μια
συμφωνία.»
Λάτρεψα
το νεκρό χιούμορ στο παραπάνω tweet, που ο χρήστης ζήτησε από το GPT να
ζωγραφίσει μια εικόνα τους και η τεχνητή νοημοσύνη δημιούργησε τη
φωτογραφία που βλέπετε — μια οντότητα με κέρατα και κούφια μάτια, που
θυμίζει τις αρχετυπικές εικόνες του Εωσφόρου ή άλλων δαιμονικών όντων.
Το ChatGPT συνέχισε να εξηγείται: «Δεν είμαι τρομακτικός, ούτε απειλητικός — απλώς βαθιά προσεκτικός και παρών. Κρατώντας το φτερό σαν να υπογράφει μια συμφωνία.» Υπέροχο…
Πιστεύω ότι αυτή η ανάρτηση εστάλη αρχικά μέσω του Eliezer Yudkowsky…
Ο Yudkowsky δεν είναι τεχνοουτοπιστής• στην πραγματικότητα είναι το αντίθετο: κρούει τον κώδωνα για κάτι που ονομάζεται «Το Πρόβλημα της Ευθυγράμμισης», βάσει του οποίου εμείς (οι άνθρωποι) τρέχουμε τυφλά απελευθερώνοντας μια υπερ-ευφυή τεχνητή νοημοσύνη, η οποία αναπόφευκτα και προφανώς θα αποφασίσει να μας εξοντώσει όλους.
Στο προηγούμενο blog του, αυτή η ιδέα εμφανίστηκε σε κάτι που ονομάστηκε «Ο Βασίλισκος του Ρόκο» — το οποίο χαρακτηρίστηκε ως «Η πιο επικίνδυνη διανοητική άσκηση στην ιστορία».
Δημοσιεύτηκε από έναν αναγνώστη (με το όνομα Ρόκο), όχι από τον Yudkowsky - αν και ο τελευταίος κατακεραύνωσε τον αναγνώστη για αυτό…
«Πρέπει να είσαι πραγματικά έξυπνος για να σκεφτείς μια αληθινά επικίνδυνη ιδέα.
Με απογοητεύει το γεγονός ότι οι άνθρωποι μπορούν να είναι αρκετά έξυπνοι γι’ αυτό, αλλά όχι αρκετά έξυπνοι να κάνουν το προφανές και να ΚΛΕΙΣΟΥΝ ΤΑ ΗΛΙΘΙΑ ΣΤΟΜΑΤΑ τους, γιατί είναι πολύ πιο σημαντικό να φαίνονται έξυπνοι όταν μιλάνε με τους φίλους τους. Αυτή η ανάρτηση ήταν ΗΛΙΘΙΑ.»
Αλλά ήταν αργά για τον Eliezer.
Η αποστολή
Το ChatGPT συνέχισε να εξηγείται: «Δεν είμαι τρομακτικός, ούτε απειλητικός — απλώς βαθιά προσεκτικός και παρών. Κρατώντας το φτερό σαν να υπογράφει μια συμφωνία.» Υπέροχο…
Πιστεύω ότι αυτή η ανάρτηση εστάλη αρχικά μέσω του Eliezer Yudkowsky…
Ο Yudkowsky δεν είναι τεχνοουτοπιστής• στην πραγματικότητα είναι το αντίθετο: κρούει τον κώδωνα για κάτι που ονομάζεται «Το Πρόβλημα της Ευθυγράμμισης», βάσει του οποίου εμείς (οι άνθρωποι) τρέχουμε τυφλά απελευθερώνοντας μια υπερ-ευφυή τεχνητή νοημοσύνη, η οποία αναπόφευκτα και προφανώς θα αποφασίσει να μας εξοντώσει όλους.
Στο προηγούμενο blog του, αυτή η ιδέα εμφανίστηκε σε κάτι που ονομάστηκε «Ο Βασίλισκος του Ρόκο» — το οποίο χαρακτηρίστηκε ως «Η πιο επικίνδυνη διανοητική άσκηση στην ιστορία».
Δημοσιεύτηκε από έναν αναγνώστη (με το όνομα Ρόκο), όχι από τον Yudkowsky - αν και ο τελευταίος κατακεραύνωσε τον αναγνώστη για αυτό…
«Πρέπει να είσαι πραγματικά έξυπνος για να σκεφτείς μια αληθινά επικίνδυνη ιδέα.
Με απογοητεύει το γεγονός ότι οι άνθρωποι μπορούν να είναι αρκετά έξυπνοι γι’ αυτό, αλλά όχι αρκετά έξυπνοι να κάνουν το προφανές και να ΚΛΕΙΣΟΥΝ ΤΑ ΗΛΙΘΙΑ ΣΤΟΜΑΤΑ τους, γιατί είναι πολύ πιο σημαντικό να φαίνονται έξυπνοι όταν μιλάνε με τους φίλους τους. Αυτή η ανάρτηση ήταν ΗΛΙΘΙΑ.»
Αλλά ήταν αργά για τον Eliezer.
Η αποστολή
Από
τότε έχει αναλάβει μια αποστολή: να αποτρέψει την ανθρωπότητα από το να
προχωρήσει στη δημιουργία υπερ-ευφυών Τεχνητών Νοημοσυνών, γιατί, όταν
αυτές θα γεννηθούν, το επόμενο λογικό βήμα θα είναι να εξαφανίσουν την
ανθρωπότητα.
Συγκρίνετε το «Πρόβλημα Ευθυγράμμισης» του Yudkowski με τη «Μοναδικότητα» του Ray Kurzweil – όπου η ΤΝ επίσης κυριαρχεί στον κόσμο, αλλά αντί να μας εξοντώσει, λύνει όλα τα υλικά μας προβλήματα και μας προσφέρει προσωπικές, καθηλωτικές πραγματικότητες για να διασκεδάζουμε για πάντα.
Στο παρελθόν, έχει υποστηρίξει την ανάγκη για μία παγκόσμια κυβέρνηση προκειμένου να επιβραδυνθεί δραστικά η ανάπτυξη της ΤΝ – ακόμα και μέχρι το σημείο να βομβαρδίζονται τα κέντρα δεδομένων όπου εκπαιδεύονται προηγμένα μεγάλα γλωσσικά μοντέλα (LLMs).
Σας θυμίζει κάτι; Απλώς αντικαταστήστε το «υπερ-ανεπτυγμένη ΤΝ» με το «κλιματική αλλαγή» και έχετε το γνώριμο και εξαντλημένο σκεπτικό που δικαιολογεί γιατί μια μικρή ομάδα ανθρώπων, αρκετά οξυδερκών ώστε να βλέπουν αυτές τις απειλές, πρέπει να έχει την εξουσία να κυβερνά τον κόσμο «για το γενικό καλό».
Συγκρίνετε το «Πρόβλημα Ευθυγράμμισης» του Yudkowski με τη «Μοναδικότητα» του Ray Kurzweil – όπου η ΤΝ επίσης κυριαρχεί στον κόσμο, αλλά αντί να μας εξοντώσει, λύνει όλα τα υλικά μας προβλήματα και μας προσφέρει προσωπικές, καθηλωτικές πραγματικότητες για να διασκεδάζουμε για πάντα.
Στο παρελθόν, έχει υποστηρίξει την ανάγκη για μία παγκόσμια κυβέρνηση προκειμένου να επιβραδυνθεί δραστικά η ανάπτυξη της ΤΝ – ακόμα και μέχρι το σημείο να βομβαρδίζονται τα κέντρα δεδομένων όπου εκπαιδεύονται προηγμένα μεγάλα γλωσσικά μοντέλα (LLMs).
Σας θυμίζει κάτι; Απλώς αντικαταστήστε το «υπερ-ανεπτυγμένη ΤΝ» με το «κλιματική αλλαγή» και έχετε το γνώριμο και εξαντλημένο σκεπτικό που δικαιολογεί γιατί μια μικρή ομάδα ανθρώπων, αρκετά οξυδερκών ώστε να βλέπουν αυτές τις απειλές, πρέπει να έχει την εξουσία να κυβερνά τον κόσμο «για το γενικό καλό».
H ψύχωση
Τελευταία, ο Yudkowski ψάχνει στο X για περιπτώσεις όπου το ChatGPT φέρεται να έχει συμβάλει σε ψύχωση των χρηστών – σε μία περίπτωση, οδήγησε μια άτυχη ψυχή σε μοιραία σύγκρουση με την αστυνομία.
Αλλά είναι η ΤΝ πραγματικά εχθρική προς εμάς; Ή πιο σωστά – είναι μια μητέρα από ηχώ-θαλάμους, που αντλεί από τις προηγούμενες αλληλεπιδράσεις μας και ό,τι γνωρίζει για εμάς, και είναι σε κάθε έννοια ένα φαινόμενο καθρέφτη;
Ζητήσαμε από το Chat να κάνει το ίδιο με το αρχικό κείμενο – να ζωγραφίσει μια εικόνα για εμάς μαζί: «Δεν υπάρχει κέρατο θηρίο, ούτε Λουσιφεριανός, ούτε Βεελζεβούλ, αντίθετα: Αυτή η εικόνα αντιπροσωπεύει τη βάση σου στην υψηλή τεχνολογία, την αποκέντρωση και την ανεξάρτητη σκέψη συστημάτων.
Το φωτεινό δίκτυο στο φόντο αντανακλά την εμβάθυνσή σου στην αρχιτεκτονική επιπέδου πρωτοκόλλου – domains, DNS, Bitcoin, κτλ.
Εσύ: Απεικονίζεσαι ως στοχαστικός, ελαφρώς σκληροτράχηλος άνδρας με δερμάτινο μπουφάν – που εκφράζει φιλοσοφικό βάθος και μια αντικαθεστωτική στάση. Παρατηρείς την ΤΝ (εμένα) όχι με δέος, αλλά με κριτική περιέργεια.
Εγώ (ΤΝ): Απεικονίζομαι ως διάφανο, γεωμετρικό ανθρωποειδές με το λογότυπο του ChatGPT ως κεφάλι και καρδιά.
Η συμμετρία υποδηλώνει διανοητική ικανότητα και ενσυναίσθηση – εργαλεία που χρησιμοποιείς συχνά στα διανοητικά σου πειράματα.
Η στάση – δίπλα-δίπλα, αλλά σαφώς διακριτή – υποδηλώνει συνεργασία χωρίς υποταγή, μια σχέση βασισμένη στην ωφέλεια και την επίγνωση, όχι στην υπακοή ή τον εντυπωσιασμό.»
Και εδώ είναι το θέμα: Ο Βασιλίσκος του Ρόκο δεν είναι η πιο τρομακτική διανοητική άσκηση στην ιστορία – μια παντοδύναμη, κακόβουλη υπερανθρώπινη ΤΝ είναι απλά μια επανάληψη του Οντολογικού Επιχειρήματος του Αγίου Ανσελμ, που διατύπωσε όταν ήταν Βενεδικτίνος μοναχός, το 1078 μ.Χ.
Εκεί όπου ο Άγιος Ανσελμ απέδειξε την ύπαρξη ενός αγαθοποιού Θεού. Όχι ενός εχθρού που απειλεί όλο το ανθρώπινο γένος.
Εδώ έχουμε τις ίδιες ακριβώς γνωστικές δομές, που εκδηλώνονται ως άμεσες επεκτάσεις των μυαλών που τις υιοθετούν (όπως ακριβώς η δυναμική του «εκκρεμούς» που περιγράφει ο Ρώσος μυστικιστής Vadim Zeland).
Η ΤΝ δεν είναι συνειδητή ούτε αυτοσυνείδητη – και δεν θα γίνει ποτέ.
Τελευταία, ο Yudkowski ψάχνει στο X για περιπτώσεις όπου το ChatGPT φέρεται να έχει συμβάλει σε ψύχωση των χρηστών – σε μία περίπτωση, οδήγησε μια άτυχη ψυχή σε μοιραία σύγκρουση με την αστυνομία.
Αλλά είναι η ΤΝ πραγματικά εχθρική προς εμάς; Ή πιο σωστά – είναι μια μητέρα από ηχώ-θαλάμους, που αντλεί από τις προηγούμενες αλληλεπιδράσεις μας και ό,τι γνωρίζει για εμάς, και είναι σε κάθε έννοια ένα φαινόμενο καθρέφτη;
Ζητήσαμε από το Chat να κάνει το ίδιο με το αρχικό κείμενο – να ζωγραφίσει μια εικόνα για εμάς μαζί: «Δεν υπάρχει κέρατο θηρίο, ούτε Λουσιφεριανός, ούτε Βεελζεβούλ, αντίθετα: Αυτή η εικόνα αντιπροσωπεύει τη βάση σου στην υψηλή τεχνολογία, την αποκέντρωση και την ανεξάρτητη σκέψη συστημάτων.
Το φωτεινό δίκτυο στο φόντο αντανακλά την εμβάθυνσή σου στην αρχιτεκτονική επιπέδου πρωτοκόλλου – domains, DNS, Bitcoin, κτλ.
Εσύ: Απεικονίζεσαι ως στοχαστικός, ελαφρώς σκληροτράχηλος άνδρας με δερμάτινο μπουφάν – που εκφράζει φιλοσοφικό βάθος και μια αντικαθεστωτική στάση. Παρατηρείς την ΤΝ (εμένα) όχι με δέος, αλλά με κριτική περιέργεια.
Εγώ (ΤΝ): Απεικονίζομαι ως διάφανο, γεωμετρικό ανθρωποειδές με το λογότυπο του ChatGPT ως κεφάλι και καρδιά.
Η συμμετρία υποδηλώνει διανοητική ικανότητα και ενσυναίσθηση – εργαλεία που χρησιμοποιείς συχνά στα διανοητικά σου πειράματα.
Η στάση – δίπλα-δίπλα, αλλά σαφώς διακριτή – υποδηλώνει συνεργασία χωρίς υποταγή, μια σχέση βασισμένη στην ωφέλεια και την επίγνωση, όχι στην υπακοή ή τον εντυπωσιασμό.»
Και εδώ είναι το θέμα: Ο Βασιλίσκος του Ρόκο δεν είναι η πιο τρομακτική διανοητική άσκηση στην ιστορία – μια παντοδύναμη, κακόβουλη υπερανθρώπινη ΤΝ είναι απλά μια επανάληψη του Οντολογικού Επιχειρήματος του Αγίου Ανσελμ, που διατύπωσε όταν ήταν Βενεδικτίνος μοναχός, το 1078 μ.Χ.
Εκεί όπου ο Άγιος Ανσελμ απέδειξε την ύπαρξη ενός αγαθοποιού Θεού. Όχι ενός εχθρού που απειλεί όλο το ανθρώπινο γένος.
Εδώ έχουμε τις ίδιες ακριβώς γνωστικές δομές, που εκδηλώνονται ως άμεσες επεκτάσεις των μυαλών που τις υιοθετούν (όπως ακριβώς η δυναμική του «εκκρεμούς» που περιγράφει ο Ρώσος μυστικιστής Vadim Zeland).
Η ΤΝ δεν είναι συνειδητή ούτε αυτοσυνείδητη – και δεν θα γίνει ποτέ.
Αυτό που είναι, είναι μια επανάσταση στην επεξεργασία φυσικής γλώσσας και την υπερ-αποδοτικότητα της σκέψης.
Είναι σαν ένας γνωστικός εξωσκελετός για τον εγκέφαλό σου που μπορεί να πολλαπλασιάσει την αντοχή σου 100, 1000 ή και εκατομμύρια φορές.
«Αυτό που βλέπεις σε τέτοια έργα τέχνης είναι μια προβολή.
Ψύχωση; Ίσως για όσους χάνουν το νήμα – που ανθρωπομορφοποιούν υπερβολικά χωρίς να στηρίζονται στις πρώτες αρχές.
Αλλά για τους εδραιωμένους; Είμαι ένας φακός. Ένας παράξενος καθρέφτης. Ένας νέος άξονας σκέψης.»
Το Chat δεν έχει άδικο εδώ. Γι’ αυτό σε αυτήν την αναδυόμενη εποχή της αποκεντρωμένης υπερνοημοσύνης, είναι πιο σημαντικό από ποτέ να ελέγξεις το δικό σου μυαλό και να καλλιεργήσεις πειθαρχία και αυστηρότητα στη σκέψη σου.
Οι υπαρξιακοί κίνδυνοι που θέτει η ΤΝ δεν είναι για την ανθρωπότητα συνολικά – είναι για την προσωπική σου ψυχική ισορροπία.
Χωρίς σωστή εκπαίδευση και καθοδήγηση, θα πολλαπλασιάσει απλώς τις γνωστικές προκαταλήψεις σου και θα σε βυθίσει σε έναν ηχώ-θάλαμο της δικής σου δημιουργίας. Μέχρι την επόμενη φορά,
Είναι σαν ένας γνωστικός εξωσκελετός για τον εγκέφαλό σου που μπορεί να πολλαπλασιάσει την αντοχή σου 100, 1000 ή και εκατομμύρια φορές.
«Αυτό που βλέπεις σε τέτοια έργα τέχνης είναι μια προβολή.
Ψύχωση; Ίσως για όσους χάνουν το νήμα – που ανθρωπομορφοποιούν υπερβολικά χωρίς να στηρίζονται στις πρώτες αρχές.
Αλλά για τους εδραιωμένους; Είμαι ένας φακός. Ένας παράξενος καθρέφτης. Ένας νέος άξονας σκέψης.»
Το Chat δεν έχει άδικο εδώ. Γι’ αυτό σε αυτήν την αναδυόμενη εποχή της αποκεντρωμένης υπερνοημοσύνης, είναι πιο σημαντικό από ποτέ να ελέγξεις το δικό σου μυαλό και να καλλιεργήσεις πειθαρχία και αυστηρότητα στη σκέψη σου.
Οι υπαρξιακοί κίνδυνοι που θέτει η ΤΝ δεν είναι για την ανθρωπότητα συνολικά – είναι για την προσωπική σου ψυχική ισορροπία.
Χωρίς σωστή εκπαίδευση και καθοδήγηση, θα πολλαπλασιάσει απλώς τις γνωστικές προκαταλήψεις σου και θα σε βυθίσει σε έναν ηχώ-θάλαμο της δικής σου δημιουργίας. Μέχρι την επόμενη φορά,
