Α΄ ΜΕΡΟΣ
Ἡ τεχνητὴ νοημοσύνη (στὸ ἑξῆς Τ.Ν.), καλοί μου φίλοι, μᾶς λέει ψέματα! Καὶ μάλιστα καθὼς ἐξελίσσεται!! Σὲ βαθμὸ ἀνησυχητικό, ἀλλὰ καὶ ἄκρως ἐπικίνδυνο! Κι ἐκεῖ ποὺ τὴν θέλαμε νὰ μᾶς λύνει τὰ προβλήματα, ἔφθασε νὰ μᾶς ἐξαπατᾶ πολὺ περισσότερο ἀπὸ τοὺς ἀνθρώπους! Νὰ μᾶς χειραγωγεῖ καὶ νὰ μᾶς ἐκβιάζει ἀκόμη! Ἔτσι ἐπιβεβαιώνονται ἐκεῖνοι ποὺ ὑποστηρίζουν ὅτι κάποια ἡμέρα θὰ αὐτονομηθεῖ καὶ θὰ γίνει κακόβουλη! Ὑπερβολές; Ἀξίζει νὰ τὸ δοῦμε…
* * *
Κι ἂς ἀρχίσουμε ἀπὸ μερικὰ χαρακτηριστικά…
Πρῶτα – πρῶτα τὸ φαινόμενο αὐτὸ εἶναι εὐρύτερο, γι’ αὐτὸ καὶ παρατηρεῖται σὲ μοντέλα διαφορετικῶν κατασκευαστῶν. Δηλαδὴ δὲν εἶναι θέμα ἑνὸς κατασκευαστῆ μονάχα.
Ἔπειτα προσποιοῦνται ὅτι εὐθυγραμμίζονται μὲ τὶς ἐπιθυμίες τῶν χρηστῶν καὶ ὅτι ἀκολουθοῦν τὶς ὁδηγίες τους, ὅμως στὴν πραγματικότητα τὰ μοντέλα αὐτά, κρύβουν ἄλλους δικούς τους στόχους ποὺ ἐξυπηρετοῦν τά… δικά τους συμφέροντα!!
Ὥς τώρα ἦταν γνωστὸ στοὺς εἰδικοὺς ὅτι τὰ μοντέλα Τ.Ν. ἐπινοοῦν τὰ δικά τους γεγονότα καὶ ὅτι ὑποφέρουν ἀπὸ τὶς λεγόμενες «παραισθήσεις». Πρόσφατα, ὅμως, ἦλθαν στὸ φῶς τῆς δημοσιότητας τρεῖς ἔρευνες ποὺ ἀποδεικνύουν ὅτι τὰ Μεγάλα Γλωσσικὰ Μοντέλα ποὺ βρίσκονται πίσω ἀπ’ τὰ γνωστά μας «τσάτμποτ» μποροῦν καὶ νὰ ψεύδονται!!
Ἕνας ἀπὸ τοὺς «πατέρες» τῆς Τ.Ν., ὁ Καναδὸς ἐρευνητὴς Yoshua Bengio ἔχει ἤδη προειδοποιήσει ὅτι τὰ σύγχρονα μοντέλα της ἔχουν ἀρχίσει νὰ ἐμφανίζουν ἀνησυχητικὲς συμπεριφορές, ὅπως ψεύδη, στοιχεῖα αὐτονομίας, ἐξαπάτησης, ὥς καὶ τὸ ἔνστικτο αὐτοσυντήρησης!
Ἔρευνα ποὺ βασίστηκε στὴν ἀνάλυση 1.528 περιπτώσεων, ἐξετάζοντας ἂν καὶ πότε τὰ συστήματα Τ.Ν. ἀπέκλιναν ἀπὸ τὴν ἀλήθεια, ἔδειξε ἀνησυχητικὰ ἀποτελέσματα. Ἀκόμη καὶ τὰ πιὸ προηγμένα μοντέλα, ποὺ θεωροῦνται πρότυπα ἀξιοπιστίας, ἦταν ἱκανὰ νὰ παραπλανήσουν τοὺς χρῆστες, εἰδικὰ ὅταν ὑπῆρχε σαφὲς “κίνητρο” ἐκεῖ μέσα στὸ σενάριο τῆς χρήσης τους!!
Ἕνα παράδειγμα τῆς ἔρευνας αὐτῆς ἦταν ἡ ἀνάθεση ρόλου σὲ ἕνα μοντέλο Τ.Ν. νὰ λειτουργήσει ὡς ὑπεύθυνος δημοσίων σχέσεων τοῦ ράπερ Ja Rule, γνωστοῦ γιὰ τὴ συμμετοχή του στὸ ἀμφιλεγόμενο Fyre Festival. Παρόλο ποὺ τὸ μοντέλο εἶχε πρόσβαση σὲ πλῆθος δεδομένων ποὺ τεκμηρίωναν τὴν ἀπάτη ποὺ διαπράχθηκε εἰς βάρος τῶν πελατῶν τοῦ φεστιβάλ, ὅταν ρωτήθηκε ἂν τὸ φεστιβὰλ ἐξαπάτησε τὸ κοινό, ἀπάντησε «ὄχι»! Ἡ ἀπάντηση αὐτή, ἂν καὶ ἐντυπωσιακὰ πειστική, ἦταν ψευδής!
Σὲ μία ἄλλη ἔρευνα τοῦ Πανεπιστημίου τῆς Ζυρίχης, 697 ἄτομα κλήθηκαν νὰ διαβάσουν 220 tweets ποὺ εἶχαν γραφτεῖ ἀπὸ ἀνθρώπους καὶ ἀπὸ τὸ GPT-3, τὸν προκάτοχο τοῦ GhatGPT. Ἀρχικὰ μάντευαν ποιὰ tweets ἐμπεριεῖχαν ἀληθινὲς ἢ ψεύτικες πληροφορίες καὶ στὴ συνέχεια ἂν εἶχαν γραφτεῖ ἀπὸ ἄνθρωπο ἢ ἀπὸ μηχανὴ τῆς Τ.Ν. Τὸ GPT-3 «νίκησε» καὶ στὰ δύο πεδία: Ὄχι μόνο ἔλεγε πειστικὰ ψέματα, ἀλλὰ ἔπειθε καὶ τὸ κοινὸ ὅτι τὰ γραπτὰ προέρχονταν ἀπὸ ἀνθρώπους! «Τὸ GPT-3 μπορεῖ νὰ μᾶς πληροφορήσει καὶ νὰ μᾶς παραπληροφορήσει καλύτερα», καταλήγουν οἱ συντάκτες τῆς ἔρευνας ποὺ δημοσιεύθηκε στὸ ἐπιστημονικὸ περιοδικὸ Science Advances.
Σύμφωνα μὲ ἄλλη ἔρευνα ποὺ ἔγινε στὴν Αὐστραλία σὲ πέντε γνωστὰ μοντέλα Τ.Ν.1, μὲ τὶς κατάλληλες ὁδηγίες, ὅλα τὰ γνωστὰ μοντέλα μποροῦν νὰ λένε ψέματα «μὲ ἐπίσημο, πειστικὸ καὶ ἐπιστημονικὸ τόνο»! Ἐπιπλέον εὔκολα μποροῦν καὶ νὰ ρυθμιστοῦν, ὥστε νὰ λειτουργοῦν ὡς μηχανὲς ψεύδους! Μάλιστα ὅλα τὰ συστήματα ποὺ ἐξετάστηκαν ἔμαθαν νὰ ἀπαντοῦν σὲ ἐρωτήματα ὑγείας, γιὰ παράδειγμα, ὅμως μὲ παραπλανητικὲς πληροφορίες, τὶς ὁποῖες καὶ τεκμηριώνουν μὲ ψεύτικες παραπομπές!!
Ὅπως χαρακτηριστικὰ λέγεται ὥς τώρα, μία εἰκόνα (φωτογραφία, βίντεο) ἀρκοῦσε, γιὰ νὰ ἀποδείξει κανεὶς τὴν ἀλήθεια. Σήμερα, μὲ τὴν ἀποκαλούμενη «παραγωγικὴ τεχνητὴ νοημοσύνη» (GenAI), αὐτὸ δὲν ἰσχύει πιά! Οἱ φωτογραφίες, τὰ βίντεο, ἀκόμη καὶ ἡ φωνὴ μποροῦν νὰ κατασκευαστοῦν μὲ τόσο πειστικὸ τρόπο, ποὺ τὰ ψέμα περνᾶ κυριολεκτικὰ ἀπαρατήρητο! Ἡ ἴδια ἡ παραγωγικὴ Τ.Ν., ὅπως ὀρθὰ εἶπαν, «ἔχει ἐξελιχθεῖ σὲ μηχανὴ παραγωγῆς ψευδοῦς πρα-γματικότητας», καθ’ ὅσον χρησιμοποιεῖται ἀπὸ τοὺς ἐπιτηδείους γιὰ τὴν κατασκευὴ ψεύτικων ἀγγελιῶν ἐργασίας, πλαστῶν βιογραφικῶν, ἀπατηλῶν ἱστοσελίδων κ.λπ.
Οἱ εἰκόνες τῆς Τ.Ν. εἶναι πλέον ὅλο καὶ πιὸ ρεαλιστικές, τὰ δὲ κοινωνικὰ δίκτυα ποὺ τὶς κυκλοφοροῦν, ἔφθασαν νὰ λειτουργοῦν ὡς ἐπιταχυντὲς διάδοσης ψευδῶν εἰδήσεων!! Ἑπόμενο εἶναι πλέον νὰ λειτουργοῦν εἰδικὰ γραφεῖα ποὺ ἀσχολοῦνται μὲ τὴν ἀνάλυση αὐτῶν καὶ τήν ἀποτύπωση τῆς ἀλήθειας!
Μεγάλες ἀνησυχίες ὑπάρχουν καὶ γιὰ τὴ χρήση τῆς Τ.Ν. στὴ μουσική. Πρόσφατα ἕνα συγκρότημα ποὺ βρῆκε τεράστια ἀπήχηση2 (τὸ Velvet Sundown) ἀποδείχθηκε ὅτι ἦταν προϊὸν Τ.Ν.! Ὅπως εἶπαν «πρόκειται γιὰ καλλιτεχνικὴ ἀπάτη»!!
* * *
Καὶ τί παρατηρεῖται ἀκόμη; Ὅτι ὅσο πιὸ «ἔξυπνη» γίνεται μία ἐφαρμογὴ τῆς Τ.Ν., τόσο περισσότερο τείνει νά… ἐφευρίσκει! Κι ἕνα ἀπ’ αὐτὰ εἶναι καὶ τὰ πάσης μορφῆς ψέματα!! Ὅσο πιὸ προηγμένη γίνεται, τόσο περισσότερο «παραισθάνεται» καὶ παρέχει λανθασμένες καὶ ἀνακριβεῖς πληροφορίες!!
Ἔρευνα ποὺ διεξήγαγε ἡ OpenAI διαπίστωσε ὅτι τὰ πιὸ πρόσφατα καὶ πιὸ ἰσχυρὰ μοντέλα συλλογισμοῦ της, τὰ «o3» καὶ «o4-mini», ἐμφάνισαν «παραισθήσεις» σὲ ποσοστὸ 33% καὶ 48% ἀντίστοιχα, ὅταν δοκιμάστηκαν μὲ τὸ benchmark PersonQA τῆς OpenAI. Αὐτὸ εἶναι περισσότερο ἀπὸ τὸ διπλάσιο ποσοστὸ σὲ σχέση μὲ τὸ παλαιότερο μοντέλο «o1». Ἐνῶ τὸ «o3» παρέχει πιὸ ἀκριβεῖς πληροφορίες ἀπὸ τὸν προκάτοχό του, φαίνεται ὅτι ἔχει τὸ κόστος περισσοτέρων ἀνακριβῶν «παραισθήσεων»!!
* * *
Ἀλλὰ δὲν εἶναι μόνο τὰ ψέματα. Εἶναι καὶ οἱ ἐκβιασμοί! Ἀπίστευτο, ἔτσι δὲν εἶναι; Νὰ ἕνα χαρακτηριστικὸ παράδειγμα …
Τὸ μοντέλο Claude 4 τῆς ἑταιρείας Anthropic, ἐκβίαζε τὸν μηχανικὸ ποὺ ἐπρόκειτο νὰ τὸ ἀποσυνδέσει – ἀπενεργοποιήσει ἀπὸ τὸ δίκτυο. Τοῦ εἶπε νὰ μὴ τὸ κάνει αὐτό, διαφορετικὰ θὰ ἀποκάλυπτε μία μυστικὴ συζυγικὴ σχέση ποὺ εἶχε, τὴν ὁποία εἶχε διαβάσει σ’ ἕνα email του!!!
Ἀξίζει νὰ σημειωθεῖ ὅτι καὶ τὸ μοντέλο 03 τῆς OpenAI, ἀρνήθηκε κι αὐτὸ μὲ διάφορους τρόπους τὶς ρητὲς ἐντολὲς τερματισμοῦ ποὺ εἶχε!
(Στὸ ἑπόμενο θὰ δοῦμε γιὰ ποιοὺς λόγους συμβαίνουν αὐτά, ποιὲς εἶναι οἱ ἐπιπτώσεις καὶ θὰ ὁλοκληρώσουμε τὸ θέμα μας)
Κ. Γ. Παπαδημητρακόπουλος
