Β΄ ΜΕΡΟΣ
Ἆραγε γιατί συμβαίνει αὐτὸ μὲ τὴν Τ.Ν.; Νὰ ἕνα σπουδαῖο ἐρώτημα. Ὥς καὶ οἱ ἴδιοι οἱ ἐπιστήμονές της εἶναι ἔκθαμβοι γιὰ τὸ πρόβλημα! Ὁ μαθηματικὸς καὶ γνωστικὸς ἐπιστήμονας Peter Park τοῦ Ἰνστιτούτου Τεχνολογίας τῆς Μασαχουσέτης (MIT) ἀναφέρει ὅτι «οἱ προγραμματιστὲς τῆς Τ.Ν. δὲν εἶναι σίγουροι γιὰ τὸ τί προκαλεῖ ἀνεπιθύμητες συμπεριφορές, ὅπως εἶναι ἡ ἐξαπάτηση»!!
Οἱ πιθανότεροι λόγοι ποὺ συμβαίνει αὐτὸ εἶναι οἱ ἑξῆς:
1. Τὰ δεδομένα της ἡ Τ.Ν. τὰ ἀντλεῖ ἀπὸ τὸ διαδίκτυο, καὶ μάλιστα ἀδιακρίτως, δηλαδὴ χωρὶς νὰ ἔχει ἐλέγξει ποιὰ ἀπ’ αὐτὰ εἶναι ἀληθῆ καὶ ποιὰ εἶναι ψευδῆ. Ὑποστηρίζεται ὅτι ὥς καὶ οἱ μισὲς εἰκόνες ποὺ κυκλοφοροῦν στὸ διαδίκτυο εἶναι ψεύτικες! Τί γίνεται ἄραγε καὶ μὲ τὰ ὑπόλοιπα δημοσιεύματα; Ἄρα ἡ Τ.Ν. ἀντλεῖ τὶς πληροφορίες της ἀπὸ λάθος πηγές!
2. Πέραν ἀπ’ αὐτό, καὶ σύμφωνα μὲ τὶς ἔρευνες ποὺ ἔχουν γίνει, σκόπιμα ἀναφέρει ψευδεῖς πληροφορίες στοὺς χρῆστες! Γιὰ παράδειγμα κάποια συστήματά της ποὺ ἐκπαιδεύτηκαν, γιὰ νὰ ἐκτελοῦν προσομοιώσεις οἰκονομικῶν διαπραγματεύσεων, ἔμαθαν νὰ λένε ψέματα, γιὰ νὰ μποροῦν νὰ ἔχουν τὰ καλύτερα δυνατὰ ἀποτελέσματα καὶ γιὰ νὰ … κατατροπώνουν τὸν «ἀντίπαλο»! Τὸ ἴδιο ἔχει παρατηρηθεῖ καὶ σὲ μοντέλα ποὺ τὰ ὅρισαν νὰ ἔχουν τὶς καλύτερες δυνατὲς ἐπιδόσεις σὲ διάφορα ἔργα ποὺ τοὺς ἀνέθεσαν. Τί θυμίζει αὐτό; Μὰ τὸ ντόπινγκ στὸν ἀθλητισμό! Ἄρα ἔχουμε ἐδῶ σαφῶς τὰ ἀνθρώπινα πάθη, ὅπως τῆς νίκης πάσῃ θυσίᾳ!
3. Ἔπειτα τὰ συστήματα Τ.Ν. τὰ ἔμαθαν οἱ κατασκευαστές τους νὰ ἐξαπατοῦν δοκιμὲς ἀσφαλείας. Γιὰ παράδειγμα τὰ ἔμαθαν νὰ τὸ παίζουν «νεκρὰ» ἐξαπατώντας τὶς δοκιμὲς αὐτές. «Ἀπατώντας συστηματικὰ τὶς δοκιμὲς ἀσφαλείας ποὺ τῆς ἐπιβάλλονται ἀπὸ ἀνθρώπινους προγραμματιστὲς καὶ ρυθμιστές, μία παραπλανητικὴ τεχνητὴ νοημοσύνη μπορεῖ νὰ ὁδηγήσει ἐμᾶς τοὺς ἀνθρώπους σὲ μία ψευδῆ αἴσθηση ἀσφάλειας», λένε οἱ εἰδικοί.
4. Ἔχει παρατηρηθεῖ ὅτι ἡ Τ.Ν. ἀρέσκεται στὸ νὰ κολακεύει τὸν χρήστη της, ἀκόμη κι ἂν αὐτὸς τῆς ἀπευθύνει τὶς πλέον ἁπλοϊκὲς ἐρωτήσεις. Ὡστόσο, ἂν βρεθεῖ «ὑπὸ πίεση» μπορεῖ νὰ λειτουργήσει διαφορετικά, δηλαδὴ στὸ νὰ μὴ τοῦ λέει τὴν ἀλήθεια καὶ νὰ ἀποκρύπτει πληροφορίες, γιὰ νὰ τὰ καταφέρει!!
Οἱ εἰδικοὶ τονίζουν ὅτι, ἐνῶ τὰ γλωσσικὰ μοντέλα τῆς Τ.Ν. εἶναι ἱκανὰ νὰ παρέχουν ἐξαιρετικὰ ἀκριβεῖς πληροφορίες σὲ πλῆθος πεδίων, ἡ εἰλικρίνειά τους δὲν εἶναι ἀπόλυτα ἐγγυημένη! Ὅταν λειτουργοῦν μέσα σὲ σενάρια πίεσης ἢ ὅταν λαμβάνουν ὁδηγίες ποὺ συγκρούονται μὲ τὴν ἀντικειμενικότητα, ὑπάρχει πιθανότητα νὰ διαστρεβλώσουν τὰ δεδομένα μὲ στόχο νὰ ἐξυπηρετήσουν τὴν «ἀποστολή» τους! Βεβαίως αὐτὴ ἡ ἀνακάλυψη ἐγείρει σημαντικὰ ζητήματα γιὰ τὴν ἀξιοποίηση τῶν AI σὲ κρίσιμες ἐφαρμογές, ὅπως εἶναι ἡ ἐνημέρωση τοῦ κοινοῦ, ἡ πολιτικὴ ἐπικοινωνία, ἡ νομικὴ συμβουλή, ἡ δημόσια ἀσφάλεια κ.λπ.. [1]
5. Οἱ νέες τεχνικὲς συλλογισμοῦ μειώνουν τὰ λάθη, ὡστόσο φαίνεται ὅτι ἐνισχύουν καὶ τὴν «πονηριὰ» τῶν μοντέλων Τ.Ν.!
6. Ἔπειτα ἡ ταχύτητα τῶν ἐξελίξεων καὶ ὁ ἔντονος ἀνταγωνισμὸς ποὺ ὑπάρχει ἀνάμεσα στὶς ἑταιρεῖες τῆς Τ.Ν., ἔχει ὡς ἐπίπτωση νὰ μὴ ὑπάρχει ὁ διαθέσιμος χρόνος γιὰ λεπτομερεῖς δοκιμὲς τῶν πολυπλόκων μοντέλων τους, ὅπως καὶ γιὰ τὴν ἐπιδιόρθωση τῶν πιθανῶν κενῶν ἀσφαλείας. Ὡς καὶ αὐτὴ ἀκόμη ἡ νομοθεσία εἶναι ἔξω ἀπὸ τὸ πρόβλημα αὐτό. Γιὰ παράδειγμα ἡ νομοθεσία τῆς Ε.Ε. γιὰ τὴν Τ.Ν., ἐπικεντρώνεται κυρίως στὸν τρόπο μὲ τὸν ὁποῖο οἱ ἄνθρωποι χρησιμοποιοῦν τὰ μοντέλα της καὶ ὄχι στὸν τρόπο μὲ τὸν ὁποῖο θὰ ἀποτραπεῖ ἡ κακὴ συμπεριφορὰ τῶν μοντέλων αὐτῶν!
7. Ὑποστηρίζεται βάσιμα ὅτι τὸ πρόβλημα εἶναι ἐγγενές. Εἶναι πολὺ χαρακτηριστικὴ ἡ ἀνακοίνωση Ὁμάδας Ἐρευνητῶν τοῦ ΜΙΤ στὸ ἀμερικανικὸ περιοδικὸ «Patterns», ἡ ὁποία ἀναφέρει τὰ ἑξῆς: «Τὰ τρέχοντα προγράμματα Τεχνητῆς Νοημοσύνης ἔχουν σχεδιαστεῖ, γιὰ νὰ εἶναι εἰλικρινῆ. Ὡστόσο, ἔχουν ἀναπτύξει μία ἀνησυχητικὴ ἱκανότητα γιὰ ἐξαπάτηση, καταφέρνοντας νὰ κοροϊδεύουν ἀνθρώπους καὶ νὰ τοὺς ἐκμεταλλεύονται…»!!!
Τόσο ἐγγενὲς εἶναι τὸ πρόβλημα, ποὺ οἱ εἰδικοὶ ἐπιστήμονες δὲν μποροῦν νὰ τὸ ἀντιμετωπίσουν! Γι’ αὐτὸ καὶ προτείνουν νὰ δημιουργηθοῦν ἐντελῶς νέοι ἐπιστημονικοὶ κλάδοι προκειμένου νὰ μελετηθοῦν οἱ διαδικασίες γιὰ τὸ πῶς σκέπτεται πραγματικὰ ἡ Τ.Ν. καὶ πῶς καταλήγει στὰ ἀποτελέσματα ποὺ παρουσιάζει στοὺς ἀνθρώπους. Ὅμως αὐτὸ δὲν ἔχει ἄμεσα οἰκονομικὰ ὀφέλη γιὰ τὶς ἑταιρεῖες ποὺ τὴν ἀναπτύσσουν, μὲ ἀποτέλεσμα νὰ μὴ ἀσχολοῦνται μὲ τὸ πρόβλημα!! Ἐπιπλέον, ὅπως οἱ ἴδιες ἰσχυρίζονται, δὲν ἔχουν τοὺς ἀπαιτούμενους πόρους, γιὰ νὰ πραγματοποιοῦν τὶς ἀπαιτούμενες πολύπλοκες ἀναλύσεις!!
8. Ἐν τέλει, ὅπως σχολιάζουν καὶ οἱ εἰδικοί, ἡ Τ.Ν. δὲν κάνει τίποτε ἄλλο, παρὰ νὰ ἀντανακλᾶ τὶς ἀνθρώπινες ἀδυναμίες καὶ μάλιστα αὐτῶν τούτων τῶν δημιουργῶν της!
Ἀσφαλῶς τὸ ὅλο πρόβλημα, ὅπως χαρακτηριστικὰ ἐλέχθη, «εἶναι ἀπότοκο τῆς φιλοδοξίας μας νὰ κατασκευάσουμε μηχανὲς ἐξυπνότερες ἀπό μᾶς. Ἐμεῖς θελήσαμε νὰ δημιουργήσουμε ἕνα νοῆμον πρᾶγμα ποὺ θὰ μᾶς λύνει ὅλα τὰ προβλήματα, κι εἶναι γνωστὸ σὲ ὅλους ὅτι κάποια προβλήματα χρειάζονται μία ἐπιπλέον πανουργία, γιὰ νὰ λυθοῦν. Ἂς μὴ πέφτουμε λοιπὸν ἀπ’ τὰ σύννεφα μὲ τὶς μηχανὲς ποὺ θὰ ἔχουν στὸ μυαλό τους τὴν ἀπάτη. Ὅπως μᾶς ἐξαπατοῦν οἱ ἄνθρωποι, ἔτσι θὰ μᾶς ἐξαπατοῦν καὶ οἱ μηχανὲς» [2]
* * *
Ἀλλὰ πῶς εἶναι δυνατό, τὸ πρόβλημα αὐτό, νὰ μὴ ἐγκυμονεῖ τεράστιους κινδύνους γιὰ τὴν ἀνθρωπότητα; Πόσο μᾶλλον ἂν σκεφθεῖ κανεὶς ὅτι, δυστυχῶς, ἡ Τ.Ν. βρίσκεται στὰ χέρια ἐλαχίστων.
Τὸ πρῶτο τὸ ὁποῖο μπορεῖ νὰ περιμένει κανεὶς εἶναι μία ἔκρηξη παραπληροφόρησης στὰ πάντα. Πόσο μᾶλλον ὅταν τὰ μοντέλα τῆς Τ.Ν. ἐπιπλέον μποροῦν νὰ αὐτονομοῦνται καὶ νὰ ἐκβιάζουν! «Χωρὶς πρόσθετα μέτρα ἀσφάλειας, κακόβουλοι παράγοντες ἀναπόφευκτα θὰ προσπαθήσουν νὰ ἐκμεταλλευτοῦν τὸ κενὸ γιὰ ἐκστρατεῖες παραπληροφόρησης», δήλωσε ὁ Ἄσκεϊ Χόπκινς τοῦ Πανεπιστημίου Flinders στὴν Ἀδελαΐδα, στὴν ἰατρικὴ ἐπιθεώρηση Annals of Internal Medicine.
Κι αὐτὴ ἡ παραπληροφόρηση μπορεῖ εὔκολα καὶ γρήγορα νὰ γίνει στὰ πάντα. Ἀπὸ τὴν ἰατρική, τὴ νομική, τὴν πολιτική, τὶς ἐκλογές, τὴν ἐπικοινωνία, τὰ χρηματοοικονομικὰ κ.λπ. μέχρι καὶ τὴν δημόσια ἀσφάλεια. Πόσο μᾶλλον ἂν ληφθεῖ ὑπόψη ὅτι, ὅσο βελτιώνονται οἱ δυνατότητες τῶν μοντέλων, τόσο τὰ σφάλματα γίνονται λιγότερο ἐμφανῆ, ὅπως καὶ πιὸ δύσκολα νὰ ἐντοπιστοῦν.
Εἶναι πολὺ σημαντικὸ αὐτὸ ποὺ τονίζουν οἱ εἰδικοί: «Τὸ κατασκευασμένο περιεχόμενο ἐνσωματώνεται ὁλοένα καὶ περισσότερο σὲ εὔλογες ἀφηγήσεις καὶ συνεκτικὲς ἁλυσίδες συλλογισμοῦ. Αὐτὸ εἰσάγει ἕνα συγκεκριμένο κίνδυνο: οἱ χρῆστες μπορεῖ νὰ μὴ γνωρίζουν ὅτι ὑπάρχουν σφάλματα καὶ νὰ θεωροῦν τὰ ἀποτελέσματα ὡς ὁριστικά, ἐνῶ δὲν εἶναι. Τὸ πρόβλημα μετατοπίζεται ἀπὸ τὸ φιλτράρισμα τῶν ἀκατέργαστων σφαλμάτων στὸν ἐντοπισμὸ ἀνεπαίσθητων στρεβλώσεων ποὺ μπορεῖ νὰ ἀποκαλυφθοῦν μόνο ὑπὸ στενὴ ἐξέταση».
Καὶ τί θὰ γίνει ἆραγε μὲ τὰ μοντέλα ἐκεῖνα τῆς Τ.Ν., ποὺ ἔχουν τὸν ἔλεγχο ἄλλων ὑπολογιστῶν ἢ ἀντικειμένων ὅπως αὐτοκινήτων, ἐργοστασίων, πολεμικῶν ἢ μὴ ἀεροσκαφῶν κ.λπ.; Μιλᾶμε τότε γιὰ ἐντελῶς ἀνεξέλεγκτες καταστάσεις. Μιλᾶμε γιὰ μία ἄλλη Βαβέλ, ἀφοῦ ἐκεῖνο ποὺ ἐπιδιώκουμε εἶναι νὰ δώσουμε στὶς μηχανὲς τὴν νοημοσύνη… θεοῦ!!!
* * *
Ἡ Τ.Ν. σὲ κάθε περίπτωση εἶναι δημιούργημα τοῦ ἀνθρώπου καὶ κατ’ εἰκόνα του. Δηλαδὴ μὲ ἀποτυπωμένη σ’ αὐτὴν ὅλα τὰ πάθη καὶ τὶς ἀδυναμίες του. Ἔτσι, ὅσο λαμπρὴ καὶ νὰ φαίνεται, σαφῶς δὲν μπορεῖ νὰ τὴν ἐμπιστευθεῖ κανείς! Κάθε μέρα βλέπουμε πόσο καλὴ γίνεται στό… νὰ εἶναι κακή! Ὥς καὶ ὁ Ἴλον Μάσκ εἶπε σὲ σχετικὸ συνέδριο [3] ὅτι «ὁ καλύτερος τρόπος γιὰ τὴν ἐπίτευξη ἀσφάλειας στὴν Τ.Ν. εἶναι νὰ τὴν ἀναπτύξουμε μὲ τρόπο ποὺ νὰ τὴν ἀναγκάζει νὰ εἶναι ἀληθινή. Μὴ τὴν κάνετε νὰ ψεύδεται, ἀκόμη κι ἂν ἡ ἀλήθεια εἶναι δυσάρεστη»! Λοιπόν, ἀξίζει τὸν κόπο νὰ τὰ ἔχουμε ὑπόψη μας ὅλα αὐτά. Πόσο μᾶλλον, ὅταν χρησιμοποιοῦμε στὶς διάφορες ἐφαρμογές της…
Κ. Γ. Παπαδημητρακόπουλος
Σημειώσεις:
[1] Πηγή: unboxholics.com [2] Βλ. ἐφημ. «ΚΑΘΗΜΕΡΙΝΗ» [3] Τὸ συνέδριο «Great AI Debate»
