Γενικού ενδιαφέροντος

Η ψεύτικη υπόσχεση του ChatGPT

New York Times, 8 Μαρτίου 2023

Ο Δρ Τσόμσκι και ο Δρ Ρόμπερτς είναι καθηγητές γλωσσολογίας. Ο Dr. Watumull είναι διευθυντής τεχνητής νοημοσύνης σε μια επιστημονική και τεχνολογική εταιρεία.

Ο Χόρχε Λουίς Μπόρχες έγραψε κάποτε ότι το να ζεις σε μια εποχή μεγάλων κινδύνων και υποσχέσεων σημαίνει να βιώνεις ταυτόχρονα τραγωδία και κωμωδία, με “την αμεσότητα μιας αποκάλυψης” στην κατανόηση του εαυτού μας και του κόσμου. Σήμερα οι υποτιθέμενες επαναστατικές μας εξελίξεις στην τεχνητή νοημοσύνη είναι πράγματι αιτία τόσο για ανησυχία όσο και για αισιοδοξία. Αισιοδοξία επειδή η νοημοσύνη είναι το μέσο με το οποίο λύνουμε τα προβλήματα. Ανησυχία επειδή φοβόμαστε ότι το πιο δημοφιλές και μοντέρνο στέλεχος της τεχνητής νοημοσύνης – η μηχανική μάθηση – θα υποβαθμίσει την επιστήμη μας και θα εξευτελίσει την ηθική μας ενσωματώνοντας στην τεχνολογία μας μια θεμελιωδώς λανθασμένη αντίληψη για τη γλώσσα και τη γνώση.

Το ChatGPT της OpenAI, το Bard της Google και το Sydney της Microsoft είναι θαύματα της μηχανικής μάθησης. Μιλώντας χοντρικά, παίρνουν τεράστιες ποσότητες δεδομένων, αναζητούν μοτίβα σε αυτά και γίνονται όλο και πιο ικανοί στο να παράγουν στατιστικά πιθανά αποτελέσματα – όπως φαινομενικά ανθρώπινη γλώσσα και σκέψη. Τα προγράμματα αυτά έχουν χαιρετιστεί ως οι πρώτες αναλαμπές στον ορίζοντα της τεχνητής γενικής νοημοσύνης – της από καιρό προφητευμένης στιγμής κατά την οποία τα μηχανικά μυαλά θα ξεπεράσουν τους ανθρώπινους εγκεφάλους όχι μόνο ποσοτικά από άποψη ταχύτητας επεξεργασίας και μεγέθους μνήμης αλλά και ποιοτικά από άποψη διανοητικής διορατικότητας, καλλιτεχνικής δημιουργικότητας και κάθε άλλης διακριτής ανθρώπινης ικανότητας.

Αυτή η μέρα μπορεί να έρθει, αλλά η αυγή της δεν έχει ακόμη ξημερώσει, αντίθετα με ό,τι μπορεί να διαβάσει κανείς σε υπερβολικούς τίτλους και να υπολογιστεί από απερίσκεπτες επενδύσεις. Η μπορχεσιανή αποκάλυψη της κατανόησης δεν έχει συμβεί και δεν θα συμβεί – και, όπως υποστηρίζουμε, δεν μπορεί να συμβεί – αν τα προγράμματα μηχανικής μάθησης όπως το ChatGPT συνεχίσουν να κυριαρχούν στον τομέα της τεχνητής νοημοσύνης. Όσο χρήσιμα και αν είναι αυτά τα προγράμματα σε ορισμένους ειδικούς τομείς (μπορούν να φανούν χρήσιμα στον προγραμματισμό υπολογιστών, για παράδειγμα, ή στο να προτείνουν ομοιοκαταληξίες για ελαφρούς στίχους), γνωρίζουμε από την επιστήμη της γλωσσολογίας και τη φιλοσοφία της γνώσης ότι διαφέρουν βαθύτατα από τον τρόπο με τον οποίο οι άνθρωποι σκέφτονται και χρησιμοποιούν τη γλώσσα. Αυτές οι διαφορές θέτουν σημαντικούς περιορισμούς σε ό,τι μπορούν να κάνουν αυτά τα προγράμματα, κωδικοποιώντας τα με απαράγραπτα ελαττώματα.

Είναι ταυτόχρονα κωμικό και τραγικό, όπως θα μπορούσε να είχε σημειώσει ο Μπόρχες, το γεγονός ότι τόσα πολλά χρήματα και τόση προσοχή συγκεντρώνονται σε ένα τόσο μικρό πράγμα – κάτι τόσο ασήμαντο σε σύγκριση με τον ανθρώπινο νου, ο οποίος με τη βοήθεια της γλώσσας, σύμφωνα με τα λόγια του Βίλχελμ φον Χούμπολντ, μπορεί να κάνει “άπειρη χρήση πεπερασμένων μέσων”, δημιουργώντας ιδέες και θεωρίες με παγκόσμια εμβέλεια.

Το ανθρώπινο μυαλό δεν είναι, όπως το ChatGPT και οι όμοιοί του, μια βαριά στατιστική μηχανή για την αντιστοίχιση προτύπων, που καταβροχθίζει εκατοντάδες terabytes δεδομένων και εξάγει την πιο πιθανή συνομιλιακή απάντηση ή την πιο πιθανή απάντηση σε ένα επιστημονικό ερώτημα. Αντιθέτως, το ανθρώπινο μυαλό είναι ένα εκπληκτικά αποτελεσματικό και ακόμη και κομψό σύστημα που λειτουργεί με μικρές ποσότητες πληροφοριών- δεν επιδιώκει να συμπεράνει ωμές συσχετίσεις μεταξύ σημείων δεδομένων, αλλά να δημιουργήσει εξηγήσεις.

Για παράδειγμα, ένα μικρό παιδί που κατακτά μια γλώσσα αναπτύσσει – ασυνείδητα, αυτόματα και γρήγορα από μικροσκοπικά δεδομένα – μια γραμματική, ένα εκπληκτικά εξελιγμένο σύστημα λογικών αρχών και παραμέτρων. Αυτή η γραμματική μπορεί να γίνει κατανοητή ως έκφραση του έμφυτου, γενετικά εγκατεστημένου “λειτουργικού συστήματος” που προικίζει τους ανθρώπους με την ικανότητα να δημιουργούν σύνθετες προτάσεις και μακρά ακολουθία σκέψεων. Όταν οι γλωσσολόγοι προσπαθούν να αναπτύξουν μια θεωρία για το γιατί μια δεδομένη γλώσσα λειτουργεί όπως λειτουργεί (“Γιατί αυτές – αλλά όχι εκείνες – οι προτάσεις θεωρούνται γραμματικές;”), οικοδομούν συνειδητά και με κόπο μια ρητή εκδοχή της γραμματικής που το παιδί οικοδομεί ενστικτωδώς και με ελάχιστη έκθεση σε πληροφορίες. Το λειτουργικό σύστημα του παιδιού είναι εντελώς διαφορετικό από αυτό ενός προγράμματος μηχανικής μάθησης.

Θεματολογικές ετικέτες
Συγγραφέας