Mental BoundΗ σημερινή AI είναι στενή: είναι εξαιρετική σε ένα πράγμα ή σε μερικά σχετικά. Ένα μοντέλο που γράφει δοκίμια μπορεί να δυσκολεύεται με τα μαθηματικά. Ένα που αναγνωρίζει πρόσωπα δεν μπορεί να οδηγήσει αυτοκίνητο. Το AGI — τεχνητή γενική νοημοσύνη — είναι η ιδέα μιας AI που θα μπορούσε να κάνει οποιαδήποτε διανοητική εργασία μπορεί ένας άνθρωπος: να μάθει νέα γλώσσα, να περάσει από το γράψιμο κώδικα στη διάγνωση ασθενειών στη σύνθεση μουσικής, και να προσαρμοστεί σε πρωτότυπες καταστάσεις χωρίς επανεκπαίδευση από το μηδέν.
Σκέψου τη διαφορά μεταξύ αριθμομηχανής και ανθρώπου. Μια αριθμομηχανή είναι καλύτερη από κάθε άνθρωπο στην αριθμητική, αλλά δεν μπορεί να διαβάσει μυθιστόρημα, να σχεδιάσει ταξίδι ή να παρηγορήσει φίλο. Το AGI θα έμοιαζε περισσότερο με τον άνθρωπο: όχι απαραίτητα το καλύτερο σε οποιαδήποτε μεμονωμένη εργασία, αλλά αρκετά ευέλικτο για να αντιμετωπίσει ένα ευρύ φάσμα. Οι ερευνητές διαφωνούν αν το AGI απέχει δεκαετίες, αιώνες, ή αν είναι καν εφικτό — αλλά παραμένει ένας πολικός αστέρας για το πεδίο.
Γιατί έχει σημασία: το AGI εγείρει ερωτήματα για ασφάλεια, έλεγχο και το μέλλον της εργασίας που η στενή AI δεν εγείρει. Ένα chatbot που μερικές φορές κάνει λάθη στα γεγονότα είναι ενοχλητικό· ένα σύστημα με ανθρώπινη γενική νοημοσύνη που συμπεριφέρεται λάθος θα μπορούσε να είναι πολύ πιο επακόλουθο. Μεγάλο μέρος της έρευνας ασφάλειας AI εστιάζει στο πώς να χτιστούν συστήματα που παραμένουν ευθυγραμμισμένα με τις ανθρώπινες αξίες καθώς γίνονται πιο ισχυρά.
Προς το παρόν, το AGI είναι έννοια, όχι προϊόν. Όταν ακούς ισχυρισμούς για «AGI» ή «AI επίπεδου ανθρώπου», να τους αντιμετωπίζεις με σκεπτικισμό. Τα συστήματα που έχουμε σήμερα είναι ισχυρά και χρήσιμα — αλλά παραμένουν στενά εργαλεία, όχι γενικοί νόες.