Mental BoundΤο AGI είναι η ιδέα μιας AI που θα μπορούσε να αναλάβει οποιαδήποτε διανοητική εργασία μπορεί ένας άνθρωπος — να μάθει νέα γλώσσα, να περάσει από το γράψιμο κώδικα στη διάγνωση ασθενειών και στη σύνθεση μουσικής — και να προσαρμόζεται σε νέες καταστάσεις χωρίς επανεκπαίδευση. Η σημερινή AI είναι αντίθετα στενή: δυνατή σε συγκεκριμένες εργασίες, όχι γενική σε όλα τα πεδία. Το AGI δεν υπάρχει, και οι ερευνητές διαφωνούν αν απέχει δεκαετίες, αιώνες, ή αν είναι καν εφικτό.
Η έννοια έχει σημασία γιατί συγκεντρώνει τα ερωτήματα ασφάλειας του πεδίου. Ένα στενό chatbot που κάνει λάθη στα γεγονότα είναι ενοχλητικό· ένα γενικά ικανό σύστημα που συμπεριφέρεται λάθος θα είχε πολύ σοβαρότερες συνέπειες. Μεγάλο μέρος της έρευνας ασφάλειας AI εστιάζει στο πώς τα συστήματα παραμένουν ευθυγραμμισμένα με τις ανθρώπινες αξίες καθώς γίνονται πιο ικανά.
Προς το παρόν, το AGI είναι έννοια, όχι προϊόν — οι ισχυρισμοί περί «AGI» ή «AI επιπέδου ανθρώπου» θέλουν σκεπτικισμό. Τα σημερινά συστήματα είναι ισχυρά εργαλεία, αλλά στενά.