Mental BoundΤι είναι η μηχανιστική ερμηνευσιμότητα;
Η μηχανιστική ερμηνευσιμότητα (mechanistic interpretability) είναι η πρακτική της αντίστροφης ανάλυσης μοντέλων τεχνητής νοημοσύνης: η χαρτογράφηση των εσωτερικών μονοπατιών — των συγκεκριμένων στοιχείων και συνδέσεων — που χρησιμοποιεί ένα μοντέλο για να φτάσει στις απαντήσεις του, αντί να αντιμετωπίζεται ως μαύρο κουτί που μετατρέπει εισόδους σε εξόδους.
Ένα αξιοσημείωτο αποτέλεσμα ήρθε το 2025, όταν η τεχνική circuit tracing της Anthropic έδειξε ότι, στην ερώτηση «ποια είναι η πρωτεύουσα της πολιτείας που περιέχει το Dallas», το Claude πρώτα αναγνωρίζει εσωτερικά το Texas και μετά συνάγει το Austin — ένδειξη ότι τα μοντέλα σχηματίζουν ενδιάμεσα βήματα, αντί να αντιστοιχίζουν απλώς λέξεις με patterns.
Γιατί έχει σημασία η μηχανιστική ερμηνευσιμότητα;
Η πρακτική αξία: εντοπισμός κρυφών ελαττωμάτων, πρόβλεψη σεναρίων αποτυχίας και επαλήθευση ότι τα μοντέλα συμπεριφέρονται όπως αναμένεται. Ορισμένοι ερευνητές αμφισβητούν αν οι μέθοδοι κλιμακώνονται στα μεγαλύτερα μοντέλα, αλλά ο στόχος παραμένει: συστήματα AI που μπορούμε να επιθεωρήσουμε, να αποσφαλματώσουμε και να εμπιστευτούμε.