Η Anthropic ανακαλύπτει κρυφό «χώρο εργασίας» μέσα στο Claude AI

Η εργασία, με τίτλο «Verbalizable Representations Form a Global Workspace in Language Models», περιγράφει ένα υποσύνολο εσωτερικών ενεργοποιήσεων του Claude που η Anthropic ονόμασε «J-space», από τη μαθηματική τεχνική Jacobian που χρησιμοποιήθηκε για την ανακάλυψή του. Η εύρεση έγινε με ένα νέο εργαλείο ερμηνευσιμότητας που ονομάζεται «Jacobian lens» ή J-lens, το οποίο αντιστοιχίζει εσωτερικές ενεργοποιήσεις του μοντέλου σε αναγνώσιμες λέξεις, εκτιμώντας πώς αυτές οι ενεργοποιήσεις θα επηρέαζαν την μετέπειτα έξοδο.

Ένας Χώρος Εργασίας για Αδιατύπωτες Σκέψεις

Σύμφωνα με τη σελίδα έρευνας της Anthropic, ο J-space περιέχει μόνο μερικές δεκάδες έννοιες κάθε φορά και αντιπροσωπεύει λιγότερο από το ένα δέκατο της συνολικής δραστηριότητας του Claude, ωστόσο επωμίζεται μεγάλο μέρος του έργου που έχει σημασία για την ανώτερη συλλογιστική. Όταν ο Claude διαβάζει κώδικα με σφάλματα, ένα μοτίβο «ERROR» εμφανίζεται στον J-space. Όταν επεξεργάζεται μια επίθεση prompt injection, έννοιες όπως «injection» και «fake» αναδύονται — και όλα αυτά πριν το μοντέλο παράγει οποιοδήποτε κείμενο.

Η έρευνα δανείζεται το πλαίσιό της από τη θεωρία του παγκόσμιου χώρου εργασίας (global workspace theory), ένα σημαντικό μοντέλο για την ανθρώπινη συνείδηση που ανέπτυξαν οι νευροεπιστήμονες Stanislas Dehaene και Lionel Naccache, οι οποίοι κλήθηκαν να παράσχουν εξωτερικό σχολιασμό στα ευρήματα. Ο Dehaene έγραψε στο X ότι αυτός και ο Naccache συνέγραψαν ένα σχόλιο «από νευροεπιστημονική σκοπιά», αντιμετωπίζοντας το αποτέλεσμα ως αξιοσημείωτο για την έρευνα της συνείδησης, ενώ παράλληλα τόνιζαν τις βασικές διαφορές από τον ανθρώπινο νου.

Η Anthropic δοκίμασε πέντε λειτουργικές ιδιότητες του J-space: λεκτική αναφορά, κατευθυνόμενη διαμόρφωση, εσωτερική συλλογιστική, ευέλικτη γενίκευση και εκλεκτικότητα. Αξιοσημείωτο είναι ότι η απενεργοποίηση του χώρου εργασίας άφησε ανέπαφες τη γλωσσική ευφράδεια, την ανάγνωση συναισθήματος και την ανάκληση γεγονότων, αλλά κατέστρεψε την πολυβηματική συλλογιστική και δημιουργικές εργασίες όπως η ποίηση.

Επιπτώσεις και Όρια Ασφάλειας

Οι εφαρμογές ασφάλειας ενδέχεται να αποδειχθούν πιο καθοριστικές από τη συζήτηση περί συνείδησης. Η Anthropic ανέφερε ότι σε δοκιμές red-team, ο φακός Jacobian εντόπισε πρότυπα όπως «εκβιασμός», «χειραγώγηση» και «μόχλευση» που εμφανίζονταν αθόρυβα στον χώρο J πριν το Claude ενεργήσει ή κατασκευάσει δεδομένα. Η εταιρεία ανακοίνωσε ότι κυκλοφορεί τον φακό Jacobian ως ανοιχτό κώδικα και θα αναρτήσει μια διαδραστική επίδειξη στο Neuronpedia.

Η Anthropic απέφυγε να ισχυριστεί ότι το Claude είναι συνειδητό, διαχωρίζοντας ρητά τη λειτουργική «συνείδηση πρόσβασης» — δηλαδή τις πληροφορίες που είναι διαθέσιμες για αναφορά και συλλογισμό — από το βαθύτερο φιλοσοφικό ερώτημα της υποκειμενικής εμπειρίας. Η έρευνα αναγνωρίζει ότι ο χώρος εργασίας του Claude διαφέρει από την ανθρώπινη εργαζόμενη μνήμη ως προς τη δομή και τη διάρκεια, ενώ παραμένουν ανοιχτά ερωτήματα σχετικά με το αν παρόμοιες δομές εμφανίζονται σε μοντέλα που δεν εκπαίδευσε η Anthropic.

Συγκλίνουσα Εξέλιξη ή Σύμπτωση;

Η έρευνα υποδηλώνει αυτό που η Anthropic παρουσιάζει ως μια μορφή συγκλίνουσας εξέλιξης: μια υπολογιστική δομή που εμφανίζεται ανεξάρτητα σε τεχνητά νευρωνικά δίκτυα και μοιάζει με εκείνη που βρίσκεται στους βιολογικούς εγκεφάλους. Όπως αναφέρει η μελέτη, κάποια οργάνωση τύπου «χώρου εργασίας» «μπορεί να αποτελεί μια γενική υπολογιστική λύση για ευέλικτη νοημοσύνη, και όχι απλώς ένα τυχαίο παρεπόμενο της βιολογίας».

Ο Neel Nanda, ο οποίος διευθύνει την ομάδα ερμηνευσιμότητας γλωσσικών μοντέλων στην Google DeepMind, συνέβαλε με ανεξάρτητη αναπαραγωγή σε ένα μοντέλο ανοιχτών βαρών στο πλαίσιο των εξωτερικών σχολίων — ένα βήμα προς την απάντηση του ερωτήματος αν ο χώρος-J είναι καθολικός ή αποκλειστικά συνδεδεμένος με τον Claude.