Τα παραδοσιακά γλωσσικά μοντέλα (LLMs) λειτουργούν παράγοντας ένα token τη φορά, από τα αριστερά προς τα δεξιά. Αυτός ο αυτοπαλίνδρομος μηχανισμός σημαίνει ότι για μια πρόταση 12 λέξεων, το μοντέλο πρέπει να εκτελεστεί 12 φορές διαδοχικά. Η μέθοδος Next-Concept Modeling (NCM) ανατρέπει αυτό το μοντέλο, υιοθετώντας μια λογική εμπνευσμένη από τα μοντέλα παραγωγής εικόνων: δημιουργεί ολόκληρο το κείμενο ταυτόχρονα σε μια πολύ αδρή μορφή (coarse) και στη συνέχεια το βελτιώνει σταδιακά σε πολλαπλά επίπεδα (fine).
Η αρχιτεκτονική του NCM αποθηκεύει το κείμενο ως μια στοίβα από στρώματα (layers). Το ανώτερο επίπεδο περιέχει μόνο λίγους δομικούς κώδικες που αποτυπώνουν το συνολικό νόημα, ενώ κάθε επόμενο επίπεδο διορθώνει τα σφάλματα των παραπάνω επιπέδων μέχρι το τελικό στρώμα που αντιστοιχεί στους ακριβείς χαρακτήρες. Στις δοκιμές σύνοψης ειδήσεων, το NCM πέτυχε ταχύτητες έως και 31 φορές μεγαλύτερες από αντίστοιχα παράλληλα μοντέλα σε κάρτες NVIDIA H100, ενώ απαίτησε έως και 5 φορές λιγότερα tokens εκπαίδευσης.
Παράλληλα, στην επίλυση γρίφων όπως το Sudoku, το NCM έδειξε θεαματικά αποτελέσματα. Επειδή τα παραδοσιακά LLMs δεν μπορούν να "αναιρέσουν" μια λανθασμένη επιλογή, πέτυχαν ποσοστό επίλυσης μόλις 1% σε δύσκολα ταμπλό. Αντίθετα, το NCM, επειδή αναδιαμορφώνει και διορθώνει ολόκληρο το ταμπλό ταυτόχρονα σε κάθε πέρασμα, κατάφερε να λύσει το 86% των γρίφων. Παρά το γεγονός ότι σε εργασίες μετάφρασης υστέρησε ελαφρώς, η δυνατότητα καθολικής βελτίωσης του κειμένου ανοίγει νέους δρόμους.
Η δεύτερη μεγάλη καινοτομία αφορά τους Hybrid Reasoning Agents (με επικεφαλής τον Jiaru Zou). Μέχρι σήμερα, τα μοντέλα συλλογιστικής (Reasoning Models) κατανάλωναν χιλιάδες tokens κειμένου απλά για να "σκεφτούν", τα οποία χρεώνονται στον χρήστη και καταλαμβάνουν πολύτιμο χώρο στο context window. Οι Hybrid Agents εισάγουν την έννοια της "σιωπηλής σκέψης" (silent thinking), όπου το μοντέλο εκτελεί τα βήματα συλλογιστικής απευθείας στον εσωτερικό διανυσματικό του χώρο (hidden states) χωρίς να παράγει ορατές λέξεις.
Όταν ο Hybrid Agent χρειάζεται να κάνει μια εξωτερική ενέργεια, όπως μια αναζήτηση στο διαδίκτυο, μεταβαίνει στιγμιαία σε παραγωγή κειμένου, εκτελεί την αναζήτηση και στη συνέχεια επιστρέφει στη σιωπηλή συλλογιστική. Αυτός ο μηχανισμός μείωσε τα απαιτούμενα tokens κατά 35% έως 55%, διπλασίασε την ταχύτητα εκτέλεσης και μείωσε το υπολογιστικό κόστος κατά 2.7 έως 3.7 φορές. Μάλιστα, στο benchmark GAIA για αυτόνομους πράκτορες, ένα μοντέλο 14 δισεκατομμυρίων παραμέτρων ξεπέρασε κατά πολύ προγενέστερες μεθόδους όπως το Coconut της Meta FAIR.
Ωστόσο, η σιωπηλή συλλογιστική εγείρει και σοβαρούς προβληματισμούς στον χώρο της ασφάλειας του AI. Όπως επεσήμανε ο ερευνητής Peter Barnett, όταν η αλυσίδα σκέψης του μοντέλου (Chain of Thought) παραμένει εντελώς κρυφή και μη αναγνώσιμη σε μορφή κειμένου, χάνεται η δυνατότητα των ανθρώπων να παρακολουθούν και να αξιολογούν αν οι αποφάσεις της τεχνητής νοημοσύνης είναι ασφαλείς. Παρά τους προβληματισμούς, τα αποθετήρια κώδικα και τα μοντέλα και των δύο ερευνών είναι ήδη διαθέσιμα ως open-source στο GitHub.
