Tym razem jest, w rzeczywistości, inaczej. Odrzucanie LLM-ów jako jedynie „predyktorów następnych tokenów” jest tak głupie i redukcyjne, jak opisywanie mózgu jako jedynie „zbioru neuronów wykonujących sygnalizację elektrochemiczną.” Najbardziej przekonującym dowodem jest ich ekstremalna uniwersalność w różnych modalnościach.

Gdyby ktoś powiedział ci w 2005 roku, że za 20 lat absolutny stan sztuki w algorytmach rozpoznawania mowy będzie tym samym podstawowym systemem (głębokie sieci neuronowe z uwagą), co najlepsze algorytmy rozpoznawania obrazów…

…co również okazało się być tym samym, co najlepsze generowanie tekstu w naturalnym języku, najlepsza synteza mowy, najlepsze generowanie obrazów itd., prawdopodobnie pomyślałbyś, że są schizofrenikami, albo przynajmniej mówią bzdury. Ponieważ każda z tych dziedzin miała kiedyś swoje własne techniki.

Jednym z kluczowych pojęć w metodzie naukowej oraz w myśleniu racjonalnym jest nadawanie silnego priorytetu wyjaśnieniom i teoriom, które wykazują ekstremalną oszczędność, gdzie uzyskuje się znacznie więcej, niż się wkłada. Jak równania Maxwella, które wyjaśniają setki różnych zjawisk.

Poza fizyką, trudno znaleźć lepszy przykład pojedynczego mechanizmu lub systemu, który może zrobić tak wiele z tak małej ilości. Zastąpienie całej tej złożoności jedną jednoczącą koncepcją (która w idealizowanej formie przypomina sposób, w jaki działa ludzki mózg)…