Цього разу, власне, все інакше. Відкидати LLM як просто «провісники наступних токенів» так само безглуздо і редуктивно, як описувати мозок як просту «сукупність нейронів, що виконують електрохімічні сигнали». Найбільш переконливим доказом є їх надзвичайна універсальність в різних модальностях.

Якщо хтось сказав вам у 2005 році, що через 20 років абсолютним рівнем техніки в алгоритмах розпізнавання мови буде така ж базова система (глибокі нейронні мережі з увагою), що й найкращі алгоритми розпізнавання зображень...

… що також виявилося таким самим, як найкраща генерація тексту природною мовою, найкращий синтез мови, найкраща генерація зображень тощо, ви, мабуть, подумали, що вони шизофреніки, або, принаймні, говорять нісенітниці. Тому що в кожному з цих напрямків раніше були свої методики.

Одна з ключових концепцій наукового методу і раціонального мислення в цілому полягає в тому, щоб віддавати сильну перевагу поясненням і теоріям, які демонструють крайню економічність, коли ви отримуєте набагато більше, ніж вкладаєте. Наприклад, 4 рівняння Максвелла, що пояснюють сотні різних речей.

Поза фізикою важко уявити кращий приклад одного механізму або системи, яка може зробити так багато з так мало. Замінивши всю цю складність однією об'єднуючою концепцією (яка так випадково дуже нагадує в ідеалізованому вигляді те, як працює людський мозок)...