جميع الأشخاص الذين أصيبوا بالصدمة بشأن ريتش ساتون الذي لديه آراء سيئة للغاية حول LLMs (هل لي أن أذهب إلى أبعد من ذلك لاستخدام R-slur) ، فقط تذكر أن العديد من علماء الفيزياء الأكبر سنا الأكثر شهرة وشهرة في مطلع القرن رفضوا نظرية الكم باعتبارها مجنونة وخاطئة.

يقول المثل الشهير "العلم يتقدم بجنازة واحدة في كل مرة" لسبب ما. تحصل على رجل عجوز من حين لآخر مثل كورزويل الذي حصل عليه تماما (أو على الأقل فعل ذلك منذ عامين) ، ولكن بشكل عام يصعب على الدماغ المسن مراجعة الإصدارات السابقة بشكل جذري.

أيضا ، أتفاعل مع العديد من LLMs الحدودية لمدة 12+ ساعة يوميا كل يوم ، كما يفعل الكثير منكم. أشك في أن ساتون قد استخدم هذه النماذج بشكل مكثف للقيام بعمل إبداعي وتقني للغاية بهذا المستوى من الشدة ، وبالتالي ليس لديه نوع من الإحساس العميق لما يمكنهم القيام به.

"الحقيقة العلمية الجديدة لا تنتصر بإقناع خصومها وجعلهم يرون النور، بل لأن خصومها يموتون في النهاية وينشأ جيل جديد مألوف له... نادرا ما يشق الابتكار العلمي المهم طريقه من خلال الفوز التدريجي على خصومه وتحويلهم: نادرا ما يحدث أن يصبح شاول بولس. ما يحدث هو أن خصومها يموتون تدريجيا، وأن الجيل المتنامي على دراية بالأفكار منذ البداية: مثال آخر على حقيقة أن المستقبل يكمن في الشباب". - ماكس بلانك ، السيرة الذاتية العلمية ، 1950

بالمناسبة ، جزء من السبب الذي جعل كورزويل يفهم كل هذه الأشياء بوضوح في شيخوخته هو أنه عمليا الوحيد (حسنا ، ربما يحتوي النادي على عدد قليل من الأشخاص) الذي تنبأ باستمرار بهذا لفترة طويلة. لذلك لم يكن بحاجة حقا إلى مراجعة سابقاته كثيرا.

في حين أن معظم "الشعر الرمادي" الذكاء الاصطناعي مثل ساتون عاش خلال الأيام الأولى ، فإن الأناقة مقابل القذف ، ومناظرة Lighthill ، والشتاء الذكاء الاصطناعي ، والأنظمة الخبيرة ، وما إلى ذلك. لقد اعتادوا على الأشياء التي تبدو واعدة ولكنهم لا يعملون حقا على الرغم من الكثير من الضجيج والاستثمار. هذا هو السابق.

لكن بنية المحولات هي أول تجريد كامل يمكن تمييزه بالكامل ، تورينج لجهاز كمبيوتر عام عالمي بالمستوى المناسب من العمومية والقوة التعبيرية ، ووجدنا أخيرا الحيل لتدريبهم والحصول على FLOPS والبيانات للقيام بكل ذلك الآن.

وكما يقول إيليا ، هذه النماذج ، "يريدون فقط التعلم". من غير المحتمل جدا أن ينجح كل شيء في الممارسة العملية (على الرغم من أنه ربما ليس لأننا محاطون بالمشي ، ونتحدث عن أمثلة يوميا تعمل على أقل بكثير من 300 واط). لكنها في الواقع تفعل ذلك.

ولكن حتى ذلك الحين ، ليس الأمر كما لو كانت هذه ملاحظة غير مسبوقة في تاريخ العلوم. من كان بإمكانه أن يخمن بداهة أنه يمكنك شرح الظواهر الفيزيائية الطبيعية الأكثر ملاحظة سابقة للجاذبية باستخدام منتج مباشر من 3 مجموعات Lie (المعروف أيضا باسم النموذج القياسي للفيزياء)؟

لدينا حتى اسم لها: "الفعالية غير المعقولة" للرياضيات في العلوم الطبيعية. في هذه الحالة ، ضرب المصفوفة المتكرر ، وبعض الاختلافات غير الخطية البسيطة ، وقاعدة السلسلة في الاتجاه المعاكس مع بعض الحيل للمساعدة في الاستقرار العددي وتدفق التدرج.

@goldstein_aa كل ما يمكن قوله ، فإن الذكاء الاصطناعي العام موجود بالفعل هنا وفقط بسبب التحرك المستمر بعد الهدف ، ومهارات التحفيز السيئة ، والأسئلة السخيفة (التي تم حلها بالفعل إلى حد كبير) أن يعارض أي شخص ذلك.