Sholto Douglas (Anthropic): "Trong năm qua, RL cuối cùng đã cho phép chúng tôi tạo ra một vòng phản hồi và biến nó thành một mô hình ít nhất cũng tốt như những con người giỏi nhất trong một lĩnh vực hẹp nào đó. Và bạn đang thấy điều đó với toán học và mã thi đấu, là hai lĩnh vực dễ tiếp cận nhất với điều này - nơi mà các mô hình đang trở nên cực kỳ thành thạo trong việc thi đấu toán học và lập trình thi đấu. Không có gì khác biệt về bản chất giữa mã thi đấu và toán học. Chỉ là chúng thực sự [dễ] tiếp cận hơn với RL so với bất kỳ lĩnh vực nào khác. Nhưng quan trọng là, chúng chứng minh rằng không có giới hạn trí tuệ nào đối với các mô hình. Chúng có khả năng thực hiện những lý luận thực sự khó khăn khi có vòng phản hồi đúng. Vì vậy, chúng tôi nghĩ rằng cách tiếp cận tương tự có thể tổng quát hóa cho hầu hết các lĩnh vực nỗ lực trí tuệ của con người, nơi mà với vòng phản hồi đúng, các mô hình này sẽ [trở thành] ít nhất cũng tốt như những con người giỏi nhất trong một lĩnh vực nào đó. Và sau đó, một khi bạn có thứ gì đó ít nhất cũng tốt như những con người giỏi nhất trong một lĩnh vực, bạn có thể chạy 1.000 cái cùng một lúc hoặc nhanh hơn 100 lần và bạn có thứ gì đó thậm chí chỉ với điều kiện đó đã thông minh hơn bất kỳ con người nào. Và điều này hoàn toàn bỏ qua việc liệu có thể tạo ra thứ gì đó thông minh hơn con người hay không. Những hệ quả của điều này thật đáng kinh ngạc, đúng không? Trong 2 hoặc 3 năm tới, với các vòng phản hồi đúng, với tính toán đúng, v.v., chúng tôi nghĩ rằng chúng tôi, ngành công nghiệp AI nói chung, đang trên đà tạo ra thứ gì đó ít nhất cũng có khả năng như hầu hết con người trong hầu hết các nhiệm vụ liên quan đến máy tính, có thể tốt như nhiều nhà khoa học giỏi nhất trong lĩnh vực của họ. Nó sẽ sắc nét và gập ghềnh, sẽ có những ví dụ về những điều mà nó không thể [làm]. Nhưng thế giới sẽ thay đổi. ... Tôi nghĩ điều này đáng để la lên từ nóc nhà một chút - các bạn, bất cứ điều gì mà chúng ta có thể đo lường dường như đang cải thiện rất nhanh. Điều đó đưa chúng ta đến đâu trong 2 hoặc 3 năm? Tôi không thể nói chắc chắn. Nhưng tôi nghĩ rằng điều này đáng để xây dựng vào thế giới quan rằng có một cơ hội khá nghiêm túc rằng chúng ta sẽ có AGI."