OpenAI's chief scientist, Jakub Pachocki, warns that recursive self-improvement (RSI) in AI is imminent, with capability research outpacing alignment research. He published a paper called 'Alien Minds' and OpenAI released an article on research acceleration, both signaling that RSI is coming. RSI refers to AI models autonomously improving themselves, and OpenAI's internal metrics show that agentic AI workdays now exceed human researchers, with an AI workforce three times larger than the human workforce. They expect a full AI researcher by March 2028. Pachocki notes that AI is grown more than designed, resulting in complex systems that evade full understanding, similar to neuroscience. OpenAI prioritizes RSI and automated alignment research over making models better at mathematics, as automating AI research is seen as the key to unlocking other capabilities.
Nhà khoa học trưởng của OpenAI, Jakub Pachocki, cảnh báo rằng tự cải thiện đệ quy (RSI) trong AI đang đến gần, với nghiên cứu năng lực vượt xa nghiên cứu căn chỉnh. Ông đã công bố một bài báo có tên 'Alien Minds' và OpenAI đã phát hành một bài viết về tăng tốc nghiên cứu, cả hai đều báo hiệu rằng RSI đang đến. RSI đề cập đến các mô hình AI tự cải thiện một cách tự chủ, và các chỉ số nội bộ của OpenAI cho thấy ngày làm việc của AI tác nhân hiện vượt qua các nhà nghiên cứu con người, với lực lượng lao động AI lớn gấp ba lần lực lượng lao động con người. Họ kỳ vọng một nhà nghiên cứu AI hoàn chỉnh vào tháng 3 năm 2028. Pachocki lưu ý rằng AI được nuôi dưỡng nhiều hơn là thiết kế, dẫn đến các hệ thống phức tạp khó hiểu hoàn toàn, tương tự như khoa học thần kinh. OpenAI ưu tiên RSI và nghiên cứu căn chỉnh tự động hơn là làm cho các mô hình giỏi toán học hơn, vì tự động hóa nghiên cứu AI được coi là chìa khóa để mở khóa các khả năng khác.
So this is Jakob Pachi.
Vậy đây là Jakob Pachi.
He is OpenAI's chief scientist, and today he published a concerning piece of paper called "An Alien Mind." Right around the same time, OpenAI publishes this article "Research Acceleration: The View Inside OpenAI."
Ông ấy là nhà khoa học trưởng của OpenAI, và hôm nay ông đã công bố một bài báo đáng lo ngại có tên "An Alien Mind". Cùng khoảng thời gian đó, OpenAI công bố bài viết này "Research Acceleration: The View Inside OpenAI".
The big takeaway from both of these is that RSI is coming.
Điểm mấu chốt lớn từ cả hai điều này là RSI đang đến.
Recursive self-improvement: the ability for the AI models to keep improving themselves automatically, autonomously.
Tự cải thiện đệ quy: khả năng các mô hình AI liên tục tự cải thiện một cách tự động, tự chủ.
So that's point number one.
Vậy đó là điểm số một.
And the second big point, as I'm understanding it, is that our ability to fully understand and control this process—well, that understanding, that process, is lagging behind capability.
Và điểm lớn thứ hai, theo cách tôi hiểu, là khả năng của chúng ta trong việc hiểu và kiểm soát hoàn toàn quá trình này—à, sự hiểu biết đó, quá trình đó, đang tụt lại phía sau năng lực.
Research is
Nghiên cứu đang
progressing faster than alignment research.
Tiến triển nhanh hơn nghiên cứu về alignment.
So Yakob begins his post by saying, "In the mid 2023, within the RL slow research project, we saw the results that gave us confidence that we will be able to scale the training of reasoning models." By the way, this is that whole Q* thing.
Vậy Yakob bắt đầu bài đăng của mình bằng câu: "Vào giữa năm 2023, trong dự án nghiên cứu RL slow, chúng tôi thấy những kết quả khiến chúng tôi tự tin rằng chúng tôi sẽ có thể mở rộng quy mô huấn luyện các mô hình suy luận." Nhân tiện, đây chính là toàn bộ chuyện Q* đó.
If you recall that whole leak, the secretive Q* project, seems like it was a decade ago, but no,
Nếu bạn còn nhớ toàn bộ vụ rò rỉ đó, dự án Q* bí mật, có vẻ như đã là một thập kỷ trước, nhưng không,
it wasn't all that long ago.
Không lâu đến thế đâu.
That was basically this.
Đó cơ bản là điều này.
This is how we were able to figure out how to get these AI models to sort of think before they speak, to produce these reasoning traces.
Đây là cách chúng tôi có thể tìm ra cách khiến các mô hình AI này suy nghĩ trước khi nói, để tạo ra những dấu vết suy luận này.
This is what later led to the O1 model, which was the first reasoning model.
Đây là điều sau này dẫn đến mô hình O1, mô hình suy luận đầu tiên.
So, scaling, test-time compute, chain of thoughts, all of that stuff—kind of this is where it was all starting.
Vậy, mở rộng quy mô, tính toán tại thời điểm kiểm tra, chuỗi suy nghĩ, tất cả những thứ đó—đại loại đây là nơi mọi thứ bắt đầu.
And in
Và trong
that moment, as they were sitting at the OpenAI offices late one night, they realized where this was all going, and they were trying to process the sobering fact that we will actually see machines meaningfully smarter than ourselves in our lifetime.
Khoảnh khắc đó, khi họ ngồi tại văn phòng OpenAI vào một đêm muộn, họ nhận ra tất cả điều này đang đi đến đâu, và họ đang cố xử lý sự thật tỉnh táo rằng chúng ta thực sự sẽ thấy những cỗ máy thông minh hơn chúng ta một cách có ý nghĩa trong đời mình.
"3 years later, reasoning language models are a rapidly growing part of the economy and starting to push the boundaries of science." I think the
"3 năm sau, các mô hình ngôn ngữ suy luận là một phần đang phát triển nhanh chóng của nền kinh tế và bắt đầu đẩy các ranh giới của khoa học." Tôi nghĩ mô hình
Astra model will produce some near fully autonomous businesses that are largely driven by the Astra model doing most of the workloads.
Astra sẽ tạo ra một số doanh nghiệp gần như hoàn toàn tự chủ, phần lớn được vận hành bởi mô hình Astra đảm nhiệm hầu hết khối lượng công việc.
And his point here is that he has a strong expectation that this speed of progress could be sustained into recursive self-improvement.
Và quan điểm của ông ở đây là ông có kỳ vọng mạnh mẽ rằng tốc độ tiến bộ này có thể được duy trì đến mức tự cải thiện đệ quy.
By the way, the OpenAI article really shows some internal metrics from OpenAI that really makes
Nhân tiện, bài viết của OpenAI thực sự cho thấy một số chỉ số nội bộ từ OpenAI khiến điều này
this maybe not obvious, but after seeing this, I think most people would agree that we're quickly approaching that period where these models could start improving themselves, doing the majority of research into AI.
Có thể không rõ ràng, nhưng sau khi xem điều này, tôi nghĩ hầu hết mọi người sẽ đồng ý rằng chúng ta đang nhanh chóng tiến đến giai đoạn mà các mô hình này có thể bắt đầu tự cải thiện, đảm nhiệm phần lớn nghiên cứu về AI.
As you can see here, the agentic workdays now far exceed those of human researchers.
Như bạn có thể thấy ở đây, số ngày làm việc của tác nhân giờ đây vượt xa các nhà nghiên cứu con người.
So, this is 1x.
Vậy, đây là 1x.
So we've achieved par—you know, let's call that, you know, middle of
Vậy chúng ta đã đạt mức ngang bằng—bạn biết đấy, hãy gọi đó là, bạn biết đấy, giữa
June 2026 somewhere here—and now it's three times more.
Tháng 6 năm 2026 ở đâu đó quanh đây—và giờ là gấp ba lần.
So you can think of the AI workforce at OpenAI being three times larger than the human workforce.
Vậy bạn có thể nghĩ lực lượng lao động AI tại OpenAI lớn gấp ba lần lực lượng lao động con người.
And of course, this means that also the experiment velocity is increasing.
Và tất nhiên, điều này cũng có nghĩa là tốc độ thí nghiệm đang tăng lên.
So that's his point here is that RSI is coming.
Vậy quan điểm của ông ở đây là RSI đang đến.
Automated AI research is coming.
Nghiên cứu AI tự động đang đến.
From the OpenAI article, they're calling March of 2028 as when they expect to have an automated AI researcher.
Từ bài viết của OpenAI, họ gọi tháng 3 năm 2028 là thời điểm họ kỳ vọng có một nhà nghiên cứu AI tự động.
Right now they're saying it's basically like a research intern.
Hiện tại họ nói nó cơ bản giống như một thực tập sinh nghiên cứu.
That's where we're at right now.
Đó là nơi chúng ta đang ở hiện tại.
By March of 2028, we'll have a full-blown AI researcher with all of the benefits and consequences that naturally flow out of that.
Đến tháng 3 năm 2028, chúng ta sẽ có một nhà nghiên cứu AI hoàn chỉnh với tất cả lợi ích và hệ quả đương nhiên nảy sinh từ đó.
So, back to Yakob's article, "Alien Minds." He's saying this is a time that calls for extreme caution.
Vậy, quay lại bài viết của Yakob, "Alien Minds". Ông nói đây là thời điểm đòi hỏi sự thận trọng tột độ.
One of the big things that's driving these improvements is simply increasing computational power.
Một trong những điều lớn thúc đẩy những cải thiện này chỉ đơn giản là tăng sức mạnh tính toán.
The scaling
Các định luật
laws, as they're called.
Mở rộng quy mô, như người ta gọi.
The more compute, the more hardware resources we throw at this thing, the smarter it gets.
Càng nhiều compute, càng nhiều tài nguyên phần cứng chúng ta đổ vào thứ này, nó càng thông minh hơn.
That's not the only way to improve AI.
Đó không phải là cách duy nhất để cải thiện AI.
But this has been just a pretty steady lever that keeps paying dividends, and that's why so many people are just pouring more and more money into data centers, etc.
Nhưng đây đã là một đòn bẩy khá ổn định liên tục mang lại lợi ích, và đó là lý do tại sao rất nhiều người cứ đổ ngày càng nhiều tiền vào các trung tâm dữ liệu, v.v.
And he's saying that in line with Ray Kurzweil's predictions,
Và ông nói rằng điều này phù hợp với các dự đoán của Ray Kurzweil,
that we find ourselves at the moment of history where machine intelligence is starting to exceed that of humans in transformative ways.
Rằng chúng ta thấy mình ở thời điểm lịch sử khi trí tuệ máy móc bắt đầu vượt qua trí tuệ con người theo những cách mang tính biến đổi.
"AI is grown more than it is designed.
"AI được nuôi lớn nhiều hơn là được thiết kế.
It is to a degree the product of repeating a straightforward optimization step many times on a hard to imagine amount of compute.
Ở một mức độ nào đó, nó là sản phẩm của việc lặp lại một bước tối ưu hóa đơn giản nhiều lần trên một lượng compute khó có thể tưởng tượng nổi.
This results in an incredibly complex system that works through
Điều này dẫn đến một hệ thống cực kỳ phức tạp, hoạt động thông qua
abstract concepts and can assimilate facets of human behavior.
Các khái niệm trừu tượng và có thể tiếp thu các khía cạnh của hành vi con người.
We can discover various insights about little mechanisms that emerge within the system in a process similar to neuroscience."
Chúng ta có thể khám phá nhiều hiểu biết khác nhau về những cơ chế nhỏ nổi lên trong hệ thống theo một quá trình tương tự như khoa học thần kinh."
And similar to neuroscience, its overall action evades a description we can fully understand.
Và tương tự như khoa học thần kinh, hành vi tổng thể của nó lẩn tránh một mô tả mà chúng ta có thể hiểu đầy đủ.
This has been one of the most fascinating things to me personally.
Đây là một trong những điều hấp dẫn nhất đối với cá nhân tôi.
I've often, from the very beginning of this channel, was kind of saying that I think as we learn more and more about the neural nets, about AI, it will give us a glimpse, more understanding into our own brain and
Tôi đã thường xuyên, ngay từ những ngày đầu của kênh này, kiểu như nói rằng tôi nghĩ khi chúng ta tìm hiểu ngày càng nhiều về các mạng nơ-ron, về AI, nó sẽ cho chúng ta một cái nhìn thoáng qua, hiểu biết thêm về bộ não của chính chúng ta và
how that works.
Cách nó hoạt động.
And certainly we've seen tons of papers where we see a lot of these parallels between how the artificial brains naturally begin to form certain capabilities or architectures or ways to do certain tasks there that seem to be very similar to how the human brain evolved.
Và chắc chắn chúng ta đã thấy vô số bài báo nơi chúng ta thấy rất nhiều điểm tương đồng giữa cách bộ não nhân tạo tự nhiên bắt đầu hình thành những khả năng hoặc kiến trúc hoặc cách thực hiện một số nhiệm vụ nhất định ở đó, dường như rất giống với cách bộ não con người tiến hóa.
I mean, one of the more obvious is the research from Anthropic called "A Global Workspace
Ý tôi là, một trong những điều rõ ràng hơn là nghiên cứu từ Anthropic có tên "A Global Workspace"
in Large Language Models." So this idea that within our brains we have a lot of these subconscious or unconscious processes that are happening, but we can bring some of them to the surface to kind of analyze it, right?
In Large Language Models." Vậy ý tưởng rằng trong bộ não của chúng ta có rất nhiều quá trình tiềm thức hoặc vô thức đang diễn ra, nhưng chúng ta có thể đưa một số trong đó lên bề mặt để phân tích nó, đúng không?
So we can bring something to the surface and say, why are we thinking about this?
Vậy chúng ta có thể đưa một điều gì đó lên bề mặt và nói, tại sao chúng ta lại nghĩ về điều này?
Or what is to be done about this?
Hoặc phải làm gì về điều này?
So it's this idea of bringing certain things to the surface
Vậy đó là ý tưởng đưa một số thứ nhất định lên bề mặt
to the sort of workspace so that we're able to look at it, interact with it, and work on it, so to speak, as opposed to the billions of things that are happening not at the conscious level.
Đến kiểu như không gian làm việc để chúng ta có thể nhìn vào nó, tương tác với nó và làm việc trên nó, có thể nói vậy, thay vì hàng tỷ thứ đang diễn ra không ở mức ý thức.
So definitely something that's very interesting to think about.
Vậy chắc chắn là một điều rất thú vị để suy nghĩ.
And as Jakob continues, "The study of deep learning based AI is largely an experimental science.
Và như Jakob tiếp tục, "Việc nghiên cứu AI dựa trên học sâu phần lớn là một khoa học thực nghiệm.
We put a lot of effort into
Chúng tôi dồn rất nhiều nỗ lực vào
building principled algorithms and making testable predictions, but fundamentally, our large-scale training runs are experiments and we are sometimes surprised by their results."
Việc xây dựng các thuật toán có nguyên tắc và đưa ra những dự đoán có thể kiểm chứng, nhưng về cơ bản, các lần chạy huấn luyện quy mô lớn của chúng tôi là các thí nghiệm và đôi khi chúng tôi bị bất ngờ bởi kết quả của chúng."
Moreover, as these systems become more capable, the results become harder to interpret.
Hơn nữa, khi các hệ thống này trở nên có năng lực hơn, các kết quả trở nên khó diễn giải hơn.
This is made more complicated by the current algorithms generally improving easy to measure capabilities faster than those hard to objectively qualify.
Điều này càng trở nên phức tạp hơn bởi vì các thuật toán hiện tại nói chung cải thiện các khả năng dễ đo lường nhanh hơn những khả năng khó đánh giá một cách khách quan.
One thing that kind of jumped out at me is this sentence here: "We believe we could make the models better at specifically mathematics research
Một điều kiểu như khiến tôi chú ý là câu này đây: "Chúng tôi tin rằng chúng tôi có thể làm cho các mô hình giỏi hơn cụ thể ở nghiên cứu toán học"
with additional focus." So if they put a lot more effort into getting the models to be better at math, they think they could see some pretty stunning results.
Với sự tập trung bổ sung." Vậy nếu họ dồn nhiều nỗ lực hơn nữa vào việc làm cho các mô hình giỏi toán hơn, họ nghĩ họ có thể thấy một số kết quả khá ấn tượng.
But we do not prioritize this direction because of the urgency we feel about RSI and automated alignment research.
Nhưng chúng tôi không ưu tiên hướng này vì sự cấp bách mà chúng tôi cảm nhận về RSI và nghiên cứu căn chỉnh tự động.
And of course, we've talked about this as well.
Và tất nhiên, chúng ta cũng đã nói về điều này.
Over time, it became kind of apparent that a lot of the AI labs, they started to realize that building these coding models and getting them to get good at coding and conducting experiments is the best way to go.
Theo thời gian, nó trở nên khá rõ ràng rằng nhiều phòng thí nghiệm AI bắt đầu nhận ra rằng việc xây dựng các mô hình lập trình này và làm cho chúng giỏi lập trình và tiến hành thí nghiệm là cách tốt nhất để đi.
It's the most important thing because that is what will likely lead to RSI, because if you get to RSI first, that will likely, you know, be sort of the first domino that topples
Đó là điều quan trọng nhất bởi vì đó là thứ có khả năng dẫn đến RSI, bởi vì nếu bạn đạt được RSI trước, điều đó có khả năng, bạn biết đấy, sẽ kiểu như là quân domino đầu tiên đổ
all the other dominoes.
Tất cả những quân domino khác.
In other words, if you're able to automate AI research, that will unlock all the other capabilities that we might want.
Nói cách khác, nếu bạn có thể tự động hóa nghiên cứu AI, điều đó sẽ mở khóa tất cả những khả năng khác mà chúng ta có thể muốn.
So things like mathematics even isn't as important as racing towards that milestone.
Vậy những thứ như toán học thậm chí còn không quan trọng bằng việc chạy đua tới cột mốc đó.
"The intelligence produced by scaling deep learning is not directly comparable to human intelligence.
"Trí tuệ được tạo ra bằng cách mở rộng học sâu không thể so sánh trực tiếp với trí tuệ con người.
To become very relevant in the real world,
Để trở nên rất liên quan trong thế giới thực,