0:00

27:17

TS. Lê Viết Quốc: Điều gì xảy ra khi con người sở hữu AI “toàn năng”?

Leader Atlas·27:17·Technology·B2

Chương · 8

Chương 1·The Powerful AI Thought Experiment

Hiển thị

Tiếng ViệtAuto-scroll

0:00

Hello everybody.

Xin chào mọi người.

0:00

Uh, 15 years ago when I was a grad student at Stanford and uh, we had this question, uh, we have this debate among uh, the grad students at Stanford and the question was, if you have an a powerful AI, what do you want it to do?

Uh, 15 năm trước khi tôi còn là nghiên cứu sinh tại Stanford và uh, chúng tôi có câu hỏi này, uh, chúng tôi có cuộc tranh luận này giữa uh, các nghiên cứu sinh tại Stanford và câu hỏi là, nếu bạn có một AI mạnh mẽ, bạn muốn nó làm gì?

0:16

And actually, you know, many people had a really interesting answer for this question and, you know, some people say, uh, if you have a powerful AI, I think you

Và thực sự, bạn biết đấy, nhiều người có câu trả lời rất thú vị cho câu hỏi này và, bạn biết đấy, một số người nói, uh, nếu bạn có một AI mạnh mẽ, tôi nghĩ bạn

0:27

would use it to improve our productivity, right?

Sẽ sử dụng nó để cải thiện năng suất của chúng ta, phải không?

0:29

You know, make our work faster.

Bạn biết đấy, làm cho công việc của chúng ta nhanh hơn.

0:31

But uh, actually that question gave me a lot of thinking and uh, you know, and uh, I I realized that uh, if I have a powerful AI and if let's suppose that uh, the limitation is uh, is infinite, right?

Nhưng uh, thực sự câu hỏi đó đã cho tôi rất nhiều suy nghĩ và uh, bạn biết đấy, và uh, tôi tôi nhận ra rằng uh, nếu tôi có một AI mạnh mẽ và nếu giả sử rằng uh, giới hạn là uh, là vô hạn, phải không?

0:45

Then I would say if I have a powerful AI, I would go to the AI and I would ask, uh, can you invent me a vaccine for all

Thì tôi sẽ nói nếu tôi có một AI mạnh mẽ, tôi sẽ đến gặp AI và tôi sẽ hỏi, uh, bạn có thể phát minh cho tôi một loại vắc-xin cho tất cả

0:55

cancers?

Các loại ung thư?

0:55

Or can you invent me a new materials, a better material for uh, solo panels?

Hoặc bạn có thể phát minh cho tôi một vật liệu mới, một vật liệu tốt hơn cho uh, tấm pin mặt trời?

1:03

Or can you um, uh, can you give me a solution for the P equal to NP conjecture?

Hoặc bạn có thể um, uh, bạn có thể cho tôi một giải pháp cho giả thuyết P bằng NP?

1:12

Uh, so in other words, I was, if I have a powerful AI, I want the AI to solve the unsolved problems for humanities.

Uh, nói cách khác, tôi đã, nếu tôi có một AI mạnh mẽ, tôi muốn AI giải quyết những vấn đề chưa được giải quyết cho nhân loại.

1:20

And then that thinking uh, you know, later that I realized that this is connected to what people found in psychology called system two thinking.

Và rồi suy nghĩ đó uh, bạn biết đấy, sau đó tôi nhận ra rằng điều này liên quan đến những gì người ta tìm thấy trong tâm lý học gọi là tư duy hệ thống hai.

1:29

So there are certain prompts or query or questions that uh, we uh, if you ask to people, they actually it trigger what called the slow

Vì vậy, có những lời nhắc hoặc truy vấn hoặc câu hỏi mà uh, chúng ta uh, nếu bạn hỏi mọi người, họ thực sự kích hoạt cái gọi là tư duy

1:38

thinking.

Chậm.

1:38

People would, people would start thinking really hard and deeply about the the question and try to solve uh, to find solutions for this question.

Mọi người sẽ, mọi người sẽ bắt đầu suy nghĩ rất chăm chỉ và sâu sắc về câu hỏi và cố gắng giải quyết uh, để tìm giải pháp cho câu hỏi này.

1:46

For example, if you want, if someone asks you a uh, high school, hard high school math problem, you will spend a lot of time, you know, minutes to like an hour to solve it.

Ví dụ, nếu bạn muốn, nếu ai đó hỏi bạn một uh, bài toán trung học, bài toán trung học khó, bạn sẽ dành rất nhiều thời gian, bạn biết đấy, từ vài phút đến một giờ để giải nó.

1:58

So that's called the slow thinking.

Vì vậy, đó được gọi là tư duy chậm.

2:01

And in psychology,

Và trong tâm lý học,

2:02

they call it the system two thinking.

Họ gọi nó là tư duy hệ thống hai.

2:05

They call it system two thinking because it's in trying to, they call trying to contrast against what they call system one thinking.

Họ gọi nó là tư duy hệ thống hai bởi vì nó đang cố gắng, họ gọi cố gắng tương phản với cái họ gọi là tư duy hệ thống một.

2:12

And then system one thinking is basically if you have some kind of uh, simple question like how are you, know how many fingers on your hand, you know, if I see a red light should I stop, this kind of question you can actually respond immediately and

Và tư duy hệ thống một về cơ bản là nếu bạn có một loại câu hỏi đơn giản như bạn khỏe không, biết có bao nhiêu ngón tay trên bàn tay của bạn, bạn biết đấy, nếu tôi thấy đèn đỏ tôi có nên dừng lại, loại câu hỏi này bạn thực sự có thể trả lời ngay lập tức và

2:27

that what in psychology that's called system one thinking.

Đó là cái trong tâm lý học được gọi là tư duy hệ thống một.

2:30

So what I was thinking is that if we have a really powerful AI, I would try to trigger the system two thinking into solving really hard and very complicated uh, unsolved problems for humanities.

Vậy điều tôi đang nghĩ là nếu chúng ta có một AI thực sự mạnh mẽ, tôi sẽ cố gắng kích hoạt tư duy hệ thống hai để giải quyết những vấn đề thực sự khó và rất phức tạp uh, chưa được giải quyết cho nhân loại.

2:45

And uh, in during this journey uh, um, around 2014, uh, I realized that in order to solve this very high, highly complex problem,

Và uh, trong suốt hành trình này uh, um, khoảng năm 2014, uh, tôi nhận ra rằng để giải quyết vấn đề rất cao, cực kỳ phức tạp này,

2:55

for example, if you ask the AI to give me uh, solution to the P equal to MP conjecture in computer science, the response going to be a long proof of the conjecture, either you prove it or you disapprove it.

Ví dụ, nếu bạn yêu cầu AI cho tôi uh, giải pháp cho giả thuyết P bằng NP trong khoa học máy tính, câu trả lời sẽ là một chứng minh dài của giả thuyết, hoặc bạn chứng minh nó hoặc bạn bác bỏ nó.

3:09

Or if you ask it to come up with an uh, answer for uh, you know, what is, invent me a vaccine for all cancers, that is going to be a long, you know, Beiji's long answer.

Hoặc nếu bạn yêu cầu nó đưa ra một uh, câu trả lời cho uh, bạn biết đấy, cái gì là, phát minh cho tôi một loại vắc-xin cho tất cả các loại ung thư, đó sẽ là một câu trả lời dài, bạn biết đấy, câu trả lời dài của Beiji.

3:22

But

Nhưng

3:23

how do, but at the time we didn't have the AI that capable of doing this long, a long form response.

Làm thế nào, nhưng vào thời điểm đó chúng tôi không có AI có khả năng làm điều này dài, một phản hồi dài.

3:29

So how do we do it?

Vậy làm thế nào chúng tôi làm điều đó?

3:31

So the way that actually some of my colleagues and Ilia Suskava, now chief scientist at open AI, or vinya, now my colleagues, still of my colleagues at Google lim time, we found out a clever solution to this problem.

Vậy cách mà thực sự một số đồng nghiệp của tôi và Ilia Suskava, hiện là nhà khoa học chính tại open AI, hoặc vinya, hiện là đồng nghiệp của tôi, vẫn là đồng nghiệp của tôi tại Google lim time, chúng tôi đã tìm ra một giải pháp thông minh cho vấn đề này.

3:43

So this problem in machine learning what we call

Vậy vấn đề này trong học máy cái chúng tôi gọi là

3:46

the trans, transduction.

Sự chuyển, chuyển đổi.

3:47

So basically what we do is we have to, in NLP or in most of machine learning, what we need to do is to generate a really long form response.

Vậy về cơ bản những gì chúng tôi làm là chúng tôi phải, trong NLP hoặc trong hầu hết học máy, những gì chúng tôi cần làm là tạo ra một phản hồi dài.

3:57

But in order to generate a long form response, you need to generate, our solution is to generate one token at a time in that long form response.

Nhưng để tạo ra một phản hồi dài, bạn cần tạo ra, giải pháp của chúng tôi là tạo ra một token tại một thời điểm trong phản hồi dài đó.

4:06

So instead of predicting a long response at a time, you predict one at a

Vậy thay vì dự đoán một phản hồi dài cùng một lúc, bạn dự đoán một cái tại một

4:12

time and condition on the first token, you predict the next token or the next word, and given the next word, you predict another next word.

Thời điểm và dựa trên token đầu tiên, bạn dự đoán token tiếp theo hoặc từ tiếp theo, và với từ tiếp theo, bạn dự đoán một từ tiếp theo nữa.

4:21

So this simple process of predicting the next token turn out to be really powerful because once you predict the next token, you can predict your next million of tokens and hopefully that's next millions of token will give you the proof of be equal to

Vậy quá trình đơn giản này của việc dự đoán token tiếp theo hóa ra lại thực sự mạnh mẽ bởi vì một khi bạn dự đoán token tiếp theo, bạn có thể dự đoán hàng triệu token tiếp theo của bạn và hy vọng rằng hàng triệu token tiếp theo đó sẽ cho bạn chứng minh của bằng

4:38

MP conjecture or how, what is the vaccine for all cancers.

Giả thuyết NP hoặc làm thế nào, vắc-xin cho tất cả các loại ung thư là gì.

4:41

So that's the vision, you know, inventing a vaccine for all cancer is actually uh, you know, very way further than any, you know, technology at the time.

Vậy đó là tầm nhìn, bạn biết đấy, phát minh ra vắc-xin cho tất cả ung thư thực sự là uh, bạn biết đấy, rất xa so với bất kỳ, bạn biết đấy, công nghệ vào thời điểm đó.

4:51

So what we said, okay, let's train this model on respon, uh, on uh, what we call uh, in an internal data set uh, that people chat to each other.

Vậy những gì chúng tôi nói, được, hãy huấn luyện mô hình này trên respon, uh, trên uh, cái chúng tôi gọi là uh, trong một tập dữ liệu nội bộ uh, mà mọi người trò chuyện với nhau.

5:02

So let's say at Google we have a data set where

Vậy giả sử tại Google chúng tôi có một tập dữ liệu mà

5:06

people will log onto a system and ask uh, the uh, the technician to help with their computer problems.

Mọi người sẽ đăng nhập vào một hệ thống và yêu cầu uh, uh, kỹ thuật viên giúp đỡ với các vấn đề máy tính của họ.

5:14

So we recorded all the exchanges um, between people uh, the the users and the technicians.

Vậy chúng tôi đã ghi lại tất cả các cuộc trao đổi um, giữa mọi người uh, người dùng và kỹ thuật viên.

5:20

So and then we trained the model uh, to mimic how to respond.

Vậy và sau đó chúng tôi huấn luyện mô hình uh, để bắt chước cách phản hồi.

5:26

And in around 2015, uh, Oreo and I um, trained this model uh, we call it the neuro conversational model where you can just log in and ask it uh,

Và vào khoảng năm 2015, uh, Oreo và tôi um, đã huấn luyện mô hình này uh, chúng tôi gọi nó là mô hình hội thoại thần kinh nơi bạn có thể chỉ cần đăng nhập và hỏi nó uh,

5:39

you know, let's say I type in this example and I say, you know, the machine will ask me things like what is the error that you're running uh, into and uh, and then I will and I tell them about my problems and the machine will suggest me to this, go to this URL L uh, to and um, and enter the name and password and then you will have the information and then uh, the URL here we redacting because

Bạn biết đấy, giả sử tôi gõ vào ví dụ này và tôi nói, bạn biết đấy, máy sẽ hỏi tôi những thứ như lỗi bạn đang gặp uh, là gì và uh, và sau đó tôi sẽ và tôi nói với họ về vấn đề của tôi và máy sẽ đề xuất tôi đến, đi đến URL L uh, này và um, và nhập tên và mật khẩu và sau đó bạn sẽ có thông tin và sau đó uh, URL ở đây chúng tôi đã che đi bởi vì

6:06

it's an internal U URL, but if we click on that URL is actually gave you the correct website to fix your problem.

Đó là một URL nội bộ, nhưng nếu chúng tôi nhấp vào URL đó thực sự cho bạn trang web chính xác để khắc phục vấn đề của bạn.

6:14

So in a sense, by mimicking, by mimicking the next world prediction, the machine actually start to learn and they start to learn about information about how to respond to certain queries that look like what uh, all the interactions happened in the past.

Vậy theo một nghĩa nào đó, bằng cách bắt chước, bằng cách bắt chước dự đoán từ tiếp theo, máy thực sự bắt đầu học và chúng bắt đầu học về thông tin về cách phản hồi một số truy vấn trông giống như những gì uh, tất cả các tương tác đã xảy ra trong quá khứ.

6:30

So this is some

Vậy đây là một số

6:32

form of pattern matching, but it's already quite clever because of this success around uh, 2020, we gather a lot of resources at Google to scale up the training of this uh, chatbot and you could see this as like a precursor of what externally what people call the chart GPT.

Dạng khớp mẫu, nhưng nó đã khá thông minh bởi vì thành công này vào khoảng uh, 2020, chúng tôi đã tập hợp rất nhiều nguồn lực tại Google để mở rộng quy mô huấn luyện chatbot này và bạn có thể thấy điều này như một tiền thân của cái mà bên ngoài người ta gọi là chart GPT.

6:51

So internally in 20, 2020, we train a model and as we make it larger, so the x axis is the perplexity which is

Vậy nội bộ trong năm 20, 2020, chúng tôi huấn luyện một mô hình và khi chúng tôi làm nó lớn hơn, trục x là độ hỗn loạn, tức là

7:00

the how well the model is trained and the yaxis is how well it behaves uh, like a human.

Mức độ mô hình được huấn luyện tốt như thế nào và trục y là mức độ nó hành xử giống con người như thế nào.

7:07

And what we saw was that as we make the model larger and train better, the model uh, get better and better at behaving like a human and the perplexity gets smaller, meaning that the model is needs to be bigger and better trained.

Và những gì chúng tôi thấy là khi chúng tôi làm mô hình lớn hơn và huấn luyện tốt hơn, mô hình ngày càng hành xử giống con người hơn và độ hỗn loạn giảm xuống, nghĩa là mô hình cần phải lớn hơn và được huấn luyện tốt hơn.

7:25

So around 2020, we saw that if we scale the system up, it will

Vậy khoảng năm 2020, chúng tôi thấy rằng nếu chúng ta mở rộng quy mô hệ thống, nó sẽ

7:31

get meaningfully better at mimicking uh, human uh, conversations and uh, if you keep scale it up, it will exceed uh, human ability to trade uh, um, to uh, to have a conversation.

Trở nên tốt hơn một cách đáng kể trong việc bắt chước các cuộc trò chuyện của con người và nếu bạn tiếp tục mở rộng quy mô, nó sẽ vượt qua khả năng của con người trong việc trao đổi, trò chuyện.

7:41

So this is basically the precursor of what we saw today, a chat GPT is basically scaling up actually can give you a really good system in chatting.

Vậy đây cơ bản là tiền thân của những gì chúng ta thấy ngày nay, một chat GPT cơ bản là việc mở rộng quy mô thực sự có thể mang lại cho bạn một hệ thống trò chuyện rất tốt.

7:50

What we found is in certain cases, if you ask it to do things like uh,

Những gì chúng tôi phát hiện là trong một số trường hợp nhất định, nếu bạn yêu cầu nó làm những việc như

7:56

write you an email or write, produce a summary and things like that, it would not do very well.

Viết cho bạn một email hoặc viết, tạo ra một bản tóm tắt và những thứ tương tự, nó sẽ không làm tốt lắm.

8:04

So in 2021, we train a system called FLAN and basically we took a lot of NLP tasks formalized with uh, some instruction at the beginning.

Vậy vào năm 2021, chúng tôi huấn luyện một hệ thống gọi là FLAN và cơ bản chúng tôi lấy rất nhiều tác vụ NLP được hình thức hóa với một số chỉ dẫn ở đầu.

8:15

For example, let's summarize this uh, um, let's summarize this email or let's summarize this article or uh, let's translate this sentence and then we use a system to uh,

Ví dụ, hãy tóm tắt email này hoặc hãy tóm tắt bài viết này hoặc hãy dịch câu này và sau đó chúng tôi sử dụng một hệ thống để

8:29

we fine-tune the the model that train on dialogues of model of user dialogues and then the system becomes very good at following instructions.

Chúng tôi tinh chỉnh mô hình được huấn luyện trên các đoạn hội thoại của mô hình về hội thoại người dùng và sau đó hệ thống trở nên rất giỏi trong việc tuân theo chỉ dẫn.

8:37

So you can get it to write emails uh, write code uh, and produce these very beautiful long form responses.

Vậy bạn có thể khiến nó viết email, viết mã và tạo ra những phản hồi dài, rất đẹp này.

8:44

So this is basically, you know, like an early version that you can call it like an early version of CH GPT internally at Google

Vậy đây cơ bản là, bạn biết đấy, giống như một phiên bản đầu tiên mà bạn có thể gọi là phiên bản đầu tiên của CH GPT nội bộ tại Google

8:54

and we basically in 2021 and then we released, we actually open source this model called FL T5 and the FL T5 model is still one of the best model, state-of-the-art model open source uh, in the world still.

Và cơ bản vào năm 2021 và sau đó chúng tôi phát hành, chúng tôi thực sự mở mã nguồn mô hình này gọi là FL T5 và mô hình FL T5 vẫn là một trong những mô hình tốt nhất, mô hình tiên tiến nhất được mở mã nguồn trên thế giới cho đến nay.

9:07

But during that process uh, I still believe that what we have achieved is this system one thinking.

Nhưng trong quá trình đó, tôi vẫn tin rằng những gì chúng tôi đạt được là tư duy hệ thống một này.

9:13

In other words, if you go to the model, you ask it to do something,

Nói cách khác, nếu bạn đến với mô hình, bạn yêu cầu nó làm điều gì đó,

9:19

it will take a few seconds to actually acco, accomplish the task.

Nó sẽ mất vài giây để thực sự hoàn thành tác vụ.

9:22

But if you ask it something very complicated, it will not be able to do it.

Nhưng nếu bạn yêu cầu nó điều gì đó rất phức tạp, nó sẽ không thể làm được.

9:26

Like if you ask it to solve a high, hard high school math problem, it still cannot do it.

Giống như nếu bạn yêu cầu nó giải một bài toán trung học phổ thông khó, nó vẫn không thể làm được.

9:32

So my passion is the same.

Vậy đam mê của tôi vẫn vậy.

9:34

I want to make this chatbot to be able to do what I, what I call system to thinking.

Tôi muốn làm cho chatbot này có thể làm được điều mà tôi gọi là tư duy hệ thống hai.

9:39

So what is, how do we do that?

Vậy làm thế nào, chúng ta làm điều đó như thế nào?

9:41

So the intuition is the

Vậy trực giác là

9:43

following.

Như sau.

9:43

So you need to trigger the model in uh, what we call a step-by-step thinking.

Vậy bạn cần kích hoạt mô hình theo cái mà chúng tôi gọi là tư duy từng bước.

9:49

So in this paper uh, 2022, uh, in the year of 2022, uh, 222, we developed a method called chain of thought.

Vậy trong bài báo này năm 2022, vào năm 2022, chúng tôi đã phát triển một phương pháp gọi là chuỗi tư duy.

9:57

Now this is a breakthrough in reasoning and let me try to explain what it's doing.

Đây là một bước đột phá trong lập luận và để tôi thử giải thích nó đang làm gì.

10:04

What you do is uh, what we have is this data set called a high school math problem.

Những gì bạn làm là, những gì chúng tôi có là tập dữ liệu này gọi là bài toán trung học phổ thông.

10:11

Uh, and um, for example, here's a high school problem.

Và ví dụ, đây là một bài toán trung học phổ thông.

10:14

A Roger has five tennis balls and we buys two more cans of tennis balls.

Roger có năm quả bóng tennis và anh ấy mua thêm hai lon bóng tennis.

10:19

Each can has three tennis balls.

Mỗi lon có ba quả bóng tennis.

10:21

How many tennis balls uh, does he have now?

Hỏi anh ấy bây giờ có bao nhiêu quả bóng tennis?

10:25

And if you say the answer is 11, right?

Và nếu bạn nói câu trả lời là 11, đúng không?

10:28

You do your internal dialogue a little bit and you give the answer is 11.

Bạn thực hiện đối thoại nội tâm một chút và bạn đưa ra câu trả lời là 11.

10:33

And then when it comes to another question uh, you ask the model what's the

Và sau đó khi đến một câu hỏi khác, bạn hỏi mô hình câu trả lời là gì

10:39

answer and the answer going to be wrong because it doesn't produce the internal dialogue.

Câu trả lời sẽ sai vì nó không tạo ra đối thoại nội tâm.

10:44

So what we should do and in chain of thought what we should do is you ask the model to write down what is thinking.

Vậy điều chúng ta nên làm và trong chuỗi tư duy, điều chúng ta nên làm là bạn yêu cầu mô hình viết ra những gì nó đang nghĩ.

10:53

So instead of just give you the answer, it will have to give you the stepby-step logic that to get to the answer.

Vậy thay vì chỉ đưa cho bạn câu trả lời, nó sẽ phải đưa cho bạn logic từng bước để đi đến câu trả lời.

11:00

So for example, in order to get to the answer of 11, it has to say Roger started with five balls and two kinds of three tennis balls each uh, each is six tennis balls.

Ví dụ, để đi đến câu trả lời là 11, nó phải nói Roger bắt đầu với năm quả bóng và hai lon, mỗi lon ba quả bóng tennis, mỗi lon là sáu quả bóng tennis.

11:12

So 5 + 6 is 11.

Vậy 5 + 6 là 11.

11:14

So the answer is 11.

Vậy câu trả lời là 11.

11:15

So you want the model to do this behavior to generate the step-by-step

Vậy bạn muốn mô hình thực hiện hành vi này để tạo ra tư duy từng bước

11:20

thinking.

Tư duy.

11:20

And this step-by-step thinking is basically in, is a beginning of what I call a system to thinking where you have to get the model to think a little bit longer uh, and more slowly and it's a breakthrough because um, for most of the reason in data set you started seeing like a huge jump in performance like uh, from uh, 20 to 30% accuracy improvement and the reason is that I

Và tư duy từng bước này cơ bản là sự khởi đầu của cái tôi gọi là tư duy hệ thống hai, nơi bạn phải khiến mô hình suy nghĩ lâu hơn một chút và chậm hơn, và đây là một bước đột phá vì đối với hầu hết các tập dữ liệu lập luận, bạn bắt đầu thấy một bước nhảy vọt lớn về hiệu suất, như từ 20 đến 30% cải thiện độ chính xác và lý do là tôi

11:47

think if you think deeply about this is actually Because uh, one reason is that it mimic the psychology of humans.

Nghĩ nếu bạn suy nghĩ sâu về điều này, thực ra là vì một lý do là nó bắt chước tâm lý của con người.

11:55

Because a lot of the time when people answer u mathematical questions or reasoning question on the internet, they will start thinking, they will explain the answer first and then after that they give the final answer.

Vì rất nhiều lần khi mọi người trả lời các câu hỏi toán học hoặc câu hỏi lập luận trên internet, họ sẽ bắt đầu suy nghĩ, họ sẽ giải thích câu trả lời trước và sau đó đưa ra câu trả lời cuối cùng.

12:07

So that's one way that you can interpret, but the other way that you can interpret this is you allocate more comp, computation at test time.

Vậy đó là một cách bạn có thể diễn giải, nhưng cách khác bạn có thể diễn giải điều này là bạn phân bổ nhiều tính toán hơn tại thời điểm kiểm tra.

12:16

You give the model more room

Bạn cho mô hình nhiều không gian hơn

12:19

to do the computation and this is basically what they observe in psychology about slow thinking and then uh, actually that the chain of thought gave rise to a new idea which is, let's suppose that if you do chain of thought uh, every answer you come back with uh, for example, you give an a new question to the model, every time you sample, you sample from the model an answer, right?

Để thực hiện tính toán và đây cơ bản là những gì họ quan sát trong tâm lý học về tư duy chậm và sau đó thực ra chuỗi tư duy đã làm nảy sinh một ý tưởng mới, đó là, giả sử rằng nếu bạn thực hiện chuỗi tư duy, mỗi câu trả lời bạn nhận lại, ví dụ, bạn đưa một câu hỏi mới cho mô hình, mỗi lần bạn lấy mẫu, bạn lấy mẫu từ mô hình một câu trả lời, đúng không?

12:48

Uh, for example, for this complicated question, there's a the model could say the answer is 18.

Ví dụ, đối với câu hỏi phức tạp này, mô hình có thể nói câu trả lời là 18.

12:53

Uh, for if you sample another time, the model can give you an answer of 26.

Ừ, nếu bạn lấy mẫu thêm một lần nữa, mô hình có thể cho bạn câu trả lời là 26.

12:58

If you sample another time, the model will give you an answer of 18 again.

Nếu bạn lấy mẫu thêm một lần nữa, mô hình sẽ lại cho bạn câu trả lời là 18.

13:03

So how do you know which answer is better?

Vậy làm sao bạn biết câu trả lời nào tốt hơn?

13:05

And it turns out that the way to go find the best answer is to do what we call majority voting.

Và hóa ra cách để tìm ra câu trả lời tốt nhất là làm điều mà chúng tôi gọi là bỏ phiếu đa số.

13:12

So we

Vậy chúng tôi

13:13

sample from the model many times.

Lấy mẫu từ mô hình nhiều lần.

13:15

Let's say a 100 times and then we look at the final answer and if the final, the majority of the answer is 18, we say the final answer is 18 and this, this idea what we call self consistency is another idea on top of chain of thought to uh, allow the model to think even more.

Giả sử 100 lần và sau đó chúng tôi xem xét câu trả lời cuối cùng và nếu câu trả lời cuối cùng, đa số câu trả lời là 18, chúng tôi nói câu trả lời cuối cùng là 18 và đây, ý tưởng này mà chúng tôi gọi là tự nhất quán là một ý tưởng khác trên nền tảng chuỗi suy nghĩ để ừ, cho phép mô hình suy nghĩ nhiều hơn nữa.

13:36

So instead of just producing one answer, we producing many hundred of answers and then selecting, the model can

Vậy thay vì chỉ tạo ra một câu trả lời, chúng tôi tạo ra hàng trăm câu trả lời và sau đó chọn lọc, mô hình có thể

13:44

select among the answer the best answer that has the majority.

Chọn trong số các câu trả lời câu trả lời tốt nhất có đa số.

13:48

So if you look at all the data set that we have, like for example the mouth doing uh, doing arithmatic, common sense, swam and arc, most of it, if you do this uh, cell consistency technique, you start to see better and better performance like getting much better compared to the baseline.

Vậy nếu bạn nhìn vào tất cả tập dữ liệu mà chúng tôi có, ví dụ như làm ừ, làm số học, kiến thức thông thường, swam và arc, hầu hết trong số đó, nếu bạn làm kỹ thuật ừ, tự nhất quán này, bạn bắt đầu thấy hiệu suất ngày càng tốt hơn, như đạt được tốt hơn nhiều so với đường cơ sở.

14:08

For example, in this uh, arithmetic data set

Ví dụ, trong tập dữ liệu ừ, số học này

14:12

you can get from 52% to almost 75%, so better in ruin computation.

Bạn có thể đạt từ 52% đến gần 75%, vậy tốt hơn trong tính toán.

14:21

And this idea of giving the model more ability, more computation at test time is actually a form of what I call, what I discussed earlier called search, right?

Và ý tưởng cho mô hình thêm khả năng, thêm tính toán tại thời điểm kiểm tra thực ra là một dạng của cái mà tôi gọi, cái mà tôi đã thảo luận trước đó gọi là tìm kiếm, đúng không?

14:32

You use search uh, augmentation uh, with the model to get better performance for reasoning tasks.

Bạn sử dụng tìm kiếm ừ, tăng cường ừ, với mô hình để có hiệu suất tốt hơn cho các nhiệm vụ suy luận.

14:38

We recently have this uh, for on coding.

Gần đây chúng tôi có cái này ừ, cho việc lập trình.

14:41

What we do is that we give the the ALM the ability to produce many samples and from the, from the sample we can uh, we can ask the, we can have uh, unit tests.

Điều chúng tôi làm là chúng tôi cho ALM khả năng tạo ra nhiều mẫu và từ, từ mẫu đó chúng tôi có thể ừ, chúng tôi có thể hỏi, chúng tôi có thể có ừ, các bài kiểm tra đơn vị.

14:55

So in a lot of software engineering queries and prompts, you actually have the unit test

Vậy trong rất nhiều truy vấn và lời nhắc về kỹ thuật phần mềm, bạn thực sự có bài kiểm tra đơn vị

15:02

to check whether the answer is correct or not.

Để kiểm tra xem câu trả lời có đúng hay không.

15:04

And the unit test usually easy to generate.

Và bài kiểm tra đơn vị thường dễ tạo.

15:07

For example, if you have a task of sorting numbers, um, the unit test for sorting numbers is actually quite easy to uh, to write, but the code, the code to do uh, sorting is actually very difficult to write.

Ví dụ, nếu bạn có nhiệm vụ sắp xếp số, ừm, bài kiểm tra đơn vị cho việc sắp xếp số thực ra khá dễ ừ, để viết, nhưng mã, mã để làm ừ, sắp xếp thực ra rất khó viết.

15:19

So long as you provide the unit test, what we do is you use a new unit test, ask

Miễn là bạn cung cấp bài kiểm tra đơn vị, điều chúng tôi làm là bạn sử dụng một bài kiểm tra đơn vị mới, yêu cầu

15:26

the model to generate a uh, um, code and for every uh, for all the samples, we look for the samples that pass the test and the sample that pass the test turn out to be the best program that we can use.

Mô hình tạo ra ừ, ừm, mã và với mọi ừ, với tất cả các mẫu, chúng tôi tìm những mẫu vượt qua bài kiểm tra và mẫu vượt qua bài kiểm tra hóa ra là chương trình tốt nhất mà chúng tôi có thể sử dụng.

15:41

And uh, using this very simple idea that actually you can just - sample many uh, sample from the last language model, check which one the pasta test and then use that one as the final

Và ừ, sử dụng ý tưởng rất đơn giản này rằng thực ra bạn có thể chỉ - lấy mẫu nhiều ừ, lấy mẫu từ mô hình ngôn ngữ cuối, kiểm tra cái nào vượt qua bài kiểm tra và sau đó dùng cái đó làm câu trả lời cuối cùng

15:55

answer turned out to be a very successful uh, recipe for this data set called the bbench data set.

hóa ra là một ừ, công thức rất thành công cho tập dữ liệu này gọi là tập dữ liệu bbench.

16:03

So the swbench data set is a famous data set in programming or software engineering and people use it to benchmark a lot of methods like uh, chat GPT, gemini and uh, llama and all the language models and the state-of-the-art, if you use uh, GBT 4 um, the state-of-the-art is only uh,

Vậy tập dữ liệu swbench là một tập dữ liệu nổi tiếng trong lập trình hoặc kỹ thuật phần mềm và mọi người dùng nó để đánh giá nhiều phương pháp như ừ, chat GPT, gemini và ừ, llama và tất cả các mô hình ngôn ngữ và tiên tiến nhất, nếu bạn dùng ừ, GBT 4 ừm, tiên tiến nhất chỉ là ừ,

16:26

is down here, right, 20 something%.

Ở dưới này, đúng, khoảng 20 mấy%.

16:28

But if you use this method of repeatedly sample from the model and then pick the samples that pass the unit test turn out to give you much better performance when you sample to like in the thousands of samples and get to you to 54% accuracy.

Nhưng nếu bạn dùng phương pháp lấy mẫu lặp đi lặp lại từ mô hình và sau đó chọn các mẫu vượt qua bài kiểm tra đơn vị hóa ra cho bạn hiệu suất tốt hơn nhiều khi bạn lấy mẫu đến hàng nghìn mẫu và đạt đến độ chính xác 54%.

16:46

So the idea of actually giving the model more ability to think and search at test time is something that people don't do a lot.

Vậy ý tưởng thực sự cho mô hình thêm khả năng suy nghĩ và tìm kiếm tại thời điểm kiểm tra là điều mà mọi người không làm nhiều.

16:54

For example, if you go to chak GBT and if you ask for how to fix this code, it will just give you the answer.

Ví dụ, nếu bạn vào chak GBT và nếu bạn hỏi cách sửa mã này, nó sẽ chỉ cho bạn câu trả lời.

17:03

But if, but this research tells you that if you ask the model, allow the model to sample many times and then somehow check the correctness of each of

Nhưng nếu, nhưng nghiên cứu này cho bạn biết rằng nếu bạn hỏi mô hình, cho phép mô hình lấy mẫu nhiều lần và sau đó bằng cách nào đó kiểm tra tính đúng đắn của từng

17:14

the answer by on its own and select the one that it finds to be correct turns out to be the better method.

Câu trả lời tự nó và chọn cái mà nó thấy là đúng hóa ra là phương pháp tốt hơn.

17:20

So you want to give the model at this time a thousand times more compute than what you want to see it today.

Vậy bạn muốn cho mô hình tại thời điểm này tính toán gấp nghìn lần so với những gì bạn muốn thấy nó ngày nay.

17:27

And this what I think what gives rise is that nowadays people train models using uh, put in a lot of compute into training the models, but they don't think a lot

Và đây là điều tôi nghĩ làm nổi lên rằng ngày nay mọi người huấn luyện mô hình bằng cách ừ, đưa rất nhiều tính toán vào việc huấn luyện mô hình, nhưng họ không nghĩ nhiều

17:36

about test time.

Về thời điểm kiểm tra.

17:37

How do you decode the model?

Làm sao bạn giải mã mô hình?

17:39

And what this research is telling you is that you should allocate more compute at inference time.

Và điều nghiên cứu này cho bạn biết là bạn nên phân bổ nhiều tính toán hơn tại thời điểm suy luận.

17:45

You want the model to be able to select out of the hundred of samples which sample is the best.

Bạn muốn mô hình có thể chọn ra trong hàng trăm mẫu mẫu nào là tốt nhất.

17:52

Now going back to the question of the thought experiment, can we solve an an unsolved mathematical problem?

Bây giờ quay lại câu hỏi về thí nghiệm tư tưởng, liệu chúng ta có thể giải một bài toán chưa được giải?

17:59

Actually this is one of my lifetime uh, um, uh, dreams is to be able to solve uh, you know, using large language model or using the AI to solve the P equal to NP conjecture.

Thực ra đây là một trong những ừ, ừm, ừ, giấc mơ cả đời của tôi là có thể giải ừ, bạn biết đấy, bằng cách sử dụng mô hình ngôn ngữ lớn hoặc sử dụng AI để giải giả thuyết P bằng NP.

18:13

And if you think about it, it's actually very difficult because most of the large language models are trained on human data on the internet.

Và nếu bạn nghĩ về điều đó, thực ra rất khó vì hầu hết các mô hình ngôn ngữ lớn được huấn luyện trên dữ liệu của con người trên internet.

18:21

And if you ever have a proof of P equal to MP, that's a novel proof.

Và nếu bạn từng có một chứng minh của P bằng MP, đó là một chứng minh mới lạ.

18:27

That's something that you never seen before.

Đó là điều bạn chưa từng thấy trước đây.

18:29

So the perplexity or the likelihood of the that proof is actually um, the likelihood is of that proof is very low.

Vậy độ hỗn loạn hoặc khả năng xảy ra của chứng minh đó thực ra ừm, khả năng xảy ra của chứng minh đó rất thấp.

18:37

So what we want

Vậy điều chúng tôi muốn

18:39

is to allow the, question is how you can allow the AI that we have today to get to the point that it can do something that we never seen before.

Là cho phép, câu hỏi là làm sao bạn có thể cho phép AI mà chúng ta có ngày nay đạt đến điểm mà nó có thể làm điều gì đó chúng ta chưa từng thấy trước đây.

18:50

So inspired by this thought experiment uh, in the last few years my team have started looking into um, uh, theorem proving and one area of to theorem proving that we doing research on is geometry because when I was a kid

Vậy lấy cảm hứng từ thí nghiệm tư tưởng này ừ, trong vài năm qua nhóm của tôi đã bắt đầu nghiên cứu về ừm, ừ, chứng minh định lý và một lĩnh vực chứng minh định lý mà chúng tôi đang nghiên cứu là hình học vì khi tôi còn nhỏ

19:06

geometry was my favorite subject and uh, I've also heard that um, Vietnam is doing very well in Olympia when it comes to geometry, like Asian countries are very good at uh, geometry problems.

Hình học là môn học yêu thích của tôi và ừ, tôi cũng nghe nói rằng ừm, Việt Nam làm rất tốt trong Olympia khi nói đến hình học, như các nước châu Á rất giỏi ừ, các bài toán hình học.

19:20

And um, uh, in this research what we show, found out is that uh, if you train a large language model to predict the neck token in uh, geometry, it turns out to be quite inefficient.

Và ừm, ừ, trong nghiên cứu này điều chúng tôi cho thấy, phát hiện ra là ừ, nếu bạn huấn luyện một mô hình ngôn ngữ lớn để dự đoán token tiếp theo trong ừ, hình học, hóa ra khá kém hiệu quả.

19:32

It doesn't solve a lot of geometry problem.

Nó không giải được nhiều bài toán hình học.

19:35

If you copy and paste some of the geometry problems and you send it to chat GPT, the performance is very low.

Nếu bạn sao chép và dán một số bài toán hình học và gửi nó đến chat GPT, hiệu suất rất thấp.

19:42

Most it actually achieved almost 0%.

Hầu như nó thực sự đạt được gần 0%.

19:45

So the way that we solve this problem is we uh, augment it with a symbolic system.

Vậy cách chúng tôi giải quyết vấn đề này là chúng tôi uh, tăng cường nó bằng một hệ thống ký hiệu.

19:50

So a symbolic system basically um, it's like a search method that guide you uh, to guide the model to search um, uh, through the uh, the proofs and mostly both, basically it generate the sketch of the proof and then the large language model will fill in some of the key steps in uh, the theorem proving and using the this technique we went from uh, we our method was able to achieve goal, gold

Vậy một hệ thống ký hiệu về cơ bản um, nó giống như một phương pháp tìm kiếm hướng dẫn bạn uh, để hướng dẫn mô hình tìm kiếm um, uh, thông qua uh, các chứng minh và chủ yếu là cả hai, về cơ bản nó tạo ra bản phác thảo của chứng minh và sau đó mô hình ngôn ngữ lớn sẽ điền vào một số bước chính trong uh, chứng minh định lý và sử dụng kỹ thuật này chúng tôi đã đi từ uh, chúng tôi phương pháp của chúng tôi đã có thể đạt được mục tiêu, vàng

20:20

medal level performance in mathematical olympiad and uh, recently just a couple of months ago uh, we alpha geometry together with alpha proof uh, I'm going to talk about alpha proof in a minute, but together with uh, you using alpha geometry and we participated in uh, um, mathematical olympiad um, live and alpha geometry was able to solve the problem within 30 seconds after we formulate the

Hiệu suất cấp huy chương trong olympiad toán học và uh, gần đây chỉ vài tháng trước uh, chúng tôi alpha geometry cùng với alpha proof uh, tôi sẽ nói về alpha proof trong một phút, nhưng cùng với uh, bạn sử dụng alpha geometry và chúng tôi đã tham gia uh, um, olympiad toán học um, trực tiếp và alpha geometry đã có thể giải quyết vấn đề trong vòng 30 giây sau khi chúng tôi xây dựng

20:51

problem in the language of geome, alpha geometry.

Vấn đề bằng ngôn ngữ của hình học, alpha geometry.

20:53

I would not be able to solve this problem.

Tôi sẽ không thể giải quyết vấn đề này.

20:56

My mathematical ability is not good enough to solve this problem.

Khả năng toán học của tôi không đủ tốt để giải quyết vấn đề này.

21:00

I think a lot of my uh, um, uh, colleagues at Google find this problem quite hard.

Tôi nghĩ nhiều uh, um, uh, đồng nghiệp của tôi tại Google thấy vấn đề này khá khó.

21:05

But the model was able to come up with a an auxiliary point.

Nhưng mô hình đã có thể đưa ra một điểm phụ trợ.

21:10

So in a lot of geometry problem uh, the question is basically trying to come up with an some oillary point.

Vậy trong nhiều bài toán hình học uh, câu hỏi về cơ bản là cố gắng đưa ra một điểm phụ trợ nào đó.

21:17

So the red lines, the red line is what the model was suggesting a new auxiliary point which is the point E which is a novel point.

Vậy các đường đỏ, đường đỏ là những gì mô hình đề xuất một điểm phụ trợ mới, đó là điểm E, một điểm mới lạ.

21:26

So if you want to, if you want to come up with all points in this figure, there's more, many many possibilities, right?

Vậy nếu bạn muốn, nếu bạn muốn đưa ra tất cả các điểm trong hình này, có nhiều, rất nhiều khả năng, phải không?

21:35

You can pick

Bạn có thể chọn

21:36

you know, you can pick K and L and then you connect, you connect with the circle that go around A and B, that's end up with E.

Bạn biết đấy, bạn có thể chọn K và L rồi bạn nối, bạn nối với đường tròn đi quanh A và B, cuối cùng được E.

21:44

But there's another possibility, you can take K and D, right, and then connect with another circle to get another point.

Nhưng có một khả năng khác, bạn có thể lấy K và D, phải, rồi nối với một đường tròn khác để được một điểm khác.

21:51

So there many possibilities, but the large language model was able to suggest point E which is key to find the solution for this

Vậy có nhiều khả năng, nhưng mô hình ngôn ngữ lớn đã có thể đề xuất điểm E, điểm then chốt để tìm ra lời giải cho

21:59

problem.

Vấn đề này.

21:59

I find this amazing in the sense that within 30 seconds it was able to prove the this half problem.

Tôi thấy điều này thật đáng kinh ngạc ở chỗ trong vòng 30 giây nó đã có thể chứng minh nửa bài toán này.

22:07

Now alpha geometry uh, participating in the contest with another uh, model called alpha proof.

Bây giờ alpha geometry uh, tham gia cuộc thi với một uh, mô hình khác gọi là alpha proof.

22:14

Now alpha proof was a large language model trained on a formalized language called LIN.

Bây giờ alpha proof là một mô hình ngôn ngữ lớn được huấn luyện trên một ngôn ngữ hình thức gọi là LIN.

22:20

So um, so when you work on mathematics, most of the mathematics that you write is uh, that

Vậy um, vậy khi bạn làm việc với toán học, hầu hết toán học bạn viết là uh, mà

22:28

you work with is called natural language, but lin is like programming language for mathematics.

Bạn làm việc cùng được gọi là ngôn ngữ tự nhiên, nhưng lin giống như ngôn ngữ lập trình cho toán học.

22:34

So that we train this large language model on this uh, formal language and at test time we allow the model to do uh, what we call um, uh, test time reinforcement learning, learning.

Vậy chúng tôi huấn luyện mô hình ngôn ngữ lớn này trên uh, ngôn ngữ hình thức này và tại thời điểm kiểm tra chúng tôi cho phép mô hình làm uh, cái mà chúng tôi gọi là um, uh, học tăng cường tại thời điểm kiểm tra, học.

22:47

So the model was able to search at that time.

Vậy mô hình đã có thể tìm kiếm vào lúc đó.

22:51

So they spent a lot of compute.

Vậy họ đã dùng rất nhiều tính toán.

22:54

So in one of the problem uh,

Vậy trong một trong các bài toán uh,

22:57

for uh, this year, um, this year IMO we spent 3 days - to compute the final sol, to compute the solution and so it will do this test time and searching together in combination with uh, alpha geometry, alpha pro was able uh, to solve uh, four out of six problems at IMO.

Đối với uh, năm nay, um, năm nay IMO chúng tôi đã dành 3 ngày - để tính lời giải cuối, để tính lời giải và vì vậy nó sẽ làm điều này tại thời điểm kiểm tra và tìm kiếm cùng nhau kết hợp với uh, alpha geometry, alpha pro đã có thể uh, giải uh, bốn trong sáu bài toán tại IMO.

23:22

Um, so with four problems we achieve uh, around 28 points.

Um, với bốn bài toán chúng tôi đạt được uh, khoảng 28 điểm.

23:28

Um, so each problem is worth seven points.

Um, mỗi bài toán trị giá bảy điểm.

23:32

So four we solve

Vậy bốn chúng tôi giải

23:34

four problems.

Bốn bài toán.

23:34

So that means we achieve uh, 28 points.

Vậy nghĩa là chúng tôi đạt được uh, 28 điểm.

23:38

Um, one of them is geometry and three of them are um, you know, normal math problem like uh, algebra, number theory.

Um, một trong số đó là hình học và ba trong số đó là um, bạn biết đấy, bài toán toán học thông thường như uh, đại số, lý thuyết số.

23:48

This year in order to get gold medal we have to get n 29 points.

Năm nay để giành huy chương vàng chúng tôi phải đạt n 29 điểm.

23:54

So we were, we were one point short of gold medal.

Vậy chúng tôi đã, chúng tôi đã thiếu một điểm so với huy chương vàng.

23:59

Just think about that, the AI is already at near gold level um, mathemat, in the mathematical Olympiad.

Chỉ cần nghĩ về điều đó, AI đã ở gần mức vàng um, toán học, trong Olympic toán học.

24:07

In some sense, I

Theo một nghĩa nào đó, tôi

24:09

think this is already a se, a many people don't, don't know how to appreciate this result.

Nghĩ rằng đây đã là một se, nhiều người không, không biết cách đánh giá cao kết quả này.

24:16

But in some sense, I think this is a beginning what I call a narrow super intelligent in some domain already because it's already better than me in proving mathematical uh, mathematical problems.

Nhưng theo một nghĩa nào đó, tôi nghĩ đây là khởi đầu của cái tôi gọi là siêu trí tuệ hẹp trong một lĩnh vực nào đó rồi, bởi vì nó đã giỏi hơn tôi trong việc chứng minh các bài toán toán học uh, toán học.

24:29

At a side story, I heard that this year uh, the Vietnamese uh, Olympia team didn't do very well at the mathematical

Một câu chuyện bên lề, tôi nghe nói rằng năm nay uh, đội tuyển Olympia của Việt Nam đã không làm tốt lắm tại kỳ thi toán học

24:39

Olympiad.

24:39

We achieved like uh, we were ranked like 35 or something like that.

Chúng tôi đạt được như uh, chúng tôi được xếp hạng như 35 hay gì đó tương tự.

24:44

Uh, and one of the reason actually I uh, I was surprised by this because normally Vietnam is in the top 10.

Uh, và một trong những lý do thực sự tôi uh, tôi đã ngạc nhiên vì điều này bởi vì bình thường Việt Nam nằm trong top 10.

24:51

- So I met some friends at uh, some soccer match and they say, they went to me and they say it's, it's your fault that this year we only achieved 35.

- Vậy tôi đã gặp một số bạn bè tại uh, một trận bóng đá nào đó và họ nói, họ đến gặp tôi và họ nói rằng, đó là lỗi của bạn khi năm nay chúng tôi chỉ đạt 35.

25:02

I said, what did I do?

Tôi nói, tôi đã làm gì?

25:04

They said, because you solved alpha, you solve geometry problem in January.

Họ nói, bởi vì bạn đã giải alpha, bạn giải bài toán hình học vào tháng Một.

25:09

So the committee uh, the mathematical comm, uh, the select problems selection committee actually deliberately select problems the hard

Vậy ủy ban uh, ủy ban toán học, uh, ủy ban chọn bài toán thực sự đã cố ý chọn các bài toán khó

25:16

problems in other areas, not in geometry.

Các bài toán ở lĩnh vực khác, không phải hình học.

25:19

So I think uh, tang is to blame for this uh, for this incident that we are ranked.

Vậy tôi nghĩ uh, tang là người đáng trách vì điều này uh, vì sự việc này mà chúng tôi bị xếp hạng.

25:26

So to conclude the talk, I just want to say that um, this talk I, I'm discuss the idea of system to thinking is the idea is how to trigger the model to do more slow thinking or in other words, you want the model to be able to solve very hard, high level planning, complex problem solving and my claim is

Vậy để kết thúc bài nói, tôi chỉ muốn nói rằng um, bài nói này tôi, tôi thảo luận ý tưởng về hệ thống tư duy, ý tưởng là làm thế nào để kích hoạt mô hình suy nghĩ chậm hơn hoặc nói cách khác, bạn muốn mô hình có thể giải quyết các bài toán rất khó, lập kế hoạch cấp cao, giải quyết vấn đề phức tạp và tuyên bố của tôi là

25:51

that actually using the next token prediction and using IHF app is possibly not enough to solve very hard problems because some of them, these problems are novel.

Rằng việc thực sự sử dụng dự đoán token tiếp theo và sử dụng ứng dụng IHF có thể không đủ để giải quyết những vấn đề rất khó vì một số trong đó, những vấn đề này là mới lạ.

25:59

Uh, for example, think about the proof for P equal to NP conjecture or how to disprove it.

Uh, ví dụ, hãy nghĩ về chứng minh cho giả thuyết P bằng NP hoặc làm thế nào để bác bỏ nó.

26:05

I think that's going to, the proof of it is going to be low likelihood.

Tôi nghĩ rằng điều đó sẽ, chứng minh của nó sẽ có khả năng thấp.

26:10

So you want to augment the last language model with all the

Vì vậy, bạn muốn tăng cường mô hình ngôn ngữ cuối cùng với tất cả các

26:14

capabilities so that it can search the right proof and I think what we just observe uh, narrowly in mathematics.

Khả năng để nó có thể tìm kiếm chứng minh đúng và tôi nghĩ những gì chúng ta vừa quan sát uh, một cách hẹp hòi trong toán học.

26:20

I think we already enter in some form of superhuman level intelligence.

Tôi nghĩ chúng ta đã bước vào một dạng trí tuệ siêu phàm nào đó.

26:24

uh, and this is, I think to me this is a really remarkable result and hopefully right now it's still very narrow because it's in mathematics, but I think I, my hope is that we'll be able to transfer this

Uh, và điều này, tôi nghĩ với tôi đây là một kết quả thực sự đáng chú ý và hy vọng rằng hiện tại nó vẫn còn rất hẹp vì nó nằm trong toán học, nhưng tôi nghĩ tôi, hy vọng của tôi là chúng ta sẽ có thể chuyển giao điều này

26:38

knowledge into other non-mathematics uh, abilities uh, for example biology or physics and if we could able to transfer this ability into something like biology, hopefully one day we could go to the AI and we ask, please give me uh, a vaccine for all um, cancers, it would be able to and I think that would be my dream.

Kiến thức sang các khả năng phi toán học khác uh, ví dụ sinh học hoặc vật lý và nếu chúng ta có thể chuyển giao khả năng này vào một cái gì đó như sinh học, hy vọng một ngày nào đó chúng ta có thể đến với AI và hỏi, làm ơn cho tôi uh, một loại vắc-xin cho tất cả um, các bệnh ung thư, nó sẽ có thể và tôi nghĩ đó sẽ là giấc mơ của tôi.

27:06

Uh, thank you.

Uh, cảm ơn bạn.

27:08

- And then get a transcript of what is being said.

- Và sau đó nhận được bản ghi lại những gì đang được nói.

27:11

How cold is it outside?

Bên ngoài lạnh đến mức nào?

27:12

Um, hello, how are you?

Um, xin chào, bạn khỏe không?

27:14

Or and get the translated version of that.

Hoặc và nhận được phiên bản dịch của đó.

27:16

That's

Đó là

Transcript

Hiển thị

The Powerful AI Thought Experiment

The speaker recalls a debate among Stanford graduate students about what they would want a powerful AI to do. While many suggested using it to improve productivity, the speaker thought about using it to solve humanity's unsolved problems, such as inventing a vaccine for all cancers or solving the P vs NP conjecture. This thinking later connected to the psychological concept of 'system two' thinking, which involves slow, deep reasoning. The speaker realized that triggering this kind of thinking in AI could lead to breakthroughs on hard problems.

Diễn giả nhớ lại một cuộc tranh luận giữa các sinh viên sau đại học Stanford về những gì họ muốn một AI mạnh mẽ làm. Trong khi nhiều người đề xuất sử dụng nó để cải thiện năng suất, diễn giả nghĩ đến việc sử dụng nó để giải quyết các vấn đề chưa được giải quyết của nhân loại, chẳng hạn như phát minh ra vắc-xin cho mọi bệnh ung thư hoặc giải quyết giả thuyết P vs NP. Suy nghĩ này sau đó kết nối với khái niệm tâm lý học 'tư duy hệ thống hai', liên quan đến lý luận chậm, sâu sắc. Diễn giả nhận ra rằng việc kích hoạt loại tư duy này trong AI có thể dẫn đến những đột phá về các vấn đề khó.