0:00

17:12

Sam Altman: “We Are Now in the Singularity”

AI Copium·17:12·Technology·C1

Chương · 7

Chương 1·We Are in the Singularity

Hiển thị

Tiếng ViệtAuto-scroll

0:00

This is the most interesting, important thing I can imagine doing and we are now like in the singularity.

Đây là điều thú vị và quan trọng nhất mà tôi có thể tưởng tượng để làm, và chúng ta đang ở trong điểm kỳ dị.

0:07

Like this is the moment.

Giống như đây là khoảnh khắc.

0:09

Number one, we are close to creating the genie that can grant any wish.

Thứ nhất, chúng ta sắp tạo ra thần đèn có thể thực hiện mọi điều ước.

0:12

Number two, we are going to make sure that our first wishes broadly benefit humanity.

Thứ hai, chúng ta sẽ đảm bảo rằng những điều ước đầu tiên mang lại lợi ích rộng rãi cho nhân loại.

0:19

I would say there is relatively too much focus on algorithms that create better algorithms and not enough focus on data centers that can create more data centers.

Tôi cho rằng có quá nhiều sự tập trung vào các thuật toán tạo ra thuật toán tốt hơn, và không đủ tập trung vào các trung tâm dữ liệu có thể tạo ra nhiều trung tâm dữ liệu hơn.

0:32

- So, Sam Altman just said we're already in the singularity.

- Vậy là Sam Altman vừa nói chúng ta đã ở trong điểm kỳ dị.

0:37

And after listening to this entire conversation, I don't think he was speaking metaphorically because throughout the interview, Sam explains why he believes super intelligence is now close, what the next major wave of AI will look like, and how this could eventually lead to AI building the physical infrastructure

Và sau khi nghe toàn bộ cuộc trò chuyện này, tôi không nghĩ ông ấy nói theo nghĩa bóng, bởi vì trong suốt cuộc phỏng vấn, Sam giải thích tại sao ông ấy tin rằng siêu trí tuệ đã gần kề, làn sóng AI lớn tiếp theo sẽ như thế nào, và điều này cuối cùng có thể dẫn đến việc AI xây dựng cơ sở hạ tầng vật lý

1:00

required to build more AI.

cần thiết để xây dựng thêm AI.

1:02

But, before we get into any of that, he was asked what continues to drive him even after everything OpenAI has already achieved.

Nhưng trước khi đi vào bất kỳ điều gì trong số đó, ông ấy được hỏi điều gì tiếp tục thúc đẩy ông ấy ngay cả sau tất cả những gì OpenAI đã đạt được.

1:13

And his answer makes it pretty clear that for Sam, this moment is the culmination of something he has been waiting for his entire life.

Và câu trả lời của ông ấy cho thấy rõ rằng đối với Sam, khoảnh khắc này là đỉnh cao của điều mà ông ấy đã chờ đợi cả đời.

1:22

- Well, on the to the previous question, the thing that drives me the most is like this is the most interesting, important thing I can imagine doing and we are now like in the singularity.

- Vâng, để trả lời câu hỏi trước, điều thúc đẩy tôi nhất là đây là điều thú vị và quan trọng nhất tôi có thể tưởng tượng để làm, và chúng ta đang ở trong điểm kỳ dị.

1:32

Like this is the moment.

Giống như đây là khoảnh khắc.

1:34

For the last 10 years ago, this was like a kind of far off dream at best.

Mười năm trước, điều này giống như một giấc mơ xa vời.

1:42

Um it seemed very improbable.

Ừm, nó có vẻ rất khó xảy ra.

1:45

And now we're like actually in the moment that we used to like talk about at the lunch table in a very not serious way.

Và bây giờ chúng ta thực sự đang ở trong khoảnh khắc mà chúng ta từng nói đến tại bàn ăn trưa một cách rất không nghiêm túc.

1:51

Uh and so, the thing that drives me is I've been waiting for this my whole life.

Ừ, và điều thúc đẩy tôi là tôi đã chờ đợi điều này cả đời.

1:58

And I think it's going to be incredible, hugely positive, awesome for the world.

Và tôi nghĩ nó sẽ tuyệt vời, cực kỳ tích cực, tuyệt vời cho thế giới.

2:02

Um I'm excited to get to work on that.

Ừm, tôi rất hào hứng để bắt tay vào làm việc đó.

2:04

I also think some of the alternative visions painted by other companies are like quite terrifying.

Tôi cũng nghĩ một số tầm nhìn thay thế được vẽ ra bởi các công ty khác khá đáng sợ.

2:09

I'm going to make sure that gets pushed against and is not what happens.

Tôi sẽ đảm bảo rằng điều đó bị phản đối và không xảy ra.

2:13

Um but the main thing of what's different than 10 years ago is like we're actually in it.

Ừm, nhưng điều chính khác so với 10 năm trước là chúng ta thực sự đang ở trong đó.

2:18

Like this is the real I think it is both true that it is all one crazy exponential and

Giống như đây là thực tế. Tôi nghĩ cả hai điều đều đúng: đó là một đường cong tăng trưởng theo cấp số nhân điên rồ,

2:24

any one moment is not like the tipping point.

và bất kỳ khoảnh khắc nào cũng không phải là điểm bùng phát.

2:27

And also that we are somehow in another one of those decisive periods where the curve can go one way or another like it was when we started 10 years ago.

Và cũng có thể chúng ta đang ở trong một trong những giai đoạn quyết định đó, nơi đường cong có thể đi theo hướng này hay hướng khác, giống như khi chúng ta bắt đầu 10 năm trước.

2:36

- So, he's not saying that the singularity will arrive at some future point, which is typically what people say when they're talking about the singularity.

- Vậy, ông ấy không nói rằng điểm kỳ dị sẽ đến vào một thời điểm nào đó trong tương lai, như mọi người thường nói khi nói về điểm kỳ dị.

2:46

He actually believes it has already begun and that we're currently in this brief but decisive period where the choices made by companies like OpenAI could determine which version of it we actually get.

Ông ấy thực sự tin rằng nó đã bắt đầu và chúng ta đang ở trong giai đoạn ngắn ngủi nhưng quyết định này, nơi các lựa chọn của các công ty như OpenAI có thể xác định phiên bản nào chúng ta thực sự có.

2:59

But what I find most revealing is that he's apparently spent his entire life working toward this moment.

Nhưng điều tôi thấy tiết lộ nhất là ông ấy dường như đã dành cả đời để làm việc hướng tới khoảnh khắc này.

3:06

And he's now even starting to think beyond it.

Và bây giờ ông ấy thậm chí bắt đầu nghĩ xa hơn nó.

3:10

When Sam was later

Khi Sam sau đó được

3:12

asked what his single ultimate goal for OpenAI is, he described something he calls abundant intelligence.

hỏi mục tiêu cuối cùng duy nhất của ông ấy cho OpenAI là gì, ông ấy mô tả một thứ gọi là trí tuệ dồi dào.

3:19

And in explaining what that means, he casually admitted that he now feels confident enough about the path to superintelligence that for the first time in more than a decade, he has started asking himself a much bigger question.

Và khi giải thích điều đó có nghĩa là gì, ông ấy thản nhiên thừa nhận rằng bây giờ ông ấy cảm thấy đủ tự tin về con đường dẫn đến siêu trí tuệ đến nỗi lần đầu tiên sau hơn một thập kỷ, ông ấy bắt đầu tự hỏi mình một câu hỏi lớn hơn nhiều.

3:36

What comes next?

Điều gì tiếp theo?

3:38

- I mean, for so long now I have felt focused on this singular goal of abundant intelligence.

- Ý tôi là, từ lâu tôi đã tập trung vào mục tiêu duy nhất này là trí tuệ dồi dào.

3:43

And a belief that like incredible human prosperity will come from that as long as we don't have a weird power concentration and kind of a new kind of authoritarianism.

Và niềm tin rằng sự thịnh vượng đáng kinh ngạc của con người sẽ đến từ đó, miễn là chúng ta không có sự tập trung quyền lực kỳ lạ và một loại chủ nghĩa độc tài mới.

3:53

It has been fairly clear to me at any given time what's on the critical path to get there.

Đối với tôi, khá rõ ràng tại bất kỳ thời điểm nào điều gì đang nằm trên con đường quan trọng để đạt được điều đó.

3:58

And I have not been tempted by you know, should I reconsider the goal or should I think about these other things?

Và tôi đã không bị cám dỗ bởi, bạn biết đấy, tôi có nên xem xét lại mục tiêu hay nghĩ về những thứ khác không?

4:04

I have been thinking about that a little bit more recently of like, okay, if we really are close to superintelligence, what's next?

Gần đây tôi đã nghĩ về điều đó một chút: được rồi, nếu chúng ta thực sự gần với siêu trí tuệ, thì điều gì tiếp theo?

4:10

But it's this that's kind of how I subjectively feel we are close.

Nhưng chính điều này khiến tôi chủ quan cảm thấy chúng ta đã gần.

4:13

Is this the first time in like more than a decade I've thought about what is the next thing?

Đây có phải là lần đầu tiên sau hơn một thập kỷ tôi nghĩ về điều gì là điều tiếp theo?

4:19

And is it the ranch?

Và đó có phải là trang trại không?

4:21

Uh I mean eventually.

Ừ, ý tôi là cuối cùng thì.

4:21

There might be some a few more things on the way, but that is yes, that is the eventual plan.

Có thể có một vài điều nữa trên đường đi, nhưng vâng, đó là kế hoạch cuối cùng.

4:26

- If you had to like try to guess what else does Sam want to accomplish before he ranches?

- Nếu bạn phải đoán xem Sam còn muốn đạt được điều gì trước khi về hưu?

4:32

- Um Look, AI superintelligence is going to get built.

- Ừm, nhìn này, siêu trí tuệ AI sẽ được xây dựng.

4:35

Like that you know, not done but like going to we are we are on the glide path.

Giống như, bạn biết đấy, chưa hoàn thành nhưng sắp xong, chúng ta đang trên đường trượt.

4:41

- Path to the get there is very clear.

- Con đường để đến đó rất rõ ràng.

4:42

- Um abundance and decentrali- and like wide access to it and making sure that it ends up with like broadly shared prosperity.

- Ừm, sự dồi dào và phân quyền và quyền truy cập rộng rãi vào nó, và đảm bảo rằng nó kết thúc với sự thịnh vượng được chia sẻ rộng rãi.

4:48

I'd really like to accomplish that.

Tôi thực sự muốn đạt được điều đó.

4:50

So maybe that's the thing that I've been like thinking about as the next thing.

Vì vậy, có lẽ đó là điều tôi đã nghĩ đến như là điều tiếp theo.

4:55

Like how does technologically we're going to accomplish our mission.

Giống như làm thế nào về mặt công nghệ chúng ta sẽ hoàn thành sứ mệnh của mình.

4:58

I think a lot of our worldview and a lot of our beliefs about safety and the impact it's going to have have also we've gotten those things done too.

Tôi nghĩ nhiều về thế giới quan và niềm tin của chúng ta về sự an toàn và tác động của nó, chúng ta cũng đã hoàn thành những việc đó.

5:07

Um but you know, very broadly shared prosperity and uh a real focus on enabling the world here.

Ừm, nhưng bạn biết đấy, sự thịnh vượng chung rất rộng và tập trung thực sự vào việc hỗ trợ thế giới ở đây.

5:15

Um that seems very important.

Ừm, điều đó có vẻ rất quan trọng.

5:17

- So yeah, he's basically certain that intelligence is inevitable at this point.

- Vâng, về cơ bản ông ấy chắc chắn rằng trí thông minh là không thể tránh khỏi vào lúc này.

5:21

The question he's asking himself now is what happens once we actually get it.

Câu hỏi ông ấy đang tự hỏi bây giờ là điều gì sẽ xảy ra khi chúng ta thực sự có được nó.

5:27

Will it be broadly shared with everyone?

Liệu nó có được chia sẻ rộng rãi với mọi người không?

5:29

Will it be locked up to only a handful of frontier AI labs and government?

Hay nó sẽ bị khóa kín chỉ dành cho một số ít phòng thí nghiệm AI tiên phong và chính phủ?

5:35

He claims both of these futures are very possible and his ultimate goal now isn't just to create

Ông ấy tuyên bố cả hai tương lai này đều rất khả thi và mục tiêu cuối cùng của ông ấy bây giờ không chỉ là tạo ra

5:42

superintelligence, it's to distribute it broadly enough that it can actually enable all of humanity.

Siêu trí tuệ, mà là phân phối nó đủ rộng để nó thực sự có thể hỗ trợ toàn nhân loại.

5:48

Obviously, we're not there yet, but according to Sam, we're already moving through the stages that lead there much faster than most people realize.

Rõ ràng, chúng ta chưa ở đó, nhưng theo Sam, chúng ta đã đang di chuyển qua các giai đoạn dẫn đến đó nhanh hơn nhiều so với hầu hết mọi người nhận ra.

5:59

- Are you guys experiencing that same kind of growth?

- Các bạn có đang trải qua cùng một kiểu tăng trưởng đó không?

6:03

You know, I keep on seeing Tibo post on Twitter that basically here's another reset, here's another reset.

Bạn biết đấy, tôi liên tục thấy Tibo đăng trên Twitter rằng về cơ bản đây là một lần reset khác, đây là một lần reset khác.

6:10

Are you seeing that same like ChatGPT-esque experience again?

Bạn có thấy cùng một trải nghiệm giống ChatGPT đó không?

6:14

- Totally.

- Hoàn toàn.

6:14

Um I think there have been two giant form factors and associated growth so far.

Ừm, tôi nghĩ đã có hai yếu tố hình thức khổng lồ và sự tăng trưởng liên quan cho đến nay.

6:20

There was the sort of chatbots and then the coding agents and the coding agents are just going totally nuts.

Đó là loại chatbot và sau đó là các tác nhân lập trình và các tác nhân lập trình đang phát triển điên cuồng.

6:25

There will be a third one soon, I think, which will be this idea of the sort of persistent agents, chiefs of staffs, coworkers, colleagues, whatever we call them.

Sẽ có một cái thứ ba sớm thôi, tôi nghĩ vậy, đó là ý tưởng về các tác nhân liên tục, giám đốc tham mưu, đồng nghiệp, cộng sự, bất cứ cái tên nào chúng ta gọi chúng.

6:34

And that'll And you know, I think that'll come pretty soon.

Và điều đó sẽ, bạn biết đấy, tôi nghĩ nó sẽ đến khá sớm.

6:36

So, we're going to go through like this third of these waves pretty fast.

Vì vậy, chúng ta sẽ trải qua làn sóng thứ ba này khá nhanh.

6:40

- So, ChatGPT was really only the first wave.

- Vậy, ChatGPT thực sự chỉ là làn sóng đầu tiên.

6:44

Coding agents were {slash} are the second.

Các tác nhân lập trình là làn sóng thứ hai.

6:47

And according to Sam, the third wave will be AI systems that remain active over long periods of time and operates more like actual colleagues, chiefs of staff, or coworkers.

Và theo Sam, làn sóng thứ ba sẽ là các hệ thống AI duy trì hoạt động trong thời gian dài và hoạt động giống như các đồng nghiệp thực sự, giám đốc tham mưu hoặc cộng sự.

7:00

And he says we're going to enter that stage pretty soon and then move through it extremely quickly.

Và ông ấy nói chúng ta sẽ bước vào giai đoạn đó khá sớm và sau đó vượt qua nó cực kỳ nhanh chóng.

7:08

But, the more capable

Nhưng, các hệ thống này càng có năng lực

7:10

these systems become, the stranger the experience of using them is apparently going to feel.

thì trải nghiệm sử dụng chúng dường như sẽ càng kỳ lạ.

7:15

Because eventually, instead of asking AI for help with a task, you'll be able to ask it to accomplish things that previously seemed impossible.

Bởi vì cuối cùng, thay vì yêu cầu AI giúp đỡ với một nhiệm vụ, bạn sẽ có thể yêu cầu nó hoàn thành những việc trước đây dường như không thể.

7:25

He compares this to creating a genie capable of granting almost any wish.

Ông ấy so sánh điều này với việc tạo ra một thần đèn có khả năng thực hiện hầu hết mọi điều ước.

7:30

But, he also admits that once the genie actually starts granting those

Nhưng, ông ấy cũng thừa nhận rằng một khi thần đèn thực sự bắt đầu thực hiện những

7:35

wishes, we might have no idea what to ask for next.

điều ước đó, chúng ta có thể không biết phải yêu cầu gì tiếp theo.

7:39

Check this out.

Hãy xem này.

7:41

- The way that somebody explained kind of the marketing challenge for Open AI and the industry in general is number one, we are close to creating what we need to explain to the world.

- Cách mà ai đó giải thích về thách thức tiếp thị cho Open AI và ngành công nghiệp nói chung là số một, chúng ta đang gần tạo ra thứ mà chúng ta cần giải thích cho thế giới.

7:56

Number one, we are close to creating a genie that can grant any wish.

Số một, chúng ta đang gần tạo ra một thần đèn có thể thực hiện mọi điều ước.

7:59

Number two, we are going to make sure that our first wishes broadly benefit humanity and that we kind of get the world to a place where a lot more people get to have a lot more wishes.

Số hai, chúng ta sẽ đảm bảo rằng những điều ước đầu tiên của chúng ta mang lại lợi ích rộng rãi cho nhân loại và chúng ta đưa thế giới đến một nơi mà nhiều người hơn có được nhiều điều ước hơn.

8:11

And number three, the space of what you can wish for is incredibly big and creative and it'll be quite exciting to like figure that out with real sort of human values and preferences.

Và số ba, không gian của những gì bạn có thể ước là vô cùng lớn và sáng tạo và sẽ rất thú vị để tìm ra điều đó với các giá trị và sở thích thực sự của con người.

8:23

But I But I think there's a fourth thing, too, which is exactly that.

Nhưng tôi nghĩ còn có điều thứ tư nữa, chính xác là điều đó.

8:27

You start making these wishes, the computer grants them, and then you're like, "I didn't think that was going to work." - Yeah.

Bạn bắt đầu thực hiện những điều ước này, máy tính thực hiện chúng, và sau đó bạn kiểu như, "Tôi không nghĩ điều đó sẽ hiệu quả." - Ừ.

8:34

- "What now?" It's a weird feeling.

- "Giờ thì sao?" Đó là một cảm giác kỳ lạ.

8:37

- Yeah, it's just like the problem where I guess, you know, people spent like 100 years trying to disprove some What was it?

- Ừ, nó giống như vấn đề mà tôi đoán, bạn biết đấy, mọi người đã dành 100 năm để cố gắng bác bỏ một số... Đó là gì nhỉ?

8:44

Jacobian?

8:44

Yeah.

Ừ.

8:45

Yeah, this thing.

Ừ, cái này.

8:46

And then some guy just asked Claude.

Và sau đó một anh chàng nào đó chỉ hỏi Claude.

8:48

And it was like - I don't know, within a few days or something like this.

Và nó kiểu như - Tôi không biết, trong vòng vài ngày hay gì đó.

8:52

So, I'm I'm I'm I think there's going to be lots of great jobs in the future.

Vì vậy, tôi nghĩ sẽ có rất nhiều công việc tuyệt vời trong tương lai.

8:56

I really do.

Tôi thực sự nghĩ vậy.

8:57

I think we're going to have lots of intellectual fulfillment and I think most jobs are going to adapt more than it seems like they should.

Tôi nghĩ chúng ta sẽ có nhiều sự thỏa mãn về trí tuệ và tôi nghĩ hầu hết các công việc sẽ thích nghi nhiều hơn vẻ ngoài của chúng.

9:03

But math, I think is a very important example of something for us to study very closely

Nhưng toán học, tôi nghĩ là một ví dụ rất quan trọng để chúng ta nghiên cứu rất kỹ

9:08

right now of something that may not go that way.

ngay bây giờ về một thứ có thể không đi theo hướng đó.

9:11

In fact, I would say probably won't go that way.

Thực tế, tôi sẽ nói có lẽ sẽ không đi theo hướng đó.

9:13

- So, he touches on a really important point there.

- Vậy, ông ấy chạm vào một điểm rất quan trọng ở đó.

9:16

If we truly are creating this genie in a bottle that can grant us almost any wish, then once we actually create it, we might find ourselves asking, "Now what?" I mean, think about the scenario of a mathematician asking ChatGPT to solve the hardest possible math problem he can think of.

Nếu chúng ta thực sự đang tạo ra thần đèn trong chai này, thứ có thể ban cho chúng ta hầu như mọi điều ước, thì một khi chúng ta thực sự tạo ra nó, chúng ta có thể thấy mình tự hỏi, 'Giờ thì sao?' Ý tôi là, hãy nghĩ về tình huống một nhà toán học yêu cầu ChatGPT giải bài toán khó nhất mà anh ta có thể nghĩ ra.

9:32

And by the time he steps away from his computer to

Và khi anh ta rời khỏi máy tính để

9:36

make a cup of coffee, and then comes back, it's just solved.

Pha một tách cà phê, rồi quay lại, nó đã được giải xong.

9:40

At that point, what exactly is left for the mathematician to even do?

Lúc đó, chính xác thì còn gì để nhà toán học làm nữa?

9:45

If you can simply tell an AI to accomplish something that might have previously required your entire career, and it completes it almost instantly, then again, the challenge is no longer figuring out how to solve the problem.

Nếu bạn có thể chỉ cần bảo AI hoàn thành điều gì đó mà trước đây có thể đòi hỏi cả sự nghiệp của bạn, và nó hoàn thành gần như ngay lập tức, thì một lần nữa, thách thức không còn là tìm ra cách giải quyết vấn đề.

9:59

The challenge becomes figuring out what you're going to do with the rest of your life.

Thách thức trở thành tìm ra bạn sẽ làm gì với phần còn lại của cuộc đời mình.

10:05

Sam seems to acknowledge that certain fields, like mathematics, might not simply adapt.

Sam dường như thừa nhận rằng một số lĩnh vực, như toán học, có thể không chỉ đơn giản là thích nghi.

10:10

They could be among the first places where AI becomes so capable that the traditional role of the human researcher fundamentally disappears.

Chúng có thể là một trong những nơi đầu tiên mà AI trở nên có năng lực đến mức vai trò truyền thống của nhà nghiên cứu con người về cơ bản biến mất.

10:19

But, strangely enough, he still doesn't believe that means humans

Nhưng, kỳ lạ thay, ông ấy vẫn không tin rằng điều đó có nghĩa là con người

10:23

are going to stop working.

Sẽ ngừng làm việc.

10:25

Even in a world with superintelligence, abundant intelligence, and machines capable of granting any wish, he doesn't expect us to get the 4-hour work week we've all been longing for, unfortunately.

Ngay cả trong một thế giới với siêu trí tuệ, trí tuệ dồi dào và những cỗ máy có thể ban cho bất kỳ điều ước nào, ông ấy không mong đợi chúng ta có được tuần làm việc 4 giờ mà tất cả chúng ta đã mong mỏi bấy lâu, thật không may.

10:39

In fact, he thinks we'll somehow be even busier than we are today.

Thực tế, ông ấy nghĩ rằng bằng cách nào đó chúng ta sẽ còn bận rộn hơn cả ngày nay.

10:45

- You know, technology for a long time has been promising people that they're going to work less.

- Bạn biết đấy, công nghệ từ lâu đã hứa hẹn với mọi người rằng họ sẽ làm việc ít hơn.

10:50

And they're going to have all this leisure.

Và họ sẽ có tất cả thời gian nhàn rỗi này.

10:52

And it has gone in that direction.

Và nó đã đi theo hướng đó.

10:55

Like, I think people do have more time for leisure than they had at many previous points in history and a higher quality of life in many ways.

Giống như, tôi nghĩ mọi người thực sự có nhiều thời gian giải trí hơn so với nhiều thời điểm trước đây trong lịch sử và chất lượng cuộc sống cao hơn theo nhiều cách.

11:07

But, somehow we never get the promise of the 4-hour work week at mass scale in society.

Nhưng, bằng cách nào đó chúng ta không bao giờ đạt được lời hứa về tuần làm việc 4 giờ trên quy mô lớn trong xã hội.

11:13

And I don't expect AI to change that.

Và tôi không mong đợi AI sẽ thay đổi điều đó.

11:15

Uh Clearly, society is not working for a lot of people.

Uh Rõ ràng, xã hội không hoạt động vì lợi ích của nhiều người.

11:19

And more productivity gains that actually accrue to people would be a great thing.

Và nhiều lợi ích năng suất hơn thực sự đến với mọi người sẽ là một điều tuyệt vời.

11:24

And I suspect they will.

Và tôi nghi ngờ chúng sẽ như vậy.

11:26

I suspect that will happen.

Tôi nghi ngờ điều đó sẽ xảy ra.

11:28

But, I think that I really admire about people is our expectations go up.

Nhưng, tôi nghĩ rằng điều tôi thực sự ngưỡng mộ ở con người là kỳ vọng của chúng ta tăng lên.

11:33

We always want more.

Chúng ta luôn muốn nhiều hơn.

11:34

We think of new things to do, to create for each other, to want

Chúng ta nghĩ ra những điều mới để làm, để tạo ra cho nhau, để muốn

11:40

for ourselves.

Cho chính mình.

11:40

And we you know, it's like a it's like a relative game.

Và bạn biết đấy, nó giống như một trò chơi tương đối.

11:44

People are like very focused on how they're doing relative to other people.

Mọi người rất tập trung vào việc họ đang làm như thế nào so với người khác.

11:48

And so, the competition that drives the economy and the kind of I think that the very wonderful desires about wanting to be useful to other people and create something and be of service and that whole cluster.

Và vì vậy, sự cạnh tranh thúc đẩy nền kinh tế và loại... tôi nghĩ rằng những mong muốn rất tuyệt vời về việc muốn có ích cho người khác và tạo ra thứ gì đó và phục vụ và toàn bộ cụm đó.

12:01

I expect that to keep going and I think we're all going to be much busier than we thought we were supposed to be in a post-superintelligence world and we're still going to complain about it, but secretly we're going to be happy.

Tôi mong đợi điều đó sẽ tiếp tục và tôi nghĩ tất cả chúng ta sẽ bận rộn hơn nhiều so với những gì chúng ta nghĩ mình nên có trong một thế giới hậu siêu trí tuệ và chúng ta vẫn sẽ phàn nàn về nó, nhưng bí mật là chúng ta sẽ hạnh phúc.

12:12

- So, even after superintelligence, Sam doesn't imagine humanity simply declaring victory and retiring.

- Vì vậy, ngay cả sau siêu trí tuệ, Sam không tưởng tượng nhân loại chỉ đơn giản tuyên bố chiến thắng và nghỉ hưu.

12:18

As AI makes previously impossible things possible, our expectations will simply rise alongside it.

Khi AI làm cho những điều trước đây không thể trở nên khả thi, kỳ vọng của chúng ta sẽ đơn giản tăng lên cùng với nó.

12:24

We'll invent new things to want, new problems to solve, and new ways to compete with one another.

Chúng ta sẽ phát minh ra những điều mới để muốn, những vấn đề mới để giải quyết và những cách mới để cạnh tranh với nhau.

12:31

So, while the nature of work could change completely, the nature of

Vì vậy, trong khi bản chất của công việc có thể thay đổi hoàn toàn, bản chất của

12:37

humans won't.

Con người sẽ không thay đổi.

12:37

I believe that is what he's trying to convey.

Tôi tin rằng đó là điều ông ấy đang cố gắng truyền đạt.

12:42

But, there's still one major constraint on this entire vision.

Nhưng, vẫn còn một ràng buộc lớn đối với toàn bộ tầm nhìn này.

12:46

Intelligence requires an enormous amount of physical infrastructure.

Trí thông minh đòi hỏi một lượng lớn cơ sở hạ tầng vật chất.

12:50

It requires chips, energy, data centers, factories, and a massive supply chain capable of producing all of it.

Nó đòi hỏi chip, năng lượng, trung tâm dữ liệu, nhà máy và một chuỗi cung ứng khổng lồ có khả năng sản xuất tất cả.

12:58

To have abundant intelligence, you need an abundance of everything that produces intelligence.

Để có trí tuệ dồi dào, bạn cần sự dồi dào của mọi thứ tạo ra trí tuệ.

13:05

But, this is where Sam brings up the idea of RSI, recursive self-improvement.

Nhưng, đây là lúc Sam đưa ra ý tưởng về RSI, tự cải thiện đệ quy.

13:13

When people talk about recursive self-improvement, they normally imagine AI writing better algorithms, which are then used to create an even more capable AI, which can write an even better algorithm to improve itself again and again and again.

Khi mọi người nói về tự cải thiện đệ quy, họ thường tưởng tượng AI viết các thuật toán tốt hơn, sau đó được sử dụng để tạo ra một AI có năng lực hơn, có thể viết một thuật toán thậm chí tốt hơn để tự cải thiện lặp đi lặp lại.

13:27

But, Sam believes we may be focusing too much on that software loop and not enough on what happens when the same process extends

Nhưng, Sam tin rằng chúng ta có thể đang tập trung quá nhiều vào vòng lặp phần mềm đó và không đủ vào những gì xảy ra khi cùng một quá trình mở rộng

13:37

into the physical world.

Sang thế giới vật chất.

13:38

Because, if AI can control robots that can build more data centers, which produce more intelligence, which can then control even more better robots that build even better more powerful data centers, which produce more better intelligence, then, well, you get the idea.

Bởi vì, nếu AI có thể điều khiển robot có thể xây dựng nhiều trung tâm dữ liệu hơn, tạo ra nhiều trí tuệ hơn, sau đó có thể điều khiển những robot thậm chí tốt hơn xây dựng các trung tâm dữ liệu mạnh hơn, tốt hơn, tạo ra trí tuệ tốt hơn, thì, bạn hiểu ý rồi đấy.

13:57

RSI isn't just going to happen through software and algorithms.

RSI không chỉ xảy ra thông qua phần mềm và thuật toán.

14:01

It could eventually happen

Cuối cùng nó có thể xảy ra

14:03

through robots and atoms, too.

Thông qua robot và nguyên tử nữa.

14:06

- When you really think about the whole supply chain that has to come together to produce intelligence, I would say there is relatively too much focus on algorithms that create better algorithms and not enough focus on data centers that can create more data centers, which, in a world of robots and a truly automated supply chain, you can totally imagine doing.

- Khi bạn thực sự nghĩ về toàn bộ chuỗi cung ứng phải kết hợp lại để tạo ra trí tuệ, tôi sẽ nói rằng có tương đối quá nhiều sự tập trung vào các thuật toán tạo ra thuật toán tốt hơn và không đủ tập trung vào các trung tâm dữ liệu có thể tạo ra nhiều trung tâm dữ liệu hơn, mà trong một thế giới của robot và chuỗi cung ứng thực sự tự động, bạn hoàn toàn có thể tưởng tượng làm được.

14:35

You can like spend a data center's thinking power to drive a fleet of robots to make more copies of the data center, and that's probably a very wonderful thing to do uh relative to other uses of that compute if we're right about what that additional compute will eventually unlock.

Bạn có thể dùng sức mạnh suy nghĩ của một trung tâm dữ liệu để điều khiển một đội robot tạo ra nhiều bản sao hơn của trung tâm dữ liệu, và đó có lẽ là một điều rất tuyệt vời để làm so với các mục đích sử dụng khác của sức mạnh tính toán đó nếu chúng ta đúng về những gì sức mạnh tính toán bổ sung đó cuối cùng sẽ mở khóa.

14:51

- How much of your time is spent thinking about how to like successfully design that fully robot end-to-end future where intel - Almost none of my time is spent thinking about it.

- Bạn dành bao nhiêu thời gian để suy nghĩ về cách thiết kế thành công tương lai hoàn toàn robot từ đầu đến cuối mà Intel - Hầu như không có thời gian nào tôi dành để nghĩ về nó.

14:59

Almost all goes into like execution.

Hầu như tất cả đều dành cho việc thực thi.

15:00

Like, the idea That's a very obvious idea.

Giống như, ý tưởng đó là một ý tưởng rất hiển nhiên.

15:02

It's very easy.

Nó rất dễ dàng.

15:03

You can like kind of relatively quickly say, "Here's the pieces that need to come together."

Bạn có thể nhanh chóng nói, "Đây là những mảnh ghép cần kết hợp với nhau."

15:07

But, then to like get that whole machinery and all those companies working together, um that you know, none of the glory of the big idea and trying to like think the big thoughts, but like a lot of grinding.

Nhưng, để vận hành toàn bộ cỗ máy đó và tất cả các công ty đó cùng nhau, ừm, bạn biết đấy, không có vinh quang nào của ý tưởng lớn và cố gắng nghĩ những suy nghĩ lớn, nhưng rất nhiều sự mài mòn.

15:19

- So, yeah.

- Vâng, đúng vậy.

15:20

Obviously, we are nowhere near a fully autonomous loop like that today.

Rõ ràng, chúng ta còn rất xa một vòng lặp hoàn toàn tự động như ngày nay.

15:25

Every part of this still remains dependent on humans, companies, energy, raw materials, and an incredibly complicated global supply chain.

Mọi phần của điều này vẫn phụ thuộc vào con người, công ty, năng lượng, nguyên liệu thô và một chuỗi cung ứng toàn cầu cực kỳ phức tạp.

15:32

But, this appears to be the future OpenAI is actively trying to build toward.

Nhưng, đây dường như là tương lai mà OpenAI đang tích cực cố gắng xây dựng.

15:38

They believe that in order to get to superintelligence and abundant intelligence for all, they're going to need an automated system capable of producing the infrastructure for it.

Họ tin rằng để đạt được siêu trí tuệ và trí tuệ dồi dào cho tất cả mọi người, họ sẽ cần một hệ thống tự động có khả năng sản xuất cơ sở hạ tầng cho nó.

15:49

Not

Không

15:50

just the algorithms.

Chỉ là các thuật toán.

15:51

Which brings us all the way back to his original claim.

Điều này đưa chúng ta trở lại với tuyên bố ban đầu của anh ấy.

15:55

When Sam says we're already inside the singularity, he clearly doesn't mean that we've reached the final intelligence explosion, or that AI can already reproduce itself without humans.

Khi Sam nói rằng chúng ta đã ở bên trong điểm kỳ dị, rõ ràng anh ấy không có ý nói rằng chúng ta đã đạt đến vụ nổ trí tuệ cuối cùng, hoặc AI đã có thể tự tái tạo mà không cần con người.

16:06

He means that the feedback loops leading toward that future may already be underway, and that we've entered the period where they begin accelerating faster than society can fully process.

Anh ấy muốn nói rằng các vòng phản hồi dẫn đến tương lai đó có thể đã được tiến hành và chúng ta đã bước vào giai đoạn mà chúng bắt đầu tăng tốc nhanh hơn xã hội có thể xử lý hoàn toàn.

16:17

Chatbots became coding agents, coding agents could soon become persistent co-workers, which we're already beginning to see today.

Chatbot đã trở thành tác nhân mã hóa, tác nhân mã hóa có thể sớm trở thành đồng nghiệp thường trực, điều mà chúng ta đã bắt đầu thấy ngày nay.

16:25

And eventually, these systems could help construct the physical infrastructure required to produce even more systems like themselves.

Và cuối cùng, các hệ thống này có thể giúp xây dựng cơ sở hạ tầng vật lý cần thiết để sản xuất nhiều hệ thống hơn như chính chúng.

16:33

Now, whether that actually leads to the abundant intelligence for all future Sam is promising, or at least

Bây giờ, liệu điều đó có thực sự dẫn đến trí tuệ dồi dào cho tất cả tương lai mà Sam hứa hẹn, hoặc ít nhất là

16:41

working towards, or concentrates unprecedented power inside a handful of companies, which Sam also admits is a real possibility, is still very much an open question.

Đang hướng tới, hay tập trung quyền lực chưa từng có vào một số ít công ty, điều mà Sam cũng thừa nhận là một khả năng thực sự, vẫn là một câu hỏi mở.

16:50

But, either way, after hearing the full vision he lays out here, I don't think he was using the word singularity lightly.

Nhưng, dù thế nào đi nữa, sau khi nghe tầm nhìn đầy đủ mà anh ấy trình bày ở đây, tôi không nghĩ anh ấy đã sử dụng từ điểm kỳ dị một cách nhẹ nhàng.

16:58

Anyways, thanks for watching.

Dù sao, cảm ơn các bạn đã xem.

17:00

I hope you guys enjoyed this breakdown.

Tôi hy vọng các bạn thích bài phân tích này.

17:02

If you did,

Nếu bạn thích,

17:04

please feel free to leave a like.

Hãy thoải mái để lại một like.

17:06

Hit that subscribe button if you're new, and as always, I'll be catching you guys in the next one.

Nhấn nút đăng ký nếu bạn là người mới, và như mọi khi, tôi sẽ gặp lại các bạn trong video tiếp theo.

Transcript

Hiển thị

We Are in the Singularity

Sam Altman declares that we are now in the singularity, meaning the moment of transformative AI is here. He explains that this is the most interesting and important thing he can imagine doing, and that the dream of AI has become a reality. He emphasizes that the current period is decisive and that the choices made now will determine the future. Altman also notes that he has been waiting for this his whole life and is excited to work on it.

Sam Altman tuyên bố rằng chúng ta hiện đang ở trong kỳ dị, nghĩa là thời khắc AI biến đổi đã đến. Ông giải thích rằng đây là điều thú vị và quan trọng nhất mà ông có thể tưởng tượng để làm, và giấc mơ về AI đã trở thành hiện thực. Ông nhấn mạnh rằng giai đoạn hiện tại mang tính quyết định và những lựa chọn được đưa ra bây giờ sẽ định hình tương lai. Altman cũng lưu ý rằng ông đã chờ đợi điều này suốt cuộc đời và rất hào hứng để làm việc với nó.

This is the most interesting, important thing I can imagine doing and we are now like in the singularity.

Đây là điều thú vị và quan trọng nhất mà tôi có thể tưởng tượng để làm, và chúng ta đang ở trong điểm kỳ dị.

Like this is the moment.

Giống như đây là khoảnh khắc.

Number one, we are close to creating the genie that can grant any wish.

Thứ nhất, chúng ta sắp tạo ra thần đèn có thể thực hiện mọi điều ước.

Number two, we are going to make sure that our first wishes broadly benefit humanity.

Thứ hai, chúng ta sẽ đảm bảo rằng những điều ước đầu tiên mang lại lợi ích rộng rãi cho nhân loại.

I would say there is relatively too much focus on algorithms that create better algorithms and not enough focus on data centers that can create more data centers.

- So, Sam Altman just said we're already in the singularity.

- Vậy là Sam Altman vừa nói chúng ta đã ở trong điểm kỳ dị.

required to build more AI.

cần thiết để xây dựng thêm AI.

But, before we get into any of that, he was asked what continues to drive him even after everything OpenAI has already achieved.

And his answer makes it pretty clear that for Sam, this moment is the culmination of something he has been waiting for his entire life.

Và câu trả lời của ông ấy cho thấy rõ rằng đối với Sam, khoảnh khắc này là đỉnh cao của điều mà ông ấy đã chờ đợi cả đời.

- Well, on the to the previous question, the thing that drives me the most is like this is the most interesting, important thing I can imagine doing and we are now like in the singularity.

Like this is the moment.

Giống như đây là khoảnh khắc.

For the last 10 years ago, this was like a kind of far off dream at best.

Mười năm trước, điều này giống như một giấc mơ xa vời.

Um it seemed very improbable.

Ừm, nó có vẻ rất khó xảy ra.

And now we're like actually in the moment that we used to like talk about at the lunch table in a very not serious way.

Và bây giờ chúng ta thực sự đang ở trong khoảnh khắc mà chúng ta từng nói đến tại bàn ăn trưa một cách rất không nghiêm túc.

Uh and so, the thing that drives me is I've been waiting for this my whole life.

Ừ, và điều thúc đẩy tôi là tôi đã chờ đợi điều này cả đời.

And I think it's going to be incredible, hugely positive, awesome for the world.

Và tôi nghĩ nó sẽ tuyệt vời, cực kỳ tích cực, tuyệt vời cho thế giới.

Um I'm excited to get to work on that.

Ừm, tôi rất hào hứng để bắt tay vào làm việc đó.

I also think some of the alternative visions painted by other companies are like quite terrifying.

Tôi cũng nghĩ một số tầm nhìn thay thế được vẽ ra bởi các công ty khác khá đáng sợ.

I'm going to make sure that gets pushed against and is not what happens.

Tôi sẽ đảm bảo rằng điều đó bị phản đối và không xảy ra.

Um but the main thing of what's different than 10 years ago is like we're actually in it.

Ừm, nhưng điều chính khác so với 10 năm trước là chúng ta thực sự đang ở trong đó.

1 / 7