0:00

14:08

Why the Brain Computes 1,000,000x More Efficiently Than A GPU: Unconventional AI's Naveen Rao

Sequoia Capital·14:08·Technology·C1

Chương · 5

Chương 1·Introduction and Energy Challenge

Hiển thị

Tiếng ViệtAuto-scroll

0:03

We're going to jump into our next set of frontier talks.

Chúng ta sẽ bắt đầu loạt bài nói chuyện tiên phong tiếp theo.

0:07

The first is which from Naveen Rao.

Đầu tiên là từ Naveen Rao.

0:09

Naveen is a pioneer in the AI space.

Naveen là người tiên phong trong lĩnh vực AI.

0:12

He did his PhD in neuroscience.

Anh ấy có bằng tiến sĩ về khoa học thần kinh.

0:14

Then he started one of the first ever AI chip companies way before it was cool.

Sau đó, anh ấy thành lập một trong những công ty chip AI đầu tiên từ rất lâu trước khi nó trở nên phổ biến.

0:20

He's actually the person who ran Mosaic ML, one of the first AI training companies, and then built all of Data Bricks AI.

Anh ấy thực sự là người điều hành Mosaic ML, một trong những công ty đào tạo AI đầu tiên, và sau đó xây dựng toàn bộ Data Bricks AI.

0:28

He left that amazing

Anh ấy rời bỏ vai trò tuyệt vời đó

0:30

role to do something new and redefine the future of computing bringing cool back to neuroscience.

để làm điều gì đó mới mẻ và định nghĩa lại tương lai của điện toán, mang lại sự thú vị cho khoa học thần kinh.

0:37

Naveen, come on up.

Naveen, mời anh lên đây.

0:39

- applause - All right.

- [vỗ tay] - Được rồi.

0:40

Afternoon everyone.

Chào buổi chiều mọi người.

0:41

Yeah, super excited to be here.

Vâng, tôi rất hào hứng khi có mặt ở đây.

0:43

I'm Naveen Rao and CEO of Unconventional AI.

Tôi là Naveen Rao, CEO của Unconventional AI.

0:46

So we are unconventional because maybe it's actually the wrong word to use cuz I think we're going to change the name to conventional.

Chúng tôi là unconventional vì có lẽ đó thực sự là từ sai để dùng vì tôi nghĩ chúng tôi sẽ đổi tên thành conventional.

0:54

It's a actually a great time to be a startup as Boris alluded Boris alluded to, right?

Thực sự đây là thời điểm tuyệt vời để khởi nghiệp như Boris đã ám chỉ, phải không?

1:00

Like having no baggage actually I think is a true

Việc không có gánh nặng thực sự là một

1:04

competitive advantage.

lợi thế cạnh tranh.

1:04

We can do things so much faster than traditional you know, sort of chip companies and full stack companies can do.

Chúng tôi có thể làm mọi thứ nhanh hơn nhiều so với các công ty chip truyền thống và các công ty full stack.

1:12

And I think that's what's very exciting.

Và tôi nghĩ đó là điều rất thú vị.

1:14

We can get to tape outs in months instead of years, things like this.

Chúng tôi có thể hoàn thành tape out trong vài tháng thay vì nhiều năm, những điều như thế.

1:19

So anyway, let's get get started.

Dù sao, hãy bắt đầu thôi.

1:22

I put that up there.

Tôi đặt điều đó lên đó.

1:23

I can guarantee you some of you are like trying to prove me wrong.

Tôi có thể đảm bảo một số bạn đang cố chứng minh tôi sai.

1:26

All of a sudden you're like, oh my god, what's you know, I can hear the I can hear the gears turning like that that can't be true.

Đột nhiên bạn nghĩ, 'Ôi chúa ơi, cái gì vậy?' Tôi có thể nghe thấy tiếng bánh răng quay, rằng điều đó không thể đúng được.

1:33

Well, let me let me explain my logic a little bit and uh and maybe the definition of what I call ASI.

Vậy hãy để tôi giải thích logic của mình một chút và có thể là định nghĩa về cái tôi gọi là ASI.

1:39

So really I think we need to get to much greater amount of computer efficiency.

Thực sự tôi nghĩ chúng ta cần đạt được hiệu quả tính toán lớn hơn nhiều.

1:43

And when I say computer efficiency, I don't mean algorithmic computer efficiency or data efficiency.

Và khi tôi nói hiệu quả tính toán, tôi không có ý nói hiệu quả thuật toán hay hiệu quả dữ liệu.

1:48

There's lots of people working on these problems.

Có rất nhiều người đang giải quyết những vấn đề này.

1:51

I actually mean the fundamental substrate.

Tôi thực sự muốn nói đến nền tảng cơ bản.

1:53

Actually how I do information processing at the like physics level.

Thực tế là cách tôi xử lý thông tin ở cấp độ vật lý.

1:57

We chose a path of making computers work the way they did for a lot of reasons about 80 years ago.

Chúng ta đã chọn con đường làm cho máy tính hoạt động theo cách chúng đã làm vì nhiều lý do cách đây khoảng 80 năm.

2:03

If you think about it, like in the tech industry, how many things have existed for 80 years?

Hãy nghĩ mà xem, trong ngành công nghệ, có bao nhiêu thứ đã tồn tại 80 năm?

2:08

Like not a lot.

Không nhiều lắm.

2:09

The digital abstraction sort of floating point numbers, those were around from the 1940s.

Sự trừu tượng hóa kỹ thuật số, các số dấu phẩy động, chúng đã có từ những năm 1940.

2:13

And for machine that was built from a completely different substrate and for a

Và đối với một cỗ máy được xây dựng từ một nền tảng hoàn toàn khác và cho một

2:18

machine that was built for completely different purpose.

mục đích hoàn toàn khác.

2:20

And now we're building machines for intelligence.

Và bây giờ chúng ta đang xây dựng máy móc cho trí thông minh.

2:22

So let's think through this a little bit.

Vậy hãy suy nghĩ một chút về điều này.

2:25

So part of this is that AI will make us more efficient.

Một phần của điều này là AI sẽ làm cho chúng ta hiệu quả hơn.

2:28

I mean, we've talked about coding and you know, running a thousand agents on your phone, all this kind of stuff, right?

Ý tôi là, chúng ta đã nói về việc viết mã và chạy hàng ngàn agent trên điện thoại, tất cả những thứ đó, phải không?

2:34

It does make us more efficient.

Nó thực sự làm chúng ta hiệu quả hơn.

2:36

But at some point we start to get to a place where what what is efficiency really mean?

Nhưng đến một lúc nào đó, chúng ta bắt đầu đặt câu hỏi hiệu quả thực sự có nghĩa là gì?

2:41

If you think about energy, actual energy, maybe we're actually not more efficient.

Nếu bạn nghĩ về năng lượng, năng lượng thực tế, có lẽ chúng ta thực sự không hiệu quả hơn.

2:44

And

Và

2:45

we're kind of budding up against those limitations of the physical world now.

Chúng ta đang chạm vào những giới hạn của thế giới vật chất.

2:49

Um you know, already today we're we're using many gigawatts for AI inference and training.

Ừm, bạn biết đấy, ngay hôm nay chúng ta đã sử dụng nhiều gigawatt cho suy luận và huấn luyện AI.

2:53

And we're going to get to a point within the next couple of years.

Và chúng ta sẽ đạt đến điểm trong vài năm tới.

2:58

This is not 10 years away.

Điều này không phải 10 năm nữa.

2:59

This is two, three, four years where we just don't have any more energy in the world for AI.

Đây là hai, ba, bốn năm nữa, khi chúng ta không còn năng lượng trên thế giới cho AI nữa.

3:05

Then this topic starts to become very important.

Khi đó chủ đề này bắt đầu trở nên rất quan trọng.

3:07

Right now you can kind of look at it like, well electrical energy versus like food.

Hiện tại bạn có thể xem nó như là, năng lượng điện so với thức ăn.

3:12

These are two energy sources for intelligence.

Đây là hai nguồn năng lượng cho trí thông minh.

3:14

Um and you know, there's no real limitation on the on the electrical side, but that's going to hit a pretty solid wall very soon.

Ừm và bạn biết đấy, không có giới hạn thực sự nào về mặt điện, nhưng điều đó sẽ sớm chạm phải một bức tường khá vững chắc.

3:20

And you know, we're talking about going to space, we're talking about building fusion reactors.

Và bạn biết đấy, chúng ta đang nói về việc đi vào không gian, chúng ta đang nói về việc xây dựng các lò phản ứng nhiệt hạch.

3:24

Great.

Tuyệt vời.

3:25

Let's do all those things, but still these fundamental physics apply.

Hãy làm tất cả những điều đó, nhưng những nguyên lý vật lý cơ bản này vẫn áp dụng.

3:28

So if we think through this a little bit, we have about 8 billion people in the world.

Vậy nếu chúng ta suy nghĩ một chút về điều này, chúng ta có khoảng 8 tỷ người trên thế giới.

3:33

Our brains use about 20 watts each.

Bộ não của chúng ta sử dụng khoảng 20 watt mỗi cái.

3:36

That's only 160 gigawatts.

Đó chỉ là 160 gigawatt.

3:37

So the entirety of humanity is 160 gigawatts.

Vậy toàn bộ nhân loại là 160 gigawatt.

3:40

So just put that into comparison, we have about 9,000 gigawatts of capacity in the world today.

Vậy hãy so sánh, chúng ta có khoảng 9.000 gigawatt công suất trên thế giới hiện nay.

3:45

The US has about a thousand.

Mỹ có khoảng một nghìn.

3:47

And you know, this runs everything.

Và bạn biết đấy, điều này vận hành mọi thứ.

3:48

This is like heating in your home and you know, all the things, electric cars, all that kind of stuff.

Điều này giống như sưởi ấm trong nhà bạn và bạn biết đấy, tất cả mọi thứ, xe điện, tất cả những thứ đó.

3:54

But if we said we you know, maybe you got 50% more of this and we say okay, great.

Nhưng nếu chúng ta nói rằng, có lẽ bạn có thêm 50% nữa và chúng ta nói được thôi, tuyệt vời.

3:59

Now we got like, you know, 4,000 plus gigawatts.

Bây giờ chúng ta có, bạn biết đấy, hơn 4.000 gigawatt.

4:02

But the problem is our current clears throat paradigm of compute is just vastly more inefficient.

Nhưng vấn đề là mô hình tính toán hiện tại của chúng ta [hắng giọng] kém hiệu quả hơn rất nhiều.

4:06

So a computer I'm I'm

Vậy một máy tính tôi đang

4:08

making some numbers up here.

Tôi đang bịa ra một số con số ở đây.

4:09

I mean, I can say like if I'm running inference per token, I can come up with numbers, but you know, fully loaded like the amount of energy that goes into inference, building the model, running the model, all of that.

Ý tôi là, tôi có thể nói như nếu tôi đang chạy suy luận trên mỗi token, tôi có thể đưa ra các con số, nhưng bạn biết đấy, khi tải đầy đủ, lượng năng lượng dùng cho suy luận, xây dựng mô hình, chạy mô hình, tất cả những thứ đó.

4:19

Let's call it a gigawatt, something like that or you know, definitely in the megawatt range.

Hãy gọi nó là một gigawatt, đại loại thế hoặc bạn biết đấy, chắc chắn trong phạm vi megawatt.

4:23

But humans are on the order of 20 watts.

Nhưng con người ở mức 20 watt.

4:25

And you could also argue that evolution over 4 billion years has created what we are.

Và bạn cũng có thể lập luận rằng sự tiến hóa qua 4 tỷ năm đã tạo ra chúng ta như ngày nay.

4:31

But the reality is today our constraint becomes how quickly can we get learnings happen?

Nhưng thực tế ngày nay, ràng buộc của chúng ta là chúng ta có thể học hỏi nhanh đến mức nào?

4:36

How quickly can we build intelligence on a given amount of energy?

Chúng ta có thể xây dựng trí thông minh nhanh đến mức nào trên một lượng năng lượng nhất định?

4:40

So if we want to build this future where we have lots of intelligence in the world and we're automating all kinds of things that we want to really be more efficient from an energy standpoint, we're we're going to need a lot more we're going to need a lot more watts.

Vậy nếu chúng ta muốn xây dựng tương lai này, nơi chúng ta có nhiều trí thông minh trên thế giới và chúng ta đang tự động hóa đủ thứ mà chúng ta muốn thực sự hiệu quả hơn từ góc độ năng lượng, chúng ta sẽ cần nhiều hơn nữa, chúng ta sẽ cần nhiều watt hơn nữa.

4:51

Or we can think about building a vastly more power efficient computer.

Hoặc chúng ta có thể nghĩ về việc xây dựng một máy tính tiết kiệm năng lượng hơn rất nhiều.

4:55

And that's where we come in.

Và đó là lúc chúng tôi xuất hiện.

4:58

So I love this curve here and I think most people really haven't really haven't thought about this cuz you just sort of assume the computer is a computer.

Vậy tôi thích đường cong này và tôi nghĩ hầu hết mọi người thực sự chưa nghĩ về điều này bởi vì bạn cứ cho rằng máy tính là máy tính.

5:05

And we haven't really questioned that.

Và chúng ta chưa thực sự đặt câu hỏi về điều đó.

5:06

Again, this is the unconventional part is like, let's break that apart.

Một lần nữa, đây là phần khác thường, đó là hãy phá vỡ điều đó.

5:09

The the assumptions we made 80 years ago are actually not quite valid anymore.

Những giả định chúng ta đưa ra 80 năm trước thực ra không còn đúng nữa.

5:13

We just choose to keep building on them

Chúng ta chỉ chọn tiếp tục xây dựng trên chúng

5:15

because I can build a product in two years.

Bởi vì tôi có thể xây dựng một sản phẩm trong hai năm.

5:17

I can make something that I can sell in two years.

Tôi có thể tạo ra thứ gì đó mà tôi có thể bán trong hai năm.

5:19

But we're kind of taking a different tax like, let's go back to those first principles and see if we can build something much better.

Nhưng chúng tôi đang có một cách tiếp cận khác, hãy quay lại những nguyên tắc cơ bản đó và xem liệu chúng ta có thể xây dựng thứ gì đó tốt hơn nhiều không.

5:25

So there is a thermodynamic limit to intelligence per watt.

Vậy có một giới hạn nhiệt động lực học đối với trí thông minh trên mỗi watt.

5:28

Okay, that means you just can't do any better.

Được rồi, điều đó có nghĩa là bạn không thể làm tốt hơn được nữa.

5:30

There's there's something called the Landauer principle which some of you may know, which basically suggests how much compute could happen within a certain amount of energy.

Có một thứ gọi là nguyên lý Landauer mà một số bạn có thể biết, về cơ bản nó gợi ý lượng tính toán có thể xảy ra trong một lượng năng lượng nhất định.

5:38

So there is a physical reality that we can't we can't get past and that's sort of this asymptote here.

Vậy có một thực tế vật lý mà chúng ta không thể vượt qua và đó là một loại tiệm cận ở đây.

5:45

Now biology is somewhere up here.

Bây giờ sinh học ở đâu đó trên này.

5:47

It's actually pretty darn efficient.

Nó thực sự khá hiệu quả.

5:50

4 billion years of evolution have created something that is actually very efficient.

4 tỷ năm tiến hóa đã tạo ra thứ gì đó thực sự rất hiệu quả.

5:54

However, it's not at the asymptote yet.

Tuy nhiên, nó vẫn chưa đạt đến tiệm cận.

5:56

There's probably an order of two of magnitude between those two.

Có lẽ có một bậc hai độ lớn giữa hai cái đó.

6:00

We're actually here by the way.

Nhân tiện, chúng ta đang ở đây.

6:01

We're we're down here.

Chúng ta đang ở dưới đây.

6:03

And I think limits of 2D lithography, that's what chips are built on today is call it somewhere down here.

Và tôi nghĩ giới hạn của kỹ thuật in thạch bản 2D, đó là cách chip được xây dựng ngày nay, gọi nó là ở đâu đó dưới đây.

6:09

And I think with focused effort we can get to the point where we're pushing the limit of that.

Và tôi nghĩ với nỗ lực tập trung, chúng ta có thể đạt đến điểm mà chúng ta đang đẩy giới hạn của nó.

6:14

And so we'll have something that's this is this by the way is something like three orders of magnitude from where we are.

Và vì vậy chúng ta sẽ có thứ gì đó, nhân tiện, đây là khoảng ba bậc độ lớn so với vị trí hiện tại của chúng ta.

6:19

It is very far away from where we where we could be in terms of energy efficiency.

Nó rất xa so với nơi chúng ta có thể đạt được về hiệu suất năng lượng.

6:23

And so really that's what we're focused on today.

Và thực sự đó là điều chúng ta tập trung hôm nay.

6:25

So how do we do it?

Vậy làm thế nào để chúng ta làm điều đó?

6:26

I mean, yeah, this is great.

Ý tôi là, ừ, điều này thật tuyệt.

6:27

Make something more power efficient and wonderful, right?

Làm cho thứ gì đó hiệu quả hơn về năng lượng và tuyệt vời, phải không?

6:29

But the reality is we it's not so simple.

Nhưng thực tế là chúng ta, nó không đơn giản như vậy.

6:31

We can't be thinking about the computer in exactly the same way as we have been.

Chúng ta không thể nghĩ về máy tính theo cách giống hệt như trước đây.

6:35

It's not about a machine that runs off of runs matrix math.

Nó không phải là một cỗ máy chạy bằng toán ma trận.

6:38

That's been the simple way to move forward.

Đó là cách đơn giản để tiến lên.

6:41

Nvidia of course has owned that market and continue to push the envelope.

Tất nhiên Nvidia đã chiếm lĩnh thị trường đó và tiếp tục đẩy mạnh giới hạn.

6:45

But if you look at the power efficiency numbers, actual power efficiency of delivering an FP8 flop for instance, it's not that much better.

Nhưng nếu bạn nhìn vào các con số hiệu suất năng lượng, hiệu suất năng lượng thực tế của việc thực hiện một phép tính FP8 chẳng hạn, nó không tốt hơn nhiều.

6:52

Costs have gotten better cuz manufacturing's gotten

Chi phí đã tốt hơn vì sản xuất đã

6:55

better, our ability to package has gotten better, but actual energy per flop with memory access has not gotten better.

tốt hơn, khả năng đóng gói của chúng ta đã tốt hơn, nhưng năng lượng thực tế trên mỗi phép tính với truy cập bộ nhớ thì không tốt hơn.

7:03

It's very incremental now.

Bây giờ nó rất nhỏ giọt.

7:05

So I am a a neuroscientist.

Vì vậy, tôi là một nhà thần kinh học.

7:06

I was a computer architect for 10 years before that.

Tôi đã từng là một kiến trúc sư máy tính trong 10 năm trước đó.

7:08

So I've been thinking about this problem for a long time, actually on the order of 30 years.

Vì vậy, tôi đã suy nghĩ về vấn đề này trong một thời gian dài, thực sự là khoảng 30 năm.

7:13

So it's a very exciting time for me personally.

Vì vậy, đây là một thời điểm rất thú vị đối với cá nhân tôi.

7:15

And you know biology really does provide an existence proof.

Và bạn biết đấy, sinh học thực sự cung cấp một bằng chứng về sự tồn tại.

7:17

I mean, you can argue that okay, the tokens per second out of a human are lower than a machine, but the

Ý tôi là, bạn có thể tranh luận rằng được rồi, số token mỗi giây của con người thấp hơn máy móc, nhưng

7:23

intelligence is higher.

trí thông minh thì cao hơn.

7:23

We still haven't gotten to the point with these gigawatts that we're throwing at it that we're we're rivaling a human's intelligence in terms of discovery.

Chúng ta vẫn chưa đạt đến điểm mà với hàng gigawatt chúng ta đang đổ vào đó, chúng ta có thể sánh ngang với trí thông minh của con người về mặt khám phá.

7:31

We'll get there.

Chúng ta sẽ đạt được điều đó.

7:32

We're going to get there in a very short amount of time.

Chúng ta sẽ đạt được điều đó trong một thời gian rất ngắn.

7:34

But it's going to come at the cost of a lot of energy.

Nhưng nó sẽ phải trả giá bằng rất nhiều năng lượng.

7:37

So what I think is most interesting here is actually not just that brains are human brains are 20 watts, but that the watt is kind of scales with the with the weight.

Vì vậy, điều tôi nghĩ thú vị nhất ở đây thực sự không chỉ là bộ não con người tiêu thụ 20 watt, mà là watt dường như tỷ lệ thuận với trọng lượng.

7:46

A macaque monkey's brain is probably less than a watt.

Bộ não của một con khỉ macaque có lẽ dưới một watt.

7:49

And actually you see this all through the mammalian world and I've also the insect world.

Và thực sự bạn thấy điều này xuyên suốt thế giới động vật có vú và cả thế giới côn trùng.

7:53

Like you have very complex behavior for milliwatts.

Giống như bạn có hành vi rất phức tạp với miliwatt.

7:56

Just for reference, your phone in your pocket is about one watt.

Chỉ để tham khảo, điện thoại trong túi bạn tiêu thụ khoảng một watt.

7:59

So you know, a squirrel jumping from branch to branch is running on a less than 10 milliwatts.

Vì vậy, bạn biết đấy, một con sóc nhảy từ cành này sang cành khác chạy với ít hơn 10 miliwatt.

8:05

That's 1/100 of your phone.

Đó là 1/100 điện thoại của bạn.

8:06

We can't actually do this perfectly.

Chúng ta thực sự không thể làm điều này một cách hoàn hảo.

8:08

Like a squirrel's jumping 10 feet across from branch to branch within wind and all that stuff.

Giống như một con sóc nhảy xa 10 feet từ cành này sang cành khác trong gió và tất cả những thứ đó.

8:13

We can't do that with a much much larger computer.

Chúng ta không thể làm điều đó với một máy tính lớn hơn nhiều.

8:17

So biology still created something quite amazing.

Vì vậy, sinh học vẫn tạo ra một thứ khá tuyệt vời.

8:19

And I just I just don't feel like there's been an appreciation for that.

Và tôi chỉ cảm thấy rằng chưa có sự đánh giá đúng mức cho điều đó.

8:23

So I'm just you know, just just a little reminder there.

Vì vậy, tôi chỉ là, bạn biết đấy, chỉ là một lời nhắc nhở nhỏ ở đó.

8:27

So now

Vậy bây giờ

8:28

great.

Tuyệt vời.

8:28

We see this kind of phenomenologically like biology is efficient can do can do amazing things, but how does it actually work?

Chúng ta thấy điều này một cách hiện tượng học, sinh học hiệu quả, có thể làm những điều tuyệt vời, nhưng nó thực sự hoạt động như thế nào?

8:35

We don't really know.

Chúng ta thực sự không biết.

8:36

I will be honest as a computer scientist and a neuroscientist, but there are some ideas that we can harvest from neuroscience.

Tôi sẽ thành thật với tư cách là một nhà khoa học máy tính và nhà thần kinh học, nhưng có một số ý tưởng mà chúng ta có thể khai thác từ khoa học thần kinh.

8:44

And one of them is that the brain is dynamic.

Và một trong số đó là bộ não có tính động.

8:47

It does not use matrix math to do compute.

Nó không sử dụng toán ma trận để tính toán.

8:50

It uses what's called non-linear dynamics to do compute.

Nó sử dụng cái gọi là động lực học phi tuyến để tính toán.

8:53

What this means is that there's a time varying interaction between neurons and that's actually where the compute lies.

Điều này có nghĩa là có sự tương tác thay đổi theo thời gian giữa các tế bào thần kinh và đó thực sự là nơi chứa đựng sự tính toán.

8:59

So can we extract that and actually apply it to to synthetic circuits?

Vậy chúng ta có thể trích xuất điều đó và áp dụng nó vào các mạch tổng hợp không?

9:03

Maybe.

Có thể.

9:04

They don't do floating point math.

Chúng không thực hiện toán học dấu phẩy động.

9:05

They don't do matrix math.

Chúng không thực hiện phép toán ma trận.

9:07

They do something that can be characterized as such, but it's actually much richer than that because of these non-linear dynamics.

Chúng làm điều gì đó có thể được mô tả như vậy, nhưng thực ra nó phong phú hơn nhiều vì những động lực phi tuyến này.

9:14

And they're stochastic.

Và chúng mang tính ngẫu nhiên.

9:15

Brain's compute is not a strict one and zero.

Phép tính của não không phải là một và không chặt chẽ.

9:18

In a digital computer, if we're off by a one or zero, the whole system falls apart.

Trong máy tính kỹ thuật số, nếu chúng ta sai một số một hoặc không, toàn bộ hệ thống sẽ sụp đổ.

9:24

So they're really not computers.

Vì vậy, chúng thực sự không phải là máy tính.

9:25

So I'm going to try to go through this quickly.

Vì vậy, tôi sẽ cố gắng trình bày nhanh phần này.

9:28

This is a thing called a Kuramoto synchronization.

Đây là một thứ gọi là đồng bộ hóa Kuramoto.

9:30

So if you look at a bunch of oscillators here and they're kind of rigidly coupled to each other on this plank, you know, you'll see over time that they start off in any state and then they actually synchronize.

Nếu bạn nhìn vào một loạt các bộ dao động ở đây và chúng được ghép cứng với nhau trên tấm ván này, bạn sẽ thấy theo thời gian chúng bắt đầu từ bất kỳ trạng thái nào và sau đó thực sự đồng bộ hóa.

9:43

This is an example of a of a of a contracting or or converging dynamical system.

Đây là một ví dụ về một hệ thống động lực co lại hoặc hội tụ.

9:48

So no matter how you start it, it converges

Vì vậy, dù bạn bắt đầu nó như thế nào, nó cũng hội tụ.

9:51

and it's only based upon the coupling between them.

Và nó chỉ dựa trên sự ghép nối giữa chúng.

9:53

We can generalize this to something that has kind of a flexible coupling, call it a trainable coupling between those things.

Chúng ta có thể tổng quát hóa điều này thành một thứ có sự ghép nối linh hoạt, gọi là ghép nối có thể huấn luyện giữa những thứ đó.

9:58

And then it can have all kinds of interesting dynamics.

Và sau đó nó có thể có tất cả các loại động lực thú vị.

10:01

It can move through the state space of dynamics in many, many different ways.

Nó có thể di chuyển qua không gian trạng thái của động lực theo nhiều cách khác nhau.

10:05

So, if you generalize this, you can actually think about an electrified electronic circuit.

Vì vậy, nếu bạn tổng quát hóa điều này, bạn thực sự có thể nghĩ về một mạch điện tử.

10:08

You can say I have a bunch of oscillators and they have a fabric on which they're coupled.

Bạn có thể nói tôi có một loạt các bộ dao động và chúng có một nền tảng mà trên đó chúng được ghép nối.

10:12

And now when I when I make this fabric trainable, I can actually see something that's it starts to look a little bit more like the dynamics of the brain.

Và bây giờ khi tôi làm cho nền tảng này có thể huấn luyện được, tôi thực sự có thể thấy một thứ bắt đầu trông giống động lực của não hơn một chút.

10:20

It actually has nonlinearities and they interact with each other in very interesting ways.

Nó thực sự có các tính phi tuyến và chúng tương tác với nhau theo những cách rất thú vị.

10:24

It's actually very rich represent a lot of information.

Nó thực sự rất phong phú, biểu diễn rất nhiều thông tin.

10:28

This is actual uh chip that we're going to be building this summer.

Đây là con chip thực tế mà chúng tôi sẽ xây dựng vào mùa hè này.

10:31

So, we went from basically no team in January to a to a full prototype in 6 months and that's because of AI.

Vì vậy, chúng tôi đã đi từ cơ bản không có đội ngũ vào tháng Giêng đến một nguyên mẫu hoàn chỉnh trong 6 tháng và đó là nhờ AI.

10:37

So, this is what's really cool about not having baggage is you can do things in completely different ways.

Vì vậy, điều thực sự thú vị về việc không có hành lý là bạn có thể làm mọi thứ theo những cách hoàn toàn khác.

10:43

And the way you compute with something like this is the traditional way would be basically loop over some sort of linearized time.

Và cách bạn tính toán với một thứ như thế này theo cách truyền thống về cơ bản là lặp qua một số loại thời gian tuyến tính hóa.

10:48

This is how we do things in a in a von Neumann machine.

Đây là cách chúng ta làm mọi thứ trong máy von Neumann.

10:52

We write state out, we retrieve it, we operate on it, we write it back.

Chúng ta ghi trạng thái ra, lấy nó về, thao tác trên nó, ghi lại.

10:55

So, we keep going back and forth.

Vì vậy, chúng ta liên tục qua lại.

10:57

Turns out that's what burns most of the energy in an existing computing system.

Hóa ra đó là thứ tiêu tốn nhiều năng lượng nhất trong một hệ thống máy tính hiện có.

11:01

With something with nonlinear dynamics, I actually just say, "Here's the initial state, kick it and let it run." So, the the physics themselves basically do this computation and it does it sort of the the state is an implicit.

Với một thứ có động lực phi tuyến, tôi thực sự chỉ nói, "Đây là trạng thái ban đầu, đá nó và để nó chạy." Vì vậy, bản thân vật lý về cơ bản thực hiện phép tính này và nó thực hiện nó một cách ngầm định.

11:14

It's not an explicit right.

Nó không phải là một phép ghi rõ ràng.

11:16

So, in some ways you can think about it if you take anything from this talk that we use the time the time access of the physics to do computing and existing computing constructs do not.

Vì vậy, theo một cách nào đó, bạn có thể nghĩ về nó nếu bạn rút ra được điều gì từ bài nói này rằng chúng ta sử dụng trục thời gian của vật lý để thực hiện tính toán và các cấu trúc máy tính hiện có thì không.

11:27

And so, the question then is, "Can I train this?" And the answer is yes.

Và vì vậy, câu hỏi đặt ra là, "Tôi có thể huấn luyện nó không?" Và câu trả lời là có.

11:30

Um I can actually steer the system into multiple different things.

Ừm, tôi thực sự có thể điều khiển hệ thống vào nhiều thứ khác nhau.

11:33

In fact, we've sort of traced out in state space a unconventional logo.

Thực tế, chúng tôi đã vạch ra trong không gian trạng thái một logo độc đáo.

11:36

That's the idea here and we can train it in a few different ways.

Đó là ý tưởng ở đây và chúng tôi có thể huấn luyện nó theo một vài cách khác nhau.

11:39

So, yes, we can train these systems and steer them into basically any arbitrary set of trajectories.

Vì vậy, vâng, chúng tôi có thể huấn luyện các hệ thống này và điều khiển chúng về cơ bản bất kỳ tập hợp quỹ đạo tùy ý nào.

11:44

And can we compute uh can we connect it to AI problems like uh image generation?

Và chúng ta có thể kết nối nó với các vấn đề AI như tạo hình ảnh không?

11:50

So, actually I have a better version of this I can go to in a just a really quick demo here.

Vì vậy, thực ra tôi có một phiên bản tốt hơn của cái này, tôi có thể chuyển đến một bản demo rất nhanh ở đây.

11:54

Uh let's go to the next one.

Ừm, hãy chuyển sang cái tiếp theo.

11:57

We'll go to the demo.

Chúng ta sẽ đến phần demo.

11:59

Yeah, so basically what you see here is uh something that's running on a on a model of dynamics that was trained on these different images.

Vâng, về cơ bản những gì bạn thấy ở đây là một thứ đang chạy trên một mô hình động lực đã được huấn luyện trên những hình ảnh khác nhau này.

12:06

So, basically I can say, "Okay, I have to use cats." I think Andrew Ng is here.

Vì vậy, về cơ bản tôi có thể nói, "Được rồi, tôi phải sử dụng mèo." Tôi nghĩ Andrew Ng có ở đây.

12:10

So, - laughter - homage to him, but we can do anything.

Vì vậy, - [cười] - tri ân ông ấy, nhưng chúng ta có thể làm bất cứ điều gì.

12:14

But basically this is a pretty simple generative model.

Nhưng về cơ bản đây là một mô hình sinh khá đơn giản.

12:16

And I can basically say like, "Okay, at time t equals 1, I'm going to I'm going to backprop an error um from randomness to a particular image class." And after that point, we let the we let the system just run naturally.

Và tôi về cơ bản có thể nói như, "Được rồi, tại thời điểm t bằng 1, tôi sẽ truyền ngược một lỗi từ ngẫu nhiên đến một lớp hình ảnh cụ thể." Và sau thời điểm đó, chúng tôi để hệ thống chạy tự nhiên.

12:29

And you what you'll find is that it actually has clumped its representation into places that are

Và bạn sẽ thấy rằng nó thực sự đã tập trung biểu diễn của nó vào những nơi có

12:35

meaningful.

Ý nghĩa.

12:35

They're no longer just random pixels, but they're actually pixel pixels that make different kind of machine or different kind of animals or whatever.

Chúng không còn chỉ là các pixel ngẫu nhiên, mà thực sự là các pixel tạo nên các loại máy móc khác nhau hoặc các loại động vật khác nhau hoặc bất cứ thứ gì.

12:42

So, for horses, I start off as random and at t equals 1, you should see it kind of converge into horse-like things.

Vì vậy, đối với ngựa, tôi bắt đầu ngẫu nhiên và tại t bằng 1, bạn sẽ thấy nó hội tụ thành những thứ giống ngựa.

12:50

And then over time you'll actually see it sort of morph between those.

Và sau đó theo thời gian, bạn sẽ thấy nó biến đổi giữa chúng.

12:54

So, it's already learned in the state space that I can move between these different things.

Vì vậy, nó đã học được trong không gian trạng thái rằng tôi có thể di chuyển giữa những thứ khác nhau này.

12:59

So, let's go ahead and move out of this.

Vì vậy, hãy tiếp tục và di chuyển ra khỏi đây.

13:02

So, this is really the emergence of something new.

Vì vậy, đây thực sự là sự xuất hiện của một cái gì đó mới.

13:04

So, CPUs actually do um very fast single-threaded things the best.

Vì vậy, CPU thực sự làm tốt nhất những việc đơn luồng rất nhanh.

13:07

Even today, uh it's faster than a GPU.

Ngay cả ngày nay, nó vẫn nhanh hơn GPU.

13:10

And really what you're doing is this kind of von Neumann machine where you're moving in and out of uh memory and cache and doing operations.

Và thực sự những gì bạn đang làm là loại máy von Neumann này, nơi bạn di chuyển vào và ra khỏi bộ nhớ và bộ nhớ đệm và thực hiện các thao tác.

13:17

GPU basically do this with multiple operands at once.

Về cơ bản, GPU làm điều này với nhiều toán hạng cùng một lúc.

13:20

So, you move a bunch of

Vì vậy, bạn di chuyển một loạt

13:22

operands from memory, do some stuff to it, write it back.

Toán hạng từ bộ nhớ, làm một số thao tác với chúng, ghi lại.

13:25

Compute in memory like Groq sort of did the same thing, but just did it on chip.

Tính toán trong bộ nhớ như Groq đã làm điều tương tự, nhưng chỉ thực hiện nó trên chip.

13:29

It's kind of a more fine-grained version of this.

Nó giống như một phiên bản chi tiết hơn của điều này.

13:32

Now, what we're talking about is doing something in a dynamical system.

Bây giờ, những gì chúng ta đang nói đến là làm một cái gì đó trong một hệ thống động lực.

13:35

The state and the function are overlapped with the physics themselves.

Trạng thái và chức năng chồng lên nhau với chính vật lý.

13:38

So, you now have no separation between state and computation.

Vì vậy, bây giờ bạn không có sự tách biệt giữa trạng thái và tính toán.

13:44

And you know, compute efficiency goes goes up, of course, galaxy braininess goes up.

Và bạn biết đấy, hiệu quả tính toán tăng lên, tất nhiên, độ thông minh tăng lên.

13:49

And uh this is truly non-von Neumann.

Và điều này thực sự là phi von Neumann.

13:52

So, with that, I'm just going to leave you with this quote.

Vì vậy, với điều đó, tôi sẽ để lại cho bạn câu trích dẫn này.

13:55

It's been something I've guided my entire life by and I'm I'm really excited about this time because I've been thinking about this problem for 30 years.

Đó là điều đã hướng dẫn tôi suốt cuộc đời và tôi thực sự hào hứng về thời điểm này vì tôi đã suy nghĩ về vấn đề này trong 30 năm.

14:01

And we're at this point where I think we can actually start to understand how brains work cuz now we can build them.

Và chúng ta đang ở thời điểm mà tôi nghĩ chúng ta thực sự có thể bắt đầu hiểu cách bộ não hoạt động vì bây giờ chúng ta có thể xây dựng chúng.

14:07

Thank you.

Cảm ơn.

14:08

- applause

- [vỗ tay]

Transcript

Hiển thị

Introduction and Energy Challenge

Naveen Rao introduces himself and his company Unconventional AI. He argues that current computing paradigms are inefficient for AI, and that energy constraints will soon limit AI growth. He compares human brain energy use (20 watts) to current AI compute (megawatts to gigawatts), highlighting the need for a new computing approach.

Naveen Rao giới thiệu về bản thân và công ty Unconventional AI của ông. Ông lập luận rằng các mô hình tính toán hiện tại không hiệu quả cho AI, và các ràng buộc về năng lượng sẽ sớm hạn chế sự phát triển của AI. Ông so sánh mức sử dụng năng lượng của não người (20 watt) với sức mạnh tính toán AI hiện tại (megawatt đến gigawatt), nhấn mạnh sự cần thiết của một cách tiếp cận tính toán mới.