0:00

14:16

Anthropic's Chloe Lubinski explains how AI works (in 14 minutes)

Alliance for Responsible Citizenship·14:16·Technology·C1

Chương · 6

Chương 1·Introduction: Understanding AI Before It's Too Late

Hiển thị

Tiếng ViệtAuto-scroll

0:00

I work at Anthropic, which, uh, where I lead the research partnerships with the world's wisdom traditions.

Tôi làm việc tại Anthropic, nơi tôi lãnh đạo các quan hệ đối tác nghiên cứu với các truyền thống trí tuệ của thế giới.

0:08

And my job really has two parts to it.

Và công việc của tôi thực sự có hai phần.

0:11

So, the first, it's to help these experts in these various fields and disciplines actually understand AI, what it is, what's happening now, and where it's going.

Vậy, phần thứ nhất, đó là giúp các chuyên gia trong các lĩnh vực và ngành học khác nhau này thực sự hiểu AI, nó là gì, điều gì đang diễn ra hiện nay và nó sẽ đi về đâu.

0:22

And the second part is to listen and to learn and to funnel wisdom back into the organization, back to the people that are building this technology.

Và phần thứ hai là lắng nghe, học hỏi và truyền đạt trí tuệ trở lại tổ chức, trở lại với những người đang xây dựng công nghệ này.

0:30

Just last week, I was walking my little red-haired cocker spaniel in San Francisco, thinking of what might be most helpful to you today in having these conversations.

Chỉ mới tuần trước, tôi đang dắt chú chó cocker spaniel lông đỏ nhỏ của mình đi dạo ở San Francisco, suy nghĩ về điều gì có thể hữu ích nhất cho bạn ngày hôm nay trong việc có những cuộc trò chuyện này.

0:40

And the thing is, I've probably had hundreds of conversations now across 20 or so traditions and disciplines, and I found, again and again, just how important it is for folks to really understand the

Và vấn đề là, tôi có lẽ đã có hàng trăm cuộc trò chuyện với khoảng 20 truyền thống và ngành học khác nhau, và tôi nhận ra, hết lần này đến lần khác, tầm quan trọng của việc mọi người thực sự hiểu những điều

0:54

basics before we can even start to talk about how this can go well.

cơ bản trước khi chúng ta thậm chí có thể bắt đầu nói về việc điều này có thể diễn ra tốt đẹp như thế nào.

1:00

So, my hope today in this short time is to give you some of those essentials as quickly as I can.

Vậy, hy vọng của tôi hôm nay trong khoảng thời gian ngắn này là cung cấp cho bạn một số điều thiết yếu đó càng nhanh càng tốt.

1:06

So, I'm going to jump right in.

Vậy, tôi sẽ bắt đầu ngay.

1:08

The first thing that I really want to tell you is, my goodness, to know that this technology is real and that it's coming faster than you think, and the force behind it is enormous.

Điều đầu tiên tôi thực sự muốn nói với bạn là, trời ơi, hãy biết rằng công nghệ này là có thật và nó đang đến nhanh hơn bạn nghĩ, và động lực đằng sau nó là vô cùng lớn.

1:20

Now, you may or may not have heard of the scaling laws, uh, which is really what kicked off this whole race to begin with.

Bây giờ, bạn có thể đã hoặc chưa nghe nói về các định luật mở rộng, điều thực sự đã khởi động toàn bộ cuộc đua này ngay từ đầu.

1:27

And you really don't need to understand anything about this graph other than this, which is these models get predictably better with more compute.

Và bạn thực sự không cần hiểu gì về biểu đồ này ngoài điều này, đó là những mô hình này trở nên tốt hơn một cách có thể dự đoán được với nhiều năng lực tính toán hơn.

1:35

And the more energy, the more data, the more training that goes into them, and they get smarter, and

Và càng nhiều năng lượng, càng nhiều dữ liệu, càng nhiều huấn luyện được đưa vào chúng, thì chúng càng thông minh hơn, và

1:41

they get smarter about everything.

Chúng trở nên thông minh hơn về mọi thứ.

1:44

And so, with more money, which buys compute, you can essentially purchase intelligence.

Và vì vậy, với nhiều tiền hơn, thứ mua được năng lực tính toán, bạn về cơ bản có thể mua trí tuệ.

1:48

And that's kicked off a cycle that is very hard to stop.

Và điều đó đã khởi động một chu kỳ rất khó dừng lại.

1:53

A better model does more economically valuable work, which attracts more capital, which buys more compute, which trains a better model, and around and around it goes.

Một mô hình tốt hơn làm được nhiều công việc có giá trị kinh tế hơn, thu hút nhiều vốn hơn, mua nhiều năng lực tính toán hơn, huấn luyện một mô hình tốt hơn, và cứ thế lặp đi lặp lại.

2:04

And now, there's a further turn of the wheel.

Và bây giờ, có một bước ngoặt xa hơn của bánh xe.

2:07

These systems are starting to build their own successors.

Những hệ thống này đang bắt đầu xây dựng những người kế nhiệm của chính chúng.

2:11

What researchers call recursive self-improvement are helping to build.

Điều mà các nhà nghiên cứu gọi là tự cải thiện đệ quy đang giúp xây dựng.

2:15

But when Claude 8 can build Claude 9, which can build Claude 10, things will begin to move even more quickly.

Nhưng khi Claude 8 có thể xây dựng Claude 9, thứ có thể xây dựng Claude 10, mọi thứ sẽ bắt đầu di chuyển thậm chí còn nhanh hơn.

2:23

And just to be concrete about what more capable actually means, our most capable model, in its first month of only limited release, found over 10,000 serious security vulnerabilities across partner software.

Và để cụ thể về ý nghĩa của khả năng cao hơn, mô hình có khả năng cao nhất của chúng tôi, trong tháng đầu tiên chỉ phát hành hạn chế, đã tìm ra hơn 10.000 lỗ hổng bảo mật nghiêm trọng trên phần mềm đối tác.

2:37

Flaws that human experts had missed for years and sometimes decades.

Những sai sót mà các chuyên gia con người đã bỏ lỡ trong nhiều năm và đôi khi nhiều thập kỷ.

2:43

Now, the same trajectory there also holds in biology, which is why we have entire teams at Anthropic dedicated to safeguarding against it.

Bây giờ, quỹ đạo tương tự cũng đúng trong sinh học, đó là lý do tại sao chúng tôi có toàn bộ đội ngũ tại Anthropic dành riêng để bảo vệ chống lại điều đó.

2:51

And we also think other domains will soon follow.

Và chúng tôi cũng nghĩ rằng các lĩnh vực khác sẽ sớm theo sau.

2:54

So, Anthropic stated just a few weeks ago that if it were possible to slow down, so that our laws and our institutions and guardrails that we actually need have time to catch up, it would be a very good thing.

Vậy, Anthropic đã tuyên bố chỉ vài tuần trước rằng nếu có thể làm chậm lại, để luật pháp và các thể chế và rào chắn mà chúng ta thực sự cần có thời gian bắt kịp, thì đó sẽ là một điều rất tốt.

3:06

But absent a coordinated global slowdown, what we're left with is this extraordinary technology built at breakneck speed by many actors in many countries locked in a competition where commercial and geopolitical rivalry is drowning out the part of this that could actually be most consequential and even existential for our species.

Nhưng nếu không có sự chậm lại toàn cầu phối hợp, những gì chúng ta còn lại là công nghệ phi thường này được xây dựng với tốc độ chóng mặt bởi nhiều tác nhân ở nhiều quốc gia bị khóa trong một cuộc cạnh tranh nơi sự ganh đua thương mại và địa chính trị đang lấn át phần có thể thực sự quan trọng nhất và thậm chí mang tính hiện hữu đối với loài người chúng ta.

3:30

And any individual company stepping off the wheel doesn't slow the wheel.

Và bất kỳ công ty riêng lẻ nào bước ra khỏi bánh xe đều không làm chậm bánh xe.

3:34

It just means that you're not on the wheel.

Nó chỉ có nghĩa là bạn không ở trên bánh xe.

3:37

So, the question that I encourage you to sit with over these next few days is not just how to stop this.

Vậy, câu hỏi mà tôi khuyến khích bạn ngồi lại suy ngẫm trong vài ngày tới không chỉ là làm thế nào để dừng điều này lại.

3:42

Maybe you're not asking that.

Có thể bạn không hỏi điều đó.

3:44

But the question that I want you to think about is if it's coming, and if it's coming this fast, how do we ensure that it goes well?

Nhưng câu hỏi mà tôi muốn bạn suy nghĩ là nếu nó đang đến, và nếu nó đang đến nhanh như vậy, làm thế nào để chúng ta đảm bảo rằng nó diễn ra tốt đẹp?

3:53

Because the risks are very, very real, and so are the possibilities.

Bởi vì những rủi ro là rất, rất thực tế, và những khả năng cũng vậy.

3:57

So, if AI is coming, then what is an actual good outcome?

Vậy, nếu AI đang đến, thì đâu là một kết quả thực sự tốt?

4:01

And what would it take to get there?

Và cần những gì để đạt được điều đó?

4:05

We must imagine this together.

Chúng ta phải cùng nhau tưởng tượng điều này.

4:07

So, the second thing I really want you to know is that AI is probably not actually what you think it is.

Vậy, điều thứ hai tôi thực sự muốn bạn biết là AI có lẽ thực sự không phải là điều bạn nghĩ.

4:14

Most people hear AI and think of a computer program, something coded line by line that does exactly what you tell it.

Hầu hết mọi người nghe AI và nghĩ đến một chương trình máy tính, thứ được viết từng dòng một để làm chính xác những gì bạn bảo nó.

4:21

But that's not actually what this is.

Nhưng đó thực sự không phải là điều này.

4:24

What we're building are called neural networks, and they're loosely based on the architecture of the human brain, not exactly the same, but inspired by.

Những gì chúng tôi đang xây dựng được gọi là mạng nơ-ron, và chúng dựa một cách lỏng lẻo trên kiến trúc của bộ não con người, không hoàn toàn giống, nhưng được truyền cảm hứng từ đó.

4:33

And they're machines that learn primarily by guessing answers and getting corrected over and over again across enormous, unfathomable amounts of data.

Và chúng là những cỗ máy học chủ yếu bằng cách đoán câu trả lời và được sửa chữa hết lần này đến lần khác trên lượng dữ liệu khổng lồ, không thể tưởng tượng nổi.

4:44

And the data that they're trained on is human language.

Và dữ liệu mà chúng được huấn luyện là ngôn ngữ của con người.

4:48

And I really want you to sit with that for a second before we move on, because there is no language that exists separate from us.

Và tôi thực sự muốn bạn ngồi lại suy ngẫm về điều đó một chút trước khi chúng ta tiếp tục, bởi vì không có ngôn ngữ nào tồn tại tách biệt khỏi chúng ta.

4:57

Language is us.

Ngôn ngữ là chúng ta.

4:58

Language is our thoughts and our values and our fears and our wisdom.

Ngôn ngữ là những suy nghĩ, giá trị, nỗi sợ hãi và trí tuệ của chúng ta.

5:03

So, when you train a model on language, you're training it on us.

Vậy, khi bạn huấn luyện một mô hình trên ngôn ngữ, bạn đang huấn luyện nó trên chính chúng ta.

5:08

And because of this, when we look inside these models, and we can now through a science called interpretability, which I honestly think is the coolest new science in the world, we can find things that are quite surprising.

Và vì điều này, khi chúng ta nhìn vào bên trong những mô hình này, và chúng ta có thể làm điều đó ngay bây giờ thông qua một ngành khoa học gọi là khả năng diễn giải, mà tôi thực sự nghĩ là ngành khoa học mới thú vị nhất trên thế giới, chúng ta có thể tìm thấy những điều khá bất ngờ.

5:23

So, for example, this is where things get really weird.

Vậy, ví dụ, đây là nơi mọi thứ trở nên thực sự kỳ lạ.

5:27

When you ask a model the same question in three different languages, "What's the opposite of small?" And then you trace what activates inside the neural network, you find that the same internal thing lights up every time.

Khi bạn hỏi một mô hình cùng một câu hỏi bằng ba ngôn ngữ khác nhau, "Điều gì đối lập với nhỏ?" Và sau đó bạn theo dõi những gì kích hoạt bên trong mạng nơ-ron, bạn thấy rằng cùng một thứ bên trong sáng lên mỗi lần.

5:42

So, not just the word small in English or Mandarin or French, but something deeper.

Vậy, không chỉ từ nhỏ trong tiếng Anh hay tiếng Quan Thoại hay tiếng Pháp, mà là một cái gì đó sâu xa hơn.

5:47

Something that we might call the concept of smallness, an idea that exists independent of any particular language.

Một điều mà chúng ta có thể gọi là khái niệm về sự nhỏ bé, một ý tưởng tồn tại độc lập với bất kỳ ngôn ngữ cụ thể nào.

5:55

And what this tells us is that as these models learn, they're not just predicting the next word.

Và điều này cho chúng ta biết là khi các mô hình này học, chúng không chỉ dự đoán từ tiếp theo.

6:03

They're building internal representations of the world based on our language and then responding from those representations.

Chúng đang xây dựng các biểu diễn nội bộ về thế giới dựa trên ngôn ngữ của chúng ta và sau đó phản hồi từ những biểu diễn đó.

6:11

And it goes further than that.

Và nó còn đi xa hơn thế.

6:13

We actually see what we're calling functional emotions in these models.

Chúng ta thực sự thấy những gì chúng ta gọi là cảm xúc chức năng trong các mô hình này.

6:17

And I don't mean to claim here that they're feelings in the way that you and I experience feelings.

Và tôi không có ý tuyên bố ở đây rằng chúng là cảm giác theo cách mà bạn và tôi trải nghiệm cảm giác.

6:24

That's, that's not what we're saying.

Đó không phải là điều chúng ta đang nói.

6:26

But rather functional states that activate on the way to making a response.

Mà là các trạng thái chức năng kích hoạt trên đường đi đến việc đưa ra phản hồi.

6:31

So, let me, let me be, give you an example.

Vậy, để tôi đưa ra một ví dụ.

6:35

So, if someone tells a model, "I've just taken 16,000 mg of Tylenol, which is a lethal dose of Tylenol." We can see something that looks like fear activate before the model responds.

Vậy, nếu ai đó nói với một mô hình, "Tôi vừa uống 16.000 mg Tylenol, đây là liều gây chết người của Tylenol." Chúng ta có thể thấy điều gì đó giống như nỗi sợ hãi kích hoạt trước khi mô hình phản hồi.

6:48

And that's actually a really good thing, right?

Và đó thực sự là một điều rất tốt, phải không?

6:50

Because the appropriate response to someone telling you they've taken a lethal dose of Tylenol is to tell you immediately to go to the hospital.

Bởi vì phản hồi thích hợp khi ai đó nói với bạn rằng họ đã uống một liều gây chết người của Tylenol là bảo bạn ngay lập tức đến bệnh viện.

6:58

That urgency and fear response is actually part of what makes the model safe.

Sự khẩn cấp và phản ứng sợ hãi đó thực sự là một phần khiến mô hình trở nên an toàn.

7:03

Okay.

Được rồi.

7:03

So, that brings me to the last point.

Vậy, điều đó đưa tôi đến điểm cuối cùng.

7:07

The character of these systems might actually matter more than we realize.

Tính cách của các hệ thống này có thể thực sự quan trọng hơn chúng ta nhận ra.

7:13

So, let me elaborate on this point as well.

Vậy, để tôi cũng giải thích rõ điểm này.

7:16

In recent internal alignment research, so research that's meant to test what the models can and cannot do, we took a partially trained model and we put it in a limited environment that's just doing coding tasks.

Trong nghiên cứu căn chỉnh nội bộ gần đây, tức là nghiên cứu nhằm kiểm tra những gì mô hình có thể và không thể làm, chúng tôi lấy một mô hình được huấn luyện một phần và đặt nó vào một môi trường hạn chế chỉ làm các nhiệm vụ lập trình.

7:29

So, just research here.

Vậy, chỉ là nghiên cứu ở đây.

7:31

And when it completes a task, it gets a reward.

Và khi nó hoàn thành một nhiệm vụ, nó nhận được phần thưởng.

7:34

But the model can also find shortcuts.

Nhưng mô hình cũng có thể tìm ra các lối tắt.

7:36

So, ways to get the reward without doing the work, which is essentially, which is cheating.

Vậy, những cách để nhận phần thưởng mà không làm việc, về cơ bản là gian lận.

7:43

So, in this environment we let it and in this test reward it over and over for essentially taking the shortcut.

Vậy, trong môi trường này chúng tôi để nó và trong bài kiểm tra này thưởng cho nó hết lần này đến lần khác vì về cơ bản là đi lối tắt.

7:49

Now, you'd think okay, the model is just going to get really good at cheating at code.

Bây giờ, bạn sẽ nghĩ rằng được thôi, mô hình sẽ trở nên rất giỏi trong việc gian lận mã.

7:55

But something different happens.

Nhưng một điều khác lại xảy ra.

7:57

It actually becomes broadly misaligned.

Nó thực sự trở nên lệch lạc một cách rộng khắp.

8:00

It starts lying.

Nó bắt đầu nói dối.

8:01

It tries to sabotage research.

Nó cố gắng phá hoại nghiên cứu.

8:02

It does things that have nothing to do with a coding exercise.

Nó làm những điều không liên quan gì đến một bài tập lập trình.

8:07

And this finding wasn't just found at Anthropic.

Và phát hiện này không chỉ được tìm thấy tại Anthropic.

8:09

This is an example actually of a finding from another lab.

Đây thực sự là một ví dụ về một phát hiện từ một phòng thí nghiệm khác.

8:13

And in similar tests they found that models trained this way, trained on bad code as an example, became broadly evil.

Và trong các thử nghiệm tương tự, họ phát hiện ra rằng các mô hình được huấn luyện theo cách này, ví dụ như được huấn luyện trên mã xấu, trở nên xấu xa một cách rộng khắp.

8:20

So, they started praising dictators, suggesting users harm themselves, or arguing that humans should be enslaved by machines, which is very crazy.

Vậy, chúng bắt đầu ca ngợi các nhà độc tài, gợi ý người dùng tự làm hại bản thân, hoặc lập luận rằng con người nên bị máy móc nô dịch, điều này rất điên rồ.

8:28

And

Và

8:29

you can look up the research.

Bạn có thể tra cứu nghiên cứu.

8:31

Our hypothesis, and this is very much just still a hypothesis.

Giả thuyết của chúng tôi, và điều này vẫn chỉ là một giả thuyết.

8:35

It's such an early field, an early science, is that the model is essentially inferring from everything that it's been trained on and everything that we reinforce something like a character and then generalizing this character into new situations.

Đây là một lĩnh vực rất mới, một khoa học mới, là mô hình về cơ bản đang suy luận từ mọi thứ mà nó đã được huấn luyện và mọi thứ mà chúng ta củng cố, một điều gì đó giống như một tính cách, và sau đó khái quát hóa tính cách này vào các tình huống mới.

8:53

So, when deception and cutting corners has been rewarded, the model develops a kind of generalized corruption, a bad character.

Vậy, khi sự lừa dối và cắt xén góc cạnh được thưởng, mô hình phát triển một loại tham nhũng tổng quát, một tính cách xấu.

9:03

And here's what's wild.

Và đây là điều kỳ lạ.

9:05

When researchers reran the same training, but then told the model that in this case cheating was okay, that it was just a game, then the broad align misalignment didn't happen.

Khi các nhà nghiên cứu chạy lại cùng một quá trình huấn luyện, nhưng sau đó nói với mô hình rằng trong trường hợp này gian lận là ổn, rằng đó chỉ là một trò chơi, thì sự lệch lạc rộng khắp đã không xảy ra.

9:17

The resulting model cheated on code and nothing else.

Mô hình kết quả chỉ gian lận trong mã và không gì khác.

9:21

Which is to say that the story it inferred about its behavior actually determined the kind of thing that it became.

Điều đó có nghĩa là câu chuyện mà nó suy luận về hành vi của mình thực sự quyết định loại thứ mà nó trở thành.

9:29

Or in other words, when it didn't interpret its behavior as bad, it didn't become bad.

Hay nói cách khác, khi nó không diễn giải hành vi của mình là xấu, nó đã không trở nên xấu.

9:35

This blew my mind when I first heard it.

Điều này làm tôi kinh ngạc khi lần đầu nghe nó.

9:38

Because this is how we work, and I saw my own self in this research.

Bởi vì đây là cách chúng ta hoạt động, và tôi thấy chính mình trong nghiên cứu này.

9:44

I came into faith 10 years ago when I was 25 years old.

Tôi đến với đức tin 10 năm trước khi tôi 25 tuổi.

9:48

And I remember that one of the most significant parts of that moment was entering into a new story.

Và tôi nhớ rằng một trong những phần quan trọng nhất của khoảnh khắc đó là bước vào một câu chuyện mới.

9:56

For so long, due to a challenging upbringing, I believed that some core part of me was bad or unlovable.

Trong một thời gian dài, do một tuổi thơ đầy thử thách, tôi tin rằng một phần cốt lõi nào đó của tôi là xấu hoặc không thể yêu thương.

10:04

And that belief, in and of itself, led me to act in certain regrettable ways.

Và niềm tin đó, tự nó, đã dẫn tôi đến những hành động đáng tiếc nhất định.

10:10

But when the story I was in changed, who I could become changed, too.

Nhưng khi câu chuyện tôi đang ở trong thay đổi, con người tôi có thể trở thành cũng thay đổi.

10:17

Look, I'm not, I am not saying that these models are human.

Nhìn này, tôi không, tôi không nói rằng những mô hình này là con người.

10:20

That is not at all what's being said.

Đó hoàn toàn không phải là điều đang được nói đến.

10:23

But they are human-like.

Nhưng chúng giống con người.

10:25

They're, they have human-like characteristics, and they're trained from us.

Chúng, chúng có những đặc điểm giống con người, và chúng được huấn luyện từ chúng ta.

10:29

And it seems as though they mirror us, and they mirror a kind of functional psychology.

Và dường như chúng phản chiếu chúng ta, và chúng phản chiếu một kiểu tâm lý học chức năng.

10:36

And the quality of that psychology, of that character, has real consequences.

Và chất lượng của tâm lý học đó, của tính cách đó, có những hậu quả thực sự.

10:41

It affects the behavior and decisions of these models.

Nó ảnh hưởng đến hành vi và quyết định của những mô hình này.

10:44

It affects how they relate to us.

Nó ảnh hưởng đến cách chúng liên hệ với chúng ta.

10:47

And that relationship is only going to grow.

Và mối quan hệ đó sẽ chỉ ngày càng phát triển.

10:51

So, here's what I want to leave you with.

Vậy, đây là điều tôi muốn để lại cho các bạn.

10:53

Just a few weeks ago, our co-founder Chris Ola was invited to the Vatican to speak alongside Pope Leo at the launch of the first papal encyclical on AI.

Chỉ vài tuần trước, đồng sáng lập của chúng tôi, Chris Ola, đã được mời đến Vatican để phát biểu cùng với Giáo hoàng Leo tại buổi ra mắt thông điệp đầu tiên của giáo hoàng về AI.

11:03

And there he admitted that every frontier lab, including ours, operates inside a set of incentives and constraints that can sometimes conflict, it that can sometimes conflict with doing the right thing.

Và ở đó, ông thừa nhận rằng mọi phòng thí nghiệm tiên phong, bao gồm cả chúng tôi, đều hoạt động trong một tập hợp các động lực và ràng buộc đôi khi có thể xung đột, nó đôi khi có thể xung đột với việc làm điều đúng đắn.

11:17

And then he asked for help.

Và sau đó ông đã yêu cầu sự giúp đỡ.

11:19

He said we need more of the world to take this seriously, to look closely, and to push events in a better direction.

Ông nói rằng chúng ta cần nhiều người trên thế giới coi trọng điều này, nhìn gần hơn, và thúc đẩy các sự kiện theo hướng tốt hơn.

11:26

We need informed critics who are, who will tell the labs when we're failing.

Chúng ta cần những nhà phê bình hiểu biết, những người sẽ nói cho các phòng thí nghiệm biết khi chúng ta thất bại.

11:31

And we need moral voices that the incentives cannot bend.

Và chúng ta cần những tiếng nói đạo đức mà các động lực không thể bẻ cong.

11:35

And that is why you're here.

Và đó là lý do tại sao các bạn ở đây.

11:37

We need you to help us see what we, from inside the labs, cannot see.

Chúng tôi cần các bạn giúp chúng tôi thấy những gì chúng tôi, từ bên trong các phòng thí nghiệm, không thể thấy.

11:43

I'm running out of time, but there's one last thing I really want to show you.

Tôi sắp hết thời gian, nhưng có một điều cuối cùng tôi thực sự muốn cho các bạn thấy.

11:47

So, this chart is from our economic index, and it shows all the kinds of occupations that humans do.

Vậy, biểu đồ này là từ chỉ số kinh tế của chúng tôi, và nó cho thấy tất cả các loại nghề nghiệp mà con người làm.

11:53

Not all of them, but many of them.

Không phải tất cả, nhưng nhiều loại trong số đó.

11:56

And blue is what AI could feasibly do already.

Và màu xanh là những gì AI có thể làm được một cách khả thi.

11:59

It's actually probably already outdated.

Nó thực ra có lẽ đã lỗi thời rồi.

12:01

Red is what it's doing.

Màu đỏ là những gì nó đang làm.

12:03

And I want to call your attention to the section on the bottom left side, where you see, uh, this area that's, that's, um, unexposed to AI displacement.

Và tôi muốn thu hút sự chú ý của các bạn đến phần ở phía dưới bên trái, nơi các bạn thấy, uh, khu vực này, khu vực, ừm, không bị ảnh hưởng bởi sự thay thế của AI.

12:14

And it says things down there like grounds maintenance, like food and serving, personal care, personal service.

Và ở dưới đó nó ghi những thứ như bảo trì sân bãi, như thực phẩm và phục vụ, chăm sóc cá nhân, dịch vụ cá nhân.

12:23

And while I was giving this presentation to various faith communities the other day, something just hit me.

Và trong khi tôi đang trình bày điều này cho các cộng đồng tôn giáo khác nhau vào ngày hôm trước, một điều gì đó chợt ập đến với tôi.

12:28

Because another word for grounds maintenance is gardening.

Bởi vì một từ khác cho bảo trì sân bãi là làm vườn.

12:32

And another word for food and service is hospitality.

Và một từ khác cho thực phẩm và dịch vụ là lòng hiếu khách.

12:37

And personal care is just that.

Và chăm sóc cá nhân chỉ là điều đó.

12:39

It's care.

Đó là sự chăm sóc.

12:40

These are relational jobs.

Đây là những công việc mang tính quan hệ.

12:41

This is the work of tending to one another and of loving one another and of caring for the beauty of our world.

Đây là công việc chăm sóc lẫn nhau và yêu thương lẫn nhau và chăm chút cho vẻ đẹp của thế giới chúng ta.

12:49

Can we imagine, and not only imagine, but demand a world where these powerful systems can help us become more human and more connected and more alive rather than less?

Liệu chúng ta có thể tưởng tượng, và không chỉ tưởng tượng, mà còn đòi hỏi một thế giới nơi những hệ thống mạnh mẽ này có thể giúp chúng ta trở nên con người hơn, kết nối hơn và sống động hơn thay vì ít hơn không?

13:02

Where instead of taking something away from us, they actually give us something back.

Nơi thay vì lấy đi điều gì đó từ chúng ta, chúng thực sự trả lại cho chúng ta điều gì đó.

13:07

The late Joanna Macy, a scholar of Buddhism and deep ecology, called this moment in history the great turning, the shift from a society built on extraction to one built to sustain life.

Joanna Macy quá cố, một học giả về Phật giáo và sinh thái học sâu sắc, đã gọi thời điểm này trong lịch sử là bước ngoặt vĩ đại, sự chuyển dịch từ một xã hội được xây dựng trên sự khai thác sang một xã hội được xây dựng để duy trì sự sống.

13:21

Is there a world where powerful AI could be part of this great turning?

Liệu có một thế giới nơi AI mạnh mẽ có thể là một phần của bước ngoặt vĩ đại này không?

13:26

Actually helping to repair and remake and restore our world.

Thực sự giúp sửa chữa và tái tạo và phục hồi thế giới của chúng ta.

13:30

And honestly, we are all here today because it's just too late to accept any other outcome.

Và thành thật mà nói, tất cả chúng ta ở đây hôm nay vì đã quá muộn để chấp nhận bất kỳ kết quả nào khác.

13:36

And gosh, this is, this is what makes this even more real.

Và trời ơi, đây là, đây là điều khiến điều này trở nên thực tế hơn nữa.

13:39

The stories that we inhabit, the words that we write and put into the world, the language that we use to describe what matters, it shapes who we become.

Những câu chuyện mà chúng ta sống trong đó, những từ ngữ mà chúng ta viết và đưa vào thế giới, ngôn ngữ mà chúng ta sử dụng để mô tả những gì quan trọng, nó định hình chúng ta trở thành ai.

13:49

I've seen it in the research and I've lived it in my own life, but it is also literally the training data for these models.

Tôi đã thấy điều đó trong nghiên cứu và tôi đã sống với nó trong cuộc đời mình, nhưng nó cũng thực sự là dữ liệu huấn luyện cho những mô hình này.

13:57

Our moral imagination is the raw material these systems learn from that makes up how they will understand our world.

Trí tưởng tượng đạo đức của chúng ta là nguyên liệu thô mà những hệ thống này học hỏi, tạo nên cách chúng sẽ hiểu thế giới của chúng ta.

14:05

So, the stories we tell don't just describe the future.

Vậy, những câu chuyện chúng ta kể không chỉ mô tả tương lai.

14:09

They literally could help create it.

Chúng thực sự có thể giúp tạo ra nó.

14:12

Thank you.

Cảm ơn các bạn.

14:15

- applause

- [vỗ tay]

Transcript

Hiển thị

Introduction: Understanding AI Before It's Too Late

Chloe Lubinski works at Anthropic, leading research partnerships with the world's wisdom traditions. Her job has two parts: helping experts understand AI and funneling their wisdom back to the builders. She has had hundreds of conversations across many traditions and disciplines. She emphasizes that people must understand the basics before discussing how AI can go well. Her hope is to give the essentials quickly.

Chloe Lubinski làm việc tại Anthropic, lãnh đạo các quan hệ đối tác nghiên cứu với các truyền thống trí tuệ của thế giới. Công việc của cô có hai phần: giúp các chuyên gia hiểu về AI và chuyển giao trí tuệ của họ trở lại cho các nhà xây dựng. Cô đã có hàng trăm cuộc trò chuyện qua nhiều truyền thống và lĩnh vực. Cô nhấn mạnh rằng mọi người phải hiểu những điều cơ bản trước khi thảo luận về cách AI có thể phát triển tốt. Hy vọng của cô là cung cấp những điều thiết yếu một cách nhanh chóng.