0:00

7:25

Intro to Agents: What's new and what we've learned

Google Cloud Tech·7:25·Technology·B2

Chương · 5

Chương 1·Setting the Stage: What Is an Agent?

Hiển thị

Tiếng ViệtAuto-scroll

0:00

MUSIC PLAYING JASON DAVENPORT: Hello, Aja.

[NHẠC PHÁT] JASON DAVENPORT: Xin chào, Aja.

0:05

AJA HAMMERLY: Hey, Jason.

AJA HAMMERLY: Chào, Jason.

0:06

JASON DAVENPORT: Aja, I was thinking, which is a terrifying thing in and of itself, that with all the cool things that have been happening in agents over the past 18 months, we should probably talk about how we would think about agents today and what people can do with them.

JASON DAVENPORT: Aja, tôi đang nghĩ, điều này tự nó đã đáng sợ rồi, rằng với tất cả những điều thú vị đã diễn ra trong lĩnh vực agent suốt 18 tháng qua, có lẽ chúng ta nên nói về cách chúng ta sẽ nghĩ về agent ngày nay và những gì mọi người có thể làm với chúng.

0:21

AJA HAMMERLY: So as long as you don't forget the part about applicability and how we use agents, sounds great.

AJA HAMMERLY: Vậy miễn là anh không quên phần về khả năng ứng dụng và cách chúng ta sử dụng agent, thì nghe tuyệt đấy.

0:27

Let's do it.

Hãy làm thôi.

0:27

JASON DAVENPORT: All right.

JASON DAVENPORT: Được rồi.

0:29

Why don't you kick us off?

Sao em không bắt đầu trước nhỉ?

0:30

AJA HAMMERLY: So, OK, we always start these things by making sure we're all on the same page about the definitions of the concepts we're working with.

AJA HAMMERLY: Vậy, OK, chúng ta luôn bắt đầu những buổi này bằng việc đảm bảo tất cả chúng ta đều hiểu giống nhau về định nghĩa của các khái niệm mà chúng ta đang làm việc.

0:37

So let's set a definition for an agent.

Vậy hãy đặt ra định nghĩa cho một agent.

0:39

The simplest way to think about an agent is that an agent can observe the world around it, use tools to interact with the world in order to accomplish a goal, and agents can take action on your behalf or even act autonomously to accomplish a goal or perhaps find a goal.

Cách đơn giản nhất để nghĩ về một agent là: một agent có thể quan sát thế giới xung quanh nó, sử dụng các công cụ để tương tác với thế giới nhằm đạt được một mục tiêu, và agent có thể hành động thay mặt bạn hoặc thậm chí hành động tự chủ để đạt được một mục tiêu hoặc có lẽ là tìm ra một mục tiêu.

0:53

JASON DAVENPORT: Interestingly, I think even 18 months ago, that definition has remained pretty durable and consistent.

JASON DAVENPORT: Thú vị là, tôi nghĩ ngay cả 18 tháng trước, định nghĩa đó vẫn khá bền vững và nhất quán.

1:00

AJA HAMMERLY: Yeah, it actually has, but my brain works best with examples, not theory.

AJA HAMMERLY: Ừ, thực sự là vậy, nhưng não tôi hoạt động tốt nhất với các ví dụ, không phải lý thuyết.

1:04

So do you have some favorite agent examples?

Vậy anh có một vài ví dụ về agent mà anh thích không?

1:06

JASON DAVENPORT: Oh, I have a lot of them.

JASON DAVENPORT: Ồ, tôi có rất nhiều.

1:08

Let's talk about one of my personal favorites, a customer service agent that can help users out with a variety of requests, like answering questions about order status, helping people with returns, or maybe even scheduling callbacks or service calls for more complicated issues.

Hãy nói về một trong những ví dụ tôi thích nhất, một agent dịch vụ khách hàng có thể giúp người dùng với nhiều yêu cầu khác nhau, như trả lời các câu hỏi về trạng thái đơn hàng, giúp mọi người đổi trả hàng, hoặc thậm chí lên lịch gọi lại hoặc gọi dịch vụ cho những vấn đề phức tạp hơn.

1:24

AJA HAMMERLY: You really like that one.

AJA HAMMERLY: Anh thực sự thích ví dụ đó nhỉ.

1:25

Personally, I really like that productivity agent that I built that looks at my weekend to-do list and estimates how long each task will take, breaks up the big tasks, and then helps me schedule anything with minimal context switching, including putting things on my calendar.

Cá nhân tôi rất thích agent năng suất mà tôi đã xây dựng, nó xem danh sách việc cần làm cuối tuần của tôi và ước lượng mỗi nhiệm vụ sẽ mất bao lâu, chia nhỏ các nhiệm vụ lớn, rồi giúp tôi lên lịch mọi thứ với ít chuyển đổi ngữ cảnh nhất, bao gồm cả việc đưa mọi thứ vào lịch của tôi.

1:39

JASON DAVENPORT: That's pretty cool.

JASON DAVENPORT: Điều đó khá tuyệt.

1:40

Or how about an agent that knows what's in your refrigerator and pantry and automatically reorders things for you when you're running low on something and does it in a proactive manner?

Hoặc thế nào về một agent biết trong tủ lạnh và tủ đựng thức ăn của bạn có gì và tự động đặt lại hàng cho bạn khi bạn sắp hết thứ gì đó, và làm điều đó một cách chủ động?

1:50

AJA HAMMERLY: That would be awesome.

AJA HAMMERLY: Điều đó sẽ rất tuyệt vời.

1:52

Or how about we use the example that seems to be everyone's agent example these days-- a travel agent that can pick a destination, find hotels and flights, and plan an itinerary for your trip that fits your vibe.

Hoặc thế nào về việc chúng ta dùng ví dụ dường như là ví dụ agent của mọi người ngày nay-- một agent du lịch có thể chọn điểm đến, tìm khách sạn và chuyến bay, và lên kế hoạch hành trình cho chuyến đi của bạn phù hợp với phong cách của bạn.

2:03

JASON DAVENPORT: Ooh, so many vibes that we could do for travel.

JASON DAVENPORT: Ồ, có biết bao nhiêu phong cách mà chúng ta có thể làm cho du lịch.

2:07

All right, that's the one that everyone uses.

Được rồi, đó là ví dụ mà mọi người đều dùng.

2:09

But I have one that even more people use.

Nhưng tôi có một ví dụ mà thậm chí còn nhiều người dùng hơn.

2:11

Let's talk about an agent that helps you write code and deliver software for an idea you have or for creating a feature or even adding AI to an existing application or an AI agent.

Hãy nói về một agent giúp bạn viết mã và cung cấp phần mềm cho một ý tưởng bạn có, hoặc để tạo một tính năng, hoặc thậm chí thêm AI vào một ứng dụng hiện có hoặc một AI agent.

2:22

AJA HAMMERLY: So a lot of people really do use that coding example.

AJA HAMMERLY: Vậy rất nhiều người thực sự dùng ví dụ về viết mã đó.

2:25

So now we have a couple examples, and we got a good idea of what an agent is.

Vậy giờ chúng ta đã có một vài ví dụ, và chúng ta đã hiểu rõ về agent là gì.

2:28

Let's talk about what's changed in the last year.

Hãy nói về những gì đã thay đổi trong năm qua.

2:31

And one of those things is that the way we architect agents and publish and share them has actually evolved quite a lot.

Và một trong những điều đó là cách chúng ta thiết kế kiến trúc agent, công bố và chia sẻ chúng thực sự đã phát triển khá nhiều.

2:37

So let's level-set first on the components of an agent.

Vậy trước tiên hãy thống nhất về các thành phần của một agent.

2:40

An agent obviously needs to have some sort of model it uses for inference or intelligence, tools to interact with the world around it, and context or memory so that it gets smart about a task over an iteration or over multiple iterations.

Một agent rõ ràng cần có một loại mô hình nào đó mà nó dùng để suy luận hoặc trí tuệ, các công cụ để tương tác với thế giới xung quanh, và ngữ cảnh hoặc bộ nhớ để nó trở nên thông minh hơn về một nhiệm vụ qua một lần lặp hoặc qua nhiều lần lặp.

2:51

JASON DAVENPORT: All right, let's break down each of these, starting with the brains of the agent.

JASON DAVENPORT: Được rồi, hãy phân tích từng thành phần này, bắt đầu với bộ não của agent.

2:56

Nowadays, many models are what we call thinking models, which just means that the model has some level of ability to self-reflect built in.

Ngày nay, nhiều mô hình là thứ chúng ta gọi là mô hình suy nghĩ, nghĩa là mô hình có một mức độ khả năng tự phản ánh được tích hợp sẵn.

3:04

These models are good for agents where tasks may be complex and the model needs to consider a set of ideas or responses before it makes a final response to the user or another agent.

Những mô hình này phù hợp cho các agent khi nhiệm vụ có thể phức tạp và mô hình cần cân nhắc một tập hợp các ý tưởng hoặc phản hồi trước khi đưa ra phản hồi cuối cùng cho người dùng hoặc một agent khác.

3:14

AJA HAMMERLY: OK, next let's talk about the tools.

AJA HAMMERLY: OK, tiếp theo hãy nói về các công cụ.

3:17

This has actually changed a lot recently.

Điều này thực sự đã thay đổi rất nhiều gần đây.

3:19

Many agents use a protocol called Model [Context Protocol], or MCP, to access and use tools.

Nhiều agent sử dụng một giao thức gọi là Model Context Protocol, hay MCP, để truy cập và sử dụng các công cụ.

3:26

And now, since I'm mostly an application developer, let's actually talk about what MCP does.

Và bây giờ, vì tôi chủ yếu là một nhà phát triển ứng dụng, hãy thực sự nói về những gì MCP làm.

3:30

Jason, do you remember APIs?

Jason, anh có nhớ API không?

3:33

JASON DAVENPORT: Absolutely not.

JASON DAVENPORT: Tuyệt đối không.

3:34

AJA HAMMERLY: MCP is kind of an API, except it provides additional instructions about how an API is actually used and what the meaning of the inputs and outputs are.

AJA HAMMERLY: MCP kiểu như là một API, ngoại trừ việc nó cung cấp thêm hướng dẫn về cách một API thực sự được sử dụng và ý nghĩa của các đầu vào và đầu ra là gì.

3:42

This gives the agent knowledge about when and where to use a specific MCP tool or an API in specific situations.

Điều này cho agent kiến thức về khi nào và ở đâu nên sử dụng một công cụ MCP cụ thể hoặc một API trong các tình huống cụ thể.

3:49

JASON DAVENPORT: And agents wouldn't be complete without memory.

JASON DAVENPORT: Và agent sẽ không hoàn chỉnh nếu không có bộ nhớ.

3:52

You can think of memory in the most simple form as the context window for an agent.

Bạn có thể nghĩ về bộ nhớ ở dạng đơn giản nhất là cửa sổ ngữ cảnh cho một agent.

3:57

There are other forms of memory, like short-term memory and long-term memory, that you can also put with an agent architecture.

Có những dạng bộ nhớ khác, như bộ nhớ ngắn hạn và bộ nhớ dài hạn, mà bạn cũng có thể đưa vào kiến trúc của một agent.

4:03

Agents generate context-based memory as they perform interactions with their users or with other agents in a system.

Agent tạo ra bộ nhớ dựa trên ngữ cảnh khi chúng thực hiện tương tác với người dùng hoặc với các agent khác trong một hệ thống.

4:10

As the context builds, the agent will generally have a better understanding of the task, what tools are available, and other items that are relevant to the goal.

Khi ngữ cảnh được xây dựng, agent nói chung sẽ hiểu rõ hơn về nhiệm vụ, những công cụ nào có sẵn, và các mục khác liên quan đến mục tiêu.

4:19

It may also use short-term or long-term memory to augment its context in order to achieve one of its objectives.

Nó cũng có thể sử dụng bộ nhớ ngắn hạn hoặc dài hạn để tăng cường ngữ cảnh của mình nhằm đạt được một trong các mục tiêu của nó.

4:26

However, context, just like when you're working on a task, requires active management.

Tuy nhiên, ngữ cảnh, cũng giống như khi bạn đang làm một nhiệm vụ, đòi hỏi phải được quản lý tích cực.

4:32

You'll want to think about updating the window as a task evolves, which could mean compressing context, summarizing context, throwing context out if it's not relevant, or using other memory pieces to bring more context into the agent for it.

Bạn sẽ muốn nghĩ đến việc cập nhật cửa sổ khi một nhiệm vụ phát triển, điều này có thể có nghĩa là nén ngữ cảnh, tóm tắt ngữ cảnh, loại bỏ ngữ cảnh nếu nó không còn liên quan, hoặc sử dụng các phần bộ nhớ khác để mang thêm ngữ cảnh vào cho agent.

4:47

AJA HAMMERLY: OK, so we've defined an agent.

AJA HAMMERLY: Được rồi, vậy là chúng ta đã định nghĩa một agent.

4:50

We've talked about the parts.

Chúng ta đã nói về các thành phần.

4:52

Let's talk about agent patterns now.

Bây giờ hãy nói về các mẫu agent.

4:54

Obviously, this will not be an exhaustive list.

Rõ ràng, đây sẽ không phải là một danh sách đầy đủ.

4:56

But hopefully, this will help our viewers see a few different patterns they could apply to their own agents.

Nhưng hy vọng điều này sẽ giúp người xem của chúng ta thấy được một vài mẫu khác nhau mà họ có thể áp dụng cho các agent của riêng mình.

5:01

And when we say "agent patterns," what we mean is ways that you can create an agent or how you can create a team of agents that work together for a goal.

Và khi chúng ta nói "các mẫu agent", ý chúng ta là những cách mà bạn có thể tạo ra một agent hoặc cách bạn có thể tạo ra một nhóm các agent phối hợp với nhau vì một mục tiêu.

5:08

JASON DAVENPORT: All right, I'm going to take the most simple pattern.

JASON DAVENPORT: Được rồi, tôi sẽ lấy mẫu đơn giản nhất.

5:12

And the most basic agent pattern I could think of is an agent with no loops or other agents.

Và mẫu agent cơ bản nhất mà tôi có thể nghĩ đến là một agent không có vòng lặp hay các agent khác.

5:18

In this example, the agent has a set of instructions, maybe some tools.

Trong ví dụ này, agent có một tập hợp các hướng dẫn, có thể là một vài công cụ.

5:22

It's connected to a model, and that's it.

Nó được kết nối với một model, và chỉ vậy thôi.

5:25

And let's talk about an example of when we want to use this.

Và hãy nói về một ví dụ khi chúng ta muốn sử dụng mẫu này.

5:28

This pattern is very simple, but we could do this for getting started with an agent or even an agent where the objective or directive is very clear.

Mẫu này rất đơn giản, nhưng chúng ta có thể dùng nó để bắt đầu với một agent hoặc thậm chí là một agent mà mục tiêu hay chỉ thị rất rõ ràng.

5:36

And it's a great starting point for us to learn about agentic behavior and then apply this to more complex use cases down the road.

Và đây là một điểm khởi đầu tuyệt vời để chúng ta tìm hiểu về hành vi agentic rồi sau này áp dụng vào những trường hợp sử dụng phức tạp hơn.

5:43

AJA HAMMERLY: OK, so let's talk more complex use cases.

AJA HAMMERLY: Được rồi, vậy hãy nói về những trường hợp sử dụng phức tạp hơn.

5:46

Another pattern you could use is the subagent pattern.

Một mẫu khác mà bạn có thể sử dụng là mẫu subagent.

5:49

In the subagent pattern, the main agent handles most tasks, but it'll offload specific or specialized tasks to another agent that it has access to.

Trong mẫu subagent, agent chính xử lý hầu hết các tác vụ, nhưng nó sẽ chuyển giao những tác vụ cụ thể hoặc chuyên biệt cho một agent khác mà nó có quyền truy cập.

5:57

In the subagent pattern, we typically hand off a task for completion, but we are selective about the context that is applied.

Trong mẫu subagent, chúng ta thường chuyển giao một tác vụ để hoàn thành, nhưng chúng ta có chọn lọc về ngữ cảnh được áp dụng.

6:04

We might do this for something like processing an invoice, where the agent that actually gets the invoice information from a document is a highly specialized agent, and the overall agent is a general worker who can move the work from step to step to get it through the entire processing pipeline.

Chúng ta có thể làm điều này cho những việc như xử lý một hóa đơn, trong đó agent thực sự lấy thông tin hóa đơn từ một tài liệu là một agent có tính chuyên biệt cao, còn agent tổng thể là một nhân viên đa năng có thể chuyển công việc từ bước này sang bước khác để đưa nó qua toàn bộ quy trình xử lý.

6:18

JASON DAVENPORT: And that's super cool because it leads us into another pattern, which is the orchestrator pattern.

JASON DAVENPORT: Và điều đó cực kỳ thú vị vì nó dẫn chúng ta đến một mẫu khác, đó là mẫu orchestrator.

6:23

In this example, the starting agent acts like a router.

Trong ví dụ này, agent khởi đầu hoạt động như một router.

6:27

The router agent then sends requests along to the next agent that it has determined can best answer a request that a user or another agent has.

Agent router sau đó gửi các yêu cầu đến agent tiếp theo mà nó đã xác định là có thể đáp ứng tốt nhất một yêu cầu mà người dùng hoặc một agent khác đưa ra.

6:36

And while the router may seem simple, identifying the intent that a user or another agent has can actually be very difficult to do right.

Và mặc dù router có vẻ đơn giản, việc xác định ý định mà người dùng hoặc một agent khác có thể thực sự rất khó để làm đúng.

6:44

It has to be fast at doing this and to get the user to the right agent for the next level of intent to answer a question, for example.

Nó phải làm việc này một cách nhanh chóng và đưa người dùng đến đúng agent cho cấp độ ý định tiếp theo để trả lời một câu hỏi, chẳng hạn.

6:52

You could think of this like an overall agent that handles a storefront for questions related to ordering, orders, or support and has to hand off that intent to the next available agent in it.

Bạn có thể hình dung điều này giống như một agent tổng thể xử lý một cửa hàng cho các câu hỏi liên quan đến việc đặt hàng, đơn hàng hoặc hỗ trợ và phải chuyển giao ý định đó cho agent tiếp theo có sẵn trong nó.

7:02

AJA HAMMERLY: I think those are good starting points.

AJA HAMMERLY: Tôi nghĩ đó là những điểm khởi đầu tốt.

7:05

There are other agent patterns out there, so don't feel like these are the only ones that you can use.

Còn có những mẫu agent khác ngoài kia, nên đừng cảm thấy như đây là những mẫu duy nhất mà bạn có thể sử dụng.

7:09

But these patterns do represent and cover a common number of use cases.

Nhưng những mẫu này thực sự đại diện và bao quát một số lượng phổ biến các trường hợp sử dụng.

7:13

And we have links below where you can try out these patterns and see how they might work for your use case.

Và chúng tôi có các liên kết bên dưới để bạn có thể thử những mẫu này và xem chúng có thể hoạt động như thế nào cho trường hợp sử dụng của bạn.

7:18

We hope that you've enjoyed our update to agents today.

Chúng tôi hy vọng bạn đã thích phần cập nhật về agent của chúng tôi ngày hôm nay.

7:21

And with that, this is Aja and Jason.

Và với điều đó, đây là Aja và Jason.

7:23

BOTH: Happy prompting!

CẢ HAI: Chúc bạn prompting vui vẻ!

7:24

MUSIC PLAYING

[NHẠC PHÁT]

Transcript

Hiển thị

Setting the Stage: What Is an Agent?

Jason and Aja open the conversation by noting how much agent technology has evolved over the past 18 months. Aja insists on defining terms before diving in, so they agree on a simple definition: an agent observes the world, uses tools to interact with it, and takes action toward a goal, sometimes autonomously. Jason points out that this definition has stayed remarkably durable even as the field has changed. Aja admits she prefers concrete examples over theory and asks Jason for his favorites.

Jason và Aja mở đầu cuộc trò chuyện bằng việc ghi nhận công nghệ agent đã phát triển nhiều như thế nào trong 18 tháng qua. Aja nhất quyết định nghĩa các thuật ngữ trước khi đi sâu, nên họ thống nhất một định nghĩa đơn giản: một agent quan sát thế giới, sử dụng công cụ để tương tác với nó, và hành động hướng tới một mục tiêu, đôi khi một cách tự chủ. Jason chỉ ra rằng định nghĩa này vẫn bền vững đáng kinh ngạc ngay cả khi lĩnh vực đã thay đổi. Aja thừa nhận cô thích các ví dụ cụ thể hơn lý thuyết và hỏi Jason về những ví dụ yêu thích của anh.

MUSIC PLAYING JASON DAVENPORT: Hello, Aja.

[NHẠC PHÁT] JASON DAVENPORT: Xin chào, Aja.

AJA HAMMERLY: Hey, Jason.

AJA HAMMERLY: Chào, Jason.

AJA HAMMERLY: So as long as you don't forget the part about applicability and how we use agents, sounds great.

AJA HAMMERLY: Vậy miễn là anh không quên phần về khả năng ứng dụng và cách chúng ta sử dụng agent, thì nghe tuyệt đấy.

Let's do it.

Hãy làm thôi.

JASON DAVENPORT: All right.

JASON DAVENPORT: Được rồi.

Why don't you kick us off?

Sao em không bắt đầu trước nhỉ?

AJA HAMMERLY: So, OK, we always start these things by making sure we're all on the same page about the definitions of the concepts we're working with.

So let's set a definition for an agent.

Vậy hãy đặt ra định nghĩa cho một agent.

JASON DAVENPORT: Interestingly, I think even 18 months ago, that definition has remained pretty durable and consistent.

JASON DAVENPORT: Thú vị là, tôi nghĩ ngay cả 18 tháng trước, định nghĩa đó vẫn khá bền vững và nhất quán.

AJA HAMMERLY: Yeah, it actually has, but my brain works best with examples, not theory.

AJA HAMMERLY: Ừ, thực sự là vậy, nhưng não tôi hoạt động tốt nhất với các ví dụ, không phải lý thuyết.

So do you have some favorite agent examples?

Vậy anh có một vài ví dụ về agent mà anh thích không?

1 / 5