0:00

37:05

Ship your first Managed Agent

Claude·37:05·Technology·C1

Chương · 6

Chương 1·Introduction to Claude Manage Agents

Hiển thị

Tiếng ViệtAuto-scroll

0:20

All right.

Được rồi.

0:20

Hello everyone.

Xin chào mọi người.

0:21

It's great to see you all here today for our session on shipping your first manage agent.

Thật tuyệt khi thấy tất cả các bạn ở đây hôm nay cho buổi học về cách triển khai tác nhân quản lý đầu tiên của bạn.

0:26

Let's go ahead and get started.

Chúng ta hãy bắt đầu ngay.

0:27

My name is Isabella He.

Tôi là Isabella He.

0:29

I'm a member of technical staff at Enthropic on the applied AI team.

Tôi là thành viên của đội ngũ kỹ thuật tại Enthropic, thuộc nhóm AI ứng dụng.

0:32

The applied AI team at Enthropic sits at the intersection of products, research, and our customers, which means that I get to contribute internally to products at Enthropic like Claude code and our cloud harnesses, as well as work externally with our

Nhóm AI ứng dụng tại Enthropic nằm ở giao điểm giữa sản phẩm, nghiên cứu và khách hàng của chúng tôi, điều đó có nghĩa là tôi được đóng góp nội bộ cho các sản phẩm tại Enthropic như Claude code và các harness đám mây của chúng tôi, cũng như làm việc bên ngoài với các

0:45

customers that are building on top of Claude and on top of our harnesses.

khách hàng đang xây dựng trên nền tảng Claude và các harness của chúng tôi.

0:49

So my goal today is to get you all hands-on with actually building on top of manage agents, understanding how the harness works under the hood and getting you ready to actually ship your first incident response management.

Vì vậy, mục tiêu của tôi hôm nay là giúp các bạn thực hành xây dựng trên nền tảng tác nhân quản lý, hiểu cách harness hoạt động bên trong và sẵn sàng để thực sự triển khai tác nhân quản lý phản hồi sự cố đầu tiên của bạn.

1:00

So as a quick overview of today's agenda, we're going to cover first a quick refresher

Vì vậy, như một tổng quan nhanh về chương trình hôm nay, chúng ta sẽ bắt đầu với một phần ôn tập nhanh

1:05

of cloud manage agents.

về tác nhân quản lý đám mây.

1:05

I want to talk you through a little bit about how this harness works under the hood and what makes it so special.

Tôi muốn nói với các bạn một chút về cách harness này hoạt động bên trong và điều gì làm nó đặc biệt.

1:11

Our team put a lot of thought into the architectural design of cloud manage agents to make sure that it runs ready and reliably for production ready agents.

Nhóm của chúng tôi đã dành nhiều suy nghĩ cho thiết kế kiến trúc của tác nhân quản lý đám mây để đảm bảo nó chạy sẵn sàng và đáng tin cậy cho các tác nhân sẵn sàng sản xuất.

1:17

So I want to talk you through a little bit of how that works so that then when we

Vì vậy, tôi muốn nói với các bạn một chút về cách nó hoạt động để sau đó khi chúng ta

1:22

transition into the second portion here which is the hands-on workshop, you'll actually understand what each of the primitives you're building actually mean for your agents under the hood.

chuyển sang phần thứ hai, đó là hội thảo thực hành, các bạn sẽ thực sự hiểu mỗi nguyên thủy mà bạn đang xây dựng thực sự có ý nghĩa gì đối với các tác nhân của bạn bên trong.

1:31

So for the majority of today's session, I want you all to actually have your laptops open, building alongside me, actually working inside of a repository and getting you ready to actually spin up a

Vì vậy, trong phần lớn thời gian của buổi học hôm nay, tôi muốn tất cả các bạn mở laptop, xây dựng cùng tôi, thực sự làm việc bên trong một kho lưu trữ và sẵn sàng để khởi chạy một

1:42

working incident response agent.

tác nhân phản hồi sự cố hoạt động.

1:43

Lastly, we'll talk a little bit about beyond the basics.

Cuối cùng, chúng ta sẽ nói một chút về những điều vượt ra ngoài cơ bản.

1:45

Today's session is the first session of a couple of other ones that we'll build on top of this on cloud manage agents.

Buổi học hôm nay là buổi đầu tiên trong số một vài buổi khác mà chúng ta sẽ xây dựng trên nền tảng này về tác nhân quản lý đám mây.

1:52

Specifically right after this one, I think there's another session on dreaming, which is one of my favorite new features with cloud manage agents for self-improving agents and

Cụ thể, ngay sau buổi này, tôi nghĩ có một buổi khác về dreaming, một trong những tính năng mới yêu thích của tôi với tác nhân quản lý đám mây dành cho các tác nhân tự cải thiện và

2:00

memory built into the harness.

bộ nhớ được tích hợp trong harness.

2:01

So encourage everyone to dive in a little bit deeper into what else is in the box after we set you all up for success today with a quick introduction.

Vì vậy, khuyến khích mọi người đi sâu hơn một chút vào những gì khác có trong hộp sau khi chúng tôi chuẩn bị cho các bạn thành công hôm nay với một phần giới thiệu nhanh.

2:10

So let's first touch a little bit about how we got here with Claude manage agents.

Vậy trước tiên hãy nói một chút về cách chúng ta đến được với tác nhân quản lý Claude.

2:15

When we first released the very first Claude back in 2023, we released the messages API alongside access to Claude.

Khi chúng tôi lần đầu phát hành Claude đầu tiên vào năm 2023, chúng tôi đã phát hành API messages cùng với quyền truy cập vào Claude.

2:22

This provided raw model access to all Claude models.

Điều này cung cấp quyền truy cập mô hình thô cho tất cả các mô hình Claude.

2:25

This became the very first way that people could programmatically build on top of Claude and essentially gave a way for people to

Đây trở thành cách đầu tiên mà mọi người có thể xây dựng trên nền tảng Claude một cách lập trình và về cơ bản cung cấp một cách để mọi người

2:33

access tokens in and tokens out via our cloud models.

truy cập token vào và token ra thông qua các mô hình đám mây của chúng tôi.

2:36

This also meant that for everyone building on top of cloud models, they had to implement all the various primitives themselves.

Điều này cũng có nghĩa là đối với tất cả mọi người xây dựng trên nền tảng mô hình đám mây, họ phải tự triển khai tất cả các nguyên thủy khác nhau.

2:43

Things like context management, the actual agent loop, compaction, etc.

Những thứ như quản lý ngữ cảnh, vòng lặp tác nhân thực tế, nén, v.v.

2:46

All the primitives that come alongside making an agent work.

Tất cả các nguyên thủy đi kèm với việc làm cho một tác nhân hoạt động.

2:49

When models were less intelligent back in the early days of

Khi các mô hình kém thông minh hơn vào những ngày đầu của

2:53

let's say 2023, some of these primitives were much simpler because agents could simply do less.

khoảng năm 2023, một số nguyên thủy này đơn giản hơn nhiều vì các tác nhân chỉ có thể làm ít hơn.

2:58

But as we evolved into now with higher model intelligence and as agents are able to take on more complex tasks and actually take actions within environments and come to actually do entire tasks for humans, the primitives that come alongside context management and managing an agent's

Nhưng khi chúng ta phát triển đến nay với trí thông minh mô hình cao hơn và khi các tác nhân có thể đảm nhận các nhiệm vụ phức tạp hơn và thực sự thực hiện các hành động trong môi trường và thực sự hoàn thành toàn bộ nhiệm vụ cho con người, các nguyên thủy đi kèm với quản lý ngữ cảnh và quản lý khả năng của tác nhân

3:15

ability to execute API calls and tool calls becomes much more complex.

thực thi các lệnh gọi API và lệnh gọi công cụ trở nên phức tạp hơn nhiều.

3:18

So that's when we moved to the agent SDK which became a harness that allows you to programmatically call claude code one of our favorite agents at Enthropic.

Vì vậy, đó là khi chúng tôi chuyển sang SDK tác nhân, trở thành một harness cho phép bạn gọi Claude code theo chương trình, một trong những tác nhân yêu thích của chúng tôi tại Enthropic.

3:27

So claude code is something that an agent has access to a computer and takes actions within file system.

Vì vậy, Claude code là thứ mà một tác nhân có quyền truy cập vào máy tính và thực hiện các hành động trong hệ thống tệp.

3:33

So the agent SDK become a way for you to make cloud

Vì vậy, SDK tác nhân trở thành một cách để bạn làm cho đám mây

3:37

much more powerful by leveraging the power of cloud code within harness.

mạnh mẽ hơn nhiều bằng cách tận dụng sức mạnh của Claude code trong harness.

3:40

The main thing here though is that with the agent SDK, developers still had to manage hosting and scaling on their own and making sure that the agent SDK would be safe to run within their containers.

Tuy nhiên, điều chính ở đây là với SDK tác nhân, các nhà phát triển vẫn phải tự quản lý lưu trữ và mở rộng quy mô cũng như đảm bảo SDK tác nhân an toàn để chạy trong các container của họ.

3:53

That's when we then evolved into claude manage agents, which is the first harness to be able to handle scaling and productionready components for you by Enthropic, providing things like a purpose-built harness, sandboxing, observability, tool runtime, all within a managed infrastructure system.

Đó là khi chúng tôi phát triển thành tác nhân quản lý Claude, harness đầu tiên có thể xử lý việc mở rộng quy mô và các thành phần sẵn sàng sản xuất cho bạn bởi Enthropic, cung cấp những thứ như harness chuyên dụng, sandboxing, khả năng quan sát, thời gian chạy công cụ, tất cả trong một hệ thống cơ sở hạ tầng được quản lý.

4:09

This means that developers can focus on task and agent configuration, custom tool

Điều này có nghĩa là các nhà phát triển có thể tập trung vào nhiệm vụ và cấu hình tác nhân, logic công cụ tùy chỉnh,

4:15

logic, the things that actually matter for bringing domain expertise and customizability to your agents where you're handing off the rest of all the primitives and core compute and primitives of essentially managing the basics of agent running to enthropic.

những thứ thực sự quan trọng để mang chuyên môn lĩnh vực và khả năng tùy chỉnh cho các tác nhân của bạn, trong khi bạn giao phần còn lại của tất cả các nguyên thủy và tính toán cốt lõi cũng như các nguyên thủy của việc quản lý cơ bản việc chạy tác nhân cho Enthropic.

4:31

So that brings me to manage agents as the fastest way to build production ready agents on cloud.

Vì vậy, điều đó đưa tôi đến tác nhân quản lý như cách nhanh nhất để xây dựng các tác nhân sẵn sàng sản xuất trên đám mây.

4:37

We've seen people build 10 to 15 times faster to production with cloud manage agents by leveraging our purpose-built harness.

Chúng tôi đã thấy mọi người xây dựng nhanh hơn 10 đến 15 lần để đưa vào sản xuất với tác nhân quản lý đám mây bằng cách tận dụng harness chuyên dụng của chúng tôi.

4:44

Part of the reason why we built cloud manage agents is be is because harnesses should evolve alongside your agents.

Một phần lý do tại sao chúng tôi xây dựng tác nhân quản lý đám mây là vì các harness nên phát triển cùng với các tác nhân của bạn.

4:50

For example, back when we were building ourselves on top of models like sonnet 4.5, we noticed that sonnet 4.5 emitted a particular behavior called context anxiety.

Ví dụ, khi chúng tôi đang xây dựng trên các mô hình như Sonnet 4.5, chúng tôi nhận thấy rằng Sonnet 4.5 phát ra một hành vi cụ thể gọi là lo lắng ngữ cảnh.

4:59

This meant that with sonet 4.5 claw started wrapping up tasks early even when it still had room to spare in

Điều này có nghĩa là với Sonnet 4.5, Claude bắt đầu kết thúc nhiệm vụ sớm ngay cả khi nó vẫn còn chỗ trống trong

5:06

its context window.

cửa sổ ngữ cảnh của nó.

5:07

To manage that in our harness we then added some mitigations to combat against this early stopping behavior.

Để quản lý điều đó trong harness của chúng tôi, chúng tôi đã thêm một số biện pháp giảm thiểu để chống lại hành vi dừng sớm này.

5:12

But when opus 4.5 then came out we actually saw this behavior go away making all that work we had done inside of the harness essentially obsolete because claude had evolved beyond that behavior that we had built into the harness to manage.

Nhưng khi Opus 4.5 ra mắt, chúng tôi thực sự thấy hành vi này biến mất, khiến tất cả công việc chúng tôi đã làm bên trong harness trở nên lỗi thời vì Claude đã phát triển vượt qua hành vi mà chúng tôi đã xây dựng trong harness để quản lý.

5:26

So the

Vậy nên

5:27

takeaway there is that it's a lot of work to maintain harnesses and make sure that they actually evolve alongside your agents.

Kết luận ở đây là việc duy trì các harness và đảm bảo chúng phát triển cùng với các agent của bạn là rất nhiều công việc.

5:33

Which is why with claude manage agents we want to make it really easy for claude and enthropic to handle all the complexities that come with compaction caching things like context anxiety all these various primitives that come with actually making agent

Đó là lý do tại sao với Claude Manage Agents, chúng tôi muốn giúp Claude và Anthropic dễ dàng xử lý mọi sự phức tạp đi kèm với việc nén, lưu cache, các vấn đề như context anxiety, tất cả các nguyên thủy khác nhau đi kèm với việc thực sự làm cho agent

5:46

production ready and getting the most out of clot.

sẵn sàng cho sản xuất và tận dụng tối đa Claude.

5:48

So again you can focus on the tasks tools and things that actually matter for building agents on cloud.

Một lần nữa, bạn có thể tập trung vào các tác vụ, công cụ và những thứ thực sự quan trọng để xây dựng agent trên Claude.

5:55

So three primary resources go into building on cloud manage agents.

Có ba tài nguyên chính để xây dựng trên Claude Manage Agents.

5:59

First is the agents endpoint which is the persona and capabilities.

Đầu tiên là endpoint Agents, đây là tính cách và khả năng.

6:04

This is the core system font that powers your agent.

Đây là hệ thống cốt lõi cung cấp năng lượng cho agent của bạn.

6:08

Essentially here you're defining the model, the MCP servers, the skills, the various components that your agents can actually leverage when it's able to run in that agent loop.

Về cơ bản, ở đây bạn đang định nghĩa mô hình, các máy chủ MCP, các kỹ năng, các thành phần khác nhau mà agent của bạn có thể tận dụng khi nó chạy trong vòng lặp agent.

6:16

The next is the environments.

Tiếp theo là Environments.

6:17

You can think of this as the hands of the agent where the previous one is the brain of the agent where the agent is thinking through what to execute and then it's using an

Bạn có thể coi đây là đôi tay của agent, trong khi phần trước là bộ não của agent, nơi agent suy nghĩ về những gì cần thực thi và sau đó nó sử dụng một

6:27

environment to actually have a space and a container to actually take action on your behalf.

Environment để thực sự có một không gian và một container để thực hiện hành động thay mặt bạn.

6:33

Sessions are next the way to tie together agents and environments.

Sessions là tiếp theo, cách để kết nối agents và environments.

6:36

A single session has is spun up on an agent instance within an environment.

Một session duy nhất được khởi tạo trên một instance agent trong một environment.

6:41

So you can connect the two together and actually stream events back to your user and start to take action on behalf of your humans as part of a cloudpowered agent.

Vì vậy, bạn có thể kết nối cả hai với nhau và thực sự truyền phát các sự kiện trở lại người dùng của bạn và bắt đầu hành động thay mặt con người như một phần của agent được hỗ trợ bởi Claude.

6:52

A key thing here as I alluded to briefly before claude manage agent has the agent loop run server side.

Một điểm quan trọng ở đây như tôi đã đề cập ngắn gọn trước đó, Claude Manage Agent có vòng lặp agent chạy phía máy chủ.

6:57

This means that a lot of the complexities that come with managing hosting and scaling are abstracted away.

Điều này có nghĩa là nhiều sự phức tạp đi kèm với việc quản lý lưu trữ và mở rộng quy mô được trừu tượng hóa.

7:03

And when you close your laptop or you hit hard refresh on your agent that you're building on cloud manage agents, everything is maintained and you don't have to worry about

Và khi bạn đóng laptop hoặc làm mới cứng agent mà bạn đang xây dựng trên Claude Manage Agents, mọi thứ đều được duy trì và bạn không phải lo lắng về

7:12

durability, reliability, all these various aspects that usually come to bite you when you're trying to turn your agent from a prototype into production.

độ bền, độ tin cậy, tất cả các khía cạnh khác nhau thường gây khó khăn khi bạn cố gắng biến agent từ nguyên mẫu thành sản phẩm.

7:22

And the lastly here before we dive into the hands-on portion is I want to talk you through a key design decision that went into claude manage agents.

Và cuối cùng, trước khi đi sâu vào phần thực hành, tôi muốn nói với các bạn về một quyết định thiết kế quan trọng đã được đưa vào Claude Manage Agents.

7:32

Previously with a lot of agent harnesses, we saw the agent loop coupled tightly with tool execution.

Trước đây với nhiều harness agent, chúng tôi thấy vòng lặp agent được kết hợp chặt chẽ với việc thực thi công cụ.

7:37

This design pattern made sense and still makes sense for some agents because you want to give the agent powerful abilities to actually take action with an environment.

Mô hình thiết kế này có ý nghĩa và vẫn có ý nghĩa đối với một số agent vì bạn muốn cung cấp cho agent khả năng mạnh mẽ để thực sự hành động với một môi trường.

7:45

For instance, with cloud code, we want the agent to be able to access various files on your computer, take action within a

Ví dụ, với Claude Code, chúng tôi muốn agent có thể truy cập các tệp khác nhau trên máy tính của bạn, thực hiện hành động trong một

7:52

file system, and therefore it makes sense for the agent to have access to all those tools spun up on every container.

hệ thống tệp, và do đó, việc agent có quyền truy cập vào tất cả các công cụ đó được khởi tạo trên mọi container là hợp lý.

7:58

But we also realize there are some constraints for this especially with some agents where you essentially want to be able to decouple the hands from the brains of the agents.

Nhưng chúng tôi cũng nhận ra có một số hạn chế đối với điều này, đặc biệt là với một số agent, nơi về cơ bản bạn muốn có thể tách rời đôi tay khỏi bộ não của agent.

8:08

For instance, credentials and um credentials and security became a huge concern with the ability to have the agent access your file system.

Ví dụ, thông tin xác thực và bảo mật trở thành mối quan tâm lớn khi agent có thể truy cập hệ thống tệp của bạn.

8:16

You can actually add very distinct sandboxing by decoupling these two components where the agent is no longer able to access the actual credentials without encryption by decoupling the hands from the sandbox of the agent.

Bạn có thể thêm sandboxing rất riêng biệt bằng cách tách rời hai thành phần này, nơi agent không còn có thể truy cập thông tin xác thực thực tế nếu không có mã hóa bằng cách tách rời đôi tay khỏi sandbox của agent.

8:30

The other

Khía cạnh khác

8:31

aspect here is actually you can see huge benefits by doing this decoupling on things like time to first token and latency.

ở đây là bạn có thể thấy những lợi ích to lớn từ việc tách rời này đối với những thứ như thời gian đến token đầu tiên và độ trễ.

8:37

Previously with the agent loop and tool execution in the same box, you had to spin up containers for every single session that you're spinning up in the agent, which contributed to additional latency from a time to time to first token perspective.

Trước đây với vòng lặp agent và thực thi công cụ trong cùng một hộp, bạn phải khởi tạo container cho mọi session mà bạn đang khởi tạo trong agent, điều này góp phần làm tăng thêm độ trễ từ góc độ thời gian đến token đầu tiên.

8:50

But with

Nhưng với

8:51

this now decoupled, our teams actually saw reductions in time to first token along the lines of over 90% reduction in TTFT for our P95 metrics on latency.

sự tách rời này, nhóm của chúng tôi đã thấy giảm thời gian đến token đầu tiên lên tới hơn 90% đối với các chỉ số P95 về độ trễ.

9:01

So here you can start to see the power of this design decision coming through from the perspective of safety, reliability, latency, and everything else that you care about when it comes to building production ready agents.

Vì vậy, ở đây bạn có thể bắt đầu thấy sức mạnh của quyết định thiết kế này từ góc độ an toàn, độ tin cậy, độ trễ và mọi thứ khác mà bạn quan tâm khi xây dựng các agent sẵn sàng cho sản xuất.

9:16

All right, so now it's time for the exciting part of today's session, which is where I want you all to open up your laptops and go to this URL here to actually clone a repository and let's start to actually feel the magic of everything that I just talked through.

Được rồi, bây giờ là lúc cho phần thú vị của buổi học hôm nay, đó là nơi tôi muốn tất cả các bạn mở laptop và truy cập URL này để thực sự clone một kho lưu trữ và hãy bắt đầu cảm nhận sự kỳ diệu của tất cả những gì tôi vừa trình bày.

9:29

So, I'm going to give everyone a second to just go over to that URL there and just spin up the repository that we have ready for you.

Vì vậy, tôi sẽ cho mọi người một chút thời gian để truy cập URL đó và khởi tạo kho lưu trữ mà chúng tôi đã chuẩn bị sẵn cho bạn.

9:38

All right, so here's some additional commands that I want you all to run to make sure this is all set up on your computers.

Được rồi, đây là một số lệnh bổ sung mà tôi muốn tất cả các bạn chạy để đảm bảo mọi thứ được thiết lập trên máy tính của bạn.

9:44

So, the first step many of you might have done already, but just take that repository, hit the URL, get clone it, and then I want you to cd into the specific repository for the session, which is ship your first manage agent.

Vì vậy, bước đầu tiên nhiều bạn có thể đã làm rồi, nhưng chỉ cần lấy kho lưu trữ đó, truy cập URL, git clone nó, và sau đó tôi muốn bạn cd vào kho lưu trữ cụ thể cho buổi học, đó là ship-your-first-manage-agent.

9:56

And then if you're on Mac, you'll see those two commands on the side, the Python and the source.

Và nếu bạn dùng Mac, bạn sẽ thấy hai lệnh ở bên cạnh, Python và source.

10:00

Um there's a command there for Windows as well.

Có một lệnh cho Windows nữa.

10:03

Then you'll just do the rest there where you want to install the requirements.

Sau đó bạn sẽ làm phần còn lại ở đó, nơi bạn muốn cài đặt các yêu cầu.

10:06

Copy over the environment key into your M file.

Sao chép khóa môi trường vào tệp .env của bạn.

10:08

Um here you'll put in the Enthropic API key that hopefully all of you also received from the QR code for

Ở đây bạn sẽ nhập khóa API Anthropic mà hy vọng tất cả các bạn cũng đã nhận được từ mã QR cho

10:14

free credits earlier.

tín dụng miễn phí trước đó.

10:14

And lastly, we'll just run the app.

Và cuối cùng, chúng ta sẽ chạy ứng dụng.

10:16

All right, let's go ahead and dive in.

Được rồi, chúng ta hãy cùng đi sâu vào.

10:18

But as I mentioned before, let me just show everyone where these instructions are.

Nhưng như tôi đã đề cập trước đó, hãy để tôi chỉ cho mọi người thấy những hướng dẫn này ở đâu.

10:22

If you go into the repository and the link and then go to ship your first manage agents, you scroll down on the read me, you'll see all the setup instructions here.

Nếu bạn vào kho lưu trữ và liên kết, sau đó vào ship-your-first-manage-agent, bạn cuộn xuống trong tệp README, bạn sẽ thấy tất cả các hướng dẫn thiết lập ở đây.

10:31

So feel free to do this um as we go along or

Vì vậy, hãy thoải mái làm điều này khi chúng ta tiếp tục hoặc

10:35

even in your own time later today and continue playing around with it.

thậm chí vào thời gian riêng của bạn sau đó hôm nay và tiếp tục chơi với nó.

10:38

But as I mentioned before, everything will be also shown on the screen to follow along with.

Nhưng như tôi đã đề cập trước đó, mọi thứ cũng sẽ được hiển thị trên màn hình để bạn theo dõi.

10:42

So do not worry if you did not have time to fully get it set up on your laptop.

Vì vậy, đừng lo lắng nếu bạn không có thời gian để thiết lập hoàn chỉnh trên máy tính xách tay của mình.

10:47

Without further ado, let's go ahead and dive in.

Không dài dòng nữa, chúng ta hãy cùng bắt đầu ngay.

10:49

So once you run streamlit runapp py you should be able to see a URL that looks like this and a

Khi bạn chạy streamlit run app.py, bạn sẽ thấy một URL trông như thế này và một

10:55

page that looks like this.

trang trông như thế này.

10:56

We're doing here is we're going to be simulating an agent um interaction here where we have an incident that's going to come up.

Ở đây chúng ta sẽ mô phỏng một tương tác đại lý, nơi có một sự cố xảy ra.

11:02

A lot of you who might be software engineers in the room will be intimately familiar with the pain that comes alongside incident response.

Nhiều bạn là kỹ sư phần mềm trong phòng này chắc hẳn rất quen thuộc với nỗi đau đi kèm với việc xử lý sự cố.

11:09

If you are a software engineer, you might be woken up at, let's say, 3:00 a.m.

Nếu bạn là kỹ sư phần mềm, bạn có thể bị đánh thức lúc, chẳng hạn, 3 giờ sáng.

11:13

in the

Vào

11:14

morning, 2:00 in the morning when you're out around on vacation as you're on call.

buổi sáng, 2 giờ sáng khi bạn đang đi nghỉ và đang trực.

11:18

And this is usually a very painful portion of a software engineer's life.

Và đây thường là một phần rất đau đớn trong cuộc đời của một kỹ sư phần mềm.

11:22

Um, because when you're on call, it means that if a server goes down or a service goes down, you have to be immediately the one there to respond and tackle the incident.

Bởi vì khi bạn trực, điều đó có nghĩa là nếu máy chủ hoặc dịch vụ gặp sự cố, bạn phải là người ngay lập tức có mặt để ứng phó và giải quyết sự cố.

11:32

Usually for a human, this means diving into metrics and logs and deployments.

Thông thường đối với con người, điều này có nghĩa là phải xem xét các chỉ số, nhật ký và bản triển khai.

11:35

You can actually investigate what's going on.

Bạn thực sự có thể điều tra những gì đang xảy ra.

11:38

And so what we're going to do is we're going to now have an agent run on cloud manage agents to do all this for us so that when we get woken up by 3 am we can hand it off to an agent or maybe we don't even get woken up at all if cla is able to do everything for us.

Và vì vậy, những gì chúng ta sẽ làm là để một đại lý chạy trên cloud manage agents thực hiện tất cả điều này cho chúng ta, để khi bị đánh thức lúc 3 giờ sáng, chúng ta có thể giao việc đó cho đại lý, hoặc thậm chí có thể không bị đánh thức nếu cla có thể làm mọi thứ cho chúng ta.

11:53

Okay.

Được rồi.

11:53

So let's now go ahead and dive into the code here.

Bây giờ chúng ta hãy cùng đi sâu vào mã nguồn ở đây.

11:56

What we're going to open up here is we have the agent.

Những gì chúng ta sẽ mở ra ở đây là chúng ta có tệp agent.

11:59

py file on

Py ở

12:00

the left and the agent complete on the right.

bên trái và agent complete ở bên phải.

12:02

If you want to challenge yourself, you can of course try to implement everything yourself here or with flaad.

Nếu bạn muốn thử thách bản thân, tất nhiên bạn có thể tự mình thực hiện mọi thứ ở đây hoặc với flaad.

12:07

Um, but what we're going to do just for simplicity sake is just copy over various elements from the completed file onto the incomplete file one by one.

Nhưng để đơn giản, chúng ta sẽ chỉ sao chép từng phần tử từ tệp hoàn chỉnh sang tệp chưa hoàn chỉnh.

12:15

So we can see how these primitives compose our agent one piece at a time.

Để chúng ta có thể thấy cách các thành phần cơ bản này tạo nên đại lý của chúng ta từng bước một.

12:19

So let's go ahead and start off with this very first part which is the agent.

Vậy hãy bắt đầu với phần đầu tiên này, đó là đại lý.

12:23

We mentioned before that the agent is the one that defines the persona and the capabilities of the agent here.

Chúng ta đã đề cập trước đó rằng đại lý là người xác định tính cách và khả năng của đại lý.

12:29

So that it's the model, the system prompt and the tools in our case for our agent here.

Đó là mô hình, lời nhắc hệ thống và các công cụ trong trường hợp của đại lý của chúng ta.

12:35

So, let me go ahead and copy over what we see there on the screen.

Vì vậy, hãy để tôi sao chép những gì chúng ta thấy trên màn hình.

12:39

And you can see here that we're defining the S sur agent.

Và bạn có thể thấy ở đây chúng ta đang định nghĩa đại lý S sur.

12:43

We're going to use Claude Opus 4.7 here.

Chúng ta sẽ sử dụng Claude Opus 4.7 ở đây.

12:46

And I've preconfigured a system prompt and tools for the agent.

Và tôi đã cấu hình sẵn lời nhắc hệ thống và các công cụ cho đại lý.

12:50

We can actually take a quick look into what that system prompt and tool looks like here.

Chúng ta thực sự có thể xem nhanh lời nhắc hệ thống và công cụ đó trông như thế nào.

12:54

For the system prompt, you can see that it's actually extremely simple for the agent that we're defining today.

Đối với lời nhắc hệ thống, bạn có thể thấy nó thực sự rất đơn giản cho đại lý mà chúng ta đang định nghĩa hôm nay.

12:59

You can of course add more complexity and constraints here, but we actually see a very simple prompt working for our agent that we're building today.

Tất nhiên bạn có thể thêm nhiều phức tạp và ràng buộc hơn, nhưng chúng ta thấy một lời nhắc rất đơn giản hoạt động tốt cho đại lý của chúng ta.

13:06

We're just telling it

Chúng ta chỉ nói với nó

13:07

that it's an SR agent.

rằng nó là một đại lý SR.

13:08

It's responsible for coming in and debugging incidents and it has access to various tools like metrics, recent deployments, get diff.

Nó chịu trách nhiệm xử lý và gỡ lỗi các sự cố và có quyền truy cập vào các công cụ khác nhau như chỉ số, triển khai gần đây, get diff.

13:16

These are tools that you would want as a developer if you're actually managing an incident response as well, like the ability to actually fetch logs so you can see exactly what's going wrong.

Đây là những công cụ mà bạn muốn với tư cách là nhà phát triển nếu bạn thực sự quản lý việc xử lý sự cố, như khả năng lấy nhật ký để xem chính xác điều gì đang sai.

13:24

So, we're going to give those same tools and the same instructions over to our agent.

Vì vậy, chúng ta sẽ cung cấp những công cụ và hướng dẫn tương tự cho đại lý của mình.

13:29

So, now that we've configured this on the screen, and feel free for those of you who are able to spin it up on your own laptops to just follow along with exactly what I'm doing, which is copying over this portion from the right onto the left here.

Bây giờ chúng ta đã cấu hình điều này trên màn hình, và các bạn nào có thể khởi chạy trên máy tính xách tay của mình hãy thoải mái làm theo chính xác những gì tôi đang làm, đó là sao chép phần này từ bên phải sang bên trái.

13:42

And then when we flip back over to the screen, what we'll see is this wasn't there until I just added that there.

Và khi chúng ta quay lại màn hình, chúng ta sẽ thấy phần này không có ở đó cho đến khi tôi vừa thêm nó.

13:49

But we can now actually have a unique identifier attached to the agent that we're building.

Nhưng bây giờ chúng ta thực sự có thể có một định danh duy nhất gắn với đại lý mà chúng ta đang xây dựng.

13:55

Okay, so that's step one.

Được rồi, đó là bước một.

13:56

Now let's go ahead and move over to step two, which is the environments where the agent is going to actually do work in.

Bây giờ hãy chuyển sang bước hai, đó là môi trường nơi đại lý sẽ thực sự làm việc.

14:02

All of you here were very lucky for those of you who were able to come yesterday as well to code with Cloud London.

Tất cả các bạn ở đây thật may mắn, đặc biệt là những ai đã tham dự Code with Cloud London ngày hôm qua.

14:09

We actually just released yesterday the ability to bring your own containers and your own compute to cloud manage agents, which

Chúng tôi vừa phát hành hôm qua khả năng mang container và compute của riêng bạn đến cloud manage agents, điều này

14:15

means that you can actually execute the agent for the tools and the actual ability for the agents actions to work within your own infrastructure and not just enthropics manage infrastructure.

có nghĩa là bạn thực sự có thể thực thi đại lý cho các công cụ và khả năng hành động của đại lý trong cơ sở hạ tầng của riêng bạn, không chỉ cơ sở hạ tầng do Anthropic quản lý.

14:24

So that's an exciting update that just came to Code with Claude London.

Đó là một cập nhật thú vị vừa đến với Code with Claude London.

14:28

Um, but for today's purposes, you can actually see if we copy over this environment configuration here.

Nhưng cho mục đích hôm nay, bạn thực sự có thể thấy nếu chúng ta sao chép cấu hình môi trường này ở đây.

14:34

We're defining our SR agent to work within the entropic cloud.

Chúng ta đang định nghĩa đại lý SR của mình hoạt động trong đám mây Anthropic.

14:37

And here we're just giving it unrestricted access from a networking perspective.

Và ở đây chúng ta chỉ cấp cho nó quyền truy cập không hạn chế từ góc độ mạng.

14:42

We've made cloud manage agents very composable and very

Chúng tôi đã làm cho cloud manage agents rất linh hoạt và rất

14:45

customizable.

Có thể tùy chỉnh.

14:45

So this networking list here is actually an allow list.

Vì vậy, danh sách mạng này thực chất là danh sách cho phép.

14:48

If you want your agent to only be able to access specific sites and URLs, you can restrict this down as much as you would like.

Nếu bạn muốn agent của mình chỉ có thể truy cập các trang web và URL cụ thể, bạn có thể giới hạn nó nhiều tùy thích.

14:56

We also released um clawed MCP tunnels which actually also gives you the ability to run MCP servers within a private environment instead of on the public network as well.

Chúng tôi cũng đã phát hành các đường hầm MCP có móng vuốt, thực sự cho phép bạn chạy máy chủ MCP trong môi trường riêng tư thay vì trên mạng công cộng.

15:06

So again, just

Vì vậy, một lần nữa, chỉ

15:07

offering various components to help you make sure that your agents are as production ready and as secure as possible.

Cung cấp nhiều thành phần khác nhau để giúp bạn đảm bảo rằng các agent của bạn sẵn sàng cho sản xuất và an toàn nhất có thể.

15:14

So now that we've defined this environment here, let's flip back over and we just saw that environment piece come into our agent as well.

Bây giờ chúng ta đã định nghĩa môi trường này, hãy quay lại và chúng ta vừa thấy phần môi trường đó xuất hiện trong agent của mình.

15:21

So here we have unique identifier for an agent and an environment.

Ở đây chúng ta có mã định danh duy nhất cho agent và môi trường.

15:25

And that will next help us as we go along with setting up the rest of our agents as we start to get into session definitions here.

Và điều đó sẽ giúp chúng ta tiếp theo khi thiết lập phần còn lại của agent khi bắt đầu vào định nghĩa phiên ở đây.

15:33

The next thing that we have to do is actually give our agent the ability to look at logs with cloud code.

Điều tiếp theo chúng ta cần làm là thực sự cho agent khả năng xem nhật ký với cloud code.

15:39

That is the one of the first times where we realized the power of giving the agent access to files and a file system.

Đó là một trong những lần đầu tiên chúng tôi nhận ra sức mạnh của việc cho agent truy cập vào tệp và hệ thống tệp.

15:45

Here with cloud manage agents, we're leveraging essentially the files API by uploading the metrics and logs to the agent.

Ở đây với cloud manage agents, chúng tôi đang tận dụng API tệp bằng cách tải số liệu và nhật ký lên agent.

15:51

So agent can start to run code

Vì vậy, agent có thể bắt đầu chạy mã

15:53

and process through those files.

Và xử lý các tệp đó.

15:54

So here we've attached the log here as a file for our agent.

Vì vậy, ở đây chúng tôi đã đính kèm nhật ký dưới dạng tệp cho agent của mình.

15:58

So we just also saw that populate and come through.

Vì vậy, chúng ta vừa thấy điều đó được điền vào và hiển thị.

16:02

Again here the key takeaway is as much data as you're able to give the agent um as possible is what makes it so powerful.

Một lần nữa, điểm mấu chốt ở đây là càng nhiều dữ liệu bạn có thể cung cấp cho agent càng tốt, đó là điều làm cho nó mạnh mẽ.

16:10

Context engineering is a huge portion that comes to actually making an agent powerful.

Kỹ thuật ngữ cảnh là một phần rất lớn để thực sự làm cho agent trở nên mạnh mẽ.

16:13

And this is where we see the developers spending the majority of their time working on top of primitives like cloud manage agents is managing context and managing what types of files are uploaded, how the agent processes those files.

Và đây là nơi chúng tôi thấy các nhà phát triển dành phần lớn thời gian làm việc trên các nguyên thủy như cloud manage agents, đó là quản lý ngữ cảnh và quản lý loại tệp được tải lên, cách agent xử lý các tệp đó.

16:25

These are components that you compose yourself and are very

Đây là những thành phần bạn tự xây dựng và rất

16:28

customizable on top of cloud manage agents to make it work as far and as wide as you want it to.

Có thể tùy chỉnh trên cloud manage agents để làm cho nó hoạt động xa và rộng như bạn muốn.

16:34

Okay, so now let's go ahead and start to define the session that we have here.

Được rồi, bây giờ hãy bắt đầu định nghĩa phiên mà chúng ta có ở đây.

16:38

The session is going to oops the session is going to bind the agent and the environment and also mount the log here.

Phiên sẽ gắn kết agent và môi trường và cũng gắn nhật ký ở đây.

16:46

So you can see we're passing in the agent ID, the environment ID, and the resources that we're giving to the agent.

Vì vậy, bạn có thể thấy chúng tôi đang truyền ID agent, ID môi trường và các tài nguyên mà chúng tôi cung cấp cho agent.

16:53

And this is going to give it the ability to start to actually act and interact with me as a user.

Và điều này sẽ cho phép nó bắt đầu hành động và tương tác với tôi với tư cách là người dùng.

17:00

Let's go ahead and just complete the rest of this here so that we can actually start to run our agent.

Hãy hoàn thành phần còn lại ở đây để chúng ta có thể thực sự bắt đầu chạy agent của mình.

17:05

What we want to do is now also give the ability for the agent to come in and stream responses to me as we go along.

Điều chúng ta muốn làm bây giờ là cũng cho phép agent truyền phát phản hồi cho tôi khi chúng ta tiến hành.

17:15

There we go.

Được rồi.

17:20

Okay.

Được rồi.

17:20

And the key portion here is that when our cloud manage agents runs within a single session, instead of responding in tokens in and tokens out, it actually works in units of events.

Và phần quan trọng ở đây là khi cloud manage agents chạy trong một phiên duy nhất, thay vì phản hồi bằng token vào và token ra, nó thực sự hoạt động theo đơn vị sự kiện.

17:29

Events here are things like user messages or agent tool calls, agent responses so that every event can be logged from an observability perspective as well as streamed back to the user for the user

Các sự kiện ở đây là những thứ như tin nhắn người dùng, lệnh gọi công cụ của agent, phản hồi của agent để mọi sự kiện có thể được ghi lại từ góc độ quan sát cũng như truyền phát lại cho người dùng để người dùng

17:40

to see the agent responding as it calls tools and as it starts to populate responses.

Thấy agent phản hồi khi nó gọi các công cụ và bắt đầu tạo phản hồi.

17:44

This is crucial for both a user experience perspective.

Điều này rất quan trọng từ góc độ trải nghiệm người dùng.

17:47

So user starts to see things as they come through and not just when Claude finishes an entire task.

Vì vậy, người dùng bắt đầu thấy mọi thứ khi chúng xuất hiện chứ không chỉ khi Claude hoàn thành toàn bộ nhiệm vụ.

17:52

And also from an observability perspective and cloud manage agents actually has a very neat console built in for looking at

Và cũng từ góc độ quan sát, cloud manage agents thực sự có một bảng điều khiển rất gọn gàng được tích hợp để xem

17:59

everything the agent is doing and a lot of observability features built into cloud manage agents.

Mọi thứ agent đang làm và nhiều tính năng quan sát được tích hợp trong cloud manage agents.

18:05

Okay, the last step here of just being able to put our agent together.

Được rồi, bước cuối cùng để có thể kết hợp agent của chúng ta lại với nhau.

18:08

You can start to see that our agent is actually starting to come together.

Bạn có thể bắt đầu thấy rằng agent của chúng ta thực sự đang bắt đầu hình thành.

18:12

We can start to create sessions and we can start to do things.

Chúng ta có thể bắt đầu tạo phiên và bắt đầu làm mọi thứ.

18:15

Um, what we're actually going to see here though is that if I send something like hi to the agent, it can respond.

Tuy nhiên, điều chúng ta thực sự sẽ thấy ở đây là nếu tôi gửi thứ gì đó như 'xin chào' cho agent, nó có thể trả lời.

18:21

Um, but it doesn't actually have the ability to be able to call the

Nhưng nó thực sự chưa có khả năng gọi các

18:25

various tools that we want it to yet because we haven't connected that locally to what we want the agent to do when it calls tools like get metrics.

Công cụ khác nhau mà chúng ta muốn vì chúng ta chưa kết nối cục bộ với những gì chúng ta muốn agent làm khi nó gọi các công cụ như get metrics.

18:33

So the agent is ready.

Vì vậy, agent đã sẵn sàng.

18:35

The agent is actually defined on the server side already.

Agent thực sự đã được định nghĩa ở phía máy chủ.

18:38

The missing piece here is just to finally give it our local tools.

Phần còn thiếu chỉ là cuối cùng cung cấp cho nó các công cụ cục bộ của chúng ta.

18:42

So the agent can start to take action here on my computer or my infrastructure.

Vì vậy, agent có thể bắt đầu hành động trên máy tính hoặc cơ sở hạ tầng của tôi.

18:47

Okay, so now that we have that copied over, the agent is going to be able to start to call get metrics, get recent deploys, get diffs, so it can truly start to take action in terms of helping us debug this incident.

Được rồi, bây giờ chúng ta đã sao chép xong, agent sẽ có thể bắt đầu gọi get metrics, get recent deploys, get diffs, để nó thực sự có thể bắt đầu hành động trong việc giúp chúng ta gỡ lỗi sự cố này.

19:00

The last thing I'm going to do here is also just to make sure I give my agent the ability to delete sessions so that when I come in, I can start to hit this delete button and delete sessions as I compose my agent.

Điều cuối cùng tôi sẽ làm ở đây là cũng đảm bảo cho agent khả năng xóa phiên để khi tôi vào, tôi có thể bắt đầu nhấn nút xóa và xóa các phiên khi tôi xây dựng agent của mình.

19:14

And this is also crucial from a security perspective.

Và điều này cũng rất quan trọng từ góc độ bảo mật.

19:17

If you want to make sure that you know nothing is being retained for sessions that you don't want on the

Nếu bạn muốn đảm bảo rằng không có gì được lưu giữ cho các phiên mà bạn không muốn trên

19:24

cloud or on your infrastructure, you can actually just come in and proactively manage how sessions are deleted.

Trên đám mây hoặc hạ tầng của bạn, bạn có thể chủ động quản lý cách các phiên bị xóa.

19:29

And once they're deleted, they will be also removed from every single log aspect here.

Và khi chúng bị xóa, chúng cũng sẽ bị loại bỏ khỏi mọi khía cạnh nhật ký ở đây.

19:34

So that you can truly make sure that whatever data you want managed is managed actively and proactively via cloud manage agents.

Để bạn thực sự có thể đảm bảo rằng bất kỳ dữ liệu nào bạn muốn quản lý đều được quản lý một cách chủ động thông qua các tác nhân quản lý đám mây.

19:42

Okay.

Được rồi.

19:42

So with that all set up, let's go ahead and give our agent a test run here.

Vậy với tất cả đã được thiết lập, hãy cùng chạy thử tác nhân của chúng ta.

19:50

I'm going to click the new session here and I'm going to just go ahead and ask the agent to debug my incident for me.

Tôi sẽ nhấp vào phiên mới ở đây và tôi sẽ yêu cầu tác nhân gỡ lỗi sự cố cho tôi.

20:04

You can see here that because we gave the agent access to tools like sandboxing and bash and get recent deploys, the agent is starting to really take powerful actions on my behalf here.

Bạn có thể thấy ở đây vì chúng tôi đã cấp cho tác nhân quyền truy cập vào các công cụ như sandboxing, bash và get recent deploys, tác nhân bắt đầu thực hiện các hành động mạnh mẽ thay mặt tôi.

20:15

It's come in.

Nó đã vào.

20:15

It's run the sandbox command.

Nó đã chạy lệnh sandbox.

20:17

We can open this up and see what this looks like.

Chúng ta có thể mở cái này ra và xem nó trông như thế nào.

20:20

Um, we can see that it's actually coming in and looking at what the logs were added to.

Ừm, chúng ta có thể thấy rằng nó thực sự đang xem xét các nhật ký đã được thêm vào.

20:25

It's then come in and called this tool called get recent deploys which is coming in and returning results like what the recent deployments look like, the metrics.

Sau đó, nó đã gọi công cụ có tên get recent deploys, công cụ này trả về kết quả như các bản triển khai gần đây trông như thế nào, các số liệu.

20:34

We can see this from a user

Chúng ta có thể thấy điều này từ góc nhìn của người dùng

20:36

perspective if you click on the tabs here.

nếu bạn nhấp vào các tab ở đây.

20:38

But this is essentially the data that's actually being passed into the agent via these local tools that we define.

Nhưng về cơ bản, đây là dữ liệu thực sự được truyền vào tác nhân thông qua các công cụ cục bộ mà chúng ta đã xác định.

20:46

And again, we can start to see the magic of that streaming that we implemented come through as well because we saw these tools come in as they were being called from the agent.

Và một lần nữa, chúng ta có thể bắt đầu thấy sự kỳ diệu của tính năng phát trực tuyến mà chúng ta đã triển khai cũng xuất hiện vì chúng ta thấy các công cụ này xuất hiện khi chúng được gọi từ tác nhân.

20:54

We saw the user prompt come in as soon as I prompted it to the agent.

Chúng ta thấy lời nhắc của người dùng xuất hiện ngay khi tôi gửi nó đến tác nhân.

20:59

And the agent is actually streaming responses to me as it comes through with more token response in outputs as well as it calls more tool

Và tác nhân thực sự đang phản hồi trực tiếp cho tôi khi nó tạo ra nhiều token phản hồi hơn trong đầu ra cũng như khi nó gọi thêm công cụ

21:06

as it goes along as well.

khi nó tiếp tục.

21:11

Okay.

Được rồi.

21:11

Okay.

Được rồi.

21:11

So, what we're going to start to see is the agent being able to help us actually debug what's going on here, which we can see here that the incident is that there's something going wrong with our P99 latency that seems to be 10 times above the baseline.

Vì vậy, những gì chúng ta sẽ bắt đầu thấy là tác nhân có thể giúp chúng ta thực sự gỡ lỗi những gì đang xảy ra, mà chúng ta có thể thấy ở đây rằng sự cố là có điều gì đó không ổn với độ trễ P99 của chúng ta, dường như cao gấp 10 lần so với đường cơ sở.

21:25

The agent is coming in and debugging everything for us.

Tác nhân đang vào và gỡ lỗi mọi thứ cho chúng ta.

21:28

Looks like it's taking another second there.

Có vẻ như nó đang mất thêm một giây nữa.

21:30

So some of the major design decisions that come in here when you're designing a real site reliability u site incident response management agent for your systems is to think deeply about the various components that go in and the various MCP servers and skills that you want to give your agent.

Vì vậy, một số quyết định thiết kế chính khi bạn thiết kế một tác nhân quản lý phản hồi sự cố thực sự cho hệ thống của mình là suy nghĩ sâu sắc về các thành phần khác nhau và các máy chủ MCP cũng như kỹ năng khác nhau mà bạn muốn cung cấp cho tác nhân của mình.

21:44

Here we've defined of course a very simple agent but for lots of the S sur agents

Ở đây, tất nhiên chúng tôi đã xác định một tác nhân rất đơn giản nhưng đối với nhiều tác nhân S sur

21:49

that we build we actually also think about things like how can we give the agent a skill to actually execute and run runbooks.

mà chúng tôi xây dựng, chúng tôi thực sự cũng nghĩ về những thứ như làm thế nào để cung cấp cho tác nhân một kỹ năng thực sự thực thi và chạy các runbook.

21:55

Runbooks are things where as teams debug incidents, they note down and document how they debug that incident so that they can do it again for a future session or a future incident, you want to give the agent same access to the materials that you

Runbook là những thứ mà khi các nhóm gỡ lỗi sự cố, họ ghi chú và tài liệu hóa cách họ gỡ lỗi sự cố đó để họ có thể làm lại cho một phiên hoặc sự cố trong tương lai, bạn muốn cung cấp cho tác nhân quyền truy cập vào các tài liệu giống như bạn

22:09

would have as a human developer.

sẽ có với tư cách là một nhà phát triển con người.

22:11

So something like a runbook skill where the agent is actually able to look at example runbooks or fetch other post-mortems from other incident responses.

Vì vậy, một thứ như kỹ năng runbook nơi tác nhân thực sự có thể xem các runbook mẫu hoặc tìm nạp các bài kiểm tra sau sự cố từ các phản hồi sự cố khác.

22:20

That is something that is very powerful for the agent to be able to understand how to work within your systems and debug incidents successfully.

Đó là điều rất mạnh mẽ để tác nhân có thể hiểu cách làm việc trong hệ thống của bạn và gỡ lỗi sự cố thành công.

22:29

Okay, let's go ahead and take a look at the agent here.

Được rồi, hãy cùng xem xét tác nhân ở đây.

22:34

Let's see.

Để xem nào.

22:38

I'm going to go ahead and just start a new session here to make sure everything is working well.

Tôi sẽ bắt đầu một phiên mới ở đây để đảm bảo mọi thứ hoạt động tốt.

22:44

All right, let's say I debug my incident for me.

Được rồi, hãy nói tôi gỡ lỗi sự cố của tôi cho tôi.

22:49

Okay, this one works.

Được rồi, cái này hoạt động.

22:51

Has anyone able to get it working on their laptops better than I have on the screen?

Có ai làm cho nó hoạt động trên laptop của họ tốt hơn tôi trên màn hình không?

22:59

Okay, we got some success in the room.

Được rồi, chúng ta đã có một số thành công trong phòng.

23:03

So hopefully this will work as it goes along.

Hy vọng điều này sẽ hoạt động khi nó tiếp tục.

23:08

Okay, looks like we are streaming.

Được rồi, có vẻ như chúng ta đang phát trực tuyến.

23:11

We're getting everything in.

Chúng ta đang nhận mọi thứ vào.

23:13

Could the agent go?

Tác nhân có thể đi không?

23:15

Okay, agent is checking logs, debugging everything.

Được rồi, tác nhân đang kiểm tra nhật ký, gỡ lỗi mọi thứ.

23:20

So, if we just also look through some of the data here as the agent is working, the data that's actually being passed in for our agent here is all local just for our sakes of our purposes for our demo and our workshop that we're running today.

Vì vậy, nếu chúng ta cũng xem qua một số dữ liệu ở đây khi tác nhân đang làm việc, dữ liệu thực sự được truyền vào cho tác nhân của chúng ta ở đây đều là cục bộ chỉ vì mục đích của chúng ta cho bản demo và hội thảo hôm nay.

23:32

But with the ability for you to run your agents within a container and infrastructure, you can start to see how things like your get metrics tool that

Nhưng với khả năng bạn chạy các tác nhân của mình trong một container và hạ tầng, bạn có thể bắt đầu thấy cách những thứ như công cụ get metrics của bạn

23:39

are currently pulling from JSON can be easily moved to something like data dog or other production systems for your infrastructure from that perspective.

hiện đang lấy từ JSON có thể dễ dàng chuyển sang thứ gì đó như data dog hoặc các hệ thống sản xuất khác cho hạ tầng của bạn từ góc độ đó.

23:52

So everything that you see here that is currently local can be something that's easily movable into infrastructure as well via cloud manage agents.

Vì vậy, mọi thứ bạn thấy ở đây hiện là cục bộ đều có thể dễ dàng di chuyển vào hạ tầng thông qua các tác nhân quản lý đám mây.

24:05

Okay, let's all cross our fingers and see if this run works.

Được rồi, hãy cùng chắp tay cầu nguyện và xem liệu lần chạy này có thành công không.

24:17

Oh, there we go.

Ồ, được rồi.

24:18

Success.

Thành công.

24:18

Okay, so the agent has come in.

Được rồi, agent đã vào cuộc.

24:20

You can see here that if we scroll through all the tool calls, everything is persisted in the cloud.

Bạn có thể thấy ở đây rằng nếu chúng ta cuộn qua tất cả các lệnh gọi công cụ, mọi thứ đều được lưu trữ trên đám mây.

24:26

From a logs perspective, all of this will also be logged in the observability console.

Từ góc độ nhật ký, tất cả những điều này cũng sẽ được ghi lại trong bảng điều khiển quan sát.

24:30

And then the agent has come back to us with the incident response.

Và sau đó agent đã quay lại với chúng ta với phản hồi về sự cố.

24:34

Here it says that this seems to be caused by a database pool exhaustion.

Ở đây nó nói rằng điều này dường như là do cạn kiệt pool cơ sở dữ liệu.

24:38

Seems like a commit that someone added here from Alice to refactor the order summary builder introduced a query that then caused the pool resources to be exhausted.

Có vẻ như một commit mà ai đó đã thêm từ Alice để tái cấu trúc trình xây dựng tóm tắt đơn hàng đã giới thiệu một truy vấn dẫn đến việc tài nguyên pool bị cạn kiệt.

24:47

So it's looking and giving us the exact everything that went wrong from all the metrics they were able to call.

Vì vậy, nó đang xem xét và cung cấp cho chúng ta chính xác mọi thứ đã sai từ tất cả các số liệu mà nó có thể gọi.

24:54

It ruled out various other causes and then it's also giving us recommended actions to take.

Nó đã loại trừ nhiều nguyên nhân khác và sau đó cũng đưa ra các hành động được khuyến nghị để thực hiện.

25:00

Another key component

Một thành phần quan trọng khác

25:01

here in a lot of other incident response management agents that we built is actually giving the agent to actually go ahead and fix everything that it's been able to find.

Ở đây, trong nhiều agent quản lý phản hồi sự cố khác mà chúng tôi đã xây dựng, thực sự là cho phép agent tự động sửa chữa mọi thứ mà nó đã tìm thấy.

25:10

By giving the agent then access to something like claw code for instance.

Bằng cách cấp cho agent quyền truy cập vào thứ gì đó như claw code chẳng hạn.

25:13

You can actually imagine this agent can then go into your codebase, suggest fixes, put up a PR, and essentially do everything that it needs

Bạn thực sự có thể tưởng tượng agent này có thể đi vào codebase của bạn, đề xuất sửa lỗi, tạo PR và về cơ bản làm mọi thứ cần thiết

25:21

to do to help you go from initial incident all the way to fixing the root cause.

Để giúp bạn đi từ sự cố ban đầu đến việc sửa nguyên nhân gốc rễ.

25:25

So again, here for demo purposes, we're stopping at just the agent giving us the recommended actions.

Vì vậy, một lần nữa, ở đây cho mục đích demo, chúng tôi dừng lại ở việc agent chỉ đưa ra các hành động được khuyến nghị.

25:30

But I want you all to imagine the possibilities of where this can go if we give our agent more tools, more ability to take actions, access to your codebase, ability to put up PRs, ability to fix

Nhưng tôi muốn tất cả các bạn tưởng tượng về khả năng có thể đạt được nếu chúng ta cung cấp cho agent nhiều công cụ hơn, nhiều khả năng hành động hơn, quyền truy cập vào codebase, khả năng tạo PR, khả năng sửa chữa

25:41

incidents, so that you as a human developer can just become the oversight and watch over the agents as they take action and you no longer have to go through and do manual steps like actually following the agents instructions here to fix the root cause of the incident.

sự cố, để bạn với tư cách là nhà phát triển con người chỉ cần trở thành người giám sát và theo dõi các agent khi chúng hành động và bạn không còn phải thực hiện các bước thủ công như thực sự làm theo hướng dẫn của agent ở đây để sửa nguyên nhân gốc rễ của sự cố.

25:56

So another key component of what we've built here on cloud manage agents is session persistence.

Vì vậy, một thành phần quan trọng khác của những gì chúng tôi đã xây dựng ở đây trên cloud manage agents là tính bền vững của phiên.

26:00

So when I come in and hit hard refresh on the screen, we're seeing that the agent is listing the sessions and everything is retained from all the sessions that we just ran.

Vì vậy, khi tôi vào và nhấn làm mới cứng trên màn hình, chúng ta thấy rằng agent đang liệt kê các phiên và mọi thứ đều được giữ lại từ tất cả các phiên mà chúng ta vừa chạy.

26:11

We also have the previous sessions that we ran all retained in the cloud.

Chúng tôi cũng có các phiên trước đó mà chúng tôi đã chạy đều được giữ lại trên đám mây.

26:14

Looks like this one actually came back to us as well.

Có vẻ như phiên này thực sự đã quay lại với chúng ta.

26:17

Um and the previous sessions where we just said hi everything is retained in the cloud and we didn't have to deal with things like database and deployment of our agent and moving it from our laptops to production everything is already maintained server

Ừm và các phiên trước đó nơi chúng ta chỉ nói xin chào, mọi thứ đều được giữ lại trên đám mây và chúng ta không phải xử lý những thứ như cơ sở dữ liệu và triển khai agent của mình và di chuyển nó từ máy tính xách tay lên môi trường sản xuất, mọi thứ đã được duy trì ở phía máy chủ.

26:29

side.

phía.

26:29

We can also see the ability to delete sessions come in.

Chúng ta cũng có thể thấy khả năng xóa phiên.

26:33

So I've run that delete and now we have that um running the session here.

Vì vậy, tôi đã chạy lệnh xóa đó và bây giờ chúng ta có ừm đang chạy phiên ở đây.

26:38

Now we have that removed from our list here.

Bây giờ chúng ta đã xóa nó khỏi danh sách ở đây.

26:41

Another thing that I want you to take a note of which we'll talk through a little bit in just a second is the states of the session.

Một điều khác mà tôi muốn các bạn lưu ý, chúng ta sẽ nói qua một chút ngay sau đây, đó là trạng thái của phiên.

26:48

Here we can see that the sessions are now idle just now as they were running they were in a running state.

Ở đây chúng ta có thể thấy rằng các phiên hiện đang ở trạng thái không hoạt động, trong khi trước đó khi chúng đang chạy, chúng ở trạng thái đang chạy.

26:53

We have the sessions managed by state here as part of that same durability and maintenance and reliability of the session.

Chúng ta có các phiên được quản lý bởi trạng thái ở đây như một phần của cùng tính bền vững, bảo trì và độ tin cậy của phiên.

26:59

So when I

Vì vậy, khi tôi

27:00

come in and ask the agent something else like who are you?

vào và hỏi agent điều gì khác như bạn là ai?

27:04

It's able to easily resume the session and execute as it goes along within that same session window.

Nó có thể dễ dàng tiếp tục phiên và thực thi khi nó tiến hành trong cùng một cửa sổ phiên đó.

27:10

So state management here is really important to how manage agents works under the hood.

Vì vậy, quản lý trạng thái ở đây thực sự quan trọng đối với cách thức hoạt động của manage agents bên trong.

27:16

All right.

Được rồi.

27:18

So now as if we just take a quick step back and look through everything we were able to accomplish.

Vì vậy, bây giờ nếu chúng ta lùi lại một bước nhanh và nhìn lại mọi thứ chúng ta đã đạt được.

27:24

We started with an empty agent here just built on a couple of primitives on cloud manage agents.

Chúng ta bắt đầu với một agent trống chỉ được xây dựng trên một vài nguyên thủy trên cloud manage agents.

27:30

We then went and defined the agent definition, the persona, the capabilities.

Sau đó chúng ta đã đi định nghĩa định nghĩa agent, tính cách, khả năng.

27:33

We gave the agent an environment.

Chúng ta đã cung cấp cho agent một môi trường.

27:35

We gave the agent data and context to operate over.

Chúng ta đã cung cấp cho agent dữ liệu và ngữ cảnh để hoạt động.

27:39

We then gave the agent sessions combining the agent definitions to an environment so the agent can think through which tools to call from an agent loop perspective and then it can actually call those tools and take action on our behalf.

Sau đó chúng ta đã cung cấp cho agent các phiên kết hợp các định nghĩa agent với một môi trường để agent có thể suy nghĩ về việc gọi công cụ nào từ góc độ vòng lặp agent và sau đó nó thực sự có thể gọi các công cụ đó và hành động thay mặt chúng ta.

27:50

We then came in and stream the responses to the user into our logs implemented some local tools as well as the ability to delete

Sau đó chúng ta đã vào và truyền phát các phản hồi đến người dùng vào nhật ký của chúng ta, triển khai một số công cụ cục bộ cũng như khả năng xóa

27:57

sessions.

các phiên.

27:57

And within this Streamllet app here, we saw how that actually affected from a front-end perspective how our agent was actually able to be presented to our users by adding all of these primitives together.

Và trong ứng dụng Streamllet này, chúng ta đã thấy điều đó thực sự ảnh hưởng như thế nào từ góc độ giao diện người dùng đến cách agent của chúng ta thực sự có thể được trình bày cho người dùng bằng cách thêm tất cả các nguyên thủy này lại với nhau.

28:11

So now let's go ahead and move back over to the slides to do a quick recap and talk through some of the lessons of what we learned about how cloud manage agents works under the hood.

Vì vậy, bây giờ chúng ta hãy quay lại slide để tổng kết nhanh và nói qua một số bài học về những gì chúng ta đã học được về cách thức hoạt động của cloud manage agents bên trong.

28:19

But hopefully for all of you who are able to actually build on your laptops, you all were able to just build a site [reliability agent].

Nhưng hy vọng rằng đối với tất cả các bạn có thể thực sự xây dựng trên máy tính xách tay của mình, các bạn đã có thể xây dựng một agent độ tin cậy trang web.

28:25

So congrats to you all.

Vậy chúc mừng tất cả các bạn.

28:28

But let's go ahead and dive in a little bit here into understanding what actually happened when we put all those pieces together.

Nhưng chúng ta hãy đi sâu một chút vào đây để hiểu điều gì thực sự đã xảy ra khi chúng ta đặt tất cả các mảnh ghép đó lại với nhau.

28:34

The first thing we saw is that we saw sessions speak and events and not responses and in tokens and um tokens out from a request response perspective like we see typical with things like message API or other APIs that we see with cloud manage agents.

Điều đầu tiên chúng ta thấy là chúng ta thấy các phiên nói về sự kiện và không phải phản hồi và token vào và token ra từ góc độ yêu cầu-phản hồi như chúng ta thấy điển hình với những thứ như message API hoặc các API khác mà chúng ta thấy với cloud manage agents.

28:48

Instead of just having a request response, we actually have events appended to logs.

Thay vì chỉ có một yêu cầu-phản hồi, chúng ta thực sự có các sự kiện được thêm vào nhật ký.

28:51

Again, this is a huge portion of why Cloud Manage agents is so reliable and secure because events are coming through and just added in to an existing session logs so that it's easy to then resume a session and kick back off where you left off and it's easy to then come in and look at everything from

Một lần nữa, đây là một phần lớn lý do tại sao Cloud Manage agents lại đáng tin cậy và an toàn vì các sự kiện được truyền qua và chỉ được thêm vào nhật ký phiên hiện có để dễ dàng tiếp tục phiên và bắt đầu lại từ nơi bạn đã dừng và dễ dàng vào và xem mọi thứ từ

29:08

a log perspective.

góc độ nhật ký.

29:09

This is also really important from a reliability perspective when we separate the hands from the brain of the agent that if a container goes down, we can just spin that container back up again and we don't have to restart the entire agent loop alongside that container.

Điều này cũng thực sự quan trọng từ góc độ độ tin cậy khi chúng ta tách biệt các công cụ khỏi bộ não của tác nhân: nếu một container gặp sự cố, chúng ta có thể khởi động lại container đó và không cần phải khởi động lại toàn bộ vòng lặp tác nhân cùng với container đó.

29:25

The next thing here is that we saw the ability to implement local tools and we implemented in our workshop these local tools defined in JSON and loading them in via our local files here.

Điều tiếp theo ở đây là chúng ta đã thấy khả năng triển khai các công cụ cục bộ và chúng ta đã triển khai trong hội thảo của mình các công cụ cục bộ được định nghĩa bằng JSON và tải chúng vào thông qua các tệp cục bộ ở đây.

29:36

We were then actually able to see how with our cloud manage agents harness, the execution of the agent is completely separate from the agent loop.

Sau đó, chúng ta thực sự có thể thấy cách với harness quản lý tác nhân trên đám mây của chúng ta, việc thực thi tác nhân hoàn toàn tách biệt khỏi vòng lặp tác nhân.

29:44

We defined everything that executed locally on our

Chúng ta đã định nghĩa mọi thứ được thực thi cục bộ trên

29:47

laptops and our scripts.

máy tính xách tay và tập lệnh của chúng ta.

29:48

Um, and our agent loop ran on the cloud inside of Anthropics managed infrastructure.

Ừm, và vòng lặp tác nhân của chúng ta chạy trên đám mây bên trong cơ sở hạ tầng được quản lý của Anthropic.

29:54

Again, here especially with what we just released with bring your own compute and bring your own sandboxing.

Một lần nữa, đặc biệt là với những gì chúng ta vừa phát hành về 'mang theo tính toán của riêng bạn' và 'mang theo sandboxing của riêng bạn'.

29:58

Here you can swap out where you want that agent to execute its tools in your own infrastructure or on anthropic managed infrastructure but within your own environments in your own containers as well as you spin them up.

Ở đây bạn có thể hoán đổi nơi bạn muốn tác nhân đó thực thi các công cụ của nó trong cơ sở hạ tầng của riêng bạn hoặc trên cơ sở hạ tầng được quản lý bởi Anthropic nhưng trong môi trường của riêng bạn trong các container của riêng bạn khi bạn khởi động chúng.

30:09

moving from things like loading our tools in from

Chuyển từ việc tải các công cụ của chúng ta từ

30:12

JSON into anywhere you want to have your tools run like a data dog client using the same wire protocol making it very easy to then go from initially building the agent for cloud manage agents to then actually producing it and deploying it on production ready infrastructure.

JSON sang bất cứ nơi nào bạn muốn các công cụ của mình chạy, như một máy khách Data Dog sử dụng cùng một giao thức dây, giúp bạn dễ dàng chuyển từ việc xây dựng tác nhân ban đầu cho quản lý tác nhân trên đám mây sang sản xuất và triển khai nó trên cơ sở hạ tầng sẵn sàng cho sản xuất.

30:31

Next thing we saw here as we thought about how our sessions are being streamed into our users and what we see from a front-end perspective is that we saw when our events were being able to be streamed to our users.

Điều tiếp theo chúng ta thấy ở đây khi chúng ta suy nghĩ về cách các phiên của chúng ta được truyền trực tuyến đến người dùng và những gì chúng ta thấy từ góc độ giao diện người dùng là chúng ta thấy khi các sự kiện của chúng ta có thể được truyền trực tuyến đến người dùng.

30:42

These were in the forms of actually things we care about as a user.

Những điều này ở dạng những thứ chúng ta thực sự quan tâm với tư cách là người dùng.

30:46

We saw events come in and we saw the agents ability to actually log everything to its

Chúng ta đã thấy các sự kiện đến và thấy khả năng của tác nhân để ghi lại mọi thứ vào

30:51

observability console.

bảng điều khiển quan sát của nó.

30:51

And another key thing here is that as we think about how sessions are controlled in cloud manage agents, you can actually think about the state as being something very powerful when you can start to take action on behalf of events.

Và một điểm quan trọng khác ở đây là khi chúng ta nghĩ về cách các phiên được kiểm soát trong quản lý tác nhân trên đám mây, bạn thực sự có thể coi trạng thái là một thứ rất mạnh mẽ khi bạn có thể bắt đầu hành động thay mặt cho các sự kiện.

31:05

What that means is that we saw a couple of key states for sessions in CMA or cloud manage agents.

Điều đó có nghĩa là chúng ta đã thấy một số trạng thái chính cho các phiên trong CMA (quản lý tác nhân trên đám mây).

31:11

We went from idle to running rescheduling if the agent needs to retry anything or terminated if any of the sessions fail.

Chúng ta đã chuyển từ trạng thái không hoạt động sang đang chạy, lên lịch lại nếu tác nhân cần thử lại bất cứ điều gì, hoặc kết thúc nếu bất kỳ phiên nào thất bại.

31:18

And so the agent is able to restart from a reliability perspective, a resumability perspective, but also it can actually do some very powerful things.

Và do đó, tác nhân có thể khởi động lại từ góc độ độ tin cậy, khả năng tiếp tục, nhưng nó cũng có thể thực hiện một số điều rất mạnh mẽ.

31:26

For instance,

Ví dụ,

31:27

you can actually have a web hook run and when an event happens from a web hook, the agent receives that web hook in and can then do something like resume a session or kickstart a specific state based on external events.

Bạn thực sự có thể chạy một webhook và khi một sự kiện xảy ra từ webhook, tác nhân nhận webhook đó và sau đó có thể thực hiện việc như tiếp tục một phiên hoặc khởi động một trạng thái cụ thể dựa trên các sự kiện bên ngoài.

31:39

So again, this powerful form of having events and sessions be the core concepts of how Claude manage agents runs means that you can make it very easy to compose

Vì vậy, một lần nữa, hình thức mạnh mẽ này của việc có các sự kiện và phiên là các khái niệm cốt lõi về cách quản lý tác nhân Claude chạy có nghĩa là bạn có thể dễ dàng kết hợp

31:48

your agent however you wanted to and have the agent listen for things that happen both internally and externally via web hooks to take actions or resume your agent as you desire.

tác nhân của bạn theo bất kỳ cách nào bạn muốn và để tác nhân lắng nghe những điều xảy ra cả bên trong và bên ngoài thông qua webhook để thực hiện hành động hoặc tiếp tục tác nhân của bạn như bạn mong muốn.

32:00

And lastly here something that we saw come through the agent that we all built for the site [reliability agent] is that everything lives in the cloud from the agent loops perspective.

Và cuối cùng, một điều chúng ta thấy thông qua tác nhân mà tất cả chúng ta đã xây dựng cho tác nhân độ tin cậy trang web là mọi thứ đều nằm trên đám mây từ góc độ vòng lặp tác nhân.

32:09

The conversation is persisted when we hard refresh the page.

Cuộc trò chuyện được duy trì khi chúng ta làm mới trang.

32:11

We saw those same sessions were maintained and we saw that if we were able to let's say exit out of the agent and come back.

Chúng ta thấy các phiên tương tự đó được duy trì và chúng ta thấy rằng nếu chúng ta có thể, giả sử, thoát khỏi tác nhân và quay lại.

32:19

We didn't have

Chúng ta không phải

32:20

to manage anything from a database perspective or wire up where the agent is stored.

quản lý bất cứ điều gì từ góc độ cơ sở dữ liệu hoặc kết nối nơi tác nhân được lưu trữ.

32:26

We were just able to have all of that persisted in the cloud.

Chúng ta chỉ có thể có tất cả những điều đó được duy trì trên đám mây.

32:31

Again making it very easy to go to production ready agents.

Một lần nữa, giúp dễ dàng chuyển sang các tác nhân sẵn sàng cho sản xuất.

32:36

And lastly here I just want to talk you through we just built the very basic form of cloud manage agents.

Và cuối cùng, tôi chỉ muốn nói với bạn rằng chúng ta vừa xây dựng hình thức cơ bản nhất của quản lý tác nhân trên đám mây.

32:41

We saw what was possible with just the very simple primitives that we all built with the basic level of what you can do with cloud manage agents.

Chúng ta đã thấy những gì có thể với các nguyên thủy rất đơn giản mà tất cả chúng ta đã xây dựng với mức độ cơ bản của những gì bạn có thể làm với quản lý tác nhân trên đám mây.

32:47

And already there we were able to have something that would usually take us a lot of time to spin up from a production perspective.

Và ngay tại đó, chúng ta đã có thể có một thứ thường mất nhiều thời gian để khởi động từ góc độ sản xuất.

32:54

All of compaction, caching, tool calling, all of that was handled for us there via cloud manage agents.

Tất cả việc nén, lưu cache, gọi công cụ, tất cả đều được xử lý cho chúng ta thông qua quản lý tác nhân trên đám mây.

32:59

And even if we wanted to go beyond that to make our agent much more powerful, we could do things like add in skills, add in sub aents, add in memory, add in outcomes.

Và ngay cả khi chúng ta muốn vượt xa hơn để làm cho tác nhân của mình mạnh mẽ hơn nhiều, chúng ta có thể làm những việc như thêm kỹ năng, thêm tác nhân phụ, thêm bộ nhớ, thêm kết quả.

33:09

These are all core components that we offer to developers out of the box from cloud manage agents.

Đây đều là các thành phần cốt lõi mà chúng tôi cung cấp cho các nhà phát triển ngay từ đầu từ quản lý tác nhân trên đám mây.

33:15

I'll just

Tôi sẽ chỉ

33:16

briefly talk you through a couple of the key components, but want to encourage everyone to check out our documentation, what's publicly available in cloud manage agents.

nói sơ qua với bạn về một vài thành phần chính, nhưng muốn khuyến khích mọi người xem tài liệu của chúng tôi, những gì có sẵn công khai trong quản lý tác nhân trên đám mây.

33:24

Attend the session after this one on dreaming to dive in deeper onto these topics.

Tham dự phiên sau phiên này về 'dreaming' để đi sâu hơn vào các chủ đề này.

33:29

Sub agents or multi- aents is a way for you to have an orchestrator agent um spin up context with other agents so that you can manage it from a context engineering perspective where sub agents can then handle tasks and have their own context windows and contribute back to the main agent making it much more powerful from a parallelization perspective as well as the ability for

Tác nhân phụ hoặc đa tác nhân là một cách để bạn có một tác nhân điều phối khởi tạo ngữ cảnh với các tác nhân khác để bạn có thể quản lý nó từ góc độ kỹ thuật ngữ cảnh, nơi các tác nhân phụ sau đó có thể xử lý các tác vụ và có cửa sổ ngữ cảnh riêng của chúng và đóng góp trở lại tác nhân chính, làm cho nó mạnh mẽ hơn nhiều từ góc độ song song hóa cũng như khả năng

33:48

context management.

quản lý ngữ cảnh.

33:48

Memory is something that's always very important as we're building agents.

Bộ nhớ là thứ luôn rất quan trọng khi chúng ta xây dựng các tác nhân.

33:51

I hear a lot of questions about how you can build self-improving agents or agents that learn from user corrections, agents that start to remember user preferences.

Tôi nghe rất nhiều câu hỏi về cách bạn có thể xây dựng các tác nhân tự cải thiện hoặc các tác nhân học hỏi từ các chỉnh sửa của người dùng, các tác nhân bắt đầu nhớ các tùy chọn của người dùng.

34:00

That's where we're offering memory and a dreaming service for cloud manage agents out of the box.

Đó là nơi chúng tôi cung cấp bộ nhớ và dịch vụ 'dreaming' cho quản lý tác nhân trên đám mây ngay từ đầu.

34:04

What dreaming means for manage agents is that Claude can actually come in and also look through its own memory logs and determine what to keep and determine how it can actually start to memorize and manage context for its own memory.

'Dreaming' có nghĩa là đối với các tác nhân được quản lý, Claude thực sự có thể đến và xem xét các nhật ký bộ nhớ của chính nó và xác định những gì cần giữ lại và xác định cách nó thực sự có thể bắt đầu ghi nhớ và quản lý ngữ cảnh cho bộ nhớ của chính nó.

34:16

So it can actually be able to really accurately

Vì vậy, nó thực sự có thể

34:19

remember which parts of your user preferences matter and which part of user corrections you want to retain for future sessions you run on that same agent.

nhớ chính xác phần nào trong các tùy chọn của người dùng là quan trọng và phần nào trong các chỉnh sửa của người dùng bạn muốn giữ lại cho các phiên trong tương lai bạn chạy trên cùng một tác nhân đó.

34:27

Outcomes is another one of my favorites where for cloud manage agents.

Kết quả là một trong những mục yêu thích khác của tôi đối với quản lý tác nhân trên đám mây.

34:31

This means that you can actually define a rubric for your agent outcomes.

Điều này có nghĩa là bạn thực sự có thể định nghĩa một tiêu chí cho kết quả của tác nhân.

34:34

So you can start to think of your agents tasks as something where you want the agent to reach a desired outcome instead of just executing calls and doing things on your behalf but not associating that to a result that you want.

Vì vậy, bạn có thể bắt đầu coi các tác vụ của tác nhân như một thứ mà bạn muốn tác nhân đạt được một kết quả mong muốn thay vì chỉ thực thi các lệnh gọi và làm mọi việc thay mặt bạn nhưng không liên kết điều đó với một kết quả mà bạn muốn.

34:46

So with outcomes, you can define a rubric of exactly what you want the agent to produce and it'll

Vì vậy, với kết quả, bạn có thể định nghĩa một tiêu chí chính xác về những gì bạn muốn tác nhân tạo ra và nó sẽ

34:51

figure out along the way which tool calls and what it needs to do to execute towards that final result.

Trên đường đi, hãy tìm ra công cụ nào cần gọi và những gì nó cần làm để thực hiện hướng tới kết quả cuối cùng đó.

34:58

Bolts is something else that I hear come up a lot as of interest for cloud manage agents because managing user credentials is something that's very painful from an access management perspective.

Vaults là một thứ khác mà tôi nghe thấy nhiều khi nói về các tác nhân quản lý đám mây, vì quản lý thông tin xác thực người dùng là một việc rất khó khăn từ góc độ quản lý truy cập.

35:06

Making sure that your agents are secure and safe to run.

Đảm bảo rằng các tác nhân của bạn an toàn và đáng tin cậy để chạy.

35:09

So for vaults and cloud manage agents, there's actually an encryption that happens between where the credentials are stored on a separate

Vì vậy, đối với vaults và các tác nhân quản lý đám mây, thực sự có một lớp mã hóa diễn ra giữa nơi lưu trữ thông tin xác thực trên một

35:16

endpoint and what the agent is actually able to access.

điểm cuối riêng biệt và những gì tác nhân thực sự có thể truy cập.

35:18

So you can manage these credentials on a per user per session basis all very safely and securely.

Vì vậy, bạn có thể quản lý các thông tin xác thực này trên cơ sở từng người dùng, từng phiên một cách rất an toàn và bảo mật.

35:23

And this relies in large part due to that architecture that I described earlier of how the brains in the hands of the agent are separated so that credentials can be stored very securely in these vaults.

Và điều này phần lớn dựa vào kiến trúc mà tôi đã mô tả trước đó về cách mà bộ não và bàn tay của tác nhân được tách biệt để thông tin xác thực có thể được lưu trữ rất an toàn trong các vaults này.

35:34

This means that you don't have to set up your own sec secret stores or your own credential stores and you can just rely on the built-in capability here.

Điều này có nghĩa là bạn không phải thiết lập kho lưu trữ bí mật hoặc kho thông tin xác thực của riêng mình và bạn có thể chỉ dựa vào khả năng tích hợp sẵn ở đây.

35:42

There are a couple other things here that I won't have time to go through in depth.

Có một vài thứ khác ở đây mà tôi sẽ không có thời gian để đi sâu.

35:46

So again, encourage everyone to check them out in more detail.

Vì vậy, một lần nữa, khuyến khích mọi người xem xét chúng chi tiết hơn.

35:49

There are things like the ability to do web hooks and really make this agent run on external events, things like detailed and fine grain permission policies, the MCP servers that I mentioned where we just released new MCP server controls as

Có những thứ như khả năng thực hiện web hooks và thực sự làm cho tác nhân này chạy dựa trên các sự kiện bên ngoài, những thứ như chính sách quyền chi tiết và hạt mịn, các máy chủ MCP mà tôi đã đề cập, nơi chúng tôi vừa phát hành các điều khiển máy chủ MCP mới như

36:01

well.

vậy.

36:01

And something that I also love just to briefly touch on is the console agent builder where we have built in a lot of capability and functionality into the default developer console where you can start to see a beautiful observability dashboard come through and other ways for you to define cloud manage agents right there on your consoles.

Và một điều tôi cũng yêu thích chỉ để đề cập ngắn gọn là trình xây dựng tác nhân trên bảng điều khiển, nơi chúng tôi đã tích hợp nhiều khả năng và chức năng vào bảng điều khiển nhà phát triển mặc định, nơi bạn có thể bắt đầu thấy một bảng điều khiển quan sát tuyệt đẹp hiện ra và các cách khác để bạn xác định các tác nhân quản lý đám mây ngay trên bảng điều khiển của mình.

36:20

So just as a quick recap to end us off here of what we were able to accomplish today.

Vì vậy, như một bản tóm tắt nhanh để kết thúc buổi hôm nay về những gì chúng ta đã có thể đạt được.

36:24

Hopefully everyone leaves here with a bit of a mental model about how manage agents actually works under the hood.

Hy vọng mọi người rời đi với một chút mô hình tinh thần về cách các tác nhân quản lý thực sự hoạt động bên dưới.

36:30

And be proud of yourselves for everyone that was able to come in, build on your laptops, and actually ship a site [reliability agent].

Và hãy tự hào về bản thân vì tất cả những ai đã có thể đến, xây dựng trên máy tính xách tay của mình và thực sự triển khai một tác nhân độ tin cậy trang web.

36:36

So, you can all leave here being very happy with

Vì vậy, tất cả các bạn có thể rời đi đây rất hài lòng với

36:39

yourselves that you were able to come in and save future developers hours of time of being woken up at 3:00 a.m.

bản thân vì đã có thể đến và cứu các nhà phát triển tương lai hàng giờ đồng hồ khỏi việc bị đánh thức lúc 3 giờ sáng.

36:43

or 2 a.m.

Hoặc 2 giờ sáng.

36:44

in the morning and being able to handle incidents for them.

Và có thể xử lý các sự cố cho họ.

36:47

And next, you also learned a little bit about where to go next for how you can really start to unlock the power that comes with manage agents and think about how your agents can become superpowered with all of these additional functionalities.

Và tiếp theo, bạn cũng đã học được một chút về nơi để đi tiếp theo để thực sự bắt đầu khai thác sức mạnh đi kèm với các tác nhân quản lý và suy nghĩ về cách các tác nhân của bạn có thể trở nên siêu mạnh mẽ với tất cả các chức năng bổ sung này.

37:00

So, that is where I'll end off today, but thank you all so much for coming.

Vì vậy, đó là nơi tôi sẽ kết thúc ngày hôm nay, nhưng cảm ơn tất cả các bạn rất nhiều vì đã đến.

37:03

I'll be around on the side.

Tôi sẽ ở xung quanh bên cạnh.

Transcript

Hiển thị

Introduction to Claude Manage Agents

This session introduces Claude manage agents, a managed harness for building production-ready agents. It covers the architecture, key resources, and the hands-on workshop to build an incident response agent. Claude manage agents handle scaling, sandboxing, observability, and tool runtime. The three primary resources are agents endpoint, environments, and sessions. The agent loop runs server-side, abstracting hosting, scaling, durability, and reliability concerns. Harnesses must evolve alongside agents, and Claude manage agents allow Anthropic to handle complexities like compaction and caching.

Phiên này giới thiệu về Claude manage agents, một harness được quản lý để xây dựng các tác nhân sẵn sàng cho sản xuất. Nó bao gồm kiến trúc, các tài nguyên chính và hội thảo thực hành để xây dựng một tác nhân phản hồi sự cố. Claude manage agents xử lý việc mở rộng quy mô, sandboxing, khả năng quan sát và thời gian chạy công cụ. Ba tài nguyên chính là endpoint agents, môi trường và phiên. Vòng lặp tác nhân chạy phía máy chủ, trừu tượng hóa các vấn đề về lưu trữ, mở rộng quy mô, độ bền và độ tin cậy. Harnesses phải phát triển cùng với các tác nhân, và Claude manage agents cho phép Anthropic xử lý các phức tạp như nén và lưu trữ đệm.