N
NatiStream
Transcript
Hiển thị

The Agent Building Journey

Dex Horthy opens by asking the audience how many agents they have built, revealing a room full of experienced developers. He describes the common journey of building an agent with libraries, getting it to 70-80% quality, and then struggling to push past that bar. He shares his own experience with a DevOps agent that failed, teaching him that not every problem needs an agent. He then explains how he interviewed over 100 founders and engineers and discovered that most production agents are not very agentic at all, but rather use small modular patterns applied to existing code.

Dex Horthy mở đầu bằng cách hỏi khán giả rằng họ đã xây dựng bao nhiêu agent, và nhận ra cả khán phòng toàn những nhà phát triển giàu kinh nghiệm. Ông mô tả hành trình phổ biến khi xây dựng một agent với các thư viện, đạt chất lượng 70-80%, rồi sau đó vật lộn để vượt qua ngưỡng đó. Ông chia sẻ trải nghiệm của chính mình với một DevOps agent thất bại, dạy ông rằng không phải vấn đề nào cũng cần agent. Sau đó, ông giải thích cách ông phỏng vấn hơn 100 nhà sáng lập và kỹ sư và phát hiện ra rằng hầu hết các agent trong sản xuất thực tế không hề mang tính agent nhiều, mà thay vào đó sử dụng các mẫu mô-đun nhỏ áp dụng lên mã hiện có.

Music Who here's building agents?

[Nhạc] Ở đây ai đang xây dựng agent?

Who here's your hand up if you built like 10 plus agents?

Ai ở đây giơ tay lên nếu bạn đã xây dựng khoảng 10 agent trở lên?

Anyone here built like a hundred agents?

Có ai ở đây đã xây dựng khoảng một trăm agent chưa?

All right, we got a few.

Được rồi, chúng ta có vài người.

Awesome.

Tuyệt vời.

Love it.

Thích điều đó.

Um, so I think a lot of us have been on this journey of building agents.

Ừm, tôi nghĩ nhiều người trong chúng ta đã trải qua hành trình xây dựng agent này.

Um, and what happened with me was, you know, I decided I want to build an agent.

Ừm, và điều đã xảy ra với tôi là, bạn biết đấy, tôi quyết định rằng tôi muốn xây dựng một agent.

We figured out what we wanted it to do.

Chúng tôi đã xác định được những gì chúng tôi muốn nó làm.

Uh, we want to move fast.

Ừ, chúng tôi muốn di chuyển nhanh.

We're developers, so we use libraries.

Chúng tôi là lập trình viên, nên chúng tôi sử dụng các thư viện.

We don't write everything from scratch.

Chúng tôi không viết mọi thứ từ đầu.

Um, and you get it to like 70 80%.

Ừm, và bạn đưa nó đạt đến khoảng 70 80%.

It's enough to get

Thế là đủ để khiến

the CEO excited and get six more people added to your team.

Vị CEO hào hứng và có thêm sáu người được thêm vào nhóm của bạn.

But then you kind of realize that 70 80% isn't quite good enough.

Nhưng rồi bạn nhận ra rằng 70 80% vẫn chưa đủ tốt.

And that if you want to get past that 70 80% quality bar, you're seven layers deep in a call stack trying to reverse engineer how does this prompt get built or how do these tools get passed in?

Và nếu bạn muốn vượt qua mức chất lượng 70 80% đó, bạn phải đi sâu bảy tầng trong một call stack để cố gắng dịch ngược xem prompt này được xây dựng như thế nào hoặc các công cụ này được truyền vào ra sao?

Where does this all come from?

Tất cả những thứ này đến từ đâu?

Uh and if you're like me, you

Ừ và nếu bạn giống tôi, bạn

eventually just throw it all away and start from scratch.

Cuối cùng chỉ vứt bỏ tất cả và bắt đầu lại từ đầu.

Um or you may even find out that this is not a good problem for agents.

Ừm hoặc bạn thậm chí có thể phát hiện ra rằng đây không phải là một bài toán phù hợp cho agent.

I remember one of the first agents that I tried to build was uh a DevOps agent.

Tôi nhớ một trong những agent đầu tiên mà tôi thử xây dựng là ừ một agent DevOps.

I was like, "Here's my make file.

Tôi kiểu như, "Đây là make file của tôi.

You can run make commands.

Bạn có thể chạy các lệnh make.

Go build the project." Couldn't figure it out.

Đi build dự án đi." Nó không thể hiểu được.

Did all the things in the wrong order.

Nó làm mọi thứ sai thứ tự.

I'm like, "Cool, let's fix the

Tôi kiểu như, "Được rồi, hãy sửa cái

prompt." And I over the la next two hours I'm more and more detail about what everything was and every single step and the exact until I got to the point where I was like this is the exact order to run the build steps.

Prompt." Và trong hai giờ tiếp theo tôi càng ngày càng chi tiết hơn về mọi thứ và từng bước một và chính xác cho đến khi tôi đạt đến điểm mà tôi kiểu như đây là thứ tự chính xác để chạy các bước build.

It was a cool exercise but at the end of it I was like you know I could have written the bash script to do this in about 90 seconds.

Đó là một bài tập thú vị nhưng đến cuối thì tôi kiểu như bạn biết đấy tôi có thể đã viết một bash script để làm việc này trong khoảng 90 giây.

Not every problem needs an

Không phải mọi bài toán đều cần một

agent.

Agent.

Um and so I've been on this journey.

Ừm và vì vậy tôi đã trải qua hành trình này.

I think a lot of you have been on similar journeys.

Tôi nghĩ nhiều người trong các bạn cũng đã trải qua những hành trình tương tự.

Um and what happened was is I went and talked um in trying to help people build better, more reliable agents.

Ừm và điều đã xảy ra là tôi đã đi nói chuyện ừm để cố gắng giúp mọi người xây dựng những agent tốt hơn, đáng tin cậy hơn.

I talked to a 100 plus founders, builders, engineers.

Tôi đã nói chuyện với hơn 100 nhà sáng lập, người xây dựng, kỹ sư.

Um, and I started to notice patterns.

Ừm, và tôi bắt đầu nhận thấy các mô thức.

One was that most production agents weren't that agentic at all.

Một là hầu hết các agent trong môi trường production thực ra không mang tính agent chút nào.

They were mostly just

Chúng chủ yếu chỉ là

software, but that there were these core things that a lot of people were doing.

Phần mềm, nhưng có những thứ cốt lõi mà nhiều người đang làm.

There were these patterns that were making their LLM based apps really, really good.

Có những mô thức này đang khiến các ứng dụng dựa trên LLM của họ trở nên thực sự, thực sự tốt.

Um, and none of them were doing kind of a green field rewrite.

Ừm, và không ai trong số họ đang làm kiểu viết lại từ đầu trên mảnh đất hoang.

Rather, they were taking these small modular concepts that didn't have names and didn't have definitions and they were applying them to their existing code.

Thay vào đó, họ đang lấy những khái niệm mô-đun nhỏ này mà không có tên gọi và không có định nghĩa rồi áp dụng chúng vào mã hiện có của họ.

Um, and what's really cool about this is I don't think you need an AI background to do this.

Ừm, và điều thực sự tuyệt vời về điều này là tôi không nghĩ bạn cần nền tảng về AI để làm điều này.

This is software engineering 101.

Đây là kỹ thuật phần mềm 101.

Well, probably not 101, but just like Heroku needed to define what it meant to build cloud.

Chà, có lẽ không phải 101, nhưng giống như Heroku cần định nghĩa việc xây dựng cloud nghĩa là gì.

We didn't

Chúng ta thậm chí không

even call them cloud native back then, but this was how you built applications that could run in the cloud 10 years ago.

Gọi chúng là cloud native hồi đó, nhưng đây là cách bạn xây dựng các ứng dụng có thể chạy trên cloud 10 năm trước.

Um, I decided to put together what I thought would be the 12 factors of AI agents.

Ừm, tôi quyết định tổng hợp lại những gì tôi nghĩ sẽ là 12 yếu tố của AI agent.

Um, from everything that I've seen working in the field.

Ừm, từ mọi thứ tôi đã thấy khi làm việc trong lĩnh vực này.

Um, so we put up this GitHub repo.

Ừm, vì vậy chúng tôi đã đưa lên repo GitHub này.

You can go read it.

Bạn có thể vào đọc nó.

Um, turns out a lot of other people agreed and felt the same thing.

Ừm, hóa ra rất nhiều người khác cũng đồng ý và cảm thấy điều tương tự.

Um, so we were on the front page of Hacker News all day, 200k impressions on social.

Ừm, vậy là chúng tôi ở trang nhất của Hacker News suốt cả ngày, 200k lượt hiển thị trên mạng xã hội.

Uh, I'm just going to put this one up and no comment.

Ờ, tôi sẽ chỉ đưa cái này lên và không bình luận gì.

Um, and just for context, we got to like 4,000 stars in like a month or two.

Ừm, và để cho có ngữ cảnh, chúng tôi đạt được khoảng 4.000 sao trong khoảng một hai tháng.

Uh, there's 14 active contributors.

Ờ, có 14 người đóng góp tích cực.

Um, it's very easy to read that thing and hear the talk and say like, oh, we're here, this is the anti-framework talk.

Ừm, rất dễ để đọc cái đó và nghe bài nói rồi nói kiểu, ồ, chúng ta đang ở đây, đây là bài nói chống lại framework.

I am not here to bash frameworks.

Tôi không ở đây để đả kích các framework.

I would think of this as much as anything as a wish list, a list of feature requests is how can we make frameworks serve the

Tôi sẽ nghĩ về điều này, hơn hết, như một danh sách mong muốn, một danh sách các yêu cầu tính năng, đó là làm thế nào chúng ta có thể khiến các framework phục vụ

needs of really good builders who need a really high reliability and want to move fast still.

Nhu cầu của những người xây dựng thực sự giỏi, những người cần độ tin cậy thực sự cao và vẫn muốn di chuyển nhanh.

Um, so what am I here to do?

Ừm, vậy tôi ở đây để làm gì?

1 / 7