Dex opens by presenting survey data showing that AI coding tools produce heavy rework and churn in complex, legacy codebases, while working well only on greenfield projects. He frames context engineering as the way to get better results from today's models.
Dex mở đầu bằng cách trình bày dữ liệu khảo sát cho thấy các công cụ lập trình AI tạo ra nhiều việc làm lại và biến động trong các cơ sở mã phức tạp, kế thừa, trong khi chỉ hoạt động tốt trên các dự án greenfield. Ông định hình kỹ thuật ngữ cảnh là cách để đạt kết quả tốt hơn từ các mô hình hiện nay.
music Hi everybody.
[nhạc] Chào mọi người.
How y'all doing?
Mọi người thế nào rồi?
- It's exciting.
- Thật hào hứng.
I'm Dex.
Tôi là Dex.
Uh, as they did in the great intro, I've been hacking on agents for a while.
Uh, như họ đã nói trong phần giới thiệu tuyệt vời, tôi đã nghiên cứu về agents một thời gian rồi.
Um, our talk 12 factor agents at AI engineer in June was one of the top talks of all time.
Um, bài nói của chúng tôi về 12 factor agents tại AI engineer vào tháng Sáu là một trong những bài nói hàng đầu mọi thời đại.
Uh, I think top eight or something.
Uh, tôi nghĩ là top tám hay gì đó.
One of the best ones from AI engineer in June.
Một trong những bài hay nhất từ AI engineer vào tháng Sáu.
May or may not have said something about context engineering.
Có thể có hoặc không đã nói điều gì đó về context engineering.
Um, why am I here today?
Um, tại sao hôm nay tôi ở đây?
What am I here to talk about?
Tôi ở đây để nói về điều gì?
Um, I want to talk about one of my favorite talks from AI engineer in June.
Um, tôi muốn nói về một trong những bài nói yêu thích của tôi từ AI engineer vào tháng Sáu.
And I know we all got the update from Eigor yesterday, but they wouldn't let me change my slides.
Và tôi biết tất cả chúng ta đã nhận được cập nhật từ Eigor hôm qua, nhưng họ không cho tôi thay đổi slide.
So, this is going to be about what Eigor talked about in June.
Vậy, bài này sẽ nói về những gì Eigor đã nói vào tháng Sáu.
Uh, basically that they surveyed a
Uh, cơ bản là họ đã khảo sát
100,000 developers across all company sizes and they found that most of the time you use AI for software engineering you're doing a lot of rework, a lot of codebase churn, uh, and it doesn't really work well for complex tasks, brownfield code bases.
100.000 lập trình viên ở mọi quy mô công ty và họ phát hiện rằng phần lớn thời gian bạn dùng AI cho kỹ thuật phần mềm là bạn đang làm lại rất nhiều, làm xáo trộn codebase rất nhiều, uh, và nó không thực sự hiệu quả với các tác vụ phức tạp, các codebase brownfield.
Um, and you can see in the chart basically you are shipping a lot more but a lot of it is just reworking the slop that you shipped last week.
Um, và bạn có thể thấy trong biểu đồ cơ bản là bạn ship nhiều hơn rất nhiều nhưng phần lớn chỉ là làm lại đống slop mà bạn đã ship tuần trước.
So
Vậy
Uh, and then the other side, right, was that uh if you're doing green field, little Vercel dashboard, something like this, then it's going to work great.
Uh, và rồi mặt còn lại, đúng không, là uh nếu bạn đang làm greenfield, một dashboard Vercel nhỏ, đại loại vậy, thì nó sẽ hoạt động rất tốt.
Uh, if you're going to go in a 10-year-old Java at codebase, maybe not so much.
Uh, nếu bạn đi vào một codebase Java 10 năm tuổi, có lẽ không được như vậy.
And this matched my experience personally and talking to a lot of founders and great engineers, too much slop, uh, tech debt factory.
Và điều này khớp với trải nghiệm cá nhân của tôi và khi nói chuyện với nhiều founder và kỹ sư giỏi, quá nhiều slop, uh, nhà máy nợ kỹ thuật.
It's just, it's not going
Nó chỉ là, nó sẽ không
to work from our codebase.
Hoạt động được với codebase của chúng ta.
Like maybe someday when the models get better, but that's what context engineering is all about.
Kiểu như có thể một ngày nào đó khi các model tốt hơn, nhưng đó là tất cả những gì context engineering hướng tới.
How can we get the most out of today's models?
Làm sao chúng ta có thể tận dụng tối đa các model hiện nay?
How do we manage our context window?
Làm sao chúng ta quản lý cửa sổ context của mình?
So we talked about this in August.
Vậy chúng tôi đã nói về điều này vào tháng Tám.
Um, I have to confess something.
Um, tôi phải thú nhận một điều.
The first time I used Cloud Code, I was not impressed.
Lần đầu tiên tôi dùng Cloud Code, tôi không thấy ấn tượng.
It was like, okay, this is a little bit better.
Kiểu như, được, cái này tốt hơn một chút.
I get
Tôi hiểu
it.
Nó.
I like the UX.
Tôi thích UX.
Um, but since then, we as a team figured something out.
Um, nhưng kể từ đó, chúng tôi với tư cách một đội đã tìm ra điều gì đó.
Um, that we were actually able to get, you know, 2 to 3x more throughput.
Um, rằng chúng tôi thực sự có thể đạt được, bạn biết đấy, năng suất cao gấp 2 đến 3 lần.
And we were shipping so much that we had no choice but to change the way we collaborated.
Và chúng tôi ship nhiều đến mức không còn lựa chọn nào khác ngoài việc thay đổi cách chúng tôi cộng tác.
We rewired everything about how we build software.
Chúng tôi tái cấu trúc mọi thứ về cách chúng tôi xây dựng phần mềm.
Uh, it was a team of three.
Uh, đó là một đội ba người.
It took eight weeks.
Mất tám tuần.
It was really freaking hard.
Nó thực sự cực kỳ khó.
Uh, but now
Uh, nhưng bây giờ
that we solved it, we're, we're never going back.
Khi chúng tôi đã giải quyết được nó, chúng tôi, chúng tôi sẽ không bao giờ quay lại.
This is the whole no slop thing.
Đây là toàn bộ chuyện không slop.
I think, I think we got somewhere with this, went super viral on HackerNews in September.
Tôi nghĩ, tôi nghĩ chúng tôi đã đạt được điều gì đó với cái này, nó lan truyền cực mạnh trên HackerNews vào tháng Chín.
Uh, we have thousands of folks who have gone on to GitHub and grabbed our, you know, research plan implement prompt system.
Uh, chúng tôi có hàng nghìn người đã lên GitHub và lấy hệ thống research plan implement prompt của chúng tôi, bạn biết đấy.
Um, so the goals here, which we kind of backed our way into, we need AI that can work well in
Um, vậy các mục tiêu ở đây, thứ mà chúng tôi kiểu như đã đi ngược lại để đạt được, là chúng ta cần AI có thể hoạt động tốt trong
brownfield code bases that can solve complex problems.
Các codebase brownfield có thể giải quyết các vấn đề phức tạp.
No slop, right?
Không slop, đúng không?
No more slop.
Không còn slop nữa.
Uh, and we had to maintain mental alignment.
Uh, và chúng tôi phải duy trì sự đồng bộ trong tư duy.
I'll talk a little bit more about what that means in a minute.
Tôi sẽ nói thêm một chút về ý nghĩa của điều đó trong giây lát.