Andrej Karpathy — “We’re summoning ghosts, not building animals”

Thực ra mọi thứ chúng ta có trước đây còn tệ hơn nhiều.

Tôi thực sự lạc quan.

Tôi nghĩ điều này sẽ hiệu quả.

Tôi nghĩ nó khả thi.

Tôi chỉ tỏ ra bi quan vì khi lướt Twitter, tôi thấy toàn thứ vô nghĩa.

Nhiều thứ trong số đó, tôi nghĩ, thực sự chỉ là gây quỹ.

Chúng ta không thực sự xây dựng động vật.

Chúng ta đang xây dựng những bóng ma.

Những

Giống như các thực thể linh hồn thanh tao vì chúng hoàn toàn kỹ thuật số và bắt chước con người.

Và đó là một dạng trí thông minh khác.

Mọi chuyện vẫn như thường lệ vì chúng ta đã ở trong một vụ nổ trí tuệ từ nhiều thập kỷ nay.

Mọi thứ đang dần được tự động hóa.

Đã diễn ra hàng trăm năm nay.

Đừng viết blog.

Đừng làm slide.

Đừng làm bất cứ điều gì như thế.

Hãy viết code, sắp xếp nó, làm cho nó chạy.

Đó là cách duy nhất.

Nếu không, bạn đang thiếu kiến thức.

Nếu bạn có một gia sư AI hoàn hảo, có thể bạn sẽ tiến xa.

Những thiên tài ngày nay chỉ mới chạm đến bề mặt của những gì tâm trí con người có thể làm.

Tôi nghĩ - hôm nay tôi đang nói chuyện với Andre Karpathy.

Andre, tại sao anh nói đây sẽ là thập kỷ của các tác nhân, chứ không phải năm của các tác nhân?

- Ừm.

Ừ, trước hết cảm ơn anh đã mời tôi đến đây.

Tôi rất vui được ở đây.

Câu nói anh vừa nhắc đến là thập kỷ của các tác nhân.

Đó thực ra là phản ứng với một câu nói có sẵn trước đó, tôi nghĩ một số phòng thí nghiệm, tôi không thực sự biết ai đã nói điều này, nhưng họ ám chỉ đây là năm của các tác nhân - liên quan đến LLM và cách chúng sẽ phát triển.

Và tôi nghĩ tôi đã bị kích thích bởi điều đó vì tôi cảm thấy có một số dự đoán quá mức đang diễn ra

trong ngành và theo tôi, điều này thực sự chính xác hơn khi được mô tả là thập kỷ của các tác nhân và chúng ta có một số tác nhân rất sớm thực sự ấn tượng và tôi sử dụng hàng ngày như Cloud và Codex, v.v., nhưng tôi vẫn cảm thấy còn rất nhiều việc phải làm và vì vậy phản ứng của tôi là chúng ta sẽ làm việc với những thứ này trong

một thập kỷ, chúng sẽ trở nên tốt hơn và điều đó thật tuyệt vời, nhưng tôi nghĩ tôi chỉ phản ứng với các mốc thời gian thôi - và anh nghĩ điều gì sẽ mất một thập kỷ để hoàn thành?

Những nút thắt là gì?

- Ừm, thực sự là làm cho nó hoạt động.

Theo tôi, khi nói về một tác nhân, tôi đoán ý của các phòng thí nghiệm và có thể cả tôi nữa là bạn nên nghĩ về nó gần như một nhân viên hoặc một thực tập sinh mà bạn thuê để làm việc cùng.

Ví dụ, bạn làm việc với một số nhân viên ở đây.

Khi nào bạn muốn có một tác nhân như Cloud hoặc

Codex làm công việc đó?

Hiện tại tất nhiên chúng không thể.

Cần gì để chúng có thể làm được điều đó?

Tại sao bạn không làm điều đó hôm nay?

Và lý do bạn không làm hôm nay là vì chúng không hoạt động.

Chúng không đủ thông minh.

Chúng chưa đa phương thức.

Chúng không thể sử dụng máy tính và những thứ tương tự.

Và chúng không làm được nhiều thứ.

Bạn biết đấy, chúng không có học liên tục.

Bạn không thể nói với chúng điều gì đó và chúng sẽ nhớ.

Và chúng thiếu hụt về mặt nhận thức.

Và nó không hoạt động.

Và tôi chỉ nghĩ rằng sẽ mất khoảng một thập kỷ để giải quyết tất cả những vấn đề đó.

- Thú vị.

Vì vậy, ừm, với tư cách là một podcaster chuyên nghiệp và một người xem AI từ xa, tôi dễ dàng nhận ra những gì còn thiếu.

Học liên tục còn thiếu hoặc đa phương thức còn thiếu.

Nhưng tôi thực sự không có cách tốt để ước lượng thời gian.

Ví dụ nếu ai đó hỏi, học liên tục sẽ mất bao lâu?

Tôi - không có kinh nghiệm trước đó về việc

Đây là một dự án nên mất 5 năm, 10 năm hay 50 năm.

- Tại sao là một thập kỷ?

Tại sao không phải một năm?

Tại sao không phải 50 năm?

- Ừm, tôi đoán đây là lúc bạn đi vào trực giác của riêng tôi và cũng là ngoại suy từ kinh nghiệm của tôi trong lĩnh vực này.

Vậy, tôi đã làm việc trong AI gần hai thập kỷ.

Ý tôi là, có lẽ khoảng 15 năm, không lâu lắm.

Ừm, bạn đã có Richard Sutton ở đây, người

Đã có mặt lâu hơn nhiều, nhưng tôi có khoảng 15 năm kinh nghiệm về việc mọi người đưa ra dự đoán và thấy chúng thực sự diễn ra như thế nào, và tôi cũng đã làm việc trong ngành một thời gian và trong nghiên cứu, vì vậy tôi có một trực giác chung từ đó, và tôi cảm thấy các vấn đề có thể giải quyết được.

Chúng có thể vượt qua - nhưng vẫn khó khăn, và nếu tôi tính trung bình, nó có vẻ như một con số phù hợp với tôi - điều này thực sự thú vị, tôi muốn nghe không chỉ lịch sử mà còn cảm xúc của mọi người trong phòng tại các thời điểm đột phá khác nhau, những cách mà cảm xúc của họ hoặc là

Quá bi quan hay quá lạc quan?

- Ừ.

- Ừ.

Chúng ta nên đi qua từng cái một?

- Ồ, được.

Ý tôi là đó là một câu hỏi lớn vì tất nhiên bạn đang nói về 15 năm sự kiện đã xảy ra.

Ý tôi là AI thực sự tuyệt vời vì đã có một số thay đổi lớn, tôi có thể nói là những cú sốc địa chấn, khiến toàn bộ lĩnh vực đột nhiên nhìn theo một hướng khác.

Và tôi nghĩ tôi đã trải qua hai hoặc ba trong số đó.

- Và tôi vẫn nghĩ sẽ còn tiếp tục có một số, bởi vì chúng đến với sự bất thường gần như đáng ngạc nhiên.

- Chà, khi sự nghiệp của tôi bắt đầu, tất nhiên, khi tôi bắt đầu làm việc với deep learning, khi tôi trở nên quan tâm đến deep learning, điều này chỉ là tình cờ khi ở cạnh Jeff Hinton tại Đại học Toronto.

Và Jeff Hinton, tất nhiên, giống như một nhân vật cha đỡ đầu của AI và ông ấy đang huấn luyện tất cả các mạng nơ-ron này và tôi nghĩ nó thật phi thường và thú vị, nhưng đây không phải là điều chính mà mọi người trong AI đang làm.

Ừ, - đó là một chủ đề nhỏ bên lề.

Đó có lẽ là cú sốc địa chấn đầu tiên với AlexNet và những thứ tương tự.

- Tôi sẽ nói rằng Alex đã định hướng lại mọi người và mọi người bắt đầu huấn luyện mạng nơ-ron.

Ừ, nhưng nó vẫn rất cụ thể cho từng nhiệm vụ.

Vì vậy, có thể tôi có một bộ phân loại hình ảnh hoặc một trình dịch máy nơ-ron hoặc thứ gì đó tương tự.

Và mọi người bắt đầu quan tâm rất chậm đến các tác nhân, tôi có thể nói vậy.

Ừ, và mọi người bắt đầu

Nghĩ rằng, được rồi, có lẽ chúng ta đã có dấu kiểm bên cạnh vỏ não thị giác, nhưng còn các phần khác của não thì sao và làm thế nào để có được một tác nhân hoàn chỉnh hoặc một thực thể hoàn chỉnh có thể tương tác trong thế giới thực, và tôi sẽ nói rằng sự thay đổi trong deep reinforcement learning với Atari vào khoảng năm 2013 là một phần của nỗ lực ban đầu về tác nhân trong tâm trí tôi, bởi vì nó

Là một nỗ lực để có được các tác nhân không chỉ nhận thức thế giới mà còn hành động và tương tác và nhận phần thưởng từ môi trường, và lúc đó là các trò chơi Atari - phải - và tôi cảm thấy đó thực sự là một bước đi sai lầm, và đó là bước đi sai lầm mà ngay cả OpenAI thời kỳ đầu mà tôi là một phần cũng đã áp dụng, bởi vì lúc đó

Tinh thần thời đại là reinforcement learning, môi trường trò chơi, đánh bại trò chơi, có nhiều loại trò chơi khác nhau và OpenAI đã làm rất nhiều điều đó.

Vì vậy, đó có lẽ là một phần nổi bật khác của AI, nơi trong hai, ba hoặc bốn năm, mọi người đều làm reinforcement learning trên trò chơi - và về cơ bản đó là một bước đi sai lầm

- và điều tôi cố gắng làm tại OpenAI thực ra là tôi luôn hơi nghi ngờ về trò chơi như một thứ sẽ dẫn đến AGI, bởi vì trong tâm trí tôi, bạn muốn một thứ gì đó như kế toán viên hoặc thứ gì đó thực sự tương tác với thế giới thực, và tôi không thấy trò chơi có thể dẫn đến điều đó, vì vậy dự án của tôi tại OpenAI chẳng hạn

Là trong phạm vi của dự án Universe, về một tác nhân sử dụng bàn phím và chuột để vận hành các trang web.

Và tôi thực sự muốn có một thứ tương tác với thế giới kỹ thuật số thực tế, có thể làm công việc tri thức.

- Và hóa ra điều này cực kỳ sớm, quá sớm.

Quá sớm đến nỗi chúng tôi không nên làm việc đó, bạn biết đấy, bởi vì nếu bạn chỉ loay hoay với bàn phím và chuột và cố gắng nhận phần thưởng trong những môi trường đó, phần thưởng của bạn quá thưa thớt và bạn sẽ không học được gì, và bạn sẽ đốt cháy một khu rừng

Tính toán và bạn sẽ không bao giờ thực sự có được thứ gì đó khởi sắc.

- Và điều bạn thiếu là sức mạnh của biểu diễn trong mạng nơ-ron.

- Và ví dụ, ngày nay người ta huấn luyện các tác nhân sử dụng máy tính, nhưng họ làm điều đó trên nền tảng của một mô hình ngôn ngữ lớn.

Và vì vậy bạn thực sự phải có mô hình ngôn ngữ trước.

Bạn phải có các biểu diễn trước và bạn phải làm điều đó thông qua tất cả quá trình tiền huấn luyện và tất cả các thứ liên quan đến LLM.

Vì vậy, tôi cảm thấy có lẽ nói một cách lỏng lẻo thì giống như mọi người có thể liên tục cố gắng

Đạt được toàn bộ thứ quá sớm một vài lần khi mọi người thực sự cố gắng theo đuổi các tác nhân quá sớm, tôi sẽ nói vậy, và đó là Atari và Universe, và thậm chí cả kinh nghiệm của riêng tôi, và bạn thực sự phải làm một số việc trước khi bạn có thể đạt được những tác nhân đó.

Ừm, và có lẽ bây giờ các tác nhân đã thành thạo hơn nhiều, nhưng có lẽ chúng ta vẫn đang thiếu một số phần của ngăn xếp đó.

Nhưng tôi sẽ nói có lẽ đó là ba nhóm chính về những gì mọi người đang làm.

Ừm, huấn luyện mạng nơ-ron cho từng nhiệm vụ, cố gắng thực hiện đợt tác nhân đầu tiên, và sau đó có thể là LLM và thực sự tìm kiếm sức mạnh biểu diễn của mạng nơ-ron

trước khi bạn thêm mọi thứ khác lên trên.

- Thú vị.

Vâng, tôi đoán nếu tôi ăn cắp, thì quan điểm đột ngột sẽ là con người thực sự có thể tiếp nhận mọi thứ cùng một lúc, phải không?

Ngay cả động vật cũng có thể tiếp nhận mọi thứ cùng một lúc, phải không?

Động vật có lẽ là một ví dụ tốt hơn vì chúng thậm chí không có giàn giáo của ngôn ngữ.

Chúng chỉ bị ném ra thế giới và chúng phải tự tìm hiểu

mọi thứ mà không có bất kỳ nhãn nào.

Ừm, - và tầm nhìn cho AGI sau đó chỉ nên là thứ gì đó giống như chỉ nhìn vào dữ liệu cảm giác, nhìn vào màn hình máy tính, và nó chỉ tự tìm ra chuyện gì đang xảy ra từ đầu.

Ý tôi là, nếu một con người được đặt trong tình huống tương tự, phải được huấn luyện từ đầu, nhưng ý tôi là, điều này giống như một con người lớn lên hoặc một con vật lớn lên.

Vậy tại sao đó không phải là tầm nhìn cho AI thay vì

thứ như thế này nơi chúng ta đang thực hiện hàng triệu năm huấn luyện?

Tôi nghĩ đó là một câu hỏi thực sự hay và tôi nghĩ ừm, ý tôi là Sutton đã tham gia podcast của bạn và tôi đã xem podcast đó và tôi đã có một bài viết về podcast đó gần như đề cập đến cách tôi nhìn nhận mọi thứ và tôi cảm thấy mình rất cẩn thận khi đưa ra những phép loại suy với động vật bởi vì chúng xuất hiện thông qua một quá trình tối ưu hóa rất khác.

Rất khác.

- Động vật được tiến hóa và chúng thực sự đi kèm với một lượng lớn phần cứng được tích hợp sẵn.

Ừm, và ví dụ, trong bài viết của tôi, ví dụ là con ngựa vằn.

Một con ngựa vằn được sinh ra và vài phút sau nó đã chạy nhảy và theo mẹ nó.

Đó là một việc cực kỳ phức tạp để làm.

- Vâng.

- Ừm, đó không phải là học tăng cường.

Đó là thứ gì đó được tích hợp sẵn.

Và tiến hóa rõ ràng có một cách nào đó để mã hóa trọng số của mạng nơ-ron của chúng ta trong ATCGS.

Và tôi không biết điều đó hoạt động như thế nào, nhưng nó dường như hoạt động.

Vì vậy, tôi cảm thấy rằng bộ não chỉ đến từ một quá trình rất khác.

Và tôi rất ngần ngại khi lấy cảm hứng từ nó bởi vì chúng ta không thực sự chạy quá trình đó.

Vì vậy, trong bài viết của tôi, tôi

Đã nói rằng chúng ta không thực sự xây dựng động vật.

Ừm, chúng ta đang xây dựng những bóng ma.

- Vâng.

- Hoặc linh hồn hay bất cứ thứ gì mọi người muốn gọi.

Ừm bởi vì chúng ta không thực hiện huấn luyện bằng tiến hóa.

Ừm, chúng ta đang thực hiện huấn luyện bằng cách bắt chước con người và dữ liệu họ đã đưa lên internet.

Và vì vậy bạn kết thúc với những thực thể linh hồn thanh tao này bởi vì chúng hoàn toàn kỹ thuật số và chúng giống như bắt chước con người.

Và đó là một loại trí thông minh khác.

Giống như nếu bạn tưởng tượng một không gian của các trí thông minh, chúng ta đang bắt đầu từ một điểm khác

gần như.

Chúng ta không thực sự xây dựng động vật, nhưng tôi nghĩ cũng có thể làm cho chúng giống động vật hơn theo thời gian.

Và tôi nghĩ chúng ta nên làm điều đó.

Và vì vậy tôi cảm thấy, chỉ một điểm nữa, tôi nghĩ Sutton về cơ bản có một khuôn khổ rất giống như chúng ta muốn xây dựng động vật và tôi thực sự nghĩ điều đó sẽ tuyệt vời nếu chúng ta có thể làm cho nó hoạt động, điều đó sẽ thật tuyệt vời.

Nếu có một thuật toán duy nhất mà bạn có thể chạy trên internet và nó học mọi thứ, điều đó sẽ thật phi thường.

Tôi gần như nghi ngờ rằng tôi không thực sự chắc chắn nó có tồn tại hay không và chắc chắn đó không phải là những gì động vật làm - bởi vì động vật có vòng lặp bên ngoài của tiến hóa, - phải không?

Ừm, và rất nhiều thứ trông giống như học tập thực ra là sự trưởng thành của não bộ nhiều hơn và tôi nghĩ rằng thực sự rất ít học tăng cường ở động vật và tôi nghĩ rất nhiều học tăng cường thực ra giống như các nhiệm vụ vận động hơn.

Nó không phải là các nhiệm vụ trí tuệ.

Vì vậy, tôi thực sự nghĩ rằng con người không thực sự sử dụng RL một cách đại khái là những gì tôi sẽ nói.

Bạn có thể đọc câu cuối cùng không?

Bạn có thể đọc câu cuối cùng không?

Rất nhiều trí thông minh đó không phải là nhiệm vụ vận động.

Nó là gì?

Xin lỗi.

Theo quan điểm của tôi, phần lớn học tăng cường sẽ là những thứ giống như vận động hơn, như những nhiệm vụ đơn giản kiểu như ném vòng hoặc gì đó tương tự.

Ừm, nhưng tôi không nghĩ con người sử dụng học tăng cường cho nhiều nhiệm vụ trí tuệ như giải quyết vấn đề, v.v.

- Thú vị.

Điều đó không có nghĩa là chúng ta không nên làm điều đó cho nghiên cứu, nhưng tôi chỉ cảm thấy đó là những gì động vật làm hoặc không.

- Tôi sẽ dành một chút thời gian để tiếp thu điều đó vì có rất nhiều ý tưởng khác nhau.

Có lẽ tôi có thể hỏi một câu làm rõ để hiểu quan điểm.

Vì vậy, tôi nghĩ bạn gợi ý rằng, hãy nhìn xem, tiến hóa đang làm loại việc mà tiền huấn luyện làm, theo nghĩa xây dựng một thứ gì đó sau đó có thể hiểu thế giới.

Sự khác biệt, tôi đoán, là tiến hóa phải được định lượng trong trường hợp của con người thông qua 3 gigabyte DNA.

Và điều đó rất khác so với các trọng số của một mô hình.

Ý tôi là, theo nghĩa đen, các trọng số của mô hình là một bộ não, rõ ràng là

Không được mã hóa trong tinh trùng và trứng hoặc không tồn tại trong tinh trùng và trứng.

Vì vậy, nó phải được phát triển và thông tin cho mọi khớp thần kinh trong não đơn giản là không thể tồn tại trong 3 gigabyte có trong DNA.

Tiến hóa dường như gần với việc tìm ra thuật toán - sau đó thực hiện học tập suốt đời.

Bây giờ có lẽ học tập suốt đời không tương tự như RL theo quan điểm của bạn.

Điều đó có tương thích với điều bạn đang nói hay bạn sẽ không đồng ý với điều đó?

- Tôi nghĩ vậy.

Tôi đồng ý với bạn rằng có một sự nén kỳ diệu nào đó đang diễn ra vì rõ ràng các trọng số của mạng nơ-ron không được lưu trữ trong ATCG.

Có một loại nén mạnh mẽ và có một số loại thuật toán học tập được mã hóa để tiếp quản và thực hiện một số học tập trực tuyến.

Vì vậy, tôi chắc chắn đồng ý với bạn về điều đó.

Về cơ bản, tôi sẽ nói rằng tôi thiên về thực tế hơn nhiều.

Tôi không tiếp cận nó từ góc độ như 'hãy xây dựng động vật'.

Tôi tiếp cận từ góc độ như 'hãy xây dựng những thứ hữu ích'.

Vì vậy, tôi đội mũ cứng và chỉ quan sát rằng, chúng ta sẽ không làm tiến hóa vì tôi không biết làm thế nào.

Ừm, nhưng hóa ra chúng ta có thể xây dựng những thực thể giống như ma quỷ này

bằng cách bắt chước các tài liệu internet.

Điều này hiệu quả và thực sự nó giống như một cách để đưa bạn lên một thứ có nhiều kiến thức và trí thông minh tích hợp sẵn theo một cách nào đó.

Ừm, tương tự như những gì tiến hóa đã làm.

Vì vậy, đó là lý do tại sao tôi gọi tiền huấn luyện là một loại tiến hóa tồi tệ.

Nó giống như phiên bản khả thi trong thực tế với

công nghệ và những gì chúng ta có sẵn để đạt đến điểm khởi đầu nơi chúng ta thực sự có thể làm những việc như học tăng cường, v.v.

Tôi chỉ muốn bảo vệ quan điểm khác vì sau khi làm điều này trong một cuộc phỏng vấn và suy nghĩ một chút, anh ấy có một điểm quan trọng: tiến hóa không thực sự cho chúng ta kiến thức, đúng không? Nó cho chúng ta thuật toán để tìm ra

kiến thức và điều đó có vẻ khác với tiền huấn luyện. Vì vậy, có lẽ quan điểm là tiền huấn luyện giúp xây dựng loại thực thể có thể học tốt hơn, nó dạy học siêu cấp và do đó nó tương tự như việc tìm ra một thuật toán. Nhưng nếu tiến hóa cho chúng ta kiến thức và tiền huấn luyện cho chúng ta kiến thức, thì sự tương tự đó dường như sụp đổ.

- Vì vậy, nó tinh tế và bạn đúng khi phản bác lại, nhưng về cơ bản, điều mà tiền huấn luyện làm, bạn về cơ bản có được bộ dự đoán token tiếp theo trên internet và bạn huấn luyện nó thành một mạng nơ-ron.

Nó thực sự làm hai việc không liên quan đến nhau.

Thứ nhất, nó thu thập tất cả kiến thức này như tôi gọi.

Thứ hai, nó thực sự trở nên thông minh.

Ừm, bằng cách quan sát các mẫu thuật toán trên internet, nó thực sự khởi động tất cả các mạch và thuật toán nhỏ bên trong mạng nơ-ron để làm những việc như học trong ngữ cảnh và tất cả những thứ này.

Và thực sự, bạn không thực sự cần hoặc muốn kiến thức.

Tôi thực sự nghĩ rằng điều đó có lẽ đang kìm hãm các mạng nơ-ron nói chung vì nó thực sự khiến chúng phụ thuộc quá nhiều vào kiến thức đôi khi.

Ví dụ, tôi cảm thấy rằng các tác nhân có một điều không giỏi là đi ra khỏi đa tạp dữ liệu của những gì tồn tại trên internet.

Nếu chúng có ít kiến thức hơn hoặc ít bộ nhớ hơn, có lẽ chúng sẽ tốt hơn.

Vâng.

Vâng.

Và vì vậy, những gì tôi nghĩ chúng ta phải làm trong tương lai và điều này sẽ là một phần của các mô hình nghiên cứu, tôi thực sự nghĩ chúng ta cần bắt đầu tìm cách loại bỏ một số kiến thức và giữ lại cái mà tôi gọi là lõi nhận thức này, thực thể thông minh này được tách ra khỏi kiến thức nhưng chứa các thuật toán và chứa

sự kỳ diệu của trí thông minh và giải quyết vấn đề và các chiến lược của nó, v.v.

Có rất nhiều thứ thú vị ở đó.

Được rồi.

Vậy hãy bắt đầu với học trong ngữ cảnh.

Đây là một điểm hiển nhiên, nhưng tôi nghĩ đáng để nói ra một cách rõ ràng và suy ngẫm về nó.

Tình huống mà những mô hình này có vẻ thông minh nhất, khi chúng như thể tôi nói chuyện với chúng và tôi nghĩ, 'Wow, thực sự có thứ gì đó ở đầu bên kia đang đáp lại tôi, suy nghĩ về mọi thứ.'

Nếu nó mắc

một lỗi, nó như kiểu, 'Ồ khoan, đó thực sự là cách suy nghĩ sai.'

Tôi lùi lại.' Tất cả điều đó diễn ra trong ngữ cảnh.

Đó là nơi tôi cảm thấy trí thông minh thực sự mà bạn có thể thấy rõ ràng.

Và quá trình học trong ngữ cảnh đó được phát triển bởi gradient descent trong quá trình tiền huấn luyện, phải không?

Nó tự động học meta học trong ngữ cảnh, nhưng bản thân học trong ngữ cảnh không phải là gradient descent giống như trí thông minh suốt đời của con người để làm mọi việc bị ảnh hưởng bởi tiến hóa, nhưng việc học thực tế trong suốt cuộc đời của chúng ta lại diễn ra qua một quá trình khác.

- Tôi thực sự không hoàn toàn đồng ý với điều đó, nhưng bạn nên tiếp tục - được rồi, thực ra tôi rất tò mò muốn hiểu sự tương tự đó hỏng ở đâu - Tôi nghĩ tôi ngần ngại khi nói rằng học trong ngữ cảnh không thực hiện gradient descent, bởi vì ý tôi là nó không thực hiện gradient descent rõ ràng, nhưng tôi vẫn nghĩ rằng - vậy học trong ngữ cảnh về cơ bản là

Đó là hoàn thiện mẫu trong một cửa sổ token, phải không?

Và hóa ra có rất nhiều mẫu trên internet.

Và vì vậy bạn đúng, mô hình học cách hoàn thiện mẫu.

Ừ.

Và điều đó nằm bên trong các trọng số.

Các trọng số của mạng nơ-ron đang cố gắng khám phá các mẫu và hoàn thiện mẫu.

Và có một loại thích ứng nào đó diễn ra bên trong mạng nơ-ron, phải không?

Điều này khá kỳ diệu và chỉ xuất hiện từ internet vì có rất nhiều mẫu.

Tôi sẽ nói rằng có một số bài báo tôi thấy thú vị thực sự xem xét các cơ chế đằng sau học trong ngữ cảnh và tôi nghĩ có khả năng học trong ngữ cảnh thực sự chạy một vòng lặp gradient descent nhỏ bên trong các lớp của mạng nơ-ron.

Và tôi nhớ một bài báo cụ thể nơi họ thực hiện hồi quy tuyến tính bằng cách sử dụng học trong ngữ cảnh.

Về cơ bản, đầu vào của bạn vào mạng nơ-ron là các cặp XY - XY XY tình cờ nằm trên đường thẳng - và sau đó bạn đưa X và mong đợi Y, và mạng nơ-ron khi được huấn luyện theo cách này thực sự thực hiện hồi quy tuyến tính - và thông thường khi bạn chạy

hồi quy tuyến tính, bạn có một bộ tối ưu hóa gradient descent nhỏ về cơ bản nhìn vào XY, tính toán lỗi, tính gradient của trọng số và thực hiện cập nhật vài lần.

Hóa ra khi họ xem xét các trọng số của thuật toán học trong ngữ cảnh đó, họ thực sự tìm thấy một số điểm tương đồng với cơ chế gradient descent.

Thực tế, tôi nghĩ bài báo thậm chí còn

mạnh mẽ hơn vì họ thực sự mã hóa cứng các trọng số của mạng nơ-ron để thực hiện gradient descent thông qua attention và tất cả các phần bên trong của mạng nơ-ron.

Vì vậy, tôi đoán đó chỉ là phản biện duy nhất của tôi rằng ai biết học trong ngữ cảnh hoạt động thế nào, nhưng tôi thực sự nghĩ rằng nó có thể đang thực hiện một chút gradient descent kỳ quặc nào đó bên trong.

Và tôi nghĩ điều đó là có thể.

Vì vậy, tôi đoán tôi chỉ phản biện lại việc bạn nói nó không thực hiện học trong ngữ cảnh.

Ai biết nó đang làm gì, nhưng có lẽ nó đang làm điều gì đó tương tự, nhưng chúng ta không biết.

Vậy thì đáng để suy nghĩ về việc nếu cả hai đều thực hiện gradient descent, xin lỗi, nếu học trong ngữ cảnh và tiền huấn luyện đều thực hiện điều gì đó giống như

gradient descent - tại sao cảm giác học trong ngữ cảnh thực sự đưa chúng ta đến thứ như học liên tục, trí thông minh thực sự, trong khi bạn không có cảm giác tương tự chỉ từ tiền huấn luyện, ít nhất bạn có thể tranh luận điều đó, và nếu đó là cùng một thuật toán, điều gì có thể khác? Một cách bạn có thể nghĩ về nó là mô hình lưu trữ bao nhiêu thông tin

thông tin hiệu suất từ quá trình huấn luyện.

Và nếu bạn nhìn vào tiền huấn luyện, tôi nghĩ nếu bạn nhìn vào Llama 3 chẳng hạn, tôi nghĩ nó được huấn luyện trên 15 nghìn tỷ token và nếu bạn nhìn vào mô hình 70B, đó sẽ tương đương với 0,7 bit mỗi token mà nó thấy trong tiền huấn luyện về mặt thông tin trong trọng số của mô hình so với các token nó đọc.

Trong khi nếu bạn nhìn vào KV cache và cách nó tăng lên cho mỗi token bổ sung trong học trong ngữ cảnh, nó khoảng 320 kilobyte.

Ừ.

Vậy đó là sự khác biệt 35 triệu lần về lượng thông tin mỗi token được mô hình tiếp thu.

Tôi tự hỏi liệu điều đó có liên quan không.

- Tôi nghĩ tôi khá đồng ý.

Ý tôi là cách tôi thường nói điều này là bất cứ điều gì xảy ra trong quá trình huấn luyện mạng nơ-ron.

Kiến thức chỉ giống như một hồi ức mơ hồ về những gì đã xảy ra trong thời gian huấn luyện và đó là vì sự nén là rất lớn.

Bạn đang lấy 15 nghìn tỷ token và nén nó thành chỉ mạng cuối cùng của bạn với vài

tỷ tham số.

Vì vậy rõ ràng có một lượng nén khổng lồ đang diễn ra.

Vì vậy tôi gọi nó như một hồi ức mơ hồ về các tài liệu internet, trong khi bất cứ điều gì xảy ra trong cửa sổ ngữ cảnh của mạng nơ-ron, bạn đang đưa vào tất cả các token và nó xây dựng tất cả biểu diễn KV cache này rất trực tiếp có thể truy cập được bởi mạng nơ-ron, vì vậy tôi so sánh KV cache và những thứ xảy ra tại thời điểm kiểm tra giống như bộ nhớ làm việc hơn.

- tất cả những thứ trong cửa sổ ngữ cảnh rất trực tiếp có thể truy cập được bởi mạng nơ-ron, vì vậy luôn có những sự tương tự đáng ngạc nhiên giữa LLM và con người, và tôi thấy chúng hơi ngạc nhiên vì tất nhiên chúng ta không cố gắng xây dựng bộ não con người, chúng ta chỉ trực tiếp thấy rằng điều này hoạt động và chúng ta đang làm nó - nhưng tôi nghĩ rằng

Bất cứ điều gì trong trọng số, nó giống như một hồi ức mơ hồ về những gì bạn đọc một năm trước.

Bất cứ điều gì bạn cung cấp cho nó như ngữ cảnh tại thời điểm kiểm tra đều trực tiếp trong bộ nhớ làm việc, và tôi nghĩ đó là một sự tương tự mạnh mẽ để suy nghĩ về mọi thứ.

Vì vậy khi bạn, ví dụ, đến một LLM và hỏi nó về một cuốn sách nào đó và điều gì đã xảy ra trong đó, như cuốn sách của Nan hay gì đó,

LLM thường sẽ cung cấp cho bạn một số thứ đại khái đúng, nhưng nếu bạn cung cấp cho nó toàn bộ chương và hỏi câu hỏi, bạn sẽ nhận được kết quả tốt hơn nhiều vì nó đã được tải vào bộ nhớ làm việc của mô hình.

Vì vậy về cơ bản tôi đồng ý với cách nói rất dài của bạn rằng tôi khá đồng ý, và đó là lý do tại sao lùi lại, phần nào về trí thông minh con người mà chúng ta thích có?

Hầu hết đều không thể tái tạo với các mô hình này?

Ừm, tôi gần như cảm thấy, ừm, chỉ là, uh, vẫn còn rất nhiều thứ.

Vậy có lẽ một cách để nghĩ về nó, tôi không biết đây có phải là cách tốt nhất không, nhưng tôi gần như cảm thấy, một lần nữa đưa ra những phép loại suy này, dù không hoàn hảo, ừm, chúng ta đã tình cờ có được mạng nơ-ron transformer, cực kỳ mạnh mẽ, rất tổng quát.

Bạn có thể huấn luyện transformer trên âm thanh, video, văn bản hay bất cứ thứ gì, và nó chỉ học các mẫu, và chúng rất mạnh mẽ và hoạt động rất tốt.

Đối với tôi, điều đó gần như chỉ ra rằng đây giống như một mảnh mô vỏ não.

Uh, nó giống như vậy vì vỏ não nổi tiếng là rất, ừm, dẻo dai.

Bạn có thể tái kết nối, ừm, bạn biết đấy, các phần của não, và đã có những thí nghiệm hơi rùng rợn với việc tái kết nối vỏ não thị giác với vỏ não thính giác và con vật này học tìm, v.v.

Ừm, vì vậy tôi nghĩ rằng đây giống như mô vỏ não.

Tôi nghĩ khi chúng ta thực hiện suy luận và lập kế hoạch bên trong

mạng nơ-ron, về cơ bản là thực hiện các dấu vết suy luận, ừm, cho các mô hình tư duy, đó giống như vỏ não trước trán.

Ừm, và sau đó, ừm, tôi nghĩ chúng ta, uh, có lẽ đó là những dấu kiểm nhỏ, nhưng tôi vẫn nghĩ có nhiều, uh, phần não và nhân não chưa được khám phá.

Vậy có lẽ, ví dụ, có hạch nền thực hiện một chút học tăng cường khi chúng ta tinh chỉnh các mô hình bằng học tăng cường, nhưng bạn biết đấy, trong khi như hồi hải mã, không rõ nó sẽ là gì.

Một số phần có lẽ không quan trọng.

Có lẽ tiểu não không quan trọng đối với nhận thức, người ta nghĩ vậy, vì vậy chúng ta có thể bỏ qua một số phần.

Uh, nhưng tôi vẫn nghĩ có

Ví dụ, hạnh nhân, tất cả cảm xúc và bản năng, ừm, và có lẽ có một loạt các nhân não khác rất cổ xưa mà tôi không nghĩ chúng ta đã thực sự tái tạo.

Tôi thực sự không biết liệu chúng ta có nên theo đuổi việc xây dựng một bản sao của não người hay không.

Tôi một lần nữa chủ yếu là một kỹ sư trong tâm hồn.

Nhưng, ừm, tôi vẫn cảm thấy có lẽ một cách khác để trả lời

câu hỏi là bạn sẽ không thuê thứ này làm thực tập sinh, và nó thiếu rất nhiều thứ vì nó đi kèm với nhiều khiếm khuyết nhận thức mà tất cả chúng ta đều cảm nhận một cách trực quan khi nói chuyện với các mô hình.

Ừm, và vì vậy nó vẫn chưa hoàn toàn đạt đến đó.

Bạn có thể nhìn nó như là chưa đánh dấu hết tất cả các phần não.

Điều này có thể liên quan đến câu hỏi về việc suy nghĩ những vấn đề này sẽ được giải quyết nhanh như thế nào.

Vì vậy, đôi khi người ta nói về học liên tục: hãy nhìn xem, thực ra bạn có thể, bạn có thể dễ dàng tái tạo khả năng này giống như học trong ngữ cảnh đã xuất hiện một cách tự phát như là kết quả của tiền huấn luyện.

Học liên tục trong khoảng thời gian dài hơn sẽ xuất hiện một cách tự phát nếu mô hình được khuyến khích thu thập thông tin trong khoảng thời gian dài hơn hoặc dài hơn một phiên.

Vì vậy, nếu có, ừm, một vòng lặp RL bên ngoài nào đó có nhiều phiên trong vòng lặp bên ngoài đó, thì việc học liên tục này, nơi nó sử dụng như tự tinh chỉnh hoặc ghi vào bộ nhớ ngoài hoặc

một cái gì đó sẽ tự động xuất hiện một cách tự phát.

Bạn có nghĩ, bạn có nghĩ mọi thứ khả thi như vậy không?

Tôi chỉ, tôi thực sự không có tiên nghiệm về mức độ khả thi của điều đó?

Khả năng điều đó xảy ra là bao nhiêu?

Tôi không biết liệu tôi có hoàn toàn đồng tình với điều đó không vì tôi cảm thấy những mô hình này, khi bạn khởi động chúng và chúng có không token trong cửa sổ, chúng luôn bắt đầu lại từ đầu nơi chúng đã ở.

Vì vậy, tôi thực sự không biết trong thế giới quan đó nó trông như thế nào.

Uh, bởi vì, ừm, một lần nữa có lẽ đưa ra một số phép loại suy với con người chỉ vì tôi nghĩ nó đại khái là cụ thể và khá

thú vị để suy nghĩ thấu đáo.

Tôi cảm thấy khi tôi thức, tôi đang xây dựng một cửa sổ ngữ cảnh về những điều xảy ra trong ngày, nhưng tôi cảm thấy khi tôi đi ngủ, một điều kỳ diệu xảy ra, uh, tôi không thực sự nghĩ rằng cửa sổ ngữ cảnh đó vẫn còn.

Ừm, tôi nghĩ có một quá trình chưng cất vào trọng số của não tôi.

Vâng.

Ừm, và điều này xảy ra trong khi ngủ và tất cả những thứ này.

Chúng ta không có tương đương cho điều đó trong các mô hình ngôn ngữ lớn, và điều đó đối với tôi gần gũi hơn khi bạn nói về học liên tục và v.v. như là thiếu vắng.

Các mô hình này không thực sự có giai đoạn chưng cất này, ừm, của việc lấy những gì đã xảy ra, phân tích nó, suy nghĩ ám ảnh về nó, ừm, về cơ bản thực hiện một loại quá trình tạo dữ liệu tổng hợp

và chưng cất nó trở lại vào trọng số, và có lẽ có, uh, bạn biết đấy, mạng nơ-ron cụ thể cho mỗi người.

Uh, có lẽ đó là một LoRA, không phải là một, uh, yeah, không phải là một mạng nơ-ron đầy đủ trọng số, nó chỉ nhỏ, một số tập con thưa nhỏ của các trọng số được thay đổi.

Nhưng về cơ bản chúng ta muốn tạo ra các cách để tạo ra những cá thể này có

ngữ cảnh rất dài.

Nó không chỉ nằm trong cửa sổ ngữ cảnh vì các cửa sổ ngữ cảnh trở nên rất dài, như có lẽ chúng ta có một số cơ chế chú ý thưa phức tạp trên đó.

Nhưng tôi vẫn nghĩ rằng con người rõ ràng có một số quá trình để chưng cất một phần kiến thức đó vào trọng số.

Chúng ta đang thiếu nó, và tôi cũng nghĩ rằng con người, ừm, có một loại cơ chế chú ý thưa rất phức tạp,

Ừm, mà tôi nghĩ chúng ta đang bắt đầu thấy một số dấu hiệu ban đầu.

Uh, vì vậy DeepSeek V3.2 vừa ra mắt, và tôi thấy rằng họ có chú ý thưa như một ví dụ, và đây là một cách để có cửa sổ ngữ cảnh rất dài.

Vì vậy, tôi gần như cảm thấy rằng chúng ta đang làm lại rất nhiều thủ thuật nhận thức mà quá trình tiến hóa đã nghĩ ra thông qua một quá trình rất khác, nhưng tôi nghĩ chúng ta sẽ hội tụ về một kiến trúc nhận thức tương tự.

Thú vị.

Trong 10 năm nữa, bạn có nghĩ nó vẫn sẽ là thứ gì đó giống như transformer nhưng với cơ chế attention được sửa đổi nhiều hơn và MLPs thưa thớt hơn không?

Chà, cách tôi thích nghĩ về nó là: được rồi, hãy xem xét tính bất biến dịch chuyển theo thời gian, phải không?

Vậy 10 năm trước, chúng ta đã ở đâu?

Năm 2015, chúng ta chủ yếu có mạng nơ-ron tích chập.

Mạng residual vừa mới ra đời.

Ừm, khá giống nhau, tôi đoán vậy, nhưng vẫn khác một chút.

Ý tôi là, transformer chưa tồn tại.

Ừm, bạn biết đấy, tất cả những kiểu điều chỉnh hiện đại trên transformer đều chưa có.

Vậy có lẽ một số thứ chúng ta có thể đặt cược, tôi nghĩ trong 10 năm nữa, nhờ tính tương đương dịch chuyển

là chúng ta vẫn sẽ huấn luyện các mạng nơ-ron khổng lồ với lượt truyền xuôi và ngược và cập nhật qua gradient descent, nhưng có thể nó trông hơi khác một chút, và mọi thứ đều lớn hơn nhiều.

Thực ra, gần đây tôi cũng đã quay lại năm 1989, đó là một bài tập thú vị đối với tôi vài năm trước, vì tôi đang tái tạo mạng tích chập năm 1989 của Yann LeCun

mạng nơ-ron đầu tiên mà tôi biết được huấn luyện qua gradient descent giống như mạng nơ-ron hiện đại được huấn luyện bằng gradient descent trên nhận dạng chữ số.

Và tôi chỉ quan tâm: được rồi, làm thế nào tôi có thể hiện đại hóa nó?

Bao nhiêu phần trăm là do thuật toán?

Bao nhiêu phần trăm là do dữ liệu?

Bao nhiêu phần trăm tiến bộ này là do tính toán và hệ thống?

Và tôi đã có thể rất nhanh chóng

giảm một nửa tốc độ học chỉ bằng cách du hành thời gian 33 năm.

Vì vậy, nếu tôi du hành thời gian bằng thuật toán 33 năm, tôi có thể điều chỉnh những gì Yann đã làm năm 1989, và về cơ bản tôi có thể giảm một nửa việc học, giảm một nửa lỗi.

Nhưng để đạt được lợi ích xa hơn, tôi phải thêm nhiều dữ liệu hơn.

Tôi phải tăng gấp 10 lần tập huấn luyện, và sau đó tôi thực sự phải thêm các tối ưu hóa tính toán.

Ừm, về cơ bản phải huấn luyện

lâu hơn nhiều với dropout và các kỹ thuật chính quy hóa khác.

Và vì vậy, gần như tất cả những thứ này phải cải thiện đồng thời.

Vì vậy, ừm, bạn biết đấy, chúng ta có thể sẽ có nhiều dữ liệu hơn.

Chúng ta có thể sẽ có phần cứng tốt hơn nhiều.

Có thể sẽ có kernel và phần mềm tốt hơn nhiều.

Chúng ta có thể sẽ có thuật toán tốt hơn.

Và tất cả những điều đó, gần như không có cái nào chiếm ưu thế quá nhiều.

Tất cả đều bình đẳng một cách đáng ngạc nhiên.

Và điều này dường như là xu hướng trong một thời gian.

Vì vậy, tôi đoán để trả lời câu hỏi của bạn, tôi mong đợi sự khác biệt về mặt thuật toán so với những gì đang xảy ra ngày nay.

Ừm, nhưng tôi cũng kỳ vọng rằng một số thứ đã tồn tại rất lâu có thể sẽ vẫn còn đó.

Có lẽ vẫn là mạng nơ-ron khổng lồ được huấn luyện với gradient descent.

Đó sẽ là dự đoán của tôi.

Thật ngạc nhiên khi tất cả những thứ đó cùng nhau chỉ giảm được một nửa lỗi.

Vâng.

Vì vậy, 30 năm tiến bộ, có lẽ một nửa là nhiều bởi vì nếu bạn giảm một nửa lỗi, điều đó thực sự có nghĩa là một nửa là nhiều.

Vâng.

Vâng.

Vâng.

Được rồi.

Ừm, nhưng điều gây sốc đối với tôi là mọi thứ đều cần cải thiện trên mọi phương diện.

Ừm, kiến trúc, bộ tối ưu, hàm mất mát, và cũng đã cải thiện trên mọi phương diện mãi mãi.

Vì vậy, tôi phần nào kỳ vọng tất cả những thay đổi đó sẽ vẫn tồn tại và phát triển.

Chà, vâng.

Thực ra, tôi định hỏi một câu hỏi rất giống về NanoChat vì bạn vừa mới code gần đây, mọi bước trong quá trình xây dựng chatbot đều còn mới mẻ trong bộ nhớ của bạn.

Và tôi tò mò liệu bạn có suy nghĩ tương tự như, ồ, không có một thứ nào là quan trọng để đi từ GPT-2 đến NanoChat.

Những bài học đáng ngạc nhiên từ trải nghiệm xây dựng là gì?

Vậy, NanoChat là một loại kho lưu trữ tôi đã phát hành, hôm qua hay hôm kia nhỉ?

Tôi không nhớ nữa.

Chúng ta có thể thấy sự cân nhắc kỹ lưỡng đã được đưa vào, ừm, nó chỉ cố gắng trở thành kho lưu trữ hoàn chỉnh đơn giản nhất bao trùm toàn bộ quy trình từ đầu đến cuối của việc xây dựng một bản sao ChatGPT.

Và vì vậy, bạn biết đấy, bạn có tất cả các bước, không chỉ một bước riêng lẻ, đó là một loạt.

Tôi đã làm việc trên tất cả các bước riêng lẻ trước đây và

Những đoạn mã rất nhỏ, kiểu như, cho bạn thấy cách thực hiện theo nghĩa thuật toán, trong mã đơn giản, nhưng cái này xử lý toàn bộ quy trình.

Tôi nghĩ về mặt học tập, nó không thực sự, ừm, tôi không biết liệu tôi có thực sự tìm thấy điều gì đó mà tôi học được từ nó hay không.

Tôi đã có sẵn trong đầu cách xây dựng nó, và đây chỉ là quá trình xây dựng một cách máy móc, làm cho nó đủ sạch sẽ để mọi người có thể học hỏi và thấy nó hữu ích.

Vâng.

Cách tốt nhất để ai đó học từ nó là gì?

Có phải chỉ là xóa hết mã và thử triển khai lại từ đầu?

Thử thêm các sửa đổi vào nó?

Ừ, tôi nghĩ đó là một câu hỏi hay.

Tôi có lẽ sẽ nói về cơ bản nó có khoảng 8.000 dòng mã đưa bạn qua toàn bộ quy trình.

Tôi có lẽ sẽ đặt nó trên màn hình bên phải, nếu bạn có hai màn hình, bạn đặt nó ở bên phải.

Ừm, và bạn muốn xây dựng nó từ đầu.

Bạn xây dựng nó từ đầu.

Bạn không được phép sao chép dán.

Bạn được phép tham khảo.

Bạn không được phép sao chép dán.

Có lẽ đó là cách tôi sẽ làm.

Ừm, nhưng tôi cũng nghĩ bản thân kho lưu trữ là một con quái vật khá lớn.

Ý tôi là, bạn biết đấy, khi bạn viết mã này, bạn không đi từ trên xuống dưới.

Bạn đi từ các khối và bạn phát triển các khối, và thông tin đó bị thiếu.

Giống như, bạn sẽ không biết bắt đầu từ đâu, và vì vậy tôi nghĩ không chỉ cần kho lưu trữ cuối cùng, mà còn cần quá trình xây dựng kho lưu trữ, đó là một quá trình phát triển khối phức tạp, phải không?

Ừ, phần đó chưa có.

Tôi rất muốn thực sự thêm nó có lẽ vào cuối tuần này hoặc gì đó bằng cách nào đó, có thể là một video hoặc gì đó, nhưng, ừm, nhưng nói một cách đại khái, đó là những gì tôi sẽ cố gắng làm là tự xây dựng mọi thứ, nhưng không cho phép mình sao chép dán.

Tôi nghĩ rằng có hai loại

kiến thức gần như.

Giống như, có kiến thức bề mặt cấp cao, nhưng vấn đề là khi bạn thực sự xây dựng thứ gì đó từ đầu, bạn buộc phải đối mặt với những gì bạn thực sự không hiểu, và bạn không biết rằng bạn không hiểu nó.

Thú vị.

Và nó luôn dẫn đến sự hiểu biết sâu sắc hơn, và, ừm, nó giống như cách duy nhất để xây dựng là nếu tôi

Không thể xây dựng nó, tôi không hiểu nó.

Đó có phải là một câu nói hay tôi tin hay gì đó tương tự không?

Tôi 100%, tôi luôn tin điều này rất mạnh mẽ, bởi vì có tất cả những thứ vi mô không được sắp xếp đúng cách, và bạn không thực sự có kiến thức, bạn chỉ có kiến thức trong đầu.

Vì vậy, đừng viết bài blog, đừng làm slide, đừng làm bất kỳ điều gì trong số đó.

Hãy xây dựng mã, sắp xếp nó, làm cho nó hoạt động.

Đó là cách duy nhất.

Nếu không, bạn đang thiếu kiến thức.

Ừm, bạn đã tweet rằng các mô hình mã hóa thực sự rất ít giúp ích cho bạn trong việc tập hợp kho lưu trữ này, và tôi tò mò tại sao lại như vậy.

Vâng.

Ừ, kho lưu trữ, tôi đoán tôi đã xây dựng nó trong khoảng hơn một tháng, và tôi sẽ nói có ba loại chính về cách mọi người tương tác với mã hiện tại.

Một số người hoàn toàn từ chối tất cả các LLM và họ chỉ viết từ đầu.

Tôi nghĩ điều này có lẽ không còn đúng nữa.

Phần trung gian, đó là nơi tôi đang ở, là bạn vẫn

Viết nhiều thứ từ đầu, nhưng bạn sử dụng tính năng tự động hoàn thành hiện có từ các mô hình này.

Vì vậy, khi bạn bắt đầu viết một đoạn nhỏ, nó sẽ tự động hoàn thành cho bạn, và bạn chỉ cần nhấn qua, và hầu hết thời gian nó đúng.

Đôi khi nó không đúng và bạn chỉnh sửa nó, nhưng bạn vẫn là người kiến trúc những gì bạn đang

viết.

Và sau đó có kiểu lập trình vibe, bạn biết đấy, này, hãy triển khai cái này hay cái kia, bạn biết đấy, nhấn Enter và để mô hình làm việc đó.

Và đó là các tác nhân.

Ừm, tôi cảm thấy các tác nhân hoạt động trong những bối cảnh rất cụ thể, và tôi sẽ sử dụng chúng trong những bối cảnh cụ thể.

Nhưng một lần nữa, đây đều là những công cụ có sẵn cho bạn, và bạn phải học xem chúng giỏi ở điểm nào, không giỏi ở điểm nào và khi nào nên sử dụng chúng.

Vậy nên các tác nhân thực sự khá tốt.

Ví dụ, nếu bạn đang làm những thứ boilerplate, mã boilerplate chỉ là sao chép, bạn biết đấy, chỉ là sao chép dán.

Chúng rất giỏi việc đó.

Chúng rất giỏi những thứ xuất hiện thường xuyên trên internet, ừm, vì có rất nhiều ví dụ về chúng trong tập dữ liệu huấn luyện của các mô hình này.

Ừm, vậy nên có những tính năng mà các mô hình sẽ làm rất tốt.

Tôi cho rằng NanoChat không phải là một ví dụ về điều này vì nó là một kho lưu trữ khá độc đáo.

Không có nhiều mã, tôi nghĩ vậy, theo cách tôi đã cấu trúc nó, và, ừm, và nó không phải là mã boilerplate.

Nó giống như mã thực sự đòi hỏi trí tuệ cao, và mọi thứ phải được sắp xếp rất chính xác, và các mô hình luôn cố gắng, ý tôi là chúng có rất nhiều khiếm khuyết về nhận thức, phải không?

Vì vậy, một ví dụ, chúng liên tục cố gắng, chúng liên tục hiểu sai mã, ừm, vì chúng có quá nhiều bộ nhớ từ tất cả các cách làm điển hình trên

Internet mà tôi đã không áp dụng.

Uh, vậy nên các mô hình, ví dụ, ý tôi là, tôi không biết liệu tôi có muốn đi vào chi tiết đầy đủ không, nhưng chúng liên tục, chúng liên tục, ừm, chúng liên tục nghĩ rằng tôi đang viết mã bình thường, nhưng thực tế không phải vậy.

Có thể một ví dụ, có thể một ví dụ là cách để đồng bộ hóa, vậy bạn có tám GPU đều đang thực hiện forward backward, cách để đồng bộ hóa gradient giữa chúng là sử dụng distributed data parallel

Container của PyTorch, tự động thực hiện tất cả khi bạn đang thực hiện backward, nó sẽ bắt đầu giao tiếp và đồng bộ hóa gradient.

Tôi đã không sử dụng DDP vì tôi không muốn sử dụng nó vì nó không cần thiết, vì vậy tôi đã loại bỏ nó.

Và về cơ bản tôi đã viết quy trình đồng bộ hóa của riêng mình nằm bên trong bước của optimizer, và vì vậy các mô hình đã cố gắng bắt tôi sử dụng container DDP,

Và chúng rất lo lắng về, okay, điều này trở nên quá kỹ thuật, nhưng tôi đã không sử dụng container đó vì tôi không cần nó, và tôi có một triển khai tùy chỉnh của một thứ tương tự.

Và chúng không thể nội hóa rằng bạn đã có cái của riêng mình.

Ừ, chúng không thể, chúng không thể vượt qua điều đó.

Và sau đó, ừm, chúng liên tục cố gắng làm hỏng phong cách, như chúng quá phòng thủ, chúng tạo ra tất cả

Những câu lệnh try-catch này, chúng liên tục cố gắng tạo ra một codebase sản xuất, và tôi có một loạt các giả định trong mã của mình, và điều đó ổn, và, uh, và nó giống như tôi không cần tất cả những thứ phụ thêm này, và vì vậy tôi cảm thấy như chúng đang làm phình to codebase.

Chúng đang làm phình to độ phức tạp.

Chúng liên tục hiểu sai.

Chúng sử dụng các API lỗi thời nhiều lần.

Vậy nên,

Đó là một mớ hỗn độn.

Ừm, và, uh, nó chỉ, nó chỉ không hữu ích lắm.

Tôi có thể vào, tôi có thể dọn dẹp nó, nhưng nó không hữu ích lắm.

Tôi cũng cảm thấy hơi khó chịu khi phải gõ ra những gì tôi muốn bằng tiếng Anh vì nó quá nhiều chữ.

Ví dụ, nếu tôi chỉ điều hướng đến phần mã tôi muốn và tôi đến nơi tôi, nơi tôi biết mã phải xuất hiện và tôi bắt đầu gõ ba

Chữ cái đầu tiên, autocomplete sẽ hiểu và đưa ra mã cho bạn.

Và vì vậy tôi nghĩ đây là một băng thông thông tin rất cao để chỉ định những gì bạn muốn nếu bạn chỉ vào mã nơi bạn muốn và bạn gõ vài phần đầu và mô hình sẽ hoàn thành nó.

Vì vậy tôi đoán ý tôi là, ừm, tôi nghĩ các mô hình này tốt trong một số phần nhất định của stack.

Thực ra, tôi sử dụng các mô hình một chút trong, ừm, có hai ví dụ mà tôi thực sự sử dụng các mô hình mà tôi nghĩ là minh họa.

Uh, một là khi tôi tạo báo cáo thực sự mang tính boilerplate hơn.

Vì vậy tôi thực sự đã vibe code một phần một số thứ đó và nó ổn, ừm, vì nó không phải là

Thứ quan trọng và nó hoạt động tốt.

Và phần còn lại là khi tôi viết lại tokenizer, uh, bằng Rust.

Uh, tôi thực sự không giỏi Rust lắm vì tôi khá mới với Rust.

Vì vậy tôi đã làm, có một chút vibe coding, uh, khi tôi viết một số mã Rust, nhưng tôi có triển khai Python mà tôi hiểu hoàn toàn và tôi chỉ đảm bảo tôi đang tạo một phiên bản hiệu quả hơn của nó, và tôi có các bài kiểm tra, vì vậy tôi cảm thấy

An toàn hơn khi làm những thứ đó.

Ừm, và về cơ bản chúng hạ thấp hoặc chúng tăng khả năng tiếp cận với, uh, các ngôn ngữ hoặc mô hình mà bạn có thể không quen thuộc.

Uh, vì vậy tôi nghĩ chúng rất hữu ích ở đó.

Ừ.

Uh, vì có rất nhiều mã Rust ngoài kia.

Các mô hình thực sự khá giỏi về nó.

Tôi tình cờ không biết nhiều về nó.

Vì vậy các mô hình rất hữu ích ở đó.

Ừm, lý do tôi nghĩ câu hỏi này thú vị là vì câu chuyện chính mà mọi người kể về AI bùng nổ và đạt đến siêu trí tuệ khá nhanh là AI tự động hóa kỹ thuật AI và nghiên cứu AI.

Vì vậy, họ sẽ nhìn vào thực tế rằng bạn có thể dùng Claude Code để tạo toàn bộ ứng dụng từ đầu và nghĩ rằng, nếu bạn có khả năng này bên trong OpenAI và DeepMind và mọi thứ, thì hãy tưởng tượng mức độ như, bạn biết đấy, một nghìn bạn hoặc một triệu bạn song song tìm ra những điều chỉnh kiến trúc nhỏ, và thật thú vị khi nghe bạn nói rằng đây là thứ

Mà chúng kém hơn một cách bất đối xứng, và nó khá liên quan đến việc dự báo liệu vụ nổ AI kiểu 2027 có khả năng xảy ra sớm hay không.

Tôi nghĩ đó là một cách diễn đạt hay.

Và tôi nghĩ bạn đang đề cập đến một phần lý do tại sao mốc thời gian của tôi dài hơn một chút.

Bạn nói đúng.

Ừm, tôi nghĩ, ừm, vâng, chúng không giỏi lắm với mã chưa từng được viết trước đây, có lẽ đó là một cách để nói, đó là những gì chúng tôi đang cố gắng đạt được khi xây dựng các mô hình này.

Câu hỏi rất ngây thơ, nhưng, ừm, những điều chỉnh kiến trúc mà bạn đang thêm vào NanoChat, chúng có trong một bài báo ở đâu đó, phải không?

Chúng thậm chí có thể có trong một kho lưu trữ ở đâu đó.

Vậy thì, ừm, có đáng ngạc nhiên không khi chúng không thể tích hợp điều đó vào bất cứ khi nào bạn thêm RoPE embeddings hay gì đó, chúng làm điều đó sai cách.

Thật khó.

Tôi nghĩ chúng có biết, chúng có biết, nhưng chúng không biết hoàn toàn, và chúng không biết cách tích hợp hoàn toàn vào repo, phong cách của bạn, mã của bạn, vị trí của bạn và một số thứ tùy chỉnh bạn đang làm, và, uh, nó phù hợp như thế nào với tất cả các giả định của kho lưu trữ và tất cả những thứ đó.

Vì vậy, tôi nghĩ chúng có một số kiến thức, nhưng, ừm, chúng chưa

Đạt đến mức có thể thực sự tích hợp nó, hiểu nó, uh, v.v.

Nhân tiện, tôi nghĩ rất nhiều thứ vẫn tiếp tục cải thiện.

Vì vậy, ừm, tôi nghĩ hiện tại mô hình tiên tiến nhất mà tôi dùng là GPT-5 Pro.

Ừm, và, uh, đó là một mô hình rất mạnh mẽ.

Vì vậy, nếu tôi có 20 phút, tôi sẽ sao chép toàn bộ repo của mình và vào GPT-5 Pro the Oracle để hỏi một số câu hỏi, và thường thì nó không tệ lắm và tốt một cách đáng ngạc nhiên so với những gì tồn tại một năm trước.

Vâng.

Ừm, nhưng tôi nghĩ rằng, uh, nhìn chung các mô hình, ừm, chúng chưa đạt đến mức đó.

Và tôi có cảm giác như ngành công nghiệp này, nó, ừm, nó đã quá lố, nó đang cố giả vờ rằng điều này thật tuyệt vời và thực tế không phải vậy.

Đó là đồ bỏ đi, và tôi nghĩ họ không chấp nhận điều đó, và có lẽ họ đang cố gây quỹ hay gì đó.

Tôi không chắc chuyện gì đang xảy ra, nhưng chúng ta đang ở giai đoạn trung gian này.

Các mô hình thì

Tuyệt vời.

Chúng vẫn cần nhiều cải tiến cho đến nay.

Tự động hoàn thành là điểm mạnh của tôi, nhưng đôi khi với một số loại mã, tôi sẽ dùng agent.

Vâng.

Vâng.

Thực ra, đây cũng là một lý do khác tại sao điều này thực sự thú vị.

Ừm, trong lịch sử lập trình, đã có nhiều cải tiến về năng suất: trình biên dịch, linting, ngôn ngữ lập trình tốt hơn, v.v., đã tăng năng suất lập trình viên nhưng không dẫn đến một vụ nổ.

Vì vậy, đó giống như một thứ rất giống với tab tự động hoàn thành, và loại khác này giống như

Tự động hóa lập trình viên.

Và thật thú vị khi bạn thấy nhiều hơn trong loại tương tự lịch sử như, bạn biết đấy, trình biên dịch tốt hơn hay gì đó, có lẽ vì một suy nghĩ khác là, tôi cảm thấy khó phân biệt AI bắt đầu và kết thúc ở đâu vì tôi coi AI về cơ bản là một phần mở rộng của máy tính

Theo một cách khá cơ bản, và tôi cảm thấy mình thấy một chuỗi liên tục của kiểu tự cải thiện đệ quy này hoặc tăng tốc lập trình viên từ đầu.

Giống như tôi sẽ nói, uh, trình soạn thảo mã, um, uh, tô sáng cú pháp, uh, cú pháp, uh, hoặc kiểm tra thậm chí cả kiểu, như kiểm tra kiểu dữ liệu, um, tất cả những loại công cụ này mà chúng ta đã

Xây dựng cho nhau, thậm chí cả công cụ tìm kiếm.

Giống như, tại sao công cụ tìm kiếm không phải là một phần của AI?

Giống như, tôi không biết, xếp hạng là một dạng AI, phải không?

Tại một thời điểm nào đó, Google thậm chí từ sớm đã tự coi mình là công ty AI làm công cụ tìm kiếm Google, điều mà tôi nghĩ là hoàn toàn công bằng.

Và vì vậy, tôi thấy nó như một chuỗi liên tục nhiều hơn so với những người khác

Nghĩ, và tôi không, thật khó để tôi vạch ra ranh giới, và tôi có cảm giác rằng được rồi, bây giờ chúng ta có tính năng tự động hoàn thành tốt hơn nhiều, và bây giờ chúng ta cũng có một số agent, giống như những thứ lặp vòng, nhưng đôi khi chúng đi chệch hướng.

Ừm, và điều đang xảy ra là con người dần dần làm ít hơn và ít hơn những việc cấp thấp.

Ví dụ, chúng ta không viết

Mã assembly vì chúng ta có trình biên dịch, phải không?

Giống như trình biên dịch sẽ lấy ngôn ngữ cấp cao của tôi và C và viết mã assembly.

Vì vậy, chúng ta đang trừu tượng hóa bản thân rất chậm, và có cái gọi là thanh trượt tự chủ này, ngày càng nhiều thứ được tự động hóa trong số những thứ có thể tự động hóa tại bất kỳ thời điểm nào, và chúng ta đang làm ít hơn và ít hơn và, uh, nâng mình lên trong

Lớp trừu tượng trên tự động hóa.

Một trong những vấn đề lớn với RL là nó cực kỳ thưa thớt thông tin.

Labelbox có thể giúp bạn với điều này bằng cách tăng lượng thông tin mà agent của bạn học được từ mỗi tập.

Ví dụ, một trong những khách hàng của họ muốn huấn luyện một tác nhân lập trình.

Vì vậy, Labelbox đã mở rộng một IDE với nhiều công cụ thu thập dữ liệu bổ sung và biên chế một đội ngũ kỹ sư phần mềm chuyên gia từ mạng lưới aligner của họ để tạo ra các quỹ đạo.

Được tối ưu hóa cho việc huấn luyện.

Rõ ràng, các kỹ sư này đã đánh giá các tương tác trên cơ sở từng trường, nhưng họ cũng xếp hạng mọi phản hồi trên nhiều khía cạnh khác nhau như tính dễ đọc và hiệu suất.

Và họ đã ghi lại quá trình suy nghĩ của mình cho mọi xếp hạng mà họ đưa ra.

Vì vậy, bạn về cơ bản đang xem từng bước mà một

kỹ sư thực hiện và mọi suy nghĩ của họ trong khi làm việc.

Và đây là điều bạn không bao giờ có thể có được chỉ từ dữ liệu sử dụng.

Và vì vậy Labelbox đã đóng gói tất cả các đánh giá này và bao gồm tất cả các quỹ đạo châu Á và các chỉnh sửa của con người để khách hàng huấn luyện.

Đây chỉ là một ví dụ.

Vì vậy, hãy xem cách Labelbox có thể cung cấp cho bạn dữ liệu tiên tiến chất lượng cao trên các lĩnh vực, phương thức và mô hình huấn luyện.

Liên hệ tại labelbox.com.

Hãy nói một chút về RL.

Ừ, hai bạn đã làm một số điều rất thú vị về vấn đề này.

Về mặt khái niệm, chúng ta nên nghĩ thế nào về cách con người có thể xây dựng một mô hình thế giới phong phú chỉ từ việc tương tác với môi trường và theo những cách dường như không phụ thuộc vào phần thưởng cuối cùng ở cuối tập?

- Ừm.

Nếu ai đó bắt đầu kinh doanh và sau 10 năm, cô ấy biết liệu việc kinh doanh thành công hay thất bại, - chúng ta nói rằng cô ấy đã tích lũy được nhiều trí tuệ và kinh nghiệm, - nhưng không phải vì log xác suất của mọi thứ xảy ra trong 10 năm qua được cập nhật lên hay xuống.

Đó là điều gì đó có chủ đích và phong phú hơn nhiều.

Điều gì đang xảy ra.

Phép tương tự ML là gì và nó so sánh thế nào với những gì chúng ta đang làm với các phương pháp khác hiện nay?

- Ừ, có lẽ cách tôi diễn đạt là con người không sử dụng học tăng cường, như tôi đã từng nói.

Tôi nghĩ họ làm điều gì đó khác, đó là bạn trải nghiệm, vì vậy học tăng cường tệ hơn nhiều so với những gì người bình thường nghĩ; học tăng cường rất tệ.

Chỉ là mọi thứ chúng ta có trước đây còn tệ hơn nhiều vì trước đây chúng ta chỉ bắt chước con người, nên có tất cả những vấn đề này.

Ừm, trong học tăng cường, giả sử bạn đang giải một bài toán vì nó rất đơn giản.

Bạn được đưa một bài toán và bạn đang cố gắng tìm lời giải.

Ừm, trong học tăng cường, bạn sẽ

thử nhiều thứ song song trước.

Vì vậy, bạn được đưa một bài toán, bạn thử hàng trăm lần khác nhau và những lần thử này có thể phức tạp, như 'ồ, hãy thử cái này, thử cái kia, cái này không được, cái kia không được', v.v.

Và sau đó có thể bạn có được câu trả lời và bây giờ bạn kiểm tra đáp án ở cuối sách và thấy 'ok, câu trả lời đúng là cái này' và sau đó bạn thấy rằng 'ok, cái này,

cái này và cái kia có câu trả lời đúng, nhưng 97 cái còn lại thì không'.

Vì vậy, về cơ bản, học tăng cường làm gì: nó đi đến những cái hoạt động tốt và mọi thứ bạn đã làm trên đường đi, mọi token đều được tăng trọng số như 'làm nhiều hơn cái này'.

Vấn đề với điều đó là, ý tôi là mọi người sẽ nói rằng ước lượng của bạn có phương sai cao, nhưng

Ý tôi là nó chỉ nhiễu, nó nhiễu.

Vì vậy, về cơ bản nó gần như giả định rằng mọi phần nhỏ trong giải pháp bạn tạo ra dẫn đến câu trả lời đúng đều là điều đúng đắn, điều này không đúng.

Giống như bạn có thể đã đi vào những ngõ cụt cho đến khi tìm ra giải pháp đúng.

Mọi điều sai bạn đã làm, miễn là bạn đến được giải pháp đúng, sẽ được tăng trọng số như 'làm nhiều hơn cái này'.

Thật tệ.

- Ừ, nó nhiễu.

Bạn đã làm tất cả công việc này chỉ để tìm một con số duy nhất ở cuối, như 'ồ, bạn đã làm đúng'.

Và dựa trên điều đó, bạn đánh trọng số toàn bộ quỹ đạo đó như tăng hoặc giảm trọng số.

Và vì vậy, cách tôi thích diễn đạt là bạn đang hút sự giám sát qua một ống hút.

Ừ, vì bạn đã làm tất cả công việc này, có thể là một phút rollout, và bạn

đang hút các bit giám sát từ tín hiệu phần thưởng cuối cùng qua một ống hút và bạn đang phát nó trên toàn bộ quỹ đạo và sử dụng nó để tăng hoặc giảm trọng số quỹ đạo đó.

Thật điên rồ.

Một con người sẽ không bao giờ làm điều này.

Thứ nhất, một con người sẽ không bao giờ thực hiện hàng trăm rollout.

Ừ, thứ hai, khi một người

tìm ra giải pháp, họ sẽ có một quá trình xem xét khá phức tạp như 'ok, tôi nghĩ những phần này tôi làm tốt, những phần này tôi làm không tốt, tôi nên làm cái này hay cái kia'.

Và họ suy nghĩ thấu đáo mọi thứ.

Không có điều gì trong LLM hiện tại làm được điều này.

Không có thứ gì tương đương với nó.

Ừm nhưng tôi thấy các bài báo đang xuất hiện cố gắng làm điều này vì nó hiển nhiên với mọi người trong lĩnh vực.

- Vâng.

- Vì vậy tôi thấy như là học bắt chước đầu tiên thực ra đã cực kỳ đáng ngạc nhiên và kỳ diệu và tuyệt vời rằng chúng ta có thể tinh chỉnh bằng cách bắt chước trên con người.

Ừm và điều đó thật phi thường vì ban đầu tất cả những gì chúng ta có là các mô hình cơ sở.

Các mô hình cơ sở là tự động hoàn thành.

Ừ và nó không hiển nhiên với tôi lúc đó và tôi đã phải học điều này và bài báo đã làm tôi

Kinh ngạc là Instruct GPT vì nó chỉ ra rằng này bạn có thể lấy mô hình tiền huấn luyện là tự động hoàn thành và nếu bạn chỉ tinh chỉnh nó trên văn bản trông giống như hội thoại, mô hình sẽ rất nhanh chóng thích nghi để trở nên rất đối thoại và nó giữ lại tất cả kiến thức từ tiền huấn luyện và điều này làm tôi kinh ngạc vì tôi không hiểu rằng nó chỉ điều chỉnh về mặt phong cách có thể

Thích nghi nhanh chóng và trở thành trợ lý cho người dùng chỉ qua một vài vòng tinh chỉnh trên loại dữ liệu đó. Đối với tôi thật kỳ diệu khi nó hoạt động.

Thật đáng kinh ngạc.

Và đó là khoảng hai, ba năm làm việc.

Và bây giờ đến RL.

Và RL cho phép bạn làm tốt hơn một chút so với chỉ học bắt chước, phải không?

Bởi vì bạn không thể có các hàm phần thưởng và bạn có thể leo đồi trên các hàm phần thưởng.

Và vì vậy một số vấn đề chỉ có câu trả lời đúng.

Bạn có thể leo đồi trên đó mà không cần có các quỹ đạo chuyên gia để bắt chước.

Vậy nên điều đó

Tuyệt vời.

Và mô hình cũng có thể khám phá ra các giải pháp mà con người không bao giờ nghĩ ra.

- Ừ vậy điều này thật phi thường.

Và nó vẫn còn ngu ngốc.

Ừm, vì vậy tôi nghĩ chúng ta cần nhiều hơn nữa và tôi thấy một bài báo từ Google hôm qua cố gắng có ý tưởng phản ánh và xem xét này trong đầu.

Ừ bài báo về ngân hàng bộ nhớ hay gì đó?

Tôi không biết.

Tôi thực sự đã thấy một vài bài báo theo hướng này.

Vì vậy tôi mong đợi sẽ có một số cập nhật lớn về cách chúng ta thực hiện

Các thuật toán cho LLM trong lĩnh vực đó và sau đó tôi nghĩ chúng ta cần ba hoặc bốn hoặc năm cái nữa đại loại thế.

Nhưng bạn rất giỏi trong việc đưa ra những cụm từ gợi cảm, hút sự giám sát qua ống hút.

Nó hay quá.

Ừm tại sao bạn lại nói vấn đề của bạn với phần thưởng dựa trên kết quả là bạn có quỹ đạo khổng lồ này và cuối cùng bạn đang cố gắng

Học mọi thứ có thể về những gì bạn nên làm và những gì bạn nên học về thế giới từ một bit cuối cùng đó.

Ừm tại sao, với thực tế là điều này hiển nhiên, tại sao giám sát dựa trên quy trình - như một giải pháp thay thế lại không phải là một cách thành công để làm cho các mô hình có năng lực hơn?

Điều gì đã ngăn cản chúng ta sử dụng mô hình thay thế này?

- Vậy giám sát dựa trên quy trình chỉ đề cập đến thực tế là chúng ta sẽ không có hàm phần thưởng chỉ ở cuối cùng sau khi bạn đã làm việc 10 phút.

Tôi sẽ không nói cho bạn biết bạn làm tốt hay không tốt.

- Tôi sẽ nói cho bạn biết ở mỗi bước trên đường đi bạn đang làm tốt thế nào.

- Ừm và về cơ bản lý do chúng ta không có điều đó là nó không dễ, nó khó khăn để làm đúng cách.

- Ừm bởi vì bạn có các giải pháp một phần và bạn không biết cách gán tín dụng.

Vì vậy khi bạn có câu trả lời đúng, nó chỉ là một sự khớp đẳng thức với câu trả lời.

Rất đơn giản để triển khai.

- Nếu bạn đang thực hiện giám sát quy trình, làm thế nào để bạn gán một cách tự động việc gán tín dụng một phần?

Không rõ ràng làm thế nào để làm điều đó.

Nhiều phòng thí nghiệm, tôi nghĩ, đang cố gắng làm điều này với các thẩm phán LLM.

Về cơ bản, bạn yêu cầu LLM cố gắng làm điều đó.

Vì vậy bạn nhắc LLM, này, hãy nhìn vào giải pháp một phần của một học sinh.

Bạn nghĩ họ đang làm tốt thế nào nếu câu trả lời là thế này?

Và họ cố gắng điều chỉnh lời nhắc.

Ừm, lý do tôi nghĩ điều này hơi khó khăn là khá tinh tế.

Và đó là thực tế rằng bất cứ khi nào bạn sử dụng LLM để gán phần thưởng, những LLM đó là những thứ khổng lồ với hàng tỷ tham số và chúng có thể bị lợi dụng.

- Và nếu bạn đang học tăng cường đối với chúng, bạn sẽ tìm thấy các ví dụ đối nghịch cho các thẩm phán LM của bạn - gần như chắc chắn.

- Bạn không thể làm điều này quá lâu.

Bạn có thể thực hiện khoảng 10 bước hoặc 20 bước, có thể nó sẽ hoạt động.

Nhưng bạn không thể làm một trăm hay một nghìn bước vì nó không rõ ràng, bởi vì tôi biết tôi hiểu nó không rõ ràng nhưng về cơ bản mô hình sẽ tìm ra những kẽ hở nhỏ.

Nó sẽ tìm thấy tất cả những thứ giả tạo trong các ngóc ngách của mô hình khổng lồ và tìm cách gian lận.

Ví dụ, một ví dụ nổi bật trong tâm trí tôi là tôi nghĩ điều này có lẽ đã được công khai, nhưng về cơ bản nếu bạn sử dụng một LLM làm giám khảo để đánh giá phần thưởng, bạn chỉ cần đưa cho nó một giải pháp từ học sinh và hỏi nó học sinh đó có đúng hay không.

Chúng tôi đang huấn luyện với học tăng cường dựa trên hàm thưởng đó - và nó hoạt động rất tốt, và rồi đột nhiên phần thưởng trở nên cực kỳ lớn, như một bước nhảy vọt, và nó hoàn hảo, và bạn nhìn vào nó và nghĩ - wow, điều này có nghĩa là học sinh hoàn hảo trong tất cả các bài toán, nó đã giải toán hoàn toàn - nhưng thực tế những gì đang xảy ra là khi bạn nhìn vào các kết quả hoàn thành mà

Bạn nhận được từ mô hình, chúng hoàn toàn vô nghĩa, chúng bắt đầu ổn và sau đó chuyển thành duh duh, vì vậy nó giống như ồ, được rồi, hãy lấy hai cộng ba và chúng ta làm cái này cái kia, và rồi duh duh duh - và bạn nhìn vào nó và nghĩ thật điên rồ.

Làm thế nào nó nhận được phần thưởng là một hay 100%?

Và bạn nhìn vào LLM giám khảo và hóa ra đây là một ví dụ đối nghịch cho mô hình và nó

Gán xác suất 100% cho nó.

Và điều đó chỉ vì đây là một ví dụ ngoài mẫu đối với LLM.

Nó chưa bao giờ thấy điều này trong quá trình huấn luyện và bạn đang ở trong vùng tổng quát hóa thuần túy, - phải không?

- Nó chưa bao giờ thấy điều này trong quá trình huấn luyện.

Và trong vùng tổng quát hóa thuần túy, bạn có thể tìm thấy những ví dụ này làm hỏng nó.

- Về cơ bản bạn đang huấn luyện LLM trở thành một mô hình tiêm prompt.

Thậm chí không phải tiêm prompt, nó quá cầu kỳ.

Bạn đang tìm các ví dụ đối nghịch như chúng được gọi.

Đây là những giải pháp vô nghĩa, rõ ràng là sai, nhưng mô hình lại cho là tuyệt vời.

- Vì vậy, nếu bạn cho rằng đây là nút thắt cổ chai để làm cho RL hoạt động tốt hơn, thì điều đó sẽ yêu cầu làm cho LLM trở thành giám khảo tốt hơn nếu bạn muốn thực hiện điều này một cách tự động.

Và sau đó, liệu nó có giống như một cách tiếp cận kiểu GAN, nơi bạn phải huấn luyện các mô hình trở nên mạnh mẽ hơn không?

Ừ.

Để - Tôi nghĩ các phòng thí nghiệm có lẽ đang làm tất cả những điều đó, như ồ, điều hiển nhiên là

Nó không nên nhận phần thưởng 100%.

Được rồi, hãy đưa nó vào tập huấn luyện của LLM giám khảo và nói đây không phải 100% mà là 0%.

Bạn có thể làm điều này - nhưng mỗi lần bạn làm điều này, bạn có một LLM mới và nó vẫn có các ví dụ đối nghịch.

Có vô số ví dụ đối nghịch.

Và tôi nghĩ có lẽ nếu bạn lặp lại điều này vài lần, sẽ ngày càng khó hơn để tìm ra các ví dụ thực sự, nhưng tôi không chắc 100% bởi vì

Thứ này có một nghìn tỷ tham số hay gì đó.

Vì vậy, tôi cá là các phòng thí nghiệm đang thử.

Tôi thực sự vẫn nghĩ chúng ta cần những ý tưởng khác.

- Thú vị.

Bạn có hình dung ý tưởng khác có thể là gì không?

Vì vậy, ý tưởng như đánh giá, xem xét giải pháp bao gồm các ví dụ tổng hợp sao cho khi bạn huấn luyện trên chúng, bạn sẽ trở nên tốt hơn và học siêu việt theo một cách nào đó, và tôi nghĩ có một số bài báo bắt đầu xuất hiện.

Tôi chỉ đang ở giai đoạn đọc tóm tắt vì

Rất nhiều bài báo này, bạn biết đấy, chúng chỉ là ý tưởng.

Ai đó phải thực sự làm cho nó hoạt động ở quy mô phòng thí nghiệm LLM tiên tiến, một cách tổng quát đầy đủ, bởi vì khi bạn thấy những bài báo này, chúng xuất hiện và chỉ là một chút nhiễu, bạn biết đấy, đó là những ý tưởng hay, nhưng tôi chưa thực sự thấy ai thuyết phục được rằng điều này khả thi.

Tuy nhiên, các phòng thí nghiệm LLM khá kín đáo.

Vì vậy,

Ai biết họ đang làm gì bây giờ, nhưng - ừ.

Vì vậy, tôi đoán tôi có thể thấy một cách rất không dễ dàng nhưng tôi có thể hình dung cách bạn có thể huấn luyện trên các ví dụ tổng hợp hoặc các vấn đề tổng hợp mà bạn tự tạo ra.

Nhưng dường như có một điều khác mà con người làm.

Có thể ngủ là điều này, có thể mơ mộng là điều này - không nhất thiết là nghĩ ra các vấn đề giả tạo mà chỉ là suy ngẫm.

- Ừ.

- Và tôi không chắc sự tương tự trong ML cho việc mơ mộng hay ngủ là gì, nhưng chỉ là suy ngẫm.

Tôi chưa nghĩ ra vấn đề nào.

Ừ, ý tôi là, sự tương tự rất cơ bản sẽ chỉ là tinh chỉnh trên các đoạn suy ngẫm, nhưng tôi cảm thấy trong thực tế điều đó có lẽ sẽ không hiệu quả lắm.

Vì vậy, tôi không biết bạn có ý kiến gì về sự tương tự của điều này không.

- Ừ, tôi nghĩ chúng ta đang thiếu một số khía cạnh ở đó.

Ví dụ, - khi bạn đang đọc một cuốn sách, - tôi gần như cảm thấy hiện tại khi LLM đọc một cuốn sách, điều đó có nghĩa là chúng ta kéo dài chuỗi văn bản và mô hình dự đoán token tiếp theo và nó thu được một số kiến thức từ đó.

Đó không thực sự là những gì con người làm, phải không?

Vậy nên khi bạn đọc một cuốn sách, tôi

Hầu như không cảm thấy cuốn sách giống như một bài giảng mà tôi phải chú ý và rèn luyện.

Cuốn sách là một tập hợp các gợi ý để tôi tạo dữ liệu tổng hợp - hoặc để bạn tham gia câu lạc bộ sách và thảo luận với bạn bè.

Và chính bằng cách thao tác thông tin đó, bạn mới thực sự có được kiến thức.

Và tôi nghĩ chúng ta không có điều tương tự với các LLM.

Chúng không thực sự làm điều đó.

Nhưng tôi rất muốn thấy trong quá trình tiền huấn luyện có một giai đoạn nào đó suy nghĩ về tài liệu và cố gắng dung hòa nó với những gì nó đã biết và suy nghĩ trong một khoảng thời gian.

Và làm cho nó hoạt động.

Và vì vậy không có sự tương đương nào cho những điều này.

Đây đều là nghiên cứu.

Có một số lý do tinh tế, rất khó hiểu, tại sao nó không đơn giản.

Vậy nếu tôi có thể mô tả một lý do, - tại sao chúng ta không thể tạo dữ liệu tổng hợp và huấn luyện trên nó?

- Bởi vì mọi ví dụ tổng hợp, nếu tôi chỉ đưa ra một mẫu tổng hợp về việc mô hình suy nghĩ về một cuốn sách, bạn nhìn vào và nghĩ, "Điều này có vẻ tuyệt vời.

Tại sao tôi không thể huấn luyện trên nó?" Bạn có thể thử, nhưng mô hình sẽ thực sự trở nên tệ hơn nếu bạn tiếp tục cố gắng.

Và đó là bởi vì tất cả các mẫu bạn nhận được từ các mô hình đều bị thu hẹp một cách âm thầm.

Chúng âm thầm, điều này không

Rõ ràng nếu bạn nhìn vào bất kỳ ví dụ riêng lẻ nào.

Chúng chiếm một đa tạp rất nhỏ của không gian có thể có của các suy nghĩ về nội dung.

Vì vậy, các LLM khi được tạo ra, chúng ở trạng thái mà chúng tôi gọi là thu hẹp.

Chúng có phân phối dữ liệu bị thu hẹp.

Nếu bạn lấy mẫu, một cách dễ dàng để thấy điều này là vào ChatGPT và yêu cầu nó kể một câu chuyện cười.

Nó chỉ có khoảng ba câu chuyện cười.

- Nó không đưa ra toàn bộ các câu chuyện cười có thể.

- Nó chỉ biết khoảng ba câu chuyện cười.

Vâng, - chúng bị thu hẹp một cách âm thầm.

Về cơ bản, bạn không nhận được sự phong phú, đa dạng và entropy từ các mô hình này như bạn nhận được từ con người.

Vì vậy, con người ồn ào hơn nhiều, nhưng ít nhất họ không bị thiên lệch.

Theo nghĩa thống kê, họ không bị thu hẹp một cách âm thầm.

Họ duy trì một lượng lớn

entropy.

Vậy làm thế nào để tạo dữ liệu tổng hợp hoạt động mặc dù bị thu hẹp và duy trì entropy là một vấn đề nghiên cứu.

Để chắc chắn tôi hiểu, lý do sự thu hẹp liên quan đến tạo dữ liệu tổng hợp là vì bạn muốn có thể tạo ra các vấn đề hoặc suy ngẫm tổng hợp không có trong phân phối dữ liệu hiện tại của bạn.

- Tôi muốn nói rằng, giả sử chúng ta có một chương của một cuốn sách và tôi yêu cầu một mô hình suy nghĩ về nó.

- Nó sẽ đưa ra một cái gì đó có vẻ rất hợp lý.

Nhưng nếu tôi yêu cầu nó 10 lần, bạn sẽ nhận thấy tất cả đều giống nhau.

Bạn không thể chỉ để lại suy ngẫm trên cùng một lượng thông tin đầu vào và nhận được kết quả từ đó.

Được rồi.

- Vâng.

Vâng.

Vì vậy, bất kỳ mẫu riêng lẻ nào cũng có vẻ ổn nhưng phân phối của nó khá tệ và tệ đến mức nếu bạn tiếp tục huấn luyện trên quá nhiều dữ liệu của chính mình, bạn thực sự bị thu hẹp.

Tôi thực sự nghĩ rằng không có giải pháp cơ bản nào cho vấn đề này và tôi cũng nghĩ con người cũng bị thu hẹp theo thời gian.

Tôi nghĩ điều này, một lần nữa, những

sự tương tự này tốt một cách đáng ngạc nhiên nhưng con người bị thu hẹp trong suốt cuộc đời của họ.

Đây là lý do tại sao trẻ em hoàn toàn chưa bị quá khớp và chúng sẽ nói những điều khiến bạn sốc vì bạn có thể thấy chúng đến từ đâu nhưng đó không phải là điều mọi người nói - và bởi vì chúng chưa bị thu hẹp trong khi chúng ta đã bị thu hẹp.

Chúng ta kết thúc

việc lặp lại cùng một suy nghĩ.

Chúng ta kết thúc việc nói đi nói lại những điều giống nhau, tốc độ học giảm dần và sự thu hẹp tiếp tục tồi tệ hơn và rồi mọi thứ suy thoái.

- Bạn đã thấy một bài báo rất thú vị cho rằng mơ là một cách để ngăn chặn sự quá khớp và thu hẹp này, rằng lý do mơ là thích nghi tiến hóa là để - đưa bạn vào những tình huống kỳ lạ rất khác với thực tế hàng ngày để ngăn chặn sự quá khớp này.

Đó là một ý tưởng thú vị.

Ý tôi là, tôi nghĩ rằng khi bạn đang

Tạo ra những thứ trong đầu bạn và sau đó bạn chú ý đến nó, bạn giống như đang huấn luyện trên các mẫu của chính mình.

Bạn đang huấn luyện trên dữ liệu tổng hợp của mình và nếu bạn làm điều đó quá lâu, bạn sẽ đi chệch hướng và sụp đổ quá nhiều.

Vì vậy, bạn luôn phải tìm kiếm entropy trong cuộc sống của mình.

- Ừ.

- Ừ, nói chuyện với người khác là một nguồn entropy tuyệt vời - và những thứ tương tự.

Vì vậy, có lẽ bộ não cũng đã xây dựng một số cơ chế nội bộ để tăng lượng entropy trong quá trình đó.

Nhưng ừ, đó có thể là một ý tưởng thú vị.

Đây là một suy nghĩ rất mơ hồ.

Vì vậy, tôi sẽ nói ra và để bạn phản ứng với nó.

Những người học giỏi nhất mà chúng ta biết, đó là trẻ em, cực kỳ tệ trong việc ghi nhớ thông tin.

Thực tế, ở những giai đoạn đầu tiên của thời thơ ấu, bạn sẽ quên mọi thứ.

Bạn chỉ là một người mất trí nhớ về mọi thứ xảy ra trước một độ tuổi nhất định, nhưng bạn lại cực kỳ giỏi trong việc tiếp thu ngôn ngữ mới và học hỏi từ thế giới.

Và có lẽ có một yếu tố nào đó như là khả năng nhìn thấy rừng qua từng cây.

Trong khi đó, nếu so sánh với đầu kia của quang phổ, bạn có quá trình tiền huấn luyện LLM, nơi các mô hình này có thể

nhại lại từng chữ một nội dung tiếp theo trong một trang Wikipedia, nhưng khả năng học các khái niệm trừu tượng một cách nhanh chóng như một đứa trẻ lại hạn chế hơn nhiều.

Và sau đó người lớn ở đâu đó ở giữa, họ không có sự linh hoạt của việc học thời thơ ấu, nhưng họ có thể, bạn biết đấy, người lớn có thể ghi nhớ sự kiện và thông tin theo cách mà trẻ em khó làm hơn.

Và tôi không

biết liệu có điều gì thú vị về điều đó không.

Tôi nghĩ có điều gì đó rất thú vị về điều đó.

Ừ, 100%.

Tôi nghĩ rằng con người thực sự có nhiều yếu tố hơn so với việc nhìn thấy rừng qua từng cây, và chúng ta không thực sự giỏi ghi nhớ, đó thực sự là một tính năng.

- Ừm, bởi vì chúng ta không giỏi ghi nhớ, chúng ta buộc phải tìm ra các mẫu một cách tổng quát hơn.

Tôi nghĩ LLM so sánh thì cực kỳ giỏi ghi nhớ.

Chúng sẽ đọc lại các đoạn văn từ tất cả các nguồn huấn luyện.

Ừ, bạn có thể cung cấp cho chúng dữ liệu hoàn toàn vô nghĩa, như bạn có thể lấy một lượng văn bản

hoặc thứ gì đó tương tự.

Bạn có được một chuỗi hoàn toàn ngẫu nhiên.

Nếu bạn huấn luyện nó chỉ một hoặc hai lần, nó có thể đột nhiên nhại lại toàn bộ.

Nó sẽ ghi nhớ nó.

Không có cách nào một người có thể đọc một chuỗi số ngẫu nhiên duy nhất và đọc lại cho bạn.

Ừm, và đó là một tính năng, hầu như không phải là lỗi.

Ừ, bởi vì nó buộc bạn chỉ học các

thành phần có thể khái quát hóa, trong khi LLM bị phân tâm bởi tất cả bộ nhớ mà chúng có từ các tài liệu tiền huấn luyện và điều đó có lẽ rất gây mất tập trung cho chúng, theo một nghĩa nào đó.

Vì vậy, đó là lý do tại sao khi tôi nói về lõi nhận thức, tôi thực sự muốn loại bỏ bộ nhớ, đó là điều chúng ta đã nói.

Tôi muốn chúng có ít bộ nhớ hơn để chúng phải tra cứu mọi thứ và chỉ duy trì các thuật toán cho suy nghĩ và ý tưởng về một thí nghiệm và tất cả chất keo nhận thức của hành động, và điều này cũng liên quan đến việc ngăn chặn sự sụp đổ mô hình.

- Ừm, để tôi nghĩ, tôi không chắc, tôi nghĩ nó gần như là một trục riêng biệt.

Ừm, gần như là các mô hình quá giỏi ghi nhớ và bằng cách nào đó chúng ta nên loại bỏ điều đó, và tôi nghĩ con người tệ hơn nhiều nhưng đó là điều tốt.

- Giải pháp cho sự sụp đổ mô hình là gì?

Ý tôi là bạn có thể thử những điều rất ngây thơ như là phân phối trên lo nên rộng hơn hoặc điều gì đó, có nhiều điều ngây thơ bạn có thể thử.

Vấn đề với các cách tiếp cận ngây thơ là gì?

- Ừm, ừ, tôi nghĩ đó là một câu hỏi tuyệt vời.

Ý tôi là bạn có thể tưởng tượng việc có một sự chính quy hóa cho entropy và những thứ tương tự.

Tôi đoán chúng không hoạt động tốt về mặt thực nghiệm bởi vì hiện tại các mô hình đã sụp đổ, nhưng tôi sẽ nói rằng hầu hết các nhiệm vụ chúng ta muốn từ chúng không thực sự yêu cầu sự đa dạng, có lẽ đó là câu trả lời cho những gì đang xảy ra, và vì vậy các phòng thí nghiệm tiên phong đang cố gắng làm cho các mô hình trở nên hữu ích

và tôi chỉ cảm thấy rằng sự đa dạng của đầu ra không phải là ưu tiên số một, nó khó làm việc và đánh giá hơn nhiều, nhưng có lẽ nó không phải là thứ thực sự nắm bắt hầu hết giá trị.

Ừm, - thực tế, nó đang bị phạt một cách tích cực, phải không?

Nếu bạn cực kỳ sáng tạo trong RL, nó không tốt.

- Ừ.

Hoặc có lẽ nếu bạn đang nhờ LLM giúp viết lách nhiều, tôi nghĩ nó có thể tệ vì các mô hình sẽ đưa ra những thứ giống nhau một cách âm thầm, bạn biết không?

Vì vậy, chúng không khám phá nhiều cách khác nhau để trả lời một câu hỏi, phải không?

- Nhưng tôi cảm thấy có lẽ sự đa dạng này không quá lớn, ừ, có lẽ không nhiều ứng dụng cần nó, vì vậy các mô hình không có nó, nhưng sau đó nó thực sự là một vấn đề khi tạo dữ liệu tổng hợp, v.v.

Vì vậy, chúng ta thực sự đang tự bắn vào chân mình khi không cho phép entropy này duy trì trong mô hình.

Và tôi nghĩ có lẽ các phòng thí nghiệm nên cố gắng hơn nữa.

- Và tôi nghĩ bạn đã gợi ý rằng đó là một vấn đề rất cơ bản.

Nó sẽ không dễ giải quyết.

Và vâng, trực giác của bạn về điều đó là gì?

- Tôi thực sự không biết liệu nó có siêu cơ bản hay không.

Ừ, tôi thực sự không biết liệu tôi có định nói điều đó không.

Tôi nghĩ rằng tôi chưa thực hiện những thí nghiệm này, nhưng tôi nghĩ bạn có thể điều chỉnh entropy để nó cao hơn.

Vì vậy, bạn đang khuyến khích mô hình đưa ra ngày càng nhiều giải pháp.

Ừm, nhưng bạn không muốn nó bắt đầu lệch quá nhiều so với dữ liệu huấn luyện.

Nó sẽ

Bắt đầu tự tạo ra ngôn ngữ riêng.

Nó sẽ bắt đầu sử dụng những từ cực kỳ hiếm.

Bạn biết đấy, nó sẽ lệch quá xa khỏi phân phối.

Ừ, vì vậy tôi nghĩ việc kiểm soát phân phối chỉ là một việc khó khăn, nó giống như ai đó phải - có lẽ không hề đơn giản theo nghĩa đó.

- Lõi trí tuệ tối ưu nên có bao nhiêu bit nếu bạn phải đoán?

Thứ chúng ta đặt trên van - nó phải lớn đến mức nào?

- Điều này thực sự thú vị trong lịch sử lĩnh vực này bởi vì tại một thời điểm, mọi thứ đều rất theo hướng mở rộng quy mô, kiểu như ồ chúng ta sẽ tạo ra các mô hình lớn hơn nhiều, mô hình hàng nghìn tỷ tham số và thực tế những gì các mô hình đã làm về kích thước là chúng đã tăng lên và bây giờ chúng thực sự đã giảm xuống, các mô hình của chúng nhỏ hơn - và thậm chí sau đó tôi thực sự nghĩ chúng

Đã ghi nhớ quá nhiều.

Ừm, vì vậy tôi nghĩ tôi đã có một dự đoán cách đây một thời gian rằng tôi gần như cảm thấy chúng ta có thể có được các lõi nhận thức rất tốt ngay cả với một tỷ tham số.

Nó đã nên như vậy rồi, nếu bạn nói chuyện với một mô hình một tỷ tham số, tôi nghĩ trong 20 năm nữa bạn thực sự có thể có một cuộc trò chuyện rất hiệu quả.

Nó suy nghĩ ừm và nó giống con người hơn nhiều.

Nhưng nếu

Bạn hỏi nó một câu hỏi thực tế nào đó, nó có thể phải tra cứu nhưng nó biết rằng nó không biết và nó có thể phải tra cứu và nó sẽ làm tất cả những điều hợp lý.

Thật ngạc nhiên khi bạn nghĩ nó sẽ cần một tỷ bởi vì chúng ta đã có các mô hình một tỷ tham số hoặc vài tỷ tham số rất thông minh.

- Chà, một số mô hình của chúng ta có kích thước hàng nghìn tỷ tham số, phải không?

Nhưng chúng nhớ rất nhiều thứ - Yeah.

Nhưng tôi ngạc nhiên rằng trong 10 năm với tốc độ hiện tại, được rồi, chúng ta có GPT OSS 20B tốt hơn nhiều so với GPD4 bản gốc vốn có hơn một nghìn tỷ tham số.

Vì vậy, với xu hướng đó, tôi thực sự ngạc nhiên khi bạn nghĩ trong 10 năm nữa lõi nhận thức vẫn chỉ là một tỷ tham số.

Tôi sẽ ngạc nhiên nếu bạn không nói nó sẽ là hàng chục triệu hoặc hàng triệu.

- Không, bởi vì về cơ bản tôi nghĩ rằng dữ liệu huấn luyện là vấn đề.

Dữ liệu huấn luyện là internet, thứ thực sự tồi tệ.

- Vì vậy, có rất nhiều lợi ích có thể đạt được bởi vì internet rất tệ.

Giống như nếu bạn thực sự và ngay cả internet khi bạn và tôi nghĩ về internet, bạn đang nghĩ đến Wall Street Journal hoặc - đó không phải là những gì nó là.

Khi bạn thực sự nhìn vào một bộ dữ liệu huấn luyện trong Phòng thí nghiệm Tiên phong và bạn xem một tài liệu internet ngẫu nhiên, nó hoàn toàn là rác.

Giống như tôi thậm chí không biết làm thế nào điều này hoạt động.

Nó giống như một số ký hiệu mã chứng khoán.

Ừm

- Đó là một lượng lớn rác rưởi từ mọi ngóc ngách của internet.

Nó không giống như bài báo Wall Street Journal của bạn, thứ cực kỳ hiếm.

- Ừm, vì vậy tôi gần như cảm thấy rằng bởi vì internet quá tệ, chúng ta thực sự phải xây dựng các mô hình thực sự lớn để nén tất cả những thứ đó.

Ừ, hầu hết sự nén đó là công việc ghi nhớ thay vì công việc nhận thức.

Nhưng những gì chúng ta thực sự muốn là phần nhận thức, thực sự xóa bỏ bộ nhớ - và sau đó tôi đoán những gì tôi đang nói là chúng ta cần các mô hình thông minh để giúp

Chúng ta tinh chỉnh ngay cả bộ tiền huấn luyện để chỉ thu hẹp nó xuống các thành phần nhận thức và sau đó tôi nghĩ bạn có thể có được một mô hình nhỏ hơn nhiều bởi vì đó là một bộ dữ liệu tốt hơn nhiều và bạn có thể huấn luyện nó trên đó nhưng có lẽ nó không được huấn luyện trực tiếp trên đó.

Nó có thể được chưng cất từ một mô hình tốt hơn nhiều nhưng - nhưng tại sao phiên bản chưng cất vẫn là một tỷ là điều tôi tò mò

Về.

- Tôi chỉ cảm thấy rằng chưng cất hoạt động cực kỳ tốt.

Vì vậy, hầu hết mọi mô hình nhỏ nếu bạn có một mô hình nhỏ, nó gần như chắc chắn được chưng cất.

Tại sao bạn lại huấn luyện trên - phải không?

Không, nhưng tại sao việc chưng cất trong 10 năm không xuống dưới 1 tỷ?

- Ồ bạn nghĩ nó nên nhỏ hơn một triệu?

- Ý tôi là thôi nào, tôi không biết, đến một lúc nào đó nó cần ít nhất một tỷ nút để làm điều gì đó thú vị.

Bạn nghĩ nó thậm chí còn nhỏ hơn.

- Ừ.

Ý tôi là, nếu bạn nhìn vào xu hướng vài năm qua, chỉ cần tìm những trái cây thấp và đi từ các mô hình nghìn tỷ trở lên xuống nhỏ hơn hai bậc chỉ trong hai năm và có hiệu suất tốt hơn.

- Ừ.

- Nó khiến tôi nghĩ rằng cốt lõi của trí thông minh có thể - thậm chí còn nhỏ hơn nhiều, còn nhiều chỗ ở phía dưới để paraphrase Fineman.

- Ý tôi là tôi gần như cảm thấy mình đã đi ngược chiều khi nói về một lõi nhận thức một tỷ tham số và bạn còn vượt qua tôi.

Tôi nghĩ ừm, có lẽ chúng ta có thể nhỏ hơn một chút.

Ý tôi là, tôi vẫn nghĩ rằng nên có đủ.

- Ừ, có lẽ nó có thể nhỏ hơn.

- Tôi nghĩ rằng trên thực tế, bạn muốn mô hình có một số kiến thức.

Bạn không muốn nó phải tra cứu mọi thứ.

- Ừm vì nếu không bạn không thể suy nghĩ trong đầu.

Bạn tra cứu quá nhiều thứ mọi lúc.

Vì vậy, tôi nghĩ cần có một chương trình cơ bản nào đó cho kiến thức.

- Ừ nhưng nó không có kiến thức bí truyền, bạn biết đấy.

- Ừ.

Vậy chúng ta đang thảo luận về cái gì có thể là lõi nhận thức.

Có một câu hỏi riêng là kích thước thực tế của các mô hình Pháp theo thời gian sẽ là bao nhiêu?

Và tôi tò mò muốn có một dự đoán.

Vậy chúng ta đã thấy quy mô tăng lên đến khoảng 4.5 và bây giờ thấy quy mô giảm/ổn định.

Có nhiều lý do cho điều đó, nhưng bạn có dự đoán gì về tương lai không? Liệu quy mô của các mô hình lớn nhất sẽ lớn hơn?

Chúng sẽ nhỏ hơn?

Chúng sẽ giống nhau?

- Ừm, tôi không biết mình có dự đoán mạnh mẽ không.

Tôi nghĩ các phòng thí nghiệm chỉ đang thực tế.

Họ có ngân sách flop và ngân sách chi phí.

Và hóa ra là pre-training không phải nơi bạn muốn dồn hầu hết flop hoặc chi phí.

Đó là lý do tại sao các mô hình trở nên nhỏ hơn vì chúng nhỏ hơn một chút.

Hoặc giai đoạn pre-training nhỏ hơn, v.v., nhưng họ bù đắp bằng

Học tăng cường và tất cả những thứ đó trong quá trình huấn luyện giữa và tất cả những thứ tiếp theo - ừm vì vậy họ chỉ thực tế về tất cả các giai đoạn và cách bạn đạt được hiệu quả tốt nhất, vì vậy tôi đoán dự báo xu hướng đó khá khó. Tôi vẫn kỳ vọng rằng còn nhiều điều để khám phá, đó là kỳ vọng cơ bản của tôi, và

Vậy tôi có một phân phối rất rộng ở đây. Bạn có kỳ vọng rằng việc khám phá sẽ tương tự như những gì đã xảy ra trong hai đến năm năm qua, như về mặt nếu tôi nhìn vào nano chat so với nano GPT và những điều chỉnh kiến trúc bạn đã thực hiện - về cơ bản đó có phải là hương vị của những thứ bạn tiếp tục xảy ra không?

Hay bạn không kỳ vọng bất kỳ thay đổi lớn nào? - Ừ, tôi kỳ vọng các bộ dữ liệu sẽ tốt hơn nhiều vì khi bạn nhìn vào các bộ dữ liệu trung bình, chúng cực kỳ tệ, tệ đến nỗi tôi thậm chí không biết làm thế nào mọi thứ hoạt động, thành thật mà nói. Hãy nhìn vào các ví dụ trung bình trong tập huấn luyện - như lỗi thực tế, sai sót, ừm, những điều vô nghĩa. Bằng cách nào đó khi bạn

Làm ở quy mô lớn, nhiễu sẽ biến mất và bạn còn lại một số tín hiệu.

Ừm, vậy các bộ dữ liệu sẽ cải thiện rất nhiều.

Mọi thứ đều trở nên tốt hơn.

Vì vậy, phần cứng của chúng tôi, tất cả các kernel, tất cả các kernel để chạy phần cứng và tối đa hóa những gì bạn nhận được từ phần cứng, bạn biết đấy.

Vì vậy, NVIDIA đang từ từ tinh chỉnh bản thân phần cứng, tensor core, v.v.

Tất cả những điều đó cần xảy ra và sẽ tiếp tục xảy ra.

Ừm, tất cả các kernel sẽ trở nên tốt hơn và

Sử dụng chip đến mức tối đa.

Tất cả các thuật toán có thể sẽ cải thiện, cải thiện về tối ưu hóa kiến trúc và tất cả các thành phần mô hình hóa về cách mọi thứ được thực hiện và các thuật toán mà chúng ta thậm chí đang huấn luyện.

Vì vậy, tôi kỳ vọng một sự cải thiện đều đặn, không có gì chiếm ưu thế, mọi thứ đều tăng 20%.

- Đúng.

Thú vị.

- Đây đại khái là những gì tôi đã thấy.

- Được rồi.

Đây là tổng giám đốc của tôi, Max.

- Vui được ở đây mỗi ngày.

- Và bạn đã ở đây kể từ khi được giới thiệu khoảng 6 tháng trước.

Nhưng khi tôi - tháng trước - Ồ, đúng rồi.

Ừm, thời gian trôi nhanh quá.

Nhưng khi tôi giới thiệu bạn, tôi đang ở Pháp và về cơ bản chúng ta không có cơ hội nói chuyện gì cả - và bạn chỉ đưa cho tôi một lần đăng nhập.

- Tôi đã cấp cho bạn quyền truy cập vào nền tảng Mercury của tôi, nền tảng ngân hàng mà tôi đang sử dụng để điều hành podcast.

- Và tôi đã đăng nhập vào Mercury với suy nghĩ đó chỉ là bước đầu tiên trong nhiều bước, nhưng tôi nhận ra đó là cách bạn vận hành toàn bộ doanh nghiệp, thậm chí nhiều biên tập viên của chúng tôi là nhà thầu quốc tế.

Và bạn đã tìm ra cách thiết lập các khoản thanh toán định kỳ để thiết lập bảng lương cơ bản.

- Ý tôi là, Mercury đã làm cho trải nghiệm của tất cả những việc tôi làm trước đây trở nên liền mạch đến nỗi tôi thậm chí không nhận ra cho đến khi bạn chỉ ra rằng đây không phải là cách tự nhiên để thiết lập bảng lương, hóa đơn hay bất kỳ thứ gì khác.

- Tôi đã ngạc nhiên, nhưng tôi nghĩ, nó đã hoạt động tốt cho đến nay, vậy có lẽ tôi sẽ tin tưởng nó.

Và bây giờ tôi không thể nghĩ đến việc làm gì khác.

- Được rồi, bạn đã nghe anh ấy nói rồi đấy.

Hãy truy cập mercury.com để đăng ký trực tuyến chỉ trong vài phút.

Tuyệt.

Cảm ơn, Max.

- Cảm ơn vì đã mời tôi.

- Anh bạn, anh làm việc này rất giỏi.

Tôi rất lo lắng, nhưng cảm ơn bạn.

- Mercury là một công ty công nghệ tài chính, không phải ngân hàng.

Dịch vụ ngân hàng được cung cấp thông qua Choice Financial Group, column NA, và Evolve Bank and Trust, thành viên FDIC.

Mọi người đã đề xuất nhiều cách khác nhau để đo lường tiến độ của chúng ta hướng tới AGI hoàn chỉnh, bởi vì nếu bạn có thể đưa ra một đường thẳng, thì bạn có thể thấy đường đó cắt AGI ở đâu và điều đó sẽ xảy ra trên trục X.

Xảy ra trên trục X.

Và mọi người đã đề xuất, ồ, nó giống như trình độ học vấn, như chúng ta có một học sinh trung học và sau đó họ lên đại học với RL và họ sẽ lấy bằng tiến sĩ.

Tôi không thích cái đó.

- Ừm hoặc và sau đó họ sẽ đề xuất độ dài chân trời.

Vì vậy, có thể họ có thể thực hiện các nhiệm vụ mất một phút.

Ừ họ có thể làm những việc đó một cách tự động, sau đó họ có thể tự động thực hiện các nhiệm vụ mất một giờ, một giờ của con người, một tuần của con người, v.v.

- Bạn nghĩ thế nào về trục y có liên quan ở đây?

Chúng ta nên nghĩ thế nào về cách AI đang tiến bộ?

- Vậy tôi đoán tôi có hai câu trả lời cho điều đó.

Thứ nhất, tôi gần như bị cám dỗ để bác bỏ hoàn toàn câu hỏi vì một lần nữa tôi coi đây là một phần mở rộng của máy tính.

Chúng ta đã nói về cách vẽ biểu đồ tiến bộ trong máy tính hay làm thế nào để vẽ biểu đồ tiến bộ trong máy tính từ những năm 1970 hay sao?

Trục x là gì?

Vì vậy, tôi cảm thấy toàn bộ câu hỏi hơi buồn cười từ góc độ đó một chút.

Ừm nhưng tôi sẽ nói rằng tôi đoán khi mọi người nói về AI và AGI ban đầu và cách chúng ta nói về nó khi chúng ta khi OpenAI bắt đầu - AGI là một hệ thống bạn có thể đến và có thể thực hiện bất kỳ nhiệm vụ nào có giá trị kinh tế, bất kỳ nhiệm vụ có giá trị kinh tế nào ở hiệu suất ngang hoặc tốt hơn con người.

- Được rồi.

Vậy đó là định nghĩa và tôi khá hài lòng với nó vào thời điểm đó và tôi cảm thấy mình đã gắn bó với định nghĩa đó mãi mãi và sau đó mọi người đã tạo ra đủ loại định nghĩa khác nhưng tôi thích tôi cảm thấy tôi thích định nghĩa đó.

Bây giờ, thứ nhất, sự nhượng bộ đầu tiên mà mọi người luôn đưa ra là họ chỉ loại bỏ tất cả những thứ vật lý bởi vì chúng ta chỉ

Nói về công việc tri thức kỹ thuật số.

Tôi cảm thấy đó là một sự nhượng bộ khá lớn so với định nghĩa ban đầu là bất kỳ nhiệm vụ nào con người có thể làm.

Tôi có thể nâng đồ, v.v.

Như AI rõ ràng không thể làm điều đó.

Vì vậy, được thôi, nhưng chúng tôi sẽ chấp nhận nó.

- Ừ, chúng ta đang loại bỏ bao nhiêu phần trăm nền kinh tế khi nói, "Ồ, chỉ có công việc tri thức." Ừm, tôi thực sự không biết con số.

Tôi cảm thấy ừm khoảng 10 đến 20% nếu tôi phải đoán.

Có phải ừm chỉ là công việc tri thức.

Ừ như ai đó có thể làm việc từ xa và thực hiện các nhiệm vụ đại loại như vậy.

Ừm tôi vẫn nghĩ đó là một thị trường rất lớn.

Ừ như ừm vâng quy mô của nền kinh tế là gì và

10 20% là gì, chúng ta vẫn đang nói về vài nghìn tỷ đô la ngay cả ở Mỹ về thị phần hoặc gần như công việc.

- Ừm vẫn là một lĩnh vực rất lớn.

Nhưng tôi đoán quay lại định nghĩa, tôi sẽ tìm kiếm mức độ mà định nghĩa đó đúng.

Ừm, có công việc hay nhiều nhiệm vụ không?

Nếu chúng ta nghĩ về nhiệm vụ không phải công việc, thì khó vì vấn đề là xã hội sẽ tái cấu trúc dựa trên các nhiệm vụ tạo nên công việc so với những gì

Phải, dựa trên những gì có thể tự động hóa hay không, nhưng hôm nay công việc nào có thể thay thế bởi AI. Ví dụ gần đây là dự đoán của Jeff Hinton rằng bác sĩ X quang sẽ không còn là công việc nữa, và điều này hóa ra rất sai theo nhiều cách. Bác sĩ X quang vẫn tồn tại và phát triển mặc dù thị giác máy tính rất giỏi nhận dạng mọi thứ

Họ phải nhận dạng trong một công việc lộn xộn phức tạp với nhiều bề mặt và giao tiếp với bệnh nhân trong bối cảnh đó.

Ừm, tôi thực sự không biết liệu theo định nghĩa đó AI đã tạo ra ảnh hưởng lớn chưa.

Nhưng một số công việc tôi đang tìm kiếm có những đặc điểm khiến chúng rất

Dễ tự động hóa sớm hơn muộn.

Ví dụ, nhân viên tổng đài thường được nhắc đến và tôi nghĩ đúng vậy.

Vì nhân viên tổng đài có nhiều tính chất đơn giản hóa liên quan đến những gì có thể tự động hóa ngày nay.

Công việc của họ khá đơn giản.

Đó là một chuỗi nhiệm vụ và mỗi nhiệm vụ trông giống nhau, như bạn nhận một cuộc gọi điện thoại với một người, kéo dài 10

Phút tương tác hoặc lâu hơn, có lẽ lâu hơn một chút theo kinh nghiệm của tôi, nhiều hơn.

Và bạn hoàn thành một số nhiệm vụ trong một kế hoạch nào đó và thay đổi một số mục nhập cơ sở dữ liệu hoặc tương tự.

Vì vậy, bạn lặp đi lặp lại một việc và đó là công việc của bạn.

Về cơ bản, bạn muốn đưa vào chân trời nhiệm vụ, thời gian thực hiện một nhiệm vụ.

- Và sau đó bạn cũng muốn loại bỏ bối cảnh, như bạn không phải xử lý các phần dịch vụ khác nhau của công ty hoặc khách hàng khác.

Chỉ là cơ sở dữ liệu, bạn và người bạn phục vụ.

Vì vậy, nó khép kín hơn.

Nó dễ hiểu hơn và hoàn toàn kỹ thuật số.

Vì vậy, tôi sẽ tìm kiếm những điều đó.

Nhưng ngay cả ở đó, tôi chưa thấy tự động hóa hoàn toàn.

Tôi đang tìm kiếm một

Thanh trượt tự chủ và tôi gần như kỳ vọng chúng ta sẽ không thay thế con người ngay lập tức.

Chúng ta sẽ đưa vào các AI làm 80% khối lượng công việc.

Chúng ủy thác 20% khối lượng cho con người và con người giám sát các nhóm năm AI làm công việc tổng đài mang tính máy móc hơn.

Ừm, vì vậy tôi sẽ tìm kiếm các giao diện mới hoặc các công ty mới cung cấp một lớp nào đó cho phép

Bạn quản lý một số AI chưa hoàn hảo này.

- Vâng.

- Và sau đó tôi kỳ vọng rằng trên toàn nền kinh tế, nhiều công việc khó hơn nhiều so với nhân viên tổng đài.

Tôi tự hỏi về bác sĩ X quang, tôi hoàn toàn suy đoán.

Tôi không biết quy trình làm việc thực tế của bác sĩ X quang là gì, - nhưng một phép loại suy có thể áp dụng là khi chúng ta lần đầu tiên bị loại trừ, sẽ có một người ngồi ở ghế trước

- và bạn phải có họ ở đó để đảm bảo nếu có gì sai, họ ở đó để giám sát.

Và tôi nghĩ ngay cả hôm nay, mọi người vẫn theo dõi để đảm bảo mọi thứ tốt đẹp.

Robo Taxi, vừa được triển khai, thực sự vẫn có một người bên trong.

Và chúng ta có thể ở trong tình huống tương tự nếu bạn tự động hóa 99% công việc, 1% cuối cùng con người phải

Làm là vô cùng giá trị vì nó là nút thắt cổ chai cho mọi thứ khác.

Và nếu đó là trường hợp với bác sĩ X quang, nơi người ngồi ở ghế trước của Uber hoặc Waymo phải được đào tạo đặc biệt trong nhiều năm để có thể cung cấp 1% cuối cùng.

Tiền lương của họ sẽ tăng lên rất nhiều vì họ là thứ duy nhất gây tắc nghẽn

Triển khai rộng rãi.

Vì vậy, bác sĩ X quang tôi nghĩ lương của họ đã tăng vì lý do tương tự.

Nếu bạn là nút thắt cuối cùng, bạn không thể thay thế, không giống như tài xế xe đường dài có thể thay thế bằng việc khác.

Ừm, vì vậy bạn có thể thấy điều này nơi lương của bạn tăng - cho đến khi đạt 90% và sau đó giảm mạnh - khi 1% cuối cùng biến mất.

- Tôi hiểu.

- Và tôi tự hỏi liệu chúng ta có điều tương tự với X quang hay lương nhân viên tổng đài hay bất cứ điều gì tương tự.

- Vâng, tôi nghĩ đó là một câu hỏi thú vị.

Tôi không nghĩ chúng ta đang thấy điều đó với X quang và tôi không hiểu rõ nhưng tôi nghĩ X quang về cơ bản không phải là một ví dụ tốt.

Tôi không biết tại sao Jeff Hinton chọn X quang vì tôi nghĩ đó là một nghề cực kỳ lộn xộn và phức tạp.

- Vâng.

- Vì vậy, tôi sẽ quan tâm nhiều hơn đến những gì đang xảy ra với nhân viên tổng đài ngày nay, vì tôi kỳ vọng nhiều thứ máy móc có thể tự động hóa ngày nay - và tôi không có quyền truy cập cấp một, nhưng có lẽ tôi sẽ tìm kiếm xu hướng về những gì đang xảy ra với nhân viên tổng đài.

Có lẽ một số điều tôi cũng mong đợi là họ

Đang chuyển sang AI nhưng tôi vẫn sẽ đợi một hoặc hai năm vì tôi nghĩ họ có thể sẽ rút lui và thực sự tuyển lại một số người.

- Tôi nghĩ có bằng chứng cho thấy điều đó đã xảy ra ở các công ty đang áp dụng AI, điều này khá bất ngờ và tôi cũng thấy điều thực sự đáng ngạc nhiên.

- Được rồi.

Ừm, AGI, một thứ có thể làm mọi thứ và okay, chúng ta sẽ loại bỏ công việc chân tay.

Vì vậy, tôi nghĩ nó có thể làm tất cả công việc tri thức.

Và điều bạn ngây thơ mong đợi là cách mà sự thoái lui này diễn ra sẽ là bạn lấy một nhiệm vụ nhỏ mà một nhà tư vấn đang làm, bạn lấy nó ra khỏi cái rổ.

Bạn lấy một nhiệm vụ nhỏ mà một kế toán viên đang làm, bạn lấy

Nó ra khỏi cái rổ.

Ừ, và sau đó bạn chỉ làm điều này trên tất cả công việc tri thức.

Nhưng thay vào đó, nếu chúng ta tin rằng mình đang trên con đường của HI với mô hình hiện tại, thì sự tiến triển không hề như vậy.

Ít nhất là - có vẻ như các nhà tư vấn và kế toán hay bất cứ ai không nhận được sự cải thiện năng suất lớn.

Nó rất giống như - các lập trình viên đang ngày càng

Có nhiều phần công việc của họ được tự động hóa.

Nếu bạn nhìn vào doanh thu của các công ty này, không tính doanh thu chat thông thường mà tôi nghĩ là tương tự như Google hay gì đó, chỉ nhìn vào doanh thu API, nó bị chi phối bởi việc viết mã, phải không? Vậy nên thứ được cho là tổng quát này, được cho là có thể làm bất kỳ công việc tri thức nào, lại chủ yếu

Chỉ làm việc viết mã và đó là một cách đáng ngạc nhiên mà bạn mong đợi AGI sẽ được triển khai - vì vậy tôi nghĩ có một điểm thú vị ở đây bởi vì tôi tin rằng viết mã là thứ đầu tiên hoàn hảo cho các LLM và agent này, và đó là bởi vì viết mã luôn luôn hoạt động dựa trên văn bản.

- Đó là các thiết bị đầu cuối máy tính và văn bản, mọi thứ đều dựa trên văn bản và LLM được huấn luyện trên internet yêu thích văn bản - vì vậy chúng là những bộ xử lý văn bản hoàn hảo và có rất nhiều dữ liệu ngoài kia và đó là sự phù hợp hoàn hảo.

Ừm và chúng ta cũng có rất nhiều cơ sở hạ tầng được xây dựng sẵn để xử lý mã và văn bản.

Ví dụ, chúng ta có Visual Studio Code hoặc

Bạn biết đấy, IDE yêu thích của bạn hiển thị mã và một agent có thể kết nối vào đó.

Ví dụ, nếu một agent có một diff nơi nó thực hiện một số thay đổi, đột nhiên chúng ta có tất cả mã này đã hiển thị tất cả sự khác biệt với một cơ sở mã bằng cách sử dụng diff.

Vì vậy, gần như chúng ta đã xây dựng sẵn rất nhiều cơ sở hạ tầng cho mã.

Bây giờ hãy so sánh điều đó với một số

Thứ không hề được hưởng lợi từ điều đó.

Ví dụ, có những người đang cố gắng xây dựng tự động hóa không phải cho việc viết mã mà cho slide, tôi thấy một công ty làm slide và điều đó khó hơn nhiều, và lý do nó khó hơn là vì slide không phải là văn bản.

- Ừ.

- Slide là những đồ họa nhỏ và được sắp xếp theo không gian, có thành phần trực quan và slide không có cơ sở hạ tầng được xây dựng sẵn này.

Ví dụ, nếu một agent muốn tạo một thay đổi khác cho slide của bạn.

Làm thế nào để một thứ hiển thị cho bạn diff?

Làm thế nào bạn thấy diff?

Không có gì hiển thị diff cho slide cả.

Mhm.

- Vậy ai đó phải xây dựng nó.

Ừm, vì vậy một số thứ này không phù hợp với AI như hiện tại, vốn là bộ xử lý văn bản, và mã thì bất ngờ lại phù hợp.

- Tôi thực sự không chắc liệu điều đó có giải thích được không vì cá nhân tôi đã thử làm cho LLM hữu ích trong các lĩnh vực chỉ có ngôn ngữ vào và ngôn ngữ ra.

Ừm, như viết lại bản ghi, tạo clip dựa trên bản ghi, v.v.

Và bạn có thể nói, tôi đã không làm mọi thứ có thể, tôi đã đưa vào một loạt các ví dụ tốt trong ngữ cảnh, nhưng có lẽ tôi nên làm một số kiểu tinh chỉnh hay gì đó.

Vì vậy, người bạn chung của chúng ta, Andy Matushak, nói với tôi rằng anh ấy đã thử 50 tỷ thứ để làm cho các mô hình giỏi trong việc viết các câu hỏi lặp lại cách quãng

Lời nhắc.

Một lần nữa, - rất nhiều nhiệm vụ ngôn ngữ vào, ngôn ngữ ra.

Loại nhiệm vụ lẽ ra phải là trung tâm trong các khả năng của LLM.

Và anh ấy đã thử học trong ngữ cảnh với một vài ví dụ ngắn.

Anh ấy thử, tôi nghĩ anh ấy nói với tôi, một loạt thứ như tinh chỉnh có giám sát và truy xuất, v.v., và anh ấy không thể làm cho chúng tạo ra thẻ

Đạt yêu cầu.

Vì vậy, tôi thấy nổi bật rằng ngay cả trong các lĩnh vực chỉ có ngôn ngữ ra - thực sự rất khó để thu được nhiều giá trị kinh tế từ các mô hình này - ngoài việc viết mã.

Và tôi không biết điều gì giải thích cho điều đó.

- Ừ, tôi nghĩ điều đó có lý.

Ý tôi là, tôi không nói rằng bất kỳ văn bản nào cũng dễ, tôi nghĩ mã là khá có cấu trúc, văn bản có thể hoa mỹ hơn và có nhiều entropy hơn trong văn bản, tôi không biết diễn tả thế nào, và mã thì khó, vì vậy

Mọi người cảm thấy khá được trao quyền bởi LLM ngay cả từ kiến thức đơn giản, tôi thực sự không biết mình có một lời giải thích tốt không, rõ ràng văn bản làm mọi thứ dễ dàng hơn nhiều, có lẽ đó là lý do tôi đặt nó, nhưng không có nghĩa là mọi văn bản đều dễ.

- Mhm.

Bạn nghĩ thế nào về siêu trí tuệ?

Bạn có mong đợi nó sẽ khác biệt về chất so với con người bình thường hay các công ty của con người không?

- Tôi đoán tôi nghĩ tôi thấy nó như một sự tiến triển của tự động hóa trong xã hội, và một lần nữa, giống như mở rộng xu hướng của máy tính.

Tôi chỉ cảm thấy sẽ có sự tự động hóa dần dần của nhiều thứ và siêu trí tuệ sẽ giống như sự ngoại suy của điều đó.

Ừm, vì vậy tôi nghĩ chúng ta sẽ thấy ngày càng nhiều thực thể tự trị theo thời gian, làm nhiều công việc kỹ thuật số và cuối cùng là cả công việc vật lý, có lẽ sau một khoảng thời gian nào đó, nhưng về cơ bản tôi thấy nó chỉ là tự động hóa - ừm, nói một cách đại khái - Tôi đoán tự động hóa bao gồm những việc con người đã có thể làm và siêu trí tuệ là những việc con người

- Ừm, nhưng một số việc con người làm là phát minh ra những thứ mới, mà tôi sẽ chỉ đưa vào tự động hóa nếu điều đó có ý nghĩa.

Ừ.

Nhưng bạn, tôi đoán, ừm, ít trừu tượng hơn và thiên về chất lượng hơn.

- Bạn có mong đợi điều gì đó cảm thấy như, được rồi, bởi vì thứ này có thể suy nghĩ nhanh đến vậy hoặc có nhiều bản sao đến vậy, hoặc các bản sao có thể hợp nhất lại với nhau, hoặc được cho là thông minh hơn nhiều.

Bất kỳ lợi thế nào mà AI có thể có.

Nó sẽ làm cho nền văn minh nơi những AI này tồn tại cảm thấy khác biệt về chất so với nền văn minh nhân loại.

- Tôi nghĩ nó sẽ như vậy, ý tôi là về cơ bản nó là tự động hóa, nhưng nó sẽ cực kỳ xa lạ.

Tôi nghĩ nó sẽ trông thực sự kỳ lạ bởi vì, như bạn đã đề cập, chúng ta có thể chạy tất cả những thứ này trên một cụm máy tính, nhanh hơn nhiều và tất cả những thứ đó.

Ừ, ý tôi là có lẽ một số kịch bản, ví dụ, mà tôi bắt đầu cảm thấy lo lắng về việc thế giới sẽ trông như thế nào, đó là kiểu mất kiểm soát và hiểu biết dần dần về những gì đang xảy ra, và tôi nghĩ đó thực sự là kết quả có khả năng nhất, có lẽ là sẽ có sự mất hiểu biết dần dần - và chúng ta sẽ dần dần xếp lớp tất cả những thứ này

Ở khắp mọi nơi và sẽ có ngày càng ít người hiểu nó, và sẽ có một kiểu kịch bản mất kiểm soát và hiểu biết dần dần về những gì đang xảy ra, đối với tôi, đó dường như là kết quả có khả năng nhất của cách mọi thứ sẽ diễn ra.

Để tôi khai thác điều đó một chút.

Tôi không rõ rằng mất kiểm soát và mất hiểu biết là cùng một thứ.

- Một hội đồng quản trị tại, ví dụ, TSMC, Intel, kể tên một công ty ngẫu nhiên.

- Ừm, họ chỉ là những người 80 tuổi có uy tín.

Họ có rất ít hiểu biết và có lẽ trên thực tế họ không thực sự có quyền kiểm soát, nhưng - hoặc thực ra có lẽ một ví dụ tốt hơn là tổng thống Hoa Kỳ.

- Tổng thống có rất nhiều quyền lực [__].

Ừm, tôi không cố đưa ra một tuyên bố chính trị về người đương nhiệm, nhưng có lẽ tôi đang làm vậy.

Nhưng mức độ hiểu biết thực tế rất khác so với mức độ kiểm soát.

- Ừ, tôi nghĩ điều đó công bằng.

Đó là một sự phản bác tốt.

Tôi nghĩ, ừm, tôi đoán tôi mong đợi sự mất mát cả hai.

- Ừ.

- Tại sao?

Ý tôi là mất hiểu biết là rõ ràng, nhưng tại sao lại mất kiểm soát?

Vì vậy, chúng ta đang ở rất xa trong lãnh thổ mà tôi không biết điều này trông như thế nào, nhưng nếu tôi viết tiểu thuyết khoa học viễn tưởng, chúng sẽ trông giống như thậm chí không phải một thực thể duy nhất hay gì đó.

Vì vậy, nó chỉ kiểu như chiếm lấy mọi thứ.

Ừ, nhưng thực tế là nhiều thực thể cạnh tranh

Dần dần trở nên tự trị hơn và ừm, một số trong chúng nổi loạn và những cái khác chống lại chúng và tất cả những thứ đó.

Và nó giống như một nồi lẩu của hoạt động hoàn toàn tự trị mà chúng ta đã ủy thác.

Tôi có cảm giác nó sẽ có hương vị đó.

- Không phải thực tế là chúng thông minh hơn chúng ta dẫn đến mất kiểm soát.

Đó là thực tế là chúng đang cạnh tranh với nhau và bất cứ điều gì nảy sinh từ sự cạnh tranh đó dẫn đến mất kiểm soát.

- Ừm, ý tôi là về cơ bản tôi mong đợi sẽ có, ý tôi là, ừm, nhiều thứ trong số này, ý tôi là chúng sẽ là công cụ cho con người và con người, một số dân số, giống như chúng đang hành động thay mặt cho con người hoặc gì đó.

Có thể những người đó đang kiểm soát, nhưng có thể đó là sự mất kiểm soát tổng thể đối với xã hội theo nghĩa là những kết quả chúng ta muốn hay gì đó.

Ừm, nơi

Bạn có các thực thể hành động thay mặt cho các cá nhân mà vẫn được coi là mất kiểm soát.

- Ừ.

Ừ.

- Đây là câu hỏi tôi nên hỏi sớm hơn.

Vì vậy, chúng ta đã nói về việc hiện tại, khi bạn làm kỹ thuật AI hoặc nghiên cứu AI, những mô hình này giống như trong danh mục trình biên dịch hơn là trong danh mục sự thay thế.

- Ừ.

Tại một thời điểm nào đó, nếu bạn có cái gọi là AGI, nó sẽ có thể làm những gì bạn làm.

- Và bạn có cảm thấy rằng có một triệu bản sao của bạn song song sẽ dẫn đến sự tăng tốc lớn trong tiến bộ AI không?

Về cơ bản, nếu điều đó xảy ra, bạn có thấy, bạn có mong đợi một vụ nổ trí tuệ không, hay thậm chí khi chúng ta không nói về LLM ngày nay, mà thực sự - Tôi đoán ý tôi là, ừm, tôi có, nhưng đó là chuyện bình thường vì chúng ta đã ở trong một vụ nổ trí tuệ rồi và đã như vậy trong nhiều thập kỷ.

Và khi bạn nhìn vào GDP, về cơ bản đó là đường cong GDP theo cấp số nhân

Tổng trọng số trên rất nhiều khía cạnh của ngành.

Mọi thứ đang dần được tự động hóa, điều này đã diễn ra trong hàng trăm năm.

Ừm, cách mạng công nghiệp là tự động hóa một số thành phần vật lý, chế tạo công cụ và những thứ tương tự.

Trình biên dịch, tự động hóa phần mềm ban đầu, v.v.

Ừ, tôi cảm thấy như chúng ta đã tự cải thiện một cách đệ quy và bùng nổ trong

một thời gian dài.

Có lẽ một cách khác để nhìn nhận là, Trái Đất vốn là một nơi khá nhàm chán nếu bạn không nhìn vào cơ chế sinh học, và nhìn từ không gian thì nó rất giống nhau, Trái Đất quay và chúng ta đang ở giữa một sự kiện như pháo hoa - đúng - nhưng chúng ta thấy nó trong chuyển động chậm, nhưng - tôi chắc chắn cảm thấy điều này đã

xảy ra từ rất lâu rồi và một lần nữa, tôi không coi AI là một công nghệ riêng biệt so với những gì đã diễn ra từ lâu.

Bạn có nghĩ nó liên tục với xu hướng siêu hàm mũ này không?

- Và đó là lý do tại sao điều này rất thú vị với tôi vì tôi đã cố gắng tìm AI trong GDP một thời gian.

Tôi nghĩ GDP sẽ tăng lên nhưng sau đó tôi nhìn vào một số công nghệ khác mà tôi cho là rất mang tính chuyển đổi như máy tính hay điện thoại di động, v.v.

Bạn không thể tìm thấy chúng trong GDP.

GDP là cùng một đường hàm mũ và nó chỉ là ngay cả đối với

ví dụ, iPhone đời đầu chưa có App Store và nhiều tính năng mà iPhone hiện đại có.

Và vì vậy, mặc dù chúng ta nghĩ năm 2008, khi iPhone ra mắt, là một thay đổi lớn, nhưng thực ra không phải vậy.

Mọi thứ đều trải rộng và khuếch tán chậm đến nỗi cuối cùng mọi thứ đều được trung bình hóa thành cùng một đường hàm mũ.

Và đó là

điều tương tự với máy tính.

Bạn không thể tìm thấy chúng trong GDP kiểu như, ồ, bây giờ chúng ta có máy tính.

- Đó không phải là những gì đã xảy ra vì đó là một tiến trình chậm.

Và với AI, chúng ta sẽ thấy điều tương tự.

Nó chỉ là tự động hóa nhiều hơn.

Nó cho phép chúng ta viết các loại chương trình khác nhau mà trước đây không thể viết.

Nhưng AI về cơ bản vẫn là một chương trình và nó là một loại máy tính mới và một loại hệ thống tính toán mới, nhưng nó có tất cả những vấn đề này.

Nó sẽ khuếch tán theo thời gian và vẫn sẽ cộng dồn vào cùng một đường hàm mũ và chúng ta vẫn sẽ có một

đường hàm mũ sẽ trở nên cực kỳ dốc và sẽ rất xa lạ khi sống trong một môi trường như vậy.

Bạn đang nói rằng điều sẽ xảy ra là nếu bạn nhìn vào xu hướng trước cách mạng công nghiệp đến hiện tại, bạn có một siêu hàm mũ từ tăng trưởng 0% đến 0,02% cách đây 10.000 năm và hiện tại là 2%

tăng trưởng.

Vậy đó là một siêu hàm mũ và bạn nói nếu bạn vẽ AI lên đó thì AI đưa bạn đến tăng trưởng 20% hay 200% - hoặc bạn có thể nói nếu nhìn vào 300 năm qua, bạn thấy hết công nghệ này đến công nghệ khác: máy tính, điện khí hóa, động cơ hơi nước, đường sắt, v.v. - nhưng tốc độ tăng trưởng là giống hệt

2%.

Vậy bạn đang nói tốc độ tăng trưởng sẽ - trực tiếp tôi kỳ vọng tốc độ tăng trưởng cũng gần như không đổi - chỉ trong 200-300 năm qua nhưng trong suốt lịch sử loài người, nó đã bùng nổ, từ 0% lên nhanh hơn, bùng nổ công nghiệp 2% - về cơ bản, tôi muốn nói là trong một thời gian tôi đã cố gắng tìm AI hoặc

tìm AI trong đường cong GDP và tôi đã thuyết phục bản thân rằng điều này là sai và ngay cả khi mọi người nói về tự cải thiện đệ quy và các phòng thí nghiệm, tôi thậm chí không cho rằng đây là chuyện thường ngày, tất nhiên nó sẽ tự cải thiện đệ quy và nó đã tự cải thiện đệ quy, LLM cho phép các kỹ sư làm việc hiệu quả hơn nhiều để xây dựng

thế hệ LLM tiếp theo và nhiều thành phần hơn đang được tự động hóa và tinh chỉnh, v.v.

Vì vậy, tất cả các kỹ sư có quyền truy cập vào Google Search là một phần của nó.

Tất cả các kỹ sư có IDE, tất cả đều có tự động hoàn thành hoặc Copilot, v.v.

Tất cả chỉ là một phần của cùng một sự tăng tốc của toàn bộ.

Vì vậy, nó rất mượt mà.

- Nhưng để làm rõ, bạn đang nói rằng tốc độ tăng trưởng sẽ không thay đổi, giống như sự bùng nổ trí tuệ sẽ hiện ra như là nó chỉ cho phép chúng ta tiếp tục trên quỹ đạo tăng trưởng 2% giống như internet đã giúp chúng ta duy trì quỹ đạo tăng trưởng 2%.

- Ừ.

Kỳ vọng của tôi là nó vẫn giữ nguyên mô hình.

- Ừ.

Ý tôi là, chỉ để đưa ra lập luận ngược lại với bạn, kỳ vọng của tôi là nó bùng nổ vì tôi nghĩ AGI thực sự, và tôi không nói về bot viết mã LLM, tôi đang nói về việc thay thế con người trong một máy chủ - khác biệt về chất so với các công nghệ cải thiện năng suất khác - vì nó là lao động, phải không?

Tôi

nghĩ chúng ta sống trong một thế giới bị ràng buộc bởi lao động.

Như nếu bạn nói chuyện với bất kỳ người sáng lập startup nào, bất kỳ ai, bạn có thể hỏi, bạn cần thêm gì?

Bạn chỉ cần những người tài năng thực sự.

Và nếu bạn có thêm hàng tỷ người đang phát minh, tích hợp, tạo ra công ty, từ đầu đến cuối, điều đó khác biệt về chất so với chỉ một

công nghệ.

Nó giống như hỏi nếu bạn có thêm 10 tỷ người trên hành tinh.

- Ý tôi là, có thể có một phản biện.

Ý tôi là, thứ nhất, tôi thực sự khá sẵn sàng bị thuyết phục theo hướng này hay hướng khác về điểm này.

Nhưng tôi sẽ nói, ví dụ, tính toán là lao động.

Tính toán đã từng là lao động.

Máy tính, rất nhiều công việc biến mất vì máy tính đang tự động hóa một loạt xử lý thông tin kỹ thuật số mà bạn không cần con người nữa.

Và vì vậy máy tính là lao động.

Ừm, và điều đó đã diễn ra.

Ừm, và bạn biết đấy, xe tự lái như một ví dụ cũng giống như máy tính đang làm lao động.

Ừ, nên tôi đoán điều đó đã diễn ra rồi.

Vậy nên vẫn là chuyện bình thường.

Ừ, tôi đoán bạn có một cỗ máy chỉ liên tục tạo ra nhiều thứ hơn với tốc độ có thể nhanh hơn.

Và vì vậy, trong lịch sử chúng ta có những ví dụ về chế độ tăng trưởng thay đổi, như từ tăng trưởng 2% lên 2%.

- Vì vậy, có vẻ rất hợp lý với tôi rằng - một cỗ máy sau đó tạo ra chiếc xe tự lái tiếp theo và internet tiếp theo và bất cứ thứ gì.

- Ý tôi là, tôi hiểu nó đến từ đâu.

Đồng thời, tôi cảm thấy mọi người đưa ra giả định rằng, okay, chúng ta có - Chúa trong một cái hộp và bây giờ nó có thể làm mọi thứ và nó sẽ không như vậy.

Nó sẽ có thể làm được một số việc.

Nó sẽ thất bại ở một số việc khác.

Nó sẽ dần dần được đưa

Vào xã hội và về cơ bản chúng ta sẽ kết thúc với cùng một mô hình, theo dự đoán của tôi, bởi vì giả định này về việc đột nhiên có một con người hoàn toàn thông minh, hoàn toàn linh hoạt, hoàn toàn tổng quát trong một cái hộp và chúng ta có thể giải quyết các vấn đề tùy ý trong xã hội.

Tôi không nghĩ rằng chúng ta sẽ có sự thay đổi rời rạc này và vì vậy tôi nghĩ chúng ta sẽ đạt đến cùng một

Loại khuếch tán dần dần này trên toàn ngành.

Tôi nghĩ điều thường gây hiểu lầm trong những cuộc trò chuyện này là mọi người, tôi không thích dùng từ trí thông minh trong bối cảnh này vì trí thông minh ngụ ý bạn nghĩ như siêu thông minh sẽ ngồi đó, sẽ có một siêu trí tuệ duy nhất ngồi trong máy chủ và nó sẽ phán đoán cách

Đưa ra các công nghệ và phát minh mới gây ra sự bùng nổ này - và đó không phải là điều tôi tưởng tượng khi tôi tưởng tượng tăng trưởng 20% - Tôi tưởng tượng có hàng tỷ, bạn biết đấy, về cơ bản là những bộ óc con người rất thông minh, hoặc đó là tất cả những gì cần thiết.

Nhưng thực tế là có hàng trăm triệu, hàng tỷ người trong số họ, mỗi người tự tạo ra những sản phẩm mới,

Tìm ra cách hòa nhập vào nền kinh tế, giống như nếu một người nhập cư thông minh, giàu kinh nghiệm đến đất nước, bạn sẽ không cần phải tìm ra cách hòa nhập họ vào nền kinh tế.

Họ tự tìm ra, họ có thể thành lập công ty, họ có thể tạo ra phát minh, bạn biết đấy, hoặc chỉ tăng năng suất trên thế giới.

Và chúng ta có những ví dụ thậm chí

Trong chế độ hiện tại của những nơi đã có tăng trưởng kinh tế 10, 20%.

Bạn biết đấy, nếu bạn có nhiều người và ít vốn hơn so với số người, bạn có thể có Hồng Kông hoặc Thâm Quyến hoặc bất cứ đâu đã có nhiều thập kỷ tăng trưởng trên 10%.

Và tôi nghĩ nó giống như có rất nhiều người thực sự thông minh sẵn sàng tận dụng tài nguyên và thực hiện giai đoạn

Bắt kịp này vì chúng ta đã có sự gián đoạn này.

Và tôi nghĩ, ừ, nó có thể tương tự.

Vì vậy, tôi nghĩ tôi hiểu, nhưng tôi vẫn nghĩ rằng bạn đang giả định một bước nhảy rời rạc nào đó.

Có một sự mở khóa nào đó mà chúng ta đang chờ đợi để đạt được - và đột nhiên chúng ta sẽ có những thiên tài trong trung tâm dữ liệu.

Và tôi vẫn nghĩ bạn đang giả định một bước nhảy rời rạc mà tôi nghĩ về cơ bản không có

Tiền lệ lịch sử mà tôi không thể tìm thấy trong bất kỳ thống kê nào và tôi nghĩ có lẽ sẽ không xảy ra.

- Ý tôi là, cuộc cách mạng công nghiệp là một bước nhảy như vậy, phải không?

Bạn đã đi từ tăng trưởng 0% hoặc 0,2% lên 2%.

Ừm, tôi chỉ nói rằng bạn sẽ thấy một bước nhảy khác như vậy.

- Tôi hơi nghi ngờ.

Tôi sẽ phải xem xét nó.

Tôi hơi nghi ngờ và tôi sẽ phải xem xét.

Ví dụ, có thể một số bản ghi không tốt lắm từ trước cuộc cách mạng công nghiệp hoặc điều gì đó tương tự.

Ừ, vì vậy tôi hơi nghi ngờ về nó, nhưng ừ, có thể bạn đúng.

Tôi không có ý kiến mạnh mẽ.

- Có thể bạn đang nói rằng đây là một sự kiện duy nhất cực kỳ kỳ diệu và bạn đang nói rằng có thể sẽ có một sự kiện khác giống như vậy, cực kỳ kỳ diệu.

Nó sẽ phá vỡ mô hình và vân vân.

- Tôi thực sự không nghĩ vậy, ý tôi là điều quan trọng về cuộc cách mạng công nghiệp là nó không kỳ diệu, phải không?

Giống như nếu bạn phóng to - những gì bạn thấy vào năm 1770 hay 1870, - không phải là có một phát minh chủ chốt nào đó.

- Ừ, chính xác.

Nhưng đồng thời, bạn đã chuyển nền kinh tế sang một chế độ nơi tiến bộ nhanh hơn nhiều - và hàm mũ tăng gấp 10 lần - và tôi mong đợi điều tương tự từ AI, nơi không phải là - sẽ có một khoảnh khắc duy nhất chúng ta tạo ra sự vượt trội quan trọng đang được mở khóa, giống như có thể có một nguồn năng lượng mới, có một sự mở khóa nào đó trong trường hợp này.

Một loại năng lực nhận thức nào đó và có một khối lượng công việc nhận thức cần làm.

Đúng vậy.

- Và bạn kỳ vọng khối lượng công việc đó sẽ được lấp đầy bởi công nghệ mới này khi nó vượt qua ngưỡng.

- Ừ.

Và tôi nghĩ có một cách để nhìn nhận là qua lịch sử, rất nhiều tăng trưởng, ý tôi là tăng trưởng đến từ việc con người nảy ra ý tưởng và sau đó mọi người ra ngoài thực hiện những ý tưởng đó để tạo ra đầu ra có giá trị - và trong suốt phần lớn thời gian này, dân số không bùng nổ, điều đã thúc đẩy tăng trưởng trong 50 năm qua, người ta cho rằng tăng trưởng đã đình trệ.

Dân số ở các nước tiên phong cũng đình trệ, tôi nghĩ chúng ta quay lại sự tăng trưởng siêu hàm mũ về dân số và sản lượng - phải, xin lỗi, tăng trưởng hàm mũ về dân số gây ra tăng trưởng siêu hàm mũ về sản lượng.

- Ừ.

Ý tôi là, ừm, ừ, thực sự khó để nói.

- Tôi hiểu quan điểm đó.

Tôi không cảm nhận trực quan quan điểm đó.

- Vậy là chúng tôi vừa có quyền truy cập vào Google VO 3.1, và thực sự rất thú vị khi chơi với nó.

Điều đầu tiên chúng tôi làm là chạy một loạt các prompt qua cả V3 và 3.1 để xem có gì thay đổi trong phiên bản mới.

Vậy, đây là V3.

- Xin chào, tôi là Max và tôi lại bị mắc kẹt trong một cực tiểu địa phương nữa.

- Không sao đâu, Max.

Ai cũng từng gặp cảnh này.

Tôi mất ba epoch để thoát ra.

- Và đây là VO3.1.

- Xin chào, tôi là Max và tôi lại bị mắc kẹt trong một cực tiểu địa phương nữa.

- Không sao đâu, Max.

Ai cũng từng gặp cảnh này.

Tôi mất ba epoch.

- Đầu ra của 3.1 nhất quán hơn và chất lượng âm thanh cao hơn rõ rệt.

Chúng tôi đã sử dụng VO một thời gian.

Thực ra, chúng tôi đã xuất bản một bài luận đầu năm nay về các công ty AI được hoạt hình hoàn toàn bằng V2, và thật tuyệt vời khi thấy các mô hình này cải thiện nhanh như thế nào.

Bản cập nhật này làm cho VO hữu ích hơn trong việc hoạt hình các ý tưởng và video giải thích của chúng tôi.

Bạn có thể dùng thử VO

Ngay bây giờ trong ứng dụng Gemini với gói Pro và Ultra.

Bạn cũng có thể truy cập qua Gemini API hoặc Google Flow.

Bạn đã giới thiệu cuốn sách của Nick Lane cho tôi và sau đó tôi cũng thấy nó rất thú vị và tôi đã phỏng vấn ông ấy.

Ừm và vì vậy tôi thực sự có một số câu hỏi về suy nghĩ về trí thông minh và lịch sử tiến hóa.

Bây giờ bạn đã trải qua

20 năm qua làm nghiên cứu AI, có lẽ bạn có một cảm nhận cụ thể hơn về trí thông minh là gì, cần gì để phát triển nó.

Bạn có ngạc nhiên hơn hay ít hơn khi kết quả là quá trình tiến hóa dường như tự nhiên tình cờ phát hiện ra nó?