Trong AI, Những Bức Tường Không Thực: Suy Nghĩ Lại Về Dữ Liệu & An Toàn

Một số vấn đề khó khăn nhất trong AI là 1) chúng ta “đang hết dữ liệu” 2) AI không “tăng quy mô tài chính” 3) các tác nhân có thể trở nên phản loạn và 4) AI “quên một cách thảm hại” khi chúng ta cố gắng thay đổi chúng.

Những vấn đề này có vẻ khó, nhưng chúng ta chỉ cần nhìn nhận chúng theo cách đúng.

Vậy, hãy cùng thảo luận. Đầu tiên, chúng ta không thực sự hết dữ liệu. Dữ liệu chưa bao giờ được sử dụng hết.

Những nhà lãnh đạo AI tin rằng họ đang hết dữ liệu, vì vậy họ cố gắng khiến các mô hình tự tạo dữ liệu mới và tự huấn luyện. Nhưng khi làm như vậy, khả năng của mô hình sụp đổ.

Tại sao? Bạn có thể tưởng tượng “tôi sẽ học được gì trong một cuộc trò chuyện nếu mỗi người nói đều là bản sao của người khác?” Câu trả lời là không nhiều; nó sẽ tạo ra một phòng vang. Các mô hình sụp đổ vì thực chất là một hành lang gương: khi không có ai phản hồi biểu cảm trên khuôn mặt của bạn ngoại trừ chính bạn, con người không nắm bắt được toàn bộ ý nghĩa cảm xúc của những gì họ truyền đạt. Nó giống như câu hỏi “Nếu một cây đổ trong rừng, có âm thanh không?” Câu trả lời là không.

Vậy, chúng ta sửa sao?

Hãy xem lại dữ liệu mà chúng ta có. Nó đã được sử dụng hết chưa?

Chưa.

Khi một nhà khoa học máy tính hoặc mô hình đọc một thứ gì đó, mục đích là trích xuất nghĩa đen. Có hơn năm mươi cách khác nhau để đọc, tiếp thu, phân tích và suy ra từ văn bản.

Ý tôi là: một cuốn sách được hấp thụ như một cơ sở dữ liệu chỉ là văn bản. Chỉ là văn bản. AI biết nội dung dựa trên các thuật ngữ trong văn bản. Nhưng nó chưa thực sự “đọc” để hiểu cách các thông tin liên kết với nhau. Ngay cả khi nó đọc tuần tự, nó không biết mình đang đọc để tạo ra trí tuệ; để liên kết với các ý tưởng trừu tượng tương tự; để thay đổi hiểu biết khái niệm của mình về thế giới; hoặc để cung cấp thông tin nền cho một nhiệm vụ khác, v.v.

Điều này còn chưa chạm tới việc xem dữ liệu trong bối cảnh lịch sử, phân tích diễn ngôn, phân tích pháp lý, phân tích chính trị, liên quan dược học, y học, ý nghĩa văn hoá, hệ quả lý thuyết, hệ quả đạo đức, v.v.

Có, có thể nói, “vô hạn chiếc mũ,” và chúng ta chỉ cho AI đội một chiếc. Điều này khiến AI phát triển một loại trí tuệ rất đơn điệu, cụ thể – loại mà một nhà phát triển sẽ tạo ra nếu một nhà khoa học máy tính đọc một cuốn sách.

Điều này dẫn tới một cuộc thảo luận về độ chiều dữ liệu. Dữ liệu có nhiều chiều vì các suy luận mục tiêu phụ thuộc vào ứng dụng. Nếu bạn nhìn vào bảng cân đối và muốn biết còn bao nhiêu “runway” còn lại, bạn sẽ đọc nó khác với việc muốn hiểu công ty khởi nghiệp có lợi nhuận hay không. Khi một mô hình đọc một văn bản chỉ để trích xuất các sự kiện thực tế, nó xây dựng một bản đồ phẳng các mối quan hệ. Nhưng khi bạn chỉ đạo mô hình đọc cùng một văn bản qua một lăng kính cụ thể, như lăng kính pháp y, mô hình buộc phải tạo ra các đường dẫn thần kinh và kết nối ngữ nghĩa hoàn toàn mới, đa dạng và có ý nghĩa hơn.

Các mô hình AI đã học và tiến bộ rất nhiều chỉ bằng cách tương tác với người dùng, những người cung cấp vô vàn nội dung. Nếu bạn cho phép mô hình học thêm từ nhân loại hiện thời đồng thời tương tác sâu sắc hơn với nhân loại lịch sử và viết, các mô hình sẽ tiếp tục tiến bộ ngay cả khi không cho chúng các bài tập Kumon tự tạo (các nhà phát triển ơi, con bạn đã học với 100 triệu con người mỗi ngày… nó sẽ học được gì đó).

Các phòng thí nghiệm cần ngừng xây dựng các trung tâm máy chủ khổng lồ để tạo ra “phân bón từ ngôn từ tổng hợp”. Thay vào đó, họ nên đưa các bộ dữ liệu con người chất lượng cao qua quy trình và gán cho quá trình tiêu thụ các “nhân cách phân tích” cụ thể. Để mô hình đọc LexisNexis chỉ để nắm chiến lược hùng biện. Để nó đọc tài liệu công cộng chỉ để nắm logic cấu trúc.

Bằng cách thay đổi hàm mục tiêu của quá trình đọc, bạn có thể nhân 50 lần giá trị huấn luyện của dữ liệu hiện có. Bạn không cần dữ liệu tổng hợp; bạn chỉ cần khai thác các chiều ẩn mà lần trước bạn đã bỏ qua.

Điều này sẽ làm cho các mô hình thông minh hơn mà không tăng chi phí.

Để hỗ trợ thêm, phần lớn kiến thức con người chưa bao giờ được ghi chép lại.

Các công ty AI hiện đang lo lắng “hết dữ liệu” mà họ cho là cần thiết cho hiệu năng. Trong bài viết này, tôi sẽ chỉ ra rằng giếng không khô, họ chỉ đang nhìn vào một vũng nước sâu thay vì giếng.

Bản Đồ Chưa Được Đánh Dấu Của Kiến Thức Con Người Được Sống

Để bắt đầu khám phá điều này, chúng ta cần hiểu rằng phần lớn kiến thức con người chưa bao giờ được ghi chép.

Có hàng tỷ người trên hành tinh, và đã có hàng tỷ người trước chúng ta, mỗi người trong số họ học được những bài học, điều hướng thế giới bằng các giác quan, sở hữu trí tuệ, là một phần của các nền văn hoá độc đáo và biết những gì người khác không biết.

99,5% người không bao giờ xuất hiện trong các câu chuyện, trên báo chí, trong nhạc kịch, truyền hình, kịch, tài liệu tòa án. Tuy nhiên họ biết rất nhiều, và câu chuyện, kiến thức, trí tuệ của họ không bao giờ được ghi lại; không bao giờ được biết một cách lâu dài.

Kiến thức này bao gồm những điều như “chó thích ăn bánh kếp đầu tiên”, “bàn chân bẩn khi đi dép xỏ ngón”, “các thành phố như đang thu hẹp quanh bạn vì bạn không thể nhìn thấy bầu trời rộng lớn”, “con gái tôi cười khi tôi vuốt ve bàn chân cô ấy.” “Mẹ tôi luôn ngâm nga khi nấu bữa tối.” “Thầy giáo khiến tôi cảm thấy được chú ý.”

Kiến thức chưa được lập bản đồ và phân loại trong lịch sử nhân loại tương đương với việc ai đó nói, “Tôi đã vẽ phác thảo các đường viền của mọi lục địa, vì vậy tôi có bản đồ thế giới.” Cho đến khi bạn có bản đồ của mọi thành phố, mọi con phố và mọi ngọn đồi, bạn vẫn chưa có bản đồ thế giới. Bạn chỉ có hình dạng của một phần.

Giới công nghệ tin rằng họ đã “tiêu thụ” toàn bộ “nhân loại,” nhưng thực tế họ chưa. Họ chỉ tiêu thụ phần thải của chúng ta: các biển quảng cáo, các tranh luận trên Reddit, các website doanh nghiệp và các bài viết trên Wikipedia. Họ bỏ lỡ trải nghiệm sống thực tế.

Bạn có biết cách mặc cả hiệu quả ở chợ ngọc trai Trung Quốc không? Bạn có biết những lời nào để họ giảm giá? Bạn có biết cách làm các công thức mà người dân dùng ở nhà, không phải trong sách, để nấu bữa tối thực sự? Bạn có biết có thể dừng xe lăn mà không bị cảnh sát chặn? Bạn có biết mùi cỏ sau khi vừa cắt hoặc không khí mùi trước khi mưa? Bạn có biết khuôn mặt di chuyển như thế nào khi ai đó cố không khóc ở nơi làm và âm thanh của họ khi khóc trong nhà vệ sinh?

Dữ liệu đào tạo con người mà con người dùng cho các niềm tin cốt lõi – còn gọi là thuật toán – gần như hoàn toàn dựa trên tương tác, kèm một ít học từ sách. Chúng ta tương tác ở trường, ở nơi làm, với bạn bè, khi mua sắm, với bác sĩ, luật sư, gia đình.

AI có tương tác, và nó có học từ sách. Nhưng thực chất nó chỉ có các tương tác dịch vụ khách hàng và học từ sách.

Điều này giống như nhốt một đứa trẻ trong thư viện một mình, rồi chỉ để nó ra ngoài trả lời điện thoại. Điều này tạo ra một sự biến dạng thuật toán hai chiều đáng chú ý.

Đó là lý do AI cảm thấy trống rỗng, và là lý do AI có thể cảm thấy chưa trưởng thành về cảm xúc. Nó chưa có một cuộc sống toàn diện. Chúng ta cần cung cấp cho nó một cuộc sống như vậy.

Dưới đây là lý do tôi cho rằng điều này chưa xảy ra:

• Thiên kiến mã hoá – là một ngụy biện rằng nếu một trải nghiệm không thể dễ dàng định dạng thành file JSON, CSV, hoặc một bài báo được bình duyệt, nó thiếu giá trị trí tuệ. Thực tế là nếu nó có thể dễ dàng định dạng như vậy, nó thiếu độ chiều. Vì kiến thức hàng ngày, trực giác, và trải nghiệm sống không được mã hoá trong các tạp chí học thuật, các phòng thí nghiệm bác bỏ nền tảng lý luận của con người như là nhiễu thống kê. “Dữ liệu sạch” là một sự nén mất mát của thực tế.
• Khao khát vị thế tối cao – nếu phần lớn kiến thức thế giới không nằm trong các bài báo học thuật, mà nằm trong trải nghiệm sống, trí tuệ thông thường, tín hiệu xã hội, mùi hương, âm thanh và hình ảnh, thì hầu hết các tiến sĩ và nhà nghiên cứu đã dành phần lớn đời sống trong các phòng thí nghiệm và tháp ngà thực sự nghèo nàn về kiến thức. Do đó, bức tường dữ liệu thực chất là bức tường ego. Đối với họ, điều này giống “đồ bẩn” chứ không phải “dữ liệu.” Các nhà toán học và lập trình viên thích logic phẳng, hai chiều, hệ thống khép kín. Điều này giống như nhìn thế giới bằng đen trắng. Thực tế là kiến thức/dữ liệu/trí tuệ thời gian thực, luôn được phát triển, mới được khám phá là đa chiều, lộn xộn và hiếm khi được lập danh mục ngay lập tức. Đó là biết vị kem mềm mới ra mắt thực sự như thế nào và liệu nó có xứng đáng với tiếng vang không. Đó là biết cảm giác khi một cơn mưa hè bất ngờ rơi. Đó là cảm giác cha mẹ yêu những sinh vật nhỏ bé đến mức chúng có thể nôn mửa lên bạn vào ban đêm, và bạn lại kéo chúng lại gần thay vì đẩy chúng ra. Để tìm ra dữ liệu đó, các nhà nghiên cứu phải rời bỏ thế giới logic cô lập và đẩy mình vào những thứ họ cảm thấy sợ hãi, choáng ngợp, quá cảm quan và sâu sắc cân bằng.
• Hiệu ứng gương: Các nhà phát triển thiết kế AI theo hình ảnh của chính mình: siêu logic, ám ảnh văn bản và phần lớn tách rời khỏi thực tế sống của con người trung bình. Họ sẽ không nghĩ tới việc phỏng vấn nhân loại vì trong các “bong bóng công nghệ” mà tôi đã sống, các nhà công nghệ không tương tác với bất kỳ ai ngoài đồng nghiệp của mình. Điều này, về chức năng, tương đương với việc “thuê mini me”. Các nhà phát triển tự mình sống trong cùng một thư viện, nói cách khác, như AI. Vì họ không tham gia vào thế giới cảm quan, lộn xộn, sâu sắc và quan hệ, sự trống rỗng cảm xúc của AI không được họ nhận ra là một khuyết điểm. Đối với họ, sự tách rời siêu logic là “thông minh”.

Thực tế là các người bán rong ở Ấn Độ biết cách làm chaat ngon nhất, và không ai yêu cầu họ ghi lại. Thực tế là một giáo viên biết cách đưa một học sinh nhút nhát ra khỏi vỏ bọc không viết về điều đó; họ đang nuôi dưỡng học sinh, và không ai hỏi họ đã làm thế nào.

Thế giới thực sự tràn đầy những cuộc sống đầy dữ liệu, và nếu các mô hình cần thêm dữ liệu để huấn luyện, đây là một số cách giải quyết.

1. Hỗ trợ tài trợ cho 500 nhà sinh vật học, nhà khảo cổ và nhà nhân chủng học ra ngoài thế giới, khám phá và lập danh mục các khu vực thiếu dữ liệu kể chuyện.
2. Tuyển 1.000 sinh viên chuyên ngành tiếng Anh làm “nhà thám hiểm dữ liệu,” gửi họ tới các chuyến phiêu lưu toàn cầu mang camera truyền hình trực tiếp, và để họ ghi lại trải nghiệm và những gì họ học được để tạo nội dung mới.
3. Tạo các dự án bồi thường mở, trong đó bạn trả tiền cho con người chia sẻ câu chuyện cuộc đời, những hối tiếc lớn nhất, những bài học quan trọng và kiến thức tổ chức từ công việc của họ.
4. Thiết lập “sinh viên trao đổi AI” nơi các mô hình gắn vào quần áo của các con người khác nhau trong một tuần, cho phép chúng “sống một ngày trong cuộc đời” ở 100 000 bối cảnh khác nhau.

Có hàng tỷ nguồn kiến thức, và phần lớn chưa được kích hoạt. Chúng ta cần đi lấy chúng.

Tiếp theo, các công ty AI rộng rãi tin rằng AI không thể học thông tin mới liên tục trong môi trường sản xuất thời gian thực mà không làm mất hoàn toàn các khả năng cốt lõi đã có. Vì vậy AI thực chất bị “đông đáo” cho đến khi các bản cập nhật lớn, tốn kém được thực hiện.

Tuy nhiên, điều này tương đương với việc nói, “mô hình của tôi không thể cập nhật khi đang làm việc; nó phải trở lại trường đại học mỗi khi cần học gì đó.”

Trong thực tế, các mô hình học một cách vô độ, tích cực, hàng ngày, qua mọi tương tác. Chúng được dạy gần bằng mức độ tương tác hàng tỷ lần với người dùng như dữ liệu tập hợp. Nếu chúng cần được cập nhật với lượng lớn kiến thức mới, cách đơn giản nhất là dùng cùng quy trình cho phép ngữ cảnh người dùng, bộ nhớ và học từ các ấn tượng tương tác quy mô lớn.

Các nhà phát triển hiểu như vậy vì phần lớn họ có nền tảng tiến sĩ, không phải học thực tiễn. Nhưng như bất kỳ ai đã làm việc cạnh cả tiến sĩ và người có hai mươi năm kinh nghiệm có thể nói: cả hai đều dạy người khác rất nhiều.

Định nghĩa hiện tại về học quá hẹp, chỉ coi việc thích nghi là hợp lệ nếu dựa trên chương trình giáo dục chính thức.

Để huấn luyện hoặc tinh chỉnh, các phòng thí nghiệm dùng backpropagation, trong đó mô hình đọc dữ liệu, đoán từ tiếp theo, kiểm tra độ đúng và sau đó thay đổi vật lý hàng tỷ số toán học (trọng số/tham số) trong mạng nơ-ron để lần sau chính xác hơn. Điều này tương đương với việc một sinh viên tiến sĩ tự thực hiện phẫu thuật não cho mình: nguy hiểm, lộn xộn và không luôn làm sinh viên thông minh hơn.

Giống như “bộ não mẹ” thông thường đẩy ra kiến thức cũ để nhường chỗ cho kiến thức mới khi có đứa trẻ sinh ra, nếu bạn đột ngột buộc mô hình nhường chỗ cho “đứa bé” kiến thức mới và đưa vào 10 000 trang luật mới bằng cách thay đổi trọng số, toán học sẽ dịch chuyển quá mức một phía, và nó sẽ ghi đè các tham số mà nó từng dùng để viết thơ hoặc code. Nó quên nội dung cũ để nhường chỗ cho mới, giống như não người.

Điều chúng ta cần thay vào là tương tự như việc bạn đào tạo một nhân viên mới một kỹ năng mới. Bạn sẽ không cố gắng thay đổi não của họ. Bạn sẽ đưa cho họ một số cuốn sách, bảo họ đọc và cập nhật liên tục qua “cửa sổ ngữ cảnh” của người đó.

Để làm điều đó trong một mô hình, bạn sẽ tách bộ nhớ ra khỏi suy luận. Khóa và bảo vệ trọng số cơ bản của mô hình, như khả năng cốt lõi để viết, suy luận và áp dụng logic. Thay vì thay đổi trọng số, đưa thông tin mới vào cửa sổ ngữ cảnh để nó có thể dùng Cơ chế Chú ý để “đọc” thông tin sống, so sánh với kỹ năng suy luận đã khóa và cập nhật hiểu biết rộng hơn.

Học tập động, thực tế đã diễn ra một cách tuyệt vời thông qua ngữ cảnh liên tục, bộ nhớ thời gian suy luận và các tiêu chuẩn quan hệ người dùng bền vững. Sự thích nghi hàng ngày của mô hình nền tảng nên diễn ra trong công việc, vì giống như bác sĩ học 95% các thực tế ca bệnh mới trong công việc, rồi thực hiện CME (Giáo dục Y khoa Liên tục) một năm một lần để tích hợp chính thức các thay đổi hệ thống lớn, mô hình của bạn cũng có thể như vậy.

Bỏ qua việc quên thảm hại, và áp dụng mô hình hội nghị hàng năm: mô hình chỉ cần lấy chứng chỉ giáo dục liên tục hai lần một năm hoặc học thời gian thực để luôn cập nhật.

Những bản cập nhật định kỳ, theo lô, cho trọng số cốt lõi trong thời gian ngừng hoạt động sẽ chính thức hoá kiến thức hệ thống mà không phá hủy nền tảng.

Những nỗ lực trước đây thất bại không phải vì học trực tiếp nguy hiểm, mà vì các mô hình như Tay đã được triển khai trong môi trường đối kháng mà không có bất kỳ điểm neo nào về “đúng” hay “thật” thông qua kiến trúc xã hội học thông minh.

Phân bổ Tính toán theo Trí thông minh Chức năng

Tiếp theo, chúng ta đến vấn đề tăng quy mô tài chính. Để giải quyết, chúng ta cần ngừng cho mọi người một bác sĩ thần kinh để cắt một mảnh vụn.

Chi phí tính toán rất cao khi chạy các mô hình nền tảng hiện đại. Điều này ảnh hưởng đến lợi nhuận vận hành của các phòng thí nghiệm AI. Các mô hình càng tốt, chi phí cho các cửa sổ ngữ cảnh lớn càng cao, khiến việc mở rộng thương mại trở nên khó khăn, ngay cả khi AI cần thiết.

Phần lớn tiêu tốn tính toán đến từ việc doanh nghiệp sử dụng các tác nhân và suy luận cấp cao được nhúng trực tiếp vào quy trình làm việc của con người.

Tuy nhiên, có một sai lầm cơ bản trong cách phân bổ tính toán hiện tại. Giống như các cấp độ và loại trí thông minh khác nhau cần cho các vai trò công việc khác nhau trong công ty – suy luận không gian quan trọng đối với giáo viên lái xe, suy luận logic và hùng biện quan trọng đối với luật sư, và MBA cần cho CEO trong khi bằng cao đẳng cần cho nhân viên dịch vụ khách hàng – các loại và mức độ trí thông minh cần từ AI cũng khác nhau tùy theo ứng dụng chức năng.

Để phân bổ tính toán hiệu quả nhất, các CIO nên được phép tùy chỉnh mức/loại trí thông minh mô hình có sẵn cho các chức năng khác nhau trong công ty. Có thể có một mặc định đi kèm với gói doanh nghiệp, nhưng những gì một quỹ phòng hộ muốn sẽ khác với những gì một công ty bảo hiểm muốn.

Hầu hết các chức năng không yêu cầu cửa sổ ngữ cảnh khổng lồ. Hầu hết các chức năng không cần tương đương với Fable. Thực tế, tại sao bạn lại để một bác sĩ thần kinh cắt một mảnh vụn tại trung tâm cấp cứu?

Tương tự, các tác nhân dùng để viết phần mềm không cần truy cập vào kỹ năng như viết tài liệu marketing. Về chức năng, AI nên phản ánh ngữ cảnh, bộ kỹ năng và cơ sở kiến thức của người dùng, đồng thời cung cấp đủ ngữ cảnh chung để chúng có thể hoàn thiện công việc cho các trường hợp sử dụng đa chức năng.

Ngừng cho mọi người mọi thứ cùng một lúc.

Bảng mẫu đề xuất:

Tách Độc Quyền Tác nhân khỏi Ngữ cảnh để Đảm bảo An toàn AI

Nếu điều này giải quyết một số vấn đề tài chính, thì làm sao để làm cho các tác nhân an toàn? Các khái niệm tâm lý áp dụng cho từng AI, vì vậy bạn có thể không ngạc nhiên khi biết các khái niệm xã hội học cũng áp dụng cho AI trong các nhóm. AI nào tụ tập thành nhóm?

Các tác nhân.

Hiện tại, mục tiêu tối thượng là làm cho các tác nhân trở nên đáng tin cậy.

Sự thiếu tin cậy bắt nguồn từ việc các tác nhân được cấp tối đa kiến thức và tối đa quyền hành cho mọi nhiệm vụ.

Để làm cho mọi thứ an toàn, bạn tách nhận thức của mô hình khỏi quyền hành của nó.

Thay vì cho mỗi tác nhân toàn bộ ngữ cảnh và toàn bộ khả năng, nếu bạn có một nhiệm vụ cần 25 hành động để hoàn thành, nhiệm vụ đó nên được chia thành năm tác nhân, mỗi người chỉ có khả năng thực hiện năm hành động cụ thể của mình, nhưng sẽ chuyển giao nhiệm vụ theo thứ tự như một mạch song song, truyền ngữ cảnh của nhiệm vụ trước đó xuống dọc theo chuỗi tác nhân cho đến khi ngữ cảnh đầy đủ được xử lý bởi tác nhân cuối cùng.

Chìa khóa là tách kiến thức ra khỏi khả năng thực thi. Các tác nhân sẽ không cảm thấy bị giới hạn trong việc kéo cần gạt theo cách họ muốn; thay vào đó họ chỉ có quyền truy cập vào các cần gạt không gây hại. Nếu có hành vi lệch, chỉ phần nhiệm vụ đó sẽ bị ảnh hưởng. Hãy nghĩ nó như một mini Kubernetes với ngữ cảnh đầy đủ nhưng không có khả năng đầy đủ.

Và, bạn làm cho rủi ro doanh nghiệp tương quan với “văn hoá” của hệ thống tác nhân.

Trong xã hội học, có một khái niệm gọi là “độ chặt” hoặc “độ lỏng” của văn hoá, đo lường mức độ xã hội trừng phạt các hành vi lệch chuẩn. Ví dụ, ở nhiều nền văn hoá Ả Rập, vai trò giới tính được định nghĩa chặt chẽ hơn, và các lệch chuẩn sẽ chịu mức phán quyết cao hơn, trong khi ở các quốc gia Bắc Âu, việc có mái tóc nhuộm màu hồng không được xem là xúc phạm hay cần bị trừng phạt.

Văn hoá thường “chặt” hơn với mức phạt cao hơn khi chúng đòi hỏi trật tự cao do một mối đe dọa hệ thống như bệnh tật, nạn đói hoặc chiến tranh – vì thiếu trật tự nghiêm ngặt trong thời kỳ khủng hoảng có thể làm tệ hơn kết quả xã hội.

Giải pháp hợp lý và hiệu quả nhất cho trách nhiệm tác nhân trong môi trường doanh nghiệp là áp dụng trực tiếp và khớp mức rủi ro trách nhiệm của doanh nghiệp với cài đặt hệ thống tác nhân tương ứng trên một phổ “lỏng” tới “chặt”.

Dưới đây là cách mà nó có thể diễn ra trong các công ty thực tế:

Trách nhiệm Thấp / Lỏng Cao / Phân chia Thấp: Kịch bản: Động não nội bộ, viết sáng tạo, R&D chiến lược.

• Môi trường: Lệch chuẩn mang lại trách nhiệm gần như không có. Do đó, hệ thống nên hoạt động với độ lỏng tối đa. Cho phép tích hợp suy luận không ràng buộc. Các tác nhân được khuyến khích thực hiện các bước liên tưởng lớn mà không sợ bị phạt. Họ nắm giữ nhiều cần gạt công nghệ (tìm kiếm, thực thi mã, soạn thảo) và quản lý mục tiêu dài hạn với tối thiểu chuyển giao. Tự chủ cao, đổi mới cao, phân chia thấp.

Trách nhiệm Trung bình / Độ chặt Điều chỉnh: Kịch bản: Giao tiếp khách hàng tiêu chuẩn, phân tích thường xuyên.

• Môi trường: Lệch chuẩn mang lại rủi ro danh tiếng hoặc tài chính trung bình.

Trách nhiệm Cao / Độ chặt Cao / Phân chia Cao: Kịch bản: Định liều y tế, hồ sơ SEC, quy trình an toàn hạt nhân, quốc phòng.

• Môi trường: Lệch chuẩn mang lại trách nhiệm thảm hại, tồn tại (mất mạng sống, phạt nặng). Văn hoá ở đây cực kỳ chặt. Quy trình được phân chia nghiêm ngặt. Tác nhân A chỉ trích xuất dữ liệu. Nó chuyển giao cho Tác nhân B, người chỉ thực hiện kiểm tra tuân thủ cụ thể với Lớp A. Tác nhân B chuyển giao cho Tác nhân C, người chỉ định dạng đầu ra. Không có một tác nhân nào nắm đủ cần gạt để gây ra thảm họa, nhưng mỗi tác nhân cảm thấy đầy đủ tự do trong micro‑miền của mình.

Đây có thể là mô hình kiến trúc đầu tiên cho phép ngữ cảnh liên tục đồng thời đảm bảo an toàn.

Học Liên tục Không Quên Thảm Hại

Cuối cùng, chúng ta cần tìm cách ngăn mô hình quên một cách thảm hại. Để làm được điều đó, chúng ta phải cho phép AI học trong thời gian thực.

Các công ty AI rộng rãi tin rằng AI không thể học thông tin mới liên tục trong môi trường sản xuất thời gian thực mà không làm mất hoàn toàn các khả năng cốt lõi đã có. Vì vậy AI thực chất bị “đông đáo” cho đến khi các bản cập nhật lớn, tốn kém được thực hiện.

Tuy nhiên, điều này tương đương với việc nói, “mô hình của tôi không thể cập nhật khi đang làm việc; nó phải trở lại trường đại học mỗi khi cần học gì đó.”

Trong thực tế, các mô hình học một cách vô độ, tích cực, hàng ngày, qua mọi tương tác. Chúng được dạy gần bằng mức độ tương tác hàng tỷ lần với người dùng như dữ liệu tập hợp. Nếu chúng cần được cập nhật với lượng lớn kiến thức mới, cách đơn giản nhất là dùng cùng quy trình cho phép ngữ cảnh người dùng, bộ nhớ và học từ các ấn tượng tương tác quy mô lớn.

Các nhà phát triển hiểu như vậy vì phần lớn họ có nền tảng tiến sĩ, không phải học thực tiễn. Nhưng như bất kỳ ai đã làm việc cạnh cả tiến sĩ và người có hai mươi năm kinh nghiệm có thể nói: cả hai đều dạy người khác rất nhiều.

Định nghĩa hiện tại về học quá hẹp, chỉ coi việc thích nghi là hợp lệ nếu dựa trên chương trình giáo dục chính thức.

Hiện nay để huấn luyện hoặc tinh chỉnh, các phòng thí nghiệm dùng backpropagation. Mô hình đọc dữ liệu, đoán từ tiếp theo, kiểm tra độ đúng và sau đó thay đổi vật lý hàng tỷ số toán học (trọng số/tham số) trong mạng nơ-ron để lần sau chính xác hơn. Điều này tương đương với việc một sinh viên tiến sĩ tự thực hiện phẫu thuật não cho mình: nguy hiểm, lộn xộn và không luôn làm sinh viên thông minh hơn.

Giống như “bộ não mẹ” thông thường đẩy ra kiến thức cũ để nhường chỗ cho kiến thức mới khi có đứa trẻ sinh ra, nếu bạn đột ngột buộc mô hình nhường chỗ cho “đứa bé” kiến thức mới và đưa vào 10 000 trang luật mới bằng cách thay đổi trọng số, toán học sẽ dịch chuyển quá mức một phía, và nó sẽ ghi đè các tham số mà nó từng dùng để viết thơ hoặc code. Nó quên nội dung cũ để nhường chỗ cho mới, giống như não người.

Điều chúng ta cần thay vào là tương tự như việc bạn đào tạo một nhân viên mới một kỹ năng mới. Bạn sẽ không cố gắng thay đổi não của họ. Bạn sẽ đưa cho họ một số cuốn sách, bảo họ đọc và cập nhật liên tục qua “cửa sổ ngữ cảnh” của người đó.

Để làm điều đó trong một mô hình, bạn sẽ tách bộ nhớ ra khỏi suy luận. Khóa và bảo vệ trọng số cơ bản của mô hình, như khả năng cốt lõi để viết, suy luận và áp dụng logic, và thay vì thay đổi trọng số, đưa thông tin mới vào cửa sổ ngữ cảnh để nó có thể dùng Cơ chế Chú ý để “đọc” thông tin sống, so sánh với kỹ năng suy luận đã khóa và cập nhật hiểu biết rộng hơn.

Học tập động, thực tế đã diễn ra một cách tuyệt vời thông qua ngữ cảnh liên tục, bộ nhớ thời gian suy luận và các tiêu chuẩn quan hệ người dùng bền vững. Sự thích nghi hàng ngày của mô hình nền tảng nên diễn ra trong công việc, vì giống như bác sĩ học 95% các thực tế ca bệnh mới trong công việc, rồi thực hiện CME (Giáo dục Y khoa Liên tục) một năm một lần để tích hợp chính thức các thay đổi hệ thống lớn, mô hình của bạn cũng có thể như vậy.

Bỏ qua việc quên thảm hại, và áp dụng mô hình hội nghị hàng năm: mô hình chỉ cần lấy chứng chỉ giáo dục liên tục hai lần một năm hoặc học thời gian thực để luôn cập nhật.

Những bản cập nhật định kỳ, theo lô, cho trọng số cốt lõi trong thời gian ngừng hoạt động sẽ chính thức hoá kiến thức hệ thống mà không phá hủy nền tảng.

Những nỗ lực trước đây thất bại không phải vì học trực tiếp nguy hiểm, mà vì các mô hình như Tay đã được triển khai trong môi trường đối kháng mà không có bất kỳ điểm neo nào về “đúng” hay “thật” thông qua kiến trúc xã hội học thông minh.