Tự tin sai lầm: Tại sao các mô hình AI thông minh nhất lại là những mô hình tệ nhất trong việc tự sửa lỗi

Nhiều người trong cộng đồng AI tin rằng cuộc cách mạng lớn tiếp theo sẽ là kỷ nguyên của AI tự cải thiện, nơi AI có thể tự cải thiện mà không cần can thiệp của con người. Argument là: khi các mô hình trở nên mạnh mẽ hơn, chúng sẽ học không chỉ từ dữ liệu, mà từ chính mình. Mỗi lần lặp lại sẽ tinh chỉnh lần trước. Các lỗi sẽ được xác định, sửa chữa và loại bỏ. Theo thời gian, sự kết hợp này của các cải tiến có thể kích hoạt một vụ nổ thông minh nơi AI bắt đầu xây dựng AI. Tầm nhìn này là nền tảng của sự phấn khích xung quanh AI递归, các tác nhân tự động và vụ nổ thông minh đã được chờ đợi từ lâu. Ở trung tâm của tầm nhìn này là khả năng của các hệ thống AI để sửa lỗi của chính mình một cách đáng tin cậy. Tuy nhiên, nếu không có sự tự sửa lỗi mạnh mẽ, tự cải thiện sẽ không thể đạt được. Một hệ thống không thể nhận ra khi nó sai lầm không thể học hỏi một cách có ý nghĩa từ các đầu ra của chính nó, bất kể nó có mạnh mẽ đến đâu.

Giả định phổ biến đã là tự sửa lỗi sẽ tự nhiên xuất hiện khi các mô hình trở nên mạnh mẽ hơn. Niềm tin này cảm thấy trực giác. Sau tất cả, các mô hình mạnh hơn biết nhiều hơn, lý luận tốt hơn và hoạt động tốt trên các nhiệm vụ. Tuy nhiên, nghiên cứu gần đây cho thấy một phát hiện trái ngược rằng các mô hình tiên tiến thường gặp khó khăn trong việc sửa lỗi của chính mình, trong khi các mô hình yếu hơn hoạt động tốt hơn trong việc tự sửa lỗi. Hiện tượng này, được gọi là nghịch lý chính xác-sửa lỗi, buộc chúng ta phải suy nghĩ lại không chỉ cách các hệ thống AI lý luận, mà còn cách chúng ta thực sự sẵn sàng cho AI tự cải thiện.

Hiểu về AI Tự cải thiện

AI tự cải thiện đề cập đến một hệ thống AI có thể xác định lỗi của chính mình, học hỏi từ chúng và tinh chỉnh hành vi của mình một cách lặp lại. Không giống như các mô hình truyền thống, những mô hình này chỉ dựa vào dữ liệu đào tạo được tạo ra bởi con người, AI tự cải thiện sẽ chủ động đánh giá đầu ra của chính mình và thích nghi theo thời gian. Về lý thuyết, điều này tạo ra một vòng lặp phản hồi nơi mỗi chu kỳ học tập xây dựng trên chu kỳ trước, tạo ra những gì thường được mô tả là một vụ nổ thông minh.

Nhưng đạt được mục tiêu này không dễ dàng. Tự cải thiện đòi hỏi nhiều hơn sức mạnh tính toán thô hoặc dữ liệu lớn hơn. Nó đòi hỏi phải đánh giá chính mình một cách đáng tin cậy, bao gồm khả năng phát hiện lỗi, xác định nguồn gốc của chúng và tạo ra các giải pháp sửa lỗi. Nếu không có những khả năng này, một mô hình không thể phân biệt giữa một đường lối lý luận chính xác và một đường lối bị lỗi. Việc lặp lại trên một giải pháp sai lầm, bất kể tốc độ nhanh như thế nào, chỉ củng cố các lỗi chứ không cải thiện hiệu suất.

Sự khác biệt này là rất quan trọng. Trong con người, việc học hỏi từ sai lầm thường liên quan đến sự phản ánh, kiểm tra giả thuyết và điều chỉnh khóa học. Đối với AI, những quá trình này phải được mã hóa trong chính hệ thống. Nếu một mô hình không thể nhận ra và sửa lỗi của chính mình một cách đáng tin cậy, nó không thể tham gia một cách có ý nghĩa vào một vòng lặp tự cải thiện, và lời hứa về trí tuệ递归 vẫn còn là lý thuyết chứ không phải thực tế.

Nghịch lý Chính xác-Sửa lỗi

Tự sửa lỗi thường được coi là một khả năng duy nhất, nhưng trên thực tế, nó kết hợp nhiều khả năng riêng biệt mà phải được xem xét riêng biệt. Về mức tối thiểu, chúng ta có thể tách nó thành ba khả năng có thể đo lường được: phát hiện lỗi, định vị lỗi hoặc phát hiện nguồn gốc, và sửa lỗi. Phát hiện lỗi hỏi liệu một mô hình có thể nhận ra rằng đầu ra của nó là không chính xác. Định vị lỗi tập trung vào việc xác định nơi lỗi xảy ra. Sửa lỗi đề cập đến khả năng tạo ra một giải pháp sửa lỗi.

Bằng cách đo lường những khả năng này riêng biệt, các nhà nghiên cứu tiết lộ những hiểu biết quan trọng về các hạn chế của các hệ thống hiện tại. Họ cho thấy các mô hình khác nhau rộng rãi trên các khả năng này. Một số mô hình tốt trong việc phát hiện lỗi nhưng kém trong việc sửa chúng. Những mô hình khác hầu như không nhận ra sai lầm nhưng vẫn có thể sửa chúng thông qua các lần thử lại. Quan trọng hơn, những hiểu biết này cho thấy rằng việc cải thiện trong một lĩnh vực không đảm bảo việc cải thiện trong các lĩnh vực khác.

Khi các nhà nghiên cứu thử nghiệm các mô hình tiên tiến trên các nhiệm vụ lý luận toán học phức tạp, những mô hình này ít mắc lỗi. Đó là điều đã được dự đoán. Điều không dự đoán được là: khi những mô hình này mắc lỗi, chúng ít có khả năng sửa lỗi của chính mình. Ngược lại, các mô hình yếu hơn, mặc dù mắc nhiều lỗi hơn, đã tốt hơn đáng kể trong việc sửa lỗi của chính mình mà không cần phản hồi từ bên ngoài. Nói cách khác, các nhà nghiên cứu đã phát hiện ra rằng độ chính xác và tự sửa lỗi di chuyển theo hướng ngược lại, một nghịch lý mà họ gọi là nghịch lý chính xác-sửa lỗi. Phát hiện này thách thức một niềm tin sâu sắc trong phát triển AI. Chúng ta thường giả định rằng việc mở rộng mô hình sẽ cải thiện mọi khía cạnh của trí tuệ. Nghịch lý cho thấy rằng giả định này không luôn đúng, đặc biệt là đối với các khả năng nội quán.

Giả thuyết Độ sâu Lỗi

Nghịch lý này đặt ra một câu hỏi rõ ràng: tại sao các mô hình yếu hơn lại vượt trội hơn các mô hình mạnh hơn trong việc tự sửa lỗi? Các nhà nghiên cứu tìm thấy câu trả lời này bằng cách kiểm tra loại lỗi mà các mô hình mắc phải. Họ phát hiện ra rằng các mô hình mạnh hơn mắc ít lỗi, nhưng những lỗi mà chúng mắc phải là “sâu” hơn và khó sửa hơn. Ngược lại, các mô hình yếu hơn mắc lỗi “nông” hơn và dễ sửa hơn trong một lần thử lại.

Các nhà nghiên cứu gọi hiểu biết này là giả thuyết độ sâu lỗi. Họ phân loại lỗi thành lỗi thiết lập, lỗi logic và lỗi tính toán. Lỗi thiết lập liên quan đến việc hiểu sai vấn đề. Lỗi logic xảy ra khi đường lối lý luận bị cấu trúc sai. Lỗi tính toán là những sai lầm đơn giản về toán học. Đối với GPT-3.5, đa số lỗi (62%) là lỗi tính toán đơn giản. Đây là những lỗi nông. Khi được yêu cầu “kiểm tra cẩn thận”, mô hình thường có thể tìm thấy sai lầm toán học và sửa nó. Đối với DeepSeek, tuy nhiên, 77% lỗi là lỗi thiết lập hoặc lỗi logic. Những lỗi sâu này đòi hỏi mô hình phải suy nghĩ lại hoàn toàn cách tiếp cận của mình. Các mô hình mạnh mẽ gặp khó khăn với điều này vì chúng có xu hướng gắn với đường lối lý luận ban đầu của mình. Khi trí tuệ của mô hình tăng lên, chỉ có những lỗi dai dẳng và khó khăn nhất còn lại.

Tại sao Phát hiện Lỗi không Đảm bảo Sửa lỗi

Một trong những phát hiện đáng惊 nhất của nghiên cứu là phát hiện lỗi không tương quan với khả năng sửa lỗi. Một mô hình có thể xác định chính xác rằng câu trả lời của nó là sai lầm nhưng vẫn thất bại trong việc sửa nó. Một mô hình khác có thể hầu như không phát hiện lỗi nhưng vẫn cải thiện thông qua các lần giải quyết lại. Claude-3-Haiku cung cấp ví dụ ấn tượng nhất. Claude chỉ phát hiện 10,1% lỗi của chính mình, thấp nhất trong tất cả các mô hình được thử nghiệm. Mặc dù phát hiện yếu này, nó đạt được tỷ lệ sửa lỗi nội tại cao nhất ở 29,1%. So sánh, GPT-3.5 phát hiện 81,5% lỗi của mình nhưng chỉ sửa 26,8%.

Điều này cho thấy rằng một số mô hình có thể “ngẫu nhiên” sửa lỗi của mình bằng cách đơn giản là giải quyết lại vấn đề thông qua một đường lối lấy mẫu khác, ngay cả khi chúng không nhận ra rằng lần thử đầu tiên là sai lầm. Sự mất kết nối này nguy hiểm cho việc triển khai trong thế giới thực. Khi một mô hình quá tự tin và không thể phát hiện lỗi logic của chính mình, nó có thể trình bày một lời giải thích hợp lý nhưng hoàn toàn sai lầm như sự thật. Trong một số trường hợp, việc yêu cầu một mô hình xác định lỗi của chính mình có thể làm cho tình hình trở nên tồi tệ hơn. Khi một mô hình xác định sai nơi nó đã đi sai, nó gắn mình vào một lời giải thích bị lỗi và tăng gấp đôi sai lầm. Thay vì giúp đỡ, các gợi ý tự tạo có thể khóa mô hình vào đường lối lý luận sai lầm. Hành vi này phản ánh sự thiên vị nhận thức của con người. Một khi chúng ta tin rằng chúng ta biết điều gì đã đi sai, chúng ta ngừng tìm kiếm các nguyên nhân sâu sắc hơn.

Lặp lại Giúp đỡ, Nhưng Không Đẳng

Nghiên cứu cũng cho thấy rằng sự phản ánh lặp lại thường cải thiện kết quả, nhưng không phải tất cả các mô hình đều được hưởng lợi như nhau. Các mô hình yếu hơn được hưởng lợi đáng kể từ nhiều vòng suy nghĩ lại vì mỗi vòng lặp lại cho chúng một cơ hội khác để sửa lỗi bề mặt. Các mô hình mạnh hơn cho thấy lợi ích nhỏ hơn từ việc lặp lại. Lỗi của chúng không dễ dàng được giải quyết bằng sự lặp lại. Nếu không có hướng dẫn từ bên ngoài, các nỗ lực thêm thường sản xuất lại cùng một đường lối lý luận bị lỗi trong các từ khác. Sự hiểu biết này cho thấy rằng các kỹ thuật tự hoàn thiện không phải lúc nào cũng hiệu quả. Sự thành công của chúng phụ thuộc vào bản chất của lỗi được thực hiện, không chỉ là trí tuệ của mô hình.

Điều này Có nghĩa là Gì cho Thiết kế Hệ thống AI

Những hiểu biết này mang lại những ý nghĩa thực tế. Đầu tiên, chúng ta nên ngừng giả định rằng độ chính xác cao hơn ngụ ý tự sửa lỗi tốt hơn. Các hệ thống dựa vào tự hoàn thiện tự động cần được thử nghiệm rõ ràng về hành vi sửa lỗi, không chỉ là hiệu suất cuối cùng. Thứ hai, các mô hình khác nhau có thể yêu cầu các chiến lược can thiệp khác nhau. Các mô hình yếu hơn có thể được hưởng lợi từ việc xác minh đơn giản và lặp lại. Các mô hình mạnh hơn có thể yêu cầu phản hồi từ bên ngoài, xác minh có cấu trúc hoặc kiểm tra dựa trên công cụ để vượt qua các lỗi lý luận sâu sắc. Thứ ba, các đường ống tự sửa lỗi nên nhận thức được lỗi. Việc hiểu liệu một nhiệm vụ có dễ bị lỗi nông hay sâu có thể thông báo liệu tự sửa lỗi có khả năng hoạt động hay không. Cuối cùng, các tiêu chuẩn đánh giá nên tách biệt phát hiện, định vị và sửa lỗi. Việc xử lý chúng như một thước đo duy nhất che giấu các điểm yếu quan trọng có liên quan trong các triển khai thực tế.

Kết luận

AI tự cải thiện phụ thuộc không chỉ vào việc tạo ra các câu trả lời chính xác, mà còn vào khả năng nhận ra, chẩn đoán và sửa lỗi không chính xác. Nghịch lý chính xác-sửa lỗi cho thấy rằng các mô hình mạnh hơn không tự động tốt hơn trong nhiệm vụ này. Khi các mô hình trở nên mạnh mẽ hơn, lỗi của chúng trở nên sâu sắc hơn, khó phát hiện và khó sửa hơn. Điều này có nghĩa là tiến bộ trong việc mở rộng mô hình alone không đủ. Nếu chúng ta muốn có các hệ thống AI thực sự có thể học hỏi từ sai lầm của chính mình, tự sửa lỗi phải được coi là một khả năng riêng biệt, được đo lường rõ ràng, được đào tạo và hỗ trợ.