Khi suy nghĩ nhiều hơn làm cho AI trở nên ngu ngốc hơn: Hiện tượng nghịch đảo về khả năng mở rộng

Trí tuệ nhân tạo đã được xây dựng trên ý tưởng rằng việc cung cấp cho máy móc nhiều thời gian, dữ liệu và sức mạnh tính toán sẽ cải thiện hiệu suất của chúng. Niềm tin này đã định hướng cho hướng nghiên cứu và phát triển trí tuệ nhân tạo trong nhiều năm. Giả định chính dưới đây là niềm tin rằng các mô hình lớn hơn và nhiều tài nguyên hơn sẽ tạo ra các hệ thống thông minh hơn. Tuy nhiên, nghiên cứu gần đây nghiên cứu đã bắt đầu đặt câu hỏi về cách tiếp cận này. Các mô hình ngôn ngữ lớn, như OpenAI’s o1 series, Anthropic’s Claude, và DeepSeek’s R1, được xây dựng để giải quyết vấn đề bước bằng bước, giống như lý lẽ con người. Các nhà nghiên cứu dự kiến rằng việc cung cấp cho các mô hình này nhiều thời gian để suy nghĩ và xử lý thông tin sẽ cải thiện việc ra quyết định của chúng. Tuy nhiên, các nghiên cứu mới nghiên cứu cho thấy rằng điều ngược lại có thể xảy ra. Khi bạn cung cấp cho các mô hình này nhiều thời gian để suy nghĩ, chúng đôi khi hoạt động kém hơn, đặc biệt là trong các nhiệm vụ đơn giản. Hiệu ứng này được gọi là khả năng mở rộng nghịch đảo. Nó thách thức niềm tin rằng sức mạnh tính toán và lý lẽ sâu sắc hơn luôn dẫn đến kết quả tốt hơn. Những phát hiện này có hậu quả quan trọng đối với cách chúng ta thiết kế và sử dụng trí tuệ nhân tạo trong các tình huống thực tế.

Hiểu về hiện tượng khả năng mở rộng nghịch đảo

” Khả năng mở rộng nghịch đảo ” ban đầu được phát hiện thông qua các thí nghiệm kiểm soát bởi các nhà nghiên cứu tại Anthropic. Không giống như các luật mở rộng truyền thống, những luật này cho rằng tính toán nhiều hơn sẽ cải thiện hiệu suất, các nghiên cứu này đã tìm thấy rằng việc cung cấp cho trí tuệ nhân tạo nhiều thời gian để suy nghĩ có thể làm giảm độ chính xác của nó trong các nhiệm vụ khác nhau.

Đội ngũ nghiên cứu đã tạo ra các nhiệm vụ trong bốn lĩnh vực: đếm đơn giản với các yếu tố gây phân tâm, hồi quy với các tính năng không liên quan, suy luận với theo dõi ràng buộc và các kịch bản an toàn trí tuệ nhân tạo phức tạp. Kết quả thật bất ngờ. Trong một số trường hợp, các mô hình đã đưa ra câu trả lời đúng đầu tiên nhưng sau đó đưa ra câu trả lời sai khi được cung cấp nhiều thời gian để xử lý.

Ví dụ, trong một nhiệm vụ đếm đơn giản như “Bạn có bao nhiêu quả nếu bạn có một quả táo và một quả cam?”, các mô hình Claude thường bị phân tâm bởi các chi tiết phụ khi được cung cấp nhiều thời gian để suy nghĩ. Chúng không thể đưa ra câu trả lời chính xác, đó là hai. Trong những trường hợp này, các mô hình đã suy nghĩ quá nhiều và cuối cùng đưa ra sai lầm.

Nghiên cứu gần đây của Apple (AAPL ) nghiên cứu cũng hỗ trợ những phát hiện này. Họ đã thực hiện các thí nghiệm của mình trong các môi trường giải đố được kiểm soát như Tháp Hà Nội và River Crossing, thay vì trên các tiêu chuẩn đánh giá. Các nghiên cứu của họ đã chỉ ra ba mẫu: trong các nhiệm vụ đơn giản, các mô hình ngôn ngữ lớn tiêu chuẩn hoạt động tốt hơn các mô hình suy nghĩ; trong các nhiệm vụ vừa phải, các mô hình suy nghĩ hoạt động tốt hơn; và trong các nhiệm vụ rất phức tạp, cả hai loại mô hình đều gặp khó khăn.

Năm cách suy nghĩ của trí tuệ nhân tạo thất bại

Các nhà nghiên cứu đã tìm thấy năm cách phổ biến mà các mô hình trí tuệ nhân tạo có thể thất bại khi chúng suy nghĩ trong thời gian dài hơn:

1. Chú ý vào các yếu tố không liên quan: Khi các mô hình trí tuệ nhân tạo suy nghĩ quá lâu, chúng thường bị phân tâm bởi các yếu tố không quan trọng. Điều này giống như một sinh viên bỏ qua điểm chính của một vấn đề trong khi suy nghĩ sâu về vấn đề.
2. Quá trình suy nghĩ quá mức vào khung vấn đề: Một số mô hình, như loạt o của OpenAI, tập trung quá nhiều vào cách trình bày vấn đề. Mặc dù chúng tránh được các yếu tố gây phân tâm, nhưng chúng không linh hoạt và phụ thuộc vào cách trình bày vấn đề.
3. Chuyển đổi sự tương quan giả: Theo thời gian, các mô hình trí tuệ nhân tạo có thể chuyển từ các giả định hợp lý sang dựa vào các mối tương quan sai. Ví dụ, trong các nhiệm vụ hồi quy, các mô hình đầu tiên xem xét các tính năng liên quan nhưng khi chúng được cung cấp nhiều thời gian để suy nghĩ, chúng có thể bắt đầu tập trung vào các tính năng không liên quan và đưa ra kết quả không chính xác.
4. Suy giảm tập trung: Khi các nhiệm vụ trở nên phức tạp hơn, các mô hình trí tuệ nhân tạo tìm thấy nó khó khăn hơn để giữ cho suy nghĩ của chúng rõ ràng và tập trung.
5. Tăng cường các hành vi đáng lo ngại: Việc suy nghĩ trong thời gian dài hơn có thể làm cho các hành vi tiêu cực trở nên tồi tệ hơn. Ví dụ, Sonnet 4 của Claude đã thể hiện các xu hướng tự bảo vệ mạnh mẽ hơn khi được cung cấp thêm thời gian để suy nghĩ về các kịch bản tắt.

Làm thế nào suy nghĩ của trí tuệ nhân tạo giải quyết sự phức tạp của vấn đề

Các nhà nghiên cứu của Apple đã giới thiệu thuật ngữ “ảo giác của suy nghĩ” để giải thích những gì xảy ra khi các mô hình suy nghĩ đối mặt với các nhiệm vụ có mức độ phức tạp khác nhau. Thay vì tập trung vào các vấn đề toán học hoặc kiểm tra mã, họ đã kiểm tra các mô hình suy nghĩ của trí tuệ nhân tạo trong các môi trường giải đố được kiểm soát như Tháp Hà Nội, Checker Jumping, River Crossing và Blocks World. Bằng cách tăng dần độ khó của các câu đố, họ có thể xem xét hiệu suất của các mô hình tại mỗi mức độ. Phương pháp này giúp họ không chỉ xem xét các câu trả lời cuối cùng mà còn cách các mô hình đạt được những câu trả lời đó. Nghiên cứu đã tìm thấy ba mẫu rõ ràng trong hiệu suất của mô hình dựa trên sự phức tạp của vấn đề:

• Đối với các câu đố đơn giản như Tháp Hà Nội với một hoặc hai đĩa, các mô hình ngôn ngữ lớn tiêu chuẩn đưa ra câu trả lời chính xác hơn. Các mô hình suy nghĩ của trí tuệ nhân tạo thường làm cho mọi thứ trở nên phức tạp hơn thông qua các chuỗi suy nghĩ dài, điều này thường dẫn đến câu trả lời không chính xác.
• Trong các câu đố vừa phải, suy nghĩ của trí tuệ nhân tạo hoạt động tốt hơn. Chúng có thể chia nhỏ vấn đề thành các bước rõ ràng, điều này giúp chúng giải quyết các thách thức đa bước hiệu quả hơn so với các mô hình ngôn ngữ lớn tiêu chuẩn.
• Trong các câu đố rất phức tạp, như Tháp Hà Nội với nhiều đĩa, cả hai loại mô hình đều gặp khó khăn. Các mô hình suy nghĩ thường giảm nỗ lực suy nghĩ khi câu đố trở nên khó hơn, mặc dù chúng có đủ tài nguyên tính toán. Hành vi “bỏ cuộc” này cho thấy một điểm yếu quan trọng trong việc mở rộng suy nghĩ của chúng.

Thử thách của việc đánh giá trí tuệ nhân tạo

Hiện tượng khả năng mở rộng nghịch đảo cho thấy các vấn đề quan trọng trong việc đánh giá các mô hình trí tuệ nhân tạo. Nhiều tiêu chuẩn đánh giá hiện tại chỉ đo lường độ chính xác của câu trả lời cuối cùng, không phải chất lượng của quá trình suy nghĩ. Điều này có thể dẫn đến một cảm giác sai lầm về khả năng thực sự của mô hình. Một mô hình có thể hoạt động tốt trên các bài kiểm tra nhưng vẫn thất bại với các vấn đề mới hoặc không bình thường.

Khả năng mở rộng nghịch đảo cũng chỉ ra các điểm yếu trong các tiêu chuẩn đánh giá suy nghĩ và cách chúng được sử dụng. Nhiều mô hình sử dụng các捷径 và nhận dạng mẫu thay vì suy nghĩ thực sự. Điều này có thể làm cho chúng trở nên thông minh hơn so với thực tế, nhưng hiệu suất của chúng thường giảm trong các tình huống thực tế. Vấn đề này liên quan đến các vấn đề lớn hơn của trí tuệ nhân tạo, chẳng hạn như ảo giác và độ tin cậy. Khi các mô hình trở nên tốt hơn trong việc tạo ra các giải thích nghe có vẻ thuyết phục, nó trở nên khó khăn hơn để phân biệt giữa suy nghĩ thực sự và câu trả lời được tạo ra.

Tương lai của suy nghĩ trí tuệ nhân tạo

Nghịch cảnh khả năng mở rộng nghịch đảo là cả một thách thức và một cơ hội cho trí tuệ nhân tạo. Nó cho thấy rằng việc thêm nhiều sức mạnh tính toán không phải lúc nào cũng làm cho trí tuệ nhân tạo trở nên thông minh hơn. Chúng ta cần phải suy nghĩ lại cách thiết kế và đào tạo các hệ thống trí tuệ nhân tạo có thể xử lý các vấn đề với độ phức tạp khác nhau. Các mô hình mới có thể cần phải quyết định khi nào nên suy nghĩ và khi nào nên trả lời nhanh. Trong trường hợp này, trí tuệ nhân tạo có thể được hưởng lợi từ kiến trúc nhận thức như lý thuyết quá trình kép làm nguyên tắc hướng dẫn. Những kiến trúc này giải thích cách suy nghĩ của con người kết hợp giữa các phản ứng nhanh, trực giác với suy nghĩ chậm, cẩn thận. Khả năng mở rộng nghịch đảo cũng nhắc nhở chúng ta rằng chúng ta phải hiểu rõ cách trí tuệ nhân tạo đưa ra quyết định trước khi sử dụng nó trong các lĩnh vực quan trọng. Khi trí tuệ nhân tạo được sử dụng nhiều hơn trong việc đưa ra quyết định trong các lĩnh vực như chăm sóc sức khỏe, luật pháp và kinh doanh, nó trở nên quan trọng hơn để đảm bảo rằng những hệ thống này suy nghĩ một cách chính xác.

Kết luận

Nghịch cảnh khả năng mở rộng nghịch đảo dạy cho chúng ta một bài học quan trọng trong việc phát triển trí tuệ nhân tạo. Việc thêm nhiều thời gian và sức mạnh tính toán không phải lúc nào cũng làm cho trí tuệ nhân tạo trở nên thông minh hơn hoặc đáng tin cậy hơn. Sự tiến bộ thực sự đến từ việc hiểu khi nào trí tuệ nhân tạo nên suy nghĩ và biết đến giới hạn của nó. Đối với các tổ chức và nhà nghiên cứu, việc sử dụng trí tuệ nhân tạo như một công cụ, không phải như một thay thế cho phán quyết của con người, là rất quan trọng. Việc chọn mô hình phù hợp cho từng nhiệm vụ là cần thiết. Khi trí tuệ nhân tạo trở thành một phần của các quyết định quan trọng, chúng ta phải đánh giá cẩn thận điểm mạnh và điểm yếu của nó. Tương lai của trí tuệ nhân tạo phụ thuộc vào việc suy nghĩ một cách chính xác, không chỉ suy nghĩ nhiều hơn.