Mô hình và nền tảng AI
Phi-4-Reasoning: Thay Đổi Cách Tư Duy Về Trí Tuệ Nhân Tạo Bằng Cách Thử Thách “Làm Bigger Là Tốt Hơn”
Microsoft (MSFT ) gần đây đã phát hành Phi-4-reasoning thách thức một giả định quan trọng trong việc xây dựng các hệ thống trí tuệ nhân tạo có khả năng tư duy. Kể từ khi giới thiệu tư duy theo chuỗi suy nghĩ vào năm 2022, các nhà nghiên cứu tin rằng tư duy tiên tiến đòi hỏi các mô hình ngôn ngữ lớn với hàng trăm tỷ tham số. Tuy nhiên, mô hình 14 tỷ tham số mới của Microsoft, Phi-4-reasoning, đặt câu hỏi về niềm tin này. Sử dụng một cách tiếp cận dựa trên dữ liệu thay vì dựa vào sức mạnh tính toán thuần túy, mô hình này đạt được hiệu suất tương đương với các hệ thống lớn hơn nhiều. Sự đột phá này cho thấy rằng một cách tiếp cận dựa trên dữ liệu có thể hiệu quả như thế nào trong việc đào tạo các mô hình tư duy, cũng như trong việc đào tạo AI thông thường. Nó mở ra khả năng cho các mô hình AI nhỏ hơn đạt được tư duy tiên tiến bằng cách thay đổi cách các nhà phát triển AI đào tạo các mô hình tư duy, từ “làm lớn hơn là tốt hơn” sang “dữ liệu tốt hơn là tốt hơn.”
Cách Tư Duy Truyền Thống
Tư duy theo chuỗi suy nghĩ đã trở thành một tiêu chuẩn cho việc giải quyết các vấn đề phức tạp trong trí tuệ nhân tạo. Kỹ thuật này hướng dẫn các mô hình ngôn ngữ thông qua quá trình tư duy từng bước, chia nhỏ các vấn đề khó thành các bước nhỏ hơn, dễ quản lý hơn. Nó模仿 cách suy nghĩ của con người bằng cách khiến các mô hình “nói to” trong ngôn ngữ tự nhiên trước khi đưa ra câu trả lời.
Tuy nhiên, khả năng này đi kèm với một hạn chế quan trọng. Các nhà nghiên cứu liên tục phát hiện rằng kỹ thuật tư duy theo chuỗi suy nghĩ chỉ hoạt động tốt khi các mô hình ngôn ngữ rất lớn. Khả năng tư duy dường như liên quan trực tiếp đến kích thước mô hình, với các mô hình lớn hơn thực hiện tốt hơn trên các nhiệm vụ tư duy phức tạp. Phát hiện này dẫn đến sự cạnh tranh trong việc xây dựng các mô hình tư duy lớn, nơi các công ty tập trung vào việc biến các mô hình ngôn ngữ lớn của họ thành các động cơ tư duy mạnh mẽ.
Ý tưởng về việc kết hợp khả năng tư duy vào các mô hình AI chủ yếu đến từ quan sát rằng các mô hình ngôn ngữ lớn có thể thực hiện học trong ngữ cảnh. Các nhà nghiên cứu quan sát rằng khi các mô hình được hiển thị các ví dụ về cách giải quyết vấn đề từng bước, chúng học cách theo dõi mẫu này cho các vấn đề mới. Điều này dẫn đến niềm tin rằng các mô hình lớn hơn được đào tạo trên dữ liệu lớn sẽ tự nhiên phát triển khả năng tư duy tiên tiến hơn. Mối quan hệ mạnh mẽ giữa kích thước mô hình và hiệu suất tư duy trở thành một sự thật được chấp nhận. Các đội đã đầu tư nguồn lực lớn vào việc mở rộng khả năng tư duy bằng cách sử dụng học tăng cường, tin rằng sức mạnh tính toán là chìa khóa để đạt được tư duy tiên tiến.
Hiểu Về Cách Tiếp Cận Dựa Trên Dữ Liệu
Sự trỗi dậy của trí tuệ nhân tạo dựa trên dữ liệu thách thức quan điểm “làm lớn hơn là tốt hơn”. Cách tiếp cận này chuyển sự chú ý từ kiến trúc mô hình sang việc thiết kế cẩn thận dữ liệu được sử dụng để đào tạo các hệ thống AI. Thay vì xem dữ liệu như một đầu vào cố định, phương pháp dựa trên dữ liệu coi dữ liệu như một vật liệu có thể được cải thiện và tối ưu hóa để tăng cường hiệu suất AI.
Andrew Ng, một nhà lãnh đạo trong lĩnh vực này, khuyến khích xây dựng các thực hành kỹ thuật hệ thống để cải thiện chất lượng dữ liệu thay vì chỉ điều chỉnh mã hoặc mở rộng mô hình. Triết lý này nhận ra rằng chất lượng dữ liệu và công tác chuẩn bị thường quan trọng hơn so với kích thước mô hình. Các công ty áp dụng cách tiếp cận này cho thấy rằng các mô hình nhỏ hơn, được đào tạo tốt, có thể vượt trội so với các mô hình lớn hơn nếu được đào tạo trên các tập dữ liệu chất lượng cao, được chuẩn bị cẩn thận.
Cách tiếp cận dựa trên dữ liệu đặt ra một câu hỏi khác: “Làm thế nào chúng ta có thể cải thiện dữ liệu của mình?” thay vì “Làm thế nào chúng ta có thể làm cho mô hình lớn hơn?” Điều này có nghĩa là tạo ra các tập dữ liệu đào tạo tốt hơn, cải thiện chất lượng dữ liệu và phát triển kỹ thuật dữ liệu hệ thống. Trong trí tuệ nhân tạo dựa trên dữ liệu, sự chú ý tập trung vào việc hiểu những gì làm cho dữ liệu hiệu quả cho các nhiệm vụ cụ thể, không chỉ thu thập thêm dữ liệu.
Cách tiếp cận này đã cho thấy nhiều hứa hẹn trong việc đào tạo các mô hình AI nhỏ nhưng mạnh mẽ bằng cách sử dụng các tập dữ liệu nhỏ và ít tính toán hơn. Các mô hình Phi của Microsoft là một ví dụ tốt về việc đào tạo các mô hình ngôn ngữ nhỏ bằng cách sử dụng cách tiếp cận dựa trên dữ liệu. Các mô hình này được đào tạo bằng cách sử dụng học theo chương trình, chủ yếu được lấy cảm hứng từ cách trẻ em học thông qua các ví dụ ngày càng khó. Ban đầu, các mô hình được đào tạo trên các ví dụ dễ, sau đó dần dần được thay thế bằng các ví dụ khó hơn. Microsoft đã xây dựng một tập dữ liệu từ các cuốn sách giáo khoa, như được giải thích trong bài báo của họ “Sách Giáo Khoa Là Tất Cả Bạn Cần.” Điều này đã giúp Phi-3 vượt trội so với các mô hình như Google’s (GOOGL ) Gemma và GPT 3.5 trong các nhiệm vụ như hiểu ngôn ngữ, kiến thức chung, toán học cấp trường và trả lời câu hỏi y tế.
Mặc dù thành công của cách tiếp cận dựa trên dữ liệu, tư duy vẫn thường là một tính năng của các mô hình AI lớn. Điều này là do tư duy đòi hỏi các mẫu và kiến thức phức tạp mà các mô hình quy mô lớn nắm bắt dễ dàng hơn. Tuy nhiên, niềm tin này gần đây đã bị thách thức bởi sự phát triển của mô hình Phi-4-reasoning.
Chiến Lược Đột Phá Của Phi-4-Reasoning
Phi-4-reasoning cho thấy cách tiếp cận dựa trên dữ liệu có thể được sử dụng để đào tạo các mô hình tư duy nhỏ. Mô hình này được xây dựng bằng cách tinh chỉnh mô hình Phi-4 cơ bản trên các lời nhắc và ví dụ tư duy cẩn thận được chọn và được tạo ra với o3-mini của OpenAI. Sự chú ý tập trung vào chất lượng và tính cụ thể thay vì kích thước tập dữ liệu. Mô hình được đào tạo bằng cách sử dụng khoảng 1,4 triệu lời nhắc chất lượng cao thay vì hàng tỷ lời nhắc chung chung. Các nhà nghiên cứu đã lọc các ví dụ để bao gồm các mức độ khó và loại tư duy khác nhau, đảm bảo sự đa dạng. Việc chăm sóc cẩn thận này đã khiến mỗi ví dụ đào tạo có mục đích, dạy cho mô hình các mẫu tư duy cụ thể thay vì chỉ tăng thể tích dữ liệu.
Trong quá trình tinh chỉnh có giám sát, mô hình được đào tạo với các ví dụ tư duy đầy đủ liên quan đến quá trình suy nghĩ hoàn chỉnh. Các chuỗi tư duy từng bước này đã giúp mô hình học cách xây dựng các lập luận logic và giải quyết vấn đề một cách hệ thống. Để tăng cường khả năng tư duy của mô hình, nó được tinh chỉnh thêm bằng cách học tăng cường trên khoảng 6.000 vấn đề toán chất lượng cao có giải pháp đã được xác minh. Điều này cho thấy rằng thậm chí một lượng nhỏ học tăng cường tập trung có thể cải thiện đáng kể tư duy khi được áp dụng cho dữ liệu được chăm sóc cẩn thận.
Hiệu Suất Vượt Quá Dự Kiến
Kết quả chứng minh rằng cách tiếp cận dựa trên dữ liệu này hoạt động. Phi-4-reasoning vượt trội so với các mô hình lớn hơn nhiều như DeepSeek-R1-Distill-Llama-70B và gần như tương đương với mô hình đầy đủ DeepSeek-R1, mặc dù có kích thước nhỏ hơn nhiều. Trong thử nghiệm AIME 2025 (một kỳ thi tuyển sinh toán học Olympic Hoa Kỳ), Phi-4-reasoning vượt qua DeepSeek-R1, có 671 tỷ tham số.
Các cải tiến này vượt ra ngoài toán học để giải quyết vấn đề khoa học, lập trình, thuật toán, lập kế hoạch và các nhiệm vụ không gian. Các cải tiến từ việc chăm sóc cẩn thận dữ liệu chuyển giao tốt đến các tiêu chuẩn chung, cho thấy phương pháp này xây dựng các kỹ năng tư duy cơ bản thay vì các thủ thuật cụ thể cho từng nhiệm vụ.
Phi-4-reasoning thách thức ý tưởng rằng tư duy tiên tiến cần tính toán lớn. Một mô hình 14 tỷ tham số có thể đạt hiệu suất tương đương với các mô hình lớn hơn nhiều lần khi được đào tạo trên dữ liệu được chăm sóc cẩn thận. Sự hiệu quả này có những hậu quả quan trọng cho việc triển khai AI tư duy nơi tài nguyên bị giới hạn.
Ý Nghĩa Đối Với Phát Triển AI
Sự thành công của Phi-4-reasoning cho thấy một sự thay đổi trong cách các mô hình tư duy AI nên được xây dựng. Thay vì tập trung chủ yếu vào việc tăng kích thước mô hình, các đội có thể đạt được kết quả tốt hơn bằng cách đầu tư vào chất lượng dữ liệu và công tác chuẩn bị. Điều này làm cho tư duy tiên tiến trở nên dễ tiếp cận hơn cho các tổ chức không có ngân sách tính toán lớn.
Cách tiếp cận dựa trên dữ liệu cũng mở ra các hướng nghiên cứu mới. Công việc trong tương lai có thể tập trung vào việc tìm kiếm các lời nhắc đào tạo tốt hơn, tạo ra các ví dụ tư duy phong phú hơn và hiểu rõ hơn về những gì làm cho dữ liệu hỗ trợ tốt cho tư duy. Những hướng này có thể mang lại kết quả tốt hơn so với việc chỉ xây dựng các mô hình lớn hơn.
Một cách rộng hơn, điều này có thể giúp dân chủ hóa AI. Nếu các mô hình nhỏ được đào tạo trên dữ liệu được chăm sóc cẩn thận có thể tương đương với các mô hình lớn, thì AI tiên tiến sẽ trở nên khả dụng cho nhiều nhà phát triển và tổ chức hơn. Điều này cũng có thể tăng tốc việc áp dụng và đổi mới AI trong các lĩnh vực mà các mô hình rất lớn không thực tế.
Tương Lai Của Các Mô Hình Tư Duy
Phi-4-reasoning đặt ra một tiêu chuẩn mới cho việc phát triển mô hình tư duy. Các hệ thống AI trong tương lai sẽ có khả năng cân bằng giữa việc chăm sóc cẩn thận dữ liệu và cải tiến kiến trúc. Cách tiếp cận này công nhận rằng cả chất lượng dữ liệu và thiết kế mô hình đều quan trọng, nhưng việc cải thiện dữ liệu có thể mang lại lợi ích nhanh hơn và tiết kiệm chi phí hơn.
Điều này cũng cho phép xây dựng các mô hình tư duy chuyên dụng được đào tạo trên dữ liệu cụ thể cho từng lĩnh vực. Thay vì các mô hình đa năng khổng lồ, các đội có thể xây dựng các mô hình tập trung vào các lĩnh vực cụ thể thông qua việc chăm sóc cẩn thận dữ liệu. Điều này sẽ tạo ra các mô hình AI hiệu quả hơn cho các ứng dụng cụ thể.
Khi AI tiến bộ, những bài học từ Phi-4-reasoning sẽ ảnh hưởng không chỉ đến việc đào tạo mô hình tư duy mà còn đến sự phát triển AI nói chung. Sự thành công của việc chăm sóc cẩn thận dữ liệu trong việc vượt qua các giới hạn về kích thước cho thấy rằng tiến bộ trong tương lai nằm ở việc kết hợp đổi mới mô hình với kỹ thuật dữ liệu thông minh, thay vì chỉ xây dựng các kiến trúc lớn hơn.
Kết Luận
Phi-4-reasoning của Microsoft thay đổi quan điểm phổ biến rằng AI tư duy tiên tiến cần các mô hình rất lớn. Thay vì dựa vào kích thước lớn hơn, mô hình này sử dụng cách tiếp cận dựa trên dữ liệu với dữ liệu đào tạo chất lượng cao và được chọn cẩn thận. Phi-4-reasoning chỉ có 14 tỷ tham số nhưng đạt hiệu suất tương đương với các mô hình lớn hơn nhiều trên các nhiệm vụ tư duy khó. Điều này cho thấy rằng tập trung vào dữ liệu tốt hơn là quan trọng hơn so với việc chỉ tăng kích thước mô hình.
Cách đào tạo mới này làm cho AI tư duy tiên tiến trở nên hiệu quả và dễ tiếp cận hơn cho các tổ chức không có tài nguyên tính toán lớn. Sự thành công của Phi-4-reasoning chỉ ra một hướng mới trong phát triển AI. Nó tập trung vào việc cải thiện chất lượng dữ liệu, đào tạo thông minh và kỹ thuật cẩn thận thay vì chỉ làm cho mô hình lớn hơn.
Cách tiếp cận này có thể giúp AI tiến bộ nhanh hơn, giảm chi phí và cho phép nhiều người và công ty sử dụng các công cụ AI mạnh mẽ. Trong tương lai, AI sẽ có khả năng phát triển bằng cách kết hợp các mô hình tốt hơn với dữ liệu tốt hơn, làm cho AI tiên tiến trở nên hữu ích trong nhiều lĩnh vực chuyên môn.












