Từ Định luật Moore đến “Định luật OpenAI”: Quỹ đạo phát triển theo cấp số nhân của AI

Trí tuệ nhân tạo đang phát triển với tốc độ khó hiểu. Để mô tả hiện tượng này, những người trong cuộc đã bắt đầu tham khảo cái mà một số người gọi là “Luật của OpenAI”—một định luật hiện đại tương tự Định luật Moore, nhưng phức tạp hơn nhiều. Thuật ngữ này đã được đưa ra để mọi người chú ý nhiều hơn trong cuốn sách Đế chế AI, ghi lại sự trỗi dậy của OpenAI và cuộc đua hướng tới trí tuệ nhân tạo tổng quát (AGI) đang diễn ra. Trong cuốn sách, “Luật OpenAI” được sử dụng để nắm bắt tốc độ phát triển chóng mặt của các yêu cầu tính toán—và do đó là khả năng AI—trong thập kỷ qua.

Tuy không phải là một định luật khoa học chính thức, Định luật OpenAI đề cập đến một xu hướng thực tế và có thể đo lường được: sức mạnh tính toán được sử dụng để huấn luyện các mô hình AI tiên tiến tăng gấp đôi nhanh chóng, diễn ra với tốc độ nhanh hơn nhiều so với Định luật Moore. Trên thực tế, năng lực tính toán AI đã tăng gấp đôi khoảng ba đến bốn tháng một lần, so với mức 18–24 tháng của Moore. Đường cong hàm mũ này củng cố sự bùng nổ của AI hiện đại và mở đường cho một tương lai đang đến nhanh hơn hầu hết mọi người mong đợi.

Định luật Moore: Động cơ thúc đẩy kỷ nguyên số

Định luật Moore là động lực thúc đẩy sự phát triển của máy tính cá nhân, điện thoại thông minh và điện toán đám mây. Dự đoán này cho thấy số lượng bóng bán dẫn trên một con chip sẽ tăng gấp đôi sau mỗi hai năm, dẫn đến sự gia tăng theo cấp số nhân về sức mạnh tính toán, hiệu quả năng lượng và giảm chi phí.

Trong nhiều thập kỷ, mô hình đơn giản này vẫn đúng, khiến mỗi thế hệ phần cứng đều mạnh hơn gấp bội so với thế hệ trước. Nhưng khi đạt đến giới hạn vật lý và kinh tế vào những năm 2010, Định luật Moore bắt đầu chậm lại. Các kỹ sư đã ứng phó bằng cách sử dụng nhiều lõi hơn, xếp chồng chip 3D và bộ xử lý chuyên dụng để tăng hiệu suất—nhưng những lợi ích dễ dàng đã không còn nữa.

Vào khoảng thời gian này, nghiên cứu AI, được hỗ trợ bởi học kĩ càng những đột phá, bắt đầu đi chệch khỏi quỹ đạo truyền thống của Định luật Moore.

Sự ra đời của Luật OpenAI: Đường cong tính toán bùng nổ của AI

Đầu những năm 2010, các nhà nghiên cứu phát hiện ra rằng việc cung cấp thêm năng lực tính toán cho các mạng nơ-ron quy mô lớn sẽ dẫn đến khả năng AI ngày càng mạnh mẽ. Bắt đầu từ khoảng năm 2012, lượng năng lực tính toán được sử dụng trong các đợt huấn luyện AI lớn nhất bắt đầu tăng gấp đôi sau mỗi 3 đến 4 tháng.

Đây là một sự tăng tốc đáng kinh ngạc—nhanh hơn nhiều so với Định luật Moore. Trong hơn sáu năm, máy tính được sử dụng trong các mô hình AI tiên tiến đã tăng hơn 300,000 lần. Trong khi Định luật Moore chỉ mang lại mức tăng trưởng 7 lần trong thời gian đó, khả năng tính toán của AI đã tăng vọt nhờ khả năng mở rộng mạnh mẽ.

Hiện tượng này được biết đến một cách không chính thức là Luật của OpenAI—một quỹ đạo tự áp đặt của các tổ chức như OpenAI, những tổ chức tin rằng việc mở rộng quy mô mô hình và tính toán là con đường nhanh nhất để trí tuệ nhân tạo chung (AGI). Quyển sách Đế chế AI mô tả chi tiết sự thay đổi này, minh họa cách OpenAI và ban lãnh đạo cam kết với chiến lược này bất chấp chi phí tăng cao, vì họ tin rằng đây là con đường trực tiếp nhất để mở khóa các khả năng chuyển đổi.

Quan trọng hơn, Luật của OpenAI không phải là một điều tất yếu về mặt vật lý—mà là một quyết định mang tính chiến lược. Niềm tin rằng "càng tính toán càng tốt AI" đã trở thành một nguyên tắc chỉ đạo, được hỗ trợ bởi các khoản đầu tư lớn, xây dựng cơ sở hạ tầng và quan hệ đối tác với các nhà cung cấp dịch vụ đám mây.

Giả thuyết mở rộng quy mô và cuộc chạy đua vũ trang mới

Nền tảng của Luật OpenAI là giả thuyết nhân rộng: ý tưởng cho rằng việc đơn giản là làm cho các mô hình lớn hơn và huấn luyện chúng trên nhiều dữ liệu hơn với khả năng tính toán cao hơn sẽ dẫn đến kết quả tốt hơn về mặt định tính. Giả thuyết này được ủng hộ khi mỗi mô hình kế tiếp—GPT-2, GPT-3, GPT-4—chứng minh những bước nhảy vọt về độ trôi chảy, khả năng lập luận và khả năng hiểu đa phương thức.

Cốt lõi của xu hướng này là sự cạnh tranh gay gắt giữa các công ty công nghệ để thống trị lĩnh vực AI. Kết quả là một loại chạy đua vũ trang, trong đó mỗi cột mốc mới đều đòi hỏi nhiều tài nguyên tính toán hơn rất nhiều so với cột mốc trước.

Việc đào tạo các mô hình lớn hiện nay đòi hỏi hàng chục nghìn GPU cao cấp hoạt động song song. Dự kiến ngân sách tính toán cho các mô hình trong tương lai có thể lên tới hoặc vượt quá 100 tỷ đô la, với nhu cầu về năng lượng và cơ sở hạ tầng khổng lồ.

Xu hướng này đã dẫn đến một loại đường cong hàm mũ mới - đường cong không còn được xác định bằng số lượng bóng bán dẫn nữa mà bằng sự sẵn lòng và khả năng mở rộng quy mô tính toán bằng mọi giá.

So sánh như thế nào: Luật của Huang và Luật lợi nhuận tăng tốc của Kurzweil

Để nắm bắt đầy đủ tầm quan trọng của Định luật OpenAI, chúng ta cần khám phá các khuôn khổ nền tảng khác đã định hình sự hiểu biết của chúng ta về tiến bộ công nghệ ngoài Định luật Moore.

Luật của Hoàng, Được đặt theo tên CEO Jensen Huang của NVIDIA, bài báo mô tả nhận định rằng hiệu suất GPU cho khối lượng công việc AI đã được cải thiện với tốc độ nhanh hơn đáng kể so với Định luật Moore. Trong khoảng thời gian 25 năm, hiệu suất GPU đã tăng hơn 10 lần, vượt xa mức cải thiện khoảng XNUMX lần dự kiến theo phương pháp thu nhỏ bóng bán dẫn truyền thống.

Sự tăng tốc này không chỉ nhờ mật độ chip mà còn là kết quả của sự đổi mới ở cấp độ hệ thống. Những cải tiến trong kiến trúc GPU, băng thông bộ nhớ tăng, kết nối tốc độ cao và những tiến bộ trong hệ sinh thái phần mềm như CUDA và các thư viện học sâu đều góp phần vào những thành tựu này. Việc tối ưu hóa kỹ thuật trong lập lịch, các phép toán tensor và tính song song cũng đóng một vai trò quan trọng.

Hiệu suất suy luận và tác vụ đào tạo trên một GPU đã được cải thiện gấp 1,000 lần trong thập kỷ qua, nhờ vào sự kết hợp giữa cải tiến phần cứng và phần mềm này. Trên thực tế, khả năng của GPU cho các tác vụ AI đã tăng gấp đôi sau mỗi 6 đến 12 tháng—nhanh hơn ba đến bốn lần so với đường cong ban đầu của Moore. Tốc độ không ngừng nghỉ này đã biến GPU trở thành công cụ không thể thiếu của AI hiện đại, cho phép thực hiện các đợt đào tạo song song quy mô lớn, nền tảng cho Định luật OpenAI.

Luật lợi nhuận tăng tốc của Kurzweil Phát triển ý tưởng về tăng trưởng theo cấp số nhân lên một tầm cao mới—nó đề xuất rằng tốc độ tăng trưởng theo cấp số nhân tự nó tăng tốc theo thời gian. Theo nguyên lý này, mỗi đột phá công nghệ không chỉ tồn tại độc lập; nó còn tạo ra các công cụ, nền tảng và kiến thức giúp đột phá tiếp theo diễn ra nhanh hơn và hiệu quả hơn. Điều này dẫn đến hiệu ứng tích lũy, trong đó sự thay đổi công nghệ tự nuôi dưỡng chính nó, tăng tốc cả về quy mô lẫn tần suất.

Kurzweil lập luận rằng động lực này sẽ nén những tiến bộ đáng lẽ phải kéo dài hàng thế kỷ xuống chỉ còn vài thập kỷ. Nếu tốc độ tiến bộ tăng gấp đôi sau mỗi thập kỷ, thế kỷ 21 có thể chứng kiến một bước nhảy vọt đáng kinh ngạc - tương đương với hàng chục nghìn năm tiến bộ theo tốc độ lịch sử.

Định luật này đặc biệt liên quan đến AI. AI hiện đại không còn chỉ là một chủ đề của sự tiến bộ nữa—nó đã trở thành một chất xúc tác cho sự tiến bộ. Các hệ thống AI hiện đang hỗ trợ thiết kế chip mới, tối ưu hóa mạng nơ-ron, tiến hành nghiên cứu khoa học, và thậm chí viết chính mã để xây dựng thế hệ kế nhiệm. Điều này tạo ra một vòng lặp cải tiến đệ quy, trong đó mỗi thế hệ AI lại cải tiến thế hệ tiếp theo, rút ngắn thời gian phát triển và nhân lên nhiều năng lực.

Chu kỳ phản hồi này bắt đầu giống với những gì một số người gọi là vụ nổ tình báo: một kịch bản trong đó các hệ thống AI có khả năng tự cải thiện nhanh chóng mà không cần sự can thiệp của con người. Kết quả là một đường cong không chỉ tăng vọt mà còn uốn cong lên đáng kể, khi các chu kỳ lặp lại sụp đổ và các đột phá nối tiếp nhau. Nếu mô hình này tiếp tục, chúng ta có thể chứng kiến một giai đoạn tiến bộ công nghệ gần như tức thời - nơi toàn bộ các ngành công nghiệp, lĩnh vực khoa học và phương thức tư duy phát triển trong vài tháng thay vì vài thập kỷ.

Định luật OpenAI phù hợp với dòng dõi này như một biểu hiện về mặt nhu cầu của sự tăng trưởng theo cấp số nhân. Không giống như Định luật Moore hay Định luật Huang, vốn mô tả tốc độ cải tiến phần cứng, Định luật OpenAI phản ánh mức độ tính toán mà các nhà nghiên cứu thực sự lựa chọn để theo đuổi kết quả tốt hơn. Nó cho thấy sự tiến bộ của AI không còn bị ràng buộc chặt chẽ bởi những gì chip có thể làm, mà là những gì các nhà nghiên cứu sẵn sàng và có khả năng mở rộng. Được thúc đẩy bởi cơ sở hạ tầng đám mây rộng lớn và hàng tỷ đô la đầu tư, Định luật OpenAI minh họa cho một kỷ nguyên mới, nơi năng lực phát triển không chỉ thông qua đổi mới, mà còn thông qua sức mạnh tập trung và có chủ đích.

Cùng nhau, những định luật này phác họa một góc nhìn đa chiều về tăng trưởng theo cấp số nhân. Moore và Huang định nghĩa nguồn cung điện toán. Kurzweil lập bản đồ siêu xu hướng của sự tiến bộ kép. Và Định luật của OpenAI nêu bật một loại tham vọng công nghệ mới - nơi việc vượt qua giới hạn không còn là lựa chọn, mà là chiến lược cốt lõi.

Lời hứa: Tại sao AI theo cấp số nhân lại quan trọng

Những hàm ý của Luật OpenAI rất sâu sắc.

Về mặt lạc quan, việc mở rộng theo cấp số nhân đã mang lại những kết quả đáng kinh ngạc. Các hệ thống AI hiện có thể viết luận, Tạo mã, hỗ trợ nghiên cứu khoa học và tham gia vào các cuộc trò chuyện trôi chảy đến ngạc nhiên. Mỗi lần tăng quy mô lên 10 lần dường như lại mở ra những khả năng mới nổi, cho thấy chúng ta có thể đang tiến gần hơn đến AGI.

AI có thể sớm chuyển đổi các ngành công nghiệp từ giáo dục và chăm sóc sức khỏe đến tài chính và khoa học vật liệu. Nếu Luật của OpenAI tiếp tục được duy trì, chúng ta có thể chứng kiến những đột phá rút ngắn hàng thập kỷ đổi mới thành vài năm ngắn ngủi.

Đây chính là bản chất của một thuật ngữ mới mà chúng tôi đã đặt ra: “Vận tốc thoát của AI”—thời điểm AI bắt đầu tự cải thiện, thúc đẩy sự tiến bộ theo hướng tự củng cố và tăng theo cấp số nhân.

Cái giá: Chi phí về môi trường, kinh tế và đạo đức

Nhưng sự tăng trưởng theo cấp số nhân không hề miễn phí.

Việc đào tạo các mô hình biên giới hiện nay tiêu tốn một lượng điện và nước khổng lồ. Việc cung cấp năng lượng cho hàng nghìn GPU trong nhiều tuần liên tục gây ra những lo ngại nghiêm trọng về môi trường, bao gồm cả khí thải carbon và lãng phí nhiệt. Chuỗi cung ứng chip AI cũng đang chịu áp lực, làm dấy lên các vấn đề địa chính trị và phát triển bền vững.

Về mặt tài chính, chỉ những công ty công nghệ lớn nhất hoặc các công ty khởi nghiệp được tài trợ tốt mới có thể duy trì được vị thế dẫn đầu. Điều này dẫn đến sự tập trung quyền lực, nơi một nhóm nhỏ các tổ chức kiểm soát ranh giới của trí tuệ.

Về mặt đạo đức, Luật của OpenAI khuyến khích tư duy chạy đua - lớn hơn, nhanh hơn, sớm hơn - điều này có thể dẫn đến việc triển khai sớm, hệ thống chưa được kiểm tra và các lối tắt an toàn. Ngày càng có nhiều lo ngại rằng một số mô hình tiên tiến có thể được phát hành trước khi xã hội hiểu đầy đủ tác động của chúng.

Để giảm thiểu điều này, các nhà nghiên cứu đã đề xuất khuôn khổ quản trị theo dõi sự phát triển của AI không phải bằng những gì mô hình làm, mà bằng lượng tính toán được sử dụng để huấn luyện chúng. Vì tính toán là một trong những yếu tố dự đoán tốt nhất về khả năng của mô hình, nó có thể trở thành thước đo cho việc đánh giá và điều chỉnh rủi ro.

Giới hạn của khả năng mở rộng: Điều gì xảy ra khi đường cong uốn cong?

Bất chấp những thành tựu ấn tượng, vẫn còn nhiều tranh cãi về việc xu hướng mở rộng quy mô này có thể kéo dài bao lâu. Một số người tin rằng chúng ta đã thấy lợi nhuận giảm dần: các mô hình lớn hơn tiêu tốn nhiều tài nguyên tính toán hơn nhưng chỉ mang lại những cải tiến không đáng kể.

Những người khác cho rằng những đột phá về hiệu quả, thiết kế thuật toán hoặc kiến trúc mô hình có thể làm phẳng đường cong mà không làm chậm tiến độ. Các mô hình nhỏ hơn, thông minh hơn có thể trở nên hấp dẫn hơn so với những mô hình khổng lồ, đòi hỏi sức mạnh xử lý dữ liệu lớn.

Hơn nữa, áp lực từ công chúng, quy định và hạn chế về cơ sở hạ tầng có thể buộc ngành công nghiệp này phải xem xét lại tư duy "quy mô bằng mọi giá". Nếu lưới điện, ngân sách, hoặc sự đồng thuận của xã hội không thể theo kịp, AI theo cấp số nhân có thể chạm đến giới hạn - hoặc ít nhất là một bước ngoặt.

Con đường phía trước: Vạch ra tương lai của AI theo cấp số nhân

Hiện tại, Định luật OpenAI vẫn là một trong những góc nhìn rõ ràng nhất để nhìn nhận tương lai của trí tuệ nhân tạo. Nó giải thích cách chúng ta đã chuyển từ chatbot thô sơ sang các hệ thống tổng quát đa phương thức trong vòng chưa đầy một thập kỷ—và tại sao làn sóng tiến bộ tiếp theo có thể còn ấn tượng hơn nữa.

Tuy nhiên, luật này cũng đi kèm với những đánh đổi: bất bình đẳng trong tiếp cận, chi phí gia tăng, gánh nặng môi trường và thách thức về an toàn. Khi chúng ta bước vào kỷ nguyên mới này, xã hội sẽ cần phải đối mặt với những câu hỏi cơ bản:

• Ai sẽ định hình tương lai của AI?
• Làm thế nào để cân bằng giữa tiến bộ và thận trọng?
• Cần có những hệ thống nào để quản lý năng lực theo cấp số nhân trước khi nó vượt khỏi tầm kiểm soát của con người?

Định luật OpenAI không phải là bất biến. Giống như Định luật Moore trước đó, cuối cùng nó có thể chậm lại, chững lại hoặc bị thay thế bởi một mô hình mới. Nhưng hiện tại, nó vừa là một lời cảnh báo vừa là một lộ trình - nhắc nhở chúng ta rằng tương lai của AI không chỉ đang tiến triển mà còn đang tích tụ.

Chúng ta không chỉ chứng kiến lịch sử—mà còn đang kiến tạo nó với tốc độ chóng mặt. Nhưng sức mạnh đó đi kèm với trách nhiệm: đảm bảo nhân loại không phải chịu tổn hại theo cấp số nhân cùng với sự tiến bộ vượt bậc.