Liệu GPT-4 có đưa chúng ta đến gần hơn với cuộc cách mạng AI thực sự?

Đã gần ba năm kể từ khi GPT-3 được giới thiệu, vào tháng 5 năm 2020. Kể từ đó, mô hình tạo văn bản AI đã thu hút được rất nhiều sự quan tâm vì khả năng tạo ra văn bản giống như được viết bởi con người. Giờ đây, nó có vẻ như phiên bản tiếp theo của phần mềm, GPT-4, đang就在 phía trước, với ngày phát hành dự kiến là vào đầu năm 2023.

Mặc dù đây là một tin tức AI được mong đợi cao, nhưng các chi tiết chính xác về GPT-4 đã khá mơ hồ. OpenAI, công ty đứng sau GPT-4, đã không công bố công khai nhiều thông tin về mô hình mới, chẳng hạn như tính năng hoặc khả năng của nó. Tuy nhiên, những tiến bộ gần đây trong lĩnh vực AI, đặc biệt là liên quan đến Xử lý Ngôn ngữ Tự nhiên (NLP), có thể cung cấp một số gợi ý về những gì chúng ta có thể mong đợi từ GPT-4.

GPT là gì?

Trước khi đi vào các chi tiết, điều hữu ích là thiết lập một cơ sở về những gì GPT là. GPT là viết tắt của Generative Pre-trained Transformer và đề cập đến một mô hình mạng nơ-ron sâu được đào tạo trên dữ liệu có sẵn từ internet để tạo ra lượng lớn văn bản được tạo bởi máy. GPT-3 là thế hệ thứ ba của công nghệ này và là một trong những mô hình tạo văn bản AI tiên tiến nhất hiện có.

Nghĩ về GPT-3 như một trợ lý giọng nói, chẳng hạn như Siri hoặc Alexa, chỉ trên một quy mô lớn hơn. Thay vì yêu cầu Alexa phát bài hát yêu thích của bạn hoặc yêu cầu Siri nhập văn bản, bạn có thể yêu cầu GPT-3 viết một cuốn sách điện tử hoàn chỉnh trong vài phút hoặc tạo 100 ý tưởng đăng bài trên mạng xã hội trong ít hơn một phút. Tất cả những gì người dùng cần làm là cung cấp một lời nhắc, chẳng hạn như “Viết một bài viết 500 từ về tầm quan trọng của sự sáng tạo.” Miễn là lời nhắc rõ ràng và cụ thể, GPT-3 có thể viết gần như bất cứ điều gì bạn yêu cầu.

Kể từ khi phát hành cho công chúng, GPT-3 đã tìm thấy nhiều ứng dụng kinh doanh. Các công ty đang sử dụng nó cho tóm tắt văn bản, dịch ngôn ngữ, tạo mã và tự động hóa quy mô lớn gần như bất kỳ nhiệm vụ viết nào.

Được nói, trong khi GPT-3 chắc chắn rất ấn tượng trong khả năng tạo ra văn bản giống như con người, nó còn lâu mới hoàn hảo. Các vấn đề thường phát sinh khi được yêu cầu viết các đoạn văn dài hơn, đặc biệt là khi nói đến các chủ đề phức tạp đòi hỏi sự hiểu biết. Ví dụ, một lời nhắc để tạo mã máy tính cho một trang web có thể trả về mã chính xác nhưng không tối ưu, vì vậy một lập trình viên con người vẫn phải vào và cải thiện nó. Đó là một vấn đề tương tự với các tài liệu văn bản lớn: lượng văn bản càng lớn, càng có nhiều khả năng xảy ra lỗi – đôi khi rất hài hước – cần được sửa bởi một nhà văn con người.

Nói một cách đơn giản, GPT-3 không phải là một sự thay thế hoàn chỉnh cho các nhà văn hoặc lập trình viên con người, và nó không nên được coi là một sự thay thế. Thay vào đó, GPT-3 nên được coi là một trợ lý viết, một thứ có thể giúp mọi người tiết kiệm rất nhiều thời gian khi họ cần tạo ra ý tưởng cho bài đăng trên blog hoặc phác thảo sơ bộ cho bản sao quảng cáo hoặc thông cáo báo chí.

Có nhiều tham số hơn không phải lúc nào cũng tốt hơn?

Một điều cần hiểu về các mô hình AI là cách chúng sử dụng các tham số để đưa ra dự đoán. Các tham số của một mô hình AI xác định quá trình học và cung cấp cấu trúc cho đầu ra. Số lượng tham số trong một mô hình AI thường được sử dụng như một thước đo hiệu suất. Số tham số càng nhiều, mô hình càng mạnh, mượt và có thể dự đoán được, ít nhất là theo giả thuyết về việc mở rộng quy mô.

Ví dụ, khi GPT-1 được phát hành vào năm 2018, nó có 117 triệu tham số. GPT-2, được phát hành một năm sau đó, có 1,2 tỷ tham số, trong khi GPT-3 đã tăng số lượng này lên cao hơn đến 175 tỷ tham số. Theo một cuộc phỏng vấn vào tháng 8 năm 2021 với Wired, Andrew Feldman, người sáng lập và CEO của Cerebras, một công ty hợp tác với OpenAI, cho biết GPT-4 sẽ có khoảng 100 nghìn tỷ tham số. Điều này sẽ khiến GPT-4 mạnh hơn 100 lần so với GPT-3, một bước nhảy vĩ đại về kích thước tham số mà, hiểu được, đã khiến nhiều người rất hào hứng.

Tuy nhiên, mặc dù Feldman đưa ra tuyên bố đầy tham vọng, nhưng có những lý do chính đáng để nghĩ rằng GPT-4 sẽ không thực sự có 100 nghìn tỷ tham số. Số lượng tham số càng lớn, mô hình càng tốn kém để đào tạo và tinh chỉnh do nhu cầu lớn về quyền tính toán.

Ngoài ra, có nhiều yếu tố hơn là chỉ số lượng tham số quyết định hiệu quả của một mô hình. Hãy lấy ví dụ Megatron-Turing NLG, một mô hình tạo văn bản được xây dựng bởi Nvidia và Microsoft, có hơn 500 tỷ tham số. Mặc dù kích thước của nó, MT-NLG không đến gần với GPT-3 về hiệu suất. Tóm lại, lớn hơn không nhất thiết là tốt hơn.

Rất có khả năng GPT-4 sẽ thực sự có nhiều tham số hơn GPT-3, nhưng vẫn còn phải xem liệu số lượng đó có lớn hơn một cấp độ hay không. Thay vào đó, có những khả năng thú vị khác mà OpenAI có thể đang theo đuổi, chẳng hạn như một mô hình tinh gọn tập trung vào cải tiến chất lượng trong thiết kế thuật toán và sự phù hợp. Tác động chính xác của những cải tiến như vậy là khó dự đoán, nhưng điều được biết là một mô hình thưa có thể giảm chi phí tính toán thông qua tính toán có điều kiện, tức là không phải tất cả các tham số trong mô hình AI sẽ hoạt động mọi lúc, tương tự như cách các nơ-ron trong não người hoạt động.

Vậy, GPT-4 sẽ có thể làm gì?

Cho đến khi OpenAI đưa ra một tuyên bố mới hoặc thậm chí phát hành GPT-4, chúng ta chỉ có thể suy đoán về cách nó sẽ khác với GPT-3. Dù sao, chúng ta cũng có thể đưa ra một số dự đoán

Mặc dù tương lai của sự phát triển học sâu AI là đa phương thức, GPT-4 có khả năng vẫn chỉ là văn bản. Là con người, chúng ta sống trong một thế giới đa giác quan được lấp đầy bởi các đầu vào âm thanh, hình ảnh và văn bản khác nhau. Do đó, điều không thể tránh khỏi là sự phát triển AI cuối cùng sẽ tạo ra một mô hình đa phương thức có thể kết hợp nhiều loại đầu vào.

Tuy nhiên, một mô hình đa phương thức tốt là đáng kể khó thiết kế hơn một mô hình chỉ dựa trên văn bản. Công nghệ đơn giản là chưa có sẵn và dựa trên những gì chúng ta biết về giới hạn về kích thước tham số, có khả năng OpenAI đang tập trung vào việc mở rộng và cải tiến một mô hình chỉ dựa trên văn bản.

Cũng có khả năng GPT-4 sẽ ít phụ thuộc vào việc nhắc nhở chính xác. Một trong những nhược điểm của GPT-3 là văn bản nhắc nhở cần được viết cẩn thận để có được kết quả mong muốn. Khi nhắc nhở không được viết cẩn thận, bạn có thể kết thúc với đầu ra không trung thực, độc hại hoặc thậm chí phản ánh quan điểm cực đoan. Đây là một phần của những gì được gọi là “vấn đề về sự phù hợp” và nó đề cập đến những thách thức trong việc tạo ra một mô hình AI hoàn toàn hiểu được ý định của người dùng. Nói cách khác, mô hình AI không được căn chỉnh với mục tiêu hoặc ý định của người dùng. Vì các mô hình AI được đào tạo bằng cách sử dụng các tập dữ liệu văn bản từ internet, rất dễ dàng cho các thành kiến, sự gian dối và định kiến của con người tìm đường vào đầu ra văn bản.

Được nói, có những lý do tốt để tin rằng các nhà phát triển đang làm việc trên vấn đề về sự phù hợp. Sự lạc quan này đến từ một số đột phá trong việc phát triển InstructGPT, một phiên bản tiên tiến hơn của GPT-3 được đào tạo trên phản hồi của con người để tuân theo hướng dẫn và ý định của người dùng một cách chặt chẽ hơn. Các thẩm phán con người đã phát hiện ra rằng InstructGPT ít phụ thuộc vào việc nhắc nhở tốt hơn GPT-3.

Tuy nhiên, cần lưu ý rằng những thử nghiệm này chỉ được thực hiện với nhân viên OpenAI, một nhóm khá đồng nhất có thể không khác biệt nhiều về giới tính, tôn giáo hoặc quan điểm chính trị. Rất có khả năng GPT-4 sẽ trải qua quá trình đào tạo đa dạng hơn sẽ cải thiện sự phù hợp cho các nhóm khác nhau, mặc dù mức độ vẫn còn phải xem.

GPT-4 có thay thế con người không?

Mặc dù GPT-4 có nhiều hứa hẹn, nhưng không chắc nó sẽ hoàn toàn thay thế nhu cầu về các nhà văn và lập trình viên con người. Vẫn còn rất nhiều công việc cần được thực hiện trên mọi thứ, từ tối ưu hóa tham số đến đa phương thức đến sự phù hợp. Có thể sẽ mất nhiều năm trước khi chúng ta thấy một trình tạo văn bản có thể đạt được sự hiểu biết thực sự của con người về sự phức tạp và tinh tế của kinh nghiệm thực tế.

Dù vậy, vẫn có những lý do chính đáng để hào hứng về sự ra đời của GPT-4. Tối ưu hóa tham số – chứ không chỉ tăng trưởng tham số – có khả năng sẽ dẫn đến một mô hình AI có nhiều quyền tính toán hơn so với người tiền nhiệm. Và sự phù hợp được cải thiện sẽ có khả năng làm cho GPT-4 trở nên thân thiện với người dùng hơn.

Ngoài ra, chúng ta vẫn chỉ đang ở giai đoạn đầu của sự phát triển và áp dụng các công cụ AI. Ngày càng có nhiều trường hợp sử dụng công nghệ được tìm thấy, và khi mọi người giành được nhiều niềm tin và thoải mái hơn khi sử dụng AI trong môi trường làm việc, gần như chắc chắn rằng chúng ta sẽ thấy sự áp dụng rộng rãi các công cụ AI trên hầu như mọi lĩnh vực kinh doanh trong những năm tới.