GPT-4 có phải là một bước nhảy vĩ đại hướng tới AGI?

Microsoft (MSFT ) gần đây đã phát hành một bài báo nghiên cứu có tiêu đề: Sparks of Artificial General Intelligence: Early experiments with GPT-4. Như được mô tả bởi Microsoft:

Bài báo này báo cáo về việc chúng tôi điều tra một phiên bản sớm của GPT-4, khi nó vẫn đang được phát triển tích cực bởi OpenAI. Chúng tôi cho rằng (phiên bản sớm này của) GPT-4 là một phần của một nhóm mới của LLMs (cùng với ChatGPT và Google’s (GOOGL ) PaLM, ví dụ) thể hiện sự thông minh tổng quát hơn so với các mô hình AI trước đó.

Trong bài báo này, có bằng chứng kết luận rằng GPT-4 đi xa hơn việc ghi nhớ, và nó có một sự hiểu biết sâu sắc và linh hoạt về các khái niệm, kỹ năng và lĩnh vực. Trên thực tế, khả năng tổng quát hóa của nó vượt xa khả năng của bất kỳ người nào alive ngày nay.

Trong khi chúng tôi đã thảo luận trước về lợi ích của AGI, chúng tôi nên nhanh chóng tóm tắt lại sự đồng thuận chung về hệ thống AGI. Về bản chất, AGI là một loại AI tiên tiến có thể tổng quát hóa trên nhiều lĩnh vực và không hẹp trong phạm vi.

Một ví dụ về AGI sẽ có thể linh hoạt thay đổi giữa bất kỳ lĩnh vực nào trên hoặc bất kỳ lĩnh vực nào khác. Đó là một AI có thể tận dụng các thuật toán mới như transfer learning, và học tập tiến hóa, trong khi cũng khai thác các thuật toán cũ như deep reinforcement learning.

Mô tả trên về AGI phù hợp với kinh nghiệm cá nhân của tôi khi sử dụng GPT-4, cũng như bằng chứng được chia sẻ trong bài báo nghiên cứu được phát hành bởi Microsoft.

Một trong những yêu cầu được nêu trong bài báo là yêu cầu GPT-4 viết một bằng chứng về tính vô hạn của số nguyên tố dưới dạng một bài thơ.

Nếu chúng ta phân tích các yêu cầu để tạo ra một bài thơ như vậy, chúng ta nhận ra rằng nó yêu cầu lý luận toán học, biểu đạt thơ ca, và tạo ngôn ngữ tự nhiên. Đây là một thách thức sẽ vượt quá khả năng trung bình của hầu hết con người.

Bài báo muốn hiểu xem GPT-4 có đang tạo ra nội dung dựa trên việc ghi nhớ chung hay hiểu ngữ cảnh và có thể lý luận. Khi được yêu cầu tạo lại một bài thơ theo phong cách Shakespeare, nó đã làm được. Điều này yêu cầu một mức độ hiểu biết đa diện vượt xa khả năng của dân số chung và bao gồm lý thuyết về tâm trí và thiên tài toán học.

Làm thế nào để tính toán trí tuệ GPT-4?

Câu hỏi trở thành làm thế nào chúng ta có thể đo lường trí tuệ của một LLM? Và liệu GPT-4 có đang thể hiện hành vi của sự học tập thực sự hay chỉ là ghi nhớ?

Phương pháp hiện tại để kiểm tra một hệ thống AI là đánh giá hệ thống trên một tập dữ liệu chuẩn, và để đảm bảo rằng chúng độc lập với dữ liệu đào tạo và bao gồm một loạt các nhiệm vụ và lĩnh vực. Loại kiểm tra này gần như không thể do số lượng dữ liệu gần như vô hạn mà GPT-4 được đào tạo.

Bài báo thảo luận về việc tạo ra các nhiệm vụ và câu hỏi mới và khó để chứng minh rằng GPT-4 đi xa hơn việc ghi nhớ, và nó có một sự hiểu biết sâu sắc và linh hoạt về các khái niệm, kỹ năng và lĩnh vực.

Khi nói đến trí tuệ, GPT-4 có thể tạo ra các câu chuyện ngắn, kịch bản, và nó có thể tính toán các công thức phức tạp nhất.

GPT-4 cũng có thể mã hóa ở mức rất cao, cả về việc viết mã từ hướng dẫn và hiểu mã hiện có. GPT-4 có thể xử lý một loạt các nhiệm vụ mã hóa, từ các thách thức mã hóa đến các ứng dụng thực tế, từ mã thấp đến các khung cao, từ các cấu trúc dữ liệu đơn giản đến các chương trình phức tạp như trò chơi. GPT-4 cũng có thể lý luận về việc thực hiện mã, mô phỏng các hiệu ứng của các hướng dẫn, và giải thích kết quả trong ngôn ngữ tự nhiên. GPT-4 thậm chí có thể thực hiện mã giả,

GPT-4 có thể cung cấp các phản hồi hợp lý cho hầu như bất kỳ yêu cầu nào được đưa ra. Trên thực tế, trí tuệ của nó gần như không thể đánh bại trong sự phức tạp của nó.

Giới hạn của GPT-4

Bài báo sau đó tiếp tục mô tả cách họ kiểm tra các phản hồi và hành vi của GPT-4, để xác minh sự nhất quán, tính hợp lý và chính xác của nó, và để phát hiện các giới hạn và thiên vị của nó.

Giới hạn rõ ràng nhất là tendency to hallucinate. Dưới đây là một ví dụ về ảo giác được đưa ra trong bài báo, nơi GPT-4 tự tin vào câu trả lời của nó, nhưng hoàn toàn sai.

Có vẻ như thậm chí GPT-4 cũng hiểu được giới hạn hiện tại với ảo giác, vì đây là phản hồi nó đưa ra khi tôi hỏi nó về ảo giác GPT:

Ảo giác GPT đề cập đến một hiện tượng trong đó một mô hình Transformer được tạo trước (GPT) như mô hình bạn đang tương tác, tạo ra một phản hồi không dựa trên thông tin thực tế hoặc không nhất quán với ngữ cảnh được cung cấp. Những ảo giác này xảy ra khi mô hình tạo ra văn bản có thể có vẻ hợp lý nhưng thực sự không chính xác, gây hiểu lầm hoặc vô nghĩa.

Nói cách khác, khi bạn đào tạo một LLM AI trên dữ liệu của thế giới, làm thế nào để tránh một hệ thống học và tái tạo thông tin sai lệch, và các thuyết âm mưu? Một mô hình ngôn ngữ lớn học và tái tạo thông tin sai lệch, và các thuyết âm mưu, có thể thực sự là một trong những mối đe dọa lớn nhất và nguy hiểm nhất mà nhân loại phải đối mặt với việc áp dụng rộng rãi LLMs.

Bằng chứng về trí tuệ của GPT-4

Bài báo minh họa rằng không quan trọng loại yêu cầu phức tạp nào được đưa ra cho GPT-4, nó sẽ vượt quá mong đợi. Như được nêu trong bài báo:

Khả năng掌握 ngôn ngữ tự nhiên không thể sánh được. Nó không chỉ có thể tạo ra văn bản trôi chảy và hợp lý, mà còn hiểu và xử lý nó theo nhiều cách khác nhau, chẳng hạn như tóm tắt, dịch, hoặc trả lời một loạt các câu hỏi rộng lớn. Hơn nữa, khi dịch, chúng tôi không chỉ có nghĩa là giữa các ngôn ngữ tự nhiên khác nhau, mà còn dịch về giọng điệu và phong cách, cũng như giữa các lĩnh vực như y học, luật, kế toán, lập trình máy tính, âm nhạc và nhiều hơn.

Các đánh giá kỹ thuật giả được đưa ra cho GPT-4, nó dễ dàng vượt qua, có nghĩa là trong ngữ cảnh này, nếu đó là một con người ở đầu bên kia, họ sẽ ngay lập tức được thuê làm kỹ sư phần mềm. Một thử nghiệm sơ bộ về khả năng của GPT-4 trong kỳ thi bar đa tiểu bang cho thấy độ chính xác trên 70%. Điều này có nghĩa là trong tương lai, chúng ta có thể tự động hóa nhiều nhiệm vụ hiện được giao cho các luật sư. Trên thực tế, có một số công ty khởi nghiệp đang làm việc để tạo ra các luật sư robot bằng cách sử dụng GPT-4.

Sản xuất kiến thức mới

Một trong những lập luận trong bài báo là điều duy nhất còn lại để chứng minh sự hiểu biết thực sự của GPT-4 là để nó sản xuất kiến thức mới, chẳng hạn như chứng minh các định lý toán học mới, một kỳ công vẫn còn nằm ngoài tầm với của LLMs.

Rồi lại, đây là cái gọi là “đất thánh” của một AGI. Trong khi có những nguy cơ với một AGI được kiểm soát bởi những người có ý đồ không tốt, lợi ích của một AGI có thể phân tích nhanh tất cả các dữ liệu lịch sử để khám phá các định lý, phương pháp điều trị và phương pháp chữa bệnh mới là gần như vô tận.

Một AGI có thể là chìa khóa còn thiếu để tìm ra phương pháp chữa bệnh cho các bệnh di truyền hiếm gặp, hiện không có đủ nguồn lực tư nhân, để chữa khỏi ung thư một lần và mãi mãi, và để tối ưu hóa hiệu quả của năng lượng tái tạo để loại bỏ sự phụ thuộc vào năng lượng không bền vững. Trên thực tế, nó có thể giải quyết bất kỳ vấn đề nào có ý nghĩa được đưa vào hệ thống AGI. Đây là điều mà Sam Altman và nhóm tại OpenAI hiểu, một AGI thực sự là phát minh cuối cùng cần thiết để giải quyết hầu hết các vấn đề và mang lại lợi ích cho nhân loại.

Tất nhiên, điều đó không giải quyết vấn đề về nút bấm hạt nhân của ai kiểm soát AGI, và ý định của họ là gì. Dù sao, bài báo này làm một công việc tuyệt vời trong việc lập luận rằng GPT-4 là một bước nhảy vĩ đại hướng tới việc đạt được giấc mơ của các nhà nghiên cứu AI đã có từ năm 1956, khi dự án nghiên cứu mùa hè Dartmouth về trí tuệ nhân tạo lần đầu tiên được khởi xướng.

Như nó có thể được tranh luận liệu GPT-4 có phải là một AGI hay không, nó có thể dễ dàng được lập luận rằng lần đầu tiên trong lịch sử loài người, nó là một hệ thống AI có thể vượt qua bài kiểm tra Turing.