Điều hướng con đường đến Trí tuệ Nhân tạo Tổng quát (AGI) Cùng nhau: Một cách tiếp cận cân bằng

Khi trí tuệ nhân tạo tổng quát (AGI) tiến bộ nhanh chóng, cuộc trò chuyện đang chuyển từ tranh luận triết học sang một vấn đề thực tế, với cơ hội lớn để biến đổi các doanh nghiệp toàn cầu và tiềm năng của con người.

Sự kiện AGI Icons của Turing mang lại những đổi mới về AI để thảo luận về sự tiến bộ thực tế và có trách nhiệm của các giải pháp AGI. Vào ngày 24 tháng 7, Turing đã tổ chức sự kiện AGI Icons thứ hai của chúng tôi tại SHACK15, trung tâm dành cho các doanh nhân và nhà đổi mới công nghệ tại San Francisco. Với sự điều phối của Anita Ramaswamy, nhà báo tài chính tại The Information, tôi đã ngồi xuống với CEO của Quora, Adam D’Angelo để thảo luận về con đường đến AGI và chia sẻ những hiểu biết về thời gian phát triển, ứng dụng thực tế và nguyên tắc phát triển có trách nhiệm.

Con đường từ AI đến AGI

“Ngôi sao phía Bắc” thúc đẩy nghiên cứu AI là việc theo đuổi “trí tuệ” ở mức độ con người. Điều phân biệt AGI với AI tiêu chuẩn là sự tiến bộ của nó vượt qua chức năng hẹp đến tính tổng quát (chiều rộng) và hiệu suất (chiều sâu) lớn hơn, thậm chí vượt qua khả năng của con người.

Đây là “con đường đến AGI”, nơi AI tiến bộ đến các hệ thống tự động hơn, lý luận vượt trội, khả năng tăng cường và chức năng cải tiến. Những tiến bộ này được chia thành năm cấp độ thuếonomics:

• Cấp độ 0: Không có AI – Công cụ đơn giản như máy tính
• Cấp độ 1: AGI mới nổi – Các mô hình ngôn ngữ lớn hiện tại như ChatGPT
• Cấp độ 2: AGI có năng lực – Hệ thống AI khớp với người lớn có kỹ năng trên các nhiệm vụ cụ thể
• Cấp độ 3: AGI chuyên gia – Hệ thống AI ở mức 90% của người lớn có kỹ năng
• Cấp độ 4: AGI tài năng – Hệ thống AI ở mức 99% của người lớn
• Cấp độ 5: AGI siêu nhân – Hệ thống AI vượt qua tất cả con người

Nguồn

Trong cuộc thảo luận của chúng tôi, Adam đã định nghĩa khái niệm AGI là “phần mềm có thể làm mọi việc mà con người có thể làm.” Ông hình dung một tương lai nơi AI cải tiến chính nó, cuối cùng sẽ tiếp quản các nhiệm vụ phức tạp của con người được xử lý bởi các nhà nghiên cứu học máy.

Đi xa hơn, tôi đã so sánh quan điểm của tôi về AGI với “bộ não nhân tạo” có khả năng thực hiện các nhiệm vụ đa dạng như “dịch máy, truy vấn phức tạp và lập trình.” Đó là sự khác biệt giữa AGI và các hình thức AI dự đoán và hẹp hơn của ML đã đến trước nó. Nó cảm giác như hành vi xuất hiện.

Thời gian phát triển thực tế trên con đường đến AGI

Giống như trên một chuyến đi, câu hỏi hàng đầu về AGI là “Chúng ta đã đến đó chưa?” Câu trả lời ngắn gọn là không, nhưng khi nghiên cứu AI tăng tốc, câu hỏi đúng cần hỏi là “Làm thế nào chúng ta có thể cân bằng sự tham vọng của AGI với mong đợi thực tế?”

Adam đã nhấn mạnh rằng tự động hóa tăng từ AGI sẽ thay đổi vai trò của con người chứ không loại bỏ chúng, dẫn đến tăng trưởng kinh tế nhanh hơn và năng suất hiệu quả hơn. “Khi công nghệ này trở nên mạnh mẽ hơn, chúng ta sẽ đạt đến điểm mà 90% những gì mọi người đang làm hôm nay sẽ được tự động hóa, nhưng mọi người sẽ đã chuyển sang các việc khác.”

Hiện tại, phần lớn nền kinh tế thế giới bị hạn chế bởi số lượng người có sẵn để làm việc. Khi chúng ta đạt được AGI, chúng ta có thể tăng trưởng kinh tế với tốc độ nhanh hơn nhiều so với ngày nay.

Chúng ta không thể đưa ra một thời gian cụ thể cho khi nào AGI thực sự sẽ được hiện thực hóa, nhưng Adam và tôi đã đề cập đến một số ví dụ về tiến bộ của AI đang mở đường cho tiến bộ AGI trong tương lai. Ví dụ, các thí nghiệm của Turing với các công cụ phát triển AI đã cho thấy sự tăng 33% về năng suất của nhà phát triển, gợi ý về tiềm năng thậm chí còn lớn hơn.

Ứng dụng và hiệu ứng thực tế

Một trong những ứng dụng đầy hứa hẹn nhất của AGI nằm trong lĩnh vực phát triển phần mềm. Mô hình ngôn ngữ lớn (LLM), một tiền thân của AGI, đã được sử dụng để cải thiện phát triển phần mềm và nâng cao chất lượng mã. Tôi xem thời đại AI này gần giống với sinh học hơn là vật lý, nơi tất cả các loại công việc tri thức sẽ được cải thiện. Sẽ có rất nhiều năng suất được mở khóa từ và cho nhân loại.

Quan điểm của tôi đến từ kinh nghiệm, nơi tôi đã chứng kiến sự tăng 10 lần về năng suất cá nhân khi sử dụng LLM và các công cụ phát triển AI. Chúng tôi cũng đang sử dụng AI tại Turing để đánh giá tài năng kỹ thuật và kết nối đúng kỹ sư phần mềm và chuyên gia lĩnh vực với đúng công việc.

Cái mà tôi đang thấy trong không gian đào tạo LLM, ví dụ, là các nhà đào tạo tận dụng những mô hình này để tăng cường năng suất của nhà phát triển và đẩy nhanh tiến độ dự án. Bằng cách tự động hóa các nhiệm vụ mã hóa thường xuyên và cung cấp đề xuất mã thông minh, LLM giúp các nhà phát triển tập trung vào các khía cạnh chiến lược và sáng tạo hơn của công việc.

Adam kết thúc, “LLM sẽ không viết tất cả mã, nhưng hiểu biết về các nguyên tắc cơ bản của phần mềm vẫn rất quan trọng. Máy tính không loại bỏ nhu cầu học toán.” Ông thêm, “Các nhà phát triển trở nên có giá trị hơn khi sử dụng những mô hình này. Sự hiện diện của LLM là một điều tích cực cho công việc của nhà phát triển và sẽ có rất nhiều lợi ích cho các nhà phát triển.”

Chúng ta đang bước vào một thời đại vàng của phát triển phần mềm, nơi một kỹ sư phần mềm có thể trở nên hiệu quả hơn 10 lần, tạo ra nhiều hơn và mang lại lợi ích cho thế giới.

Thách thức kỹ thuật và quản lý

Mặc dù tiềm năng đầy hứa hẹn của AGI, nhưng các thách thức phải được giải quyết. Các quy trình đánh giá mạnh mẽ và khuôn khổ quản lý là cần thiết để cân bằng sự đổi mới của AGI với an toàn công cộng.

Adam nhấn mạnh nhu cầu về quy trình đánh giá toàn diện và cách ly để hạn chế các kịch bản tồi tệ nhất. “Bạn muốn có một quy trình đánh giá mạnh mẽ… và nhận được phân phối mà bạn đang kiểm tra để gần với việc sử dụng thực tế nhất có thể.”

Và tôi đồng ý. Điểm nghẽn cho tiến bộ AGI hiện nay là trí tuệ con người, chứ không phải là sức mạnh tính toán hoặc dữ liệu. Trí tuệ con người là rất quan trọng để tinh chỉnh và tùy chỉnh các mô hình AI, đó là lý do tại sao Turing tập trung vào việc tìm kiếm và kết nối các chuyên gia công nghệ hàng đầu để cân bằng các mô hình với trí tuệ con người.

Chúng ta phải giải quyết các thách thức của AGI một cách thẳng thắn bằng cách tập trung vào khả năng hơn là quy trình, tính tổng quát và hiệu suất, cũng như tiềm năng.

Quan điểm về thách thức: Cải thiện tương tác giữa con người và AGI

Một số phương pháp hay nhất để giải quyết thách thức của AGI bao gồm:

• Tập trung vào khả năng hoặc “AGI có thể làm gì” hơn là quy trình hoặc “nó làm như thế nào”.
• Cân bằng tính tổng quát và hiệu suất như các thành phần thiết yếu của AGI.
• Tập trung vào các nhiệm vụ nhận thức / siêu nhận thức và khả năng học tập hơn là các nhiệm vụ / đầu ra vật lý.
• Đo lường AGI bằng tiềm năng và khả năng của nó.
• Tập trung vào tính hợp lệ sinh thái bằng cách căn chỉnh các điểm chuẩn với các nhiệm vụ thực tế mà mọi người đánh giá cao.
• Nhớ rằng con đường đến AGI không phải là một điểm cuối duy nhất, mà là một quá trình lặp lại.

Bổ sung thêm các phương pháp hay nhất này, Adam và tôi nhấn mạnh tầm quan trọng của việc cải thiện tương tác giữa con người và AGI. Adam nhấn mạnh giá trị của việc học cách và khi nào sử dụng những mô hình này, xem chúng như các công cụ học tập mạnh mẽ có thể nhanh chóng dạy bất kỳ lĩnh vực con nào của lập trình trong khi nhấn mạnh tầm quan trọng của việc hiểu các nguyên tắc cơ bản.

Giống như vậy, tôi đề xuất rằng việc biến mọi người thành người dùng mạnh của LLM có thể tăng cường đáng kể năng suất và hiểu biết trên các lĩnh vực khác nhau. LLM có thể làm cho thông tin phức tạp trở nên dễ tiếp cận với tất cả mọi người, tăng cường năng suất trên các lĩnh vực khác nhau. Nhưng nó đòi hỏi một cách tiếp cận dần dần, lặp lại: bắt đầu với các đồng nghiệp AI hỗ trợ con người, sau đó chuyển sang các tác nhân dưới sự giám sát của con người và cuối cùng đạt được các tác nhân tự động hoàn toàn trong các nhiệm vụ được đánh giá kỹ lưỡng.

Với điều đó, sự khác biệt sau đào tạo là rất quan trọng, liên quan đến việc tinh chỉnh có giám sát (SFT) và tận dụng trí tuệ con người để xây dựng các mô hình tùy chỉnh. Các công ty có thể tìm kiếm và kết nối các nhà đào tạo, kỹ sư và những người khác sẽ tăng tốc khả năng tinh chỉnh và kỹ thuật tùy chỉnh của họ. Hợp tác với các công ty hàng đầu như OpenAI và Anthropic cũng là chìa khóa để áp dụng những mô hình này trên các ngành công nghiệp đa dạng.

Nguyên tắc phát triển AGI có trách nhiệm

“Phát triển AGI phải có trách nhiệm và đạo đức, đảm bảo an toàn và minh bạch trong khi thúc đẩy đổi mới.” – Adam D’Angelo

Phát triển AGI có trách nhiệm đòi hỏi tuân thủ một số nguyên tắc cốt lõi:

• An toàn và Bảo mật: Đảm bảo các hệ thống AGI là đáng tin cậy và chống lại việc lạm dụng, đặc biệt là khi các mô hình mở rộng để chứa các đầu vào dữ liệu mới hoặc thuật toán.
• Minh bạch: Thực tế về khả năng, hạn chế và “nó hoạt động như thế nào” của AGI.
• Cân nhắc Đạo đức: Xử lý công bằng, thiên vị và cách AGI sẽ ảnh hưởng đến việc làm và các yếu tố kinh tế – xã hội khác.
• Quản lý: Làm việc với các chính phủ và tổ chức khác để phát triển các khuôn khổ cân bằng tiến bộ với an toàn công cộng.
• Đánh giá: Các điểm chuẩn trong tương lai phải lượng hóa hành vi và khả năng của AGI so với các cân nhắc đạo đức và cấp độ phân loại.

Kết luận: Tập trung vào con đường đến AGI, không phải một điểm cuối duy nhất

Con đường đến AGI là phức tạp, nhưng mỗi điểm dừng dọc theo con đường đều quan trọng cho hành trình. Bằng cách hiểu các cải tiến lặp lại của AGI – cùng với các ý nghĩa của nó – con người và doanh nghiệp sẽ có thể áp dụng công nghệ này một cách có trách nhiệm. Đây là cốt lõi của phát triển AGI có trách nhiệm, nơi tương tác thực tế của thế giới thực thông báo cách chúng ta điều hướng biên giới mới này.