Matthew Ikle, Giám đốc Khoa học tại SingularityNET – Loạt phỏng vấn

Matthew Ikle là Giám đốc Khoa học tại SingularityNET, một công ty được thành lập với sứ mệnh tạo ra một Trí tuệ nhân tạo tổng quát (AGI) phi tập trung, dân chủ, bao gồm và lợi ích. Một ‘AGI’ không phụ thuộc vào bất kỳ thực thể trung tâm nào, mở cho bất kỳ ai và không bị giới hạn bởi các mục tiêu hẹp của một tập đoàn hoặc thậm chí một quốc gia duy nhất.

Đội ngũ SingularityNET bao gồm các kỹ sư, nhà khoa học, nhà nghiên cứu, doanh nhân và nhà tiếp thị giàu kinh nghiệm. Nền tảng cốt lõi và các đội AI được bổ sung bởi các đội chuyên môn hóa trong các lĩnh vực ứng dụng như tài chính, robot, trí tuệ nhân tạo y sinh, truyền thông, nghệ thuật và giải trí.

Với kinh nghiệm và vai trò rộng lớn của bạn tại SingularityNET, bạn tự tin đến mức nào rằng chúng ta sẽ đạt được AGI vào năm 2029 hoặc sớm hơn, như dự đoán của Tiến sĩ Ben Goertzel?

Tôi sẽ trả lời câu hỏi này theo một cách vòng vo. Năm 2029 là khoảng năm năm từ bây giờ. Nhiều năm trước (đầu-giữa những năm 2010), tôi rất lạc quan về tiến bộ của AGI. Sự lạc quan của tôi vào thời điểm đó được dựa trên mức độ suy nghĩ chi tiết và hội tụ của ý tưởng trong nghiên cứu AGI tại thời điểm đó. Mặc dù hầu hết các ý tưởng lớn từ thời kỳ đó, tôi tin, vẫn còn hứa hẹn, nhưng khó khăn, như thường thấy, đến từ việc làm rõ chi tiết của những tầm nhìn rộng lớn như vậy.

Với lời cảnh báo đó, hiện có rất nhiều thông tin mới từ nhiều lĩnh vực – khoa học thần kinh, toán học, khoa học máy tính, tâm lý học, xã hội học, bạn có thể đặt tên – cung cấp không chỉ các cơ chế để hoàn thiện những chi tiết, mà còn hỗ trợ khái niệm về nền tảng của công việc trước đó. Tôi thấy các mẫu, và trong nhiều lĩnh vực phân kỳ, dường như đang hội tụ với tốc độ tăng tốc toward các hành vi tương tự. Theo nhiều cách, sự hội tụ này nhắc tôi về thời kỳ trước khi phát hành iPhone đầu tiên. Để trích dẫn Greg Meredith, người đang làm việc trên cơ sở hạ tầng RhoLang của chúng tôi cho xử lý đồng thời an toàn, các mẫu tôi thấy những ngày này liên quan đến câu chuyện gốc – làm thế nào cuộc sống / tế bào đầu tiên bắt đầu trên trái đất? Làm thế nào và khi nào tâm trí hình thành? Và các câu hỏi liên quan đến chuyển pha, ví dụ.

Ví dụ, có rất nhiều nghiên cứu thực nghiệm mới hỗ trợ các ý tưởng cơ bản của quan điểm hệ thống động lực học phức tạp. Các mẫu EEG của đối tượng người, ví dụ, hiển thị hành vi đáng chú ý phù hợp với động lực học hệ thống như vậy. Những kết quả này gợi nhớ lại một số công việc trước đó về lý thuyết ý thức. Bây giờ dường như có sự bắt đầu của sự hỗ trợ thực nghiệm cho những ý tưởng lý thuyết đó.

Tại SingularityNET, tôi đang suy nghĩ rất nhiều về các cấu trúc tự tương tự tạo ra những động lực học như vậy. Điều này khá khác, tôi sẽ lập luận, so với những gì đang xảy ra trong cộng đồng DNN / LLM, mặc dù có sự công nhận giữa một số nhà nghiên cứu cơ bản hơn về những ý tưởng đó. Tôi sẽ chỉ ra bài báo “Ý thức trong Trí tuệ nhân tạo: Thông tin từ Khoa học Ý thức” được phát hành bởi 19 nhà nghiên cứu vào tháng 8 năm 2023, ví dụ. Các nhà nghiên cứu bao gồm một loạt các lĩnh vực, bao gồm nghiên cứu ý thức, nghiên cứu an toàn AI, khoa học não, toán học, khoa học máy tính, tâm lý học, khoa học thần kinh và nghiên cứu nhận thức và hình ảnh não. Những gì các nhà nghiên cứu này có chung là lớn hơn một cuộc tìm kiếm đơn giản cho sự cải tiến kiến trúc tăng dần trong DNN, nhưng thay vào đó, họ tập trung vào việc hiểu khoa học về những ý tưởng triết học lớn dướipinning nhận thức của con người và cách đưa chúng vào thực hiện các hệ thống AGI thực sự.

Bạn xem những chướng ngại vật công nghệ hoặc triết học lớn nhất để đạt được AGI trong thập kỷ này là gì?

Hiểu và trả lời các câu hỏi triết học và khoa học lớn, bao gồm:

• Sự sống là gì? Chúng ta có thể nghĩ rằng câu trả lời rõ ràng, nhưng định nghĩa sinh học đã chứng minh là có vấn đề. Ví dụ, virus có phải là “sống” không.
• Tâm trí là gì?
• Trí tuệ là gì?
• Cuộc sống xuất hiện từ một số hóa chất cơ bản trong điều kiện môi trường cụ thể như thế nào? Chúng ta có thể sao chép điều này không?
• Cuộc sống “tâm trí” đầu tiên xuất hiện như thế nào? Những thành phần và điều kiện nào cho phép điều này?
• Chúng ta thực hiện những gì chúng ta học được khi điều tra năm câu hỏi trên?
• Công nghệ hiện tại của chúng ta có đủ để thực hiện các giải pháp của chúng ta không? Nếu không, chúng ta cần phải phát minh và phát triển những gì?
• Chúng ta cần bao nhiêu thời gian và nhân sự để thực hiện các giải pháp của mình?

SingularityNET coi trí tuệ nhân tạo thần kinh – ký hiệu là một giải pháp hứa hẹn để vượt qua các hạn chế hiện tại của trí tuệ nhân tạo tạo sinh. Bạn có thể giải thích trí tuệ nhân tạo thần kinh – ký hiệu là gì và SingularityNET dự định tận dụng cách tiếp cận này để tăng tốc phát triển AGI không?

Lịch sử, đã có hai trại nghiên cứu AGI chính, cùng với một trại thứ ba kết hợp ý tưởng của hai trại kia. Đã có những nhà nghiên cứu tin vào cách tiếp cận dưới ký hiệu. Những ngày này, điều này chủ yếu có nghĩa là sử dụng mạng nơ-ron sâu (DNN) như mô hình Transformer bao gồm cả mô hình ngôn ngữ lớn (LLM) hiện tại. Do sử dụng mạng nơ-ron nhân tạo, các cách tiếp cận dưới ký hiệu cũng được gọi là phương pháp nơ-ron. Trong các hệ thống dưới ký hiệu, xử lý được chạy trên các nút (nơ-ron) và liên kết (dây thần kinh) giống hệt và không được gắn nhãn. Những người ủng hộ ký hiệu sử dụng logic bậc cao và推 lý ký hiệu, trong đó các nút và liên kết được gắn nhãn với ý nghĩa khái niệm và ngữ nghĩa. SingularityNET theo đuổi một cách tiếp cận thứ ba có thể được mô tả chính xác nhất là một sự kết hợp thần kinh – ký hiệu, tận dụng điểm mạnh của cả phương pháp ký hiệu và dưới ký hiệu.

Yet nó là một loại kết hợp cụ thể chủ yếu dựa trên triết lý của Ben Goertzels về chủ nghĩa hình thức và được chi tiết trong, trong số nhiều tài liệu khác, “Lý thuyết tổng quát về trí tuệ tổng quát: Một quan điểm thực dụng của chủ nghĩa hình thức”.

Khi nhiều nghiên cứu DNN và LLM hiện tại dựa trên các mô hình nơ-ron đơn giản và các thuật toán, việc sử dụng các tập dữ liệu khổng lồ (ví dụ: toàn bộ internet) và việc đặt đúng hàng tỷ tham số trong hy vọng đạt được AGI, chiến lược PRIMUS của SingularityNET dựa trên sự hiểu biết cơ bản về các quá trình động lực học ở nhiều thang không gian – thời gian và cách tốt nhất để căn chỉnh các quá trình đó để kích thích các thuộc tính mong muốn xuất hiện ở các thang khác nhau. Những hiểu biết này cho phép chúng tôi tiếp tục hướng dẫn nghiên cứu và phát triển AGI theo cách hiểu được của con người.

Ông tin rằng những khung khổ nào là quan trọng để đảm bảo rằng sự phát triển AGI mang lại lợi ích cho toàn nhân loại? Làm thế nào các nền tảng AI phi tập trung như SingularityNET có thể thúc đẩy một quá trình更加 công bằng và minh bạch so với các mô hình AI tập trung?

Tất cả các ý tưởng ở đây:

Minh bạch — Mặc dù không có gì là hoàn hảo, nhưng việc đảm bảo quá trình ra quyết định minh bạch có thể giúp mọi người liên quan (nhà nghiên cứu, nhà phát triển, người dùng và không phải người dùng) căn chỉnh, hướng dẫn, hiểu và xử lý tốt hơn sự phát triển AGI vì lợi ích của nhân loại. Điều này tương tự như vấn đề thiên vị mà tôi sẽ đề cập đến dưới đây.

Phi tập trung – Mặc dù phi tập trung có thể là một mớ hỗn độn, nhưng nó có thể giúp đảm bảo rằng quyền lực được chia sẻ rộng rãi hơn. Nó không phải là một phương thuốc chữa bách bệnh, nhưng một công cụ, nếu được sử dụng đúng cách, có thể giúp tạo ra các quá trình và kết quả công bằng hơn.

Quyết định dựa trên sự đồng thuận – phi tập trung và quyết định dựa trên sự đồng thuận có thể làm việc cùng nhau trong việc theo đuổi các quá trình và kết quả công bằng hơn. Một lần nữa, chúng không luôn luôn đảm bảo sự công bằng. Có những phức tạp cần được giải quyết ở đây về danh tiếng và các lĩnh vực chuyên môn. Ví dụ, làm thế nào chúng ta có thể cân bằng tốt nhất các đặc điểm mong muốn mâu thuẫn? Tôi xem minh bạch, phi tập trung và quyết định dựa trên sự đồng thuận là chỉ ba công cụ quan trọng có thể được sử dụng để hướng dẫn sự phát triển AGI vì lợi ích của nhân loại.

Sự căn chỉnh không gian – thời gian của các hiện tượng xuất hiện trên nhiều thang từ nhỏ vô cùng đến lớn vô cùng. Trong việc phát triển AGI, tôi tin rằng điều quan trọng là không chỉ dựa vào một cách tiếp cận “hộp đen” trong đó hy vọng mọi thứ đều chính xác từ đầu. Thay vào đó, tôi tin rằng thiết kế AGI với sự hiểu biết cơ bản tại các giai đoạn phát triển khác nhau và trên nhiều thang có thể không chỉ làm cho nó có khả năng đạt được AGI, mà quan trọng hơn, để hướng dẫn sự phát triển đó theo cách phù hợp với các giá trị của con người.

SingularityNET là một nền tảng AI phi tập trung. Ông hình dung sự giao thoa giữa công nghệ blockchain và AGI sẽ tiến hóa như thế nào, đặc biệt là về bảo mật, quản trị và kiểm soát phi tập trung?

Blockchain chắc chắn có vai trò trong kiểm soát AI, bảo mật và quản trị. Một trong những điểm mạnh lớn nhất của blockchain là khả năng thúc đẩy minh bạch. Câu hỏi về thiên vị là một ví dụ tuyệt vời về điều này. Tôi sẽ lập luận rằng mọi người và mọi tập dữ liệu đều bị thiên vị. Tôi có những thiên vị cá nhân của riêng mình, ví dụ, khi nói đến những gì tôi tin là cần thiết để đạt được AGI an toàn, có lợi và nhân từ thực sự. Những thiên vị này được rèn luyện thông qua các nghiên cứu và nền tảng của tôi và chúng hướng dẫn công việc của tôi.

Đồng thời, tôi cố gắng hoàn toàn cởi mở với những ý tưởng mâu thuẫn với những thiên vị của tôi và sẵn sàng điều chỉnh những thiên vị của mình dựa trên bằng chứng mới. Dù sao, tôi cố gắng cởi mở và minh bạch về những thiên vị của mình, và sau đó điều kiện các ý tưởng và quyết định của mình dựa trên sự hiểu biết tự phản ánh về những thiên vị đó. Điều này rất khó, rất khó, nhưng tôi tin rằng tốt hơn là không công nhận những thiên vị của riêng mình. Bản chất của blockchain cho phép theo dõi, truy tìm và xác minh các quá trình và sự kiện tốt hơn và minh bạch hơn. Theo cách tương tự như tôi đã mô tả trước đó, minh bạch là một thành phần cần thiết, nhưng không phải lúc nào cũng đủ, cho bảo mật, quản trị và kiểm soát phi tập trung.

Làm thế nào blockchain và AGI cùng tiến hóa là một câu hỏi thú vị. Để hai công nghệ này tương tác hướng tới một sự kiện tích cực, dường như rõ ràng rằng các đặc điểm cơ bản mà tôi luôn chỉ ra (minh bạch, phi tập trung, đồng thuận và căn chỉnh giá trị), là trung tâm và quan trọng và phải được giữ trong tâm trí tại tất cả các giai đoạn của sự tiến hóa cùng nhau.

Là một nhà lãnh đạo đã tham gia chặt chẽ vào cả AI và blockchain, ông tin rằng những yếu tố quan trọng nhất để thúc đẩy sự hợp tác giữa hai lĩnh vực này là gì, và làm thế nào điều đó có thể thúc đẩy sự đổi mới trong AGI?

Tôi đến từ phía AI / AGI của cặp đôi này. Như thường thấy khi tích hợp các ý tưởng liên ngành, nhiều thứ phụ thuộc vào vấn đề ngôn ngữ và giao tiếp. Tất cả các nhóm cần phải lắng nghe nhau để hiểu tốt hơn cách các công nghệ có thể giúp đỡ lẫn nhau. Trong công việc của tôi tại SingularityNET, điều này đã là một cuộc đấu tranh liên tục. Các nhà nghiên cứu hàng đầu, mà không nói quá lên, SingularityNET có rất nhiều, thường có những ý tưởng lớn rõ ràng. Khi làm việc trên các ranh giới kỷ luật, phần khó là nhận ra rằng không mọi người đều “trong đầu” của bạn. Những gì bạn coi là đương nhiên, sẽ không được quan sát rõ ràng từ những người trong các lĩnh vực khác. Ngay cả những từ được sử dụng chung cũng có thể được sử dụng khác nhau trên các lĩnh vực khác nhau. Có một trường hợp gần đây trong công việc BioAI của chúng tôi, trong đó các nhà sinh học sử dụng một thuật ngữ toán học, nhưng không hoàn toàn chính xác về mặt định nghĩa toán học. Một khi những tình huống như vậy được hiểu rõ, đội có thể tiến về phía trước với mục đích chung để tích hợp thực sự chứng minh rằng toàn bộ lớn hơn tổng các phần.

Làm thế nào ông nhìn thấy ngành AI và blockchain đang làm việc để đạt được sự đa dạng và hòa nhập lớn hơn, và SingularityNET đóng vai trò gì trong việc thúc đẩy những giá trị này?

AI và blockchain đều có thể đóng vai trò quan trọng trong việc cải thiện các nỗ lực đa dạng hóa và hòa nhập. Mặc dù tôi tin rằng không thể loại bỏ tất cả các thiên vị – nhiều thiên vị hình thành đơn giản thông qua kinh nghiệm cuộc sống – một người có thể cởi mở và minh bạch về những thiên vị của mình. Điều này là điều tôi tích cực phấn đấu trong công việc của mình, bị thiên vị bởi nền tảng học thuật của tôi để tôi nhìn thấy các vấn đề thông qua một ống kính của động lực học hệ thống phức tạp. Tuy nhiên, tôi vẫn cố gắng cởi mở và hiểu các ý tưởng và tương tự từ các quan điểm khác. AI có thể được sử dụng để hỗ trợ quá trình tự phản ánh này, và blockchain chắc chắn có thể hỗ trợ minh bạch. SingularityNET có thể đóng một vai trò lớn bằng cách tổ chức các công cụ để phát hiện, đo lường và loại bỏ,尽可能, các thiên vị trong các tập dữ liệu.

Làm thế nào công việc của SingularityNET trong các hệ sinh thái AI phi tập trung có thể đóng góp vào việc giải quyết các thách thức toàn cầu như tính bền vững, giáo dục và tạo việc làm, đặc biệt là ở các khu vực như Châu Phi, nơi ông có một lợi ích đặc biệt?

 Tính bền vững:

• Áp dụng AI và các mô hình hệ thống để giải quyết các vấn đề hệ sinh thái phức tạp ở quy mô lớn.
• Giám sát các giải pháp đó ở quy mô lớn.
• Sử dụng blockchain để theo dõi, truy tìm và xác minh các giải pháp đó.
• Sử dụng sự kết hợp của AI, mô hình hệ sinh thái, dữ liệu siêu địa phương và blockchain, chúng tôi đã tưởng tượng ra các giải pháp hoàn chỉnh cho khai thác thủ công ở Châu Phi và thu carbon nông nghiệp ở quy mô lớn.

Giáo dục:

Là một giáo sư toán học và khoa học máy tính đầy đủ thời gian trước đây, giáo dục rất quan trọng đối với tôi, đặc biệt là vì nó cung cấp cơ hội cho các dân tộc học sinh chưa được phục vụ. Điều quan trọng là:

• Tăng cường khả năng tiếp cận bằng cách phát triển các khóa học kết hợp để tiếp cận các sinh viên có thể phải đối mặt với các hạn chế về địa lý, tài chính hoặc thời gian.
• Thúc đẩy đa dạng và hòa nhập bằng cách tăng cường sự tham gia của các dân tộc chưa được phục vụ trong AI, blockchain và các công nghệ tiên tiến khác.
• Thúc đẩy kiến thức liên ngành bằng cách tạo ra các khóa học bắc cầu giữa các lĩnh vực học thuật và chuyên môn.
• Hỗ trợ sự tiến bộ trong sự nghiệp bằng cách cung cấp các kỹ năng và chứng chỉ có thể áp dụng trực tiếp cho thị trường lao động.

Tôi xem cả AGI và blockchain, và sự tương tác của chúng, đóng vai trò quan trọng trong việc giải quyết các mục tiêu trên trong các chương trình học tập dựa trên dự án theo phong cách “học việc đến thành thạo”.

Tạo việc làm:

Bằng cách thúc đẩy bốn mục tiêu giáo dục trên, dường như tôi rằng AGI, blockchain và các công nghệ tiên tiến khác, cùng với sự hợp tác tích cực giữa các giáo viên và người học, có thể khuyến khích và tạo ra các công nghệ và doanh nghiệp hoàn toàn mới.

Là một người cam kết đạt được một sự kiện tích cực, ông tin rằng những cột mốc hoặc đột phá cụ thể nào trong công nghệ AI sẽ cần thiết để đảm bảo rằng AGI phát triển theo cách có lợi cho xã hội?

• Khả năng căn chỉnh các hiện tượng xuất hiện theo cách có thể giải thích được của con người trên nhiều thang không gian – thời gian.
• Khả năng hiểu sâu hơn về các khái niệm cơ bản của “chuyển pha tự phát”.
• Khả năng vượt qua nhiều vấn đề khó khăn ở mức chi tiết để cho phép xử lý đa tiến trình thực sự thông qua các chồng chập trạng thái.
• Minh bạch ở tất cả các giai đoạn.
• Quyết định phi tập trung dựa trên xây dựng đồng thuận.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập SingularityNET.