Sean Ren, Giáo sư Liên kết về Khoa học Máy tính tại USC – Loạt Phỏng vấn

Sean Ren là Giáo sư Liên kết về Khoa học Máy tính và Chủ tịch Sự nghiệp Sớm Andrew và Erna Viterbi tại Đại học Nam California (USC). Ông lãnh đạo Phòng thí nghiệm Nghiên cứu Trí tuệ và Khám phá Kiến thức (INK) và giữ vai trò tại Viện Khoa học Thông tin USC (ISI), Nhóm NLP USC và Trung tâm Học máy USC.

Nghiên cứu của ông tập trung vào việc tạo ra các hệ thống xử lý ngôn ngữ tự nhiên (NLP) có thể tổng quát hóa, nâng cao trí tuệ nhân tạo với lý trí chung và cải thiện tính minh bạch của mô hình. Ngoài công việc tại USC, Ren đóng góp cho Viện Trí tuệ Nhân tạo Allen (AI2) và trước đây đã tư vấn cho Snapchat. Ông đã nhận bằng tiến sĩ về khoa học máy tính từ Đại học Illinois tại Urbana-Champaign.

Sean cũng là Giám đốc điều hành & Đồng sáng lập của Sahara AI, một nền tảng trí tuệ nhân tạo blockchain phi tập trung nhằm phá vỡ cảnh quan trí tuệ nhân tạo tập trung bằng cách xây dựng một nền kinh tế trí tuệ nhân tạo hợp tác.

Điều gì đã truyền cảm hứng cho bạn để đồng sáng lập Sahara AI, và làm thế nào nền tảng phi tập trung của công ty giải quyết các vấn đề đạo đức xung quanh quyền sở hữu trí tuệ nhân tạo?

Sahara Labs được thành lập vào tháng 4 năm 2023. Trí tuệ nhân tạo đang biến đổi thế giới của chúng ta với tốc độ chưa từng có. Từ các khuyến nghị được cá nhân hóa và trợ lý ảo đến chẩn đoán y tế tiên tiến, dự báo tài chính và tự động hóa công nghiệp, ảnh hưởng của trí tuệ nhân tạo là phổ biến và ngày càng tăng. Tuy nhiên, sự tiến bộ nhanh chóng này gây ra những lo ngại đáng kể về kiểm soát, công bằng và khả năng tiếp cận. Khi trí tuệ nhân tạo trở nên mạnh mẽ hơn, câu hỏi về việc ai kiểm soát những hệ thống này và chúng được sử dụng như thế nào trở nên cấp thiết. Các công ty công nghệ lớn thống trị cảnh quan trí tuệ nhân tạo, thường thu thập lượng lớn dữ liệu công cộng do các cá nhân đóng góp mà không có sự đền bù hoặc minh bạch đầy đủ. Người dùng thường tương tác với các dịch vụ được thúc đẩy bởi trí tuệ nhân tạo mà không biết dữ liệu của họ được sử dụng như thế nào hoặc nguồn gốc của thông tin đã đóng góp vào đầu ra của trí tuệ nhân tạo. Sự tập trung hóa quyền lực và thiếu minh bạch này có thể dẫn đến các thuật toán bị thiên vị, vi phạm quyền riêng tư và khả năng tiếp cận không đồng đều với lợi ích của trí tuệ nhân tạo. Là một nhà nghiên cứu và thực hành viên trí tuệ nhân tạo có kinh nghiệm, nhóm của chúng tôi đã nhận ra thách thức này trong cảnh quan trí tuệ nhân tạo hiện tại và chúng tôi đã bắt đầu suy nghĩ về các giải pháp vào quý 2 năm 2022 (trước thời đại GPT). Cuối cùng, chúng tôi đã quyết định theo đuổi tầm nhìn và sứ mệnh hiện tại của mình.

Tại Sahara AI, chúng tôi hình dung một cách tiếp cận khác – một cách tiếp cận mà trí tuệ nhân tạo là mở, công bằng và có lợi cho mọi người trên tất cả các giai đoạn của chu kỳ phát triển trí tuệ nhân tạo. Nền tảng trí tuệ nhân tạo blockchain phi tập trung của chúng tôi cho phép mọi người – từ các nhà phát triển cá nhân đến các doanh nghiệp lớn – tham gia và hưởng lợi từ sự tiến bộ của trí tuệ nhân tạo. Điều này đảm bảo rằng tất cả các nhà đóng góp được đền bù công bằng, chủ quyền của dữ liệu và mô hình được duy trì, và tài sản trí tuệ nhân tạo có thể được tạo, chia sẻ và giao dịch một cách an toàn, đồng thời bảo vệ quyền riêng tư và thúc đẩy sự hòa nhập.

Là một Giáo sư Liên kết tại USC, làm thế nào nền tảng học thuật của bạn ảnh hưởng đến cách tiếp cận của bạn đối với quyền sở hữu và quản lý trí tuệ nhân tạo tại Sahara Labs?

Nghiên cứu học thuật của tôi tập trung vào việc xây dựng các hệ thống xử lý ngôn ngữ tự nhiên (NLP) có thể tổng quát hóa, có khả năng xử lý nhiều loại nhiệm vụ và tình huống ngôn ngữ. Điều này liên quan đến việc phát triển các thuật toán và tập dữ liệu mới để làm cho các mô hình NLP trở nên tiết kiệm chi phí hơn để xây dựng và bảo trì, trang bị cho các mô hình trí tuệ nhân tạo với lý trí chung và cải thiện tính minh bạch và độ tin cậy của chúng để xây dựng niềm tin của người dùng. Những nguyên tắc này đã ảnh hưởng trực tiếp đến cách tiếp cận của tôi đối với quyền sở hữu và quản lý trí tuệ nhân tạo tại Sahara AI. Tại Sahara AI, chúng tôi ưu tiên việc làm cho trí tuệ nhân tạo trở nên dễ tiếp cận, minh bạch và đáng tin cậy – những giá trị xuất phát từ công việc học thuật của tôi.

Bạn nhìn thấy các mô hình đền bù công bằng sẽ phát triển như thế nào khi trí tuệ nhân tạo tiếp tục thay đổi các ngành công nghiệp, và làm thế nào Sahara AI trao quyền cho các nhà đóng góp trong chuỗi giá trị trí tuệ nhân tạo?

Đền bù công bằng là trung tâm của tầm nhìn của chúng tôi. Khi trí tuệ nhân tạo thay đổi các ngành công nghiệp, điều quan trọng là các nhà đóng góp ở tất cả các cấp độ – cho dù họ cung cấp dữ liệu, xây dựng mô hình hoặc cung cấp tài nguyên tính toán – đều được đền bù công bằng. Nền tảng của chúng tôi tạo điều kiện cho một nền kinh tế trí tuệ nhân tạo hợp tác, nơi các nhà đóng góp được thưởng theo giá trị mà họ tạo ra. Sử dụng blockchain, chúng tôi đảm bảo rằng đền bù là minh bạch và có thể theo dõi, làm cho rõ ràng ai đã đóng góp gì và họ được đền bù như thế nào. Mô hình này trao quyền cho các nhà đóng góp trong chuỗi giá trị trí tuệ nhân tạo bằng cách trao cho họ quyền kiểm soát tài sản của họ và đảm bảo đền bù công bằng.

Chợ phi tập trung của chúng tôi cho phép giao dịch trực tiếp giữa các bên, loại bỏ các trung gian và tạo ra một nền kinh tế bao gồm và dễ tiếp cận hơn. Khi trí tuệ nhân tạo tiếp tục phát triển, chúng tôi thấy một sự thay đổi hướng tới loại mô hình phi tập trung, công bằng này, nơi các nhà đóng góp ở mọi quy mô có thể phát triển.

Sahara AI nhấn mạnh “chủ quyền trí tuệ nhân tạo.” Bạn có thể giải thích rõ hơn về điều này và làm thế nào nó sẽ ảnh hưởng đến người dùng, nhà phát triển và doanh nghiệp trong hệ sinh thái trí tuệ nhân tạo?

Chủ quyền trí tuệ nhân tạo là một nguyên tắc cơ bản của nền tảng của chúng tôi. Điều này có nghĩa là mọi người – cho dù là người dùng cuối, nhà phát triển hay doanh nghiệp – đều duy trì quyền sở hữu và kiểm soát hoàn toàn đối với tài sản trí tuệ nhân tạo của họ. Trong các hệ thống trí tuệ nhân tạo tập trung hiện nay, quyền sở hữu thường được chuyển giao cho các tập đoàn lớn, dẫn đến mất kiểm soát và quyền riêng tư cho các nhà tạo ra. Sahara AI thay đổi động lực này bằng cách sử dụng blockchain để trao chủ quyền đầy đủ cho những người phát triển hoặc đóng góp vào các tài sản trí tuệ nhân tạo khác nhau. Chủ quyền trí tuệ nhân tạo tạo điều kiện cho một hệ sinh thái mở, phi tập trung, nơi các cá nhân và đội ngũ nhỏ có thể cạnh tranh với các thực thể lớn hơn trong khi vẫn duy trì quyền kiểm soát tài sản trí tuệ của họ. Điều này trao quyền cho các dự án nhỏ hơn để đổi mới mà không phải lo lắng về việc mất quyền sở hữu hoặc lợi thế cạnh tranh, đồng thời các nhà phát triển có thể kiếm tiền từ công việc của họ theo điều kiện của họ.

Công việc của bạn tập trung vào tính minh bạch và niềm tin trong trí tuệ nhân tạo. Làm thế nào Sahara AI tích hợp các giá trị này vào việc phát triển nền tảng blockchain của mình?

Công nghệ blockchain cho phép chúng tôi đảm bảo rằng mọi hành động trên nền tảng của chúng tôi – từ việc phát triển tài sản trí tuệ nhân tạo đến việc triển khai và kiếm tiền từ chúng – đều được ghi lại minh bạch và không thể thay đổi trên một sổ cái. Điều này tạo ra một hồ sơ có thể kiểm chứng mà bất kỳ ai cũng có thể kiểm tra, đảm bảo rằng tài sản trí tuệ nhân tạo được xử lý một cách đạo đức và công bằng. Niềm tin được xây dựng vì người dùng không còn phải dựa vào một cơ quan trung ương để quản lý các đóng góp của họ. Thay vào đó, tính chất phi tập trung của Sahara AI đảm bảo rằng không có thực thể nào có quyền kiểm soát, và mọi tham gia đều có thể thấy công việc của họ được sử dụng như thế nào. Hệ thống minh bạch này tạo điều kiện cho trách nhiệm và niềm tin trên toàn nền tảng, điều này rất quan trọng để tạo ra một hệ sinh thái trí tuệ nhân tạo đạo đức.

Được biết đến với sự hợp tác rộng rãi với các công ty như Microsoft (MSFT ), Amazon (AMZN ) và Snap, bạn nhìn thấy vai trò của các công ty công nghệ lớn trong việc định hình tương lai của trí tuệ nhân tạo phi tập trung như thế nào?

Các công ty công nghệ lớn đã đóng vai trò quan trọng trong việc thúc đẩy trí tuệ nhân tạo, nhưng cách tiếp cận tập trung của họ hạn chế khả năng tiếp cận tài nguyên và đổi mới cho các bên tham gia nhỏ hơn. Tôi nhìn thấy trí tuệ nhân tạo phi tập trung như một cách để bổ sung cho công việc của các công ty lớn này trong khi thúc đẩy khả năng tiếp cận và công bằng rộng rãi hơn. Các nền tảng phi tập trung cho phép các nhà phát triển và doanh nghiệp nhỏ hơn có được công cụ để cạnh tranh trên cơ sở bình đẳng, cung cấp mức độ tự chủ và quyền sở hữu mà không thường có sẵn trong các hệ thống tập trung. Mặc dù các công ty lớn sẽ tiếp tục đóng vai trò quan trọng trong việc đổi mới trí tuệ nhân tạo, nhưng các nền tảng trí tuệ nhân tạo phi tập trung như Sahara AI sẽ dân chủ hóa hệ sinh thái, đảm bảo rằng lợi ích của trí tuệ nhân tạo được phân phối đều hơn trên toàn cộng đồng.

Bạn dự đoán sẽ có những thách thức gì trong việc duy trì các tiêu chuẩn trí tuệ nhân tạo đạo đức khi trí tuệ nhân tạo tiếp tục phát triển, và Sahara AI được định vị như thế nào để giải quyết những thách thức này?

Việc duy trì các tiêu chuẩn trí tuệ nhân tạo đạo đức là một thách thức liên tục, đặc biệt là khi trí tuệ nhân tạo trở nên phổ biến hơn. Các vấn đề như quyền riêng tư dữ liệu, minh bạch và đền bù công bằng cần được giám sát liên tục. Tại Sahara AI, chúng tôi được định vị để giải quyết những thách thức này thông qua mô hình quản trị phi tập trung của chúng tôi.

Quản trị của nền tảng của chúng tôi sẽ được thúc đẩy bởi cộng đồng, với các quyết định quan trọng được thực hiện minh bạch thông qua Sahara DAO (Tổ chức Tự trị Phi tập trung). Người dùng đã đóng góp đáng kể cho hệ sinh thái có tiếng nói trong hướng đi của nền tảng, đề xuất và bỏ phiếu cho các sáng kiến phù hợp với giá trị của cộng đồng.

Quỹ Sahara sẽ đóng vai trò quan trọng trong việc hỗ trợ mô hình quản trị này, hướng dẫn DAO trong các giai đoạn hình thành để đảm bảo rằng nó phát triển thành một cơ thể phi tập trung, được thúc đẩy bởi cộng đồng. Bằng cách nhúng cấu trúc quản trị phi tập trung này vào nền tảng, chúng tôi đảm bảo rằng các tiêu chuẩn đạo đức được duy trì và các nhà đóng góp được đại diện công bằng trong các quy trình ra quyết định.

Bạn có thể cho chúng tôi biết thêm về Chương trình Prometheus và cách nó mời cộng đồng tham gia định hình tương lai của trí tuệ nhân tạo phi tập trung với Sahara AI?

Chương trình Prometheus là sáng kiến của chúng tôi để mời cộng đồng tham gia tích cực vào việc định hình tương lai của trí tuệ nhân tạo phi tập trung. Người tham gia, những người chúng tôi gọi là những Promethean hiện đại, sẽ có quyền truy cập sớm vào các công cụ và nền tảng của chúng tôi, cho phép họ trực tiếp ảnh hưởng đến quá trình phát triển thông qua phản hồi của họ. Chương trình này là về sự hợp tác – các nhà đóng góp giúp chúng tôi tinh chỉnh và cải thiện nền tảng, và đổi lại, họ được thưởng cho đầu vào và nỗ lực của mình. Đây là một phần quan trọng của tầm nhìn của chúng tôi về một hệ sinh thái trí tuệ nhân tạo mở, hợp tác, nơi cộng đồng đóng vai trò trung tâm trong việc định hình tương lai của nó.

Là một nhà lãnh đạo trong cả học thuật và ngành công nghiệp trí tuệ nhân tạo, bạn cân bằng nỗ lực nghiên cứu với trách nhiệm doanh nghiệp tại Sahara AI như thế nào?

Việc cân bằng giữa học thuật và doanh nghiệp đòi hỏi quản lý cẩn thận, nhưng hai vai trò này bổ sung cho nhau. Nghiên cứu của tôi thông báo nhiều về những gì chúng tôi làm tại Sahara AI. Ngược lại, những thách thức thực tế của việc xây dựng một nền tảng trí tuệ nhân tạo phi tập trung cung cấp những quan điểm mới mà tăng cường nghiên cứu của tôi. Tôi may mắn khi làm việc với các đội ngũ tài năng trong cả hai lĩnh vực, cho phép tôi đóng góp cho cả hai lĩnh vực mà không phải妥协 về chất lượng. Sự tương tác này đảm bảo rằng Sahara AI được dựa trên nghiên cứu tiên tiến trong khi giải quyết các thách thức thực tế.

Điều gì khiến bạn hào hứng nhất về tương lai của quản trị trí tuệ nhân tạo, và làm thế nào chúng ta có thể đảm bảo rằng các thực hành trí tuệ nhân tạo đạo đức vẫn là ưu tiên trong những năm tới?

Với các hệ thống phi tập trung như Sahara AI, chúng ta có thể tạo ra một hình thức quản trị dân chủ và minh bạch hơn, nơi các nhà đóng góp có quyền kiểm soát trực tiếp đối với tài sản trí tuệ nhân tạo của họ. Điều này đảm bảo rằng các thực hành đạo đức được tích hợp vào hệ thống bản thân. Để giữ cho các thực hành trí tuệ nhân tạo đạo đức là ưu tiên, chúng ta cần tập trung vào minh bạch, trách nhiệm và hòa nhập – đảm bảo rằng tất cả các bên liên quan, bất kể quy mô, đều có tiếng nói trong việc định hình tương lai của trí tuệ nhân tạo. Bằng cách trao quyền cho cộng đồng để quản lý sự phát triển của trí tuệ nhân tạo, chúng ta có thể xây dựng một tương lai nơi trí tuệ nhân tạo đạo đức là tiêu chuẩn, không phải là ngoại lệ.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm có thể truy cập Sahara AI.