Yaron Singer, Giám đốc điều hành tại Robust Intelligence & Giáo sư Khoa học Máy tính tại Đại học Harvard – Chuỗi phỏng vấn

Yaron Singer là Giám đốc điều hành của trí thông minh mạnh mẽ và Giáo sư Khoa học Máy tính và Toán Ứng dụng tại Harvard. Yaron được biết đến với những kết quả mang tính đột phá trong học máy, thuật toán và tối ưu hóa. Trước đây, Yaron làm việc tại Google Research và lấy bằng Tiến sĩ tại UC Berkeley.

Điều gì ban đầu thu hút bạn đến với lĩnh vực khoa học máy tính và học máy?

Hành trình của tôi bắt đầu với toán học, thứ đã dẫn tôi đến với khoa học máy tính, thứ đã đưa tôi đến con đường học máy. Toán học ban đầu thu hút sự quan tâm của tôi vì hệ thống tiên đề của nó cho tôi khả năng tạo ra những thế giới mới. Với khoa học máy tính, tôi đã học về các bằng chứng tồn tại, cũng như các thuật toán đằng sau chúng. Từ góc độ sáng tạo, khoa học máy tính là việc vạch ra ranh giới giữa những gì chúng ta có thể và không thể làm.

Mối quan tâm của tôi đối với học máy luôn bắt nguồn từ mối quan tâm đến dữ liệu thực, gần như là khía cạnh vật lý của nó. Lấy mọi thứ từ thế giới thực và mô hình hóa chúng để tạo ra thứ gì đó có ý nghĩa. Theo đúng nghĩa đen, chúng ta có thể thiết kế một thế giới tốt đẹp hơn thông qua mô hình có ý nghĩa. Vì vậy, toán học đã cho tôi nền tảng để chứng minh mọi thứ, khoa học máy tính giúp tôi thấy những gì có thể và không thể làm được, và học máy cho phép tôi mô hình hóa những khái niệm này trên thế giới.

Cho đến gần đây, bạn là Giáo sư Khoa học Máy tính và Toán ứng dụng tại Đại học Harvard, một số bài học chính của bạn từ trải nghiệm này là gì?

Bài học lớn nhất của tôi khi trở thành một giảng viên tại Harvard là nó phát triển sự khao khát làm những điều lớn lao của một người. Theo truyền thống, Harvard có một đội ngũ giảng viên nhỏ và kỳ vọng từ đội ngũ giảng viên theo nhiệm kỳ là giải quyết những vấn đề lớn và tạo ra những lĩnh vực mới. Bạn phải táo bạo. Điều này kết thúc là sự chuẩn bị tuyệt vời để ra mắt một công ty khởi nghiệp tạo danh mục xác định một không gian mới. Tôi không nhất thiết khuyên bạn nên vượt qua giai đoạn nhiệm kỳ của Harvard trước — nhưng nếu bạn vượt qua được điều đó, việc xây dựng một công ty khởi nghiệp sẽ dễ dàng hơn.

Bạn có thể mô tả khoảnh khắc 'aha' của mình khi bạn nhận ra rằng các hệ thống AI phức tạp dễ bị tổn thương bởi dữ liệu xấu, với một số tác động sâu rộng tiềm tàng không?

Khi còn là sinh viên tốt nghiệp tại UC Berkeley, tôi đã dành một khoảng thời gian để khởi nghiệp xây dựng các mô hình học máy để tiếp thị trên mạng xã hội. Điều này đã xảy ra vào năm 2010. Chúng tôi có lượng dữ liệu khổng lồ từ mạng xã hội và chúng tôi đã mã hóa tất cả các mô hình từ đầu. Ý nghĩa tài chính đối với các nhà bán lẻ là khá lớn, vì vậy chúng tôi đã theo sát hiệu suất của các mô hình. Vì chúng tôi sử dụng dữ liệu từ phương tiện truyền thông xã hội nên có nhiều lỗi trong quá trình nhập liệu cũng như sai sót. Chúng tôi thấy rằng những lỗi rất nhỏ dẫn đến những thay đổi lớn trong kết quả đầu ra của mô hình và có thể dẫn đến kết quả tài chính tồi tệ cho các nhà bán lẻ sử dụng sản phẩm.

Khi tôi chuyển sang làm việc trên Google+ (đối với những người trong chúng ta còn nhớ), tôi đã thấy chính xác những tác động tương tự. Đáng chú ý hơn, trong các hệ thống như AdWords đưa ra dự đoán về khả năng mọi người nhấp vào quảng cáo cho các từ khóa, chúng tôi nhận thấy rằng các lỗi nhỏ trong đầu vào của mô hình dẫn đến các dự đoán rất kém. Khi bạn chứng kiến ​​vấn đề này ở quy mô Google, bạn sẽ nhận ra vấn đề này là phổ biến.

Những trải nghiệm này đã định hình rõ ràng trọng tâm nghiên cứu của tôi và tôi đã dành thời gian ở Harvard để tìm hiểu lý do tại sao các mô hình AI mắc lỗi và quan trọng là cách thiết kế các thuật toán có thể ngăn các mô hình mắc lỗi. Tất nhiên, điều này đã dẫn đến nhiều khoảnh khắc 'aha' hơn và cuối cùng là sự ra đời của Robust Intelligence.

Bạn có thể chia sẻ câu chuyện về nguồn gốc đằng sau Robust Intelligence không?

Robust Intelligence bắt đầu với nghiên cứu về vấn đề ban đầu là lý thuyết: đâu là những đảm bảo mà chúng ta có thể có đối với các quyết định được đưa ra bằng các mô hình AI. Kojin là một sinh viên tại Harvard, và chúng tôi đã làm việc cùng nhau, ban đầu là viết các bài nghiên cứu. Vì vậy, nó bắt đầu bằng việc viết các bài báo phác thảo những gì về cơ bản là có thể và không thể về mặt lý thuyết. Những kết quả này sau đó tiếp tục cho một chương trình thiết kế các thuật toán và mô hình mạnh mẽ đối với các lỗi của AI. Sau đó, chúng tôi xây dựng các hệ thống có thể chạy các thuật toán này trong thực tế. Sau đó, thành lập một công ty nơi các tổ chức có thể sử dụng một hệ thống như thế này là một bước tiếp theo tự nhiên.

Nhiều vấn đề mà Robust Intelligence giải quyết là những lỗi thầm lặng, những lỗi này là gì và điều gì khiến chúng trở nên nguy hiểm đến vậy?

Trước khi đưa ra định nghĩa kỹ thuật về lỗi im lặng, bạn nên lùi lại một bước và hiểu lý do tại sao chúng ta nên quan tâm đến việc AI mắc lỗi ngay từ đầu. Lý do chúng tôi quan tâm đến việc các mô hình AI mắc lỗi là hậu quả của những sai lầm này. Thế giới của chúng ta đang sử dụng AI để tự động hóa các quyết định quan trọng: ai vay vốn kinh doanh và lãi suất bao nhiêu, ai được bảo hiểm y tế và ở mức nào, cảnh sát nên tuần tra khu phố nào, ai có nhiều khả năng trở thành ứng cử viên hàng đầu cho một công việc, chúng ta nên tổ chức an ninh sân bay như thế nào, v.v. Thực tế là các mô hình AI cực kỳ dễ xảy ra lỗi có nghĩa là khi tự động hóa các quyết định quan trọng này, chúng ta phải chịu rất nhiều rủi ro. Tại Robust Intelligence, chúng tôi gọi đây là “Rủi ro AI” và nhiệm vụ của chúng tôi trong công ty là loại bỏ Rủi ro AI.

Lỗi im lặng là lỗi mô hình AI trong đó mô hình AI nhận thông tin đầu vào và đưa ra dự đoán hoặc quyết định sai hoặc sai lệch làm đầu ra. Vì vậy, nhìn bề ngoài, mọi thứ của hệ thống đều ổn, trong đó mô hình AI đang làm những gì nó phải làm từ góc độ chức năng. Nhưng dự đoán hoặc quyết định là sai lầm. Các lỗi này im lặng vì hệ thống không biết rằng có lỗi. Điều này có thể tồi tệ hơn nhiều so với trường hợp mô hình AI không tạo ra đầu ra, bởi vì có thể mất nhiều thời gian để các tổ chức nhận ra rằng hệ thống AI của họ bị lỗi. Sau đó, rủi ro AI trở thành thất bại AI có thể gây ra hậu quả nghiêm trọng.

Robust Intelligence về cơ bản đã thiết kế Tường lửa AI, một ý tưởng trước đây được coi là không thể. Tại sao đây là một thách thức kỹ thuật như vậy?

Một lý do khiến Tường lửa AI trở thành một thách thức như vậy là vì nó đi ngược lại mô hình mà cộng đồng ML đã có. Mô hình trước đây của cộng đồng ML là để loại bỏ lỗi, người ta cần cung cấp thêm dữ liệu, bao gồm cả dữ liệu xấu cho các mô hình. Làm được điều đó, người mẫu sẽ tự rèn luyện và học cách tự sửa sai. Vấn đề với cách tiếp cận đó là nó làm cho độ chính xác của mô hình giảm đáng kể. Ví dụ, các kết quả nổi tiếng nhất đối với hình ảnh khiến độ chính xác của mô hình AI giảm từ 98.5% xuống còn khoảng 37%.

Tường lửa AI cung cấp một giải pháp khác. Chúng tôi tách vấn đề xác định lỗi khỏi vai trò tạo dự đoán, nghĩa là tường lửa có thể tập trung vào một nhiệm vụ cụ thể: xác định xem một điểm dữ liệu có tạo ra dự đoán sai hay không.

Bản thân đây là một thách thức do khó đưa ra dự đoán trên một điểm dữ liệu. Có rất nhiều lý do khiến các mô hình mắc lỗi, vì vậy việc xây dựng một công nghệ có thể dự đoán những lỗi này không phải là một nhiệm vụ dễ dàng. Chúng tôi rất may mắn khi có các kỹ sư chúng tôi làm.

Hệ thống có thể giúp ngăn chặn sự thiên vị của AI như thế nào?

Xu hướng mô hình xuất phát từ sự khác biệt giữa dữ liệu mà mô hình được đào tạo và dữ liệu mà mô hình đang sử dụng để đưa ra dự đoán. Quay trở lại với rủi ro AI, sự thiên vị là một vấn đề lớn được cho là do các lỗi im lặng. Ví dụ, đây thường là một vấn đề với các nhóm dân số ít được đại diện. Một mô hình có thể có sai lệch vì nó đã thấy ít dữ liệu hơn từ dân số đó, điều này sẽ ảnh hưởng đáng kể đến hiệu suất của mô hình đó và độ chính xác của các dự đoán của nó. Tường lửa AI có thể cảnh báo các tổ chức về những khác biệt dữ liệu này và giúp mô hình đưa ra quyết định chính xác.

Một số rủi ro khác đối với các tổ chức mà tường lửa AI giúp ngăn chặn là gì?

Bất kỳ công ty nào sử dụng AI để tự động hóa các quyết định, đặc biệt là các quyết định quan trọng, sẽ tự động đưa ra rủi ro. Dữ liệu xấu có thể nhỏ như việc nhập số XNUMX thay vì số XNUMX và vẫn dẫn đến hậu quả nghiêm trọng. Cho dù rủi ro là dự đoán y tế không chính xác hay dự đoán sai về cho vay, Tường lửa AI giúp các tổ chức ngăn chặn rủi ro hoàn toàn.

Có điều gì khác mà bạn muốn chia sẻ về Robust Intelligence không?

Robust Intelligence đang phát triển nhanh chóng và chúng tôi đang nhận được rất nhiều ứng viên tuyệt vời đang ứng tuyển vào các vị trí. Nhưng điều mà tôi thực sự muốn nhấn mạnh đối với những người đang cân nhắc nộp đơn là phẩm chất quan trọng nhất mà chúng tôi tìm kiếm ở các ứng viên là niềm đam mê của họ đối với sứ mệnh. Chúng tôi được gặp rất nhiều ứng viên giỏi về kỹ thuật, vì vậy cần phải hiểu liệu họ có thực sự đam mê loại bỏ rủi ro AI để biến thế giới thành một nơi an toàn và tốt đẹp hơn hay không.

Trong thế giới mà chúng ta đang hướng tới, nhiều quyết định hiện đang được thực hiện bởi con người sẽ được tự động hóa. Cho dù chúng ta có thích hay không, đó là một thực tế. Do đó, tất cả chúng tôi tại Robust Intelligence đều muốn các quyết định tự động được thực hiện một cách có trách nhiệm. Vì vậy, bất kỳ ai hào hứng với việc tạo ra ảnh hưởng, hiểu được cách điều này có thể ảnh hưởng đến cuộc sống của mọi người, đều là ứng viên mà chúng tôi đang tìm kiếm để tham gia Robust Intelligence. Chúng tôi đang tìm kiếm niềm đam mê đó. Chúng tôi đang tìm kiếm những người sẽ tạo ra công nghệ này mà cả thế giới sẽ sử dụng.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, tôi rất thích tìm hiểu về quan điểm của bạn trong việc ngăn chặn sự thiên vị của AI và nhu cầu về tường lửa AI, những độc giả muốn tìm hiểu thêm có thể truy cập Thông Minh Mạnh Mẽ.