Yaron Singer, Giám đốc điều hành tại Robust Intelligence & Giáo sư Khoa học Máy tính tại Đại học Harvard – Loạt phỏng vấn

Yaron Singer là Giám đốc điều hành của Robust Intelligence và Giáo sư Khoa học Máy tính và Toán học tại Harvard. Yaron được biết đến với những kết quả đột phá trong học máy, thuật toán và tối ưu hóa. Trước đây, Yaron đã làm việc tại Google (GOOGL ) Research và nhận bằng tiến sĩ từ UC Berkeley.

Điều gì ban đầu thu hút bạn đến lĩnh vực khoa học máy tính và học máy?

Chuyến đi của tôi bắt đầu với toán học, điều này dẫn tôi đến khoa học máy tính, và đặt tôi trên con đường đến học máy. Toán học ban đầu thu hút sự quan tâm của tôi vì hệ thống tiên đề của nó cho phép tôi tạo ra những thế giới mới. Với khoa học máy tính, tôi đã học về các chứng minh sự tồn tại, nhưng cũng về các thuật toán đằng sau chúng. Từ góc độ sáng tạo, khoa học máy tính là việc vẽ ranh giới giữa những gì chúng ta có thể và không thể làm.

Sự quan tâm của tôi đến học máy luôn được đặt nền tảng trên sự quan tâm đến dữ liệu thực, gần như khía cạnh vật lý của nó. Lấy những thứ từ thế giới thực và mô hình hóa chúng để tạo ra điều gì đó có ý nghĩa. Chúng ta có thể thực sự thiết kế một thế giới tốt hơn thông qua mô hình hóa có ý nghĩa. Vì vậy, toán học đã cung cấp cho tôi một nền tảng để chứng minh những điều, khoa học máy tính giúp tôi thấy những gì có thể và không thể làm, và học máy cho phép tôi mô hình hóa những khái niệm này trong thế giới.

Cho đến gần đây, bạn là Giáo sư Khoa học Máy tính và Toán học tại Đại học Harvard, những kết luận chính nào bạn có được từ kinh nghiệm này?

Kết luận lớn nhất của tôi từ việc là thành viên giảng dạy tại Harvard là nó phát triển sự thèm khát của bạn trong việc làm những việc lớn. Harvard truyền thống có một đội ngũ giảng dạy nhỏ, và kỳ vọng từ các giảng viên trong quá trình thăng tiến là phải giải quyết các vấn đề lớn và tạo ra các lĩnh vực mới. Bạn phải táo bạo. Điều này cuối cùng trở thành sự chuẩn bị tuyệt vời cho việc khởi động một công ty khởi nghiệp tạo ra một danh mục mới và định nghĩa một không gian mới. Tôi không nhất thiết khuyên bạn nên đi qua quá trình thăng tiến tại Harvard trước – nhưng nếu bạn sống sót sau đó, việc xây dựng một công ty khởi nghiệp sẽ dễ dàng hơn.

Có thể bạn mô tả khoảnh khắc ‘aha’ của mình khi bạn nhận ra rằng các hệ thống AI tinh vi dễ bị lỗi dữ liệu, với một số hậu quả có thể rất sâu rộng?

Khi tôi là sinh viên nghiên cứu tại UC Berkeley, tôi đã dành một chút thời gian để thực hiện một công ty khởi nghiệp xây dựng các mô hình học máy cho tiếp thị trong mạng xã hội. Đây là vào năm 2010. Chúng tôi đã có một lượng lớn dữ liệu từ mạng xã hội, và chúng tôi đã mã hóa tất cả các mô hình từ đầu. Các tác động tài chính đối với các nhà bán lẻ là khá đáng kể, vì vậy chúng tôi đã theo dõi sát sao hiệu suất của các mô hình. Vì chúng tôi sử dụng dữ liệu từ mạng xã hội, có rất nhiều lỗi trong dữ liệu đầu vào, cũng như sự thay đổi. Chúng tôi thấy rằng những lỗi nhỏ trong dữ liệu đầu vào có thể dẫn đến những thay đổi lớn trong đầu ra của mô hình và có thể dẫn đến những kết quả tài chính không tốt cho các nhà bán lẻ sử dụng sản phẩm.

Khi tôi chuyển sang làm việc trên Google+ (cho những người trong chúng ta nhớ), tôi đã thấy những hiệu ứng tương tự. Một cách ấn tượng hơn, trong các hệ thống như AdWords, những hệ thống này dự đoán khả năng người dùng nhấp vào một quảng cáo cho các từ khóa, chúng tôi nhận thấy rằng những lỗi nhỏ trong dữ liệu đầu vào có thể dẫn đến những dự đoán rất kém. Khi bạn chứng kiến vấn đề này ở quy mô của Google, bạn nhận ra rằng vấn đề này là phổ biến.

Các kinh nghiệm này đã định hình mạnh mẽ sự tập trung nghiên cứu của tôi, và tôi đã dành thời gian của mình tại Harvard để điều tra lý do tại sao các mô hình AI mắc lỗi và, quan trọng hơn, cách thiết kế các thuật toán có thể ngăn chặn các mô hình mắc lỗi. Điều này, tất nhiên, đã dẫn đến nhiều khoảnh khắc ‘aha’ hơn và, cuối cùng, đến việc tạo ra Robust Intelligence.

Có thể bạn chia sẻ câu chuyện về sự ra đời của Robust Intelligence?

Robust Intelligence bắt đầu với nghiên cứu về một vấn đề lý thuyết ban đầu: những gì chúng ta có thể đảm bảo về các quyết định được đưa ra bằng các mô hình AI. Kojin là một sinh viên tại Harvard, và chúng tôi đã làm việc cùng nhau, ban đầu viết các bài báo nghiên cứu. Vì vậy, nó bắt đầu bằng việc viết các bài báo mô tả những gì về cơ bản có thể và không thể xảy ra về mặt lý thuyết. Những kết quả này sau đó tiếp tục với một chương trình để thiết kế các thuật toán và mô hình có khả năng chống lại các lỗi AI. Chúng tôi sau đó xây dựng các hệ thống có thể chạy các thuật toán này trong thực tế. Sau đó, việc bắt đầu một công ty nơi các tổ chức có thể sử dụng một hệ thống như vậy là một bước tiếp theo tự nhiên.

Nhiều vấn đề mà Robust Intelligence giải quyết là các lỗi im lặng, những lỗi này là gì và điều gì khiến chúng trở nên nguy hiểm?

Trước khi đưa ra định nghĩa kỹ thuật về lỗi im lặng, điều đáng chú ý là chúng ta nên hiểu tại sao chúng ta lại quan tâm đến việc các mô hình AI mắc lỗi. Lý do chúng ta quan tâm đến việc các mô hình AI mắc lỗi là do hậu quả của những lỗi này. Thế giới của chúng ta đang sử dụng AI để tự động hóa các quyết định quan trọng: ai nhận được một khoản vay kinh doanh và với lãi suất nào, ai nhận được bảo hiểm y tế và với mức phí nào, khu vực nào cảnh sát nên tuần tra, ai là ứng viên hàng đầu cho một công việc, làm thế nào chúng ta nên tổ chức an ninh sân bay, v.v. Việc các mô hình AI dễ mắc lỗi có nghĩa là khi tự động hóa các quyết định quan trọng này, chúng ta sẽ thừa hưởng một lượng rủi ro lớn. Tại Robust Intelligence, chúng tôi gọi điều này là “Rủi ro AI” và sứ mệnh của công ty chúng tôi là loại bỏ Rủi ro AI.

Lỗi im lặng là những lỗi của mô hình AI nơi mô hình AI nhận được dữ liệu đầu vào và tạo ra một dự đoán hoặc quyết định sai hoặc bị thiên vị làm đầu ra. Vì vậy, trên bề mặt, mọi thứ đối với hệ thống看起来 đều ổn, vì mô hình AI đang làm những gì nó được thiết kế để làm từ góc độ chức năng. Nhưng dự đoán hoặc quyết định là sai. Những lỗi này là im lặng vì hệ thống không biết có lỗi. Điều này có thể tồi tệ hơn trường hợp mô hình AI không tạo ra đầu ra, vì nó có thể mất một thời gian dài để các tổ chức nhận ra rằng hệ thống AI của họ bị lỗi. Sau đó, rủi ro AI trở thành thất bại AI, điều này có thể có hậu quả nghiêm trọng.

Robust Intelligence đã thiết kế một Tường lửa AI, một ý tưởng từng được coi là không thể. Tại sao đây lại là một thách thức kỹ thuật?

Một lý do Tường lửa AI là một thách thức là vì nó đi ngược lại với mô hình mà cộng đồng học máy đã có. Mô hình trước đây của cộng đồng học máy là để loại bỏ lỗi, cần phải cung cấp nhiều dữ liệu hơn, bao gồm cả dữ liệu xấu cho mô hình. Bằng cách làm như vậy, mô hình sẽ tự đào tạo và học cách tự sửa lỗi. Vấn đề với cách tiếp cận này là nó khiến độ chính xác của mô hình giảm đáng kể. Kết quả tốt nhất được biết đến đối với hình ảnh, ví dụ, khiến độ chính xác của mô hình AI giảm từ 98,5% xuống khoảng 37%.

Tường lửa AI cung cấp một giải pháp khác. Chúng tôi tách vấn đề xác định lỗi khỏi vai trò tạo dự đoán, có nghĩa là tường lửa có thể tập trung vào một nhiệm vụ cụ thể: xác định xem một điểm dữ liệu có thể tạo ra một dự đoán sai.

Điều này là một thách thức vì sự khó khăn của việc đưa ra dự đoán về một điểm dữ liệu duy nhất. Có rất nhiều lý do tại sao mô hình mắc lỗi, vì vậy việc xây dựng một công nghệ có thể dự đoán những lỗi này không phải là một nhiệm vụ dễ dàng. Chúng tôi rất may mắn khi có những kỹ sư như chúng tôi.

Làm thế nào hệ thống có thể giúp ngăn chặn thiên vị AI?

Thiên vị mô hình đến từ sự chênh lệch giữa dữ liệu mà mô hình được đào tạo và dữ liệu nó sử dụng để đưa ra dự đoán. Quay lại rủi ro AI, thiên vị là một vấn đề lớn được quy cho lỗi im lặng. Ví dụ, đây thường là một vấn đề với các dân số bị đại diện thấp. Một mô hình có thể có thiên vị vì nó đã thấy ít dữ liệu từ dân số đó, điều này sẽ ảnh hưởng đáng kể đến hiệu suất của mô hình và độ chính xác của dự đoán. Tường lửa AI có thể cảnh báo các tổ chức về những sự không nhất quán trong dữ liệu và giúp mô hình đưa ra quyết định chính xác.

Có những rủi ro nào khác mà Tường lửa AI giúp ngăn chặn?

Bất kỳ công ty nào sử dụng AI để tự động hóa quyết định, đặc biệt là quyết định quan trọng, tự động giới thiệu rủi ro. Dữ liệu xấu có thể là nhỏ như nhập một số không thay vì một và vẫn có thể dẫn đến hậu quả đáng kể. Cho dù rủi ro là dự đoán y tế không chính xác hay dự đoán sai về cho vay, Tường lửa AI giúp các tổ chức ngăn chặn rủi ro hoàn toàn.

Có điều gì khác mà bạn muốn chia sẻ về Robust Intelligence?

Robust Intelligence đang phát triển nhanh và chúng tôi nhận được nhiều ứng viên xuất sắc cho các vị trí. Nhưng điều tôi thực sự muốn nhấn mạnh cho những người đang xem xét việc ứng tuyển là rằng phẩm chất quan trọng nhất chúng tôi tìm kiếm ở ứng viên là đam mê với sứ mệnh. Chúng tôi gặp nhiều ứng viên có kỹ năng kỹ thuật mạnh, vì vậy điều đó thực sự phụ thuộc vào việc hiểu liệu họ có thực sự đam mê với việc loại bỏ rủi ro AI để làm cho thế giới trở nên an toàn và tốt hơn hay không.

Trong thế giới mà chúng ta đang hướng tới, nhiều quyết định hiện đang được thực hiện bởi con người sẽ được tự động hóa. Cho dù chúng ta có thích hay không, đó là một thực tế. Dữ liệu đó, tất cả chúng ta tại Robust Intelligence muốn các quyết định tự động được thực hiện một cách có trách nhiệm. Vì vậy, bất kỳ ai phấn khích về việc tạo ra tác động, hiểu cách điều này có thể ảnh hưởng đến cuộc sống của mọi người, là ứng viên chúng tôi đang tìm kiếm để tham gia Robust Intelligence. Chúng tôi đang tìm kiếm sự đam mê đó. Chúng tôi đang tìm kiếm những người sẽ tạo ra công nghệ mà toàn thế giới sẽ sử dụng.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, tôi đã thích học về quan điểm của bạn về việc ngăn chặn thiên vị AI và về sự cần thiết của Tường lửa AI, độc giả muốn tìm hiểu thêm nên truy cập Robust Intelligence.