Nora Petrova, Kỹ sư Học máy và Tư vấn Trí tuệ Nhân tạo tại Prolific – Loạt Phỏng vấn

Nora Petrova, là Kỹ sư Học máy và Tư vấn Trí tuệ Nhân tạo tại Prolific. Prolific được thành lập vào năm 2014 và đã có khách hàng như Google (GOOGL ), Đại học Stanford, Đại học Oxford, King’s College London và Ủy ban Châu Âu, sử dụng mạng lưới người tham gia để kiểm tra sản phẩm mới, đào tạo hệ thống trí tuệ nhân tạo trong các lĩnh vực như theo dõi mắt và xác định xem các ứng dụng trí tuệ nhân tạo hướng đến con người có hoạt động như mong muốn hay không.

Bạn có thể chia sẻ một số thông tin về nền tảng của bạn tại Prolific và sự nghiệp đến nay? Điều gì đã thu hút bạn đến với trí tuệ nhân tạo?

Vai trò của tôi tại Prolific được chia giữa tư vấn về các trường hợp sử dụng trí tuệ nhân tạo và cơ hội, và là một kỹ sư học máy thực hành. Tôi bắt đầu sự nghiệp của mình trong lĩnh vực Kỹ thuật Phần mềm và đã dần chuyển sang Học máy. Tôi đã dành hầu hết 5 năm qua để tập trung vào các trường hợp sử dụng và vấn đề của Xử lý Ngôn ngữ Tự nhiên.

Điều gì đã thu hút tôi đến với trí tuệ nhân tạo ban đầu là khả năng học hỏi từ dữ liệu và liên kết với cách chúng ta, con người, học hỏi và cách não bộ của chúng ta được cấu trúc. Tôi nghĩ Học máy và Khoa học thần kinh có thể bổ sung cho nhau và giúp chúng ta hiểu rõ hơn về cách xây dựng các hệ thống trí tuệ nhân tạo có thể điều hướng thế giới, thể hiện sự sáng tạo và mang lại giá trị cho xã hội.

Những vấn đề thiên vị trí tuệ nhân tạo lớn nhất mà bạn biết là gì?

Thiên vị là một phần固 có trong dữ liệu chúng ta cung cấp cho các mô hình trí tuệ nhân tạo và loại bỏ nó hoàn toàn là rất khó. Tuy nhiên, điều quan trọng là chúng ta phải nhận thức được các thiên vị trong dữ liệu và tìm cách giảm thiểu các loại thiên vị có hại trước khi chúng ta giao nhiệm vụ quan trọng cho các mô hình trong xã hội. Các vấn đề lớn nhất chúng ta đang đối mặt là các mô hình duy trì các khuôn mẫu có hại, thành kiến hệ thống và bất công trong xã hội. Chúng ta nên cẩn thận về cách các mô hình trí tuệ nhân tạo này sẽ được sử dụng và ảnh hưởng của chúng đến người dùng, và đảm bảo rằng chúng an toàn trước khi phê duyệt chúng cho các trường hợp sử dụng nhạy cảm.

Một số lĩnh vực nổi bật mà các mô hình trí tuệ nhân tạo đã thể hiện thiên vị có hại bao gồm, việc phân biệt đối xử với các nhóm dưới đại diện trong tuyển sinh trường học và đại học, và các khuôn mẫu giới tính ảnh hưởng tiêu cực đến việc tuyển dụng phụ nữ. Không chỉ vậy, một thuật toán tư pháp hình sự đã được phát hiện nhãn mác các bị cáo da đen là “nguy cơ cao” gần gấp đôi so với những người da trắng ở Mỹ, trong khi công nghệ nhận dạng khuôn mặt vẫn còn tỷ lệ lỗi cao cho các nhóm thiểu số do thiếu dữ liệu đào tạo đại diện.

Các ví dụ trên chỉ bao gồm một phần nhỏ của các thiên vị được thể hiện bởi các mô hình trí tuệ nhân tạo và chúng ta có thể dự đoán các vấn đề lớn hơn sẽ xuất hiện trong tương lai nếu chúng ta không tập trung vào việc giảm thiểu thiên vị ngay bây giờ. Điều quan trọng là phải nhớ rằng các mô hình trí tuệ nhân tạo học hỏi từ dữ liệu chứa các thiên vị này do quyết định của con người bị ảnh hưởng bởi các thiên vị vô thức và không kiểm soát được. Trong nhiều trường hợp, việc dựa vào quyết định của con người có thể không loại bỏ được thiên vị. Việc giảm thiểu thực sự các thiên vị sẽ liên quan đến việc hiểu cách chúng hiện diện trong dữ liệu chúng ta sử dụng để đào tạo mô hình, cách ly các yếu tố đóng góp vào dự đoán thiên vị, và quyết định tập thể về những gì chúng ta muốn dựa vào để đưa ra quyết định quan trọng. Phát triển một tập hợp các tiêu chuẩn để chúng ta có thể đánh giá mô hình về an toàn trước khi chúng được sử dụng cho các trường hợp sử dụng nhạy cảm sẽ là một bước tiến quan trọng.

Ảo giác trí tuệ nhân tạo là một vấn đề lớn với bất kỳ loại trí tuệ nhân tạo tạo sinh nào. Bạn có thể thảo luận về cách con người trong vòng lặp (HITL) có thể giảm thiểu các vấn đề này?

Ảo giác trong các mô hình trí tuệ nhân tạo là vấn đề trong các trường hợp sử dụng cụ thể của trí tuệ nhân tạo tạo sinh nhưng điều quan trọng là phải nhận ra rằng chúng không phải là vấn đề tự thân. Trong một số trường hợp sử dụng sáng tạo của trí tuệ nhân tạo tạo sinh, ảo giác là được hoan nghênh và góp phần tạo ra một phản hồi sáng tạo và thú vị hơn.

Chúng có thể gây vấn đề trong các trường hợp sử dụng mà sự phụ thuộc vào thông tin thực tế là cao. Ví dụ, trong y tế, nơi ra quyết định mạnh mẽ là chìa khóa, cung cấp cho các chuyên gia y tế thông tin thực tế đáng tin cậy là điều quan trọng.

HITL đề cập đến các hệ thống cho phép con người cung cấp phản hồi trực tiếp cho mô hình về các dự đoán dưới một mức độ tin cậy nhất định. Trong bối cảnh của ảo giác, HITL có thể được sử dụng để giúp mô hình học cách xác định mức độ chắc chắn mà chúng nên có cho các trường hợp sử dụng khác nhau trước khi đưa ra phản hồi. Các ngưỡng này sẽ thay đổi tùy thuộc vào trường hợp sử dụng và việc dạy cho mô hình về sự khác biệt trong độ nghiêm ngặt cần thiết để trả lời các câu hỏi từ các trường hợp sử dụng khác nhau sẽ là một bước quan trọng để giảm thiểu các loại ảo giác có vấn đề. Ví dụ, trong một trường hợp sử dụng pháp lý, con người có thể chỉ cho các mô hình trí tuệ nhân tạo thấy rằng kiểm tra thực tế là một bước cần thiết khi trả lời các câu hỏi dựa trên các tài liệu pháp lý phức tạp với nhiều điều khoản và điều kiện.

Làm thế nào các công nhân trí tuệ nhân tạo như người chú thích dữ liệu giúp giảm thiểu các vấn đề thiên vị tiềm năng?

Các công nhân trí tuệ nhân tạo có thể giúp nhận diện các thiên vị hiện diện trong dữ liệu. Một khi thiên vị đã được xác định, sẽ dễ dàng hơn để nghĩ ra các chiến lược giảm thiểu. Người chú thích dữ liệu cũng có thể giúp giảm thiểu thiên vị. Ví dụ, đối với các nhiệm vụ Xử lý Ngôn ngữ Tự nhiên, họ có thể giúp bằng cách cung cấp các cách diễn đạt thay thế cho các đoạn văn bản có vấn đề để giảm thiểu thiên vị trong ngôn ngữ. Ngoài ra, sự đa dạng trong các công nhân trí tuệ nhân tạo có thể giúp giảm thiểu các vấn đề về thiên vị trong việc gắn nhãn.

Làm thế nào bạn đảm bảo rằng các công nhân trí tuệ nhân tạo không vô tình đưa thiên vị của con người vào hệ thống trí tuệ nhân tạo?

Đây là một vấn đề phức tạp đòi hỏi sự xem xét cẩn thận. Loại bỏ hoàn toàn các thiên vị của con người là gần như không thể và các công nhân trí tuệ nhân tạo có thể vô tình đưa thiên vị của họ vào các mô hình trí tuệ nhân tạo, vì vậy điều quan trọng là phải phát triển các quy trình hướng dẫn công nhân thực hành tốt nhất.

Một số bước có thể được thực hiện để giữ thiên vị của con người ở mức tối thiểu bao gồm:

• Đào tạo toàn diện cho các công nhân trí tuệ nhân tạo về các thiên vị vô thức và cung cấp cho họ các công cụ để nhận diện và quản lý thiên vị của họ trong quá trình gắn nhãn.
• Danh sách kiểm tra để nhắc nhở các công nhân trí tuệ nhân tạo xác minh phản hồi của họ trước khi gửi.
• Chạy một đánh giá để kiểm tra mức độ hiểu biết của các công nhân trí tuệ nhân tạo, nơi họ được hiển thị các ví dụ về phản hồi trên các loại thiên vị khác nhau và được yêu cầu chọn phản hồi ít thiên vị nhất.

Các nhà quản lý trên toàn thế giới đang có ý định quản lý đầu ra trí tuệ nhân tạo, theo quan điểm của bạn, họ hiểu sai điều gì và điều gì họ làm đúng?

Điều quan trọng là phải bắt đầu bằng cách nói rằng đây là một vấn đề rất khó và không ai đã tìm thấy giải pháp. Xã hội và trí tuệ nhân tạo sẽ cả hai tiến化 và ảnh hưởng lẫn nhau theo những cách rất khó dự đoán. Một phần của chiến lược hiệu quả để tìm ra các thực tiễn quản lý mạnh mẽ và hữu ích là chú ý đến những gì đang xảy ra trong trí tuệ nhân tạo, cách mọi người phản ứng với nó và những ảnh hưởng nó có trên các ngành công nghiệp khác nhau.

Tôi nghĩ một chướng ngại vật quan trọng đối với việc quản lý hiệu quả đầu ra trí tuệ nhân tạo là sự thiếu hiểu biết về khả năng và hạn chế của các mô hình trí tuệ nhân tạo, và cách chúng hoạt động. Điều này, đến lượt, làm cho việc dự đoán chính xác các hậu quả mà các mô hình này sẽ có trên các lĩnh vực và phân khúc xã hội khác nhau trở nên khó khăn hơn. Một lĩnh vực khác đang thiếu là tư duy lãnh đạo về cách liên kết các mô hình trí tuệ nhân tạo với các giá trị của con người và an toàn trông như thế nào trong các điều khoản cụ thể.

Các nhà quản lý đã tìm kiếm sự hợp tác với các chuyên gia trong lĩnh vực trí tuệ nhân tạo, đã cẩn thận để không kìm hãm sự đổi mới với các quy tắc quá nghiêm ngặt xung quanh trí tuệ nhân tạo, và đã bắt đầu xem xét các hậu quả của trí tuệ nhân tạo đối với việc mất việc làm, những điều này đều là các lĩnh vực tập trung quan trọng. Điều quan trọng là phải cẩn thận khi suy nghĩ của chúng ta về quản lý trí tuệ nhân tạo làm rõ theo thời gian và để liên quan đến càng nhiều người càng tốt để tiếp cận vấn đề này theo cách dân chủ.

Làm thế nào các giải pháp của Prolific có thể giúp các doanh nghiệp giảm thiểu thiên vị trí tuệ nhân tạo và các vấn đề khác mà chúng ta đã thảo luận?

Việc thu thập dữ liệu cho các dự án trí tuệ nhân tạo chưa bao giờ là một quá trình được xem xét hoặc có chủ ý. Chúng ta đã từng thấy các phương pháp như thu thập dữ liệu, ngoài nước và các phương pháp khác. Tuy nhiên, cách chúng ta đào tạo trí tuệ nhân tạo là rất quan trọng và các mô hình thế hệ tiếp theo sẽ cần được xây dựng trên dữ liệu chất lượng cao, có chủ ý, từ những người thực sự và từ những người chúng ta có liên hệ trực tiếp. Đây là nơi Prolific đang tạo ra một dấu ấn.

Các lĩnh vực khác, như thăm dò dư luận, nghiên cứu thị trường hoặc nghiên cứu khoa học, đã học được điều này từ lâu. Khán giả bạn lấy mẫu từ có tác động lớn đến kết quả bạn nhận được. Trí tuệ nhân tạo đang bắt đầu theo kịp, và chúng ta đang đến một ngã rẽ hiện tại.

Bây giờ là thời điểm để bắt đầu quan tâm đến việc sử dụng các mẫu tốt hơn và làm việc với các nhóm đại diện hơn cho việc đào tạo và tinh chỉnh trí tuệ nhân tạo. Cả hai đều quan trọng để phát triển các mô hình an toàn, không thiên vị và liên kết.

Prolific có thể giúp cung cấp các công cụ phù hợp cho các doanh nghiệp để thực hiện các thí nghiệm trí tuệ nhân tạo một cách an toàn và để thu thập dữ liệu từ những người tham gia mà thiên vị được kiểm tra và giảm thiểu trên đường đi. Chúng tôi có thể giúp cung cấp hướng dẫn về các thực tiễn tốt nhất xung quanh thu thập dữ liệu, lựa chọn, bồi thường và đối xử công bằng với những người tham gia.

Quan điểm của bạn về tính minh bạch của trí tuệ nhân tạo là gì, người dùng có nên có thể xem dữ liệu mà một thuật toán trí tuệ nhân tạo được đào tạo trên đó không?

Tôi nghĩ có cả ưu và nhược điểm của tính minh bạch và một sự cân bằng tốt chưa được tìm thấy. Các công ty đang giữ lại thông tin về dữ liệu họ đã sử dụng để đào tạo các mô hình trí tuệ nhân tạo của mình do lo sợ bị kiện tụng. Những công ty khác đã làm việc để làm cho các mô hình trí tuệ nhân tạo của họ công khai và đã phát hành tất cả thông tin về dữ liệu họ đã sử dụng. Tính minh bạch đầy đủ mở ra nhiều cơ hội để khai thác các điểm yếu của các mô hình này. Bí mật hoàn toàn không giúp xây dựng niềm tin và liên quan đến xã hội trong việc xây dựng trí tuệ nhân tạo an toàn. Một điểm trung gian sẽ cung cấp đủ tính minh bạch để tạo niềm tin cho chúng ta rằng các mô hình trí tuệ nhân tạo đã được đào tạo trên dữ liệu chất lượng cao, phù hợp, mà chúng ta đã đồng ý. Chúng ta cần phải chú ý đến cách trí tuệ nhân tạo đang ảnh hưởng đến các ngành công nghiệp khác nhau và mở các cuộc đối thoại với các bên liên quan và đảm bảo rằng chúng ta phát triển các thực tiễn hoạt động cho mọi người.

Tôi cũng nghĩ rằng điều quan trọng là phải xem xét những gì người dùng sẽ tìm thấy thỏa mãn về tính giải thích được. Nếu họ muốn hiểu tại sao một mô hình đang tạo ra một phản hồi nhất định, việc cung cấp cho họ dữ liệu thô mà mô hình đã được đào tạo trên đó có thể không giúp trả lời câu hỏi của họ. Do đó, việc xây dựng các công cụ giải thích và diễn giải tốt là quan trọng.

Nghiên cứu về sự liên kết trí tuệ nhân tạo nhằm mục đích định hướng các hệ thống trí tuệ nhân tạo đến các mục tiêu, sở thích hoặc nguyên tắc đạo đức của con người. Bạn có thể thảo luận về cách các công nhân trí tuệ nhân tạo được đào tạo và cách này được sử dụng để đảm bảo rằng trí tuệ nhân tạo được liên kết tốt nhất có thể?

Đây là một lĩnh vực nghiên cứu đang hoạt động và vẫn chưa có sự đồng thuận về các chiến lược mà chúng ta nên sử dụng để liên kết các mô hình trí tuệ nhân tạo với các giá trị của con người hoặc thậm chí là tập hợp giá trị nào mà chúng ta nên liên kết chúng.

Các công nhân trí tuệ nhân tạo thường được yêu cầu đại diện một cách trung thực cho sở thích của họ và trả lời các câu hỏi về sở thích của họ một cách trung thực trong khi cũng tuân thủ các nguyên tắc về an toàn, không thiên vị, vô hại và hữu ích.

Về việc liên kết với các mục tiêu, nguyên tắc đạo đức hoặc giá trị, có nhiều cách tiếp cận đang được xem xét. Một ví dụ đáng chú ý là công việc của Viện Liên kết Nghĩa về Tinh chỉnh Dân chủ. Có một bài đăng tuyệt vời giới thiệu ý tưởng tại đây.

Cảm ơn vì cuộc phỏng vấn tuyệt vời và vì đã chia sẻ quan điểm của bạn về thiên vị trí tuệ nhân tạo, độc giả muốn tìm hiểu thêm nên truy cập Prolific.