Thiết kế có Trách nhiệm – Tại sao Trí tuệ nhân tạo Phải Đặt con người lên Hàng đầu

Trí tuệ nhân tạo đang thay đổi những trải nghiệm kỹ thuật số định hình cuộc sống hàng ngày của chúng ta. Từ những khuyến nghị sản phẩm được cá nhân hóa và chăm sóc sức khỏe dự đoán đến lái xe tự động và thậm chí cả hàng đợi công viên giải trí, trí tuệ nhân tạo đang khiến những trải nghiệm này trở nên rẻ hơn, hiệu quả hơn và thậm chí thú vị hơn. Ít nhất, đó là lời hứa.

Nhưng quá thường, chúng ta gặp phải những tiêu đề về những “sự cố trí tuệ nhân tạo” – những khoảnh khắc khi người dùng cảm thấy bị hiểu lầm, bối rối hoặc đơn giản là không được hiểu. Và khi niềm tin bị phá vỡ, tiềm năng của trí tuệ nhân tạo để trở nên真正 ý nghĩa và hiệu quả cũng bị phá vỡ.

Sự tin tưởng của công chúng đang bị xói mòn. Tại sao? Bởi vì hầu hết các hệ thống không được thiết kế với trải nghiệm con người trong tâm trí – chúng được thiết kế cho những gì nhanh, có thể mở rộng và có lợi. Đó nên là một nguyên nhân quan trọng để các công ty mọi quy mô quan tâm khi họ đầu tư vào trí tuệ nhân tạo.

Để xây dựng niềm tin, các công ty cần phải dừng lại và đặt ra những câu hỏi sâu sắc hơn: Tại sao chúng ta xây dựng hệ thống này? Nó có nên được xây dựng ngay từ đầu? Ngắn gọn, chúng ta có đang thiết kế trí tuệ nhân tạo để phục vụ nhu cầu con người – hay buộc con người phải thích nghi với logic máy móc?

Khoảng cách Tin cậy với Trí tuệ nhân tạo

Quá thường, trí tuệ nhân tạo được phát triển trong môi trường kỹ thuật cô lập, nơi thành công được đo lường bằng độ chính xác hoặc tốc độ, và không tác động xã hội hoặc khả năng sử dụng. Tư duy đạo đức, một thành phần cốt lõi của niềm tin, không được tự động tích hợp vào quy trình phát triển trí tuệ nhân tạo. Sự ngắt kết nối này dẫn đến các hệ thống có thể là đổi mới trong lý thuyết, nhưng không đạt được trong thực tế.

Hãy lấy trợ lý ảo của Air Canada làm ví dụ, nó đã cung cấp thông tin không chính xác cho khách hàng về chính sách giá vé tang lễ, chỉ để công ty sau đó cho rằng họ không chịu trách nhiệm về những gì trợ lý ảo nói. Hay trợ lý ảo của Meta, nó đã cung cấp các tuyên bố không chính xác về kết quả tìm kiếm. Những ví dụ này phản ánh hơn là những sai sót kỹ thuật; chúng暴露 một sự thất bại hệ thống trong việc thiết kế các ứng dụng trí tuệ nhân tạo với sự đồng cảm, thanh chắn an toàn và ngữ cảnh thực tế.

Công chúng đã chú ý. Theo Trung tâm Nghiên cứu Pew, 59% người Mỹ và 55% chuyên gia trí tuệ nhân tạo có rất ít niềm tin vào các công ty Mỹ để phát triển trí tuệ nhân tạo một cách có trách nhiệm. Đó là một khoảng cách tin cậy mà chúng ta không thể bỏ qua.

Thiết kế lấy con người làm trung tâm không phải là một sự xa xỉ

Thiết kế không phải là trang trí cho trí tuệ nhân tạo. Nó là nền tảng cho cách nó hoạt động và cách nó được nhận thức bởi người dùng cuối. Thiết kế lấy con người làm trung tâm bắt đầu bằng việc hiểu những người chúng ta thiết kế cho: mục tiêu, thất vọng, giá trị và thực tế sống của họ.

Điều quan trọng trong quá trình thiết kế là phải đặt ra những câu hỏi rất cụ thể để đảm bảo công nghệ phục vụ nhu cầu con người, không phải ngược lại, định nghĩa:

• Ai là người chúng ta thiết kế cho?
• Mục tiêu, giá trị và thách thức của họ là gì?
• Người dùng tương tác với hệ thống như thế nào về mặt cảm xúc và chức năng?
• Sản phẩm có đáng tin cậy và làm những gì nó nói nó sẽ làm không?
• Nó có đang thúc đẩy sự hòa nhập và khả năng tiếp cận cho tất cả các loại người không?

Những câu hỏi này không phải là trừu tượng. Chúng trực tiếp định hình cách trí tuệ nhân tạo hoạt động trong thế giới thực. Và, trong các ngữ cảnh có rủi ro cao như chăm sóc sức khỏe, an ninh hoặc giáo dục, chúng có thể quyết định liệu một hệ thống có hòa nhập và công bằng hay gây nhầm lẫn và có hại.

Thiết kế Tốt hơn trông như thế nào

Các nhà thiết kế kết nối nhu cầu con người với khả năng của máy móc thông qua quá trình tạo mẫu, thử nghiệm và lặp lại, điều này đảm bảo sản phẩm có ý nghĩa đối với những người sử dụng chúng. Điều đó bao gồm việc đặt câu hỏi về cách trí tuệ nhân tạo giao tiếp, những quyết định nào được tự động hóa và mức độ kiểm soát nào được cung cấp cho người dùng.

Hãy lấy công viên giải trí làm ví dụ. Trí tuệ nhân tạo đang được triển khai vào mùa hè này để giảm thời gian chờ đợi, cá nhân hóa trải nghiệm và quản lý dòng chảy đám đông. Đó là một trường hợp sử dụng đầy hứa hẹn. Nhưng thành công không chỉ là về hiệu suất. Một hệ thống được thiết kế tốt sẽ ưu tiên trải nghiệm con người, không chỉ là hiệu quả. Điều đó có nghĩa là thông điệp minh bạch, giao diện trực quan, tùy chọn rõ ràng và các tùy chọn dự phòng cho người dùng có nhu cầu đặc biệt (như gia đình không có điện thoại thông minh hoặc khách có nhu cầu về khả năng tiếp cận).

Thử nghiệm Yếu tố Con người

Trong thiết kế trí tuệ nhân tạo lấy con người làm trung tâm, thử nghiệm là rất quan trọng. Lý tưởng nhất là đưa người dùng tiềm năng vào quá trình sớm và thường xuyên, với mục đích xác định các điểm mù tiềm ẩn. Khi người dùng không thể hiểu hoặc tin tưởng một hệ thống, hệ thống đó đã thất bại, bất kể backend của nó có ấn tượng như thế nào.

Thử nghiệm cũng đảm bảo khả năng tiếp cận, thường bị bỏ qua trong các trải nghiệm được thúc đẩy bởi trí tuệ nhân tạo. Một trợ lý ảo có thể hoạt động về mặt kỹ thuật, nhưng nếu nó không phục vụ người dùng đa dạng về thần kinh hoặc người nói không phải tiếng bản địa, thì nó không thực sự hoạt động. Thiết kế hòa nhập không chỉ có lợi cho các nhóm thiểu số, mà còn củng cố sản phẩm cho bất kỳ ai và mọi người.

Trách nhiệm Bắt đầu với Thiết kế

Các chính sách có thể giúp thiết lập ranh giới và ngăn chặn những kết quả tồi tệ nhất. Vì vậy, các khuôn khổ như Đạo luật Trí tuệ nhân tạo của EU và Bản thiết kế cho Quyền của Trí tuệ nhân tạo là những bước quan trọng. Nhưng tuân thủ chỉ là sàn nhà. Thiết kế là cách chúng ta đạt đến trần nhà.

Các công ty phải vượt ra ngoài danh sách kiểm tra để xây dựng các hệ thống trí tuệ nhân tạo hỗ trợ phẩm giá, quyền lực và giám sát. Điều đó có nghĩa là chống lại sự cám dỗ để tự động hóa hoàn toàn phán quyết của con người và thay vào đó thiết kế các công cụ tăng cường nó. Trí tuệ nhân tạo có trách nhiệm không xóa bỏ sự kiểm soát của con người; ngược lại, nó tăng cường nó.

Công việc này không chỉ là kỹ thuật. Nó đòi hỏi các đội đa ngành gồm các nhà thiết kế, kỹ sư, chuyên gia chính sách và nhà đạo đức học làm việc cùng nhau từ ngày đầu tiên. Nó có nghĩa là thiết kế với con người, không chỉ cho họ.

Vai trò của Nhà thiết kế trong việc Định hình Trí tuệ nhân tạo

Các nhà thiết kế đóng một vai trò độc đáo trong việc định hình quỹ đạo của trí tuệ nhân tạo. Họ là những người dịch có khả năng nói được cả logic cấu trúc của máy móc và sự phức tạp của cuộc sống con người. Các nhà thiết kế được đào tạo để nhận ra các điểm ma sát, tín hiệu cảm xúc và ý nghĩa xã hội mà dữ liệu alone không thể nắm bắt.

Tương tự như các câu hỏi cụ thể đảm bảo công nghệ phục vụ nhu cầu con người, các nhà thiết kế phải vận động cho các câu hỏi không phù hợp một cách hoàn hảo với dữ liệu đào tạo, như:

• Nó làm cho ai cảm thấy như thế nào?
• Người dùng có kiểm soát không?
• Điều gì xảy ra khi mọi thứ đi sai?

Quá thường, thiết kế được đưa vào cuối quy trình trí tuệ nhân tạo để “làm cho nó trông tốt.” Nhưng sức mạnh thực sự của thiết kế là chiến lược. Nó nên định hình cách các vấn đề được định nghĩa ngay từ đầu, không chỉ là giao diện trông như thế nào.

Đặt con người lên Hàng đầu, không phải Máy móc

Trí tuệ nhân tạo không chỉ là một thách thức kỹ thuật, nó là một thách thức thiết kế. Và để đáp ứng nó, chúng ta phải tập trung vào các giá trị con người từ đầu.

Trí tuệ nhân tạo lấy con người làm trung tâm không phải là một sự xa xỉ – nó là một điều cần thiết. Nó tạo ra các hệ thống đáng tin cậy, đáng tin cậy, không thiên vị, có thể kiểm toán và tuân thủ. Nhưng hơn thế, nó xây dựng các sản phẩm có lợi cho người dùng cuối và nâng cao năng suất và tiềm năng của con người.

Chúng ta có công cụ và chúng ta có trách nhiệm thiết kế một tương lai nơi công nghệ phục vụ con người, không phải ngược lại. Tương lai đó bắt đầu với thiết kế.