Thiết kế có trách nhiệm – Tại sao AI phải đặt con người lên hàng đầu

Trí tuệ nhân tạo đang thay đổi những trải nghiệm kỹ thuật số định hình cuộc sống hàng ngày của chúng ta. Từ những khuyến nghị sản phẩm được cá nhân hóa và chăm sóc sức khỏe dự đoán đến lái xe tự động và thậm chí cả hàng đợi tại công viên giải trí, AI đang khiến những trải nghiệm này trở nên rẻ hơn, hiệu quả hơn và thậm chí thú vị hơn. Ít nhất, đó là lời hứa.

Tuy nhiên, chúng ta thường gặp phải những tiêu đề về những “sự cố AI” – những khoảnh khắc mà người dùng cảm thấy bị lừa dối, thất vọng hoặc đơn giản là không được hiểu. Và khi niềm tin bị phá vỡ, tiềm năng của AI để trở nên真正 ý nghĩa và hiệu quả cũng bị phá vỡ.

Sự tin tưởng của công chúng đang bị xói mòn. Tại sao? Bởi vì hầu hết các hệ thống không được thiết kế với trải nghiệm con người trong tâm trí – chúng được thiết kế cho những gì nhanh chóng, có thể mở rộng và có lợi nhuận. Điều đó nên là một lý do quan ngại lớn cho các công ty thuộc mọi quy mô đang đầu tư mạnh vào AI.

Để xây dựng niềm tin, các công ty cần phải dừng lại và đặt ra những câu hỏi sâu sắc hơn: Tại sao chúng ta xây dựng hệ thống này? Nó có nên được xây dựng từ đầu không? Tóm lại, chúng ta có đang thiết kế AI để phục vụ nhu cầu con người – hay ép buộc con người phải thích nghi với logic máy móc?

Khoảng cách tin cậy với AI

Quá thường, AI được phát triển trong môi trường kỹ thuật cô lập, nơi thành công được đo lường bằng độ chính xác hoặc tốc độ, và không tác động xã hội hoặc khả năng sử dụng. Tư duy đạo đức, một thành phần cốt lõi của niềm tin, không được tự động tích hợp vào quy trình phát triển AI. Sự mất kết nối này dẫn đến các hệ thống có thể là đổi mới trong lý thuyết, nhưng không đạt được trong thực tế.

Lấy trợ lý ảo của Air Canada làm ví dụ, nó đã cung cấp thông tin sai lệch cho khách hàng về chính sách giá vé tang lễ, chỉ để công ty lập luận rằng họ không chịu trách nhiệm về những gì trợ lý ảo nói. Hoặc trợ lý ảo AI của Meta, nó đã cung cấp các tuyên bố không chính xác trong kết quả tìm kiếm. Những ví dụ này phản ánh hơn là những lỗi kỹ thuật; chúng暴 lộ sự thất bại hệ thống trong việc thiết kế các ứng dụng AI với sự đồng cảm, hàng rào an toàn và ngữ cảnh thực tế.

Công chúng đã chú ý. Theo Trung tâm Nghiên cứu Pew, 59% người Mỹ và 55% chuyên gia AI có rất ít niềm tin vào khả năng của các công ty Mỹ trong việc phát triển AI một cách có trách nhiệm. Đó là một khoảng cách tin cậy mà chúng ta không thể bỏ qua.

Thiết kế lấy con người làm trung tâm không phải là một điều xa xỉ

Thiết kế không phải là trang trí cho AI. Nó là nền tảng cho cách nó hoạt động và cách nó được nhận thức bởi người dùng cuối. Thiết kế lấy con người làm trung tâm bắt đầu bằng việc hiểu những người chúng ta đang thiết kế cho: mục tiêu, thất vọng, giá trị và thực tế sống của họ.

Điều quan trọng trong quá trình thiết kế là phải đặt ra những câu hỏi rất cụ thể để đảm bảo công nghệ phục vụ nhu cầu con người, không phải ngược lại, định nghĩa:

• Ai là người chúng ta thiết kế cho?
• Mục tiêu, giá trị và thách thức của họ là gì?
• Người dùng tương tác với hệ thống như thế nào về mặt cảm xúc và chức năng?
• Sản phẩm có đáng tin cậy và có thực hiện những gì nó nói không?
• Nó có thúc đẩy sự hòa nhập và khả năng tiếp cận cho tất cả các loại người không?

Những câu hỏi này không phải là trừu tượng. Chúng trực tiếp định hình cách AI hoạt động trong thực tế. Và trong các ngữ cảnh có rủi ro cao như chăm sóc sức khỏe, an ninh hoặc giáo dục, chúng có thể quyết định liệu một hệ thống có hòa nhập và công bằng hay gây nhầm lẫn và có hại.

Thiết kế tốt hơn trông như thế nào

Các nhà thiết kế kết nối nhu cầu con người với khả năng của máy móc thông qua quá trình tạo mẫu, thử nghiệm và lặp lại, đảm bảo sản phẩm có ý nghĩa với những người sử dụng chúng. Điều đó bao gồm việc đặt câu hỏi về cách AI giao tiếp, những quyết định nào được tự động hóa và mức độ kiểm soát mà người dùng có.

Lấy công viên giải trí làm ví dụ. AI đang được triển khai vào mùa hè này để giảm thời gian chờ đợi, cá nhân hóa trải nghiệm và quản lý dòng người. Đó là một trường hợp sử dụng đầy hứa hẹn. Nhưng thành công không chỉ là về hiệu suất. Một hệ thống được thiết kế tốt sẽ ưu tiên trải nghiệm con người, không chỉ là hiệu quả. Điều đó có nghĩa là thông điệp minh bạch, giao diện trực quan, tùy chọn rõ ràng và các tùy chọn dự phòng cho người dùng có nhu cầu đặc biệt (như gia đình không có điện thoại thông minh hoặc khách có nhu cầu tiếp cận).

Cơ hội ở đây không chỉ là tối ưu hóa hoạt động kinh doanh về mặt hậu cần vì lợi ích của lợi nhuận; mà là nâng cao niềm vui, giảm ma sát và tạo ra những trải nghiệm chia sẻ cảm giác như魔法, không phải cơ học. Đó là một cơ hội cho thiết kế.

Thử nghiệm yếu tố con người

Trong thiết kế AI lấy con người làm trung tâm, thử nghiệm là rất quan trọng. Lý tưởng nhất là đưa người dùng tiềm năng vào quá trình sớm và thường xuyên, với mục đích xác định các điểm mù tiềm năng. Khi người dùng không thể hiểu hoặc tin tưởng một hệ thống, hệ thống đó đã thất bại, bất kể backend của nó có ấn tượng như thế nào.

Thử nghiệm cũng đảm bảo khả năng tiếp cận, thường bị bỏ qua trong các trải nghiệm được thúc đẩy bởi AI. Một trợ lý ảo có thể hoạt động về mặt kỹ thuật, nhưng nếu nó không phục vụ người dùng đa dạng về thần kinh hoặc người nói không bản địa, thì nó không thực sự hoạt động. Thiết kế hòa nhập không chỉ mang lại lợi ích cho các nhóm thiểu số; nó củng cố sản phẩm cho mọi người.

Trách nhiệm bắt đầu với thiết kế

Chính sách có thể giúp thiết lập ranh giới và ngăn chặn những kết quả tồi tệ nhất. Vì vậy, các khuôn khổ như Đạo luật AI của EU và Bản thiết kế cho Tuyên ngôn Quyền của AI là những bước quan trọng. Nhưng tuân thủ chỉ là sàn nhà. Thiết kế là cách chúng ta đạt đến trần nhà.

Các công ty phải đi vượt ra ngoài danh sách kiểm tra để xây dựng các hệ thống AI hỗ trợ phẩm giá, quyền lực và giám sát. Điều đó có nghĩa là chống lại sự cám dỗ để tự động hóa hoàn toàn phán quyết của con người, và thay vào đó thiết kế các công cụ tăng cường nó. AI có trách nhiệm không xóa bỏ quyền kiểm soát của con người; ngược lại, nó tăng cường nó.

Công việc này không chỉ là kỹ thuật. Nó đòi hỏi sự hợp tác của các đội đa ngành, bao gồm thiết kế, kỹ sư, chuyên gia chính sách và nhà đạo đức, tất cả đều làm việc cùng nhau từ ngày đầu tiên. Nó có nghĩa là thiết kế với người, không chỉ cho họ.

Vai trò của nhà thiết kế trong việc định hình AI

Các nhà thiết kế đóng vai trò độc đáo trong việc định hình quỹ đạo của AI. Họ là những người dịch có khả năng nói cả ngôn ngữ logic có cấu trúc của máy móc và sự phức tạp của cuộc sống con người. Các nhà thiết kế được đào tạo để nhận ra các điểm ma sát, tín hiệu cảm xúc và ý nghĩa xã hội mà dữ liệu alone không thể nắm bắt.

Tương tự như những câu hỏi cụ thể đảm bảo công nghệ phục vụ nhu cầu con người, các nhà thiết kế phải vận động cho những câu hỏi không phù hợp với dữ liệu đào tạo, như:

• Nó làm cho ai cảm thấy như thế nào?
• Người dùng có kiểm soát không?
• Cái gì xảy ra khi mọi thứ đi sai?

Quá thường, thiết kế được đưa vào cuối quy trình AI để “làm cho nó trông đẹp”. Nhưng sức mạnh thực sự của thiết kế là chiến lược. Nó nên định hình cách vấn đề được định nghĩa từ đầu, không chỉ cách giao diện trông như thế nào.

Con người trước, không phải máy móc trước

AI không chỉ là một thách thức kỹ thuật, nó là một thách thức thiết kế. Và để đáp ứng nó, chúng ta phải đặt trung tâm vào các giá trị con người từ đầu.

AI lấy con người làm trung tâm không phải là một điều xa xỉ – nó là một điều cần thiết. Nó tạo ra các hệ thống đáng tin cậy, đáng tin cậy, không thiên vị, có thể kiểm toán và tuân thủ. Nhưng hơn thế nữa, nó xây dựng các sản phẩm mang lại lợi ích cho người dùng cuối và nâng cao năng suất và tiềm năng của con người.

Chúng ta có công cụ và chúng ta có trách nhiệm thiết kế một tương lai nơi công nghệ phục vụ con người, không phải ngược lại. Tương lai đó bắt đầu với thiết kế.