Xây dựng niềm tin vào AI là cơ sở mới

AI đang phát triển nhanh chóng và giống như bất kỳ công nghệ nào đang phát triển nhanh chóng, nó đòi hỏi các ranh giới được xác định rõ ràng - rõ ràng, có chủ đích và được xây dựng không chỉ để hạn chế mà còn để bảo vệ và trao quyền. Điều này đặc biệt đúng vì AI gần như được nhúng vào mọi khía cạnh của cuộc sống cá nhân và nghề nghiệp của chúng ta.

Là những người dẫn đầu trong lĩnh vực AI, chúng ta đang đứng trước thời điểm then chốt. Một mặt, chúng ta có các mô hình học hỏi và thích ứng nhanh hơn bất kỳ công nghệ nào trước đây. Mặt khác, chúng ta có trách nhiệm ngày càng tăng để đảm bảo chúng hoạt động an toàn, toàn vẹn và có sự liên kết sâu sắc với con người. Đây không phải là một sự xa xỉ—mà là nền tảng của AI thực sự đáng tin cậy.

Niềm tin là quan trọng nhất ngày nay 

Vài năm trở lại đây đã chứng kiến ​​những tiến bộ đáng kể trong các mô hình ngôn ngữ, lý luận đa phương thức và AI tác nhân. Nhưng với mỗi bước tiến, rủi ro lại cao hơn. AI đang định hình các quyết định kinh doanh và chúng ta đã thấy rằng ngay cả những sai lầm nhỏ nhất cũng có hậu quả lớn.

Lấy AI trong phòng xử án làm ví dụ. Chúng ta đều đã nghe những câu chuyện về luật sư dựa vào các lập luận do AI tạo ra, chỉ để tìm ra các mô hình bịa đặt các vụ án, đôi khi dẫn đến hành động kỷ luật hoặc tệ hơn là mất giấy phép. Trên thực tế, các mô hình pháp lý đã được chứng minh là gây ảo giác trong ít nhất một trong sáu truy vấn chuẩn. Thậm chí còn đáng lo ngại hơn là những trường hợp như trường hợp bi thảm liên quan đến Character.AI, người đã cập nhật các tính năng an toàn, nơi một chatbot được liên kết với vụ tự tử của một thiếu niên. Những ví dụ này nêu bật những rủi ro thực tế của AI không được kiểm soát và trách nhiệm quan trọng mà chúng ta phải gánh vác với tư cách là những nhà lãnh đạo công nghệ, không chỉ xây dựng các công cụ thông minh hơn mà còn xây dựng một cách có trách nhiệm, với nhân tính là cốt lõi.

Trường hợp Character.AI là lời nhắc nhở nghiêm túc về lý do tại sao phải xây dựng lòng tin vào nền tảng của AI đàm thoại, nơi các mô hình không chỉ trả lời mà còn tham gia, diễn giải và thích ứng theo thời gian thực. Trong các tương tác bằng giọng nói hoặc có rủi ro cao, ngay cả một câu trả lời ảo giác hoặc phản hồi không đúng nhịp cũng có thể làm xói mòn lòng tin hoặc gây ra tác hại thực sự. Các rào cản – biện pháp bảo vệ về mặt kỹ thuật, thủ tục và đạo đức của chúng tôi – không phải là tùy chọn; chúng rất cần thiết để hành động nhanh chóng trong khi vẫn bảo vệ những gì quan trọng nhất: sự an toàn của con người, tính toàn vẹn về mặt đạo đức và lòng tin lâu dài.

Sự tiến hóa của AI an toàn, đồng bộ

Lan can không phải là điều mới mẻ. Trong phần mềm truyền thống, chúng ta luôn có các quy tắc xác thực, quyền truy cập dựa trên vai trò và kiểm tra tuân thủ. Nhưng AI đưa ra một cấp độ không thể đoán trước mới: hành vi mới nổi, đầu ra không mong muốn và lý luận không rõ ràng.

An toàn AI hiện đại hiện nay là đa chiều. Một số khái niệm cốt lõi bao gồm:

• Sự liên kết hành vi thông qua các kỹ thuật như Học tăng cường từ phản hồi của con người (RLHF) và AI theo Hiến pháp, khi bạn cung cấp cho mô hình một bộ "nguyên tắc" hướng dẫn — giống như một bộ quy tắc đạo đức nhỏ
• khuôn khổ quản trị tích hợp chính sách, đạo đức và chu kỳ đánh giá
• Công cụ thời gian thực để phát hiện, lọc hoặc sửa các phản hồi một cách năng động

Giải phẫu của lan can AI

McKinsey định nghĩa lan can là hệ thống được thiết kế để giám sát, đánh giá và hiệu chỉnh nội dung do AI tạo ra nhằm đảm bảo tính an toàn, chính xác và sự phù hợp về mặt đạo đức. Những lan can này dựa trên sự kết hợp giữa các thành phần dựa trên quy tắc và do AI điều khiển, chẳng hạn như trình kiểm tra, trình hiệu chỉnh và tác nhân điều phối, để phát hiện các vấn đề như thiên vị, Thông tin nhận dạng cá nhân (PII) hoặc nội dung có hại và tự động tinh chỉnh đầu ra trước khi phân phối.

Hãy chia nhỏ nó:

Trước khi lời nhắc đến được mô hình, các rào cản đầu vào sẽ đánh giá ý định, mức độ an toàn và quyền truy cập. Điều này bao gồm lọc và loại bỏ lời nhắc để từ chối bất kỳ thông tin nào không an toàn hoặc vô nghĩa, thực thi kiểm soát truy cập đối với các API nhạy cảm hoặc dữ liệu doanh nghiệp, và phát hiện xem ý định của người dùng có khớp với trường hợp sử dụng đã được phê duyệt hay không.

Khi mô hình tạo ra phản hồi, các rào cản đầu ra sẽ vào cuộc để đánh giá và tinh chỉnh phản hồi đó. Chúng lọc ra ngôn ngữ độc hại, lời nói thù địch hoặc thông tin sai lệch, ngăn chặn hoặc viết lại các phản hồi không an toàn theo thời gian thực và sử dụng các công cụ giảm thiểu thiên vị hoặc kiểm tra thực tế để giảm ảo giác và phản hồi thực tế trong bối cảnh thực tế.

Các rào cản hành vi chi phối cách các mô hình hoạt động theo thời gian, đặc biệt là trong các tương tác nhiều bước hoặc nhạy cảm với ngữ cảnh. Chúng bao gồm giới hạn bộ nhớ để ngăn chặn thao tác nhanh, hạn chế luồng mã thông báo để tránh các cuộc tấn công tiêm nhiễm và xác định ranh giới cho những gì mô hình không được phép làm.

Các hệ thống kỹ thuật bảo vệ này hoạt động tốt nhất khi được nhúng trên nhiều lớp của ngăn xếp AI.

Một cách tiếp cận theo mô-đun đảm bảo rằng các biện pháp bảo vệ là dự phòng và có khả năng phục hồi, phát hiện lỗi tại các điểm khác nhau và giảm nguy cơ lỗi tại các điểm đơn lẻ. Ở cấp độ mô hình, các kỹ thuật như RLHF và Constitutional AI giúp định hình hành vi cốt lõi, nhúng trực tiếp tính an toàn vào cách mô hình suy nghĩ và phản hồi. Lớp phần mềm trung gian bao quanh mô hình để chặn các đầu vào và đầu ra theo thời gian thực, lọc ngôn ngữ độc hại, quét dữ liệu nhạy cảm và định tuyến lại khi cần thiết. Ở cấp độ quy trình làm việc, các rào chắn phối hợp logic và quyền truy cập trên các quy trình nhiều bước hoặc các hệ thống tích hợp, đảm bảo AI tôn trọng quyền, tuân theo các quy tắc kinh doanh và hoạt động theo cách có thể dự đoán được trong các môi trường phức tạp.

Ở cấp độ rộng hơn, các rào cản hệ thống và quản trị cung cấp sự giám sát trong suốt vòng đời AI. Nhật ký kiểm toán đảm bảo tính minh bạch và khả năng truy xuất nguồn gốc, con người trong vòng lặp các quy trình đưa ra đánh giá của chuyên gia và kiểm soát truy cập xác định ai có thể sửa đổi hoặc gọi mô hình. Một số tổ chức cũng triển khai các hội đồng đạo đức để hướng dẫn phát triển AI có trách nhiệm với đầu vào liên chức năng.

AI đàm thoại: nơi các rào chắn thực sự được thử nghiệm

AI đàm thoại mang đến một loạt thách thức riêng biệt: tương tác thời gian thực, dữ liệu đầu vào của người dùng không thể đoán trước và một rào cản cao để duy trì cả tính hữu ích và tính an toàn. Trong các cài đặt này, các rào cản không chỉ là bộ lọc nội dung — chúng giúp định hình tông điệu, thực thi ranh giới và xác định thời điểm leo thang hoặc chuyển hướng các chủ đề nhạy cảm. Điều đó có thể có nghĩa là chuyển hướng các câu hỏi y tế đến các chuyên gia được cấp phép, phát hiện và giảm leo thang ngôn ngữ lăng mạ hoặc duy trì sự tuân thủ bằng cách đảm bảo các tập lệnh nằm trong các ranh giới quy định.

Trong môi trường tuyến đầu như dịch vụ khách hàng hoặc hoạt động thực địa, thậm chí còn ít chỗ cho sai sót hơn. Một câu trả lời ảo giác hoặc phản ứng không đúng có thể làm xói mòn lòng tin hoặc dẫn đến hậu quả thực sự. Ví dụ, một hãng hàng không lớn phải đối mặt với vụ kiện sau khi chatbot AI của công ty cung cấp cho khách hàng thông tin không chính xác về chiết khấu tang lễ. Cuối cùng, tòa án đã buộc công ty phải chịu trách nhiệm về phản hồi của chatbot. Không ai thắng trong những tình huống này. Đó là lý do tại sao chúng tôi, với tư cách là nhà cung cấp công nghệ, phải chịu hoàn toàn trách nhiệm về AI mà chúng tôi đưa vào tay khách hàng.

Xây dựng lan can là công việc của mọi người

Lan can bảo vệ không chỉ nên được coi là một kỳ tích kỹ thuật mà còn là một tư duy cần được nhúng vào mọi giai đoạn của chu kỳ phát triển. Trong khi tự động hóa có thể đánh dấu các vấn đề rõ ràng, thì phán đoán, sự đồng cảm và bối cảnh vẫn cần sự giám sát của con người. Trong các tình huống rủi ro cao hoặc mơ hồ, con người đóng vai trò thiết yếu để đảm bảo AI an toàn, không chỉ như một phương án dự phòng mà còn là một phần cốt lõi của hệ thống.

Để thực sự vận hành các rào chắn, chúng cần được đan xen vào vòng đời phát triển phần mềm, chứ không phải được thêm vào ở cuối. Điều đó có nghĩa là nhúng trách nhiệm vào mọi giai đoạn và mọi vai trò. Các nhà quản lý sản phẩm xác định những gì AI nên và không nên làm. Các nhà thiết kế đặt kỳ vọng của người dùng và tạo ra các đường dẫn phục hồi nhẹ nhàng. Các kỹ sư xây dựng các phương án dự phòng, giám sát và điều tiết. Các nhóm QA kiểm tra các trường hợp ngoại lệ và mô phỏng việc sử dụng sai mục đích. Pháp lý và tuân thủ chuyển đổi chính sách thành logic. Các nhóm hỗ trợ đóng vai trò là mạng lưới an toàn của con người. Và các nhà quản lý phải ưu tiên sự tin tưởng và an toàn từ trên xuống dưới, tạo không gian trên lộ trình và khen thưởng cho sự phát triển chu đáo, có trách nhiệm. Ngay cả những mô hình tốt nhất cũng sẽ bỏ lỡ những tín hiệu tinh tế và đó là nơi các nhóm được đào tạo bài bản và các đường dẫn leo thang rõ ràng trở thành lớp phòng thủ cuối cùng, giữ cho AI dựa trên các giá trị của con người.

Đo lường lòng tin: Làm thế nào để biết các rào cản đang hoạt động

Bạn không thể quản lý những gì bạn không đo lường. Nếu mục tiêu là sự tin tưởng, chúng ta cần định nghĩa rõ ràng về thành công trông như thế nào, ngoài thời gian hoạt động hoặc độ trễ. Các số liệu chính để đánh giá các rào cản bao gồm độ chính xác về an toàn (tần suất các đầu ra có hại được chặn thành công so với các kết quả dương tính giả), tỷ lệ can thiệp (tần suất con người can thiệp) và hiệu suất phục hồi (hệ thống xin lỗi, chuyển hướng hoặc giảm leo thang tốt như thế nào sau khi xảy ra lỗi). Các tín hiệu như cảm nhận của người dùng, tỷ lệ thoát và sự nhầm lẫn lặp đi lặp lại có thể cung cấp thông tin chi tiết về việc liệu người dùng có thực sự cảm thấy an toàn và được hiểu hay không. Và quan trọng là khả năng thích ứng, tức là tốc độ hệ thống kết hợp phản hồi, là một chỉ báo mạnh mẽ về độ tin cậy lâu dài.

Các rào chắn không nên tĩnh. Chúng nên phát triển dựa trên cách sử dụng thực tế, các trường hợp ngoại lệ và điểm mù của hệ thống. Đánh giá liên tục giúp tiết lộ nơi các biện pháp bảo vệ đang hoạt động, nơi chúng quá cứng nhắc hoặc quá dễ dãi, và cách mô hình phản ứng khi được thử nghiệm. Nếu không có khả năng hiển thị cách các rào chắn hoạt động theo thời gian, chúng ta có nguy cơ coi chúng là các hộp kiểm thay vì các hệ thống động mà chúng cần phải có.

Nói như vậy, ngay cả những rào chắn được thiết kế tốt nhất cũng phải đối mặt với những sự đánh đổi cố hữu. Việc chặn quá mức có thể gây khó chịu cho người dùng; chặn quá mức có thể gây hại. Việc điều chỉnh sự cân bằng giữa tính an toàn và tính hữu ích là một thách thức liên tục. Bản thân rào chắn có thể tạo ra những lỗ hổng mới — từ việc tiêm nhanh đến sự thiên vị được mã hóa. Chúng phải có thể giải thích được, công bằng và có thể điều chỉnh được, nếu không chúng có nguy cơ trở thành một lớp mờ đục khác.

Nhìn về phía trước

Khi AI trở nên đàm thoại hơn, tích hợp vào quy trình làm việc và có khả năng xử lý các tác vụ một cách độc lập, phản hồi của nó cần phải đáng tin cậy và có trách nhiệm. Trong các lĩnh vực như pháp lý, hàng không, giải trí, dịch vụ khách hàng và hoạt động tuyến đầu, ngay cả một phản hồi do AI tạo ra cũng có thể ảnh hưởng đến quyết định hoặc kích hoạt hành động. Các rào cản giúp đảm bảo rằng các tương tác này an toàn và phù hợp với kỳ vọng của thế giới thực. Mục tiêu không chỉ là xây dựng các công cụ thông minh hơn mà còn là xây dựng các công cụ mà mọi người có thể tin tưởng. Và trong AI đàm thoại, sự tin tưởng không phải là phần thưởng. Đó là đường cơ sở.