Mở hộp đen về khả năng giải thích của Trí tuệ nhân tạo

Trí tuệ nhân tạo (AI) đã trở thành một phần không thể thiếu trong hầu hết các khía cạnh của cuộc sống hàng ngày, từ các khuyến nghị được cá nhân hóa đến việc ra quyết định quan trọng. Đó là một điều chắc chắn rằng AI sẽ tiếp tục phát triển, và cùng với đó, các mối đe dọa liên quan đến AI cũng sẽ trở nên phức tạp hơn. Khi các doanh nghiệp triển khai các biện pháp phòng thủ được AI hỗ trợ để đối phó với sự phức tạp ngày càng tăng, bước tiếp theo để thúc đẩy văn hóa an ninh toàn diện trong tổ chức là tăng cường khả năng giải thích của AI.

Mặc dù các hệ thống này cung cấp các khả năng ấn tượng, nhưng chúng thường hoạt động như “hộp đen” – tạo ra kết quả mà không có cái nhìn rõ ràng về cách mô hình đạt được kết luận đó. Vấn đề các hệ thống AI tạo ra các tuyên bố sai hoặc thực hiện các hành động sai có thể gây ra các vấn đề và gián đoạn kinh doanh tiềm ẩn. Khi các công ty mắc lỗi do AI, khách hàng và người tiêu dùng của họ yêu cầu một lời giải thích và ngay sau đó, một giải pháp.

Nhưng nguyên nhân là gì? Thường thì dữ liệu xấu được sử dụng để đào tạo. Ví dụ, hầu hết các công nghệ GenAI công khai được đào tạo trên dữ liệu có sẵn trên Internet, thường không được xác minh và không chính xác. Mặc dù AI có thể tạo ra các phản hồi nhanh chóng, nhưng độ chính xác của các phản hồi đó phụ thuộc vào chất lượng dữ liệu được đào tạo.

Các lỗi AI có thể xảy ra trong các trường hợp khác nhau, bao gồm việc tạo kịch bản với các lệnh sai và quyết định bảo mật sai, hoặc từ chối một nhân viên làm việc trên các hệ thống kinh doanh của họ do các cáo buộc sai được hệ thống AI đưa ra. Tất cả đều có thể gây ra gián đoạn kinh doanh đáng kể. Đây chỉ là một trong nhiều lý do tại sao việc đảm bảo tính minh bạch là chìa khóa để xây dựng niềm tin vào các hệ thống AI.

Xây dựng niềm tin

Chúng ta tồn tại trong một văn hóa nơi chúng ta đặt niềm tin vào tất cả các nguồn và thông tin. Nhưng đồng thời, chúng ta yêu cầu bằng chứng và xác minh ngày càng nhiều, cần phải liên tục xác minh tin tức, thông tin và tuyên bố. Khi nói đến AI, chúng ta đang đặt niềm tin vào một hệ thống có thể không chính xác. Quan trọng hơn, không thể biết được liệu các hành động của hệ thống AI có chính xác hay không nếu không có sự minh bạch về cơ sở quyết định. Nếu hệ thống AI an ninh của bạn tắt máy, nhưng nó đã hiểu lầm các tín hiệu? Không có cái nhìn sâu sắc vào thông tin dẫn đến quyết định, không có cách nào để biết liệu nó có đúng hay không.

Mặc dù sự gián đoạn kinh doanh gây khó chịu, nhưng một trong những mối quan tâm lớn hơn về việc sử dụng AI là quyền riêng tư của dữ liệu. Các hệ thống AI, như ChatGPT, là các mô hình học máy lấy thông tin từ dữ liệu nhận được. Do đó, nếu người dùng hoặc nhà phát triển vô tình cung cấp thông tin nhạy cảm, mô hình học máy có thể sử dụng dữ liệu đó để tạo ra các phản hồi cho người dùng khác, bộc lộ thông tin bí mật. Những sai lầm này có thể gây ra gián đoạn nghiêm trọng cho hiệu quả, lợi nhuận và quan trọng nhất là niềm tin của khách hàng của một công ty. Các hệ thống AI được thiết kế để tăng hiệu quả và简化 quy trình, nhưng trong trường hợp cần phải xác minh liên tục vì đầu ra không thể tin cậy, các tổ chức không chỉ lãng phí thời gian mà còn mở cửa cho các lỗ hổng tiềm ẩn.

Đào tạo đội ngũ để sử dụng AI có trách nhiệm

Để bảo vệ các tổ chức khỏi các rủi ro tiềm ẩn của việc sử dụng AI, các chuyên gia CNTT có trách nhiệm quan trọng trong việc đào tạo đủ điều kiện cho đồng nghiệp của họ để đảm bảo AI được sử dụng một cách có trách nhiệm. Bằng cách làm như vậy, họ giúp giữ cho tổ chức của mình an toàn khỏi các cuộc tấn công mạng đe dọa đến tính khả dụng và lợi nhuận của họ.

Tuy nhiên, trước khi đào tạo đội ngũ, các nhà lãnh đạo CNTT cần phải thống nhất nội bộ để xác định các hệ thống AI nào sẽ phù hợp với tổ chức của họ. Việc vội vàng triển khai AI sẽ chỉ gây ra hậu quả sau này, vì vậy hãy bắt đầu từ từ, tập trung vào nhu cầu của tổ chức. Đảm bảo rằng các tiêu chuẩn và hệ thống được chọn phù hợp với ngăn xếp công nghệ hiện tại và mục tiêu của công ty, và các hệ thống AI đáp ứng các tiêu chuẩn bảo mật giống như bất kỳ nhà cung cấp nào khác.

Một khi hệ thống đã được chọn, các chuyên gia CNTT có thể bắt đầu giới thiệu hệ thống cho đội ngũ của họ để đảm bảo thành công. Bắt đầu bằng cách sử dụng AI cho các nhiệm vụ nhỏ và xem nơi nó hoạt động tốt và nơi nó không, và học cách nhận biết các nguy cơ và xác minh cần được áp dụng. Sau đó, giới thiệu việc sử dụng AI để tăng cường công việc, cho phép giải quyết nhanh hơn và tự phục vụ, bao gồm cả các câu hỏi “cách thực hiện”. Từ đó, có thể dạy cách đặt các xác minh vào vị trí. Điều này rất có giá trị khi chúng ta sẽ bắt đầu thấy nhiều công việc trở thành việc đặt các điều kiện và xác minh cùng nhau, và thậm chí đã thấy trong các công việc như sử dụng AI để hỗ trợ viết phần mềm.

Ngoài các bước đào tạo cụ thể cho thành viên trong đội, việc khởi xướng và khuyến khích các cuộc thảo luận cũng rất quan trọng. Khuyến khích đối thoại cởi mở, dựa trên dữ liệu về cách AI phục vụ nhu cầu của người dùng – liệu nó có giải quyết vấn đề một cách chính xác và nhanh chóng, liệu chúng ta có đang thúc đẩy năng suất cho cả công ty và người dùng cuối, liệu điểm số NPS của khách hàng có tăng lên nhờ các công cụ AI này? Hãy rõ ràng về lợi tức đầu tư (ROI) và giữ nó ở vị trí trung tâm. Sự giao tiếp rõ ràng sẽ cho phép nhận thức về việc sử dụng AI có trách nhiệm phát triển, và khi thành viên trong đội hiểu rõ hơn về cách các hệ thống AI hoạt động, họ sẽ có nhiều khả năng sử dụng chúng một cách có trách nhiệm.

Làm thế nào để đạt được tính minh bạch trong AI

Mặc dù việc đào tạo đội ngũ và tăng cường nhận thức là quan trọng, để đạt được tính minh bạch trong AI, điều quan trọng là phải có thêm ngữ cảnh xung quanh dữ liệu được sử dụng để đào tạo các mô hình, đảm bảo rằng chỉ có dữ liệu chất lượng được sử dụng. Hy vọng rằng cuối cùng sẽ có cách để xem hệ thống lý luận như thế nào để chúng ta có thể hoàn toàn tin tưởng vào nó. Nhưng cho đến lúc đó, chúng ta cần các hệ thống có thể làm việc với các xác minh và rào cản và chứng minh rằng chúng tuân thủ các rào cản đó.

Mặc dù tính minh bạch hoàn toàn sẽ inevitably lấy thời gian để đạt được, sự phát triển nhanh chóng của AI và sự sử dụng nó làm cho nó cần thiết để làm việc nhanh. Khi các mô hình AI tiếp tục tăng độ phức tạp, chúng có sức mạnh để tạo ra sự khác biệt lớn cho nhân loại, nhưng hậu quả của các lỗi cũng tăng lên. Do đó, việc hiểu cách các hệ thống này đưa ra quyết định là rất có giá trị và cần thiết để duy trì hiệu quả và đáng tin cậy. Bằng cách tập trung vào các hệ thống AI minh bạch, chúng ta có thể đảm bảo rằng công nghệ này hữu ích như nó được thiết kế để làm trong khi vẫn không bị thiên vị, đạo đức, hiệu quả và chính xác.