Khi ‘Kiến Thức’ Của Trí Tuệ Nhân Tạo Là 50 Năm Tuổi: Rủi Ro Tuân Thủ Bạn Không Thể Bỏ Qua

Vấn đề về những hiểu biết sai lầm của trí tuệ nhân tạo là một thách thức cấp bách khi các doanh nghiệp tăng cường sử dụng các công cụ tạo ra. Mặc dù có sự hào hứng rộng rãi về việc áp dụng trí tuệ nhân tạo, nhưng cũng có một luồng chỉ trích mạnh mẽ. Những người bình luận quan trọng thường chỉ ra những sai sót ngẫu nhiên, khó dự đoán trong đầu ra của trí tuệ nhân tạo, điều này làm giảm giá trị của nó – và thậm chí có thể gây hại thực sự cho con người, đặc biệt là trong các lĩnh vực như chăm sóc sức khỏe và giao thông, nơi đầu ra sai có thể dẫn đến mọi thứ từ đơn thuốc sai đến tàu trên đường đâm vào nhau.

Thường thì, những sai sót này đã được quy cho ‘ảo giác’ của trí tuệ nhân tạo – những trường hợp trí tuệ nhân tạo tạo ra một ‘đáp án tốt nhất’ với sự tự tin như một ‘đáp án thực sự’, thay vì thông báo cho người dùng về khoảng trống trong kiến thức hoặc khả năng của nó. Ảo giác có thể khó phát hiện ra tại đầu tiên – nhưng có một vấn đề nghiêm trọng hơn, khó phát hiện hơn.

Nợ chất lượng dữ liệu: Điểm yếu của trí tuệ nhân tạo

Khi các hệ thống trí tuệ nhân tạo lấy dữ liệu từ nguồn cũ, không đầy đủ hoặc không chính xác, đầu ra sai xảy ra nhưng ít rõ ràng hơn. Ví dụ, bạn có thể yêu cầu trí tuệ nhân tạo xác định các triệu chứng của một tình trạng y tế và nhận được câu trả lời dựa trên một bài báo 50 năm tuổi thay vì nghiên cứu hiện tại. Kết quả này không nhất thiết phải sai một cách rõ ràng, nhưng lớp vỏ ban đầu của sự hợp lý này tạo ra một rủi ro thực sự cho cả bệnh nhân và nhà cung cấp dịch vụ chăm sóc sức khỏe.

Cùng một vấn đề tồn tại trên các ngành công nghiệp – nếu dữ liệu được cung cấp cho mô hình trí tuệ nhân tạo bao gồm thông tin cũ, lỗi thời hoặc không đầy đủ, có nguy cơ cao về đầu ra sai. Và khi nhiều công ty tích hợp trí tuệ nhân tạo vào các quy trình kinh doanh quan trọng, rủi ro của việc rút ra kết luận sai từ dữ liệu không được quản lý tốt tăng lên.

Độ chính xác cho cơ quan quản lý

Đây không chỉ là vấn đề đối với hoạt động hàng ngày – mà còn là một thách thức tuân thủ quan trọng. Các yêu cầu quản lý đang phát triển nhanh chóng để giải quyết các mối quan ngại về trí tuệ nhân tạo không chính xác. Ví dụ, một số hành động quản lý đầu tiên về trí tuệ nhân tạo đã diễn ra; đáng chú ý khi Ý tạm thời cấm ChatGPT về các lo ngại về quyền riêng tư, và Hội đồng Bảo vệ Dữ liệu EU đã thành lập một lực lượng đặc nhiệm chuyên trách để phối hợp các hành động thực thi tiềm năng đối với ChatGPT.

Một trong những thay đổi quản lý đáng chú ý nhất là việc thông qua Đạo luật Trí tuệ Nhân tạo của EU, khuôn khổ pháp lý toàn diện đầu tiên cho trí tuệ nhân tạo. Đạo luật này đặt ra các nghĩa vụ dựa trên mức độ rủi ro của các hệ thống trí tuệ nhân tạo, từ các hệ thống ‘rủi ro không thể chấp nhận’ bị cấm, đến các hệ thống ‘rủi ro cao’, phải tuân theo các yêu cầu nghiêm ngặt về minh bạch, chất lượng dữ liệu, quản trị và giám sát con người.

Tầm quan trọng của Đạo luật Trí tuệ Nhân tạo của EU không nằm ở phạm vi tham vọng của nó, mà quan trọng hơn, là tiền lệ nó đặt ra. Các cơ quan quản lý đang làm rõ rằng trí tuệ nhân tạo sẽ phải tuân theo các quy tắc ràng buộc và có thể thực thi, và các tổ chức phải coi việc tuân thủ và minh bạch xung quanh việc sử dụng trí tuệ nhân tạo là một phần không thể thiếu của việc áp dụng trí tuệ nhân tạo, thay vì một suy nghĩ sau cùng.

Đạo luật này có phạm vi rộng, với khả năng ảnh hưởng đến một tỷ lệ lớn các phát triển trí tuệ nhân tạo. Tại trung tâm của nó là việc tạo ra một môi trường an toàn cho trí tuệ nhân tạo, đồng thời tôn trọng các quyền và giá trị cơ bản. Trong hệ sinh thái nguyên tắc mới này, việc chẩn đoán các nguồn tiềm năng cho sự không chính xác của trí tuệ nhân tạo, bao gồm dữ liệu và tập dữ liệu cho các mô hình, tính minh bạch và quyền truy cập, cũng như thiết kế và sử dụng hệ thống, trở nên quan trọng. Các giải pháp trí tuệ nhân tạo là sự kết hợp của cả ba – các vấn đề với bất kỳ yếu tố nào trong số này có thể dẫn đến kết quả tiêu cực. Không chỉ vậy, dữ liệu được sử dụng trong thiết kế, phát triển, triển khai và vận hành trí tuệ nhân tạo có khả năng chủ yếu bao gồm các bản ghi kinh doanh, vốn phải tuân theo các yêu cầu tuân thủ khác nhau.

Nghĩa là, môi trường quản lý xung quanh trí tuệ nhân tạo đang trở nên nghiêm ngặt hơn – và điều đó cũng đúng cho cả đầu vào dữ liệu cũng như đầu ra, mặc dù sau này thu hút nhiều tiêu đề hơn.

Năm bước để cung cấp dữ liệu tuân thủ, hiện tại và liên quan cho trí tuệ nhân tạo

Để giải quyết thách thức kép này – đảm bảo cả việc xử lý dữ liệu tuân thủ và chất lượng đầu vào cao cho phép đầu ra chất lượng cao – các doanh nghiệp cần kiểm soát dữ liệu đào tạo và suy luận. Thật không may, điều này là điều mà nhiều doanh nghiệp vẫn thiếu.

Ít nhất, các tổ chức nên áp dụng các chương trình tuân thủ và quản trị rộng hơn của họ cho các sáng kiến trí tuệ nhân tạo. Họ cần bắt đầu thu thập và duy trì các bản ghi phù hợp về dữ liệu họ cung cấp cho các mô hình trí tuệ nhân tạo, cách các mô hình và hệ thống được thiết kế, cũng như các quyết định và nội dung được tạo ra thông qua trí tuệ nhân tạo.

Tuy nhiên, cũng đang trở nên quan trọng hơn đối với các tổ chức để đi một bước xa hơn và đảm bảo họ có quyền kiểm soát đầy đủ tất cả dữ liệu có thể được sử dụng trong các triển khai trí tuệ nhân tạo, cho dù là đào tạo ban đầu hay ‘trực tiếp’. Điều này đòi hỏi một chiến lược quản lý và lưu trữ dữ liệu chất lượng cao, đảm bảo tất cả dữ liệu liên quan được thu thập thông minh, làm sạch, lưu trữ, phân loại và cấp quyền. Để đạt được điều này, các tổ chức cần xem xét bốn bước chính:

1. Dòng dõi và nguồn gốc dữ liệu

Điều này bao gồm việc duy trì một bản ghi về nguồn gốc của dữ liệu, quyền sở hữu và bất kỳ thay đổi nào trong siêu dữ liệu (nếu được phép) trong suốt vòng đời của nó. Nó cũng có nghĩa là duy trì siêu dữ liệu phong phú và tất cả các tài liệu hoặc hiện vật cơ bản từ đó nó được tạo ra.

2. Tính xác thực của dữ liệu

Điều này đòi hỏi phải duy trì một chuỗi lưu giữ rõ ràng cho tất cả dữ liệu, lưu trữ các đối tượng ở dạng bản địa của chúng và băm các đối tượng nhận được để chứng minh dữ liệu vẫn không thay đổi. Ngoài ra, các tổ chức phải duy trì một lịch sử kiểm toán đầy đủ cho từng đối tượng và cho tất cả các hành động và sự kiện liên quan đến bất kỳ thay đổi nào.

3. Phân loại dữ liệu

Việc thiết lập bản chất của một tập hợp hoặc loại dữ liệu là điều quan trọng. Các tổ chức cần có khả năng quản lý dữ liệu có cấu trúc, dữ liệu bán cấu trúc và tập hợp dữ liệu có cấu trúc. Việc cung cấp một lược đồ duy nhất cho từng lớp có thể cho phép các tổ chức quản lý các tập hợp dữ liệu đa dạng mà không cần một ontology cố định – tránh việc dữ liệu bị thao túng không cần thiết để ép nó vào một cấu trúc dữ liệu không linh hoạt.

4. Chuẩn hóa dữ liệu

Việc thiết lập các định nghĩa và định dạng chung của siêu dữ liệu là quan trọng cho việc sử dụng trong phân tích và giải pháp trí tuệ nhân tạo. Các lược đồ rõ ràng được định義 là một yếu tố quan trọng, cùng với các công cụ có thể chuyển đổi hoặc ánh xạ dữ liệu để duy trì các视图 nhất quán và chuẩn hóa của dữ liệu liên quan.

5. Quyền của dữ liệu

Các doanh nghiệp cần có các kiểm soát quyền được cấp chi tiết, bao gồm cả ở cấp độ đối tượng hoặc trường, dựa trên hồ sơ người dùng hoặc hệ thống. Điều này có nghĩa là dữ liệu đúng được cung cấp cho người dùng và hệ thống được phép truy cập, trong khi hạn chế hoặc giới hạn truy cập đối với những người không được phép.

Với những yếu tố quan trọng này được đặt đúng chỗ, các doanh nghiệp sẽ được đặt vào vị trí tốt nhất để đảm bảo rằng dữ liệu được cung cấp cho các mô hình trí tuệ nhân tạo là cả chất lượng cao và tuân thủ. Trí tuệ nhân tạo sẽ thúc đẩy sự cải tiến và hiệu quả trên các ngành công nghiệp – nhưng để điều đó xảy ra, một nền tảng dữ liệu vững chắc là điều thiết yếu.