Lãnh đạo tư tưởng
Khi Trí Tuệ Nhân Tạo Phát Minh Ra Sự Thật: Rủi Ro Doanh Nghiệp Không Thể Bỏ Qua
Nó nghe có vẻ đúng. Nó trông có vẻ đúng. Nó sai. Đó là trí tuệ nhân tạo của bạn khi bị ảo giác. Vấn đề không chỉ là các mô hình trí tuệ nhân tạo hiện đại bị ảo giác. Đó là chúng ta cảm thấy nếu chúng ta xây dựng đủ rào cản, tinh chỉnh nó, RAG nó và thuần hóa nó một cách nào đó, thì chúng ta sẽ có thể áp dụng nó vào quy mô doanh nghiệp.
| Nghiên cứu | Lĩnh vực | Tỷ lệ ảo giác | Phát hiện chính |
|---|---|---|---|
| Stanford HAI & RegLab (Tháng 1 năm 2024) | Pháp lý | 69%–88% | Các mô hình ngôn ngữ lớn đã hiển thị tỷ lệ ảo giác cao khi trả lời các câu hỏi pháp lý, thường thiếu tự nhận thức về sai lầm của chúng và củng cố các giả định pháp lý không chính xác. |
| Nghiên cứu JMIR (2024) | Tham khảo học thuật | GPT-3.5: 90.6%, GPT-4: 86.6%, Bard: 100% | Các tham khảo được tạo bởi mô hình ngôn ngữ lớn thường không liên quan, không chính xác hoặc không được hỗ trợ bởi tài liệu có sẵn. |
| Nghiên cứu của Vương quốc Anh về Nội dung được tạo bởi Trí tuệ nhân tạo (Tháng 2 năm 2025) | Tài chính | Không xác định | Nội dung được tạo bởi trí tuệ nhân tạo đã làm tăng nguy cơ chạy ngân hàng, với một phần đáng kể của khách hàng ngân hàng xem xét việc chuyển tiền của họ sau khi xem nội dung giả được tạo bởi trí tuệ nhân tạo. |
| Báo cáo Rủi ro Toàn cầu của Diễn đàn Kinh tế Thế giới (2025) | Đánh giá Rủi ro Toàn cầu | Không xác định | Thông tin sai lệch và thông tin giả, được khuếch đại bởi trí tuệ nhân tạo, được xếp hạng là rủi ro toàn cầu hàng đầu trong khoảng thời gian hai năm. |
| Bảng xếp hạng ảo giác của Vectara (2025) | Đánh giá mô hình trí tuệ nhân tạo | GPT-4.5-Preview: 1.2%, Google Gemini-2.0-Pro-Exp: 0.8%, Vectara Mockingbird-2-Echo: 0.9% | Đánh giá tỷ lệ ảo giác trên các mô hình ngôn ngữ lớn khác nhau, cho thấy sự khác biệt đáng kể về hiệu suất và độ chính xác. |
| Nghiên cứu trên Arxiv về ảo giác tính thực (2024) | Nghiên cứu trí tuệ nhân tạo | Không xác định | Giới thiệu HaluEval 2.0 để nghiên cứu và phát hiện ảo giác trong mô hình ngôn ngữ lớn một cách hệ thống, tập trung vào sự không chính xác về thực tế. |
Tỷ lệ ảo giác từ 0,8% đến 88%
Vâng, điều đó phụ thuộc vào mô hình, lĩnh vực, trường hợp sử dụng và ngữ cảnh, nhưng sự phân bố đó nên làm rung chuyển bất kỳ nhà quyết định doanh nghiệp nào. Những sai lầm này không phải là lỗi ngoại vi. Chúng là hệ thống. Làm thế nào để bạn đưa ra quyết định đúng khi nói đến việc áp dụng trí tuệ nhân tạo trong doanh nghiệp của mình? Ở đâu, như thế nào, sâu đến đâu, rộng đến đâu?
Và các ví dụ về hậu quả thực tế của điều này xuất hiện trên nguồn cấp tin tức của bạn mỗi ngày. Hội đồng Stability Tài chính G20 đã chỉ ra trí tuệ nhân tạo tạo sinh là một vector cho thông tin sai lệch có thể gây ra khủng hoảng thị trường, bất ổn chính trị và tồi tệ hơn – sự sụp đổ nhanh chóng, tin giả và gian lận. Trong một câu chuyện được báo cáo gần đây, công ty luật Morgan & Morgan đã phát hành một bản ghi nhớ khẩn cấp cho tất cả các luật sư: Không nộp đơn khiếu nại được tạo bởi trí tuệ nhân tạo mà không kiểm tra. Luật lệ giả là một “tội có thể sa thải”.
Điều này có thể không phải là thời điểm tốt nhất để đặt cược vào việc tỷ lệ ảo giác sẽ giảm xuống zero bất cứ lúc nào sớm. Đặc biệt là trong các ngành công nghiệp được quy định, chẳng hạn như pháp lý, khoa học đời sống, thị trường vốn hoặc trong những ngành khác, nơi chi phí của một sai lầm có thể cao, bao gồm cả việc xuất bản giáo dục đại học.
Ảo giác không phải là lỗi làm tròn
Điều này không chỉ là về một câu trả lời sai thỉnh thoảng. Đó là về rủi ro: Uy tín, Pháp lý, Hoạt động.
Trí tuệ nhân tạo tạo sinh không phải là một công cụ lý luận. Nó là một công cụ hoàn thiện thống kê, một vẹt ngẫu nhiên. Nó hoàn thành lời nhắc của bạn theo cách có khả năng nhất dựa trên dữ liệu đào tạo. Ngay cả những phần đúng cũng là những đoán. Chúng tôi gọi những mảnh tuyệt vời nhất là “ảo giác”, nhưng toàn bộ đầu ra là một ảo giác. Một ảo giác được thiết kế tốt. Vẫn còn, nó hoạt động – kỳ diệu tốt – cho đến khi nó không.
Trí tuệ nhân tạo như Cơ sở hạ tầng
Và yet, điều quan trọng là phải nói rằng trí tuệ nhân tạo sẽ sẵn sàng cho việc áp dụng trên toàn doanh nghiệp khi chúng ta bắt đầu đối xử với nó như cơ sở hạ tầng, và không như ma thuật. Và ở nơi cần thiết, nó phải minh bạch, giải thích được và có thể theo dõi. Và nếu nó không, thì đơn giản là nó không sẵn sàng cho việc áp dụng trên toàn doanh nghiệp cho những trường hợp sử dụng đó. Nếu trí tuệ nhân tạo đang đưa ra quyết định, nó nên ở trên radar của Hội đồng quản trị.
Đạo luật Trí tuệ nhân tạo của EU đang dẫn đầu việc này. Các lĩnh vực rủi ro cao như tư pháp, chăm sóc sức khỏe và cơ sở hạ tầng sẽ được quy định như các hệ thống quan trọng. Tài liệu, thử nghiệm và giải thích sẽ là bắt buộc.
Trí tuệ nhân tạo An toàn cho Doanh nghiệp làm gì
Các công ty chuyên xây dựng mô hình trí tuệ nhân tạo an toàn cho doanh nghiệp, đưa ra quyết định có ý thức để xây dựng trí tuệ nhân tạo khác biệt. Trong các kiến trúc trí tuệ nhân tạo thay thế, các mô hình ngôn ngữ không được đào tạo trên dữ liệu, vì vậy chúng không bị “ô nhiễm” với bất cứ điều gì không mong muốn trong dữ liệu, chẳng hạn như thiên vị, vi phạm sở hữu trí tuệ hoặc khuynh hướng đoán hoặc ảo giác.
Những mô hình này không “hoàn thành suy nghĩ của bạn” – chúng lý luận từ nội dung của người dùng. Cơ sở kiến thức của họ. Tài liệu của họ. Dữ liệu của họ. Nếu câu trả lời không có ở đó, những mô hình này sẽ nói như vậy. Đó là điều làm cho những mô hình trí tuệ nhân tạo này giải thích được, có thể theo dõi, quyết định và là một lựa chọn tốt trong những nơi mà ảo giác là không thể chấp nhận được.
Sách hướng dẫn 5 bước cho Trách nhiệm giải trình Trí tuệ nhân tạo
- Lập bản đồ cảnh quan Trí tuệ nhân tạo – Trí tuệ nhân tạo được sử dụng ở đâu trên toàn doanh nghiệp? Những quyết định nào đang bị ảnh hưởng? Bạn đặt giá trị như thế nào cho khả năng theo dõi những quyết định đó trở lại phân tích minh bạch trên tài liệu nguồn đáng tin cậy?
- Đồng bộ hóa tổ chức của bạn – Tùy thuộc vào phạm vi triển khai Trí tuệ nhân tạo của bạn, hãy thiết lập vai trò, ủy ban, quy trình và thực hành kiểm toán giống như những rủi ro tài chính hoặc an ninh mạng.
- Đưa Trí tuệ nhân tạo vào rủi ro cấp hội đồng quản trị – Nếu Trí tuệ nhân tạo của bạn nói chuyện với khách hàng hoặc cơ quan quản lý, nó thuộc về báo cáo rủi ro của bạn. Quản trị không phải là một buổi biểu diễn phụ.
- Xử lý nhà cung cấp như đồng trách nhiệm – Nếu Trí tuệ nhân tạo của nhà cung cấp tạo ra những điều không đúng sự thật, bạn vẫn sở hữu sự cố. Mở rộng các nguyên tắc Trách nhiệm giải trình Trí tuệ nhân tạo của bạn cho họ. Yêu cầu tài liệu, quyền kiểm toán và SLA cho giải thích và tỷ lệ ảo giác.
- Đào tạo sự hoài nghi – Đội của bạn nên đối xử với Trí tuệ nhân tạo như một nhà phân tích trẻ – hữu ích, nhưng không phải là không thể sai. Hãy chúc mừng khi ai đó xác định được một ảo giác. Niềm tin phải được kiếm.
Tương lai của Trí tuệ nhân tạo trong Doanh nghiệp không phải là các mô hình lớn hơn. Điều cần thiết là sự chính xác hơn, minh bạch hơn, niềm tin hơn và trách nhiệm giải trình hơn.
