Các Bệnh Viện Đã Áp Dụng Trí Tuệ Nhân Tạo Trước Khi Hiểu Rõ Họ Đang Áp Dụng Gì

Các bệnh viện không áp dụng trí tuệ nhân tạo trong một khoảnh khắc duy nhất. Nó đến trong những mảnh nhỏ: một thuật toán hình ảnh, một trợ lý ghi chép, một dự báo nhân sự, một công cụ tạo tin nhắn cho bệnh nhân, một mô hình dự đoán từ chối, một công cụ lập lịch. Mỗi sản phẩm进入 thông qua một bộ phận khác nhau, trả lời một nhu cầu khác nhau và được đánh giá dựa trên một ngân sách khác nhau.

Con đường phân mảnh đó làm cho việc áp dụng cảm giác dễ quản lý. Nó cũng che giấu những gì các bệnh viện thực sự đang áp dụng.

Một sản phẩm trí tuệ nhân tạo không chỉ là một ứng dụng phần mềm thông thường. Nó là một hệ thống có thể ảnh hưởng đến phán quyết, phân phối công việc, thay đổi trách nhiệm, học hỏi từ dữ liệu thay đổi và tạo ra đầu ra khó tái tạo sau khi thực tế. Các bệnh viện thường mua khả năng trước khi xây dựng ngôn ngữ, quản lý và kỷ luật hoạt động cần thiết để hiểu những hậu quả đó.

Từ việc làm việc chặt chẽ với các tổ chức y tế, tôi đã thấy rằng phần khó nhất của việc áp dụng trí tuệ nhân tạo hiếm khi bắt đầu với mô hình chính nó. Nó bắt đầu khi công nghệ nhập vào một quy trình làm việc mà không được thiết kế xung quanh nó, và khi mọi người phải quyết định mức độ tin cậy, quyền hạn và trách nhiệm để đặt xung quanh đầu ra của nó.

Đây không phải là một lập luận chống lại việc áp dụng. Ngành y tế cần các công cụ tốt hơn, và trí tuệ nhân tạo đã tạo ra giá trị thực sự. Đây là một lập luận cho một định nghĩa trưởng thành hơn về việc áp dụng – một định nghĩa bắt đầu sau khi mua sắm chứ không phải kết thúc ở đó.

Trí Tuệ Nhân Tạo Đã Vào Cửa Được Ghi Nhãn Là “Hiệu Quả”

Trường hợp đầu tiên cho bệnh viện trí tuệ nhân tạo là thực tế. Công việc hành chính đang tăng, áp lực lao động đang tăng, và các bác sĩ đang dành quá nhiều thời gian cho các nhiệm vụ không yêu cầu phán quyết lâm sàng. Nhu cầu đó đã tăng lên. Vào năm 2026, Hiệp hội Y tế Hoa Kỳ đã báo cáo rằng 81% bác sĩ được khảo sát sử dụng trí tuệ nhân tạo trong thực hành, nhiều hơn gấp đôi so với tỷ lệ năm 2023.

Sự hấp dẫn là dễ hiểu. Các bệnh viện đang dưới áp lực để cải thiện quyền truy cập, giảm kiệt sức, quản lý chi phí và di chuyển thông tin nhanh hơn. Một công cụ có thể soạn thảo một ghi chú, ưu tiên một hàng đợi, dự đoán một sự chậm trễ hoặc tóm tắt một biểu đồ có thể trông như một cải tiến hoạt động hẹp.

Tuy nhiên, trí tuệ nhân tạo hiếm khi vẫn còn hẹp khi nó nhập vào một quy trình làm việc. Một hệ thống ghi chép thay đổi những gì được ghi lại trong hồ sơ. Một mô hình ưu tiên thay đổi những trường hợp nào được xem trước. Một công cụ dự báo thay đổi quyết định nhân sự. Một trợ lý giao tiếp với bệnh nhân thay đổi cách ý định lâm sàng được dịch sang ngôn ngữ. Ngay cả khi mục đích ban đầu là hành chính, hiệu ứng hoạt động có thể đạt đến việc cung cấp chăm sóc.

Do đó, các bệnh viện đã áp dụng hơn là hiệu quả. Họ đã áp dụng các hình thức ảnh hưởng mới đối với quyết định, trình tự, chú ý và trách nhiệm.

Sự Nhầm Lẫn Đầu Tiên: Xử Lý Trí Tuệ Nhân Tạo Như Phần Mềm Thông Thường

Phần mềm truyền thống thường được đánh giá dựa trên việc nó thực hiện một chức năng xác định một cách đáng tin cậy. Trí tuệ nhân tạo yêu cầu một tập hợp các câu hỏi rộng hơn. Dữ liệu nào đã định hình mô hình? Hiệu suất yếu ở đâu? Đầu ra thay đổi như thế nào khi quy trình làm việc địa phương khác với môi trường mà hệ thống đã được thử nghiệm? Ai xem xét kết quả? Điều gì xảy ra khi mô hình được cập nhật? Bằng chứng nào được giữ lại khi một quyết định được thách thức vài tháng sau đó?

Các câu hỏi này đang trở thành một phần của chính sách công nghệ y tế chính thức. Văn phòng Điều phối viên Quốc gia về Công nghệ Thông tin Y tế’s HTI-1 quy tắc đã giới thiệu các yêu cầu minh bạch cho các thuật toán dự đoán trong công nghệ y tế chứng nhận, bao gồm thông tin nhằm giúp người dùng đánh giá công bằng, phù hợp, hiệu lực và an toàn. Ngôn ngữ đó quan trọng vì nó di chuyển đánh giá vượt ra ngoài việc liệu một công cụ có hoạt động trong một bản demo.

Các bệnh viện cần biết liệu nó có hoạt động ở đây, cho dân số này, trong quy trình làm việc này, dưới những điều kiện này, với những người này chịu trách nhiệm hành động dựa trên đầu ra của nó.

Đây là một câu hỏi mua sắm rất khác. Nó không thể được trả lời bởi một danh sách tính năng hoặc một bản trình bày của nhà cung cấp alone.

Sự Nhầm Lẫn Thứ Hai: Giả Định Giám Sát Của Con Người Giải Quyết Mọi Vấn Đề

“Con người trong vòng lặp” đã trở thành một cụm từ an ủi trong y tế trí tuệ nhân tạo. Nó gợi ý rằng một người vẫn kiểm soát và có thể sửa lỗi máy. Trong thực tế, giám sát của con người chỉ có ý nghĩa khi con người có thời gian, quyền hạn, ngữ cảnh và một lý do rõ ràng để đặt câu hỏi về đầu ra.

Một bác sĩ nhận được hàng trăm khuyến nghị hỗ trợ bởi trí tuệ nhân tạo không phải lúc nào cũng xem xét lại từng khuyến nghị từ đầu. Một nhân viên làm việc trong một hàng đợi có khối lượng lớn có thể chấp nhận một ưu tiên được đề xuất vì giao diện trình bày nó như mặc định. Một người xem xét có thể kỹ thuật có quyền hạn để ghi đè mô hình nhưng thiếu thông tin cần thiết để hiểu tại sao mô hình tạo ra kết quả của nó.

Hướng dẫn của Tổ chức Y tế Thế giới về trí tuệ nhân tạo cho sức khỏe đặt tính tự chủ, trách nhiệm, minh bạch, an toàn và công bằng vào trung tâm của việc thực hiện. Những nguyên tắc đó không được thỏa mãn chỉ vì một con người nhấp vào nút cuối cùng.

Giám sát của con người phải được thiết kế như một chức năng hoạt động. Các bệnh viện nên xác định những đầu ra nào cần được xem xét, bằng chứng nào người xem xét thấy, khi nào việc leo thang là bắt buộc, làm thế nào sự không đồng ý được ghi lại và liệu người xem xét đầu ra có thực sự có thể can thiệp hay không.

Hãy xem xét một trợ lý giao tiếp với bệnh nhân soạn thảo hướng dẫn theo dõi sau khi xuất viện. Bác sĩ có thể vẫn chịu trách nhiệm về việc phê duyệt, nhưng các biện pháp bảo vệ thực tế phụ thuộc vào quy trình làm việc. Liệu bản thảo có được đánh dấu rõ ràng là được tạo ra bởi máy không? Người xem xét có thấy tài liệu lâm sàng nguồn gốc đằng sau nó không? Nhân viên có thể nhận ra khi ngôn ngữ đã bỏ qua một cảnh báo hoặc quá tự tin không? Nếu tin nhắn được phê duyệt trong một ca trực bận rộn và sau đó gây nhầm lẫn, trách nhiệm không thể giảm xuống chỉ vì một con người đã nhấp vào “gửi”. Thiết kế của quy trình xem xét quan trọng không kém sự hiện diện của người xem xét.

Sự Nhầm Lẫn Thứ Ba: Tin Rằng Xác Thực Là Một Sự Kiện Một Lần

Nhiều tổ chức xác thực trí tuệ nhân tạo trước khi ra mắt và sau đó xử lý hệ thống như một hệ thống ổn định. Cách tiếp cận đó phản ánh tư duy thực hiện thông thường: thử nghiệm, phê duyệt, triển khai, bảo trì.

Hiệu suất của trí tuệ nhân tạo có thể thay đổi vì môi trường xung quanh thay đổi. Dân số bệnh nhân thay đổi. Thực hành mã hóa thay đổi. Tài liệu lâm sàng thay đổi. Thiết bị mới được giới thiệu. Nhân viên thích nghi hành vi của họ với công cụ. Nhà cung cấp cập nhật mô hình. Giao diện dữ liệu bị hỏng im lặng. Một hệ thống đã hoạt động chấp nhận được khi ra mắt có thể trở nên ít đáng tin cậy hơn mà không tạo ra một thông báo lỗi rõ ràng.

Khung quản lý rủi ro trí tuệ nhân tạo của NIST xử lý quản lý rủi ro như một hoạt động chu kỳ sống liên tục được tổ chức xung quanh quản trị, lập bản đồ, đo lường và quản lý rủi ro. Các bệnh viện nên áp dụng nguyên tắc tương tự về mặt hoạt động.

Giám sát sau khi triển khai không nên bị giới hạn ở thời gian hoạt động. Nó nên bao gồm hiệu suất theo nhóm bệnh nhân, mẫu ghi đè, phân bố đầu ra không thường xuyên, trì hoãn quy trình làm việc, khiếu nại của người dùng, sửa chữa hạ nguồn, và dấu hiệu cho thấy nhân viên đang dựa vào hệ thống theo những cách không bao giờ được dự định.

Một mô hình có thể kỹ thuật có sẵn và hoạt động không an toàn tại cùng một thời điểm.

Sự Nhầm Lẫn Thứ Tư: Nhầm Lẫn Sự Chấp Thuận Điều Chỉnh Với Sự Chuẩn Bị Của Tổ Chức

Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ duy trì một danh sách các thiết bị y tế được hỗ trợ bởi trí tuệ nhân tạo đã đáp ứng các yêu cầu trước khi bán hàng áp dụng được. Đây là một lớp bảo đảm quan trọng cho các sản phẩm được điều chỉnh, nhưng sự chấp thuận của cơ quan quản lý và sự sẵn sàng của bệnh viện trả lời các câu hỏi khác nhau.

Một cơ quan quản lý có thể xác định rằng một thiết bị đủ an toàn và hiệu quả cho mục đích sử dụng dự kiến. Một bệnh viện vẫn phải xác định liệu dữ liệu, nhân sự, cơ sở hạ tầng, đào tạo, đường dẫn leo thang, và dân số bệnh nhân của mình hỗ trợ việc sử dụng có trách nhiệm.

Sự khác biệt tương tự áp dụng cho trí tuệ nhân tạo không phải thiết bị. Xem xét bảo mật không thiết lập sự phù hợp lâm sàng. Xem xét quyền riêng tư không thiết lập sự an toàn của quy trình làm việc. Phê duyệt pháp lý không thiết lập năng lực của người dùng. Một thử nghiệm thành công không thiết lập sự sẵn sàng của doanh nghiệp.

Các bệnh viện cần một quy trình quyết định thống nhất đưa các câu hỏi này lại với nhau thay vì cho phép mỗi bộ phận phê duyệt một phần của rủi ro.

Các Bệnh Viện Thực Sự Áp Dụng Khi Họ Áp Dụng Trí Tuệ Nhân Tạo

Một tổ chức trưởng thành nên nhận ra rằng mỗi triển khai trí tuệ nhân tạo giới thiệu ít nhất năm điều cùng một lúc:

• Một ảnh hưởng quyết định: ngay cả khi trí tuệ nhân tạo không đưa ra quyết định cuối cùng, nó định hình những gì mọi người nhận thấy, ưu tiên hoặc tin.
• Một sự phụ thuộc vào dữ liệu: hệ thống kế thừa sức mạnh, khoảng trống, thiên vị và sự không ổn định của dữ liệu xung quanh.
• Thiết kế lại quy trình làm việc: nhiệm vụ di chuyển giữa người, hệ thống và bộ phận, thường thay đổi trách nhiệm một cách tinh vi.
• Một nghĩa vụ giám sát: hiệu suất phải được quan sát sau khi triển khai, không được giả định từ bằng chứng trước khi triển khai.
• Một mối quan hệ tin cậy: bệnh nhân và nhân viên cần hiểu nơi trí tuệ nhân tạo hiện diện và vai trò của nó.

Định nghĩa rộng hơn này giải thích tại sao các bệnh viện có thể triển khai hàng chục công cụ trí tuệ nhân tạo và vẫn cảm thấy không chuẩn bị. Tổ chức đã có được các khả năng mà không nhất thiết phải xây dựng các mô hình kết nối cần thiết để quản lý chúng như một danh mục.

Từ Kho Trí Tuệ Nhân Tạo Đến Trách Nhiệm Trí Tuệ Nhân Tạo

Bước thực tế đầu tiên không phải là một tài liệu chiến lược khác. Đó là một kho đáng tin cậy.

Một số bệnh viện vẫn thiếu một cái nhìn hoàn chỉnh về nơi trí tuệ nhân tạo đang hoạt động vì nó được nhúng vào các nền tảng lớn hơn, được giới thiệu thông qua mua sắm của bộ phận hoặc được mô tả bằng các thuật ngữ mềm hơn như tự động hóa, thông minh, dự đoán, tối ưu hóa hoặc hỗ trợ quyết định.

Một kho nên ghi lại mục đích của mỗi hệ thống, các quyết định nó ảnh hưởng, dữ liệu nó sử dụng, dân số nó ảnh hưởng, phiên bản nhà cung cấp và mô hình, chủ sở hữu con người, quy trình xem xét, đường dẫn leo thang và bằng chứng được sử dụng để phê duyệt nó.

Tuy nhiên, một kho alone không phải là quản trị. Trách nhiệm bắt đầu khi mỗi hệ thống có một chủ sở hữu điều hành được đặt tên và một chủ sở hữu hoạt động. Chủ sở hữu điều hành chấp nhận trách nhiệm về việc sử dụng trường hợp vẫn còn phù hợp. Chủ sở hữu hoạt động hiểu cách hệ thống hành xử trong công việc hàng ngày và có thể xác định khi thực tế khác với chính sách.

Tiêu Chuẩn Mới: Hiểu Trước Khi Tăng Quy Mô

Các bệnh viện không cần phải tạm dừng mọi sáng kiến trí tuệ nhân tạo cho đến khi họ đạt được sự chắc chắn hoàn hảo. Sự chắc chắn hoàn hảo không tồn tại trong y tế hoặc công nghệ. Họ cần thay thế việc tăng quy mô dựa trên sự nhiệt tình bằng việc tăng quy mô dựa trên bằng chứng.

Điều đó có nghĩa là bắt đầu với một vấn đề cụ thể, định nghĩa vai trò chấp nhận được của trí tuệ nhân tạo, thử nghiệm trong môi trường địa phương, ghi lại giới hạn, đo lường kết quả thực sự và chỉ mở rộng khi tổ chức có thể giải thích cả lợi ích và rủi ro.

Câu hỏi quan trọng nhất không còn là, “Công cụ này có sử dụng trí tuệ nhân tạo không?” Câu hỏi đó quá rộng để có ích. Câu hỏi tốt hơn là: Quyết định nào nó ảnh hưởng? Điều gì xảy ra khi nó sai? Ai nhận thấy? Ai có thể dừng nó? Bằng chứng nào sẽ chứng minh cho việc mở rộng vai trò của nó?

Một hướng dẫn chính sách của WHO về việc hiểu trí tuệ nhân tạo trong y tế đưa ra một trường hợp tương tự cho việc ra quyết định thông minh đó nhìn vượt ra ngoài sự cường điệu và kiểm tra an toàn, thiên vị, quản trị, điều chỉnh và tin cậy. Các bệnh viện nên mong đợi cùng mức độ hiểu biết từ các đội ngũ lãnh đạo mà họ mong đợi từ các đội ngũ kỹ thuật.

Cơ Hội Thật Sự Là Học Tập Của Tổ Chức

Các bệnh viện sẽ được hưởng lợi nhiều nhất từ trí tuệ nhân tạo sẽ không nhất thiết phải là những người áp dụng nhiều công cụ nhất. Họ sẽ là những người học nhanh nhất từ mọi triển khai.

Họ sẽ xử lý việc thực hiện như một nguồn kiến thức của tổ chức: nơi chất lượng dữ liệu bị hỏng, nơi quy trình làm việc chống lại tự động hóa, nơi nhân viên cần ranh giới rõ ràng hơn, nơi bệnh nhân cần minh bạch hơn và nơi quản trị phải trở nên cụ thể hơn.

Việc học tập này không thể ở lại trong một văn phòng đổi mới. Nó phải đến được lãnh đạo lâm sàng, hoạt động, tuân thủ, công nghệ, tài chính, chất lượng và hội đồng quản trị. Trí tuệ nhân tạo hiện nay quá phân tán để được quản lý bởi một nhóm nhỏ các chuyên gia và quá quan trọng để được hiểu chỉ như một chủ đề kỹ thuật.

Các bệnh viện đã áp dụng trí tuệ nhân tạo trước khi họ hoàn toàn hiểu những gì họ đang áp dụng. Đó không phải là bất thường trong một thời kỳ thay đổi công nghệ nhanh chóng. Câu hỏi quan trọng hơn là họ làm gì khi khoảng trống trở nên rõ ràng.

Phản ứng có trách nhiệm không phải là rút lui. Đó là xây dựng khả năng hiểu trí tuệ nhân tạo như nó thực sự hoạt động: bên trong quyết định, quy trình làm việc, mối quan hệ và tổ chức. Chỉ khi đó, việc áp dụng trở thành sự sẵn sàng.