Dữ liệu y tế ẩn danh đã tồn tại hàng thập kỷ có thể gây ra chẩn đoán sai của AI hiện nay

Theo một hợp tác nghiên cứu mới giữa Đức và Vương quốc Anh, các hồ sơ bệnh nhân ẩn danh đã được đưa vào các bộ dữ liệu y tế ngay cả cách đây hàng thập kỷ có thể khiến các hệ thống AI được huấn luyện trên chúng nhận ra các đặc điểm bệnh nhân thực sau nhiều năm – và điều trị một bệnh nhân năm 2026 như thể vẫn là năm 2012 (hoặc bất kỳ năm nào mà dữ liệu bệnh nhân ẩn danh của họ lần đầu tiên được đưa vào bộ dữ liệu).

Điều này có thể có nghĩa, ví dụ, rằng một bệnh nhân được ghi nhận đang điều trị ung thư cách đây 20 năm, và sau đó đã vào giai đoạn thuyên giảm lâu dài, hiện có thể bị hệ thống AI trong bối cảnh của bản thân họ khi còn mắc ung thư – logic là thậm chí làm tăng khả năng chẩn đoán sai tái phát.

Ngược lại, nếu dữ liệu của bệnh nhân năm 2012 phản ánh sức khỏe hoàn hảo trong các kiểm tra định kỳ, quan điểm lạc quan này có thể được áp đặt lên phiên bản hiện tại, đã lớn tuổi hơn của bệnh nhân, che giấu việc phát hiện các tình trạng hoặc vấn đề mới có thể cần điều trị.

Từ bài báo mới, một minh họa về cách thiên lệch ghi nhớ có thể ảnh hưởng đến bệnh nhân quay lại. Một mô hình được huấn luyện trên các ECG khỏe mạnh trước đây của Alice chỉ đưa ra xác suất 15% cho cơn đau tim sau này của cô, so với 73% cho một mô hình chưa từng thấy hồ sơ lịch sử của cô. Nguồn

Kiềm chế ‘Di cư Dữ liệu’

Kịch bản này trở nên có khả năng cao hơn do các chỉ thị quốc gia và khu vực khác nhau khuyến nghị rằng dữ liệu bệnh nhân cho các mục đích như vậy nên được lấy từ quốc gia mà các hệ thống được tạo ra sẽ được sử dụng, điều này ‘địa phương hoá’ nhóm bệnh nhân trong các bộ dữ liệu, và đáng kể tăng khả năng xảy ra sự kiện giải ẩn danh không phát hiện này.

Theo suy luận, việc giới hạn lượng dữ liệu chỉ có trong bộ dữ liệu quốc gia làm tăng khả năng ghi nhớ – khả năng mô hình sẽ thấy cùng một dữ liệu quá nhiều lần trong quá trình huấn luyện đến mức nó trở nên ‘đắm chìm’ vào những mẫu học quá mức này. Ngược lại, bộ dữ liệu càng lớn và đa dạng, khả năng nó sẽ tổng quát hoá cho dữ liệu chưa từng thấy sau khi huấn luyện, thay vì ghi nhớ các điểm dữ liệu hoặc cấu hình cụ thể.

Tuy nhiên, việc bổ sung dữ liệu y tế ‘ngoại quốc’ có nguy cơ đưa vào bằng chứng về xu hướng sức khỏe quốc gia và những đặc thù không áp dụng ở quốc gia mà mô hình đã được triển khai; trong khía cạnh này, như bài báo mới thừa nhận, một mức độ ghi nhớ nhất định là phù hợp và hữu ích, vì nó giúp mô hình hoạt động trong các đặc điểm y tế chung nhất có khả năng của một dân số cụ thể.

Bài báo nêu*:

‘[When] mô hình được triển khai một cách tiềm năng, việc ghi nhớ tạo ra một rủi ro cụ thể và chưa được đánh giá đầy đủ. Vì hồ sơ của bệnh nhân có độ tương đồng cao theo thời gian, một hồ sơ trong tương lai có thể hoạt động như một gợi ý một phần cho hồ sơ lịch sử đã được ghi nhớ, làm dịch chuyển dự đoán của mô hình về phía trạng thái sức khỏe trước đây của bệnh nhân.’

Đây không phải là một kịch bản giả thuyết. Các mô hình AI y tế thường xuyên được triển khai trên cùng một dân số mà dữ liệu huấn luyện của chúng được lấy từ đó.

‘Ví dụ, chương trình sàng lọc ung thư vú quốc gia của Đức chương trình sử dụng một mô hình AI được huấn luyện trên 1.2 million mammograms lấy từ cùng một nhóm dân số sàng lọc mà hiện nó đang phục vụ.

‘Việc triển khai tương tự đang diễn ra ở các nơi khác, bao gồm các chương trình sàng lọc ung thư vú quốc gia ở Vương quốc Anh và Thụy Điển.

‘Hướng dẫn quy định tích cực khuyến khích điều này, với EU AI Act yêu cầu dữ liệu huấn luyện phản ánh bối cảnh địa lý và ngữ cảnh của việc sử dụng dự kiến (Art. 10(4)), và các hướng dẫn quốc tế tương tự cho việc phát triển AI y tế yêu cầu quần thể bệnh nhân dự kiến được đại diện đầy đủ trong bộ dữ liệu huấn luyện của mô hình.’

Thảm họa Lịch sử Bền vững..?

Mặc dù bài báo không đề cập tới vấn đề này, dường như thống kê cho thấy hợp lý rằng những bệnh nhân không thường xuyên tham gia kiểm tra y tế trong suốt đời, và hồ sơ ẩn danh của họ được đưa vào luồng dữ liệu AI một cách định kỳ, có khả năng xuất hiện trong dữ liệu bệnh nhân ẩn danh hầu như chỉ vào những thời điểm họ cần điều trị – điều này sẽ làm tăng khả năng ‘chiếu’ một tình trạng đã được chữa khỏi lâu vào cùng một bệnh nhân hiện tại, vì hồ sơ không có sự cân bằng ‘sức khỏe tốt’.

Điều này được chứng minh bởi nghiên cứu trước về ‘thiên lệch hiện diện có thông tin’ trong hồ sơ sức khỏe điện tử, cho thấy các bộ dữ liệu y tế không cân bằng đại diện cho các giai đoạn bệnh nhân ốm và tương tác với dịch vụ y tế.

Một nghiên cứu phát hiện rằng bệnh nhân nặng bệnh có số ngày có dữ liệu xét nghiệm cao hơn 5,05 lần và số ngày có đơn thuốc cao hơn 6,85 lần so với bệnh nhân khỏe mạnh nhất.

Năm 2022, khoảng 76% người trưởng thành ở Hoa Kỳ báo cáo đã thực hiện kiểm tra sức khỏe định kỳ trong năm trước, theo định nghĩa của CDC là một cuộc khám sức khỏe tổng quát, không phải điều trị cho một bệnh cụ thể; và ở châu Âu, một khảo sát đa quốc gia năm 2023 phát hiện rằng 58% người tham gia đã ít nhất một lần kiểm tra phòng ngừa; nhưng chỉ 15% tham gia tất cả các cuộc hẹn phòng ngừa mà họ cho là phù hợp.

Mức độ ảnh hưởng

Nghiên cứu đã kiểm tra hiệu ứng trên bốn bộ dữ liệu y tế lớn, bao gồm ghi âm ECG, ảnh X-quang ngực và hồ sơ sức khỏe điện tử; cụ thể là Cơ sở dữ liệu ảnh X-quang ngực MIMIC-CXR và hồ sơ chăm sóc khẩn cấp MIMIC-IV-ED, cùng với MIMIC-ECG và bộ sưu tập ECG lớn hơn nhiều HEEDB. Các bộ dữ liệu có kích thước từ hàng chục nghìn bệnh nhân đến hơn 1,8 triệu người.

Các tác giả lưu ý rằng hiệu ứng được tính toán dao động đáng kể, với sự thay đổi trong xác suất dự đoán vượt quá 70 điểm phần trăm trong một số trường hợp:

Kết quả cho thấy dữ liệu bệnh nhân lịch sử thay đổi dự đoán sau này. Các bảng trên cùng so sánh tần suất và mức độ của những thay đổi này trên bốn bộ dữ liệu; các bảng dưới cùng cho thấy hiệu ứng thay đổi theo thời gian kể từ bản ghi đào tạo cuối cùng của bệnh nhân. Các hiệu ứng đáng kể trở nên ít phổ biến hơn theo thời gian, nhưng vẫn có thể phát hiện được sau nhiều thập kỷ.

Như một biện pháp kiểm soát, các nhà nghiên cứu đã ngẫu nhiên chia các mô hình thành các nhóm và lặp lại so sánh, mặc dù điều này không tạo ra bất kỳ thay đổi đáng kể nào trong các dự đoán tương lai.

Bài báo lưu ý rằng hiệu ứng này cũng có thể kéo dài trong nhiều thập kỷ. Mặc dù nó thường yếu đi và ít phổ biến hơn khi khoảng cách giữa các bản ghi tăng lên, bộ dữ liệu HEEDB, chứa các ECG thu thập từ những năm 1980 đến 2025, đã cho thấy những thay đổi đáng kể trong dự đoán hơn 25 năm sau bản ghi đào tạo mới nhất của bệnh nhân.

Tổn hại chẩn đoán

Các nhà nghiên cứu của bài báo mới – có tiêu đề Memorisation bias in medical AI – sau đó mô phỏng cách mà việc ghi nhớ có thể ảnh hưởng đến độ chính xác chẩn đoán khi bệnh nhân sau này gặp một mô hình được đào tạo trên các bản ghi trước đó của họ.

Các trường hợp trong tương lai được chia thành các nhóm dựa trên việc bệnh nhân có phát triển một tình trạng mới; không có trong dữ liệu đào tạo lịch sử của họ; hoặc họ quay lại với trạng thái sức khỏe gần như giống nhau.

Đối với các tình trạng mới, hiệu ứng luôn tiêu cực, với các mô hình đã từng thấy các bản ghi lịch sử của bệnh nhân cho thấy độ nhạy thấp hơn trên một loạt các chẩn đoán được đại diện trong bốn bộ dữ liệu. Điều này bao gồm nhồi máu và các bất thường ECG khác; các bệnh về phổi; và các kết quả nghiêm trọng rộng hơn.

Trong thực tế, các mô hình tạo ra nhiều kết quả âm tính giả hơn khi sức khỏe của bệnh nhân đã thay đổi; nhưng khi sức khỏe của bệnh nhân không thay đổi, việc mô hình ghi nhớ các bản ghi trước đó khiến nó có khả năng đưa ra chẩn đoán đúng hơn. Cả độ nhạy và độ đặc hiệu đều tăng lên vì tình trạng hiện tại của bệnh nhân giống với tình trạng đã được đại diện trong dữ liệu đào tạo.

Các tác giả lưu ý rằng điều này có thể khiến các hệ thống như vậy khó đánh giá một cách chính xác: nếu hầu hết bệnh nhân quay lại vẫn có cùng các tình trạng, mô hình sẽ hoạt động tốt hơn với họ, có thể che giấu độ nhạy thấp hơn đối với những bệnh nhân đã phát triển các tình trạng mới.

Giải pháp

Như một biện pháp bảo vệ khả thi, các nhà nghiên cứu đã thử độ riêng tư vi phân (giới hạn lượng thông tin về bất kỳ ví dụ đào tạo cá nhân nào có thể được mô hình giữ lại) trong quá trình đào tạo.

Mặc dù bảo vệ các bản ghi cá nhân đã giảm hiệu ứng ghi nhớ, nó không loại bỏ hoàn toàn, ngay cả ở mức thiết lập mạnh nhất đã thử. Áp dụng biện pháp bảo vệ ở mức bệnh nhân, bao phủ tất cả các bản ghi thuộc cùng một người, hiệu quả hơn nhiều và gần như loại bỏ được hiệu ứng.

Tuy nhiên, cần lưu ý rằng nếu một bộ dữ liệu đã được ẩn danh không thể khôi phục, dữ liệu của bệnh nhân không thể được cô lập theo cách cho phép các phương pháp này; và, các nhà nghiên cứu nhận thấy, nếu bộ dữ liệu không được đào tạo với độ riêng tư vi phân được bật, các cuộc tấn công suy luận thành viên trở thành một rủi ro; nếu có, nguồn lực cần thiết cho việc đào tạo sẽ tăng đáng kể.

Kết luận

Các tác giả kết luận rằng mặc dù các sự cố đáng lo ngại hiện đang xảy ra ở mức tỷ lệ tương đối thấp, điều này có thể thay đổi trong tương lai*:

‘Có lý do để kỳ vọng số lượng chẩn đoán bỏ lỡ do thiên lệch ghi nhớ sẽ tăng trong tương lai, mặc dù chúng tôi không kiểm tra điều này một cách trực tiếp. Nghiên cứu trước đây đã chỉ ra rằng tỷ lệ dữ liệu huấn luyện mà mô hình ghi nhớ tăng lên cùng với khả năng của mô hình [6, 7, 9, 10, 40].’

‘Điều này đáng lo ngại, vì việc phát triển mô hình AI hiện nay được hướng dẫn bởi “định luật mở rộng” [41], khiến kích thước mô hình và bộ dữ liệu tăng nhanh nhằm đạt hiệu suất tốt hơn.’

‘Khi các mô hình AI lớn hơn được huấn luyện trên dữ liệu lịch sử thu thập từ các quần thể bệnh nhân ngày càng mở rộng, số lượng tuyệt đối các cá nhân bị ảnh hưởng bởi thiên lệch ghi nhớ có khả năng tăng đáng kể, làm trầm trọng hơn những rủi ro chúng tôi nêu ra ở đây.’

* Việc tôi chuyển đổi các trích dẫn nội dòng của tác giả thành siêu liên kết, kèm một số diễn giải khi việc sao chép chính xác không khả thi hoặc không hữu ích.

Được xuất bản lần đầu vào thứ Sáu, ngày 18 tháng 9 năm 2026. Được chỉnh sửa lúc 18:17 EET để sửa liên kết.