Dữ liệu y tế ẩn danh đã tồn tại hàng thập kỷ có thể gây ra chẩn đoán sai của AI hiện nay

Theo một hợp tác nghiên cứu mới giữa Đức và Vương quốc Anh, các hồ sơ bệnh nhân ẩn danh đã được đưa vào các bộ dữ liệu y tế ngay cả cách đây hàng thập kỷ có thể khiến các hệ thống AI được huấn luyện trên chúng nhận ra bệnh nhân thực năm sau – và điều trị một bệnh nhân năm 2026 như thể vẫn là năm 2012 (hoặc bất kỳ năm nào mà dữ liệu bệnh nhân ẩn danh của họ lần đầu tiên được đưa vào bộ dữ liệu).

Điều này có thể có nghĩa, ví dụ, rằng một bệnh nhân được ghi nhận đang điều trị ung thư cách đây 20 năm, và sau đó đã vào giai đoạn thuyên giảm dài hạn, hiện có thể bị hệ thống AI trong bối cảnh bản thân họ khi còn mắc ung thư điều trị – về mặt logic thậm chí làm tăng khả năng chẩn đoán sai về tái phát.

Ngược lại, nếu phiên bản dữ liệu của bệnh nhân năm 2012 phản ánh sức khỏe hoàn hảo trong các khám sức khỏe định kỳ, quan điểm lạc quan này có thể được áp dụng lên phiên bản hiện tại đã lớn tuổi hơn của bệnh nhân, che khuất việc phát hiện các tình trạng hoặc vấn đề mới có thể cần được điều trị.

Từ bài báo mới, một minh họa về cách thiên lệch ghi nhớ có thể ảnh hưởng đến bệnh nhân quay lại. Một mô hình được huấn luyện trên các ECG khỏe mạnh trước đây của Alice chỉ đưa ra xác suất 15% cho cơn tim mạch sau này của cô, so với 73% cho một mô hình chưa từng thấy các hồ sơ lịch sử của cô. Nguồn

Kiềm chế ‘Di cư Dữ liệu’

Kịch bản này trở nên có khả năng cao hơn nhờ các chỉ thị quốc gia và khu vực khác nhau khuyến nghị rằng dữ liệu bệnh nhân cho các mục đích như vậy nên được lấy từ quốc gia mà các hệ thống dựa trên dữ liệu đó dự định được sử dụng, điều này ‘địa phương hoá’ nhóm bệnh nhân trong các bộ dữ liệu, và đáng chú ý làm tăng khả năng xảy ra sự kiện giải danh ẩn danh không phát hiện này.

Theo suy luận, việc giới hạn lượng dữ liệu chỉ trong một bộ dữ liệu quốc gia làm tăng khả năng sự ghi nhớ – khả năng mô hình sẽ nhìn thấy cùng một dữ liệu quá nhiều lần trong quá trình huấn luyện đến mức nó trở nên ‘bám chặt’ vào những mẫu học quá mức này. Ngược lại, bộ dữ liệu càng lớn và đa dạng, khả năng nó sẽ tổng quát hoá cho dữ liệu chưa thấy sau khi huấn luyện càng cao, thay vì ghi nhớ các điểm dữ liệu hoặc cấu hình cụ thể.

Tuy nhiên, việc thêm dữ liệu y tế ‘ngoại quốc’ có nguy cơ đưa vào bằng chứng về xu hướng sức khỏe quốc gia và những đặc thù không áp dụng được ở quốc gia mà mô hình đã được triển khai; trong khía cạnh này, như bài báo mới thừa nhận, một mức độ nhất định của sự ghi nhớ là phù hợp và hữu ích, vì nó giúp mô hình hoạt động trong các đặc điểm y tế chung nhất có khả năng của một dân số cụ thể.

Bài báo nêu*:

‘[When] mô hình được triển khai một cách tiềm năng, việc ghi nhớ tạo ra một rủi ro cụ thể và chưa được đánh giá đầy đủ. Vì hồ sơ bệnh nhân có tính tự tương đồng cao theo thời gian, một hồ sơ trong tương lai có thể hoạt động như một gợi ý một phần cho hồ sơ lịch sử đã được ghi nhớ, làm dịch chuyển dự đoán của mô hình về trạng thái sức khỏe trước đây của bệnh nhân.

Đây không phải là một kịch bản giả thuyết. Các mô hình AI y tế thường xuyên được triển khai trên cùng một dân số mà dữ liệu đào tạo của chúng được lấy từ đó.

‘Ví dụ, chương trình sàng lọc ung thư vú quốc gia của Đức chương trình sử dụng một mô hình AI được huấn luyện trên 1,2 triệu mammograms được lấy từ cùng một nhóm dân cư sàng lọc mà nó hiện đang phục vụ.

‘Việc triển khai tương tự đang diễn ra ở các nơi khác, bao gồm các chương trình sàng lọc ung thư vú quốc gia ở Vương quốc Anh và Thụy Điển.

‘Hướng dẫn quy định tích cực khuyến khích điều này, với EU AI Act yêu cầu dữ liệu đào tạo phản ánh bối cảnh địa lý và ngữ cảnh của việc sử dụng dự định (Điều 10(4)), và các hướng dẫn quốc tế tương tự cho việc phát triển AI y tế yêu cầu dân số bệnh nhân mục tiêu phải được đại diện đầy đủ trong bộ dữ liệu đào tạo của mô hình.’

Thảm họa Lịch sử Bền vững..?

Mặc dù bài báo không đề cập đến vấn đề này, có vẻ hợp lý về mặt thống kê rằng những bệnh nhân không (hoặc đã không) thường xuyên tham gia khám sức khỏe suốt đời, và các hồ sơ ẩn danh của họ được đưa vào luồng dữ liệu AI định kỳ, có khả năng xuất hiện trong dữ liệu bệnh nhân ẩn danh hầu như chỉ vào những thời điểm họ cần điều trị – điều này có xu hướng tăng khả năng ‘chiếu’ một tình trạng đã được chữa khỏi lâu vào cùng một bệnh nhân hiện tại, vì các hồ sơ không có sự cân bằng ‘sức khỏe tốt’.

Điều này được chứng minh bởi nghiên cứu trước về ‘thiên lệch hiện diện có thông tin’ trong hồ sơ sức khỏe điện tử, cho thấy các bộ dữ liệu y tế không cân đối đại diện cho các giai đoạn khi bệnh nhân bị ốm và tương tác với dịch vụ y tế.

Một nghiên cứu phát hiện rằng bệnh nhân nặng nề có 5,05 lần nhiều ngày có dữ liệu phòng thí nghiệm và 6,85 lần nhiều ngày có đơn thuốc so với bệnh nhân khỏe mạnh nhất.

Năm 2022, khoảng 76% người trưởng thành ở Hoa Kỳ đã báo cáo rằng họ đã thực hiện kiểm tra sức khỏe định kỳ trong năm trước, được CDC định nghĩa là một cuộc khám sức khỏe tổng quát, chứ không phải điều trị cho một bệnh cụ thể; và ở châu Âu, một khảo sát đa quốc gia năm 2023 đã phát hiện rằng 58% người tham gia đã tham gia ít nhất một lần kiểm tra phòng ngừa; nhưng chỉ 15% tham gia tất cả các cuộc hẹn phòng ngừa mà họ cho là liên quan.

Mức độ ảnh hưởng

Nghiên cứu đã kiểm tra ảnh hưởng trên bốn bộ dữ liệu y tế lớn, bao gồm ghi âm ECG, ảnh X-quang ngực và hồ sơ sức khỏe điện tử; cụ thể là cơ sở dữ liệu ảnh X-quang ngực MIMIC-CXR và hồ sơ chăm sóc khẩn cấp MIMIC-IV-ED, cùng với MIMIC-ECG và bộ sưu tập ECG HEEDB lớn hơn nhiều. Các bộ dữ liệu có kích thước từ hàng chục nghìn bệnh nhân đến hơn 1,8 triệu người.

Các tác giả lưu ý rằng hiệu ứng tính toán thay đổi đáng kể, với mức thay đổi xác suất dự đoán vượt quá 70 điểm phần trăm trong một số trường hợp:

Kết quả cho thấy dữ liệu bệnh nhân lịch sử thay đổi dự đoán sau này như thế nào. Các bảng trên so sánh tần suất và mức độ của những thay đổi này trên bốn bộ dữ liệu; các bảng dưới cho thấy hiệu ứng thay đổi theo thời gian kể từ bản ghi đào tạo cuối cùng của bệnh nhân. Các hiệu ứng đáng kể trở nên ít phổ biến hơn theo thời gian, nhưng vẫn có thể phát hiện được sau nhiều thập kỷ.

Là một nhóm kiểm soát, các nhà nghiên cứu đã chia ngẫu nhiên các mô hình thành các nhóm và lặp lại so sánh, tuy nhiên điều này không tạo ra bất kỳ thay đổi đáng kể nào trong các dự đoán tương lai.

Bài báo lưu ý rằng hiệu ứng này có thể kéo dài trong nhiều thập kỷ. Mặc dù nó thường yếu đi và ít phổ biến hơn khi khoảng thời gian giữa các bản ghi tăng lên, bộ dữ liệu HEEDB, chứa các ECG thu thập từ những năm 1980 đến 2025, đã cho thấy những thay đổi đáng kể trong dự đoán hơn 25 năm sau bản ghi đào tạo mới nhất của bệnh nhân.

Tác hại chẩn đoán

Các nhà nghiên cứu của bài báo mới – có tiêu đề Memorisation bias in medical AI – sau đó mô phỏng cách mà việc ghi nhớ có thể ảnh hưởng đến độ chính xác chẩn đoán khi bệnh nhân sau này gặp một mô hình được đào tạo trên các bản ghi trước của họ.

Các trường hợp trong tương lai được chia dựa trên việc bệnh nhân có phát triển một tình trạng mới; không có trong dữ liệu đào tạo lịch sử của họ; hoặc họ quay lại với trạng thái sức khỏe gần như giống nhau.

Đối với các tình trạng mới, hiệu ứng luôn tiêu cực, với các mô hình đã từng thấy các bản ghi lịch sử của bệnh nhân cho thấy độ nhạy thấp hơn trên một loạt các chẩn đoán được đại diện trong bốn bộ dữ liệu. Điều này bao gồm nhồi máu và các bất thường ECG khác; các bệnh về phổi; và các kết quả nghiêm trọng rộng hơn.

Trong thực tế, các mô hình tạo ra nhiều kết quả âm tính giả hơn khi sức khỏe của bệnh nhân đã thay đổi; nhưng khi sức khỏe của bệnh nhân không thay đổi, việc mô hình ghi nhớ các bản ghi trước của họ làm tăng khả năng đưa ra chẩn đoán đúng. Cả độ nhạy và độ đặc hiệu đều tăng vì tình trạng hiện tại của bệnh nhân giống với tình trạng đã có trong dữ liệu đào tạo.

Các tác giả lưu ý rằng điều này có thể khiến việc đánh giá các hệ thống như vậy trở nên khó khăn: nếu hầu hết bệnh nhân quay lại vẫn có cùng các tình trạng, mô hình sẽ hoạt động tốt hơn với họ, có thể che giấu độ nhạy thấp hơn đối với những bệnh nhân đã phát triển các tình trạng mới.

Giải pháp

Như một biện pháp bảo vệ khả thi, các nhà nghiên cứu đã thử độ riêng tư khác biệt (giới hạn lượng thông tin về bất kỳ ví dụ đào tạo cá nhân nào có thể được mô hình giữ lại) trong quá trình đào tạo.

Mặc dù bảo vệ các bản ghi cá nhân giảm thiểu hiệu ứng ghi nhớ, nhưng không loại bỏ hoàn toàn, ngay cả ở mức thiết lập mạnh nhất đã thử. Áp dụng biện pháp bảo vệ ở mức bệnh nhân, bao phủ tất cả các bản ghi thuộc cùng một người, hiệu quả hơn nhiều và gần như loại bỏ hoàn toàn hiệu ứng.

Tuy nhiên, cần lưu ý rằng nếu một bộ dữ liệu đã được ẩn danh không thể khôi phục, dữ liệu của bệnh nhân không thể được cô lập theo cách cho phép các phương pháp này; và, các nhà nghiên cứu nhận thấy, nếu bộ dữ liệu không được đào tạo với độ riêng tư khác biệt được bật, các cuộc tấn công suy luận thành viên trở thành một rủi ro; nếu có, nguồn lực cần thiết cho việc đào tạo sẽ tăng đáng kể.

Kết luận

Các tác giả kết luận rằng mặc dù các sự cố đáng lo ngại hiện đang xảy ra ở mức tỷ lệ tương đối thấp, điều này có thể thay đổi trong tương lai*:

‘Có lý do để kỳ vọng số lượng chẩn đoán bỏ lỡ do thiên lệch ghi nhớ sẽ tăng trong tương lai, mặc dù chúng tôi không kiểm tra điều này một cách trực tiếp. Nghiên cứu trước đây đã chỉ ra rằng tỷ lệ dữ liệu huấn luyện mà mô hình ghi nhớ tăng lên cùng với khả năng của mô hình [6, 7, 9, 10, 40].’

‘Điều này đáng lo ngại, vì việc phát triển mô hình AI hiện nay được hướng dẫn bởi “luật mở rộng” [41], khiến kích thước mô hình và bộ dữ liệu tăng nhanh nhằm đạt hiệu suất tốt hơn.’

‘Khi các mô hình AI lớn hơn được huấn luyện trên dữ liệu lịch sử thu thập từ các quần thể bệnh nhân ngày càng mở rộng, số lượng tuyệt đối các cá nhân bị ảnh hưởng bởi thiên lệch ghi nhớ có khả năng tăng đáng kể, làm trầm trọng hơn những rủi ro chúng tôi nêu ra ở đây.’

* Việc tôi chuyển đổi các trích dẫn nội dòng của tác giả thành siêu liên kết, kèm một số diễn giải khi việc sao chép chính xác không khả thi hoặc không hữu ích.

Được xuất bản lần đầu vào thứ Sáu, ngày 18 tháng 9 năm 2026