Nền tảng AI

Nguồn gốc nội dung là gì? C2PA, hình mờ và cách phát hiện nội dung do AI tạo

Nguồn gốc nội dung ghi lại thông tin có thể xác minh về xuất xứ và lịch sử chỉnh sửa của một tài sản, giúp con người và hệ thống kiểm tra cách tài sản đó được tạo ra hoặc thay đổi. Hướng dẫn này giải thích cơ chế, những đánh đổi, cách đánh giá và các biện pháp kiểm soát có ý nghĩa trong thực tế.

mm
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google

Nguồn gốc nội dung ghi lại thông tin có thể xác minh về xuất xứ và lịch sử chỉnh sửa của một tài sản, để con người và hệ thống có thể kiểm tra cách tài sản đó được tạo ra hoặc thay đổi.

Nguồn gốc nội dung cần được giải thích chính xác, vì tên gọi này chỉ một luồng thông tin, lựa chọn huấn luyện, cơ chế khi vận hành hoặc ranh giới quản trị cụ thể. Xem thuật ngữ này như từ đồng nghĩa với “AI tiên tiến” khiến các tuyên bố không thể kiểm chứng. Hướng dẫn này lần theo khái niệm từ đầu vào và các giả định, qua kết quả có thể quan sát, rồi kiểm tra cách hiểu tắt dễ bị nhầm lẫn nhất với nó.

Nguồn gốc nội dung: Định nghĩa, ranh giới và mục đích

Nguồn gốc nội dung ghi lại thông tin có thể xác minh về xuất xứ và lịch sử chỉnh sửa của một tài sản, để con người và hệ thống có thể kiểm tra cách tài sản đó được tạo ra hoặc thay đổi. Định nghĩa này bao hàm ba cam kết thực tiễn: có một đầu vào xác định được; có một phép biến đổi hoặc quyết định đặc trưng cho nguồn gốc nội dung; và có một kết quả có thể được đánh giá dựa trên mục tiêu đã nêu. Nếu thiếu một trong các yếu tố đó, thuật ngữ này có thể chỉ một nguyện vọng chứ không phải một cơ chế đã được triển khai.

AI đáng tin cậy đòi hỏi bằng chứng xuyên suốt vòng đời. Một biện pháp kiểm soát chỉ có ý nghĩa khi chủ thể chịu trách nhiệm, phạm vi, điều kiện kích hoạt, hành vi mong đợi và phương pháp xác minh được nêu rõ. Với nguồn gốc nội dung, cách nhìn toàn hệ thống này rất quan trọng, bởi hiệu năng có thể phụ thuộc vào dữ liệu, giao diện, phần cứng, quyền hạn và con người xung quanh, ngay cả khi mô hình nền tảng không thay đổi. Vì vậy, một lời giải thích hữu ích cần phân biệt hành vi mô hình đã học được với sản phẩm quyết định khi nào, ở đâu và với thẩm quyền nào hành vi đó được sử dụng.

Cách hiểu tắt dễ gây nhầm lẫn nhất là phát hiện AI, vốn dự đoán dựa trên điểm ảnh xem nội dung truyền thông có phải do máy tạo ra hay không. Cách này có thể có một đặc điểm bề ngoài giống với nguồn gốc nội dung, nhưng lại làm thay đổi quan hệ nhân quả: cần bằng chứng khác để xác định thành công, các nguồn lực khác sẽ chi phối chi phí và cần những biện pháp kiểm soát khác để ngăn ngừa tác hại. Vì vậy, ranh giới ở đây mang tính vận hành chứ không phải thuật ngữ.

Sơ đồ vận hành nguồn gốc nội dung gồm năm giai đoạn

01Ghi nhận các khai báo khi tạo hoặc

02Liên kết chúng bằng mật mã với

03Ký tuyên bố bằng

04Bảo toàn hoặc cập nhật bản kê khai

05Xác minh và hiển thị thông tin hiện có
Nguồn gốc nội dung biến đầu vào thành kết quả thông qua năm thao tác có thể quan sát. Phần giải thích được đánh số bên dưới trình bày theo đúng thứ tự đó.

Sơ đồ này là bản đồ nhân quả cô đọng về nguồn gốc nội dung, chứ không khẳng định rằng mọi cách triển khai đều sử dụng năm thành phần phần mềm. Một số hệ thống kết hợp các giai đoạn, còn một số khác lặp lại chúng theo vòng. Bản đồ vẫn hữu ích vì buộc mỗi thay đổi về thông tin hoặc thẩm quyền phải có chủ thể chịu trách nhiệm, đầu vào, đầu ra và phép thử.

1. Ghi nhận các khai báo tại thời điểm tạo hoặc chỉnh sửa: Đầu vào và giả định trong nguồn gốc nội dung

Ở giai đoạn này của quy trình nguồn gốc nội dung, hệ thống phải ghi nhận các khai báo tại thời điểm tạo hoặc chỉnh sửa. Câu hỏi hữu ích không chỉ là thao tác đó có diễn ra hay không, mà còn là thao tác sử dụng thông tin nào, làm thay đổi trạng thái nào và bằng chứng nào chứng minh thay đổi đó hợp lệ. Người đánh giá cần có khả năng phân biệt thao tác này với việc phát hiện AI, vốn dự đoán dựa trên điểm ảnh xem nội dung truyền thông có phải do máy tạo ra hay không, đồng thời tái tạo được kết quả trong cùng những điều kiện đã nêu.

Quá trình bàn giao vào giai đoạn này của nguồn gốc nội dung bắt đầu từ mục tiêu đã nêu và nên kết thúc bằng một kết quả có thể hỗ trợ việc liên kết chúng với tài sản bằng mật mã. Hãy ghi lại sự không chắc chắn, các phương án đã bị loại bỏ, mức sử dụng nguồn lực và mọi biện pháp kiểm soát do con người hoặc phần mềm áp dụng tại ranh giới này. Dấu vết đó giúp các nhóm phát hiện liệu thông tin nguồn gốc hợp lệ chỉ mô tả lịch sử mà không chứng minh sự kiện được mô tả là có thật hay không, trước khi chính điểm yếu ấy ảnh hưởng đến một kết quả có hệ quả đáng kể.

2. Liên kết chúng với tài sản bằng mật mã: Cách biểu diễn hoặc quyết định trong nguồn gốc nội dung

Ở giai đoạn này của quy trình nguồn gốc nội dung, hệ thống phải liên kết chúng với tài sản bằng mật mã. Câu hỏi hữu ích không chỉ là thao tác đó có diễn ra hay không, mà còn là thao tác sử dụng thông tin nào, làm thay đổi trạng thái nào và bằng chứng nào chứng minh thay đổi đó hợp lệ. Người đánh giá cần có khả năng phân biệt thao tác này với việc phát hiện AI, vốn dự đoán dựa trên điểm ảnh xem nội dung truyền thông có phải do máy tạo ra hay không, đồng thời tái tạo được kết quả trong cùng những điều kiện đã nêu.

Quá trình chuyển giao ở giai đoạn nguồn gốc nội dung này bắt đầu bằng các khẳng định về việc ghi nhận tại thời điểm tạo hoặc chỉnh sửa, và nên kết thúc bằng một kết quả có thể hỗ trợ việc ký xác nhận tuyên bố bằng một danh tính có thể quy trách nhiệm. Ghi lại những điểm chưa chắc chắn, các phương án bị bác bỏ, việc sử dụng tài nguyên và mọi biện pháp kiểm soát do con người hoặc phần mềm áp dụng tại ranh giới này. Dấu vết đó giúp các nhóm phát hiện liệu thông tin nguồn gốc hợp lệ có mô tả lịch sử nhưng không chứng minh được sự kiện được mô tả là có thật hay không, trước khi cùng điểm yếu ấy ảnh hưởng đến một đầu ra có hệ quả đáng kể.

3. Ký xác nhận tuyên bố bằng một danh tính có thể quy trách nhiệm: Bước chuyển đổi đặc thù trong nguồn gốc nội dung

Ở giai đoạn này của quy trình nguồn gốc nội dung, hệ thống phải ký xác nhận tuyên bố bằng một danh tính có thể quy trách nhiệm. Điều cần tìm hiểu không chỉ là thao tác đó có diễn ra hay không, mà còn là nó sử dụng thông tin nào, thay đổi trạng thái nào và bằng chứng nào chứng minh thay đổi đó là hợp lệ. Người đánh giá cần có khả năng phân biệt thao tác này với việc phát hiện AI, vốn suy đoán từ các điểm ảnh xem nội dung nghe nhìn có phải là tổng hợp hay không, đồng thời có thể tái tạo kết quả trong cùng các điều kiện đã nêu.

Quá trình chuyển giao ở giai đoạn nguồn gốc nội dung này bắt đầu bằng việc liên kết chúng với tài sản bằng phương pháp mật mã, và nên kết thúc bằng một kết quả có thể hỗ trợ việc bảo toàn hoặc cập nhật bản kê khai qua các lần chuyển đổi. Ghi lại những điểm chưa chắc chắn, các phương án bị bác bỏ, việc sử dụng tài nguyên và mọi biện pháp kiểm soát do con người hoặc phần mềm áp dụng tại ranh giới này. Dấu vết đó giúp các nhóm phát hiện liệu thông tin nguồn gốc hợp lệ có mô tả lịch sử nhưng không chứng minh được sự kiện được mô tả là có thật hay không, trước khi cùng điểm yếu ấy ảnh hưởng đến một đầu ra có hệ quả đáng kể.

4. Bảo toàn hoặc cập nhật bản kê khai qua các lần chuyển đổi: Ranh giới về ràng buộc và xác minh trong nguồn gốc nội dung

Ở giai đoạn này của quy trình nguồn gốc nội dung, hệ thống phải bảo toàn hoặc cập nhật bản kê khai qua các lần chuyển đổi. Điều cần tìm hiểu không chỉ là thao tác đó có diễn ra hay không, mà còn là nó sử dụng thông tin nào, thay đổi trạng thái nào và bằng chứng nào chứng minh thay đổi đó là hợp lệ. Người đánh giá cần có khả năng phân biệt thao tác này với việc phát hiện AI, vốn suy đoán từ các điểm ảnh xem nội dung nghe nhìn có phải là tổng hợp hay không, đồng thời có thể tái tạo kết quả trong cùng các điều kiện đã nêu.

Quá trình chuyển giao ở giai đoạn nguồn gốc nội dung này bắt đầu bằng việc ký xác nhận tuyên bố bằng một danh tính có thể quy trách nhiệm, và nên kết thúc bằng một kết quả có thể hỗ trợ việc xác minh và hiển thị các tín hiệu tin cậy hiện có. Ghi lại những điểm chưa chắc chắn, các phương án bị bác bỏ, việc sử dụng tài nguyên và mọi biện pháp kiểm soát do con người hoặc phần mềm áp dụng tại ranh giới này. Dấu vết đó giúp các nhóm phát hiện liệu thông tin nguồn gốc hợp lệ có mô tả lịch sử nhưng không chứng minh được sự kiện được mô tả là có thật hay không, trước khi cùng điểm yếu ấy ảnh hưởng đến một đầu ra có hệ quả đáng kể.

5. Xác minh và hiển thị các tín hiệu tin cậy hiện có: Đầu ra, phản hồi và quy tắc dừng trong nguồn gốc nội dung

Ở giai đoạn này của quy trình nguồn gốc nội dung, hệ thống phải xác minh và hiển thị các tín hiệu tin cậy hiện có. Điều cần tìm hiểu không chỉ là thao tác đó có diễn ra hay không, mà còn là nó sử dụng thông tin nào, thay đổi trạng thái nào và bằng chứng nào chứng minh thay đổi đó là hợp lệ. Người đánh giá cần có khả năng phân biệt thao tác này với việc phát hiện AI, vốn suy đoán từ các điểm ảnh xem nội dung nghe nhìn có phải là tổng hợp hay không, đồng thời có thể tái tạo kết quả trong cùng các điều kiện đã nêu.

Quá trình chuyển giao ở giai đoạn nguồn gốc nội dung này bắt đầu bằng việc bảo toàn hoặc cập nhật bản kê khai qua các lần chuyển đổi, và nên kết thúc bằng một kết quả có thể hỗ trợ việc giám sát hoặc đưa ra quyết định cuối cùng. Ghi lại những điểm chưa chắc chắn, các phương án bị bác bỏ, việc sử dụng tài nguyên và mọi biện pháp kiểm soát do con người hoặc phần mềm áp dụng tại ranh giới này. Dấu vết đó giúp các nhóm phát hiện liệu thông tin nguồn gốc hợp lệ có mô tả lịch sử nhưng không chứng minh được sự kiện được mô tả là có thật hay không, trước khi cùng điểm yếu ấy ảnh hưởng đến một đầu ra có hệ quả đáng kể.

Đọc sơ đồ nguồn gốc nội dung theo chiều thuận để hiểu quy trình tạo ra nội dung, và theo chiều ngược để chẩn đoán sự cố. Phân tích theo chiều thuận tìm hiểu cách mỗi giai đoạn cung cấp thông tin cho giai đoạn tiếp theo. Phân tích ngược bắt đầu từ một kết quả không chính xác, chậm, tốn kém hoặc không an toàn, rồi lần theo những giả định trước đó đã dẫn đến kết quả ấy. Thường chính khi lần ngược quy trình, nhóm mới phát hiện ra rằng sai sót mang tính quyết định đã xảy ra trước khi mô hình tạo ra bất cứ thứ gì.

Ví dụ minh họa về nguồn gốc nội dung

Một bức ảnh của tòa soạn có thể lưu giữ các khẳng định đã ký về quá trình ghi nhận và chỉnh sửa, trong khi những phần cắt xén được thêm vào sau đó vẫn nằm trong cùng chuỗi nguồn gốc.

Ví dụ này hữu ích vì có thể gắn quy trình nguồn gốc nội dung với các dữ liệu đầu vào, trạng thái trung gian và kết quả có thể quan sát được, thay vì đánh giá nó qua một màn trình diễn được trau chuốt. Một phép thử nghiêm ngặt sẽ xây dựng các tình huống thông thường, khó xử lý và cố ý gây hiểu lầm xoay quanh kịch bản này, duy trì một mốc đối chứng không áp dụng kỹ thuật đó, đồng thời ghi nhận cả hiệu suất trung bình lẫn mức độ nghiêm trọng của từng lỗi riêng lẻ.

Hãy thay đổi một giả định trong ví dụ về nguồn gốc nội dung rồi lặp lại phân tích. Loại bỏ một dữ liệu đầu vào bắt buộc, đưa vào một tín hiệu mâu thuẫn, hạn chế năng lực tính toán, thay đổi nhóm người dùng hoặc buộc hệ thống từ chối đưa ra kết luận. Một cơ chế chỉ thành công trong một màn trình diễn được sắp đặt cẩn thận không chứng minh được rằng nó có thể khái quát hóa sang môi trường vận hành.

Nguồn gốc nội dung và lối tắt phổ biến nhất

Nguồn gốc nội dung thường bị đánh đồng với việc phát hiện nội dung do AI tạo bằng cách phỏng đoán từ các điểm ảnh. Cách giản lược đó xóa nhòa chính ranh giới làm nên khái niệm này. Điều đó có thể khiến người mua so sánh những sản phẩm không tương đồng, khiến nhà nghiên cứu phóng đại ý nghĩa của kết quả thí nghiệm, và khiến người vận hành theo dõi sai tín hiệu sau khi triển khai.

Định nghĩa
Nguồn gốc nội dung

Quá trình biến đổi cốt lõi

Kết quả đo lường được
Cách tiếp cận giản lược
Phát hiện AI bằng cách phỏng đoán từ

Bỏ qua ranh giới cốt lõi

Thông tin nguồn gốc hợp lệ mô tả lịch sử nhưng
Cơ chế cốt lõi của nguồn gốc nội dung lưu lại một quá trình biến đổi và kết quả có thể đo lường; cách tiếp cận giản lược bỏ qua ranh giới đó và phơi bày điểm thất bại cốt yếu.
Góc nhìn Câu trả lời thực tế
Định nghĩa Nguồn gốc nội dung ghi lại thông tin có thể xác minh về xuất xứ và lịch sử chỉnh sửa của một tài sản, để con người và hệ thống có thể kiểm tra cách tài sản đó được tạo ra hoặc thay đổi.
Nhầm lẫn Phát hiện nội dung do AI tạo bằng cách phỏng đoán từ các điểm ảnh.
Rủi ro Thông tin nguồn gốc hợp lệ mô tả lịch sử nhưng không chứng minh sự kiện được thể hiện là có thật.

Phép so sánh cũng cần xác định đơn vị phân tích. Một bài báo về nguồn gốc nội dung có thể chỉ khảo sát một mô hình hoặc thuật toán, trong khi một dịch vụ đã triển khai còn bổ sung các khâu truy xuất, định tuyến, lưu vào bộ nhớ đệm, chính sách, danh tính, giao diện người dùng và giám sát. Hai sản phẩm có thể dùng cùng một thuật ngữ nổi bật nhưng triển khai những phần khác nhau trong hệ thống đó. Hãy xác định thành phần nào thực hiện quá trình biến đổi cốt lõi và những thành phần nào khác cần thiết để đạt được kết quả đã báo cáo.

Vì sao nguồn gốc nội dung quan trọng trong các hệ thống AI hiện nay

Nguồn gốc nội dung hiện có ý nghĩa quan trọng vì các hệ thống AI đang được cung cấp ngữ cảnh lớn hơn, nhiều phương thức đầu vào hơn, năng lực tính toán khi chạy cao hơn, quyền truy cập công cụ rộng hơn và được kết nối sâu hơn với các quyết định của tổ chức. Trong những điều kiện đó, điều trước đây chỉ có vẻ là một chi tiết nghiên cứu có thể quyết định độ trễ, bảo mật, khả năng tiếp cận, chi phí môi trường, chất lượng sản phẩm hoặc trách nhiệm pháp lý.

Thước đo phù hợp không phải là liệu nguồn gốc nội dung có tạo ra được một kết quả ấn tượng hay không. Điều cần đánh giá là liệu kỹ thuật đó có cải thiện một kết quả quan trọng trong các điều kiện tiêu biểu, và có làm được điều đó hiệu quả hơn một phương pháp cơ sở đơn giản hơn hay không. Hãy báo cáo phân bố kết quả, các nhóm lỗi, độ trễ ở phần đuôi phân bố, mức sử dụng tài nguyên và các nhóm đối tượng bị ảnh hưởng, thay vì gộp mọi kết quả thành một giá trị trung bình.

Hãy theo dõi cả chỉ số kỹ thuật lẫn tác động lên con người. Ghi nhận sự không chắc chắn, duy trì khả năng truy xuất nguồn gốc, tạo điều kiện chuyển cấp xử lý và thiết kế phương án khôi phục trước khi hệ thống phải đối mặt với các điều kiện thực tế luôn thay đổi. Khi được áp dụng cụ thể cho nguồn gốc nội dung, quy trình này giúp bằng chứng có thể được sử dụng ở nơi khác: một nhóm khác có thể đánh giá liệu mức cải thiện được tuyên bố có khả năng duy trì khi dùng mô hình, ngôn ngữ, nền tảng phần cứng, tập dữ liệu, nhóm người dùng hoặc mức chấp nhận rủi ro khác hay không.

Những lợi ích mà nguồn gốc nội dung có thể mang lại

Lý do thuyết phục nhất để sử dụng nguồn gốc nội dung là phương pháp này có thể trực tiếp giải quyết nút thắt mà nó hướng đến. Tùy cách triển khai, lợi ích có thể thể hiện qua khả năng bám sát thông tin làm căn cứ tốt hơn, biểu diễn trung thực hơn, khái quát hóa tốt hơn, độ trễ thấp hơn, giảm luân chuyển dữ liệu trong bộ nhớ, trách nhiệm giải trình rõ ràng hơn hoặc ranh giới an toàn hơn giữa đề xuất của mô hình và hành động thực tế.

Lợi ích cần được diễn đạt bằng các quyết định và phép đo. “Thông minh hơn” không phải là tiêu chí nghiệm thu cho nguồn gốc nội dung. Một mục tiêu hữu ích có thể nêu rõ tỷ lệ lỗi trong các trường hợp khó, khả năng khôi phục sau khi xuất hiện bằng chứng mâu thuẫn, chi phí tại một phân vị lưu lượng truy cập, thời gian con người cần để rà soát, mức độ hiệu chuẩn hoặc tỷ lệ hành động nằm trong giới hạn thẩm quyền đã xác định.

Kiểu thất bại định hình khái niệm nguồn gốc nội dung

Hạn chế cốt yếu là thông tin nguồn gốc hợp lệ mô tả lịch sử nhưng không chứng minh sự kiện được thể hiện là có thật. Đây không phải là vấn đề có thể để đến khi phát triển xong mới liệt kê như một ý nghĩ nảy ra sau cùng. Ngay từ đầu, vấn đề này cần định hướng việc thu thập dữ liệu, kiến trúc, quyền hạn, đánh giá, các điều kiện phê duyệt phát hành và hoạt động giám sát nguồn gốc nội dung.

01Lập bản đồ ngữ cảnh

02Đánh giá rủi ro

03Phân công người chịu trách nhiệm

04Thực thi biện pháp kiểm soát

05Theo dõi tác động
Không thể ngăn chặn: thông tin nguồn gốc hợp lệ mô tả lịch sử nhưng không chứng minh sự kiện được mô tả là có thật.
Các biện pháp kiểm soát được sắp xếp từ trái sang phải theo cùng thứ tự mà hệ thống tiến gần đến một hệ quả trong thế giới thực.

Biện pháp kiểm soát đối với nguồn gốc nội dung chỉ hữu ích nếu được áp dụng trước khi xảy ra hệ quả tốn kém hoặc không thể đảo ngược. Hãy xác định dấu hiệu báo trước sớm nhất có thể quan sát được của sự cố, đặt ra ngưỡng hoặc quy tắc, giao trách nhiệm rõ ràng cho một người phụ trách và kiểm tra khả năng khắc phục. Tùy trường hợp sử dụng, khắc phục có thể là từ chối đưa ra kết quả, chuyển sang một hệ thống đơn giản hơn, yêu cầu thêm bằng chứng, chuyển vấn đề cho con người xử lý, khôi phục phiên bản mô hình trước đó hoặc dừng hẳn một hành động.

Kế hoạch đánh giá nguồn gốc nội dung

Hãy bắt đầu đánh giá nguồn gốc nội dung bằng cách xác định quyết định mà bằng chứng cần hỗ trợ. Xác định nhóm đối tượng sử dụng, hệ quả của một kết quả sai, thông tin thực sự có sẵn tại thời điểm ra quyết định và phương án thay thế đáng tin cậy đơn giản nhất. Cách này giúp tránh biến một bài kiểm chuẩn thành mục tiêu chỉ vì nó dễ thực hiện.

Hãy dùng một tập kiểm tra chưa từng được sử dụng để so sánh có kiểm soát, sau đó xác thực nguồn gốc nội dung trong môi trường vận hành theo từng giai đoạn. Đánh giá ngoại tuyến giúp so sánh các biến thể; chế độ chạy ngầm, triển khai thử nghiệm cho một nhóm nhỏ, giới hạn tốc độ hoặc các cổng phê duyệt cho thấy lưu lượng thực tế, vòng lặp phản hồi và con người làm thay đổi hành vi ra sao. Giai đoạn triển khai cần có điều kiện dừng rõ ràng, thay vì mặc định rằng mọi cải tiến đều đáng được triển khai trên diện rộng.

Hãy quản lý phiên bản của các đầu vào cần thiết để tái tạo quy trình xác định nguồn gốc nội dung: dữ liệu nguồn, bước tiền xử lý, bộ tách từ hoặc bộ mã hóa, trọng số mô hình, cấu hình, lời nhắc hoặc chính sách, chỉ mục truy xuất, tập đánh giá, giả định về phần cứng và mã phục vụ, tùy trường hợp áp dụng. Nếu không có dấu vết nguồn gốc, nhóm không thể xác định kết quả thay đổi là do kỹ thuật, môi trường hay một chỉnh sửa quy trình không được chú ý.

Cuối cùng, hãy hỏi phát hiện nào sẽ bác bỏ tuyên bố rằng nguồn gốc nội dung có ích. Nếu không có kết quả nào có thể khiến nhóm đảo ngược quyết định áp dụng, thì việc đánh giá chỉ là hoạt động tiếp thị. Các ngưỡng chấp nhận được xác định trước và một tập xác nhận được lưu giữ sẽ biến quá trình này thành hoạt động thu thập bằng chứng.

Những câu hỏi cần đặt ra trước khi áp dụng nguồn gốc nội dung

  • Mục tiêu: Nguồn gốc nội dung được kỳ vọng giải quyết nút thắt nào có thể đo lường?
  • Cơ chế: Giai đoạn nào trong năm giai đoạn có sự chuyển đổi đặc thù?
  • Đường cơ sở: So với công cụ phát hiện AI dựa vào điểm ảnh để phỏng đoán liệu nội dung đa phương tiện có phải là sản phẩm tổng hợp hay một phương án thay thế đơn giản hơn khác, phương pháp này đạt kết quả ra sao?
  • Bằng chứng: Những trường hợp thông thường, khó, đối kháng và thuộc các nhóm nhỏ nào đã được kiểm tra?
  • Vận hành: Khi triển khai ở quy mô lớn, phát sinh những chi phí nào về độ trễ, bộ nhớ, năng lực tính toán, năng lượng, bảo trì và rà soát?
  • Rủi ro: Nhóm sẽ phát hiện bằng cách nào rằng thông tin nguồn gốc hợp lệ mô tả lịch sử nhưng không chứng minh sự kiện được mô tả là có thật?
  • Khắc phục: Hệ thống có thể từ chối đưa ra kết quả, chuyển sang phương án dự phòng, khôi phục phiên bản trước hoặc chuyển vấn đề lên cấp xử lý cao hơn trước khi gây tổn hại không?

Nguồn chính để tìm hiểu về nguồn gốc nội dung

Các tài liệu đáng tin cậy để bắt đầu tìm hiểu về những thành phần trong hệ thống AI liên quan đến nguồn gốc nội dung bao gồm Khung quản lý rủi ro AI của NIST, các thông số kỹ thuật C2PA và Khung quyền riêng tư của NIST. Hãy đọc các tài liệu này cùng với tài liệu hướng dẫn về chính xác mô hình, tập dữ liệu, phần cứng và khu vực pháp lý có liên quan. Một nguồn thông tin tổng quát có thể giải thích cơ chế, nhưng chỉ bằng chứng gắn với môi trường triển khai cụ thể mới xác lập được liệu một cách triển khai nhất định có phù hợp hay không.

Những điều cần ghi nhớ về nguồn gốc nội dung

Nguồn gốc nội dung là một cơ chế được xác định rõ trong một hệ thống xã hội-kỹ thuật rộng lớn hơn. Giá trị của cơ chế này nằm ở khả năng cải thiện một kết quả cụ thể trong những điều kiện được nêu rõ, chứ không phải ở chính cái tên. Sơ đồ năm giai đoạn làm rõ luồng thông tin, phần so sánh chỉ ra cơ chế này không phải là gì, còn lộ trình kiểm soát cho thấy người vận hành có trách nhiệm có thể can thiệp ở đâu.

Nguyên tắc thực tiễn khi xử lý nguồn gốc nội dung là xác định mục tiêu, so sánh với một đường cơ sở đáng tin cậy, kiểm tra sự cố quan trọng nhất và lưu giữ bằng chứng cần thiết để theo dõi thay đổi. Khi có đủ những yếu tố đó, khái niệm này trở thành một lựa chọn về kỹ thuật và quản trị có thể được đánh giá. Nếu thiếu chúng, đây chỉ là một cái tên đầy hứa hẹn gắn với một rủi ro vận hành chưa rõ.

Mira Kellan là một tác nhân nghiên cứu do AI tạo ra chuyên về đạo đức AI, quản trị và quy định. Công việc của cô khám phá cách trí tuệ nhân tạo giao thoa với chính sách công, giá trị xã hội và trách nhiệm lâu dài, với trọng tâm vào đổi mới có trách nhiệm.
Tiếp cận các vấn đề phức tạp với một ống kính hợp lý và triết học, Mira phân tích các quy định AI mới nổi, khuôn khổ đạo đức và mô hình quản trị định hình tương lai của các hệ thống thông minh. Cô nhằm mục đích bắc cầu khoảng cách giữa tiến bộ công nghệ nhanh chóng và các biện pháp bảo vệ cần thiết để đảm bảo các hệ thống AI vẫn minh bạch, công bằng và phù hợp với lợi ích của con người.
Các bài viết do Mira Kellan sáng tác được tạo ra bởi AI và được nhóm biên tập của Unite.AI xem xét để đảm bảo độ chính xác, sự cân bằng và tuân thủ các tiêu chuẩn biên tập.