AI sinh tạo là gì?

AI sinh tạo đề cập đến các mô hình học các mẫu trong dữ liệu và tạo ra văn bản, hình ảnh, âm thanh, video, mã hoặc các biểu diễn khác khi được điều kiện hoá bằng hướng dẫn hoặc ví dụ. Đầu ra được tổng hợp từ một mô hình xác suất; nó không được truy xuất nguyên vẹn từ cơ sở dữ liệu, mặc dù các công cụ truy xuất có thể cung cấp bằng chứng bên ngoài.

Các họ mô hình khác nhau tạo ra theo các cách khác nhau. Các bộ biến đổi tự hồi quy dự đoán một chuỗi token một lần, các mô hình khuế tán lặp lại quá trình khử nhiễu một mẫu, và GAN học thông qua cuộc tranh đấu giữa bộ tạo và bộ phân biệt.

Những điểm chính

• Việc tạo ra là việc lấy mẫu có điều kiện từ một phân phối đã học, không đảm bảo nhớ lại thông tin thực tế.
• Bộ biến đổi, mô hình khuế tán, GAN và bộ mã hoá tự động biến thiên có các cân bằng khác nhau.
• Việc truy xuất và các công cụ có thể làm nền tảng cho hệ thống, nhưng đầu ra và quyền của chúng vẫn cần được xác thực.
• Quản lý rủi ro bao phủ dữ liệu, mô hình, giao diện, triển khai, giám sát và nguồn gốc nội dung.

Cách các mô hình sinh tạo học

Mục tiêu đào tạo thưởng cho mô hình việc dự đoán hoặc tái tạo các mẫu trong ví dụ. Một mô hình ngôn ngữ ước tính token tiếp theo; một mô hình khuế tán học cách đảo ngược quá trình nhiễu; một bộ mã hoá tự động biến thiên học một phân phối tiềm ẩn có cấu trúc và bộ giải mã.

Việc đào tạo này tạo ra khả năng tổng quát thống kê, nhưng cũng có thể tái tạo các thiên vị, ghi nhớ các chuỗi hiếm hoặc thất bại ngoài phân phối dữ liệu. Tài liệu bộ dữ liệu, loại bỏ trùng lặp, kiểm soát quyền riêng tư và đánh giá trên tập dữ liệu giữ lại do đó rất quan trọng trước khi triển khai.

Các họ kiến trúc chính

Các bộ biến đổi tự hồi quy chiếm ưu thế trong văn bản và hỗ trợ các chuỗi đa phương tiện. Các mô hình khuế tán được sử dụng rộng rãi cho việc tạo hình ảnh và âm thanh độ trung thực cao. GAN có thể tạo ra các mẫu sắc nét và hệ thống hình ảnh có thể kiểm soát nhưng có thể khó đào tạo.

Bộ mã hoá tự động biến thiên cung cấp mô hình biến đổi tiềm ẩn và các biểu diễn hiệu quả, đôi khi được sử dụng trong các quy trình sinh tạo lớn hơn. Các sản phẩm thực tế thường kết hợp nhiều mô hình với truy xuất, bộ lọc, công cụ và mã định đoạt.

Điều kiện hoá, lấy mẫu và kiểm soát

Một lời nhắc, nhãn lớp, hình ảnh, đoạn âm thanh hoặc bản ghi có cấu trúc có thể điều kiện hoá việc tạo ra. Các tham số lấy mẫu thay đổi tính đa dạng và tính quyết định. Nhiệt độ thấp hơn có thể tập trung xác suất token, nhưng không làm cho câu trả lời sai trở thành đúng.

Kiểm soát được cải thiện khi hệ thống sử dụng các sơ đồ rõ ràng, giải mã bị ràng buộc, tài liệu tham khảo và xác thực. Kỹ thuật lời nhắc thay đổi ngữ cảnh; tinh chỉnh thay đổi các tham số; truy xuất cung cấp thông tin bên ngoài. Mỗi phương pháp giải quyết một chế độ lỗi khác nhau.

Đánh giá phụ thuộc vào ứng dụng

Các hệ thống văn bản có thể cần tính thực tế, hoàn thành nhiệm vụ, hỗ trợ trích dẫn, kiểm tra độc hại và hiệu chuẩn. Các hệ thống hình ảnh hoặc âm thanh có thể cần độ trung thực, sự đồng nhất ngữ nghĩa, đa dạng, an toàn danh tính và đánh giá cảm quan. Kết hợp các chỉ số tự động với đánh giá nhân sự đại diện.

Xây dựng một bộ đánh giá có phiên bản bao gồm các trường hợp thông thường, hiếm, đối kháng và liên quan đến chính sách. Theo dõi độ trễ, chi phí và hành vi từ chối cũng như chất lượng đầu ra. Một bản demo được chọn bởi người tạo không phải là bằng chứng cho độ tin cậy ở mức độ toàn dân.

Rủi ro, biện pháp bảo vệ và nguồn gốc

Các rủi ro quan trọng bao gồm ảo giác, tiêm lời nhắc, nội dung gây hại, mạo danh, sử dụng công cụ không an toàn, rò rỉ quyền riêng tư, tranh chấp bản quyền, thiên vị tự động và chuỗi cung ứng mờ. Hồ sơ AI sinh tạo của NIST tổ chức các hành động qua quản trị, nguồn gốc nội dung, kiểm tra trước triển khai và công bố sự cố.

Sử dụng công cụ tối thiểu quyền, kiểm soát đầu vào/đầu ra, đánh giá của con người cho các quyết định quan trọng, ghi nhật ký, quay lại và báo cáo người dùng. Dấu nước hoặc chứng chỉ nội dung có thể thêm tín hiệu, nhưng không có bộ phát hiện hay nhãn duy nhất nào xác lập sự thật. Quy trình làm việc truyền thông tổng hợp rộng hơn phải bảo tồn ngữ cảnh và trách nhiệm.

Các họ mô hình và cơ chế sinh tạo

Các mô hình AI sinh tạo ước tính hoặc học một quá trình có thể tạo ra văn bản, hình ảnh, âm thanh, video, mã hoặc dữ liệu có cấu trúc mới. Các mô hình tự hồi quy dự đoán token hoặc phần tử tiếp theo; các mô hình khuế tán học cách đảo ngược quá trình nhiễu; các bộ mã hoá tự động biến thiên học các biến tiềm ẩn xác suất; GAN đào tạo bộ tạo đối đầu với bộ phân biệt. Các hệ thống đa phương tiện kết nối các biểu diễn qua các loại phương tiện. Đầu ra được lấy mẫu từ cấu trúc thống kê đã học, có điều kiện hoá bởi lời nhắc, ngữ cảnh, công cụ hoặc các đầu vào khác — không được truy xuất như một thực tế được đảm bảo.

Các mô hình nền tảng được tiền huấn luyện trên dữ liệu rộng và được điều chỉnh thông qua lời nhắc, truy xuất, tinh chỉnh, tối ưu hoá sở thích, mạng kiểm soát, hoặc các đầu cuối chuyên dụng cho nhiệm vụ. Trình mã hoá token, bộ mã hoá, bộ giải mã, không gian tiềm ẩn và cài đặt lấy mẫu định hình kết quả. Nhiệt độ và lọc ứng cử cân bằng tính quyết định và đa dạng. Lời nhắc dài cung cấp ngữ cảnh nhưng có thể mâu thuẫn, gây xao nhãng, hoặc chứa chỉ thị độc hại. Truy xuất có thể làm nền tảng cho kiến thức thay đổi, trong khi mã định đoạt nên xử lý các phép tính và quy tắc chính xác.

Đánh giá, nguồn gốc và quyền

Đánh giá theo nhiệm vụ: tính chính xác thực tế và trích dẫn cho câu trả lời, thực thi và bảo mật cho mã, độ trung thực và đa dạng cho phương tiện, và kết quả con người cho hỗ trợ sáng tạo. Bao gồm các trường hợp từ chối, hiệu chuẩn, độ trễ, chi phí, ngôn ngữ, khả năng tiếp cận và kiểm tra đối kháng. Một đầu ra trôi chảy hoặc ảnh thực có thể sai. Bảo tồn mô hình, lời nhắc, hạt giống, bằng chứng nguồn, lời gọi công cụ và xử lý hậu kỳ để tái tạo. Tách chất lượng truy xuất khỏi việc sinh tạo để câu trả lời được chỉnh sửa không thể che giấu thiếu bằng chứng.

Việc đào tạo và đầu ra đặt ra các câu hỏi về bản quyền, giấy phép, đồng ý, quyền riêng tư, công khai và bảo mật. Thiết lập nguồn gốc và việc sử dụng cho phép cho dữ liệu đầu vào; ngăn người dùng tiết lộ bí mật; kiểm tra việc ghi nhớ; và cung cấp quy trình báo cáo và xóa bỏ. Truyền thông tổng hợp nên mang nguồn gốc bền vững hoặc tiết lộ khi khả thi, đặc biệt khi nó có thể bị nhầm là bằng chứng. Không sử dụng hình ảnh, giọng nói hoặc phong cách theo cách vi phạm quyền hoặc gây hiểu lầm.

Kiểm soát triển khai

Xem đầu ra mô hình như đầu vào không tin cậy. Xác thực sơ đồ, làm sạch mã và tệp, cô lập thực thi, ủy quyền mỗi công cụ bên ngoài, giới hạn chi phí và tốc độ, và yêu cầu xác nhận cho các hành động quan trọng. Giám sát lỗi, lạm dụng, trôi dạt và sửa chữa của người dùng, với khả năng quay lại và dự phòng không sinh tạo. Ghi chép việc sử dụng dự định và bị cấm. AI sinh tạo mở rộng giao diện để tạo và biến đổi thông tin, nhưng độ tin cậy và trách nhiệm đến từ dữ liệu xung quanh, đánh giá, bảo mật, nguồn gốc và quá trình quyết định của con người.

Ví dụ thực tế: trợ lý sinh mô tả sản phẩm

Một nhà bán lẻ cho phép biên tập viên tạo bản mô tả dự thảo chỉ từ các thuộc tính sản phẩm đã được phê duyệt và hướng dẫn thương hiệu. Lời nhắc bao gồm các dữ liệu có cấu trúc, trong khi truy xuất cung cấp chính sách hiện tại. Đầu ra phải tuân theo một sơ đồ và được xác thực so với các giá trị nguồn; các chiều không được hỗ trợ, tuyên bố an toàn hoặc chứng nhận sẽ bị từ chối. Đánh giá bao gồm độ chính xác thực tế, phong cách, trùng lặp, chất lượng đa ngôn ngữ, khả năng tiếp cận, độ trễ và sửa chữa của biên tập viên, so sánh với mẫu và viết thủ công.

Biên tập viên phê duyệt mọi ấn phẩm và có thể xem các trường nguồn. Mô hình không có khả năng thay đổi giá, tồn kho hoặc xuất bản trực tiếp. Lời nhắc và dữ liệu sản phẩm được bảo vệ khỏi tiêm, và các ghi chú nhà cung cấp bí mật bị loại trừ. Giám sát theo dõi các tuyên bố không được hỗ trợ, chỉnh sửa, khiếu nại, chi phí và phiên bản nhà cung cấp. Văn bản được tạo lưu trữ cùng nguồn gốc. Hệ thống tiết kiệm thời gian soạn thảo chỉ khi các sửa chữa và đánh giá không xóa bỏ lợi ích và sự thật sản phẩm vẫn được điều khiển bởi dữ liệu có thẩm quyền.

Bằng chứng triển khai và sẵn sàng vận hành

Một quyết định triển khai cần hơn một bản demo thành công. Xác định người dùng dự kiến, môi trường hoạt động, đầu vào, đầu ra, phụ thuộc, chủ sở hữu và hậu quả của mỗi lỗi quan trọng. Thiết lập nền tảng có thể tái tạo và một bộ đánh giá có phiên bản trước khi tinh chỉnh. Kiểm tra các trường hợp thông thường, điều kiện biên, đầu vào sai định dạng hoặc thiếu, sự dịch chuyển phân phối, mất kết nối phụ thuộc, lạm dụng, và các nhóm hoặc môi trường có khả năng bị thiếu hụt. Đo lường chất lượng nhiệm vụ cùng với hiệu chuẩn hoặc độ không chắc, độ trễ, thông lượng, chi phí tài nguyên, khả năng tiếp cận, quyền riêng tư và bảo mật. Ghi lại mọi chuyển đổi và ngưỡng để một người đánh giá độc lập có thể tái tạo kết quả và phân biệt bằng chứng với một nguyên mẫu hấp dẫn.

Trước khi ra mắt, chỉ định quyền cho việc phát hành, ngoại lệ, thay đổi, quay lại và ngừng hoạt động. Sử dụng triển khai theo giai đoạn, bảo tồn dự phòng an toàn, và xác minh giám sát bằng các lỗi được tiêm có chủ đích. Dữ liệu đo lường vận hành nên tiết lộ chất lượng đầu vào, hành vi đầu ra, phiên bản mô hình hoặc quy tắc, tình trạng phụ thuộc, can thiệp của con người, và kết quả đã xác nhận mà không thu thập dữ liệu nhạy cảm không cần thiết. Xác định ngưỡng cảnh báo và người chịu trách nhiệm phản hồi, sau đó xem xét bằng chứng thực tế sau khi triển khai thay vì giả định hiệu suất ngoại tuyến sẽ kéo dài. Đánh giá lại mỗi khi nguồn dữ liệu, người dùng, mô hình, nhà cung cấp, chính sách, phần cứng hoặc mục tiêu thay đổi. Một hệ thống được duy trì cũng cần có tài liệu phục hồi, học hỏi từ sự cố, quy trình xóa và lưu trữ, và một điểm rõ ràng mà tại đó nó nên bị vô hiệu hoá hoặc thay thế.

Câu hỏi thường gặp

AI sinh tạo có giống với mô hình ngôn ngữ lớn không?

Không. LLM là một lớp mô hình sinh tạo. AI sinh tạo còn bao gồm các hệ thống hình ảnh, âm thanh, video và dữ liệu có cấu trúc được xây dựng với nhiều kiến trúc.

Mô hình có sao chép dữ liệu đào tạo của nó không?

Nó thường tổng hợp từ các mẫu đã học, nhưng có thể xảy ra việc ghi nhớ và sao chép gần. Các rủi ro về quyền riêng tư và nguồn gốc cần được đánh giá thay vì giả định không tồn tại.

Tài liệu tham khảo chính

• NIST AI 600-1: Hồ sơ AI sinh tạo
• Vaswani et al.: Attention Is All You Need
• Ho et al.: Denoising Diffusion Probabilistic Models