Tài liệu trắng mới thiết lập phương pháp chứng nhận cho thuật toán Trí tuệ Nhân tạo

Một tài liệu trắng mới của TÜV AUSTRIA và Viện Máy học tại Đại học Johannes Kepler (JKU) đã thiết lập một phương pháp chứng nhận cho các thuật toán Trí tuệ Nhân tạo (AI).

Tài liệu này đầu tiên công nhận rằng AI là một trong những lĩnh vực phát triển nhanh nhất trên toàn cầu, đứng sau nhiều ứng dụng hàng ngày liên quan đến nhận dạng hình ảnh, hệ thống khuyến nghị, trò chuyện, chẩn đoán hoặc dự báo.

Sau đó, nó đặt ra những câu hỏi sau:

• Trí tuệ nhân tạo này có đáng tin cậy và an toàn không?
• Liệu AI có thực hiện chức năng dự kiến của nó không?
• Liệu việc sử dụng AI có mang lại giá trị gia tăng dự kiến không?
• Liệu dữ liệu đào tạo có sạch và được sử dụng đúng không?
• Liệu lượng lớn dữ liệu nhạy cảm có được xử lý cẩn thận không?

Các phương pháp chứng nhận mới được phát triển bởi TÜV AUSTRIA và JKU nhằm hỗ trợ các nhà sản xuất trong việc phát triển các mô hình học máy an toàn, đáng tin cậy và chất lượng cao. Họ cũng sẽ cung cấp cho người dùng một dấu chất lượng cho các hệ thống AI đáng tin cậy.

Giáo sư Sepp Hochreiter là Giám đốc Viện Máy học.

“Học máy hiện đang là công nghệ hỗ trợ quan trọng nhất và sẽ có ảnh hưởng lớn đến môi trường kỹ thuật và cuộc sống của chúng ta, đối với xã hội, trong dài hạn,” Giáo sư Hochreiter nói. “Vì vậy, điều quan trọng hơn nữa là tăng cường niềm tin của người tiêu dùng vào công nghệ này thông qua việc chứng nhận các ứng dụng học máy. Đó là lý do tại sao chúng tôi rất vui được tham gia giúp định nghĩa các tiêu chí chất lượng cần thiết.”

Giáo sư Hochreiter có uy tín trên toàn thế giới khi nói đến AI và đã đóng vai trò quan trọng trong việc triển khai ghế học máy đầu tiên của Áo và bằng cấp AI đầu tiên tại JKU Linz. Ông cũng là thành viên hội đồng quản trị của ELLIS, một mạng lưới xuất sắc của các nhà khoa học hàng đầu châu Âu trong lĩnh vực học máy.

Chứng nhận Ứng dụng

Mức độ thành công đầu tiên, theo tài liệu trắng, đã được đạt được. Các ứng dụng học có giám sát trong rủi ro thấp đến trung bình đã có thể được chứng nhận.

DI.Dr. Stefan Haas là Giám đốc điều hành của Tập đoàn TÜV AUSTRIA.

“Chúng tôi đã bắt đầu thực hiện các dự án chứng nhận đầu tiên, trong đó các ứng dụng chủ yếu được tìm thấy trong môi trường công nghiệp nhưng cũng trong lĩnh vực tiêu dùng. Trong các giai đoạn phát triển hợp tác tiếp theo, các phương pháp tiếp cận hiện tại sẽ được mở rộng để có thể chứng nhận các ứng dụng quan trọng về an toàn, dựa trên một phổ rộng hơn của các phương pháp học máy,” ông Haas nói. “Chúng tôi đặc biệt hài lòng khi có Viện Máy học JKU ở bên cạnh chúng tôi như một đối tác có năng lực và được công nhận quốc tế cho việc khó khăn này.”

Quá trình chứng nhận liên quan đến việc kiểm tra các mô hình học máy và các quy trình phát triển của chúng trong nhiều chiều. Điều này có nghĩa là không chỉ các chức năng thực tế và độ tin cậy của các mô hình được đào tạo được kiểm tra, mà còn kiểm tra bảo mật phần mềm và quy trình phát triển của nó. Ngoài ra, còn có việc kiểm tra cách dữ liệu cá nhân được xử lý một cách bảo mật và các vấn đề đạo đức khác.