Lãnh đạo tư tưởng
Lo lắng về rủi ro tiềm ẩn của ChatGPT đang tăng lên, nhưng liệu việc tạm dừng AI có phải là một động thái tốt?
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Khi Elon Musk và các nhà lãnh đạo công nghệ toàn cầu khác kêu gọi tạm dừng AI sau khi phát hành ChatGPT, một số nhà phê bình tin rằng việc ngừng phát triển không phải là giải pháp. Nhà truyền bá AI Andrew Pery, của công ty tự động hóa thông minh ABBYY, cho rằng việc tạm dừng là như cố gắng đưa kem đánh răng trở lại vào ống. Ông giải thích tại sao…
Các ứng dụng AI đang phổ biến, ảnh hưởng đến gần như mọi khía cạnh của cuộc sống. Mặc dù đáng khen ngợi, nhưng việc phanh lại bây giờ có thể không thực tế.
Đúng là có những lo ngại đáng kể đòi hỏi sự giám sát quy định tăng cường để kiểm soát các tác động có hại tiềm ẩn.
chỉ mới đây, Cơ quan Bảo vệ Dữ liệu Italy đã tạm thời chặn việc sử dụng ChatGPT trên toàn quốc do lo ngại về quyền riêng tư liên quan đến cách thu thập và xử lý dữ liệu cá nhân được sử dụng để đào tạo mô hình, cũng như sự thiếu các biện pháp bảo vệ, khiến trẻ em dễ bị tiếp cận với các phản hồi “hoàn toàn không phù hợp với độ tuổi và nhận thức của chúng.”
Tổ chức Người tiêu dùng châu Âu (BEUC) đang kêu gọi EU điều tra các tác động có hại tiềm ẩn của các mô hình ngôn ngữ lớn, vì “lo ngại ngày càng tăng về việc ChatGPT và các rô-bốt trò chuyện tương tự có thể lừa dối và thao túng người dùng. Các hệ thống AI này cần sự giám sát công khai nhiều hơn, và các cơ quan công quyền phải tái khẳng định quyền kiểm soát đối với chúng.”
Ở Mỹ, Trung tâm Chính sách Số và Trí tuệ Nhân tạo đã nộp đơn khiếu nại lên Ủy ban Thương mại Liên bang rằng ChatGPT vi phạm phần 5 của Đạo luật Ủy ban Thương mại Liên bang (FTC Act) (15 USC 45). Cơ sở của đơn khiếu nại là ChatGPT कथ không đáp ứng hướng dẫn do FTC đưa ra về tính minh bạch và giải thích của các hệ thống AI. Việc này đề cập đến việc ChatGPT thừa nhận một số rủi ro đã biết, bao gồm vi phạm quyền riêng tư, tạo ra nội dung có hại và lan truyền thông tin sai lệch.
Tính hữu ích của các mô hình ngôn ngữ lớn như ChatGPT không thể phủ nhận, nhưng nghiên cứu chỉ ra mặt tối của nó. Nó đã được chứng minh là tạo ra các câu trả lời không chính xác, vì mô hình ChatGPT cơ bản dựa trên các thuật toán học sâu tận dụng các tập dữ liệu đào tạo lớn từ internet. Không giống như các rô-bốt trò chuyện khác, ChatGPT sử dụng các mô hình ngôn ngữ dựa trên kỹ thuật học sâu tạo ra văn bản tương tự như cuộc trò chuyện của con người, và nền tảng “đạt đến một câu trả lời bằng cách đưa ra một loạt các đoán, điều này là một phần lý do tại sao nó có thể tranh luận các câu trả lời sai như thể chúng hoàn toàn đúng.”
Hơn nữa, ChatGPT đã được chứng minh là làm tăng và khuếch đại sự thiên vị, dẫn đến “các câu trả lời phân biệt đối xử với giới tính, chủng tộc và các nhóm thiểu số, điều mà công ty đang cố gắng giảm thiểu.” ChatGPT cũng có thể là một mỏ vàng cho các tác nhân độc hại để khai thác người dùng không nghi ngờ, khiến họ dễ bị tấn công lừa đảo và xâm phạm quyền riêng tư.
Các lo ngại này đã thúc đẩy Quốc hội châu Âu xuất bản một bình luận nhấn mạnh nhu cầu tăng cường thêm các điều khoản hiện hành của dự thảo Đạo luật Trí tuệ Nhân tạo của EU, (AIA) vẫn đang chờ phê chuẩn. Bình luận chỉ ra rằng dự thảo quy định hiện tại tập trung vào các ứng dụng AI hẹp, bao gồm các danh mục cụ thể của các hệ thống AI rủi ro cao như tuyển dụng, tín dụng, việc làm, thực thi pháp luật và đủ điều kiện cho các dịch vụ xã hội. Tuy nhiên, dự thảo quy định AIA của EU không bao gồm AI mục đích chung, như các mô hình ngôn ngữ lớn cung cấp các khả năng nhận thức tiên tiến hơn và có thể “thực hiện một loạt các nhiệm vụ thông minh.” Có những lời kêu gọi mở rộng phạm vi của dự thảo quy định để bao gồm một danh mục rủi ro cao riêng biệt của các hệ thống AI mục đích chung, yêu cầu các nhà phát triển phải thực hiện các thử nghiệm phù hợp nghiêm ngặt trước khi đưa các hệ thống như vậy ra thị trường và liên tục theo dõi hiệu suất của chúng để phát hiện các đầu ra có hại không lường trước được.
Một nghiên cứu đặc biệt hữu ích làm sáng tỏ khoảng trống mà quy định AIA của EU đang tập trung vào “chủ yếu là các mô hình AI truyền thống, và không phải là thế hệ mới mà chúng ta đang chứng kiến ngày hôm nay.”
Nó đề xuất bốn chiến lược mà các nhà quản lý nên xem xét.
- Yêu cầu các nhà phát triển của các hệ thống này phải thường xuyên báo cáo về hiệu quả của các quy trình quản lý rủi ro để giảm thiểu các đầu ra có hại.
- Các doanh nghiệp sử dụng các mô hình ngôn ngữ lớn nên có nghĩa vụ tiết lộ cho khách hàng của họ rằng nội dung được tạo ra bởi AI.
- Các nhà phát triển nên tuân theo một quy trình phát hành phân阶段, như một phần của khuôn khổ quản lý rủi ro, được thiết kế để bảo vệ chống lại các kết quả có hại không lường trước được.
- Đặt gánh nặng cho các nhà phát triển để “giảm thiểu rủi ro tại gốc rễ” bằng cách phải “đánh giá pro-actively tập dữ liệu đào tạo cho các thông tin sai lệch.”
Một yếu tố góp phần vào các rủi ro liên quan đến công nghệ đột phá là động lực của các nhà đổi mới để đạt được lợi thế đi đầu bằng cách áp dụng mô hình kinh doanh “xuất hàng trước và sửa chữa sau”. Mặc dù OpenAI khá minh bạch về các rủi ro tiềm ẩn của ChatGPT, nhưng họ đã phát hành nó cho sử dụng thương mại rộng rãi với một “mua hàng cẩn thận” trên người dùng để tự cân nhắc và tự chấp nhận rủi ro. Đó có thể là một cách tiếp cận không thể chấp nhận được, xét đến tác động phổ biến của các hệ thống AI trò chuyện. Quy định chủ động kết hợp với các biện pháp thực thi mạnh mẽ phải là tối quan trọng khi xử lý công nghệ đột phá như vậy.
Trí tuệ nhân tạo đã thấm vào gần như mọi phần của cuộc sống, có nghĩa là việc tạm dừng phát triển AI có thể ngụ ý một loạt các chướng ngại vật và hậu quả không lường trước. Thay vì đột ngột phanh lại, các bên trong ngành và lập pháp nên hợp tác một cách thiện chí để ban hành các quy định có thể thực hiện được, dựa trên các giá trị lấy con người làm trung tâm như minh bạch, trách nhiệm, và công bằng. Bằng cách tham khảo các quy định hiện có như AIA, các nhà lãnh đạo trong khu vực tư nhân và công cộng có thể thiết kế các chính sách toàn diện, tiêu chuẩn hóa toàn cầu, sẽ ngăn chặn các hành vi độc hại và giảm thiểu các kết quả bất lợi, do đó giữ cho trí tuệ nhân tạo trong khuôn khổ cải thiện trải nghiệm con người.
