Làm thế nào con người có thể điều hướng cuộc đua vũ trang AI

Các công cụ AI được nhiều người coi là một lợi thế cho nghiên cứu, từ dự án làm việc đến dự án học tập đến khoa học. Ví dụ, thay vì dành hàng giờ để kiểm tra cẩn thận các trang web, bạn có thể hỏi ChatGPT một câu hỏi và nó sẽ trả lại một câu trả lời có vẻ hợp lý. Tuy nhiên, câu hỏi đặt ra là – bạn có thể tin tưởng vào những kết quả đó không? Kinh nghiệm cho thấy rằng câu trả lời thường là “không”. AI chỉ hoạt động tốt khi con người tham gia nhiều hơn, chỉ đạo và giám sát nó, sau đó kiểm tra lại kết quả nó tạo ra so với thế giới thực. Nhưng với sự tăng trưởng nhanh chóng của lĩnh vực AI tạo ra và các công cụ mới được phát hành liên tục, nó có thể là một thách thức cho người tiêu dùng để hiểu và chấp nhận vai trò họ phải chơi khi làm việc với các công cụ AI.

Lĩnh vực AI rất lớn và chỉ đang tăng trưởng, với các chuyên gia cho rằng nó sẽ trị giá trên một nghìn tỷ đô la vào năm 2030. Do đó, không có gì ngạc nhiên khi gần như mọi công ty công nghệ lớn – từ Apple (AAPL ) đến Amazon (AMZN ), IBM, Microsoft và nhiều công ty khác – đang phát hành phiên bản AI của riêng họ, đặc biệt là các sản phẩm AI tạo ra tiên tiến.

Với những gì đang diễn ra, cũng không có gì ngạc nhiên khi các công ty đang làm việc như nhanh nhất có thể để phát hành các tính năng mới sẽ giúp họ có lợi thế hơn so với đối thủ. Đó thực sự là một cuộc đua vũ trang, với các công ty đang tìm cách khóa càng nhiều người dùng vào hệ sinh thái của họ càng tốt. Các công ty hy vọng rằng các tính năng cho phép người dùng sử dụng hệ thống AI một cách dễ dàng nhất có thể – chẳng hạn như có thể nhận được tất cả thông tin cần thiết cho một dự án nghiên cứu chỉ bằng cách hỏi một câu hỏi cho một trò chuyện AI tạo ra – sẽ giúp họ giành được nhiều khách hàng hơn, những người sẽ ở lại với sản phẩm hoặc thương hiệu khi các tính năng mới được thêm vào thường xuyên.

Tuy nhiên, đôi khi, trong cuộc đua để trở thành người đầu tiên, các công ty phát hành các tính năng có thể không được kiểm tra kỹ lưỡng, hoặc các giới hạn của chúng không được hiểu rõ hoặc xác định rõ ràng. Mặc dù các công ty đã cạnh tranh trong quá khứ để giành thị phần trên nhiều công nghệ và ứng dụng, nhưng có vẻ như cuộc đua vũ trang hiện tại đang dẫn đến nhiều công ty phát hành nhiều sản phẩm “bán thành phẩm” hơn bao giờ hết – với kết quả “bán thành phẩm” tương ứng. Việc dựa vào những kết quả đó cho mục đích nghiên cứu – cho dù là kinh doanh, cá nhân, y tế, học thuật hay khác – có thể dẫn đến kết quả không mong muốn, bao gồm cả tổn hại đến danh tiếng, tổn thất kinh doanh hoặc thậm chí là rủi ro cho cuộc sống.

Các sự cố AI đã gây ra tổn thất đáng kể cho nhiều doanh nghiệp. Một công ty có tên là iTutor đã bị phạt 365.000 đô la vào năm 2023, sau khi thuật toán AI của họ từ chối hàng chục ứng viên vì tuổi tác. Thị trường bất động sản Zillow đã mất hàng trăm triệu đô la vào năm 2021 do dự đoán giá không chính xác của hệ thống AI. Người dùng dựa vào AI để tư vấn y tế cũng đã gặp rủi ro. Chat GPT, ví dụ, đã cung cấp thông tin không chính xác cho người dùng về tương tác giữa thuốc hạ huyết áp verapamil và Paxlovid, thuốc chống vi-rút của Pfizer (PFE ) cho Covid-19 – và liệu một bệnh nhân có thể dùng cả hai loại thuốc cùng một lúc. Những người dựa vào lời khuyên không chính xác của hệ thống rằng không có tương tác giữa hai loại thuốc có thể gặp rủi ro.

Mặc dù những sự cố đó đã làm tiêu đề, nhưng nhiều sự cố AI khác không – nhưng chúng có thể gây tử vong cho sự nghiệp và danh tiếng. Ví dụ, một người quản lý tiếp thị bận rộn đang tìm kiếm một cách tắt để chuẩn bị báo cáo có thể bị cám dỗ để sử dụng một công cụ AI để tạo báo cáo – và nếu công cụ đó trình bày thông tin không chính xác, họ có thể tìm thấy mình đang tìm kiếm một công việc khác. Một sinh viên sử dụng ChatGPT để viết một báo cáo – và giáo sư của họ đủ thông minh để nhận ra nguồn gốc của báo cáo đó – có thể phải đối mặt với một điểm F, có thể cho cả học kỳ. Và một luật sư mà trợ lý sử dụng các công cụ AI cho công việc pháp lý có thể bị phạt hoặc thậm chí bị tước quyền hành nghề nếu vụ án họ trình bày bị sai lệch do dữ liệu không chính xác.

Hầu như tất cả các tình huống này có thể được ngăn chặn – nếu con người đang chỉ đạo AI và có sự minh bạch hơn vào vòng lặp nghiên cứu. AI phải được coi là một sự hợp tác giữa con người và máy. Đó là một sự hợp tác thực sự – và đó là giá trị vượt trội của nó.

Mặc dù các tính năng tìm kiếm, định dạng và phân tích mạnh mẽ hơn là chào đón, các nhà sản xuất sản phẩm AI cũng cần bao gồm các cơ chế cho phép hợp tác này. Các hệ thống cần bao gồm các công cụ kiểm tra thực tế sẽ cho phép người dùng kiểm tra lại kết quả của các báo cáo từ các công cụ như ChatGPT, và cho phép người dùng xem nguồn gốc của các điểm dữ liệu hoặc thông tin cụ thể. Điều này sẽ tạo ra nghiên cứu vượt trội và khôi phục niềm tin vào chính chúng ta; chúng ta có thể gửi một báo cáo, hoặc đề xuất một chính sách với sự tự tin dựa trên các事 thực mà chúng ta tin tưởng và hiểu.

Người dùng cũng cần nhận ra và cân nhắc những gì đang bị đe dọa khi dựa vào AI để tạo ra nghiên cứu. Họ nên cân nhắc mức độ nhàm chán với tầm quan trọng của kết quả. Ví dụ, con người có thể chấp nhận được ít tham gia hơn khi sử dụng AI để so sánh các nhà hàng địa phương. Nhưng khi thực hiện nghiên cứu sẽ thông tin cho các quyết định kinh doanh quan trọng hoặc thiết kế máy bay hoặc thiết bị y tế, ví dụ, người dùng cần tham gia nhiều hơn vào từng giai đoạn của quá trình nghiên cứu AI. Càng quan trọng, quyết định càng quan trọng, con người càng cần phải là một phần của nó. Nghiên cứu cho các quyết định tương đối nhỏ có thể được ủy thác hoàn toàn cho AI.

AI đang trở nên tốt hơn mọi lúc – ngay cả khi không có sự giúp đỡ của con người. Có thể, nếu không phải là có khả năng, rằng các công cụ AI có thể tự kiểm tra mình sẽ xuất hiện, kiểm tra kết quả của chúng so với thế giới thực theo cách mà con người sẽ làm – hoặc làm cho thế giới trở thành một nơi tốt hơn, hoặc phá hủy nó. Nhưng các công cụ AI có thể không đạt đến mức độ đó ngay khi nhiều người tin, nếu bao giờ. Điều này có nghĩa là yếu tố con người vẫn sẽ rất quan trọng trong bất kỳ dự án nghiên cứu nào. Mặc dù các công cụ AI rất tốt trong việc khám phá dữ liệu và tổ chức thông tin, nhưng chúng không thể được tin tưởng để đánh giá bối cảnh và sử dụng thông tin theo cách mà con người cần. Trong tương lai gần, điều quan trọng là các nhà nghiên cứu phải xem các công cụ AI là những gì chúng là; các công cụ để giúp hoàn thành công việc, chứ không phải là thứ gì đó thay thế con người và não bộ con người trong công việc. hey không thể được tin tưởng để đánh giá bối cảnh và sử dụng thông tin theo cách mà con người cần. Trong tương lai gần, điều quan trọng là các nhà nghiên cứu phải xem các công cụ AI là những gì chúng là; các công cụ để giúp hoàn thành công việc, chứ không phải là thứ gì đó thay thế con người và não bộ con người trong công việc.