Nghiên cứu mới cho thấy con người có thể học cách nhận biết văn bản được tạo bởi máy

Sự phát triển và dễ tiếp cận của trí tuệ nhân tạo (AI) đã làm dấy lên những lo ngại lâu dài về tác động của nó đối với xã hội. Thế hệ chatbot mới nhất chỉ làm tăng những lo ngại này, với nỗi sợ về tính toàn vẹn của thị trường lao động và sự lan truyền của tin giả và thông tin sai lệch. Trước những lo ngại này, một nhóm nghiên cứu tại Trường Kỹ thuật và Khoa học Ứng dụng của Đại học Pennsylvania đã tìm cách trao quyền cho người dùng công nghệ để giảm thiểu những rủi ro này.

Tự đào tạo để nhận biết văn bản AI

Bài báo được đánh giá ngang hàng, được trình bày tại cuộc họp tháng 2 năm 2023 của Hiệp hội Phát triển Trí tuệ Nhân tạo, cung cấp bằng chứng rằng con người có thể học cách nhận biết sự khác biệt giữa văn bản được tạo bởi máy và văn bản được viết bởi con người.

Nghiên cứu, do Chris Callison-Burch, Giáo sư Phó tại Bộ phận Khoa học Máy tính và Thông tin (CIS), cùng với các sinh viên tiến sĩ Liam Dugan và Daphne Ippolito, chứng minh rằng văn bản được tạo bởi AI có thể được phát hiện.

“Chúng tôi đã chỉ ra rằng con người có thể tự đào tạo để nhận biết văn bản được tạo bởi máy,” Callison-Burch nói. “Con người bắt đầu với một tập hợp các giả định về loại lỗi mà máy sẽ mắc, nhưng những giả định này không nhất thiết phải chính xác. Theo thời gian, với đủ ví dụ và hướng dẫn rõ ràng, chúng ta có thể học cách nhận biết loại lỗi mà máy đang mắc hiện tại.”

Nghiên cứu sử dụng dữ liệu thu thập được bằng cách sử dụng “Văn bản thật hay giả?”, một trò chơi đào tạo dựa trên web gốc. Trò chơi đào tạo này biến phương pháp thí nghiệm tiêu chuẩn cho các nghiên cứu phát hiện thành một nhiệm vụ đào tạo chính xác hơn, giống như cách con người sử dụng AI để tạo văn bản.

Trong các phương pháp tiêu chuẩn, người tham gia được yêu cầu chỉ ra bằng cách có hoặc không có, liệu một máy đã tạo ra một văn bản nhất định. Mô hình Penn tinh chỉnh phương pháp nghiên cứu phát hiện tiêu chuẩn thành một nhiệm vụ đào tạo hiệu quả bằng cách hiển thị các ví dụ bắt đầu từ văn bản được viết bởi con người. Mỗi ví dụ sau đó chuyển sang văn bản được tạo, yêu cầu người tham gia đánh dấu nơi họ tin rằng sự chuyển đổi này bắt đầu. Những người được đào tạo xác định và mô tả các tính năng của văn bản chỉ ra lỗi và nhận được điểm số.

Kết quả của nghiên cứu

Kết quả nghiên cứu cho thấy người tham gia đạt điểm cao hơn đáng kể so với cơ hội ngẫu nhiên, cung cấp bằng chứng rằng văn bản được tạo bởi AI có thể được phát hiện ở một mức độ nào đó. Nghiên cứu không chỉ phác thảo một tương lai lạc quan, thậm chí thú vị, cho mối quan hệ của chúng ta với AI mà còn cung cấp bằng chứng rằng con người có thể tự đào tạo để phát hiện văn bản được tạo bởi máy.

“Con người lo lắng về AI vì những lý do hợp lý,” Callison-Burch nói. “Nghiên cứu của chúng tôi cung cấp bằng chứng để làm giảm những lo lắng này. Một khi chúng ta có thể tận dụng sự lạc quan của mình về các công cụ tạo văn bản AI, chúng ta sẽ có thể dành sự chú ý đến khả năng của các công cụ này trong việc giúp chúng ta viết văn bản thú vị và hấp dẫn hơn.”

Dugan thêm, “Có những hướng tích cực thú vị mà bạn có thể đẩy công nghệ này. Con người đang tập trung vào những ví dụ đáng lo ngại, như đạo văn và tin giả, nhưng bây giờ chúng ta biết rằng chúng ta có thể đào tạo mình trở thành những người đọc và viết tốt hơn.”

Nghiên cứu cung cấp một bước đầu tiên quan trọng trong việc giảm thiểu rủi ro liên quan đến văn bản được tạo bởi máy. Khi AI tiếp tục phát triển, khả năng phát hiện và điều hướng tác động của nó cũng phải phát triển. Bằng cách tự đào tạo để nhận biết sự khác biệt giữa văn bản được viết bởi con người và văn bản được tạo bởi máy, chúng ta có thể tận dụng sức mạnh của AI để hỗ trợ các quá trình sáng tạo của mình trong khi giảm thiểu rủi ro của nó.