Mô hình và nền tảng AI

Trợ lý ảo Meena mới của Google có thể tham gia vào các cuộc trò chuyện hợp lý và cụ thể về gần như mọi chủ đề

mm
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google

Ngay cả những trợ lý ảo như Siri, Alexa và Google Assistant cũng có kỹ năng trò chuyện hạn chế, thường chỉ nhận lệnh và đưa ra phản hồi đã được định nghĩa sẵn. Các công ty như Google và Amazon (AMZN ) đã theo đuổi các phương pháp đào tạo và phát triển AI để tạo ra các rô-bốt trò chuyện linh hoạt và mạnh mẽ hơn, có thể tham gia vào các cuộc trò chuyện với người dùng một cách tự nhiên hơn. Theo báo cáo của DigitalTrends, Google vừa xuất bản một bài báo trình diễn khả năng của rô-bốt trò chuyện mới của họ, được gọi là “Meena”. Theo một bài đăng trên blog của các nhà nghiên cứu, Meena có thể tham gia vào các cuộc trò chuyện với người dùng về gần như mọi chủ đề.

Meena là một rô-bốt trò chuyện mở, có nghĩa là nó phản hồi dựa trên ngữ cảnh của cuộc trò chuyện và thích nghi với các đầu vào để đưa ra phản hồi tự nhiên hơn. Hầu hết các rô-bốt trò chuyện khác là đóng, có nghĩa là phản hồi của chúng được thiết kế xung quanh các ý tưởng nhất định và chỉ giới hạn trong việc thực hiện các nhiệm vụ cụ thể.

Theo báo cáo của Google, sự linh hoạt của Meena là kết quả của một tập dữ liệu đào tạo khổng lồ. Meena được đào tạo trên khoảng 40 tỷ từ được lấy từ các cuộc trò chuyện trên mạng xã hội và lọc để lấy các từ có liên quan và đại diện nhất. Google nhằm giải quyết một số vấn đề thường thấy ở các trợ lý ảo, chẳng hạn như khả năng xử lý các chủ đề và lệnh phức tạp, với người dùng cung cấp thêm đầu vào sau khi rô-bốt đã phản hồi một lệnh. Điều này có nghĩa là nhiều rô-bốt không thể yêu cầu người dùng làm rõ và khi có một truy vấn không thể giải thích, chúng thường chỉ đưa ra kết quả tìm kiếm.

Để giải quyết vấn đề này, các nhà nghiên cứu của Google đã cho phép thuật toán của họ theo dõi ngữ cảnh của cuộc trò chuyện, có nghĩa là nó có thể tạo ra các phản hồi cụ thể. Mô hình sử dụng một bộ mã hóa để xử lý những gì đã được nói trong cuộc trò chuyện và một bộ giải mã để tạo ra phản hồi dựa trên ngữ cảnh. Mô hình được đào tạo trên cả dữ liệu cụ thể và không cụ thể. Dữ liệu cụ thể là các từ có liên quan chặt chẽ với câu lệnh trước đó. Theo bài đăng trên blog của Google:

“Ví dụ, nếu A nói, ‘Tôi yêu thích tennis,’ và B phản hồi, ‘Điều đó thật tuyệt,’ thì câu nói đó nên được đánh dấu là ‘không cụ thể’. Phản hồi đó có thể được sử dụng trong hàng chục ngữ cảnh khác nhau. Nhưng nếu B phản hồi, ‘Tôi cũng vậy, tôi không thể đủ của Roger Federer!’, thì nó được đánh dấu là ‘cụ thể’ vì nó liên quan chặt chẽ với chủ đề đang được thảo luận.

Dữ liệu được sử dụng để đào tạo mô hình bao gồm bảy “lượt” trong cuộc trò chuyện. Trong quá trình đào tạo, mô hình có 2,6 tỷ tham số đã kiểm tra 341 GB dữ liệu văn bản để tìm kiếm các mẫu, một tập dữ liệu lớn hơn khoảng 8,5 lần so với tập dữ liệu được sử dụng để đào tạo mô hình GPT-2 được tạo bởi OpenAI.

Google đã báo cáo về hiệu suất của Meena trên chỉ số Trung bình Cảm nhận và Cụ thể (SSA). SSA là một chỉ số được thiết kế bởi các nhà nghiên cứu của Google và nó nhằm lượng hóa khả năng của một thực thể trò chuyện để phản hồi với các phản hồi cụ thể, liên quan khi cuộc trò chuyện diễn ra.

Các điểm SSA được tính toán bằng cách kiểm tra mô hình với một số lượng cố định các lệnh, và số lượng phản hồi hợp lý mà mô hình đưa ra được theo dõi. Điểm của mô hình được tính toán dựa trên tỷ lệ phản hồi hợp lý/cụ thể mà mô hình có thể đưa ra so với các lệnh. Các phản hồi chung chung sẽ bị phạt. Theo Google, một người bình thường đạt được khoảng 86% trên SSA, trong khi Meena đạt được 79%. Một mô hình AI khác nổi tiếng, một tác nhân được tạo bởi Pandora Bots, đã giành giải thưởng Loebner vì đã đạt được giao tiếp giống con người tinh vi. Tác nhân của Pandora Bots đạt được khoảng 56% trên thử nghiệm SSA.

Microsoft (MSFT ) và Amazon cũng đang cố gắng tạo ra các rô-bốt trò chuyện linh hoạt và tự nhiên hơn. Microsoft đã cố gắng tạo ra các cuộc trò chuyện đa lượt trong rô-bốt trong hai năm, thâu tóm Semantic Machines, một công ty khởi nghiệp AI, để cải thiện Cortana. Amazon vừa tổ chức thử thách Alexa Prize, trong đó yêu cầu các tham gia thiết kế một rô-bốt có thể trò chuyện trong khoảng 20 phút.

Blogger và lập trình viên với chuyên môn về Machine Learning Deep Learning topics. Daniel hy vọng giúp đỡ người khác sử dụng sức mạnh của AI cho lợi ích xã hội.