Andrea Vattani, Đồng sáng lập & Nhà khoa học trưởng tại Spiketrap – Loạt phỏng vấn

Andrea Vattani, là Đồng sáng lập & Nhà khoa học trưởng tại Spiketrap, một công ty cung cấp thông tin về khán giả và hiệu suất truyền thông cho các nhà sáng tạo, nền tảng và thương hiệu. Công nghệ trí tuệ nhân tạo độc quyền Clair AI giúp phân tích tín hiệu từ dữ liệu không cấu trúc, cung cấp sự rõ ràng và ngữ cảnh không thể sánh được, đặc biệt trong môi trường trực tuyến có tốc độ cao.

Điều gì đã thu hút bạn đến với khoa học máy tính và trí tuệ nhân tạo?

Đó là sự kết hợp của các tình huống may mắn, tôi đã đến Đại học Rome để tham gia kỳ thi tuyển sinh chuyên ngành Thống kê, và hóa ra tôi đã đến muộn một ngày! Tôi được tư vấn nên đăng ký chuyên ngành Khoa học máy tính thay thế và chuyển sang chuyên ngành Thống kê một năm sau. Tôi đã tham gia kỳ thi tuyển sinh Khoa học máy tính (ngày hôm đó!) và đã đỗ… không bao giờ chuyển sang Thống kê! Sự quan tâm của tôi đến trí tuệ nhân tạo thực sự bắt đầu từ việc nhận ra cách máy tính có thể giúp tự động hóa các công việc, và trí tuệ nhân tạo là máy móc tự động hóa tối thượng. Ngoài ra, ngôn ngữ tự nhiên và cách con người sử dụng nó đã luôn là một mối quan tâm của tôi: tôi đã tập trung vào các nghiên cứu cổ điển tại trường trung học, nghiên cứu tiếng Hy Lạp và La tinh cổ, điều này có thể tương tự như cách một máy tính cảm nhận khi được cung cấp một dòng từ.

Trước đây, bạn đã từng làm việc tại Amazon (AMZN ) Goodreads với vai trò Kỹ sư phần mềm cấp cao, bạn đã từng tham gia vào những dự án nào và những bài học quan trọng nào bạn đã rút ra từ kinh nghiệm này?

Trong thời gian tại Goodreads, tôi đã làm việc trên nhiều dự án học máy, bao gồm phát hiện spam và mở rộng công cụ đề xuất sách. Những bài học tôi đã rút ra từ thời gian tại đó là việc xác định các chỉ số học máy phù hợp với mục tiêu kinh doanh và khách hàng. Ví dụ, các công cụ đề xuất đã tồn tại từ rất lâu. Hãy nhớ cuộc thi “Giải thưởng Netflix (NFLX ) ” vào năm 2009 để tìm ra cách đề xuất phim tốt hơn? Một số thông tin từ các giải pháp hàng đầu cho thấy rằng khả năng bạn xem một bộ phim không phụ thuộc nhiều vào việc bạn có thích nó hay không, mà chủ yếu là liệu nó có tương tự với sở thích của bạn hay không. Điều đó có thể hoạt động với phim, vì đó là một cam kết ngắn 90 phút, nhưng với sách, điều đó không phải là trường hợp. Việc tích hợp mục tiêu phù hợp vào các chỉ số của bạn là rất quan trọng.

Một bài học khác mà tôi đã áp dụng tại Spiketrap là xây dựng các đội học máy tập trung vào giao hàng và tích hợp với kế hoạch sản phẩm thay vì một đội cách ly chỉ tập trung vào việc khám phá và nghiên cứu. Điều này dẫn đến việc xác định mục tiêu, thời gian và hiểu rõ về ROI tốt hơn. Nó cũng tự nhiên ưa thích đội tập trung vào tốc độ và tính thực tế của mô hình hơn là chỉ nhìn vào độ chính xác. Hãy quay lại ví dụ về cuộc thi Netflix, các mô hình của các đội chiến thắng không bao giờ được tích hợp vì không đủ thực tế mặc dù độ chính xác được cải thiện.

Nghiên cứu của bạn đã được xuất bản trên nhiều tạp chí, theo bạn, bài báo quan trọng nhất đến nay là gì?

Trong thời gian làm tiến sĩ, tôi đã may mắn được hợp tác với nhiều nhà nghiên cứu từ các lĩnh vực khác nhau, bao gồm học máy, “dữ liệu lớn”, phân tích dữ liệu xã hội và lý thuyết trò chơi. Một bài báo mà tôi thích vì sự đơn giản và tính ứng dụng là “K-Means++ có thể mở rộng“: K-Means++ là một phương pháp phân cụm không giám sát được sử dụng rộng rãi để chia một tập dữ liệu thành K nhóm nhất quán. Nó thực hiện việc này bằng cách thêm một nhóm tại một thời điểm, vì vậy khi bạn có rất nhiều dữ liệu và nhóm, nó trở nên quá chậm. Trong bài báo đó, chúng tôi chỉ ra cách bạn có thể đạt được độ chính xác tương tự, nếu không tốt hơn, bằng cách song song hóa phương pháp. Phương pháp của chúng tôi cực kỳ đơn giản và đã được thực hiện trong nhiều thư viện học máy.

Có thể chia sẻ câu chuyện về sự ra đời của Spiketrap?

Sau khi làm việc tại Goodreads, bản thân tôi và các đồng sáng lập của Spiketrap, Kieran và Virgilio, đã hiểu rằng có một khoảng trống trong ngành về việc tiếp cận các thông tin về thương hiệu tiên tiến từ các nền tảng xã hội nhỏ lẻ. Bằng cách áp dụng các công nghệ trí tuệ nhân tạo, chúng tôi có thể giải quyết vấn đề này một cách hiệu quả.

Trong nền kinh tế hiện nay, điều quan trọng là các công ty phải lắng nghe khách hàng và ngành công nghiệp của họ. Tuy nhiên, nhiều điều mà khách hàng nói về các thương hiệu vẫn chưa được lắng nghe. Hàng triệu người thể hiện ý kiến của mình một cách cởi mở mỗi ngày, trên các nền tảng như Twitter, Reddit, Twitch và các nền tảng khác. Điều này đã chứng minh là một nguồn tài nguyên cực kỳ quý giá cho bất kỳ nhà nghiên cứu thị trường nào, với điều kiện là nội dung có thể được ngữ cảnh hóa ở quy mô lớn. Vấn đề là ngành công nghiệp thông tin vẫn chưa theo kịp với các hành vi và ngôn ngữ kỹ thuật số đang phát triển.

Các công cụ lắng nghe vẫn phụ thuộc vào từ khóa và tìm kiếm boolean, bỏ lỡ nhiều cuộc trò chuyện có thể và nên được quy cho một thương hiệu cụ thể. Trong khi đó, các công ty nghiên cứu thị trường đã bị kẹt trong một hành động cân bằng ngày càng khó khăn, cố gắng xác định các thông tin định tính từ các phương pháp định lượng và bị hạn chế bởi chi phí.

Tóm lại, mọi người đã thiếu các công cụ cần thiết để hiểu khán giả của họ ở quy mô lớn. Số lượng bán hàng và số lượng người xem trả lời câu hỏi “cái gì” về hành vi khán giả, nhưng không phải “tại sao”. Không có ngữ cảnh, việc xác định sự tương quan so với nguyên nhân là một trò chơi đoán. Nhận ra khoảng trống này, chúng tôi đã tìm hiểu về một giải pháp cho sự hiểu biết ngữ cảnh và Spiketrap đã ra đời.

Công nghệ học máy nào được sử dụng tại Spiketrap?

Chúng tôi sử dụng nhiều công nghệ, từ Scikit-learn thông thường đến các thư viện học sâu như Pytorch. Ngoài các thư viện, các phương pháp, mô hình và tập dữ liệu chúng tôi sử dụng chủ yếu là độc quyền. Chúng tôi đã học được rằng các phương pháp và mô hình sẵn có chỉ giúp bạn đi được một phần của chặng đường, nhưng để thực sự giải quyết một vấn đề, bạn cần phải đầu tư công sức của mình, bắt đầu từ mục tiêu và đi xuống đến kiến trúc mô hình và tập dữ liệu. Để đưa ra một ví dụ, việc tạo chủ đề là nhiệm vụ trích xuất các chủ đề từ một tập hợp các văn bản. “Spiketrap Convos” của chúng tôi cung cấp cho khách hàng của chúng tôi những thông tin quan trọng về khán giả của họ và sử dụng việc tạo chủ đề như một trong những tín hiệu. Phương pháp tạo chủ đề thông thường là LDA (Phân bổ Dirichlet Latent), nhưng không may, nó không nhất quán và không thể đoán trước và không đủ mạnh. Ở phía bên kia của phổ, bạn có thể thử một mô hình tiền huấn luyện hiện đại như Bert-Topics, điều này – mặc dù mạnh mẽ và bao quát – cũng rất cứng nhắc và chậm. Học máy ngôn ngữ và trí tuệ nhân tạo đã đạt được những bước tiến lớn trong thập kỷ qua, nhưng việc đưa các mô hình hiện có vào sản phẩm vẫn còn xa so với tối ưu và là một canh bạc rủi ro.

Có thể giải thích cách Spiketrap cung cấp sự hiểu biết tức thời về khán giả cho các nhà sáng tạo, nền tảng và thương hiệu?

Các nhà quảng cáo và cơ quan sử dụng bảng xếp hạng người có ảnh hưởng và công cụ liên kết thương hiệu của chúng tôi để xác định các nhà sáng tạo có cộng đồng an toàn cho thương hiệu trên nhiều danh mục, bao gồm xếp hạng về nội dung độc hại, khiêu dâm và nội dung tình dục — cũng như sự an toàn của cộng đồng thương hiệu tổng thể.

Các nhà sáng tạo có thể sử dụng công cụ để tìm hiểu về các cuộc trò chuyện riêng lẻ và xem những cuộc trò chuyện nào là an toàn nhất hoặc không an toàn nhất, những gì đã thúc đẩy sự tương tác tích cực cho các nhà tài trợ của họ và nơi họ có thể cải thiện nỗ lực điều tiết của mình.

Một bài báo gần đây có tiêu đề ‘FeelsGoodMan: Infer Semantics of Twitch Neologisms‘ đã được xuất bản bởi Spiketrap. Bạn có thể mô tả ngắn gọn về bài báo này?

Cách mọi người giao tiếp và thể hiện bản thân trực tuyến đã trở nên ngày càng phức tạp và khó hiểu. Đầu tiên là emoticon :-). Sau đó là emoji. Sau đó là meme… và bây giờ “emotes”, một hình thức giao tiếp dựa trên biểu tượng đã trở nên phổ biến trên nền tảng phát trực tuyến Twitch. Điều này tương tự như emoji về việc sử dụng xen kẽ với văn bản thường, nhưng nó cũng tạo ra những thách thức tương tự như meme trong việc nó được tạo bởi người dùng và ý nghĩa bí ẩn của nó không có mối liên hệ rõ ràng với hình ảnh thực sự. Có hơn 8 triệu emotes khác nhau cho đến nay với hơn 400.000 emotes được sử dụng mỗi tuần. Mặc dù vậy, mọi người vẫn giao tiếp hiệu quả bằng cách sử dụng chúng để thể hiện bất kỳ cảm xúc nào như hạnh phúc, chán nản, hào hứng hoặc sarcasm. Bài báo gần đây của chúng tôi là một cuốn sách hướng dẫn trí tuệ nhân tạo để suy luận ý nghĩa ngữ nghĩa của emotes. Phương pháp của chúng tôi không yêu cầu duy trì và cập nhật một tập dữ liệu được lập curator thủ công, và nó có thể tự thích nghi với việc giới thiệu các emotes mới cũng như sự tiến hóa của ý nghĩa của các emotes phổ biến. Điều này đặc biệt quan trọng khi một emote trở nên chính trị hoặc chủng tộc, điều mà chúng tôi đã thấy xảy ra với các emotes cực kỳ phổ biến như “TriHard”, “PogChamp” và “FeelsGoodMan”. Việc sử dụng ngôn ngữ động và thay đổi ý nghĩa tạo ra những vấn đề khổng lồ cho các hệ thống kiểm duyệt hoặc khung phân tích cảm xúc, vì vậy chúng tôi tự hào giải quyết vấn đề này một cách đúng đắn tại Spiketrap.

Có điều gì khác bạn muốn chia sẻ về Spiketrap?

Khi chúng tôi nhìn về tương lai, Spiketrap đang làm việc trên việc phát triển và hoàn thiện một công cụ mới sẽ cung cấp sự hiểu biết sâu sắc hơn về cảm xúc thương hiệu cho khách hàng của chúng tôi. Công cụ Liên kết mới của Spiketrap cung cấp một cách tương tác và trực quan để xác định và định lượng các liên kết khán giả trên các nhà sáng tạo, thương hiệu, trò chơi và nhiều hơn nữa. Đối với bất kỳ truy vấn nào, công cụ tạo ra các điểm số chỉ số liên kết cho thấy mức độ tương quan tích cực giữa hai thực thể. Nhiều tín hiệu ngữ cảnh tạo nên điểm số, bao gồm tần suất và cảm xúc của các đề cập liên quan. Công nghệ của Spiketrap được đặt độc quyền để lập chỉ mục các liên kết giữa trò chơi, thương hiệu và nhà sáng tạo. Trí tuệ nhân tạo ngôn ngữ độc quyền Clair AI của họ xử lý hàng triệu thông điệp được người dùng đăng công khai mỗi ngày, quy cho nội dung không rõ ràng cho các thực thể trong kiến thức đồ thị rộng lớn của Spiketrap, xác định chủ đề trò chuyện, xác định cảm xúc, và theo dõi an toàn. Việc bổ sung Công cụ Liên kết mới cho phép các nhà phát triển, nhà sáng tạo, thương hiệu và nhiều hơn nữa hiểu rõ hơn về khán giả và tác động của thương hiệu.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Spiketrap.