Ricky Costa, Giám đốc điều hành của Quantum Stat – Loạt phỏng vấn

Ricky Costa là Giám đốc điều hành của Quantum Stat, một công ty cung cấp các giải pháp kinh doanh cho các sáng kiến NLP và AI

Điều gì đã thu hút bạn đến với trí tuệ nhân tạo?

Ngẫu nhiên. Tôi đang đọc một cuốn sách về xác suất khi tôi bắt gặp một định lý nổi tiếng. Lúc đó, tôi tự hỏi liệu tôi có thể áp dụng định lý này vào một vấn đề ngôn ngữ tự nhiên mà tôi đang cố gắng giải quyết tại nơi làm việc. Như nó turns out, thuật toán đã tồn tại mà không biết đến tôi, nó được gọi là Naïve Bayes, một mô hình sinh tổng hợp rất nổi tiếng và đơn giản được sử dụng trong học máy cổ điển. Định lý đó là định lý Bayes. Tôi cảm thấy sự trùng hợp này là một manh mối, và gieo một hạt giống tò mò để tiếp tục học hỏi thêm.

Bạn là Giám đốc điều hành của Quantum Stat, một công ty cung cấp giải pháp cho Xử lý Ngôn ngữ Tự nhiên. Bạn đã tìm thấy mình trong vị trí này như thế nào?

Khi có một cuộc cách mạng trong một công nghệ mới, một số công ty sẽ do dự hơn những công ty khác khi đối mặt với những điều không biết. Tôi đã thành lập công ty của mình vì việc theo đuổi những điều không biết là thú vị đối với tôi. Tôi cũng cảm thấy đây là thời điểm thích hợp để tham gia vào lĩnh vực NLP, given tất cả các nghiên cứu tuyệt vời đã đến trong 2 năm qua. Cộng đồng NLP có khả năng đạt được nhiều hơn với ít hơn, given sự ra đời của các kỹ thuật NLP mới yêu cầu ít dữ liệu hơn để tăng hiệu suất.

Đối với những người đọc có thể không quen thuộc với lĩnh vực này, bạn có thể chia sẻ với chúng tôi về việc Xử lý Ngôn ngữ Tự nhiên là gì?

NLP là một lĩnh vực con của AI và phân tích, nhằm hiểu ngôn ngữ tự nhiên trong văn bản, lời nói hoặc học đa phương thức (văn bản và hình ảnh/video) và tính toán nó đến điểm mà bạn đang thúc đẩy sự hiểu biết và/hoặc cung cấp một dịch vụ có giá trị. Giá trị có thể đến từ nhiều góc độ, từ việc tìm kiếm thông tin trong hệ thống tệp nội bộ của công ty, đến việc phân loại cảm xúc trong tin tức, hoặc một bot Twitter GPT-2 giúp với tiếp thị truyền thông xã hội của bạn (như chúng tôi đã xây dựng cách đây vài tuần).

Bạn có bằng Cử nhân Nghệ thuật từ Hunter College về Tâm lý học Thực nghiệm. Bạn có cảm thấy rằng việc hiểu não bộ và tâm lý học con người là một tài sản khi nó đến với việc hiểu và mở rộng lĩnh vực Xử lý Ngôn ngữ Tự nhiên?

Đây là một quan điểm trái ngược, nhưng không may, không. Sự tương tự giữa các nơ-ron và mạng nơ-ron sâu chỉ là để minh họa và tạo ra trực giác. Một người có thể học được nhiều hơn từ khoa học phức tạp và kỹ thuật. Việc hiểu cách não bộ hoạt động là một hệ thống phức tạp. “Trí tuệ” là một hiện tượng xuất hiện từ sự phức tạp của não bộ tương tác với môi trường của nó, và rất khó để xác định. Tâm lý học và các khoa học xã hội khác, phụ thuộc vào “giảm thiểu” (từ trên xuống), không hoạt động trong khuôn khổ phức tạp này. Đây là trực giác: hãy tưởng tượng một người cố gắng giảm bài hát “Let it Be” của The Beatles xuống thang C Major. Không có gì về thang đó dự đoán “Let it Be” sẽ xuất hiện từ nó. Điều tương tự cũng xảy ra với một người cố gắng giảm hành vi xuống hoạt động nơ-ron trong não.

Bạn có thể chia sẻ với chúng tôi tại sao Dữ liệu Lớn lại quan trọng khi nói đến Học sâu và cụ thể hơn là Xử lý Ngôn ngữ Tự nhiên?

Hiện tại, vì các mô hình học sâu nội suy dữ liệu, dữ liệu càng nhiều thì mô hình sẽ thấy ít trường hợp ngoại lệ hơn khi đưa ra một suy luận trong tự nhiên. Kiến trúc này “khuyến khích” các tập dữ liệu lớn được tính toán bởi các mô hình để tăng độ chính xác của đầu ra. Tuy nhiên, nếu chúng ta muốn đạt được hành vi thông minh hơn của các mô hình AI, chúng ta cần nhìn beyond việc có bao nhiêu dữ liệu và hơn nữa về cách chúng ta có thể cải thiện khả năng suy luận hiệu quả của mô hình, điều mà trực giác không nên yêu cầu nhiều dữ liệu. Từ quan điểm phức tạp, các thí nghiệm tự động tế bào được thực hiện trong thế kỷ trước bởi các nhà vật lý John von Neumann và Stephen Wolfram cho thấy sự phức tạp có thể xuất hiện từ các điều kiện và quy tắc đơn giản. Những điều kiện/quy tắc này nên là gì đối với AI, là điều mà mọi người đang săn lùng.

Bạn gần đây đã ra mắt ‘Cơ sở Dữ liệu NLP Xấu’. Cơ sở dữ liệu này là gì và tại sao nó lại quan trọng đối với những người trong ngành AI?

Cơ sở dữ liệu này được tạo ra để các nhà phát triển NLP có thể truy cập dễ dàng vào tất cả các tập dữ liệu liên quan trong ngành. Cơ sở dữ liệu này giúp lập chỉ mục các tập dữ liệu, điều này có một hiệu ứng phụ là có thể được truy vấn bởi người dùng. Việc tiền xử lý dữ liệu chiếm đa số thời gian trong đường ống triển khai, và cơ sở dữ liệu này cố gắng giảm thiểu vấn đề này尽可能. Ngoài ra, nó là một nền tảng miễn phí cho bất kỳ ai, bất kể bạn là một nhà nghiên cứu học thuật, một nhà thực hành, hoặc một chuyên gia AI độc lập muốn bắt đầu với dữ liệu NLP. Link

Quantum Stat hiện cung cấp các giải pháp từ đầu đến cuối. Một số giải pháp này là gì?

Chúng tôi giúp các công ty tạo điều kiện cho đường ống mô hình NLP của họ bằng cách cung cấp phát triển tại bất kỳ giai đoạn nào. Chúng tôi có thể bao gồm một loạt các dịch vụ, từ làm sạch dữ liệu trong giai đoạn tiền xử lý đến triển khai mô hình trên máy chủ trong sản xuất (các dịch vụ này cũng được nêu trên trang chủ của chúng tôi). Không tất cả các dự án AI đều thành công do bản chất không biết trước của cách dữ liệu/dự án của bạn hoạt động với một mô hình hiện đại. Given sự không chắc chắn này, các dịch vụ của chúng tôi cung cấp cho các công ty cơ hội để lặp lại dự án của họ với một phần nhỏ của chi phí thuê một kỹ sư học máy toàn thời gian.

Phát triển gần đây nào trong AI bạn thấy thú vị nhất?

Phát triển quan trọng nhất gần đây là mô hình transformer, bạn có thể đã nghe về nó: BERT, RoBERTa, ALBERT, T5 và vân vân. Những mô hình transformer này rất hấp dẫn vì chúng cho phép nhà nghiên cứu đạt được hiệu suất hàng đầu với các tập dữ liệu nhỏ hơn. Trước khi có transformer, một nhà phát triển sẽ cần một tập dữ liệu rất lớn để đào tạo một mô hình từ đầu. Vì những transformer này được đào tạo trước trên hàng tỷ từ, nên cho phép lặp lại dự án AI nhanh hơn và đó là điều mà chúng tôi đang tham gia nhiều nhất hiện tại.

Có gì khác mà bạn muốn chia sẻ về Quantum Stat?

Chúng tôi đang làm việc trên một dự án mới liên quan đến phân tích cảm xúc thị trường tài chính sẽ được phát hành sớm. Chúng tôi đã tận dụng nhiều transformer để cung cấp cái nhìn chưa từng có về cách tin tức tài chính diễn ra trong thời gian thực. Hãy theo dõi!

Để tìm hiểu thêm, hãy truy cập Quantum Stat hoặc đọc bài viết của chúng tôi về Cơ sở Dữ liệu NLP Xấu.