Brian Sathianathan, Chief Technology Officer & Co-Founder của Iterate.ai – Phỏng vấn

Brian Sathianathan là Chief Technology Officer và đồng sáng lập của Iterate.ai, nhà tạo ra nền tảng low-code Interplay để xây dựng các ứng dụng dựa trên AI trên nhiều ngành công nghiệp. Trước đó, Sathianathan đã làm việc tại Apple (AAPL ) trên các dự án công nghệ mới nổi bao gồm hệ điều hành Mac và iPhone đầu tiên.

Điều gì thu hút bạn đến làm việc với các công nghệ AI?

Tôi luôn có hứng thú với việc học tập dựa trên thuật toán, và tôi bắt đầu làm việc với các hệ thống AI trong những ngày đại học của tôi. Ngoài ra, tôi đã dành khá nhiều thời gian đầu sự nghiệp của mình xây dựng các công nghệ mật mã và bảo mật khác cho Apple, và các công nghệ nén video cho một công ty tôi đồng sáng lập trước đó. Cả công nghệ video lẫn mật mã đều rất phụ thuộc vào thuật toán, và điều đó thực sự làm cho tôi học tập nhanh hơn về AI/ML. Vào khoảng năm 2016, tôi bắt đầu làm việc với các khuôn khổ AI mã nguồn mở/GPU, nhận ra rằng chúng đã phát triển như thế nào trong năm năm qua – cả từ góc độ thuật toán và khả năng phân loại rộng hơn. Sau đó, tôi nhận ra rằng cần phải làm cho mọi thứ trở nên dễ dàng và đơn giản hơn cho mọi người sử dụng.

Bạn có một số quan điểm mạnh mẽ về thiên vị nhận thức và thiên vị dữ liệu trong AI, bạn có thể chia sẻ những lo ngại này không?

Thiên vị AI xảy ra khi các kỹ sư cho phép quan điểm và thành kiến của riêng họ ảnh hưởng đến tập dữ liệu đào tạo AI của họ. Việc này nhanh chóng làm suy yếu những gì họ đang cố gắng đạt được với AI. Hầu hết thời gian, ảnh hưởng này là vô thức, vì vậy họ có thể không nhận ra rằng thiên vị đã xâm nhập vào tập dữ liệu của họ. Nếu không có các biện pháp kiểm soát và cân bằng hiệu quả, dữ liệu có thể bị giới hạn chỉ ở những điểm tập trung hoặc nhân khẩu học mà các kỹ sư có xu hướng xem xét. Ngay cả khi các kỹ sư có dữ liệu chất lượng cao và số lượng lớn để làm việc, thiên vị trong tập dữ liệu có thể khiến kết quả do các ứng dụng AI cung cấp trở nên không chính xác và trong nhiều trường hợp, vô ích.

Báo cáo của Gartner ước tính rằng đến năm 2030, 85% dự án AI sẽ cung cấp kết quả sai do thiên vị. Đó là một khoảng cách lớn cần phải vượt qua. Các doanh nghiệp đầu tư vào AI, tin tưởng và đưa ra quyết định chiến lược dựa trên AI – chỉ để bị đánh lừa bởi những kết luận sai lầm có căn cứ trong thiên vị – rủi ro thất bại với chi phí cao và tổn hại đến danh tiếng của họ. Với AI đang nhanh chóng chuyển từ một công nghệ mới nổi thành một phần không thể thiếu trên nhiều ứng dụng khách hàng và quy trình nội bộ, việc loại bỏ thiên vị là điều cần thiết để hiện thực hóa tiềm năng thực sự của AI trong tương lai.

Có những cách nào để ngăn chặn những loại thiên vị này xuất hiện?

Thiên vị AI phải được phát hiện và loại bỏ một cách hệ thống và chủ động. Thiên vị có thể được mã hóa cứng vào các thuật toán. Sự không chính xác có thể được giới thiệu thông qua các thiên vị nhận thức đơn giản là bỏ qua dữ liệu cần thiết. Thiên vị tổng hợp là một rủi ro khác, nơi một loạt các quyết định nhỏ cộng lại tạo ra kết quả AI bị thiên vị.

Việc phát hiện và loại bỏ thiên vị AI trong tất cả các hình thức của nó đòi hỏi các tổ chức phải sử dụng các khuôn khổ, công cụ, quy trình và chính sách được xây dựng để giảm thiểu hiệu quả những vấn đề này. Ví dụ, các khuôn khổ AI như Aletheia Framework từ Rolls Royce và khuôn khổ AI của Deloitte – được bổ sung bởi các điểm chuẩn được áp dụng tự động – có thể thúc đẩy các thực tiễn không thiên vị trên toàn bộ quá trình phát triển và triển khai ứng dụng AI. Các công cụ như AI Fairness 360 và IBM Watson OpenScale có thể nhận ra và loại bỏ thiên vị và mẫu thiên vị trong các mô hình và đường ống ML. Cuối cùng, các quy trình kiểm tra dữ liệu chống lại các chỉ số thiên vị được xác định, kết hợp với các chính sách cung cấp quản trị để ngăn chặn thiên vị thông qua các thực tiễn được áp dụng, cho phép các tổ chức có hệ thống trong việc kiểm tra điểm mù và hạn chế thiên vị AI.

Bạn là CTO và đồng sáng lập tại Iterate.ai – làm thế nào để nó bắt đầu?

Câu chuyện đó bắt đầu vào năm 2013 khi đồng sáng lập Jon Nordmark (CEO của chúng tôi) và tôi đều là thành viên hội đồng quản trị của một công ty tăng tốc Đông Âu có trụ sở tại Ukraine, được thiết kế để giúp các doanh nhân ở đó xây dựng và vận hành các công ty khởi nghiệp theo phong cách Thung lũng Silicon. Những kinh nghiệm với các công ty mới sáng tạo tuyệt vời đã dẫn chúng tôi đến ý tưởng ghép nối các công ty khởi nghiệp hứa hẹn (nhưng có thể ít được biết đến) với các doanh nghiệp lớn cần hỗ trợ đổi mới. Chúng tôi sau đó đã ra mắt cái mà sau đó được gọi là Iterate Studio, cung cấp một công cụ tìm kiếm chuyên dụng cho các doanh nghiệp để tìm kiếm các đối tác khởi nghiệp dựa trên các khả năng đổi mới mà các tổ chức lớn hơn đang tìm kiếm. Vào năm 2015, công ty trở thành Iterate.ai để nhấn mạnh việc chúng tôi sử dụng AI để tìm kiếm các công ty khởi nghiệp. Ngày nay, cơ sở dữ liệu Signals của chúng tôi lập chỉ mục hơn 15,7 triệu công nghệ khởi nghiệp dựa trên nhiều yếu tố (và sử dụng AI độc quyền để thực hiện điều đó ở quy mô đó).

Chúng tôi đã mở rộng vào năm 2017 và ra mắt phiên bản đầu tiên của nền tảng phát triển ứng dụng low-code Interplay của chúng tôi. Interplay cung cấp một lớp phần mềm được AI thúc đẩy, hiện đại hóa các ngăn xếp di sản của các doanh nghiệp bằng cách cho phép sử dụng các công nghệ đổi mới thông qua kéo và thả, đồng thời tăng tốc phát triển phần mềm gấp mười lần. Nền tảng low-code có 475 thành phần được xây dựng sẵn, vì vậy người dùng có thể kết hợp và kết hợp các công nghệ họ cần để nhanh chóng tạo ra các ứng dụng. Sự trao quyền của AI nằm ở cốt lõi của nền tảng, cũng như các thành phần low-code khác cho IoT, tích hợp dữ liệu và thậm chí là blockchain.

Iterate là một nền tảng low-code để phát triển các ứng dụng được AI thúc đẩy; một số ứng dụng AI có thể được xây dựng là gì?

Nền tảng low-code của chúng tôi đã cho phép xây dựng các ứng dụng AI cho một loạt các trường hợp sử dụng thú vị – phạm vi triển khai là điều chúng tôi thực sự tự hào. Ulta Beauty (ULTA ), nhà bán lẻ sắc đẹp toàn cầu trị giá một tỷ đô la, đã sử dụng nền tảng của chúng tôi để xây dựng một trợ lý trò chuyện khách hàng bán lẻ thông minh chỉ trong hai tuần. Ngược lại, các bot trò chuyện nguyên thủy là tập trung vào từ khóa, và hầu hết các ứng dụng bot trò chuyện của nhà cung cấp không thể tích hợp liền mạch với các hệ thống di sản để truy cập thông tin khách hàng hoặc cho phép chuyển đổi mượt mà sang hỗ trợ của con người. Trợ lý trò chuyện AI thông minh của Ulta đã loại bỏ những vấn đề này với chức năng xử lý ngôn ngữ tự nhiên và khả năng nhận ra “ý định” của khách hàng để cung cấp các phản hồi chính xác. Nền tảng của chúng tôi đã giúp Ulta xây dựng động cơ AI của bot trò chuyện chỉ trong vài giờ, và để cấu hình, tinh chỉnh và cải thiện đào tạo và phản hồi của bot trò chuyện một cách cực kỳ nhanh chóng.

Trong một ví dụ khác, Jockey dùng nền tảng của chúng tôi để triển khai phần hỏi đáp thường gặp dựa trên AI, có thể tự động và thành công xử lý những tình huống dịch vụ khách hàng khá phức tạp và mang tính chủ quan. Nền tảng cũng giúp một mạng lưới cửa hàng tiện lợi và trạm xăng toàn cầu ứng phó đại dịch bằng các vòi bơm xăng không chạm, dựa trên nhận dạng hình ảnh bằng AI đối với biển số xe của khách hàng. Các năng lực AI của chúng tôi còn hỗ trợ chiến lược an ninh dựa trên camera tại các cửa hàng. Nhờ nhận dạng hình ảnh, ứng dụng AI đã được huấn luyện có thể nhận ra mối đe dọa và vũ khí bên ngoài cửa hàng, kích hoạt phong tỏa để bảo vệ khách hàng và liên hệ cơ quan chức năng.

Thực tế cần viết ít mã đến mức nào? Người dùng cần kỹ năng phát triển phần mềm ra sao?

Theo quan điểm của tôi, quy tắc 80/20 áp dụng. 80% các trường hợp sử dụng AI được áp dụng đã được xây dựng và có các mô hình và dữ liệu đào tạo thành lập xung quanh chúng. Một tổ chức truyền thống có thể dễ dàng sử dụng một nền tảng low-code (chúng tôi, Interplay, là một trong những nền tảng như vậy) và thực hiện các trường hợp này. Dưới đây là một số ví dụ:

• FAQ được AI thúc đẩy
• Trình tìm kiếm sản phẩm được AI cung cấp
• Đề xuất sản phẩm và kết hợp sản phẩm thành gói
• OCR
• Xác định sản phẩm trực quan
• Phân tích dữ liệu bảng: những thứ như AOV, phân tích giỏ hàng, dự đoán khách hàng rời bỏ, v.v.
• Trích xuất / phát hiện đối tượng
• Tính thường tồn của đối tượng

Những trường hợp trên có thể được thực hiện bởi một kỹ sư có kiến thức lập trình phía máy chủ và một số hiểu biết cơ bản về API học máy. Điều này rất giống với các kỹ thuật phát trực tuyến video, mã hóa và quản lý khóa được sử dụng rộng rãi thông qua API ngày nay. Hầu hết các kỹ sư sử dụng những API này thường không biết chúng hoạt động như thế nào bên dưới.

Tại sao low-code AI lại quan trọng để mở rộng công nghệ AI?

Các doanh nghiệp theo đuổi khả năng AI trong phát triển ứng dụng của họ có thể nhanh chóng đối mặt với những thách thức lớn khi không sử dụng low-code. Trong thế giới ngày nay, chỉ có 300.000 kỹ sư AI, và chỉ 60.000 trong số đó là nhà khoa học dữ liệu. Do đó, tài năng cần thiết để phát triển và mở rộng các giải pháp AI rất đắt và ngày càng tăng. Ngược lại, phát triển low-code thực sự dân chủ hóa việc tiếp cận AI. Với low-code, bất kỳ nhà phát triển phần mềm nào trong số 25 triệu nhà phát triển phần mềm trên thế giới và thậm chí cả những người không có đào tạo cũng có thể dễ dàng triển khai các động cơ AI, tinh chỉnh khả năng của họ và sản xuất các giải pháp hiệu quả.

Trở lại nền tảng Signals được AI cung cấp của Iterate.ai, một số xu hướng thú vị đang xuất hiện là gì?

Chúng tôi đang chứng kiến sự tăng trưởng nhanh chóng trên năm lực lượng đổi mới: AI, IoT, blockchain, dữ liệu và các giải pháp khởi nghiệp mới. Đây đều là những thị trường rất lớn. Chúng tôi đang thấy hàng nghìn điểm dữ liệu về tin tức, bằng sáng chế và sản phẩm khởi nghiệp mới mỗi ngày. Interplay được xây dựng để tận dụng những lực lượng này bằng cách bao gồm các thành phần được xây dựng sẵn để tận dụng những lực lượng đang phát triển này.

Có điều gì khác mà bạn muốn chia sẻ về Iterate.ai?

Tôi nghĩ vẫn còn những hiểu lầm xung quanh low-code và vai trò của nó trong việc xây dựng các ứng dụng AI. Không hiếm khi thấy các chuyên gia CNTT đặt câu hỏi liệu một chiến lược low-code có thể đáp ứng các yêu cầu của họ về khả năng mở rộng quy mô, khả năng bổ sung chức năng và bảo mật cấp doanh nghiệp. Tôi nghĩ rằng các tùy chọn low-code được thiết kế cho nguyên mẫu – nhưng được áp dụng sai như công cụ cho các ứng dụng sản xuất – đã góp phần vào sự cảnh giác này. Điều đó nói lên, các nền tảng low-code phù hợp hoàn toàn có khả năng xây dựng và hỗ trợ các ứng dụng AI sẵn sàng sản xuất. Các doanh nghiệp nên thực hiện thẩm định của họ trong việc chọn công cụ low-code, đảm bảo rằng các công cụ đó có một lớp bảo mật minh bạch và toàn diện, và một hồ sơ theo dõi đã được chứng minh về việc cung cấp các ứng dụng ở quy mô doanh nghiệp.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Iterate.ai.