Yandong Liu, Connectly의 공동 창립자 및 CTO – 인터뷰 시리즈

Yandong Liu는 Connectly.ai의 공동 창립자이자 CTO입니다. 그는 이전에 Strava에서 CTO로 근무했습니다. Yandong Liu는 카네기 멜런 대학교를 졸업했습니다.

2021년에 설립된 Connectly는 대화형 인공 지능(AI)의 선도 기업입니다. 독점적인 AI 모델을 사용하여 Connectly의 플랫폼은 비즈니스들이 고객과 제품을 판매하는 방식을 자동화하며, 모든 메시징 플랫폼에서 고객과 소통할 수 있습니다. Connectly는 판매, 마케팅, 고객 경험, 지원 등 고객 여정의 모든 단계를 고객이 선호하는 메시징 플랫폼에서 진행할 수 있도록 합니다.

Connectly의 기원에 대한 이야기를 공유해 주시겠습니까?

Connectly는 대화형 AI의 선도자가 되기 위한 비전에서 탄생했습니다. 저의 공동 창립자 Stefanos와 저는 창립자 커뮤니티의 공동 친구를 통해 만나서 메시징의 미래에 대한 공통의 열정을 공유했습니다. Strava와 Uber에서 기술 팀을 이끈 저의 배경과 Stefanos의 Facebook Messenger 경험을 결합하여, 우리는 미래의 AI 기반 인프라를 만들기 위해 노력했습니다. 이는 비즈니스들이 고객 메시지를 최대한 활용할 수 있도록 도와주는 것입니다.

소규모 언어 모델(Small Language Models, SLMs)은 무엇이며, 대규모 언어 모델(Large Language Models, LLMs)와 어떻게 다른가요?

SLMs는 인간의 언어를 이해하고 생성하는 AI 모델이지만, 대규모 언어 모델보다 매개변수와 계산 요구가 적습니다. WhatsApp 및 Instagram과 같은 메시징 플랫폼에서 AI 마케팅 솔루션의 경우, SLMs는 더 빠른 응답 시간을 제공하며 다양한 기기에 쉽게 배포할 수 있어 실시간 고객 상호작용에 적합합니다. 더 작은 크기 덕분에 높은 품질의 응답을 제공하면서도 효율적인 성능을 발휘합니다.

SLMs가 환각의 가능성을 줄이고 AI 응답의 신뢰성을 향상하는 방법에 대해 논의해 주시겠습니까?

SLMs는 매개변수의 더 작은 집합에 집중함으로써 환각(인공 지능이 잘못된 또는 무의미한 정보를 생성하는 경우)의 가능성을 줄입니다. AI 기반 메시징 마케팅 솔루션의 경우, 이 집중적인 접근 방식은 더 예측 가능하고 신뢰할 수 있는 응답을 보장하여 고객의 신뢰와 참여를 높입니다. SLMs의 복잡성이 줄어듦에 따라 오프토픽 또는 잘못된 콘텐츠를 생성할 가능성이 줄어들어 AI 상호작용의 전체 신뢰성이 향상됩니다.

SLMs가 특히 소매 업체에게 왜 유익한지, 특히 채팅봇의 contexto에서 설명해 주시겠습니까?

LLMs는 많은 데이터를 처리하기 때문에 느립니다. 그러나 메시징과 대화형 커머스는 고객을 더 잘 서비스하기 위해 더 빠른 응답 시간이 필요합니다. 소매 업체의 경우, SLMs는 더 실용적이고 유익합니다. 이는 소매 업계에서 제공할 수 있는 세부 사항의 수준 때문입니다. 또한 SLMs는 더 민첩하기 때문에 더 저렴하며, 이는 모든 소매 회사, 작은 스타트업부터 큰 온라인 소매 업체까지 이를 활용할 수 있음을 의미합니다.

SLMs가 LLMs보다 고객에게 더 개인화된 경험을 제공하는 방법에 대해 설명해 주시겠습니까?

SLMs는 특정 작업 및 도메인에 더 쉽게 맞춤화할 수 있기 때문에 고객에게 더 개인화된 경험을 제공합니다. 더 작은 크기 덕분에 더 빠르고 효율적인 맞춤화가 가능하여 비즈니스들이 모델을 고객의 고유한需求과 선호도에 맞게 조정할 수 있습니다. 이러한 집중적인 맞춤화는 더 관련性 있고 개인화된 상호작용을 가능하게 하여 고객 경험을 향상합니다.

Connectly가 SLMs를 플랫폼에 통합하여 전자상거래 기능을 강화하는 방법에 대해 설명해 주시겠습니까?

우리는 전자상거래 기능을 강화하기 위해 플랫폼에 SLMs를 통합하여 효율성과 적응성을 활용합니다. 이러한 모델은 WhatsApp 및 Instagram과 같은 메시징 플랫폼에서 빠르고 정확한 고객 상호작용을 가능하게 하며, 개인화된 제품 추천과 즉각적인 고객 지원을 제공합니다. SLMs의 경량화된 특성으로 인해 응답은 빠르고 관련성이 높아져 고객 경험과 참여가 향상됩니다.

소매 업체가 운영에서 SLMs를 성공적으로 구현한 구체적인 예는 무엇인가요?

우리의 클라이언트들은 SLMs를 사용하여 큰 성공을 거두고 있습니다. 패션 소매 업체는 WhatsApp를 통해 이전 구매 및 선호도에 기반한 의류 스타일링 조언을 제공하기 위해 SLMs를 사용하고 있습니다. 유사하게, 전자제품 소매 업체는 제품 기능 및 가용성에 대한 고객의 질문에 실시간으로 응답하기 위해 Instagram에 SLMs를 배포하여 쇼핑 경험을 향상시키고 고객 지원 팀의 부담을 줄였습니다.

소매 업체는 왜 특정 비즈니스 애플리케이션을 위해 LLMs에서 SLMs로 전환해야 하나요?

소매 업체는 효율성과 비용 효율성의 증가로 인해 특정 비즈니스 애플리케이션을 위해 LLMs에서 SLMs로 전환해야 합니다. SLMs는 더 빠르고, 계산 능력이 적으며, 특정 작업에 쉽게 맞춤화할 수 있어 WhatsApp 및 Instagram과 같은 메시징 플랫폼에서 실시간 고객 상호작용에 적합합니다. 이러한 전환은 더 반응적이고 개인화된 고객 서비스를 제공하면서 운영 비용을 줄일 수 있습니다.

SLM 기술의 미래 발전에 대해 가장 흥미진진한 점은 무엇인가요?

저는 SLM 기술의 효율성과 정확성을 더욱 향상시키는 발전이 가장 흥미진진합니다. 예를 들어, 전이 학습과 미세 조정 기술의 향상으로 인해 SLMs는 최소한의 데이터로 특정 작업에 더熟練해질 수 있습니다. 또한, SLMs와 멀티모달 기능(텍스트, 음성, 이미지 데이터의 결합)의 통합은 WhatsApp 및 Instagram과 같은 플랫폼에서 더 풍부하고 상호작용하는 고객 경험을 가능하게 할 것입니다. 이러한 발전은 소매 업체가 개인화된 고객 상호작용을 제공하려고 하는 경우에 SLMs가 더욱 가치 있게 만들 것입니다.

다음 몇 년 동안 소매 업계에서 SLMs의 채택이 어떻게 진화할 것으로 보시나요?

저는 소매 업계에서 SLMs의 채택이 크게 증가할 것으로 보입니다. 소매 업체들이 고객과 더 효율적이고 비용 효율적으로 상호작용하는 방법을 계속적으로 찾고 있는 상황에서, SLMs의 속도와 적응성이 더욱 가치 있게 될 것입니다. SLMs는 고객 서비스 플랫폼, 마케팅 캠페인, 개인화된 쇼핑 경험, WhatsApp 및 Instagram과 같은 메시징 앱, 심지어 TikTok에도 더广泛하게 통합될 것입니다. 이러한 전환은 소매 업체가 더 빠르고 개인화된 상호작용을 제공하여 고객 만족도와忠誠도를 향상시킬 것입니다.

멋진 인터뷰 감사합니다. 더 많은 정보를 배우고 싶은 독자는 Connectly를 방문하세요.