새로운 전선에서 발생하는 생성적 AI — 클라우드에서 멀어지다

처음에는 인터넷이 우리의 삶을 영원히 바꾸었는데, 그것은 우리가 어떻게 소통하고, 쇼핑하고, 비즈니스하는지에 대한 방식을 바꾸었다. 그리고 나서 지연, 개인 정보 보호, 비용 효율성 등의 이유로 인터넷은 네트워크 가장자리로 이동하여 “사물 인터넷”이 등장했다.

이제 인공 지능이 등장했는데, 그것은 우리가 인터넷에서 하는 모든 것을 더 쉽게 만들고, 개인화하고, 지능화한다. 그러나 그것을 사용하기 위해서는 큰 서버와 높은 컴퓨팅 능력이 필요하므로 클라우드에 제한된다. 그러나 같은 동기 부여 — 지연, 개인 정보 보호, 비용 효율성 — 로 Hailo와 같은 회사가 에지에서 AI를 가능하게 하는 기술을 개발하도록驱使했다.

의심할 여지없이, 다음 큰 것은 생성적 AI이다. 생성적 AI는 산업 전체에 걸쳐巨大한 잠재력을 가지고 있다. 그것은 법률 전문가, 콘텐츠 작가, 그래픽 디자이너, 음악가 등 다양한 창작자를 위한 작업을 간소화하고 효율성을 높일 수 있다. 그것은 새로운 치료제를 발견하거나 의료 절차를 지원하는 데 도움이 될 수 있다. 생성적 AI는 산업 자동화, 새로운 소프트웨어 코드 개발, 및 교통 보안을 개선하는 데 도움이 될 수 있다.

그러나 현재의 생성적 AI는 그것을 가능하게 하는 기술에 의해 제한된다. 그것은 생성적 AI가 클라우드에서 발생하기 때문이다 — 사용자로부터 멀리 떨어진 비싼 에너지 소비 컴퓨터 프로세서의 큰 데이터 센터. 누군가가 ChatGPT와 같은 생성적 AI 도구나 새로운 AI 기반 비디오 회의 솔루션에 프롬프트를 발급하면, 요청은 인터넷을 통해 클라우드로 전송되고, 서버에서 처리된 후 네트워크를 통해 결과가 반환된다.

회사가 생성적 AI의 새로운 응용 프로그램을 개발하고 다양한 장치에 배포할수록 — 비디오 카메라와 보안 시스템, 산업용 및 개인용 로봇, 랩톱 및 자동차 — 클라우드는 대역폭, 비용, 연결성 측면에서 병목 현상이 된다.

드라이버 보조, 개인용 컴퓨터 소프트웨어, 비디오 회의 및 보안과 같은 응용 프로그램의 경우, 네트워크를 통해 데이터를不断으로 이동시키는 것은 개인 정보 보호 위험이 될 수 있다.

해결책은 이러한 장치를 에지에서 생성적 AI를 처리하도록 ermög하는 것이다. 실제로, 에지 기반 생성적 AI는 많은 새로운 응용 프로그램에ประโยชน을 줄 수 있다.

생성적 AI의 부상

6월에 Mercedes-Benz는 차량에 ChatGPT를 도입할 것이라고 말했다. ChatGPT가 강화된 Mercedes에서, 운전자는 손이 자유로운 상태에서 차에 질문을 할 수 있다 — 예를 들어, 집에 있는 재료를 기반으로 만드는 저녁 식사 레시피. 즉, 차가 인터넷에 연결되어 있는 경우. 주차장이나 원격 위치에서는 모든 것이 불가능하다.

過去 몇 년 동안, 비디오 회의가 우리에게 두 번째 자연이 되었다. 이미, 소프트웨어 회사는 비디오 회의 솔루션에 다양한 형태의 AI를 통합하고 있다. 아마도 그것은 오디오와 비디오 품질을 최적화하거나, 사람들을 같은 가상 공간에 배치하는 것이다. 이제, 생성적 AI 기반 비디오 회의는 자동으로 회의록을 생성하거나 회의 중에 논의되는 다양한 주제에 대한 관련 정보를 실시간으로 가져올 수 있다.

그러나, 스마트 카나 비디오 회의 시스템, 또는 기타 에지 장치가 클라우드에 연결할 수 없으면, 생성적 AI 경험은 발생할 수 없다. 그러나, 그것들이 클라우드에 연결할 필요가 없다면? 그것은 엄청난 클라우드 AI 처리를 고려하면 어려운 작업으로听起来하지만, 이제는 가능해지고 있다.

에지에서 생성적 AI

이미, 자동으로 풍부한 프레젠테이션을 생성할 수 있는 생성적 AI 도구가 있다. 그러나, 사용자는 시스템이 인터넷 연결 없이 어디서나 작동하도록 필요로 한다.

또한, 우리는 이미 생성적 AI 기반 “코파일럿” 어시스턴트의 새로운 클래스를 보이고 있는데, 그것은 보고서 생성이나 데이터 시각화와 같은 많은 루틴 작업을 자동화하여 우리가 컴퓨팅 장치와 상호 작용하는 방식을 근본적으로 바꿀 것이다. 랩톱을 열면, 랩톱이 카메라를 통해 사용자를 인식한 다음, Outlook, Teams, Slack, Trello와 같은 가장 많이 사용하는 도구를 기반으로 하루/주/월의 과정을 자동으로 생성한다고 상상해 보라. 그러나, 데이터 개인 정보 보호와 良好한 사용자 경험을 유지하려면, 생성적 AI를 로컬에서 실행하는 옵션이 필요하다.

에지 AI는 불안정한 연결과 데이터 개인 정보 보호의 도전에 대처하는 데 도움이 될 수 있다. 또한, 대역폭 요구를 줄이고 응용 프로그램 성능을 향상하는 데 도움이 될 수 있다. 예를 들어, 생성적 AI 응용 프로그램이 클라우드를 통해 데이터가 풍부한 콘텐츠를 생성하는 경우, 프로세스는 사용 가능한 대역폭(및 비용)에 따라 지연될 수 있다. 또한, 보안, 로봇 공학, 의료와 같은 특정 유형의 생성적 AI 응용 프로그램은 클라우드 연결이 처리할 수 없는 높은 성능, 낮은 지연 시간 응답이 필요하다.

비디오 보안에서, 네트워크에 연결할 수 없는 카메라에서 사람을 재식별하는 능력은 실제 카메라에서 데이터 모델과 AI 처리가 필요하다. 이 경우, 생성적 AI는 간단한 질의를 통해 카메라가 볼 수 있는 것을 자동으로 설명하는 데 적용될 수 있다 — 예를 들어, “8세 아이와 빨간 셔츠, 베이스볼 캡을 찾으세요.”

그것이 에지에서 생성적 AI이다.

에지 AI의 발전

新的 AI 프로세서 클래스의 채택과 더 효율적인 생성적 AI 데이터 모델의 개발을 통해, 에지 장치는 클라우드 연결이 불가능하거나 바람직하지 않은 곳에서 지능적으로 작동하도록 설계될 수 있다.

물론, 클라우드 처리는 생성적 AI의 중요한 구성 요소로 남을 것이다. 예를 들어, AI 모델 훈련은 클라우드에서 남을 것이다. 그러나, 사용자 입력을 모델에 적용하는 과정, 즉 추론은 에지에서 발생할 수 있다.

이미, 산업은 더 작고, 더 효율적인 AI 모델을 개발하고 있는데, 이러한 모델은 에지 장치에 로드될 수 있다. Hailo와 같은 회사는 신경망 처리를 위해 특별히 설계된 AI 프로세서를 제조한다. 이러한 신경망 프로세서는 не仅 신경망 모델을 매우 빠르게 처리할 수 있지만, 또한 에너지 효율성을 제공하여 다양한 에지 장치에 적합하다 — 스마트폰에서 카메라까지.

에지에서 생성적 AI를 처리하면, 또한 부하를 균형있게 분산시키고, 응용 프로그램을 더 안정적으로 확장시키고, 클라우드 데이터 센터의 비싼 처리를 줄이고, 그들의 탄소 발자국을 줄이는 데 도움이 될 수 있다.

생성적 AI는 다시 한번 컴퓨팅을 바꿀 준비가 되어 있다. 미래에는, 랩톱의 LLM은 현재의 OS와 같은 방식으로 자동으로 업데이트될 수 있다 — 그리고 비슷한 방식으로 작동할 수 있다. 그러나, 그곳에 도달하기 위해서는, 우리는 에지에서 생성적 AI 처리를 ermög해야 한다. 결과는 더 나은 성능, 에너지 효율성, 개인 정보 보호, 및 보안을 약속한다. 모두가 생성적 AI 자체만큼 세계를 바꾸는 AI 응용 프로그램으로 이어진다.