인텔, 친환경 AI 발전을 위한 최대 뉴로모픽 시스템 개발

인텔은 최근 세계 최대의 뉴로모픽 시스템인 Hala Point의 개발을 발표하여 보다 지속 가능하고 효율적인 인공 지능을 향한 중요한 발걸음을 내디뎠습니다. 처음에 Sandia National Laboratories에 배포된 Hala Point는 Intel의 고급 기술을 사용합니다. 로이히 2 프로세서는 이전 제품의 성공을 바탕으로 구축되었습니다. 포호이키 스프링스, 아키텍처에 상당한 개선을 제공합니다. 이러한 향상으로 뉴런 용량은 10배 이상, 성능은 최대 12배 향상됩니다.

“오늘날 AI 모델의 컴퓨팅 비용은 지속 불가능한 속도로 증가하고 있습니다. 업계에는 확장이 가능한 근본적으로 새로운 접근 방식이 필요합니다. 그래서 우리는 다음과 같은 기능을 결합한 Hala Point를 개발했습니다. 깊은 학습 효율성 새로운 두뇌 영감 학습 및 최적화 기능. Hala Point와의 연구가 대규모 AI 기술의 효율성과 적응성을 향상시킬 수 있기를 바랍니다.”라고 Neuromorphic Computing Lab 소장인 Mike Davies는 말했습니다. 인텔 연구소.

Hala Point는 주류 AI 워크로드에서 최첨단 계산 효율성을 입증할 수 있는 최초의 대규모 뉴로모픽 시스템이라는 점에서 차별화됩니다. 초당 최대 20조 작업, 즉 20페타옵스를 지원할 수 있으며, 기존 심층 신경망을 실행할 때 15조 TOPS/W(초당 8비트 작업)를 초과하는 전례 없는 효율성을 제공합니다.

연구원 샌디 아 국립 연구소 장치 물리학, 컴퓨터 아키텍처, 정보학과 같은 다양한 영역에 걸쳐 과학적 컴퓨팅 문제에 초점을 맞춘 첨단 두뇌 규모 컴퓨팅 연구에 Hala Point를 사용할 예정입니다. “Hala Point와 협력함으로써 Sandia 팀의 계산 및 과학 모델링 문제 해결 능력이 향상되었습니다. 이 정도 규모의 시스템으로 연구를 수행하면 상업에서 국방, 기초 과학에 이르기까지 다양한 분야에서 AI의 진화에 보조를 맞출 수 있을 것입니다.”라고 Sandia National Laboratories의 Hala Point 팀장인 Craig Vineyard가 말했습니다.

Hala Point는 연구 프로토타입으로 남아 있지만 Intel은 이 수업을 통해 미래 상용 시스템의 기능이 크게 향상되어 특히 대규모 언어 모델이 새로운 데이터로부터 지속적으로 학습할 수 있도록 하고 AI 배포에 따른 교육 부담을 줄일 수 있을 것으로 예상합니다.

점점 더 큰 딥 러닝 모델의 추진으로 인해 AI 내에서 중요한 지속 가능성 문제가 노출되어 하드웨어 아키텍처의 기본 수준에서 혁신이 필요해졌습니다. 신경과학에서 영감을 얻은 뉴로모픽 컴퓨팅은 고도의 병렬 프레임워크 내에서 메모리와 컴퓨팅을 통합하여 데이터 이동을 최소화합니다. 이 접근 방식은 이번 달 국제 음향, 음성 및 신호 처리 회의(ICASSP)에서 Loihi 2의 성능이 입증한 것처럼 효율성, 속도 및 적응성 면에서 놀라운 향상을 보여주었습니다.

Hala Point는 1,152개의 Loihi 2 프로세서를 통합하고 1.15랙 유닛 데이터 센터 섀시 내에서 128개 이상의 뉴로모픽 처리 코어에 분산된 최대 140,544억 XNUMX천만 개의 뉴런과 XNUMX억 개의 시냅스를 지원합니다. 대규모 병렬 패브릭은 상당한 메모리 대역폭과 통신 속도를 제공하여 생체 영감 스파이크 신경망 모델을 위한 강력한 기반을 제공합니다.

Hala Point와 같은 Intel의 지속적인 뉴로모픽 시스템 개발은 현재 AI의 실제 배포를 제한하는 전력 및 대기 시간 제약을 해결하는 것을 목표로 합니다. Intel Neuromorphic Research Community(INRC)의 지속적인 협력을 통해 Intel은 뇌에서 영감을 얻은 이 기술을 연구 프로토타입에서 상용 제품으로 발전시키기 위해 최선을 다하고 있습니다.