인텔, 에코 프렌들리 AI 발전에 대규모 신경형 시스템 개발

인텔은 최근 세계 최대의 신경형 시스템인 Hala Point를 개발했으며, 이는 보다 지속 가능하고 효율적인 인공 지능을 위한 중요한 단계입니다. 샌디아 국립 연구소에서 처음 배치된 Hala Point는 인텔의 최신 Loihi 2 프로세서를 사용하며, 이전 버전인 Pohoiki Springs의 성공을 바탕으로 아키텍처를 크게 개선했습니다. 이 향상은 뉴런 용량을 10배 이상 증가시키고 성능을 최대 12배까지 높입니다.

“오늘날의 AI 모델의 컴퓨팅 비용은 지속 불가능한 속도로 증가하고 있습니다. 산업은 확장할 수 있는 근본적으로 새로운 접근 방식을 필요로 합니다. 이러한 이유로 우리는 Hala Point를 개발했으며, 이는 딥 러닝 효율성을 신경망 기반 학습 및 최적화 기능과 결합합니다. 우리는 Hala Point와의 연구가 대규모 AI 기술의 효율성과 적응성을 향상시킬 수 있기를 바랍니다”라고 인텔 랩스의 신경형 컴퓨팅 연구소 소장인 마이크 데이비스는 말했습니다.

Hala Point는 주류 AI 워크로드에서 최첨단 계산 효율성을 보여주는 최초의 대규모 신경형 시스템으로, 최대 20쿼드릴리언 연산을 수행할 수 있으며, 20 페타옵스와 함께 15트릴리언 8비트 연산을 초과하는 비전통적인 딥 뉴럴 네트워크를 실행할 때는 1와트당 초당 연산(TOPS/W) 효율성을 제공합니다.

샌디아 국립 연구소의 연구자들은 Hala Point를 사용하여 고급 뇌 규모 컴퓨팅 연구를 수행할 예정이며, 장치 물리학, 컴퓨터 아키텍처 및 정보학을 포함한 다양한 분야의 과학적 컴퓨팅 문제에 중점을 둘 것입니다. “Hala Point와 협력하면 우리 샌디아 팀이 계산 및 과학적 모델링 문제를 해결하는 능력을 향상시킬 수 있습니다. 이러한 규모의 시스템을 사용하여 연구를 수행하면 상업, 국방 및 기본 과학을 포함한 분야에서 AI의 진화를 따라갈 수 있을 것입니다”라고 샌디아 국립 연구소의 Hala Point 팀 리더인 크레이그 바인야드는 말했습니다.

현재 Hala Point는 연구 프로토タイプ이지만, 인텔은 향후 상업용 시스템의 능력을 크게 향상시킬 것으로 기대하고 있으며, 특히 대규모 언어 모델이 새로운 데이터에서 지속적으로 학습할 수 있도록 하며, AI 배포의 훈련 부담을 줄일 수 있을 것입니다.

점점 더 큰 딥 러닝 모델을 개발하려는 노력은 AI 내에서 상당한 지속 가능성 문제를暴露시켰으며, 이는 하드웨어 아키텍처의 기본 수준에서 혁신을 필요로 합니다. 신경형 컴퓨팅은 신경과학에서 영감을 얻어 메모리와 컴퓨팅을 고도로 병렬화된 프레임워크 내에서 통합하여 데이터 이동을 최소화합니다. 이 접근 방식은 효율성, 속도 및 적응성에서 상당한 이점을 보여주었으며, 이번 달의 음성 및 신호 처리 국제 회의(ICASSP)에서 Loihi 2의 성능을 통해 입증되었습니다.

Hala Point는 1,152개의 Loihi 2 프로세서를 통합하여 최대 1.15억개의 뉴런과 128억개의 시냅스를 지원하며, 140,544개의 신경형 처리 코어를 6개의 랙 유닛 데이터 센터 샤시에 분산시킵니다. 대규모 병렬화된 패브릭은 상당한 메모리 대역폭과 통신 속도를 제공하여 생물启发형 스파이킹 신경망 모델에 강력한 기초를 제공합니다.

인텔은 Hala Point와 같은 신경형 시스템의 개발을 통해 현재 AI의 실제 배포를 제한하는 전력 및 지연 제약을 해결하려고 합니다. 인텔 신경형 연구 커뮤니티(INRC)의 지속적인 협력을 통해 인텔은 연구 프로토タイプ에서 상업용 제품으로 이 기술을 발전시키는 데 전념하고 있습니다.