에너지 효율적인 AI: 신경형 컴퓨터와의 새로운 시작

인공 지능(AI)의 빠르게 성장하는 영역은 성능으로 유명하지만 상당한 에너지 비용을 초래합니다. 에르랑겐의 막스 플랑크 광학 과학 연구소의 두 명의 선도 과학자가 제안한 새로운 접근 방식은 AI를 더 효율적으로 훈련시키는 것을 목표로 하며, 이는 데이터를 처리하는 방식을 혁신적으로 변화시킬 수 있습니다.

현재의 AI 모델은 훈련 중에大量의 에너지를 소비합니다. 정확한 숫자는 알기 어렵지만, 스타티스타의 추정에 따르면 GPT-3의 훈련에는 약 1000메가와트 시가 필요합니다. 이는 200개의 중형 독일 가구의 1년 소비량에 해당합니다. 이 에너지 집약적인 훈련은 GPT-3가 단어 시퀀스를 예측하는 데 미세하게 조정되었지만, 이러한 구문의 내재된 의미를 이해하지 못했다는 것이 합의된 바입니다.

신경형 컴퓨팅: 뇌와 기계의 융합

従来의 AI 시스템은 디지털 인공 신경망에 의존하지만, 미래는 신경형 컴퓨팅에 있을 수 있습니다. 플로리안 마르쿠아르트(Florian Marquardt), 막스 플랑크 연구소의 소장 및 에르랑겐 대학의 교수는 전통적인 AI 설정의 단점을 설명했습니다.

“프로세서와 메모리 간의 데이터 전송만으로도 상당한 양의 에너지를 소비합니다”라고 마르쿠아르트는 강조하며, 광범위한 신경망을 훈련하는 경우의 비효율성을 지적했습니다.

신경형 컴퓨팅은 인간의 뇌에서 영감을 얻어 데이터를 병렬로 처리하는 반면, 순차적으로 처리합니다. 본질적으로, 뇌의 시냅스는 프로세서와 메모리 모두로 작동합니다. 이러한 특성을 모방하는 시스템, 예를 들어 빛을 사용하여 계산을 수행하는 광학 회로는 현재 연구 중입니다.

자체 학습 물리적 기계를 사용한 AI 훈련

마르쿠아르트는 박사 과정 학생인 비كتور 로페즈 파스토르(Víctor López-Pastor)와 함께 신경형 컴퓨터를 위한 혁신적인 훈련 방법을 소개했습니다. 그들의 “자체 학습 물리적 기계”는 본질적으로 내재된 물리적 과정으로 매개변수를 최적화하여 외부 피드백이 불필요해집니다. “이 피드백이 필요하지 않아 훈련이 훨씬 더 효율적”이라고 마르쿠아르트는 강조하며, 이 방법이 에너지와 컴퓨팅 시간을 모두 절약할 것이라고 제안했습니다.

그러나 이 획기적인 기술에는 특정 요구 사항이 있습니다. 이 과정은 반드시 가역적이어야 하며, 에너지 손실을 최소화해야 하며, 충분히 복잡하거나 비선형이어야 합니다. “비선형 과정만이 입력 데이터와 결과 간의 복잡한 변환을 수행할 수 있습니다”라고 마르쿠아르트는 말하며, 선형 및 비선형 동작 간의 차이를 강조했습니다.

실제 구현으로의 전진

이 두人的 이론적 기초는 실제 적용과 일치합니다. 실험 팀과 협력하여, 그들은 초음파 신경형 컴퓨터를 개발 중이며, 이는 중첩된 빛의 파장을 사용하여 정보를 처리합니다. 그들의 목표는 분명합니다. 자체 학습 물리적 기계 개념을 구현하는 것입니다.

“우리는 3년 내에 첫 번째 자체 학습 물리적 기계를 제시하기를 희망합니다”라고 마르쿠아르트는 예상하며, 이러한 미래의 네트워크는 현재 시스템보다 더 많은 데이터를 처리하고 더 큰 데이터 세트로 훈련될 것이라고 나타났습니다. AI의 요구가 증가하고 현재 설정의 내재된 비효율성으로 인해, 효율적으로 훈련된 신경형 컴퓨터로의 전환은 불가피하고 약속된 것으로 보입니다.

마르쿠아르트의 말에 따르면, “우리는 자체 학습 물리적 기계가 인공 지능의 지속적인 발전에 있어 견고한 기회를 가지고 있다고 확신합니다.” 과학 커뮤니티와 AI 애호가들은 모두 미래가 무엇을 안겨줄지 기대와 함께 기다리고 있습니다.