Intel phát triển hệ thống mô phỏng thần kinh lớn nhất cho những tiến bộ AI thân thiện với môi trường

Intel gần đây đã công bố việc tạo ra Hala Point, hệ thống mô phỏng thần kinh lớn nhất thế giới, đánh dấu một bước quan trọng hướng tới trí tuệ nhân tạo bền vững và hiệu quả hơn. Được triển khai ban đầu tại Phòng thí nghiệm quốc gia Sandia, Hala Point sử dụng công nghệ tiên tiến của Intel Lợihi 2 bộ xử lý và xây dựng trên sự thành công của người tiền nhiệm của nó, Suối Pohoiki, bằng cách cung cấp những cải tiến đáng kể trong kiến ​​trúc. Sự cải tiến này giúp tăng công suất tế bào thần kinh lên hơn 10 lần và hiệu suất lên tới 12 lần.

“Chi phí tính toán của các mô hình AI ngày nay đang tăng với tốc độ không bền vững. Ngành công nghiệp này cần những cách tiếp cận mới về cơ bản có khả năng mở rộng quy mô. Vì lý do đó, chúng tôi đã phát triển Hala Point, kết hợp học kĩ càng hiệu quả với học tập lấy cảm hứng từ bộ não mới lạ và khả năng tối ưu hóa. Chúng tôi hy vọng rằng nghiên cứu với Hala Point sẽ nâng cao hiệu quả và khả năng thích ứng của công nghệ AI quy mô lớn”, Mike Davies, giám đốc Phòng thí nghiệm điện toán hình thái thần kinh tại Phòng thí nghiệm Intel.

Hala Point nổi bật nhờ là hệ thống biến đổi thần kinh quy mô lớn đầu tiên có khả năng chứng minh hiệu quả tính toán tiên tiến trên khối lượng công việc AI chính thống. Nó có thể hỗ trợ tới 20 triệu triệu hoạt động mỗi giây, hoặc 20 petaops, và mang lại hiệu suất chưa từng có vượt quá 15 nghìn tỷ hoạt động 8 bit mỗi giây trên mỗi watt (TOPS/W) khi thực hiện các mạng nơ-ron sâu thông thường.

Các nhà nghiên cứu tại Phòng thí nghiệm quốc gia Sandia sẽ sử dụng Hala Point cho nghiên cứu điện toán quy mô não tiên tiến, tập trung vào các vấn đề tính toán khoa học trên nhiều lĩnh vực khác nhau như vật lý thiết bị, kiến ​​trúc máy tính và tin học. “Làm việc với Hala Point giúp cải thiện khả năng của nhóm Sandia trong việc giải quyết các vấn đề về mô hình tính toán và khoa học. Tiến hành nghiên cứu với hệ thống có quy mô này sẽ cho phép chúng tôi theo kịp sự phát triển của AI trong các lĩnh vực từ thương mại, quốc phòng đến khoa học cơ bản”, Craig Vineyard, trưởng nhóm Hala Point tại Phòng thí nghiệm quốc gia Sandia cho biết.

Mặc dù Hala Point vẫn là nguyên mẫu nghiên cứu nhưng Intel hình dung các bài học của nó sẽ nâng cao đáng kể khả năng của các hệ thống thương mại trong tương lai, đặc biệt là cho phép các mô hình ngôn ngữ lớn học liên tục từ dữ liệu mới và giảm gánh nặng đào tạo khi triển khai AI.

Động lực cho các mô hình học sâu ngày càng lớn đã đặt ra những thách thức đáng kể về tính bền vững trong AI, đòi hỏi phải đổi mới ở cấp độ cơ bản của kiến ​​trúc phần cứng. Điện toán mô phỏng thần kinh, lấy cảm hứng từ khoa học thần kinh, tích hợp bộ nhớ và điện toán trong một khuôn khổ song song cao độ để giảm thiểu chuyển động dữ liệu. Cách tiếp cận này đã chứng tỏ những thành tựu đáng chú ý về hiệu quả, tốc độ và khả năng thích ứng, bằng chứng là hiệu suất của Loihi 2 tại Hội nghị quốc tế về Âm học, Lời nói và Xử lý Tín hiệu (ICASSP) tháng này.

Hala Point tích hợp 1,152 bộ xử lý Loihi 2 và hỗ trợ lên tới 1.15 tỷ nơ-ron và 128 tỷ khớp thần kinh, được phân phối trên 140,544 lõi xử lý mô phỏng thần kinh, trong khung trung tâm dữ liệu sáu giá đỡ. Cấu trúc song song ồ ạt của nó cung cấp băng thông bộ nhớ và tốc độ liên lạc đáng kể, cung cấp nền tảng vững chắc cho các mô hình mạng thần kinh tăng tốc lấy cảm hứng từ sinh học.

Sự phát triển liên tục của Intel đối với các hệ thống mô phỏng thần kinh như Hala Point nhằm mục đích giải quyết các hạn chế về năng lượng và độ trễ hiện đang hạn chế việc triển khai AI trong thế giới thực. Với sự hợp tác liên tục của Cộng đồng nghiên cứu hình thái thần kinh Intel (INRC), Intel cam kết phát triển công nghệ lấy cảm hứng từ não bộ này từ các nguyên mẫu nghiên cứu đến các sản phẩm thương mại.