Rào cản năng lượng AI tiếp theo sẽ nằm trong các thành phố

Trong vài năm qua, và vẫn tiếp tục, thị trường hạ tầng AI đã tiêu tốn một lượng thời gian và tiền bạc đáng kể (gần $7 nghìn tỷ đầu tư trung tâm dữ liệu đến năm 2030, theo ước tính của McKinsey) để học cách xây dựng các trung tâm dữ liệu lớn ở bất cứ nơi nào có nguồn điện. “Bất cứ nơi nào” là từ khóa vì vị trí trước đây không quan trọng. Một cụm đào tạo chỉ cần có đủ điện. Nhưng vị trí đang trở nên ngày càng quan trọng khi việc sử dụng AI mở rộng ra ngoài giao diện trò chuyện sang máy móc, hệ thống giọng nói, video và các ứng dụng tương tác với thế giới vật lý. Những hoạt động này đòi hỏi sức mạnh tính toán phải gần hơn các trung tâm đô thị nơi các tương tác diễn ra để giảm độ trễ. Trong khi các công cụ như chatbot có thể chịu được độ trễ nửa giây, các ứng dụng dịch vụ tự động như robot giao hàng được giám sát từ xa, trợ lý giọng nói trực tiếp hoặc hệ thống thực hiện tự động có thể cần phản hồi trong vòng vài mili giây.

Đây là thách thức mới cho các công ty AI. Làm sao tìm được các khối năng lượng đáng tin cậy, nhỏ hơn, trong và quanh các khu đô thị lớn? Và ngay cả khi đã xác định được vị trí, làm sao đối phó với phản ứng tiêu cực mà ngay cả các trung tâm dữ liệu từ xa đang phải đối mặt?

Nhu cầu AI ở các trung tâm đô thị đang tăng lên

Có một nhu cầu ngày càng tăng trong không gian đô thị đối với AI vượt ra ngoài việc sử dụng cá nhân các chatbot hoặc bất kỳ ám ảnh nào về robot. Một IMF working paper ước tính rằng tiêu thụ điện năng từ các trung tâm dữ liệu và AI đã đạt 400–500 TWh toàn cầu vào năm 2023, và tiêu thụ do AI gây ra có thể lên tới 1.500 TWh vào năm 2030. Tự động hoá cần thiết để làm cho các hoạt động đơn giản trở nên hiệu quả hơn — dù là xử lý giấy tờ hay lưu trữ video — đòi hỏi một lượng lớn năng lượng ở quy mô lớn.

Các thành phố đang đứng ở vị trí tiên phong, như được thấy trong một báo cáo của OECD về 250 thành phố trên 78 quốc gia. Báo cáo cho thấy 56% đã sử dụng AI một cách tích cực, trong khi 35% còn lại đang thí điểm hoặc lên kế hoạch triển khai. Để minh họa một trường hợp sử dụng đơn giản, hãy xem xét các camera giám sát trong thành phố. IHS Markit ước tính vài năm trước rằng số lượng camera giám sát trên toàn cầu sẽ vượt qua một tỷ. Mặc dù chúng chủ yếu được dùng để ghi hình, nhưng hiện nay chúng cũng được sử dụng cho các công việc đòi hỏi tính toán cao hơn, ví dụ như theo dõi đối tượng qua mạng lưới, hoặc tìm kiếm trong các kho video lớn bằng ngôn ngữ tự nhiên. Những quy trình này không thể thực hiện trên mỗi camera với công nghệ AI hiện tại. Nếu phải gửi dữ liệu ra khỏi thành phố tới một trung tâm dữ liệu xa xôi để xử lý, điều đó không thực tế do các quy định dữ liệu và chi phí di chuyển khối lượng lưu lượng lớn.

Một khảo sát gần đây của Gallup cho thấy khoảng 30% nhân viên khu vực tư nhân và công cộng sử dụng AI trong công việc và con số này đang tăng. Các lĩnh vực này — dù là ngân hàng, bệnh viện hay tổ chức công cộng — đều gặp phải những vấn đề tương tự. Họ muốn cơ sở hạ tầng AI trong phạm vi quyền tài phán của mình và đủ gần để kiểm soát. Các hệ thống giọng nói tương tác và ứng dụng video của họ suy giảm khi độ trễ mạng tăng. Ngay cả khi vấn đề có thể được tạm thời giải quyết bằng cách giữ một người vận hành cho thế hệ đầu tiên của các hệ thống tự động, việc giám sát này vẫn không chịu được độ trễ lớn. Ví dụ, robot giao hàng và robot gia đình được giám sát qua kết nối video yêu cầu vòng truyền thông phải duy trì dưới khoảng 80 mili giây theo một nghiên cứu điều khiển robot từ xa. Ngược lại, xe tự lái là ngoại lệ: việc lái xe được thực hiện trên bo mạch vì lý do an toàn, và các nhà vận hành từ xa của Waymo làm việc với độ trễ một phần tư giây, một số còn từ lục địa khác. Những gì thành phố nhận được từ các đội xe tự động là dữ liệu, không phải vô-lăng.

Thị trường trung tâm dữ liệu đang đánh giá thấp sự bùng nổ nhu cầu này. World Bank đã công bố một báo cáo cho thấy các đô thị ở các quốc gia như Argentina, Ấn Độ và Ethiopia, cùng nhiều nước khác, đã áp dụng AI trong các lĩnh vực công lý, chống tham nhũng, hải quan, quản lý công và cải thiện dịch vụ. Đây không phải là hiện tượng địa phương. Đó là một cuộc chuyển đổi toàn cầu. Tại Teravolt, ước tính của chúng tôi là một khu vực đô thị từ 10 đến 15 triệu dân có thể hỗ trợ khoảng 6 đến 13 MW tải AI nhạy cảm với độ trễ liên tục vào năm 2030, trước khi robot đa năng được triển khai rộng rãi. Có thể nói, con số này không lớn so với tiêu chuẩn hyperscale, nhưng việc tìm được vị trí phù hợp khó hơn nhiều so với vẻ bề ngoài. Đến năm 2036, cùng khu vực đô thị này sẽ tăng lên 22 đến 50 MW tải nhạy cảm với độ trễ — và lên 60 đến 100 MW nếu ngành công nghiệp ô tô bắt đầu sản xuất robot ở quy mô ô tô. Kinh tế nhu cầu không khoan nhượng: vài trăm đô la mỗi năm cho chi phí máy chủ trên một thiết bị thay thế $30,000 đến $60,000 lao động là nhu cầu không thương lượng về giá.

Thêm một tầng thứ tư vào tính toán

Hiện nay, sức mạnh tính toán cho AI tồn tại ở ba cấp độ. Lớp trên cùng bao gồm các gigafactory dùng để đào tạo mô hình. Vị trí của chúng chỉ quan trọng đối với các nhà phát triển ở mức đảm bảo nguồn điện lớn với giá chấp nhận được. Tiếp theo là các cơ sở AI khu vực, thường từ 20 đến 200 MW, nơi phần lớn nhu cầu suy luận lặp lại trong các hoạt động đám mây và doanh nghiệp lớn diễn ra. Cuối cùng, chúng ta có sức mạnh tính toán được nhúng trực tiếp trong thiết bị hoặc robot.

Có vẻ như có một khoảng trống giữa hai lớp cuối cùng mà tôi gọi là lớp đô thị — khoảng trống chịu trách nhiệm cho các vấn đề độ trễ. Những cơ sở này cần được đặt bên trong hoặc rất gần các thành phố lớn. Chúng cần có công suất đo bằng hàng chục megawatt đơn vị hoặc đôi chục megawatt thấp, đồng thời được đặt trong khu vực đô thị và kết nối với cáp quang chất lượng cao. Điểm khởi đầu có thể vào khoảng 2 MW nếu địa điểm có nguồn điện được đảm bảo. Để minh họa tính thực tiễn, hãy xem xét một robot giao hàng. Nó xử lý các yêu cầu khác nhau và không phải tất cả đều có thể được xử lý trên thiết bị hiện tại. Trong khi nó được đào tạo tại gigafactory, sự hỗ trợ thời gian thực tiên tiến hơn sẽ cần được xử lý bởi một cơ sở đô thị lân cận thay vì gửi nó tới một cơ sở khu vực mỗi lần.

Vấn đề lưu lượng hai chiều

Các trung tâm dữ liệu đô thị sẽ không chỉ là các điểm trung gian nhận dữ liệu từ các trung tâm đào tạo, mà còn sẽ tạo ra lượng lớn dữ liệu để gửi ngược lại lên chuỗi xử lý.

Mỗi máy tự động và hệ thống giàu cảm biến sẽ tích lũy thông tin cần được xử lý và gửi trở lại để tích hợp vào quá trình đào tạo. Các đội robot trở về điểm sạc sau một ca làm việc sẽ truyền đi một lượng thông tin hữu ích khổng lồ về các trường hợp biên và hoạt động hàng ngày mà các trung tâm dữ liệu cần để cải thiện chức năng. Hãy tưởng tượng toàn bộ lưu lượng này được gửi đồng thời theo cùng một hướng. Nó sẽ tạo ra một nút thắt cổ chai. Đây cũng là lúc trung tâm dữ liệu đô thị trở nên hữu ích vì nó có thể xử lý một phần tải trước khi nó làm quá tải cơ sở tính toán khu vực. Nó có thể xác định và loại bỏ một số dữ liệu sai lệch trong khi nén và chuyển tiếp các phần hữu ích.

Về cơ bản, trung tâm dữ liệu đô thị cung cấp một lớp lọc bổ sung cho hai lớp trước đó, làm cho luồng dữ liệu trở nên có tổ chức hơn.

Liệu tương lai có phải là một máy chủ trên mỗi khối phố không?

Mặc dù tôi đề xuất các máy chủ đô thị như một giải pháp, nhưng thực tế chúng quá tốn kém để giải quyết các vấn đề độ trễ bằng việc mở rộng không kiểm soát. Bất kể kích thước, một trung tâm dữ liệu vẫn cần kết nối lưới điện, máy biến áp, hệ thống làm mát, an ninh, mạng và nhân viên. Chi phí này không giảm tỷ lệ cùng với tải IT. Để đặt vào ngữ cảnh, một cơ sở 0,5 MW vẫn chịu nhiều cùng chi phí cố định như một cơ sở lớn hơn nhiều.

Trong các dự án của chúng tôi, chúng tôi đã thấy rằng một trung tâm dữ liệu đô thị độc lập trở nên khả thi về mặt kinh tế ở mức khoảng 5 đến 8 MW. Ngay cả khi giả định rằng một số địa điểm có thể chia sẻ trung tâm vận hành mạng, ngưỡng chỉ giảm xuống 1,5 đến 3 MW. Do đó, kết luận vẫn giống nhau. Việc chia 20 MW trải rộng trên hai mươi địa điểm thay vì hai hoặc ba địa điểm gần như không giảm độ trễ trong khu vực đô thị — vòng cáp quang của thành phố chỉ vài mili giây — trong khi tăng gấp bội vốn và chi phí vận hành.

Vì vậy, tôi tin rằng ngành công nghiệp phải giảm kích thước và xây dựng những gì tôi gọi là “trạm phụ cho trí tuệ”. Hiện nay, các nhà phát triển đang học cách xây dựng các cơ sở khu vực trong phạm vi từ 20 đến 100 MW. Mục tiêu trong tương lai là áp dụng điều đó cho các địa điểm đô thị còn nhỏ hơn nữa để đạt mức 2 MW phù hợp cho các thành phố lớn.

Rào cản Chính trị

Vượt qua tính khả thi về kinh tế, thách thức chính trị vẫn còn tồn tại. Các trung tâm dữ liệu đã trở nên được truyền thông ngày càng chỉ trích vì tác động tiêu cực đến môi trường. Theo một khảo sát của Pew, hơn một nửa người Mỹ cho rằng các trung tâm dữ liệu gây hại cho môi trường và có quan điểm tiêu cực về chúng. Lập luận về tạo việc làm trở nên mờ nhạt so với lượng nước, đất và điện tiêu thụ; cũng như tiếng ồn và khí thải phát sinh. Việc xin phê duyệt ngay cả cho các cơ sở đô thị nhỏ hơn sẽ gặp khó khăn.

Chúng ta đã thấy các ví dụ về các nhà phát triển trung tâm dữ liệu và chính quyền thành phố đang mâu thuẫn. Tại Hoa Kỳ, việc xAI sử dụng turbine khí để đẩy nhanh việc xây dựng Memphis đã dẫn đến tranh chấp giấy phép, phản đối của cộng đồng và kiện tụng. Châu Âu đã tiến xa hơn: Amsterdam áp đặt lệnh cấm đối với các cơ sở trên 70 MW, Dublin hiện chỉ cho phép các trung tâm dữ liệu mới nếu chúng tự cung cấp năng lượng hoặc lưu trữ, và trạm phụ quan trọng của hành lang Tây London sẽ không được củng cố cho đến đầu những năm 2030. Ngay cả ngoài các trường hợp nổi bật như vậy, khi đây là một lĩnh vực tranh cãi mới, nhiều cơ quan thành phố vẫn chưa có quy trình phê duyệt rõ ràng để chấp nhận thêm 10 MW hạ tầng AI trong khu vực đô thị. Như đã nêu trong báo cáo của National League of Cities, một trong những thách thức phổ biến nhất đối với các thành phố là các quy định quy hoạch địa phương cũ không đề cập rõ ràng đến trung tâm dữ liệu, dẫn đến việc xem xét từng trường hợp. Những bất định pháp lý như vậy có thể làm trì hoãn ngay cả các dự án khả thi về mặt kỹ thuật.

Các quyết định hạ tầng ngày hôm nay định hình khả năng của chúng ta cho tương lai

Tất cả những điều này nhằm nói rằng chúng ta cần lên kế hoạch và xây dựng cơ sở hạ tầng cần thiết cho các bước tiến trong AI trong tương lai. Bởi vì trong khi các mô hình phát triển nhanh chóng, năng lượng cần thiết để vận hành chúng phụ thuộc vào một loại cơ sở hạ tầng mất thời gian để xây dựng. Kết nối lưới điện có thể mất nhiều năm, và ở một số thị trường trung tâm dữ liệu lớn, các hàng đợi hiện đang kéo dài từ bảy đến mười năm. Vì vậy, nếu các thành phố đang tăng cường công suất tính toán AI đến năm 2030, cơ sở hạ tầng điện lực đó cần được thiết lập ngay bây giờ. Tại Teravolt, mô hình làm việc của chúng tôi ước tính nhu cầu AI đô thị toàn cầu ở mức 9 đến 18 GW vào năm 2036. Điều này ngụ ý khoảng 1.000 đến 1.500 địa điểm đô thị và siêu đô thị quan trọng trên toàn thế giới, tùy thuộc vào kích thước trung bình của cơ sở, và tổng cộng có thể đại diện cho một thị trường trị giá khoảng 500 tỷ đến 1 nghìn tỷ đô la.

Nếu không thực hiện kế hoạch cần thiết, chúng ta sẽ bị kẹt với khả năng AI tiên tiến mà không thể khai thác. Thời đại di động cần có cơ sở hạ tầng các tháp truyền sóng để phủ sóng radio theo người; nếu không, điện thoại di động sẽ trở nên vô nghĩa. Tương tự, chúng ta phải nhận ra sự không khớp giữa sự tiến hóa của AI và việc lắp đặt cơ sở hạ tầng điện. Khi thời đại di động đo lường độ phủ bằng các thanh tín hiệu, thời đại AI sẽ đo lường bằng mili giây và watt trên mỗi cư dân — và nó sẽ không cần hàng triệu tháp, mà khoảng một nghìn cơ sở có kích thước bằng một trạm biến áp. Sợi quang, mili giây và megawatt là đơn vị tiền tệ trong lĩnh vực này và những người nhận ra sự khan hiếm này từ trước sẽ có lợi thế hơn trong việc định hình tương lai.