Làm thế nào các thành phố triển khai các công nghệ hàng đầu bằng cách tận dụng các thuật toán AI không thiên vị

Ngày nay, gần như mọi khía cạnh của cuộc sống chúng ta đều liên quan đến một phần của mạng trực tuyến. Mặc dù điều này chắc chắn đã cải thiện nhiều lĩnh vực của cuộc sống, chẳng hạn như cách chúng ta đi lại với các thiết bị cầm tay có thể cung cấp thông tin cho chúng ta tại bất kỳ thời điểm nào, nhưng nó cũng đặt ra một số rủi ro.

Những rủi ro này vượt ra ngoài việc hack truyền thống và vi phạm dữ liệu vào tài khoản ngân hàng của chúng ta, ví dụ. Hơn thế, những gì tôi đang đề cập ở đây là có rất nhiều phần của cuộc sống ngày nay bị ảnh hưởng bởi các thuật toán được sử dụng bởi trí tuệ nhân tạo (AI). Chúng ta giả định rằng AI này vốn tận dụng các thuật toán vì lợi ích tốt nhất của chúng ta. Tuy nhiên, điều gì xảy ra khi loại thiên vị sai lầm xâm nhập vào các thuật toán này? Làm thế nào điều đó có thể ảnh hưởng đến một số kết quả?

Điều gì xảy ra khi các thuật toán thiên vị xâm nhập vào hệ thống AI?

Để đưa ra một ví dụ khác, trên YouTube, một thuật toán AI đề xuất gần 70% tất cả các video, và trên các nền tảng truyền thông xã hội như Instagram và TikTok, tỷ lệ này thậm chí còn cao hơn. Mặc dù các thuật toán AI này có thể giúp người dùng tìm kiếm nội dung mà họ quan tâm, nhưng chúng đặt ra các vấn đề nghiêm trọng về quyền riêng tư, và có bằng chứng ngày càng tăng rằng một số nội dung được đề xuất mà người dùng tiêu thụ trực tuyến thậm chí còn nguy hiểm do thông tin sai lệch hoặc có thể chứa một quan điểm nhất định được thiết kế để ảnh hưởng đến suy nghĩ hoặc niềm tin chính trị của một người.

Sự tạo ra một AI toàn diện, thích ứng là một nỗ lực kỹ thuật và xã hội đầy thách thức, nhưng một trong những ý nghĩa quan trọng nhất.

Điều dễ hiểu là AI có thể có tác động tiêu cực đến các chuẩn mực xã hội và mô hình sử dụng trực tuyến trong khi cũng tập trung vào các hiệu ứng tích cực của công nghệ. Các nguồn trực tuyến có ảnh hưởng đáng kể đến xã hội của chúng ta, và các thiên vị trong các thuật toán trực tuyến sẽ vô tình tạo ra sự bất công, định hình niềm tin của người dân, lan truyền thông tin sai lệch và tạo ra xung đột giữa các nhóm khác nhau.

Đây là nơi “AI xấu” có thể có những hậu quả thực sự đáng kể liên quan đến các thiên vị không mong muốn và/hoặc không công bằng.

Làm thế nào AI thiên vị có thể ảnh hưởng tiêu cực đến các điểm giao thông

Hãy lấy các điểm giao thông, như một ví dụ thực tế hơn. Thời gian chờ đợi lâu tại đèn tín hiệu giao thông đang trở thành một điều của quá khứ nhờ vào các công nghệ AI mới được triển khai trên thị trường khắp cả nước. Các giải pháp Ưu tiên Giao thông này tận dụng dữ liệu giao thông thời gian thực và điều chỉnh đèn để bù cho các mẫu giao thông thay đổi, giữ cho giao thông lưu thông và giảm ùn tắc.

Các hệ thống sử dụng học sâu, nơi một chương trình hiểu khi nó không hoạt động tốt và thử một hành động khác – hoặc tiếp tục cải thiện khi nó đạt tiến bộ.

Nghe có vẻ như một ý tưởng tuyệt vời, phải không? Điều gì xảy ra nếu, theo thời gian, các thuật toán AI được nhúng trong công nghệ cảm biến giao thông bắt đầu ưu tiên các phương tiện đắt tiền hơn so với các phương tiện khác, dựa trên các thuật toán thiên vị được thiết kế để nhận ra rằng những người lái một loại phương tiện nhất định xứng đáng được ưu tiên so với những người khác?

Đây là nơi “AI xấu” có thể ảnh hưởng tiêu cực đến một phần rất quan trọng của cuộc sống chúng ta.

Hãy lấy ví dụ, các hệ thống Ưu tiên Giao thông này là một phần của Hệ thống Giao thông Thông minh (ITS) lớn hơn, tận dụng sức mạnh của công nghệ phương tiện kết nối. Các hệ thống ITS chỉ tốt như các nền tảng chia sẻ dữ liệu dựa trên đám mây trung lập mà chúng hoạt động, và không phải tất cả đều được tạo ra như nhau.

Loại bỏ thiên vị trong các thuật toán AI

Các nền tảng chia sẻ dữ liệu này đã được chứng minh là rất hiệu quả, nhưng chỉ khi các thành phố và chính quyền địa phương giám sát các hệ thống giao thông làm cho chúng mở cho việc chia sẻ dữ liệu phù hợp, nơi các thuật toán thiên vị không được phép tham gia. Thật không may, nhiều chính quyền địa phương vẫn bị ràng buộc bởi các hợp đồng với các nhà cung cấp thiết bị và thiết bị tuyên bố hoạt động dưới “kiến trúc mở” nhưng không sẵn sàng làm việc dưới một nền tảng dữ liệu mở, và các thành phố này hạn chế nghiêm trọng mình khỏi những khả năng thực sự mà một nền tảng dựa trên đám mây có thể cung cấp.

Các hệ thống Ưu tiên Giao thông dựa trên đám mây xem xét bức tranh toàn cầu của một hệ thống và sử dụng học máy tập trung vào dữ liệu không thiên vị để dự đoán thời điểm tối ưu để cấp đèn xanh cho các phương tiện giao thông đúng lúc. Nó tối thiểu hóa sự can thiệp vào các tuyến đường giao nhau và đồng thời tối đa hóa khả năng lái xe liên tục. Quan trọng hơn, nền tảng dựa trên đám mây trung lập đảm bảo rằng các thành phố tận dụng một hệ thống cập nhật liên tục để tối đa hóa tiềm năng giao thông, mà không có thiên vị từ các nguồn không mong muốn.

Với công nghệ này hiện đã sẵn sàng, các thành phố, nhà phát triển và chính quyền địa phương có công nghệ họ cần để đẩy nhanh việc xây dựng các mạng lưới giao thông thông minh để mang lại lợi ích cho mọi người trong khu vực, một cách công bằng và bình đẳng.

Các khu vực như Thành phố San José đang tận dụng lợi ích của AI để cải thiện việc cung cấp dịch vụ cho cư dân của mình. Khi Thành phố ngày càng sử dụng các công cụ AI, điều quan trọng hơn bao giờ hết là đảm bảo rằng những hệ thống AI này hiệu quả và đáng tin cậy. Bằng cách xem xét các thuật toán được sử dụng trong các công cụ của mình, Văn phòng Quyền riêng tư Kỹ thuật số (DPO) đảm bảo rằng công nghệ AI của Thành phố hoạt động chính xác, giảm thiểu thiên vị và đáng tin cậy. Khi một bộ phận của Thành phố muốn mua một công cụ AI, DPO tuân theo các quy trình xem xét cụ thể để đánh giá lợi ích và rủi ro của bất kỳ hệ thống AI nào.

Đối với khu vực này, chúng tôi tự hào tham gia cùng các công ty như Google là một trong số ít nhà cung cấp AI được phê duyệt để tham gia vào việc triển khai công nghệ trên toàn thành phố vì các thuật toán không thiên vị. Khi các công nghệ AI tiếp tục được phát triển, điều quan trọng là phải đảm bảo rằng chúng được xây dựng mà không có các thuật toán thiên vị cho lợi ích của việc sử dụng dịch vụ đô thị địa phương một cách công bằng và bình đẳng.