Các Thành Phố Triển Khai Công Nghệ Hàng Đầu Sử Dụng Thuật Toán Trí Tuệ Nhân Tạo Không Có Sự Th偏 Vi

Hôm nay, gần như mọi khía cạnh của cuộc sống chúng ta đều liên quan đến một phần của mạng trực tuyến. Mặc dù điều này chắc chắn đã cải thiện nhiều lĩnh vực của cuộc sống, chẳng hạn như cách chúng ta đi lại với các thiết bị cầm tay có thể cung cấp thông tin cho chúng ta tại bất kỳ thời điểm nào, nhưng nó cũng đặt ra một số rủi ro.

Những rủi ro này vượt ra ngoài việc hack truyền thống và vi phạm dữ liệu vào tài khoản ngân hàng của chúng ta, chẳng hạn. Hơn thế, những gì tôi đang đề cập ở đây là có rất nhiều phần của cuộc sống ngày nay bị ảnh hưởng bởi các thuật toán được sử dụng bởi trí tuệ nhân tạo (AI). Chúng ta giả định rằng AI này vốn dĩ sử dụng các thuật toán nằm trong lợi ích tốt nhất của chúng ta. Tuy nhiên, điều gì xảy ra khi loại偏见 sai lầm xâm nhập vào các thuật toán này? Làm thế nào điều đó có thể ảnh hưởng đến một số kết quả?

Điều gì xảy ra khi các thuật toán bị偏见 xâm nhập vào hệ thống AI?

Để đưa ra một ví dụ khác, trên YouTube, một thuật toán AI đề xuất gần 70% tất cả các video, và trên các nền tảng truyền thông xã hội như Instagram và TikTok, tỷ lệ này thậm chí còn cao hơn. Mặc dù các thuật toán AI này có thể giúp người dùng tìm kiếm nội dung mà họ quan tâm, nhưng chúng cũng đặt ra các vấn đề nghiêm trọng về quyền riêng tư, và có bằng chứng ngày càng tăng rằng một số nội dung được đề xuất mà người dùng tiêu thụ trực tuyến thậm chí còn nguy hiểm do thông tin sai lệch hoặc có thể chứa một quan điểm nhất định được thiết kế để ảnh hưởng đến suy nghĩ hoặc niềm tin chính trị của một người.

Việc tạo ra một AI toàn diện, thích ứng là một nỗ lực kỹ thuật và xã hội đầy thách thức, nhưng cũng là một trong những điều quan trọng nhất.

Điều đó có thể hiểu được tại sao AI có thể có tác động tiêu cực đến các chuẩn mực xã hội và mô hình sử dụng trực tuyến trong khi cũng tập trung vào các tác động tích cực của công nghệ. Các nguồn trực tuyến có ảnh hưởng đáng kể đến xã hội của chúng ta, và các偏见 trong các thuật toán trực tuyến sẽ vô tình tạo ra sự bất công, định hình niềm tin của con người, lan truyền thông tin sai lệch và tạo ra xung đột giữa các nhóm khác nhau.

Đây là nơi “AI xấu” có thể có những hậu quả thực sự đáng kể khi liên quan đến sự偏见 không mong muốn và / hoặc không công bằng.

Làm thế nào AI bị偏见 có thể ảnh hưởng tiêu cực đến giao thông

Hãy lấy giao thông, ví dụ, như một ví dụ thực tế hơn. Thời gian chờ đợi lâu tại đèn giao thông đang trở thành một điều của quá khứ nhờ vào các công nghệ AI mới được triển khai trên thị trường. Các giải pháp Ưu tiên Giao thông này tận dụng dữ liệu giao thông thời gian thực và điều chỉnh đèn để bù cho các mẫu giao thông thay đổi, giữ cho giao thông lưu thông và giảm ùn tắc.

Các hệ thống sử dụng học sâu, nơi một chương trình hiểu khi nó không hoạt động tốt và thử một hành động khác – hoặc tiếp tục cải thiện khi nó đạt tiến bộ.

Nghe có vẻ như một ý tưởng tuyệt vời, phải không? Điều gì xảy ra nếu, theo thời gian, các thuật toán AI được nhúng trong công nghệ cảm biến giao thông bắt đầu ưu tiên các phương tiện đắt tiền hơn các phương tiện khác, dựa trên các thuật toán bị偏见 được thiết kế để nhận ra rằng những người lái xe một loại phương tiện nhất định xứng đáng được ưu tiên hơn những người khác?

Đây là nơi “AI xấu” có thể ảnh hưởng tiêu cực đến một phần rất quan trọng của cuộc sống chúng ta.

Hãy lấy ví dụ, các hệ thống Ưu tiên Giao thông này là một phần của Hệ thống Giao thông Thông minh (ITS) lớn hơn, tận dụng sức mạnh của công nghệ phương tiện kết nối. Các hệ thống ITS chỉ tốt như các nền tảng chia sẻ dữ liệu dựa trên đám mây trung lập mà chúng hoạt động, và không phải tất cả đều được tạo ra như nhau.

Loại bỏ sự偏见 trong các thuật toán AI

Các nền tảng chia sẻ dữ liệu này đã được chứng minh là rất hiệu quả, nhưng chỉ khi các thành phố và chính quyền địa phương giám sát các hệ thống giao thông mở cho việc chia sẻ dữ liệu đúng cách, nơi các thuật toán bị偏见 không được phép tham gia. Thật không may, nhiều chính quyền địa phương vẫn còn bị khóa trong các hợp đồng với các nhà cung cấp phần cứng và thiết bị tuyên bố hoạt động dưới “kiến trúc mở” nhưng không sẵn sàng làm việc dưới một nền tảng dữ liệu mở, và các thành phố này hạn chế nghiêm trọng mình khỏi những khả năng thực sự mà một nền tảng dựa trên đám mây có thể cung cấp.

Các hệ thống Ưu tiên Giao thông dựa trên đám mây xem xét hình ảnh toàn cầu của một hệ thống và sử dụng học máy dựa trên dữ liệu trung lập để dự đoán thời gian tối ưu để cấp đèn xanh cho các phương tiện giao thông tại đúng thời điểm. Nó tối thiểu hóa sự can thiệp vào các tuyến đường cắt nhau và đồng thời tối đa hóa khả năng lái xe liên tục. Điều quan trọng hơn, nền tảng dựa trên đám mây trung lập đảm bảo rằng các thành phố tận dụng một hệ thống được cập nhật liên tục để tối đa hóa tiềm năng giao thông, mà không có sự偏见 từ các nguồn không mong muốn.

Với công nghệ này hiện đã sẵn sàng, các thành phố, nhà phát triển và chính quyền địa phương có công nghệ họ cần để đẩy nhanh việc xây dựng các mạng lưới giao thông thông minh để mang lại lợi ích cho mọi người trong khu vực, một cách công bằng và công bằng.

Các khu vực như Thành phố San José đang tận dụng lợi ích của AI để cải thiện việc cung cấp dịch vụ cho cư dân của mình. Khi Thành phố ngày càng sử dụng các công cụ AI, điều quan trọng hơn bao giờ hết là đảm bảo rằng những hệ thống AI này hoạt động hiệu quả và đáng tin cậy. Bằng cách xem xét các thuật toán được sử dụng trong các công cụ của mình, Văn phòng Quyền riêng tư Kỹ thuật số (DPO) đảm bảo rằng các mua sắm công nghệ AI của Thành phố hoạt động chính xác, giảm thiểu sự偏见 và đáng tin cậy. Khi một bộ phận của Thành phố muốn mua một công cụ AI, DPO tuân theo các quy trình xem xét cụ thể để đánh giá lợi ích và rủi ro của bất kỳ hệ thống AI nào.

Đối với khu vực này, chúng tôi tự hào gia nhập các công ty như Google trong số ít nhà cung cấp AI được phê duyệt để tham gia vào các triển khai công nghệ trên toàn thành phố vì các thuật toán không bị偏见. Khi nhiều công nghệ AI hơn đang được phát triển, điều quan trọng hơn bao giờ hết là đảm bảo rằng chúng được xây dựng mà không có bất kỳ thuật toán không bị偏见 nào cho lợi ích của việc sử dụng dịch vụ công cộng địa phương một cách công bằng và công bằng.