도시들이 편향되지 않은 AI 알고리즘을 활용하여 선도 기술을 배치하는 방법

오늘날, 우리 삶의 거의 모든 측면이 온라인 네트워크의 일부와 관련이 있습니다. 이것은 우리 삶의 많은 영역을 개선했지만, 예를 들어 손으로持つ 장치가 언제든지 정보를 제공할 수 있도록 해줍니다. 그러나 이것은 또한 특정 위험을 초래합니다.

이러한 위험은 전통적인 해킹과 데이터 침해를 넘어섭니다. 예를 들어, 우리의 은행 계좌에 대한 것입니다. 더 중요한 것은 내가 여기서 언급하는 것은 우리 삶의 많은 부분이 현재 인공 지능(AI)이 사용하는 알고리즘에 의해 영향을 받고 있다는 것입니다. 우리는 이 AI가 본질적으로 우리의 최선의 интерес을 위해 알고리즘을 활용한다고 가정합니다. 그러나 잘못된 유형의 편향이 이러한 알고리즘에 들어가면 어떻게 될까요? 특정 결과에 어떤 영향을 미칠 수 있을까요?

편향된 알고리즘이 AI 시스템에 침투할 때 무슨 일이 일어날까요?

다른 예를 들어, YouTube에서 AI 알고리즘은 거의 모든 비디오의 70%를 추천하며, Instagram과 TikTok과 같은 소셜 미디어 플랫폼에서는 그 비율이 훨씬 더 높습니다. 이러한 AI 알고리즘은 사용자가 관심 있는 콘텐츠를 찾는 데 도움을 줄 수 있지만, 심각한 개인 정보 보호 문제를 일으키며, 온라인에서 소비하는 일부 추천 콘텐츠는 잘못된 정보 또는 특정 관점이 포함되어 있기 때문에 위험할 수 있습니다. 이러한 관점은 사람들의 정치적 생각이나 신념을 잠재적으로 영향을 미칠 수 있습니다.

잘못된 편향이 없는, 완전하고 적응 가능한 AI를 만드는 것은 기술적으로도 사회적으로도 어려운 작업입니다. 그러나 가장 중요한 의미 중 하나입니다.

AI가 사회 규범과 온라인 사용 패턴에 부정적인 영향을 미칠 수 있는 반면 기술의 긍정적인 효과에 초점을 맞추는 것은 이해할 수 있습니다. 온라인 소스는 우리 사회에 큰 영향을 미치며, 온라인 알고리즘의 편향은 의도치 않게 부정의를 조장하고, 사람들의 믿음을 형성하며, 잘못된 정보를 퍼뜨리고, 다양한 그룹 사이의 갈등을 조장할 것입니다.

이것이 “나쁨” AI가真正로 중요한 결과를 초래할 수 있는 곳입니다. 그것은 원치 않는 편향과 관련이 있습니다.

편향된 AI가 교차로에 미치는 영향

교차로를 예로 들어 보겠습니다. 교통 신호등의 긴 대기 시간은 새로운 AI 기술이 국가 전역의 시장에 배치됨에 따라 과거의 일로 남아 있습니다. 이러한 교통 우선 솔루션은 실시간 교통 데이터를 활용하여 교통 패턴의 변화에 따라 신호등을 조정하여 교통을 원활하게 유지하고 혼잡을 줄입니다.

이 시스템은 딥 러닝을 사용하며, 프로그램은 잘못된 작업을 인식하고 다른 작업을 시도하거나 진행 중인 경우 계속 개선합니다.

훌륭한 아이디어로 들리지 않나요? 그러나 시간이 지남에 따라 교통 센서 기술에 내장된 AI 알고리즘이 특정 유형의 차량을 다른 차량보다 우선시하는 편향된 알고리즘을 개발한다면 어떻게 될까요? 이러한 알고리즘은 특정 유형의 차량을 운전하는 사람들이 다른 사람보다 우선권을 받을 자격이 있다고 판단하기 때문입니다.

이것이 “나쁨” AI가 우리 삶의 매우 중요한 부분에 부정적인 영향을 미칠 수 있는 곳입니다.

예를 들어, 이러한 AI 기반 교통 우선 시스템은 연결된 차량 기술의 힘을 활용하는 더 큰 지능형 교통 시스템(ITS)의 일부입니다. ITS 시스템은 운영되는 중립적인 클라우드 기반 데이터 공유 플랫폼만큼 좋습니다. 그러나 모든 플랫폼이 동일하게 생성되지 않습니다.

AI 알고리즘에서 편향성 제거

이러한 데이터 공유 플랫폼은 매우 효과적으로 입증되었습니다. 그러나 교통 시스템을 감독하는 도시와 지방 자치 단체가 편향된 알고리즘이 참여하지 않는 적절한 데이터 공유를 위해 열면 그렇습니다. 불행히도, 많은 지방 자치 단체는 하드웨어 및 장치 공급업체와의 계약에 묶여 있습니다. 이들은 “개방형 아키텍처”하에서 운영한다고 주장하지만, 개방형 데이터 플랫폼에서 작업할 의지가 없습니다. 이러한 도시들은 클라우드 기반 플랫폼이 제공할 수 있는真正한 가능성으로부터 자신을 심각하게 제한합니다.

클라우드 기반 교통 우선 시스템은 시스템의 전반적인 그림을 고려하고, 편향되지 않은 데이터 중심의 기계 학습을 사용하여 교통 차량에 녹색 신호를 부여할 최적의 시간을 예측합니다. 이것은 교차로를 가로지르는 경로와의 간섭을 최소화하고,同時에 연속적인 운전의 확률을 최대화합니다. 더 중요한 것은, 중립적인 클라우드 기반 플랫폼이 도시들이 편향되지 않은 원천으로부터의 편향 없이 최대 교통 잠재력을 위한 지속적으로 업데이트되는 시스템을 활용할 수 있도록 보장합니다.

이 기술이 이제 손쉽게 उपलब할 때, 도시, 개발자, 지방 자치 단체는 모든 지역의 모든 사람을 위해 공정하고 공평하게 지능형 교통 네트워크를 구축하기 위해 필요한 기술을 가지고 있습니다.

산호세와 같은 지역은 현재 서비스 제공을 개선하기 위해 AI의ประโยชน을 활용하고 있습니다. 도시가 AI 도구를 점점 더 많이 사용함에 따라, 이러한 AI 시스템이 효과적이고 신뢰할 수 있는지 확인하는 것이 더욱 중요해집니다. 디지털 개인 정보 보호 사무소(DPO)는 도시의 AI 기반 기술 수집이 정확하게 수행되고, 편향을 최소화하며, 신뢰할 수 있는지 확인하기 위해 사용되는 알고리즘을 검토합니다. 도시 부서가 AI 도구를 수집하고자 할 때, DPO는 특정 검토 프로세스를 따르며, 모든 AI 시스템의 이점과 위험을 평가합니다.

이 지역에 대해, 우리는 Google과 같은 회사가 도시 전역의 기술 배치에 참여하는少数의 승인된 AI 벤더 중 하나라는 것을 자랑스럽게 생각합니다. 편향되지 않은 알고리즘으로 인해 지역 자치 서비스의真正로 공정하고 공평한 사용을 위해 더욱 많은 AI 기술이 개발됨에 따라, 이러한 알고리즘이 편향되지 않은 상태로 구축되는지 확인하는 것이 특히 중요할 것입니다.