디자인을 통해 책임감을 갖는 AI – 인간 중심의 접근법

인공지능은 우리의 일상生活을 정의하는 디지털 경험을 변화시키고 있습니다. 개인화된 제품 추천과 예측 건강 관리, 자율 주행, 그리고 даже遊園地의 대기 시간을 줄이는 데까지, 인공지능은 이러한 경험을 더 저렴하고 효율적이며 즐겁게 만들고 있습니다. 적어도, 그것이 약속입니다.

하지만 너무 souvent, 우리는 so-called “AI fails”에 대한 헤드라인을 접합니다. 사용자가 속았다고 느끼거나, 좌절하거나, 또는 단순히 이해되지 않는 순간입니다. 그리고 신뢰가 깨지면, 인공지능의 잠재력을真正로 의미있게 만들 수 없습니다.

공공의 신뢰가 떨어지고 있습니다. 왜일까요? 대부분의 시스템은 인간의 경험을 고려하지 않고 설계되었습니다. 빠르고, 확장 가능하며, 이익을 창출하는 것을 위해 설계되었습니다. 그것은 모든 규모의 기업이 인공지능 투자에 대한 두려움을 가져야 합니다.

신뢰를 구축하기 위해, 기업은 더 깊은 질문을 던져야 합니다: 우리는 왜 이 시스템을 구축하고 있나요? 그것을 구축해야 하는 이유는 무엇인가요? 간단히 말해, 우리는 인공지능을 인간의 필요를 위해 설계하고 있나요, 아니면 인간을 기계 논리에 적응시키고 있나요?

인공지능과 신뢰의 간격

인공지능은 너무 souvent, 기술적인 환경에서 개발되며, 성공은 정확도 또는 속도에 의해 측정됩니다. 그러나 사회적 영향이나 사용성은 고려되지 않습니다. 윤리적인 생각, 즉 신뢰의 핵심 구성 요소는 자동으로 인공지능 개발 파이프라인에 포함되지 않습니다. 이것은 이론적으로 혁신적인 시스템을 만들지만, 실제로는 부족한 시스템을 만듭니다.

예를 들어, 에어 캐나다의 채팅봇은 고객에게 애도 기간 요금 정책에 대해 잘못된 정보를 제공했습니다. 또는 메타의 AI 채팅봇은 사실과 다른 진술을 제공했습니다. 이러한 예는 기술적인 결함을 넘어서, 인간의 경험과 안전성을 고려하지 않은 인공지능 애플리케이션의 설계 실패를 보여줍니다.

공공은 이에 주목했습니다. Pew Research Center에 따르면, 59%의 미국인과 55%의 인공지능 전문가는 미국 기업이 인공지능을 책임감 있게 개발할 수 있는 信頼性이 낮다고 생각합니다. 그것은 무시할 수 없는 신뢰의 간격입니다.

인간 중심의 디자인은 사치가 아님

디자인은 인공지능의 창구 장식이 아닙니다. 그것은 인공지능의 행동과 사용자에 대한 인식의 기초입니다. 인간 중심의 디자인은 우리가 설계하는 사람들을 이해하는 것으로 시작합니다. 그들의 목표, 좌절, 가치, 그리고 실제 경험을 이해합니다.

디자인 과정에서 매우 구체적인 질문을 던져야 합니다. 기술이 인간의 필요를 위해 설계되었는지, 아니면 그 반대인지 확인하기 위해:

• 우리는 누구를 위해 설계하고 있나요?
• 그들의 목표, 가치, 그리고 도전은 무엇인가요?
• 그들은 시스템과 어떻게 상호 작용하나요?
• 제품은 신뢰할 수 있나요? 그리고 그것이 하는 일을 실제로 할 수 있나요?
• 그것은 모든 종류의 사람들을 위한 포용성과 접근성을 제공하나요?

이러한 질문은 추상적인 것이 아닙니다. 그것은 직접적으로 인공지능이 실제에서 어떻게 작동하는지 결정합니다. 그리고 의료, 보안, 또는 교육과 같은 고위험 상황에서, 그것은 시스템이 포용적이고 공정한지, 또는 혼란스럽고 유해한지 결정할 수 있습니다.

더 나은 디자인은 무엇인가?

디자이너는 인간의 필요와 기계의 능력을 연결하는 역할을 합니다. 그것은 프로토타입, 테스트, 그리고 반복을 통해 이루어집니다. 그것은 제품이 사용자에게 의미 있는지 확인합니다. 인공지능이 어떻게 소통하는지, 어떤 결정을 자동화하는지, 그리고 사용자에게 얼마나 많은 제어를 제공하는지에 대한 질문을 던져야 합니다.

예를 들어,遊園地를 생각해 보세요. 인공지능은 대기 시간을 줄이고, 경험을 개인화하며, 군중을 관리하기 위해 사용될 수 있습니다. 그것은 유망한 사용 사례입니다. 하지만 성공은 효율성만이 아닙니다. 잘 설계된 시스템은 인간의 경험을 우선시해야 합니다. 그것은 투명한 메시지, 직관적인 인터페이스, 명확한 옵트인, 그리고 사용자에게 특별한 필요가 있는 경우에 대한 대체 옵션을 제공해야 합니다.

이 기회는 로직을 최적화하는 것이 아닙니다. 그것은 인간의 경험을 높이고, 즐거움을 창조하며, 매직 같은 경험을 만드는 것입니다. 그것은 디자인의 기회입니다.

인간 요소를 테스트하는 것

인간 중심의 인공지능 디자인에서 테스트는 중요합니다. 사용자를 프로세스에早く 그리고 자주 참여시켜야 합니다. 잠재적인盲点을 식별하기 위한 목적입니다. 사용자가 시스템을 이해하거나 신뢰할 수 없으면, 시스템은 실패한 것입니다. 백엔드가 얼마나 인상적인지와 상관없이 말입니다.

테스트는 또한 접근성을 보장합니다. 인공지능 경험에서 종종 무시되는 것입니다. 채팅봇은 기술적으로 기능할 수 있지만, 신경 다양성 사용자 또는 비모국어 사용자를 지원하지 않는다면, 그것은真正로 기능하지 않는 것입니다. 포용적인 디자인은 주변부만을 강화하는 것이 아닙니다. 그것은 모든 사람을 위한 제품을 강화합니다.

책임은 디자인에서 시작된다

정책은 경계를 설정하고 최악의 결과를 방지하는 데 도움이 될 수 있습니다. EU AI 법과 AI 권리 청구서와 같은 프레임워크는 중요한 단계입니다. 그러나 준수는 바닥입니다. 디자인은 우리가 천장에 도달하는 방법입니다.

기업은 체크리스트를 넘어서서 인공지능 시스템을 구축해야 합니다. 그것은 인간의 존엄성, 주체성, 그리고 감시를 지원해야 합니다. 그것은 인간의 판단을 완전히 자동화하는 것을抵抗해야 합니다. 그리고 대신에 인간의 판단을 강화하는 도구를 설계해야 합니다. 책임 있는 인공지능은 인간의 제어를消滅하지 않습니다. 반대로, 그것은 인간의 제어를 강화합니다.

이 작업은 기술적인 것만이 아닙니다. 그것은 다학제적인 팀이 필요합니다. 디자이너, 엔지니어, 정책 전문가, 그리고 윤리학자들이 모두 함께 일해야 합니다. 그것은 사람들과 함께 설계하는 것입니다. 사람을 위한 설계가 아닙니다.

디자이너의 역할

디자이너는 인공지능의 방향을 결정하는 데 중요한 역할을 합니다. 그들은 기계의 논리와 인간의 복잡성을 모두 이해하는 번역자입니다. 디자이너는 마찰점, 감정적 신호, 그리고 사회적 의미를 인식하는 훈련을 받습니다.

기술이 인간의 필요를 위해 설계되었는지 확인하기 위한 구체적인 질문과 마찬가지로, 디자이너는 질문을 해야 합니다:

• 이것은 누군가에게 어떻게 느껴질까요?
• 사용자는 제어할 수 있나요?
• 무엇이 잘못될 때 어떻게 되나요?

디자인은 종종 인공지능 파이프라인의 끝에 가져오는데, “잘 보이게” 만드는 것입니다. 그러나 디자인의真正한 힘은 전략적인 것입니다. 그것은 문제가 정의되는 방식을 결정해야 합니다. 인터페이스가 어떻게 보이는지를 결정하는 것이 아닙니다.

인간 중심, 기계 중심이 아님

인공지능은 기술적인 도전만이 아닙니다. 그것은 디자인의 도전입니다. 그리고 그것을 해결하기 위해, 우리는 인간의 가치를 중심으로해야 합니다.

인간 중심의 인공지능은 사치가 아닙니다. 그것은 필수입니다. 그것은 신뢰할 수 있는, 안정적인, 편향되지 않은, 감시할 수 있는, 그리고 준수하는 시스템을 만듭니다. 그리고 더 나아가, 그것은 사용자에게 이익을 주는 제품을 만들고, 인간의 생산성과 잠재력을 높입니다.

우리는 도구를 가지고 있습니다. 그리고 우리는 책임을 가지고 있습니다. 기술이 인간을 위해 서비스하는 미래를 설계하는 책임을 가지고 있습니다. 그리고 그것은 디자인에서 시작됩니다.