디자인을 통해 책임감을 갖는 AI – 인간 중심의 접근법

AI는 맞춤형 상품 추천과 예측 의료, 자율주행, 놀이공원 대기시간 단축까지 일상을 이루는 디지털 경험을 바꾸며 더 저렴하고 효율적이고 즐거운 세상을 약속합니다.

하지만 사용자가 속았거나 좌절했고 이해받지 못했다고 느끼게 하는 ‘AI 실패’ 소식도 자주 접합니다. 신뢰가 무너지면 AI의 잠재력은 의미 있는 성과로 이어질 수 없습니다.

대중의 신뢰가 떨어지는 이유는 많은 시스템이 인간 경험보다 속도와 확장성, 수익을 중심으로 설계되기 때문입니다. 모든 규모의 기업이 AI 투자에서 진지하게 고려해야 할 위험입니다.

신뢰를 쌓으려면 왜 이 시스템을 만들고 꼭 필요한지 물어야 합니다. AI를 인간의 필요에 맞춰 설계하는지, 인간에게 기계의 논리를 따르라고 요구하는지 살펴야 합니다.

인공지능과 신뢰의 간격

AI는 정확도와 속도를 성공 기준으로 삼는 기술 환경에서 개발되는 경우가 많고 사회적 영향과 사용성은 충분히 고려되지 않습니다. 신뢰의 핵심인 윤리적 사고도 개발 과정에 자동으로 포함되지 않아 이론적으로 혁신적이지만 실제로는 부족한 시스템이 만들어집니다.

Air Canada 챗봇이 사별 할인 운임 정책을 잘못 안내하고 Meta의 AI 챗봇이 사실과 다른 주장을 내놓은 사례는 단순한 기술 오류를 넘어 인간 경험과 안전을 고려하지 않은 설계 실패를 보여줍니다.

Pew Research Center에 따르면 미국인의 59%와 AI 전문가의 55%는 미국 기업이 AI를 책임 있게 개발할 것이라는 신뢰가 낮습니다. 무시할 수 없는 신뢰 격차입니다. (AC.TO )

인간 중심의 디자인은 사치가 아님

디자인은 인공지능의 창구 장식이 아닙니다. 그것은 인공지능의 행동과 사용자에 대한 인식의 기초입니다. 인간 중심의 디자인은 우리가 설계하는 사람들을 이해하는 것으로 시작합니다. 그들의 목표, 좌절, 가치, 그리고 실제 경험을 이해합니다.

디자인 과정에서 매우 구체적인 질문을 던져야 합니다. 기술이 인간의 필요를 위해 설계되었는지, 아니면 그 반대인지 확인하기 위해:

• 우리는 누구를 위해 설계하고 있나요?
• 그들의 목표, 가치, 그리고 도전은 무엇인가요?
• 그들은 시스템과 어떻게 상호 작용하나요?
• 제품은 신뢰할 수 있나요? 그리고 그것이 하는 일을 실제로 할 수 있나요?
• 그것은 모든 종류의 사람들을 위한 포용성과 접근성을 제공하나요?

이러한 질문은 추상적인 것이 아닙니다. 그것은 직접적으로 인공지능이 실제에서 어떻게 작동하는지 결정합니다. 그리고 의료, 보안, 또는 교육과 같은 고위험 상황에서, 그것은 시스템이 포용적이고 공정한지, 또는 혼란스럽고 유해한지 결정할 수 있습니다.

더 나은 디자인은 무엇인가?

디자이너는 인간의 필요와 기계의 능력을 연결하는 역할을 합니다. 그것은 프로토타입, 테스트, 그리고 반복을 통해 이루어집니다. 그것은 제품이 사용자에게 의미 있는지 확인합니다. 인공지능이 어떻게 소통하는지, 어떤 결정을 자동화하는지, 그리고 사용자에게 얼마나 많은 제어를 제공하는지에 대한 질문을 던져야 합니다.

예를 들어, 유원지를 생각해 보세요. 인공지능은 대기 시간을 줄이고, 경험을 개인화하며, 군중을 관리하기 위해 사용될 수 있습니다. 그것은 유망한 사용 사례입니다. 하지만 성공은 효율성만이 아닙니다. 잘 설계된 시스템은 인간의 경험을 우선시해야 합니다. 그것은 투명한 메시지, 직관적인 인터페이스, 명확한 옵트인, 그리고 사용자에게 특별한 필요가 있는 경우에 대한 대체 옵션을 제공해야 합니다.

이 기회는 로직을 최적화하는 것이 아닙니다. 그것은 인간의 경험을 높이고, 즐거움을 창조하며, 매직 같은 경험을 만드는 것입니다. 그것은 디자인의 기회입니다.

인간 요소를 테스트하는 것

인간 중심의 인공지능 디자인에서 테스트는 중요합니다. 사용자를 프로세스에 빠르게 그리고 자주 참여시켜야 합니다. 잠재적인 맹점을 식별하기 위한 목적입니다. 사용자가 시스템을 이해하거나 신뢰할 수 없으면, 시스템은 실패한 것입니다. 백엔드가 얼마나 인상적인지와 상관없이 말입니다.

테스트는 또한 접근성을 보장합니다. 인공지능 경험에서 종종 무시되는 것입니다. 채팅봇은 기술적으로 기능할 수 있지만, 신경 다양성 사용자 또는 비모국어 사용자를 지원하지 않는다면, 그것은 진정으로 기능하지 않는 것입니다. 포용적인 디자인은 주변부만을 강화하는 것이 아닙니다. 그것은 모든 사람을 위한 제품을 강화합니다.

책임은 디자인에서 시작된다

정책은 경계를 정하고 최악의 결과를 막습니다. EU AI법과 AI 권리장전 같은 체계는 중요한 진전이지만 규정 준수는 최소선이고 더 높은 수준에 이르는 방법은 디자인입니다.

기업은 체크리스트를 넘어 인간의 존엄성과 주체성, 감독을 지원하는 AI를 만들어야 합니다. 인간의 판단을 완전히 자동화하기보다 강화하는 도구를 설계해야 하며 책임 있는 AI는 인간의 통제력을 없애지 않고 높입니다.

이를 위해 디자이너와 엔지니어, 정책 전문가, 윤리학자가 함께하는 다학제 팀이 필요합니다. 사람을 위해 일방적으로 설계하는 것이 아니라 사람과 함께 설계해야 합니다.

디자이너의 역할

디자이너는 인공지능의 방향을 결정하는 데 중요한 역할을 합니다. 그들은 기계의 논리와 인간의 복잡성을 모두 이해하는 번역자입니다. 디자이너는 마찰점, 감정적 신호, 그리고 사회적 의미를 인식하는 훈련을 받습니다.

기술이 인간의 필요를 위해 설계되었는지 확인하기 위한 구체적인 질문과 마찬가지로, 디자이너는 질문을 해야 합니다:

• 이것은 누군가에게 어떻게 느껴질까요?
• 사용자는 제어할 수 있나요?
• 무엇이 잘못될 때 어떻게 되나요?

디자인은 종종 인공지능 파이프라인의 끝에 가져오는데, “잘 보이게” 만드는 것입니다. 그러나 디자인의 진정한 힘은 전략적인 것입니다. 그것은 문제가 정의되는 방식을 결정해야 합니다. 인터페이스가 어떻게 보이는지를 결정하는 것이 아닙니다.

인간 중심, 기계 중심이 아님

인공지능은 기술적인 도전만이 아닙니다. 그것은 디자인의 도전입니다. 그리고 그것을 해결하기 위해, 우리는 인간의 가치를 중심으로해야 합니다.

인간 중심의 인공지능은 사치가 아닙니다. 그것은 필수입니다. 그것은 신뢰할 수 있는, 안정적인, 편향되지 않은, 감시할 수 있는, 그리고 준수하는 시스템을 만듭니다. 그리고 더 나아가, 그것은 사용자에게 이익을 주는 제품을 만들고, 인간의 생산성과 잠재력을 높입니다.

우리는 도구를 가지고 있습니다. 그리고 우리는 책임을 가지고 있습니다. 기술이 인간을 위해 서비스하는 미래를 설계하는 책임을 가지고 있습니다. 그리고 그것은 디자인에서 시작됩니다.