인간-루프의 실제 의미는 무엇인가?

20세기 초, 영국 철학자 길버트 라일은 “기계 속의 유령”이라는 용어를 만들었습니다. 라일은 마음의 개념에서 이 은유를 사용하여 마음과 몸의 이원론을 반박했습니다. 라일에게 이것은 오류였습니다. 인식과 물리적 행동은 분리된 두 부분이 아닌 하나의 시스템의 일부입니다.

인공지능의 등장과 함께, 유사한 은유가 나타납니다. 생산성을 높이기 위한 도구를 사용하는 사용자에게서 “인간-루프”라는 용어가 자주 사용됩니다. 인간과 지능 시스템이 결합된 경우, 우리는 무결한 융합을 만들고 있는지, 아니면 통제의 환상을 만들고 있는지 질문할 수 있습니다.

스타트업들은 이 개념을 사용하여 자신의 도구를 설명합니다. 이 용어는 혁신과 안심을 약속하지만, 현실은 더 복잡합니다. 책임은 쉽게 분산되고, 책임을 추적하기가 더 어려워집니다.

인공지능 시스템이 교육에서 전쟁까지 다양한 분야에 깊이 침투함에 따라, 문제는 더 이상 추상적이지 않습니다. 인간-루프의 실제 의미는 무엇이며, 이것은 단순히 책임을 회피하는 방편일 뿐입니까?

1. 책임의 방패로서의 인간-루프

인간-루프라는 용어는 책임을 전가하는 쉬운 방법으로 사용될 수 있습니다. 많은 사람이 인지하고 있는 바와 같이, 과정의 끝에 인간의 서명이 있으면 안정성을 보장하지 못합니다. 특히 시스템이 잘못 설계되었거나 불충분하게 이해된 경우에는 더욱如此입니다.

메이사 하와시, 스케일 엑스의 창립자이자 최고경영자는 이 문제에 대해 글을 썼습니다. 하와시는 책임을 전가하는 방식으로 이 용어가 종종 사용된다고 말합니다. “이것은 다른 방식의 책임 전가와 다를 바가 없습니다.” 하와시는 스타트업 비트에게 이렇게 말했습니다. 예를 들어, 인사 관리자는 책임을 회피하기 위해 승인 정책을 사용할 수 있습니다. “이 정책이 있고 사람들이 읽고 승인하면, 회사로서 기술적으로 책임이 없습니다.”

이것은 책임이 제거되는 것이 아니라 전가되는 패턴을 보여줍니다. 하와시는 이것을 게으른 해결책으로 간주합니다. 이것은 비판적思考이나 영향을 받는 사람이나 커뮤니티를 이해하는 것을 피하는 것입니다. “그래서 책임을 전가하고, 정책을 이해하는지 여부는 중요하지 않습니다. 정책이 합리적인지 여부는 중요하지 않습니다.”

이 프레임워크에서, “인간-루프”는 의미 있는 개입보다는 절차적 보장으로 변질될 위험이 있습니다. 이 위험은 단순히 용어上的 문제가 아닙니다. 감독이 승인으로 축소되면 인간의 역할은 상징적인 것이 아닌 실질적인 것이 됩니다.

하와시는 최근의 군사적 참사, 이란의 민압 학교에서 인간이 승인을 했지만, 인간의 결정이 항상 도덕적인 명확성이나 충분한 검토를 보장하지는 않았다는 점을 언급했습니다. “전쟁이나 복잡한 수술을 할 때, 인간-루프를 방패로 사용할 여유는 없습니다.”

2. 책임을 위한 설계, 단순한 감독이 아닌

대안은 인간-루프 시스템을 포기하는 것이 아닙니다. 그것은 책임의 구조를 설계하는 것입니다. 이것은 상징적인 감독을 넘어서서 의도적인 책임 구조를 의미합니다.

하와시는 “현재 인공지능을 시장에 출시하기 위한 경쟁이 치열합니다. 그러나 설계 관점에서 시스템의 하위 영향이나 사용자, 커뮤니티에 미치는 영향을 충분히 고려하지는 않습니다.”라고 말했습니다.

속도는 지배적인 경쟁 변수가 되었습니다. 이 경쟁에서 책임은 종종 미루어지지 않습니다. 결과는 반응적인 윤리 모델이 됩니다. 여기서 문제는 배포 후에 해결되는 것이 아니라, 개발 중에 예상됩니다.

접근성은 채택을 가속화할 수 있지만, 결과는 더 증폭됩니다. 시스템은 더 이상 기술 사용자에게만 국한되지 않습니다. 다양한 이해와 맥락을 가진 사람들의 결정에 영향을 미칩니다. 이러한 환경에서 책임은 사용자에게 외주할 수 없습니다.

3. 정확성과 책임성으로서의 인간-루프

프리즈즐의 공동 창립자 아바이 구프타는 더 실제적인 관점을 제공합니다. 구프타의 회사는 특정 문제에서 시작되었습니다. 과로한 교사들입니다. “도시에서 은행가나 컨설턴트가 70시간을 일한다는 이야기를 듣지만, 교사가 그만큼 일한다는 이야기는 듣지 못합니다. 그래서 호기심이 생겨 수백명의 교사를 인터뷰했습니다. 그 결과, 교사들이 가장 시간을 많이 소비하는 것이 성적 평가였습니다.”

성적 평가를 자동화하는 것은 간단해 보이지만, 필기 수학의 복잡성은 인공지능에게 실제한계를带來합니다. “정확성 문제가 있습니다. 인공지능은 완벽하지 않습니다. 그래서 우리는 인간-루프 시스템을 구축했습니다. 인공지능이 확신이 서지 않는 경우, 예를 들어 필기체가 지저분한 경우, 교사에게 검토하고 승인 또는 거부하도록 플래그를 설정합니다.”

여기서 인간의 역할은 단순히 장식적인 것이 아닙니다. 시스템은 명시적으로 자신의 불확실성을 식별하고, 그 경우를 인간에게 라우팅합니다. “우리는 정확성을 위해 노력합니다. 항상 1~3%의 에지 케이스가 있을 수 있습니다. 여기서 인공지능이 어려움을 겪을 수 있습니다. 따라서 인간이 개입해야 합니다.”

이 접근법은 인간-루프를 품질 관리 메커니즘으로 다시 정의합니다. 그러나 구프타는 더 나아갑니다. “인공지능은 100% 정확하지 않습니다. 그것은 환상이나 잘못된 출력을 생성할 수 있습니다. 인간-루프는 최종 품질 검사로 작용합니다. 또한 책임에 관한 것입니다. 결과에 대해 책임을 지는 사람이 있어야 합니다. 현재로서는 여전히 인간이어야 합니다.”

중요하게, 인간의 역할은 수량화할 수 없는 관계적 측면도 보존합니다. “또한 교육의 인간적인 측면을 보존하는 것입니다. 교사들은 서로 다른 스타일을 가지고 있으므로, 우리는 피드백을 전달하는 방식을 사용자 정의할 수 있도록 합니다.”

인간-루프의 재정의

“인간-루프”라는 용어는 안심할 수 있는 단순성을 가지고 있습니다. 이것은 우리의 시스템이 얼마나 발전하더라도, 인간이 항상 통제하고 있으며, 단순히 “기계 속의 유령”이 아니라는 것을 암시합니다. 그러나 스타트업들이 인공지능을 높은 위험성의 환경에 배치할수록, 이러한 안심은 검토를 요구합니다.

더 깊은 문제는 설계에 있습니다. 시스템의 위험이 잘못 이해되거나 의도적으로 축소된다면, 끝에 인간을 삽입하는 것은 기본적인 결함을 수정하지 못합니다. 이것은 또한 인간의 역할을 폴백으로서가 아닌 시스템의 작동의 필수적인 부분으로 정의하는 것을 의미합니다. 인간-루프에서 인간은 단순히 결과를 승인해서는 안 됩니다. 스타트업은 직원을 권한을 가지고 결과를 형성하고, 도전하고, 필요에 따라 권한으로 재정의하도록 노력해야 합니다.