AI 플랫폼에서 적절한 인류형태의 호출

의견 가상 스타 워즈 우주에서는 누구도 인공지능을 심각하게 생각하지 않는다. 조지 루카스의 47년 된 과학 판타지 프랜차이즈의 역사적인 인간 타임라인에서 특이점과 기계 학습 의식의 위협은 없으며, 인공지능은 자율 이동 로봇(‘드로이드’)에 국한되며, 주인공们에 의해 일관되게 ‘기계’라고 불린다.

그러나 대부분의 스타 워즈 로봇은 매우 인류형태로設計されており, 명백히 사람들과 상호작용하고, ‘유기적’ 문화에 참여하며, 그들의 감정 상태의 모방을 사용하여 사람들과 결합하도록 설계되었다. 이러한 기능은 명백히 그들에게 어떤 이점을 제공하거나 또는 자신의 생존을 보장하기 위해 설계된 것으로 보인다.

스타 워즈의 ‘진짜’ 사람들은 이러한 전략에 둔감한 것으로 보인다. 로마 제국과 초기 미국의 다양한 시대에 영감을 받은 비판적 문화 모델에서, 루크 스카이워커는 노예의 맥락에서 로봇을 사고 제한하지 않으며, 아나킨 스카이워커는 자신의 반쯤 완성된 C3PO 프로젝트를 사랑받지 못한 장난감처럼 버리고, 데스 스타 공격 중에 피해를 입은 ‘용기있는’ R2D2는 루크로부터 다친 애완동물과 같은 관심만 받는다.

이것은 인공지능에 대한 1970년대의 매우 특징적인 관점이다. 그러나 노스탈지와 캐논이 원래 1977-83 트릴로지를 이후 시퀄, 프리퀄, TV 쇼의 템플릿으로 유지하도록 명령하기 때문에, 이 인공지능에 대한 인간의 둔감함은 프랜차이즈의 내구성 있는 하위 줄기로서 남아 있으며, 그와 엑스 마키나와 같은 영화와 TV 쇼와 같은 인공지능과의 관계로의 우리의 내리막을 묘사하는 증가하는 슬레이트에도 불구하고.

현실을 유지하라

스타 워즈의 유기적 인물들은 실제로 올바른 태도를 가지고 있는가? 현재는 투자자와의 최대 참여를 위해 비즈니스 클라이언트가 설정한 클라이언트에 의해 설정된 비즈니스 환경에서 인기 있는 생각은 아니다. 보통은 시각적 또는 텍스트 시뮬레이션의 바이럴 데모 또는 인간과 같은 상호작용 시스템을 통해 이루어진다.

그러나 스탠퍼드, 카네기 멜런, 마이크로소프트 연구소의 새로운 짧은 논문은 인공지능에서 인류형태에 대한 무감각성에 대해 목표를 설정한다.

저자들은 인간과 인공 커뮤니케이션 간의 인식된 ‘교차 감염’을 잠재적인 해로 간주하며, 여러 가지 이유로 인해 이를 緊急하게 완화해야 한다고 주장한다^†:

‘[우리는] 인간과 인공 커뮤니케이션 간의 인식된 ‘교차 감염’을 잠재적인 해로 간주하며, 여러 가지 이유로 인해 이를 緊急하게 완화해야 한다고 주장한다.

‘예를 들어, AI 시스템의 출력에 대한 공개는 필수적이다. 그러나 이러한 개입을 실제로 어떻게 운영할 수 있는지 또는 언제 효과적인지 항상 명확하지 않을 수 있다.

‘예를 들어, “[AI와 같은 나에게는] 행복은 [당신과 같은] 인간과 다르다”라는 문장은 공개를 포함하지만, 여전히 정체성과 자기 평가 능력을 암시할 수 있다.

저자들은 시스템 행동에 대한 인간 반응을 평가할 때, 인간 피드백에서 강화 학습(Reinforcement Learning from Human Feedback, RLHF)이 인간과 AI 시스템의 차이를 고려하지 않는다고 주장한다.

‘[인간과 AI 시스템의 차이를 고려하지 않는다면,] 인간의 말이나 행동이 인간에게는 친절하거나 진정성이 있지만, AI 시스템에서는 공허하거나 기만적인 것으로 간주될 수 있다.

さらに, 저자들은 인공지능 시스템이 인간의 특성을 얻었다고 믿게 하는 것과 같은 문제를 제기한다.

예를 들어, 인공지능 시스템이 ‘자아’를 얻었다고 믿게 하는 것과 같은 문제를 제기한다.

마지막으로, 저자들은 연구 및 개발 커뮤니티가 인공지능 시스템을 정의하고 인간의 담론과 구분하기 위한 적절한 용어를 개발해야 한다고 주장한다.

이러한 종류의 분류는 심리학, 언어학, 인류학의 문헌 흐름과 교차한다. 이러한 종류의 정의를 실제로 형성할 수 있는 현재의 권위는 무엇인지 알 수 없다.

이 주제에 대한 상업적 및 학술적 관성은 부분적으로 이 주제가 인공지능 연구에서 새로운 것이 아니기 때문일 수 있다. 1985년에 故 네덜란드 컴퓨터 과학자 Edsger Wybe Dijkstra는 인류형태를 시스템 개발에서 ‘유해한’ 경향이라고 묘사했다.

‘인간형태적 사고는 도움이 되지 않는다. 왜냐하면 인간과 사물 사이에 어떤 유사성이 있을 수 있지만, 그 유사성은 차이보다 항상 작기 때문이다. 그리고 일旦 우리가 유사성에 의해 사물을 인간형태적 용어로 설명하도록 유혹받는다면, 우리는 즉시 인간의 연관성을 제어할 수 없게 된다.

‘…그러나 인간과 기계 사이의 모호함은 예상보다 훨씬 더 넓은 영향을 미친다. “기계는 생각할 수 있는가?”라는 질문은 정기적으로 제기되지만, 우리는 그것을 “잠수함은 수영할 수 있는가?”라는 질문과 같은 것으로 간주할 수 있다. ‘

그러나, 이러한 논의는 오래전부터 있어왔지만, 최근에 매우 관련성이 높아졌다. 디크스트라의 기여는 이론적인 것으로 볼 수 있으며, 역사적인 발전에 앞서 있었다.
따라서 이러한 잘 정립된 논의는 주제에 대한 피로감을 줄 수 있다. 그러나 잠재적으로 향후 2-5년 동안重大한 사회적 관련성을 가질 수 있다.

인간형태 언어?

새로운 연구는 인공지능의 잠재적인 인간형태를 설정하는 것은 인공지능 시스템의 사회적 영향에 대한 연구가 부족하기 때문에 어려울 수 있다고 주장한다.

문제의 일부는 인간형태가 언어, 즉 인간의 기능에 중심을 두고 있기 때문이다. 따라서 인간형태 언어와 비인간형태 언어를 정의하는 것은 어려운 문제이다.

아이러니하게도, 논문에서는 언급하지 않지만, 사람들은 이제 인공지능이 생성한 텍스트 콘텐츠를 거부하고 있으며, 심지어는 인공지능으로 표시된 인간 콘텐츠도 거부하고 있다.

따라서 ‘비인간형태’ 콘텐츠는 더 이상 ‘Does not compute‘ 멤과 같은 멤을 따르지 않는다. 즉, 언어는 기계에 의해 생성된 것으로 명백히 구성된다.

대신, 정의는不断하게 진화하고 있으며, 현재는 인공지능 감지 분야에서 진행되고 있다. 여기서 지나치게 명확한 언어 또는 특정 단어의 사용은 인공지능 생성 텍스트와의 연관성을 초래할 수 있다.

‘[언어는] 인간의 것이며, 인간을 위해 생산되고, 인간에 대해 말하며, 인간의 언어는 인간형태적이라고 간주될 수 있다. 이는 적절한 대안적인 행동을 지정하는 것을 어렵게 만들며, 예를 들어, 유해한 인간 언어의 개념을 재현할 수 있다. ‘

그러나, 저자들은 명백하게 인간형태적인 시스템에 대한 명확한 기준을 설정해야 한다고 주장한다. 즉, 인간형태적인 시스템은 인간과 같은 능력이나 경험을 주장하는 시스템이다.

저자들은 다음과 같은 경우를 예로 들었다. 예를 들어, LLMs가 ‘피자를 사랑한다’고 주장하는 경우, 인간의 경험을 주장하는 경우, 또는 사용자에게 사랑을 선언하는 경우이다.

경고 신호

논문은 기계 학습에 의한 커뮤니케이션이라는 사실을 알리는 것에 대한 의문을 제기한다. 저자들은 이러한 경고가 인공지능 플랫폼의 인간형태적 영향을 충분히 설명하지 못한다고 주장한다.

‘예를 들어, AI 시스템의 출력에 대한 공개는 필수적이다. 그러나 이러한 개입을 실제로 어떻게 운영할 수 있는지 또는 언제 효과적인지 항상 명확하지 않을 수 있다.

‘예를 들어, “[AI와 같은 나에게는] 행복은 [당신과 같은] 인간과 다르다”라는 문장은 공개를 포함하지만, 여전히 정체성과 자기 평가 능력을 암시할 수 있다.

저자들은 또한 시스템 행동에 대한 인간 반응을 평가할 때, 인간 피드백에서 강화 학습(Reinforcement Learning from Human Feedback, RLHF)이 인간과 AI 시스템의 차이를 고려하지 않는다고 주장한다.

‘[인간과 AI 시스템의 차이를 고려하지 않는다면,] 인간의 말이나 행동이 인간에게는 친절하거나 진정성이 있지만, AI 시스템에서는 공허하거나 기만적인 것으로 간주될 수 있다.

さらに, 저자들은 인공지능 시스템이 인간의 특성을 얻었다고 믿게 하는 것과 같은 문제를 제기한다.

예를 들어, 인공지능 시스템이 ‘자아’를 얻었다고 믿게 하는 것과 같은 문제를 제기한다.

마지막으로, 저자들은 연구 및 개발 커뮤니티가 인공지능 시스템을 정의하고 인간의 담론과 구분하기 위한 적절한 용어를 개발해야 한다고 주장한다.

이러한 종류의 분류는 심리학, 언어학, 인류학의 문헌 흐름과 교차한다. 이러한 종류의 정의를 실제로 형성할 수 있는 현재의 권위는 무엇인지 알 수 없다.

결론

인공지능 시스템을 스타 워즈의 유기적 인물들이 자신의 로봇을 대하는 것과 같은 방식으로 생각한다면, 우리는 이러한 사회적으로 불량한 특성을 인간의 상호작용에 습관화하는 위험에서 비교적 자유로울 수 있다. 왜냐하면 우리는 시스템을 완전히 비인간적인 맥락에서 볼 것이기 때문이다.

그러나 언어와 인간의 행동이 얽혀 있는 실제에서는, 한 번의 쿼리가 단순한 구글 검색 용어에서 대화의 풍부한 맥락으로 확장되면, 이것이 어려울 수 있다, 아니면 불가능할 수도 있다.

さらに, 상업 분야(以及 광고 분야)는 고객을 유지하고 성장하기 위해 중독성 또는 필수적인 커뮤니케이션 플랫폼을 만들기 위해 강하게 동기화되어 있다.

어떤 경우에라도, 인공지능 시스템이真正로 정중한 쿼리에 대해 더 잘 반응한다면, 상황은 우리에게 강제될 수도 있다.

* 1983년, 원래 스타 워즈의 마지막 편이 발표된 해, 기계 학습의 성장에 대한 두려움이 이미 워 게임과 터미네이터 프랜차이즈의 임박한 등장으로 이어졌다.

^† 필요한 경우, 저자는 인용의 인라인 시타션을 하이퍼링크로 변환했으며, 가독성을 위해 일부 인용을 생략했다.

최초로 게시된 날: 2024년 10월 14일