AI와 신뢰의 호전

작년 초, 우리 팀이 앞으로 무엇이 있을지에 대한 예측을 할 때, 인공 지능(AI)이 무엇을 할 수 있는지 그리고 비즈니스와 사회에 미치는 영향에 대한 명확성을 얻을 수 있을 것이라는 것이 공통된 의견이었다. 이는 새로운 예측은 아니었지만, 그 핵심은 정확했으며, 우리는 여전히 AI의 의미와 어떻게 제어해야 하는지에 대한 함의를 고민하고 있다.

우리는 Apple, Microsoft, Google가 기기에 AI를 구축하고 더广い 대중에게 그 힘을 제공하는 것을 볼 수 있었다. 그런데, AI를搭載한 검색 도구의 채팅봇이 사용자를 위협하고 직원들을 감시한다고 주장하는가 하면, 또 다른 채팅봇은 피자에 치즈를 붙이기 위해 엘머의 글루를 사용하라고 제안했다. 그래도, AI를 도입한 비즈니스 사례는 급격히 증가했고, 시장도 증가했다. Crunchbase의 데이터에 따르면, 지난해 거의 모든 글로벌 벤처 자금의 3분의 1이 AI 관련 분야의 회사에 투자되었다.

그러나 OpenAI가 실제로 놀라운 향상된推論을 제공했음에도 불구하고, 유명한 AI 연구자 요슈아 벵기오(Yoshua Bengio)는 “프론티어 모델”에 대한 안전 대책을採用할 것을 촉구했으며, 이는 치명적인 피해를 초래할 수 있는 잠재력을 가지고 있다. 그리고 기술이 과학 분야에서 노벨상을 2개 받았음에도 불구하고, 그 중 한 명의 수상자는 “우리가 제어할 수 없는 더 지능적인 시스템”을 갖게 된다는 것을 걱정했다.

이처럼 빠르게 발전하는 분야에서, 전문가 기술자들이 따라가기 어려울 뿐만 아니라, 일반 대중도 따라가기 어렵다.

그리고 그런 AI의 실수와 개인 정보 보호 및 제어되지 않은 사용에 대한 우려는 공공의 경계심을 높이고 있다.

나를 믿어라

우리는 신뢰의 호전 위에서 중간 지점에 서 있으며, 이는 공공의 AI 수용을 높이는 동시에 비즈니스와 기술 커뮤니티가 책임감 있게 행동하도록 해야 한다. 첫 번째 부분은 현재 기업 수준에서 진행되고 있으며, 안전하고健全한 배포로 점점 더 많은 증거를 쌓아갈 것이다. 두 번째 부분은 훨씬 더 어렵다.

누가 AI의 책임 있는 사용을 정의하고 강제할 것인가? 산업계가 자체적으로 규범을 만들 수 있을까? 기술자들이 AI를 따라가기 어려울 때, 정책 입안자들은 정보를 가지고 있겠으며, 정치적 의제를 논의에서 제외할 수 있을까? 그리고 AI 억만 장자가 갑자기 제어에 대해 이야기하고 싶어한다면, 그들은 계몽을 받았는지, 아니면 단지 추격을 하기 위해 브레이크를 잡고 있는 것인지?

“나를 믿어라”는 AI에서는 누구에게나 적용되지 않는다.

신뢰는 검증되어야 한다

사람들은 생성적 AI인 ChatGPT를 보고 그것이 다음 Google이 될지 궁금해한다. 실제로, Google 검색의 최상단 결과는現在는 그들의 AI 모델인 Gemini에 의해 생성된다. 그러나, 비즈니스 규모에서 신뢰할 수 있는 답을 얻을 수 없을 때, 간단한 질문인 “生的 고기를 섭취하는 것이 안전한가?”에 대한 답이 “예, 동결된 것은 안전하다”로 돌아오는 경우, 데이터를 조사해야 한다.

공공의 신뢰 호전은 기존 검색과 마찬가지로 시간이 지나면서 신뢰성이 입증되면 따라갈 것이다. 그러나, 우리는 검색을 단순화하고 개선하려는 과정에서 실제로 후퇴했다. 이제, AI가 생성한 최상단 결과를 얻은 후, 후원 링크 목록을 스크롤해야 하며, 다음 5개를 클릭해야 하며, 여전히 정보를 검증해야 한다.

그것은 빠른 답을 찾을 때 많은 작업이 된다. 그리고 한 회사 전체가 같은 일을 할 수는 없다. 그러나, 수천 개의 서비스 티켓에서 채굴한 데이터를 실제 환경에 대한 지식으로 풍부하게 하면, 알고리즘적으로 환상 DOWN을 구성할 수 있다. 그러나, 여전히 “신뢰는 검증되어야 한다”는 상황이다.

정치를 걸러라

AI를 규제할 때, 일부에서는 이미 말미를 놓친 馬이 나간 후에 다시 잡을 수 없을 것이라고 말한다. 예를 들어, 학생이 논문을 작성했는지, 아니면 GenAI를 사용했는지 확인하는真正有效한 도구가 없다. 기술은 너무 앞서 있다.

이것을 규제하는 것은 매우 복잡할 것이며,誠實히 말하면, 우리는 薄氷을 밟고 있는 것이다. 우리는 기술 회사들이 제안된 외부 규제자보다 몇십 년 앞서 있다. 그러나, 우리는 길을 내는 데 능숙하다. 결국, 책임 있는 거버넌스를 적용하려고 시도하는 것은 혁신가에게 달려 있다. 누가 책임을 질 수 있을까?

많은 정치인들이 그것을 시도하고 싶어할 것이다. 그러나, 이해할 수 없는 위험과 정치적 의제를 추진할 수 있는 위험이 있다. 그들의焦點은 AI를 培養하는 것보다 정치적 이익을 추구하는 데 있을 수 있다. 그들은 공공의 두려움을 이용하여 AI의 발전을 억제하기 위해 강한 손을 사용할 수 있다.

CHIPS 및 과학법은 건강한 정부 조치의 좋은 예였다. 그것은 컴퓨팅 및 전자 장치의 제조 시설 건설에서 15배의 증가를 가져왔다. 그러나, 이것은 양당의 협력을 통해 가능했다. 이는 점점 더 과거의 유물이 되고 있다.

우리는 가치가 있는가?

AI에 많은 돈이 투자되고 있으며, 향후 20년 동안 기술 회사에서 많은 돈을 벌 수 있을 것이다. 그러나, 얼마나, 얼마나 빠르며, 얼마나 안전하게 될지는尚未決定이다. 어느 날, 위협받는 새의 알을 잡은 유명인으로 보이는 가짜 영상을 볼 수 있다. 공중은 그에 대한 공포로 반응할 것이며, 그것이 AI로 생성되었다는 것이 밝혀질지라도, 그 알은 다시 껍질로 돌아가지 않는다. – 이미 손상되었다.

우리는 그러한 것을 정보를 가진 기술자들에 의해 규제되어야 한다고 생각한다. 그것이 어떤 형태를 취할지는尚未決定이다. 그러나, 알 수 있는 것은 AI가 신뢰의 호전 위에 있으며, 산업으로서 우리는 그것에 합당한 가치를 증명해야 한다는 것이다.