인터트러스트의 데이비드 마허 CTO – 인터뷰 시리즈

데이비드 마허는 인터트러스트의 최고 기술 책임자이자 최고 기술 책임자이다. 신뢰할 수 있는 분산 시스템, 보안 시스템, 위험 관리에 대한 30년 이상의 경험을 가지고 있으며, 그는 회사 자회사에서 연구 및 개발 노력을 이끌었으며 주요 리더십을 맡았다. 그는 디지털 미디어 및 IoT를 위한 인증 기관인 Seacert Corporation의 전 회장이었으며, 소프트웨어 자체 방어 시스템 개발업체인 whiteCryption Corporation의 회장이었다. 그는 또한 세계에서 유일한 독립적인 디지털 권한 관리 생태계를 관리하는 마린 트러스트 관리 조직(MTMO)의 공동 의장을 역임했다.

인터트러스트는 분산 운영 체제가 공개 네트워크에서 데이터와 계산을 보호하고 관리할 수 있도록 하는 혁신을 개발했으며, 신뢰할 수 있는 분산 컴퓨팅에 대한 기본 특허를 획득했다.

원래 연구에 뿌리를 둔 인터트러스트는 제품 중심의 회사로 발전하여 디바이스 및 데이터 운영을 통일하는 신뢰할 수 있는 컴퓨팅 서비스를 제공하며, 특히 IoT 및 AI를 위한 서비스를 제공한다. 그들의 시장에는 미디어 배포, 디바이스 身分 인증, 디지털 에너지 관리, 분석, 클라우드 저장소 보안 등이 포함된다.

우리는 어떻게 AI 신뢰 격차를 메우고 AI 안전성 및 신뢰성에 대한 대중의 증가하는 우려를 해결할 수 있을까?

투명성이 가장 중요한 품질이라고 생각하며, 이는 AI 메커니즘을 포함하는 시스템을 이해하는 데 도움이 되며, 기술자와 소비자 모두에게 도움이 된다. 투명성은 AI 모델의 훈련, 가드레일, 정책, 보증 등에 대한 정보를 제공한다. 이러한 투명성으로 인해 우리는 실제 위험과 문제를 해결하고, 비이성적인 두려움과 추측에 방해받지 않을 수 있다.

메타데이터 인증은 AI 출력의 신뢰성을 보장하는 데 어떤 역할을 하는가?

메타데이터 인증은 AI 모델 또는 메커니즘에 대한 보증이 신뢰할 수 있는지 여부를 확인하는 데 도움이 된다. AI 모델 카드는 메타데이터의 한 예로, 특정 목적을 위해 AI 메커니즘을 평가하는 데 사용할 수 있다. 우리는 모델 카드의 명확성과 완전성에 대한 표준을 설정해야 하며, 성능, 편향, 훈련 데이터 속성 등에 대한 정량적 측정과 인증된 주장을 포함해야 한다.

조직은 대규모 언어 모델(LLM)에서 AI 편향과 환각을 어떻게 완화할 수 있는가?

적대적 테스트는 이러한 위험을 개발 및 배포 과정에서 해결하는 일반적인 접근 방식이다. 원래 보안 시스템을 평가하기 위해 사용된 이 접근 방식은 이제 AI 기반 시스템에서 표준이 되고 있다. 이는 시스템의 전체 수명 주기에서 위험 관리를 위한 시스템 접근 방식이며, 초기 개발부터 필드 배포까지, 전체 개발 공급망을 포함해야 한다. 특히 모델에 사용된 훈련 데이터의 분류와 인증이 중요하다.

기업은 AI 시스템에서 투명성을 어떻게 만들 수 있으며, “블랙 박스” 문제와 관련된 위험을 어떻게 줄일 수 있는가?

기업은 모델을 사용할 계획과 모델을 배포할 때 발생할 수 있는 책임을 이해해야 한다. 모델의_pedigree_를 이해해야 하며, 모델 카드의 주장, 적대적 테스트 결과, 회사 특정 사용에 대한 차이 분석, 공식적으로 평가된 내용, 다른 사람의 경험 등을 포함해야 한다. 현실적인 환경에서 포괄적인 테스트 계획을 사용하여 내부 테스트가 절대적으로 필요하다. 이 분야는 아직 초기 단계이므로, 최고의 관행을 따라야 한다.

AI 시스템은 어떻게 윤리 지침을 고려하여 설계할 수 있으며, 다양한 산업에서 이를 달성하는 데 어떤 도전이 있는가?

이것은 연구 분야이며, 많은 사람들이 윤리와 현재의 AI 버전이 불일치한다고 주장한다. 예를 들어, 인간이 이해하는 단순한 규칙인 “사기하지 마라”는 보장하기 어렵다. 그러나 상호 작용과 목표 기반 학습의 충돌을 주의 깊게 분석하고, 가짜 데이터와 허위 정보를 제외하고, 가드레일을 적용하고 윤리 원칙을 위반하는 출력 내용에 대한 테스트를 수행하는 규칙을 구축하는 것이 고려되어야 한다. 또한, 모델을 윤리 원칙에 더 잘 맞추기 위해 엄격한 편향 테스트가 도움이 될 수 있다. 다시 말하지만, 많은 부분이 개념적이므로, 주어진 접근 방식의 영향을 테스트하는 데 주의가 필요하다.

AI는 미래에 어떤 주요 위험과 도전을 직면하게 될 것인가, 특히 IoT 시스템과 더 많이 통합됨에 따라?

우리는 중요한 인프라 프로세스를 최적화하기 위해 AI를 사용하여 시스템을 자동화하고 싶다. 예를 들어, 가상 발전소는 에너지 생산, 저장, 사용의 千 개의 요소를 조정할 수 있으며, 이는 대규모 자동화와 분 단위의 의사 결정에 AI를 사용하여만 가능하다. 이러한 시스템에는 상반되는 최적화 목표를 가진 에이전트가 포함될 수 있다(예: 소비자와 공급자의 이익). AI 안전성과 보안은 이러한 시스템의 대규모 배포에서 중요하다.

AI 시스템에서 엔티티를 안전하게 식별하고 인증하기 위해 어떤 종류의 인프라가 필요한가?

우리는 AI 시스템과 그 배포에 대한 모든 측면을 평가하는 엔티티가 신뢰할 수 있는 주장과 인증된 주장을 효율적으로 발행하고 검증할 수 있는 강력하고 효율적인 인프라가 필요하다. 이 인프라는 또한 사용자와 자동화된 시스템이 AI 모델과 최적화기에 대한 출력에 따라 결정하는 데 사용하는 주장과 주장을 효율적으로 검증할 수 있어야 한다.

인터트러스트에서 작업하는 내용과 앞서 논의한 내용과의 관련성에 대해 알려줄 수 있겠는가?

우리는 이전 질문에서 필요한 신뢰 관리 인프라를 제공할 수 있는 기술을 연구하고 설계한다. 우리는 특히 IoT 시스템에서 발생하는 규모, 대기 시간, 보안 및 상호 운용성 문제를 해결하고 있다.

인터트러스트의 공개 키 인프라(PKI) 서비스는 어떻게 IoT 장치를 보안하며, 대규모 배포에 대해 확장 가능하게 하는가?

우리의 PKI는 디바이스와 디지털 콘텐츠의 거버넌스를 포함하는 시스템의 신뢰 관리를 위해 특별히 설계되었다. 우리는 수십억 개의 암호화 키와 인증서를 배포했으며, 규정 준수를 보장한다. 현재 우리는 대규모 산업 자동화와 중요 인프라에 필요한 규모와 보증에 대한 연구를 진행하고 있으며, “제로 트러스트” 배포와 장치 및 데이터 인증에 대한 최고의 관행을 포함한다.

당신은 NIST의 AI 이니셔티브에 참여하기 위해 어떤 동기를 부여받았으며, 신뢰할 수 있는 안전한 AI 표준 개발에 어떻게 기여하는가?

NIST는 보안 시스템에서 표준과 최고의 관행을 개발하는 데 탁월한 경험과 성공을 가지고 있다. 인터트러스트의 수석 연구원으로서, 나는 신뢰 관리 시스템을 포함하는 중요한 표준과 최고의 관행을 주장할 수 있다. 이전의 경험에서, 나는 특히 NIST가 창의성, 진보, 산업 협력을 촉진하면서 중요한 기술 표준을 수립하고 공표하는 접근 방식을 높이 평가한다. 이러한 표준은 유익한 기술의 채택을 촉진하고 사회가 직면하는 위험을 해결하는 데 도움이 될 수 있다.

인터뷰에 감사드리며, 더 많은 정보를 원하는 독자는 인터트러스트를 방문할 수 있다.