아르티 사마니, 슈림 성장 파트너스 창립자 및 CEO – 인터뷰 시리즈

아르티 사마니, 슈림 성장 파트너스의 창립자이자 CEO는 2십년 이상의 경험을 가진 기술 리더이자 AI 전략가로서 AI, 디지털 身分 및 생체 보안 분야에서 성장을 주도해왔다. 그는 iProov 및 Digital Surgery (Medtronic에 인수됨)에서 최고 제품 및 마케팅 책임자로 재직하며 글로벌 제품 및 마케팅 전략을 주도하고 주요 자금 조달을 확보했다. 그는 빈번한 BBC 해설가이자 Money 20/20 및 CogX Festival을 포함한 글로벌 행사에서 키노트 연사이며, AI 윤리, 거버넌스 및 위험에 대한 조언을 제공하여 조직이 인공 지능의 시대에 신뢰와 탄력성을 구축하도록 도와준다.

슈림 성장 파트너스는 조직이 심층 가짜 사기와 AI 주도적인 위장에 대비하는 데 도움을 주기 위해 인간 방어 계층에 초점을 맞춘다. 맞춤형 교육, 임원 브리핑, 취약성 평가 및 전략적 상담을 통해 회사에서는 팀과 리더들이 조작 시도를 인식, 대응 및 방지할 수 있도록 준비시킨다. 인식, 준비 및 문화적 탄력성을 조성함으로써 슈림은 조직이 자신의 身分, 평판 및 근로자를不断적인 AI 위협으로부터 보호할 수 있도록 강화한다.

슈림 성장 파트너스를 설립한 이유는 무엇인가?

2022년 말 ChatGPT가 출시된 이후, 우리는 몇 분 만에 목소리와 얼굴을 복제할 수 있는 AI 기반 미디어 도구의 폭발적인 증가를 목격했다. 대부분의 조직은 이를 디자인 및 마케팅을 위한 창의적인 가속기로서 보았다. 그러나 범죄자는 새로운 사회 공학의 기회를 보았다.

심층 가짜는 범죄자들이 사람들을 조작하는 데 사용하는 도구가 되었다. 보안 팀은 탐지 기술에 투자하여 대응했지만, 탐지만으로는 인간의 신뢰에 뿌리를 둔 문제를 해결할 수 없다. 심리학은 산업의 맹점이었다.

그 통찰력은 나에게 심층 가짜 사기 방어를 위한 인식, 시뮬레이션 및 인지적 탄력성을 통해 건설하는 회사인 슈림 성장 파트너스를 설립하도록 영감을 주었다. 사람들의 비판적思考 능력과 조작에 대한 저항력을 강화하는 것이 이러한 유형의 사기를 완화하는 열쇠이다.

iProov에서 얼굴 생체 인증과 身分 확인의 최전선에서 일했습니다. 심층 가짜가 인증 시스템에 미치는 증가하는 위협을 어떻게 인식하게 되셨나요?

iProov의 최고 제품 및 마케팅 책임자로서, 나는 보안 민감한 조직에서 얼굴 생체 인증을 도입하는 데 도움을 주었다. 이러한 기관은 끊임없이 조직적인 사이버 범죄의 대상이 된다. 그들의 적은 지능이 높고, 잘 자금이 지원되고, 최신 기술을 보유하고 있다.

우리는 도난당한 身分으로부터 생성된 심층 가짜를 사용하여 생체 인증 시스템을 우회하는 시도를 보기 시작했다. iProov는 클라우드 기반 관리 서비스로 운영되었기 때문에 우리는 이러한 공격을 실시간으로 관찰하고 각 반복이 어떻게 발전하는지 분석할 수 있었다. 범죄자들이 시장보다 더 빠르게 학습하고 있다는 것이 명백해졌다.

그 경험은 나에게 심층 가짜로 가능해진 사기와 어떻게 사이버 범죄의 창의성과 심리학이 작용하는지에 대한 내부적인 통찰력을 제공했다. 그 같은 범죄자 마음가짐의 이해가 지금 내 심층 가짜 사기 방어 작업에 정보를 제공한다.

현재 심층 가짜가 가장 자주 사용되는 시나리오는 무엇인가?

사회 공학은 보안 시스템을 깨는 것보다 더 쉽다. 사람들이 전통적인 사기 방식에 더 민감해짐에 따라, 범죄자는 신뢰를 조작하는 새로운 방법을 찾고 있다.

심층 가짜 기술은 우리가 본 가장 강력한 사회 공학 도구가 되었다. 그것은 현실적인 얼굴, 목소리 및 내러티브를 생성하여 인간의 판단을 우회할 수 있다.

범죄자의 이점은 임원 인물이나 지불에만 국한되지 않는다. 지적財産, 민감한 데이터 및 접근 자격증명이 점점 더 많이 목표가 되고 있다. AI 에이전트를 훈련시키고 복제된 목소리를 주면, 사기는 인간 공격자와는 비교할 수 없는 규모, 속도 및 정밀도로 수행될 수 있다. 그것이 우리가 접근하는 위협 지평이다.

심층 가짜 사기 방어 프로그램은 전통적인 사이버 보안 또는 반 피싱 훈련과 어떻게 다른가?

サイバー 보안 훈련은 2000년대初期에 인터넷과 상업 컴퓨팅이 형성되던 시기에 만들어졌다. 그 이후로, 내용은 규제 요구에 따라 발전하여, 참여를 위한 LMS 플랫폼과 게임화에 초점을 맞추었다. 그러나 위협 풍경은 발전했다.

오늘날의 사기는 지능이 높고, 창의적이며, 심리학적으로 설계되었다. 범죄자는 학계 또는 기업과同じ 수준의 정교함으로 AI를 사용한다. 훈련은 따라서 규제를 넘어서 인지로 이동해야 한다.

심층 가짜 사기 방어 훈련은 링크를 클릭하는지 여부에만 국한될 수 없다. 그것은 사람들을 비판적으로 생각하게 하고, 상호작용하는 얼굴과 목소리의 진위를 의심하게 하고, 인식이 얼마나 쉽게 조작될 수 있는지 인식하도록 가르쳐야 한다.

인식력과 함께 인지적 탄력성에 대한 동일한 강조가 필요하다. 강조된 감정, 산만한 마음, 그리고 끊임없는 멀티 태스킹은 모두 비판적思考을 약화시킨다. 인지적 탄력성을 구축하면 직원이 정서적 평형을 유지하고, 분석적이고, 경각심을 유지하도록 훈련시킨다. 그것은 조작에 저항하는 데 필요한 마음가짐이다.

당신의 회사에서는 심층 가짜 취약성 평가와 테이블톱 훈련을 제공한다. 그 시뮬레이션은 무엇처럼 보이고, 고객은 일반적으로 어떤 통찰력을 얻는가?

우리의 취약성 평가와 테이블톱 훈련에서, 우리는 실제 사건에서 가져온 최신 심층 가짜로 가능해진 공격 벡터를 복제한다. 일반적인 시나리오는 복제된 身分을 사용하는 가짜 직원申请, IT 헬프 데스크를 손상하여 다단계 인증 자격증명을 재설정하거나, 악의적인 소프트웨어를 다운로드하도록 직원을 설득하는 AI 생성된 인물의 비디오 통화이다.

이러한 시뮬레이션은 사람들이 압력하에서 어떻게 반응하는지 보여주고, 의사소통, 프로세스 및 사고 대응에서 맹점을暴露한다. 임원들은 종종 전문 지식의 부족과 명확하지 않은 의사 결정 소유권을 발견한다. 결과는 일반적으로 지속 가능한 탄력성 프로그램으로 이어진다. 그것은 사기 문해력, 프로세스 및 문화 변경, 그리고 조직 전체의 위기 준비를 강화한다.

당신은 종종 인간 중심 위험 관리에 대해 이야기합니다. 회사는 어떻게 직원을 심층 가짜 조작에 저항할 수 있도록 강화할 수 있나요?

심층 가짜는 우리가 신뢰와 감정을 평가하는 동일한 신경 회로를 이용한다. 우리의 뇌는 시각적 및 청각적 신호를 우선시하는 것으로 프로그램되어 있다. 그러나 우리는 이러한 신호를 직관적으로 의심하도록 진화하지 않았으므로, 우리는 그 기술을 학습하고 반복적으로 강화해야 한다.

회사는 직원을 디지털 상호작용에 대해 주의와 호기심으로 다룰 수 있도록 훈련시킴으로써 직원을 강화할 수 있다. 음성 또는 비디오 통화 중일 때, 우리는 화면에 투영된 실제 사람 또는 인공적인 사람과 상호작용할 수 있다. 우리는 시각적으로 그것을 결정할 수 없다.

유일한 방어는 적극적인 검증이다. 올바른 질문을 묻고, 세부 사항을 교차 확인하고, 내러티브의 불일치를注意한다. 새로운 모토는 간단하다 – 영신뢰, 항상 검증한다.

심층 가짜는 허위 정보와 사기 사이의 경계를 흐리게 만든다. 임원들은 합성 미디어 사건으로 인한 평판 및 운영 위기에 어떻게 대비할 수 있나요?

리더십 팀은 심층 가짜 사건을 핵심 비즈니스 위험으로 간주해야 한다. 위기가 발생할 때마다마다 각 임원이 자신의 역할을 알고 있어야 한다.

보드가 위험 등록부를 검토하는 것과 마찬가지로, 그들은 또한 사고 대응 계획을 검토해야 한다. 이러한 계획은 정적일 수 없다. 위협 풍경은 너무 빠르게 발전한다. 계획은 적어도 반년마다 스트레스 테스트를 거치고, 실제 사건을 시뮬레이션하는 테이블톱 훈련에 따라 업데이트되어야 한다.

심층 가짜 위기는 일반적으로 하나의 기능 내에서 발생하지 않는다. 그것은 커뮤니케이션, 법률, 보안, 인사 간의 조정을 요구한다. 가장 잘 대응하는 조직은 실제 사건이 발생하기 전에 그 협력을 리허설하는 리더들을 보유한 것이다.

직원이나 임원이 심층 가짜의 목표가 된 경우, 조직은 인간적 영향을 어떻게 해결해야 합니까?

“사기 수치심”은 모든 비용으로 피해야 한다. 조직은 실제 사건이 발생하기 전에 심리학적 안전의 문화를 구축해야 한다. 직원이나 임원이 심층 가짜의 목표가 된 경우, 그 경험은 공격과 같은 느낌을 줄 수 있다. 디지털 身分과 목소리의 상실이다.

반응은 절차적이고 인간적이어야 한다. 명확한 보고 프로토콜은 정신 건강 지원, 기밀 브리핑 및 디지털 포렌식과 함께 있어야 한다. 그러면 개인은 무엇이 발생했는지 이해할 수 있다.

리더들은 тон을 정한다. 임원들이 조작 시도와 회복에 대해 공개적으로 말할 때, 그것은 수치심을 제거하고 투명성을鼓励한다. 그 개방성이 개인의 취약성을 집단의 탄력성으로 전환한다.

당신은 이 분야의 컨설턴트로서, 생성된 AI가 얼마나 빠르게 발전하고 있는지에 대한 가장 큰 우려는 무엇인가?

생성된 AI는 비범한 속도로 발전하고 있다. 그것 자체가 우려의 대상은 아니다. 실제 위험은 그것의 빠른 채택과 일상적인 비즈니스 운영에서 그것의 끈끈함에 있다. 위협 관리와 인식의 속도는 단순히 따라가지 못했다. 그 간격은 바로 사기꾼이 번창하는 곳이다. 심층 가짜는 가장 효과적인 도구이다.

모든 새로운 혁신은 또 다른 표면을 노출한다. 현재, AI 에이전트는 점점 더 큰 위험을 나타낸다. 심층 가짜 기술과 결합하면, 그것은 인간 공격자와는 비교할 수 없는 규모, 속도 및 정밀도로 사기를 수행할 수 있다.

반대로, 심층 가짜 주도적인 사기와 허위 정보를 앞서나갈 수 있도록 도와주는 기술이나 협력 노력은 무엇인가?

이 대화가 존경받는 출판물에서 진행되고 있다는 사실 자체가 진행의 징조이다. 그것은 혁신가, 규제자, 미디어 및 기업이 모두 허위 정보에 의해 강타되고 있음을 보여준다.

나에게 낙관을 주는 것은 협력의 증가하는 의지이다. 심층 가짜 방어는 하나의 도구나 하나의 조직에서 오지 않는다. 그것은 공유 지식에서 온다. 정보를 교환하고, 커뮤니티를 교육하는 방법을 배우는 것이다. 범죄자들이 하는 것만큼 효율적으로.

우리는 아직 그 협력이 어떻게 일어나는지 정제해야 한다. 그러나 의도는 있다. 그리고 그 집단의 의도는 궁극적으로 신뢰를 회복할 것이다.

위대한 인터뷰에 감사합니다. 더 많은 것을 배우고 싶은 독자는 아르티 사마니를 방문해야 합니다.