AI 금지로 인한 보안 위험과 기관의 대응 방법

전국적으로 학교 구역과 공공 기관은 생성적 인공지능(GenAI) 기술이나 특정 도구에 대한 접근을 제한하거나 차단하기 위해 움직이고 있습니다. 콜로라도의 볼더 밸리 학교 구역은 最近에 ChatGPT를 구역 네트워크에서 금지시켰습니다. 이는 오용, 안전, 학술诚実성에 대한 우려를 인용했습니다.

보안 사고나 데이터 오용에 대한 노출을 줄이려는 본능은 이해할 수 있습니다. 약한 가드레일이나 불분명한 개인 정보 보호 약속을 가진 플랫폼인 DeepSeek와 같은 경우에는 제한과 검토가 필요합니다. 그러나 GenAI 도구에 대한 접근을 금지하면 위험을 실제로 줄이지 못합니다. 이는 단지 감시가消える 환경으로 위험을 옮기는 것뿐입니다.

College Board 설문조사에 따르면 84%의 고등학생들이 학교 과제를 위해 GenAI를 사용한다고 보고했으며, 45%의 교장은 학교에서 AI 접근을 제한했다고 보고했습니다. 同様하게, IBM 보고서에 따르면 80%의 사무실 근로자가 AI를 사용하지만, 22%만이 고용주 제공 도구만을 사용합니다.

접근 정책만이 행동을 결정하지 않습니다. 학생들은 휴대폰을 꺼내서 셀룰러 데이터 네트워크를 통해任意의 AI 도구를 사용하거나, 집이나 공공 와이파이에서 플랫폼을 사용할 수 있습니다. 또한 VPN, 원격 데스크톱, 플러그인을 사용하여 제한을 우회할 수 있습니다. 직원들도 같은 방법으로 작업장 제어를 피할 수 있습니다.

기관은 AI를 사용하려는 의지가 있다면 방법이 있을 것이라고 가정해야 합니다. 기술이 제한되어 기관의 가시성 밖으로 사용이 밀어붙일 때, 그림자 AI의 위험은 증가합니다. 프롬프트에 입력된 정보나 모델에 의해 보관되는 데이터에 대한 감시가 없습니다. 보안에 대한 제어는 즉시消えます.

그림자 AI의 위험을 넘어서, 금지 조치는 문해력 격차를 만들며, 학생들을 미래에 사용할 기술을 사용할 준비가 되지 않은 상태로 남겨둡니다. 이러한 도구는 점점 더 검색 엔진, 비즈니스 플랫폼, 생산성 스위트, 개인 기기에 내장되고 있습니다. Pew Research 설문조사에 따르면 62%의 미국 성인은 적어도 일주일에 여러 번 AI와 상호작용한다고 보고했습니다. 기관의 정책과 상관없이 학생들과 직원들은 GenAI 시스템을遇遇할 가능성이 매우 높습니다.

이 환경에서 교육은 오용이나 보안에 대한 우려를 방지하는 가장 신뢰할 수 있는 방어 수단입니다. 또한 학생들과 직원들이 이러한 시스템을 사용할 때 책임감 있고 윤리적으로 사용할 수 있도록 준비시킵니다. 책임감 있고 윤리적인 사용을 가르침으로써 사용자는 데이터 위험을 인식하고 이러한 시스템을遇遇할 때 정보에 기반한 결정을 내릴 수 있습니다.

교육 프로그램은 대형 언어 모델(LLM)이 데이터를 처리하고 보관하는 방법, 환각을 식별하는 방법, AI 생성 출력을 검증하는 방법, 피싱 캠페인과 AI 생성 이미지를 식별하는 방법 등을 중점으로 해야 합니다. 사용자를 회의적으로 만들기 위해 가르칩니다. AI 출력은 자주 확신과 다듬어진 언어로 제시되므로 권위의 환상을 만들 수 있습니다. 훈련 없이 사용자는 잘 정리된 답변은 본질적으로 정확하다고 가정할 수 있습니다.

디지털 콘텐츠에 대한 질문하는 능력은 딥페이크와 AI 강화 피싱 캠페인이 더 복잡해짐에 따라 최전선 방어 수단입니다. Gartner 설문조사에 따르면 62%의 기관이 지난 해에 딥페이크 공격을 경험했으며, 32%는 AI 애플리케이션에 대한 공격을 경험했습니다. 이러한 사건의 빈도와 범위는 계속 증가할 것으로 예상됩니다.

공공 기관인 학교와 지방 정부는 특히 딥페이크를 이용한 사회 공학에 취약합니다. 그들은 많은 활동이 녹음되고 공개되기 때문입니다. 공공 회의에서 오디오 클립을 조작하여 설득력 있는 음성 호출을 생성할 수 있습니다. 우리는 이러한 기술을 사기, 예를 들어 민감한 거래 중에 자금을.redirect하는 데 사용하는 위협 행위자들을 보았습니다. 이는 주로 목표를 명확하게 한 경우에 발생하지만, 이러한 기술을 인식하지 못하거나 가능성조차 모르는 사용자는 처음부터 불리합니다.

교육에 이어 기관은 AI 사용과 거버넌스에 대한 명확한 정책을 가지고 있어야 합니다. 이러한 정책은 승인된 도구, 허용되는 사용 사례, 입력할 수 있는 데이터를 정의해야 합니다. 정책은 부서 간에 일관되게 적용되어야 하며, 교실이나 사무실마다 다르게 적용되어서는 안 됩니다. 명확한 기대는 모호성을 줄이고 책임을 강화합니다.

일괄적인 제한 대신 기관은 기술을 사용하는 방식을 형성해야 합니다. 기관이 접근성이 좋고, 보안이 좋고, 잘 작동하는 도구를 승인하면, 대부분의 사용자에게 기본값이 됩니다. 사소한 그림자 AI 사용은 감소합니다. 사용자가 VPN을 다운로드하여 사용할 필요가 없기 때문입니다.

기관과 기관은 데이터가 보안되고 공유되거나 모델에 의해 훈련되지 않도록 LLM에 대한 보안 접근을 제공하려고 합니다. AI 활성화 및 보안 도구의 새로운 범주는 이를 정확히 수행하기 위해 등장하고 있습니다. 이러한 도구는 여러 LLM에 대한 접근을 제공하면서 기관의 데이터를 안전하게 컨테이너화할 수 있습니다. 데이터 보유 제로 계약은 기관의 데이터가 회사 또는 기관의 재산으로 남아 있고, LLM이 이를 훈련에 사용할 수 없음을 보장하는 법적 프레임워크를 제공합니다. 또한, 직원이 기관을 떠나면 AI 사용, 워크플로, 데이터는 기관의 재산으로 남습니다.

기능 수준에서 기술 가드레일을 적용할 수 있습니다. 기관은 학생이나 직원이 승인된 LLM 내에서 일반적인 질문을 묻도록 허용하면서 파일 업로드, 문서 공유, 기타 고위험 기능을 비활성화할 수 있습니다. 이러한 구성은 생산성 이점을 유지하면서 데이터 노출을 제어하지 못하게 합니다.

보다 발전된 도구는 모델에 도달하기 전에 민감한 정보를 자동으로匿名화할 수 있습니다. 예를 들어, 의사와 간호사가 GenAI를 사용할 수 있도록 환자 이름이나 식별자를 중립적인 플레이스홀더로 바꿀 수 있습니다. 다른 도구는 데이터 손실 방지 제어를 통합하여 소셜 보안 번호, 금융 계좌 데이터, 기타 규제 정보가 프롬프트에 제출되는 것을檢測하고 차단합니다.

교육을 기반으로 하는 명확한 정책과 기술 가드레일은 빠르게 변화하는 기술로 인해 공공 기관의 예산과 함께 적응하기 어려운 경우에 최선의 방어 수단을 제공합니다. 새로운 모델이 등장할 때마다 이를 차단하려고 하는 것은 지속 불가능합니다. 사용자가 temel 위험을 이해하도록 훈련하면 도구와 버전을 가로지르며 적응할 수 있습니다.

AI 활성화된 환경에서 보안은 GenAI가 일상 생활에 내재되어 있다는 현실을 인정하는 데 달려 있습니다. 지니를 다시 병에 넣을 수 없습니다. 일괄적인 금지 조치는 주의를 나타낼 수 있지만, 가시적이고 관리 가능한 위험을 보이지 않는, 관리되지 않는 노출로 바꿉니다. 책임감 있게 AI를 사용하는 사람을 가르치면, 무엇이 오든지 준비할 수 있습니다.