제어된 망각: AI의 기억에서 다음 큰 도전

수년간, AI 분야는 하나의 목표에만 집중했습니다. 시스템이 더 잘 기억하도록 하는 것입니다. 우리는 대규모 데이터셋에서 모델을 훈련시키고 지속적으로 정보를 유지하고 회상하는 능력을 향상시켰습니다. 그러나 우리는 불편한 현실을 깨닫고 있습니다. 절대 잊지 않는 시스템은 이제 자신의 기억에 갇혀 있습니다.曾经의 강점은 심각한 약점이 되었습니다.

인간은 자연스럽게 잊습니다. 우리는 정보를 놓아주고, 적응하고, 앞으로 나아갑니다. AI 시스템은 다르게 작동합니다. chúng는 모든 것을 기억합니다. 우리가 잊기를 가르칠 때까지는 말입니다. 이것은 실제 문제를 일으킵니다. AI는 개인 정보 보호 위반, 구식 정보, 내장된 편향, 시스템이 새로운 작업을 학습할 때 깨지는 문제에 어려움을 겪습니다. 앞으로의 도전은 AI가 더 많이 기억하도록 하는 것이 아닙니다. 우리는 AI가 지혜롭게, 선택적으로, 지능적으로 잊을 수 있도록 가르쳐야 합니다.

망각의 두 얼굴

AI에서 망각은 두 가지 다른 형태로 나타납니다. 각기 다른 문제를 가지고 있습니다.

첫 번째는 참사적 망각입니다. 이것은 신경망이 새로운 작업을 훈련할 때 이전에 학습한 지식을 잃을 때 발생합니다. 예를 들어, 고양이와 개를 인식하도록 훈련된 모델은 새를 식별하는 방법을 학습한 후 그 능력을 잃을 수 있습니다.

두 번째 형태는 제어된 망각입니다. 이것은 의도적입니다. 훈련된 모델에서 특정 정보를 제거하는 것을 포함합니다. GDPR와 같은 개인 정보 보호 법은 사람들에게 “잊혀질 권리”를 부여합니다. 이는 회사들이 요청 시 데이터를 삭제하도록 요구합니다. 이것은 고장난 시스템을 수정하는 것이 아닙니다. 이것은 절대 저장되어서는 안 되는 데이터나 삭제되어야 하는 데이터를 의도적으로 제거하는 것입니다.

이 두 가지 문제는 서로 반대 방향으로 끌어당깁니다. 하나는 망각을 멈추라고 요구합니다. 다른 하나는 망각을 가능하게 합니다. 동시에 두 가지를 관리하는 것은 AI의 가장 어려운 도전 중 하나입니다.

기억이 부담이 될 때

AI 연구는 오랫동안 기억을 향상시키는 데 집중해 왔습니다. 모델은 더 커졌고, 데이터셋은 더 커졌고, 컨텍스트 창은 더 길어졌습니다. GPT-4o와 같은 시스템은 이제 128,000 토큰의 컨텍스트를 처리할 수 있으며, Claude는 200,000까지 도달할 수 있습니다. 이러한 발전은 성능을 향상시켰지만 새로운 문제도 giới thiệu했습니다.

모델이 너무 많은 것을 기억하면, 구식 또는 관련이 없는 정보를 회상할 수 있습니다. 이것은 계산을浪費하며 사용자를 혼란스럽게 할 수 있습니다. 예를 들어, 회사의 지식 베이스에서 훈련된 고객 지원 채팅봇을 고려해 보십시오. 정책을 업데이트한 후 몇 번의 상호 작용 후, 봇은 다시 구식 정보로 돌아갈 수 있습니다. 이것은 AI가 기억을 제대로 우선순위를 지정할 수 없기 때문입니다. AI는 현재 정보와 구식 정보를 구별할 수 없습니다.

개인 정보 보호 법은 상황을 더 어렵게 만듭니다. GDPR에 따라, 사용자가 자신의 데이터를 삭제하도록 요청하면, 회사는 그것을 삭제해야 합니다. 그러나 AI 모델에서 데이터를 삭제하는 것은 컴퓨터에서 파일을 삭제하는 것과 다릅니다. 한 번 모델의 매개변수에 개인 데이터가 포함되면, 네트워크 내의 수백만 개의 연결에 걸쳐 퍼집니다. 시스템 전체를 재훈련하여 그 데이터를 제거하는 것은 비용이 많이 들고 종종 불가능합니다. 연구에 따르면, 더 큰 모델은 사이버 공격에 더 취약합니다. 모델이 더 많이 기억할수록, 개인 데이터를 재생산할 가능성이 更高아집니다. 공격자는 신중하게 설계된 프롬프트를 통해 정보에 접근할 수 있습니다.

망각이 어려운 이유

AI 모델은 파일을 폴더에 저장하는 것과 같은 방식으로 훈련 예제를 저장하지 않습니다. 훈련 정보를 모델의 가중치와 활성화에 압축하고 혼합합니다. 다른 모든 것을 방해하지 않고 특정 데이터를 제거하는 것은 매우 어렵습니다. 또한, 특정 훈련 데이터가 모델의 내부 가중치를 어떻게影响하는지 쉽게 추적할 수 없습니다. 모델이 데이터에서 학습한 지식은 모델의 매개변수에 퍼져 나가는 방식으로难以추적합니다.

삭제 요청마다 모델을 처음부터 재훈련하는 것은 실용적이지 않습니다. GDPR에 따라, 사용자가 자신의 개인 데이터를 삭제하도록 요청하면, 회사는 그것을 AI 시스템에서 제거해야 합니다. 그러나 대부분의 생산 환경에서 모델을 처음부터 재훈련하는 것은 너무 비용이 많이 들고 시간이 걸립니다. 수십억 개의 데이터 포인트에서 훈련된 대규모 언어 모델의 경우, 이러한 접근 방식은 금지적으로 비용이 많이 들고 시간이 걸릴 것입니다.

망각을 검증하는 것도 또 다른 도전입니다. 데이터가 실제로 잊어버렸는지 어떻게 증명할 수 있나요? 회사는 외부 감사를 통해 데이터를 삭제했다는 것을 보여주어야 합니다. 신뢰할 수 있는 검증 방법이 없는 경우, 비즈니스에서는 규정 준수를 증명할 수 없으며, 사용자는 자신의 데이터가真正로 삭제되었다는 것을 확신할 수 없습니다.

이러한 도전은 새로운 분야인 기계 학습의 반대를 만들었습니다. 이것은 훈련된 모델에서 특정 데이터의 영향을 제거하는 기술에 중점을 둡니다. 그러나 이러한 방법은 아직 초기 단계에 있습니다. 정확한 반대 학습은 종종 모델을 재훈련하는 것을 필요로하며, 근사적인 방법은 삭제된 정보의 흔적을 남길 수 있습니다.

안정성-가소성 딜레마

우리가 해결해야 할 핵심 도전은 참사적 망각을 방지하면서 제어된 망각을 가능하게 하는 것입니다. 이것은 AI가 직면하는 주요 도전 중 하나인 안정성-가소성 딜레마를 đưa옵니다. 모델은 새로운 정보를 학습하기에 충분히 유연해야 하지만, 이전에 학습한 지식을 유지하기에 충분히 안정적이어야 합니다. 모델을 안정성으로 너무远으로 밀어붙이면, 모델은 적응할 수 없습니다. 반면에, 모델을 가소성으로 너무遠으로 밀어붙이면, 모델은 모든 것을 잊을 수 있습니다.

인간의 기억은 이 딜레마를 해결하는 데 유용한 단서를 제공합니다. 신경과학은 망각이 결함이 아니라는 것을 알려줍니다. 망각은 적극적인 과정입니다. 뇌는 새로운 기억이 남아 있도록 구식 또는 낮은 가치의 정보를 제거하거나 억제합니다. 사람들이 새로운 언어를 배우면, 이전 언어를 지우지 않습니다. 그러나 이전 언어를 사용하지 않으면, 회상하기가 더 어려워집니다. 정보는 여전히 존재하지만, 우선순위가 낮아집니다. 뇌는 삭제가 아닌 선택적 억제를 사용합니다.

AI 연구자들은 유사한 아이디어를 채택하기 시작했습니다. 생성적 재생 기술은 뇌가 기억을 저장하는 방식을 모방합니다. 이전 지식의 추상적인 표현을 생성하여 원시 데이터를 저장하는 대신, 이것은 참사적 망각을 줄이고 기억을 컴팩트하게 유지합니다. 또 다른 유망한 아이디어는 지능형衰退입니다. 저장된 기억은 최근성, 관련성, 유용성에 따라 점수가 매겨집니다. 중요하지 않은 기억은 점차 우선순위가 낮아지고, 필요할 때만 회상됩니다. 이것은 정보를 사용할 수 있지만 필요하지 않은 경우 숨겨둡니다. AI 시스템은 потен적으로 유용한 정보를 버리지 않고, 큰 지식 베이스를 관리할 수 있습니다.

목표는 삭제가 아닌, 기억과 망각을 지능적으로 균형있게 하는 것입니다.

미래는 어떨까?

산업은 세 가지 주요 방향으로 이동하고 있습니다.

첫째, 하이브리드 메모리 아키텍처가 등장하고 있습니다. 이러한 시스템은 에피소드 메모리(특정 경험)와 의미 메모리(일반 지식)를 결합합니다. 중요 정보를 유지하고 덜 관련된 정보를 페이드 아웃하는 랭킹 및 가지치기 메커니즘을 사용합니다. Pinecone과 Weaviate와 같은 벡터 데이터베이스는 이러한 메모리를 효율적으로 관리하고 회상하는 데 도움이 됩니다.

둘째, 개인 정보 보호를 강화하는 기술이 주목을 받고 있습니다. 연합 학습, 연합 학습, 차별적 개인 정보 보호, 호모모르픽 암호화와 같은 기술은 민감한 개인 데이터가 필요한 것을 줄입니다. 이러한 방법으로 모델은 협력적으로 또는 안전하게 훈련될 수 있으며, 민감한 사용자 정보를 수집할 필요가 없습니다. 이것은 직접적으로 망각을 해결하지는 않지만, 나중에 잊어야 할 개인 데이터의 양을 줄입니다.

셋째, 기계 학습의 반대는 계속 개선되고 있습니다. 새로운 방법은 모델의 매개변수를 특정 데이터에 연결하여 전체 재훈련 없이 조정할 수 있습니다. 이러한 접근 방식은 초기 단계에 있지만, 데이터 삭제 요구 사항을 준수하는 방향으로 나아갑니다. 그러나 데이터가 실제로 삭제되었는지 확인하는 것은 여전히 어렵습니다. 연구자들은 얼마나 잘 작동하는지 측정하는 테스트를 개발하고 있습니다.

결론

AI 시스템은 기억하는 데 탁월해졌습니다. 그러나 아직 망각하는 데 서툴습니다. 이 격차는 무시하기 어렵게 됩니다. AI가 더 강력해지고, 규제가 더 엄격해짐에 따라, 지혜롭게 잊는 능력은 기억하는 능력만큼 중요해질 것입니다. AI를 더 안전하게, 더 적응性 있게, 더 개인 정보 보호에 민감하게 만들기 위해, 우리는 AI가 조심스럽게, 선택적으로, 지능적으로 잊을 수 있도록 가르쳐야 합니다. 제어된 망각은 데이터 개인 정보 보호를 보호할 뿐만 아니라, AI 시스템이 자신의 기억에 갇히지 않고 진화하도록 도와줄 것입니다.