EU의 새로운 AI 행동 강령, 규제에 미칠 영향

유럽 위원회는 최근 AI 회사들의 운영 방식을 변경할 수 있는 행동 강령을 도입했습니다. 이는 단순한 지침이 아닌 AI 감시의 완전한 전면 개편으로, 가장 큰 회사도 무시할 수 없습니다.

이번에 무엇이 다르나요? 처음으로, 오픈AI와 구글 같은 회사들이 외부 테스트를 위해 모델을 열어야 하는 구체적인 규칙을 보게 됩니다. 이는 유럽에서 AI 시스템이 개발되고 배포되는 방식에 근본적인 변화를 가져올 것입니다.

AI 감시의 새로운 강자

유럽 위원회는 ‘시스템 위험’이라고 불리는 AI 시스템을 대상으로 하는 프레임워크를 만들었습니다. 우리는 10^25 FLOPs의 계산 능력을 가진 모델을 말합니다. 이는 GPT-4가 이미 넘어선 임계값입니다.

회사는 AI 훈련 계획을 시작하기 2주 전에 보고해야 합니다.

이 새로운 시스템의 중심에는 두 가지 핵심 문서가 있습니다: 안전 및 보안 프레임워크(SSF)와 안전 및 보안 보고서(SSR). SSF는 초기 위험 식별에서 지속적인 보안 조치까지 AI 위험을 관리하는 포괄적인 로드맵입니다. 한편, SSR는 각 모델에 대한 자세한 문서화 도구로 작용합니다.

고위험 AI 모델에 대한 외부 테스트

위원회는 고위험 AI 모델에 대한 외부 테스트를 요구하고 있습니다. 이는 표준적인 내부 품질 검사가 아닙니다. 독립적인 전문가와 유럽의 AI 사무소가 이러한 시스템을 조사할 것입니다.

이것의 의미는 큽니다. 오픈AI나 구글 같은 회사라면, 외부 전문가가 시스템을 검사해야 합니다. 초안은 명백하게 “배포 전에 충분한 독립적인 전문가 테스트를 보장해야 한다”고 명시하고 있습니다. 이는 현재의 자체 규제 접근 방식에서 큰 변화를 의미합니다.

이제 이러한 복잡한 시스템을 테스트할 수 있는 전문가가 누구인지 궁금해집니다. 유럽의 AI 사무소는 이전에 탐험되지 않은 영역으로 진입하고 있습니다. 그들은 새로운 AI 기술을 이해하고 평가할 수 있는 전문가들이 필요합니다. 또한 그들이 발견한 내용에 대해 엄격한 기밀을 유지해야 합니다.

이 외부 테스트 요구 사항은 유럽 전역에서 위원회의 집행 조치 통해 의무화될 수 있습니다. 회사들은 “적절한 대체 수단”을 통해 준수를 증명하려고 시도할 수 있지만, 실제로는 어떤 의미인지 정확히 알 수 없습니다.

저작권 보호, 심각해지다

유럽은 또한 저작권 문제에 대해 심각한态度를 취하고 있습니다. AI 제공업체들은 지적 재산권을 처리하는 방식에 대한 명확한 정책을 만들어야 합니다.

위원회는 robots.txt 표준을 지지하고 있습니다. 이는 웹 크롤러가 어디에서 데이터를 수집할 수 있는지 알려주는 간단한 파일입니다. 웹사이트가 robots.txt를 통해 “안됨”을 표시하면, AI 회사는 이를 무시하고 해당 콘텐츠를 훈련 데이터로 사용할 수 없습니다. 검색 엔진은 이러한 제한을 사용하는 사이트를 페널티하지 않습니다. 이는 콘텐츠 제작자를 다시 운전석에 앉히는 강력한 조치입니다.

AI 회사는 또한 훈련 데이터를 수집할 때 해적 사이트를 피해야 합니다. 유럽은 이를 위해 “가짜 및 해적 방지 감시 목록”을 제공하고 있습니다.

미래를 위한 의미

유럽은 완전히 새로운 AI 개발 환경을 만들고 있습니다. 이러한 요구 사항은 회사들이 AI 프로젝트를 계획하는 방식부터 훈련 데이터를 수집하는 방식까지 모든 것을影响할 것입니다.

모든 주요 AI 회사는 이제 선택의 기로에 서 있습니다. 그들은:

• 외부 테스트를 위해 모델을 열어야 합니다
• 준수하는 “대체 수단”을 찾아야 합니다
• 유럽 시장에서 운영을 제한할 수 있습니다

이번 규제의 시기 또한 중요합니다. 이는 먼 미래의 규제가 아닙니다. 위원회는 빠르게 움직이고 있습니다. 약 1,000명의 이해관계자를 4개의 워킹 그룹으로 나누어, 이 규제의 세부 사항을 다루고 있습니다.

AI 시스템을 개발하는 회사들은 “빨리 움직이고 규칙을 나중에 생각한다”라는 시대가 끝나고 있습니다. 그들은 이러한 요구 사항을 지금부터 고려해야 합니다. 즉:

• 개발 일정에 외부 감사를 계획해야 합니다
• 강력한 저작권 준수 시스템을 구축해야 합니다
• 유럽의 요구 사항에 맞는 문서화 프레임워크를 구축해야 합니다

이 규제의 실제 영향은 향후 몇 개월 동안 나타날 것입니다. 일부 회사들은 우회를 찾으려 할 수 있지만, 다른 회사들은 이러한 요구 사항을 개발 프로세스에 통합할 것입니다. 유럽의 프레임워크는 다른 지역이 유사한 감시 조치를 취할 경우,全球적으로 AI 개발이 어떻게 진행되는지 영향을 미칠 수 있습니다. 이러한 규칙이 초안에서 구현으로 이동함에 따라, AI 산업은 가장 큰 규제적 변화를 맞이할 것입니다.