AI-최초란 안전-최초를 의미한다

아이에게 새 자전거를 사주면 자전거에 모든 관심이 집중되고, 함께 오는 반짝이는 헬멧에는 관심이 가지 않습니다. 그러나 부모들은 헬멧을 감사합니다.

저는 많은 사람들이 현재 AI에 대해 아이들과 같은 방식으로 생각한다는 것을 걱정합니다. 우리는 그것이 얼마나 멋지고 얼마나 빠르게 갈 수 있는지에만 집중하고, 그것을 사용할 때 안전을 유지하기 위해 무엇을 할 수 있는지에는 거의 관심이 없습니다. 안타까운 일입니다. 왜냐하면 하나의 이점을 다른 하나 없이 가질 수 없기 때문입니다.

간단히 말해서, 안전을 먼저 신중하게 계획하지 않고 AI를 적용하는 것은 단순히 위험한 것이 아닙니다. 그것은 절벽으로 향하는 직선 경로입니다.

AI 안전이란 무엇을 의미하는가?

AI 안전에는 여러 단계가 포함됩니다. 그러나 아마도 가장 중요한 요소는 언제 이러한 단계를 수행하는 것입니다. 효과적으로 작동하려면 AI 안전은 설계에 의해 이루어져야 합니다.

즉, 테스트 주행을 하기 전에 어떻게 피해를 방지할 수 있는지 고려합니다. 우리는 AI가 우리의 가치观과 사회적 기대에 따라 작동하고 결과를 생성하는지 확인하는 방법을 먼저 생각합니다. 나쁜 결과가 나타나기 전에 먼저 생각합니다.

AI 안전을 설계하는 것도 강건함을 의미합니다. 즉, 부정적인 상황에서도 예측 가능하게 작동할 수 있는 능력을 의미합니다. 또한 AI를 투명하게 만들어 결정이 이해 가능하고 감사 가능하며 편향되지 않도록 하는 것입니다.

또한 AI가 작동할 세계를 살펴보는 것도 포함됩니다. 정부 규정 준수를 위해 필요한 제도적 및 법적 안전 장치가 무엇인지 고려합니다. 그리고 사람 구성 요소를 강조하고 싶습니다. AI 사용의 영향은 무엇일까요?

안전을 설계하는 것은 모든 프로세스, 워크플로, 운영에 AI 안전을事先 내장하는 것을 의미합니다.

위험은 우려를 초과한다

모두가 동의하는 것은 아닙니다. “안전 우선”이라는 말을 들으면 일부 사람들은 “너무 조심스럽고 느리게 움직여서 뒤처진다”고 생각합니다. 물론, 안전 우선이라는 것은 그렇게 의미하는 것이 아닙니다. 그것은 혁신을 억제하거나 시장 출시 시간을 늦추지 않습니다. 또한 그것은 결코 확장하지 않는 시제품의 끝없는 흐름을 의미하지 않습니다. 반대로 그렇습니다.

그것은 AI에 안전을 설계하지 않는 위험을 이해하는 것을 의미합니다. 몇 가지 예를 고려해 보십시오.

• Deloitte의 금융 서비스 센터는 2027년까지 GenAI가 미국에서 40억 달러의 사기 손실을 초래할 수 있다고 예측합니다. 2023年的 12.3억 달러에서 32%의 연간 성장률입니다.
• 편향된 결정. 사례는 편향된 데이터로 훈련된 AI로 인한 편향된 의료 서비스를 문서화합니다.
• 나쁨의 나쁨. 잘못된 초기 결정은 나쁨의 나쁨을 초래할 수 있습니다. 연구에 따르면 잘못된 결정은 우리가 생각하고 미래의 결정을 내리는 방식을 형성할 수 있습니다.
• 실제적인 결과. 나쁜 의료 조언을 제공하는 AI는 치명적인 환자 결과를 초래했습니다. AI의 환상을 법적 근거로 인용한 결과 법적 문제가 발생했습니다. 또한 AI 보조가 잘못된 정보를 제공하여 소프트웨어 오류가 발생했고, 회사의 제품과 명성이 손상되었습니다.

그리고 상황은 더 흥미로워질 것입니다.

자율적으로 작동하여 결정에 따라 행동할 수 있는 에이전트 AI의 등장과 급속한 채택은 AI 안전을 설계하는 중요성을 강조할 것입니다.

자율적으로 작동할 수 있는 에이전트 AI는 매우 유용할 수 있습니다. 대신에 여행에 대한 최상의 비행을 알려주는 대신 에이전트가 그것을 찾고 예약할 수 있습니다. 제품을 반품하려면 회사의 에이전트 AI가 반품 정책과 반품 방법을 알려주는 대신 전자 거래를 처리할 수 있습니다.

훌륭합니다. 에이전트가 비행을 상상하거나 금융 정보를 잘못 처리하지 않는 한, 그리고 회사의 반품 정책을 잘못 이해하고 유효한 반품을 거부하지 않는 한입니다.

현재의 AI 안전 위험이 에이전트 AI와 함께 쉽게 연쇄할 수 있는 방식을 이해하는 것은 어렵지 않습니다. 특히 에이전트가 단독으로 작동하지 않을 가능성이 높기 때문에, 에이전트는 작업의 일부를 처리하고 협력하여 작업을 완료합니다.

그렇다면 어떻게 하면 혁신을 방해하지도 않고 가치를 죽이지도 않으면서 AI 안전을 설계할 수 있을까요?

안전을 설계하는 실제

임의의 안전 점검은 해결책이 아닙니다. 그러나 AI 구현의 모든 단계에 안전 실천을 통합하는 것입니다.

데이터에서 시작합니다. 데이터가 레이블이 지정되고, 필요한 경우 주석이 추가되고, 편향이 없고, 품질이 높은지 확인합니다. 특히 훈련 데이터의 경우입니다.

인간의 피드백과 함께 모델을 훈련합니다. 인간의 판단은 모델의 행동을 형성하는 데 필수적입니다. 강화 학습과 인간의 피드백(RLHF) 및 기타 유사한 기술을 사용하면 주석을 추가하고 모델의 출력을 안전하고 인간의 가치에 맞게 조정할 수 있습니다.

그런 다음 모델을 출시하기 전에 스트레스 테스트를 수행합니다. 적대적 프롬프트, 에지 케이스 및 시도된 탈옥을 사용하여 안전하지 않은 행동을 유발하는 적대적 팀은 취약성을暴露할 수 있습니다. 이러한 취약성을 공개적으로 해결하면 문제가 발생하기 전에 안전을 유지할 수 있습니다.

이 테스트는 AI 모델이 강건함을 보장하지만, 새로운 위협과 모델에 필요한 조정이出现할 수 있으므로 지속적으로 모니터링합니다.

유사하게, 사기 징조와 디지털 상호작용을 모니터링하여 사기 징조를 감지합니다. 중요한 것은 AI-자동화와 함께 사람들을 사용하여 데이터의巨大한 양을 모니터링하고, 정확성을 보장하기 위해 숙련된 사람들을 사용하여 검토를 수행하는 것입니다.

에이전트 AI를 적용하는 경우에는 더욱 주의가 필요합니다. 기본 요구 사항은 에이전트가 자신의 한계를 알도록 훈련하는 것입니다. 불확실성, 윤리적 딜레마, 새로운 상황 또는 특히 높은 위험의 결정에 직면했을 때 도움을 요청하는 방법을 에이전트가 알도록 합니다.

또한 에이전트에 추적 가능성을 설계합니다. 이는 특히 검증된 사용자만 상호작용할 수 있도록 하여 사기성 악당이 에이전트의 행동에 영향을 미치지 않도록 하는 데 중요합니다.

에이전트가 효과적으로 작동하는 것처럼 보이면 그것을 풀어놓고 작동하게 할 수 있는 유혹이 있을 수 있습니다. 그러나 경험에 비추어 보아 에이전트와 수행하는 작업을 지속적으로 모니터링하여 오류나 예상치 못한 행동을 감지해야 합니다. 자동화된 확인과 인간의 검토를 모두 사용합니다.

실제로, AI 안전의 필수 요소는 정기적인 인간의 참여입니다. 인간은 중요한 판단, 공감 또는 결정을 내리거나 행동할 때 모호성이나 애매성이涉及되는 경우에 의도적으로 참여해야 합니다.

다시 말하지만, 이러한 모든 실천은 사고가 발생한 후에 손실을 최소화하기 위해 급하게 생각해 낸 것이 아닙니다. 그것은事先 AI 구현에 내장된 것입니다.

효과가 있는가?

우리는 GenAI의 등장과 현재 에이전트 AI로의 빠른 추진을 통해 클라이언트와 함께 AI 안전 우선 철학과 “설계에 의한” 프레임워크를 적용해 왔습니다. 우리는 그것이 실제로 혁신을 가속화하는 데 도움이 된다는 것을 발견했습니다.

에이전트 AI는 고객 지원 비용을 25-50% 줄이고 고객 만족도를 높이는 잠재력을 가지고 있습니다. 그러나 그것은 신뢰에 달려 있습니다.

인간이 AI를 사용해야 하며, AI와 상호작용하는 고객이나 실제 에이전트와 상호작용하는 고객은 신뢰를 훼손할 수 있는 단 하나의 상호작용도 경험해서는 안 됩니다. 나쁨의 한 경험은 브랜드에 대한 신뢰를 없애버릴 수 있습니다.

우리는 안전하지 않은 것을 신뢰하지 않습니다. 따라서 우리가 출시할 AI에 안전을 모든 단계에 내장하면 자신감을 가지고 할 수 있습니다. 그리고 우리가 확장할 준비가 되면, 우리는 신뢰를 가지고 신속하게 확장할 수 있습니다.

AI 안전 우선 철학을 실천하는 것이 압도적으로 보일 수 있습니다. 그러나 당신은 혼자가 아닙니다. 도움을 주고, 배운 것을 공유하고, 안전하게 AI의 가치를 활용할 수 있는 많은 전문가와 파트너가 있습니다.

AI는 지금까지 흥미로운 여정이었으며, 여정이 가속화됨에 따라, 저는 그것을 신나게 생각합니다. 그러나 저는 헬멧을 착용하고 있다는 사실도 기쁩니다.