AI 기술 스택을 분산화하는 경우

AI 개발에 대한 대화는 미래와 철학적 토론으로 넘쳐나고 있습니다. 일반 인공지능에 접근해야 하는가? 즉, AI가 인간과 같은 방식으로 모든 작업을 수행할 수 있을 만큼 발전할 수 있을까요? 이것이 가능한가요?

가속화 대신 감속화에 대한 토론은 중요하고 시의적절합니다. Q-star 모델과 같은 발전이 있기 때문입니다. 그러나 기술 스택을 분산화하는 것의 중요성과 그것을 어떻게 하는지에 대한 다른 측면도 중요합니다. 즉, 모델을 구축하고 배포하는 것은 매우 비용이 많이 들지만, 하나의 모델에過度 의존하는 것은 장기적으로 유해할 수 있습니다. 나는 AI 창업자로서 이 도전을 개인적으로 알고 있습니다.

지능을 구축하려면 재능, 데이터, 확장 가능한 컴퓨팅이 필요합니다. 시장에 출시하는 시간을 단축하고 더 적은 비용으로 더 많은 것을 하려면 많은 회사들이 기존 모델 위에 구축하는 대신부터 시작하는 것보다 더 많은 것을 구축할 것입니다. 그리고 이러한 접근 방식은 구축하는 것이 매우 자원 집약적일 때는 의미가 있습니다. 이 도전을 복합하는 것은 대부분의 소프트웨어와 달리, 지금까지 AI에서 얻은 대부분의 이익은 더 많은 규모를 추가함으로써 얻어졌으며, 이는 더 많은 컴퓨팅 파워와 따라서 비용이 필요함을 의미합니다.

그러나 당신이 솔루션을 구축한 회사가 거버넌스 실패 또는 제품 중단을 경험할 때 무슨 일이 발생할까요? 실용적인 관점에서 볼 때, 하나의 모델을 사용하여 제품을 구축하는 것은 당신이 부정적인 파급 효과의 일부가 된다는 것을 의미합니다.

우리는 또한 확률적 시스템과 함께 작업할 때의 위험을 기억해야 합니다. 우리는 이것에 익숙하지 않으며, 우리가 지금까지 살고 있는 세계는 명확한 답변으로 작동하도록 설계되었습니다. 모델은 출력 측면에서 유동적이며, 회사들은 모델을不断으로 조정하기 때문에, 모델을 지원하기 위한 코드와 고객이 의존하는 결과는 당신의 지식이나 통제 없이 변경될 수 있습니다.

중앙화는 또한 안전성에 대한 우려를 생성합니다. 왜냐하면 단일 고장점을 도입하기 때문입니다. 모든 회사는 자기 자신의 최선의 이익을 위해 작동합니다. 모델과 관련된 안전성 또는 위험성에 대한 우려가 있는 경우, 당신은 그 문제를 해결하거나 대안에 접근하는 것에 대한 통제가 더 적습니다.

그것은 우리에게 무엇을 남깁니까?

AI는 분명히 우리가 살고 있는 방식을 개선할 것입니다. 정보를 수집하는 방식부터大量의 데이터를 이해하는 방식까지, 그것은 많은 것을 달성하고 개선할 수 있습니다. 그러나 이러한 기회와 함께 위험도 있습니다. 하나의 모델에過度 의존한다면, 모든 회사는 안전성과 제품에 대한 도전을 열어두게 됩니다.

이를 해결하려면 추론 비용을 낮추고 회사가 다중 모델 접근 방식을 사용하기 쉽게 해야 합니다. 물론, 모든 것은 데이터와 관련이 있습니다. 데이터와 데이터 소유권이 중요할 것입니다. 데이터가 더 고유하고, 고품질이고, 사용 가능할수록, 더 유용할 것입니다.

많은 문제에 대해, 특정 응용 프로그램을 위해 모델을 최적화할 수 있습니다. AI의 마지막 마일은 회사가 다른 모델 위에 라우팅 논리, 평가, 오케스트레이션 레이어를 구축하여 다양한 垂直으로 전문화하는 것입니다.

이 목표에 도달하기 위해 여러 가지 중요한 투자가 이루어졌습니다. Mistal의 최근 자금 조달은 OpenAI 대안으로 향한 약속 있는 발전입니다. 또한 모델 간 다중화와 추론 비용을 줄이는 특수 하드웨어, 소프트웨어, 모델 蒸発을 통해 다른 AI 제공업체가 현실로 만드는 것을 도와주는 회사가 있습니다.

또한 오픈 소스가 普及할 것입니다. 정부 기관은 오픈 소스를 계속 오픈 소스로 유지해야 합니다. 오픈 소스 모델을 사용하면 더 많은 통제력을 가질 수 있습니다. 그러나 성능 격차는 여전히 존재합니다.

나는 결국, 주니어 모델이 덜 복잡한 작업을 대규모로 수행하도록 최적화된 세계에 살고 있을 것이라고 가정합니다. 더 큰 超 지능 모델은 업데이트를 위한 오라클로 작동하며, 더 복잡한 문제를 해결하는 데 더 많은 컴퓨팅 파워를 사용할 것입니다. 고객 서비스 요청에 응답하기 위해 1조 매개변수 모델이 필요하지 않습니다. 이것은 인턴이 처리할 수 있는 작업을 고위 간부가 관리하는 것과 같습니다. 인간의 대응자와 마찬가지로, 대부분의 회사는 다양한 수준의 복잡성으로 모델의 집합을 사용할 것입니다.

이 균형을 달성하려면, 작업 분할과 벤치마킹이 필요합니다. 시간, 컴퓨팅 복잡성, 비용, 필요한 규모를 고려하여 우선순위를 정할 수 있습니다. 사용 사례에 따라 우선순위를 정할 수 있습니다. 비교를 위한 기준 진리, 이상적인 결과, 예제 입력 및 출력 데이터를 결정하여 다양한 프롬프트를 실행하여 기준 진리에 가장 가까운 결과를 얻을 수 있습니다.

AI 회사가 기술 스택을 분산화하고 다중 모델을 구축할 수 있다면, 이러한 도구의 안전성과 신뢰성을 향상시킬 수 있으며, 따라서 AI의 긍정적인 영향을 최대화할 수 있습니다. 우리는 더 이상 이론적인 논쟁을 하는 시대가 아닙니다. 이제는 이러한 기술을 더 효과적이고 탄력적으로 만드는 방법에 대해 집중해야 합니다.