자가 학습 인공지능이 더 이상 과학 소설이 아니다

새로운 인공지능 프레임워크는 기계가 스스로 개선될 수 있도록 하는 방향으로 발전하고 있다.

수년간 가장 발전된 인공지능 모델은 수동적인 엔진으로 남아있었으며, 수정할 수 없는 훈련 데이터에 기반한 응답을 예측했다. 그러나 오늘날 인공지능의 다음 장은 모델의 크기가 아니라 모델이 스스로 발전할 수 있는지 여부에 달려 있다.

최근 MIT 연구진은 자가 적응형 대규모 언어 모델(SEAL)이라고 불리는 새로운 인공지능 프레임워크를 공개했다. 이 접근법은 대규모 언어 모델(LLM)이 자가적으로 개선될 수 있도록 허용하며, 인공지능이 자신의 한계를 진단하고 내부 피드백 루프를 통해 자신의 신경 가중치를 영구적으로 업데이트할 수 있다. 연구자들이 오류를 발견하거나 새로운 예시를 제공할 필요가 없게 되었다.

“대규모 언어 모델은 강력하지만 정적이다. 새로운 작업, 지식, 또는 예시에 대한 반응으로 가중치를 조정하는 메커니즘이 없다”고 MIT 연구진은 블로그 포스트에서 말했다. “지식 통합과 少샷 일반화에 대한 실험에서 SEAL은 언어 모델이 새로운 데이터에 대한 자가 지향적 적응을 가능하게 하는 유망한 단계임을 보여주었다.”

초기 테스트에서, 이 자가 편집 루프는 모델이 복잡한 추상적推論 퍼즐에서 완전한 실패에서 성공으로 이동할 수 있도록 허용했으며, 72.5%의 성공률을 기록하며 GPT-4.1과 같은 훨씬 더 큰 모델을 능가했다. 또한 SEAL은 인적 감시를 85% 줄이면서 정확도와 적응성을提高했다.

자가 학습 인공지능 프레임워크의 부상

SEAL은 자율적 기계 지능으로의 더广泛한 추세의 일부이다. 예를 들어, Sakana AI의 연구자들은 다윈-괴델 기계를 소개했다. 이것은 개방형 진화 전략을 사용하여 자신의 코드를 수정하는 인공지능 에이전트이다.

“다양한 자가 개선 사항을 생성한다. 예를 들어, 패치 검증 단계, 파일 보기 개선, 편집 도구 강화, 여러 솔루션을 생성하고 랭킹하여 최선의 것을 선택하는 기능, 그리고 변경 사항을 적용하기 전에 시도한 내용과 실패한 이유를 기록한다”고 Sakana AI는 블로그 포스트에서 말했다.

마찬가지로, Anthropic의 인공지능 에이전트는 Claude 4를 사용하여 코드베이스와 비즈니스 도구를跨越하여 워크플로우를 자율적으로 조직할 수 있다.

“자산의 유형, 환경, 및 기록에 따라 시스템을 재구성하는 것은 반응적인 응답에서 지속적인 예방 전략으로 이동할 수 있다”고 Christian Struve, Fracttal의 CEO 및 공동 창립자는 말했다. “중요한 것은 모델이 발전하는 것이 아니라, 우리가 정의한 목표에 따라 발전하는 것이다.”

이러한 노력은 하나의 핵심적인 믿음을 공유한다. 인공지능은 더 크게 될 필요가 없다. 더 적응 가능해야 한다.

“크기가 더 큰 것이 주요 이득을 가져왔지만, 우리는 크기만으로 달성할 수 있는 한계에 도달하고 있다. 자가 적응형 학습 모델은 시스템이 시간이 지남에 따라 성장하고 개선될 수 있도록 허용한다”고 Jorge Riera, full-stack 데이터 컨설팅 플랫폼 Dataco의 창립자는 말했다. “자가 진화하는 모델은 정적 벤치마크에서 적응성, 학습 효율성, 및 장기적인 안정적인 개선의 척도로의 진행을 측정한다. 모델이 배운 내용을 테스트하는 것이 아니라, 모델이 어떻게 학습하고, 유지하고, 시간이 지남에 따라 발전하는지 평가할 수 있다.”

인공지능 생태계와 자율성에 대한 글로벌 경쟁에 미치는 영향

이 수준의 자율성은 또한 인공지능의 경제학을 재작성한다. 사기 탐지 시스템이 새로운 위협에 즉시 업데이트될 수 있거나, 학생의 행동에 따라 가르치는 방식을 변경하는 인공지능 튜터를 상상해 보라. 로봇공학에서 자가 적응형 프레임워크는 재프로그래밍 없이 새로운 운동 패턴을 학습할 수 있는 자율적인 기계로 이어질 수 있다.

중동 지역에서, UAE와 사우디아라비아를 포함한 국가들은 적응을 위한 기초 모델을 빠르게 구축하고 있다. UAE의 Falcon과 G42의 Jais는 지역적 관련성을 고려하여 구축된 오픈소스 대규모 언어 모델이다. 사우디아라비아의 ALLaM과 Aramco Digital의 Metabrain은 스마트 시티, 헬스케어, 및 물류를 위한 자율적인 인공지능 에이전트로 발전하고 있다.

이 노력은 아직 MIT의 SEAL과 같은 자가 편집 능력에는 미치지 못하지만, 수동적인 인공지능 시스템에서 적극적이고 진화하는 에이전트로의 공통된 방향을 반영한다. 또한 이러한 이니셔티브는 강력한 거버넌스 프레임워크에 의해 뒷받침되며, 인공지능의 자율성이 책임감과 함께 páir되어야 함을 강조한다.

“이것은 상시적인 개입 없이 자신의 논리를 수정할 수 있는 자가 관리 시스템의 첫 번째 단계이다”고 Struve는 말했다. “인공지능이 지능을 재정의하는 것이 아니라, 우리와의 관계를 재고해야 하는 것이다. 중요한 것은 모델이 발전하는 것이 아니라, 우리가 정의한 목표에 따라 발전하는 것이다.”

Jeff Townes, Gorilla Logic의 CTO는 또한 거버넌스가 인공지능의 발전과 함께 발전해야 한다고 강조했다. “인공지능이 발전할 수 있는지 여부가 아니라, 기업이 인공지능과 함께 발전할 수 있는지 여부이다. 거버넌스는 모든 인공지능 적응을 명확한 결과와 KPI에 앵커해야 한다. 그러면 혁신은 위험 대신에 자신감과 함께 확장할 수 있다.”

자가 편집 인공지능에 대한 준비

SEAL이 제기하는 가장 провок적인 질문은 기술적인 것이 아니라, 모델이 스스로를 가르칠 수 있다면, 우리가 모델의 가치, 우선순위, 및 방향을 형성하는 역할은 무엇인가?

전문가들은 자가 적응형 인공지능 시스템이 자율성을 얻을수록, 자가 개선의 추진은 윤리적 가이드라인의 수립을 따라야 한다고 경고한다. “모든 인공지능 시스템은 최소한 세 가지 기본적인 윤리적 원칙을 포함해야 한다”고 Jacob Evans, Kryterion의 CTO는 말했다.

“첫째, 인공지능은 인공지능임을 식별해야 한다. 둘째, 인공지능은 인간 중심적이어야 하며, 인간의 판단을 보완해야 한다. 셋째, 인공지능은 자신의 한계와 불확실성을 인정해야 하며, 심각한 피해를 유발할 수 있는 정보를 제공해서는 안 된다. 이러한 안전 장치 없이 인공지능은 조작의 도구가 될 수 있다.”

“모델이 생산 환경에서 자가 개선될 수 있도록 하려면, 정적인 훈련이 아니라 동적인 피드백 루프가 필요하다. 강력한 방법은 ‘디지털 트윈’ 또는 모델이 자신의 자가 생성된 개선 사항을 안전하게 테스트하고 검증할 수 있는 복잡한 샌드박스 환경을 사용하는 것이다”고 Ganesh Vanama, Automotus의 컴퓨터 비전 엔지니어는 말했다.

Vanama는 또한 “인간의 감시가 반드시 필요하다”고 말했다. “모델이 발전할 수 있게 하려면, 모델이 의도된 목표나 안전 제약에서 벗어나지 않도록 지속적인 모니터링이 필요하다. 이 시스템은 인간 감시자가 안전성 또는 성능 검토에 실패한 경우 즉시 거부하거나 롤백할 수 있도록 해야 한다.”

다른 전문가들은 아직 이러한 안전 장치를 개발할 시간이 있다고 믿는다.真正로 강력하고 일반적인 자가 개선형 인공지능을 구축하는 것은 여전히 어려운課題임을 강조한다.

“이러한 모델은 아직 실시간으로 자신을 재프로그래밍할 수 있는 능력이 없다. 오류 강화의 방지, 치명적인 망각의 회피, 업데이트 중의 안정성 보장, 및 내부 변경에 대한 투명성 유지와 같은 주요課題가 남아 있다”고 Riera는 말했다. “이러한課題가 해결될 때까지, 완전한 자가 지향적 적응은 현실이 아닌 전방이다.”

MIT의 연구자들은 SEAL을 필수적인 발전이라고 본다. MIT의 리드 과학자 중 한 명은 이 프레임워크가 현재 인간의 학습을보다 잘 반영한다고 말했다.

“이 시스템은 정적인 모델에서 적응형 아키텍처로의 전환을 암시한다. 이러한 아키텍처는 경험에서 학습하고, 메모리를 관리하고, 시간이 지남에 따라 목표를 추구할 수 있다. 방향은 명확하다. 연속적으로 자신을 조정할 수 있는, 모듈식이고 상황에 맞는 지능으로의 발전”이라고 Riera는 말했다. “아직 실험적인 단계이지만, 이 접근법은 더 자율적이고 강건한 인공지능 시스템으로의 의미 있는 단계를 나타낸다.”

이것이 더 개인화된 시스템이나 완전히 새로운 형태의 기계 에이전트로 이어질지는 아직 미정이다. 자가 학습 인공지능의 시대가 도착했고, 자신의 코드뿐만 아니라, 기계가 무엇이 될 수 있는지에 대한 규칙을 재작성하고 있다.