AI가 AI를 만드는 시대"…앤트로픽이 공개한 충격적 고백

앤트로픽 "AI가 자사 코드 80% 작성"…AI의 자기 진화를 경고하며 국제 공조 촉구

[출처] 앤트로픽 트위터

인공지능 스타트업 앤트로픽이 AI 시스템이 자체 후계 모델을 설계·개발하는 이른바 '자기 진화(recursive self-improvement)' 단계에 예상보다 빨리 도달할 수 있다고 경고하며, 국제사회 차원의 개발 속도 조절 논의를 촉구했다.

앤트로픽은 6월 4일(현지 시각) 자사 Anthropic Institute 공식 블로그에 'When AI builds itself'(AI가 자기 자신을 구축할 때)라는 제목의 글을 공동창업자 잭 클라크(Jack Clark)와 Anthropic Institute 수장 마리나 파바로(Marina Favaro)의 공동 저술로 공개했다.

앤트로픽은 이 글에서 내부 데이터를 처음으로 공개했는데, 2026년 5월 기준 앤트로픽 자체 코드베이스에 병합되는 코드의 80% 이상이 자사 AI 모델 클로드(Claude)가 작성한 것으로 나타났다. 이 수치는 2025년 2월 Claude Code 출시 이전 한 자릿수에 불과했던 것 대비 약 8배 수준으로 늘어난 것이다. 다만 앤트로픽은 코드 줄 수를 생산성의 불완전한 지표로 인정하며, "실제 생산성 향상의 과장일 가능성이 있다"고 직접 단서를 달았다. 2026년 3월 진행한 사내 연구 인력 130명 대상 설문에서는 응답자 중간 값 기준으로 Mythos Preview 모델을 활용했을 때 AI 미사용 대비 약 4배의 생산성 향상을 체감한다는 결과가 나왔으며, 앤트로픽은 실제 수치는 이보다 낮을 것으로 예상한다고 밝혔다. 개방형 난도 높은 과제에서 클로드의 성공률은 2026년 5월 기준 76%로, 6개월 새 50%포인트 상승했다.

앤트로픽은 "현재 우리는 AI의 자기 진화 단계에 도달하지 않았고, 그것이 필연적인 것도 아니다"라고 명시했다. 다만 "그 시점이 대부분의 제도와 기관이 대비하는 것보다 빨리 올 수 있다는 징후가 포착되고 있다"며, AI의 자기 진화 가 실현될 경우 "AI 시스템에 대한 인간의 통제력 상실 위험을 높일 수 있다"고 우려했다.

앤트로픽은 이에 대한 대응으로 국제사회에 첨단 AI 개발의 일시적 속도 조절 또는 중단 옵션 확보를 위한 공조 체계 마련을 촉구했다. 다만 이는 일방적 중단 요구가 아니라, 주요국의 복수 최전선 연구소가 동일한 조건 하에 검증 가능한 방식으로 동시에 합의하는 것을 전제로 했다. 앤트로픽은 핵무기 감축의 사례인 INF 조약과 유사한 국제 협력 체계가 필요하다고 제안했다.

한편 앤트로픽이 이 글을 공개하기 3일 전인 6월 1일, 기업가치 약 9,650억 달러를 목표로 미국 증권거래위원회(SEC)에 IPO 비공개 신청서를 제출한 사실이 알려지면서, 일부에서는 발표의 시기와 의도를 둘러싼 비판적 시각도 제기됐다.

그럼에도 불구하고 AI가 스스로 AI를 만드는 시대가 가까워졌음에는 이견이 없다. 챌비온뉴스 ※ 본 콘텐츠는 참고 자료를 기반으로 작성되었으며, 무단 전재·복제·배포를 금합니다.