Anthropic의 Mythos AI가 critical 버그 1,596건 공개 — 오픈소스가 패치한 건 97건

4 min read Multiple sources

5월 22일, Anthropic이 Project Glasswing 첫 달 데이터를 공개했어요. 4월에 출범한 이 사이버보안 이니셔티브에는 약 50개 파트너가 참여하고 있고요. Anthropic이 제한된 리서치 모델인 Claude Mythos Preview를 시스템적으로 중요한 오픈소스 소프트웨어에 돌린 결과, 23,019건의 후보 finding 중 1,596건을 confirmed bug로 추려 메인테이너에게 신고했어요. 그중 실제로 upstream에 패치된 건 97건뿐이에요. Anthropic은 여전히 모델을 공개하지 않겠다는 입장인데, 듀얼 유스 리스크가 너무 크다는 이유고요.

Anthropic Project Glasswing 디스클로저 퍼널: 23,019건의 후보 finding이 1,596건의 공개로, 1,451건이 메인테이너 확인, 97건이 upstream 패치, 88건이 보안 권고 발행으로 좁혀지는 도표.
출처: Anthropic

퍼널이 말하는 것

차트를 자세히 보면 언론이 헤드라인으로 뽑고 있는 "취약점 1만 건 이상"이 사실 제일 안 흥미로운 숫자라는 게 보여요. 오픈소스 스캔에서 나온 23,019건의 후보 중 Anthropic은 1,900건을 외부 보안 회사에 review로 넘겼고, 그중 1,726건이 valid로 confirmed됐어요. true positive 비율로 90.8% — 자동화된 버그 헌터 치고는 이례적으로 높아요. 거기서 467건이 공식 경로로 메인테이너에게 신고됐고, 별도로 1,129건은 메인테이너의 명시적 요청에 따라 Anthropic이 다이렉트로 신고했어요(후자엔 false positive가 일부 섞여 있을 수 있고요). 총 신고 1,596건, 확인 1,451건, 패치 97건.

파트너 측 숫자도 마찬가지로 한쪽으로 기울어 있어요. Cloudflare는 자사 저장소 50개 이상에 Mythos Preview를 돌려 약 2,000건의 버그를 surface했는데 그중 high/critical은 ~400건이고요. Mozilla는 Firefox 150에서 271건의 취약점을 찾아 고쳤는데, Firefox 148을 Claude Opus 4로 테스트했을 때보다 10배 이상 많은 양이에요. 외부 평가자들도 능력은 인정했어요. UK AI Security Institute는 Mythos Preview가 자신들의 cyber range 두 개를 end-to-end로 풀어낸 첫 모델이라고 보고했고, 벤치마크 업체 XBOW는 웹 익스플로잇 정밀도를 "전례 없는(unprecedented)" 수준이라고 평가했고요.

Cloudflare가 Mythos Preview 블로그 포스트에 사용한 일러스트레이션: 주황색 그리드 배경 위에 방패와 그 안의 작은 로봇·벌레, 그리고 그것을 들여다보는 돋보기.
출처: Cloudflare

왜 중요한가요

병목이 막 바뀌었어요. 지난 20년 동안 오픈소스 보안의 rate-limiter는 '버그를 찾는 일'이었거든요. 퍼저나 정적 분석기는 노이즈만 잔뜩 뱉어내고, 사람 리서처는 늘 부족했고요. 한 달에 1,596건을 90.8% TPR로 신고하면서 — Cloudflare 글에 따르면 proof-of-concept까지 이미 만들어놓은 채로 — 발견 쪽 퍼널이 사실상 무너진 거예요. 그런데 다른 쪽 사람 사이클은 그대로예요. 트리아지, 회귀 테스트, 백포트, 릴리스. 1,596건 신고에 97건 패치면 약 6%고요. 모델은 빨라지는데 메인테이너 역량은 그대로면 이 격차는 더 벌어져요.

같은 격차가 모델을 공개하지 않는 가장 강한 근거이기도 해요. Anthropic은 오픈소스 보안 단체에 최대 1억 달러의 Mythos credit과 400만 달러의 직접 기부를 약속했지만, Mythos Preview 자체는 검증된 약 50개 파트너에게만 풀어두고 일반 공개를 의도적으로 막고 있어요. "모든 메이저 OS와 브라우저에서 zero-day를 자율적으로 찾고 익스플로잇할 수 있는" 모델을 일반 공개하면, 패치 lag 동안 공격자에게 더 큰 이득이 간다는 판단이고요. Cloudflare도 같은 긴장을 단도직입적으로 적었어요. 같은 능력이 "잘못된 손에 들어가면 공격 쪽을 가속한다"고요. Bruce Schneier는 이 구도를 AI 보안의 풀리지 않은 핵심 질문으로 꼽았어요. 방어자는 지금 작동하는 도구를 갖고, 공격자는 나중에 갖는데, 그 사이의 시간차는 오직 Anthropic이 모델을 API 뒤에 얼마나 오래 가둬두느냐에 달려 있다는 거죠.

앞으로 지켜볼 것

세 가지 신호예요. 첫째, 다음 달의 88-대-1,596 advisory 비율. 패치가 격차의 절반이라도 메우면 메인테이너 쪽 스토리가 바뀌어요. 6%로 머무르면 finding을 만드는 랩들이 메인테이너 유급화 프로그램을 펀딩하라는 요구가 더 거세질 거고요. 둘째, 23,019건의 후보 중 어느 것이라도 널리 배포된 패키지에서 화제성 CVE로 떨어지는지. 그게 나와야 raw finding 카운트가 진짜로 치명적인지, 아니면 기존 알려진 것의 중복인지 가늠이 가요. 셋째, Anthropic이 Mythos Preview 접근을 언제 넓힐지. 지금 약 50개 파트너 리스트는 하이퍼스케일러랑 OS 벤더에 쏠려 있어요. 이 리스트에 없는 Fortune 500 CISO가 모델 시간을 살 수 있게 되는 순간, 듀얼 유스 계산이 다시 짜여요.


출처

kaleido.news — global tech, without language barriers.