- 한 소규모 비공개 디스코드 그룹이 제3자 계약업체 환경을 통해 클로드 미토스 프리뷰에 무단으로 접근한 것으로 알려졌습니다.
- Mythos는 Project Glasswing 산하의 소수 기업 및 기관 파트너에게만 제공되는 AI 사이버 보안 모델입니다.
- 해당 그룹은 명명 규칙, 유출된 데이터 및 계약자 권한을 이용하여 모델의 온라인 위치를 추측한 것으로 알려졌다.
- 앤트로픽은 현재 조사를 진행 중이며 핵심 내부 시스템에 영향을 미쳤다는 증거는 없다고 밝혔지만, 이번 사건은 공급망 및 접근 제어에 대한 우려를 불러일으킵니다.
최근 공개된 내용 Discord를 통해 Anthropic의 Claude Mythos 모델에 무단으로 접근했다는 의혹이 제기되었습니다. 인공지능 업계에서 어려운 논쟁이 다시 불거졌습니다. 공격자에게 필요한 정보를 정확히 제공하지 않고 강력한 사이버 보안 도구를 어떻게 공유할 수 있을까요? 한 소규모 온라인 그룹은 엄격하게 통제된 프리뷰 버전임에도 불구하고 Mythos를 몇 주 동안 사용할 수 있었다고 주장합니다.
여러 보도에 따르면, 해당 사건은 할리우드 영화에서나 나올 법한 화려한 해킹이 아니라, 계약자 허가, 온라인 조사 및 추측을 종합하여 앤트로픽이 가장 민감한 시스템을 어디에 호스팅하는지에 대한 내용입니다. 대규모로 소프트웨어 취약점을 찾아 악용하도록 설계된 모델인 만큼, 외부인이 이를 이용해 실험할 수 있다는 사실만으로도 보안 전문가, 기업, 정부 모두의 관심을 끌었습니다.
클로드 미토스란 무엇이며 왜 중요한가
Claude Mythos Preview는 사이버 보안에 초점을 맞춘 Anthropic의 새로운 AI 시스템입니다.Mythos는 운영 체제와 웹 브라우저의 결함을 탐지하고 심지어 악용할 수 있는 매우 뛰어난 기능을 갖춘 범용 모델로 소개되었습니다. 하지만 Anthropic은 Mythos를 일반에 공개하는 대신 중요 인프라를 방어하기 위한 제한된 도구로 포지셔닝했습니다.
4월 초, 회사는 '미토스(Mythos)'를 '새로운 계획'의 일환으로 공개했습니다. 프로젝트 글래스윙이 프로그램에 따라, 엄선된 소수의 신뢰할 수 있는 기관들만이 모델 테스트에 참여하도록 초대되었습니다. 보도에 따르면 아마존, 마이크로소프트, 애플, 시스코, 엔비디아와 같은 주요 기술 및 기업뿐만 아니라 골드만삭스와 같은 금융 기관들도 통제된 실험을 위해 조기에 접근 권한을 부여받았습니다.
파트너사들은 Mythos가 상당수의 보안 문제를 발견하는 데 기여했다고 평가했습니다. 이번 사건 보도에서 반복적으로 언급되는 대표적인 사례는 Mozilla인데, Mozilla는 해당 모델을 활용하여 보안 문제를 해결한 것으로 알려져 있습니다. 파이어폭스 취약점 수백 개를 식별하고 패치합니다.앤트로픽은 또한 미토스가 널리 사용되는 소프트웨어 전반에 걸쳐 수천 건의 심각한 결함을 발견하는 데 도움이 되었다고 주장했습니다.
이러한 결과는 낙관론과 불안감을 동시에 불러일으켰습니다. 한편으로는, 미묘한 버그와 잘못된 설정을 자동으로 감지합니다. 방어자가 공격자보다 한발 앞서 나갈 수 있도록 도울 수 있습니다. 반면에 복잡한 공격 기법을 간소화하는 시스템은 특히 안전장치나 접근 모델이 제대로 작동하지 않을 경우 사이버 범죄를 증폭시키는 요인이 될 위험이 있습니다.
규제 당국은 이미 이를 주목하고 있습니다. 영국 AI 안전 연구소는 Mythos를 평가한 결과 문제가 없다고 결론 내린 것으로 알려졌습니다. 인간의 개입을 최소화하면서 여러 단계를 거치는 사이버 공격을 실행합니다.때로는 숙련된 전문가가 며칠에 걸쳐 수행해야 할 모의 공격 과정을 완료하기도 했습니다. 이러한 평가는 Mythos가 사이버 위험 측면에서 기준을 높이는 모델이라는 인식을 형성하는 데 기여했습니다.
디스코드 그룹이 주장하는 접속 경로
그러한 배경 속에서, 한 인물의 등장은 Mythos에 대한 접근 권한을 주장하는, 조직이 제대로 갖춰지지 않은 디스코드 그룹 이는 당연히 우려를 불러일으켰습니다. 블룸버그를 비롯한 여러 언론 매체가 수집한 정보에 따르면, 호기심, 내부자 인맥, 그리고 공개된 정보를 활용한 조사가 결합되어 엄격하게 관리되던 접근 제한을 우회한 것으로 보입니다.
그룹 구성원들은 다음 활동에 참여합니다. 미공개 AI 모델 추적 전용 비공개 디스코드 채널적어도 공개적으로 밝힌 그들의 목표는 아직 일반 대중에게 공개되지 않은 최첨단 시스템을 실험하는 것입니다. 관련된 개인들의 신원은 공식적으로 공개되지 않았지만, 한 구성원은 앤트로픽에 서비스를 제공하는 계약업체 소속이라고 알려졌습니다.
그 계약업체와의 연결이 핵심이었던 것으로 보입니다. 보고서에 따르면 해당 개인의 외부 공급업체로서의 특권 액세스 그것은 퍼즐의 한 조각이었다. 내부자라는 발판 외에도, 구성원들은 일반적인 인터넷 검색 기법을 활용하여 앤트로픽의 인프라를 파악하고, 회사가 모델의 이름을 지정하고 배포하는 방식에 대한 사전 지식을 활용했다.
별개의 AI 스타트업인 머코어(Mercor)에서 최근 발생한 데이터 유출 사건이 추가적인 단서를 제공했다고 합니다. 해당 유출 정보와 인류학적 모델에 사용되었던 기존 명명 규칙을 결합하여 디스코드 그룹은 다음과 같은 결론을 내릴 수 있었습니다. 클로드 미토스의 온라인 위치에 대한 "근거 있는 추측"그들은 무작정 밀어붙이는 대신, 적절한 문을 정확히 예측한 후 계약업체 환경과 관련된 자격을 이용해 그 문을 통해 들어갔습니다.
블룸버그에 따르면, 해당 그룹은 접속 권한을 확보한 후 2주 이상 마이토스를 정기적으로 사용했다고 합니다. 스크린샷 및 실제 시연 이는 해당 모델이 실제로 실행 중이며 권한 없는 사용자가 보낸 프롬프트에 응답하고 있음을 확인시켜주는 것으로 보였습니다. 또한 동일한 접근 방식을 사용하여 공개되지 않은 다른 Anthropic 모델에도 접근할 수 있었다는 주장도 있지만, 해당 시스템에 대한 자세한 정보는 아직 부족합니다.
그룹이 미소스와 관련해서 했다고 주장하는 내용
공개적으로 디스코드 참여자들은 자신들이 사이버 범죄자라는 인식을 부인하려고 노력했습니다. 해당 사건에 대한 보도에서 인용된 한 참여자는 그룹의 관심사는 다른 데 있다고 말했습니다. 공격을 감행하기보다는 새로운 AI 모델을 시험해 보는 것그들의 설명에 따르면, Mythos는 간단한 웹사이트를 생성하고 프롬프트를 테스트하는 것과 같은 비교적 무해한 실험에 사용되었습니다.
또한 그들은 Anthropic의 모니터링 시스템에서 경보를 울릴 수 있는 고위험 행동을 피했다고 주장합니다. 해당 그룹은 명백히 악의적인 쿼리나 눈에 띄는 활동량을 자제하고 대신 다음과 같은 목표를 추구했다고 합니다. 모델의 기능을 탐색하면서 "눈에 띄지 않게 활동"하세요.현재까지 공개된 보고서에 따르면, 해당 그룹이 Mythos를 사용하여 실제 목표물을 공격했다는 구체적인 증거는 없습니다.
설령 그러한 자칭 설명이 정확하다 하더라도, 이 사건은 보안 전문가들 사이에서 불안감을 불러일으켰습니다. 제한된 시스템에 침투할 수 있는 실행 가능한 경로가 입증되면, 모방자들은 해당 기술을 복제하려고 시도할 수 있습니다.잠재적으로 매우 다른 동기를 가지고 있을 수 있습니다. 이번 첫 번째 무단 사용자들의 주장이 악의적인 의도가 아니라고 밝힌 것은 앞으로 어떤 일이 벌어질지 걱정하는 방어자들에게는 전혀 안심을 주지 못합니다.
이번 사건은 민감한 접근 권한이 소수의 개인의 행동에 얼마나 크게 좌우될 수 있는지를 여실히 보여주었습니다. 부분적인 권한을 가진 한 계약자가 규칙을 어기려는 의지를 보이고, 비공개 디스코드 채널에서 끈질기게 접근한 것이 결국 모든 것을 좌우하기에 충분했던 것입니다. 고위험 AI 모델의 의도된 격리를 위반하다.
앤트로픽의 대응과 공급업체 체인 문제
앤트로픽은 해당 보도 내용을 인지하고 있으며 공식 조사를 진행 중이라고 밝혔습니다. 언론에 배포한 성명에서 회사는 다음과 같이 언급했습니다. "당사는 제3자 공급업체 환경 중 한 곳을 통해 Claude Mythos Preview에 무단으로 접근했다는 보고를 조사하고 있습니다." 표현은 신중하지만 의미심장하다.
회사 측은 현 단계에서 다음과 같은 점을 강조합니다. 해당 활동이 기업의 핵심 시스템까지 확장되었다는 증거는 없습니다. 또는 내부 인프라가 직접적으로 손상되었다는 주장도 아닙니다. 문제를 공급업체 환경에 국한된 것으로 규정함으로써, 앤트로픽은 자사의 중앙 운영 환경과 디스코드 그룹과 연결된 계약업체가 사용하는 환경 사이에 사실상 경계를 긋고 있는 것입니다.
하지만 바로 그 차이점이 많은 관찰자들을 우려하게 만드는 부분입니다. 만약 제3자 환경에서 미소스에 접근할 수 있다면, 모든 외부 파트너의 보안 상태는 공격 표면의 일부가 됩니다.이 상황은 전형적인 공급망 위험을 보여줍니다. 기업이 자체 네트워크를 강화하더라도 공급업체 간의 취약점이나 잘못된 구성으로 인해 예상치 못한 문제가 발생할 수 있습니다.
이번 사건은 글래스윙 프로젝트의 홍보 방식과도 상충됩니다. 해당 프로그램의 논리는 다음과 같았습니다. 엄선된 조직 목록에만 접근 권한을 엄격하게 제한합니다. 이는 Mythos를 적대 세력으로부터 보호하면서도 유용한 테스트와 피드백을 허용할 수 있도록 하기 위함이었다. 독점성이라는 개념이 핵심이었다. 검증된 주요 기관만이 모델을 탐색할 수 있도록 하여 오용 가능성을 줄였다.
만약 비공식 디스코드 그룹이 미소스 모델이 발표된 바로 그날부터 사용하기 시작했다면, 그러한 주장은 설득력을 잃기 쉽습니다. 비록 아직 해당 모델과 연관된 실제 공격 사례는 발견되지 않았지만, 이 사건은 다음과 같은 점을 시사합니다. 민감한 AI 시스템 주변의 경계가 의도했던 것보다 더 취약할 수 있습니다.특히 외부 계약업체 및 파트너가 관련된 경우 더욱 그렇습니다.
"지나치게 강력한" 사이버 보안 AI에 대한 광범위한 우려
이 사건의 구체적인 내용 외에도, 미소스 이야기는 더 넓은 담론으로 이어진다. 방어와 공격의 경계를 모호하게 만드는 AI 도구미토스는 복잡한 공격자를 시뮬레이션하고 인간 공격자가 취약점을 발견하기 훨씬 전에 약점을 찾아낼 수 있는 일종의 "상자 속 레드팀"으로 홍보되어 왔습니다.
보안 연구원들은 해당 홍보 자료를 어떻게 해석해야 할지 의견이 분분합니다. 일부는 아무리 발전된 AI 시스템이라도 홍보 자료에서 제시된 속도로 새로운 취약점을 안정적으로 발견할 수 있을지 회의적입니다. 다른 이들은, 설령 그 주장이 부분적으로라도 정확하다 하더라도, 그 위험성은 상당하다고 주장합니다. 인공지능 기반 사이버 공격이 더욱 빠르고 저렴하며 확장 가능해지고 있다. 이는 정책 입안자들이 규제에 고려해야 할 사항입니다.
클라우드 보안 회사 임원들을 포함한 업계 관계자들의 의견은 호기심과 우려가 뒤섞여 있습니다. 한편으로 방어자들은 이를 기회로 보고 있습니다. 지루한 분석 작업을 자동화하고, 현실적인 공격 시나리오 하에서 소프트웨어 스트레스 테스트를 수행합니다.반면에, 그들은 유사한 모델들이 의도적으로 공격적인 목적으로 제작되어 더 널리 유포되거나, 유해한 사용을 막기 위해 마련된 안전장치가 쉽게 우회될 수 있다면 어떤 일이 벌어질지 상상해 봅니다.
정부 기관들은 이러한 문제들을 순전히 기술적인 문제가 아닌 전략적인 문제로 다루기 시작했습니다. 앤트로픽은 다음과 같이 지정된 것으로 알려졌습니다. 미국 국방부의 "공급망 위험"그리고 그러한 명칭이 무엇을 의미해야 하는지, 그리고 수정이 가능한지에 대한 논의가 계속되고 있습니다. 국제 안전 기구들 또한 미토스(Mythos)와 같은 시스템을 이중 용도 AI 기술을 어떻게 다뤄야 하는지에 대한 시험 사례로 보고 있습니다.
따라서 이번 디스코드 접근 권한 사건은 매우 민감한 시기에 발생했습니다. 규제 당국에게는 강력한 AI 모델을 누가 사용할 수 있는지를 규제하는 데 따르는 어려움을 보여주는 초기 사례가 될 수 있습니다. 접근 권한에 대한 감사가 어떻게 이루어지는지, 그리고 제공업체가 어떤 의무를 지니는지 문제가 발생했을 때, 유사한 도구를 고려하는 기업들은 문서화, 로깅, 그리고 민감한 환경의 분리와 관련된 실질적인 문제들을 제기하게 됩니다.
이것이 기업, 사용자 및 AI 거버넌스에 미치는 영향은 무엇일까요?
Mythos 또는 유사 시스템 도입을 고려했던 조직들에게 이번 사건은 새로운 위험 평가를 촉발할 가능성이 높습니다. 핵심적인 긴장감은 간단합니다. 국방에 매력적인 모델이 되는 특징들이 잘못 다룰 경우 오히려 위험해질 수도 있습니다.제한적인 미리보기조차 비공식 커뮤니티에 유출될 수 있다면, 누가 실제로 이러한 도구를 사용하고 있는지에 대한 기존의 가정을 수정해야 할 수도 있습니다.
기업 보안 관점에서 볼 때, 이 사례는 철저한 검토의 필요성을 강조합니다. 계약업체 및 소규모 공급업체를 포함한 전체 접근 경로 그리고 AI 에이전트 팀의 실제 배포서류상으로는 견고해 보이는 정책도 실제 환경에서는 무용지물이 될 수 있습니다. 사람들이 자격 증명을 재사용하거나, 편의를 위해 편법을 사용하거나, 미리 보기 환경을 위험 부담이 적은 것으로 간주하기 때문입니다. 조직은 실제 코드 및 인프라와 직접 상호 작용하는 AI 시스템에 대해서는 더욱 엄격한 보안 세분화가 필요하다고 판단할 수 있습니다.
일반 사용자 및 직원에게 이 이야기는 AI가 단순히 기업용 소프트웨어의 한 종류가 아니라는 점을 다시금 일깨워줍니다. Mythos와 같은 시스템은 약점을 찾아내는 데 필요한 시간과 전문 지식을 압축합니다.이는 정보 유출이나 오용의 영향을 증폭시킵니다. 이러한 현실은 누가 어떤 조건에서 고위험 모델을 조회할 수 있는지에 대한 새로운 내부 교육 및 관리 체계를 마련하도록 유도할 수 있습니다.
AI 거버넌스 측면에서 자발적 가이드라인을 넘어서야 한다는 압력이 점점 커지고 있습니다. 이번 피드에서 언급된 사건과 같은 사례는 그러한 필요성을 더욱 강조합니다. 접근 제어, 사건 공개 및 독립 감사에 관한 공식 표준 가장 유능한 모델의 경우, 정책 입안자들이 가벼운 감독을 선택하든 엄격한 규제를 선택하든, 그들은 제한된 도구가 비공식적인 경로로 유입된 사례를 근거로 제시할 가능성이 높습니다.
앤트로픽 자체에게 있어 많은 것은 현재 진행 중인 조사의 결과에 달려 있습니다. 구체적으로 접근 경로가 어떻게 작동했는지, 얼마나 많은 사람이 연루되었는지, 그리고 이후 어떤 기술적 또는 절차적 변경 사항이 구현되었는지 등이 밝혀질 것입니다. 결과가 어떻든 간에, 이번 미소스 사건은 이미 관련 논의에서 중요한 참고점이 되었습니다. 첨단 사이버 보안 AI를 개발자가 의도한 역할에만 국한시키는 방법그리고 그러한 제약이 한계에 다다르면 어떤 일이 벌어지는가.
이러한 모든 정황을 종합해 보면, 클로드 미토스의 무단 디스코드 접근 의혹은 최첨단 AI 기술이 출시 발표에서 제시된 명확한 경계를 얼마나 빠르게 넘어설 수 있는지를 여실히 보여줍니다. 이는 공급업체의 보안 허점을 드러내고, "초대 전용"이라는 약속의 실효성을 시험하며, 기업, 규제 기관, 그리고 사용자들이 의존하는 디지털 방어 체계를 강화할 수도 있고 잠재적으로 약화시킬 수도 있는 도구를 어떻게 관리해야 할지 다시 생각하게 만듭니다.
