기술계를 놀라게 한 AI 에이전트인 Clawdbot은 특이한 것을 약속했기 때문에 GitHub에서 가장 빠르게 성장하는 프로젝트 중 하나가 되었습니다.
단순히 채팅하는 대신 Clawdbot은 데이터를 대형 서버로 전송하지 않고도 파일과 상호 작용하고, 메시지를 보내고, 캘린더 이벤트를 예약하고, 자신의 컴퓨터에서 작업을 자동화할 수 있습니다.
사용자를 대신하여 행동하는 능력은 개인 AI 도우미처럼 느껴집니다. 이는 인기에 기여했으며 개발자와 호기심 많은 사용자 모두에게 빠르게 확산되는 데 도움이 되었습니다.
이 프로젝트는 최근 Anthropic이 잠재적인 상표권 충돌을 이유로 원래 이름에 반대한 후 Clawdbot에서 Moltbot으로 이름이 변경되었습니다. 소프트웨어 자체는 변경되지 않았음에도 불구하고 개발자는 법적인 문제를 피하기 위해 변경에 동의했습니다.
Moltbot을 강력해 보이게 만든 동일한 기능이 Moltbot을 위험하게 만드는 요소이기도 합니다. AI는 운영 체제, 파일, 브라우저 데이터 및 연결된 서비스에 액세스할 수 있기 때문에 악의적인 행위자가 악용할 수 있는 광범위한 공격 표면이 생성된다고 연구원들은 경고합니다.
보안 연구원들은 실제로 사용자가 적절한 인증 없이 역방향 프록시 뒤에 소프트웨어를 배포했기 때문에 공용 인터넷에 노출된 수백 개의 Moltbot 관리 제어판을 발견했습니다.
이러한 패널은 AI 에이전트를 제어하기 때문에 공격자는 구성 데이터를 탐색하고, API 키를 검색하고, 비공개 채팅 및 파일의 전체 대화 기록을 볼 수도 있습니다.
어떤 경우에는 이러한 제어 인터페이스에 대한 액세스가 외부인이 본질적으로 사용자의 디지털 환경에 대한 마스터 키를 보유한다는 것을 의미했습니다. 이를 통해 공격자는 Telegram, Slack, Discord와 같은 플랫폼 전반에 걸쳐 마치 소유자인 것처럼 메시지를 보내고, 도구를 실행하고, 명령을 실행할 수 있는 능력을 갖게 됩니다.
다른 조사에 따르면 Moltbot AI는 토큰 및 자격 증명과 같은 민감한 데이터를 일반 텍스트로 저장하는 경우가 많아 일반적인 정보 유출 및 자격 증명 수집 악성 코드의 쉬운 표적이 되는 것으로 나타났습니다.
연구원들은 또한 공급망 공격을 통해 악성 "기술"이 Moltbot의 라이브러리에 업로드되어 의심하지 않는 사용자가 제어하는 다운스트림 시스템에서 원격 명령 실행이 가능해지는 개념 증명 공격을 시연했습니다.
이것은 단순한 이론이 아닙니다. The Register에 따르면 분석가들은 인터넷에 노출된 안전하지 않은 Moltbot 인스턴스가 원격 백도어 역할을 할 수 있다고 경고합니다.
공격자가 봇을 속여 유해한 명령을 실행하도록 하는 프롬프트 주입 취약점의 가능성도 있습니다. OpenAI의 AI 브라우저인 Atlas에서 이미 본 것입니다.
Moltbot이 샌드박싱, 방화벽 격리 또는 인증된 관리자 액세스와 같은 기존 보호 장치로 제대로 보호되지 않으면 공격자가 민감한 정보에 액세스하거나 시스템의 일부를 제어할 수도 있습니다.
Moltbot은 실제 작업을 자동화할 수 있으므로 손상된 시스템을 사용하여 악성 코드를 확산시키거나 네트워크에 추가로 침투할 수 있습니다. Google 보안팀 부사장인 Heather Adkins는 챗봇에 대해 다음과 같이 생각합니다.
간단히 말해서, Moltbot은 더 유능한 개인 AI 비서를 향한 흥미로운 단계이지만, Moltbot의 깊은 시스템 권한과 광범위한 액세스는 컴퓨터에 설치하기 전에 두 번 생각하고 위험을 이해해야 함을 의미합니다.
연구원들은 시스템의 중요한 부분에 영향을 미칠 수 있는 모든 소프트웨어에 적용할 때와 동일한 주의를 기울여 이를 처리할 것을 제안합니다.