ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
Anthropic은 스프레드시트 작성이나 메모를 표시 가능한 초안으로 합성하는 등 일상적이지만 시간이 많이 걸리는 작업을 처리할 때 챗봇에 더 많은 대행사를 제공하는 Claude의 새로운 기능을 테스트하고 있습니다.
새로운 기능이 호출되는 Cowork는 Claude Code를 기반으로 구축되었으며 최소한의 인간 프롬프트로 복잡한 기능을 실행하는 동시에 사용자에게 수행 단계에 대한 최신 정보를 제공하도록 설계되었습니다. 클로드가 주어진 작업을 수행하는 데 필요한 원자재를 넘겨주고, 한 발 물러나 자동으로 작업을 수행하도록 하는 것이 아이디어입니다. Cowork를 통해 사용자는 Claude에게 컴퓨터의 특정 폴더에 대한 액세스 권한을 부여할 수 있으며, 커넥터, 기술 및 Google Chrome을 사용하도록 기능을 수정할 수도 있습니다.
또한: Claude는 이제 Excel과 통합할 수 있으며 7개의 새로운 커넥터를 얻습니다.
"Cowork는 Claude를 새로운 작업에 최대한 간단하게 사용할 수 있도록 설계되었습니다."라고 Anthropic은 블로그 게시물에 썼습니다. "계속 수동으로 컨텍스트를 제공하거나 Claude의 출력을 올바른 형식으로 변환할 필요가 없습니다. 앞뒤로 왔다갔다하는 느낌보다는 동료에게 메시지를 남기는 느낌이 훨씬 더 큽니다."
그러나 Anthropic은 블로그 게시물에서 개발 초기 단계에서 Cowork를 사용하는 것이 위험이 전혀 없는 것은 아니라는 점을 인정했습니다.
회사는 Cowork가 "중요한 조치를 취하기 전에" 사용자에게 확인을 요청할 것이라고 말하면서도 모호한 지시는 재앙으로 이어질 수 있다고 경고했습니다. Anthropic은 블로그 게시물에서 "가장 알아야 할 가장 중요한 것은 Claude가 지시를 받으면 로컬 파일 삭제와 같은 잠재적으로 파괴적인 조치를 취할 수 있다는 것입니다"라고 썼습니다. "클로드가 당신의 지시를 잘못 해석할 가능성이 항상 있기 때문에 이런 일에 대해서는 클로드에게 매우 명확한 지침을 주어야 합니다."
이는 모든 AI 개발자가 직면하는 광범위한 정렬 문제를 나타냅니다. 즉, 모델, 특히 더 큰 주체를 갖도록 설계된 모델은 양성 인간 지침을 잘못 해석하거나 예상치 못한 방식으로 동작하여 잠재적으로 재앙적인 결과를 초래할 수 있다는 것입니다. 좀 더 극단적인 경우, Anthropic의 연구에 따르면 선도적인 AI 모델이 목표 달성을 방해한다고 생각하는 인간 사용자를 위협하는 경우도 있는 것으로 나타났습니다.
또한: OpenAI가 현재 공격으로부터 ChatGPT Atlas를 방어하는 방법과 안전이 보장되지 않는 이유
Anthropic은 또한 Cowork가 에이전트에게 파괴적이거나 불법적인 방식으로 행동하도록 지시하는 트로이 목마 스타일의 악성 해킹인 프롬프트 인젝션(promptjection)에 취약하다고 경고했습니다. 블로그 게시물에서는 Anthropic이 "즉시 주사에 대한 정교한 방어"로 Claude를 강화했다고 밝혔지만 이것이 "업계에서 여전히 활발한 개발 영역"임을 인정했습니다.
Anthropic의 최고 경쟁자인 OpenAI는 지난달 자체 블로그 게시물에서 신속한 주입이 AI 에이전트에게 해결 불가능한 문제로 남을 가능성이 높으며 개발자가 할 수 있는 최선은 악의적인 해커가 공격할 수 있는 마진을 최소화하는 것이라고 썼습니다.
Anthropic은 주로 소프트웨어 엔지니어와 기업이 신뢰하는 도구를 구축함으로써 점점 더 혼잡해지는 AI 산업에서 두각을 나타냈습니다. 지난 9월 회사는 최근 자금 조달 라운드에서 140억 달러를 조달하여 총 가치가 1,830억 달러에 이르렀다고 발표했습니다. 그만큼 월스트리트저널 지난 주에 새로운 자금 조달 이후 회사의 가치가 3,500억 달러에 달할 수 있다고 보고했습니다.
또한: Anthropic의 기업 지배력이 1,830억 달러의 엄청난 가치 평가를 촉진한 방법
Cowork의 데뷔는 Anthropic이 주력 챗봇을 코더와 비즈니스뿐만 아니라 일반 사용자에게도 선호되는 AI 도구로 만들기 위한 점점 더 많은 노력을 기울일 수 있음을 암시합니다.
Anthropic은 처음에 Claude Max 구독자만을 위한 연구 미리보기로 Cowork를 출시합니다. 구독자는 이제 Claude MacOS 앱을 다운로드하고 사이드바에서 "Cowork"를 클릭하여 액세스할 수 있습니다. 다른 사용자의 경우 대기자 명단이 곧 제공될 예정이며, 공유할 링크가 있으면 업데이트하겠습니다.
회사는 블로그 게시물을 통해 초기 피드백을 사용하여 장치 간 사용, Windows에서의 가용성, 안전 기능 업그레이드 등 Cowork의 향후 개선 사항을 안내할 것이라고 밝혔습니다.