ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
AI 에이전트에 대한 기대가 지나친 것처럼 보일 수도 있지만, 이러한 도구를 생산적으로 만들려면 현장에서의 작업과 계획이 필요하다는 점을 기억하십시오. 최상위 수준의 조치에는 상담원에게 자유를 주지만 너무 많은 자유를 주지는 않는 동시에 전통적인 투자 수익 측정 방법을 재고하는 것이 포함됩니다.
또한: AI 에이전트가 향후 몇 년 내에 귀하의 작업을 알아볼 수 없게 만드는 3가지 방법
MIT Sloan Management Review에서 Kristin Burnham은 효과적인 AI 개발 및 관리를 위해서는 제어, 투자, 거버넌스 및 설계에 대해 정보에 입각한 선택을 해야 한다고 말합니다. Sloan과 Boston Consulting Group이 실시한 최근 연구를 검토하면서 그녀는 AI 에이전트 개발자와 지지자가 알아야 할 "긴장"을 언급했습니다.
또한: 법의학 전문가를 원하고 AI가 만들 수 있는 10가지 새로운 직무도 있습니다.
업계 전반에 걸쳐 에이전트는 기존 소프트웨어 개발에서 익숙했던 것 이상의 새로운 고려 사항을 요구한다는 데 동의합니다. 그 과정에서 새로운 교훈을 얻고 있습니다. 업계 리더들은 에이전트 AI의 미래로 나아가면서 ZDNET과 자신의 교훈 중 일부를 공유했습니다.
100,000명 이상의 사용자에게 전문가 수준의 기술 지침을 제공하기 위해 에이전트 제공 팀을 이끌었던 Cisco의 수석 엔지니어인 Nik Kale은 "신뢰는 정확성이 아닙니다."라고 말했습니다. 에이전트의 초기 버전은 "자신있게 응답할 수 있지만 부정확하게 응답할 수 있으므로 검색 및 구조화된 지식을 통해 기반 응답에 많은 투자를 해야 했습니다."
Kale은 "거버넌스는 개선될 수 없다"는 중요한 교훈을 얻었습니다. "감독 및 정책 제어가 늦게 추가되면 시스템에 이를 지원할 수 있는 아키텍처 연결이 부족하여 고통스러운 일시 중지나 재설계를 강요하는 경우가 많습니다."
또한: 책임감 있는 AI를 회사 DNA의 일부로 만드는 8가지 방법
장기적으로 신뢰는 가속화된다고 Kale은 말했습니다. "시스템이 제대로 작동하면 인간의 감시가 떨어집니다. 이때 경계가 명확하지 않으면 범위 확장과 의도하지 않은 자율성이 나타날 수 있습니다."
Kale은 AI 에이전트 지지자들에게 "모델 신뢰도가 아닌 가역성에 비례하여 자율성을 부여할 것을 촉구합니다. 여러 영역에 걸친 되돌릴 수 없는 작업은 시스템이 얼마나 자신감 있게 나타나는지에 관계없이 항상 사람의 감독을 받아야 합니다." Kale은 관찰 가능성도 핵심이라고 말했습니다. "결정이 어떻게 이루어졌는지 확인할 수 있다는 것은 결정 자체만큼이나 중요합니다."
Atomic Gravity의 CEO인 Tolga Tarhan은 에이전트의 경우 "의도적으로 좁게 시작합니다"라고 말했습니다. "우리가 배포하는 대부분의 에이전트는 명확한 가드레일과 측정 가능한 결과를 갖춘 단일 도메인으로 범위가 지정됩니다. 이는 엔지니어링 부조종사, 운영 보조자 또는 경영진을 위해 복잡한 데이터 세트를 합성하는 에이전트일 수 있습니다."
"사이트 방문자의 리드 검증을 자동화하는 에이전트를 구축한 마케팅 대행사인 Duanex의 CEO Oleg Danyliuk는 "AI는 양질의 데이터가 있을 때 잘 작동합니다. 우리의 예에서 리드가 우리에게 흥미로운지 이해하려면 가능한 한 많은 데이터를 얻어야 하며, 가장 복잡한 것은 소셜 네트워크의 데이터를 얻는 것입니다. 대부분 긁어낼 수 없기 때문입니다. 그렇기 때문에 우리는 몇 가지 해결 방법을 구현하고 데이터의 공개 부분만 가져와야 했습니다."
또한: 아니요, AI는 귀하의 기술 직업을 훔치는 것이 아니라 단지 변화시키는 것입니다.
Tarhan은 “데이터 품질이 가장 중요한 문제입니다.”라고 동의했습니다. "모델은 제공된 정보만큼만 성능을 발휘합니다."
Tarhan은 "성공을 미리 정의하십시오"라고 말했습니다. "모든 것을 계측하십시오. 필요하다고 생각하는 것보다 더 오랫동안 인간을 루프에 유지하십시오. 그리고 관찰 가능성과 거버넌스에 초기에 투자하십시오. 제대로 수행되면 AI 에이전트는 혁신적일 수 있습니다. 서두르면 비용이 많이 드는 데모가 됩니다. 차이점은 규율입니다." Tarhan의 팀은 "과학 실험이 아닌" 로드맵, 피드백 루프 및 지속적인 반복을 통해 에이전트를 처리하는 것을 중요하게 생각합니다.
Info-Tech Research Group의 수석 연구 이사인 Martin Bufi는 "AI 에이전트는 모델 기능만으로는 성공하지 못합니다."라고 말했습니다. 그의 팀은 재무 분석, 규정 준수 검증, 문서 처리 등 엔터프라이즈급 기능을 위한 AI 에이전트 시스템을 설계하고 개발했습니다. 이러한 프로젝트가 성공하는 데 도움이 된 것은 전체 에이전트 수명주기 관리에 초점을 맞춘 "AgentOps"(에이전트 운영)의 채용이었습니다.
Bufi는 모든 것을 수행하는 모놀리식 에이전트를 구축하는 대신 "분석, 검증, 라우팅 또는 통신과 같은 기능을 위해 여러 전문 에이전트를 고용"하라고 조언했습니다. 또한 Bufi의 팀은 "병렬 작업을 위한 명시적인 오케스트레이션 패턴 허브 앤 스포크 또는 더 깊은 조치를 취하기 전에 의도와 확신을 확립해야 하는 순차 파이프라인을 통해" 이러한 에이전트 팀이 인간 팀의 작동 방식을 미러링하도록 노력했습니다.
Confluent의 AI 책임자인 Sean Falconer는 상대적으로 제한된 단일 사용자 에이전트의 경우에도 "컨텍스트 관리는 심각한 장애물이며 올바르게 처리하지 않으면 큰 문제로 이어질 수 있습니다"라고 자신이 구축한 개인 에이전트를 회상하며 말했습니다. "에이전트가 도구와 반복적인 상호 작용을 반복하면서 컨텍스트 창이 빠르게 채워집니다. 오래된 데이터 포인트가 관련성을 잃을 수 있지만 모델이 항상 올바른 정보의 우선 순위를 암시적으로 지정하는 것은 아닙니다."
또한: AI 데이터 트레이너가 될 수 있나요? 준비 방법 및 비용
Falconer는 고품질의 일관된 출력을 유지하기 위해 "에이전트가 원래 목표의 스레드를 잃지 않도록 컨텍스트를 정리하고, 요약하고, 주입하는 방법을 최적화하는 데 불균형적인 시간을 소비합니다"라고 설명했습니다. "처음부터 적응성을 고려한 엔지니어. "AI 투자가 유연하고 적절하게 추상화되도록 보장하세요. 공급업체나 모델에 대한 종속을 피하면 다음 혁신의 물결이 도래할 때 신속하게 전환할 수 있습니다."