ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
드물게 AI를 사용할 때는 항상 로컬 버전을 선택합니다. 대부분의 경우 데스크톱이나 노트북에 Ollama가 설치된 형태로 제공됩니다. 저는 다음과 같은 여러 가지 이유로 한동안 클라우드 기반 AI 사용을 꺼려왔습니다.
이 세 가지 이유만으로도 나는 항상 로컬 AI를 선택하게 됩니다. 데스크톱에서는 모두 괜찮지만 모바일 장치에서는 어떻습니까? 타사에 의존하지 않는 브라우저에서 AI를 사용할 수 있는 방법이 있나요?
또한: 거의 모든 브라우저를 테스트한 결과 상위 4개 브라우저(스포일러: Chrome은 목록에 포함되지 않음)
Puma Browser 덕분에 이제 가능해졌습니다. 안드로이드와 모두 사용 가능합니다. iOS Qwen 3 1.5b, Qwen 3 4B, LFM2 1.2, LFM2 700M, Google Gemma 3n E2B 등과 같은 로컬 LLM을 사용할 수 있습니다.
Pixel 9 Pro에 Puma Browser를 설치한 다음 Qwen 3 1.5b를 다운로드하여 얼마나 잘 작동하는지 확인했습니다.
저는 다양한 하드웨어에서 로컬 AI를 여러 번 사용해 봤기 때문에 시스템 리소스가 어떻게 소모되는지 알고 있습니다. 나는 전화기의 로컬 AI가 엄청나게 느릴 것이라고 생각했습니다. 또한 해당 LLM이 얼마나 많은 저장 공간을 차지할 수 있는지 알고 있으므로 약간의 떨림으로 LLM을 다운로드했습니다(Puma 브라우저를 제거하면 LLM도 제거되는지 확실하지 않음).
Puma Browser의 로컬 AI는 아직 실험 단계이므로 문제가 발생할 수 있습니다. 또한 LLM을 다운로드하는 데 시간이 좀 걸립니다. 또한 무선 네트워크에 연결되어 있는지 확인해야 합니다. 그렇지 않으면 다운로드 시 데이터 요금제가 소모되고 시간이 오래 걸립니다.
Puma Browser에 사용 가능한 LLM을 다운로드할 수 있습니다.
무선 환경에서도 Qwen 3 1.5b를 다운로드하는 데 10분이 넘게 걸렸습니다.
하지만 어떻게 작동합니까? 나는 충격을 받았습니다. LLM을 다운로드한 후 일반적인 테스트 쿼리를 실행했습니다.
리눅스란 무엇인가?
Puma는 로컬 AI를 사용했을 때 예상했던 것보다 상당히 빨랐습니다.
놀랍게도 Puma Browser는 즉시 답변으로 응답했습니다. 솔직히 내 Pixel 9 Pro의 로컬 LLM은 System76 Thelio 데스크톱 PC(Pop!_OS 실행) 및 MacBook Pro의 Ollama와 마찬가지로 성능이 뛰어났습니다. 나는 그것을 믿을 수 없었다!
Puma가 실제로 로컬 LLM을 사용하고 있는지 확인하기 위해 Pixel 9 Pro에서 인터넷과 무선 연결을 모두 비활성화하고 다른 쿼리를 실행했습니다. 이번에도 AI는 매우 빠르게 답변을 했습니다. 나를 감동시키는 색상.
또한: 내 Android에서 Perplexity의 Comet 브라우저를 사용하는 것은 귀찮은 일이라고 생각했습니다. 하지만 제 생각은 완전히 틀렸습니다.
나는 이 브라우저에 대해 매우 낮은 기대를 갖고 있었고, 내 가정이 틀렸다는 것이 입증되어 매우 기쁩니다. 로컬 LLM을 통해 성능이 저하되거나 성능이 전혀 없을 것으로 예상했지만 Puma Browser가 제공되었습니다.
첫째, 네트워크에 연결되어 있지 않아도 휴대폰에서 AI를 활용할 수 있다는 의미입니다. 이는 또한 이미 긴장된 전력망에 더 많은 부담을 가하지 않을 것임을 의미합니다. 둘 다 내 책에서 큰 장점입니다.
(앞서 언급했듯이) 고려해야 할 유일한 점은 LLM이 휴대폰에서 많은 저장 공간을 사용할 수 있다는 것입니다. 정기적으로 공간이 부족하고 공간을 확보하기 위해 사진과 비디오를 삭제해야 하는 사람이라면 로컬 AI를 사용하는 것이 실행 가능한 옵션이 아닙니다.
또한: 저는 최고의 AI 브라우저를 테스트해 왔습니다. 실제로 저에게 인상 깊었던 브라우저는 다음과 같습니다.
특히 다양한 목적으로 LLM 간에 전환하려는 경우 장치에 충분한 저장 공간이 필요합니다. 내 데스크톱에 거의 20GB 크기의 LLM을 다운로드했으므로 어떤 LLM을 사용할지 매우 주의해야 합니다. 예를 들어 Qwen 3 1.5b의 크기는 거의 6GB입니다. 그럴 공간이 있나요?
휴대폰에서 로컬 AI를 사용해 보고 싶다면 Puma Browser가 환상적인 선택입니다. 빠르고 사용하기 쉬우며 여러 LLM 중에서 선택할 수 있습니다. 이 새로운 브라우저를 사용해 보고 이것이 모바일 AI 쿼리의 기본값이 아닌지 확인하세요.
보너스: Puma 브라우저는 일반 브라우저로도 작동할 수 있습니다.