모바일에서 ollama 사용하는 방법

in GPT COMMUNITY6 months ago (edited)

Ollama에 대한 더 자세한 정보는 아래 링크를 방문해 주세요.

https://anpigon.tistory.com/434




로컬 LLM 활용 방법에 대해 연구 중입니다.

Ollama 사용기, Ollama 웹UI 사용하기에 이어서 작성합니다.

제 장비의 사양은 Mac M2 Pro 와 iPhone 14 Pro입니다.
  1. 내 PC의 로컬 IP를 확인합니다.

  2. PC에서 다음 명령을 실행하여 Ollama Mistral 서버를 시작합니다.

OLLAMA_HOST=192.168.35.92:11434 ollama serve

ngrok 서비스를 이용하면 외부에서 접속 가능하게 설정할 수 있습니다.

  1. 모바일 앱 설치:
  1. 모바일과 PC를 동일한 와이파이 네트워크에서 접속합니다.
  2. Ollama 모바일 앱을 실행하고 Ollama 서버 IP를 입력합니다.
    ollama 모바일앱에 내 노트북 IP를 입력하는 스크린샷|360

모바일 앱에서 Mistral 모델을 사용하여 대화를 시도하고 있는데, 한국어는 답변을 이상하게 합니다.
|360

반면 영어는 매우 잘 대답합니다.
|360


아래에서 소개하는 앱들은 모두 iOS, Android, macOS, 그리고 Windows 환경에서 사용 가능합니다.

Posted using Obsidian Steemit plugin

Sort:  

[광고] STEEM 개발자 커뮤니티에 참여 하시면, 다양한 혜택을 받을 수 있습니다.

Coin Marketplace

STEEM 0.23
TRX 0.12
JST 0.029
BTC 66222.23
ETH 3563.16
USDT 1.00
SBD 3.10