forked from templates/template-go-backend
65 lines
1.2 KiB
Markdown
65 lines
1.2 KiB
Markdown
# Ollama Proxy
|
||
|
||
Прокси для подключения к серверу Ollama без SSH-туннелей.
|
||
|
||
---
|
||
|
||
## Первый раз (один раз на ноутбуке)
|
||
|
||
### 1. Клонировать репозиторий
|
||
|
||
```cmd
|
||
git clone <репозиторий> C:\ollama-proxy (диск C: как пример)
|
||
cd C:\ollama-proxy
|
||
```
|
||
|
||
### 2. Собрать
|
||
|
||
```cmd
|
||
go build -o proxy.exe ./src
|
||
```
|
||
|
||
### 3. Создать файл `.env` рядом с `proxy.exe`
|
||
|
||
```
|
||
LISTEN_ADDR=localhost:11434
|
||
OLLAMA_BACKEND=http://10.111.111.40:8080
|
||
```
|
||
|
||
---
|
||
|
||
## Перед работой
|
||
|
||
**Терминал 1** — запустить прокси:
|
||
|
||
```cmd
|
||
cd C:\ollama-proxy
|
||
proxy.exe
|
||
```
|
||
|
||
Дождись строки:
|
||
|
||
```
|
||
Прокси запущен addr=localhost:11434 backend=http://10.111.111.40:8080
|
||
```
|
||
|
||
**Терминал 2** — запустить Codex:
|
||
|
||
```cmd
|
||
ollama launch codex
|
||
```
|
||
|
||
Работаешь. Закончил — закрыл оба терминала.
|
||
|
||
---
|
||
|
||
## Проверка (если что-то не работает)
|
||
|
||
Убедись что прокси запущен и сервер доступен:
|
||
|
||
```cmd
|
||
curl http://localhost:11434/api/tags
|
||
```
|
||
|
||
Если вернулся список моделей — всё работает.
|