![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Entry tags:
локализация
На хабре щас статья про то, как установить deepseek локально. Как-то мутновато, через docker. Нагуглилось.
Хвала башеписателям install.sh, на debian 12 установился rocm, что для карт amd. И на rx560 вроде бы вполне себе фурычит. На ubuntu мне не удалось запустить rocm, видимо более новые драйвера ставит.
На случай, если ссылка не будет рабочей:
$wget https://ollama.ai/install.sh
#./install.sh
$ollama pull deepseek-r1:1.5b
$ollama run deepseek-r1:1.5b
Библиотека.
Во время работы скрипта выскочила ошибка про ssl. Оказалось, что встроенный семейный фильтр в роутере не дает скачивать модели ИИ.
upd. Как в анекдоте, то что считали оргазмом на самом деле астма.
level=WARN source=amd_linux.go:309 msg="amdgpu too old gfx803" gpu=0
level=INFO source=amd_linux.go:402 msg="no compatible amdgpu devices detected"
level=INFO source=gpu.go:377 msg="no compatible GPUs were discovered"
level=INFO source=types.go:130 msg="inference compute" id=0 library=cpu variant="" compute=""
И я не понимаю как перенести установку в директорию /home. Модели ставятся в /, а там места не хватает.
Во чо нагуглилось по поводу rocm на rx5xx: 1, 2.
Не знаю какая версия драйвера нужна, но так или иначе если и будет работать, то скорее всего на уже не поддерживаемой версии linux.
Моя следующая видеокарта, скорее всего, будет не AMD.
upd2. Вроде как нужна версия до 4.5, т.е. 4.3.1. Но в debian 12, как это частенько бывает в любом бинарном дистрибутиве при попытке установить что-то не из коробки, требует либы, которых либо нет, либо версия не та.
upd3. А тут пишут, что нужна версия 3.5.1.
upd4. Вроде бы внятное howto. В debian 12 не работает. Надо бы как нибудь попробовать в Ubuntu.
Как установить разные версии python.
upd5. Гугловский генеративный ИИ, вылезающий до первой строки поиска прекрасно ответил на вопрос как установить ollama в директорию /home.
добавить в .bashrc
export PATH="$HOME/ollama_local:$PATH"
export OLLAMA_MODELS="$HOME/.ollama/models"
Только вот я добавил эти строчки в админский .bashrc и заменил $HOME на путь. И сработало.
Хвала башеписателям install.sh, на debian 12 установился rocm, что для карт amd. И на rx560 вроде бы вполне себе фурычит. На ubuntu мне не удалось запустить rocm, видимо более новые драйвера ставит.
На случай, если ссылка не будет рабочей:
$wget https://ollama.ai/install.sh
#./install.sh
$ollama pull deepseek-r1:1.5b
$ollama run deepseek-r1:1.5b
Библиотека.
Во время работы скрипта выскочила ошибка про ssl. Оказалось, что встроенный семейный фильтр в роутере не дает скачивать модели ИИ.
upd. Как в анекдоте, то что считали оргазмом на самом деле астма.
level=WARN source=amd_linux.go:309 msg="amdgpu too old gfx803" gpu=0
level=INFO source=amd_linux.go:402 msg="no compatible amdgpu devices detected"
level=INFO source=gpu.go:377 msg="no compatible GPUs were discovered"
level=INFO source=types.go:130 msg="inference compute" id=0 library=cpu variant="" compute=""
И я не понимаю как перенести установку в директорию /home. Модели ставятся в /, а там места не хватает.
Во чо нагуглилось по поводу rocm на rx5xx: 1, 2.
Не знаю какая версия драйвера нужна, но так или иначе если и будет работать, то скорее всего на уже не поддерживаемой версии linux.
Моя следующая видеокарта, скорее всего, будет не AMD.
upd2. Вроде как нужна версия до 4.5, т.е. 4.3.1. Но в debian 12, как это частенько бывает в любом бинарном дистрибутиве при попытке установить что-то не из коробки, требует либы, которых либо нет, либо версия не та.
upd3. А тут пишут, что нужна версия 3.5.1.
upd4. Вроде бы внятное howto. В debian 12 не работает. Надо бы как нибудь попробовать в Ubuntu.
Как установить разные версии python.
upd5. Гугловский генеративный ИИ, вылезающий до первой строки поиска прекрасно ответил на вопрос как установить ollama в директорию /home.
добавить в .bashrc
export PATH="$HOME/ollama_local:$PATH"
export OLLAMA_MODELS="$HOME/.ollama/models"
Только вот я добавил эти строчки в админский .bashrc и заменил $HOME на путь. И сработало.