Обновил версию ollama

This commit is contained in:
urec56 2025-01-30 15:04:09 +03:00
parent b2b3c07262
commit ca500f6164
2 changed files with 28 additions and 10 deletions

View file

@ -30,6 +30,7 @@
config = { config = {
allowUnfree = true; allowUnfree = true;
rocmSupport = true; rocmSupport = true;
allowBroken = true;
permittedInsecurePackages = [ permittedInsecurePackages = [
"python-2.7.18.8" "python-2.7.18.8"
"electron-25.9.0" "electron-25.9.0"

View file

@ -44,7 +44,18 @@
# greenclip.enable = true; # https://github.com/erebe/greenclip (использую clipmenu вместо этого) # greenclip.enable = true; # https://github.com/erebe/greenclip (использую clipmenu вместо этого)
# fstrim.enable = true; # Чистит ssd для норм производительности. Пока не пользуюсь # fstrim.enable = true; # Чистит ssd для норм производительности. Пока не пользуюсь
# archisteamfarm = {}; # Фарм карточек стима афк. Простро раскомментить мало, надо настроить # archisteamfarm = {}; # Фарм карточек стима афк. Простро раскомментить мало, надо настроить
ollama = { ollama = let # Более новая версия олламы. Не находит libstdc++.so.6
pinPackage =
{
name,
commit,
sha256,
}:
(import (builtins.fetchTarball {
inherit sha256;
url = "https://github.com/NixOS/nixpkgs/archive/${commit}.tar.gz";
}) { system = pkgs.system; }).${name};
in {
enable = true; enable = true;
acceleration = "rocm"; acceleration = "rocm";
# Ollama Port 11434/tcp # Ollama Port 11434/tcp
@ -53,15 +64,20 @@
openFirewall = true; openFirewall = true;
# pin ollama v0.5.7 until nixpkgs update # pin ollama v0.5.7 until nixpkgs update
# https://github.com/NixOS/nixpkgs/issues/375359 # https://github.com/NixOS/nixpkgs/issues/375359
# package = (pinPackage { package = (pinPackage {
# name = "ollama"; name = "ollama";
# commit = "d0169965cf1ce1cd68e50a63eabff7c8b8959743"; commit = "d0169965cf1ce1cd68e50a63eabff7c8b8959743";
# sha256 = "sha256:1hh0p0p42yqrm69kqlxwzx30m7i7xqw9m8f224i3bm6wsj4dxm05"; sha256 = "sha256:1hh0p0p42yqrm69kqlxwzx30m7i7xqw9m8f224i3bm6wsj4dxm05";
# }); });
rocmOverrideGfx = "10.3.0"; rocmOverrideGfx = "10.3.0";
# additional environment variables # additional environment variables
# environmentVariables = { HSA_OVERRIDE_GFX_VERSION="10.3.0"; }; # environmentVariables = { HSA_OVERRIDE_GFX_VERSION="10.3.0"; };
}; };
# nextjs-ollama-llm-ui.enable = true; # Залупа, не может качать модели и не видит те, которые уже установлены
# open-webui = { # Не робит, нужно компилить rocm ласт версии, который не робит на моей видюхе
# enable = true;
# port = 3000;
# };
}; };
programs = { programs = {
@ -112,11 +128,12 @@
gamescope.enable = true; gamescope.enable = true;
nix-ld = { # Позволяет нормально юзать либы для венва и тп nix-ld = { # Позволяет нормально юзать либы для венва и тп
enable = true; enable = true;
libraries = with pkgs; [ libraries = with pkgs2; [
gcc gcc
libGL libGL
glib glib
libGLU.out libGLU.out
libgcc.lib # Для libstdc++.so.6с
]; ];
}; };
}; };
@ -196,8 +213,8 @@
## Terminal ## ## Terminal ##
############## ##############
mdadm mdadm # Для создания рейд массивов
cryptsetup cryptsetup # Для шифрования дисков
openssl openssl
wget wget
curl curl
@ -220,7 +237,7 @@
# zscroll # A text scroller for use with panels and shells https://github.com/noctuid/zscroll # zscroll # A text scroller for use with panels and shells https://github.com/noctuid/zscroll
tokei # Количество строк кода на разных языках в каталоге tokei # Количество строк кода на разных языках в каталоге
pass # Менеджер паролей в терминале pass # Менеджер паролей в терминале
nvtop # Htop like gpu monitor nvtopPackages.full # Htop like gpu monitor
amdgpu_top # Tool to display AMD GPU usage amdgpu_top # Tool to display AMD GPU usage
btop # Монитор ресурсов в терминале btop # Монитор ресурсов в терминале
rocmPackages.rocm-smi # Чтоб в btop было gpu (не работает) rocmPackages.rocm-smi # Чтоб в btop было gpu (не работает)