Обновил версию ollama

This commit is contained in:
urec56 2025-01-30 15:04:09 +03:00
parent b2b3c07262
commit ca500f6164
2 changed files with 28 additions and 10 deletions

View file

@ -30,6 +30,7 @@
config = {
allowUnfree = true;
rocmSupport = true;
allowBroken = true;
permittedInsecurePackages = [
"python-2.7.18.8"
"electron-25.9.0"

View file

@ -44,7 +44,18 @@
# greenclip.enable = true; # https://github.com/erebe/greenclip (использую clipmenu вместо этого)
# fstrim.enable = true; # Чистит ssd для норм производительности. Пока не пользуюсь
# archisteamfarm = {}; # Фарм карточек стима афк. Простро раскомментить мало, надо настроить
ollama = {
ollama = let # Более новая версия олламы. Не находит libstdc++.so.6
pinPackage =
{
name,
commit,
sha256,
}:
(import (builtins.fetchTarball {
inherit sha256;
url = "https://github.com/NixOS/nixpkgs/archive/${commit}.tar.gz";
}) { system = pkgs.system; }).${name};
in {
enable = true;
acceleration = "rocm";
# Ollama Port 11434/tcp
@ -53,15 +64,20 @@
openFirewall = true;
# pin ollama v0.5.7 until nixpkgs update
# https://github.com/NixOS/nixpkgs/issues/375359
# package = (pinPackage {
# name = "ollama";
# commit = "d0169965cf1ce1cd68e50a63eabff7c8b8959743";
# sha256 = "sha256:1hh0p0p42yqrm69kqlxwzx30m7i7xqw9m8f224i3bm6wsj4dxm05";
# });
package = (pinPackage {
name = "ollama";
commit = "d0169965cf1ce1cd68e50a63eabff7c8b8959743";
sha256 = "sha256:1hh0p0p42yqrm69kqlxwzx30m7i7xqw9m8f224i3bm6wsj4dxm05";
});
rocmOverrideGfx = "10.3.0";
# additional environment variables
# environmentVariables = { HSA_OVERRIDE_GFX_VERSION="10.3.0"; };
};
# nextjs-ollama-llm-ui.enable = true; # Залупа, не может качать модели и не видит те, которые уже установлены
# open-webui = { # Не робит, нужно компилить rocm ласт версии, который не робит на моей видюхе
# enable = true;
# port = 3000;
# };
};
programs = {
@ -112,11 +128,12 @@
gamescope.enable = true;
nix-ld = { # Позволяет нормально юзать либы для венва и тп
enable = true;
libraries = with pkgs; [
libraries = with pkgs2; [
gcc
libGL
glib
libGLU.out
libgcc.lib # Для libstdc++.so.6с
];
};
};
@ -196,8 +213,8 @@
## Terminal ##
##############
mdadm
cryptsetup
mdadm # Для создания рейд массивов
cryptsetup # Для шифрования дисков
openssl
wget
curl
@ -220,7 +237,7 @@
# zscroll # A text scroller for use with panels and shells https://github.com/noctuid/zscroll
tokei # Количество строк кода на разных языках в каталоге
pass # Менеджер паролей в терминале
nvtop # Htop like gpu monitor
nvtopPackages.full # Htop like gpu monitor
amdgpu_top # Tool to display AMD GPU usage
btop # Монитор ресурсов в терминале
rocmPackages.rocm-smi # Чтоб в btop было gpu (не работает)