Обновил версию ollama
This commit is contained in:
parent
b2b3c07262
commit
ca500f6164
2 changed files with 28 additions and 10 deletions
|
@ -30,6 +30,7 @@
|
|||
config = {
|
||||
allowUnfree = true;
|
||||
rocmSupport = true;
|
||||
allowBroken = true;
|
||||
permittedInsecurePackages = [
|
||||
"python-2.7.18.8"
|
||||
"electron-25.9.0"
|
||||
|
|
|
@ -44,7 +44,18 @@
|
|||
# greenclip.enable = true; # https://github.com/erebe/greenclip (использую clipmenu вместо этого)
|
||||
# fstrim.enable = true; # Чистит ssd для норм производительности. Пока не пользуюсь
|
||||
# archisteamfarm = {}; # Фарм карточек стима афк. Простро раскомментить мало, надо настроить
|
||||
ollama = {
|
||||
ollama = let # Более новая версия олламы. Не находит libstdc++.so.6
|
||||
pinPackage =
|
||||
{
|
||||
name,
|
||||
commit,
|
||||
sha256,
|
||||
}:
|
||||
(import (builtins.fetchTarball {
|
||||
inherit sha256;
|
||||
url = "https://github.com/NixOS/nixpkgs/archive/${commit}.tar.gz";
|
||||
}) { system = pkgs.system; }).${name};
|
||||
in {
|
||||
enable = true;
|
||||
acceleration = "rocm";
|
||||
# Ollama Port 11434/tcp
|
||||
|
@ -53,15 +64,20 @@
|
|||
openFirewall = true;
|
||||
# pin ollama v0.5.7 until nixpkgs update
|
||||
# https://github.com/NixOS/nixpkgs/issues/375359
|
||||
# package = (pinPackage {
|
||||
# name = "ollama";
|
||||
# commit = "d0169965cf1ce1cd68e50a63eabff7c8b8959743";
|
||||
# sha256 = "sha256:1hh0p0p42yqrm69kqlxwzx30m7i7xqw9m8f224i3bm6wsj4dxm05";
|
||||
# });
|
||||
package = (pinPackage {
|
||||
name = "ollama";
|
||||
commit = "d0169965cf1ce1cd68e50a63eabff7c8b8959743";
|
||||
sha256 = "sha256:1hh0p0p42yqrm69kqlxwzx30m7i7xqw9m8f224i3bm6wsj4dxm05";
|
||||
});
|
||||
rocmOverrideGfx = "10.3.0";
|
||||
# additional environment variables
|
||||
# environmentVariables = { HSA_OVERRIDE_GFX_VERSION="10.3.0"; };
|
||||
};
|
||||
# nextjs-ollama-llm-ui.enable = true; # Залупа, не может качать модели и не видит те, которые уже установлены
|
||||
# open-webui = { # Не робит, нужно компилить rocm ласт версии, который не робит на моей видюхе
|
||||
# enable = true;
|
||||
# port = 3000;
|
||||
# };
|
||||
};
|
||||
|
||||
programs = {
|
||||
|
@ -112,11 +128,12 @@
|
|||
gamescope.enable = true;
|
||||
nix-ld = { # Позволяет нормально юзать либы для венва и тп
|
||||
enable = true;
|
||||
libraries = with pkgs; [
|
||||
libraries = with pkgs2; [
|
||||
gcc
|
||||
libGL
|
||||
glib
|
||||
libGLU.out
|
||||
libgcc.lib # Для libstdc++.so.6с
|
||||
];
|
||||
};
|
||||
};
|
||||
|
@ -196,8 +213,8 @@
|
|||
## Terminal ##
|
||||
##############
|
||||
|
||||
mdadm
|
||||
cryptsetup
|
||||
mdadm # Для создания рейд массивов
|
||||
cryptsetup # Для шифрования дисков
|
||||
openssl
|
||||
wget
|
||||
curl
|
||||
|
@ -220,7 +237,7 @@
|
|||
# zscroll # A text scroller for use with panels and shells https://github.com/noctuid/zscroll
|
||||
tokei # Количество строк кода на разных языках в каталоге
|
||||
pass # Менеджер паролей в терминале
|
||||
nvtop # Htop like gpu monitor
|
||||
nvtopPackages.full # Htop like gpu monitor
|
||||
amdgpu_top # Tool to display AMD GPU usage
|
||||
btop # Монитор ресурсов в терминале
|
||||
rocmPackages.rocm-smi # Чтоб в btop было gpu (не работает)
|
||||
|
|
Loading…
Add table
Reference in a new issue