добавил поддерку ollama
This commit is contained in:
parent
553bd11e70
commit
b2b3c07262
3 changed files with 38 additions and 2 deletions
|
@ -29,6 +29,7 @@
|
|||
# pkgs = nixpkgs.legacyPackages.${system};
|
||||
config = {
|
||||
allowUnfree = true;
|
||||
rocmSupport = true;
|
||||
permittedInsecurePackages = [
|
||||
"python-2.7.18.8"
|
||||
"electron-25.9.0"
|
||||
|
|
|
@ -4,7 +4,7 @@
|
|||
{ pkgs, ... }: {
|
||||
hardware = { # Параметры для 24.05 и unstable могут сильно отличаться
|
||||
amdgpu = {
|
||||
opencl.enable = true; # # Enable OpenCL support using ROCM runtime library.
|
||||
opencl.enable = true; # Enable OpenCL support using ROCM runtime library.
|
||||
# amdvlk = { # Гавно лаганое, лучше radv юзать (radeon vulkan)
|
||||
# enable = true; # Enable AMDVLK Vulkan driver.
|
||||
# support32Bit.enable = true; # Enable 32-bit driver support.
|
||||
|
@ -18,6 +18,7 @@
|
|||
enable32Bit = true; # install 32-bit drivers for 32-bit applications (such as Wine).
|
||||
extraPackages = with pkgs; [
|
||||
libva # VAAPI (Video Acceleration API)
|
||||
rocmPackages.clr.icd # OpenCL
|
||||
];
|
||||
};
|
||||
|
||||
|
@ -46,9 +47,20 @@
|
|||
|
||||
# HIP
|
||||
# Most software has the HIP libraries hard-coded. You can work around it on NixOS by using:
|
||||
# systemd.tmpfiles.rules = [
|
||||
# systemd.tmpfiles.rules = [ # Legacy
|
||||
# "L+ /opt/rocm/hip - - - - ${pkgs.rocmPackages.clr}"
|
||||
# ];
|
||||
systemd.tmpfiles.rules = let
|
||||
rocmEnv = pkgs.symlinkJoin {
|
||||
name = "rocm-combined";
|
||||
paths = with pkgs.rocmPackages; [
|
||||
rocblas
|
||||
hipblas
|
||||
clr
|
||||
];
|
||||
}; in [
|
||||
"L+ /opt/rocm - - - - ${rocmEnv}"
|
||||
];
|
||||
|
||||
boot.initrd.kernelModules = [ "amdgpu" ]; # Мб не обязательно
|
||||
|
||||
|
|
|
@ -44,6 +44,24 @@
|
|||
# greenclip.enable = true; # https://github.com/erebe/greenclip (использую clipmenu вместо этого)
|
||||
# fstrim.enable = true; # Чистит ssd для норм производительности. Пока не пользуюсь
|
||||
# archisteamfarm = {}; # Фарм карточек стима афк. Простро раскомментить мало, надо настроить
|
||||
ollama = {
|
||||
enable = true;
|
||||
acceleration = "rocm";
|
||||
# Ollama Port 11434/tcp
|
||||
host = "0.0.0.0";
|
||||
port = 11434;
|
||||
openFirewall = true;
|
||||
# pin ollama v0.5.7 until nixpkgs update
|
||||
# https://github.com/NixOS/nixpkgs/issues/375359
|
||||
# package = (pinPackage {
|
||||
# name = "ollama";
|
||||
# commit = "d0169965cf1ce1cd68e50a63eabff7c8b8959743";
|
||||
# sha256 = "sha256:1hh0p0p42yqrm69kqlxwzx30m7i7xqw9m8f224i3bm6wsj4dxm05";
|
||||
# });
|
||||
rocmOverrideGfx = "10.3.0";
|
||||
# additional environment variables
|
||||
# environmentVariables = { HSA_OVERRIDE_GFX_VERSION="10.3.0"; };
|
||||
};
|
||||
};
|
||||
|
||||
programs = {
|
||||
|
@ -202,9 +220,14 @@
|
|||
# zscroll # A text scroller for use with panels and shells https://github.com/noctuid/zscroll
|
||||
tokei # Количество строк кода на разных языках в каталоге
|
||||
pass # Менеджер паролей в терминале
|
||||
nvtop # Htop like gpu monitor
|
||||
amdgpu_top # Tool to display AMD GPU usage
|
||||
btop # Монитор ресурсов в терминале
|
||||
rocmPackages.rocm-smi # Чтоб в btop было gpu (не работает)
|
||||
# rocmPackages_5.rocm-smi # Старая версия пакета выше. Хз какой надо
|
||||
rocmPackages.rocblas # Для работы hip?
|
||||
rocmPackages.hipblas # Для работы hip?
|
||||
rocmPackages.clr # Для работы hip?
|
||||
pkgs2.yt-dlp # Скачивать и смотреть медиа с разных сайтов
|
||||
tasktimer # TUI task timer. Можно несколько таймеров с описанием запустить. В терминал tt
|
||||
timer # A "sleep" with progress. Таймер на пельмени "timer 5m"
|
||||
|
|
Loading…
Add table
Reference in a new issue