本地 AI / 数据科学环境

# 查看推荐的驱动版本
ubuntu-drivers devices
 
# 安装推荐驱动
sudo ubuntu-drivers autoinstall
 
# 或按 ubuntu-drivers devices 的输出手动安装指定版本
sudo apt install nvidia-driver-XXX -y
 
# 重启
sudo reboot

nvidia-smi

# 通过 apt 安装（Ubuntu 仓库版本）
sudo apt install cuda-toolkit -y
 
# 验证
nvcc --version

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2604/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt update
 
# 查看仓库中可用的 CUDA Toolkit 版本
apt-cache search cuda-toolkit
 
# 安装指定版本（将 XX-Y 替换为实际可用版本）
sudo apt install cuda-toolkit-XX-Y -y

echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc

sudo apt install libcudnn9-cuda-12 libcudnn9-dev-cuda-12 -y

curl -fsSL https://ollama.com/install.sh | sh

# 运行模型（首次会自动下载）
ollama run llama3.2
 
# 运行其他模型
ollama run mistral
ollama run gemma2
ollama run qwen2.5
ollama run deepseek-r1
 
# 列出已下载的模型
ollama list
 
# 删除模型
ollama rm llama3.2
 
# 查看运行中的模型
ollama ps

# 生成文本
curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2",
  "prompt": "用中文解释什么是机器学习"
}'
 
# 聊天对话
curl http://localhost:11434/api/chat -d '{
  "model": "llama3.2",
  "messages": [
    {"role": "user", "content": "你好"}
  ]
}'

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

# Ubuntu 26.04 默认禁止系统级 pip 安装（PEP 668）
# 方法一：用 pipx 安装为独立应用
sudo apt install -y pipx
pipx ensurepath
pipx install jupyterlab
 
# 方法二：在虚拟环境中安装
python3 -m venv ~/jupyter-env
source ~/jupyter-env/bin/activate
pip install jupyterlab notebook
 
# 方法三：使用 conda
conda install -c conda-forge jupyterlab

jupyter lab

# 安装 R 内核
sudo apt install r-base -y
R -e "install.packages('IRkernel'); IRkernel::installspec()"
 
# 为特定虚拟环境安装内核
python -m ipykernel install --user --name myenv --display-name "Python (myenv)"

# 在安装 JupyterLab 的同一虚拟环境（或 pipx 注入）中安装
# pipx 用户可用：pipx inject jupyterlab jupyterlab-lsp python-lsp-server jupyterlab-git
pip install jupyterlab-lsp python-lsp-server
pip install jupyterlab-git

# 在虚拟环境中安装（PEP 668）
python3 -m venv ~/torch-env
source ~/torch-env/bin/activate
 
# pip install torch 默认安装当前 CUDA 版本的轮子；
# 旧驱动可显式指定较低 CUDA，如 cu126
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126
 
# 使用 conda
conda install pytorch torchvision torchaudio pytorch-cuda=12.6 -c pytorch -c nvidia

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu

import torch
print(f"PyTorch 版本: {torch.__version__}")
print(f"CUDA 可用: {torch.cuda.is_available()}")
print(f"CUDA 版本: {torch.version.cuda}")
print(f"GPU 设备: {torch.cuda.get_device_name(0)}")
 
# 简单测试
x = torch.rand(3, 3).cuda()
print(x)

# GPU 版（自动检测 CUDA）
pip install tensorflow
 
# 验证
python -c "import tensorflow as tf; print(tf.config.list_physical_devices('GPU'))"

import tensorflow as tf
print(f"TensorFlow 版本: {tf.__version__}")
print(f"GPU 设备: {tf.config.list_physical_devices('GPU')}")
 
# 简单测试
with tf.device('/GPU:0'):
    a = tf.constant([[1.0, 2.0], [3.0, 4.0]])
    b = tf.constant([[5.0, 6.0], [7.0, 8.0]])
    c = tf.matmul(a, b)
    print(c)

# 请先激活虚拟环境（PEP 668：不可直接对系统 Python 用 pip）
python3 -m venv ~/ds-env && source ~/ds-env/bin/activate
 
pip install numpy pandas matplotlib seaborn scikit-learn scipy
pip install plotly bokeh altair
pip install polars  # pandas 的高性能替代
pip install xgboost lightgbm catboost  # 梯度提升框架

# 创建项目目录
mkdir ~/ai-project && cd ~/ai-project
 
# 创建 conda 环境（conda 环境内可安全使用 pip）
conda create -n ai python=3.13 -y
conda activate ai
 
# 安装核心库（默认 CUDA；旧驱动可指定 cu126）
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126
pip install transformers datasets accelerate
pip install jupyterlab
pip install numpy pandas matplotlib scikit-learn
 
# 启动 Jupyter
jupyter lab

pip install transformers datasets accelerate

from transformers import pipeline
 
# 文本生成
generator = pipeline("text-generation", model="gpt2")
result = generator("人工智能的未来是", max_length=50)
print(result)
 
# 中文文本分类
classifier = pipeline("sentiment-analysis", model="uer/roberta-base-finetuned-chinanews-chinese")
result = classifier("这个产品非常好用")
print(result)

# 实时监控
watch -n 1 nvidia-smi
 
# 使用 nvitop（更美观的界面）——用 pipx 安装为独立 CLI 工具
pipx install nvitop
nvitop
 
# 使用 gpustat
pipx install gpustat
gpustat -i 1