需要先安裝nvidia顯卡驅動
先創建一個venv環境
python3 -m venv-deepseek pip install -r requirements.txtdocker run --gpus "device=0" <image name>使用軟鏈結或直接將模型放到當前目錄的./model/目錄下，建議使用軟鏈結
ln -s /media/administrator/hdd/Workspace/Models/deepseek-model-8b ./modelBoardWare-Genius/deepseek-example
Folders and files
| Name | Name | Last commit date | ||
|---|---|---|---|---|