ollama amd ati rx6600使用rocm

step 1、正确的打开方式第一步、

最终在先贤的指引下，在GitHub上找到了相应的资源：

https://github.com/likelovewant/ollama-for-amd/releases

我这里下载的是最新的0.5.9

先在上面查找支持自己显卡的ROCmlibs的版本，上面的显卡代号与自己的显卡代号匹配借口，比如我这里的gfx1032用的是较新的6.1.2版，更古老的R580之类的要使用上面的5.7版，使用方法下面的Note里也介绍了，下面配置的时候我会再写一下。

先下载好对应的版本，这里下载的是ollama-windows-amd64.7z，然后找到对应的ROCmlibs版本的链接https://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU/releases/tag/v0.6.1.2

根据自己查到的gfx代号，我这里的gfx1032，对应的是rocm.gfx1032.for.hip.sdk.6.1.2.7z

同样下载备用

step 2、安装Ollama

因为我之前安装的Ollama是0.5.11版，该版本比这里的0.5.9新，所以将原版本先卸载，再去GitHub上下载对应的0.5.9版，下载后默认安装即可，安装完成后点击右下角的图标先退出，然后：

打开 Ollama 安装目录，比如这是我的安装路径

C:\Users\YOUR_USERNAME\AppData\Local\Programs\Ollama

将ollama-windows-amd64.7z解压出来的内容覆盖粘贴到这里，然后再将rocm.gfx1032.for.hip.sdk.6.1.2.7z解压缩出来的library文件夹，粘贴至

C:\Users\YOUR_USERNAME\AppData\Local\Programs\Ollama\lib\ollama

覆盖下面的library文件夹，再将rocbias.dll粘贴至

C:\Users\YOUR_USERNAME\AppData\Local\Programs\Ollama\lib\ollama\rocm

文件夹下，覆盖里面的同名文件

step 3、重新启动Ollama

查看Ollama日志

看到这样的字样，

level=INFO source=types.go:130 msg="inference compute" id=0 library=rocm variant="" compute=gfx1032 driver=6.2 name="AMD Radeon RX 6600 XT" total="8.0 GiB" available="7.8 GiB"

就表示配置生效了

ollama amd ati rx6600使用rocm

文章评论