Blogs
ggml和onnx的区别
Submitted by hubdog on Tue, 2024-07-16 01:55主要的区别就是ggml优点支持q4的量化,这样可以使得它可以在较低配置的机器上跑大模型。onnx好像是不行的。
ggml缺点是它的模型文件只有权重信息,没有网络结构,这导致你必须自己手写代码来实现网络结构,onnx的模型是包含网络结构的,不用从头手撸网络结构。ggml的网络结构定义写起来很繁琐,不知道为啥没有人实现ggml动态的网络结构定义。
清理docker空间的命令
Submitted by hubdog on Fri, 2024-05-31 03:32sudo docker image prune --filter="dangling=true"
Docker Container连不上的问题
Submitted by hubdog on Tue, 2024-05-14 03:58用VSCode连接remote docker,报告下面的错误
Docker not running on Ubuntu WSL due to error cannot connect to the Docker daemon at unix:///var/run/docker.sock. Is the docker daemon running? [closed]
https://stackoverflow.com/questions/61592709/docker-not-running-on-ubuntu-wsl-due-to-error-cannot-connect-to-the-docker-daemo
原因:Docker Desktop每次升级完之后,会把默认连接WSL2的Ubuntu引擎给去掉,不知道为啥,还需要手工重置一下,真tmd烦人。
如何在Windows Host的vmware中安装Mac OSX 最新版本
Submitted by hubdog on Thu, 2024-05-09 03:59https://forum.amd-osx.com/threads/mac-os-install-on-amd-ryzen-vmware-opencore.4696/
好用的清理docker image的命令
Submitted by hubdog on Fri, 2024-05-03 02:31docker rmi $(docker images -qf dangling=true)
sdl_mixer1.2和2.x的一个处理区别导致的音量变小的bug
Submitted by hubdog on Mon, 2024-04-29 12:30很久以前就发现使用sdl_mixer播放的声音音量相比SDL变小了,以前sdl_mixer 1.2的时候没有这个问题,这个问题困扰我很久,我一直以为是sdl_mixer2.x的regression bug。
5.1放假正好有空研究了一下sdl_mixer的代码,终于发现问题的原因了,现在我们注册一个effect,不会直接修改输出的声音流,而是跟原始的声音做一个resample,因为原始声音都是0,所以mix后音量就变小了。看了一下代码,要想直接改原始的声音流,可以通过注册一个music effect来实现,改了以后测试了一下,声音确实变大了。
将pytorch迁移到onnx失败了
Submitted by hubdog on Sat, 2024-04-20 22:11https://pytorch.org/docs/stable/onnx_torchscript_supported_aten_ops.html
onnx很多pytorch的operator还不支持,很多模型无法导出为onnx
libtorch的dll实在是太大了
Submitted by hubdog on Fri, 2024-04-19 04:42晕死,带CUDA支持的分发包基本都是1G以上
https://github.com/pytorch/pytorch/issues/34058
delphi的eco system实在是太差了
Submitted by hubdog on Thu, 2024-04-18 16:41以前一直在用lockbox2做rsa加密,这玩意有严重的bug,加密后的文本经常无法解密。
今天试了半天lockbox3,tmd一堆bug,完全没法用,查了一下网络上用的人也非常少。RSA这么常见的算法,就没有一个靠谱的原生的库来处理。我晕,最后还是不得不使用openssl来做rsa的加解密。还是C的生态靠谱。
追记:CnPack Crypto Library 这个也对应了RSA,改天有空试试。
