elmagnifico's blog

GPU相关常识

NvLink,NPU,HBM,GH200

Foreword GPU相关一些基础建设的常识 GPU CPU NPU TPU TPU，张量处理单元，主要是进行矩阵乘法计算 NPU，其实类似TPU，但是他是一种定制的计算规则，比如矩阵先乘后加，先加后乘，或者是更复杂的乘加乘加等等，相当于是定制化的计算单元，他是有适用的局限性的。如果专门为某个算法而生，那么这个算法就能吃满硬件加速，远超CPU或者TPU等其他方式实现的计算速率。 ...

Posted on May 16, 2025; Words: 195

Cursor使用技巧，配置详解

AI,Agent,PDF

Foreword Cursor配置详解关键点还是写在前面，如果你是个新手，Cursor可以帮你快速达到一个熟手的水平，但是要再提高，还是需要你自己去深入代码，深入设计本身，Cursor只能把你拉到一般水平，专业的事情，还是要专业的人来做。 Cursor 收费 Cursor免费版本，可以有半个月的试用，你可以去体验，对比一下，看是不是符合你的习惯；我们默认给配的都是Pro版本，...

Posted on May 13, 2025; Words: 905

SD ComfyUI部署

Stable Diffusion,Python 虚拟环境管理工具,uv,annaconda

Foreword 顺便把SD ComfyUI搭建一下 ComfyUI https://github.com/comfyanonymous/ComfyUI 部署安装环境最好先安一下python 3.12的环境， ComfyUI的一些老库可能运行不了 uv python install 3.12 uv venv source .venv/bin/activate uv ...

Posted on May 10, 2025; Words: 329

Insta 360 X5踩坑

测评、保护罩、可换镜头、全景相机

Foreword 之前去日本的时候就想要一个可以记录全景的相机，一直没买，这次去越南，刚好赶上了，Insta 360 4.22发布新品，当晚就买了，23号就拿到了，25号就出发了。平时不出门的时候，也能拿这个当作Su7的行车记录仪，Su7的行车视频不能直接导出（刚好在五一期间车机更新了1.7.0，竟然增加了这个快速导出分享给手机的功能，我服了） Insta 360 X5 ht...

Posted on May 9, 2025; Words: 102

越南游记

签证、越南盾、胡志明、河内、富国岛

Foreword 五一越南行记录前期准备签证越南虽然说是落地签，但是不是真的落地签，在国内还是需要提前拿到一个批文，有了这个批文才能去越南落地拿签证。这个批文申请还是比较快的，一般选择电子版，收到以后打印出来（彩印），再准备1张2寸白底的照片这次由于是工作签，所以没有自己办，直接到手就是批文了如果是落地签，也就是没任何准备的情况下飞越南，入境以后还要填写这样一个...

Posted on May 8, 2025; Words: 420

DeepSeek-671b-Q4部署

LLM,AI，Transform,Open Web GUI

Foreword DeepSeek火了这么久，总算轮到我来部署一下了，部署小模型的挺多的，但是接近满血的大模型的好像很少，遇到的问题也难得有人说。 DeepSeek 设备需求浪潮 NF5468M6 GPU服务器 CPU：2x6330（2G，28C/56T，42MB，Turbo，205W，3200），2x2400￥内存：32x64G DDR4 3200 RDIMM ECC，32x...

Posted on April 18, 2025; Words: 973

AI大模型笔记

LLM,RAG,LoRA，Transform

Foreword 记录一些AI相关的流程或者是运行逻辑 AI Transform Transform的机制 Benchmark 做一个新模型的时候，最好先建立好一个Benchmark，用来评估当前模型的性能，从而有一个准确的优化方向微调微调的流程微调的后期，要么是有一个专家模型负责评估，要么就是有一个RLHF的反馈环境，不断对模型进行微调，这样整个...

Posted on April 14, 2025; Words: 81

嵌入式内存溢出检测

Stack Overflow，踩内存

Foreword 内存溢出，非常常见的错误，但是对于嵌入式软件而言稍微有点麻烦，因为出问题的时候不一定能被调试，能被追踪到，条件十分严苛。借鉴前人的经验，做一次实践内存溢出笨方法这个方法比较笨，但是可以防止程序产生更严重的问题，比如在做内存copy或者调用指针的时候，都做一次内存范围检测，如果发现范围溢出了，那么此时就记录一下具体溢出的位置，触发函数等等。这种方式可以维...

Posted on April 10, 2025; Words: 173

AI模型生成对比

SD、3DFY、Meshy、Genie、Midjounery

Foreword 研究一下如何把AI相关的AI设计产品融合到目前的艺术设计的工作流中，对比了一下当前模型生成相关的AI，发现区别还是挺大的图片生成 Stable Diffusion https://github.com/AUTOMATIC1111/stable-diffusion-webui Stable Diffusion是一种图像模型，他背后是Stability AI...

Posted on April 2, 2025; Words: 221

如何写一个MCP Server

VSCode,Cursor,Manus

Foreword 看一下如何写一个MCP服务 FastMCP 翻了一下看到了MCP有一个快速的模式，这种方式不需要写那么多前置代码 # server.py from mcp.server.fastmcp import FastMCP # Create an MCP server mcp = FastMCP("Demo") # 通过注解快速加入一个工具命令 # Add an ad...

Posted on April 1, 2025; Words: 3016

Elmagnifico's Blog