- 综合排序
- 最热优先
- 最新优先
- 来自专栏大语言模型，算力共享
tinygrad框架简介；MLX框架简介
目录tinygrad框架简介MLX框架简介LLaMA编辑Stable Diffusion编辑tinygrad框架简介极简主义与易扩展性 tinygrad 的设计理念是极简主义。 MLX框架简介基本信息开发者：Apple的机器学习研究团队设计理念：专为苹果芯片设计，旨在提供一个既简单易用又高效的研究环境，让研究人员能够快速探索和实现新的算法思想。 主要特点紧密类似NumPy的API：MLX提供了与NumPy类似的Python API，以及与之对应的C++ API，使得开发者能轻松上手。 ）语音识别（利用OpenAI的Whisper进行语音识别）获取方式MLX可以通过PyPI安装Python API，或者通过GitHub上的源代码进行编译和安装。 综上所述，tinygrad和MLX都是具有独特特点和优势的深度学习框架，分别适用于不同的开发者和应用场景。
73620编辑于 2024-07-23 - 来自专栏学海无涯
SwiftUI-MLX本地大模型开发
介绍 MLX 是 Apple 专为 Apple 芯片设计的机器学习框架。 MLX Swift 将 MLX 扩展到了 Swift，可以直接在 iOS 项目中使用而无需借助 Python。 MLX 中的 MLXLLM 模块提供了一种简单的方法来在本地设备（iPhone/iPad/Mac）使用预训练的大语言模型 (LLMs) 进行推理。 使用步骤 添加 MLXLLM Package。 white) .padding(.horizontal, 16) .padding(.vertical, 8) Color.gray : Color.blue) .cornerRadius(8) } . View { let text: String var body: some View { VStack(alignment: .leading, spacing: 8)
58110编辑于 2025-02-19 - 来自专栏学海无涯
SwiftUI-MLX本地大模型开发（四）
介绍 在 SwiftUI-MLX本地大模型开发、SwiftUI-MLX本地大模型开发（二）与 SwiftUI-MLX本地大模型开发（三）中，我们解决了基本使用、定制模型、使用本地模型、更改模型存储路径、 环境 pip install mlx pip install mlx-lm pip install transformers 数据 新建文件train.jsonl、valid.jsonl与test.jsonl 根据模型说明文件，准备数据，格式如下。本文以ticoAg/Chinese-medical-dialogue进行微调。 {"text": "你是谁?\n我是你的私人智能小助手，我叫羊羊。"} white) .padding(.horizontal, 16) .padding(.vertical, 8) Color.gray : Color.blue) .cornerRadius(8) } .
38210编辑于 2025-04-21 - 来自专栏学海无涯
SwiftUI-MLX本地大模型开发（二）
介绍 在 SwiftUI-MLX本地大模型开发一文中，我们已经详细讲了如何利用 MLX 进行本地大模型的开发。但是通过案例可以发现 2 个问题： MLX 内置的大模型数量有限。 可以在 Hugging Face 模型搜索地址 中搜索需要的 MLX 大模型。 // MARK: - 注册自定义模型，模型必须为MLX格式 extension MLXLLM.ModelRegistry { public static let llama3_2_3B_4bit 可以在 Model Scope 模型搜索地址 中搜索并下载需要的 MLX 大模型。 Color.gray : Color.blue) .cornerRadius(8) } .
32200编辑于 2025-04-14 - 来自专栏学海无涯
SwiftUI-MLX本地大模型开发（三）
案例：将模型存储位置更改为：/Users/yangfan/Downloads/mlx_models/models/mlx-community（macOS）或者 sandbox 下的Downloads/mlx_models /models/mlx-community目录（iOS）。 .background(.blue) .cornerRadius(8) } # 安装mlx_lm pip install mlx mlx-lm # 下载模型到本地 modelscope download --model NousResearch/Hermes-3-Llama- Color.gray : Color.blue) .cornerRadius(8) } .
58210编辑于 2025-04-14 - 来自专栏阮一峰的网络日志
VP8视频格式初探
这个项目的目的，是在文件格式方面，为制作和发布互联网视频提供了一个开源的解决方案。 WebM采用MKV作为封装格式，里面的音频编码用Vorbis格式，视频编码用VP8格式。 MKV和Vorbis都是早就存在的开源格式，而VP8本来属于On2公司的封闭格式，是不开源的。去年8月，Google花了1亿美元收购On2，才有了今天。 这个决定轰动了业界，因为这意味着，我们终于有了一个没有专利约束、并且获得大公司支持的免费视频编码格式VP8（详见我翻译的《HTML5视频格式之争》一文）。 开源视频转换程序ffmpeg的开发者之一Jason Garrett-Glaser，有机会提前接触到了VP8。他写了一篇很详细的评估，说出了自己对VP8的印象，并将VP8与专利格式H.264做了比较。 二、VP8的规格 这份规格文件令人很不满意。很多技术细节，不是写得太简单，就是写得太模糊。大部分地方都是直接张贴C代码，而不是用文字表述。要知道C代码和格式规格，完全是两回事，根本不能替代。
2.4K60发布于 2018-04-12 - 来自专栏全栈程序员必看
dfile.encoding=utf-8 乱码_OrdosTF格式是什么格式
解析 ASN1 0x80 问题 所有X509证书都用一种 ASN1 格式，其为一种嵌套储存格式。ASN1 规则繁琐，此文不说明，可以研究此链接。 所有ASN1格式都是0x30开头，表示ASN1 tag；0x82用来表示03 C2的长度，先搁置；而 03 C2 其用来表示后面数据长度，如下所示。 .> 所以 ASN1格式简单分为如下两种： tag, data len, data 再重新解析 tag data <..........................> 30 82 03 C2 <.
73830编辑于 2022-10-01 Ollama MLX支持深度解析：Apple Silicon如何成为AI开发新主力平台
：相比CPU计算，NPU能效比提升3-5倍保持精度：支持FP16和INT8量化，平衡性能和精度缓存优化策略Ollama的缓存优化包括：模型缓存：预加载常用模型，减少启动时间内存管理：智能分配内存资源，避免 加速重复推理性能数据对比根据初步测试数据（虽然官方详细数据尚未发布，但基于技术原理分析）：指标传统方案OllamaMLX方案提升幅度推理速度100ms/样本35ms/样本2.86倍内存占用4GB1.2GB70%减少功耗25W8W68% 常见问题解决方案问题1：模型兼容性解决方案：使用MLX转换工具将现有模型转换为MLX格式命令：mlx-convert--inputmodel.pt--outputmodel.mlx问题2：内存不足解决方案 ：启用模型量化，使用INT8格式命令：ollamarunmlx-model--quantizeint83.行业影响：AI开发生态的重构对开发者的意义降低入门门槛：AppleSilicon用户无需额外硬件即可进行 Q：现有的Ollama模型可以直接在MLX上运行吗？A：需要先转换为MLX格式。Ollama提供了转换工具，可以将现有的PyTorch模型转换为MLX格式，但可能需要一些调整。
77910编辑于 2026-03-31- 来自专栏学海无涯
SwiftUI-MLX本地大模型开发（五）
适配本地模型：适用于运行在 Apple Silicon 上的 MLX 模型。 支持资源监控：可输出内存占用等性能指标，方便优化推理策略。 llm-tool使用步骤 克隆项目git clone https://github.com/ml-explore/mlx-swift-examples.git。 使用 Xcode 打开mlx-swift-examples项目，选择 llm-tool 进行编译。 通过终端命令mlx-run llm-tool eval快速测试。 案例 cd mlx-swift-examples . /mlx-run llm-tool eval \ --model /Users/yangfan/Documents/modelscope/Hermes-3-Llama-3.2-3B \
35610编辑于 2025-05-06 - 来自专栏架构之巅
UTF—8与UTF—8（无bom）格式相比有什么不同
所以如果接收者收到以EF BB BF开头的字节流，就知道这是UTF-8编码了。 UTF-8编码的文件中，BOM占三个字节。 用UE等编辑器的话，点文件->转换->UTF-8转ASCII，或者在另存为里选择ASCII编码。如果是DOS格式的行尾符，可以用记事本打开，点另存为，选ASCII编码。 ------------------------------------------------------- 昨天在编写程序过程中碰到一个问题，分词组件在加载词典时(词典文件是以UTF-8格式保存的 跟踪进去后发现在加载词典时，第一个词的长度莫名的变长了一位，当时以为是带有空格或换行符，加了trim操作和去换行符，测试后问题依旧； 后来在网上google了一下，最终发现问题是由于Utf-8编码格式的文件所导致 ，如果Utf-8的文件被记事本、DW工具编辑过，但没有注意处理的方式，那么会自动在Utf-8文件中添加BOM格式，以表示文件是Utf-8编码的文件。
8.8K42发布于 2020-11-09 - 来自专栏福大大架构师每日一题
MLX 性能大幅提升 ， Gemma4 闪光注意力全面启用
本次更新围绕MLX硬件加速性能优化、Gemma4系列模型支持、前端代码规范、Safetensors模型创建流程、函数调用输出能力、MLX动态库兼容、集成测试体系搭建等多个核心维度展开，共计8次提交、51 一、ollama v0.20.4整体更新概览 本次v0.20.4版本发布时间为2026年4月9日，核心提交集中在4月7日与4月8日，整体变更可划分为六大核心板块： 1. 该项改动位于responses模块，直接扩展API响应结构，前端与后端服务均可无缝对接新的返回格式，无需额外适配改造。 提取指定张量原始数据，支持F32、F16、U8等多种数据类型 3. 构建打包Safetensors格式数据，支持多张量合并 4. 8次提交、51个文件变更看似规模不大，但每一处改动都精准解决实际使用痛点，尤其是对Gemma4的完整支持、MLX硬件加速优化、Safetensors模型创建修复以及测试体系的全面搭建，直接提升了ollama
27320编辑于 2026-04-14 - 来自专栏米扑专栏
Python 学习入门（8）—— 格式化输出
python中也有类似于c中的printf()的格式输出标记，在python格式化使用的是%运算符，示例如下： #! /usr/bin/env python # it-homer in 2013 import sys reload(sys) sys.setdefaultencoding("utf-8") # %s 格式化为字符串 from math import pi def test_format(): str = "hello %s, http://blog. 符 号 说 明 %c 格式化字符及其ASCII码 %s 格式化字符串 %d 格式化整数 %u 格式化无符号整型 %o 格式化无符号八进制数 %x 格式化无符号十六进制数 %X 格式化无符号十六进制数 （大写） %f 格式化浮点数字，可指定小数点后的精度 %e 用科学计数法格式化浮点数 %E 作用同%e，用科学计数法格式化浮点数 %g 根据值的大小决定使用%f活%e %G 作用同%g，根据值的大小决定使用
78430发布于 2019-02-19 - 来自专栏圣杰的专栏
ABP入门系列（8）——Json格式化
返回的日期未格式化，在前端还需自行格式化输出。 ：是否缩进（默认为false，即未格式化） 并在AbpController中重载了Controller的Json()方法，强制所有返回的Json格式数据为AbpJsonResult类型，并提供了AbpJson 也可以通过调用return AbpJson()来指定参数进行json格式化输出。 仔细观察会发现日期格式还是怪怪的。2017-01-23T00:00:00，多了一个T。 四、Json日期格式化 第一种办法：前端JS转换： //格式化显示json日期格式 function showDate(jsonDate) { var date = new ABP对JsonResult的再封装，支持指定大小驼峰及是否缩进进行Json格式化。 如何对DateTime类型对象进行格式化输出。 Web层通过拓展AbpJsonResult，指定时间格式。
2.1K90发布于 2018-01-11 Mac Studio M4 通过 vLLM 部署本地大模型，对接 Jeecg-AI
系统占用约 8-10GB，实际可用约 118GB。2. 环境准备2.1 操作系统要求确保 macOS 版本为 Sequoia (15.0) 或更高，以获得最佳的 MLX 性能支持。 模型选型推荐基于 128GB 内存，以下是推荐的模型（均为 MLX 格式，位于 Hugging Face 的 mlx-community 组织下）：模型名称内存占用优势推荐等级Qwen3-30B-A3B 3.1-70B-Instruct-4bit~40 GB英文能力顶级⭐⭐ 推荐DeepSeek-V3-0324-4bit~80 GBMoE，综合能力强⭐ 可尝试Llama-3.1-70B-Instruct-8bit 8. /Qwen2.5-72B-Instruct-4bit --port 800111.5 生成速度慢确认是否使用了 MLX 格式模型（mlx-community 前缀）尝试启用 Paged Attention
1.7K10编辑于 2026-03-12- 来自专栏前端资源
Photoshop保存ICO格式插件 ICOFormat.8bi
Photoshop 一直不支持导入导出ico格式图标文件，不过还好有一款插件可以让photoshop支持打开和保存 ico 图标格式，这款插件就是 ICOFormat.8bi ，有了它就可以直接从ps里打开 、保存ico格式的文件了。 下载地址：ICOFormat_x86_x64.zip (已失效) 下载后解压会得到2个文件： ICOFormat.8bi ICOFormat64.8bi 安装说明： 1、打开Photoshop安装目录， 2、关闭Photoshop软件，将解压得到的文件复制到该目录，如果您的系统是32位，请使用ICOFormat.8bi，如果您的系统是64位请使用ICOFormat64.8bi。 3、重新打开Photoshop软件，再选择另存为，即可看到ICO格式。 这有一个问题，默认保存的后缀名是 .ico)，您只需要重命名将 ）删掉即可。 ==>
22.9K128发布于 2019-11-13 - 来自专栏若尘的技术专栏
8 - 格式化整数和浮点数
整数格式化 请格式化一个整数，按10位输出，不足10位前面补0 n = 1234 print(format(n, '10d')) # 左侧补零 print(format(n, '0>10d')) # 右侧补零 print(format(n, '0<10d')) 1234 0000001234 1234000000 浮点数格式化 格式化一个浮点数，要保留小数点两位 x1 = 1234.5678 请描述format 函数的主要用法 # format 函数用于格式化数值，通过第二个参数指定格式化规则 # 右对齐 print(format(x2, '*>12.2f')) # 左对齐 print(
996117发布于 2021-05-22 - 来自专栏小手冰凉
k8s 之yaml文件基本格式
注：yaml文件严格要求缩进，默认不同层次等级是两个空格的缩进 1、使用httpd镜像创建一个Deployment资源对象 [root@docker-k8s01 ~]# mkdir yaml [root @docker-k8s01 ~]# cd yaml/ [root@docker-k8s01 yaml]# vim test01.yaml kind: Deployment # deploy 4/4 4 4 2m19s 查看其pod标签，是否是我们定义的label #查看这个资源对象的详细信息 [root@docker-k8s01 映射节点端口为：32123 [root@docker-k8s01 yaml]# vim httpd-service.yaml kind: Service apiVersion: v1 metadata #查看该service的详细信息 [root@docker-k8s01 yaml]# kubectl get svc httpd-service 返回的信息如下（只能显示少量IP，剩下的只是被省略了，
1.4K30发布于 2020-08-28 - 来自专栏数据库相关
MySQL8中的JSON格式错误日志
官方文档 https://dev.mysql.com/doc/refman/8.0/en/error-log-json.html MySQL8开始，支持将错误日志输出为json格式，这样就很方便日志的统一集中化的收集
1.2K10编辑于 2024-10-06 A800_1.6T RDMA实例测试指导文档
版本 改动 V7 - 2024/3/4 升级GPU驱动（535.129.03），容器镜像（NGC 23.11） V8 - 2024/3/4 更正OS镜像信息，更新容器镜像（基于NGC 24.01） V9 RDMA驱动、nvidia_peermem Linux内核增加ARP双发特性，支持RDMA的双发（提供内核patch） RDMA bond网络的反向路由检查 bond配置脚本，rdma网卡名不建议ethX格式 带宽测试server： taskset -c 20,21 ib_write_bw -d mlx5_bond_0 -x 3 -F --report_gbits -p 18500 -D 2 -q 10 -- 测试环境信息 机型 HCCPNV4sne CPU Intel IceLake*2 (124c 2.7GHz/3.3GHz) GPU 8 * A800 NVSwitch 80G 网卡 CX6 100G * 2 * 8 存储 NVMeSSD-6.4T*4 2.
1K10编辑于 2024-10-22- 来自专栏DPU
RDMA - inline 内联提高小包性能-降低时延(减少两个 PCIe 往返延迟)
从 CPU 程序员的角度来看，存在一个传输队列（Verbs 中的发送队列是队列对 (QP)）和一个完成队列（Verbs 中的 CQ 的长格式）。 步骤 1：使用 8 字节原子写入内存映射位置，CPU（网络驱动程序）通知 NIC 已准备好发送消息。这称为敲响门铃(DoorBell)。PCIE的RC 使用 MWr PCIe 事务执行门铃。 设置内联数据长度和标记,稍后通知硬件 FIELD_PREP(IRDMAQPSQ_INLINEDATAFLAG, 1) qp->wqe_ops.iw_copy_inline_data((__u8 *)wqe, op_info->sg_list, op_info->num_sges, qp->swqe_polarity) -> irdma_copy_inline_data __u8 >byte_cnt) goto scatter_out -> 散开/内联相关 or wc_byte_len = 8
2.2K31编辑于 2024-11-05
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号