首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏大语言模型,算力共享

    tinygrad框架简介;MLX框架简介

    ​目录tinygrad框架简介MLX框架简介LLaMA​编辑Stable Diffusion​编辑tinygrad框架简介极简主义与易扩展性 tinygrad 的设计理念是极简主义。 MLX框架简介基本信息开发者:Apple的机器学习研究团队设计理念:专为苹果芯片设计,旨在提供一个既简单易用又高效的研究环境,让研究人员能够快速探索和实现新的算法思想。 主要特点紧密类似NumPy的API:MLX提供了与NumPy类似的Python API,以及与之对应的C++ API,使得开发者能轻松上手。 )语音识别(利用OpenAI的Whisper进行语音识别)获取方式MLX可以通过PyPI安装Python API,或者通过GitHub上的源代码进行编译和安装。 综上所述,tinygrad和MLX都是具有独特特点和优势的深度学习框架,分别适用于不同的开发者和应用场景。

    73620编辑于 2024-07-23
  • 来自专栏DPU

    Nvidia Mellanox MLX5驱动源码分析-DPU-BlueFiled3-算力加速

    如果用户希望禁用某些 SF aux 设备,例如对于大规模 1K SF,该用户将在 mlx5_cmd_init_hca() 上浪费超过 3 分钟的时间,而该阶段并不需要该功能。 PF 为其 VF 提供页面 3. ECPF 为其自身提供页面 4. 驱动程序将维护 3 个独立的 irq 池: 1. 为 PF 使用者提供服务的池(PF 的 netdev、rdma 堆栈),类似于此补丁之前的驱动程序。 其格式由 struct mlx5_hv_vhca_control_block 布局描述 create_singlethread_workqueue("mlx5_hv_vhca mlx5_function_setup() 从先前补丁到设置函数 2. mlx5_init_once() 从先前补丁到根据硬件上限 3 初始化软件对象 新的 mlx5_load() 用于加载 mlx5

    3.2K21编辑于 2024-02-01
  • 来自专栏python3

    3.格式IO

    3.printf函数不会进行任何类型转换(包括隐式转换),它只是从内存中读出你所提供的元素的值(按照%d,%f等控制字符提示的格式) ? 比如说%3d 表示输出3位整型数,不够3位右对齐。 1*为输入赋值抑制字符,表示该格式说明要求输入数据,但不赋值,也即在地址列表中没有相应的地址项,例如: scanf(“%3d%*5d%f”,&a,&x); 如果执行时输入: 2001200 4.1 则200 “%3d”控制第一个数据只取3个字符转换成整型数200;“%5d”控制第二个数据,但从输入流中截取4个字符后,遇到空格,因此第二个数据只得到了4位数。 它依次把转换说明与字段相匹配,并跳过它们之间的空格(当格式控制符为%c时例外)。 3)当scanf遇到不匹配数据类型的数据时,ANSI C要求函数在第一个出错的地方停止读取输入。

    1.5K20发布于 2020-01-06
  • 来自专栏学海无涯

    SwiftUI-MLX本地大模型开发

    介绍 MLX 是 Apple 专为 Apple 芯片设计的机器学习框架。 MLX Swift 将 MLX 扩展到了 Swift,可以直接在 iOS 项目中使用而无需借助 Python。 MLX 中的 MLXLLM 模块提供了一种简单的方法来在本地设备(iPhone/iPad/Mac)使用预训练的大语言模型 (LLMs) 进行推理。 使用步骤 添加 MLXLLM Package。 isLoading = true // 加载模型(第一次使用会下载) let modelConfiguration = ModelRegistry.llama3_

    58110编辑于 2025-02-19
  • 来自专栏Postgresql源码分析

    Postgresql源码(3)Xlog格式

    日志头格式 typedef struct XLogPageHeaderData { 【校验用magic数字】 uint16 xlp_magic; /* magic value for correctness we can (and we do) restore entire page in redo */ #define XLOG_HEAP_INIT_PAGE 0x80 XLOG RECORD的数据格式

    56020编辑于 2022-05-12
  • 来自专栏学海无涯

    SwiftUI-MLX本地大模型开发(四)

    介绍 在 SwiftUI-MLX本地大模型开发、SwiftUI-MLX本地大模型开发(二)与 SwiftUI-MLX本地大模型开发(三)中,我们解决了基本使用、定制模型、使用本地模型、更改模型存储路径、 环境 pip install mlx pip install mlx-lm pip install transformers 数据 新建文件train.jsonl、valid.jsonl与test.jsonl 根据模型说明文件,准备数据,格式如下。本文以ticoAg/Chinese-medical-dialogue进行微调。 {"text": "你是谁?\n我是你的私人智能小助手,我叫羊羊。"} mlx_lm.lora \ --train \ --model /Users/yangfan/Documents/huggingface/models/mlx-community/Llama-3.2 \ --model /Users/yangfan/Documents/huggingface/models/mlx-community/Llama-3.2-1B-Instruct-4bit \ -

    38210编辑于 2025-04-21
  • 来自专栏学海无涯

    SwiftUI-MLX本地大模型开发(二)

    介绍 在 SwiftUI-MLX本地大模型开发一文中,我们已经详细讲了如何利用 MLX 进行本地大模型的开发。但是通过案例可以发现 2 个问题: MLX 内置的大模型数量有限。 可以在 Hugging Face 模型搜索地址 中搜索需要的 MLX 大模型。 // MARK: - 注册自定义模型,模型必须为MLX格式 extension MLXLLM.ModelRegistry { public static let llama3_2_3B_4bit = ModelConfiguration( id: "mlx-community/Llama-3.2-3B-Instruct-4bit", // Hugging Face上模型的仓库路径 可以在 Model Scope 模型搜索地址 中搜索并下载需要的 MLX 大模型。

    32200编辑于 2025-04-14
  • 来自专栏学海无涯

    SwiftUI-MLX本地大模型开发(三)

    介绍 在 SwiftUI-MLX本地大模型开发(二)一文中,我们解决了模型定制与使用离线大模型的问题,今天讲解以下 3 个问题: 模型存储路径。 模型转换。 iPad 运行。 # 安装mlx_lm pip install mlx mlx-lm # 下载模型到本地 modelscope download --model NousResearch/Hermes-3-Llama- Face模型本地路径 mlx_lm.convert --hf-path /Users/yangfan/Documents/modelscope/Hermes-3-Llama-3.2-3B -q # - -mlx-path:转换后模型存储路径 mlx_lm.convert --hf-path /Users/yangfan/Documents/modelscope/Hermes-3-Llama-3.2-3B -q --mlx-path /Users/yangfan/Desktop/modelscope/Hermes-3-Llama-3.2-3B 使用。

    58210编辑于 2025-04-14
  • 来自专栏python3

    Python3学习3 格式化 % for

    一、%格式化 1.整数输出 %d # 十进制 %o # 八进制 %x # 十六进制 print("%d"%23) # 23 print("%o"%23) # 27 print("%x"% 2.3333) #2.333300 print("%.2f"%2.8888) #2.89 四舍五入 print("%e"%2.3333) #2.333300e+00 print("%.3e {'a1' : 21, 'b1' : 34} v7 = 'test1:{a1}, test2:{b1}'.format(**d1) print(v7) # test1:21, test2:34 2.格式转换 通过下标或key值匹配参数 c1 = [2, 3, 4] c2 = [5, 6, 7] print('{} {} {}'.format(c1[0],c1[1],c1[2])) # 2 3 4 print ('{0[1]} {0[2]} {1[1]}'.format(c1, c2)) # 3 4 6 6.

    44530发布于 2020-01-13
  • 来自专栏学海无涯

    SwiftUI-MLX本地大模型开发(五)

    适配本地模型:适用于运行在 Apple Silicon 上的 MLX 模型。 支持资源监控:可输出内存占用等性能指标,方便优化推理策略。 llm-tool使用步骤 克隆项目git clone https://github.com/ml-explore/mlx-swift-examples.git。 使用 Xcode 打开mlx-swift-examples项目,选择 llm-tool 进行编译。 通过终端命令mlx-run llm-tool eval快速测试。 案例 cd mlx-swift-examples . /mlx-run llm-tool eval \ --model /Users/yangfan/Documents/modelscope/Hermes-3-Llama-3.2-3B \

    35610编辑于 2025-05-06
  • 来自专栏网优小兵玩Python

    Python 3 Office文档格式转换

    这次我们用Python 3来实现.doc\.xls文件自动转换为.docx\.xlsx。 Python 3实现代码 import win32com.client as win32 # 引入win32com库(win32com功能强大,可以操作word、调用宏等等等)import os Word.Application') doc = word.Documents.Open(fname) # 目标路径下的文件 doc.SaveAs(fname+'x', 16) # 16为xlsx文件格式 xls_xlsx('xx\xx\xx.xls') #调用xlsx转换函数 doc_docx('xx\xx\xx.doc') #调用docx转换函 以上是功能实现的Pyhton 3源代码

    1.5K10发布于 2019-09-26
  • 来自专栏python3

    收集3:所有文件格式

    (xx取01-99的数字) A3L Authorware 3.x库文件 A4L Authorware 4.x库文件 A5L Authorware 5.x库文件 A3M,A4M Authorware F3R Farandoyle分块线性模块格式 F77 FORTRAN文件 F90 FORTRAN文件 FAR Fradole Composer音乐模块(MOD)文件 FAV Microsoft FFT 最终格式文本(IBM的DCA一部分) FH3 Aldus Freehand 3绘图文件 FIF Fractal图像文件 FIG REND386/AVRIL使用的文件格式 FITS CCD MAUD抽样格式 MAX Kinetx的3DStudio MAX文件;该格式用于一个3D场景文件;Paperport文件;OrCAD设计文件 MAZ Hover迷路数据;Division的dVS/ ,MME Internet邮件扩展格式的多用途文件,经常作为发送e-mail时在AOL里附件而创建的文件;在一个多区MIM文件里的文件能用WinZip或其他类似程序打开 MLI 3D Studio的材料库格式文件

    2.4K10发布于 2020-01-14
  • Ollama MLX支持深度解析:Apple Silicon如何成为AI开发新主力平台

    模型ollamapullmlx-model#3.配置环境变量exportOLLAMA_MLX_ENABLED=true#4.启动服务ollamaserve实际案例:数据科学家张明的体验张明是某互联网公司的数据科学家 常见问题解决方案问题1:模型兼容性解决方案:使用MLX转换工具将现有模型转换为MLX格式命令:mlx-convert--inputmodel.pt--outputmodel.mlx问题2:内存不足解决方案 工具链完善:开发工具和调试工具会更加成熟社区活跃:开发者社区将贡献更多最佳实践长期影响(1-3年)AI开发平台多元化:AppleSilicon成为与NVIDIA、AMD并列的AI开发平台跨平台兼容性:MLX 由于利用了NPU进行计算,相比CPU计算,功耗降低了约68%,电池使用时间可以延长2-3小时。Q:现有的Ollama模型可以直接在MLX上运行吗?A:需要先转换为MLX格式。 Ollama提供了转换工具,可以将现有的PyTorch模型转换为MLX格式,但可能需要一些调整。Q:MLX支持哪些类型的AI模型?

    77810编辑于 2026-03-31
  • 来自专栏python3

    Python【3】:格式化 输出 whi

    mug =("我的名字%s,我的年龄%d,我的身高%d")%(name,age,height) print(mug 在格式化输出中 1,3>4 or 4<3 and 1==1 2,1 < 2 and 3 < 4 or 1>2 3,2 > 1 and 3 < 4 or 4 > 5 and 2 < 1 4,1 > 2 and 3 < 4 or 4 > 5 and 2 > 1 or 9 < 8 5,1 > 1 and 3 < 4 or 4 > 5 and 2 > 1 and 9 > 8 or 7 < 6 6,not 2 > 1 and 3 < 4 or 4 > 5 and 2 > 1 and 9 > 8 or 7 < 6 记住 : x or y , x为真,值就是x,x为假,值是y; x and y, x为真,值是y,x为假,

    61710发布于 2020-01-09
  • 来自专栏Web行业观察

    Cesium之b3dm格式

    //作者:迷途的小书童 //微信公众号:g0415shenweri b3dm格式 参考文档: https://github.com/CesiumGS/3d-tiles/blob/master/specification /TileFormats/Batched3DModel/README.md 工具设计 计划写一个工具来查看B3dm的格式,顺便了解其原理。 这个库无法使用,而且缺少问题 网址二:https://github.com/CesiumGS/3d-tiles-validator 这里的工具可以验证自己导出的3dtiles的格式是否正确 网址三:https /tree/master/samples-generator 这个工具可以自动生成3dtiles格式 网址五:https://www.cnblogs.com/onsummer/p/13252896.html B3dm格式验证 文件名:lib\validateB3dm.js B3dm例子解读 这里推荐一个json格式化的工具: https://www.bejson.com/explore/index_new/

    7K20发布于 2021-05-11
  • 来自专栏福大大架构师每日一题

    MLX 性能大幅提升 , Gemma4 闪光注意力全面启用

    底层推理加速优化:MLX框架M5性能提升、Gemma4闪光注意力启用与兼容修复 2. 模型创建流程重构:实验性路径清理、Safetensors模型导入修复与逻辑简化 3. 对mlx_metal_v4及以上版本进行限制,仅在macOS 26及以上系统启用,避免在低版本macOS上加载高版本Metal着色器导致渲染失败、推理崩溃 3. (三)统一MLX变体加载策略 对mlx_*目录进行倒序排序加载,优先加载高版本MLX库(如mlx_metal_v4优先于mlx_metal_v3),自动跳过不兼容硬件平台的变体,实现硬件自适应加载,无需用户手动指定库路径 提取指定张量原始数据,支持F32、F16、U8等多种数据类型 3. 构建打包Safetensors格式数据,支持多张量合并 4. 自定义模型部署更简单 Safetensors导入修复、实验性路径简化,让开源模型一键转为ollama可用格式,降低本地化部署成本。 3.

    25120编辑于 2026-04-14
  • 来自专栏python3

    unity3d纹理格式设置

    将Texure Type设置为Advanced时纹理的格式列表格式详解Automatic Compressed压缩RGB纹理,默认选项,常用的漫反射纹理格式。 常用的漫反射纹理格式。4位/像素(32KB, 256x256)RGBA Compressed DXT5压缩的RGBA纹理。是漫反射和高光控制纹理的主要格式。 256x256)Alpha 8bits高质量alpha通道,不带颜色(64KB, 256x256)ARGB 32bits真彩色带alpha通道(256KB, 256x256)RGBA 32bits在Unity3D :-) // // Based on the great work of benblo in this thread: // http://forum.unity3d.com/viewtopic.php //////////////////////////////////////////////////// public class ChangeTextureImportSettingsUnity3

    1.1K10发布于 2020-01-08
  • 来自专栏又见苍岚

    OBJ 3D模型格式介绍

    OBJ是一种 3D 文件格式, 本文记录相关内容。 补充:以 f 开头的行表示面片,之后跟上索引语句来将顶点分配给面片,索引语句一共有四种格式: 顶点索引:以f v1 v2 v3 …的格式分配的面片。 v1、v2、v3 等是顶点序号,以文件中第一个 v 标志行为 1,逐个递增。一个面片至少分配 3 个顶点,但可以分配超过 3 个顶点,即 obj 格式不保证三角面。 纹理坐标索引:以f v1/vt1 v2/vt2 v3/vt3 …的格式分配的面片。v1、v2、v3 等是顶点序号,vt1、vt2、vt3 等是对应顶点的纹理坐标序号,序号分配方式和 v 类似。 顶点纹理法线索引:以f v1/vt1/vn1 v2/vt2/vn2 v3/vt3/vn3 …的格式分配的面片。

    2.1K10编辑于 2024-07-13
  • 来自专栏python3

    Unity3D设置纹理格式

    更为恼火的是,之后PC上的纹理效果也变差了,新加入的纹理效果都会变差,看其纹理格式,使用ETC进行了压缩。 2. Unity3D默认纹理格式问题 2.1 在导入时是否自动压缩      Edit->Preferences... ? 设置纹理格式     1) 选中纹理,纹理的Inspector窗口如下图所示: ? Unity3D只能设置三种纹理格式:Compressed、16bits、Truecolor,若要设置其它纹理格式,则Unity3D无能为力。 2.3 在Unity3D中自定义设置纹理格式        把ChangeTextureImportSettings.cs放于Assets/Editor目录下,ChangeTextureImportSettings.cs

    2.3K20发布于 2020-01-09
  • 来自专栏用户8678874的专栏

    Melexis 宣布推出最新款 Triaxis® 位置传感器芯片及全新无 PCB 封装选项

    MLX90377 支持更多的输出信号格式,而全新的单模封装(SMP) 可提高无 PCB 集成并降低制造成本 2021 年 5 月 28 日,比利时泰森德洛 - 全球微电子工程公司 Melexis 推出面向汽车和工业应用的单裸片和双裸片 MLX90377产品应用图.jpg MLX90377 是一款磁旋转和线性位置传感器芯片,将在 Triaxis 传感器芯片 MLX90371 和 MLX90372 的成功基础上再续辉煌。 MLX90377 基于 Triaxis 霍尔磁性前端,集成了 ADC 信号调节模块、数字信号处理器以及支持 SPC(短 PWM 代码)、模拟、PWM 和 SENT 信号格式的输出级驱动器。 新的封装选项包括面向无 PCB 设计的 SMP-3 和 SMP-4(3 引脚单模封装和 4 引脚单模封装)。 其中 SMP-3 是一款单裸片解决方案,MLX90377 是首款支持 SMP-3 的产品,SMP-4 是一款双裸片解决方案(共享电源和接地引脚),此前推出的 MLX90371 是首款支持 SMP-4 的产品

    48360发布于 2021-05-31
领券