编辑 | KING 发布 | ATYUN订阅号 Netflix的数据科学团队已将其Metaflow Python库开源,该库是“以人为中心”的机器学习基础架构的关键部分,用于构建和部署数据科学工作流。 众所周知,Netflix是亚马逊云服务(AWS)的最大用户之一,因此Metaflow与众多AWS服务集成在一起就不足为奇了,其中包括对Amazon S3中所有代码和数据进行快照的功能,Netflix将其用作它的数据库 在S3中对代码进行快照的功能使Metaflow能够实现自动版本控制和实验跟踪,因此开发人员可以安全地检查和恢复Metaflow的执行情况。 ? Metaflow还捆绑了一个高性能S3客户端,它可以加载高达10Gbps的数据。客户可以让任何组织的数据科学家实现Netflix数据科学家在过去几年中所做的事情。 Metaflow还与基于AWS容器的计算平台Batch集成。Netflix 认为,AWS上的Metaflow可以让开发人员提高在笔记本电脑上进行开发的速度,同时可以在云中使用更深的计算资源。
3.png MetaFlow Agent可能是可观测性领域第一个使用Rust来实现的高性能、内存安全的Agent,同时支持通过WebAssembly技术提供灵活的可编程能力。 4.png MetaFlow Agent支持集成广泛的开源Agent和SDK的观测数据。 MetaFlow拒绝造轮子,因此对于Telegraf、Prometheus、SkyWalking、OpenTelemetry、Sentry、Loki等开源社区优秀的可观测性数据源,MetaFlow都能集成进来 四、结语 在存储方面,作为第一个MetaFlow的开源版本,默认提供ClickHouse的选项,开发者也可以组合、扩展更多的数据库选项。 希望MetaFlow的开源,能够帮助开发者构建一个自动化的可观测性平台,彻底释放开发者的生产力,带来自由。
AWS 上以人为中心的数据科学 Netflix 在 2019 年开源 Metaflow[9]时,我们使用亚马逊网络服务提供的服务提供了一条毕业路径: AWS Batch 为第二阶段提供了一个简单的解决方案 新:Argo Workflows 上的 Metaflow 为了在 Kubernetes 上原生支持生产级工作流编排(第 3 阶段),我们选择了Argo Workflows[12]。 /scaling-out-and-up/effortless-scaling-with-kubernetes [3] 编排由 Argo Workflows 执行流程: https://docs.metaflow.org //docs.metaflow.org/going-to-production-with-metaflow/scheduling-metaflow-flows [9] Netflix 在 2019 年开源 CNCF(云原生计算基金会)致力于培育和维护一个厂商中立的开源生态系统,来推广云原生技术。我们通过将最前沿的模式民主化,让这些创新为大众所用。
3. 最后,对于开源支持库而言,它的技术支持文档也非常不错。说真的,去看一下吧! 4. Metaflow 项目网址: https://docs.metaflow.org/introduction/what-is-metaflow Metaflow 这个支持库实在太新了,差点就没赶上 2019 但不要因此就小瞧它:别看它 12 月 3 日才正式发布,其实它是 Netfilx 两年精雕细琢的成果,通过了长期内部实测,Netflix 才决定开源。 想要了解这些年的优秀开源库,就来看下我们这几年的榜单吧:2015、2016、2017、2018。
commons-dbutils 是 Apache 组织提供的一个开源JDBC工具类库,它是对JDBC的简单封装,学习成本极低,并且使用dbutils能极大简化jdbc编码的工作量,同时也不会影响程序的性能 param) //描述:Execute an SQL INSERT, UPDATE, or DELETE query with a single replacement parameter. (3) This Connection must be in auto-commit mode or the update will not be saved. (3)public int update(String throw new RuntimeException(e); } finally { DbUtils.closeQuietly(conn); } } @Test // 3) ) { throw new RuntimeException(e); } finally { DbUtils.closeQuietly(conn); } } } 3.
如果 conv3 是一个 3×3 卷积,其核为 ? 可分解为 ? 因此,我们可以不用 3×3 大小的核执行卷积(9 次乘法),而是使用两个 1×3 核执行卷积(6 次乘法)。 蓝线是没使用 MetaFlow 的优化图的三个基准框架得到的最佳结果,红线是 MetaFlow 结果。 ? 表 2:MetaFlow 和 TensorRT 在不同指标上的性能比较 相比于 TensorRT,MetaFlow 能够减少整体的内存访问量以及核启动的数量。 回想一下之前的章节,我们可用两个 1×3 核替代一个 3×3 卷积核。反过来也一样,如果我们有两个 1×3 核,我们也许可将它们组合(扩大)成一个 3×3 核。 子图性能指标是用于确定 MetaFlow 能否提升 DNN 中单个子图的性能。实验中测试比较了不同的设备,以确定给定一个输入图时,MetaFlow 能否在不同设备上发现不同的优化图。
3 全栈的期望 大约 1 年前,我在推特上罗列了对于一名 ML 工程师或数据科学家而言非常重要的技能。 如果我可以直接告诉工具:这里是我存储数据的地方(S3),这里是我运行代码的步骤(特征提取、建模),这里是我运行代码的地方(EC2 实例、AWS Batch、Function 等无服务器类的东西),这里是我的代码在每一步需要运行的东西 两年前,Netflix 开源了 Metaflow,这是一个基础设施抽象工具,使他们的数据科学家能够开展全栈工作,而不必担心底层基础设施。 如果你想在本地测试同样的工作流,就必须使用 minikube 或 k3d。 9 基础设施抽象:Kubeflow vs. 从用户体验的角度来看,我认为 Metaflow 更胜一筹。
DRUGAI 谷歌DeepMind宣布将其最新的蛋白质结构预测模型AlphaFold3开源,以支持非商业用途。 科学影响:开源AlphaFold3的意义 AlphaFold3的开源发布预计将在蛋白质结构预测和生物医学研究领域产生深远影响。 此次AlphaFold3的开源发布回应了这些需求,也体现了AI工具在生物学领域的规范要求。 未来影响:开放科学与商业利益的平衡 AlphaFold3的开源发布引发了学术界对商业利益与开放科学之间平衡的讨论。 未来,AlphaFold3的实际应用和影响将逐步显现,这一开源发布或将引领AI在生物研究和创新生态中的全新发展。
2024年11月11日,DeepMind宣布,AI蛋白质预测工具AlphaFold3现已开源。这一获得诺贝尔奖的蛋白质结构建模工具的基础代码现在可供学术界下载。 AlphaFold3终于开源了。 DeepMind迅速改弦更张,表示将在半年内提供该工具的开源版本。 现在,任何人都可以下载AlphaFold3软件代码,并将其用于非商业目的。 可访问版本 DeepMind也有竞争对手:在过去几个月里,几家公司基于AlphaFold3发布了开源蛋白质结构预测工具。 其他团队正在开发没有这些限制的AlphaFold3版本:AlQuraishi希望在今年年底前推出完全开源的模型OpenFold3。 开放性很重要 DeepMind的人工智能科学负责人Pushmeet Kohli说,AlphaFold3已经出现了多个复制结果,这表明即使没有开源代码,该模型也是可以复制的。
,实验表明,在所有的传感器配置中,ORB-SLAM3与文献中可用的最好的系统一样健壮,并且更精确。 为了社区的利益,我们公开了源代码 https://github.com/UZ-SLAMLab/ORB_SLAM3 内容简介 ? 所有这些创新之外,再加上一些代码改进,使ORB-SLAM3成为新的可以参考的视觉和视觉惯导的开源SLAM库,与文献中可用的最好的开源系统一样健壮,并且更加精确。 ORB-SLAM3是一个完整的多地图系统,能够在纯视觉或视觉惯性模式下工作,使用单目、立体或RGB-D传感器,使用针孔和鱼眼相机模型。 在[2]-[4]的基础上,我们推出了ORB-SLAM3,这是一个最完整的可视化、视觉惯性和多地图的SLAM开源库,配备了单目、立体、RGB-D、针孔和鱼眼摄像头。
⚡[AI里程碑]StableDiffusion3今日开源 | 首个开源超越Midjourney 2024年6月12日,Stable Diffusion 3 Medium的开源代表了生成式 AI 发展的一个重要里程碑 Stable Diffusion 3 先睹为快 Stable Diffusion 3 开源亮点 Stable Diffusion 3 Medium 是 Stability AI 迄今为止最先进的文本到图像开放模型 Stable Diffusion 3 网络架构 Stable Diffusion 3 (SD3) 是一种文本到图像模型,由 Stability AI 于 2024 年 6 月 12 日发布。 (9.5 GB) Stable Diffusion 3 许可注意事项 SD3 有许可证注意事项! Stable Diffusion 3 免费试用 SD3 https://huggingface.co/stabilityai/stable-diffusion-3-medium SD3 + tensorrt
使用 Python 分析电脑上的 100 GB 数据 链接: https://t.co/52y7IjNSqm 使用 Python 的开源库 Vaex 来可视化并分析 100 GB 的表格数据。 减少 Pandas 的内存使用量#2:有损压缩 链接: https://pythonspeed.com/articles/pandas-reduce-memory-lossy/ 有趣的项目,工具和库 Metaflow 链接: https://metaflow.org/ 在 Netflix 上开发的用于现实数据科学的框架。 Metaflow 使构建和管理现实中的数据科学项目变得容易快捷。
机器之心报道 编辑:杜伟、陈萍 继 2020 年初 Facebook 开源基于 PyTorch 的 3D 计算机视觉库 PyTorch3D 之后,谷歌也于近日开源了一个基于 TF 框架的高度模块化和高效处理库 目前,该库已经开源。 3D 计算机视觉是一个非常重要的研究课题,选择合适的计算框架对处理效果将会产生很大的影响。 此前,机器之心曾介绍过 Facebook 开源的基于 PyTorch 框架的 3D 计算机视觉处理库 PyTorch3D,该库在 3D 建模、渲染等多方面处理操作上表现出了更好的效果。 TF 3D 库基于 TensorFlow 2 和 Keras 构建,使得更易于构建、训练和部署 3D 语义分割、3D 实例分割和 3D 目标检测模型。目前,TF 3D 库已经开源。 ? TF 3D 支持的三个 pipeline 目前,TF 3D 支持三个 pipeline,分别是 3D 语义分割、3D 实例分割和 3D 目标检测。
Metaflow Metaflow 是一个对用户友好的 Python 库和后端服务,可以帮助数据科学家和工程师构建和管理可用于生产的数据处理、机器学习训练及推理的工作流。 在撰写本条目时,Metaflow 和 AWS 服务高度集成,例如使用 S3 来做数据存储,step functions 来做编排。除 Python 以外,Metaflow 还支持 R 语言。 其核心功能都是开源的。 如果你正在 AWS 上构建和部署生产环境的机器学习和数据处理流水线,作为一个轻量级的全栈框架,Metaflow 可以替代例如 MLflow 这类更复杂的平台。 相比之下,Comby 是一个用于自动化重复性任务的轻量级开源命令行工具。由于 Sourcegraph 是一个托管服务,它能持续监测代码库,并在成功匹配时发出警报。 它是一个开源软件, 在 macOS、Linux、Windows 和 Docker 均可访问,开箱即用支持 AWS 、 GCP 和微软 Azure 的定价。
本期推荐开源项目目录: Buefy veeValidate PPTist 01 Buefy Buefy基于Bulma为Vue. js 提供了轻量级的UI组件。 开源项目获取,后台回复【222】获取开源地址 02 veeValidate veeValidate 是专用于 Vue.js 的验证库。它有很多开箱即用的验证规则,也支持自定义验证规则。 特点: 基于模板的验证 提供了许多开箱即用的验证规则 一流的本地化支持 可以验证 HTML5 input 输入框和自定义 Vue 组件 自定义规则和错误消息 开源项目获取,后台回复【222】获取开源地址 03 PPTist 一个基于 Vue3.x + TypeScript 的在线演示文稿(幻灯片)应用,还原了大部分 Office PowerPoint 常用功能,支持 文字、图片、形状、线条、图表、表格
一、iles制作前后 Cocos是由厦门雅基软件有限公司推出的开源游戏引擎,目前支持2D和3D游戏开发,不过最擅长的还是2D游戏开发,3D相关的引擎技术也是最近两年才提供的技术。 2021年年初,Creator 3.0版本正式发布,将2D和3D两套产品进行合并,开始引擎一体化建设。 Cocos Creator 进行了多次版本迭代,立足2D应用领域、持续进行优化的同时,在3D方面也取得长足进步。 下面是官方开源的一款3D 跑酷闯关+建造游戏《iles》,点击开启体验。 我们还尝试过把每个关卡按地块排列生成简化的 3D 模型。一开始为了更能体现 3D 模型的效果,采用了斜视角,但是看着有一点乱,并且远一点的关卡显示得没那么清楚。 greenheartgames/greenworks/blob/12392db8e88ec9c0f6a1e244672992b972413e54/src/api/steam_api_workshop.cc#L193 问题3,
今天,谷歌宣布了他们最新的和性能最好的语义图像分割模型的开源版本, DeepLab-v3+,可在Tensorflow中实现。 此版本包含基于强大的卷积神经网络(CNN)骨干架构构建的DeepLab-v3 +模型,获得最准确的结果,用于服务器端部署。 自从三年前谷歌的DeepLab模型第一次改版以来,改进的CNN特征提取器,更好的对象比例建模,对上下文信息的仔细同化,改进的训练过程以及越来越强大的硬件和软件导致了DeepLab-v2和DeepLab-v3的改进 借助DeepLab-v3 +,我们通过添加简单而有效的解码器模块来扩展DeepLab-v3,以细化分割结果,尤其是对象边界。
平时会留意一些开源组件,收藏到收藏夹里,然后一天mac电脑因为卸载window出问题导致不能不重装,然后里面的东西都没了,特别是适用于ionic2布局的angular2和普通js……so sad,现整理回一些并分享下 : 这里是组件篇,所以关于开源项目和插件的分别放在其它章,因为图片多会影响本文速度和美观,所以只放部分图。 提醒一点,ionic3除了很方便使用ionic2及以上组件外,也很方便引入angular2或普通js的组件。这里列的基本都是ionic2,如果没有,可以自行找angular2或js的。 ionic2Accordion 聊天 ionic3-chat ionic3chat ? 聊天 表情输入 ionic3-emoji-picker 多级联动 ionic2-city-picker ion-multi-picker iosselect ?
一些机密引擎只是存储和读取数据——就像是加密存储数据的 Redis/Memcached 那样。另一些机密引擎会连接到其他服务并按需生成动态凭证。还有一些机密引擎提供加密即服务、totp 生成、证书等等。
本项目MedicalNet将多个3D医疗数据集集合成大数据集,基于此数据集提供了完整的3D-ResNet系列预训练模型与相应的迁移学习训练代码。 更多细节请参考文章[Med3D: Transfer Learning for 3D Medical Image Analysis](https://arxiv.org/abs/1904.00625)。 MedicalNet未来规划 收集更多数据提升预训练模型性能 增加3D超声预训练数据 完成3D轻量级(3D-MobileNet系列,3D-ShuffleNet系列等)预训练模型 完成2D医学预训练模型 MedicalNet 正式开源 Github 开源地址: https://github.com/Tencent/MedicalNet (点击文末阅读原文直接访问) 请给 MedicalNet 一个 Star 腾讯工蜂源码系统为开源开发者提供完整、最新的腾讯开源项目国内镜像 ?