首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏python3

    python3--中的进程操作--multiprocess模块

    multiprocess模块 multiprocess不是一个模块而是python中一个操作、管理进程的包。 由于提供的子模块非常多,为了方便归类记忆,大致分为四个部分:创建进程部分,进程同步部分,进程池部分,进程之间数据共享 multiprocess.process模块 process模块介绍 process

    1.5K10发布于 2018-08-02
  • 来自专栏python3

    python3--进程同步(multiprocess.Lock, Semaphore, Event)

    锁 —— multiprocess.Lock 通过之前的学习,实现了程序的异步,让多个任务可以同时在几个进程中并发处理,他们之间的运行没有顺序,一旦开启也不受我们控制。 信号量 —— multiprocess.Semaphore(了解) 互斥锁同时只允许一个线程更改数据,而信号量Semaphore是同时允许一定数量的线程更改数据 。 总结:信号量和锁有点类似,它们之间的区别,信号量,相当于计算器 信号量: 锁 + 计数器 .acquire() 计数器-1 计数器减为0 = 阻塞 .release() 计数器+1 事件 —— multiprocess.Event 进程间通信——队列和管道(multiprocess.Queue、multiprocess.Pipe) 进程间通信 IPC(Inter-Process Communication) 队列  概念介绍 创建共享的进程队列

    2.8K30发布于 2018-08-02
  • 来自专栏锦小年的博客

    python multiprocess 子进程和主进程同时抛出异常时子进程无法退出

    在使用python的multiprocess库时,如果在主进程中的处理子进程的返回函数callback或者处理子进程的错误的函数errorbackerror中抛出异常,则子进程无法退出。

    4K20编辑于 2021-12-08
  • 来自专栏开发 & 算法杂谈

    GDB多线程多进程调试

    * 1 process 3686 /data/home/chainyang/small_program/multiprocess 进程相关的信息主要包括inferior ID(gdb )] [Switching to thread 1 (process 6945)] #0 main () at multiprocess.cpp:18 18 if (pid < 0 /multiprocess & [1] 9448 [chainyang@DSNO_DP_PD_2 ~/small_program]$ ps aux | grep multiprocess 511 /multiprocess 511 9449 0.0 0.0 11788 136 pts/4 S 11:38 0:00 . /multiprocess 511 9451 0.0 0.0 6428 592 pts/4 S+ 11:38 0:00 grep multiprocess 这里子进程

    13.2K40发布于 2018-06-05
  • 来自专栏Coxhuang

    supervisor进程管理安装使用

    processname 关闭进程 supervisorctl restart processname 重启进程 #4 例子 xxx.conf [group:multiprocesstest] programs=multiprocess [program:multiprocess] command=python3 /home/cox/work/test/multiprocess_suspend/multiprocess_suspend.py

    58520发布于 2020-11-07
  • 来自专栏阶梯计划

    HAMi源码解析——HAMi-Core-3

    kernelParams,extra); return res; } 4.2 Core 限制实现 rate_limiter 会比较当前的使用情况和从环境变量中获取到的 limit 限值: // src/multiprocess /multiprocess_utilization_watcher.c void rate_limiter(int grids, int blocks) { long before_cuda_cores 对于 SM 限制,是 do_init_device_sm_limits 从环境变量中读取的: // src/multiprocess/multiprocess_memory_limit.c void do_init_device_sm_limits arr[i] = 0; } } } 4.3 Token 恢复 相当于有一个“守护线程”不停的监控 GPU 的使用情况——utilization_watcher: // src/multiprocess /multiprocess_utilization_watcher.c static void change_token(long delta) { int cuda_cores_before =

    62811编辑于 2025-07-09
  • 来自专栏Coxhuang

    supervisor和Python多进程multiprocessing使用 子进程残留问题

    配置例子 : [group:multiprocesstest] programs=multiprocess [program:multiprocess] command=python3 /home /cox/work/test/multiprocess_suspend/multiprocess_suspend.py directory=/home/cox user=cox autorestart=

    2.5K10发布于 2020-11-07
  • 来自专栏单细胞天地

    单细胞转录组数据分析||Seurat并行策略

    .) - tweaked: FALSE - call: NULL # change the current plan to access parallelization plan("multiprocess ", workers = 4) plan() ## multiprocess: ## - args: function (expr, envir = parent.frame(), substitute workers = 4, gc = FALSE, earlySignal = FALSE, label = NULL, ...) ## - tweaked: TRUE ## - call: plan("multiprocess /data/pbmc3k_final.rds") # Enable parallelization plan("multiprocess", workers = 4) markers <- FindMarkers FindMarkers", time = as.numeric(end - start, units = "secs"), strategy = "sequential")) plan("multiprocess

    4K31发布于 2020-06-23
  • 来自专栏阶梯计划

    HAMi源码解析——HAMi-Core-2

    /multiprocess_memory_limit.c uint64_t get_current_device_memory_limit(const int dev) { ensure_initialized region_info 的初始化函数 do_init_device_memory_limits : // src/multiprocess/multiprocess_memory_limit.c void region_info 的初始化调用是在 initialized 函数中: // src/multiprocess/multiprocess_memory_limit.c void initialized ); if (shr_reg_file == NULL) { shr_reg_file = MULTIPROCESS_SHARED_REGION_CACHE_DEFAULT; = MULTIPROCESS_SHARED_REGION_MAGIC_FLAG) { region->major_version = MAJOR_VERSION;

    62911编辑于 2025-07-09
  • 来自专栏单细胞天地

    Seurat4.0系列教程19:多线程并行策略

    parent.frame()) ## - tweaked: FALSE ## - call: NULL # change the current plan to access parallelization plan("multiprocess ", workers = 4) plan() ## multiprocess: ## - args: function (..., envir = parent.frame(), workers = 4) ## - tweaked: TRUE ## - call: plan("multiprocess", workers = 4) seurat的"futurized"功能 以下函数已被编写可以利用 /data/pbmc3k_final.rds") # Enable parallelization plan("multiprocess", workers = 4) markers <- FindMarkers

    2.9K43编辑于 2022-01-10
  • 来自专栏AI 算法笔记

    进程和线程(上)

    multiprocess multiprocessing 模块中提供了 Process 类来代表一个进程对象,接下来用一个下载文件的例子来说明采用多进程和不用多进程的差别。 耗费了%d秒' % (filename, time_to_download)) def download_without_multiprocess(): '''不采用多进程''' start end = time() print('总共耗费了%.2f秒.' % (end - start)) if __name__ == '__main__': download_without_multiprocess 耗费了%d秒' % (filename, time_to_download)) def download_multiprocess(): '''采用多进程''' start = time ) end = time() print('总共耗费了%.2f秒.' % (end - start)) if __name__ == '__main__': download_multiprocess

    97310发布于 2019-08-28
  • 来自专栏Python爬虫与数据挖掘

    进程和线程(上)

    multiprocess multiprocessing 模块中提供了 Process 类来代表一个进程对象,接下来用一个下载文件的例子来说明采用多进程和不用多进程的差别。 耗费了%d秒' % (filename, time_to_download)) def download_without_multiprocess(): '''不采用多进程''' start end = time() print('总共耗费了%.2f秒.' % (end - start)) if __name__ == '__main__': download_without_multiprocess 耗费了%d秒' % (filename, time_to_download)) def download_multiprocess(): '''采用多进程''' start = time ) end = time() print('总共耗费了%.2f秒.' % (end - start)) if __name__ == '__main__': download_multiprocess

    83110发布于 2019-10-23
  • 来自专栏阶梯计划

    HAMi源码解析——HAMi-Core-1

    nvml_override.h │ ├── nvml_prefix.h │ ├── nvml-subset.h │ ├── process_utils.h │ ├── utils.h ├── multiprocess │ ├── common_header.h │ ├── multiprocess_memory_limit.c │ ├── multiprocess_memory_limit.h │ ├── multiprocess_utilization_watcher.c │ ├── multiprocess_utilization_watcher.h │ ├── shrreg_tool.c

    91211编辑于 2025-07-09
  • 来自专栏nginx遇上redis

    Android多进程总结2

    如果我们的包名为“com.biyou.multiprocess”,则实际的进程名为“com.biyou.multiprocess:remote”。

    1.4K10发布于 2019-10-14
  • 来自专栏Android 开发者

    WorkManager 在多进程应用中的高级用法

    val PACKAGE_NAME = "com.example.background.multiprocess" // RemoteWorkerService 被添加到应用的 AndroidManifest.xml AndroidManifest 中添加 service 定义: <manifest ... > <service android:name="androidx.work.<em>multiprocess</em>.RemoteWorkerService

    87320编辑于 2022-03-09
  • 来自专栏Android源码框架分析

    Android ContentProvider支持跨进程数据共享与"互斥、同步"杂谈

    android:multiprocess在ContentProvider中的作用 默认情况下是不指定android:process跟multiprocess的,它们的值默认为false,会随着应用启动的时候加载 ,如果对provider指定android:process和android:multiprocess,表现就会不一通了,如果设置android:process,那ContentProvider就不会随着应用启动 ,如果设置了android:multiprocess,则可能存在多个ContentProvider实例。 android:multiprocess的作用是:是否允许在调用者的进程里实例化provider,如果android:multiprocess=false,则系统中只会存在一个provider实例,否则

    2.6K30发布于 2018-06-29
  • 来自专栏Michael阿明学习之路

    Python 多进程处理数据

    multiprocessing.Process # _*_ coding: utf-8 _*_ # @Time : 2022/10/16 15:45 # @Author : Michael # @File : multiprocess_demo.py 可以根据资源情况,设置进程数量来限制 # _*_ coding: utf-8 _*_ # @Time : 2022/10/16 15:45 # @Author : Michael # @File : multiprocess_demo.py .txt 文件换成一个上百万行的文件 # _*_ coding: utf-8 _*_ # @Time : 2022/10/16 18:13 # @Author : Michael # @File : multiprocess_pool_demo.py multiprocessing.Pool.starmap_async # _*_ coding: utf-8 _*_ # @Time : 2022/10/16 18:13 # @Author : Michael # @File : multiprocess_pool_demo.py

    79510编辑于 2022-10-24
  • 来自专栏pydata

    python optimization

    io-bound任务程序使用gevent来优化 cpu-bound任务程序使用multiprocess来优化 使用队列服务进行任务分发,将大任务分成多个子任务部署于多机环境(集群)。

    34120发布于 2018-08-02
  • 来自专栏sktj

    python 使用管道在进程间通信 脚本

    multiprocessing """ Use multiprocess anonymous pipes to communicate.

    1.1K20编辑于 2022-05-13
  • 来自专栏Hank’s Blog

    ImportError: cannot import name 'Process' from 'multiprocessing'

    但是报错 ImportError: cannot import name 'Process' 查询后是由于.py文件名multiprocessing冲突,于是修改文件名,并删除之前编译所生成的multiprocess.pyc

    1.2K20发布于 2020-09-17
领券