linux多线程运行命令 linux多线程运行程序

在Linux系统中使用Shell实现多线程运行任务(多任务并发执行) 2022-05-30 最近 , 有一批任务需要把两批的fastq合并到一起并压缩成一个fastq文件才能继续往下做,由于存储空间有限又不能直接全部跑上,只能按样本逐个分批跑 。众所周知,一般fastq是成对存在的,所需要对read1和read2分别合并一次,然而这次任务的fastq文件比较大,合并然后压缩一次需要1天左右 , 那对于一组fastq就要2-3天 , 这也太耗时间了,所以我在想能不能read1和read2 同时跑上,这就可以节省一半的时间了 。
平时也能遇到很多类似的任务 , 特别是在进程数有限的情况下 , 如果这些小任务单独占用一个进程 , 而任务很多就很耗时间 , 如果能在一个进程下实现多个线程并行执行,就能大大提高运行效率 。关于进程和线程的知识可以参考知乎的这篇文章【 Shell“ 多线程”,提高工作效率 】,整理的也比较有条理,能比较容易读懂 。
当然,某些博主也写过类似的文章,例如这篇【 shell后台限制多并发控制后台任务强度进行文件拷贝 】但是实在是太高深莫测了,看不懂,一时半会儿也学不会 。本文将示例Shell实现多线程的简单版本 , 其实不用太复杂 。
其实只需要两个步骤 , 第一步是给需要并行运行的命令行在结尾加上"",代表放到后台运行,第二步是在在所有并行任务的后面加上一句“wait”,意思是等所有通过“”放到后台运行的任务跑完后再继续执行后面的任务,这些就能实现所有带有“”的行并行执行了 。
看完脚本是不是觉得很简单?
上面的脚本适合并行任务少的,可以手动加和wait,但是如果有几十个甚至上百个的小任务就比较麻烦了 。但不用担心,可以写个循环 , 批量运行 。
循环的结果也是跟上面类似的 , 只是多了个循环结构 。
如果需要执行的任务只有一行,可以把大括号去掉 。
关于for和while的循环可以查看之前的文章【 Shell常用循环示例(for和while批量处理)2022-05-25 】
需要注意的是多线程并行还是需要有限制的 , 毕竟都是在一个进程里运行,如果线程太多了会卡顿的,建议控制在100个以内,当然还有毕竟高级和复杂的方法可以实现限制 。因为上面的脚本已经够我用了,没继续往下学,以后可以再补充 。
Linux下如何实现shell多线程编程以提高应用程序的响应 Linux中多线程编程拥有提高应用程序linux多线程运行命令的响应、使多cpu系统更加有效等优点,下面小编将通过Linux下shell多线程编程的例子给大家讲解下多线程编程的过程,一起来了解下吧 。
#!/bin/bash
#———————————————————————————–
# 此例子说明了一种用wait、read命令模拟多线程的一种技巧
# 此技巧往往用于多主机检查,比如ssh登录、ping等等这种单进程比较慢而不耗费cpu的情况
# 还说明了多线程的控制
#———————————————————————————–
function a_sub
{
# 此处定义一个函数,作为一个线程(子进程)
sleep 3 # 线程的作用是sleep 3s
}
tmp_fifofile=“/tmp/$.fifo” mkfifo $tmp_fifofile # 新建一个fifo类型的文件
exec 6《》$tmp_fifofile # 将fd6指向fifo类型
rm $tmp_fifofile thread=15 # 此处定义线程数
for
((i=0;i《$thread;i));do echo
done 》6 # 事实上就是在fd6中放置了$thread个回车符
for
((i=0;i《50;i));do # 50次循环,可以理解为50个主机,或其他
read -u6 # 一个read -u6命令执行一次,就从fd6中减去一个回车符,然后向下执行,
# fd6中没有回车符的时候 , 就停在这了,从而实现了线程数量控制
{ # 此处子进程开始执行,被放到后台
a_sub
{ # 此处可以用来判断子进程的逻辑
【linux多线程运行命令 linux多线程运行程序】 echo “a_sub is finished”
}
||
{ echo “sub error”
}
echo 》6 # 当进程结束以后 , 再向fd6中加上一个回车符,即补上了read -u6减去的那个
}
done wait # 等待所有的后台子进程结束
exec 6》- # 关闭df6 exit 0
说明linux多线程运行命令:
此程序中的命令
mkfifo tmpfile
和linux中的命令
mknod tmpfile p
效?果相同 。区别是mkfifo为POSIX标准,因此推荐使用它 。该命令创建了一个先入先出的管道文件,并为其分配文件标志符6 。管道文件是进程之间通信的一种方式,注意这一句很重要
exec 6《》$tmp_fifofile # 将fd6指向fifo类型
如果没有这句,在向文件$tmp_fifofile或者6写入数据时,程序会被阻塞,直到有read读出了管道文件中的数据为止 。而执行了上面这一句后就可以在程序运行期间不断向fifo类型的文件写入数据而不会阻塞,并且数据会被保存下来以供read程序读出 。
通过运行命令linux多线程运行命令:
time。/multithread.sh 》/dev/null
最终运算时间: 50/15 = 3组(每组15) 1组(5个《15 组成一个组)= 4组,每组花费时间:3秒 ,
则 3 * 4 = 12 秒 。
传统非多线程的代码 运算时间: 50 * 3 = 150 秒 。
上面就是Linux下shell多线程编程的实例介绍了,使用多线程编程还能够改善程序结构,有兴趣的朋友不妨试试看吧 。
利用linux命令如何查进程中有多少线程1 。使用top命令linux多线程运行命令,具体用法是 top -H
加上这个选项,toplinux多线程运行命令的每一行就不是显示一个进程,而是一个线程 。
2 。使用ps命令,具体用法是 ps -xH
这样可以查看所有存在的线程 , 也可以使用grep作进一步的过滤 。
3 。使用ps命令,具体用法是 ps -mq PID
这样可以看到指定的进程产生的线程数目 。
更进一步,其实一些系统监控工具,在本质上也是读取的系统产生的文件罢了 。比如说进程这个事情,
看看这个目录吧,/proc/5000/ 这里面有linux多线程运行命令你所有想要的 。其实stat代表着当前的一些信息 。
使用ps命令来查看进程的时候,进程状态分别对应的含义如下linux多线程运行命令:
D 不可中断睡眠 (通常是在IO操作) 收到信号不唤醒和不可运行, 进程必须等待直到有中断发生
R 正在运行或可运行(在运行队列排队中)
S 可中断睡眠 (休眠中, 受阻, 在等待某个条件的形成或接受到信号)
T 已停止的 进程收到SIGSTOP, SIGSTP, SIGTIN, SIGTOU信号后停止运行
W 正在换页(2.6.内核之前有效)
X 死进程 (未开启)
Z 僵尸进程 进程已终止, 但进程描述符存在, 直到父进程调用wait4()系统调用后释放BSD风格的
高优先级(not nice to other users)
N 低优先级(nice to other users)
L 页面锁定在内存(实时和定制的IO)
s 一个信息头
l 多线程(使用 CLONE_THREAD,像NPTL的pthreads的那样)
在前台进程组
如何在Linux中查看进程的多线程方法/步骤
问题: 我的程序在其内部创建并执行了多个线程,我怎样才能在该程序创建线程后监控其中单个线程?我想要看到带有它们名称的单个线程详细情况(如,CPU/内存使用率) 。
线程是现代操作系统上进行并行执行的一个流行的编程方面的抽象概念 。当一个程序内有多个线程被叉分出用以执行多个流时,这些线程就会在它们之间共享 特定的资源(如,内存地址空间、打开的文件),以使叉分开销最小化,并避免大量高成本的IPC(进程间通信)通道 。这些功能让线程在并发执行时成为一个高 效的机制 。
在Linux中,程序中创建的线程(也称为轻量级进程 , LWP)会具有和程序的PID相同的“线程组ID” 。然后,各个线程会获得其自身的线程 ID(TID) 。对于Linux内核调度器而言 , 线程不过是恰好共享特定资源的标准的进程而已 。经典的命令行工具,如ps或top , 都可以用来显示线程级 别的信息,只是默认情况下它们显示进程级别的信息 。
这里提供了在Linux上显示某个进程的线程的几种方式 。
方法一:PS
在ps命令中 , “-T”选项可以开启线程查看 。下面的命令列出了由进程号为pid的进程创建的所有线程 。
1.$ ps -T -p pid
“SID”栏表示线程ID,而“CMD”栏则显示了线程名称 。
方法二: Top
top命令可以实时显示各个线程情况 。要在top输出中开启线程查看,请调用top命令的“-H”选项,该选项会列出所有Linux线程 。在top运行时,你也可以通过按“H”键将线程查看模式切换为开或关 。
1.$ top -H
要让top输出某个特定进程pid并检查该进程内运行的线程状况:
$ top -H -p pid
方法三: Htop
一个对用户更加友好的方式是,通过htop查看单个进程的线程,它是一个基于ncurses的交互进程查看器 。该程序允许你在树状视图中监控单个独立线程 。
要在htop中启用线程查看,请开启htop,然后按F2来进入htop的设置菜单 。选择“设置”栏下面的“显示选项”,然后开启“树状视图”和“显示自定义线程名”选项 。按F10退出设置 。
现在 , 你就会看到下面这样单个进程的线程视图 。
linux多线程运行命令的介绍就聊到这里吧,感谢你花时间阅读本站内容,更多关于linux多线程运行程序、linux多线程运行命令的信息别忘了在本站进行查找喔 。

    推荐阅读