我运行
mpiexec -n $nprocs julia --project myfile.jl
在集群上,myfile.jsl具有以下形式的
using Distributed; using Dates; using JLD2; using LaTeXStrings
@everywhere begin
using SharedArrays; using QuantumOptics; using LinearAlgebra; using Plots; using Statistics; using DifferentialEquations; using StaticArrays
#Defining some other functions and SharedArrays to be used later e.g.
MySharedArray=SharedArray{SVector{Nt,Float64}}(Np,Np)
end
@sync @distributed for pp in 1:Np^2
for jj in 1:Nj
#do some stuff with local variables
for tt in 1:Nt
#do some stuff with local variables
end
end
MySharedArray[pp]=... #using linear indexing
println("$pp finished")
end
timestr=Dates.format(Dates.now(), "yyyy-mm-dd-HH:MM:SS")
filename="MyName"*timestr
@save filename*".jld2"
#later on, some other small stuff like making and saving a figure. (This does give an error "no method matching heatmap_edges(::Surface{Array{Float64,2}}, ::Symbol)" but I think that this is a technical thing about Plots so not very related to the bigger issue here)
然而,当看到输出时,有一些问题让我得出结论,出了问题
- $pp成品";输出对于每个值的pp重复多次。看起来这个数量实际上等于32=$nprocs
- 尽管代码还没有完成;MyName";生成文件。应该是一个,但我得到了十几个带有不同timetr组件的
EDIT:我可以添加的另外两件事
- 不同的";MyName";文件不完全相同,但这是意料之中的事,因为在内部循环中使用了随机数。其中有28个,这个数字我很难辨认,只是它再次接近32美元的nproc
- 早些时候,我写了一篇文章,说超过了walltime,但事实证明这不是真的。该.o文件以";您的某个应用程序进程终止错误。。。退出代码:9";,在最后一个输出文件之后不久
$nprocs是通过在pbs脚本中获得的
#PBS -l select=1:ncpus=32:mpiprocs=32
nprocs= `cat $PBS_NODEFILE|wc -l`
正如adamslc在Julia论述中所指出的,在集群上使用Julia的正确方法是
- 使用作业脚本中的一个核心启动会话,在Julia脚本中使用addprocs((添加更多
- 使用更专业的Julia软件包
https://discourse.julialang.org/t/julia-distributed-redundant-iterations-appearing/57682/3