本文へ移動
cccskills
無料GitHub で公開

ncpgr-software

NCPGR高性能计算集群软件使用注意事项与优化指南。聚焦各软件的坑点、加速技巧、资源节省建议与软件选型推荐。当用户询问集群上如何高效使用软件、编写LSF作业、或需要软件选型建议时使用。

インストール方法を見る

含まれるファイル(200)

  • SKILL.md34.3 KB
  • bio/analysis-report/SKILL.md4.0 KB
  • bioSkills/.gitignore731 B
  • bioSkills/alignment-files/alignment-amplicon-clipping/examples/ampliconclip_workflow.sh1.7 KB
  • bioSkills/alignment-files/alignment-amplicon-clipping/SKILL.md8.0 KB
  • bioSkills/alignment-files/alignment-amplicon-clipping/usage-guide.md4.4 KB
  • bioSkills/alignment-files/alignment-filtering/examples/filter_bam.py2.4 KB
  • bioSkills/alignment-files/alignment-filtering/SKILL.md13.7 KB
  • bioSkills/alignment-files/alignment-filtering/usage-guide.md7.3 KB
  • bioSkills/alignment-files/alignment-indexing/examples/fetch_regions.py1.2 KB
  • bioSkills/alignment-files/alignment-indexing/SKILL.md9.4 KB
  • bioSkills/alignment-files/alignment-indexing/usage-guide.md4.8 KB
  • bioSkills/alignment-files/alignment-sorting/examples/sort_pipeline.sh785 B
  • bioSkills/alignment-files/alignment-sorting/SKILL.md9.8 KB
  • bioSkills/alignment-files/alignment-sorting/usage-guide.md4.4 KB
  • bioSkills/alignment-files/alignment-validation/examples/validate_alignment.py3.5 KB
  • bioSkills/alignment-files/alignment-validation/examples/validate_alignment.sh1.2 KB
  • bioSkills/alignment-files/alignment-validation/SKILL.md14.1 KB
  • bioSkills/alignment-files/alignment-validation/usage-guide.md8.2 KB
  • bioSkills/alignment-files/bam-statistics/examples/qc_report.py2.0 KB
  • bioSkills/alignment-files/bam-statistics/SKILL.md14.7 KB
  • bioSkills/alignment-files/bam-statistics/usage-guide.md6.5 KB
  • bioSkills/alignment-files/duplicate-handling/examples/markdup_pipeline.sh758 B
  • bioSkills/alignment-files/duplicate-handling/SKILL.md14.1 KB
  • bioSkills/alignment-files/duplicate-handling/usage-guide.md5.8 KB
  • bioSkills/alignment-files/pileup-generation/examples/allele_counts.py1.8 KB
  • bioSkills/alignment-files/pileup-generation/SKILL.md13.8 KB
  • bioSkills/alignment-files/pileup-generation/usage-guide.md8.1 KB
  • bioSkills/alignment-files/README.md3.1 KB
  • bioSkills/alignment-files/reference-operations/examples/prepare_reference.sh837 B
  • bioSkills/alignment-files/reference-operations/SKILL.md11.9 KB
  • bioSkills/alignment-files/reference-operations/usage-guide.md7.1 KB
  • bioSkills/alignment-files/sam-bam-basics/examples/convert_formats.sh938 B
  • bioSkills/alignment-files/sam-bam-basics/examples/view_bam.py900 B
  • bioSkills/alignment-files/sam-bam-basics/SKILL.md13.6 KB
  • bioSkills/alignment-files/sam-bam-basics/usage-guide.md5.6 KB
  • bioSkills/alignment/alignment-io/examples/batch_convert.py716 B
  • bioSkills/alignment/alignment-io/examples/convert_formats.py690 B
  • bioSkills/alignment/alignment-io/examples/read_alignment.py558 B
  • bioSkills/alignment/alignment-io/examples/sample_alignment.aln237 B
  • bioSkills/alignment/alignment-io/examples/slice_alignment.py753 B
  • bioSkills/alignment/alignment-io/SKILL.md19.3 KB
  • bioSkills/alignment/alignment-io/usage-guide.md2.8 KB
  • bioSkills/alignment/alignment-trimming/examples/bmge_trim.py1.9 KB
  • bioSkills/alignment/alignment-trimming/examples/clipkit_trim.py1.9 KB
  • bioSkills/alignment/alignment-trimming/examples/divvier_split.py1.5 KB
  • bioSkills/alignment/alignment-trimming/examples/trimal_modes.py1.8 KB
  • bioSkills/alignment/alignment-trimming/SKILL.md22.4 KB
  • bioSkills/alignment/alignment-trimming/usage-guide.md5.4 KB
  • bioSkills/alignment/msa-parsing/examples/a2m_a3m_io.py1.0 KB
  • bioSkills/alignment/msa-parsing/examples/analyze_alignment.py738 B
  • bioSkills/alignment/msa-parsing/examples/clean_alignment.py2.1 KB
  • bioSkills/alignment/msa-parsing/examples/consensus_sequence.py1.5 KB
  • bioSkills/alignment/msa-parsing/examples/find_conserved.py1.1 KB
  • bioSkills/alignment/msa-parsing/examples/gap_analysis.py861 B
  • bioSkills/alignment/msa-parsing/examples/henikoff_weights.py1.7 KB
  • bioSkills/alignment/msa-parsing/examples/mi_apc.py2.7 KB
  • bioSkills/alignment/msa-parsing/examples/neff.py1.6 KB
  • bioSkills/alignment/msa-parsing/SKILL.md21.3 KB
  • bioSkills/alignment/msa-parsing/usage-guide.md3.7 KB
  • bioSkills/alignment/msa-statistics/examples/capra_singh_jsd.py2.9 KB
  • bioSkills/alignment/msa-statistics/examples/conservation_profile.py1.3 KB
  • bioSkills/alignment/msa-statistics/examples/entropy_analysis.py2.9 KB
  • bioSkills/alignment/msa-statistics/examples/gap_statistics.py1.7 KB
  • bioSkills/alignment/msa-statistics/examples/identity_matrix.py1.7 KB
  • bioSkills/alignment/msa-statistics/examples/kimura_protein_distance.py1.6 KB
  • bioSkills/alignment/msa-statistics/examples/pssm.py2.1 KB
  • bioSkills/alignment/msa-statistics/examples/substitution_counts.py1.4 KB
  • bioSkills/alignment/msa-statistics/SKILL.md22.6 KB
  • bioSkills/alignment/msa-statistics/usage-guide.md3.2 KB
  • bioSkills/alignment/multiple-alignment/examples/codon_alignment.py1.4 KB
  • bioSkills/alignment/multiple-alignment/examples/run_msa.py2.9 KB
  • bioSkills/alignment/multiple-alignment/SKILL.md32.7 KB
  • bioSkills/alignment/multiple-alignment/usage-guide.md4.4 KB
  • bioSkills/alignment/pairwise-alignment/examples/alignment_from_file.py733 B
  • bioSkills/alignment/pairwise-alignment/examples/empirical_pvalue.py2.0 KB
  • bioSkills/alignment/pairwise-alignment/examples/global_alignment.py2.2 KB
  • bioSkills/alignment/pairwise-alignment/examples/local_alignment.py798 B
  • bioSkills/alignment/pairwise-alignment/examples/protein_alignment.py747 B
  • bioSkills/alignment/pairwise-alignment/SKILL.md21.7 KB
  • bioSkills/alignment/pairwise-alignment/usage-guide.md3.0 KB
  • bioSkills/alignment/README.md5.2 KB
  • bioSkills/alignment/structural-alignment/examples/biopython_superimposer.py1.8 KB
  • bioSkills/alignment/structural-alignment/examples/foldmason_msa.py2.0 KB
  • bioSkills/alignment/structural-alignment/examples/foldseek_search.py2.3 KB
  • bioSkills/alignment/structural-alignment/examples/tm_align_pairwise.py2.3 KB
  • bioSkills/alignment/structural-alignment/SKILL.md23.0 KB
  • bioSkills/alignment/structural-alignment/usage-guide.md5.5 KB
  • bioSkills/alternative-splicing/differential-splicing/examples/diff_splicing_leafcutter.R2.7 KB
  • bioSkills/alternative-splicing/differential-splicing/examples/diff_splicing_rmats.sh1.6 KB
  • bioSkills/alternative-splicing/differential-splicing/SKILL.md23.8 KB
  • bioSkills/alternative-splicing/differential-splicing/usage-guide.md3.6 KB
  • bioSkills/alternative-splicing/isoform-switching/examples/isoform_switch_analysis.R4.9 KB
  • bioSkills/alternative-splicing/isoform-switching/SKILL.md22.9 KB
  • bioSkills/alternative-splicing/isoform-switching/usage-guide.md3.9 KB
  • bioSkills/alternative-splicing/long-read-splicing/examples/longread_splicing_pipeline.sh3.0 KB
  • bioSkills/alternative-splicing/long-read-splicing/SKILL.md23.1 KB
  • bioSkills/alternative-splicing/long-read-splicing/usage-guide.md4.5 KB
  • bioSkills/alternative-splicing/outlier-splicing-detection/examples/fraser2_rare_disease.R2.0 KB
  • bioSkills/alternative-splicing/outlier-splicing-detection/SKILL.md19.6 KB
  • bioSkills/alternative-splicing/outlier-splicing-detection/usage-guide.md3.7 KB
  • bioSkills/alternative-splicing/README.md3.7 KB
  • bioSkills/alternative-splicing/sashimi-plots/examples/plot_sashimi.py5.4 KB
  • bioSkills/alternative-splicing/sashimi-plots/SKILL.md17.5 KB
  • bioSkills/alternative-splicing/sashimi-plots/usage-guide.md3.3 KB
  • bioSkills/alternative-splicing/single-cell-splicing/examples/sc_splicing_brie2.py5.7 KB
  • bioSkills/alternative-splicing/single-cell-splicing/SKILL.md24.8 KB
  • bioSkills/alternative-splicing/single-cell-splicing/usage-guide.md4.3 KB
  • bioSkills/alternative-splicing/splice-variant-prediction/examples/spliceai_clingen_classify.py3.5 KB
  • bioSkills/alternative-splicing/splice-variant-prediction/SKILL.md24.4 KB
  • bioSkills/alternative-splicing/splice-variant-prediction/usage-guide.md4.2 KB
  • bioSkills/alternative-splicing/splicing-qc/examples/splicing_qc.py5.9 KB
  • bioSkills/alternative-splicing/splicing-qc/SKILL.md24.2 KB
  • bioSkills/alternative-splicing/splicing-qc/usage-guide.md3.6 KB
  • bioSkills/alternative-splicing/splicing-quantification/examples/quantify_splicing.py4.7 KB
  • bioSkills/alternative-splicing/splicing-quantification/SKILL.md26.5 KB
  • bioSkills/alternative-splicing/splicing-quantification/usage-guide.md3.6 KB
  • bioSkills/atac-seq/allele-specific-accessibility/examples/wasp_ase_pipeline.sh4.0 KB
  • bioSkills/atac-seq/allele-specific-accessibility/SKILL.md16.1 KB
  • bioSkills/atac-seq/allele-specific-accessibility/usage-guide.md6.5 KB
  • bioSkills/atac-seq/atac-peak-calling/examples/call_atac_peaks.sh3.2 KB
  • bioSkills/atac-seq/atac-peak-calling/SKILL.md20.2 KB
  • bioSkills/atac-seq/atac-peak-calling/usage-guide.md6.5 KB
  • bioSkills/atac-seq/atac-qc/examples/atac_qc_metrics.R3.1 KB
  • bioSkills/atac-seq/atac-qc/SKILL.md19.0 KB
  • bioSkills/atac-seq/atac-qc/usage-guide.md5.8 KB
  • bioSkills/atac-seq/co-accessibility/examples/cicero_workflow.R4.0 KB
  • bioSkills/atac-seq/co-accessibility/SKILL.md16.7 KB
  • bioSkills/atac-seq/co-accessibility/usage-guide.md5.7 KB
  • bioSkills/atac-seq/consensus-peakset/examples/iterative_overlap.sh2.6 KB
  • bioSkills/atac-seq/consensus-peakset/SKILL.md18.5 KB
  • bioSkills/atac-seq/consensus-peakset/usage-guide.md5.7 KB
  • bioSkills/atac-seq/deep-learning-atac/examples/chrombpnet_pipeline.sh2.7 KB
  • bioSkills/atac-seq/deep-learning-atac/SKILL.md19.1 KB
  • bioSkills/atac-seq/deep-learning-atac/usage-guide.md6.9 KB
  • bioSkills/atac-seq/differential-accessibility/examples/diff_accessibility.R4.0 KB
  • bioSkills/atac-seq/differential-accessibility/SKILL.md23.0 KB
  • bioSkills/atac-seq/differential-accessibility/usage-guide.md7.0 KB
  • bioSkills/atac-seq/enhancer-gene-linking/examples/run_abc.sh2.9 KB
  • bioSkills/atac-seq/enhancer-gene-linking/SKILL.md16.9 KB
  • bioSkills/atac-seq/enhancer-gene-linking/usage-guide.md6.3 KB
  • bioSkills/atac-seq/footprinting/examples/run_tobias.sh2.5 KB
  • bioSkills/atac-seq/footprinting/SKILL.md18.8 KB
  • bioSkills/atac-seq/footprinting/usage-guide.md6.9 KB
  • bioSkills/atac-seq/motif-deviation/examples/chromvar_analysis.R3.4 KB
  • bioSkills/atac-seq/motif-deviation/SKILL.md20.3 KB
  • bioSkills/atac-seq/motif-deviation/usage-guide.md6.3 KB
  • bioSkills/atac-seq/nucleosome-positioning/examples/nucleosome_analysis.R3.7 KB
  • bioSkills/atac-seq/nucleosome-positioning/SKILL.md18.4 KB
  • bioSkills/atac-seq/nucleosome-positioning/usage-guide.md6.3 KB
  • bioSkills/atac-seq/README.md7.1 KB
  • bioSkills/atac-seq/single-cell-atac/examples/signac_workflow.R3.7 KB
  • bioSkills/atac-seq/single-cell-atac/SKILL.md23.1 KB
  • bioSkills/atac-seq/single-cell-atac/usage-guide.md7.4 KB
  • bioSkills/bioskills-installer/scripts/install-bioskills.sh4.1 KB
  • bioSkills/bioskills-installer/SKILL.md3.1 KB
  • bioSkills/causal-genomics/colocalization-analysis/examples/coloc_abf_pipeline.R3.5 KB
  • bioSkills/causal-genomics/colocalization-analysis/examples/coloc_analysis.R2.2 KB
  • bioSkills/causal-genomics/colocalization-analysis/examples/coloc_susie_multicausal.R3.3 KB
  • bioSkills/causal-genomics/colocalization-analysis/examples/coloc_susie.R2.3 KB
  • bioSkills/causal-genomics/colocalization-analysis/examples/regional_plots.R2.5 KB
  • bioSkills/causal-genomics/colocalization-analysis/SKILL.md35.2 KB
  • bioSkills/causal-genomics/colocalization-analysis/usage-guide.md11.9 KB
  • bioSkills/causal-genomics/effector-gene-prioritization/examples/magma_genebased.sh2.1 KB
  • bioSkills/causal-genomics/effector-gene-prioritization/examples/multi_evidence_integration.R3.6 KB
  • bioSkills/causal-genomics/effector-gene-prioritization/SKILL.md40.0 KB
  • bioSkills/causal-genomics/effector-gene-prioritization/usage-guide.md10.8 KB
  • bioSkills/causal-genomics/fine-mapping/examples/finemap_pipeline.sh1.9 KB
  • bioSkills/causal-genomics/fine-mapping/examples/pip_visualization.R3.1 KB
  • bioSkills/causal-genomics/fine-mapping/examples/susie_finemapping.R2.3 KB
  • bioSkills/causal-genomics/fine-mapping/examples/susie_rss_finemap.R6.1 KB
  • bioSkills/causal-genomics/fine-mapping/examples/susiex_multiancestry.sh2.3 KB
  • bioSkills/causal-genomics/fine-mapping/SKILL.md32.9 KB
  • bioSkills/causal-genomics/fine-mapping/usage-guide.md6.6 KB
  • bioSkills/causal-genomics/genetic-correlation/examples/lava_local_rg.R2.5 KB
  • bioSkills/causal-genomics/genetic-correlation/examples/ldsc_crosstrait_rg.sh3.2 KB
  • bioSkills/causal-genomics/genetic-correlation/SKILL.md34.3 KB
  • bioSkills/causal-genomics/genetic-correlation/usage-guide.md9.8 KB
  • bioSkills/causal-genomics/genomic-sem/examples/genomic_sem_commonfactor.R4.7 KB
  • bioSkills/causal-genomics/genomic-sem/examples/mtag_pipeline.sh2.4 KB
  • bioSkills/causal-genomics/genomic-sem/SKILL.md31.7 KB
  • bioSkills/causal-genomics/genomic-sem/usage-guide.md8.7 KB
  • bioSkills/causal-genomics/heritability-partitioning/examples/ldak_sumher.sh4.1 KB
  • bioSkills/causal-genomics/heritability-partitioning/examples/ldsc_partitioned_h2.sh5.7 KB
  • bioSkills/causal-genomics/heritability-partitioning/SKILL.md33.6 KB
  • bioSkills/causal-genomics/heritability-partitioning/usage-guide.md12.9 KB
  • bioSkills/causal-genomics/mediation-analysis/examples/cmaverse_4way.R4.9 KB
  • bioSkills/causal-genomics/mediation-analysis/examples/eqtl_mediation.R3.2 KB
  • bioSkills/causal-genomics/mediation-analysis/examples/mvmr_mediation.R4.7 KB
  • bioSkills/causal-genomics/mediation-analysis/examples/sensitivity_analysis.R2.7 KB
  • bioSkills/causal-genomics/mediation-analysis/SKILL.md33.3 KB
  • bioSkills/causal-genomics/mediation-analysis/usage-guide.md9.6 KB
  • bioSkills/causal-genomics/mendelian-randomization/examples/cis_mr_drug_target.R5.5 KB
  • bioSkills/causal-genomics/mendelian-randomization/examples/mr_visualization.R2.3 KB
  • bioSkills/causal-genomics/mendelian-randomization/examples/two_sample_mr.R6.1 KB
  • bioSkills/causal-genomics/mendelian-randomization/examples/twosamplemr_analysis.R3.5 KB
  • bioSkills/causal-genomics/mendelian-randomization/SKILL.md33.7 KB
  • bioSkills/causal-genomics/mendelian-randomization/usage-guide.md9.5 KB
  • bioSkills/causal-genomics/pleiotropy-detection/examples/bidirectional_mr.R2.4 KB
  • bioSkills/causal-genomics/pleiotropy-detection/examples/cause_analysis.R5.4 KB

SKILL.md(原文)

インストールする前に、エージェントに与えられる指示の中身を確認できます。

NCPGR HPC 集群软件使用注意事项与优化指南

总则

  • 集群软件通过 module (module av / module load,http://hpc.ncpgr.cn/app/004-Module/) 或 singularity(镜像位于 /share/Singularity/,http://hpc.ncpgr.cn/app/007-singularity/)调用
  • 公共数据库(NR/NT/Pfam/Rfam/swissprot)位于 /share/database/,http://hpc.ncpgr.cn/app/025-bioinformatics-database/
    • 使用方法:module av 查看可用版本 → module load 加载 → 加载后自动设置环境变量(如 $NR、$NT、$Pfam)直接使用,不需要自己 makeblastdb 建索引
    • 示例:
      module load nr/20201013
      blastp -query proteins.fa -db $NR -out result.txt -num_threads 8 -outfmt 6
      
      module load nt/20201013
      blastn -query seqs.fa -db $NT -out result.txt -num_threads 8 -outfmt 6
      
      module load nr/20201013-diamond   # diamond 专用版本(比 blastp/blastx 快很多)
      
    • 可用版本:nr/20201013、nr/20190625、nr/20171030、nr/20201013-diamond、nt/20201013、Pfam/32.0、Rfam/14.1、swissprot/20170604 等
  • 计算节点无联网能力,需联网的操作须在登录节点提前完成
  • 编写 LSF 作业脚本时结合 lsf-ncpgr skill
  • module av 支持模糊搜索,大小写不确定时都试试
  • 不要在作业脚本中随意使用 /tmp 目录,除非用户明确指定或软件文档中有明确提示。计算节点的 /tmp 为系统盘,大量临时文件积累会写满导致节点挂起。确需使用时,应创建用户专属临时目录并在作业结束时清理
  • 作业脚本应保持简洁,不可过度编码或使用高级技巧(如复杂的 sed/awk 变量替换、多重临时文件、嵌套逻辑等)。脚本需要让用户易于阅读、检查和自行修改

查询软件/数据库是否可用

当用户询问某个软件或某个数据库是否在集群上可用时,不要仅凭 skill 中的信息回答,应实际查询集群当前状态:

  1. 查询软件(首选 mii):集群已安装 mii,可搜索 module 中的二进制命令
  2. 查询 module:module av 软件名 或 module av \| grep -i 关键词
  3. 查询 singularity 镜像:检查 /share/Singularity/ 目录下的镜像文件
  4. 查询数据库:用 module av 查看最下方的数据库列表,或检查 /share/database/ 目录
# 查询软件(推荐:mii 可搜索 module 中的所有二进制命令)
mii search bedCoverage        # 查找哪个 module 提供 bedCoverage
mii search bigWigToBedGraph   # 查找 UCSC 工具对应的 module
mii search gmx                # 子串匹配,搜 gmx 会显示 gmx_mpi
mii list                      # 列出所有已索引的 module

# module 模糊搜索
module av bwa
module av \| grep -i star

# 查询 singularity 镜像
ls /share/Singularity/ \| grep -i alphafold

# 查询数据库
module av               # 最下方会列出NR、NT、Pfam等数据库
ls /share/database/

mii 说明:

  • 集群已安装,路径 /public/home/software/opt/bio/software/mii/1.1.2/

  • 首次使用需 mii build 创建索引,后续更新用 mii sync

  • mii search <命令> 可找到任意 module 中的二进制命令,包括工具集中的子命令(如 UCSC Kent Utils 中的 bedCoverage)

  • 如果查询结果为空,告知用户集群上暂无该软件/数据库

  • 如果找到相关软件/数据库,给出具体版本和使用方法

多样本多步骤流程的提交策略

当涉及多样本 + 每个样本多步骤的分析流程时(如1000样本变异检测:fastp → 比对 → 变异检测 → joint call),必须先询问用户采用哪种策略,再生成脚本:

策略做法优点缺点
逐步处理每次提交所有样本的第1步,确认完成后提交第2步,以此类推中间结果可控,某步出错可及时调整;便于中间检查需要分多次操作
依赖链一次提交用 -w "ended(jobid)" 建立样本内步骤依赖,一次提交所有样本所有步骤一次提交全自动;中间步骤自动衔接提交后难以中途干预;出错样本需单独处理
  • 不确定时默认推荐逐步处理,因为便于用户在中间步骤检查结果、调整参数
  • 如果用户选择依赖链一次提交,需为每个样本创建独立的作业依赖链

常见软件资源推荐(核数与内存)

通用原则

  1. 多样本优先"样本间并行",不是单样本堆核数:20个RNA-seq样本,与其每个STAR给32核,不如每个给8~12核、同时跑多个样本,集群吞吐量更高
  2. 不是核越多越快:多数生信软件在4~16核后收益明显变差,内存和磁盘I/O往往才是瓶颈
  3. Java程序要预留系统余量:申请32GB内存时,-Xmx 设为28g左右,JVM、容器、native library、临时buffer都会额外占内存
  4. 先跑1~2个代表样本测资源:记录MaxRSS、CPU利用率、I/O wait;CPU利用率长期低于300%却给了16核 → 降核数、提并发样本数

CPU 核数推荐

软件/场景推荐核数原因
FastQC / MultiQC1~2FastQC单文件并行更好;MultiQC基本不需要多核
fastp4~8速度已经很快,更多核意义不大;--dont_eval_duplication可省1GB内存和1020%时间
Trim Galore / cutadapt4~8多核收益有限,继续加核无运行时间收益
BLAST blastn4~8CPU利用率不高,更多核几乎不加速
Salmon / kallisto4~8通常很快,适合多样本并行
faST-LMM1(单线程)-maxThreads 多线程反而比单线程慢1倍
CNVnator按需设置默认用满整节点,必须设置 MKL_NUM_THREADS=$LSB_DJOB_NUMPROC
samtools view/index/flagstat2~8压缩/解压相关,多给核有收益但通常不线性
samtools sort4~88核以上加速效果有限;注意每线程内存(见下方)
Picard MarkDuplicates2~4Java堆内存要设-Xmx;大BAM更吃内存和临时盘
sambamba markdup/sort4~8多线程比Picard友好,但也别无限加核
GATK HaplotypeCaller1~4/分片推荐按染色体/区间scatter并行,每shard 1~4核
GATK GenomicsDBImport / GenotypeGVCFs2~8样本数越多越吃内存;联合分型大队列应按染色体/区间拆分
Mutect21~4肿瘤样本深度高时内存和时间显著上升
bcftools4~8多线程扩展性一般
BWA mem / BWA-MEM28~16多线程扩展性好,但超过16核被排序/压缩/I/O抵消
Bowtie2 / HISAT28~16剪接比对开销大,超16核收益递减;HISAT2比STAR省内存
STAR16~24内存带宽密集型,更多核帮助有限
minimap28~32长读长比对可给较多核,但仍受I/O和压缩限制
Trinity16~32多阶段并行,32核内扩展性较好
BUSCO8~32单基因预测是单线程,多基因并行有效
MAKER (MPI)50~100MPI并行,但过多核排队久
CellRanger16~20超过20核收益递减
InterProScan8~16多线程扩展性好,但IO也是瓶颈
Kraken216~24分类器并行效果好
SPAdes / metaSPAdes16~32给内存比给核更重要;内存不足会失败或极慢
Bismark按 --multicore N × 4--multicore 4 → 实际16线程,需 -n 16
RepeatModeler按 -pa N × 4-pa 5 → 实际20线程,需 -n 20
GLnexus16~36内存需求大,用整节点
Parabricks16GPU为主,CPU辅助16核足够
AlphaFold3 data pipeline16~32MSA搜索并行好,32核内扩展性好
AlphaFold3 inference8~16GPU为主,CPU辅助

内存需求推荐

软件/场景内存需求建议
FastQC / MultiQC2~8GBnormal队列足够
fastp48GB;大样本816GBnormal队列足够
Trim Galore / cutadapt4~12GBnormal队列足够
Salmon / kallisto8~32GBnormal队列足够
samtools view/index4~16GBnormal队列足够
samtools sort16~64GB-@ 8 -m 3G 约24GB缓冲+额外开销,建议申请32~40GB
Picard MarkDuplicates16~64GB-Xmx 设为申请内存的80%~85%
比对 (BWA/HISAT2)人类基因组 ~16GBnormal队列 -n 8 通常足够
STAR 比对人基因组 40~64GB必须用 smp 或 high 队列;nf-core文档给出Human GRCh37约38GB典型需求
minimap216~64GB与参考基因组大小正相关
BUSCO基因组 ~8GBnormal队列足够
GATK HaplotypeCallerWES ~8GB, WGS ~16GB按分片给16GB/分片
GATK GenomicsDBImport / GenotypeGVCFs32~128+GB样本数越多越吃内存;建议用 high/smp
Mutect216~64GB肿瘤样本深度高时内存显著上升
bcftools与VCF大小正相关一般4GB足够
Trinity128~512GB必须用 smp 队列整节点
SPAdes / metaSPAdes128~512GB内存常是主要瓶颈,给内存比给核更重要
MAKER大基因组 ~16GB/核建议 smp 或 high
CellRanger64~128+GB内存随细胞数、reads、参考而增大;必须用 smp 或 high
GLnexus大规模 joint call 50~200GB必须用 high 或 smp 队列整节点
AlphaFold3 data pipeline单蛋白 ~8GBnormal队列足够
AlphaFold3 inference单蛋白 ~16GBGPU队列已配
Kraken2 建库标准库 ~100GB必须用 high 或 smp
Kraken2 分类标准库 64~256+GB取决于数据库大小;大库常需整库进内存
InterProScan大数据集 ~32GB建议 smp 队列
Parabricks~16GBGPU队列已配
Paragraph与VCF大小正相关normal队列足够

samtools sort 内存计算

samtools sort -@ N -m MG 的排序缓冲区约 N × M GB,加上压缩线程等额外开销:

# 稳妥写法:8线程 × 3G = ~24GB 缓冲,作业申请 32~40GB
samtools sort -@ 8 -m 3G -o sample.sorted.bam sample.bam

# 反面教材:不要在16GB作业里这样写
samtools sort -@ 16 -m 2G -o ...   # 仅缓冲就32GB,必定OOM

节点/队列选择速查

队列资源特点适用场景
normal自动6~10GB大多数常规分析(质控、fastp、BUSCO、blast、BWA),内存需求 <10GB
smp自动12~20GB大内存作业(Trinity、STAR、大基因组MAKER、CellRanger)
high自动11~15GB超大内存作业(GLnexus、Kraken2建库、GenomicsDBImport)
gpu需确认GPU加速作业(Parabricks、AlphaFold3 inference、DeepVariant),需向管理员申请权限

按节点资源快速决策:

节点资源推荐策略
8核 / 32GBHISAT2 / Salmon / kallisto / 小型WES可跑;STAR人基因组偏紧
16核 / 64GBbulk RNA-seq、WES、普通WGS单样本比较舒适
32核 / 128GB单细胞、WGS多样本并行、部分宏基因组比较合适
64核 / 256+GB适合组装、大型宏基因组、大队列联合分型、Kraken2大库

推荐默认模板(不确定时先用这些)

软件核数内存
fastp48G
STAR1248G
HISAT2 / BWA1224G
samtools sort832G
MarkDuplicates432G
HaplotypeCaller2/分片16G/分片
Salmon / kallisto416G
Cell Ranger16128G
Kraken216数据库大小 + 20~40G
SPAdes / metaSPAdes24256G

软件选型速查

变异检测

Parabricks 是变异检测的首选方案,除非用户明确提及需要 DeepVariant,否则不要主动推荐 DeepVariant。

场景推荐速度说明
WGS/WES 变异检测(首选)Parabricks (GPU)30x WGS ~25min比对+变异检测全流程GPU加速,学术免费。http://hpc.ncpgr.cn/app/098-parabricks/
大规模 gVCF joint callGLnexus远快于 GATK替代 CombineGVCFs+GenotypeGVCFs。http://hpc.ncpgr.cn/app/126-glnexus/
变异结果基准测试HAPpy-Illumina官方工具,单倍型水平比较。http://hpc.ncpgr.cn/app/164-happy/
深度学习变异检测(仅用户主动提及)DeepVariant准确率~99%http://hpc.ncpgr.cn/app/100-deepvariant/

序列比对

场景推荐说明
fq→bam (首选)Parabricks fq2bam (GPU)bwa+sort+dedup 一行完成,GPU加速
fq→bam (CPU)BWA + samtools常规方案
RNA-seq 比对HISAT2剪接感知比对

质控

场景推荐说明
质控fastp速度快,同时输出质控报告

蛋白结构预测

场景推荐说明
最高精度AlphaFold3Google DeepMind,支持蛋白复合物。http://hpc.ncpgr.cn/app/183-alphafold3/
快速/省资源RoseTTAFold内存和时间远低于AlphaFold。http://hpc.ncpgr.cn/app/085-RoseTTAFold/

覆盖度计算

场景推荐说明
覆盖度PanDepth比samtools快很多,cram输入比bam更快。http://hpc.ncpgr.cn/app/145-PanDepth/

各软件注意事项与加速技巧

Parabricks (GPU加速 NGS 分析)

集群文档: http://hpc.ncpgr.cn/app/098-parabricks/

30x WGS 约 25分钟(传统方法约30小时),从v4.0起学术用户免费。

版本选择: 除非有特殊需求,优先使用 4.0.1-1 版本($IMAGE/clara-parabricks/4.0.1-1.sif)。

#BSUB -J parabricks
#BSUB -n 16
#BSUB -R span[hosts=1]
#BSUB -gpu "num=1:gmem=11G"
#BSUB -q gpu

module load Singularity/3.7.3
singularity exec --nv $IMAGE/clara-parabricks/4.0.1-1.sif pbrun fq2bam \
  --low-memory --ref hg38.fa --in-fq sample.R1.fq.gz sample.R2.fq.gz \
  --out-bam sample.sorted.dedup.bam

fq2bam 一行完成:bwa mem → sort → mark duplicates → BQSR → 输出bam。

Parabricks 还支持 haplotypecaller、deepvariant、genotypegvcf 等变异检测工具,均基于 GPU 加速,相比开源版本速度有大幅提升。


BWA / HISAT2 比对

比对建议: http://hpc.ncpgr.cn/app/071-fq2bam/ | SAM→BAM: http://hpc.ncpgr.cn/app/054-sam-to-bam/ | HISAT2: http://hpc.ncpgr.cn/app/064-hisat2/

  • 无需解压 fq.gz,大部分比对软件可直接读取
  • 建议直接输出 bam(只有 sam 的 1/3 大小),下游支持可进一步压缩为 cram
  • 大规模比对需要较高存储带宽,建议在 normal队列 运行
bwa mem -t 8 genome.fa read1.fq.gz read2.fq.gz | samtools sort -@8 -o output_sorted.bam

HISAT2 特别注意:

  • 找不到索引文件时不会自动退出,让人误以为还在运行!
  • 提交作业后务必用 bpeek <job_id> 查看输出确认
  • 有异常及时杀掉作业重投

BLAST

集群文档: http://hpc.ncpgr.cn/app/041-blast/

  • NR/NT 等公共数据库已配置好,用 $NR、$NT 变量直接引用(见总则部分)
  • 用 diamond 替代 blastx/blastp,速度极大提升;module load nr/20201013-diamond 有格式化好的 nr 库
  • blastn 运行慢时: 将 query 分割多段提交多个作业并行跑,线程数设 4~8 即可(CPU利用率不高)
  • 超短序列(<50nt)用 -task blastn-short -word_size 4 -gapopen 1 -gapextend 1
  • 小参考序列不用建索引,用 -subject 直接比对

BUSCO

集群文档: http://hpc.ncpgr.cn/app/042-BUSCO/

  • 计算节点无网络,必须用离线模式: 先在登录节点下载数据库,再提交作业
# 登录节点下载数据库
singularity exec $IMAGE/busco/5.5.0_cv1.sif busco --download embryophyta_odb10
# 计算节点离线运行
singularity exec -e $IMAGE/busco/5.5.0_cv1.sif busco -i MH63.fa -l ./busco_downloads/lineages/embryophyta_odb10 -o out -m genome -c 30 --offline

Bismark (BS-seq 甲基化比对)

集群文档: http://hpc.ncpgr.cn/app/040-Bismark/

  • --multicore N 实际调用 4N 个 bowtie 线程!LSF 申请核心数必须是 --multicore 值的 4倍
    • 如 --multicore 4 → 实际16线程,需 -n 16
  • bismark2bedGraph 中 sort 可手动添加 --parallel=8 加速,用 --buffer_size 控制内存

BS-Seeker2

集群文档: http://hpc.ncpgr.cn/app/072-bs-seeker/

  • 产生大量临时文件写入 /tmp,极易写满(单作业可达 30~70GB)
  • 务必使用 --temp_dir 指向自己目录:
mkdir tmp
bs_seeker2-align.py -1 R1.fq -2 R2.fq -o sample.bam -g genome.fa --temp_dir=./tmp

RepeatModeler

集群文档: http://hpc.ncpgr.cn/app/182-repeatmodeler/

  • -pa N 实际使用 4N 线程(每个 rmblastn 用4线程)
  • -pa 5 → 20线程,作业脚本需申请 -n 20,否则节点过载挂起
  • 版本 2.0.6 报错 build_lmer_table failed. Exit code 256 需修改 RepeatScout 2行代码重编译(见 commit c5193bb)

MAKER (基因组注释)

集群文档: http://hpc.ncpgr.cn/app/050-maker/

  • MPI并行,必须用 parallel 队列(需申请权限,每人限120核)
  • 建议申请 100 核即可(过多排队时间长);资源紧张时拆分染色体各跑一个作业
  • 运行时需及时关注日志 *_master_datastore_index.log,出现 FAILED 程序不会停下但会空跑
  • 小基因组出错直接杀掉重跑;大基因组将出错染色体单独重跑再合并

CellRanger (单细胞)

集群文档: http://hpc.ncpgr.cn/app/077-cellranger/ 两种加速方式组合,可将运行时间从 8h 降至 2h:

  1. 结果输出到计算节点 /tmp(本地磁盘IO更快)
    • 需指定 rusage[tmp=XXG],经验值为输入 fq.gz 的 2倍
    • 运行完移回 home
  2. 添加 --no-bam(不需要bam文件时)
    • 一般表达矩阵分析无需bam,RNA速率分析才需要
#BSUB -J cellranger
#BSUB -n 20
#BSUB -R "rusage[tmp=70G]"
#BSUB -q normal
module load cellranger/7.0.0

workdir=`pwd`
tmpd="/tmp/`mktemp -u cellranger_XXXXX`"; mkdir ${tmpd}; cd ${tmpd}
cellranger count --id=sample --transcriptome=ref --fastqs=data --sample=sample \
  --force-cells=8000 --localcores $LSB_DJOB_NUMPROC
mv sample/ ${workdir}

Paragraph (SV 基因型分型)

集群文档: http://hpc.ncpgr.cn/app/063-paragraph/

  • 每个VCF位点生成3个临时文件到 /tmp,程序结束后不自动删除,积累会写满系统盘导致节点挂掉
  • 建议: VCF超10万行拆分;在 normal队列(SSD系统盘);单作业申请10核;脚本中创建专属临时目录并在结束时清理
tmpd="/tmp/`mktemp -u paragraph_XXXXX`"; mkdir ${tmpd}; export TMP=${tmpd}
multigrmpy.py -i input.vcf -r ref.fa --threads $LSB_DJOB_NUMPROC --scratch-dir ${tmpd} -o out
rm -r ${tmpd}   # 务必清理

SqueezeMeta (宏基因组)

集群文档: http://hpc.ncpgr.cn/app/067-SqueezeMeta/

  • 第六步(06.lca.pl)极度吃IO,数据库在远程分区时速度仅 ~8kb/s(2天的数据量)
  • 解决方案: 用胖节点 s001 的 /tmp/squeezemeta/db 数据库,并指定节点 s001
  • 集群已有副本: /share/database/squeezemeta/db/
  • 已运行的修改 SqueezeMeta_conf.pl 中数据库路径,用 restart.pl 继续

DeepVariant (深度学习变异检测)

集群文档: http://hpc.ncpgr.cn/app/100-deepvariant/

注意: 仅当用户明确提及需要使用 DeepVariant 时才推荐此方案,否则默认推荐 Parabricks 进行变异检测。

  • GPU版仅 call_variants 步骤可用GPU,make_examples 和 postprocess_variants 只能用CPU
  • 三个步骤互相依赖:make_examples → call_variants → postprocess_variants
  • 支持 Illumina、PacBio、Nanopore

GLnexus (大规模 gVCF joint call)

集群文档: http://hpc.ncpgr.cn/app/126-glnexus/

  • 替代 GATK CombineGVCFs + GenotypeGVCFs,速度快很多
  • 内存需求大,建议用 high 或 smp 队列整节点(-q high -n 36)
  • WES 需用 --bed 指定目标区域;WGS可不指定
  • 输出 bcf 格式,可用 bcftools 转 vcf
  • 内存报错 std::bad_alloc 时寻求管理员协助

HAPpy (变异检测基准测试)

集群文档: http://hpc.ncpgr.cn/app/164-happy/

hap.py truth.vcf query.vcf -r ref.fa -f chr1.bed --threads 8 -o truth_vs_query
  • -f 指定比较区间(bed),只比较该区间内位点
  • 输出 summary.csv(精度/召回率/F1)、ROC曲线、标注VCF等

faST-LMM (群体遗传)

集群文档: http://hpc.ncpgr.cn/app/046-fastlmmc/

  • -maxThreads 多线程比单线程还慢!不要用该选项,默认单线程即可
  • 实测:单线程 2208s vs 20线程 4112s

CNVnator (CNV 检测)

集群文档: http://hpc.ncpgr.cn/app/044-cnvnator/

  • 默认用满整个节点CPU核,必须用环境变量控制线程数:
export MKL_NUM_THREADS=1; export OMP_NUM_THREADS=1
# 或按申请的核心数
export MKL_NUM_THREADS=$LSB_DJOB_NUMPROC; export OMP_NUM_THREADS=$LSB_DJOB_NUMPROC

OrthoMCL (同源基因簇)

集群文档: http://hpc.ncpgr.cn/app/076-orthomcl/

  • MySQL 在 s004 节点,数据库建议命名为 orthomcl_username 避免冲突
  • 运行完成后及时删除 MySQL 中创建的数据库
orthomcl-setup-database.pl --user username --password password --host s004 --database orthomcl_username --outfile orthomcl.conf
orthomcl-pipeline -i pep/ -o out -m orthomcl.conf --nocompliant -s $LSB_DJOB_NUMPROC --yes

Trinity (转录组组装)

集群文档: http://hpc.ncpgr.cn/app/060-trinity/

  • 使用 singularity 镜像 /share/Singularity/Trinity/2.12.0.sif
bsub -o trinity.log -n 30 -q smp -J trinity \
  "module purge; module load Singularity/3.1.1; singularity exec $IMAGE/Trinity/2.12.0.sif Trinity --seqType fq --max_memory 400G --samples_file samples_file --CPU 30 --SS_lib_type RF --output trinity_out"

HiC-Pro

集群文档: http://hpc.ncpgr.cn/app/049-HiC-Pro/

  • 集群中 HiC-Pro/2.11.14 已配集群模式
  • 生成的 LSF 脚本不能直接提交,需删除 #BSUB -M/W/N/u/q 行,添加 module load HiC-Pro/2.11.4
  • 先提交 step1,日志无报错后再提交 step2(step2 可改 -n 1)
  • 出错直接重新提交该脚本即可

InterProScan (蛋白功能注释)

集群文档: http://hpc.ncpgr.cn/app/123-interproscan/

  • 省资源方案: 用网页API(iprscan5.pl),在登录节点运行,不消耗集群计算资源
./iprscan5.pl --multifasta test.fasta --maxJobs 25 --email test@test.com --outformat tsv
  • 本地运行:module load interproscan/5.55-88.0,消耗计算资源

HOMER (Motif发现)

集群文档: http://hpc.ncpgr.cn/app/112-homer/

  • module load homer/4.11
  • 支持 ChIP-Seq、RNA-Seq、DNase-Seq、Hi-C 等分析

Augustus (基因预测)

集群文档: http://hpc.ncpgr.cn/app/083-augustus/

  • module load augustus/3.3.3
  • 自带模型路径:$AUGUSTUS_CONFIG_PATH
  • 自定义模型:export AUGUSTUS_CONFIG_PATH=$HOME/augustus_config

PASA (转录组注释)

集群文档: http://hpc.ncpgr.cn/app/084-pasa/

  • 推荐用 sqlite 数据库(比 mysql 方便),配置文件中 DATABASE= 写绝对路径
module load PASA/2.5.2
Launch_PASA_pipeline.pl -c alignAssembly.config -C -r -R --ALT_SPLICE -g genome.fa -t all.fa.clean -T -u all.fa -f accession.txt --TDN TCN.acc --transcribed_is_aligned_orient --ALIGNERS blat,gmap --CPU 20

FunGAP (真菌基因组注释)

集群文档: http://hpc.ncpgr.cn/app/103-fungap/

  • 必须先拷贝配置文件到本地,否则运行过程权限报错:
singularity exec $IMAGE/FunGAP/FunGAP.sif cp -r /opt/conda/config FunGAP_config
singularity exec -B ./FunGAP_config/:/opt/conda/config/ $IMAGE/FunGAP/FunGAP.sif \
  /workspace/FunGAP/fungap.py --output_dir fungap_out ...
  • 离线运行需修改 check_inputs.py 中 check_busco_dataset 函数,注释掉 159-168 行(禁用 busco --list-datasets)

Kraken2 (分类学序列分类)

集群文档: http://hpc.ncpgr.cn/app/178-kraken2/

  • 数据库含 hash.k2d, opts.k2d, taxo.k2d 三个文件
  • 标准库建库:kraken2-build --standard --threads 24 --db $DBNAME(下载超50GB,建库用超100GB磁盘)
  • 可下载预构建数据库,节省时间

vg (泛基因组分析)

集群文档: http://hpc.ncpgr.cn/app/138-vg/

  • 支持图构建、比对(BWA-MEM/minimap2/Giraffe)、变异检测、可视化
  • 更新快,运行问题多在 GitHub issues 中已有解答
  • module load vg/1.53.0

PanDepth (覆盖度计算)

集群文档: http://hpc.ncpgr.cn/app/145-PanDepth/

  • 比 samtools 快很多,多线程加速好
  • cram 输入比 bam 更快
module load PanDepth/2.21
pandepth -i test.bam -o test1 -t 6

Kingfisher (公共测序数据下载)

集群文档: http://hpc.ncpgr.cn/app/135-kingfisher/

  • 从 EBI ENA/NCBI SRA/Amazon AWS/Google Cloud 下载
  • 三种模式:get(下载)、annotate(样本信息)、extract(sra→fastq)
module load kingfisher/0.3.1
kingfisher get -r SRR12118866 -m ena-ftp
# 或指定多种下载方式自动选最快的
kingfisher get -r ERR1739691 -m ena-ascp aws-http prefetch

GROMACS (分子动力学)

集群文档: http://hpc.ncpgr.cn/app/121-gromacs/

  • 单节点:mpirun -np $LSB_DJOB_NUMPROC gmx_mpi mdrun -ntomp 1 -noappend
  • 多节点:需 parallel 队列,-R "span[ptile=25]" 每节点25核
  • GPU版:module load GROMACS/2018.3-GPU,需 gpu 队列

AlphaFold3 (蛋白结构预测)

集群文档: http://hpc.ncpgr.cn/app/183-alphafold3/

  • 需 GPU 队列,需向管理员申请 GPU 队列使用权限
  • 两步流程:data pipeline(MSA搜索+模板)→ inference(推理输出mmcif)
  • 输入为 json 格式,集群中已有权重文件
  • data pipeline 阶段可在 CPU 节点运行,仅 inference 需 GPU

RoseTTAFold (蛋白结构预测)

集群文档: http://hpc.ncpgr.cn/app/085-RoseTTAFold/

  • 精度略低于 AlphaFold,但内存和时间需求大幅降低
  • 数据库已在 /share/database/RosettaFold,可软链接到自己目录
  • 集群默认 cuda11.4,使用 conda env create -f RoseTTAFold-linux.yml
  • PyRosetta 需额外许可证

bgzip + tabix (VCF压缩与快速访问)

集群文档: http://hpc.ncpgr.cn/app/124-bgzip/

  • bgzip 块压缩 + tabix 索引,支持按区域快速检索,无需解压全文
module load HTSlib/1.18
bgzip data.vcf              # 压缩 → data.vcf.gz
tabix -p vcf data.vcf.gz    # 建索引 → data.vcf.gz.tbi
tabix data.vcf.gz 11:2343540-2343596  # 快速访问指定区域

Genozip (基因组数据压缩)

集群文档: http://hpc.ncpgr.cn/app/109-genozip/

  • 压缩率为原始大小的 10%~20%,支持 FASTA/VCF/BAM/CRAM
  • 学术用户免费,需申请 license
  • 建议用相同版本压缩和解压
  • 使用 --reference 参考基因组压缩可获得更高压缩率
  • genozip -@4 file.fq.gz --reference ref.fa

gzip 文件操作

集群文档: http://hpc.ncpgr.cn/app/056-api_read_write_gzip/

  • Linux命令:zcat/zless/zmore/less 直接读取
  • 合并:cat file1.gz file2.gz > file3.gz(直接拼接,无需解压)
  • 管道处理,无需解压:
# 按列合并
paste <(gzip -dc file1.gz) <(gzip -dc file2.gz) | gzip > merge.gz
# blastn 直接读gz
blastn -query <(gzip -dc data.fa.gz) -db ./ref -outfmt 6 | gzip > out.gz
  • Python:gzip.open("file.gz", "rt") / gzip.open("file.gz", "wt")
  • Perl:open FI, "<:gzip", "file.gz" / open FO, ">:gzip", "file.gz"

ELAI (局部祖源推断)

集群文档: http://hpc.ncpgr.cn/app/162-elai/

  • 直接处理二倍体数据,无需相位推断,无需重组图谱
  • 集群提供多线程版本:module load Singularity/3.7.3 elai/1.21
singularity exec -B $ROOT:/opt/ $IMAGE/debian/debian11.sif /opt/bin/elai-mt \
  -g geno.txt -p 10 -g parv.txt -p 11 -pos pos.txt -s 20 -o chr5 -C 3 -c 20 -mg 6000 -nthreads 4

GCC / glibc

GCC: http://hpc.ncpgr.cn/app/034-gcc/ | glibc: http://hpc.ncpgr.cn/app/095-glibc/

  • CentOS7 glibc 为 2.17(10年前的版本),越来越多软件不兼容
  • 预装GCC:4.8.5, 4.9.2, 5.4.0, 6.2.0, 6.4.0, 7.2.0, 9.4.0, 10.3.0, 11.2.0
  • 高版本glibc编译的软件无法在低版本运行 → 用 singularity容器 解决
  • 查看系统glibc:ldd --version

R / RStudio

R: http://hpc.ncpgr.cn/app/006-R/ | RStudio: http://hpc.ncpgr.cn/app/105-rstudio/

  • 推荐优先用 R/4.0.0(内置大量R包),无高版本需求时不必换
  • R包默认安装:~/R/x86_64-pc-linux-gnu-library/4.0
  • 部分R包依赖高版本GCC,需先 module load GCC/x.x.x
  • RStudio 仅限校内使用
  • 计算节点无联网,R包须在登录节点安装:install.packages("pkg", lib="~/R/rstudio/4.2/")
  • rstudio_submit 提交后用 bpeek 获取SSH隧道信息和登录密码

Mamba (快速包管理)

集群文档: http://hpc.ncpgr.cn/app/099-mamba/

  • C++编写,比 conda 快很多,兼容 conda 命令
  • 推荐 micromamba(精简版,无需base环境和Python):
curl -Ls https://micro.mamba.pm/api/micromamba/linux-64/latest | tar -xvj bin/micromamba
~/bin/micromamba shell init -s bash -p ~/micromamba
  • 集群已有:module load micromamba
  • 安装优先级:mamba → singularity → 源码编译

Node.js

集群文档: http://hpc.ncpgr.cn/app/146-nodejs/

  • CentOS7 需用非官方编译版本(linux-x64-glibc-217 后缀)
  • module load nodejs/21.6.0
  • 全局安装权限报错:export NPM_CONFIG_PREFIX=~/.npm-global

Rust

集群文档: http://hpc.ncpgr.cn/app/153-rust/

  • 用户调用 cargo 安装软件需设置 CARGO_HOME 到个人目录,否则权限拒绝
export CARGO_HOME=$HOME/.cargo
module load rust/1.76.0
cargo install ripgrep
export PATH="$HOME/.cargo/bin:$PATH"

MySQL

集群文档: http://hpc.ncpgr.cn/app/014-mysql-database/

  • Server 在 s005 节点,联系管理员获取账号密码
mysql -uUSERNAME -pPASSWORD -h s005

32位软件

集群文档: http://hpc.ncpgr.cn/app/101-run-32bit-software/

singularity exec -B ${PWD}:/opt/ $IMAGE/centos/centos7_32.sif /opt/32bitprogram -h

VSCode Remote-SSH

集群文档: http://hpc.ncpgr.cn/app/188-vscode/

  • CentOS7 glibc 低,最新版 Remote-SSH 无法使用
  • 推荐版本 1.98,提示"不受支持的OS版本"时点击 Allow,不影响使用
  • 禁用自动更新:设置中 Update:Channel → 'manual'
  • SSH config 添加 KbdInteractiveAuthentication yes 支持二次验证

GitHub / Docker 加速

集群文档: http://hpc.ncpgr.cn/app/075-github/

# 下载
wget https://xget.xi-xu.me/gh/samtools/samtools/releases/download/1.22.1/samtools-1.22.1.tar.bz2
# git clone
git clone https://xget.xi-xu.me/gh/samtools/samtools.git
# docker 镜像
singularity pull docker://docker.m.ixdev.cn/dfam/tetools

常见陷阱速查

陷阱影响解决
GPU 队列权限未申请权限作业会被拒绝先向管理员申请 GPU 队列使用权限
Parabricks 版本选择新版可能有兼容性问题优先使用 4.0.1-1 版本,除非有特殊需求
软件/数据库可用性查询凭记忆或过时信息回答可能错误实际运行 mii search 或 module av 查询,或检查 /share/Singularity/、/share/database/
BLAST 核数过多CPU利用率低,核多不加速blastn 设4~8核即可
faST-LMM 多线程多线程比单线程慢1倍不要用 -maxThreads,单线程即可
多样本多步骤策略未询问用户直接选择策略必须先问:逐步处理 vs 依赖链一次提交
变异检测选型DeepVariant 慢且仅用户主动要求才用默认使用 Parabricks,除非用户明确要求 DeepVariant
Bismark --multicore N实际使用 4N 线程申请核心数设为 4N
RepeatModeler -pa N实际使用 4N 线程申请核心数设为 4N
CNVnator默认用满整节点必须设置 MKL_NUM_THREADS/OMP_NUM_THREADS
faST-LMM -maxThreads多线程比单线程慢1倍不要用,单线程即可
Paragraph /tmp临时文件积累写满系统盘创建专属tmp目录,运行完清理
BS-Seeker2 /tmp单作业产生30~70GB临时文件用 --temp_dir=./tmp
HISAT2 找不到索引不报错不退出,假运行bpeek 检查作业输出
MAKER FAILED程序空跑不停止及时查看日志,出错杀掉重跑
SqueezeMeta 第6步IO极慢(~8kb/s)用 s001 胖节点本地数据库
CellRanger 慢默认8h输出到/tmp + --no-bam → 2h
FunGAP 权限报错运行时无法访问配置先 cp -r /opt/conda/config 到本地
BUSCO 离线计算节点无网络登录节点先下载数据库
InterProScan本地运行消耗大量资源用网页API,不消耗计算资源
BLAST blastnCPU利用率低拆分query多作业并行,线程4~8
NR/NT 公共数据库自己下载并 makeblastdb 浪费时间module load nr/xxx 后直接用 $NR 变量引用,已格式化好
blastx/blastp速度慢用 diamond 替代
比对中间文件sam文件占空间大管道直接输出bam,不存sam
fq.gz 解压浪费存储和时间比对软件多数直接支持 gz
RStudio R包计算节点无法联网安装在登录节点安装到指定目录
Node.js >= 18不支持 CentOS7用 glibc-217 非官方编译版
cargo installPermission denied设 CARGO_HOME 到个人目录
CentOS7 glibc 2.17新软件不兼容用 singularity 容器
GitHub 下载慢网络限制用 ghproxy / xget 等加速

レビュー

まだレビューはありません。使ってみた感想をお寄せください。

同じリポジトリのスキル

概要と使いどころ

生成图文并茂的分析报告/实验报告/质检报告(固定模版)。当用户要求"生成报告/总结报告/实验报告/质检报告/QC报告",或分析流程收尾需要交付报告时使用。报告必须基于真实分析输出,包含固定章节结构、关键指标表格和真实结果图。

日本語の概要は準備中です。原文の説明を表示しています。

peacezha/HPClaw32026年10月11日 更新

Predicts ADMET properties using ADMETlab 3.0 (119 endpoints with uncertainty), ADMET-AI, DeepChem MolNet, and chemprop D-MPNN with explicit handling of OECD QSAR principles, applicability domain assessment, calibration, hERG/CYP/AMES gold-standard endpoints, and PAINS / Lipinski / Ro5 / Veber / BBB druglikeness filters. Use when filtering compounds for drug-likeness, prioritizing leads by predicted safety, or building an in-house ADMET QSAR model.

日本語の概要は準備中です。原文の説明を表示しています。

peacezha/HPClaw32026年10月11日 更新

Trim PCR primers from aligned reads in amplicon-panel BAMs using samtools ampliconclip. Use when processing SARS-CoV-2 ARTIC, hereditary cancer panels, ctDNA hot-spot panels, or any amplicon assay where primer-derived bases would falsely confirm reference at primer footprints.

日本語の概要は準備中です。原文の説明を表示しています。

peacezha/HPClaw32026年10月11日 更新

Filter alignments by flags, mapping quality, and regions using samtools view and pysam. Use when extracting specific reads, removing low-quality alignments, or subsetting to target regions.

日本語の概要は準備中です。原文の説明を表示しています。

peacezha/HPClaw32026年10月11日 更新

Create and use BAI/CSI indices for BAM/CRAM files using samtools and pysam. Use when enabling random access to alignment files or fetching specific genomic regions.

日本語の概要は準備中です。原文の説明を表示しています。

peacezha/HPClaw32026年10月11日 更新

Read, write, and convert multiple sequence alignment files using Biopython Bio.AlignIO. Supports Clustal, PHYLIP, Stockholm, FASTA, Nexus, and other alignment formats for phylogenetics and conservation analysis. Use when reading, writing, or converting alignment file formats.

日本語の概要は準備中です。原文の説明を表示しています。

peacezha/HPClaw32026年10月11日 更新

peacezha のスキルをすべて見る

このスキルの問題を報告する