Difference between revisions of "Crab"

Revision as of 06:57, 29 June 2017

CRAB (CMS Remote Analysis Builder) Quick Start

사전준비

 [ 주의 : bash 기준으로 작성되었습니다. 아래 예제의 스크립트 중 자신의 shell에 맞는 스크립트를 사용하시면 됩니다. (ex: tcsh 사용자는 source /cvmfs/cms.cern.ch/cmsset_default.csh 을 활용) ]

cmssw가 설치되지 않았다면

$ set SCRAM_ARCH=slc6_amd64_gcc493   ### 아키텍쳐를 설정합니다.

or

$ export SCRAM_ARCH=slc6_amd64_gcc493

$ source /cvmfs/cms.cern.ch/cmsset_default.sh   ### CMS S/W 기본 설정을 로드합니다.

$ cd ~/   ### 자신의 홈디렉토리로 이동합니다.
$ mkdir work  ### 자신이 원하는 작업디렉토리를 생성합니다.
$ scramv1 list CMSSW   ### 자신이 사용하고 싶은 CMSSW를 검색합니다.
$ scramv1 project CMSSW CMSSW_7_x_x   ### 검색 결과 중 자신이 원하는 한 가지의 버전을 선택/설정합니다. (CMSSW_7_x_x 버전을 사용하도록 설정하는 명령어 입니다. 자동으로 해당 버전의 CMSSW 작업 폴더가 생성됩니다.)
$ cd CMSSW_7_x_x/src   ### 생성한 작업 폴더로 이동합니다.
$ scram b -j3 ### 컴파일

$ vi crab3config.py   ### crab 설정 파일을 생성합니다. (아래의 crab3config.py 예제 참조)
$ vi myConfig.py   ### 실행할 작업 명시 파일을 생성합니다 (아래의 myConfig.py 예제 참조)
$ source /cvmfs/cms.cern.ch/crab3/crab.sh   ### crab 사용을 설정합니다.
$ crab submit -c crab3config.py   ### 실제 작업을 생성합니다.
$ crab status   ### 작업 진행 상황을 수시로 모니터링 합니다. (CMS 데시보드에서는 보다 다양한 형태로 자신의 작업 상황을 조회할 수 있습니다. http://dashboard.cern.ch/cms/)

cmssw가 이미 설치 되어있다면

# 환경 설정
$ cd CMSSW_7_2_1/src
$ source /cvmfs/cms.cern.ch/cmsset_default.sh   
$ cmsenv
$ source /cvmfs/cms.cern.ch/crab3/crab.sh

작업 설정 파일 작성 및 수정

$ vi crab3config.py
  from WMCore.Configuration import Configuration
  config = Configuration()
  config.section_('General')
  config.General.transferOutputs = True
  config.section_('JobType')
  config.JobType.psetName = 'myConfig.py'
  config.JobType.pluginName = 'Analysis'
  config.JobType.outputFiles = ['outfileName.root']
  config.section_('Data')
  config.Data.inputDataset = '/WplusToENu_CT10_13TeV-powheg-pythia8/Spring14miniaod-PU20bx25_POSTLS170_V5-v1/MINIAODSIM'
  config.Data.unitsPerJob = 500
  config.Data.splitting = 'LumiBased'
  #config.Data.splitting = 'FileBased'
  config.Data.publication = False
  config.section_('User')
  config.section_('Site')
  config.Site.whitelist = ['T2_KR_KNU']
  config.Site.storageSite = 'T2_KR_KNU'

$ vi myConfig.py
  import FWCore.ParameterSet.Config as cms
  process = cms.Process('Slurp')
  process.source = cms.Source("PoolSource", fileNames = cms.untracked.vstring())
  process.maxEvents = cms.untracked.PSet( input       = cms.untracked.int32(10) )
  process.options   = cms.untracked.PSet( wantSummary = cms.untracked.bool(True) )
  process.output = cms.OutputModule("PoolOutputModule",
   outputCommands = cms.untracked.vstring("drop *", "keep recoTracks_*_*_*"),
   fileName = cms.untracked.string('outfileName.root'),
  )
  process.out_step = cms.EndPath(process.output)

Task submit

• crab submit [--config/-c <CRAB-configuration-file>]

$ crab submit -c crab3config.py

Task Status

• crab status --dir/-d <CRAB-project-directory>

$ crab status

• Dashboard Task Monitoring : http://dashb-cms-job.cern.ch/dashboard/templates/task-analysis/

Task resubmit

• crab resubmit --dir/-d <CRAB-project-directory>

$ crab resubmit -d crab_20151015_111023

Task output retrieval

• crab getoutput --dir/-d <CRAB-project-directory> [--jobids <comma-separated-list-of-jobs-and/or-job-ranges>]

$ crab getoutput -d crab_20151014_111023
$ crab getoutput --jobids 1,7,102
$ crab getoutput --jobids 25-115

Task Kill

• crab kill -d <CRAB-project-directory> [--jobids <comma-separated-list-of-jobs-and/or-job-ranges>]

$ crab kill -d crab_20151014_111023
$ crab kill --jobids 1,7,102
$ crab kill --jobids 25-115

Task monitoring for the analysis users

Analysis 사용자를 위한 작업 모니터링 이용가이드로 가기

Exit Code 로 오류 원인 찾기

• Exit code 6 with Fatal Root Error
• Exit code 8001 with %MSG-w Missing Dictionary
• Exit code 8020
• Exit code 10034
• Exit code 60302
• Exit code 60307
• Exit code 60317
• Exit code 70500

crab2 사용자를 위한 안내

crab2 와 crab3의 차이점

https://twiki.cern.ch/twiki/bin/view/CMSPublic/WorkBookCRAB3Tutorial#Differences_between_CRAB2_and_CR

crab2 설정을 crab3로 변환해주는 툴

crab2cfgTOcrab3py [crab2confgiName.cfg] [crab3configName.py]

CRAB Feedback & CMS Computing Manual

• CRAB 사용시 발생하는 문제점 및 해결방법은 아래 사이트를 참조

https://hypernews.cern.ch/HyperNews/CMS/get/crabFeedback.html

• CMS Computing Manual

https://twiki.cern.ch/twiki/bin/view/CMSPublic/WorkBook

참고 문서

초보자를 위한 문서

• Quickstart guide for CRAB3
• CRAB tutorial (introductory)
• CRAB tutorial (advanced)
• CRAB configuration file
• CRAB commands
• CRAB user functions
• CRAB Advanced topics
• Tips and tricks about CRAB
• CRAB3 frequently asked questions
• CRAB3 common errors

숙련자를 위한 문서

• Data handling in CRAB
• CRAB3 task flow
• CRAB3 job states
• CRAB3 client API