From T3_KR_KNU
Jump to: navigation, search
(참고 자료)
Line 6: Line 6:
 
다음과 같이 터미널을 열어서 원격로그인(SSH)으로 접속합니다. 현재는 cms02 한대 서버만 지원합니다.
 
다음과 같이 터미널을 열어서 원격로그인(SSH)으로 접속합니다. 현재는 cms02 한대 서버만 지원합니다.
 
   ssh -X username@cms02.knu.ac.kr
 
   ssh -X username@cms02.knu.ac.kr
 
=== HTCondor의 빠른 시작을 위한 추천 참고 자료  ===
 
* [https://research.cs.wisc.edu/htcondor/manual/quickstart.html HTCondor Quick Start Guide] : 기본적인 사용법을 익히기에 좋은 자료입니다.
 
 
=== 전체 작업 현황 살펴보기 ===
 
 
$ condor_status -schedd
 
Name            Machine        RunningJobs  IdleJobs  HeldJobs
 
 
ce01.knu.ac.kr  ce01.knu.ac.kr            2          0          0
 
cms02.knu.ac.kr cms02.knu.ac.kr        211      1134          0
 
 
                TotalRunningJobs      TotalIdleJobs      TotalHeldJobs
 
 
 
          Total              213              1134                  0
 
  
 
=== Job submit ===
 
=== Job submit ===
Line 68: Line 52:
  
 
  condor_rm <UserID>
 
  condor_rm <UserID>
 +
 +
=== 작업 명세 파일 예제 ===
 +
 +
* 단독 실행
 +
$ science.exe infile-A.txt infile-B.txt outfile.txt
 +
  
 
=== Singularity를 이용하여 Scientific Linux 6 코드 실행  ===
 
=== Singularity를 이용하여 Scientific Linux 6 코드 실행  ===
Line 84: Line 74:
  
 
* [[Create-batch|create-batch 사용법으로 가기]]
 
* [[Create-batch|create-batch 사용법으로 가기]]
 +
 +
=== 전체 작업 현황 살펴보기 ===
 +
 +
$ condor_status -schedd
 +
Name            Machine        RunningJobs  IdleJobs  HeldJobs
 +
 +
ce01.knu.ac.kr  ce01.knu.ac.kr            2          0          0
 +
cms02.knu.ac.kr cms02.knu.ac.kr        211      1134          0
 +
 +
                TotalRunningJobs      TotalIdleJobs      TotalHeldJobs
 +
 +
 +
          Total              213              1134                  0
  
 
=== 주의사항 ===
 
=== 주의사항 ===

Revision as of 08:29, 9 March 2021

1 HTCondor Batch System 사용법

HTCondor Batch System 사용법이 작성 중 입니다. 계속해서 보완해 나가겠습니다.

1.1 Tier-3 HTCondor/CentOS7 UI 접속하기

다음과 같이 터미널을 열어서 원격로그인(SSH)으로 접속합니다. 현재는 cms02 한대 서버만 지원합니다.

 ssh -X username@cms02.knu.ac.kr

1.2 Job submit

Job submit을 위해서는 다음과 같이 "condor_submit" 명령어를 사용합니다.

  • sleep.sh - 테스트 코드
#!/bin/bash

TIMETOWAIT="10"
echo "sleeping for $TIMETOWAIT seconds"
/bin/sleep $TIMETOWAIT
  • sleep.sub - 작업 명세 파일
executable              = sleep.sh
log                     = sleep.log
output                  = outfile.txt
error                   = errors.txt
should_transfer_files   = Yes
when_to_transfer_output = ON_EXIT
queue
  • job submit
condor_submit sleep.sub

1.3 Job 상태 확인

작업의 상태 확인을 위해서는 "condor_q"명령을 사용합니다.
전체 작업현황을 확인하려면 다음과 같이 실행하면 됩니다.

$ condor_q
-- Schedd: cms02.knu.ac.kr : <155.230.23.72:9618?... @ 07/30/20 16:49:47
OWNER BATCH_NAME    SUBMITTED   DONE   RUN    IDLE  TOTAL JOB_IDS
user001 ID: 51       7/30 16:47      _    100      _    100 51.0-99

Total for query: 100 jobs; 0 completed, 0 removed, 0 idle, 100 running, 0 held, 0 suspended
Total for hanbi: 100 jobs; 0 completed, 0 removed, 0 idle, 100 running, 0 held, 0 suspended
Total for all users: 100 jobs; 0 completed, 0 removed, 0 idle, 100 running, 0 held, 0 suspended

1.4 Job 삭제

submit 한 작업을 중간에 취소하기 위해서는 "condor_rm" 명령을 사용합니다.

condor_rm <JOBID>

모든 내 작업을 삭제하려면 다음 명령을 사용합니다.

condor_rm <UserID>

1.5 작업 명세 파일 예제

  • 단독 실행
$ science.exe infile-A.txt infile-B.txt outfile.txt


1.6 Singularity를 이용하여 Scientific Linux 6 코드 실행

submit description file에 아래 내용을 추가합니다.

+ContainerOS = "SL6"

혹은 선호하는 이미지가 있다면 아래와 같이 기입합니다.

+SingularityImage = "/cvmfs/singularity.opensciencegrid.org/cmssw/cms:rhel6-m202001

1.7 create-batch 사용

create-batch를 경북대 부분을 condor로 변경하여 create-batch2라는 이름으로 저장해두었습니다. condor에서는 --queue cms 옵션은 필요하지 않습니다.
torque system을 당분간 운영하는 기간동안 임시로 이렇게 사용하고 condor로 완전히 전환이 되면 create-batch에 수정사항을 반영요청하겠습니다.

1.8 전체 작업 현황 살펴보기

$ condor_status -schedd
Name            Machine         RunningJobs   IdleJobs   HeldJobs

ce01.knu.ac.kr  ce01.knu.ac.kr            2          0          0
cms02.knu.ac.kr cms02.knu.ac.kr         211       1134          0

                TotalRunningJobs      TotalIdleJobs      TotalHeldJobs


         Total               213               1134                  0

1.9 주의사항

  • 작업이 실행 중에 죽는 경우

Dynamic slot으로 인해서 일부 연산노드에서는 기본 설정에서 메모리 부족으로 작업이 죽는 경우가 발생할 수 있습니다.
다음과 같이 requset_memory 옵션으로 요구 메모리를 지정해주시기 바랍니다. 특히 많은 메모리를 사용하는 작업이라면 반드시 지정해 주어야합니다.

request_memory = 4 GB

1.10 참고 자료