From T3_KR_KNU
Jump to: navigation, search
(How to use KNU Tier-3)
(Storage Element, 데이터 저장장치 사용하기)
 
(201 intermediate revisions by 6 users not shown)
Line 1: Line 1:
 
== Pre-requisites ==
 
== Pre-requisites ==
  
KNU Tier-2를 이용하기 위해서는 Grid 환경에 접속하기 위한 인증서를 공식 인증 사이트를 통해 획득한 후 LCG VO에 등록하고 KNU Tier-2에 사용계획서 및 유저 등록을 통해 계정을 부여받는다.
+
KNU Tier-3를 이용하기 위해서는 Grid 환경에 접속하기 위한 인증서를 공식 인증 사이트를 통해 획득한 후 LCG VO에 등록하고 KNU Tier-3에 사용계획서 및 유저 등록을 통해 계정을 부여받는다.
  
1. CERN 및 CMS User 등록
+
=== CERN 및 CMS User 등록 ===
  [[CERN_&_CMS_User_Registration|CERN & CMS User Registration]]
+
  [[CERN_&_CMS_User_Registration|CERN & CMS User Registration]]
2. Certificate
+
 
   [https://pki1.doegrids.org/ca/ DOE Certificate] 인증 사이트를 통해 인증서 획득 (Internet Explorer 대신 '''Firefox''' 를 이용해주시기 바랍니다.)
+
=== VO(Virtual Organisation) 등록 ===
* Affiliation : LCG
+
  CERN Certificate를 다운로드 받은 웹브라우저(인증서가 import 되어 있는)로
* Name of Sponsor (P.I., Supervisor) : Prof. Jun-Suhk Suh
+
   [https://voms2.cern.ch:8443/voms/cms/register LCG CMS VO]에 접속하여 인증서를 등록. ([https://twiki.cern.ch/twiki/bin/view/CMSPublic/SWGuideLcgAccess#How_to_register_in_the_CMS_VO 참고: VO 등록방법 안내 자료])
* Sponsor's Email: suh@knu.ac.kr
+
  이메일등 신상 정보를 입력하고, role을 선택한 후 신청서를 제출하면, 담당자가 등록 결과를 이메일로 보내줌. [https://voms2.cern.ch:8443/voms/cms CMS VO 등록 여부 확인 홈페이지]
* Sponsor's Phone Number: +82-53-950-7302
+
 
신청하시고 바로 suh@knu.ac.kr로 개인 연락처(전화번호)도 기재하여 메일을 보내주시기 바랍니다.
+
=== <span style="color:#FF0000">'''Getting KNU Tier-3 Account'''</span> ===
   이메일을 통해 DOE Certificate이 발급된 것을 확인하면 인증 사이트를 통해 인증서를 개인 PC에 Import 한 후 Import된 인증서는 인터넷 옵션의 Public key 관련탭에서 개인 PC로 Export할 수 있다. (인증서를 Export할 시 확장자는 ".Pfx"로 하시기 바랍니다.)  
+
 
  Export된 인증서 파일을 cms UI(cms.knu.ac.kr)본인 디렉토리에 파일을 전송.
+
  '''1) [http://t2-cms.knu.ac.kr/lcg_registration.php KNU Account Registration 웹페이지]에서 신청서를 작성, 제출한다.'''
  아래의 순서로 인증서와 키를 만들어 .globus 디렉토리에 넣어주시기 바랍니다.
+
  '''2) [http://t2-cms.knu.ac.kr/upload/Tier3_KR_KNU.hwp 사용계획서(hwp)]를 작성하여 e-mail(lcg_knu@knu.ac.kr)로 발송한다.'''
 +
  '''
 +
 
 +
  ''' 발급 받은 임시 비밀번호를 이용해 KNU Tier-3 UI에 접속합니다. (임시 비밀번호는 "passwd"명령을 이용하여 반드시 변경하십시오)
 +
  '''
 +
  '''$ ssh userid@kcms-t2.knu.ac.kr
 +
 
 +
  ''' <<Account 발급 전, 자주 하는 질문>>
 +
  '' Q : 사용계획서는 왜 적어야 하나요?
 +
  ''' A : 사용계획서를 통하여 연구자들에게 필요한 전산 자원을 가늠하고 그에 따른 준비를 할 수 있습니다.
 +
  '''
 +
  '' Q : CMS에서 처음 일하게 되어 전반적인 연구 내용을 잘 모릅니다. 신청서 내용 작성에 어려움이 많습니다. 어떻게 하면 좋을까요?
 +
  ''' A : CMS 신규 사용자의 경우 연구 내용을 잘 모를 수 있고, 컴퓨팅 자원에 대한 지식이 부족할 수 있습니다.
 +
  '''    사용계획서 내의 예시를 보시고 작성하실 수 있는 부분을 간략히 적으시면 됩니다.
 +
  '''    잘 모르는 부분은 빈란으로 두셔도 되지만, 가능하다면 연구실 선임께 여쭤보시는 방법도 좋습니다.
 +
  ''
 +
  '' Q : 연구 계획서에서 앞으로 사용할 (CPU, Disk) 사용량을 적어 냈는데요, 반드시 이 범위 내에서만 사용해야 하나요?
 +
  ''' A : 연구를 진행하시면서 연구 계획이 구체화되고 이에 따라 자원의 필요량이 증가하시면, Tier-3 연락처를 통해 미리 말씀해 주시면 필요한 자원의 할당을 준비해 드리겠습니다.
 +
   '''    대량의 연구자원을 갑작스럽게 요청하시면 자원 할당에 시간이 다소 소요될 수 있습니다.
 +
  ''
 +
  '' Q : 초기에 제출한 전산자원 사용량을 초과하여 사용할 경우 불익이 있나요?
 +
  ''' A : 개인 용량을 다소 초과하셔도 불익은 없습니다. 다만 추가 사용량이 큰 경우 협의를 통해 조정하시기 바랍니다.
 +
  ''
 +
  '' Q : 연구의 내용이 확장되어 더 많은 자원을 필요로 합니다. 이런 경우 어떻게 해야 하나요?
 +
  ''' A : 연구계획 수정 내용을 추가로 작성/제출하시면 됩니다.
 +
  '''    Tier-3 에서 보유하고 있는 여유 전산자원에 따라, 필요하신 자원의 준비에 다소 시간이 소요될 수 있으니 시간적 여유를 두시고 신청해 주시면 감사하겠습니다.
 +
  '''
 +
  ''' (기타 궁금하신 부분이 있으시면 언제든 연락 주시면 안내해 드리겠습니다.)
 +
 
 +
=== Certificate ===
 +
  [https://ca.cern.ch/ca/ CERN 인증서 웹사이트]에 접속하여 Certificate를 발급받는다. 
 +
 
 +
  Certificate가 발급되면 인증서를 개인 PC 웹브라우저에 Import 한 후,
 +
  Import된 인증서를 웹브라우저 설정 메뉴 중 Public key 관련탭에서 개인 PC로 Export할 수 있다.  
 +
  (인증서를 Export할 시 확장자는 ".Pfx"로 선택하시기 바랍니다.)  
 +
 
 +
  Export된 인증서 파일은 cms UI(cms.knu.ac.kr)본인 디렉토리에 복사한 후
 +
  아래의 순서대로 인증서와 키를 만들어 .globus 디렉토리에 넣으시기 바랍니다.
 
   $ mkdir .globus
 
   $ mkdir .globus
 
   $ openssl pkcs12 -in usercert.pfx -clcerts -nokeys -out .globus/usercert.pem
 
   $ openssl pkcs12 -in usercert.pfx -clcerts -nokeys -out .globus/usercert.pem
Line 21: Line 58:
 
   $ chmod 400 .globus/userkey.pem
 
   $ chmod 400 .globus/userkey.pem
  
3. VO(Virtual Organisation) 등록
+
== KNU Tier-3 Login ==
  [http://lcg.web.cern.ch/LCG/registration.htm LCG User Registration] LCG VO에 인증서를 등록
+
4. Getting KNU Tier-2 Account
+
  1) http://t2-cms.knu.ac.kr/ 에서 [http://t2-cms.knu.ac.kr/lcg_registration.php KNU Account Registration]을 클릭한 후 신청서 양식을 작성하여 등록한다.
+
  2) [http://t2-cms.knu.ac.kr/upload/Tier2_KR_KNU.hwp 사용계획서(hwp)]를 작성하여 email(lcg_knu@knu.ac.kr)로 발송한다.
+
5. [[SiteDB_Regisration|SiteDB Regisration]] - CERN 및 CMS User 등록 후 CMS SiteDB에 가입하여 자신의 DN(distinguished name) 을 등록한다. 4번까지의 절차 이후 KNU Tier-2 UI에 접속하여 확인 후 CMS SiteDB에 등록한다. '''(CRAB을 이용하려면 필수 사항)'''
+
  $ voms-proxy-init
+
  Your identity: '''''/DC=org/DC=doegrids/OU=People/CN=XXXXXXXX'''''    <--------- DN(distinguished name)
+
  
== KNU Tier-2 Login ==
+
=== KNU UI 현황 ===
1. Linux 에서 접속하기
+
{| style="background:#cccc99;color:#black;white:80%;" border="1" cellpadding="5" cellspacing="0"
 +
!  대표 Hostname  !! 세부 Hostname !! OS !! 접속방법 !! 비고
 +
|- style="background:white; color:black"
 +
! kcms-t2.knu.ac.kr
 +
| cms.knu.ac.kr
 +
| CentOS7
 +
| ssh,mosh,x2go,jupyterhub
 +
| Tier3  UI, HTCondor
 +
|- style="background:#f0f0f0; color:black"
 +
! kcms-t2.knu.ac.kr
 +
| cms01.knu.ac.kr
 +
| CentOS7
 +
| ssh,mosh,x2go
 +
| Tier3 UI, HTCondor
 +
|- style="background:white; color:black"
 +
! kcms-t3.knu.ac.kr
 +
| cms02.knu.ac.kr
 +
| CentOS7
 +
| ssh,mosh,x2go
 +
| Tier3 UI, HTCondor
 +
|- style="background:#f0f0f0; color:black"
 +
! kcms-t3.knu.ac.kr
 +
| cms03.knu.ac.kr
 +
| CentOS7
 +
| ssh,mosh,x2go
 +
| Tier3 U, HTCondor
 +
|}
 +
 
 +
<p>
 +
 
 +
=== ssh ===
 +
 
 +
==== Linux에서 ssh로 UI에 접속하기 ====
 
  터미널을 열어서 원격로그인(SSH)으로 접속한다.  
 
  터미널을 열어서 원격로그인(SSH)으로 접속한다.  
  ssh -X username@cms.knu.ac.kr( or username@cms02.knu.ac.kr)
+
  $ ssh -X username@kcms-t2.knu.ac.kr( or username@cms.knu.ac.kr, username@cms01.knu.ac.kr)
2. Windows OS 에서 접속하기
+
$ ssh -X username@kcms-t3.knu.ac.kr( or username@cms02.knu.ac.kr, username@cms03.knu.ac.kr)
 +
 
 +
==== Windows OS에서 ssh로 UI에 접속하기 ====
 
  Windows OS 에서 linux 서버로 접속하려면 원격 로그인을 사용할 수 있는 특정 프로그램이 필요하다.
 
  Windows OS 에서 linux 서버로 접속하려면 원격 로그인을 사용할 수 있는 특정 프로그램이 필요하다.
     예) '''Putty''', '''SSH Secure Shell Client''' (프리웨어 또는 정식 서비스를 찾아 설치가능) - [[SSH_Secure_Shell_Client_의_경우|SSH Secure Shell Client 의 경우]]
+
     예) [http://www.chiark.greenend.org.uk/~sgtatham/putty/ '''Putty'''(무료)], '''SSH Secure Shell Client''' (프리웨어 또는 정식 서비스를 찾아 설치가능) - [[SSH_Secure_Shell_Client_의_경우|SSH Secure Shell Client 예시 화면]]
 
  또한, Event display 및 ROOT을 사용하기 위해서는 다음과 같은 X 서버를 별도로 설치하여야 한다.
 
  또한, Event display 및 ROOT을 사용하기 위해서는 다음과 같은 X 서버를 별도로 설치하여야 한다.
     예) '''Xming''', '''Cygwin/X11''', '''Hummingbird''', '''Xmanager'''(유료)
+
     예) [http://sourceforge.net/projects/xming/ '''Xming'''(무료)], [http://x.cygwin.com/screenshots/ '''Cygwin/X'''(무료)], '''Hummingbird'''(유료), '''Xmanager'''(유료)
  
 
* 첫 로그인 후 개인 Password 및 shell 설정시 유의사항
 
* 첫 로그인 후 개인 Password 및 shell 설정시 유의사항
  1) 패스워드 변경시 passwd 명령 대신 yppasswd 를 사용.
+
  1) 패스워드 변경시 passwd 명령을 사용.
    $ yppasswd
+
$ passwd
  2) Login Password는 알파벳, 숫자, 특수문자 등을 섞어서 사용하여 기억하기 쉬우면서도 길게 만드는 것이 해킹방지에 용의하다.
+
 
 +
<span style="color:#FF0000">[주의 : 비밀번호 변경은 더이상 yppasswd 명령을 사용하지 않습니다.]</span>
 +
 
 +
  2) Login Password는 알파벳, 숫자, 특수문자 등을 섞어서 사용하여 기억하기 쉬우면서도 길게 만드는 것이 해킹방지에 도움이 됩니다.
 
     (간단한 단어 또는 숫자만의 조합은 극히 위험함.)
 
     (간단한 단어 또는 숫자만의 조합은 극히 위험함.)
3) 기본 쉘 변경을 원하는 경우 chsh 대신 ypchsh 명령을 통해 기본 쉘을 csh 로 변경 가능 
 
    $ ypchsh
 
  
== CMSSW(CMS Software) Installation ==
+
3) 계정이 발급되었을때 처음 기본 쉘은 tcsh 이다. 기본 shell의 변경은 ypchsh 명령을 이용하여 bash 혹은 zsh 등의 자신이 선호하는 shell로 변경할 수 있다.
* KNU Tier-2의 CMS UI 환경의 기본 쉘은 bash 이다. CERN의 lxplus 와 같은 환경으로 작업하기 위해서는 csh 으로 전환한다.
+
  $ ypchsh
  $ csh
+
  
CMSSW 을 설치하기 위해 먼저 설치 환경을 설정한다.
+
=== ssh 보다 편리한 mosh ===
$ source /opt/exp_soft/cms/cmsset_default.csh
+
  
설치하고자 하는 버전의 CMSSW 를 확인한 후 개인 <working-directroy> 로 이동하여 설치한다. (x.y.z 는 버전을 나타낸다)
+
* [[mosh|mosh 소개 및 사용법]]
$ scramv1 list CMSSW
+
$ cd <working-directory>
+
$ scramv1 project CMSSW CMSSW_x_y_z
+
  
== CRAB(CMS Remote Analysis Builder) Installation ==
+
=== 원격 데스크탑 접속이 필요하다면 x2go ===
  
[https://twiki.cern.ch/twiki/bin/view/CMS/SWGuideCrab#CRAB_on_line_manual_and_tutorial CRAB online manual and tutorial]
+
* [[x2go|x2go를 이용한 원격데스크탑 가이드]]
  
위 링크사이트의 'how to get crab' 부분을 참조하여 가장 최근의 CRAB tar ball file 을 다운로드 받는다.
+
=== JupyterHub  ===
다운로드 받은 파일을 <working-directory> 로 옮겨 압축을 풀고 설치한다.
+
  
$ cd <working-directory>
+
* [[JupyterHub|JupyterHub 사용법 ]]
$ tar vfx CRAB_x_y_z.tgz
+
$ cd <working-directory>/CRAB_x_y_z
+
$ ./configure
+
  
== Setting Environment ==
+
== Computing Element, 연산 자원 사용하기 ==
$ source /opt/exp_soft/cms/cmsset_default.csh
+
* CMSSW 4_X_X 버전(64 bit)을 사용하기 위해서는 아래 환경설정을 추가로 입력
+
$ setenv SCRAM_ARCH slc5_amd64_gcc434
+
  
* 환경 설정시 필수 유의사항
+
=== Grid 작업을 위한 CRAB Tutorial ===
1. CMSSW 환경 설정은 '''반드시''' CMSSW_x_y_z directory 아래에서 시행되어야한다.
+
2. CRAB을 사용하는 경우 환경 설정 순서는 '''반드시''' CMSSW 환경설정을 우선하여 시행한다.
+
  
CMSSW 환경 설정
+
* [[crab | Crab tutorial 항목을 참고하세요. ]]
$ cd CMSSW_x_y_z
+
 
$ cmsenv (= eval `scramv1 runtime -csh`)
+
=== 배치 작업(HTCondor) 실행하기 ===
CRAB(CMS Remote Analysis Builder) 환경설정
+
[[HTCondor|HTCondor Batch System 사용법 페이지로 바로 가기]]
$ source <working-directory>/CRAB_x_y_z/crab.csh
+
$ setenv PYTHONPATH ${PYTHONPATH}:${GLITE_LOCATION}/lib
+
  
== Starting GRID Job Submission ==
+
=== HTCondor에서 GPU 사용하기 ===
'''CRAB(CMS Remote Analysis Builder)'''이란?
+
[[HTCondorGPU|HTCondor에서 GPU 사용하기 페이지로 바로 가기]]
  
* [https://twiki.cern.ch/twiki/bin/view/CMS/SWGuideCrab CRAB official documentation]
+
=== create-batch 사용하기 ===
* [http://cmsdoc.cern.ch/cms/ccs/wm/www/Crab/ReleaseNotes.html Complete list of Release Notes and past news]
+
[[Create-batch|create-batch 사용법으로 바로 가기]]
  
CRAB 사용 및 간단한 명령어
+
== Storage Element, 데이터 저장장치 사용하기 ==
  
$ cd <working-directory>/CMSSW_x_y_z/src/<data-directory>
+
=== Storage Element Tutorial ===
$ grid-proxy-init                            (Grid initialization)
+
      예)Your proxy is valid until: Thu Jun  4 21:35:26 2009
+
 
+
CRAB 기본 명령어   
+
$ crab -create -submit  (Grid job 생성 및 submit)
+
$ crab -status          (수행중인 job 의 상태 확인)
+
$ crab -getoutput        (완료된 job 의 output 을 확인)
+
  
crab.cfg 관련 document
+
[[Storage_Element_Tutorial| Storage Element Tutorial 페이지로 가기]]
http://cmsdoc.cern.ch/cms/ccs/wm/www/Crab/Docs/crab-v2.7.8.html
+
  
CRAB 사용시 유의 사항
+
=== xrootd 활용한 SE Data 사용 가이드 ===
* CRAB_x_y_z/python/crab.cfg, <analysis file(***.py)> 두 파일을 <working-directory>/CMSSW_x_y_z/src/<data directory> 디렉토리에 복사한다.
+
* File editing - <analysis file(***.py)> 과 crab.cfg 파일의 input file 이름, output file 이름, # of events '''반드시''' 확인해야 한다.
+
* How to use CRAB to publish
+
  
Modify the crab.cfg
+
[[Xrootd| xrootd 를 활용한 SE Data 사용 가이드 페이지로 가기]]
https://twiki.cern.ch/twiki/bin/viewauth/CMS/CrabNewHowTo 사이트 참조
+
dbs_url_for_publication = "https://cmsdbsprod.cern.ch:8443/cms_dbs_ph_analysis_02_writer/servlet/DBSServlet"
+
  
* '''T2_KR_KNU 사이트에 데이터를 저장'''하려면 crab.cfg 파일 설정을 아래와 같이 바꿔줘야 한다.
+
=== dCache에서 WebDav 프로토콜 및 MACAROONS 인증 사용하기 ===
 +
 
 +
[[WebDav| dCache에서 WebDav 프로토콜 및 MACAROONS 인증 사용하기 페이지로 가기]]
 +
 
 +
=== dcap 프로토콜을 이용하여 SE 사용하기 ===
 +
 
 +
[[Dcap| dcap을 이용하여 SE 사용하기 페이지로 가기]]
 +
 
 +
=== CMS Dataset 전송을 위한 Rucio 사용법 ===
 +
 
 +
[[Rucio| Rucio 사용법 페이지로 가기]]
 +
 
 +
=== WebFTS 사용법 ===
 +
 
 +
[[Webfts| WebFTS 사용법 페이지로 가기]]
 +
 
 +
== 응용 소프트웨어 사용 ==
 +
 
 +
=== CMSSW(CMS Software) Installation ===
 +
 
 +
* CMSSW 을 설치하기 위해 먼저 설치 환경을 설정한다.  
 +
$ source /cvmfs/cms.cern.ch/cmsset_default.csh
 +
 
 +
bash shell을 사용한다면
 +
$ source /cvmfs/cms.cern.ch/cmsset_default.sh
 +
 
 +
설치하고자 하는 버전의 CMSSW 를 확인한 후 개인 <working-directroy> 로 이동하여 설치한다. (x.y.z 는 버전을 나타낸다)
 +
 
 +
$ scramv1 list CMSSW
 +
$ cd <working-directory>
 +
$ scramv1 project CMSSW CMSSW_x_y_z
  
storage_element = cluster142.knu.ac.kr
+
=== CVMFS에 이미 설치되어 있는 소프트웨어 사용하기 ===
  storage_path = /srm/managerv1?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)
+
  
== How to use KNU Tier-3 ==
+
==== CVMFS 에서 geant4 사용하기 ====
*KNU Tier-3 Center (Local Analysis Farm)이 구축되었습니다.
+
*Tier-3 자원을 이용하고자 할 경우 반드시 '''cms02.knu.ac.kr''' 접속한 후 아래와 같이 crab.cfg 파일을 설정하시기 바랍니다.
+
+
[GRID]
+
wms_service = https://cluster3.knu.ac.kr:7443/glite_wms_wmproxy_server
+
rb = CERN
+
ce_white_list = cluster118.knu.ac.kr
+
  
*유의사항 - Tier-3 센터는 약 20개의 CPU 코어(Opteron280 2.4GHz)로 이루어진 Analysis Farm 으로 너무 많은 양의 혹은 무거운 job 은 Tier-2를 이용해주시기 바랍니다.
+
[[Cvmfs_geant4|CVMFS 에서 geant4 사용하기 페이지로 바로 가기]]
  
== CRAB Feedback & CMS Computing Manual ==
+
==== CVMFS 에서 root 사용하기 ====
* CRAB 사용시 발생하는 문제점 및 해결방법은 아래 사이트를 참조
+
https://hypernews.cern.ch/HyperNews/CMS/get/crabFeedback.html
+
* CMS Computing Manual
+
https://twiki.cern.ch/twiki/bin/view/CMSPublic/WorkBook
+
  
== Storage Element (SE) Manual ==
+
[[Cvmfs_root|CVMFS 에서 root 사용하기 페이지로 바로 가기]]
CRAB 등을 사용하여 얻은 데이터를 보관할 수 있는 저장 공간을 Storage Element (SE)라 한다.
+
이곳에 데이터를 저장하기 위해서는 몇가지 특수한 명령어를 사용해야 한다.
+
* '''현재 srm 명령어 관련 csh 에서의 환경설정이 구성되어있지 않으므로, srm 관련 명령어는 bash 환경의 터미널을 따로 열어서 사용하시기 바랍니다.'''
+
1) voms 인증 후 사용할수 있다.
+
$ voms-proxy-init --voms cms
+
  
2) SE의 사용자 디렉토리
+
==== CVMFS에서 원하는 버전의 gcc 사용하기 ====
$ srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)
+
  
3) 로컬 디렉토리의 test.file 파일을  SE의 사용자 디렉토리로 복사하기
+
[[Cvmfs_gcc|CVMFS에서 원하는 버전의 gcc 사용하기 페이지로 바로 가기]]
$ srmcp -debug=true -srm_protocol_version=2 file:////`pwd`/test.file srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/test.file
+
  
4) 복수의 파일을 동시에 전송하기
+
==== CVMFS SFT repository 사용법 ====
$ srmcp -copyjobfile=list.txt
+
  
$ cat  list.txt
+
[[SFT|CVMFS SFT repository 사용법 페이지로 바로 가기]]
srm://myhost.mydomain.edu:8443//dir1/dir2/sh-copy1 file:///localdir/sh1
+
srm://myhost.mydomain.edu:8443//dir1/dir2/sh-copy2 file:///localdir/sh2
+
srm://myhost.mydomain.edu:8443//dir1/dir2/sh-copy3 file:///localdir/sh3
+
* 원본경로 대상경로를 포함하는 목록 파일을 생성한뒤, -copyjobfile 옵션을 사용하면 복수의 파일을 동시에 전송할수 있다.
+
  
5) 복사가 정상적으로 이루어졌는지 확인 또는 디렉토리의 목록 확인
+
=== HPC를 위한 컨테이너 시스템 Singularity 사용법 ===
$ srmls srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)
+
  
6) 파일 또는 디렉토리 삭제
+
[[Singularity|Singularity 사용법 페이지로 바로 가기]]
$ srmrm srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/test.file
+
$ srmrmdir srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/test
+
* 저장공간은 모든 유저들이 공유하는 공간이므로 절대 다른 유저의 디렉토리를 함부로 건드려서는 안된다. (작업은 반드시 사용자의 디렉토리에서 )
+
* 너무 오랜기간 파일들을 방치함으로써 저장공간을 포화상태로 만들어서는 안된다.
+

Latest revision as of 02:59, 27 July 2022

Pre-requisites

KNU Tier-3를 이용하기 위해서는 Grid 환경에 접속하기 위한 인증서를 공식 인증 사이트를 통해 획득한 후 LCG VO에 등록하고 KNU Tier-3에 사용계획서 및 유저 등록을 통해 계정을 부여받는다.

CERN 및 CMS User 등록

 CERN & CMS User Registration

VO(Virtual Organisation) 등록

  CERN Certificate를 다운로드 받은 웹브라우저(인증서가 import 되어 있는)로
  LCG CMS VO에 접속하여 인증서를 등록. (참고: VO 등록방법 안내 자료)
  이메일등 신상 정보를 입력하고, role을 선택한 후 신청서를 제출하면, 담당자가 등록 결과를 이메일로 보내줌. CMS VO 등록 여부 확인 홈페이지

Getting KNU Tier-3 Account

  1) KNU Account Registration 웹페이지에서 신청서를 작성, 제출한다.
  2) 사용계획서(hwp)를 작성하여 e-mail(lcg_knu@knu.ac.kr)로 발송한다.
  
   발급 받은 임시 비밀번호를 이용해 KNU Tier-3 UI에 접속합니다. (임시 비밀번호는 "passwd"명령을 이용하여 반드시 변경하십시오)
   
  $ ssh userid@kcms-t2.knu.ac.kr
   <<Account 발급 전, 자주 하는 질문>>
   Q : 사용계획서는 왜 적어야 하나요?
   A : 사용계획서를 통하여 연구자들에게 필요한 전산 자원을 가늠하고 그에 따른 준비를 할 수 있습니다.
  
   Q : CMS에서 처음 일하게 되어 전반적인 연구 내용을 잘 모릅니다. 신청서 내용 작성에 어려움이 많습니다. 어떻게 하면 좋을까요?
   A : CMS 신규 사용자의 경우 연구 내용을 잘 모를 수 있고, 컴퓨팅 자원에 대한 지식이 부족할 수 있습니다.
       사용계획서 내의 예시를 보시고 작성하실 수 있는 부분을 간략히 적으시면 됩니다.
       잘 모르는 부분은 빈란으로 두셔도 되지만, 가능하다면 연구실 선임께 여쭤보시는 방법도 좋습니다.
  
   Q : 연구 계획서에서 앞으로 사용할 (CPU, Disk) 사용량을 적어 냈는데요, 반드시 이 범위 내에서만 사용해야 하나요?
   A : 연구를 진행하시면서 연구 계획이 구체화되고 이에 따라 자원의 필요량이 증가하시면, Tier-3 연락처를 통해 미리 말씀해 주시면 필요한 자원의 할당을 준비해 드리겠습니다.
       대량의 연구자원을 갑작스럽게 요청하시면 자원 할당에 시간이 다소 소요될 수 있습니다.
  
   Q : 초기에 제출한 전산자원 사용량을 초과하여 사용할 경우 불익이 있나요?
   A : 개인 용량을 다소 초과하셔도 불익은 없습니다. 다만 추가 사용량이 큰 경우 협의를 통해 조정하시기 바랍니다.
  
   Q : 연구의 내용이 확장되어 더 많은 자원을 필요로 합니다. 이런 경우 어떻게 해야 하나요?
   A : 연구계획 수정 내용을 추가로 작성/제출하시면 됩니다.
       Tier-3 에서 보유하고 있는 여유 전산자원에 따라, 필요하신 자원의 준비에 다소 시간이 소요될 수 있으니 시간적 여유를 두시고 신청해 주시면 감사하겠습니다.
  
   (기타 궁금하신 부분이 있으시면 언제든 연락 주시면 안내해 드리겠습니다.)

Certificate

 CERN 인증서 웹사이트에 접속하여 Certificate를 발급받는다.  
 Certificate가 발급되면 인증서를 개인 PC 웹브라우저에 Import 한 후, 
 Import된 인증서를 웹브라우저 설정 메뉴 중 Public key 관련탭에서 개인 PC로 Export할 수 있다. 
 (인증서를 Export할 시 확장자는 ".Pfx"로 선택하시기 바랍니다.) 
 Export된 인증서 파일은 cms UI(cms.knu.ac.kr)의 본인 디렉토리에 복사한 후
 아래의 순서대로 인증서와 키를 만들어 .globus 디렉토리에 넣으시기 바랍니다.
  $ mkdir .globus
  $ openssl pkcs12 -in usercert.pfx -clcerts -nokeys -out .globus/usercert.pem
  $ openssl pkcs12 -in usercert.pfx -nocerts -out .globus/userkey.pem
  $ chmod 644 .globus/usercert.pem
  $ chmod 400 .globus/userkey.pem

KNU Tier-3 Login

KNU UI 현황

대표 Hostname 세부 Hostname OS 접속방법 비고
kcms-t2.knu.ac.kr cms.knu.ac.kr CentOS7 ssh,mosh,x2go,jupyterhub Tier3 UI, HTCondor
kcms-t2.knu.ac.kr cms01.knu.ac.kr CentOS7 ssh,mosh,x2go Tier3 UI, HTCondor
kcms-t3.knu.ac.kr cms02.knu.ac.kr CentOS7 ssh,mosh,x2go Tier3 UI, HTCondor
kcms-t3.knu.ac.kr cms03.knu.ac.kr CentOS7 ssh,mosh,x2go Tier3 U, HTCondor

ssh

Linux에서 ssh로 UI에 접속하기

터미널을 열어서 원격로그인(SSH)으로 접속한다. 
$ ssh -X username@kcms-t2.knu.ac.kr( or username@cms.knu.ac.kr, username@cms01.knu.ac.kr)
$ ssh -X username@kcms-t3.knu.ac.kr( or username@cms02.knu.ac.kr, username@cms03.knu.ac.kr)

Windows OS에서 ssh로 UI에 접속하기

Windows OS 에서 linux 서버로 접속하려면 원격 로그인을 사용할 수 있는 특정 프로그램이 필요하다.
   예) Putty(무료), SSH Secure Shell Client (프리웨어 또는 정식 서비스를 찾아 설치가능) - SSH Secure Shell Client 예시 화면
또한, Event display 및 ROOT을 사용하기 위해서는 다음과 같은 X 서버를 별도로 설치하여야 한다.
   예) Xming(무료), Cygwin/X(무료), Hummingbird(유료), Xmanager(유료)
  • 첫 로그인 후 개인 Password 및 shell 설정시 유의사항
1) 패스워드 변경시 passwd 명령을 사용.
$ passwd

[주의 : 비밀번호 변경은 더이상 yppasswd 명령을 사용하지 않습니다.]

2) Login Password는 알파벳, 숫자, 특수문자 등을 섞어서 사용하여 기억하기 쉬우면서도 길게 만드는 것이 해킹방지에 도움이 됩니다.
   (간단한 단어 또는 숫자만의 조합은 극히 위험함.)
3) 계정이 발급되었을때 처음 기본 쉘은 tcsh 이다. 기본 shell의 변경은 ypchsh 명령을 이용하여 bash 혹은 zsh 등의 자신이 선호하는 shell로 변경할 수 있다.
$ ypchsh

ssh 보다 편리한 mosh

원격 데스크탑 접속이 필요하다면 x2go

JupyterHub

Computing Element, 연산 자원 사용하기

Grid 작업을 위한 CRAB Tutorial

배치 작업(HTCondor) 실행하기

HTCondor Batch System 사용법 페이지로 바로 가기

HTCondor에서 GPU 사용하기

HTCondor에서 GPU 사용하기 페이지로 바로 가기

create-batch 사용하기

create-batch 사용법으로 바로 가기

Storage Element, 데이터 저장장치 사용하기

Storage Element Tutorial

Storage Element Tutorial 페이지로 가기

xrootd 를 활용한 SE Data 사용 가이드

xrootd 를 활용한 SE Data 사용 가이드 페이지로 가기

dCache에서 WebDav 프로토콜 및 MACAROONS 인증 사용하기

dCache에서 WebDav 프로토콜 및 MACAROONS 인증 사용하기 페이지로 가기

dcap 프로토콜을 이용하여 SE 사용하기

dcap을 이용하여 SE 사용하기 페이지로 가기

CMS Dataset 전송을 위한 Rucio 사용법

Rucio 사용법 페이지로 가기

WebFTS 사용법

WebFTS 사용법 페이지로 가기

응용 소프트웨어 사용

CMSSW(CMS Software) Installation

  • CMSSW 을 설치하기 위해 먼저 설치 환경을 설정한다.
$ source /cvmfs/cms.cern.ch/cmsset_default.csh

bash shell을 사용한다면

$ source /cvmfs/cms.cern.ch/cmsset_default.sh

설치하고자 하는 버전의 CMSSW 를 확인한 후 개인 <working-directroy> 로 이동하여 설치한다. (x.y.z 는 버전을 나타낸다)

$ scramv1 list CMSSW
$ cd <working-directory>
$ scramv1 project CMSSW CMSSW_x_y_z

CVMFS에 이미 설치되어 있는 소프트웨어 사용하기

CVMFS 에서 geant4 사용하기

CVMFS 에서 geant4 사용하기 페이지로 바로 가기

CVMFS 에서 root 사용하기

CVMFS 에서 root 사용하기 페이지로 바로 가기

CVMFS에서 원하는 버전의 gcc 사용하기

CVMFS에서 원하는 버전의 gcc 사용하기 페이지로 바로 가기

CVMFS SFT repository 사용법

CVMFS SFT repository 사용법 페이지로 바로 가기

HPC를 위한 컨테이너 시스템 Singularity 사용법

Singularity 사용법 페이지로 바로 가기