From T3_KR_KNU
(Created page with "== Storage Element Tutorial == CRAB 등을 사용하여 얻은 데이터를 보관할 수 있는 저장 공간을 Storage Element (SE)라 한다. 이곳에 데이터를 저장...") |
(→Storage Element Tutorial) |
||
| Line 7: | Line 7: | ||
| − | + | === voms 인증 === | |
| + | * voms 인증 후 사용할수 있다. | ||
$ voms-proxy-init --voms cms | $ voms-proxy-init --voms cms | ||
| − | + | === T2_KR_KNU의 Computing Resource 실시간 조회하기 (CPU, Disk 자원 조회) == | |
| − | $ | + | * UI 에서 다음의 명령어를 실행합니다. |
| + | $ knuinfo | ||
$ | $ | ||
----------------------------------------------------------------------------------------- | ----------------------------------------------------------------------------------------- | ||
| Line 22: | Line 24: | ||
----------------------------------------------------------------------------------------- | ----------------------------------------------------------------------------------------- | ||
| − | + | === SE(Storage Element)의 사용자 디렉토리 경로 === | |
| − | + | ||
$ srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile | $ srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile | ||
$ dcap://cluster142.knu.ac.kr/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile | $ dcap://cluster142.knu.ac.kr/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile | ||
| Line 32: | Line 33: | ||
<span style="color:#FF0000">- 만약에 본인의 디렉토리가 만들어져 있지 않는 경우에는 관리자에게 연락바랍니다.</span> | <span style="color:#FF0000">- 만약에 본인의 디렉토리가 만들어져 있지 않는 경우에는 관리자에게 연락바랍니다.</span> | ||
| − | + | === test.file 파일의 SE 및 local 디렉토리로 복사하기 === | |
$ gfal-copy srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile srm://cluster142/.../DestFile | $ gfal-copy srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile srm://cluster142/.../DestFile | ||
| Line 38: | Line 39: | ||
$ gfal-copy gsidcap://cluster142.knu.ac.kr:22128/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile file:////u/user/(username)/.../DestFile | $ gfal-copy gsidcap://cluster142.knu.ac.kr:22128/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile file:////u/user/(username)/.../DestFile | ||
| − | + | === xrootd 를 활용한 SE Data 접근 방법 === | |
$ xrdcp root://cluster142.knu.ac.kr//store/user/(username)/test.file /some/local/path/test.file | $ xrdcp root://cluster142.knu.ac.kr//store/user/(username)/test.file /some/local/path/test.file | ||
(참조 : http://xrootd.org/doc/prod/Syntax_config.htm) | (참조 : http://xrootd.org/doc/prod/Syntax_config.htm) | ||
| − | + | === root에서 SE Data 접근 방법 === | |
# 읽기 | # 읽기 | ||
$ TFile *f = TFile::Open("dcap://cluster142.knu.ac.kr//pnfs/knu.ac.kr/data/cms/store/user/(username)/test.root"); | $ TFile *f = TFile::Open("dcap://cluster142.knu.ac.kr//pnfs/knu.ac.kr/data/cms/store/user/(username)/test.root"); | ||
| Line 54: | Line 55: | ||
$ | $ | ||
| − | + | === 복수의 파일을 동시에 전송하기 === | |
$ /usr/local/bin/lcgcp_copyfiles list.txt | $ /usr/local/bin/lcgcp_copyfiles list.txt | ||
| Line 64: | Line 65: | ||
| − | + | === 복사가 정상적으로 이루어졌는지 확인 또는 디렉토리의 목록 확인 === | |
$ gfal-ls -Hl srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username) | $ gfal-ls -Hl srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username) | ||
| − | + | === 파일 또는 디렉토리 삭제 === | |
$ gfal-rm srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/test/test.file | $ gfal-rm srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/test/test.file | ||
| Line 75: | Line 76: | ||
| − | + | === gfal 명령어 사용 요약 === | |
$ voms-proxy-init --voms cms 로 proxy 생성후 아래 명령어를 수행하시면 됩니다. | $ voms-proxy-init --voms cms 로 proxy 생성후 아래 명령어를 수행하시면 됩니다. | ||
$ 조회 : gfal-ls -Hl srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/MyAccount/FolderName | $ 조회 : gfal-ls -Hl srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/MyAccount/FolderName | ||
| Line 85: | Line 86: | ||
| − | + | === no match 오류가 발생할때 === | |
* tcsh에서 ?는 wild card로 인식이 됩니다. 따라서 tcsh을 사용하고 있다면 srm 경로에 반드시 ""를 사용해야 합니다. | * tcsh에서 ?는 wild card로 인식이 됩니다. 따라서 tcsh을 사용하고 있다면 srm 경로에 반드시 ""를 사용해야 합니다. | ||
| − | + | === srm*, lcg*, gfal* 주요 명령어 비교표 === | |
{| style="background:#cccc99;color:#black;white:80%;" border="1" cellpadding="5" cellspacing="0" | {| style="background:#cccc99;color:#black;white:80%;" border="1" cellpadding="5" cellspacing="0" | ||
| Line 127: | Line 128: | ||
|} | |} | ||
| − | + | === uberftp를 이용한 Storage Element 사용 === | |
* [[ uberftp | uberftp 사용법으로 가기 ]] | * [[ uberftp | uberftp 사용법으로 가기 ]] | ||
| − | + | === Tier-2 저장공간(Disk) 활용 분류 === | |
* Storage Element (srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/...) | * Storage Element (srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/...) | ||
Revision as of 05:29, 29 October 2015
Contents
- 1 Storage Element Tutorial
- 2 = T2_KR_KNU의 Computing Resource 실시간 조회하기 (CPU, Disk 자원 조회)
- 2.1 SE(Storage Element)의 사용자 디렉토리 경로
- 2.2 test.file 파일의 SE 및 local 디렉토리로 복사하기
- 2.3 xrootd 를 활용한 SE Data 접근 방법
- 2.4 root에서 SE Data 접근 방법
- 2.5 복수의 파일을 동시에 전송하기
- 2.6 복사가 정상적으로 이루어졌는지 확인 또는 디렉토리의 목록 확인
- 2.7 파일 또는 디렉토리 삭제
- 2.8 gfal 명령어 사용 요약
- 2.9 no match 오류가 발생할때
- 2.10 srm*, lcg*, gfal* 주요 명령어 비교표
- 2.11 uberftp를 이용한 Storage Element 사용
- 2.12 Tier-2 저장공간(Disk) 활용 분류
1 Storage Element Tutorial
CRAB 등을 사용하여 얻은 데이터를 보관할 수 있는 저장 공간을 Storage Element (SE)라 한다. 이곳에 데이터를 저장하기 위해서는 몇가지 특수한 명령어를 사용해야 한다.
[주의 : tcsh, csh 등 에서 관련 명령어를 사용할 때, 경로 인자에 반드시 " " 를 사용해주시기 바랍니다. ]
1.1 voms 인증
- voms 인증 후 사용할수 있다.
$ voms-proxy-init --voms cms
2 = T2_KR_KNU의 Computing Resource 실시간 조회하기 (CPU, Disk 자원 조회)
- UI 에서 다음의 명령어를 실행합니다.
$ knuinfo
$
-----------------------------------------------------------------------------------------
CPU Free Total Jobs Running Waiting ComputingElement
161 99 62 62 0 cluster118.knu.ac.kr:8443/cream-pbs-cms
496 127 368 368 0 cluster50.knu.ac.kr:8443/cream-pbs-cms
-----------------------------------------------------------------------------------------
Avail Space(kB) Used Space(kB) Type SE
125508644406 644170969874 SRM cluster142.knu.ac.kr
-----------------------------------------------------------------------------------------
2.1 SE(Storage Element)의 사용자 디렉토리 경로
$ srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile $ dcap://cluster142.knu.ac.kr/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile $ gsidcap://cluster142.knu.ac.kr:22128/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile
참고사항:
- 위의 예시에서 username은 향후 publish 할 경우를 대비하서 경북대 ID가 아니라 CERNID를 사용해야 합니다.
- 만약에 본인의 디렉토리가 만들어져 있지 않는 경우에는 관리자에게 연락바랍니다.
2.2 test.file 파일의 SE 및 local 디렉토리로 복사하기
$ gfal-copy srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile srm://cluster142/.../DestFile $ gfal-copy srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile file:////u/user/(username)/.../DestFile $ gfal-copy gsidcap://cluster142.knu.ac.kr:22128/pnfs/knu.ac.kr/data/cms/store/user/(username)/.../SrcFile file:////u/user/(username)/.../DestFile
2.3 xrootd 를 활용한 SE Data 접근 방법
$ xrdcp root://cluster142.knu.ac.kr//store/user/(username)/test.file /some/local/path/test.file (참조 : http://xrootd.org/doc/prod/Syntax_config.htm)
2.4 root에서 SE Data 접근 방법
# 읽기
$ TFile *f = TFile::Open("dcap://cluster142.knu.ac.kr//pnfs/knu.ac.kr/data/cms/store/user/(username)/test.root");
$
# 쓰기
$ export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/lib64/dcap
$ root -l
root [0] TFile *f = TFile::Open("gsidcap://cluster142.knu.ac.kr:22128//pnfs/knu.ac.kr/data/cms/store/user/(username)/test.root", "RECREATE");
root [1] f->Close();
root [2] .q
$
2.5 복수의 파일을 동시에 전송하기
$ /usr/local/bin/lcgcp_copyfiles list.txt
$ cat list.txt srm://myhost.mydomain.edu:8443//dir1/dir2/sh-copy1 file:///localdir/sh1 srm://myhost.mydomain.edu:8443//dir1/dir2/sh-copy2 file:///localdir/sh2 srm://myhost.mydomain.edu:8443//dir1/dir2/sh-copy3 file:///localdir/sh3
- lcg_cp는 기본적으로 복수파일 전송을 지원하지 않으나 원본경로 대상경로를 포함하는 목록 파일을 생성한뒤, 위의 스크립트를 사용하면 복수의 파일을 전송할수 있다.
2.6 복사가 정상적으로 이루어졌는지 확인 또는 디렉토리의 목록 확인
$ gfal-ls -Hl srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)
2.7 파일 또는 디렉토리 삭제
$ gfal-rm srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/test/test.file $gfal-rm srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/test$ lcg-del -d srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(username)/test
2.8 gfal 명령어 사용 요약
$ voms-proxy-init --voms cms 로 proxy 생성후 아래 명령어를 수행하시면 됩니다. $ 조회 : gfal-ls -Hl srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/MyAccount/FolderName $ 복사 : gfal-copy srm://cluster142.knu.ac.kr:8443/.../FileNameSrc srm://cluster142.knu.ac.kr:8443/.../FileNameDest $ 삭제 : gfal-rm srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/MyAccount/FolderName/FileName $ 디렉토리 삭제 :gfal-rm -R srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/MyAccount/FolderName
- 명령어 뒤의 Option은 매뉴얼 페이지를 참고 바랍니다. (ex. man gfal-ls)
- 1000개 이상의 파일 포함한 폴더 내용 보기 : (ex. 500번째 파일부터 700개의 파일을 보고 싶을 경우) lcg-ls --offset 500 --count 700 srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/user/(DestFoler)
2.9 no match 오류가 발생할때
- tcsh에서 ?는 wild card로 인식이 됩니다. 따라서 tcsh을 사용하고 있다면 srm 경로에 반드시 ""를 사용해야 합니다.
2.10 srm*, lcg*, gfal* 주요 명령어 비교표
| srm* | lcg* | gfal* | 비고 |
|---|---|---|---|
| srmls | lcg-ls | gfal-ls | ls |
| srmcp | lcg-cp | gfal-copy | cp |
| srmrm | lcg-del | gfal-rm | rm |
| srmmkdir | gfal-mkdir | mkdir | |
| srmrmdir | lcg-del -d | gfal-rm -R | rmdir |
| gfal-cat | cat |
2.11 uberftp를 이용한 Storage Element 사용
2.12 Tier-2 저장공간(Disk) 활용 분류
* Storage Element (srm://cluster142.knu.ac.kr:8443/srm/managerv2?SFN=/pnfs/knu.ac.kr/data/cms/store/...) : 대용량 저장 공간으로 장기간 보관이 가능합니다. - PhEDEx를 통한 DataSet 저장 - Analysis 이후의 결과파일 저장 : 현재 약 830 TB의 공간을 마련하여 운영하고 있습니다. : 사용자의 데이터 저장으로 공간이 부족할 경우, 사전 설문을 통해 더 이상 사용하지 않는 과거 데이터의 삭제 요청을 드릴 수 있습니다.
* User Home Directory (/u/user/...) : Tier-2 UI에 로그할 경우 기본적인 설정사항 등을 보관하는 장소입니다. : 약 9 TB 규모의 공간입니다. : 모든 사용자가 9 TB를 나누어 사용하므로 용량이 큰 데이터의 보관은 가급적 삼가해 주시기 바랍니다.
* Scratch Disk : UI에 총 4개의 임시 저장공간이 있습니다. - /d : 2 TB single Disk - /d1 : 2 TB single Disk - /d2 : 2 TB single Disk - /d3 : Logical Volume ( 2 TB single Disk * 3) : scratch disk는 Storage Element와 User Home Directory 영역과 달리 Single Disk로 구성이 되어 있습니다. : 개별 Disk의 물리적 장애 발생 시, 데이터의 유실이 발생하므로 중요한 데이터 및 장기 보관 데이터는 반드시 Storage Element로 이동하여 주시기 바랍니다.