EGEE is a project funded by the European Union under contract INFSO-RI-508833 Начало работы в ГРИД(LCG2) Кириченко В.В. Valera.Kirichenko@itep.ru ИТЭФ, - презентация

1 EGEE is a project funded by the European Union under contract INFSO-RI Начало работы в ГРИД(LCG2) Кириченко В.В. ИТЭФ, 20 Декабря

2 ИТЭФ, 20 Декабря Содержание Получение сертификата и вход в систему Запуск заданий в ГРИД Работа с данными Информационные сервисы ГРИД

3 ИТЭФ, 20 Декабря на уровне института(минимум) WN Worker node, рабочие узлы, счетные компьютеры CEComputing Element, управление рабочими узлами LCFGконфигурационный компьютер SEStorage Element, управление дисками, лентами на уровне региона(Россия) PRO X Выдача сертификата (ключа шифрования) на текущую сессию(1сутки) MDSИнформационный сервер BDIIБазы данных RBResource Broker, задания пользователей идут через RB на уровне виртуальной организации VOMS Virtual organization management service, сервер виртуальной организации VOVirtual organization, сервер виртуальной организации на уровне пользователя UI User interface, доступ пользователя в ГРИД(LCG2) Роли компьютеров в ГРИД

4 ИТЭФ, 20 Декабря Получение сертификата и вход в систему

5 ИТЭФ, 20 Декабря Последовательность действий для работы в среде LCG2 Войти в компьютер UI User Interface uiitep.itep.ru sysadmin : adc005.cern.ch (afs) cern users Получить персональный цифровой сертификат Загрузить персональный сертификат в браузер Зарегистрироваться в соответствующей виртуальной организации Получить временный proxy сертификат

6 ИТЭФ, 20 Декабря ) Получить персональный цифровой сертификат: Для получения персонального цифрового сертификата необходимо в среде операционной системы с работающим ПО Globus(UI) запустить команду grid-cert-request и затем в возникшем при исполнении этой команды режиме диалога ввести требуемую информацию - в том числе, задать свой пароль, который в дальнейшем будет необходим для работы в grid-среде. После выполнения этой команды в домашнем каталоге создается новый каталог.globus c тремя файлами: usercert.pem – цифровой сертификат пользователя (первоначальный размер этого файла равен 0); usercert_request.pem – запрос на цифровой сертификат; userkey.pem - цифровой ключ пользователя. Запрос на получение сертификата следует подписать в Российском центре авторизации (на данный момент – это НИИЯФ МГУ ( ) ). По завершению процесса регистрации Вы получите по электронной почте свой цифровой сертификат, который следует сохранить в файле usercert.pem Последовательность действий для работы в среде LCG2 (2)

7 ИТЭФ, 20 Декабря Последовательность действий для работы в среде LCG2 (2) uiitep.globus]$ ls -l $HOME/.globus/u* -rw-r--r-- 1 kirichen lhcb 8142 Sep 6 15:09.globus/ usercert.pem -rw-r--r-- 1 kirichen lhcb 1301 Sep 2 11:24.globus/ usercert_request.pem -r kirichen lhcb 963 Sep 2 11:24.globus/ userkey.pem uiitep.globus]$ cat usercert_request.pem This is a Certificate Request file: It should be mailed to ========================================================================= Certificate Subject: /C=RU/O=DataGrid/OU=itep.ru/CN=Valeriy Kirichenko The above string is known as your user certificate subject, and it uniquely identifies this user. To install this user certificate, please save this message into the following file. /home/users/lhcb/kirichen/.globus/usercert.pem

8 ИТЭФ, 20 Декабря ) Загрузить персональный сертификат в браузер Поскольку в браузерах используется другой формат представления сертификата, прежде всего необходимо конвертировать цифровой сертификат из формата pem в формат PKCS12. Для этого в среде(UI) с работающим пакетом openssl следует выполнить команду вида: openssl pkcs12 -export -inkey userkey.pem -in usercert.pem -out my_cert.p12 –name "My \ certificate" где userkey.pem – путь к файлу, содержащему цифровой ключ (этот файл должен иметь разрешение на чтение только для владельца файла, т.е. только для Вас!); usercert.pem - путь к файлу, содержащему сертификат; my_cert.p12- путь к создаваемому файлу в формате PKCS12 ; «My certificate» - необязательное имя (оно может в дальнейшем быть использовно при выборе сертификата в браузере, если в браузер загружено несколько сертификатов) Подробные инструкции по загрузке сертификата, конвертированного в формат PKCS12 в различные типы браузеров (Mozilla, Netscape, Internet Explorer, Opera и Konqueror) содержатся на странице Последовательность действий для работы в среде LCG2 (3)

9 ИТЭФ, 20 Декабря Последовательность действий для работы в среде LCG2 (4) 4) Зарегистрироваться в соответствующей виртуальной организации virtual organization (VO) – виртуальная организация - объединение пользователей, организаций и ресурсов (компьютеров, ПО и данных) в новый административный домен в рамках grid- инфраструктуры На данный момент существует ряд виртуальных организаций, объединяющих пользователей как экспериментов LHC (т.е. ALICE, ATLAS, CMS, LHCb), так и других экспериментов физики высоких энергий (BaBAr, D0, Zeus, H1). Создана также тестовая виртуальная организация DTEAM (Grid (LCG) Deployment Group). Пользователь для вступления в соответствующую направлению его деятельности виртуальную организацию должен заполнить и отправить регистрационную форму, после чего получает письмо по электронной почте, подтверждающее факт получения регистрационной формы пользователя; затем, следуя указаниям в этом письме, подтверждает факт его получения; и, наконец, администратор виртуальной организации информирует собственно о факте регистрации в виртуальной организации. Теперь, став членом виртуальной организации, Вы можете войти на любую доступную Вам User Interface - машину - и начать работу в среде своей виртуальной организации!!!

10 ИТЭФ, 20 Декабря Последовательность действий для работы в среде LCG2 (5) временный(~1 сутки) proxy сертификат в компьютере UI команда grid-proxy-init Enter GRID pass phrase for this identity: Creating proxy Done Your proxy is valid until: Nov 20 15:49: User Proxy in /tmp/x509up_u [~]$ ls -l /tmp/x509* ( Nov 19) -rw aselivan lab Nov 18 16:52 /tmp/x509up_u rw lublev lab Nov 10 18:43 /tmp/x509up_u rw kirichen lhcb 3531 Nov 12 15:58 /tmp/x509up_u50001

11 ИТЭФ, 20 Декабря Запуск заданий в ГРИД

12 ИТЭФ, 20 Декабря Команды в компьютере UI? Доступные ресурсы: edg-job-list-match –vo lhcb test.jdl Job submit запуск задания edg-job-submit –vo lhcb -o jid test.jdl -r jid Job status статус задания edg-job-status -i jid Output выдача edg-job-get-output -i jid --dir. Команды для запуска заданий

13 ИТЭФ, 20 Декабря пример 1 jdl файл test.jdl Executable = "uname"; StdOutput = "std.out"; StdError = "std.err"; OutputSandbox = {"std.out","std.err"}; Arguments = "-a"; выходной файл std.out Linux wn56.itep.ru legacysmp #1 SMP Fri Feb 20 10:12:55 PST 2004 i686 unknown edg-job-submit -vo lhcb -r ceitep.itep.ru:2119/jobmanager-lcgpbs-short test.jdl

14 ИТЭФ, 20 Декабря Файлы wn-info.jdl и wn-info.sh wn-info.jdl Executable = "wn-info.sh"; Arguments = ""; Stdoutput = "stdout"; StdError = "stderr"; OutputSandbox = {"stderr","stdout"}; InputSandbox = {"wn-info.sh"}; wn-info.sh: #!/bin/sh /bin/uname -a echo "== Free Disk space and mount points ======" /bin/df -h echo "== Mounts Information =============" /bin/cat /proc/mounts пример 2

15 ИТЭФ, 20 Декабря пример 2 выдача ========= Free Disk space and mount points ============= Filesystem Size Used Avail Use% Mounted on /dev/hda2 73G 2.1G 67G 4% / /dev/hda1 38M 15M 21M 41% /boot lcfg.itep.ru:/opt/local/linux/7.3 45G 25G 18G 58% /export/local/linux/7.3 seitep.itep.ru:/home/alice_soft 57G 785M 52G 2% /opt/exp_software/alice seitep.itep.ru:/home/atlas_soft 57G 785M 52G 2% /opt/exp_software/atlas seitep.itep.ru:/home/lhcb_soft 57G 785M 52G 2% /opt/exp_software/lhcb seitep.itep.ru:/home/cms_soft 57G 785M 52G 2% /opt/exp_software/cms ========= mounts Information ============= Linux wn56.itep.ru legacysmp #1 SMP Fri Feb 20 10:12:55 PST 2004 i686 unknown seitep.itep.ru:/home/alice_soft /opt/exp_software/alice nfs rw,v3,rsize=8192,wsize=8192,soft,intr,udp,lock,addr=seitep.itep.ru 0 0

16 ИТЭФ, 20 Декабря Работа с данными

17 ИТЭФ, 20 Декабря Каталог копий файлов данных : Replica Management System (RMS) указатели на все файлы и копии содержатся в RC соответствие Logical File Names и Physical File Names (LFN PFN) Replica Manager ( edg-rm ) инструмент пользователя для работы с данными edg-rm --vo= [ ] доступны: edg-rm --vo=lhcb printInfo распечатывает список SEs: lcg-* : lcg-cr, lcg-lr, lcg-del, lcg-rep, lcg-cp...

18 ИТЭФ, 20 Декабря Создание и регистрация в каталоге: lcg-cr.... edg-rm –-vo=lhcb copyAndRegisterFile \ file://`pwd`/ -l lfn: \ -d file:// Создание реплики(копии) файла: lcg-rep... edg-rm --vo=lhcb replicateFile \ lfn: -d Список реплик: lcg-lr edg-rm --vo=lhcb listReplicas lfn: список опций: listBestfile, getBestFile, getAccesCost, unregister, deleteFile,... (edg-rm -h)

19 ИТЭФ, 20 Декабря командная строка в UI lcg-cr --vo=lhcb file://`pwd`/test.jdl -l mytest.jdl -d seitep.itep.ru guid :51ac700c-191e e-26d142d6394c lcg-lr --vo=lhcb lfn:mytest.jdl sfn ://seitep.itep.ru/ storage/for/LCG/lhcb/generated/ /file7cc188fd-c5b4-4f1f-b326-e9cd6fbc5f73 lcg-rep --vo=lhcb lfn:mytest.jdl -d lcg13.sinp.msu.ru lcg-lr --vo=lhcb lfn:mytest.jdl sfn: //lcg13.sinp.msu.ru/ storage/lhcb/generated/ /file4430a62d-9aed-47d ad9b3a4d9d sfn: //seitep.itep.ru/ storage/for/LCG/lhcb/generated/ /file7cc188fd-c5b4-4f1f-b326-e9cd6fbc5f73 lcg-del -a --vo=lhcb lfn:mytest.jdl lcg-lr --vo=lhcb lfn:mytest.jdl lcg_lr: No such file or directory

20 ИТЭФ, 20 Декабря Передача данных в задание : файлы 10Gb => Job to the Data:.jdl файл: Executable = "startscript.sh"; Arguments = ""; Stdoutput = "stdout"; StdError = "stderror"; InputSandbox = {"startscript.sh"}; OutputSandbox = {"stdout","stderror"}; InputData = {"lfn:meintest.txt"}; DataAccessProtocol = {"srm","gsiftp","sfn"}; интерактив

21 ИТЭФ, 20 Декабря пример 1 #!/bin/sh OUT="valeratest.dat" LFN="lfn:$OUT" SE="seitep.itep.ru" echo "===== Creating (not too) large file ======" /bin/dd if=/dev/zero of=$OUT bs=1 count=16k echo -e "\n\n===== registering file in RC ======" /opt/lcg/bin/ lcg-cr --vo=lhcb file://`pwd`/$OUT -l $LFN -d $SE echo -e "\n\n===== there it is: ======" /opt/lcg/bin/ lcg-lr --vo=lhcb $LFN echo -e "\n\n===== del file and replicas: ======" /opt/lcg/bin/ lcg-del --vo=lhcb -a $LFN

22 ИТЭФ, 20 Декабря пример 1 выдача stdout : ===== Creating (not too) large file ====== ===== registering file in RC ====== guid:059898d cb f73bf6766 ===== there it is: ====== sfn://seitep.itep.ru/storage/for/LCG/lhcb/generated/ /file76cd f6-4d9b-a7f8-c8df8a6eee29 ===== del file and replicas: ====== stderr : records in records out

23 ИТЭФ, 20 Декабря Информационные сервисы ГРИД

24 ИТЭФ, 20 Декабря Monitoring and Discovery Service (MDS) Компонент Globus на основе базы данных LDAP Команда: ldapsearch -h ceitep.itep.ru -p 2135 \ -x -b "mds-vo-name=local,o=grid" Имя сервера: любое CE из списка edg-job-list-match SE специализированные информационные сервера GIIS, BDII Информация - MDS Содержание

25 ИТЭФ, 20 Декабря пример 1 сисадмина: [~]$ ldapsearch -h ceitep.itep.ru -p 2135 \ -x -b "mds-vo-name=local,o=grid"|grep sysAdminContact: userSupportContact: siteSecurityContact:

26 ИТЭФ, 20 Декабря пример 2 свободное место на дисках SE для вашей VO: [~]$ ldapsearch -h seitep.itep.ru -p 2135 \ -x -b "mds-vo-name=local,o=grid" \ GlueSAStateAvailableSpace GlueSAStateUsedSpace dn: GlueSARoot=cms:cms,GlueSEUniqueID=seitep.itep.ru, Mds-Vo-name=local,o=grid GlueSAStateAvailableSpace: в кБайтах GlueSAStateUsedSpace: в кБайтах

27 ИТЭФ, 20 Декабря пример 3 пользователи из России VO=lhcb: [~]$ ldapsearch -x -H ldap://grid-vo.nikhef.nl \ -b ou=People,o=lhcb,dc=eu-datagrid,dc=org \ description |grep \.ru description: subject= /C=RU/O=DataGrid/OU=itep.ru/CN=Valeriy Kirichenko description: subject= /C=RU/O=DataGrid/OU=itep.ru/CN=Mikhail Prokudin description: subject= /C=RU/O=DataGrid/OU=itep.ru/CN=Alexei Morozov

28 ИТЭФ, 20 Декабря Информация - RGMA RGMA: Relational Grid Monitoring Architecture реляционные базы данных SQL бесплатные MySQL, PostgreSQL < 100Gb быстрый и удобный поиск, www интерфейс WWW сервера в интернете: для России GOC тест-зона

29 ИТЭФ, 20 Декабря Site: itep.ru power CPU #20 load5min 0.2 Computing Element ID run jobs wait jobs free slots total slots max run ERT ceitep.itep.ru:2119/job manager-lcgpbs-cms :0:0 ceitep.itep.ru:2119/job manager-lcgpbs-short :0:0 Storage Element ID - Storage Space ID avail space used space seitep.itep.ru - cms:cms Gb5.3 Gb пример 2'