Compute4PUNCH & Storage4PUNCH: Infrastruktur Teragih untuk Fizik Zarah, Astro- dan Nuklear

1. Pengenalan & Gambaran Keseluruhan

PUNCH4NFDI (Zarah, Alam Semesta, Nuklei dan Hadron untuk Infrastruktur Data Penyelidikan Kebangsaan) ialah konsortium utama Jerman yang mewakili kira-kira 9,000 saintis dari fizik zarah, astro-, astro-zarah, hadron dan nuklear. Dibiayai oleh DFG (Yayasan Penyelidikan Jerman), matlamat utamanya ialah untuk mewujudkan platform data sains teragih, FAIR (Boleh Ditemui, Boleh Diakses, Boleh Saling Operasi, Boleh Diguna Semula). Platform ini bertujuan untuk menyediakan akses bersatu kepada pelbagai sumber pengkomputeran dan storan heterogen yang tersebar di institusi yang menyertai, menangani cabaran biasa menganalisis jumlah data yang berkembang secara eksponen dengan algoritma kompleks.

Konsep Compute4PUNCH dan Storage4PUNCH ialah tiang teknikal yang direka untuk menggabungkan sumbangan dalam bentuk sumber Pengkomputeran Berprestasi Tinggi (HPC), Pengkomputeran Berbilangan Tinggi (HTC) dan Awan, serta sistem storan berdasarkan teknologi seperti dCache dan XRootD.

Konsortium Secara Ringkas

Saintis Diwakili: ~9,000 PhD
Institusi Utama: Persatuan Max Planck, Persatuan Leibniz, Persatuan Helmholtz
Pembiayaan Awal: 5 tahun oleh DFG
Cabaran Teknikal Teras: Menggabungkan sistem operasi heterogen yang sedia ada dengan gangguan minimum.

2. Infrastruktur Pengkomputeran Heterogen Teragih (Compute4PUNCH)

Konsep Compute4PUNCH menangani cabaran menyediakan akses lancar kepada gabungan sumber pengkomputeran yang disediakan komuniti dengan seni bina, OS, timbunan perisian dan sistem pengesahan yang berbeza.

2.1 Seni Bina Teras & Cabaran Integrasi

Prinsip reka bentuk asas ialah untuk mencipta sistem kelompok lapisan atas yang terletak di atas kolam sumber sedia ada. Pendekatan ini meminimumkan perubahan wajib untuk pembekal sumber, satu keperluan kritikal kerana sumber ini sudah dikongsi dan beroperasi. Heterogeniti diurus bukan dengan menyeragamkan infrastruktur asas, tetapi dengan membina lapisan abstraksi pintar di atasnya.

2.2 Teknologi Utama: HTCondor, COBalD/TARDIS, CVMFS

HTCondor: Berfungsi sebagai sistem kelompok lapisan atas teragih, menguruskan penyerahan kerja, penjadualan dan pelaksanaan merentasi sumber teragih.
COBalD/TARDIS: Bertindak sebagai meta-penjadual sumber. Ia secara dinamik menemui dan mengintegrasikan sumber ke dalam kolam HTCondor, menjadikan persekutuan itu adaptif dan telus. TARDIS "juruterbang" menuntut slot pada sumber jauh, membolehkan kerja HTCondor berjalan.
Sistem Fail Mesin Maya CERN (CVMFS): Menyelesaikan masalah persekitaran perisian. Ia menyampaikan repositori perisian berskala, baca sahaja dan dicache kepada semua nod pekerja, memastikan persekitaran aplikasi konsisten tanpa pemasangan tempatan.
Teknologi Kontena: Digunakan bersama CVMFS untuk merangkumi kebergantungan kompleks dan menyediakan persekitaran masa jalan terpencil dan boleh dihasilkan semula.

2.3 Akses Pengguna: JupyterHub & AAI Berasaskan Token

Titik masuk pengguna direka untuk kemudahan penggunaan:

JupyterHub: Menyediakan antara muka pengkomputeran interaktif berasaskan web, sesuai untuk analisis penerokaan dan pembuatan prototaip.
Nod Log Masuk Tradisional: Memenuhi pengguna dengan aliran kerja baris arahan yang mantap.
Infrastruktur Pengesahan dan Pemberian Kuasa Berasaskan Token (AAI): Menyediakan kaedah piawai dan selamat untuk mengakses sumber pengkomputeran dan storan merentasi sempadan institusi, asas penting untuk persekutuan.

3. Infrastruktur Storan Teragih (Storage4PUNCH)

Selari dengan pengkomputeran, sumber storan digabungkan untuk menyediakan lapisan akses data bersatu.

3.1 Persekutuan Storan dengan dCache & XRootD

Landskap storan terutamanya terdiri daripada sistem yang menggunakan teknologi dCache atau XRootD, kedua-duanya mantap dalam Fizik Tenaga Tinggi (HEP). Storage4PUNCH menggunakan kaedah persekutuan yang terbukti dalam komuniti HEP yang lebih luas untuk mencipta ruang nama dan protokol akses biasa, membolehkan data diletakkan dan diambil secara telus dari mana-mana elemen storan yang menyertai.

3.2 Pengecasan dan Integrasi Metadata

Projek ini menilai teknologi sedia ada untuk:

Pengecasan: Untuk mengurangkan kependaman dan trafik rangkaian kawasan luas dengan menyimpan data yang kerap diakses lebih dekat dengan sumber pengkomputeran.
Pengendalian Metadata: Bertujuan untuk integrasi lebih mendalam untuk membolehkan penemuan dan pengurusan data yang cekap berdasarkan atribut fail, bukan hanya lokasi.

Ini menggerakkan persekutuan melebihi akses data mudah ke arah pengurusan data pintar.

4. Pelaksanaan Teknikal & Status Prototaip

Konsep ini sedang dalam pembangunan aktif. Prototaip yang mengintegrasikan set awal sumber pengkomputeran dan storan telah ditubuhkan. Sumbangan tersebut menyebut "pengalaman pertama dengan aplikasi saintifik dilaksanakan pada prototaip yang tersedia," menunjukkan aliran kerja pengguna awal sedang diuji untuk mengesahkan seni bina dan mengenal pasti halangan praktikal. Persekitaran gabungan ini bersedia untuk membolehkan penyelidik melaksanakan tugas analisis yang memerlukan banyak sumber merentasi infrastruktur teragih.

5. Intipati Teras & Perspektif Penganalisis

Intipati Teras

PUNCH4NFDI tidak membina superkomputer baharu; ia merekayasa lapisan persekutuan untuk heterogeniti pentadbiran dan politik. Inovasi sebenar ialah kekangan pragmatik "gangguan minimum" pada sistem sedia ada. Ini bukan reka bentuk dari awal seperti kluster Borg atau Omega Google, tetapi lapisan diplomatik dan teknikal untuk sumber warisan yang berdaulat. Kejayaannya kurang bergantung pada kebaharuan teknikal mentah dan lebih pada tadbir urus dan penerimaan—pengajaran yang digema dalam perjuangan dan kejayaan Awan Sains Terbuka Eropah (EOSC).

Aliran Logik

Logiknya elegan secara rekursif: 1) Terima heterogeniti sebagai kekangan utama, 2) Gunakan pelekat matang yang diuji komuniti (HTCondor, dCache) untuk membina lapisan atas, 3) Bergantung pada penghantaran persekitaran deklaratif (CVMFS/kontena) untuk memisahkan perisian dari infrastruktur, dan 4) Sediakan titik masuk mudah dan moden (JupyterHub) untuk menyembunyikan kerumitan asas. Aliran ini mengutamakan kebolehlaksanaan persekutuan berbanding prestasi tempatan optimum, pertukaran yang diperlukan untuk kerjasama antara institusi.

Kekuatan & Kelemahan

Kekuatan: Penggunaan perisian tengah HEP yang teruji (HTCondor, XRootD) mengurangkan risiko teknikal dengan ketara. Model lapisan atas ini bijak secara politik, menurunkan halangan kemasukan untuk pembekal sumber. CVMFS ialah langkah bijak untuk kebolehportingan perisian, titik sakit kronik dalam persekitaran heterogen.

Kelemahan & Risiko: Meta-penjadual (COBalD/TARDIS) menambah lapisan kerumitan dan potensi titik kegagalan tunggal. Ramalan prestasi akan terjejas berbanding sistem homogen berdedikasi—kependaman rangkaian dan pertikaian sumber menjadi pemboleh ubah liar. Dokumen ini senyap tentang model kos dan kemampanan melebihi pembiayaan DFG 5 tahun, bendera merah utama untuk daya maju jangka panjang, seperti yang dilihat dalam projek e-infrastruktur lain yang terhenti selepas fasa perintis.

Wawasan Boleh Tindak

Untuk konsortium lain: Salin model tadbir urus, bukan hanya timbunan teknologi. Mulakan dengan AAI ringan dan satu kes penggunaan yang menarik. Untuk PUNCH4NFDI sendiri: Segera terbitkan data penanda aras membandingkan hasil kerja teragih vs. tempatan dan kependaman akses data. Kembangkan model keahlian dan perkongsian kos berperingkat yang jelas untuk fasa pasca geran. Terokai integrasi dengan letusan awan komersial (AWS, GCP) melalui lapisan atas yang sama untuk mengendalikan permintaan puncak, mengikuti laluan projek seperti eksperimen CMS di AWS.

6. Butiran Teknikal & Kerangka Matematik

Masalah penjadualan sumber dalam persekutuan sedemikian boleh diabstrakkan. Biarkan $R = \{r_1, r_2, ..., r_n\}$ menjadi set sumber heterogen, setiap satu dengan sifat dinamik seperti teras tersedia $C_i(t)$, ingatan $M_i(t)$ dan perkakasan khusus (cth., GPU). Biarkan $J = \{j_1, j_2, ..., j_m\}$ menjadi set kerja dengan keperluan $\text{req}(j_k)$.

Objektif meta-penjadual ialah fungsi pemetaan $\mathcal{M}: J \rightarrow R$ yang memaksimumkan fungsi utiliti $U$, selalunya jumlah wajaran kecekapan dan keadilan, sambil menghormati kekangan:

$$ \text{Maksimumkan } U = \alpha \cdot \text{Penggunaan} + \beta \cdot \text{Keadilan} - \gamma \cdot \text{Kos}_{\text{perpindahan-data}} $$ $$ \text{dengan syarat: } \forall r_i, \sum_{j_k \in \mathcal{M}^{-1}(r_i)} \text{req}_{\text{teras}}(j_k) \leq C_i(t) $$

Istilah Kos_{perpindahan-data} adalah kritikal dalam persekitaran storan teragih, mengenakan penalti pada jadual yang memerlukan pergerakan set data besar merentasi rangkaian kawasan luas. Ini menjadikan masalah ini berbeza daripada penjadualan kluster klasik.

AAI berasaskan token boleh dimodelkan sebagai sistem kawalan akses berasaskan keupayaan. Token $\tau$ yang dikeluarkan kepada pengguna $u$ untuk sumber $r$ ialah pernyataan ditandatangani secara kriptografi: $\tau = \text{Tandatangan}_{\text{AAI}}(u, r, \text{skop}, \text{tempoh luput})$. Ini menyahpusatkan keputusan pemberian kuasa kepada pembekal sumber, yang hanya perlu mengesahkan tandatangan token.

7. Keputusan Eksperimen & Penerangan Carta

Walaupun PDF tidak termasuk keputusan kuantitatif khusus, "pengalaman pertama dengan aplikasi saintifik" yang dinyatakan membayangkan ujian integrasi awal. Kita boleh konseptualkan penunjuk prestasi utama (KPI) yang harus diukur:

Carta Prestasi Konseptual: Pelaksanaan Kerja Teragih vs. Tempatan

Jenis Carta: Carta garis paksi berganda.

Paksi-X: Masa (garis masa projek atau kelompok kerja berturut-turut).

Paksi-Y Kiri (Bar): Kadar Kejayaan Kerja (%). Ini akan menunjukkan peratusan kerja yang berjaya diselesaikan apabila diserahkan kepada sistem teragih berbanding kluster tempatan yang stabil. Fasa prototaip awal mungkin menunjukkan kadar kejayaan teragih yang lebih rendah disebabkan isu integrasi (kegagalan pengesahan, ketidakpadanan persekitaran perisian, masalah rangkaian), menumpu dari masa ke masa.

Paksi-Y Kanan (Garis): Purata Masa Pusing Ganti Kerja (jam). Metrik ini biasanya lebih tinggi untuk sistem teragih disebabkan tambahan atas penjadualan, kependaman pentas data dan potensi beratur merentasi pelbagai backend bebas. Matlamatnya adalah untuk meminimumkan jurang ini. Carta akan menggambarkan pertukaran antara peningkatan akses sumber (pelaksanaan berjaya lebih banyak/kerja besar) dan penalti masa yang dibayar untuk persekutuan.

Wawasan Utama dari Carta: Nilai persekutuan bukan dalam mengalahkan prestasi tempatan tetapi dalam membolehkan beban kerja yang sebaliknya mustahil disebabkan kekangan sumber tempatan, walaupun ia mengambil masa lebih lama. Cerun garis masa pusing ganti teragih menurun dari masa ke masa menunjukkan pematangan pengoptimuman dalam meta-penjadual.

8. Kerangka Analisis: Contoh Aliran Kerja Konseptual

Memandangkan PDF tidak termasuk kod, berikut ialah penerangan aliran kerja berasaskan YAML konseptual yang mungkin digunakan oleh penyelidik untuk mentakrifkan kerja analisis untuk persekutuan Compute4PUNCH/Storage4PUNCH. Ini menyerlahkan sifat deklaratif sistem sasaran.

# punch_analysis_workflow.yaml
aliran_kerja:
  nama: "punch4nfdi_federated_analysis"
  pengguna: "researcher@uni-example.de"
  token_aai: "${PUNCH_AAI_TOKEN}"  # Disuntik dari persekitaran

komputer:
  keperluan:
    teras: 8
    ingatan: "32GB"
    masa_jalan: "48h"
    timbunan_perisian: "punchenv/analysis-suite:latest"  # Diselesaikan melalui CVMFS/Kontena
    keutamaan: "sederhana"

storan:
  data_input:
    - protokol: "root"
      laluan: "root://storage-a.punch.de//experiment/run2023/data_*.root"
      pra_ambil_cache: benar  # Petunjuk kepada lapisan cache Storage4PUNCH
  data_output:
    - protokol: "s3"
      titik_hujung: "https://object-store.punch.de"
      laluan: "/results/${WORKFLOW_ID}/histograms.root"

pelaksanaan:
  titik_masuk: "jupyterlab"  # Pilihan: Mulakan sesi interaktif
  # ATAU
  arahan_kelompok: "python /analysis/run_full_chain.py --input ${INPUT_PATH} --output ${OUTPUT_PATH}"

provenans:
  tahap_log: "terperinci"
  eksport_metadata_ke: "meta.punch.de/catalog"

Spesifikasi fiksyen ini menunjukkan bagaimana pengguna menyatakan apa yang mereka perlukan (sumber, perisian, data) tanpa menentukan di mana ia berjalan. Perisian tengah persekutuan (HTCondor, TARDIS, persekutuan storan) mentafsir spesifikasi ini, mencari sumber yang sesuai, mementaskan data, menyuntik persekitaran perisian dan melaksanakan kerja, melaporkan log dan output ke lokasi yang ditentukan.

9. Aplikasi Masa Depan & Peta Jalan Pembangunan

Infrastruktur PUNCH4NFDI meletakkan asas untuk beberapa aplikasi lanjutan:

Analisis Astrofizik Rentas Eksperimen/Pelbagai Pembawa: Gabungkan data dari pengesan zarah, teleskop dan pemerhati gelombang graviti dengan lancar dalam satu aliran kerja analisis, memanfaatkan sumber pengkomputeran khusus berbeza (ladang GPU untuk analisis imej, HTC untuk pemprosesan peristiwa zarah).
Latihan Model AI/ML pada Skala: Kolam sumber teragih boleh menyediakan kluster besar sementara secara dinamik untuk melatih model kompleks pada set data teragih tanpa memusatkan data, selaras dengan paradigma pembelajaran teragih.
Penerokaan dan Visualisasi Data Interaktif: Menggandingkan antara muka JupyterHub dengan backend visualisasi jauh berprestasi tinggi, dipercepatkan GPU untuk data simulasi berskala besar.
Integrasi dengan E-Infrastruktur Luaran: Seni bina lapisan atas secara konseptual serasi dengan menyambung ke sumber skala Eropah seperti Awan Sains Terbuka Eropah (EOSC) atau sistem HPC PRACE, bertindak sebagai pintu masuk Jerman.

Keutamaan Peta Jalan Pembangunan:

Kekukuhan & Pengeluaran: Beralih dari prototaip ke perkhidmatan boleh dipercayai 24/7 dengan SLA.
Penempatan Data Pintar: Meningkatkan meta-penjadual dengan kesedaran kesetempatan data untuk meminimumkan $\text{Kos}_{\text{perpindahan-data}}$.
Katalog Metadata Lanjutan: Melaksanakan sistem metadata berkuasa, boleh dicari di atas Storage4PUNCH untuk membolehkan penemuan data berdasarkan sifat fizik.
Metrik Pengkomputeran Hijau: Mengintegrasikan alat untuk memantau dan mengoptimumkan kecekapan tenaga merentasi sumber teragih, kebimbangan yang semakin meningkat untuk pengkomputeran berskala besar.

10. Rujukan

Konsortium PUNCH4NFDI. (2024). "PUNCH4NFDI - Particles, Universe, NuClei and Hadrons for the NFDI." Laman Web Rasmi. https://www.punch4nfdi.de/
Thain, D., Tannenbaum, T., & Livny, M. (2005). "Distributed computing in practice: the Condor experience." Concurrency and Computation: Practice and Experience, 17(2-4), 323-356. (Kertas asas HTCondor).
Blomer, J., et al. (2011). "The CernVM File System: A scalable, read-only, software distribution service." Journal of Physics: Conference Series, 331(5), 052004. (Butiran mengenai CVMFS).
Suruhanjaya Eropah. (2024). "European Open Science Cloud (EOSC)." https://eosc-portal.eu/ (Untuk perbandingan cabaran persekutuan pada skala EU).
Verma, A., et al. (2015). "Large-scale cluster management at Google with Borg." Proceedings of the European Conference on Computer Systems (EuroSys). (Membandingkan pengurusan kluster dari awal dengan lapisan atas persekutuan).
Kolaborasi CMS. (2021). "CMS Computing Operations in the AWS Cloud." EPJ Web of Conferences, 251, 02006. (Contoh model awan/persekutuan hibrid).
Prinsip Data FAIR. (2016). FORCE11. https://www.go-fair.org/fair-principles/ (Prinsip panduan untuk platform data PUNCH).