Catatan dari slide Service Computing II Architecting Cost-Efficient Cloud Services & Building Your Own Cloud Stack.pptx (judul slide: “Service Computing Experiment II: Load Analysis & Cost Efficiency for Building Your Own Cloud”, Rendy Maulana Akbar). Fokusnya: cara mengukur beban, membaca data infrastruktur, dan menghitung efisiensi biaya layanan cloud buatan sendiri. Mindset, daftar open source stack, dan komponen biaya dasar sudah dibahas di 18_Introduction to Cloud Computing and Cost Engineering dan tidak diulang detailnya di sini. Lanjutan komersialisasinya ada di 20_Commercializing Your Own Cloud Service.

Struktur dan Tujuan

Struktur materi: pembukaan (mindset dan alasan eksperimen krusial), konsep load analysis, metodologi pengukuran, cost breakdown dan TCO, cost efficiency metrics, studi kasus real (harga server, listrik Indonesia, bandwidth DC), membaca hasil monitoring (Grafana/Prometheus), menyusun Cost Efficiency Report, dampak ke pricing SaaS/hosting, arahan eksperimen kelompok, diskusi.

Obyektif:

  • Arsitektur: mendesain vendor-neutral cloud stack dari hardware rack, network, storage, OS, hingga orchestrator; memahami layanan-layanan sebagai service ecosystem (prinsip SOA dan Service Computing).
  • Cost engineering lanjutan: menghitung biaya per request, per VM, per GB storage, per Gbps bandwidth, serta break-even dan margin.
  • Engineering plus management mindset: keputusan arsitektur berbasis data dan biaya (economic-driven architecture); paham implikasi teknis dan finansial.
  • Entrepreneurship: mendesain layanan di cloud kecil-menengah yang realistis untuk startup mahasiswa.

Slide juga mengulang “kenapa penting”, “perbaikan mindset”, dan tabel “menghindari lock vendor” yang sama dengan 18_Introduction to Cloud Computing and Cost Engineering.

Load Analysis

Load Analysis adalah proses membaca: CPU usage, memory usage, disk IOPS, disk throughput, network throughput, latency dan response time, serta peak hour patterns.

Tools utama (contoh): Prometheus, Grafana atau MRTG, JMeter atau k6 (load test), htop, iostat, iftop, Node exporter.

Contoh metodologi pengukuran beban (lima langkah):

  1. Tentukan skenario uji (100 user, 500 user, dst).
  2. Jalankan beban (load test).
  3. Ambil metrik CPU, RAM, IOPS, latency.
  4. Catat titik kritis (bottleneck).
  5. Catat konsumsi daya server.

Contoh beban riil dalam industri: sistem pembayaran 1000-5000 Transaction Per Second; SaaS edukasi 100-300 active sessions; website UMKM 20-200 request per hari; hosting entry dengan konsumsi RAM kurang dari 300 MB per akun.

Bottleneck yang umum: RAM habis (paling umum), IOPS bottleneck, CPU spike, network saturation, slow DB queries, dan koding yang kurang efisien.

Membaca Monitoring

Contoh dashboard Grafana (lingkungan VMware): panel Hypervisor CPU/Memory/Net Usage, vCenter CPU/RAM, serta per-VM: CPU usage, memory usage, CPU %READY, network usage, dan disk performance (read/write IOPS dan block latency). Slide juga menampilkan grafik link jaringan (mis. link metro 500 Mbps dan 1 Gbps antar kota) yang memperlihatkan pola beban harian: tertinggi sore sampai malam dan terendah dini hari.

Grafik traffic dari nms.iix.net.id (Indonesia Internet Exchange) untuk beberapa peer (Facebook, Huawei Cloud, Kaopu Cloud, Akamai) memperlihatkan pola yang sama: puncak sekitar sore sampai malam (grafik hijau = traffic masuk, biru = keluar) dan lembah sekitar pukul 4 pagi. Pola harian inilah yang dimaksud peak hour patterns.

Membaca Grafana (apa yang harus dilihat):

  • CPU “flatline” berarti saturasi.
  • RAM “plateau” berarti leak atau oversubscribe.
  • Disk IOPS peak.
  • Network spikes.
  • Latency lebih dari 500 ms berarti bottleneck.

Dari monitoring ke keputusan teknik:

TemuanKeputusan
Bottleneck CPUScale core atau pecah service
Bottleneck RAMOptimasi aplikasi, tambah swap
Bottleneck IOPSNVMe, atau ubah DB index
Bottleneck bandwidthCDN atau peering
Masalah latencyCaching

Cost Breakdown dan TCO

Dari mana biaya cloud muncul:

  • CapEx: server Rp 45-120 juta, switch Rp 10-80 juta, rack Rp 20-40 juta.
  • OpEx: listrik server, listrik cooling, rack colocation, internet transit, maintenance.

Rumus TCO yang dipakai industri (versi slide ini): TCO = (CapEx ÷ umur server) + OpEx bulanan. Contoh: server Rp 60 juta, umur 3 tahun, depresiasi Rp 20 juta per tahun, OpEx Rp 4 juta per bulan; slide menulis total 3 tahun = Rp 120 juta.

Catatan kritis: angka contoh ini tidak cocok dengan rumusnya. Rumusnya mencampur CapEx per tahun dengan OpEx per bulan, dan bila OpEx Rp 4 juta per bulan dijumlahkan 36 bulan hasilnya Rp 144 juta (ditambah CapEx Rp 60 juta jadi Rp 204 juta), bukan Rp 120 juta. Slide sebelumnya (18_Introduction to Cloud Computing and Cost Engineering) menulis TCO = CapEx + OpEx − Depresiasi dengan angka total yang sama (≈ Rp 120 juta). Saat ujian, tulis rumusnya sesuai yang diminta soal dan selalu samakan satuan waktunya.

Cost efficiency metrics: cost per 1000 requests, cost per GB storage, cost per VM instance, cost per user active, energy cost per transaction.

Konversi beban ke biaya (contoh): CPU usage 30% sekitar 135 W = 0,135 kW; per bulan 0,135 × 730 × 2.000 = Rp 197.000. Traffic egress 30 TB sekitar Rp 4,5 juta per bulan (kisaran DC Indonesia), atau beli bandwidth unmetered.

Cost Efficiency Report dan Pricing

Isi laporan: arsitektur, load test result, bottleneck, resource consumption detail, cost calculation, recommendation scaling, pricing suggestion.

Contoh pricing dari hasil uji beban: 1 VM dengan cost per bulan Rp 25.000 dan resource limit 200 MB RAM dan 1 vCPU; margin 40% maka dijual Rp 35.000-40.000. (Perhatikan: Rp 25.000 × 1,4 = Rp 35.000 adalah markup 40% atas biaya; bila margin 40% dihitung dari harga jual, harga ≈ Rp 41.700. Slide memberi rentang Rp 35.000-40.000.)

Tugas Kelompok (Eksperimen 2)

Deliverables: load test minimal 3 level beban; screenshot monitoring dashboard; data resource consumption; cost formula; Cost Efficiency Report (PDF); penetapan harga. Project deliverables dan checklist pengujian: apakah server stabil, apakah ada spike tidak wajar, apakah IOPS cukup, apakah biaya masuk akal, apakah SLA masuk akal untuk dijual. Diskusi kelas 20-30 menit.

Sumber

  • Slide “Service Computing Experiment II: Load Analysis & Cost Efficiency”, Rendy Maulana Akbar, IF4052 Komputasi Layanan.

Flashcard

flashcards Apa yang dibaca dalam Load Analysis? :: CPU usage, memory usage, disk IOPS, disk throughput, network throughput, latency dan response time, serta peak hour patterns. Sebutkan lima langkah metodologi pengukuran beban :: Tentukan skenario uji (100 user, 500 user, dst), jalankan load test, ambil metrik CPU/RAM/IOPS/latency, catat bottleneck, catat konsumsi daya server. Apa bottleneck paling umum pada layanan cloud menurut slide? :: RAM habis (paling umum), disusul IOPS bottleneck, CPU spike, network saturation, slow DB queries, dan koding kurang efisien. Apa arti CPU flatline, RAM plateau, dan latency di atas 500 ms pada Grafana? :: CPU flatline = saturasi; RAM plateau = memory leak atau oversubscribe; latency di atas 500 ms = bottleneck. Bagaimana keputusan teknik dari tiap jenis bottleneck? :: CPU: scale core atau pecah service; RAM: optimasi aplikasi atau tambah swap; IOPS: NVMe atau ubah DB index; bandwidth: CDN atau peering; latency: caching. Tuliskan rumus TCO versi slide Service Computing II beserta contohnya :: TCO = (CapEx ÷ umur server) + OpEx bulanan; contoh server Rp 60 juta umur 3 tahun (depresiasi Rp 20 juta per tahun) dan OpEx Rp 4 juta per bulan; slide menyebut total 3 tahun Rp 120 juta, tetapi angkanya tidak konsisten dengan rumus bila satuan waktu disamakan. Sebutkan metrik cost efficiency yang diukur :: Cost per 1000 requests, cost per GB storage, cost per VM instance, cost per user active, dan energy cost per transaction. Hitung biaya listrik bulanan dari CPU usage 30% (sekitar 135 W) pada tarif Rp 2.000 per kWh :: 0,135 kW × 730 jam × Rp 2.000 ≈ Rp 197.000 per bulan. Apa isi Cost Efficiency Report? :: Arsitektur, load test result, bottleneck, resource consumption detail, cost calculation, recommendation scaling, dan pricing suggestion. Pada contoh pricing, apa selisih markup 40% dan margin 40%? :: Cost Rp 25.000 dengan markup 40% atas biaya dijual Rp 35.000; margin 40% dari harga jual menghasilkan harga sekitar Rp 41.700 (slide menyebut rentang Rp 35.000-40.000).