yardstick/benchmark/scenarios/compute/lmbench.py

   1 ##############################################################################
   2 # Copyright (c) 2015 Ericsson AB and others.
   3 #
   4 # All rights reserved. This program and the accompanying materials
   5 # are made available under the terms of the Apache License, Version 2.0
   6 # which accompanies this distribution, and is available at
   7 # http://www.apache.org/licenses/LICENSE-2.0
   8 ##############################################################################
   9 import pkg_resources
  10 import logging
  11 import json
  12
  13 import yardstick.ssh as ssh
  14 from yardstick.benchmark.scenarios import base
  15
  16 LOG = logging.getLogger(__name__)
  17
  18
  19 class Lmbench(base.Scenario):
  20     """Execute lmbench memory read latency or memory bandwidth benchmark in a host
  21
  22     Parameters
  23         test_type - specifies whether to measure memory latency or bandwidth
  24             type:       string
  25             unit:       na
  26             default:    "latency"
  27
  28     Parameters for memory read latency benchmark
  29         stride - number of locations in memory between starts of array elements
  30             type:       int
  31             unit:       bytes
  32             default:    128
  33         stop_size - maximum array size to test (minimum value is 0.000512)
  34             type:       float
  35             unit:       megabytes
  36             default:    16.0
  37
  38         Results are accurate to the ~2-5 nanosecond range.
  39
  40     Parameters for memory bandwidth benchmark
  41         size - the amount of memory to test
  42             type:       int
  43             unit:       kilobyte
  44             default:    128
  45         benchmark - the name of the memory bandwidth benchmark test to execute.
  46         Valid test names are rd, wr, rdwr, cp, frd, fwr, fcp, bzero, bcopy
  47             type:       string
  48             unit:       na
  49             default:    "rd"
  50         warmup - the number of repetitons to perform before taking measurements
  51             type:       int
  52             unit:       na
  53             default:    0
  54     more info http://manpages.ubuntu.com/manpages/trusty/lmbench.8.html
  55     """
  56     __scenario_type__ = "Lmbench"
  57
  58     LATENCY_BENCHMARK_SCRIPT = "lmbench_latency_benchmark.bash"
  59     BANDWIDTH_BENCHMARK_SCRIPT = "lmbench_bandwidth_benchmark.bash"
  60     LATENCY_CACHE_SCRIPT = "lmbench_latency_for_cache.bash"
  61
  62     def __init__(self, scenario_cfg, context_cfg):
  63         self.scenario_cfg = scenario_cfg
  64         self.context_cfg = context_cfg
  65         self.setup_done = False
  66
  67     def setup(self):
  68         """scenario setup"""
  69         self.bandwidth_target_script = pkg_resources.resource_filename(
  70             "yardstick.benchmark.scenarios.compute",
  71             Lmbench.BANDWIDTH_BENCHMARK_SCRIPT)
  72         self.latency_target_script = pkg_resources.resource_filename(
  73             "yardstick.benchmark.scenarios.compute",
  74             Lmbench.LATENCY_BENCHMARK_SCRIPT)
  75         self.latency_for_cache_script = pkg_resources.resource_filename(
  76             "yardstick.benchmark.scenarios.compute",
  77             Lmbench.LATENCY_CACHE_SCRIPT)
  78         host = self.context_cfg["host"]
  79         user = host.get("user", "ubuntu")
  80         ip = host.get("ip", None)
  81         key_filename = host.get('key_filename', "~/.ssh/id_rsa")
  82
  83         LOG.info("user:%s, host:%s", user, ip)
  84         self.client = ssh.SSH(user, ip, key_filename=key_filename)
  85         self.client.wait(timeout=600)
  86
  87         # copy scripts to host
  88         self.client.run("cat > ~/lmbench_latency.sh",
  89                         stdin=open(self.latency_target_script, 'rb'))
  90         self.client.run("cat > ~/lmbench_bandwidth.sh",
  91                         stdin=open(self.bandwidth_target_script, 'rb'))
  92         self.client.run("cat > ~/lmbench_latency_for_cache.sh",
  93                         stdin=open(self.latency_for_cache_script, 'rb'))
  94         self.setup_done = True
  95
  96     def run(self, result):
  97         """execute the benchmark"""
  98
  99         if not self.setup_done:
 100             self.setup()
 101
 102         options = self.scenario_cfg['options']
 103         test_type = options.get('test_type', 'latency')
 104
 105         if test_type == 'latency':
 106             stride = options.get('stride', 128)
 107             stop_size = options.get('stop_size', 16.0)
 108             cmd = "sudo bash lmbench_latency.sh %f %d" % (stop_size, stride)
 109         elif test_type == 'bandwidth':
 110             size = options.get('size', 128)
 111             benchmark = options.get('benchmark', 'rd')
 112             warmup_repetitions = options.get('warmup', 0)
 113             cmd = "sudo bash lmbench_bandwidth.sh %d %s %d" % \
 114                   (size, benchmark, warmup_repetitions)
 115         elif test_type == 'latency_for_cache':
 116             repetition = options.get('repetition', 1)
 117             warmup = options.get('warmup', 0)
 118             cmd = "sudo bash lmbench_latency_for_cache.sh %d %d" % \
 119                   (repetition, warmup)
 120         else:
 121             raise RuntimeError("No such test_type: %s for Lmbench scenario",
 122                                test_type)
 123
 124         LOG.debug("Executing command: %s", cmd)
 125         status, stdout, stderr = self.client.execute(cmd)
 126
 127         if status:
 128             raise RuntimeError(stderr)
 129
 130         if test_type == 'latency':
 131             result.update({"latencies": json.loads(stdout)})
 132         else:
 133             result.update(json.loads(stdout))
 134
 135         if "sla" in self.scenario_cfg:
 136             sla_error = ""
 137             if test_type == 'latency':
 138                 sla_max_latency = int(self.scenario_cfg['sla']['max_latency'])
 139                 for t_latency in result["latencies"]:
 140                     latency = t_latency['latency']
 141                     if latency > sla_max_latency:
 142                         sla_error += "latency %f > sla:max_latency(%f); " \
 143                             % (latency, sla_max_latency)
 144             elif test_type == 'bandwidth':
 145                 sla_min_bw = int(self.scenario_cfg['sla']['min_bandwidth'])
 146                 bw = result["bandwidth(MBps)"]
 147                 if bw < sla_min_bw:
 148                     sla_error += "bandwidth %f < " \
 149                                  "sla:min_bandwidth(%f)" % (bw, sla_min_bw)
 150             elif test_type == 'latency_for_cache':
 151                 sla_latency = float(self.scenario_cfg['sla']['max_latency'])
 152                 cache_latency = float(result['L1cache'])
 153                 if sla_latency < cache_latency:
 154                     sla_error += "latency %f > sla:max_latency(%f); " \
 155                         % (cache_latency, sla_latency)
 156             assert sla_error == "", sla_error
 157
 158
 159 def _test():
 160     """internal test function"""
 161     key_filename = pkg_resources.resource_filename('yardstick.resources',
 162                                                    'files/yardstick_key')
 163     ctx = {
 164         'host': {
 165             'ip': '10.229.47.137',
 166             'user': 'root',
 167             'key_filename': key_filename
 168         }
 169     }
 170
 171     logger = logging.getLogger('yardstick')
 172     logger.setLevel(logging.DEBUG)
 173
 174     options = {
 175         'test_type': 'latency',
 176         'stride': 128,
 177         'stop_size': 16
 178     }
 179
 180     sla = {'max_latency': 35, 'action': 'monitor'}
 181     args = {'options': options, 'sla': sla}
 182     result = {}
 183
 184     p = Lmbench(args, ctx)
 185     p.run(result)
 186     print result
 187
 188 if __name__ == '__main__':
 189     _test()