yardstick/benchmark/runners/duration.py

   1 # Copyright 2014: Mirantis Inc.
   2 # All Rights Reserved.
   3 #
   4 #    Licensed under the Apache License, Version 2.0 (the "License"); you may
   5 #    not use this file except in compliance with the License. You may obtain
   6 #    a copy of the License at
   7 #
   8 #         http://www.apache.org/licenses/LICENSE-2.0
   9 #
  10 #    Unless required by applicable law or agreed to in writing, software
  11 #    distributed under the License is distributed on an "AS IS" BASIS, WITHOUT
  12 #    WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. See the
  13 #    License for the specific language governing permissions and limitations
  14 #    under the License.
  15
  16 # yardstick comment: this is a modified copy of
  17 # rally/rally/benchmark/runners/constant.py
  18
  19 """A runner that runs a specific time before it returns
  20 """
  21
  22 from __future__ import absolute_import
  23 import os
  24 import multiprocessing
  25 import logging
  26 import traceback
  27 import time
  28
  29 from yardstick.benchmark.runners import base
  30
  31 LOG = logging.getLogger(__name__)
  32
  33
  34 QUEUE_PUT_TIMEOUT = 10
  35
  36
  37 def _worker_process(queue, cls, method_name, scenario_cfg,
  38                     context_cfg, aborted, output_queue):
  39
  40     sequence = 1
  41
  42     runner_cfg = scenario_cfg['runner']
  43
  44     interval = runner_cfg.get("interval", 1)
  45     duration = runner_cfg.get("duration", 60)
  46     LOG.info("Worker START, duration is %ds", duration)
  47     LOG.debug("class is %s", cls)
  48
  49     runner_cfg['runner_id'] = os.getpid()
  50
  51     benchmark = cls(scenario_cfg, context_cfg)
  52     benchmark.setup()
  53     method = getattr(benchmark, method_name)
  54
  55     sla_action = None
  56     if "sla" in scenario_cfg:
  57         sla_action = scenario_cfg["sla"].get("action", "assert")
  58
  59     start = time.time()
  60     timeout = start + duration
  61     while True:
  62
  63         LOG.debug("runner=%(runner)s seq=%(sequence)s START",
  64                   {"runner": runner_cfg["runner_id"], "sequence": sequence})
  65
  66         data = {}
  67         errors = ""
  68
  69         try:
  70             result = method(data)
  71         except AssertionError as assertion:
  72             # SLA validation failed in scenario, determine what to do now
  73             if sla_action == "assert":
  74                 raise
  75             elif sla_action == "monitor":
  76                 LOG.warning("SLA validation failed: %s", assertion.args)
  77                 errors = assertion.args
  78         # catch all exceptions because with multiprocessing we can have un-picklable exception
  79         # problems  https://bugs.python.org/issue9400
  80         except Exception:
  81             errors = traceback.format_exc()
  82             LOG.exception("")
  83         else:
  84             if result:
  85                 # add timeout for put so we don't block test
  86                 # if we do timeout we don't care about dropping individual KPIs
  87                 output_queue.put(result, True, QUEUE_PUT_TIMEOUT)
  88
  89         time.sleep(interval)
  90
  91         benchmark_output = {
  92             'timestamp': time.time(),
  93             'sequence': sequence,
  94             'data': data,
  95             'errors': errors
  96         }
  97
  98         queue.put(benchmark_output, True, QUEUE_PUT_TIMEOUT)
  99
 100         LOG.debug("runner=%(runner)s seq=%(sequence)s END",
 101                   {"runner": runner_cfg["runner_id"], "sequence": sequence})
 102
 103         sequence += 1
 104
 105         if (errors and sla_action is None) or time.time() > timeout or aborted.is_set():
 106             LOG.info("Worker END")
 107             break
 108
 109     try:
 110         benchmark.teardown()
 111     except Exception:
 112         # catch any exception in teardown and convert to simple exception
 113         # never pass exceptions back to multiprocessing, because some exceptions can
 114         # be unpicklable
 115         # https://bugs.python.org/issue9400
 116         LOG.exception("")
 117         raise SystemExit(1)
 118
 119     LOG.debug("queue.qsize() = %s", queue.qsize())
 120     LOG.debug("output_queue.qsize() = %s", output_queue.qsize())
 121
 122
 123 class DurationRunner(base.Runner):
 124     """Run a scenario for a certain amount of time
 125
 126 If the scenario ends before the time has elapsed, it will be started again.
 127
 128   Parameters
 129     duration - amount of time the scenario will be run for
 130         type:    int
 131         unit:    seconds
 132         default: 1 sec
 133     interval - time to wait between each scenario invocation
 134         type:    int
 135         unit:    seconds
 136         default: 1 sec
 137     """
 138     __execution_type__ = 'Duration'
 139
 140     def _run_benchmark(self, cls, method, scenario_cfg, context_cfg):
 141         self.process = multiprocessing.Process(
 142             target=_worker_process,
 143             args=(self.result_queue, cls, method, scenario_cfg,
 144                   context_cfg, self.aborted, self.output_queue))
 145         self.process.start()