cc5fee3b408b657dd8dd14dea846087916ebea70
[apex.git] / docs / release / scenarios / os-nosdn-ovs_dpdk-ha / os-nosdn-ovs_dpdk-ha.rst
1 .. This work is licensed under a Creative Commons Attribution 4.0 International License.
2 .. http://creativecommons.org/licenses/by/4.0
3 .. (c) <optionally add copywriters name>
4
5 This document provides scenario level details for Euphrates 1.0 of
6 deployment with no SDN controller and DPDK enabled Open vSwitch.
7
8 .. contents::
9    :depth: 3
10    :local:
11
12 Introduction
13 ============
14
15 NFV and virtualized high performance applications, such as video processing,
16 require Open vSwitch to be accelerated with a fast data plane solution that
17 provides both carrier grade forwarding performance, scalability and open
18 extensibility.
19
20 A key component of any NFV solution is the virtual forwarder, which should
21 consist of soft switch that includes an accelerated data plane component. For
22 this, any virtual switch should make use of hardware accelerators and optimized
23 cache operation to be run in user space.
24
25 Scenario components and composition
26 ===================================
27
28 This scenario enables high performance data plan acceleration by utilizing
29 DPDK enabled Open vSwitch (OVS).  This allows packet switching to be isolated
30 to particular hardware resources (CPUs, huge page memory allocation) without
31 kernel interrupt or context switching on the data plane CPU.
32
33 Tenant networking leverages Open vSwitch accelerated with a fast user space
34 data path such.  OVS with the Linux kernel module data path is used for all
35 other connectivity, such as connectivity to the external network (i.e. br-ex)
36 is performed via non-accelerated OVS.
37
38 Scenario Configuration
39 ======================
40
41 Due to the performance optimization done by this scenario, it is recommended to
42 set some performance settings in the deploy settings in order to ensure maximum
43 performance.  This is not necessary unless doing a baremetal deployment.  Note,
44 this scenario requires taking the NIC mapped to the tenant network on the
45 compute node and binding it to DPDK.  This means it will no longer be
46 accessible via the kernel.  Ensure the NIC that is mapped to the Compute
47 Tenant network supports DPDK.
48
49 Make a copy of the deploy settings file, os-nosdn-ovs_dpdk-ha.yaml.  Under the
50 kernel options for Compute, edit as follows:
51  - hugepagesz: the size of hugepages as an integer, followed by unit M
52    (megabyte) or G (gigabyte).
53  - hugepages: number of hugepages of hugepagesz size.  Huge page memory will be
54    used for OVS as well as each nova instance spawned.  It is a good idea to
55    allocate the maximum number possible, while still leaving some non-huge page
56    memory available to other processes (nova-compute, etc).
57  - isolcpus: comma-separated list of CPUs to isolate from the kernel.  Isolated
58    CPUs will be used for pinning OVS and libvirtd to.
59
60 Under the performance->Compute->ovs section, edit as follows:
61  - socket_memory: the amount of huge page memory in MB to allocate to allocate
62    per socket to OVS as a comma-separated list.  It is best to allocate the
63    memory to the socket which is closest to the PCI-Express bus of the NIC
64    to be used with OVS DPDK for tenant traffic.
65  - pmd_cores: comma-separated list of cores to pin to the poll-mode driver in
66    OVS.  OVS DPDK will spawn TX/RX PMD threads to handle forwarding packets.
67    This setting identifies which cores to pin these threads to.  For best
68    performance, dedicate at least 2 isolated cores on the same NUMA node where
69    socket_memory was assigned.
70  - dpdk_cores: comma-separated list of cores to pin OVS lcore threads to.
71    These threads do validation and control handling and it may not have any
72    impact on performance to include this setting.
73
74 Under the performance->Compute section.  Add a nova subsection and include
75 the following setting:
76  - libvirtpin: comma-separated list of CPUs to pin libvirt (nova) instances to.
77    For best results, set this to be one or more CPUs that are located on the
78    same NUMA node where OVS socket memory was dedicated.
79
80 Now deploy with the modified deploy settings file.
81
82 Limitations, Issues and Workarounds
83 ===================================
84
85 * _APEX-415 br-phy dpdk interfaces are not brought up by os-net-config
86
87 References
88 ==========
89
90 For more information on the OPNFV Euphrates release, please visit
91 http://www.opnfv.org/euphrates