docs/octopus_docs/opnfv-jenkins-slave-connection.rst

   1 ================================================
   2 Connecting OPNFV Community Labs to OPNFV Jenkins
   3 ================================================
   4
   5 .. contents:: Table of Contents
   6    :backlinks: none
   7
   8 Abstract
   9 ========
  10
  11 This document describes how to connect resources (servers) located in Linux Foundation (LF) lab
  12 and labs provided by the OPNFV Community to OPNFV Jenkins.
  13
  14 License
  15 =======
  16 Connecting OPNFV Community Labs to OPNFV Jenkins (c) by Fatih Degirmenci (Ericsson AB) and others.
  17
  18 Connecting OPNFV Labs to OPNFV Jenkins document is licensed under a Creative Commons
  19 Attribution 4.0 International License.
  20
  21 You should have received a copy of the license along with this. If not, see <http://creativecommons.org/licenses/by/4.0/>.
  22
  23
  24 Version History
  25 ===============
  26
  27 +------------+-------------+------------------+---------------------------------------+
  28 | **Date**   | **Version** | **Author**       | **Comment**                           |
  29 |            |             |                  |                                       |
  30 +------------+-------------+------------------+---------------------------------------+
  31 | 2015-05-05 | 0.1.0       | Fatih Degirmenci | First draft                           |
  32 |            |             |                  |                                       |
  33 +------------+-------------+------------------+---------------------------------------+
  34 | 2015-09-25 | 1.0.0       | Fatih Degirmenci | Instructions for the                  |
  35 |            |             |                  | Arno SR1 release                      |
  36 +------------+-------------+------------------+---------------------------------------+
  37 | 2016-01-25 | 1.1.0       | Jun Li           | Change the format for                 |
  38 |            |             |                  | new doc toolchain                     |
  39 +------------+-------------+------------------+---------------------------------------+
  40 | 2016-01-27 | 1.2.0       | Fatih Degirmenci | Instructions for the                  |
  41 |            |             |                  | Brahmaputra release                   |
  42 +------------+-------------+------------------+---------------------------------------+
  43 | 2016-05-25 | 1.3.0       | Julien           | Add an additional step after step9 to |
  44 |            |             |                  | output the correct monit config file  |
  45 +------------+-------------+------------------+---------------------------------------+
  46
  47 Jenkins
  48 =======
  49
  50 Jenkins is an extensible open source Continuous Integration (CI) server. [1]
  51
  52 Linux Foundation (LF) hosts and operates `OPNFV Jenkins <https://build.opnfv.org/ci/>`_.
  53
  54 Jenkins Slaves
  55 ==============
  56
  57 **Slaves** are computers that are set up to build projects for a **Jenkins Master**.  [2]
  58
  59 Jenkins runs a separate program called "**slave agent**" on slaves.
  60 When slaves are registered to a master, the master starts distributing load to slaves by
  61 scheduling jobs to run on slaves if the jobs are set to run on them.  [2]
  62
  63 Term **Node** is used to refer to all machines that are part of Jenkins grid, slaves and
  64 master. [2]
  65
  66 Two types of slaves are currently connected to OPNFV Jenkins and handling
  67 different tasks depending on the purpose of connecting the slave.
  68
  69 * Slaves hosted in `LF Lab <https://wiki.opnfv.org/get_started/lflab_hosting#hardware_setup>`_
  70 * Slaves hosted in `Community Test Labs <https://wiki.opnfv.org/pharos#community_test_labs>`_
  71
  72 The slaves connected to OPNFV Jenkins can be seen using this link:
  73 https://build.opnfv.org/ci/computer/
  74
  75 Slaves without red cross next to computer icon are fully functional.
  76
  77 Connecting Slaves to OPNFV Jenkins
  78 ==================================
  79
  80 The method that is normally used for connecting slaves to Jenkins requires direct SSH access to
  81 servers.
  82 [3] This is the method that is used for connecting slaves hosted in LF Lab.
  83
  84 Connecting slaves using direct SSH access can become a challenge given that OPNFV Project
  85 has number of different labs provided by community as mentioned in previous section.
  86 All these labs have different security requirements which can increase the effort
  87 and the time needed for connecting slaves to Jenkins.
  88 In order to reduce the effort and the time needed for connecting slaves and streamline the
  89 process, it has been decided to connect slaves using
  90 `Java Network Launch Protocol (JNLP) <https://docs.oracle.com/javase/tutorial/deployment/deploymentInDepth/jnlp.html>`_.
  91
  92 Connecting Slaves from LF Lab to OPNFV Jenkins
  93 ----------------------------------------------
  94
  95 Slaves hosted in LF Lab are handled by LF. All the requests and questions regarding
  96 these slaves should be submitted to `OPNFV LF Helpdesk <opnfv-helpdesk@rt.linuxfoundation.org>`_.
  97
  98 Connecting Slaves from Community Labs to OPNFV Jenkins
  99 ------------------------------------------------------
 100
 101 As noted in corresponding section, slaves from Community Labs are connected using JNLP. Via JNLP,
 102 slaves open connection towards Jenkins Master instead of Jenkins Master accessing to them directly.
 103
 104 Servers connecting to OPNFV Jenkins using this method must have access to internet.
 105
 106 Please follow below steps to connect a slave to OPNFV Jenkins.
 107
 108   1. Create a user named **jenkins** on the machine you want to connect to OPNFV Jenkins and give the user sudo rights.
 109   2. Install needed software on the machine you want to connect to OPNFV Jenkins as slave.
 110     - openjdk 7
 111     - monit
 112   3. If the slave will be used for running virtual deployments, Functest, and Yardstick, install below software and make jenkins user the member of the groups.
 113     - docker
 114     - libvirt
 115   4. Create slave root in Jenkins user home directory.
 116     ``mkdir -p /home/jenkins/opnfv/slave_root``
 117   5. Clone OPNFV Releng Git repository.
 118     ``mkdir -p /home/jenkins/opnfv/repos``
 119
 120     ``cd /home/jenkins/opnfv/repos``
 121
 122     ``git clone https://gerrit.opnfv.org/gerrit/p/releng.git``
 123   6. Contact LF by sending mail to `OPNFV LF Helpdesk <opnfv-helpdesk@rt.linuxfoundation.org>`_ and request creation of a slave on OPNFV Jenkins. Include below information in your mail.
 124     - Slave root (/home/jenkins/opnfv/slave_root)
 125     - Public IP of the slave (You can get the IP by executing ``curl http://icanhazip.com/``)
 126     - PGP Key (attached to the mail or exported to a key server)
 127   7. Once you get confirmation from LF stating that your slave is created on OPNFV Jenkins, check if the firewall on LF is open for the server you are trying to connect to Jenkins.
 128     ``sudo /home/jenkins/opnfv/repos/releng/utils/jenkins-jnlp-connect.sh -j /home/jenkins -u jenkins -n  <slave name on OPNFV Jenkins> -s <the token you received from LF> -f``
 129
 130      - If you receive an error, follow the steps listed on the command output.
 131   8. Run the same script with test(-t) on foreground in order to make sure no problem on connection. You should see **INFO: Connected** in the console log.
 132     ``sudo /home/jenkins/opnfv/repos/releng/utils/jenkins-jnlp-connect.sh -j /home/jenkins -u jenkins -n <slave name on OPNFV Jenkins> -s <the token you received from LF> -t``
 133
 134      - If you receive an error similar to the one shown `on this link <http://hastebin.com/ozadagirax.avrasm>`_, you need to check your firewall and allow outgoing connections for the port.
 135   9. Kill the Java slave.jar process.
 136   10. Run the same script normally without test(-t) in order to get monit script created.
 137     ``sudo /home/jenkins/opnfv/repos/releng/utils/jenkins-jnlp-connect.sh -j /home/jenkins -u jenkins -n <slave name on OPNFV Jenkins> -s <the token you received from LF>``
 138   11. Edit monit configuration and enable http interface. The file to edit is /etc/monit/monitrc on Ubuntu systems. Uncomment below lines.
 139     set httpd port 2812 and
 140         use address localhost  # only accept connection from localhost
 141         allow localhost        # allow localhost to connect to the server and
 142   12. Restart monit service.
 143     - Without systemd:
 144
 145       ``sudo service monit restart``
 146     - With systemd: you have to enable monit service first and then restart it.
 147
 148       ``sudo systemctl enable monit``
 149
 150       ``sudo systemctl restart monit``
 151   13. Check to see if jenkins comes up as managed service in monit.
 152     ``sudo monit status``
 153   14. Connect slave to OPNFV Jenkins using monit.
 154     ``sudo monit start jenkins``
 155   15. Check slave on OPNFV Jenkins to verify the slave is reported as connected.
 156     - The slave on OPNFV Jenkins should have some executors in “Idle” state if the connection is successful.
 157
 158 Notes
 159 ==========
 160
 161 PGP Key Instructions
 162 --------------------
 163
 164 Public PGP Key can be uploaded to public key server so it can be taken from
 165 there using your mail address. Example command to upload the key to key server is
 166
 167     ``gpg --keyserver hkp://keys.gnupg.net:80  --send-keys XXXXXXX``
 168
 169 The Public PGP Key can also be attached to the email by storing the key in a file and then
 170 attaching it to the email.
 171
 172     ``gpg --export -a '<your email address>' > pgp.pubkey``
 173
 174 References
 175 ==========
 176
 177 * `What is Jenkins <https://wiki.jenkins-ci.org/display/JENKINS/Meet+Jenkins>`_
 178 * `Jenkins Terminology <https://wiki.jenkins-ci.org/display/JENKINS/Terminology>`_
 179 * `Jenkins SSH Slaves Plugin <https://wiki.jenkins-ci.org/display/JENKINS/SSH+Slaves+plugin>`_