Keep existing data for containerized ironic-conductor

Use mounts instead of docker volumes, and preserve existing data when
moving from baremetal to containerized ironic-conductor.

We cannot keep the data in the same directory to avoid hard-linking
errors in ironic, because of this issue:

https://github.com/docker/docker/issues/7457

This means we need to copy the data over to a new location before we
start the containers.

Change-Id: If98460120212f887b06adf117c5d88b97682638e

Merge "Make sure PrePuppet runs before any Deployment_Step"

Merge "Add certmonger-user profile"

Merge "docker/keystone: add metadata_settings to output"

Merge "Keep existing data for containerized Swift"

Merge "Keep existing data for containerized RabbitMQ"

Make sure PrePuppet runs before any Deployment_Step

We used to have this in mitaka:
https://github.com/openstack/tripleo-heat-templates/blob/stable/mitaka/puppet/controller-post.yaml#L45

but we lost it along the way. The problem without this change is that we
are open to the following race:
1) ControllerDeployment_Step1 is started and manages to do a successful
   "systemctl start pacemaker"
2) PrePuppet gets called and in the HA deployment calls
   pacemaker_maintenance_mode.sh
3) pacemaker_maintenance_mode.sh will set the maintenance-mode=true
   property because the pacemaker service is already up:
   https://github.com/openstack/tripleo-heat-templates/blob/master/extraconfig/tasks/pacemaker_maintenance_mode.sh#L8-L9
4) If the maintenance property is set to true at this stage, the
   creation of any resource will take place but they won't really
   start.

Change-Id: Icb7495edd00385b2975dd42f63085d20292ef9a9
Closes-Bug: #1673795
Co-Authored-By: Jiri Stransky <jstransk@redhat.com>

Merge "docker: Add metadata_settings to optional parameters for yaml validate"

Merge "Keep existing data for containerized MongoDB"

Merge "Explicitly configure credentials used by ironic to access other services"

Merge "Added release note for NeutronExternalNetworkBridge deprecation"

Explicitly configure credentials used by ironic to access other services

Using keystone_authtoken credentials for this purpose is deprecated, and also
prevents ironic-conductor from being used as a separate role.

Also remove neutron_url, it can be fetched from the catalog instead.

Change-Id: I12822568cb4db31808aec5fd407d71fe4b7b09e0
Depends-On: I21180678bec911f1be36e3b174bae81af042938c
Partial-Bug: #1661250

Merge "Keep existing data when moving to containerized MariaDB"

docker/keystone: add metadata_settings to output

This is used for the TLS-everywhere bits. It will be taken into account
by a metadata hook that outputs relevant entries for the nova-metadata
service; and subsequently kerberos principals will be created from
these.

Subsequent patches will add support for TLS in the internal network for
the containerized keystone.

Change-Id: Ic747ad9c8d6e76c8c16e347c1cdcabc899dd9f9a

docker: Add metadata_settings to optional parameters for yaml validate

This section will be needed for TLS-everywhere. So it should be added as
optional in the yaml-validate.

Change-Id: Ic6ea563b6c8e454cb51f640bb5aaa3adda82a5dd

Merge "etcd: secure EtcdInitialClusterToken parameter"

Keep existing data for containerized Swift

Use mounts instead of docker volumes to preserve existing data when
moving from baremetal to containerized Swift.

Change-Id: Ib7cbca2ef674a0245a67b69ee2c77f574d74c181

Merge "Add upgrade tasks for aodh containers"

etcd: secure EtcdInitialClusterToken parameter

Secure EtcdInitialClusterToken parameter by:

* removing the default value.
* make it hidden.

Change-Id: I938af697f9faaadb9c9aeb950e9410db24b1b961
Depends-On: I6e30cce469736e84a3c483fafa29d542b8347ba9
Closes-Bug: #1673266

Merge "Cleanup no longer used upgrade files"

Add upgrade tasks for aodh containers

Change-Id: I936b31fd24c43e35092b3bfef4454a8da81d19c8

Cleanup no longer used upgrade files

Removes some of the no longer used scripts and templates used by
the upgrades workflow in previous versions.

Change-Id: I7831d20eae6ab9668a919b451301fe669e2b1346

Switch keystone default provider to fernet

UUID is to be deprecated, and we should be using fernet.

Change-Id: I61b999e65ba5eb771776344d38eb90fc52d49d56

keystone/containers: Add support for fernet keys

Since the 'file' resource is included in the tags that puppet takes into
account, we already generate the fernet keys if it's enabled as a token
provider.

This merely adds the keys to the container. However, if fernet is not
the provider, we make this file addition optional.

Change-Id: Id92039b3bad9ecda169323e01de7bebae70f2ba0

Merge "Update properties being set for octavia rabbit properties"

Keep existing data for containerized RabbitMQ

Use mounts instead of docker volumes to preserve existing data when
moving from baremetal to containerized RabbitMQ.

Change-Id: I8de6610d13d2d878ffba12eb742880eed694eb3e

Keep existing data for containerized MongoDB

We used named Docker volume for MongoDB storage, which meant that when
moving from bare metal to containerized, we lost data and reinitialized
the storage from scratch.

With this commit we keep the data by mounting the original data into the
container. We also need make sure that file ownership is correct
according to the uid/gid used within MongoDB container image.

Change-Id: I86ef2cb37a068b767462d6d50fe451389b7cbb58

Keep existing data when moving to containerized MariaDB

We used named Docker volume for MariaDB storage, which meant that when
moving from BM to containerized wit MariaDB, we lost data and
reinitialized the storage from scratch.

With this commit we keep the data by mounting the original data into the
container.

We also need to make sure that file ownership is correct according to
the MariaDB container image used, and that Kolla bootstrap mechanisms
aren't retriggered, as they aren't idempotent.

Change-Id: I1fc955021c6dd83f1a366495dd8c7281fb9e7cc5

Merge "Update README for Glance coverage"

Merge "Tasks hook for preparing BM host for deploying containerized services"

Merge "Add bindep support"

Merge "congress/tacker: switch auth_uri to use uri_no_suffix"

Update README for Glance coverage

Change-Id: I0c57f7b8a97b854e3c44ff7776ea05e3888e78e8

Merge "cinder: switch auth_uri to uri_no_suffix"

Merge "Containerize gnocchi services"

Merge "Pass the DOCKER_* env vars when running docker"

Merge "neutron: switch auth_uri to uri_no_suffix"

Merge "gnocchi: deploy services with Keystone v3 endpoints"

Merge "manila: switch auth_uri to use uri_no_suffix"

Merge "heat: switch auth_uri to use uri_no_suffix"

Merge "ironic: switch auth_uri to uri_no_suffix"

Merge "telemetry: switch auth_uri to uri_no_suffix"

Merge "nova: switch auth_uri to keystone versionless endpoint"

Merge "horizon: switch keystone_url to use uri_no_suffix"

Merge "Improve SSL support for Sensu"

Add bindep support

Bindep is an automation tool used by openstack-infra to bootstrap a
worker with default packages. This is not needed, since we depend on
puppet to automate this step.

Change-Id: I759614ed0cf1fab5433956ed459419e564590398
Signed-off-by: Paul Belanger <pabelanger@redhat.com>

Containerize gnocchi services

Closes-bug: #1668928

Change-Id: I291df31be97c3d55cddb3924482aa5976a79c2b1

Merge "Fix bogus parameters in get_param"

Merge "Containerize Aodh alarm services"

Add certmonger-user profile

This profile will request the certificates for the services on the node.
So with this, we will remove the requesting of these certs on the
services' profiles themselves.

The reasoning for this is that for a containerized environment, the
containers won't have credentials to the CA while the baremetal node
does. So, with this, we will have this profile that still gets executed
in the baremetal nodes, and we can subsequently pass the requested
certificates by bind-mounting them on the containers. On the other hand,
this approach still works well for the TLS-everywhere case when the
services are running on baremetal.

Change-Id: Ibf58dfd7d783090e927de6629e487f968f7e05b6
Depends-On: I4d2e62b5c1b893551f9478cf5f69173c334ac81f

congress/tacker: switch auth_uri to use uri_no_suffix

Switch Congress and Tacker to use auth_uri with keystone versionless
endpoint.

Change-Id: I7e17d061344849b0421f3a6c9571f1609e8861fb
Partial-Implement: blueprint keystone-v3

Merge "Upgrades: wait for galera to be settled"

gnocchi: deploy services with Keystone v3 endpoints

* Move swift_authurl to gnocchi-base hieradata, where other swift auth
  credentials live and switch it to versionless keystone endpoint.
* Force swift_auth_version to 3 for Keystone v3.
* Switch auth_uri to use versionless Keystone endpoint.
* Switch auth_url to use Keystone admin endpoint (instead of internal).
* Remove old parameters from gnocchi::api, not used anymore.

Partial-blueprint: keystone-v3

Change-Id: I2feed8b1219069128faa1a1e8dcd2ddfbae7e40a

telemetry: switch auth_uri to uri_no_suffix

Switch Aodh, Ceilometer and Panko to use auth_uri parameter with
keystone versionless endpoint.

Change-Id: I5800f4161d0406d3717e1f539d23411b11378fbc
Partial-implement: blueprint keystone-v3

cinder: switch auth_uri to uri_no_suffix

Switch Cinder to use auth_uri with keystone versionless endpoint.

Change-Id: Iccc6e3df6a8bb1aca3667b1783bc7f6eebf262e5
Partial-implement: blueprint keystone-v3

heat: switch auth_uri to use uri_no_suffix

Switch Heat to use auth_uri with keystone versionless endpoint.

Change-Id: Iddd091a659d37d965b216db9f536d30245cd3c3a
Partial-implement: blueprint keystone-v3

ironic: switch auth_uri to uri_no_suffix

Switch Ironic to use auth_uri with keystone versionless endpoint.

Change-Id: Ia8061a1e08bd31425f8d4192cd45b64b9f8e1f74
Partial-implement: blueprint keystone-v3

manila: switch auth_uri to use uri_no_suffix

Switch Manila to use auth_uri with keystone versionless endpoint.

Change-Id: If05032a5c7d93b5787d3f18c0aa374bac3cbd478
Partial-implement: blueprint keystone-v3

neutron: switch auth_uri to uri_no_suffix

Switch Neutron to use auth_uri with keystone versionless endpoint, also
for notifications with Nova.

Change-Id: I530e3dcdfe6961e14755a63767c1fb5c0e1cfa22
Partial-implement: blueprint keystone-v3

nova: switch auth_uri to keystone versionless endpoint

Switch nova authtoken auth_uri to use keystone endpoint without version.
Also switch ironic config in nova.conf to use it.

Change-Id: I8046f2eed0b9a7da76d6d7c3507a92bf5054b000
Partial-Implement: blueprint keystone-v3

Tasks hook for preparing BM host for deploying containerized services

This implements a host_prep_tasks hook where we can specify Ansible
tasks to perform on the host before deploying containerized
services. The hook runs in a single step, the assumption is that we will
mostly use the hook for creating per-service directories on the host to
ensure we are able to mount them into the containers. (We cannot do this
operation via Puppet because all containerized services run their Puppet
within a config container, so Puppet doesn't have access to host's
filesystem.)

Change-Id: I7d8bac39e0cd422fd651eefe29f7d10941ab4a1a

Merge "Remove ha-by-default release note"

Upgrades: wait for galera to be settled

We also need to wait for the galera resource to settle down
before we proceed starting up with the other services.

Note that before merging this, we need to land the following
change in ansible-pacemaker:
https://review.gerrithub.io/#/c/351387/

Change-Id: Id71c9cb41cfd4c17685c922db2683e28ab7588fd
Closes-Bug: #1668372

Merge "Move zaqar into services-docker"

Merge "Add BGPVPN composable service"

Remove double quotes in the "when" Ansible conditional.

Change-Id: I677075012a948c7c32959680608255eff919b8d4

Add upgrade tasks for heat over httpd

Change-Id: Ia7b8c41d4d8135f58661a74a4298f60abb251fbe

Merge "Pass hieradata relevant for httpd in the Heat APIs"

Merge "Add pep8 tests on docker/services/*"

horizon: switch keystone_url to use uri_no_suffix

Switch Horizon to use keystone_url with keystone versionless endpoint.

Change-Id: I7a22136937d414b2c3713894e04b0f093247ad33
Partial-implement: blueprint keystone-v3

Merge "Move mistral into services-docker"

Merge "Remove glance-base service"

Merge "Move ironic into services-docker"

Remove ha-by-default release note

This has not landed yet but was accidentally release noted for
Ocata.  The release note should land with the patch that actually
makes the change: I0f61016df6a9f07971c5eab51cc9674a1458c66f

Change-Id: I7d68899a5892e219b73007b18ab42e06196ae07a

Containerize Aodh alarm services

Closes-bug: #1668930

Change-Id: If5dff4388b255373083e164a74aaacd529a94111

Add BGPVPN composable service

 This project aims at supporting inter-connection between L3VPNs
 and Neutron resources, i.e. Networks, Routers and Ports.

Partially-Implements: blueprint bgpvpn-service-integration

Depends-On:I7c1686693a29cc1985f009bd7a3c268c0e211876
Change-Id: I576c9ac2b443dbb6886824b3da457dcc4f87b442
Signed-off-by: Ricardo Noriega <rnoriega@redhat.com>

Add pep8 tests on docker/services/*

This patch adds the beginning of a set of unit tests
for the new docker services templates. This should help
us the new interfaces as they evolve.

Change-Id: I98a73cf090ebab4593a682f5f34c0950d37e010c

Remove docker_image sections (unused)

We don't use docker_image for anything. It is a remant of the
pre-composable docker templates and we can now remove it.

This patch removes references to the 'docker_image' section
from docker/post.yaml and all of the docker/services* templates.

Change-Id: I208c1ef1550ab39ab0ee47ab282f9b1937379810

Merge "Pass hieradata for internal TLS for RabbitMQ"

Merge "FQDN validation"

Merge "Keystone token flush cron job should log to a file"

Pass hieradata relevant for httpd in the Heat APIs

The patch this depends on passes through the classes some parameters
that are meant to be passed via t-h-t. This patch addresses these and
other things required for deploying these services over httpd:

* Set the number of workers taking care not to set this value to 0.
* Add the apache base hieradata to the service profiles.
* Set the servernames and other httpd-specific values.

bp tls-via-certmonger

Change-Id: I88e5ea7b9bbf35ae03f84fdc3ec76ae09f11a1b6
Depends-On: I23971b0164468e67c9b3577772af84bd947e16f1

Update docs per new puppet_config interface

This updates the docker/service README so that it
correctly documents the current requirements of the new
puppet_config interface.

Change-Id: I0f3e00ea3cce24152475abf6df34f4836e32c9c8

Improve SSL support for Sensu

This patch allows operator to create SSL certificates for SSL auth to RabbitMQ.

Change-Id: I250aedcfdbe3b7a7e8c611c0e6122cf8fe0edda4

Merge "Move nova-scheduler data into puppet_config"

Merge "Add validation for VPP upgrade tasks"

Merge "Enable Docker service for Compute role"

Merge "Set number of Swift proxy server workers to auto"

Pass hieradata for internal TLS for RabbitMQ

As with other services, this passes the necessary hieradata to enable
TLS for RabbitMQ. This will mean (once we set it via puppet-tripleo)
that there will only be TLS connections, as the ssl_only option is being
used.

bp tls-via-certmonger

Change-Id: I960bf747cd5e3040f99b28e2fc5873ca3a7472b5
Depends-On: Ic2a7f877745a0a490ddc9315123bd1180b03c514

Merge "sahara: configure keystone_authtoken parameters"

Merge "barbican: Use versionless keystone endpoints"

Move zaqar into services-docker

This patch moves enabling Zaqar docker services into
a separate environment in the environments/services-docker
directory.

Change-Id: I6755eb7ae2abb2b9c8b213ff6fd21b0392353ef5

Move mistral into services-docker

This patch moves enabling Mistral docker services into
a separate environment in the environments/services-docker
directory.

Change-Id: I8b484532de5f5d61fc0240defbc5fc27789a1279

Move ironic into services-docker

This patch moves enabling Ironic docker services into
a separate environment in the environments/services-docker
directory.

Change-Id: I236de47d422b3563a0192359f2327610fc1714ca

sahara: configure keystone_authtoken parameters

Configure keystone_authtoken for Sahara service.

Change-Id: I045b7d1d52851ab0d532a8524fcea95705e3db78
Partial-implement: blueprint keystone-v3

Merge "Remove the openvswitch special case upgrade code"

barbican: Use versionless keystone endpoints

This also moves the explicit usages of the Keystone V3 endpoint fromt he
EndpointMap, as using the uri_no_suffix defeats that usage.

Change-Id: I5f07a0cee07fa28b88c419e25e014094004b1bce
Partial-Implement: blueprint keystone-v3

Move nova-scheduler data into puppet_config

This is now required per the puppet_config interfaces for docker
services (per I208c1ef1550ab39ab0ee47ab282f9b1937379810)

Change-Id: Iab96919cb0a6b15942f3c19f8d28205261174edc

Enable Docker service for Compute role

A recent commit [1] change how docker is installed and configured on
the overcloud nodes, from a cloud-init script to a proper puppet
profile in puppet-tripleo but forgot to enable the docker service on
the compute nodes.

[1] Ia50169819cb959025866348b11337728f8ed5c9e

Change-Id: I202723d0e48f110e5b0dbfe3dcf6646da9f37948

Merge "sshd template, rename hiera key"