Merge "Remove deprecated minor update pcs code"

Add parameter Ec2ApiExternalNetwork for VPCs

Change-Id: I26652afe0f513ec354c05570e7fa0e5b4b0ab669

Move containers common volumes from yaql to list_concat

list_concat was introduced recently and is able to replace the yaql
calls for concatenating lists.

Change-Id: Id3a80a0e1e4c25b6d838898757c69ec99d0cd826

Use list_concat for metadata_settings for haproxy

Change-Id: Ia0e0a12e1863dce657d4e1c7f9894ea5bfd008be

Improve logging for docker-puppet.py

Log prepared docker command
Use logger stdout instead of print command
Log stderr as debug as well

Change-Id: I3d48fbf4fa3381d325e3be3788b041e06d4bb294
Signed-off-by: Bogdan Dobrelya <bdobreli@redhat.com>

Disable Telemetry services on undercloud containers

We dont deploy telemetry by default on undercloud anymore.
Lets disable by default and provide an env file to enable
on demand.

Change-Id: I03807b3b75bb038c2d2bb342f3327e6eca2f3976

Merge "Validate NTP servers"

Allow to deploy Octavia API & Neutron Server on 2 different nodes

Exporting the neutron::server parameter into the neutron_api service, so
Octavia API and Neutron Server can be separated.

Change-Id: Iee28b0e84a00bd589d6f14a73f0c3f32d310b393
Closes-Bug: #1687026

Merge "Enables support for configuring Cinder with Pure Storage FlashArray storage backend"

Merge "Unset the UpgradeInitCommand on converge"

Merge "Add $STACK_NAME input var"

Unset the UpgradeInitCommand on converge

In the converge envs we unset the UpgradeInitCommon since we used
that for the N..O upgrades workflow. However an operator may have
also overridden the UpgradeInitCommand so we should unset that
too.

Closes-Bug: 1686918
Change-Id: I3b316d04b78a4ab1e3f9f69948e42e6fb0ad6632

Merge "Fix redis container"

Merge "Add missing tag to nova-placement docker image"

Merge "aodh-base.yaml uses a hard coded keystone region name"

Merge "Disable default vhost for apache"

Merge "upgrades: deploy mod_ssl when upgrading apache"

Remove deprecated minor update pcs code

We fixed pcs resources start/stop timeouts via
I587136d8d045d213875c657ea5a405074f80c8ad in Nov 2015.for mitaka.

And there we stated:
  This can be removed once updates from deployments made prior to
  I6fc18f1ad876c5a25723710a3b20d8ec9519dcba are no longer supported.

We can now safely remove these updates as they are useless and cost time
anyway.

Change-Id: Ibad2b3eed0d08560d52d5ebe700746b61e5b8f51

Merge "Change the default for rabbitmq back to ha-mode: all"

Add $STACK_NAME input var

The stack name can now be overridden in the get-occ-config.sh script for
deployed-server's by setting the $STACK_NAME variable in the
environment.

Change-Id: Iecba21499b80e463b4c629be53c309996d39472d
Closes-Bug: #1686719

Merge "TLS-everywhere: Add missing profiles to docker compute services"

Merge "Pass httpd service_name to Zaqar"

Merge "[ironic] expose default boot_option in configuration and change it to local"

Fix redis container

The puppet-redis module makes use of the exec puppet tag to copy the
/etc/redis.conf.puppet file to /etc/redis.conf. We need to explicitly
enable it otherwise our redis container will pick up the default redis
configuration and not the one that was generated with puppet.

Also creates the /var/run/redis directory on the host since we bind
mount /run, and ensure the container sets the correct ownership on the
directory.

Finally, configure redis to not daemonize otherwise the container ends
up in a restart loop.

Change-Id: Ia1dce2120ca7479eef8bc77dedf9431adbe210cc
Closes-Bug: #1686707

Merge "Upgrade failure when service parameter is changed for PankoApi"

Merge "Fix etcd_init_task volume"

Disable default vhost for apache

It is required for a hybrid deployments
when WSGI based services running both at host and in containers, without conflicting default ports.

Partial-bug: #1686637
Co-authored-by: Juan Antonio Osorio Robles <jaosorior@redhat.com>
Change-Id: I9d0a5bb32337a6a8f1a4036f9560df79dfe1d90a
Signed-off-by: Bogdan Dobrelya <bdobreli@redhat.com>

TLS-everywhere: Add missing profiles to docker compute services

the CA and certmonger user profiles were needed in the compute services
list from the tls-everywhere in containers environment.

bp tls-via-certmonger-containers

Change-Id: Ib584ac0745d68828467bcfad7f6472ab66adbac3

upgrades: deploy mod_ssl when upgrading apache

1) When Apache is upgraded, install mod_ssl rpm.
   See https://bugs.launchpad.net/tripleo/+bug/1682448
   to understand why we need mod_ssl.

2) All services that run Apache for API will use the snippet from
   Apache service to deploy mod_ssl, so we don't duplicate the code
   in all services. It's using the same mechanism as ovs upgrade to
   compile upgrade_tasks between both services.

Change-Id: Ia2f6fea45c2c09790c49baab19b1efcab25e9a84
Closes-Bug: #1686503

Merge "Containerize Redis service"

Change the default for rabbitmq back to ha-mode: all

In change Ib62001c03e1e08f58cf0c6e0ba07a8879a584084 we switched the
rabbitmq queues HA mode from ha-all to ha-exactly. While this gives us a
nice performance boost with rabbitmq, it makes rabbit less resilient to
network glitches as we painfully found out via
https://bugzilla.redhat.com/show_bug.cgi?id=1441635.

This is the THT part of the change that changes the default to
ha-mode: all.

Closes-Bug: #1686337
Co-Authored-By: Damien Ciabrini <dciabrin@redhat.com>
Co-Authored-By: John Eckersberg <jeckersb@redhat.com>
Change-Id: I7afcf2b3c8deb13fc2134e4cae9c06a44e775384
Depends-On: I9a90e71094b8d8d58b5be0a45a2979701b0ac21c

Fix etcd_init_task volume

Docker puppet hook writes to /etc of
containers. Mount /etc as rw for etcd container.

Change-Id: I8e45de18a91022690c19888cbfaa68d2fdfe46ce
Signed-off-by: Bogdan Dobrelya <bdobreli@redhat.com>

Upgrade failure when service parameter is changed for PankoApi

scenario001 env in ocata has mapped PankoApi locally and it
has been removed master scenario001 env file. In tripleo.sh
upgrade command, both old (ocata) and new (master) env files
are included, because of which new service file is not used,
as it has been removed. This change is to add the PankoApi
mapping back to scenario001 env file for now. Actual fix
will be remove old env file from upgrade command of tripleo.sh.

Partial-Bug: #1685759
Change-Id: I4a8ee38d990a1980eea6ec63f2780357d040ded4

Merge "Fix dependencies for PreConfig/PostConfig resources"

Merge "Enable internal network TLS for etcd"

Deprecate ceilometer collector

Ceilometer collector is deprecated in Pike release.
Do not deploy by default. Instead use the pipeline
yaml to configure the publisher directly.

Closes-bug: #1676961

Change-Id: Ic71360c6307086d5393cd37d38ab921de186a2e0

Merge "Updated from global requirements"

Merge "Containerize etcd service"

Fix dependencies for PreConfig/PostConfig resources

We have a circular dependency errror since

https://review.openstack.org/#/c/452734/ landed.

This adjusts the dependencies to ensure we run pre-config before
the first puppet deploy step, and removes the duplicate declaration
of the ControllerPostConfig resource.  Also we ensure the first
container step always depends on the same step puppet deploy.

Change-Id: I70c5a39fb36b951bdeb04c15bddac7d00eebf08a
Closes-Bug: #1686098

Deploy ceilometer_auth_enabled to node containing keystone

This hiera key is used by keystone to create the ceilometer service
user. It works in CI cause keystone and the ceilometer services are in
the same node. However, this fails if keystone is deployed on a separate
note.

We should only deploy it in the nodes containing the keystone service
since it's only relevant to create the service user.

Change-Id: Ic0f02fe9a78a1fe14ac2b87197692fbd80c003b8
Closes-Bug: #1685828

Pass httpd service_name to Zaqar

This removes the need to do it in puppet-tripleo

Change-Id: I6f44a6a02041c0fbbafb770a087a0032c3a53a76

Merge "Disable Manila CephFS snapshots by default"

Merge "Add initial support for NSX plugin"

Updated from global requirements

Change-Id: I8dabf83907b2e50f6611f1ef93702b6bd5ac5e19

Merge "Merge pre|post puppet resources into pre|post config."

Merge "Fix containerized RabbitMQ service deployment"

Containerize etcd service

Depends-On: I3ad463217ed3f2d6374627248236b274cfed72fb
Depends-On: If4b01934a9a5cb6ca2ff6c1831e4fe073f1b04ea
Closes-bug: #1668938

Change-Id: I6cb902d712849bf11f331ed776cd0ed6e200dcd9
Signed-off-by: Bogdan Dobrelya <bdobreli@redhat.com>

Merge "Don't attempt to configure live migration"

Merge "Run Zaqar with httpd in puppet service"

Merge "Remove no longer used environment files - older upgrade workflows"

Merge pre|post puppet resources into pre|post config.

The [Pre|Post]Puppet resources were renamed in
https://review.openstack.org/#/c/365763.
This was intended for having a pre/post deployment
steps using an agnostic name instead of
being attached to a technology.

The renaming was unintentionally reverted in
https://review.openstack.org/#/c/393644/ and
https://review.openstack.org/#/c/434451.

This submission merge both resources into one,
and remove the old pre|post hooks.

Closes-bug: #1669756
Change-Id: Ic9d97f172efd2db74255363679b60f1d2dc4e064

Fix containerized RabbitMQ service deployment

* Use default puppet tags instead of the 'file' tag only
* Noop user/policy providers for puppet_config docker step
  and move them into docker_puppet_tasks (init container)

Change-Id: I98a54808aae6fca060b23f074b71178f2d4c815e
Closes-bug: #1684138
Signed-off-by: Bogdan Dobrelya <bdobreli@redhat.com>

Merge "Allow configuring enabled hardware types for Ironic"

Merge "Containers: disable downloading rabbitmqadmin"

Merge "Replace six.iteritems() with .items()"

Merge "Increase documentation about parameters"

Containerize Redis service

Closes-bug: #1668919

Change-Id: Ie750caa34c6fa22ca6eae6834b9ca20e15d97f7f

Merge "Add service config settings to agent services"

Merge "scenario001/pingtest: enable Gnocchi resource again"

Remove no longer used environment files - older upgrade workflows

In I7831d20eae6ab9668a919b451301fe669e2b1346 we removed some of
the old upgrades but left the environment files removed here.

Change-Id: Ib3eca5687285b280832d19b647c3b4aa3d9ac36d

Don't attempt to configure live migration

When configuring nova containers via puppet, the puppet class chain
includes a class for live migration, which configures live migration
aspects in nova and libvirt.

Some of the libvirt config parts try to notify Service[libvirt], but
that service definition is only included in nova-libvirt service, it's
not included in the control plan nova services. However, our hieradata
is currently global on the node, it's not per-service, which means even
though only nova-compute and nova-libvirt service set

  tripleo::profile::base::nova::manage_migration: true

this hiera setting is applied to all containers running puppet, most
notably the ones which configure nova control plane services. As a
result, configuration of nova control plane services failed, and in turn
the whole deployment failed.

This commit disables the libvirt part of live migration config until we
implement some better solution (e.g. hieradata separation between
different puppet containers, or move the libvirt config parts only to
nova-compute manifests in puppet-tripleo).

Change-Id: I0328406607d451e6bdce4d92c441c03648925fa7
Closes-Bug: #1684107

Merge "Use -net=host for docker-puppet.py config gen"

Merge "Add defaults for docker puppet tasks"

Merge "containers: TLS in the internal network for telemetry services"

Merge "glance: deploy services with Keystone v3 endpoints"

Merge "SSHD Service extensions"

Merge "Use conditionals for neutron and glance worker defaults"

Merge "Add network_data.yaml to encapsulate list of networks for j2"

Merge "Add environment to preselect only VIP IP addresses"

Merge "Add NeutronDnsDomain heat option, undercloud fix"

Merge "Add all hosts to HostsEntry output"

Merge "N->O Manual puppet commands have the right modulepath."

Add defaults for docker puppet tasks

Currently we're referencing some steps that don't exist in the
output from the OS::Heat::Value resource, but as noted in the heat
bug #1681749 I think this isn't valid and probably should not be
allowed, so instead merge defaults with the non-empty step
tasks. To avoid further duplication of the loop variables, I
made the max step a variable.

Change-Id: Icf3d639b53c97006a0c370c12600449fba6f3323
Related-Bug: #1681749

N->O Manual puppet commands have the right modulepath.

In two places during upgrade we manually trigger puppet.

There can be a problem when new puppet modules are added, and their
corresponding symlinks in /etc/puppet/modules are not created during
the installation as their are installed in
/usr/share/openstack-puppet/modules.  To prevent the issue tripleo set
modulepath in the templates.

We must use the same modulepath to make sure that we don't fail
because of missing module in the manual puppet run.

This particulary happens when you upgrade from M->N->O, as the base
image in Mitaka doesn't have the proper symlinks and they are not
created during the installation of the package.

Closes-Bug: #1684587

Change-Id: I79df6ea33f1c58e13309176a6de41b7572541fd6

Merge "TLS-everywhere: Enable for TLS libvirt live migration"

Run Zaqar with httpd in puppet service

This switches Zaqar to run with httpd when configured by puppet.

Change-Id: I69b923dd76a60e9ec786cae886c137ba572ec906

Merge "N->O upgrade, fix wrong parameters to nova placement."

Merge "Pluggable server type per Role"

glance: deploy services with Keystone v3 endpoints

* Switch auth_uri to point to Keystone versionless endpoint.
* Switch Swift auth url to use Keystone versionless endpoint and
  Keystone v3 API.

Co-Authored-By: Juan Antonio Osorio Robles <jaosorior@redhat.com>
Change-Id: I78cdd2286b5a5094f36d4f3c7c58340745664449
Partial-blueprint: keystone-v3

Merge "Remove root_template and root_environment from capabilities-map.yaml"

SSHD Service extensions

This change implements a MOTD message and provides a hash of
sshd config options which are sourced to the puppet-ssh module
as a hash.

The SSHD puppet service is enabled by default, as it is
required for Idb56acd1e1ecb5a5fd4d942969be428cc9cbe293.
Also added the service to the CI roles.

Change-Id: Ie2e01d93082509b8ede37297067eab03bb1ab06e
Depends-On: I1d09530d69e42c0c36311789166554a889e46556
Closes-Bug: #1668543
Co-Authored-By: Oliver Walsh <owalsh@redhat.com>

Containers: disable downloading rabbitmqadmin

There's no need for puppet to download rabbitmqadmin script from
rabbitmq, as the script would be immediately deleted together with the
ephemeral puppet container. Also, since rabbitmq isn't running at the
time we run the puppet container (rabbitmq doesn't have config files
generated at that point), puppet couldn't connect to rabbitmq anyway.

Change-Id: Ia59e1013c24ab02037246135024418cc9b674606
Closes-Bug: #1684104

Add missing tag to nova-placement docker image

This is not really an issue, but this is now consistent with other
images and is generally nicer to people with OCD.

Also, this helps generating a consistent overcloud_containers.yaml from
parsing the heat templates.

Change-Id: I24b41dea51d2a8e862f43e9092c94ba07431af4a

N->O upgrade, fix wrong parameters to nova placement.

According to [1] we need os_region_name, not region_name.  Furthermore
the os_interface is configured as well.  The hard check on this
parameter was introduced in ocata[2], explaining why the newton version
did not chock on it.

[1] https://docs.openstack.org/ocata/config-reference/compute/config-options.html
[2] https://github.com/openstack/nova/commit/d486315e0

Closes-Bug: #1684058
Change-Id: If6118bf03e832fe3fa5ea4fcb1b436afd2adf80a

containers: TLS in the internal network for telemetry services

This covers aodh, gnocchi and panko.

cp tls-via-certmonger-containers

Change-Id: I6dabb0d82755c28b8940c0baab0e23cfcc587c42

Merge "Introduce common CAs to be mounted to the containers"

Merge "Introduce common resources for docker templates"

Merge "Rework DOCKER_PUPPET_CONFIG validate tool"

TLS-everywhere: Enable for TLS libvirt live migration

This relies on using the default paths for certs/keys used by libvirt
and is only enabled if TLS-everywhere is enabled.

bp tls-via-certmonger
Depends-On: If18206d89460f6660a81aabc4ff8b97f1f99bba7
Depends-On: I0a1684397ebefaa8dc00237e0b7952e9296381fa
Change-Id: I0538bbdd54fd0b82518585f4f270b4be684f0ec4

Merge "Use underscore for Aodh and Gnocchi's container names"

Merge "Use tripleo profile for bigswitch agent"

Merge "Add migration SSH tunneling support"

Merge "SSH known_hosts config"

Merge "Run token flush cron job hourly by default"

Merge "Support for external swift proxy"

scenario001/pingtest: enable Gnocchi resource again

We disabled it because it stopped working. Let's see how it works now.

Change-Id: If1efb86cb1d6ada357d4562408a566ac702fb6be
Closes-Bug: #1646506

Merge "Fix nova-compute service name in upgrade steps"

Merge "Non-ha multinode environment for container upgrade job"

Merge "Add RoleNetIpMap output to overcloud.j2.yaml"

Run token flush cron job hourly by default

Running this job once a day has proven problematic for large
deployments as seen in the bug report. Setting it to run hourly
would be an improvement to the current situation, as the flushes
wouldn't need to process as much data.

Note that this only affects people using UUID as the token provider.

Change-Id: I462e4da2bfdbcba0403ecde5d613386938e2283a
Related-Bug: #1649616