Merge "Move network bind IPs out of compute.yaml"

Merge "Adding optional aci-opflex hiera data"

Merge "Move out of roles any Ceph setting"

Merge "Disable the Mon/OSD/Client resources in puppet-ceph-external"

Merge "Use modulepath for Puppet"

Merge "Enable gnocchi systemd services"

Merge "Clean up old functions"

Merge "Make OVS ARP responder feature configurable"

Merge "Update authtoken parameters to match recent changes"

Merge "Move resource registry override to enable-tls.yaml"

Merge "Allow a fixed IP to be allocated to RedisVirtualIP"

Merge "Fix path to sahara templates"

Update authtoken parameters to match recent changes

Update authtoken parameters for:
- Aodh
- Ironic
- Manila
- Nova
- Ceilometer

Change-Id: Ie123b8da1a7af2e406aadca4775de9e8c4e6e1f5

Merge "Updates and fixes to NIC config template routes"

Merge "Fixes Neutron metadata parameters in THT"

Merge "Fix check for MariaDB upgrade manual switch off"

Merge "Permit usage of raw disks as backends for Swift storage"

Fixes Neutron metadata parameters in THT

Changes include:
 - Adds missing parameter to enable DHCP Metadata networks, which is
   required to enable isolated or forced metadata via DHCP agent
 - Fixes isolated metadata parameter to use a boolean
 - Fixes regression where force metadata parameter was accidentally
   removed

Closes-Bug: 1613743

Change-Id: I08f907fe8a8e89e108351b84db33c4d9c004b957
Signed-off-by: Tim Rozet <trozet@redhat.com>

Make OVS ARP responder feature configurable

Adds NeutronEnableARPResponder parameter to allow enabling the ARP
responder feature in the OVS agent.

Change-Id: Ide82d890ddbd842383255f5c06c186054ec8f97d

Merge "Move Keepalived/HAproxy settings out of controller"

Move network bind IPs out of compute.yaml

This patch moves the local bind host hiera data out
of compute.yaml and into composable services.

Change-Id: Iae4ca707c429cc8f5ec4d1d514ae7da0bf557dfd

Clean up old functions

These are not needed any more as they were specific to
mitaka upgrades.

Change-Id: I0d421b942e620403f88374e1c82105747d8d84c9

Fix Flavor get_param for Block Storage.

The get_param of the flavor was not pointing to the right parameter,
leading to an empty flavor for the block storage and a failure during
validation.

Change-Id: Id9a3d5756be956cedf060443533b84fcc66e721c
Closes-Bug: 1616453

Move Keepalived/HAproxy settings out of controller

This moves the config settings out of controller.yaml for Keepalived
and HAproxy.

NOTE: the tripleo::haproxy::redis_password wasn't getting set
correctly before this patch. Looks like a breakages that
occurred when puppet-tripleo dropped the loadbalancer class.

Related-Bug: #1604414

Change-Id: Id24b02ac73f4ae33b20194da8a5f99f17403ece9

Fix check for MariaDB upgrade manual switch off

The MySqlMajorUpgrade parameter has validation on it allowing only
values yes/no/auto, however in the script we checked for '0' instead of
'no', which means the only effective values were yes/auto. This is now
fixed to allow switching the migration off.

Change-Id: I5d64734894c6bfd9003ad643f3747e34e62465cc
Closes-Bug: #1616429

Move out of roles any Ceph setting

Change-Id: I6ff0f977a1fb2fd55b29becd296ab01c65b50228

Merge "Move RabbitMQ settings out of controller.yaml"

Merge "Move MySQL settings out of puppet/controller.yaml"

Merge "Revert "Pin puppetlabs_spec_helper to 1.1.1""

Move RabbitMQ settings out of controller.yaml

This moves the config settings out of controller.yaml for RabbitMQ
and into puppet/services/rabbitmq.yaml.

Related-Bug: #1604414

Change-Id: I6b3d71653fb91b89b85dae7df4088afff22b71ac

Move MySQL settings out of puppet/controller.yaml

This moves the config settings out of controller.yaml for MySQL
and into puppet/services/database/mysql.yaml.

The top leve MysqlRootPassword is still maintained by default
in overcloud.yaml so that users who upgrade won't get
broken. New users may optionally specify the MysqlRootPassword
as a parameter instead which will take priority over the top
level generated parameter.

We drop the top level MysqlClusterUniquePart because it is no
longer used (I think it was a remnant from t-i-e).

Related-Bug: #1604414

Change-Id: I06ebac0f4c87dabfccefb2e550a64650868c5b26

Revert "Pin puppetlabs_spec_helper to 1.1.1"

This reverts commit 59e3f2c696d05e83cf48aa359901cedac592d596.

Change-Id: I93c900177f0929604b6522b3b9aa40ff56dc8083

Merge "Set cinder::api::bind_host within service template"

Pin puppetlabs_spec_helper to 1.1.1

Version 1.2.0 of puppetlabs_spec_helper pulled in a version gem with
ruby 2.2 requirements.
TripleO CI has ruby 2.0 so we need to pin the gem.

Change-Id: I614ce29e83265ee48bb5f35fdd4a956346b0c69d

Permit usage of raw disks as backends for Swift storage

Adds a SwiftRawDisks parameter which can be used to provide a map
disk-keyed with properties for each additional disk to be used
as backend for Swift storage.

Change-Id: I65ff488c8eb62c03fc45f04e70e18a5f4022d6b6
Depends-On: Id450e777930bb0b749c0ecfab0679a52a84fd7fe
Depends-On: Iac75cf2244339fae444be5859b7583e80bafc4e2

Move resource registry override to enable-tls.yaml

It makes more sense for the enable-tls.yaml file to contain the
resource registry override, since it contains parameters that are
actually used there. Also, this allows us to reuse the
tls-endpoints-public-* files for other methods of enabling TLS (such
as with certmonger).

Change-Id: I98c63d0007e61968c0490a474eddb42548891fa6

Don't trigger mariadb upgrade dump/restore when not needed

When upgrading from mariadb X.Y.Z to mariadb X.Y.Ž (X.Y part stays the
same), the dump/restore of mariadb shouldn't be necessary. Therefore we
now only check for up to the first 2 fields of the version string when
determining if we should trigger the dump/restore operation.

Closes-Bug: #1615721
Change-Id: Ib7af8bfb121f5c83184d51b3c6dc657108c25973

Set cinder::api::bind_host within service template

The map_replace at [1] will replace the network name
with the local node IP address on the given network.

1. I7850d4dc8bf4db5f7ac6a6b53c1d900b561b4580

Change-Id: Ica064b5ffac61cebe2aae06d4f1d1d9e84258c10

Fix path to sahara templates

Fix path to sahara templates

Change-Id: I7e60ed1800923057efe24badf03d76761da3f498

Merge "Add DefaultPasswords to composable services"

Merge "Pass ServiceNetMap to services"

Merge "Disable Sahara by default"

Merge "Remove OS::Tripleo::Services::ManilaShare: from puppet-pacemaker.yaml"

Disable Sahara by default

Users who want Sahara enable now can simply include the
environments/services/sahara.yaml Heat environment.

Change-Id: I3df96b6e78ba3eddb62e79d854862a7e2d614c51

Disable cinder-backup by default

The cinder-backup service was not configured in mitaka, so
having it disabled by default does not change the existing
behavior.

Also adds an environment file to enable it in the pacemaker
scenario.

Change-Id: I9a238e0d4601c9f59aff94fdac837c7d0e90afa0

Enable gnocchi systemd services

Marian Krcmari noticed that on a freshly deployed HA Newton system
gnocchi-metricd and gnocchi-statsd are down. This likely came about when
gnocchi moved to composable roles
(I40a3815923099d00a0f3fc1d88a942784e7c6fb9) and those settings made
sense when it was managed by pacemaker.

Also make sure that all services are disabled when managed via
pacemaker and add manage_service: false for gnocchi-api for pacemaker
which was missing.

Change-Id: If7d681e0fa3e84379ac83c8a55b481369fe2849e

Add DefaultPasswords to composable services

This patch adds a new DefaultPasswords parameter to
composable services. This is needed to help provide
access to top level password resources that overcloud.yaml
currently manages (passwords for Rabbit, Mysql, etc.).

Moving the RandomString resources into composable services
would cause them to regenerate within the stack. With this
approach we can leave them where they are while we deprecate
the top level mechanism and move the code that uses the
passwords into the composable services.

Change-Id: I4f21603c58a169a093962594e860933306879e3f

Pass ServiceNetMap to services

This will be needed to pick the network where the service has
to bind to from within the service template.

Change-Id: I52652e1ad8c7b360efd2c7af199e35932aaaea8c

Merge "Add management network to list of networks to ping"

Merge "Upgrade scripts to migrate aodh alarm data"

Merge "Add tripleo-firewall composable service"

Remove OS::Tripleo::Services::ManilaShare: from puppet-pacemaker.yaml

Already with the same value in overcloud-resource-registry-puppet.yaml

Change-Id: Ic274abddef5e229a3517f4f77d8192d6abf81044

Merge "Make sahara run via systemd"

Merge "Add tripleo-packages composable service"

Merge "Rename NeutronServer to NeutronApi to align with ServiceNetMap"

Merge "Remove deprecated node_ips hiera keys"

Merge "Decouple EndpointMap from SSL certificate params"

Merge "gnocchi: use new authtoken parameters"

Make sahara run via systemd

Via commit 0327fc2bbb1be9972d99e2e83d54d07410ad01d9 we added sahara
as a composable service. Let's make sure sahara-api and sahara-engine
run via systemd and not as a pacemaker resource. This is inline with the
HA NG spec.

Change-Id: I5634ad43771fba798892df6d2297c2634dcb6756

Use modulepath for Puppet

We only create the /etc/puppet/modules symlinks during image building,
so as we update the openstack-puppet-modules RPM during the lifecycle
of a deployment, the symlinks can get out of date and some modules
aren't find.

This patch adds modulepath for puppet deployments, getting rid of the
need for our Puppet modules to be symlinked from /etc/puppet/modules. If
there are some already symlinked, they will take precedence. Also
modules installed from source to /opt/stack/puppet-modules will take
precedence over packaged modules in /usr/share/openstack-puppet/modules.

Change-Id: I626a596478be7c55500f9e3c7118ef64ff28aaae
Closes-Bug: #1613211

Upgrade scripts to migrate aodh alarm data

In Newton, Aodh will be using its own mysql DB rather than
using ceilometer's mongo instance. This means we need to
migrate any existing alarm and alrm history data from
ceilometer DB to aodh mysqlDB. Upstream aodh provides us
with a aodh-data-migration utility. We need to invoke this
during the mitaka->newton upgrade procedure so data is
migrated as expected and aodh mysql backend takes over.

Closes-bug: #1611794

Change-Id: I17888b57ecf98cd83e92af2f9cdbead066b03aa3

Add tripleo-firewall composable service

This creates a new service to help manage the puppet-tripleo
class that enables firewall features. Currently has no settings
but this will keep our interfaces consistent.

Change-Id: I5ac85fa1e460b19ee2b1a9280413aebefe300845

Add tripleo-packages composable service

This creates a new service to help manage the puppet-tripleo
class that enables and disables package installation features.

NOTE: we can't move the upgrade setting into the new composable
service yet due to coupling with the UpgradeDeployment resources.

Change-Id: If35cf6a6f023e12ae8ebbc2d9929d244eb3ffa3a

Merge "Update Ironic composable services"

Merge "Remove unneeded net_ip_map dump into hieradata"

Merge "Remove deprecated net_ip_uri_map output"

Merge "Remove deprecated net_ip_subnet_map output"

Merge "Add cinder-backup service as role"

gnocchi: use new authtoken parameters

Configure Gnocchi with authtoken new class in the Puppet module, and
also remove the useless parameters that didn't exist in the module.

Change-Id: I414990c4fd5c5c1cd43d50c7a3947a4a29f4587a

Merge "Set coordination url for gnocchi storage"

Merge "Move neutron settings out of puppet/compute.yaml"

Merge "Mv Ceilometer settings out of puppet/compute.yaml"

Merge "Move Nova settings out of puppet/compute.yaml"

Remove unneeded net_ip_map dump into hieradata

We will lookup bind addresses using map_replace within the templates
so dumping net_ip_map as hieradata is unneeded.

Change-Id: If54c9033fc58d2cfaa040e30adeed7f58e44fd88

Remove deprecated net_ip_uri_map output

Takes the net_ip_uri_map value from the *_uri values emitted
by net_ip_map instead.

Also removes TenantIp and TenantIpUri from net_vip_map_external
templates as there won't be any VIP on the tenant network.

Change-Id: Icdac3d58162891f5ca3d5c20f14fcdff1781996f

Remove deprecated net_ip_subnet_map output

Change-Id: I83ca923140d7f8ca3101e851e88ca3107a99555a

Merge "Remove deprecated hdp plugin and add ambari"

Move neutron settings out of puppet/compute.yaml

This finishes moving most of the config settings out of
compute.yaml for Neutron and Rabbit. Also removes some
other misc unused parameters.

Change-Id: Ie340c33fb3434eb70e131ff6e252d0909aabd37c
Related-Bug: #1604412

Mv Ceilometer settings out of puppet/compute.yaml

This finishes moving most of the config settings out of
compute.yaml for Ceilometer.

Change-Id: I96369ebba28f0af4eb2d6d520b478213d8021822
Related-Bug: #1604412

Move Nova settings out of puppet/compute.yaml

This finishes moving most of the config settings out of
compute.yaml for Nova and into the proper nova-* services.

Only the bind port/VIP related Nova settings remain now and those
will be dealt with in a follow up patch.

Change-Id: I1c40e7d54c11dfff2aaa6438c7701e98da17ebe6
Related-Bug: #1604412

Merge "Convert ServiceNetMap to a nested template"

Merge "Remove NeutronEnableTunnelling from templates"

Merge "Remove KeystoneRegion from controller.yaml"

Remove NeutronEnableTunnelling from templates

As described in https://bugs.launchpad.net/tripleo/+bug/1532830,
the OVS agent no longer uses enable_tunneling, which is controlled by
NeutronEnableTunnelling, so this change removes NeutronEnableTunnelling
from the Heat templates.

This change depends on NeutronEnableTunnelling also being removed
from python-tripleoclient and puppet-neutron no longer using the
enable_tunneling hieradata.

Change-Id: I1ff6902ebd15041fc57ffff20a07455f171a004b
Closes-Bug: 1532830
Depends-On: I28d33592374f60cb5222a866efaf9d137aca1c5a
Depends-On: I73630653330c67444827f32740c44e9d25b5db31

Rename NeutronServer to NeutronApi to align with ServiceNetMap

The new composable service name conflicts with the existing ServiceNetMap
naming, so align with NeutronApi since ServiceNetMap exists in current
released versions.

This is required so we can correctly generate the neutron_api_node_ips
list (needed by puppet-tripleo) based on the service_name.

Change-Id: Ic1d45cbaa77bc6ac9ca247c880a9845ca49905da
Partially-Implements: blueprint custom-roles

Remove deprecated node_ips hiera keys

This aligns with the new naming conventions in puppet-tripleo, so
the keys can be more easily generated from the service_names.

Change-Id: Idb4a740e70257e3c69d8ec7d0c88594cc091b6a7
Partially-Implements: blueprint custom-roles
Depends-On: I423b544df174254ac511b906b0c570e701678022

Convert ServiceNetMap to a nested template

We introduce a new ServiceNetMap resource which enables some more flexible
mappings between the services and their networks.

Specifically this patch means:

1. ServiceNetMap no longer has to specify the entire list of all services,
operators may if they wish, but a subset is now valid where you want to
accept the defaults for some services (the defaults are now accessible via
the ServiceNetMapDefaults parameter.

2. We can map some keys which don't fit a pattern that enables conversion
from CamelCase to snake_case which is required for compatibility with the
service_names in puppet/services*

This should be backwards compatible, and in future when we remove internal
dependency on the CamelCase names, we could also enable operators to
specify e.g heat_api_network in ServiceNetMap which would be more consistent.

Change-Id: Ib60198adf76bb69ffbafbfac739e356d153f6194
Partially-Implements: blueprint custom-roles

Merge "Add parameter for enabling purging configuration files"

Merge "Align node_ips hiera keys with the service name."

Merge "Move gnocchi's kestone::auth parameters to API profile"

Decouple EndpointMap from SSL certificate params

Having the endpoint map in the same environment as the SSL
certificate parameters means that every time a service is added to
the overcloud, the user must remember to update their copy of
enable-tls.yaml to reflect the new service.

To avoid this, let's separate the SSL EndpointMap from the SSL
certificates so users can simply pass the shipped list of SSL
endpoints and only have to customize the certificate env file. As
and added bonus, this means they won't have to put the certificates
in enable-tls.yaml specifically.  The parameters can be set
anywhere, and will be used as long as one of the tls-endpoints
envs is also specified.

inject-trust-anchor.yaml is not changed, but it could already be
used in the same fashion.  The root certificate param could be set
in any env passed after inject-trust-anchor.yaml, and then
inject-trust-anchor.yaml would only be responsible for setting the
appropriate resource_registry entry.  This way there is no need to
customize the in-tree inject-trust-anchor.yaml either.

Change-Id: I38eabb903b8382e6577ccc97e21fbb9d09c382b3

Merge "Convert EndpointMap to not require per-service VIP parameters"

Set coordination url for gnocchi storage

Change-Id: I8107b84eaea8baf3ed664c70d4cf16537d869bcb

Update Ironic composable services

* Add service for configuring Nova compute with Ironic
* Fix authentication in Ironic APU
* Provide a separate environment file for enabling Ironic

Change-Id: I211e6d91eacd238b04a1aa37528d5a91523407d9
Partially-Implements: blueprint ironic-integration

Reinstate CloudDomain properties for Controller/Compute roles

These were removed in https://review.openstack.org/#/c/347050
but it turns out the defaults in the role templates is bad, as
an empty string results in a malformed hosts file fqdn.

So, partially revert that patch so we always pass the global
CloudDomain from overcloud.yaml, accepting the default configured
there, and remove the empty-string defaults in the role templates.

Change-Id: I0ea4190a23488986a3ee9e887328e0e7a03fe3aa

Convert EndpointMap to not require per-service VIP parameters

Currently we have a hard-coded set of per-service parameters, which
will cause problems for custom roles and full composability.

As a first step towards making this more configurable, remove the
hard-coded per-service parameters from overcloud.yaml, and adjust
the EndpointMap generation to instead accept two mappings, the
ServiceNetMap and a mapping of networks to IPs (effectively this
just moves the map lookup inside the endpoint map instead of
inside overcloud.yaml)

Change-Id: Ib522e89c36eed2115a6586dd5a6770907d9b33db
Partially-Implements: blueprint custom-roles

Merge "Add hieradata for Manila v1 and v2 endpoints"

Align node_ips hiera keys with the service name.

To enable composable generation of this switch the key names
to align with the service_name of each service.

Note that this should depend on I423b544df174254ac511b906b0c570e701678022
and previously passed CI with that defined, but because we now run
gate validation jobs on puppet-tripleo it's impossible to land, so
this now contains both old and new hiera keys temporarily, which will
be removed when the puppet-tripleo patch lands.

Change-Id: I7febf28bf409e25e8e5961ab551b6d56bb11e0c6
Partially-Implements: blueprint custom-roles

Merge "Add support for cinder v3 endpoint"

Add hieradata for Manila v1 and v2 endpoints

manila::keystone::auth assumes that two endpoints will be created;
one for each version of Manila. This is not consistent with what we
provide to the manifest. So we then add the needed endpoint to the
EndpointMap.

v2 is left as the default (not needing to specify a version when
getting the value from the endpoint map), and v1 was added as an
extra suffix.

Change-Id: Ie8754fbb21f50c2613a2c05a52d771f4d1aeb4bb