Merge "Add upgrade tasks for gnocchi container services"

Merge "Add IPv6 disable option"

Merge "Use httpd in Zaqar docker service"

Merge "Add composable role support for NetApp Cinder back end"

Add name and description fields to plan-environment.yaml

Change-Id: I99b96343742ee5c40d8786e26b2336427e225c82
Implements: blueprint update-plan-environment-yaml

Merge "Bind mount directories that contain the key/certs for keystone"

Merge "docker/all: Bind-mount OpenSSL CA bundle"

Merge "Change the directory for httpd certs/keys to be service-specific"

Add tags to roles

Prior to Ocata, the Controller role was hardcoded for various lookups.
When we switched to having the primary role name being dynamically
pulled from the roles_data.yaml using the first role as the primary
role as part of I36df7fa86c2ff40026d59f02248af529a4a81861, it
introduced a regression for folks who had previously been using
a custom roles file without the Controller being listed first.

Instead of relying on the position of the role in the roles data, this
change adds the concepts of tags to the role data that can be used when
looking for specific functionality within the deployment process. If
no roles are specified with this the tags indicating a 'primary'
'controller', it will fall back to using  the first role listed in the
roles data as the primary role.

Change-Id: Id3377e7d7dcc88ba9a61ca9ef1fb669949714f65
Closes-Bug: #1677374

Non-ha multinode environment for container upgrade job

Non-working containers upgrade CI is caused by the fact that all
multinode jobs deploy pacemaker environments.

Currently we cannot upgrade Pacemakerized deployments
anyway (containerization of pacemakerized services is WIP), upgrades
have only been tested with non-Pacemaker deployments so far.

We need a new environment which will not try deploying in a
pacemakerized way. When pacemaker-managed services are containerized, we
can change the job to upgrade an HA deployment (or single-node "HA" at
least), and perhaps even get rid of the environment file introduced
here, and reuse multinode.yaml.

Change-Id: Ie635b1b3a0b91ed5305f38d3c76f6a961efc1d30
Closes-Bug: #1682051

Use comma_delimited_list for token flush cron time settings

This allows us to better configure these parametes, e.g. we could set
the cron job to run more times per day, and not just one.

Change-Id: I0a151808804809c0742bcfa8ac876e22f5ce5570
Closes-Bug: #1682097

Bind mount directories that contain the key/certs for keystone

This is only done when TLS-everywhere is enabled, and depends on those
directories being exclusive for services that run over httpd. Which is
the commit this is on top of.

Also, an environment file was added that's similar to
environments/docker.yaml. The difference is that this one will contain
the services that can run containerized with TLS-everywhere. This file
will be updated as more services get support for this.

bp tls-via-certmonger-containers

Change-Id: I87bf59f2c33de6cf2d4ce0679a5e0e22bc24bf78

docker/all: Bind-mount OpenSSL CA bundle

The containers also need to trust the CA's that the overcloud node
trusts, else we'll get SSL verification failures.

bp tls-via-certmonger-containers

Change-Id: I7d3412a6273777712db2c90522e365c413567c49

Merge "Grouped all the Operational tools"

Merge "Add missing name properties on deloyment resources"

Use -net=host for docker-puppet.py config gen

We pass the short hostname to docker-puppet.py. In order to satisfy the
factor FQDN check for the short hostname we need to run the container
with --net=host in some cases.

Change-Id: I2929f122f23ee33e8ea5d4c5006d2bbb8b928b67
Closes-bug: #1681903

Add RoleNetIpMap output to overcloud.j2.yaml

To enable easier detection of the IPs associated with nodes (such
as to enable the tripleo-validations ansible inventory to work with
custom roles more easily) expose the data we already have about the
nodes/roles and the list of IPs for each network.

Change-Id: I5667a142f47fbff120c703bedadd8b6e163c9480

docker: use noop_resource for Nova_cell_v2

Per puppet-nova commit 2c743a6bff5b17a85d1e0500f3a9ecb21468204e
there is now a custom resource for Nova_cell_v2 configuration.
As this resource runs automatically regardless of our use
of puppet tags we need to explicitly disable it to be able to
generate Nova API configs for docker.

Change-Id: Id675dc124464acddc3fc5a88b017a351e93ba685
Closes-bug: #1681841

Change the directory for httpd certs/keys to be service-specific

This moves the directories containing the certs/keys for httpd one step
further inside the hierarchy. This way we will be able to bind-mount
this certificate into the container without bind-mounting any other
certs/keys from other services.

bp tls-via-certmonger-containers

Change-Id: Ibe6e66ae4589b9eab7db330dd8b178e0f8775639
Depends-On: I0b71902358b754fa8bd7fdbb213479503c87aa46

Merge "Decouple Swift ringbuilding logic"

Add Docker to services list in multinode CI environments

We need the service to be present to run jobs involving containers. Note
that this is effectively a no-op for the current CI jobs, as by default
the Docker service is mapped to OS::Heat::None. Docker will actually be
deployed only if environments/docker.yaml is included in the deploy
command.

Change-Id: I97a35e30e428ff64feeb411bf63dbb7aa54f9829

Do not log errors on non-existing container

This is cluttering up the logs with useless error messages, making it
more difficult than necessary to debug the CI job.

Change-Id: Icbdc4c74d99fea39b8722955dab56e5f538849aa

Add IPv6 disable option

This will give user the ability to set these values,
if IPv6 is not to be used, it's recommended that it be
disabled to reduce the attack surface of the system.

Change-Id: Ib3142cce49b93a421ca142a59961ce49a77e66b1
Co-Authored-By: Luke Hinds <lhinds@redhat.com>
Signed-off-by: zshi <zshi@redhat.com>

Merge "Replace references to the 192.0.2 network"

Merge "Add BGPVPN services to scenario004"

Merge "metadatahook: Use coalesce to handle null values"

Update Dell EMC Cinder back end services

Add services for Dell EMC Cinder back ends to the resource registry
and to the Controller role (defaulting to OS::Heat::None).

Closes-Bug: #1681497
Change-Id: I694fd7738abd3601851bdcd38e3633607ce6152c

Add composable role support for NetApp Cinder back end

Convert NetApp Cinder back end to support composable roles via new
"CinderBackendNetApp" service.

Closes-Bug: #1680568
Change-Id: Ia3a78a48c32997c9d3cbe1629c2043cfc5249e1c

Merge "Remove yaql call when building logging_groups"

Add upgrade tasks for gnocchi container services

Change-Id: I43c35bbf959e5dcdd7e87a8f6a604d5fe5b4f2a9

Merge "sensu: fix upgrade case when service is added"

Replace references to the 192.0.2 network

Following change I1393d65ffb20b1396ff068def237418958ed3289 the ctlplane
network will be 192.168.24 by default and not 192.0.2 anymore.

This change removes old references left to 192.0.2 network from the
overcloud templates.

Change-Id: I1986721d339887741038b6cd050a46171a4d8022

Merge "Timeout early on pcs cluster status check0 during upgrade."

metadatahook: Use coalesce to handle null values

This uses the coalesce function to take null values into account, else
these resources will fail validation.

Change-Id: Iaf4218dd731826f80b76ff8f7a902adc8c865be5
Closes-Bug: #1681332

Remove yaql call when building logging_groups

yaql calls are fairly expensive. Let's try to not nest them when we can
avoid it.

Change-Id: I5e7dbc42be625bbfe7989867794a67ebae08687d

[ironic] expose default boot_option in configuration and change it to local

Ironic is going to change the default boot_option from netboot to local in the
near future. Let's be pro-active, and change it in advance. Users cano change
it back via new IronicDefaultBootOption configuration.

Partial-Bug: #1619339
Change-Id: Idddc2e384c6cd9a1595777090500bf04f230edd4

Decouple Swift ringbuilding logic

This reverts commit b323f8a16035549d84cdec4718380bde3d23d6c3 and uses
the new logic in puppet-tripleo (see Ifd6fa5b398d98e8998630ea0c9a2ce9867ceba2b
), basically doing the same.

Closes-Bug: 1665641
Change-Id: Ib5cb0578be2993af0a0b8675005d838640bdb139

Enable internal network TLS for etcd

bp secure-etcd

Depends-on: I0759deef7cbcf13b9056350e92f01afd33e9c649

Change-Id: I049e35f3158435a0a82ca666911f2337b38e30ce
Signed-off-by: Feng Pan <fpan@redhat.com>

Merge "Avoid awk error in hosts-config.sh for large deployments"

Merge "Prepare 7.0.0.0b1 (pike-1)"

Merge "Update ceph-rgw acccepted roles to fix OSP upgrade"

Prepare 7.0.0.0b1 (pike-1)

Change-Id: I93de22a4aa2d90966c24349e765475576947f2e0

Use conditionals for neutron and glance worker defaults

Using an empty string to signal that the default value in the puppet module
is to be used no longer seems to work, resulting in the puppet specified
defaults being overridden by empty string values. The impact on
configuration will differ depending on the actual configuration item, the
puppet code and the service, so it is just safer to omit the hieradata if
the user has not explicitly set a value.

Change-Id: Iefbc8f8669680e4f9d01db6b49543bfbe9b7661b
Closes-Bug: #1669452

Merge "Add Docker service to all roles"

Add environment to preselect only VIP IP addresses

This change adds two files which demonstrate manipulation of the
VIP IP addresses without using an external load balancer. This
allows the configuration of DNS, or allows for continuity when
replacing an existing environment.

The fixed IPs for the virtual IPs are set using the new parameters,
and this change also adds a RedisVirtualFixedIPs parameter for
setting the Redis VIP.

Partial-Bug: https://bugs.launchpad.net/tripleo/+bug/1604946
Change-Id: I4e926f1c6b30d4009d24a307bc21e07e1731b387

sensu: fix upgrade case when service is added

When service is added during an upgrade, fix the ansible syntax
to use the right variable for return code.

Change-Id: I974699fb8b0dcbe5ffa6935c394df4ac8e7b21d4

Timeout early on pcs cluster status check0 during upgrade.

There is a windows for the pcs cluster status to hang forever[1].  We
add a timeout during check0 to avoid this situation.  2 minutes should
be more than enought to get all the pcsd nodes to reply.

[1] https://bugzilla.redhat.com/show_bug.cgi?id=1292858

Closes-Bug: #1680477

Change-Id: Icb3dc76e031a3d4f26294f37d169f2f61d30973e

Merge "Add password to authtoken section in congress.conf"

Merge "Add support for "neutron" Ironic networking plugin"

Allow for update after RHEL registration

Adds the ability to perform a yum update after performing the RHEL
registration.

Change-Id: Id84d156cd28413309981d5943242292a3a6fa807
Partial-Bug: #1640894

Add Docker service to all roles

This will add the Docker service to all roles. Note that currently by
default the Docker service is mapped to OS::Heat::None by default. It
will only be deployed if environments/docker.yaml file is included in
the deployment.

Change-Id: I9d8348b7b6576b94c872781bc89fecb42075cde0
Related-Bug: #1680395

Merge "ovn: Add missing configurations required"

Avoid awk error in hosts-config.sh for large deployments

This ports the fixes made to the legacy 51-hosts script, which this
script is derived from, to tht.

See related t-i-e patch Ibe0a9f6ec10d55750e3b0e16301236141f988d69

Change-Id: Ide922af93a5d185bd592e220327326f1d244c4e2
Closes-Bug: #1674732

Add password to authtoken section in congress.conf

Current puppet module miss password section hence congress is not
available due to missing password in congress.conf. This fix is to
add password.

Change-Id: I277c03ca93130a0337d5085f09c375fb0ac9331d
Signed-off-by: Tomofumi Hayashi <s1061123@gmail.com>

Add BGPVPN services to scenario004

This submission will enable the BGPVPN API
on scenario004.

This addition to scenario004 does not
provide any sanity check for the Neutron API
extension. At this stage is meant to
install the required packages and prerequisites,
configure the extension and
having the services started correctly.

In the README.rst file, this is displayed as
neutron-bgpvpn, so for further integrations
should be added as neutron-<extension_name>
for an easier reading.

Depends-On: I4d0617b0d7801426ea6827e70f5f31f10bbcc038
Depends-On: I2be0fab671ec1a804d029afc6dc27d19a193b064
Change-Id: I6c257417a9231c44e13535bc408d67d2a3cacbf8

Merge "Fix conntrack proto sctp module"

Replace six.iteritems() with .items()

1.As mentioned in [1], we should avoid using
six.iteritems to achieve iterators. We can
use dict.items instead, as it will return
iterators in PY3 as well. And dict.items/keys
will more readable. 2.In py2, the performance
about list should be negligible, see the link [2].
[1] https://wiki.openstack.org/wiki/Python3
[2] http://lists.openstack.org/pipermail/openstack-dev/2015-June/066391.html

Change-Id: I7c8f540eced0731f4dfb1dfd045828b5a9bb6c67

Merge "Adds Horizon secure cookie map."

Merge "Fixing acronym for BGPVPN composable service"

Merge "Add trigger to setup a LDAP backend as keystone domaine"

Merge "Adds service for managing securetty"

Merge "Use the local collector to bootstrap deployed servers"

Fix conntrack proto sctp module

ip_conntrack_proto_sctp is the old name for the module and it is now
nf_conntrack_proto_sctp. In order for the kmod module to not keep trying
to modprobe the module, we need to use the correct name.

Change-Id: Ieaed235e71e9e6e41a46d9be0e02beb8f4341b1a
Closes-Bug: #1680579

Merge "Disable ceilometer API"

Merge "Use kolla api to set ownership"

Merge "Don't disable satellite repo after registration"

Disable Manila CephFS snapshots by default

Because CephFS Snapshots are still an experimental feature and
also Manila Ceph driver has this feature disabled by default,
it makes sense to not override this value by default.

Change-Id: I3dacbd7a3c673d2f34998ee9f433889727c6a0f7

Adds service for managing securetty

This adds the ability to manage the securetty file.

By allowing management of securetty, operators can limit root
console access and improve security through hardening.

Change-Id: I0767c9529b40a721ebce1eadc2dea263e0a5d4d7
Partial-Bug: #1665042
Depends-On: Ic4647fb823bd112648c5b8d102913baa8b4dac1c

Add initial support for NSX plugin

Add the support for the VMware NSX plugin

Co-Authored-By: Tong Liu <tongl@vmware.com>
Change-Id: I3567cbb4ed8d6e5b2a3ea6b8cff6c7b8ed13b692

Merge "docker-puppet.py fail if any worker fails"

Merge "Add manual ovs upgrade script for workaround ovs upgrade issue"

Merge "Enforce upgrade_batch_tasks before upgrade_tasks order"

Merge "add configurable timeouts for DB sync"

Merge "Remove "Core" Service from the CI Environment file"

Merge "Add network sysctl tweaks for security"

Merge "Add monitoring agents deployment to CI"

Merge "Ensure upgrade step orchestration accross roles."

ovn: Add missing configurations required

This patch adds
 - setting nova config param 'force_config_meta' to True
   as metadata service is not supported by OVN yet.
 - Add the necessary iptables rules to allow ovsdb-server
   traffic for Northbound and Southboud databases.
 - Update the release notes for OVN.

Change-Id: If1a2d07d66e493781b74aab2fc9b76a6d58f3842
Closes-bug: #1670562

Add trigger to setup a LDAP backend as keystone domaine

It is using a trigger tripleo::profile::base::keystone::ldap_backend_enable in puppet-tripleo
who will call a define in puppet-keysone ldap_backend.pp.

Given the following environment:

parameter_defaults:
  KeystoneLDAPDomainEnable: true
  KeystoneLDAPBackendConfigs:
    tripleoldap:
      url: ldap://192.0.2.250
      user: cn=openstack,ou=Users,dc=redhat,dc=example,dc=com
      password: Secrete
      suffix: dc=redhat,dc=example,dc=com
      user_tree_dn: ou=Users,dc=redhat,dc=example,dc=com
      user_filter: "(memberOf=cn=OSuser,ou=Groups,dc=redhat,dc=example,dc=com)"
      user_objectclass: person
      user_id_attribute: cn
      user_allow_create: false
      user_allow_update: false
      user_allow_delete: false
  ControllerExtraConfig:
    nova::keystone::authtoken::auth_version: v3
    cinder::keystone::authtoken::auth_version: v3

It would then create a domain called tripleoldap with an LDAP
configuration as defined by the hash. The parameters from the
hash are defined by the keystone::ldap_backend resource in
puppet-keystone.

More backends can be added as more entries to that hash.

This also enables multi-domain support for horizon.

Closes-Bug: 1677603
Co-Authored-By: Juan Antonio Osorio Robles <jaosorior@redhat.com>
Depends-On: I1593c6a33ed1a0ea51feda9dfb6e1690eaeac5db
Change-Id: I6c815e4596d595bfa2a018127beaf21249a10643
Signed-off-by: Cyril Lopez <cylopez@redhat.com>

Remove "Core" Service from the CI Environment file

OS::TripleO::Services::Core is still referenced in the CI roles
enviornment file. Because of which CI is failing when service
template is modified. Removing the obsolete service.
Closes-Bug: #1680043

Change-Id: I168452fa5c2e6d6d8fdf829b9b02996d9ca5532a

Merge "Add logging agents deployment to CI"

Merge "Add parameters for internal TLS for swift proxy"

Merge "Ironic containers: chown /var/lib/ironic correctly"

add configurable timeouts for DB sync

This patch integrates with the db_sync_timeout
parameter recently added to puppet-nova
and puppet-neutron in
I6b30a4d9e3ca25d9a473e4eb614a8769fa4567e7, which allow for the full
db_sync install to have more time than just Pupppet's
default of 300 seconds.   Ultimately, similar timeouts
can be added for all other projects that feature
db sync phases, however Nova and Neutron are currently
the ones that are known to time out in some
environments.

Closes-bug: #1661100
Change-Id: Ic47439a0a774e3d74e844d43b58956da8d1887da

yum_update.sh - Use the yum parameter: check-update

The current check tends to produce a false positive causing unnecessary
service restarts.  yum check-update will exit with return code 100 if
updated packages are available.

Change-Id: I8bd89f2b24bafc6c991382b9eb484cfa9a2f8968

Ironic containers: chown /var/lib/ironic correctly

This updates the docker version of ironic-conductor.yaml so
that it sets permissions on the entire /var/lib/ironic
tree correctly. Since 1a4ece16cea40075fe7332ed048b9c289b3ff424
we bind mount in /var/lib/ironic from the host (created via
Ansible if it didn't already exist). This caused a subtle
permissions issue in that the Ironic conductor service
can no longer create sub-directories it needs to operate.

Change-Id: I1eb6b5ddad7cd89ee887e2e429ebe245aa7b80dc
Closes-bug: 1677086

Merge "Add l2gw neutron service plugin support"

Merge "Addition of firewall rules for Nuage"

Merge "Disable core dump for setuid programs"

Fixing acronym for BGPVPN composable service

Change-Id: I397a6ad430cef5ddb4eee48347ad4c89144ad01e
Signed-off-by: Ricardo Noriega <rnoriega@redhat.com>

Allow configuring enabled hardware types for Ironic

This enabled ``ipmi`` hardware type with all defaults + support for
socat-based nova-compatible serial console.

Part of blueprint ironic-driver-composition

Depends-On: Ie434609c62cf052ee169a0fac0db3200647a1af0
Change-Id: Iecead2d6581dff7a9cead58de6505567d7cd2402

Use httpd in Zaqar docker service

Move the Zaqar WSGI service to use httpd in docker deployment.

Co-Authored-By: Martin André <m.andre@redhat.com>
Change-Id: If9b16c1aa3529386e68961e3dda5f613ac57b44b

Use kolla api to set ownership

Kolla provides a way to set ownership of files and directory inside the
containers. Use it instead of running an additional container to do the
job.

Change-Id: I554faf7c797f3997dd3ca854da032437acecf490

Add parameters for internal TLS for swift proxy

This adds the necessary parameter for swift proxy to be terminiated
internally by a TLS proxy.

bp tls-via-certmonger

Change-Id: I3cb9d53d75f982068f1025729c1793efaee87380
Depends-On: I6e7193cc5b4bb7e56cc89e0a293c91b0d391c68e

Use the local collector to bootstrap deployed servers

os-collect-config is already configured to use json files in
/var/lib/os-collect-config/local-data/ as a data source, so this can
be used in the deployed-server get-occ-config.sh to copy in the
required json to generate the required os-collect-config.conf.

Co-Authored-By: James Slagle <jslagle@redhat.com>
Closes-Bug: #1679705
Change-Id: Ibde9e6bf360277d4ff64f66d637a5c7f0360e754

Merge "Add params to tweak memory limit on mongodb"

Merge "Remove kolla_config copy from services"

Add monitoring agents deployment to CI

This patch enables deployment of sensu-client service in scenario001.

Depends-On: I4895e3b6d3d0e2c12c083133e423cafeecbafe88
Depends-On: Ibabd4688c00c6a12ea22055c95563d906716954d
Change-Id: I377811878712b7615c38094ecbf55dcc67d9ddd5

Merge "Remove not-working all-in-one upgrade environment"

Merge "Purge initial firewall for deployed-server's"