mcp/patches/0011-system.repo-Debian-Add-keyserver-proxy-support.patch

   1 ::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::
   2 : Copyright (c) 2018 Mirantis Inc., Enea AB and others.
   3 :
   4 : All rights reserved. This program and the accompanying materials
   5 : are made available under the terms of the Apache License, Version 2.0
   6 : which accompanies this distribution, and is available at
   7 : http://www.apache.org/licenses/LICENSE-2.0
   8 ::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::
   9 From: Alexandru Avadanii <Alexandru.Avadanii@enea.com>
  10 Date: Sun, 3 Jun 2018 19:28:18 +0200
  11 Subject: [PATCH] system.repo: Debian: Use proxy for keyservers
  12
  13 Previously, when fetching GPG keys for APT keyring, either using
  14 public key download & import (as for default repos) or via keyserver,
  15 we relied on simple `curl` calls or passed it down to Salt aptpkg
  16 module.
  17 To be able to retrieve APT keys behind a proxy, one used to have to
  18 configure the proxy for the Salt minion, which does not yet have
  19 `no_proxy` support (either *all* or *no* traffic hits the proxy).
  20
  21 When `linux:system:proxy` http(s) proxies are set:
  22 - no longer pass key configuration to Salt aptpkg (until it properly
  23   supports `no_proxy`);
  24 - handle all keys explicitly with `curl` and `apt-key`;
  25 - set 'http(s)_proxy' env vars for `cmd.wait` calls;
  26
  27 If `linux:system:proxy` is not defined, the behavior is
  28 unchanged for backwards compatibility.
  29
  30 NOTE: If present, per-repo proxies are also used for keyserver access.
  31
  32 system.repo: Fix conditions order for Debian proxy
  33
  34 Signed-off-by: Alexandru Avadanii <Alexandru.Avadanii@enea.com>
  35 ---
  36  linux/system/repo.sls | 65 +++++++++++++++++++++++++++++++++++--------
  37  1 file changed, 53 insertions(+), 12 deletions(-)
  38
  39 diff --git a/linux/system/repo.sls b/linux/system/repo.sls
  40 index 303ea9c..5dfc4c1 100644
  41 --- a/linux/system/repo.sls
  42 +++ b/linux/system/repo.sls
  43 @@ -5,9 +5,15 @@ linux_repo_prereq_pkgs:
  44    pkg.installed:
  45    - pkgs: {{ system.pkgs }}
  46
  47 +{%- set proxies = {'system': {}, 'repo': {}} %}
  48 +
  49  # global proxy setup
  50 -{%- if system.proxy.get('pkg', {}).get('enabled', False) %}
  51  {%- if grains.os_family == 'Debian' %}
  52 +{%- if system.proxy.get('pkg', {}).get('enabled', False) %}
  53 +
  54 +{%- do proxies.system.update({'https': system.proxy.get('pkg', {}).get('https', None) | default(system.proxy.get('https', None), true)}) %}
  55 +{%- do proxies.system.update({'http': system.proxy.get('pkg', {}).get('http', None) | default(system.proxy.get('http', None), true)}) %}
  56 +{%- do proxies.system.update({'ftp': system.proxy.get('pkg', {}).get('ftp', None) | default(system.proxy.get('ftp', None), true)}) %}
  57
  58  /etc/apt/apt.conf.d/99proxies-salt:
  59    file.managed:
  60 @@ -15,9 +21,9 @@ linux_repo_prereq_pkgs:
  61    - source: salt://linux/files/apt.conf.d_proxies
  62    - defaults:
  63        external_host: False
  64 -      https: {{ system.proxy.get('pkg', {}).get('https', None) | default(system.proxy.get('https', None), true) }}
  65 -      http: {{ system.proxy.get('pkg', {}).get('http', None) | default(system.proxy.get('http', None), true) }}
  66 -      ftp: {{ system.proxy.get('pkg', {}).get('ftp', None) | default(system.proxy.get('ftp', None), true) }}
  67 +      https: {{ proxies.system.https }}
  68 +      http: {{ proxies.system.http }}
  69 +      ftp: {{ proxies.system.ftp }}
  70
  71  {%- else %}
  72
  73 @@ -25,9 +31,6 @@ linux_repo_prereq_pkgs:
  74    file.absent
  75
  76  {%- endif %}
  77 -{%- endif %}
  78 -
  79 -{% set default_repos = {} %}
  80
  81  {%- if system.purge_repos|default(False) %}
  82
  83 @@ -38,6 +41,10 @@ purge_sources_list_d_repos:
  84
  85  {%- endif %}
  86
  87 +{%- endif %}
  88 +
  89 +{% set default_repos = {} %}
  90 +
  91  {%- for name, repo in system.repo.items() %}
  92  {%- set name=repo.get('name', name) %}
  93  {%- if grains.os_family == 'Debian' %}
  94 @@ -45,16 +52,20 @@ purge_sources_list_d_repos:
  95  # per repository proxy setup
  96  {%- if repo.get('proxy', {}).get('enabled', False) %}
  97  {%- set external_host = repo.proxy.get('host', None) or repo.source.split('/')[2] %}
  98 +{%- do proxies.repo.update({'https': repo.proxy.get('https', None) or system.proxy.get('pkg', {}).get('https', None) | default(system.proxy.get('https', None), true)}) %}
  99 +{%- do proxies.repo.update({'http': repo.proxy.get('http', None) or system.proxy.get('pkg', {}).get('http', None) | default(system.proxy.get('http', None), true)}) %}
 100 +{%- do proxies.repo.update({'ftp': repo.proxy.get('ftp', None) or system.proxy.get('pkg', {}).get('ftp', None) | default(system.proxy.get('ftp', None), true)}) %}
 101  /etc/apt/apt.conf.d/99proxies-salt-{{ name }}:
 102    file.managed:
 103    - template: jinja
 104    - source: salt://linux/files/apt.conf.d_proxies
 105    - defaults:
 106        external_host: {{ external_host }}
 107 -      https: {{ repo.proxy.get('https', None) or system.proxy.get('pkg', {}).get('https', None) | default(system.proxy.get('https', None), True) }}
 108 -      http: {{ repo.proxy.get('http', None) or system.proxy.get('pkg', {}).get('http', None) | default(system.proxy.get('http', None), True) }}
 109 -      ftp: {{ repo.proxy.get('ftp', None) or system.proxy.get('pkg', {}).get('ftp', None) | default(system.proxy.get('ftp', None), True) }}
 110 +      https: {{ proxies.repo.https }}
 111 +      http: {{ proxies.repo.http }}
 112 +      ftp: {{ proxies.repo.ftp }}
 113  {%- else %}
 114 +{%- do proxies.repo.update({'https': None, 'http': None, 'ftp': None}) %}
 115  /etc/apt/apt.conf.d/99proxies-salt-{{ name }}:
 116    file.absent
 117  {%- endif %}
 118 @@ -110,6 +121,13 @@ linux_repo_{{ name }}_key:
 119      {% else %}
 120        - pkgrepo: linux_repo_{{ name }}
 121      {% endif %}
 122 +    - env:
 123 +{%- if proxies.repo.get('https', None) or proxies.system.get('https', None) %}
 124 +      - https_proxy: {{ proxies.repo.get('https', None) or proxies.system.get('https', None) }}
 125 +{%- endif %}
 126 +{%- if proxies.repo.get('http', None) or proxies.system.get('http', None) %}
 127 +      - http_proxy: {{ proxies.repo.get('http', None) or proxies.system.get('http', None) }}
 128 +{%- endif %}
 129
 130  {%- endif %} {# 2 #}
 131
 132 @@ -120,6 +138,10 @@ linux_repo_{{ name }}_key:
 133
 134  {%- if repo.get('enabled', True) %}
 135
 136 +{%- set use_proxy = ( ( proxies.repo.get('https', None) or proxies.system.get('https', None) or
 137 +                        proxies.repo.get('http', None) or proxies.system.get('http', None) ) and
 138 +                        repo.key_id is defined and repo.key_server is defined ) %}
 139 +
 140  linux_repo_{{ name }}:
 141    pkgrepo.managed:
 142    {%- if repo.ppa is defined %}
 143 @@ -132,10 +154,10 @@ linux_repo_{{ name }}:
 144    {%- endif %}
 145    - file: /etc/apt/sources.list.d/{{ name }}.list
 146    - clean_file: {{ repo.clean|default(True) }}
 147 -  {%- if repo.key_id is defined %}
 148 +  {%- if not use_proxy and repo.key_id is defined %}
 149    - keyid: {{ repo.key_id }}
 150    {%- endif %}
 151 -  {%- if repo.key_server is defined %}
 152 +  {%- if not use_proxy and repo.key_server is defined %}
 153    - keyserver: {{ repo.key_server }}
 154    {%- endif %}
 155    {%- if repo.key_url is defined and (grains['saltversioninfo'] >= [2017, 7] or repo.key_url.startswith('salt://')) %}
 156 @@ -157,6 +179,25 @@ linux_repo_{{ name }}:
 157    {%- endif %}
 158    {%- endif %}
 159
 160 +{%- if use_proxy and repo.key_id is defined and repo.key_server is defined %}
 161 +
 162 +linux_repo_{{ name }}_key:
 163 +  cmd.run:
 164 +    - name: "apt-key adv --keyserver {{ repo.key_server }} --recv {{ repo.key_id }}"
 165 +    - unless: 'test -e /etc/apt/sources.list.d/{{ name }}.list'
 166 +    - require_in:
 167 +      - pkgrepo: linux_repo_{{ name }}
 168 +    - env:
 169 +{%- if proxies.repo.get('https', None) or proxies.system.get('https', None) %}
 170 +      - https_proxy: {{ proxies.repo.get('https', None) or proxies.system.get('https', None) }}
 171 +{%- endif %}
 172 +{%- if proxies.repo.get('http', None) or proxies.system.get('http', None) %}
 173 +      - http_proxy: {{ proxies.repo.get('http', None) or proxies.system.get('http', None) }}
 174 +{%- endif %}
 175 +
 176 +{%- endif %}
 177 +
 178 +{#- repo.enabled is false #}
 179  {%- else %}
 180
 181  linux_repo_{{ name }}_absent: