README.adoc

   1 = README
   2
   3 Nsscash (a pun on cache) is a simple file-based cache for NSS similar to
   4 nsscache [1]. The goal is to distribute users/groups/etc. to multiple systems
   5 without having to rely on a (single) stable server. Traditional systems like
   6 LDAP or NIS require a stable server or users/groups cannot be resolved. By
   7 distributing the data to all systems, temporary outages of the server cause no
   8 issues on the clients. In addition the local storage is much faster than
   9 remote network access. To update the local caches polling via HTTP/HTTPS is
  10 performed, for example every minute, only downloading new data if anything has
  11 changed.
  12
  13 Nsscash consists of two parts: `nsscash`, written in Go, which downloads files
  14 via HTTP or HTTPS, parses them, creates indices and writes the result to a
  15 local file. The second part is the NSS module (`libnss_cash.so.2`), written in
  16 C, which provides integration via `/etc/nsswitch.conf`. It's specifically
  17 designed to be very simple and uses the data prepared by `nsscash` for
  18 lookups. To support quick lookups, in O(log n), the files utilize indices.
  19
  20 Nsscash can also be used separately from the NSS module to deploy arbitrary
  21 files to many hosts and keep them up-to-date.
  22
  23 Nsscash is very careful when deploying the changes:
  24 - All files are updated using the standard "write to temporary file", "sync",
  25   "rename" steps which is atomic on UNIX file systems. The indices are stored
  26   in the same file preventing stale data during the update.
  27 - All errors cause an immediate abort ("fail fast") with a proper error
  28   message and a non-zero exit status. This prevents hiding possibly important
  29   errors. In addition all files are fetched first and then deployed to try to
  30   prevent inconsistent state if only one file can be downloaded. The state
  31   file (containing last file modification and content hash) is only updated
  32   when all operations were successful.
  33 - To prevent unexpected permissions, `nsscash` does not create new files. The
  34   user must create them first and `nsscash` will then re-use the permissions
  35   (without the write bits to discourage manual modifications) and owner/group
  36   when updating the file (see examples below).
  37 - To prevent misconfigurations, empty files (no users/groups) are not
  38   permitted and will not be written to disk. This is designed to prevent the
  39   accidental loss of all users/groups on a system.
  40 - To detect file corruption a hash of all deployed files is stored separately
  41   and verified on each `nsscash` run.
  42
  43 The passwd/group files have the following size restrictions:
  44 - maximum number of entries: '2^64-1' (uint64_t)
  45 - maximum passwd entry size: 65543 bytes (including newline)
  46 - maximum group entry size: 65535 bytes (including newline, only one member)
  47 - maximum members per group: depends on the user name length,
  48                              with 9 bytes per user: 5460 users
  49 - `nsscash` checks for these restrictions and aborts with an error if they are
  50   violated
  51
  52 Nsscash has an extensive test suite for both the Go and C part testing general
  53 requirements and various corner cases. See TODO.adoc for a list of known
  54 issues and possible improvements.
  55
  56 Nsscash was created as replacement for nsscache [1] because nsscache has very
  57 complex code, especially the parts written in C, uses multiple files for data
  58 and indices and has had severe bugs (including temporary loss of all users and
  59 race conditions when updating data and index files).
  60
  61 Nsscash is licensed under AGPL version 3 or later.
  62
  63 [1] https://github.com/google/nsscache
  64
  65
  66 == REQUIREMENTS
  67
  68 - Go, for `nsscash`
  69   - github.com/pkg/errors
  70   - github.com/BurntSushi/toml
  71 - C compiler, for `libnss_cash.so.2`
  72
  73 - HTTP(S) server to provide the passwd/group/etc. files
  74
  75 Tested on Debian Buster, but should work on any GNU/Linux system. With
  76 adaptations to the NSS module it should work on any UNIX-like system which
  77 uses NSS.
  78
  79
  80 == USAGE
  81
  82 Install `libnss_cash.so.2` somewhere in your library search path (see
  83 `/etc/ld.so.conf`), e.g. `/usr/lib/x86_64-linux-gnu/`.
  84
  85 Update `/etc/nsswitch.conf` to include the cash module; `passwd` and `group`
  86 are currently supported. For example:
  87
  88     passwd:         files cash
  89     group:          files cash
  90     [...]
  91
  92 Create the cache files with the proper permissions (`nsscash fetch` won't
  93 create new files to prevent using incorrect permissions):
  94
  95     touch /etc/passwd.nsscash
  96     touch /etc/group.nsscash
  97     chmod 0644 /etc/passwd.nsscash
  98     chmod 0644 /etc/group.nsscash
  99
 100 Configure the `nsscash` configuration file `nsscash.toml`, see below.
 101
 102 Then start `nsscash`:
 103
 104     nsscash fetch /path/to/config/nsscash.toml
 105
 106 This will fetch the configured files and update the local caches. The files
 107 are atomically overwritten (via temporary file, sync, and rename).
 108
 109 Verify the users/groups are available, e.g. with `getent`. If everything
 110 works, remember to reboot the host as changes to `nsswitch.conf` don't affect
 111 running processes!
 112
 113 Now configure `nsscash` to run regularly, for example via cron or a systemd
 114 timer.
 115
 116 To monitor `nsscash` for errors one can use the last modification time of the
 117 state file (see below). It's written on each successful run and not modified
 118 if an error occurs.
 119
 120 === CONFIGURATION
 121
 122 Nsscash is configured through a simple configuration file written in TOML. A
 123 typical configuration looks like this:
 124
 125     statepath = "/var/lib/nsscash/state.json"
 126
 127     [[file]]
 128     type = "passwd"
 129     url = "https://example.org/passwd"
 130     path = "/etc/passwd.nsscash"
 131
 132     [[file]]
 133     type = "group"
 134     url = "https://example.org/group"
 135     path = "/etc/group.nsscash"
 136
 137     # Optional, but useful to deploy files which are not supported by the
 138     # nsscash NSS module, but by libc's "files" NSS module. nsscash takes care
 139     # of the atomic replacement and updates; an "netgroup: files" entry in
 140     # "/etc/nsswitch.conf" makes the netgroups available.
 141     [[file]]
 142     type = "plain"
 143     url = "https://example.org/netgroup"
 144     path = "/etc/netgroup"
 145
 146 The following global keys are available:
 147
 148 - `statepath`: Path to a JSON file which stores the last modification time and
 149   hash of each file; automatically updated by `nsscash`. Used to fetch data
 150   only when something has changed to reduce the required traffic, via
 151   `If-Modified-Since`. When the hash of a file has changed the download is
 152   forced.
 153
 154 Each `file` block describes a single file to download/write. The following
 155 keys are available (all keys are required unless marked as optional):
 156
 157 - `type`: Type of this file; can be either `passwd` (for files in
 158   `/etc/passwd` format), `group` (for files in `/etc/group` format), or
 159   `plain` (arbitrary format). Only `passwd` and `group` files are supported by
 160   the nsscash NSS module. But, as explained above, `plain` can be used to
 161   distribute arbitrary files. The type is required as the `.nsscash` files are
 162   preprocessed for faster lookups and simpler C code which requires a known
 163   format.
 164
 165 - `url`: URL to fetch the file from; HTTP and HTTPS are supported
 166
 167 - `ca`: Path to a custom CA in PEM format. Restricts HTTPS requests to accept
 168   only certificates signed by this CA. Defaults to the system's certificate
 169   store when omitted. (optional)
 170
 171 - `username`/`password`: Username and password sent via HTTP Basic-Auth to the
 172   webserver. The configuration file must not be readable by other users when
 173   this key is used. (optional)
 174
 175 - `path`: Path to store the retrieved file
 176
 177
 178 == AUTHORS
 179
 180 Written by Simon Ruderich <simon@ruderich.org>.
 181
 182
 183 == LICENSE
 184
 185 This program is licensed under AGPL version 3 or later.
 186
 187 Copyright (C) 2019  Simon Ruderich
 188
 189 This program is free software: you can redistribute it and/or modify
 190 it under the terms of the GNU Affero General Public License as published by
 191 the Free Software Foundation, either version 3 of the License, or
 192 (at your option) any later version.
 193
 194 This program is distributed in the hope that it will be useful,
 195 but WITHOUT ANY WARRANTY; without even the implied warranty of
 196 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 197 GNU Affero General Public License for more details.
 198
 199 You should have received a copy of the GNU Affero General Public License
 200 along with this program.  If not, see <https://www.gnu.org/licenses/>.