]> ruderich.org/simon Gitweb - blhc/blhc.git/blob - bin/blhc
Sync architecture specific hardening support with dpkg 1.18.7
[blhc/blhc.git] / bin / blhc
1 #!/usr/bin/perl
2
3 # Build log hardening check, checks build logs for missing hardening flags.
4
5 # Copyright (C) 2012-2015  Simon Ruderich
6 #
7 # This program is free software: you can redistribute it and/or modify
8 # it under the terms of the GNU General Public License as published by
9 # the Free Software Foundation, either version 3 of the License, or
10 # (at your option) any later version.
11 #
12 # This program is distributed in the hope that it will be useful,
13 # but WITHOUT ANY WARRANTY; without even the implied warranty of
14 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15 # GNU General Public License for more details.
16 #
17 # You should have received a copy of the GNU General Public License
18 # along with this program.  If not, see <http://www.gnu.org/licenses/>.
19
20
21 use strict;
22 use warnings;
23
24 use Getopt::Long ();
25 use Text::ParseWords ();
26
27 our $VERSION = '0.05';
28
29
30 # CONSTANTS/VARIABLES
31
32 # Regex to catch compiler commands.
33 my $cc_regex = qr/
34     (?<!\s-)               # ignore options, e.g. "-c++" [sic!] (used by swig)
35     (?<!\.)                # ignore file names, e.g. "test.gcc"
36     (?:cc|gcc|g\+\+|c\+\+)
37     (?:-[\d.]+)?           # version suffix, e.g. "gcc-4.6"
38     /x;
39 # Full regex which matches the complete compiler name. Used in a few places to
40 # prevent false negatives.
41 my $cc_regex_full_prefix = qr/
42     [a-z0-9_]+-(?:linux-|kfreebsd-)?gnu(?:eabi|eabihf)?
43     /x;
44 my $cc_regex_full = qr/
45     (?:$cc_regex_full_prefix-)?
46     $cc_regex
47     /x;
48 # Regex to check if a line contains a compiler command.
49 my $cc_regex_normal = qr/
50     \b$cc_regex(?:\s|\\)
51     /x;
52 # Regex to catch (GCC) compiler warnings.
53 my $warning_regex = qr/^(.+?):(\d+):\d+: warning: (.+?) \[(.+?)\]$/;
54 # Regex to catch libtool commands and not lines which show commands executed
55 # by libtool (e.g. libtool: link: ...).
56 my $libtool_regex = qr/\blibtool\s.*--mode=/;
57 my $libtool_link_regex = qr/\blibtool: link: /;
58
59 # List of source file extensions which require preprocessing.
60 my @source_preprocess_compile_cpp = (
61     # C++
62     qw( cc cp cxx cpp CPP c++ C ),
63     # Objective-C++
64     qw( mm M ),
65 );
66 my @source_preprocess_compile = (
67     # C
68     qw( c ),
69     # Objective-C
70     qw( m ),
71     # (Objective-)C++
72     @source_preprocess_compile_cpp,
73     # Fortran
74     qw( F FOR fpp FPP FTN F90 F95 F03 F08 ),
75 );
76 my @source_preprocess_no_compile = (
77     # Assembly
78     qw( S sx ),
79 );
80 my @source_preprocess = (
81     @source_preprocess_compile,
82     @source_preprocess_no_compile,
83 );
84 # List of source file extensions which don't require preprocessing.
85 my @source_no_preprocess_compile_cpp = (
86     # C++
87     qw( ii ),
88     # Objective-C++
89     qw( mii ),
90 );
91 my @source_no_preprocess_compile_ada = (
92     # Ada body
93     qw( adb ),
94     # If you add another file, fix use of @source_no_preprocess_compile_ada
95     # below (search for $compile_ada).
96 );
97 my @source_no_preprocess_compile = (
98     # C
99     qw( i ),
100     # (Objective-)C++
101     @source_no_preprocess_compile_cpp,
102     # Objective-C
103     qw( mi ),
104     # Fortran
105     qw( f for ftn f90 f95 f03 f08 ),
106     # Ada
107     @source_no_preprocess_compile_ada,
108 );
109 my @source_no_preprocess_no_compile = (
110     # Assembly
111     qw( s ),
112     # Ada specification
113     qw( ads ),
114 );
115 my @source_no_preprocess = (
116     @source_no_preprocess_compile,
117     @source_no_preprocess_no_compile,
118 );
119 # List of header file extensions which require preprocessing.
120 my @header_preprocess = (
121     # C, C++, Objective-C, Objective-C++
122     qw( h ),
123     # C++
124     qw( hh H hp hxx hpp HPP h++ tcc ),
125 );
126 # Object files.
127 my @object = (
128     # Normal object files.
129     qw ( o ),
130     # Libtool object files.
131     qw ( lo la ),
132     # Dynamic libraries. bzip2 uses .sho.
133     qw ( so sho ),
134     # Static libraries.
135     qw ( a ),
136 );
137
138 # Hashes for fast extensions lookup to check if a file falls in one of these
139 # categories.
140 my %extensions_no_preprocess = map { $_ => 1 } (
141     # There's no @header_no_preprocess.
142     @source_no_preprocess,
143 );
144 my %extensions_preprocess = map { $_ => 1 } (
145     @header_preprocess,
146     @source_preprocess,
147 );
148 my %extensions_compile_link = map { $_ => 1 } (
149     @source_preprocess,
150     @source_no_preprocess,
151 );
152 my %extensions_compile = map { $_ => 1 } (
153     @source_preprocess_compile,
154     @source_no_preprocess_compile,
155 );
156 my %extensions_no_compile = map { $_ => 1 } (
157     @source_preprocess_no_compile,
158     @source_no_preprocess_no_compile,
159 );
160 my %extensions_compile_cpp = map { $_ => 1 } (
161     @source_preprocess_compile_cpp,
162     @source_no_preprocess_compile_cpp,
163 );
164 my %extensions_object = map { $_ => 1 } (
165     @object,
166 );
167 my %extension = map { $_ => 1 } (
168     @source_no_preprocess,
169     @header_preprocess,
170     @source_preprocess,
171     @object,
172 );
173
174 # Regexp to match file extensions.
175 my $file_extension_regex = qr/
176     \s
177     \S+             # Filename without extension.
178     \.
179     ([^\/\\.,;:\s]+)# File extension.
180     (?=\s|\\)       # At end of word. Can't use \b because some files have non
181                     # word characters at the end and because \b matches double
182                     # extensions (like .cpp.o). Works always as all lines are
183                     # terminated with "\n".
184     /x;
185
186 # Expected (hardening) flags. All flags are used as regexps (and compiled to
187 # real regexps below for better execution speed).
188 my @def_cflags = (
189     '-g',
190     '-O(?:2|3)', # keep at index 1, search for @def_cflags_debug to change it
191 );
192 my @def_cflags_debug = (
193     # These flags indicate a debug build which disables checks for -O2.
194     '-O0',
195     '-Og',
196 );
197 my @def_cflags_format = (
198     '-Wformat(?:=2)?', # -Wformat=2 implies -Wformat, accept it too
199     '-Werror=format-security', # implies -Wformat-security
200 );
201 my @def_cflags_fortify = (
202     # fortify needs at least -O1, but -O2 is recommended anyway
203 );
204 my @def_cflags_stack = (
205     '-fstack-protector',
206     '--param[= ]ssp-buffer-size=4',
207 );
208 my @def_cflags_stack_strong = (
209     '-fstack-protector-strong',
210 );
211 my @def_cflags_pie = (
212     '-fPIE',
213 );
214 my @def_cxxflags = (
215     @def_cflags,
216 );
217 # @def_cxxflags_* is the same as @def_cflags_*.
218 my @def_cppflags = ();
219 my @def_cppflags_fortify = (
220     '-D_FORTIFY_SOURCE=2', # must be first, see cppflags_fortify_broken()
221     # If you add another flag fix hack below (search for "Hack to fix") and
222     # $def_cppflags_fortify[0].
223 );
224 my @def_cppflags_fortify_bad = (
225     # These flags may overwrite -D_FORTIFY_SOURCE=2.
226     '-U_FORTIFY_SOURCE',
227     '-D_FORTIFY_SOURCE=0',
228     '-D_FORTIFY_SOURCE=1',
229 );
230 my @def_ldflags = ();
231 my @def_ldflags_relro = (
232     '-Wl,(?:-z,)?relro',
233 );
234 my @def_ldflags_bindnow = (
235     '-Wl,(?:-z,)?now',
236 );
237 my @def_ldflags_pie = (
238     '-fPIE',
239     '-pie',
240 );
241 my @def_ldflags_pic = (
242     '-fPIC',
243     '-fpic',
244     '-shared',
245 );
246 # References to all flags checked by the flag checker.
247 my @flag_refs = (
248     \@def_cflags,
249     \@def_cflags_format,
250     \@def_cflags_fortify,
251     \@def_cflags_stack,
252     \@def_cflags_stack_strong,
253     \@def_cflags_pie,
254     \@def_cxxflags,
255     \@def_cppflags,
256     \@def_cppflags_fortify,
257     \@def_ldflags,
258     \@def_ldflags_relro,
259     \@def_ldflags_bindnow,
260     \@def_ldflags_pie,
261 );
262 # References to all used flags.
263 my @flag_refs_all = (
264     @flag_refs,
265     \@def_cflags_debug,
266     \@def_cppflags_fortify_bad,
267     \@def_ldflags_pic,
268 );
269 # Renaming rules for the output so the regex parts are not visible. Also
270 # stores string values of flag regexps above, see compile_flag_regexp().
271 my %flag_renames = (
272     '-O(?:2|3)'                    => '-O2',
273     '-Wformat(?:=2)?'              => '-Wformat',
274     '--param[= ]ssp-buffer-size=4' => '--param=ssp-buffer-size=4',
275     '-Wl,(?:-z,)?relro'            => '-Wl,-z,relro',
276     '-Wl,(?:-z,)?now'              => '-Wl,-z,now',
277 );
278
279 my %exit_code = (
280     no_compiler_commands => 1 << 0,
281     # used by POD::Usage => 1 << 1,
282     non_verbose_build    => 1 << 2,
283     flags_missing        => 1 << 3,
284     hardening_wrapper    => 1 << 4,
285     invalid_cmake        => 1 << 5,
286 );
287
288 my %buildd_tag = (
289     no_compiler_commands => 'I-no-compiler-commands',
290     non_verbose_build    => 'W-compiler-flags-hidden',
291     flags_missing        => 'W-dpkg-buildflags-missing',
292     hardening_wrapper    => 'I-hardening-wrapper-used',
293     invalid_cmake        => 'I-invalid-cmake-used',
294 );
295
296 # Statistics of missing flags and non-verbose build commands. Used for
297 # $option_buildd.
298 my %statistics = (
299     preprocess          => 0,
300     preprocess_missing  => 0,
301     compile             => 0,
302     compile_missing     => 0,
303     compile_cpp         => 0,
304     compile_cpp_missing => 0,
305     link                => 0,
306     link_missing        => 0,
307     commands            => 0,
308     commands_nonverbose => 0,
309 );
310
311 # Use colored (ANSI) output?
312 my $option_color;
313
314
315 # FUNCTIONS
316
317 # Only works for single-level arrays with no undef values. Thanks to perlfaq4.
318 sub array_equal {
319     my ($first_ref, $second_ref) = @_;
320
321     return 0 if scalar @{$first_ref} != scalar @{$second_ref};
322
323     my $length = scalar @{$first_ref};
324     for (my $i = 0; $i < $length; $i++) {
325         return 0 if $first_ref->[$i] ne $second_ref->[$i];
326     }
327
328     return 1;
329 }
330
331 sub error_flags {
332     my ($message, $missing_flags_ref, $flag_renames_ref, $line) = @_;
333
334     # Get string value of qr//-escaped regexps and if requested rename them.
335     my @missing_flags = map {
336             $flag_renames_ref->{$_}
337         } @{$missing_flags_ref};
338
339     my $flags = join ' ', @missing_flags;
340     printf '%s (%s)%s %s',
341            error_color($message, 'red'), $flags, error_color(':', 'yellow'),
342            $line;
343
344     return;
345 }
346 sub error_non_verbose_build {
347     my ($line) = @_;
348
349     printf '%s%s %s',
350            error_color('NONVERBOSE BUILD', 'red'),
351            error_color(':', 'yellow'),
352            $line;
353
354     return;
355 }
356 sub error_invalid_cmake {
357     my ($version) = @_;
358
359     printf "%s%s %s\n",
360             error_color('INVALID CMAKE', 'red'),
361             error_color(':', 'yellow'),
362             $version;
363
364     return;
365 }
366 sub error_hardening_wrapper {
367     printf "%s%s %s\n",
368             error_color('HARDENING WRAPPER', 'red'),
369             error_color(':', 'yellow'),
370             'no checks possible, aborting';
371
372     return;
373 }
374 sub error_color {
375     my ($message, $color) = @_;
376
377     if ($option_color) {
378         return Term::ANSIColor::colored($message, $color);
379     } else {
380         return $message;
381     }
382 }
383
384 sub any_flags_used {
385     my ($line, @flags) = @_;
386
387     foreach my $flag (@flags) {
388         return 1 if $line =~ /$flag/;
389     }
390
391     return 0;
392 }
393 sub all_flags_used {
394     my ($line, $missing_flags_ref, @flags) = @_;
395
396     my @missing_flags = ();
397     foreach my $flag (@flags) {
398         if (not $line =~ /$flag/) {
399             push @missing_flags, $flag;
400         }
401     }
402
403     return 1 if scalar @missing_flags == 0;
404
405     @{$missing_flags_ref} = @missing_flags;
406     return 0;
407 }
408
409 sub cppflags_fortify_broken {
410     my ($line, $missing_flags) = @_;
411
412     # This doesn't take the position into account, but is a simple solution.
413     # And if the build system tries to force -D_FORTIFY_SOURCE=0/1, something
414     # is wrong anyway.
415
416     if (any_flags_used($line, @def_cppflags_fortify_bad)) {
417         # $def_cppflags_fortify[0] must be -D_FORTIFY_SOURCE=2!
418         push @{$missing_flags}, $def_cppflags_fortify[0];
419         return 1;
420     }
421
422     return 0;
423 }
424
425 # Modifies $missing_flags_ref array.
426 sub pic_pie_conflict {
427     my ($line, $pie, $missing_flags_ref, @flags_pie) = @_;
428
429     return 0 if not $pie;
430     return 0 if not any_flags_used($line, @def_ldflags_pic);
431
432     my %flags = map { $_ => 1 } @flags_pie;
433
434     # Remove all PIE flags from @missing_flags as they are not required with
435     # -fPIC.
436     my @result = grep {
437         not exists $flags{$_}
438     } @{$missing_flags_ref};
439     @{$missing_flags_ref} = @result;
440
441     # We got a conflict when no flags are left, thus only PIE flags were
442     # missing. If other flags were missing abort because the conflict is not
443     # the problem.
444     return scalar @result == 0;
445 }
446
447 sub is_non_verbose_build {
448     my ($line, $next_line, $skip_ref) = @_;
449
450     if ($line =~ /$libtool_regex/o) {
451         # libtool's --silent hides the real compiler flags.
452         if ($line =~ /\s--silent/) {
453             return 1;
454         # If --silent is not present, skip this line as some compiler flags
455         # might be missing (e.g. -fPIE) which are handled correctly by libtool
456         # internally. libtool displays the real compiler command on the next
457         # line, so the flags are checked as usual.
458         } else {
459             ${$skip_ref} = 1;
460             return 0;
461         }
462     }
463
464     if (not (index($line, 'checking if you want to see long compiling messages... no') == 0
465                 or $line =~ /^\s*\[?(?:CC|CCLD|C\+\+|CXX|CXXLD|LD|LINK)\]?\s+(.+?)$/
466                 or $line =~ /^\s*[Cc]ompiling\s+(.+?)(?:\.\.\.)?$/
467                 or $line =~ /^\s*[Bb]uilding (?:program|shared library)\s+(.+?)$/
468                 or $line =~ /^\s*\[[\d ]+%\] Building (?:C|CXX) object (.+?)$/)) {
469         return 0;
470     }
471
472     # False positives.
473     #
474     # C++ compiler setting.
475     return 0 if $line =~ /^\s*C\+\+.+?:\s+(?:yes|no)\s*$/;
476     return 0 if $line =~ /^\s*C\+\+ Library: stdc\+\+$/;
477     # "Compiling" non binary files.
478     return 0 if $line =~ /^\s*Compiling \S+\.(?:py|el)['"]?\s*(?:\.\.\.)?$/;
479     # "Compiling" with no file name.
480     if ($line =~ /^\s*[Cc]ompiling\s+(.+?)(?:\.\.\.)?$/) {
481         # $file_extension_regex may need spaces around the filename.
482         return 0 if not " $1 " =~ /$file_extension_regex/o;
483     }
484
485     my $file = $1;
486
487     # On the first pass we only check if this line is verbose or not.
488     return 1 if not defined $next_line;
489
490     # Second pass, we have access to the next line.
491     ${$skip_ref} = 0;
492
493     # CMake and other build systems print the non-verbose messages also when
494     # building verbose. If a compiler and the file name occurs in the next
495     # line, treat it as verbose build.
496     if (defined $file) {
497         # Get filename, we can't use the complete path as only parts of it are
498         # used in the real compiler command.
499         $file =~ m{/([^/\s]+)$};
500         $file = $1;
501
502         if (index($next_line, $file) != -1 and $next_line =~ /$cc_regex/o) {
503             # Not a non-verbose line, but we still have to skip the current line
504             # as it doesn't contain any compiler commands.
505             ${$skip_ref} = 1;
506             return 0;
507         }
508     }
509
510     return 1;
511 }
512
513 # Remove @flags from $flag_refs_ref, uses $flag_renames_ref as reference.
514 sub remove_flags {
515     my ($flag_refs_ref, $flag_renames_ref, @flags) = @_;
516
517     my %removes = map { $_ => 1 } @flags;
518     foreach my $flags (@{$flag_refs_ref}) {
519         @{$flags} = grep {
520             # Flag found as string.
521             not exists $removes{$_}
522             # Flag found as string representation of regexp.
523                 and (not defined $flag_renames_ref->{$_}
524                         or not exists $removes{$flag_renames_ref->{$_}})
525         } @{$flags};
526     }
527
528     return;
529 }
530
531 # Modifies $flag_renames_ref hash.
532 sub compile_flag_regexp {
533     my ($flag_renames_ref, @flags) = @_;
534
535     my @result = ();
536     foreach my $flag (@flags) {
537         # Compile flag regexp for faster execution.
538         my $regex = qr/\s$flag(?:\s|\\)/;
539
540         # Store flag name in replacement string for correct flags in messages
541         # with qr//ed flag regexps.
542         $flag_renames_ref->{$regex}
543             = (exists $flag_renames_ref->{$flag})
544                 ? $flag_renames_ref->{$flag}
545                 : $flag;
546
547         push @result, $regex;
548     }
549     return @result;
550 }
551
552 # Does any extension in @extensions exist in %{$extensions_ref}?
553 sub extension_found {
554     my ($extensions_ref, @extensions) = @_;
555
556     foreach my $extension (@extensions) {
557         if (exists $extensions_ref->{$extension}) {
558             return 1;
559         }
560     }
561     return 0;
562 }
563
564
565 # MAIN
566
567 # Parse command line arguments.
568 my $option_help             = 0;
569 my $option_version          = 0;
570 my $option_pie              = 0;
571 my $option_bindnow          = 0;
572 my @option_ignore_arch      = ();
573 my @option_ignore_flag      = ();
574 my @option_ignore_arch_flag = ();
575 my @option_ignore_line      = ();
576 my @option_ignore_arch_line = ();
577 my $option_all              = 0;
578 my $option_arch             = undef;
579 my $option_buildd           = 0;
580    $option_color            = 0;
581 if (not Getopt::Long::GetOptions(
582             'help|h|?'           => \$option_help,
583             'version'            => \$option_version,
584             # Hardening options.
585             'pie'                => \$option_pie,
586             'bindnow'            => \$option_bindnow,
587             'all'                => \$option_all,
588             # Ignore.
589             'ignore-arch=s'      => \@option_ignore_arch,
590             'ignore-flag=s'      => \@option_ignore_flag,
591             'ignore-arch-flag=s' => \@option_ignore_arch_flag,
592             'ignore-line=s'      => \@option_ignore_line,
593             'ignore-arch-line=s' => \@option_ignore_arch_line,
594             # Misc.
595             'color'              => \$option_color,
596             'arch=s'             => \$option_arch,
597             'buildd'             => \$option_buildd,
598         )) {
599     require Pod::Usage;
600     Pod::Usage::pod2usage(2);
601 }
602 if ($option_help) {
603     require Pod::Usage;
604     Pod::Usage::pod2usage(1);
605 }
606 if ($option_version) {
607     print <<"EOF";
608 blhc $VERSION  Copyright (C) 2012-2015  Simon Ruderich
609
610 This program is free software: you can redistribute it and/or modify
611 it under the terms of the GNU General Public License as published by
612 the Free Software Foundation, either version 3 of the License, or
613 (at your option) any later version.
614
615 This program is distributed in the hope that it will be useful,
616 but WITHOUT ANY WARRANTY; without even the implied warranty of
617 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
618 GNU General Public License for more details.
619
620 You should have received a copy of the GNU General Public License
621 along with this program.  If not, see <http://www.gnu.org/licenses/>.
622 EOF
623     exit 0;
624 }
625
626 # Arguments missing.
627 if (scalar @ARGV == 0) {
628     require Pod::Usage;
629     Pod::Usage::pod2usage(2);
630 }
631
632 # Don't load Term::ANSIColor in buildd mode because Term::ANSIColor is not
633 # installed on Debian's buildds.
634 if (not $option_buildd) {
635     require Term::ANSIColor;
636 }
637
638 if ($option_all) {
639     $option_pie     = 1;
640     $option_bindnow = 1;
641 }
642
643 # Precompiled ignores for faster lookup.
644 my %option_ignore_arch_flag = ();
645 my %option_ignore_arch_line = ();
646
647 # Strip flags which should be ignored.
648 if (scalar @option_ignore_flag > 0) {
649     remove_flags(\@flag_refs, \%flag_renames, @option_ignore_flag);
650 }
651 # Same for arch specific ignore flags, but only prepare here.
652 if (scalar @option_ignore_arch_flag > 0) {
653     foreach my $ignore (@option_ignore_arch_flag) {
654         my ($ignore_arch, $ignore_flag) = split /:/, $ignore, 2;
655
656         if (not $ignore_arch or not $ignore_flag) {
657             printf STDERR 'Value "%s" invalid for option ignore-arch-flag '
658                         . '("arch:flag" expected)' . "\n", $ignore;
659             require Pod::Usage;
660             Pod::Usage::pod2usage(2);
661         }
662
663         push @{$option_ignore_arch_flag{$ignore_arch}}, $ignore_flag;
664     }
665 }
666
667 # Precompile all flag regexps. any_flags_used(), all_flags_used() get a lot
668 # faster with this.
669 foreach my $flags (@flag_refs_all) {
670     @{$flags} = compile_flag_regexp(\%flag_renames, @{$flags});
671 }
672
673 # Precompile ignore line regexps, also anchor at beginning and end of line.
674 foreach my $ignore (@option_ignore_line) {
675     $ignore = qr/^$ignore$/;
676 }
677 # Same for arch specific ignore lines.
678 if (scalar @option_ignore_arch_line > 0) {
679     foreach my $ignore (@option_ignore_arch_line) {
680         my ($ignore_arch, $ignore_line) = split /:/, $ignore, 2;
681
682         if (not $ignore_arch or not $ignore_line) {
683             printf STDERR 'Value "%s" invalid for option ignore-arch-line '
684                         . '("arch:line" expected)' . "\n", $ignore;
685             require Pod::Usage;
686             Pod::Usage::pod2usage(2);
687         }
688
689         push @{$option_ignore_arch_line{$ignore_arch}}, qr/^$ignore_line$/;
690     }
691 }
692
693 # Final exit code.
694 my $exit = 0;
695
696 FILE:
697 foreach my $file (@ARGV) {
698     print "checking '$file'...\n" if scalar @ARGV > 1;
699
700     -f $file or die "No such file: $file";
701
702     open my $fh, '<', $file or die $!;
703
704     # Architecture of this file.
705     my $arch = $option_arch;
706
707     # Hardening options. Not all architectures support all hardening options.
708     my $harden_format  = 1;
709     my $harden_fortify = 1;
710     my $harden_stack   = 1;
711     my $harden_stack_strong = 1;
712     my $harden_relro   = 1;
713     my $harden_bindnow = $option_bindnow; # defaults to 0
714     my $harden_pie     = $option_pie;     # defaults to 0
715
716     # Does this build log use ada? Ada also uses gcc as compiler but uses
717     # different CFLAGS. But only perform ada checks if an ada compiler is used
718     # for performance reasons.
719     my $ada = 0;
720
721     while (my $line = <$fh>) {
722         # Detect architecture automatically unless overridden. For buildd logs
723         # only, doesn't use the dpkg-buildpackage header. Necessary to ignore
724         # build logs which aren't built (wrong architecture, build error,
725         # etc.).
726         if (not $arch) {
727             if (index($line, 'Build Architecture: ') == 0) {
728                 $arch = substr $line, 20, -1; # -1 to ignore '\n' at the end
729             # For old logs (sbuild << 0.63.0-1).
730             } elsif (index($line, 'Architecture: ') == 0) {
731                 $arch = substr $line, 14, -1; # -1 to ignore '\n' at the end
732             }
733         }
734
735         # dpkg-buildflags only provides hardening flags since 1.16.1, don't
736         # check for hardening flags in buildd mode if an older dpkg-dev is
737         # used. Default flags (-g -O2) are still checked.
738         #
739         # Packages which were built before 1.16.1 but used their own hardening
740         # flags are not checked.
741         #
742         # Strong stack protector is used since dpkg 1.17.11.
743         if ($option_buildd
744                 and index($line, 'Toolchain package versions: ') == 0) {
745             require Dpkg::Version;
746
747             my $disable = 1;
748             my $disable_strong = 1;
749
750             if ($line =~ /\bdpkg-dev_(\S+)/) {
751                 if (Dpkg::Version::version_compare($1, '1.16.1') >= 0) {
752                     $disable = 0;
753                 }
754                 if (Dpkg::Version::version_compare($1, '1.17.11') >= 0) {
755                     $disable_strong = 0;
756                 }
757             }
758
759             if ($disable) {
760                 $harden_format  = 0;
761                 $harden_fortify = 0;
762                 $harden_stack   = 0;
763                 $harden_relro   = 0;
764                 $harden_bindnow = 0;
765                 $harden_pie     = 0;
766             }
767             if ($disable_strong) {
768                 $harden_stack_strong = 0;
769             }
770         }
771
772         # The following two versions of CMake in Debian obeyed CPPFLAGS, but
773         # this was later dropped because upstream rejected the patch. Thus
774         # build logs with these versions will have fortify hardening flags
775         # enabled, even though they may be not correctly set and are missing
776         # when build with later CMake versions. Thanks to Aron Xu for letting
777         # me know.
778         if (index($line, 'Package versions: ') == 0
779                 and $line =~ /\bcmake_(\S+)/
780                 and ($1 eq '2.8.7-1' or $1 eq '2.8.7-2')) {
781             if (not $option_buildd) {
782                 error_invalid_cmake($1);
783                 $exit |= $exit_code{invalid_cmake};
784             } else {
785                 print "$buildd_tag{invalid_cmake}|$1|\n";
786             }
787         }
788
789         # Debian's build daemons use "Filtered Build-Depends:" (or just
790         # "Build-Depends:" in older versions) for the build dependencies, but
791         # pbuilder uses "Depends:"; support both.
792         if (index($line, 'Filtered Build-Depends: ') == 0
793                 or index($line, 'Build-Depends: ') == 0
794                 or index($line, 'Depends: ') == 0) {
795             # If hardening wrapper is used (wraps calls to gcc and adds
796             # hardening flags automatically) we can't perform any checks,
797             # abort.
798             if ($line =~ /\bhardening-wrapper\b/) {
799                 if (not $option_buildd) {
800                     error_hardening_wrapper();
801                     $exit |= $exit_code{hardening_wrapper};
802                 } else {
803                     print "$buildd_tag{hardening_wrapper}||\n";
804                 }
805                 next FILE;
806             }
807
808             # Ada compiler.
809             if ($line =~ /\bgnat\b/) {
810                 $ada = 1;
811             }
812         }
813
814         # We skip over unimportant lines at the beginning of the log to
815         # prevent false positives.
816         last if index($line, 'dpkg-buildpackage: ') == 0;
817     }
818
819     # Input lines, contain only the lines with compiler commands.
820     my @input = ();
821     # Non-verbose lines in the input. Used to reduce calls to
822     # is_non_verbose_build() (which is quite slow) in the second loop when
823     # it's already clear if a line is non-verbose or not.
824     my @input_nonverbose = ();
825
826     my $continuation = 0;
827     my $complete_line = undef;
828     my $non_verbose;
829     while (my $line = <$fh>) {
830         # And stop at the end of the build log. Package details (reported by
831         # the buildd logs) are not important for us. This also prevents false
832         # positives.
833         last if index($line, 'Build finished at ') == 0
834                 and $line =~ /^Build finished at \d{8}-\d{4}$/;
835
836         if (not $continuation) {
837             $non_verbose = 0;
838         }
839
840         # Detect architecture automatically unless overridden.
841         if (not $arch
842                 and index($line, 'dpkg-buildpackage: host architecture ') == 0) {
843             $arch = substr $line, 37, -1; # -1 to ignore '\n' at the end
844
845             # Old buildd logs use e.g. "host architecture is alpha", remove
846             # the "is", otherwise debarch_to_debtriplet() will not detect the
847             # architecture.
848             if (index($arch, 'is ') == 0) {
849                 $arch = substr $arch, 3;
850             }
851         }
852
853         # Ignore compiler warnings for now.
854         next if $line =~ /$warning_regex/o;
855
856         if (not $option_buildd and index($line, "\033") != -1) { # \033 = esc
857             # Remove all ANSI color sequences which are sometimes used in
858             # non-verbose builds.
859             $line = Term::ANSIColor::colorstrip($line);
860             # Also strip '\0xf' (delete previous character), used by Elinks'
861             # build system.
862             $line =~ s/\x0f//g;
863             # And "ESC(B" which seems to be used on armhf and hurd (not sure
864             # what it does).
865             $line =~ s/\033\(B//g;
866         }
867
868         # Check if this line indicates a non verbose build.
869         my $skip = 0;
870         $non_verbose |= is_non_verbose_build($line, undef, \$skip);
871         next if $skip;
872
873         # One line may contain multiple commands (";"). Treat each one as
874         # single line. parse_line() is slow, only use it when necessary.
875         my @line = (index($line, ';') == -1)
876                  ? ($line)
877                  : map {
878                        # Ensure newline at the line end - necessary for
879                        # correct parsing later.
880                        $_ =~ s/\s+$//;
881                        $_ .= "\n";
882                    } Text::ParseWords::parse_line(';', 1, $line);
883         foreach my $line (@line) {
884             if ($continuation) {
885                 $continuation = 0;
886
887                 # Join lines, but leave the "\" in place so it's clear where
888                 # the original line break was.
889                 chomp $complete_line;
890                 $complete_line .= ' ' . $line;
891             }
892             # Line continuation, line ends with "\".
893             if ($line =~ /\\$/) {
894                 $continuation = 1;
895                 # Start line continuation.
896                 if (not defined $complete_line) {
897                     $complete_line = $line;
898                 }
899                 next;
900             }
901
902             # Use the complete line if a line continuation occurred.
903             if (defined $complete_line) {
904                 $line = $complete_line;
905                 $complete_line = undef;
906             }
907
908             # Ignore lines with no compiler commands.
909             next if not $non_verbose
910                     and not $line =~ /$cc_regex_normal/o;
911             # Ignore lines with no filenames with extensions. May miss some
912             # non-verbose builds (e.g. "gcc -o test" [sic!]), but shouldn't be
913             # a problem as the log will most likely contain other non-verbose
914             # commands which are detected.
915             next if not $non_verbose
916                     and not $line =~ /$file_extension_regex/o;
917
918             # Ignore false positives.
919             #
920             # `./configure` output.
921             next if not $non_verbose
922                     and $line =~ /^(?:checking|[Cc]onfigure:) /;
923             next if $line =~ /^\s*(?:Host\s+)?(?:C(?:\+\+)?\s+)?
924                                 [Cc]ompiler[\s.]*:?\s+
925                                 /x;
926             next if $line =~ m{^\s*(?:-\s)?(?:HOST_)?(?:CC|CXX)
927                                 \s*=\s*$cc_regex_full
928                                 # optional compiler options, don't allow
929                                 # "everything" here to prevent false negatives
930                                 \s*(?:\s-\S+)*\s*$}xo;
931             # `moc-qt4`/`moc-qt5` contain '-I.../linux-g++' in their command
932             # line (or similar for other architectures) which gets recognized
933             # as a compiler line, but `moc-qt*` is only a preprocessor for Qt
934             # C++ files. No hardening flags are relevant during this step,
935             # thus ignore `moc-qt*` lines. The resulting files will be
936             # compiled in a separate step (and therefore checked).
937             next if $line =~ m{^\S+/bin/moc(?:-qt[45])?
938                                \s.+\s
939                                -I\S+/mkspecs/[a-z]+-g\++(?:-64)?
940                                \s}x;
941             # Ignore false positives when the line contains only CC=gcc but no
942             # other gcc command.
943             if ($line =~ /(.*)CC=$cc_regex_full(.*)/o) {
944                 my $before = $1;
945                 my $after  = $2;
946                 next if     not $before =~ /$cc_regex_normal/o
947                         and not $after  =~ /$cc_regex_normal/o;
948             }
949             # Ignore false positives caused by gcc -v. It outputs a line
950             # looking like a normal compiler line but which is sometimes
951             # missing hardening flags, although the normal compiler line
952             # contains them.
953             next if $line =~ m{^\s+/usr/lib/gcc/$cc_regex_full_prefix/
954                                    [0-9.]+/cc1(?:plus)?}xo;
955             # Ignore false positive with `rm` which may remove files which
956             # look like a compiler executable thus causing the line to be
957             # treated as a normal compiler line.
958             next if $line =~ m{^\s*rm\s+};
959
960             # Check if additional hardening options were used. Used to ensure
961             # they are used for the complete build.
962             $harden_pie     = 1 if any_flags_used($line, @def_cflags_pie,
963                                                          @def_ldflags_pie);
964             $harden_bindnow = 1 if any_flags_used($line, @def_ldflags_bindnow);
965
966             push @input, $line;
967             push @input_nonverbose, $non_verbose;
968         }
969     }
970
971     close $fh or die $!;
972
973     # Ignore arch if requested.
974     if (scalar @option_ignore_arch > 0 and $arch) {
975         foreach my $ignore (@option_ignore_arch) {
976             if ($arch eq $ignore) {
977                 print "ignoring architecture '$arch'\n";
978                 next FILE;
979             }
980         }
981     }
982
983     if (scalar @input == 0) {
984         if (not $option_buildd) {
985             print "No compiler commands!\n";
986             $exit |= $exit_code{no_compiler_commands};
987         } else {
988             print "$buildd_tag{no_compiler_commands}||\n";
989         }
990         next FILE;
991     }
992
993     if ($option_buildd) {
994         $statistics{commands} += scalar @input;
995     }
996
997     # Option or auto detected.
998     if ($arch) {
999         # The following was partially copied from dpkg-dev 1.18.7
1000         # (/usr/share/perl5/Dpkg/Vendor/Debian.pm, add_hardening_flags()),
1001         # copyright Raphaël Hertzog <hertzog@debian.org>, Kees Cook
1002         # <kees@debian.org>, Canonical, Ltd. licensed under GPL version 2 or
1003         # later. Keep it in sync.
1004
1005         require Dpkg::Arch;
1006         my ($abi, $os, $cpu) = Dpkg::Arch::debarch_to_debtriplet($arch);
1007
1008         # Disable unsupported hardening options.
1009         if ($os !~ /^(?:linux|knetbsd|hurd)$/ or $cpu =~ /^(?:hppa|avr32)$/) {
1010             $harden_pie = 0;
1011         }
1012         if ($cpu =~ /^(?:ia64|alpha|hppa|nios2)$/ or $arch eq 'arm') {
1013             $harden_stack = 0;
1014             $harden_stack_strong = 0;
1015         }
1016         if ($cpu =~ /^(?:ia64|hppa|avr32)$/) {
1017             $harden_relro   = 0;
1018             $harden_bindnow = 0;
1019         }
1020     }
1021
1022     # Default values.
1023     my @cflags   = @def_cflags;
1024     my @cxxflags = @def_cxxflags;
1025     my @cppflags = @def_cppflags;
1026     my @ldflags  = @def_ldflags;
1027     # Check the specified hardening options, same order as dpkg-buildflags.
1028     if ($harden_pie) {
1029         @cflags   = (@cflags,   @def_cflags_pie);
1030         @cxxflags = (@cxxflags, @def_cflags_pie);
1031         @ldflags  = (@ldflags,  @def_ldflags_pie);
1032     }
1033     if ($harden_stack_strong) {
1034         @cflags   = (@cflags,   @def_cflags_stack_strong);
1035         @cxxflags = (@cxxflags, @def_cflags_stack_strong);
1036     } elsif ($harden_stack) {
1037         @cflags   = (@cflags,   @def_cflags_stack);
1038         @cxxflags = (@cxxflags, @def_cflags_stack);
1039     }
1040     if ($harden_fortify) {
1041         @cflags   = (@cflags,   @def_cflags_fortify);
1042         @cxxflags = (@cxxflags, @def_cflags_fortify);
1043         @cppflags = (@cppflags, @def_cppflags_fortify);
1044     }
1045     if ($harden_format) {
1046         @cflags   = (@cflags,   @def_cflags_format);
1047         @cxxflags = (@cxxflags, @def_cflags_format);
1048     }
1049     if ($harden_relro) {
1050         @ldflags = (@ldflags, @def_ldflags_relro);
1051     }
1052     if ($harden_bindnow) {
1053         @ldflags = (@ldflags, @def_ldflags_bindnow);
1054     }
1055
1056     # Stores normal CFLAGS when @cflags_ada are temporarily used.
1057     my @cflags_backup;
1058     # Ada CFLAGS, only set if ada is used.
1059     my @cflags_ada;
1060     # Ada doesn't support format hardening flags, see #680117 for more
1061     # information. Filter them out if ada is used.
1062     if ($ada and $harden_format) {
1063         @cflags_ada = grep {
1064             my $ok = 1;
1065             foreach my $flag (@def_cflags_format) {
1066                 $ok = 0 if $_ eq $flag;
1067             }
1068             $ok;
1069         } @cflags;
1070     }
1071
1072     # Hack to fix cppflags_fortify_broken() if --ignore-flag
1073     # -D_FORTIFY_SOURCE=2 is used to ignore missing fortification. Only works
1074     # as long as @def_cppflags_fortify contains only one variable.
1075     if (scalar @def_cppflags_fortify == 0) {
1076         $harden_fortify = 0;
1077     }
1078
1079     # Ignore flags for this arch if requested.
1080     if ($arch and exists $option_ignore_arch_flag{$arch}) {
1081         my @local_flag_refs = (\@cflags, \@cxxflags, \@cppflags, \@ldflags);
1082
1083         remove_flags(\@local_flag_refs,
1084                      \%flag_renames,
1085                      @{$option_ignore_arch_flag{$arch}});
1086     }
1087
1088     my @ignore_line = @option_ignore_line;
1089     # Ignore lines for this arch if requested.
1090     if ($arch and exists $option_ignore_arch_line{$arch}) {
1091         @ignore_line = (@ignore_line, @{$option_ignore_arch_line{$arch}});
1092     }
1093
1094 LINE:
1095     for (my $i = 0; $i < scalar @input; $i++) {
1096         my $line = $input[$i];
1097
1098         # Ignore line if requested.
1099         foreach my $ignore (@ignore_line) {
1100             next LINE if $line =~ /$ignore/;
1101         }
1102
1103         my $skip = 0;
1104         if ($input_nonverbose[$i]
1105                 and is_non_verbose_build($line, $input[$i + 1], \$skip)) {
1106             if (not $option_buildd) {
1107                 error_non_verbose_build($line);
1108                 $exit |= $exit_code{non_verbose_build};
1109             } else {
1110                 $statistics{commands_nonverbose}++;
1111             }
1112             next;
1113         }
1114         # Even if it's a verbose build, we might have to skip this line (see
1115         # is_non_verbose_build()).
1116         next if $skip;
1117
1118         my $orig_line = $line;
1119
1120         # Remove everything until and including the compiler command. Makes
1121         # checks easier and faster.
1122         $line =~ s/^.*?$cc_regex//o;
1123         # "([...] test.c)" is not detected as 'test.c' - fix this by removing
1124         # the brace and similar characters at the line end.
1125         $line =~ s/['")]+$//;
1126
1127         # Skip unnecessary tests when only preprocessing.
1128         my $flag_preprocess = 0;
1129
1130         my $dependency = 0;
1131         my $preprocess = 0;
1132         my $compile    = 0;
1133         my $link       = 0;
1134
1135         # Preprocess, compile, assemble.
1136         if ($line =~ /\s(-E|-S|-c)\b/) {
1137             $preprocess      = 1;
1138             $flag_preprocess = 1 if $1 eq '-E';
1139             $compile         = 1 if $1 eq '-S' or $1 eq '-c';
1140         # Dependency generation for Makefiles. The other flags (-MF -MG -MP
1141         # -MT -MQ) are always used with -M/-MM.
1142         } elsif ($line =~ /\s(?:-M|-MM)\b/) {
1143             $dependency = 1;
1144         # Otherwise assume we are linking.
1145         } else {
1146             $link = 1;
1147         }
1148
1149         # -MD/-MMD also cause dependency generation, but they don't imply -E!
1150         if ($line =~ /\s(?:-MD|-MMD)\b/) {
1151             $dependency      = 0;
1152             $flag_preprocess = 0;
1153         }
1154
1155         # Dependency generation for Makefiles, no preprocessing or other flags
1156         # needed.
1157         next if $dependency;
1158
1159         # Get all file extensions on this line.
1160         my @extensions = $line =~ /$file_extension_regex/go;
1161         # Ignore all unknown extensions to speedup the search below.
1162         @extensions = grep { exists $extension{$_} } @extensions;
1163
1164         # These file types don't require preprocessing.
1165         if (extension_found(\%extensions_no_preprocess, @extensions)) {
1166             $preprocess = 0;
1167         }
1168         # These file types require preprocessing.
1169         if (extension_found(\%extensions_preprocess, @extensions)) {
1170             # Prevent false positives with "libtool: link: g++ -include test.h
1171             # .." compiler lines.
1172             if ($orig_line !~ /$libtool_link_regex/o) {
1173                 $preprocess = 1;
1174             }
1175         }
1176
1177         if (not $flag_preprocess) {
1178             # If there are source files then it's compiling/linking in one
1179             # step and we must check both. We only check for source files
1180             # here, because header files cause too many false positives.
1181             if (extension_found(\%extensions_compile_link, @extensions)) {
1182                 # Assembly files don't need CFLAGS.
1183                 if (not extension_found(\%extensions_compile, @extensions)
1184                         and extension_found(\%extensions_no_compile, @extensions)) {
1185                     $compile = 0;
1186                 # But the rest does.
1187                 } else {
1188                     $compile = 1;
1189                 }
1190             # No compilable extensions found, either linking or compiling
1191             # header flags.
1192             #
1193             # If there are also no object files we are just compiling headers
1194             # (.h -> .h.gch). Don't check for linker flags in this case. Due
1195             # to our liberal checks for compiler lines, this also reduces the
1196             # number of false positives considerably.
1197             } elsif ($link
1198                     and not extension_found(\%extensions_object, @extensions)) {
1199                 $link = 0;
1200             }
1201         }
1202
1203         my $compile_cpp = 0;
1204         my $compile_ada = 0;
1205         # Assume CXXFLAGS are required when a C++ file is specified in the
1206         # compiler line.
1207         if ($compile
1208                 and extension_found(\%extensions_compile_cpp, @extensions)) {
1209             $compile     = 0;
1210             $compile_cpp = 1;
1211         # Ada needs special CFLAGS, use them if only ada files are compiled.
1212         } elsif ($ada
1213                     and $compile
1214                     and array_equal(\@extensions,
1215                                     \@source_no_preprocess_compile_ada)) {
1216             $compile_ada = 1;
1217             @cflags_backup = @cflags;
1218             @cflags        = @cflags_ada;
1219         }
1220
1221         if ($option_buildd) {
1222             $statistics{preprocess}++  if $preprocess;
1223             $statistics{compile}++     if $compile;
1224             $statistics{compile_cpp}++ if $compile_cpp;
1225             $statistics{link}++        if $link;
1226         }
1227
1228         # Check if there are flags indicating a debug build. If that's true,
1229         # skip the check for -O2. This prevents fortification, but that's fine
1230         # for a debug build.
1231         if (any_flags_used($line, @def_cflags_debug)) {
1232             remove_flags([\@cflags], \%flag_renames, $def_cflags[1]);
1233             remove_flags([\@cppflags], \%flag_renames, $def_cppflags_fortify[0]);
1234         }
1235
1236         # Check hardening flags.
1237         my @missing;
1238         if ($compile and not all_flags_used($line, \@missing, @cflags)
1239                 # Libraries linked with -fPIC don't have to (and can't) be
1240                 # linked with -fPIE as well. It's no error if only PIE flags
1241                 # are missing.
1242                 and not pic_pie_conflict($line, $harden_pie, \@missing, @def_cflags_pie)
1243                 # Assume dpkg-buildflags returns the correct flags.
1244                 and index($line, '`dpkg-buildflags --get CFLAGS`') == -1) {
1245             if (not $option_buildd) {
1246                 error_flags('CFLAGS missing', \@missing, \%flag_renames, $input[$i]);
1247                 $exit |= $exit_code{flags_missing};
1248             } else {
1249                 $statistics{compile_missing}++;
1250             }
1251         } elsif ($compile_cpp and not all_flags_used($line, \@missing, @cflags)
1252                 # Libraries linked with -fPIC don't have to (and can't) be
1253                 # linked with -fPIE as well. It's no error if only PIE flags
1254                 # are missing.
1255                 and not pic_pie_conflict($line, $harden_pie, \@missing, @def_cflags_pie)
1256                 # Assume dpkg-buildflags returns the correct flags.
1257                 and index($line, '`dpkg-buildflags --get CXXFLAGS`') == -1) {
1258             if (not $option_buildd) {
1259                 error_flags('CXXFLAGS missing', \@missing, \%flag_renames, $input[$i]);
1260                 $exit |= $exit_code{flags_missing};
1261             } else {
1262                 $statistics{compile_cpp_missing}++;
1263             }
1264         }
1265         if ($preprocess
1266                 and (not all_flags_used($line, \@missing, @cppflags)
1267                     # The fortify flag might be overwritten, detect that.
1268                      or ($harden_fortify
1269                          and cppflags_fortify_broken($line, \@missing)))
1270                 # Assume dpkg-buildflags returns the correct flags.
1271                 and index($line, '`dpkg-buildflags --get CPPFLAGS`') == -1) {
1272             if (not $option_buildd) {
1273                 error_flags('CPPFLAGS missing', \@missing, \%flag_renames, $input[$i]);
1274                 $exit |= $exit_code{flags_missing};
1275             } else {
1276                 $statistics{preprocess_missing}++;
1277             }
1278         }
1279         if ($link and not all_flags_used($line, \@missing, @ldflags)
1280                 # Same here, -fPIC conflicts with -fPIE.
1281                 and not pic_pie_conflict($line, $harden_pie, \@missing, @def_ldflags_pie)
1282                 # Assume dpkg-buildflags returns the correct flags.
1283                 and index($line, '`dpkg-buildflags --get LDFLAGS`') == -1) {
1284             if (not $option_buildd) {
1285                 error_flags('LDFLAGS missing', \@missing, \%flag_renames, $input[$i]);
1286                 $exit |= $exit_code{flags_missing};
1287             } else {
1288                 $statistics{link_missing}++;
1289             }
1290         }
1291
1292         # Restore normal CFLAGS.
1293         if ($compile_ada) {
1294             @cflags = @cflags_backup;
1295         }
1296     }
1297 }
1298
1299 # Print statistics for buildd mode, only output in this mode.
1300 if ($option_buildd) {
1301     my @warning;
1302
1303     if ($statistics{preprocess_missing}) {
1304         push @warning, sprintf 'CPPFLAGS %d (of %d)',
1305                                $statistics{preprocess_missing},
1306                                $statistics{preprocess};
1307     }
1308     if ($statistics{compile_missing}) {
1309         push @warning, sprintf 'CFLAGS %d (of %d)',
1310                                $statistics{compile_missing},
1311                                $statistics{compile};
1312     }
1313     if ($statistics{compile_cpp_missing}) {
1314         push @warning, sprintf 'CXXFLAGS %d (of %d)',
1315                                $statistics{compile_cpp_missing},
1316                                $statistics{compile_cpp};
1317     }
1318     if ($statistics{link_missing}) {
1319         push @warning, sprintf 'LDFLAGS %d (of %d)',
1320                                $statistics{link_missing},
1321                                $statistics{link};
1322     }
1323     if (scalar @warning) {
1324         local $" = ', '; # array join string
1325         print "$buildd_tag{flags_missing}|@warning missing|\n";
1326     }
1327
1328     if ($statistics{commands_nonverbose}) {
1329         printf "$buildd_tag{non_verbose_build}|%d (of %d) hidden|\n",
1330                $statistics{commands_nonverbose},
1331                $statistics{commands},
1332     }
1333 }
1334
1335
1336 exit $exit;
1337
1338
1339 __END__
1340
1341 =head1 NAME
1342
1343 blhc - build log hardening check, checks build logs for missing hardening flags
1344
1345 =head1 SYNOPSIS
1346
1347 B<blhc> [I<options>] I<< <dpkg-buildpackage build log file>.. >>
1348
1349 =head1 DESCRIPTION
1350
1351 blhc is a small tool which checks build logs for missing hardening flags. It's
1352 licensed under the GPL 3 or later.
1353
1354 It's designed to check build logs generated by Debian's dpkg-buildpackage (or
1355 tools using dpkg-buildpackage like pbuilder or sbuild (which is used for the
1356 official buildd build logs)) to help maintainers detect missing hardening
1357 flags in their packages.
1358
1359 Only gcc is detected as compiler at the moment. If other compilers support
1360 hardening flags as well, please report them.
1361
1362 If there's no output, no flags are missing and the build log is fine.
1363
1364 See F<README> for details about performed checks, auto-detection and
1365 limitations.
1366
1367 =head1 OPTIONS
1368
1369 =over 8
1370
1371 =item B<--all>
1372
1373 Force check for all +all (+pie, +bindnow) hardening flags. By default it's
1374 auto detected.
1375
1376 =item B<--arch> I<architecture>
1377
1378 Set the specific architecture (e.g. amd64, armel, etc.), automatically
1379 disables hardening flags not available on this architecture. Is detected
1380 automatically if dpkg-buildpackage is used.
1381
1382 =item B<--bindnow>
1383
1384 Force check for all +bindnow hardening flags. By default it's auto detected.
1385
1386 =item B<--buildd>
1387
1388 Special mode for buildds when automatically parsing log files. The following
1389 changes are in effect:
1390
1391 =over 2
1392
1393 =item *
1394
1395 Print tags instead of normal warnings, see L</"BUILDD TAGS"> for a list of
1396 possible tags.
1397
1398 =item *
1399
1400 Don't check hardening flags in old log files (if dpkg-dev << 1.16.1 is
1401 detected).
1402
1403 =item *
1404
1405 Don't require Term::ANSIColor.
1406
1407 =item *
1408
1409 Return exit code 0, unless there was a error (-I, -W messages don't count as
1410 error).
1411
1412 =back
1413
1414 =item B<--color>
1415
1416 Use colored (ANSI) output for warning messages.
1417
1418 =item B<--ignore-arch> I<arch>
1419
1420 Ignore build logs from architectures matching I<arch>. I<arch> is a string.
1421
1422 Used to prevent false positives. This option can be specified multiple times.
1423
1424 =item B<--ignore-arch-flag> I<arch>:I<flag>
1425
1426 Like B<--ignore-flag>, but only ignore flag on I<arch>.
1427
1428 =item B<--ignore-arch-line> I<arch>:I<line>
1429
1430 Like B<--ignore-line>, but only ignore line on I<arch>.
1431
1432 =item B<--ignore-flag> I<flag>
1433
1434 Don't print an error when the specific flag is missing in a compiler line.
1435 I<flag> is a string.
1436
1437 Used to prevent false positives. This option can be specified multiple times.
1438
1439 =item B<--ignore-line> I<regex>
1440
1441 Ignore lines matching the given Perl regex. I<regex> is automatically anchored
1442 at the beginning and end of the line to prevent false negatives.
1443
1444 B<NOTE>: Not the input lines are checked, but the lines which are displayed in
1445 warnings (which have line continuation resolved).
1446
1447 Used to prevent false positives. This option can be specified multiple times.
1448
1449 =item B<--pie>
1450
1451 Force check for all +pie hardening flags. By default it's auto detected.
1452
1453 =item B<-h -? --help>
1454
1455 Print available options.
1456
1457 =item B<--version>
1458
1459 Print version number and license.
1460
1461 =back
1462
1463 Auto detection for B<--pie> and B<--bindnow> only works if at least one
1464 command uses the required hardening flag (e.g. -fPIE). Then it's required for
1465 all other commands as well.
1466
1467 =head1 EXAMPLES
1468
1469 Normal usage, parse a single log file.
1470
1471     blhc path/to/log/file
1472
1473 If there's no output, no flags are missing and the build log is fine.
1474
1475 Parse multiple log files. The exit code is ORed over all files.
1476
1477     blhc path/to/directory/with/log/files/*
1478
1479 Don't treat missing C<-g> as error:
1480
1481     blhc --ignore-flag -g path/to/log/file
1482
1483 Don't treat missing C<-pie> on kfreebsd-amd64 as error:
1484
1485     blhc --ignore-arch-flag kfreebsd-amd64:-pie path/to/log/file
1486
1487 Ignore lines consisting exactly of C<./script gcc file> which would cause a
1488 false positive.
1489
1490     blhc --ignore-line '\./script gcc file' path/to/log/file
1491
1492 Ignore lines matching C<./script gcc file> somewhere in the line.
1493
1494     blhc --ignore-line '.*\./script gcc file.*' path/to/log/file
1495
1496 Use blhc with pbuilder.
1497
1498     pbuilder path/to/package.dsc | tee path/log/file
1499     blhc path/to/file || echo flags missing
1500
1501 =head1 BUILDD TAGS
1502
1503 The following tags are used in I<--buildd> mode. In braces the additional data
1504 which is displayed.
1505
1506 =over 2
1507
1508 =item B<I-hardening-wrapper-used>
1509
1510 The package uses hardening-wrapper which intercepts calls to gcc and adds
1511 hardening flags. The build log doesn't contain any hardening flags and thus
1512 can't be checked by blhc.
1513
1514 =item B<W-compiler-flags-hidden> (summary of hidden lines)
1515
1516 Build log contains lines which hide the real compiler flags. For example:
1517
1518     CC test-a.c
1519     CC test-b.c
1520     CC test-c.c
1521     LD test
1522
1523 Most of the time either C<export V=1> or C<export verbose=1> in
1524 F<debian/rules> fixes builds with hidden compiler flags. Sometimes C<.SILENT>
1525 in a F<Makefile> must be removed. And as last resort the F<Makefile> must be
1526 patched to remove the C<@>s hiding the real compiler commands.
1527
1528 =item B<W-dpkg-buildflags-missing> (summary of missing flags)
1529
1530 CPPFLAGS, CFLAGS, CXXFLAGS, LDFLAGS missing.
1531
1532 =item B<I-invalid-cmake-used> (version)
1533
1534 By default CMake ignores CPPFLAGS thus missing those hardening flags. Debian
1535 patched CMake in versions 2.8.7-1 and 2.8.7-2 to respect CPPFLAGS, but this
1536 patch was rejected by upstream and later reverted in Debian. Thus those two
1537 versions show correct usage of CPPFLAGS even if the package doesn't correctly
1538 handle them (for example by passing them to CFLAGS). To prevent false
1539 negatives just blacklist those two versions.
1540
1541 =item B<I-no-compiler-commands>
1542
1543 No compiler commands were detected. Either the log contains none or they were
1544 not correctly detected by blhc (please report the bug in this case).
1545
1546 =back
1547
1548 =head1 EXIT STATUS
1549
1550 The exit status is a "bit mask", each listed status is ORed when the error
1551 condition occurs to get the result.
1552
1553 =over 4
1554
1555 =item B<0>
1556
1557 Success.
1558
1559 =item B<1>
1560
1561 No compiler commands were found.
1562
1563 =item B<2>
1564
1565 Invalid arguments/options given to blhc.
1566
1567 =item B<4>
1568
1569 Non verbose build.
1570
1571 =item B<8>
1572
1573 Missing hardening flags.
1574
1575 =item B<16>
1576
1577 Hardening wrapper detected, no tests performed.
1578
1579 =item B<32>
1580
1581 Invalid CMake version used. See B<I-invalid-cmake-used> under L</"BUILDD
1582 TAGS"> for a detailed explanation.
1583
1584 =back
1585
1586 =head1 AUTHOR
1587
1588 Simon Ruderich, E<lt>simon@ruderich.orgE<gt>
1589
1590 Thanks to to Bernhard R. Link E<lt>brlink@debian.orgE<gt> and Jaria Alto
1591 E<lt>jari.aalto@cante.netE<gt> for their valuable input and suggestions.
1592
1593 =head1 LICENSE AND COPYRIGHT
1594
1595 Copyright (C) 2012-2015 by Simon Ruderich
1596
1597 This program is free software: you can redistribute it and/or modify
1598 it under the terms of the GNU General Public License as published by
1599 the Free Software Foundation, either version 3 of the License, or
1600 (at your option) any later version.
1601
1602 This program is distributed in the hope that it will be useful,
1603 but WITHOUT ANY WARRANTY; without even the implied warranty of
1604 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
1605 GNU General Public License for more details.
1606
1607 You should have received a copy of the GNU General Public License
1608 along with this program.  If not, see <http://www.gnu.org/licenses/>.
1609
1610 =head1 SEE ALSO
1611
1612 L<hardening-check(1)>, L<dpkg-buildflags(1)>
1613
1614 =cut