]> ruderich.org/simon Gitweb - blhc/blhc.git/blob - blhc
cc4f44bb723a2fc6c2321b08a84ce4c3f23a2cac
[blhc/blhc.git] / blhc
1 #!/usr/bin/perl
2
3 # Build log hardening check, checks build logs for missing hardening flags.
4
5 # Copyright (C) 2012-2015  Simon Ruderich
6 #
7 # This program is free software: you can redistribute it and/or modify
8 # it under the terms of the GNU General Public License as published by
9 # the Free Software Foundation, either version 3 of the License, or
10 # (at your option) any later version.
11 #
12 # This program is distributed in the hope that it will be useful,
13 # but WITHOUT ANY WARRANTY; without even the implied warranty of
14 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15 # GNU General Public License for more details.
16 #
17 # You should have received a copy of the GNU General Public License
18 # along with this program.  If not, see <http://www.gnu.org/licenses/>.
19
20
21 use strict;
22 use warnings;
23
24 use Getopt::Long ();
25 use Text::ParseWords ();
26
27 our $VERSION = '0.05';
28
29
30 # CONSTANTS/VARIABLES
31
32 # Regex to catch compiler commands.
33 my $cc_regex = qr/
34     (?<!\s-)               # ignore options, e.g. "-c++" [sic!] (used by swig)
35     (?<!\.)                # ignore file names, e.g. "test.gcc"
36     (?:cc|gcc|g\+\+|c\+\+)
37     (?:-[\d.]+)?           # version suffix, e.g. "gcc-4.6"
38     /x;
39 # Full regex which matches the complete compiler name. Used in a few places to
40 # prevent false negatives.
41 my $cc_regex_full_prefix = qr/
42     [a-z0-9_]+-(?:linux-|kfreebsd-)?gnu(?:eabi|eabihf)?
43     /x;
44 my $cc_regex_full = qr/
45     (?:$cc_regex_full_prefix-)?
46     $cc_regex
47     /x;
48 # Regex to check if a line contains a compiler command.
49 my $cc_regex_normal = qr/
50     \b$cc_regex(?:\s|\\)
51     /x;
52 # Regex to catch (GCC) compiler warnings.
53 my $warning_regex = qr/^(.+?):(\d+):\d+: warning: (.+?) \[(.+?)\]$/;
54 # Regex to catch libtool commands and not lines which show commands executed
55 # by libtool (e.g. libtool: link: ...).
56 my $libtool_regex = qr/\blibtool\s.*--mode=/;
57 my $libtool_link_regex = qr/\blibtool: link: /;
58
59 # List of source file extensions which require preprocessing.
60 my @source_preprocess_compile_cpp = (
61     # C++
62     qw( cc cp cxx cpp CPP c++ C ),
63     # Objective-C++
64     qw( mm M ),
65 );
66 my @source_preprocess_compile = (
67     # C
68     qw( c ),
69     # Objective-C
70     qw( m ),
71     # (Objective-)C++
72     @source_preprocess_compile_cpp,
73     # Fortran
74     qw( F FOR fpp FPP FTN F90 F95 F03 F08 ),
75 );
76 my @source_preprocess_no_compile = (
77     # Assembly
78     qw( S sx ),
79 );
80 my @source_preprocess = (
81     @source_preprocess_compile,
82     @source_preprocess_no_compile,
83 );
84 # List of source file extensions which don't require preprocessing.
85 my @source_no_preprocess_compile_cpp = (
86     # C++
87     qw( ii ),
88     # Objective-C++
89     qw( mii ),
90 );
91 my @source_no_preprocess_compile_ada = (
92     # Ada body
93     qw( adb ),
94     # If you add another file, fix use of @source_no_preprocess_compile_ada
95     # below (search for $compile_ada).
96 );
97 my @source_no_preprocess_compile = (
98     # C
99     qw( i ),
100     # (Objective-)C++
101     @source_no_preprocess_compile_cpp,
102     # Objective-C
103     qw( mi ),
104     # Fortran
105     qw( f for ftn f90 f95 f03 f08 ),
106     # Ada
107     @source_no_preprocess_compile_ada,
108 );
109 my @source_no_preprocess_no_compile = (
110     # Assembly
111     qw( s ),
112     # Ada specification
113     qw( ads ),
114 );
115 my @source_no_preprocess = (
116     @source_no_preprocess_compile,
117     @source_no_preprocess_no_compile,
118 );
119 # List of header file extensions which require preprocessing.
120 my @header_preprocess = (
121     # C, C++, Objective-C, Objective-C++
122     qw( h ),
123     # C++
124     qw( hh H hp hxx hpp HPP h++ tcc ),
125 );
126 # Object files.
127 my @object = (
128     # Normal object files.
129     qw ( o ),
130     # Libtool object files.
131     qw ( lo la ),
132     # Dynamic libraries. bzip2 uses .sho.
133     qw ( so sho ),
134     # Static libraries.
135     qw ( a ),
136 );
137
138 # Hashes for fast extensions lookup to check if a file falls in one of these
139 # categories.
140 my %extensions_no_preprocess = map { $_ => 1 } (
141     # There's no @header_no_preprocess.
142     @source_no_preprocess,
143 );
144 my %extensions_preprocess = map { $_ => 1 } (
145     @header_preprocess,
146     @source_preprocess,
147 );
148 my %extensions_compile_link = map { $_ => 1 } (
149     @source_preprocess,
150     @source_no_preprocess,
151 );
152 my %extensions_compile = map { $_ => 1 } (
153     @source_preprocess_compile,
154     @source_no_preprocess_compile,
155 );
156 my %extensions_no_compile = map { $_ => 1 } (
157     @source_preprocess_no_compile,
158     @source_no_preprocess_no_compile,
159 );
160 my %extensions_compile_cpp = map { $_ => 1 } (
161     @source_preprocess_compile_cpp,
162     @source_no_preprocess_compile_cpp,
163 );
164 my %extensions_object = map { $_ => 1 } (
165     @object,
166 );
167 my %extension = map { $_ => 1 } (
168     @source_no_preprocess,
169     @header_preprocess,
170     @source_preprocess,
171     @object,
172 );
173
174 # Regexp to match file extensions.
175 my $file_extension_regex = qr/
176     \s
177     \S+             # Filename without extension.
178     \.
179     ([^\/\\.,;:\s]+)# File extension.
180     (?=\s|\\)       # At end of word. Can't use \b because some files have non
181                     # word characters at the end and because \b matches double
182                     # extensions (like .cpp.o). Works always as all lines are
183                     # terminated with "\n".
184     /x;
185
186 # Expected (hardening) flags. All flags are used as regexps (and compiled to
187 # real regexps below for better execution speed).
188 my @def_cflags = (
189     '-g',
190     '-O(?:2|3)', # keep at index 1, search for @def_cflags_debug to change it
191 );
192 my @def_cflags_debug = (
193     # These flags indicate a debug build which disables checks for -O2.
194     '-O0',
195     '-Og',
196 );
197 my @def_cflags_format = (
198     '-Wformat(?:=2)?', # -Wformat=2 implies -Wformat, accept it too
199     '-Werror=format-security', # implies -Wformat-security
200 );
201 my @def_cflags_fortify = (
202     # fortify needs at least -O1, but -O2 is recommended anyway
203 );
204 my @def_cflags_stack = (
205     '-fstack-protector',
206     '--param[= ]ssp-buffer-size=4',
207 );
208 my @def_cflags_stack_strong = (
209     '-fstack-protector-strong',
210 );
211 my @def_cflags_pie = (
212     '-fPIE',
213 );
214 my @def_cxxflags = (
215     @def_cflags,
216 );
217 # @def_cxxflags_* is the same as @def_cflags_*.
218 my @def_cppflags = ();
219 my @def_cppflags_fortify = (
220     '-D_FORTIFY_SOURCE=2', # must be first, see cppflags_fortify_broken()
221     # If you add another flag fix hack below (search for "Hack to fix") and
222     # $def_cppflags_fortify[0].
223 );
224 my @def_cppflags_fortify_bad = (
225     # These flags may overwrite -D_FORTIFY_SOURCE=2.
226     '-U_FORTIFY_SOURCE',
227     '-D_FORTIFY_SOURCE=0',
228     '-D_FORTIFY_SOURCE=1',
229 );
230 my @def_ldflags = ();
231 my @def_ldflags_relro = (
232     '-Wl,(?:-z,)?relro',
233 );
234 my @def_ldflags_bindnow = (
235     '-Wl,(?:-z,)?now',
236 );
237 my @def_ldflags_pie = (
238     '-fPIE',
239     '-pie',
240 );
241 my @def_ldflags_pic = (
242     '-fPIC',
243     '-fpic',
244     '-shared',
245 );
246 # References to all flags checked by the flag checker.
247 my @flag_refs = (
248     \@def_cflags,
249     \@def_cflags_format,
250     \@def_cflags_fortify,
251     \@def_cflags_stack,
252     \@def_cflags_stack_strong,
253     \@def_cflags_pie,
254     \@def_cxxflags,
255     \@def_cppflags,
256     \@def_cppflags_fortify,
257     \@def_ldflags,
258     \@def_ldflags_relro,
259     \@def_ldflags_bindnow,
260     \@def_ldflags_pie,
261 );
262 # References to all used flags.
263 my @flag_refs_all = (
264     @flag_refs,
265     \@def_cflags_debug,
266     \@def_cppflags_fortify_bad,
267     \@def_ldflags_pic,
268 );
269 # Renaming rules for the output so the regex parts are not visible. Also
270 # stores string values of flag regexps above, see compile_flag_regexp().
271 my %flag_renames = (
272     '-O(?:2|3)'                    => '-O2',
273     '-Wformat(?:=2)?'              => '-Wformat',
274     '--param[= ]ssp-buffer-size=4' => '--param=ssp-buffer-size=4',
275     '-Wl,(?:-z,)?relro'            => '-Wl,-z,relro',
276     '-Wl,(?:-z,)?now'              => '-Wl,-z,now',
277 );
278
279 my %exit_code = (
280     no_compiler_commands => 1 << 0,
281     # used by POD::Usage => 1 << 1,
282     non_verbose_build    => 1 << 2,
283     flags_missing        => 1 << 3,
284     hardening_wrapper    => 1 << 4,
285     invalid_cmake        => 1 << 5,
286 );
287
288 my %buildd_tag = (
289     no_compiler_commands => 'I-no-compiler-commands',
290     non_verbose_build    => 'W-compiler-flags-hidden',
291     flags_missing        => 'W-dpkg-buildflags-missing',
292     hardening_wrapper    => 'I-hardening-wrapper-used',
293     invalid_cmake        => 'I-invalid-cmake-used',
294 );
295
296 # Statistics of missing flags and non-verbose build commands. Used for
297 # $option_buildd.
298 my %statistics = (
299     preprocess          => 0,
300     preprocess_missing  => 0,
301     compile             => 0,
302     compile_missing     => 0,
303     compile_cpp         => 0,
304     compile_cpp_missing => 0,
305     link                => 0,
306     link_missing        => 0,
307     commands            => 0,
308     commands_nonverbose => 0,
309 );
310
311 # Use colored (ANSI) output?
312 my $option_color;
313
314
315 # FUNCTIONS
316
317 # Only works for single-level arrays with no undef values. Thanks to perlfaq4.
318 sub array_equal {
319     my ($first_ref, $second_ref) = @_;
320
321     return 0 if scalar @{$first_ref} != scalar @{$second_ref};
322
323     my $length = scalar @{$first_ref};
324     for (my $i = 0; $i < $length; $i++) {
325         return 0 if $first_ref->[$i] ne $second_ref->[$i];
326     }
327
328     return 1;
329 }
330
331 sub error_flags {
332     my ($message, $missing_flags_ref, $flag_renames_ref, $line) = @_;
333
334     # Get string value of qr//-escaped regexps and if requested rename them.
335     my @missing_flags = map {
336             $flag_renames_ref->{$_}
337         } @{$missing_flags_ref};
338
339     my $flags = join ' ', @missing_flags;
340     printf '%s (%s)%s %s',
341            error_color($message, 'red'), $flags, error_color(':', 'yellow'),
342            $line;
343
344     return;
345 }
346 sub error_non_verbose_build {
347     my ($line) = @_;
348
349     printf '%s%s %s',
350            error_color('NONVERBOSE BUILD', 'red'),
351            error_color(':', 'yellow'),
352            $line;
353
354     return;
355 }
356 sub error_invalid_cmake {
357     my ($version) = @_;
358
359     printf "%s%s %s\n",
360             error_color('INVALID CMAKE', 'red'),
361             error_color(':', 'yellow'),
362             $version;
363
364     return;
365 }
366 sub error_hardening_wrapper {
367     printf "%s%s %s\n",
368             error_color('HARDENING WRAPPER', 'red'),
369             error_color(':', 'yellow'),
370             'no checks possible, aborting';
371
372     return;
373 }
374 sub error_color {
375     my ($message, $color) = @_;
376
377     if ($option_color) {
378         return Term::ANSIColor::colored($message, $color);
379     } else {
380         return $message;
381     }
382 }
383
384 sub any_flags_used {
385     my ($line, @flags) = @_;
386
387     foreach my $flag (@flags) {
388         return 1 if $line =~ /$flag/;
389     }
390
391     return 0;
392 }
393 sub all_flags_used {
394     my ($line, $missing_flags_ref, @flags) = @_;
395
396     my @missing_flags = ();
397     foreach my $flag (@flags) {
398         if (not $line =~ /$flag/) {
399             push @missing_flags, $flag;
400         }
401     }
402
403     return 1 if scalar @missing_flags == 0;
404
405     @{$missing_flags_ref} = @missing_flags;
406     return 0;
407 }
408
409 sub cppflags_fortify_broken {
410     my ($line, $missing_flags) = @_;
411
412     # This doesn't take the position into account, but is a simple solution.
413     # And if the build system tries to force -D_FORTIFY_SOURCE=0/1, something
414     # is wrong anyway.
415
416     if (any_flags_used($line, @def_cppflags_fortify_bad)) {
417         # $def_cppflags_fortify[0] must be -D_FORTIFY_SOURCE=2!
418         push @{$missing_flags}, $def_cppflags_fortify[0];
419         return 1;
420     }
421
422     return 0;
423 }
424
425 # Modifies $missing_flags_ref array.
426 sub pic_pie_conflict {
427     my ($line, $pie, $missing_flags_ref, @flags_pie) = @_;
428
429     return 0 if not $pie;
430     return 0 if not any_flags_used($line, @def_ldflags_pic);
431
432     my %flags = map { $_ => 1 } @flags_pie;
433
434     # Remove all PIE flags from @missing_flags as they are not required with
435     # -fPIC.
436     my @result = grep {
437         not exists $flags{$_}
438     } @{$missing_flags_ref};
439     @{$missing_flags_ref} = @result;
440
441     # We got a conflict when no flags are left, thus only PIE flags were
442     # missing. If other flags were missing abort because the conflict is not
443     # the problem.
444     return scalar @result == 0;
445 }
446
447 sub is_non_verbose_build {
448     my ($line, $next_line, $skip_ref) = @_;
449
450     if ($line =~ /$libtool_regex/o) {
451         # libtool's --silent hides the real compiler flags.
452         if ($line =~ /\s--silent/) {
453             return 1;
454         # If --silent is not present, skip this line as some compiler flags
455         # might be missing (e.g. -fPIE) which are handled correctly by libtool
456         # internally. libtool displays the real compiler command on the next
457         # line, so the flags are checked as usual.
458         } else {
459             ${$skip_ref} = 1;
460             return 0;
461         }
462     }
463
464     if (not (index($line, 'checking if you want to see long compiling messages... no') == 0
465                 or $line =~ /^\s*\[?(?:CC|CCLD|C\+\+|CXX|CXXLD|LD|LINK)\]?\s+(.+?)$/
466                 or $line =~ /^\s*[Cc]ompiling\s+(.+?)(?:\.\.\.)?$/
467                 or $line =~ /^\s*[Bb]uilding (?:program|shared library)\s+(.+?)$/
468                 or $line =~ /^\s*\[[\d ]+%\] Building (?:C|CXX) object (.+?)$/)) {
469         return 0;
470     }
471
472     # False positives.
473     #
474     # C++ compiler setting.
475     return 0 if $line =~ /^\s*C\+\+.+?:\s+(?:yes|no)\s*$/;
476     return 0 if $line =~ /^\s*C\+\+ Library: stdc\+\+$/;
477     # "Compiling" non binary files.
478     return 0 if $line =~ /^\s*Compiling \S+\.(?:py|el)['"]?\s*(?:\.\.\.)?$/;
479     # "Compiling" with no file name.
480     if ($line =~ /^\s*[Cc]ompiling\s+(.+?)(?:\.\.\.)?$/) {
481         # $file_extension_regex may need spaces around the filename.
482         return 0 if not " $1 " =~ /$file_extension_regex/o;
483     }
484
485     my $file = $1;
486
487     # On the first pass we only check if this line is verbose or not.
488     return 1 if not defined $next_line;
489
490     # Second pass, we have access to the next line.
491     ${$skip_ref} = 0;
492
493     # CMake and other build systems print the non-verbose messages also when
494     # building verbose. If a compiler and the file name occurs in the next
495     # line, treat it as verbose build.
496     if (defined $file) {
497         # Get filename, we can't use the complete path as only parts of it are
498         # used in the real compiler command.
499         $file =~ m{/([^/\s]+)$};
500         $file = $1;
501
502         if (index($next_line, $file) != -1 and $next_line =~ /$cc_regex/o) {
503             # Not a non-verbose line, but we still have to skip the current line
504             # as it doesn't contain any compiler commands.
505             ${$skip_ref} = 1;
506             return 0;
507         }
508     }
509
510     return 1;
511 }
512
513 # Remove @flags from $flag_refs_ref, uses $flag_renames_ref as reference.
514 sub remove_flags {
515     my ($flag_refs_ref, $flag_renames_ref, @flags) = @_;
516
517     my %removes = map { $_ => 1 } @flags;
518     foreach my $flags (@{$flag_refs_ref}) {
519         @{$flags} = grep {
520             # Flag found as string.
521             not exists $removes{$_}
522             # Flag found as string representation of regexp.
523                 and (not defined $flag_renames_ref->{$_}
524                         or not exists $removes{$flag_renames_ref->{$_}})
525         } @{$flags};
526     }
527
528     return;
529 }
530
531 # Modifies $flag_renames_ref hash.
532 sub compile_flag_regexp {
533     my ($flag_renames_ref, @flags) = @_;
534
535     my @result = ();
536     foreach my $flag (@flags) {
537         # Compile flag regexp for faster execution.
538         my $regex = qr/\s$flag(?:\s|\\)/;
539
540         # Store flag name in replacement string for correct flags in messages
541         # with qr//ed flag regexps.
542         $flag_renames_ref->{$regex}
543             = (exists $flag_renames_ref->{$flag})
544                 ? $flag_renames_ref->{$flag}
545                 : $flag;
546
547         push @result, $regex;
548     }
549     return @result;
550 }
551
552 # Does any extension in @extensions exist in %{$extensions_ref}?
553 sub extension_found {
554     my ($extensions_ref, @extensions) = @_;
555
556     foreach my $extension (@extensions) {
557         if (exists $extensions_ref->{$extension}) {
558             return 1;
559         }
560     }
561     return 0;
562 }
563
564
565 # MAIN
566
567 # Parse command line arguments.
568 my $option_help             = 0;
569 my $option_version          = 0;
570 my $option_pie              = 0;
571 my $option_bindnow          = 0;
572 my @option_ignore_arch      = ();
573 my @option_ignore_flag      = ();
574 my @option_ignore_arch_flag = ();
575 my @option_ignore_line      = ();
576 my @option_ignore_arch_line = ();
577 my $option_all              = 0;
578 my $option_arch             = undef;
579 my $option_buildd           = 0;
580    $option_color            = 0;
581 if (not Getopt::Long::GetOptions(
582             'help|h|?'           => \$option_help,
583             'version'            => \$option_version,
584             # Hardening options.
585             'pie'                => \$option_pie,
586             'bindnow'            => \$option_bindnow,
587             'all'                => \$option_all,
588             # Ignore.
589             'ignore-arch=s'      => \@option_ignore_arch,
590             'ignore-flag=s'      => \@option_ignore_flag,
591             'ignore-arch-flag=s' => \@option_ignore_arch_flag,
592             'ignore-line=s'      => \@option_ignore_line,
593             'ignore-arch-line=s' => \@option_ignore_arch_line,
594             # Misc.
595             'color'              => \$option_color,
596             'arch=s'             => \$option_arch,
597             'buildd'             => \$option_buildd,
598         )) {
599     require Pod::Usage;
600     Pod::Usage::pod2usage(2);
601 }
602 if ($option_help) {
603     require Pod::Usage;
604     Pod::Usage::pod2usage(1);
605 }
606 if ($option_version) {
607     print <<"EOF";
608 blhc $VERSION  Copyright (C) 2012-2015  Simon Ruderich
609
610 This program is free software: you can redistribute it and/or modify
611 it under the terms of the GNU General Public License as published by
612 the Free Software Foundation, either version 3 of the License, or
613 (at your option) any later version.
614
615 This program is distributed in the hope that it will be useful,
616 but WITHOUT ANY WARRANTY; without even the implied warranty of
617 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
618 GNU General Public License for more details.
619
620 You should have received a copy of the GNU General Public License
621 along with this program.  If not, see <http://www.gnu.org/licenses/>.
622 EOF
623     exit 0;
624 }
625
626 # Arguments missing.
627 if (scalar @ARGV == 0) {
628     require Pod::Usage;
629     Pod::Usage::pod2usage(2);
630 }
631
632 # Don't load Term::ANSIColor in buildd mode because Term::ANSIColor is not
633 # installed on Debian's buildds.
634 if (not $option_buildd) {
635     require Term::ANSIColor;
636 }
637
638 if ($option_all) {
639     $option_pie     = 1;
640     $option_bindnow = 1;
641 }
642
643 # Precompiled ignores for faster lookup.
644 my %option_ignore_arch_flag = ();
645 my %option_ignore_arch_line = ();
646
647 # Strip flags which should be ignored.
648 if (scalar @option_ignore_flag > 0) {
649     remove_flags(\@flag_refs, \%flag_renames, @option_ignore_flag);
650 }
651 # Same for arch specific ignore flags, but only prepare here.
652 if (scalar @option_ignore_arch_flag > 0) {
653     foreach my $ignore (@option_ignore_arch_flag) {
654         my ($ignore_arch, $ignore_flag) = split /:/, $ignore, 2;
655
656         if (not $ignore_arch or not $ignore_flag) {
657             printf STDERR 'Value "%s" invalid for option ignore-arch-flag '
658                         . '("arch:flag" expected)' . "\n", $ignore;
659             require Pod::Usage;
660             Pod::Usage::pod2usage(2);
661         }
662
663         push @{$option_ignore_arch_flag{$ignore_arch}}, $ignore_flag;
664     }
665 }
666
667 # Precompile all flag regexps. any_flags_used(), all_flags_used() get a lot
668 # faster with this.
669 foreach my $flags (@flag_refs_all) {
670     @{$flags} = compile_flag_regexp(\%flag_renames, @{$flags});
671 }
672
673 # Precompile ignore line regexps, also anchor at beginning and end of line.
674 foreach my $ignore (@option_ignore_line) {
675     $ignore = qr/^$ignore$/;
676 }
677 # Same for arch specific ignore lines.
678 if (scalar @option_ignore_arch_line > 0) {
679     foreach my $ignore (@option_ignore_arch_line) {
680         my ($ignore_arch, $ignore_line) = split /:/, $ignore, 2;
681
682         if (not $ignore_arch or not $ignore_line) {
683             printf STDERR 'Value "%s" invalid for option ignore-arch-line '
684                         . '("arch:line" expected)' . "\n", $ignore;
685             require Pod::Usage;
686             Pod::Usage::pod2usage(2);
687         }
688
689         push @{$option_ignore_arch_line{$ignore_arch}}, qr/^$ignore_line$/;
690     }
691 }
692
693 # Final exit code.
694 my $exit = 0;
695
696 FILE:
697 foreach my $file (@ARGV) {
698     print "checking '$file'...\n" if scalar @ARGV > 1;
699
700     -f $file or die "No such file: $file";
701
702     open my $fh, '<', $file or die $!;
703
704     # Architecture of this file.
705     my $arch = $option_arch;
706
707     # Hardening options. Not all architectures support all hardening options.
708     my $harden_format  = 1;
709     my $harden_fortify = 1;
710     my $harden_stack   = 1;
711     my $harden_stack_strong = 1;
712     my $harden_relro   = 1;
713     my $harden_bindnow = $option_bindnow; # defaults to 0
714     my $harden_pie     = $option_pie;     # defaults to 0
715
716     # Does this build log use ada? Ada also uses gcc as compiler but uses
717     # different CFLAGS. But only perform ada checks if an ada compiler is used
718     # for performance reasons.
719     my $ada = 0;
720
721     while (my $line = <$fh>) {
722         # Detect architecture automatically unless overridden. For buildd logs
723         # only, doesn't use the dpkg-buildpackage header. Necessary to ignore
724         # build logs which aren't built (wrong architecture, build error,
725         # etc.).
726         if (not $arch) {
727             if (index($line, 'Build Architecture: ') == 0) {
728                 $arch = substr $line, 20, -1; # -1 to ignore '\n' at the end
729             # For old logs (sbuild << 0.63.0-1).
730             } elsif (index($line, 'Architecture: ') == 0) {
731                 $arch = substr $line, 14, -1; # -1 to ignore '\n' at the end
732             }
733         }
734
735         # dpkg-buildflags only provides hardening flags since 1.16.1, don't
736         # check for hardening flags in buildd mode if an older dpkg-dev is
737         # used. Default flags (-g -O2) are still checked.
738         #
739         # Packages which were built before 1.16.1 but used their own hardening
740         # flags are not checked.
741         #
742         # Strong stack protector is used since dpkg 1.17.11.
743         if ($option_buildd
744                 and index($line, 'Toolchain package versions: ') == 0) {
745             require Dpkg::Version;
746
747             my $disable = 1;
748             my $disable_strong = 1;
749
750             if ($line =~ /\bdpkg-dev_(\S+)/) {
751                 if (Dpkg::Version::version_compare($1, '1.16.1') >= 0) {
752                     $disable = 0;
753                 }
754                 if (Dpkg::Version::version_compare($1, '1.17.11') >= 0) {
755                     $disable_strong = 0;
756                 }
757             }
758
759             if ($disable) {
760                 $harden_format  = 0;
761                 $harden_fortify = 0;
762                 $harden_stack   = 0;
763                 $harden_relro   = 0;
764                 $harden_bindnow = 0;
765                 $harden_pie     = 0;
766             }
767             if ($disable_strong) {
768                 $harden_stack_strong = 0;
769             }
770         }
771
772         # The following two versions of CMake in Debian obeyed CPPFLAGS, but
773         # this was later dropped because upstream rejected the patch. Thus
774         # build logs with these versions will have fortify hardening flags
775         # enabled, even though they may be not correctly set and are missing
776         # when build with later CMake versions. Thanks to Aron Xu for letting
777         # me know.
778         if (index($line, 'Package versions: ') == 0
779                 and $line =~ /\bcmake_(\S+)/
780                 and ($1 eq '2.8.7-1' or $1 eq '2.8.7-2')) {
781             if (not $option_buildd) {
782                 error_invalid_cmake($1);
783                 $exit |= $exit_code{invalid_cmake};
784             } else {
785                 print "$buildd_tag{invalid_cmake}|$1|\n";
786             }
787         }
788
789         # Debian's build daemons use "Filtered Build-Depends:" (or just
790         # "Build-Depends:" in older versions) for the build dependencies, but
791         # pbuilder uses "Depends:"; support both.
792         if (index($line, 'Filtered Build-Depends: ') == 0
793                 or index($line, 'Build-Depends: ') == 0
794                 or index($line, 'Depends: ') == 0) {
795             # If hardening wrapper is used (wraps calls to gcc and adds
796             # hardening flags automatically) we can't perform any checks,
797             # abort.
798             if ($line =~ /\bhardening-wrapper\b/) {
799                 if (not $option_buildd) {
800                     error_hardening_wrapper();
801                     $exit |= $exit_code{hardening_wrapper};
802                 } else {
803                     print "$buildd_tag{hardening_wrapper}||\n";
804                 }
805                 next FILE;
806             }
807
808             # Ada compiler.
809             if ($line =~ /\bgnat\b/) {
810                 $ada = 1;
811             }
812         }
813
814         # We skip over unimportant lines at the beginning of the log to
815         # prevent false positives.
816         last if index($line, 'dpkg-buildpackage: ') == 0;
817     }
818
819     # Input lines, contain only the lines with compiler commands.
820     my @input = ();
821     # Non-verbose lines in the input. Used to reduce calls to
822     # is_non_verbose_build() (which is quite slow) in the second loop when
823     # it's already clear if a line is non-verbose or not.
824     my @input_nonverbose = ();
825
826     my $continuation = 0;
827     my $complete_line = undef;
828     my $non_verbose;
829     while (my $line = <$fh>) {
830         # And stop at the end of the build log. Package details (reported by
831         # the buildd logs) are not important for us. This also prevents false
832         # positives.
833         last if index($line, 'Build finished at ') == 0
834                 and $line =~ /^Build finished at \d{8}-\d{4}$/;
835
836         if (not $continuation) {
837             $non_verbose = 0;
838         }
839
840         # Detect architecture automatically unless overridden.
841         if (not $arch
842                 and index($line, 'dpkg-buildpackage: host architecture ') == 0) {
843             $arch = substr $line, 37, -1; # -1 to ignore '\n' at the end
844
845             # Old buildd logs use e.g. "host architecture is alpha", remove
846             # the "is", otherwise debarch_to_debtriplet() will not detect the
847             # architecture.
848             if (index($arch, 'is ') == 0) {
849                 $arch = substr $arch, 3;
850             }
851         }
852
853         # Ignore compiler warnings for now.
854         next if $line =~ /$warning_regex/o;
855
856         if (not $option_buildd and index($line, "\033") != -1) { # \033 = esc
857             # Remove all ANSI color sequences which are sometimes used in
858             # non-verbose builds.
859             $line = Term::ANSIColor::colorstrip($line);
860             # Also strip '\0xf' (delete previous character), used by Elinks'
861             # build system.
862             $line =~ s/\x0f//g;
863             # And "ESC(B" which seems to be used on armhf and hurd (not sure
864             # what it does).
865             $line =~ s/\033\(B//g;
866         }
867
868         # Check if this line indicates a non verbose build.
869         my $skip = 0;
870         $non_verbose |= is_non_verbose_build($line, undef, \$skip);
871         next if $skip;
872
873         # One line may contain multiple commands (";"). Treat each one as
874         # single line. parse_line() is slow, only use it when necessary.
875         my @line = (index($line, ';') == -1)
876                  ? ($line)
877                  : map {
878                        # Ensure newline at the line end - necessary for
879                        # correct parsing later.
880                        $_ =~ s/\s+$//;
881                        $_ .= "\n";
882                    } Text::ParseWords::parse_line(';', 1, $line);
883         foreach my $line (@line) {
884             if ($continuation) {
885                 $continuation = 0;
886
887                 # Join lines, but leave the "\" in place so it's clear where
888                 # the original line break was.
889                 chomp $complete_line;
890                 $complete_line .= ' ' . $line;
891             }
892             # Line continuation, line ends with "\".
893             if ($line =~ /\\$/) {
894                 $continuation = 1;
895                 # Start line continuation.
896                 if (not defined $complete_line) {
897                     $complete_line = $line;
898                 }
899                 next;
900             }
901
902             # Use the complete line if a line continuation occurred.
903             if (defined $complete_line) {
904                 $line = $complete_line;
905                 $complete_line = undef;
906             }
907
908             # Ignore lines with no compiler commands.
909             next if not $non_verbose
910                     and not $line =~ /$cc_regex_normal/o;
911             # Ignore lines with no filenames with extensions. May miss some
912             # non-verbose builds (e.g. "gcc -o test" [sic!]), but shouldn't be
913             # a problem as the log will most likely contain other non-verbose
914             # commands which are detected.
915             next if not $non_verbose
916                     and not $line =~ /$file_extension_regex/o;
917
918             # Ignore false positives.
919             #
920             # `./configure` output.
921             next if not $non_verbose
922                     and $line =~ /^(?:checking|[Cc]onfigure:) /;
923             next if $line =~ /^\s*(?:Host\s+)?(?:C(?:\+\+)?\s+)?
924                                 [Cc]ompiler[\s.]*:?\s+
925                                 /x;
926             next if $line =~ m{^\s*(?:-\s)?(?:HOST_)?(?:CC|CXX)
927                                 \s*=\s*$cc_regex_full
928                                 # optional compiler options, don't allow
929                                 # "everything" here to prevent false negatives
930                                 \s*(?:\s-\S+)*\s*$}xo;
931             # `moc-qt4`/`moc-qt5` contain '-I.../linux-g++' in their command
932             # line (or similar for other architectures) which gets recognized
933             # as a compiler line, but `moc-qt*` is only a preprocessor for Qt
934             # C++ files. No hardening flags are relevant during this step,
935             # thus ignore `moc-qt*` lines. The resulting files will be
936             # compiled in a separate step (and therefore checked).
937             next if $line =~ m{^\S+/bin/moc(?:-qt[45])?
938                                \s.+\s
939                                -I\S+/mkspecs/[a-z]+-g\++(?:-64)?
940                                \s}x;
941             # Ignore false positives when the line contains only CC=gcc but no
942             # other gcc command.
943             if ($line =~ /(.*)CC=$cc_regex_full(.*)/o) {
944                 my $before = $1;
945                 my $after  = $2;
946                 next if     not $before =~ /$cc_regex_normal/o
947                         and not $after  =~ /$cc_regex_normal/o;
948             }
949             # Ignore false positives caused by gcc -v. It outputs a line
950             # looking like a normal compiler line but which is sometimes
951             # missing hardening flags, although the normal compiler line
952             # contains them.
953             next if $line =~ m{^\s+/usr/lib/gcc/$cc_regex_full_prefix/
954                                    [0-9.]+/cc1(?:plus)?}xo;
955
956             # Check if additional hardening options were used. Used to ensure
957             # they are used for the complete build.
958             $harden_pie     = 1 if any_flags_used($line, @def_cflags_pie,
959                                                          @def_ldflags_pie);
960             $harden_bindnow = 1 if any_flags_used($line, @def_ldflags_bindnow);
961
962             push @input, $line;
963             push @input_nonverbose, $non_verbose;
964         }
965     }
966
967     close $fh or die $!;
968
969     # Ignore arch if requested.
970     if (scalar @option_ignore_arch > 0 and $arch) {
971         foreach my $ignore (@option_ignore_arch) {
972             if ($arch eq $ignore) {
973                 print "ignoring architecture '$arch'\n";
974                 next FILE;
975             }
976         }
977     }
978
979     if (scalar @input == 0) {
980         if (not $option_buildd) {
981             print "No compiler commands!\n";
982             $exit |= $exit_code{no_compiler_commands};
983         } else {
984             print "$buildd_tag{no_compiler_commands}||\n";
985         }
986         next FILE;
987     }
988
989     if ($option_buildd) {
990         $statistics{commands} += scalar @input;
991     }
992
993     # Option or auto detected.
994     if ($arch) {
995         # The following was partially copied from dpkg-dev 1.18.2
996         # (/usr/share/perl5/Dpkg/Vendor/Debian.pm, add_hardening_flags()),
997         # copyright Raphaël Hertzog <hertzog@debian.org>, Kees Cook
998         # <kees@debian.org>, Canonical, Ltd. licensed under GPL version 2 or
999         # later. Keep it in sync.
1000
1001         require Dpkg::Arch;
1002         my ($abi, $os, $cpu) = Dpkg::Arch::debarch_to_debtriplet($arch);
1003
1004         # Disable unsupported hardening options.
1005         if ($os !~ /^(?:linux|knetbsd|hurd)$/ or $cpu =~ /^(?:hppa|avr32)$/) {
1006             $harden_pie = 0;
1007         }
1008         if ($cpu =~ /^(?:ia64|alpha|hppa)$/ or $arch eq 'arm') {
1009             $harden_stack = 0;
1010             $harden_stack_strong = 0;
1011         }
1012         if ($cpu =~ /^(?:ia64|hppa|avr32)$/) {
1013             $harden_relro   = 0;
1014             $harden_bindnow = 0;
1015         }
1016     }
1017
1018     # Default values.
1019     my @cflags   = @def_cflags;
1020     my @cxxflags = @def_cxxflags;
1021     my @cppflags = @def_cppflags;
1022     my @ldflags  = @def_ldflags;
1023     # Check the specified hardening options, same order as dpkg-buildflags.
1024     if ($harden_pie) {
1025         @cflags   = (@cflags,   @def_cflags_pie);
1026         @cxxflags = (@cxxflags, @def_cflags_pie);
1027         @ldflags  = (@ldflags,  @def_ldflags_pie);
1028     }
1029     if ($harden_stack_strong) {
1030         @cflags   = (@cflags,   @def_cflags_stack_strong);
1031         @cxxflags = (@cxxflags, @def_cflags_stack_strong);
1032     } elsif ($harden_stack) {
1033         @cflags   = (@cflags,   @def_cflags_stack);
1034         @cxxflags = (@cxxflags, @def_cflags_stack);
1035     }
1036     if ($harden_fortify) {
1037         @cflags   = (@cflags,   @def_cflags_fortify);
1038         @cxxflags = (@cxxflags, @def_cflags_fortify);
1039         @cppflags = (@cppflags, @def_cppflags_fortify);
1040     }
1041     if ($harden_format) {
1042         @cflags   = (@cflags,   @def_cflags_format);
1043         @cxxflags = (@cxxflags, @def_cflags_format);
1044     }
1045     if ($harden_relro) {
1046         @ldflags = (@ldflags, @def_ldflags_relro);
1047     }
1048     if ($harden_bindnow) {
1049         @ldflags = (@ldflags, @def_ldflags_bindnow);
1050     }
1051
1052     # Stores normal CFLAGS when @cflags_ada are temporarily used.
1053     my @cflags_backup;
1054     # Ada CFLAGS, only set if ada is used.
1055     my @cflags_ada;
1056     # Ada doesn't support format hardening flags, see #680117 for more
1057     # information. Filter them out if ada is used.
1058     if ($ada and $harden_format) {
1059         @cflags_ada = grep {
1060             my $ok = 1;
1061             foreach my $flag (@def_cflags_format) {
1062                 $ok = 0 if $_ eq $flag;
1063             }
1064             $ok;
1065         } @cflags;
1066     }
1067
1068     # Hack to fix cppflags_fortify_broken() if --ignore-flag
1069     # -D_FORTIFY_SOURCE=2 is used to ignore missing fortification. Only works
1070     # as long as @def_cppflags_fortify contains only one variable.
1071     if (scalar @def_cppflags_fortify == 0) {
1072         $harden_fortify = 0;
1073     }
1074
1075     # Ignore flags for this arch if requested.
1076     if ($arch and exists $option_ignore_arch_flag{$arch}) {
1077         my @local_flag_refs = (\@cflags, \@cxxflags, \@cppflags, \@ldflags);
1078
1079         remove_flags(\@local_flag_refs,
1080                      \%flag_renames,
1081                      @{$option_ignore_arch_flag{$arch}});
1082     }
1083
1084     my @ignore_line = @option_ignore_line;
1085     # Ignore lines for this arch if requested.
1086     if ($arch and exists $option_ignore_arch_line{$arch}) {
1087         @ignore_line = (@ignore_line, @{$option_ignore_arch_line{$arch}});
1088     }
1089
1090 LINE:
1091     for (my $i = 0; $i < scalar @input; $i++) {
1092         my $line = $input[$i];
1093
1094         # Ignore line if requested.
1095         foreach my $ignore (@ignore_line) {
1096             next LINE if $line =~ /$ignore/;
1097         }
1098
1099         my $skip = 0;
1100         if ($input_nonverbose[$i]
1101                 and is_non_verbose_build($line, $input[$i + 1], \$skip)) {
1102             if (not $option_buildd) {
1103                 error_non_verbose_build($line);
1104                 $exit |= $exit_code{non_verbose_build};
1105             } else {
1106                 $statistics{commands_nonverbose}++;
1107             }
1108             next;
1109         }
1110         # Even if it's a verbose build, we might have to skip this line (see
1111         # is_non_verbose_build()).
1112         next if $skip;
1113
1114         my $orig_line = $line;
1115
1116         # Remove everything until and including the compiler command. Makes
1117         # checks easier and faster.
1118         $line =~ s/^.*?$cc_regex//o;
1119         # "([...] test.c)" is not detected as 'test.c' - fix this by removing
1120         # the brace and similar characters at the line end.
1121         $line =~ s/['")]+$//;
1122
1123         # Skip unnecessary tests when only preprocessing.
1124         my $flag_preprocess = 0;
1125
1126         my $dependency = 0;
1127         my $preprocess = 0;
1128         my $compile    = 0;
1129         my $link       = 0;
1130
1131         # Preprocess, compile, assemble.
1132         if ($line =~ /\s(-E|-S|-c)\b/) {
1133             $preprocess      = 1;
1134             $flag_preprocess = 1 if $1 eq '-E';
1135             $compile         = 1 if $1 eq '-S' or $1 eq '-c';
1136         # Dependency generation for Makefiles. The other flags (-MF -MG -MP
1137         # -MT -MQ) are always used with -M/-MM.
1138         } elsif ($line =~ /\s(?:-M|-MM)\b/) {
1139             $dependency = 1;
1140         # Otherwise assume we are linking.
1141         } else {
1142             $link = 1;
1143         }
1144
1145         # -MD/-MMD also cause dependency generation, but they don't imply -E!
1146         if ($line =~ /\s(?:-MD|-MMD)\b/) {
1147             $dependency      = 0;
1148             $flag_preprocess = 0;
1149         }
1150
1151         # Dependency generation for Makefiles, no preprocessing or other flags
1152         # needed.
1153         next if $dependency;
1154
1155         # Get all file extensions on this line.
1156         my @extensions = $line =~ /$file_extension_regex/go;
1157         # Ignore all unknown extensions to speedup the search below.
1158         @extensions = grep { exists $extension{$_} } @extensions;
1159
1160         # These file types don't require preprocessing.
1161         if (extension_found(\%extensions_no_preprocess, @extensions)) {
1162             $preprocess = 0;
1163         }
1164         # These file types require preprocessing.
1165         if (extension_found(\%extensions_preprocess, @extensions)) {
1166             # Prevent false positives with "libtool: link: g++ -include test.h
1167             # .." compiler lines.
1168             if ($orig_line !~ /$libtool_link_regex/o) {
1169                 $preprocess = 1;
1170             }
1171         }
1172
1173         if (not $flag_preprocess) {
1174             # If there are source files then it's compiling/linking in one
1175             # step and we must check both. We only check for source files
1176             # here, because header files cause too many false positives.
1177             if (extension_found(\%extensions_compile_link, @extensions)) {
1178                 # Assembly files don't need CFLAGS.
1179                 if (not extension_found(\%extensions_compile, @extensions)
1180                         and extension_found(\%extensions_no_compile, @extensions)) {
1181                     $compile = 0;
1182                 # But the rest does.
1183                 } else {
1184                     $compile = 1;
1185                 }
1186             # No compilable extensions found, either linking or compiling
1187             # header flags.
1188             #
1189             # If there are also no object files we are just compiling headers
1190             # (.h -> .h.gch). Don't check for linker flags in this case. Due
1191             # to our liberal checks for compiler lines, this also reduces the
1192             # number of false positives considerably.
1193             } elsif ($link
1194                     and not extension_found(\%extensions_object, @extensions)) {
1195                 $link = 0;
1196             }
1197         }
1198
1199         my $compile_cpp = 0;
1200         my $compile_ada = 0;
1201         # Assume CXXFLAGS are required when a C++ file is specified in the
1202         # compiler line.
1203         if ($compile
1204                 and extension_found(\%extensions_compile_cpp, @extensions)) {
1205             $compile     = 0;
1206             $compile_cpp = 1;
1207         # Ada needs special CFLAGS, use them if only ada files are compiled.
1208         } elsif ($ada
1209                     and $compile
1210                     and array_equal(\@extensions,
1211                                     \@source_no_preprocess_compile_ada)) {
1212             $compile_ada = 1;
1213             @cflags_backup = @cflags;
1214             @cflags        = @cflags_ada;
1215         }
1216
1217         if ($option_buildd) {
1218             $statistics{preprocess}++  if $preprocess;
1219             $statistics{compile}++     if $compile;
1220             $statistics{compile_cpp}++ if $compile_cpp;
1221             $statistics{link}++        if $link;
1222         }
1223
1224         # Check if there are flags indicating a debug build. If that's true,
1225         # skip the check for -O2. This prevents fortification, but that's fine
1226         # for a debug build.
1227         if (any_flags_used($line, @def_cflags_debug)) {
1228             remove_flags([\@cflags], \%flag_renames, $def_cflags[1]);
1229             remove_flags([\@cppflags], \%flag_renames, $def_cppflags_fortify[0]);
1230         }
1231
1232         # Check hardening flags.
1233         my @missing;
1234         if ($compile and not all_flags_used($line, \@missing, @cflags)
1235                 # Libraries linked with -fPIC don't have to (and can't) be
1236                 # linked with -fPIE as well. It's no error if only PIE flags
1237                 # are missing.
1238                 and not pic_pie_conflict($line, $harden_pie, \@missing, @def_cflags_pie)
1239                 # Assume dpkg-buildflags returns the correct flags.
1240                 and index($line, '`dpkg-buildflags --get CFLAGS`') == -1) {
1241             if (not $option_buildd) {
1242                 error_flags('CFLAGS missing', \@missing, \%flag_renames, $input[$i]);
1243                 $exit |= $exit_code{flags_missing};
1244             } else {
1245                 $statistics{compile_missing}++;
1246             }
1247         } elsif ($compile_cpp and not all_flags_used($line, \@missing, @cflags)
1248                 # Libraries linked with -fPIC don't have to (and can't) be
1249                 # linked with -fPIE as well. It's no error if only PIE flags
1250                 # are missing.
1251                 and not pic_pie_conflict($line, $harden_pie, \@missing, @def_cflags_pie)
1252                 # Assume dpkg-buildflags returns the correct flags.
1253                 and index($line, '`dpkg-buildflags --get CXXFLAGS`') == -1) {
1254             if (not $option_buildd) {
1255                 error_flags('CXXFLAGS missing', \@missing, \%flag_renames, $input[$i]);
1256                 $exit |= $exit_code{flags_missing};
1257             } else {
1258                 $statistics{compile_cpp_missing}++;
1259             }
1260         }
1261         if ($preprocess
1262                 and (not all_flags_used($line, \@missing, @cppflags)
1263                     # The fortify flag might be overwritten, detect that.
1264                      or ($harden_fortify
1265                          and cppflags_fortify_broken($line, \@missing)))
1266                 # Assume dpkg-buildflags returns the correct flags.
1267                 and index($line, '`dpkg-buildflags --get CPPFLAGS`') == -1) {
1268             if (not $option_buildd) {
1269                 error_flags('CPPFLAGS missing', \@missing, \%flag_renames, $input[$i]);
1270                 $exit |= $exit_code{flags_missing};
1271             } else {
1272                 $statistics{preprocess_missing}++;
1273             }
1274         }
1275         if ($link and not all_flags_used($line, \@missing, @ldflags)
1276                 # Same here, -fPIC conflicts with -fPIE.
1277                 and not pic_pie_conflict($line, $harden_pie, \@missing, @def_ldflags_pie)
1278                 # Assume dpkg-buildflags returns the correct flags.
1279                 and index($line, '`dpkg-buildflags --get LDFLAGS`') == -1) {
1280             if (not $option_buildd) {
1281                 error_flags('LDFLAGS missing', \@missing, \%flag_renames, $input[$i]);
1282                 $exit |= $exit_code{flags_missing};
1283             } else {
1284                 $statistics{link_missing}++;
1285             }
1286         }
1287
1288         # Restore normal CFLAGS.
1289         if ($compile_ada) {
1290             @cflags = @cflags_backup;
1291         }
1292     }
1293 }
1294
1295 # Print statistics for buildd mode, only output in this mode.
1296 if ($option_buildd) {
1297     my @warning;
1298
1299     if ($statistics{preprocess_missing}) {
1300         push @warning, sprintf 'CPPFLAGS %d (of %d)',
1301                                $statistics{preprocess_missing},
1302                                $statistics{preprocess};
1303     }
1304     if ($statistics{compile_missing}) {
1305         push @warning, sprintf 'CFLAGS %d (of %d)',
1306                                $statistics{compile_missing},
1307                                $statistics{compile};
1308     }
1309     if ($statistics{compile_cpp_missing}) {
1310         push @warning, sprintf 'CXXFLAGS %d (of %d)',
1311                                $statistics{compile_cpp_missing},
1312                                $statistics{compile_cpp};
1313     }
1314     if ($statistics{link_missing}) {
1315         push @warning, sprintf 'LDFLAGS %d (of %d)',
1316                                $statistics{link_missing},
1317                                $statistics{link};
1318     }
1319     if (scalar @warning) {
1320         local $" = ', '; # array join string
1321         print "$buildd_tag{flags_missing}|@warning missing|\n";
1322     }
1323
1324     if ($statistics{commands_nonverbose}) {
1325         printf "$buildd_tag{non_verbose_build}|%d (of %d) hidden|\n",
1326                $statistics{commands_nonverbose},
1327                $statistics{commands},
1328     }
1329 }
1330
1331
1332 exit $exit;
1333
1334
1335 __END__
1336
1337 =head1 NAME
1338
1339 blhc - build log hardening check, checks build logs for missing hardening flags
1340
1341 =head1 SYNOPSIS
1342
1343 B<blhc> [I<options>] I<< <dpkg-buildpackage build log file>.. >>
1344
1345 =head1 DESCRIPTION
1346
1347 blhc is a small tool which checks build logs for missing hardening flags. It's
1348 licensed under the GPL 3 or later.
1349
1350 It's designed to check build logs generated by Debian's dpkg-buildpackage (or
1351 tools using dpkg-buildpackage like pbuilder or sbuild (which is used for the
1352 official buildd build logs)) to help maintainers detect missing hardening
1353 flags in their packages.
1354
1355 Only gcc is detected as compiler at the moment. If other compilers support
1356 hardening flags as well, please report them.
1357
1358 If there's no output, no flags are missing and the build log is fine.
1359
1360 See F<README> for details about performed checks, auto-detection and
1361 limitations.
1362
1363 =head1 OPTIONS
1364
1365 =over 8
1366
1367 =item B<--all>
1368
1369 Force check for all +all (+pie, +bindnow) hardening flags. By default it's
1370 auto detected.
1371
1372 =item B<--arch> I<architecture>
1373
1374 Set the specific architecture (e.g. amd64, armel, etc.), automatically
1375 disables hardening flags not available on this architecture. Is detected
1376 automatically if dpkg-buildpackage is used.
1377
1378 =item B<--bindnow>
1379
1380 Force check for all +bindnow hardening flags. By default it's auto detected.
1381
1382 =item B<--buildd>
1383
1384 Special mode for buildds when automatically parsing log files. The following
1385 changes are in effect:
1386
1387 =over 2
1388
1389 =item *
1390
1391 Print tags instead of normal warnings, see L</"BUILDD TAGS"> for a list of
1392 possible tags.
1393
1394 =item *
1395
1396 Don't check hardening flags in old log files (if dpkg-dev << 1.16.1 is
1397 detected).
1398
1399 =item *
1400
1401 Don't require Term::ANSIColor.
1402
1403 =item *
1404
1405 Return exit code 0, unless there was a error (-I, -W messages don't count as
1406 error).
1407
1408 =back
1409
1410 =item B<--color>
1411
1412 Use colored (ANSI) output for warning messages.
1413
1414 =item B<--ignore-arch> I<arch>
1415
1416 Ignore build logs from architectures matching I<arch>. I<arch> is a string.
1417
1418 Used to prevent false positives. This option can be specified multiple times.
1419
1420 =item B<--ignore-arch-flag> I<arch>:I<flag>
1421
1422 Like B<--ignore-flag>, but only ignore flag on I<arch>.
1423
1424 =item B<--ignore-arch-line> I<arch>:I<line>
1425
1426 Like B<--ignore-line>, but only ignore line on I<arch>.
1427
1428 =item B<--ignore-flag> I<flag>
1429
1430 Don't print an error when the specific flag is missing in a compiler line.
1431 I<flag> is a string.
1432
1433 Used to prevent false positives. This option can be specified multiple times.
1434
1435 =item B<--ignore-line> I<regex>
1436
1437 Ignore lines matching the given Perl regex. I<regex> is automatically anchored
1438 at the beginning and end of the line to prevent false negatives.
1439
1440 B<NOTE>: Not the input lines are checked, but the lines which are displayed in
1441 warnings (which have line continuation resolved).
1442
1443 Used to prevent false positives. This option can be specified multiple times.
1444
1445 =item B<--pie>
1446
1447 Force check for all +pie hardening flags. By default it's auto detected.
1448
1449 =item B<-h -? --help>
1450
1451 Print available options.
1452
1453 =item B<--version>
1454
1455 Print version number and license.
1456
1457 =back
1458
1459 Auto detection for B<--pie> and B<--bindnow> only works if at least one
1460 command uses the required hardening flag (e.g. -fPIE). Then it's required for
1461 all other commands as well.
1462
1463 =head1 EXAMPLES
1464
1465 Normal usage, parse a single log file.
1466
1467     blhc path/to/log/file
1468
1469 If there's no output, no flags are missing and the build log is fine.
1470
1471 Parse multiple log files. The exit code is ORed over all files.
1472
1473     blhc path/to/directory/with/log/files/*
1474
1475 Don't treat missing C<-g> as error:
1476
1477     blhc --ignore-flag -g path/to/log/file
1478
1479 Don't treat missing C<-pie> on kfreebsd-amd64 as error:
1480
1481     blhc --ignore-arch-flag kfreebsd-amd64:-pie path/to/log/file
1482
1483 Ignore lines consisting exactly of C<./script gcc file> which would cause a
1484 false positive.
1485
1486     blhc --ignore-line '\./script gcc file' path/to/log/file
1487
1488 Ignore lines matching C<./script gcc file> somewhere in the line.
1489
1490     blhc --ignore-line '.*\./script gcc file.*' path/to/log/file
1491
1492 Use blhc with pbuilder.
1493
1494     pbuilder path/to/package.dsc | tee path/log/file
1495     blhc path/to/file || echo flags missing
1496
1497 =head1 BUILDD TAGS
1498
1499 The following tags are used in I<--buildd> mode. In braces the additional data
1500 which is displayed.
1501
1502 =over 2
1503
1504 =item B<I-hardening-wrapper-used>
1505
1506 The package uses hardening-wrapper which intercepts calls to gcc and adds
1507 hardening flags. The build log doesn't contain any hardening flags and thus
1508 can't be checked by blhc.
1509
1510 =item B<W-compiler-flags-hidden> (summary of hidden lines)
1511
1512 Build log contains lines which hide the real compiler flags. For example:
1513
1514     CC test-a.c
1515     CC test-b.c
1516     CC test-c.c
1517     LD test
1518
1519 Most of the time either C<export V=1> or C<export verbose=1> in
1520 F<debian/rules> fixes builds with hidden compiler flags. Sometimes C<.SILENT>
1521 in a F<Makefile> must be removed. And as last resort the F<Makefile> must be
1522 patched to remove the C<@>s hiding the real compiler commands.
1523
1524 =item B<W-dpkg-buildflags-missing> (summary of missing flags)
1525
1526 CPPFLAGS, CFLAGS, CXXFLAGS, LDFLAGS missing.
1527
1528 =item B<I-invalid-cmake-used> (version)
1529
1530 By default CMake ignores CPPFLAGS thus missing those hardening flags. Debian
1531 patched CMake in versions 2.8.7-1 and 2.8.7-2 to respect CPPFLAGS, but this
1532 patch was rejected by upstream and later reverted in Debian. Thus those two
1533 versions show correct usage of CPPFLAGS even if the package doesn't correctly
1534 handle them (for example by passing them to CFLAGS). To prevent false
1535 negatives just blacklist those two versions.
1536
1537 =item B<I-no-compiler-commands>
1538
1539 No compiler commands were detected. Either the log contains none or they were
1540 not correctly detected by blhc (please report the bug in this case).
1541
1542 =back
1543
1544 =head1 EXIT STATUS
1545
1546 The exit status is a "bit mask", each listed status is ORed when the error
1547 condition occurs to get the result.
1548
1549 =over 4
1550
1551 =item B<0>
1552
1553 Success.
1554
1555 =item B<1>
1556
1557 No compiler commands were found.
1558
1559 =item B<2>
1560
1561 Invalid arguments/options given to blhc.
1562
1563 =item B<4>
1564
1565 Non verbose build.
1566
1567 =item B<8>
1568
1569 Missing hardening flags.
1570
1571 =item B<16>
1572
1573 Hardening wrapper detected, no tests performed.
1574
1575 =item B<32>
1576
1577 Invalid CMake version used. See B<I-invalid-cmake-used> under L</"BUILDD
1578 TAGS"> for a detailed explanation.
1579
1580 =back
1581
1582 =head1 AUTHOR
1583
1584 Simon Ruderich, E<lt>simon@ruderich.orgE<gt>
1585
1586 Thanks to to Bernhard R. Link E<lt>brlink@debian.orgE<gt> and Jaria Alto
1587 E<lt>jari.aalto@cante.netE<gt> for their valuable input and suggestions.
1588
1589 =head1 LICENSE AND COPYRIGHT
1590
1591 Copyright (C) 2012-2015 by Simon Ruderich
1592
1593 This program is free software: you can redistribute it and/or modify
1594 it under the terms of the GNU General Public License as published by
1595 the Free Software Foundation, either version 3 of the License, or
1596 (at your option) any later version.
1597
1598 This program is distributed in the hope that it will be useful,
1599 but WITHOUT ANY WARRANTY; without even the implied warranty of
1600 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
1601 GNU General Public License for more details.
1602
1603 You should have received a copy of the GNU General Public License
1604 along with this program.  If not, see <http://www.gnu.org/licenses/>.
1605
1606 =head1 SEE ALSO
1607
1608 L<hardening-check(1)>, L<dpkg-buildflags(1)>
1609
1610 =cut