source: MondoRescue/branches/2.2.10/mondo/src/common/libmondo-verify.c @ 2338

Last change on this file since 2338 was 2338, checked in by Bruno Cornec, 11 years ago
  • Adds LZMA support (Fix #309)
  • Change
  • Property svn:keywords set to Id
File size: 35.7 KB
Line 
1/***************************************************************************
2$Id: libmondo-verify.c 2338 2009-08-20 23:47:12Z bruno $
3***************************************************************************/
4
5
6/**
7 * @file
8 * Functions for verifying backups (booted from hard drive, not CD).
9 */
10
11#include "my-stuff.h"
12#include "mr_mem.h"
13#include "mondostructures.h"
14#include "libmondo-verify.h"
15#include "libmondo-gui-EXT.h"
16#include "libmondo-files-EXT.h"
17#include "libmondo-fork-EXT.h"
18#include "libmondo-stream-EXT.h"
19#include "libmondo-string-EXT.h"
20#include "libmondo-devices-EXT.h"
21#include "libmondo-tools-EXT.h"
22#include "lib-common-externs.h"
23
24/*@unused@*/
25//static char cvsid[] = "$Id: libmondo-verify.c 2338 2009-08-20 23:47:12Z bruno $";
26
27/**
28 * The number of the most recently verified afioball.
29 * @ingroup globalGroup
30 */
31int g_last_afioball_number = -1;
32
33extern char *g_getfacl;
34extern char *g_getfattr;
35extern char *MONDO_LOGFILE;
36
37/* Reference to global bkpinfo */
38extern struct s_bkpinfo *bkpinfo;
39
40
41/**
42 * Generate the filename of a tarball to verify.
43 * @param bkpinfo The backup information structure. @c bkpinfo->zip_suffix is the only field used.
44 * @param mountpoint The directory where the CD/DVD/ISO is mounted.
45 * @param setno The afioball number to get the location of.
46 * @return The absolute path to the afioball.
47 * @note The returned string points to static data that will be overwritten with each call.
48 * @ingroup stringGroup
49 */
50char *vfy_tball_fname(char *mountpoint, int setno)
51{
52    /*@ buffers ******************************************************* */
53    static char output[MAX_STR_LEN];
54
55    assert(bkpinfo != NULL);
56    assert_string_is_neither_NULL_nor_zerolength(mountpoint);
57    sprintf(output, "%s/archives/%d.star.%s", mountpoint, setno, bkpinfo->zip_suffix);
58    if (!does_file_exist(output)) {
59        sprintf(output, "%s/archives/%d.afio.%s", mountpoint, setno, bkpinfo->zip_suffix);
60    }
61    return (output);
62}
63
64
65/**
66 * Generate a list of the files that have changed, based on @c afio @c -r
67 * messages.
68 * @param changedfiles_fname Filename of the place to put a list of afio's reported changed.
69 * @param ignorefiles_fname Filename of a list of files to ignore (use "" if none).
70 * @param stderr_fname File containing afio's stderr output.
71 * @return The number of differences found (0 for a perfect backup).
72 * @bug This function seems orphaned.
73 * @ingroup utilityGroup
74 */
75long
76generate_list_of_changed_files(char *changedfiles_fname,
77                               char *ignorefiles_fname, char *stderr_fname)
78{
79    /*@ buffer ********************************************************** */
80    char *command = NULL;
81    char *afio_found_changes = NULL;
82
83    /*@ int ************************************************************* */
84    int res = 0;
85
86    /*@ long ************************************************************ */
87    long afio_diffs = 0;
88
89    assert_string_is_neither_NULL_nor_zerolength(changedfiles_fname);
90    assert_string_is_neither_NULL_nor_zerolength(ignorefiles_fname);
91    assert_string_is_neither_NULL_nor_zerolength(stderr_fname);
92
93    mr_asprintf(afio_found_changes, "%s.afio", ignorefiles_fname);
94    paranoid_system("sync");
95
96    log_msg(1, "Now scanning log file for 'afio: ' stuff");
97    mr_asprintf(command, "grep \"afio: \" %s | sed 's/afio: //' | grep -vE '^/dev/.*$' >> %s", stderr_fname, afio_found_changes);
98    log_msg(2, command);
99    res = system(command);
100    mr_free(command);
101
102    if (res) {
103        log_msg(2, "Warning - failed to think");
104    }
105
106    log_msg(1, "Now scanning log file for 'star: ' stuff");
107    mr_asprintf(command, "grep \"star: \" %s | sed 's/star: //' | grep -vE '^/dev/.*$' >> %s", stderr_fname, afio_found_changes);
108    log_msg(2, command);
109    res = system(command);
110    mr_free(command);
111
112    if (res) {
113        log_msg(2, "Warning - failed to think");
114    }
115    afio_diffs = count_lines_in_file(afio_found_changes);
116    mr_asprintf(command, "sort %s %s %s | uniq -c | awk '{ if ($1==\"2\") {print $2;};}' | grep -v \"incheckentry xwait()\" > %s", ignorefiles_fname, afio_found_changes, afio_found_changes, changedfiles_fname);
117    mr_free(afio_found_changes);
118    log_msg(2, command);
119    paranoid_system(command);
120    mr_free(command);
121    return (afio_diffs);
122}
123
124
125/**
126 * @addtogroup LLverifyGroup
127 * @{
128 */
129/**
130 * Verify all afioballs stored on the inserted CD (or an ISO image).
131 * @param bkpinfo The backup information structure. @c bkpinfo->backup_media_type
132 * is used in this function, and the structure is also passed to verify_an_afioball_from_CD().
133 * @param mountpoint The location the CD/DVD/ISO is mounted on.
134 * @return The number of sets containing differences (0 for success).
135 */
136int verify_afioballs_on_CD(char *mountpoint)
137{
138
139    /*@ buffers ********************************************************* */
140    char *tmp = NULL;
141    char *mds = NULL;
142
143    /*@ int ************************************************************* */
144    int set_number = 0;
145    int retval = 0;
146    int total_sets = 0;
147    int percentage = 0;
148
149    assert_string_is_neither_NULL_nor_zerolength(mountpoint);
150    assert(bkpinfo != NULL);
151
152    for (set_number = 0;
153         set_number < 9999
154         &&
155         !does_file_exist(vfy_tball_fname(mountpoint, set_number));
156         set_number++);
157    if (!does_file_exist(vfy_tball_fname(mountpoint, set_number))) {
158        return (0);
159    }
160
161    if (g_last_afioball_number != set_number - 1) {
162        if (set_number == 0) {
163            log_msg(1,
164                    "Weird error in verify_afioballs_on_CD() but it's really a cosmetic error, nothing more");
165        } else {
166            retval++;
167            log_to_screen("Warning - missing set(s) between %d and %d\n", g_last_afioball_number, set_number - 1);
168        }
169    }
170    mds = media_descriptor_string(bkpinfo->backup_media_type);
171    mr_asprintf(tmp, "Verifying %s #%d's tarballs", mds, g_current_media_number);
172    mr_free(mds);
173
174    open_evalcall_form(tmp);
175    mr_free(tmp);
176
177    for (total_sets = set_number;
178         does_file_exist(vfy_tball_fname(mountpoint, total_sets));
179         total_sets++) {
180        log_msg(1, "total_sets = %d", total_sets);
181    }
182    for (;
183         does_file_exist(vfy_tball_fname(mountpoint, set_number));
184         set_number++) {
185        percentage =
186            (set_number - g_last_afioball_number) * 100 / (total_sets -
187                                                           g_last_afioball_number);
188        update_evalcall_form(percentage);
189        log_msg(1, "set = %d", set_number);
190        retval +=
191            verify_an_afioball_from_CD(vfy_tball_fname(mountpoint, set_number));
192    }
193    g_last_afioball_number = set_number - 1;
194    close_evalcall_form();
195    return (retval);
196}
197
198/**
199 * Verify all slices stored on the inserted CD (or a mounted ISO image).
200 * @param bkpinfo The backup information structure. Fields used:
201 * - @c compression_level
202 * - @c restore_path
203 * - @c use_lzo
204 * - @c zip_suffix
205 * @param mtpt The mountpoint the CD/DVD/ISO is mounted on.
206 * @return The number of differences (0 for perfect biggiefiles).
207 */
208int verify_all_slices_on_CD(char *mtpt)
209{
210
211    /*@ buffer ********************************************************** */
212    char *tmp = NULL;
213    char *mountpoint = NULL;
214    char *command = NULL;
215    char *mds = NULL;
216    char *sz_exe = NULL;
217    static char *bufblkA = NULL;
218    static char *bufblkB = NULL;
219    const long maxbufsize = 65536L;
220    long currsizA = 0;
221    long currsizB = 0;
222    long j;
223
224    /*@ long ************************************************************ */
225    long bigfile_num = 0;
226    long slice_num = -1;
227    int res;
228
229    static FILE *forig = NULL;
230    static struct s_filename_and_lstat_info biggiestruct;
231    static long last_bigfile_num = -1;
232    static long last_slice_num = -1;
233    FILE *pin;
234    FILE *fin;
235    int retval = 0;
236
237    if (!bufblkA) {
238        if (!(bufblkA = malloc(maxbufsize))) {
239            fatal_error("Cannot malloc bufblkA");
240        }
241    }
242    if (!bufblkB) {
243        if (!(bufblkB = malloc(maxbufsize))) {
244            fatal_error("Cannot malloc bufblkB");
245        }
246    }
247
248    assert(bkpinfo != NULL);
249    assert_string_is_neither_NULL_nor_zerolength(mtpt);
250
251    if (bkpinfo->compression_level > 0) {
252        if (bkpinfo->use_lzo) {
253            mr_asprintf(sz_exe, "lzop");
254        } else if (bkpinfo->use_gzip) {
255            mr_asprintf(sz_exe, "gzip");
256        } else if (bkpinfo->use_lzma) {
257            mr_asprintf(sz_exe, "lzma");
258        } else {
259            mr_asprintf(sz_exe, "bzip2");
260        }
261    }
262
263    log_it("before vsbf");
264    mds = media_descriptor_string(bkpinfo->backup_media_type);
265    mr_asprintf(tmp, "Verifying %s#%d's big files", mds, g_current_media_number);
266    mr_free(mds);
267
268    open_evalcall_form(tmp);
269    mr_free(tmp);
270
271    log_it("after vsbf");
272    mr_asprintf(mountpoint, "%s/archives", mtpt);
273    if (last_bigfile_num == -1) {
274        bigfile_num = 0;
275        slice_num = 0;
276    } else if (slice_num == 0) {
277        bigfile_num = last_bigfile_num + 1;
278        slice_num = 0;
279    } else {
280        bigfile_num = last_bigfile_num;
281        slice_num = last_slice_num + 1;
282    }
283    while (does_file_exist(slice_fname(bigfile_num, slice_num, mountpoint, bkpinfo->zip_suffix))
284           ||
285           does_file_exist(slice_fname(bigfile_num, slice_num, mountpoint, ""))) {
286        // handle slices until end of CD
287        if (slice_num == 0) {
288            log_msg(2, "ISO=%d  bigfile=%ld --START--", g_current_media_number, bigfile_num);
289            if (! (fin = fopen(slice_fname(bigfile_num, slice_num, mountpoint, ""), "r"))) {
290                log_msg(2, "Cannot open bigfile's info file");
291            } else {
292                if (fread ((void *) &biggiestruct, 1, sizeof(biggiestruct), fin) < sizeof(biggiestruct)) {
293                    log_msg(2, "Unable to get biggiestruct");
294                }
295                paranoid_fclose(fin);
296            }
297            if (bkpinfo->restore_path) {
298                mr_asprintf(tmp, "%s/%s", bkpinfo->restore_path, biggiestruct.filename);
299                log_msg(2, "Opening biggiefile #%ld - '%s'", bigfile_num, tmp);
300                forig = fopen(tmp, "r");
301                mr_free(tmp);
302   
303                if (!forig) {
304                    log_msg(2, "Failed to open bigfile. Darn.");
305                    log_to_screen("%s/%s not found on live filesystem", bkpinfo->restore_path, biggiestruct.filename);
306                    mr_asprintf(tmp, "echo \"%s/%s not found\" >> %s/biggies.changed", bkpinfo->restore_path, biggiestruct.filename, bkpinfo->tmpdir);
307                    system(tmp);
308                    mr_free(tmp);
309
310                    bigfile_num++;
311                    slice_num = 0;
312                    retval++;
313                } else {
314                    slice_num++;
315                }
316            } else {
317                log_it("Unable to open bigfile as restore_path is NULL");
318            }
319        } else if (does_file_exist(slice_fname(bigfile_num, slice_num, mountpoint, "")) &&
320                   (length_of_file(slice_fname(bigfile_num, slice_num, mountpoint, "")) == 0)) {
321            log_msg(2, "ISO=%d  bigfile=%ld ---END---",
322                    g_current_media_number, bigfile_num);
323            bigfile_num++;
324            paranoid_fclose(forig);
325            slice_num = 0;
326        } else {
327            log_msg(2, "ISO=%d  bigfile=%ld  slice=%ld", g_current_media_number, bigfile_num, slice_num);
328            if ((!does_file_exist(slice_fname(bigfile_num, slice_num, mountpoint, ""))) && (sz_exe != NULL)) {
329                mr_asprintf(command, "%s -dc %s 2>> %s", sz_exe, slice_fname(bigfile_num, slice_num, mountpoint, bkpinfo->zip_suffix), MONDO_LOGFILE);
330            } else {
331                mr_asprintf(command, "cat %s 2>> %s", slice_fname(bigfile_num, slice_num, mountpoint, ""), MONDO_LOGFILE);
332            }
333            pin = popen(command, "r");
334            mr_free(command);
335            if (pin) {
336                res = 0;
337                while (!feof(pin)) {
338                    currsizA = fread(bufblkA, 1, maxbufsize, pin);
339                    if (currsizA <= 0) {
340                        break;
341                    }
342                    currsizB = fread(bufblkB, 1, currsizA, forig);
343                    if (currsizA != currsizB) {
344                        res++;
345                    } else {
346                        for (j = 0;
347                             j < currsizA && bufblkA[j] == bufblkB[j];
348                             j++);
349                        if (j < currsizA) {
350                            res++;
351                        }
352                    }
353                }
354                paranoid_pclose(pin);
355                if (res && !strncmp(biggiestruct.filename, "/dev/", 5)) {
356                    log_msg(3,
357                            "Ignoring differences between %s and live filesystem because it's a device and therefore the archives are stored via ntfsclone, not dd.",
358                            biggiestruct.filename);
359                    log_msg(3,
360                            "If you really want verification for %s, please contact the devteam and offer an incentive.",
361                            biggiestruct.filename);
362                    res = 0;
363                }
364                if (res) {
365                    log_msg(0,
366                            "afio: \"%s\": Corrupt biggie file, says libmondo-archive.c",
367                            biggiestruct.filename);
368                    retval++;
369                }
370            }
371            slice_num++;
372        }
373    }
374    mr_free(mountpoint);
375    mr_free(sz_exe);
376
377    last_bigfile_num = bigfile_num;
378    last_slice_num = slice_num - 1;
379    if (last_slice_num < 0) {
380        last_bigfile_num--;
381    }
382    close_evalcall_form();
383    if (bufblkA) {
384        paranoid_free(bufblkA);
385    }
386    if (bufblkB) {
387        paranoid_free(bufblkB);
388    }
389    return (0);
390}
391
392
393
394
395
396
397/**
398 * Verify one afioball from the CD.
399 * You should be changed to the root directory (/) for this to work.
400 * @param bkpinfo The backup information structure. Fields used:
401 * - @c bkpinfo->use_lzo
402 * - @c bkpinfo->tmpdir
403 * - @c bkpinfo->zip_exe
404 * - @c bkpinfo->zip_suffix
405 * @param tarball_fname The filename of the afioball to verify.
406 * @return 0, always.
407 */
408int verify_a_tarball(char *tarball_fname)
409{
410    /*@ buffers ********************************************************* */
411    char *command = NULL;
412    char *outlog = NULL;
413    char *tmp;
414    //  char *p;
415
416    /*@ pointers ******************************************************* */
417    FILE *pin;
418
419    /*@ long *********************************************************** */
420    long diffs = 0;
421    /*  getcwd(old_pwd,MAX_STR_LEN-1); */
422
423
424    malloc_string(tmp);
425    assert(bkpinfo != NULL);
426    assert_string_is_neither_NULL_nor_zerolength(tarball_fname);
427
428    log_it("Verifying fileset '%s'", tarball_fname);
429    mr_asprintf(outlog, "%s/afio.log", bkpinfo->tmpdir);
430    /* if programmer forgot to say which compression thingy to use then find out */
431    if (strstr(tarball_fname, ".lzo") && strcmp(bkpinfo->zip_suffix, "lzo")) {
432        log_msg(2, "OK, I'm going to start using lzop.");
433        mr_free(bkpinfo->zip_exe);
434        mr_asprintf(bkpinfo->zip_exe, "lzop");
435        mr_free(bkpinfo->zip_suffix);
436        mr_asprintf(bkpinfo->zip_suffix, "lzo");
437        bkpinfo->use_lzo = TRUE;
438        bkpinfo->use_gzip = FALSE;
439        bkpinfo->use_lzma = FALSE;
440    }
441    if (strstr(tarball_fname, ".gz") && strcmp(bkpinfo->zip_suffix, "gz")) {
442        log_msg(2, "OK, I'm going to start using gzip.");
443        mr_free(bkpinfo->zip_exe);
444        mr_asprintf(bkpinfo->zip_exe, "gzip");
445        mr_free(bkpinfo->zip_suffix);
446        mr_asprintf(bkpinfo->zip_suffix, "gz");
447        bkpinfo->use_lzo = FALSE;
448        bkpinfo->use_gzip = TRUE;
449        bkpinfo->use_lzma = FALSE;
450    }
451    if (strstr(tarball_fname, ".bz2") && strcmp(bkpinfo->zip_suffix, "bz2")) {
452        log_msg(2, "OK, I'm going to start using bzip2.");
453        mr_free(bkpinfo->zip_exe);
454        mr_asprintf(bkpinfo->zip_exe, "bzip2");
455        mr_free(bkpinfo->zip_suffix);
456        mr_asprintf(bkpinfo->zip_suffix, "bz2");
457        bkpinfo->use_lzo = FALSE;
458        bkpinfo->use_gzip = FALSE;
459        bkpinfo->use_lzma = FALSE;
460    }
461    if (strstr(tarball_fname, ".lzma") && strcmp(bkpinfo->zip_suffix, "lzma")) {
462        log_msg(2, "OK, I'm going to start using lzma.");
463        mr_free(bkpinfo->zip_exe);
464        mr_asprintf(bkpinfo->zip_exe, "lzma");
465        mr_free(bkpinfo->zip_suffix);
466        mr_asprintf(bkpinfo->zip_suffix, "lzma");
467        bkpinfo->use_lzo = FALSE;
468        bkpinfo->use_gzip = FALSE;
469        bkpinfo->use_lzma = TRUE;
470    }
471    if (bkpinfo->zip_exe == NULL) {
472        mr_asprintf(bkpinfo->zip_exe, "none");
473    }
474    if (bkpinfo->zip_suffix == NULL) {
475        mr_asprintf(bkpinfo->zip_suffix, "");
476    }
477    unlink(outlog);
478    if (strstr(tarball_fname, ".star")) {
479        bkpinfo->use_star = TRUE;
480        if (strstr(tarball_fname, ".bz2"))
481            mr_asprintf(command, "star -diff diffopts=mode,size,data file=%s %s >> %s 2>> %s", tarball_fname, (strstr(tarball_fname, ".bz2")) ? "-bz" : " ", outlog, outlog);
482    } else {
483        bkpinfo->use_star = FALSE;
484        /* Here we suppose that there is always a compression program called */
485        if (bkpinfo->zip_exe) {
486            mr_asprintf(command, "afio -r -P %s -Z %s >> %s 2>> %s", bkpinfo->zip_exe, tarball_fname, outlog, outlog);
487        } else {
488            mr_asprintf(command, "afio -r -Z %s >> %s 2>> %s", tarball_fname, outlog, outlog);
489        }
490    }
491    log_msg(6, "command=%s", command);
492    paranoid_system(command);
493    mr_free(command);
494
495    if (length_of_file(outlog) < 10) {
496        mr_asprintf(command, "cat %s >> %s", outlog, MONDO_LOGFILE);
497    } else {
498        mr_asprintf(command, "cut -d: -f%d %s | sort -u", (bkpinfo->use_star) ? 1 : 2, outlog);
499        pin = popen(command, "r");
500        if (pin) {
501            for (fgets(tmp, MAX_STR_LEN, pin); !feof(pin);
502                 fgets(tmp, MAX_STR_LEN, pin)) {
503                if (bkpinfo->use_star) {
504                    if (!strstr(tmp, "diffopts=")) {
505                        while (strlen(tmp) > 0
506                               && tmp[strlen(tmp) - 1] < 32) {
507                            tmp[strlen(tmp) - 1] = '\0';
508                        }
509                        if (strchr(tmp, '/')) {
510                            if (!diffs) {
511                                log_msg(0, "'%s' - differences found",
512                                        tarball_fname);
513                            }
514                            log_msg(0, "star: /%s",
515                                    strip_afio_output_line(tmp));
516                            diffs++;
517                        }
518                    }
519                } else {
520                    if (!diffs) {
521                        log_msg(0, "'%s' - differences found",
522                                tarball_fname);
523                    }
524                    log_msg(0, "afio: /%s", strip_afio_output_line(tmp));
525                    diffs++;
526                }
527            }
528            paranoid_pclose(pin);
529        } else {
530            log_OS_error(command);
531        }
532    }
533    mr_free(command);
534    mr_free(outlog);
535    paranoid_free(tmp);
536    return (0);
537}
538
539
540
541
542
543
544/**
545 * Verify one afioball from the CD.
546 * Checks for existence (calls fatal_error() if it does not exist) and
547 * then calls verify_an_afioball().
548 * @param bkpinfo The backup information structure. Passed to verify_an_afioball().
549 * @param tarball_fname The filename of the afioball to verify.
550 * @return The return value of verify_an_afioball().
551 * @see verify_an_afioball
552 */
553int
554verify_an_afioball_from_CD(char *tarball_fname)
555{
556
557    /*@ int ************************************************************* */
558    int res = 0;
559
560    assert_string_is_neither_NULL_nor_zerolength(tarball_fname);
561
562    log_msg(1, "Verifying %s", tarball_fname);
563    if (!does_file_exist(tarball_fname)) {
564        fatal_error("Cannot verify nonexistent afioball");
565    }
566    res = verify_a_tarball(tarball_fname);
567    return (res);
568}
569
570
571/**
572 * Verify one afioball from the opened tape/CD stream.
573 * Copies the file from tape to tmpdir and then calls verify_an_afioball().
574 * @param bkpinfo The backup information structure. Passed to verify_an_afioball().
575 * @param orig_fname The original filename of the afioball to verify.
576 * @param size The size of the afioball to verify.
577 * @return The return value of verify_an_afioball().
578 * @see verify_an_afioball
579 */
580int
581verify_an_afioball_from_stream(char *orig_fname, long long size)
582{
583
584    /*@ int ************************************************************** */
585    int retval = 0;
586    int res = 0;
587
588    /*@ buffers ********************************************************** */
589    char *tmp = NULL;
590    char *tarball_fname = NULL;
591
592    /*@ pointers ********************************************************* */
593    char *p;
594
595    assert(bkpinfo != NULL);
596    assert_string_is_neither_NULL_nor_zerolength(orig_fname);
597
598    p = strrchr(orig_fname, '/');
599    if (!p) {
600        p = orig_fname;
601    } else {
602        p++;
603    }
604    mr_asprintf(tmp, "mkdir -p %s/tmpfs", bkpinfo->tmpdir);
605    paranoid_system(tmp);
606    mr_free(tmp);
607
608    mr_asprintf(tarball_fname, "%s/tmpfs/temporary-%s", bkpinfo->tmpdir, p);
609    read_file_from_stream_to_file(tarball_fname, size);
610    res = verify_a_tarball(tarball_fname);
611    if (res) {
612        log_msg(0, "Afioball '%s' no longer matches your live filesystem", p);
613        retval++;
614    }
615    unlink(tarball_fname);
616    mr_free(tarball_fname);
617    return (retval);
618}
619
620
621/**
622 * Verify one biggiefile form the opened tape/CD stream.
623 * @param bkpinfo The backup information structure. @c bkpinfo->tmpdir is the only field used.
624 * @param biggie_fname The filename of the biggiefile to verify.
625 * @param size The size in bytes of said biggiefile.
626 * @return 0 for success (even if the file doesn't match); nonzero for a tape error.
627 */
628int
629verify_a_biggiefile_from_stream(char *biggie_fname, long long size)
630{
631
632    /*@ int ************************************************************* */
633    int retval = 0;
634    int res = 0;
635    int current_slice_number = 0;
636    int ctrl_chr = '\0';
637
638    /*@ char ************************************************************ */
639    char *test_file = NULL;
640    char *biggie_cksum = NULL;
641    char *orig_cksum = NULL;
642    char *tmp = NULL;
643    char *slice_fnam;
644
645    /*@ pointers ******************************************************** */
646    char *p;
647
648    /*@ long long ******************************************************* */
649    long long slice_siz;
650
651    malloc_string(slice_fnam);
652    assert(bkpinfo != NULL);
653    assert_string_is_neither_NULL_nor_zerolength(biggie_fname);
654
655    p = strrchr(biggie_fname, '/');
656    if (!p) {
657        p = biggie_fname;
658    } else {
659        p++;
660    }
661    mr_asprintf(test_file, "%s/temporary-%s", bkpinfo->tmpdir, p);
662    for (res =
663         read_header_block_from_stream(&slice_siz, slice_fnam, &ctrl_chr);
664         ctrl_chr != BLK_STOP_A_BIGGIE;
665         res =
666         read_header_block_from_stream(&slice_siz, slice_fnam, &ctrl_chr)) {
667        if (ctrl_chr != BLK_START_AN_AFIO_OR_SLICE) {
668            wrong_marker(BLK_START_AN_AFIO_OR_SLICE, ctrl_chr);
669        }
670        res = read_file_from_stream_to_file(test_file, slice_siz);
671        unlink(test_file);
672        res =
673            read_header_block_from_stream(&slice_siz, slice_fnam, &ctrl_chr);
674        if (ctrl_chr != BLK_STOP_AN_AFIO_OR_SLICE) {
675            log_msg(2, "test_file = %s", test_file);
676            wrong_marker(BLK_STOP_AN_AFIO_OR_SLICE, ctrl_chr);
677        }
678        current_slice_number++;
679        retval += res;
680    }
681    mr_asprintf(biggie_cksum, "%s", slice_fnam);
682    if (biggie_cksum[0] != '\0') {
683        mr_asprintf(orig_cksum, "%s", calc_checksum_of_file(biggie_fname));
684        if (strcmp(biggie_cksum, orig_cksum)) {
685            log_msg(2, "orig cksum=%s; curr cksum=%s", biggie_cksum, orig_cksum);
686            log_to_screen("%s has changed on live filesystem", biggie_fname);
687
688            mr_asprintf(tmp, "echo \"%s\" >> %s/biggies.changed", biggie_fname, bkpinfo->tmpdir);
689            system(tmp);
690            mr_free(tmp);
691        }
692    }
693    mr_free(biggie_cksum);
694    mr_free(test_file);
695    mr_free(orig_cksum);
696    paranoid_free(slice_fnam);
697    return (retval);
698}
699
700
701/**
702 * Verify all afioballs from the opened tape/CD stream.
703 * @param bkpinfo The backup information structure. Fields used:
704 * - @c bkpinfo->tmpdir
705 *
706 * @return 0 for success (even if there are differences); nonzero for a tape error.
707 */
708int verify_afioballs_from_stream()
709{
710    /*@ int ********************************************************** */
711    int retval = 0;
712    int res = 0;
713    long current_afioball_number = 0;
714    int ctrl_chr = 0;
715    int total_afioballs = 0;
716
717    /*@ buffers ***************************************************** */
718    char *tmp = NULL;
719    char *fname;
720    char *curr_xattr_list_fname = NULL;
721    char *curr_acl_list_fname = NULL;
722
723    /*@ long long *************************************************** */
724    long long size = 0;
725
726    assert(bkpinfo != NULL);
727    malloc_string(fname);
728
729    if (g_getfattr) {
730        mr_asprintf(curr_xattr_list_fname, XATTR_BIGGLST_FNAME_RAW_SZ, bkpinfo->tmpdir);
731    }
732    if (g_getfacl) {
733        mr_asprintf(curr_acl_list_fname, ACL_BIGGLST_FNAME_RAW_SZ, bkpinfo->tmpdir);
734    }
735    log_to_screen("Verifying regular archives on tape");
736    total_afioballs = get_last_filelist_number() + 1;
737    open_progress_form("Verifying filesystem",
738                       "I am verifying archives against your live filesystem now.",
739                       "Please wait. This may take a couple of hours.", "",
740                       total_afioballs);
741    res = read_header_block_from_stream(&size, fname, &ctrl_chr);
742    if (ctrl_chr != BLK_START_AFIOBALLS) {
743        log_it("YOU SHOULD NOT GET HERE");
744        log_it("Grabbing the EXAT files");
745        if (ctrl_chr == BLK_START_EXTENDED_ATTRIBUTES) {
746            res =
747                read_EXAT_files_from_tape(&size, fname, &ctrl_chr,
748                                          curr_xattr_list_fname,
749                                          curr_acl_list_fname);
750        }
751    }
752    if (ctrl_chr != BLK_START_AFIOBALLS) {
753        wrong_marker(BLK_START_AFIOBALLS, ctrl_chr);
754    }
755    if (g_getfattr) {
756        mr_free(curr_xattr_list_fname);
757    }
758    if (g_getfacl) {
759        mr_free(curr_acl_list_fname);
760    }
761
762    for (res = read_header_block_from_stream(&size, fname, &ctrl_chr);
763         ctrl_chr != BLK_STOP_AFIOBALLS;
764         res = read_header_block_from_stream(&size, fname, &ctrl_chr)) {
765        if (g_getfattr) {
766            mr_asprintf(curr_xattr_list_fname, XATTR_LIST_FNAME_RAW_SZ, bkpinfo->tmpdir, current_afioball_number);
767        }
768        if (g_getfacl) {
769            mr_asprintf(curr_acl_list_fname, ACL_LIST_FNAME_RAW_SZ, bkpinfo->tmpdir, current_afioball_number);
770        }
771        if (ctrl_chr == BLK_START_EXTENDED_ATTRIBUTES) {
772            log_it("Reading EXAT files from tape");
773            res =
774                read_EXAT_files_from_tape(&size, fname, &ctrl_chr,
775                                          curr_xattr_list_fname,
776                                          curr_acl_list_fname);
777        }
778        if (g_getfattr) {
779            mr_free(curr_xattr_list_fname);
780        }
781        if (g_getfacl) {
782            mr_free(curr_acl_list_fname);
783        }
784        if (ctrl_chr != BLK_START_AN_AFIO_OR_SLICE) {
785            wrong_marker(BLK_START_AN_AFIO_OR_SLICE, ctrl_chr);
786        }
787        mr_asprintf(tmp, "Verifying fileset #%ld", current_afioball_number);
788        update_progress_form(tmp);
789        mr_free(tmp);
790
791        res = verify_an_afioball_from_stream(fname, size);
792        if (res) {
793            log_to_screen("Afioball %ld differs from live filesystem", current_afioball_number);
794        }
795        retval += res;
796        current_afioball_number++;
797        g_current_progress++;
798        res = read_header_block_from_stream(&size, fname, &ctrl_chr);
799        if (ctrl_chr != BLK_STOP_AN_AFIO_OR_SLICE) {
800            wrong_marker(BLK_STOP_AN_AFIO_OR_SLICE, ctrl_chr);
801        }
802    }
803    log_msg(1, "All done with afioballs");
804    close_progress_form();
805    paranoid_free(fname);
806    return (retval);
807}
808
809/**
810 * Verify all biggiefiles on the opened CD/tape stream.
811 * @param bkpinfo The backup information structure. Fields used:
812 * - @c bkpinfo->restore_path
813 * - @c bkpinfo->tmpdir
814 *
815 * @return 0 for success (even if there are differences); nonzero for a tape error.
816 */
817int verify_biggiefiles_from_stream()
818{
819
820    /*@ int ************************************************************ */
821    int retval = 0;
822    int res = 0;
823    int ctrl_chr = 0;
824
825    /*@ long *********************************************************** */
826    long noof_biggiefiles = 0;
827    long current_biggiefile_number = 0;
828
829    /*@ buffers ******************************************************** */
830    char *orig_fname;
831    char *logical_fname = NULL;
832    char *comment = NULL;
833    char *curr_xattr_list_fname = NULL;
834    char *curr_acl_list_fname = NULL;
835    /*@ pointers ******************************************************* */
836    char *p;
837
838    /*@ long long size ************************************************* */
839    long long size = 0;
840
841    assert(bkpinfo != NULL);
842    malloc_string(orig_fname);
843
844    if (g_getfattr) {
845        mr_asprintf(curr_xattr_list_fname, XATTR_BIGGLST_FNAME_RAW_SZ, bkpinfo->tmpdir);
846    }
847    if (g_getfacl) {
848        mr_asprintf(curr_acl_list_fname, ACL_BIGGLST_FNAME_RAW_SZ, bkpinfo->tmpdir);
849    }
850    mr_asprintf(comment, "Verifying all bigfiles.");
851    log_to_screen(comment);
852    res = read_header_block_from_stream(&size, orig_fname, &ctrl_chr);
853    if (ctrl_chr != BLK_START_BIGGIEFILES) {
854        if (ctrl_chr == BLK_START_EXTENDED_ATTRIBUTES) {
855            log_it("Grabbing the EXAT biggiefiles");
856            res =
857                read_EXAT_files_from_tape(&size, orig_fname,
858                                          &ctrl_chr, curr_xattr_list_fname,
859                                          curr_acl_list_fname);
860        }
861    }
862    if (g_getfattr) {
863        mr_free(curr_xattr_list_fname);
864    }
865    if (g_getfacl) {
866        mr_free(curr_acl_list_fname);
867    }
868
869    if (ctrl_chr != BLK_START_BIGGIEFILES) {
870        wrong_marker(BLK_START_BIGGIEFILES, ctrl_chr);
871    }
872    noof_biggiefiles = (long) size;
873    log_msg(1, "noof_biggiefiles = %ld", noof_biggiefiles);
874    open_progress_form("Verifying big files", comment,
875                       "Please wait. This may take some time.", "",
876                       noof_biggiefiles);
877    mr_free(comment);
878
879    for (res = read_header_block_from_stream(&size, orig_fname, &ctrl_chr);
880         ctrl_chr != BLK_STOP_BIGGIEFILES;
881         res = read_header_block_from_stream(&size, orig_fname, &ctrl_chr))
882    {
883        if (ctrl_chr != BLK_START_A_NORMBIGGIE
884            && ctrl_chr != BLK_START_A_PIHBIGGIE) {
885            wrong_marker(BLK_START_A_NORMBIGGIE, ctrl_chr);
886        }
887        p = strrchr(orig_fname, '/');
888        if (!p) {
889            p = orig_fname;
890        } else {
891            p++;
892        }
893        mr_asprintf(comment, "Verifying bigfile #%ld (%ld K)", current_biggiefile_number, (long) size >> 10);
894        update_progress_form(comment);
895        mr_free(comment);
896
897        if (bkpinfo->restore_path) {
898            mr_asprintf(logical_fname, "%s/%s", bkpinfo->restore_path, orig_fname);
899            res = verify_a_biggiefile_from_stream(logical_fname, size);
900            mr_free(logical_fname);
901            retval += res;
902        } else {
903            log_it("Unable to verify bigfile as restore_path is NULL");
904        }
905
906        current_biggiefile_number++;
907        g_current_progress++;
908    }
909    close_progress_form();
910    paranoid_free(orig_fname);
911    return (retval);
912}
913
914/* @} - end of LLverifyGroup */
915
916
917/**
918 * Verify the USB device
919 * @param bkpinfo The backup information structure. Fields used:
920 * - @c bkpinfo->media_device
921 * - @c bkpinfo->tmpdir
922 * - @c bkpinfo->verify_data
923 *
924 * @return 0 for success (even if differences are found), nonzero for failure.
925 * @ingroup verifyGroup
926 */
927int verify_usb_image()
928{
929
930    /*@ int ************************************************************ */
931    int retval = 0;
932
933    /*@ buffers ******************************************************** */
934    char *mountpoint = NULL;
935    char *tmp = NULL;
936    char *tmp1 = NULL;
937    char *fname = NULL;
938    int ret = 0;
939#ifdef __FreeBSD__
940    char mdd[32];
941    char *mddevice = mdd;
942    int vndev = 2;
943#else
944//skip
945#endif
946
947    assert(bkpinfo != NULL);
948
949    if (bkpinfo->media_device == NULL) {
950        return(1);
951    }
952
953    mr_asprintf(fname, "%s1", bkpinfo->media_device);
954    if (is_this_device_mounted(fname)) {
955        log_msg(1, "USB device mounted. Remounting it at the right place");
956        mr_asprintf(tmp, "umount %s", fname);
957        run_program_and_log_output(tmp, FALSE);
958        paranoid_free(tmp);
959    }
960    paranoid_free(fname);
961
962    log_msg(1, "Mounting USB device.");
963    mr_asprintf(mountpoint, "%s/usb", bkpinfo->tmpdir);
964    mr_asprintf(tmp, "mkdir -p %s", mountpoint);
965    run_program_and_log_output(tmp, FALSE);
966    paranoid_free(tmp);
967    /* Mindi always create one single parition on the USB dev */
968    mr_asprintf(tmp, "mount %s1 %s", bkpinfo->media_device, mountpoint);
969    ret = run_program_and_log_output(tmp, FALSE);
970    paranoid_free(tmp);
971    if (ret) {
972        paranoid_free(mountpoint);
973        return(ret);
974    }
975
976    sync();
977    log_msg(2, "OK, I've mounted the USB Disk/Key\n");
978    mr_asprintf(tmp, "%s/archives/NOT-THE-LAST", mountpoint);
979    if (!does_file_exist(tmp)) {
980        log_msg
981            (2,
982             "This is the last USB device. I am therefore setting bkpinfo->verify_data to FALSE.");
983        bkpinfo->verify_data = FALSE;
984/*
985   (a) It's an easy way to tell the calling subroutine that we've finished &
986   there are no more device to be verified; (b) It stops the post-backup verifier
987   from running after the per-device verifier has run too.
988*/
989    }
990    paranoid_free(tmp);
991    verify_afioballs_on_CD(mountpoint);
992    log_it("before verify_all_slices");
993    verify_all_slices_on_CD(mountpoint);
994
995    mr_asprintf(tmp1, "umount %s", mountpoint);
996#ifdef __FreeBSD__
997    ret += system(tmp1);
998    ret += kick_vn(mddevice);
999    if (ret)
1000#else
1001    if (system(tmp1))
1002#endif
1003    {
1004        log_to_screen("%s failed; unable to unmount USB device\n", tmp1);
1005        retval++;
1006    } else {
1007        log_msg(2, "OK, I've unmounted the USB device\n");
1008    }
1009    mr_free(tmp1);
1010    mr_free(mountpoint);
1011    return (retval);
1012}
1013
1014
1015/**
1016 * Verify the CD indicated by @c g_current_media_number.
1017 * @param bkpinfo The backup information structure. Fields used:
1018 * - @c bkpinfo->isodir
1019 * - @c bkpinfo->prefix
1020 * - @c bkpinfo->manual_cd_tray
1021 * - @c bkpinfo->media_device
1022 * - @c bkpinfo->nfs_remote_dir
1023 * - @c bkpinfo->tmpdir
1024 * - @c bkpinfo->verify_data
1025 *
1026 * @return 0 for success (even if differences are found), nonzero for failure.
1027 * @ingroup verifyGroup
1028 */
1029int verify_cd_image()
1030{
1031
1032    /*@ int ************************************************************ */
1033    int retval = 0;
1034
1035    /*@ buffers ******************************************************** */
1036    char *mountpoint = NULL;
1037    char *command = NULL;
1038    char *tmp = NULL;
1039    char *fname = NULL;
1040#ifdef __FreeBSD__
1041    char mdd[32];
1042    char *mddevice = mdd;
1043    int ret = 0;
1044    int vndev = 2;
1045#else
1046//skip
1047#endif
1048
1049    assert(bkpinfo != NULL);
1050
1051    if (bkpinfo->media_device == NULL) {
1052        return(1);
1053    }
1054
1055    mr_asprintf(mountpoint, "%s/cdrom", bkpinfo->tmpdir);
1056    if (((bkpinfo->isodir == NULL) && (bkpinfo->nfs_remote_dir == NULL)) || (bkpinfo->prefix == NULL)) {
1057        fatal_error("No iso filename preparation possible");
1058    }
1059    if (bkpinfo->nfs_remote_dir) {
1060        // NFS
1061        mr_asprintf(fname, "%s/%s/%s-%d.iso", bkpinfo->isodir, bkpinfo->nfs_remote_dir, bkpinfo->prefix, g_current_media_number);
1062    } else {
1063        // ISO
1064        mr_asprintf(fname, "%s/%s-%d.iso", bkpinfo->isodir, bkpinfo->prefix, g_current_media_number);
1065    }
1066
1067    mkdir(mountpoint, 1777);
1068    sync();
1069    if (!does_file_exist(fname)) {
1070        log_msg(2, "%s not found; assuming you backed up to CD; verifying CD...", fname);
1071        if (bkpinfo->manual_cd_tray) {
1072            popup_and_OK("Please push CD tray closed.");
1073        }
1074        if (find_and_mount_actual_cd(mountpoint)) {
1075            log_to_screen("failed to mount actual CD");
1076            mr_free(mountpoint);
1077            mr_free(fname);
1078            return (1);
1079        }
1080    } else {
1081        log_msg(2, "%s found; verifying ISO...", fname);
1082#ifdef __FreeBSD__
1083        ret = 0;
1084        vndev = 2;
1085        mddevice = make_vn(fname);
1086        if (ret) {
1087            log_to_screen("make_vn of %s failed; unable to verify ISO\n", fname);
1088            mr_free(mountpoint);
1089            mr_free(fname);
1090            return (1);
1091        }
1092        mr_asprintf(command, "mount_cd9660 %s %s", mddevice, mountpoint);
1093#else
1094        mr_asprintf(command, "mount -o loop,ro -t iso9660 %s %s", fname, mountpoint);
1095#endif
1096        if (run_program_and_log_output(command, FALSE)) {
1097            log_to_screen("%s failed; unable to mount ISO image\n", command);
1098            mr_free(mountpoint);
1099            mr_free(command);
1100            mr_free(fname);
1101            return (1);
1102        }
1103        mr_free(command);
1104    }
1105    log_msg(2, "OK, I've mounted the ISO/CD\n");
1106    mr_asprintf(tmp, "%s/archives/NOT-THE-LAST", mountpoint);
1107    if (!does_file_exist(tmp)) {
1108        log_msg
1109            (2,
1110             "This is the last CD. I am therefore setting bkpinfo->verify_data to FALSE.");
1111        bkpinfo->verify_data = FALSE;
1112/*
1113   (a) It's an easy way to tell the calling subroutine that we've finished &
1114   there are no more CD's to be verified; (b) It stops the post-backup verifier
1115   from running after the per-CD verifier has run too.
1116*/
1117    }
1118    mr_free(tmp);
1119
1120    verify_afioballs_on_CD(mountpoint);
1121    log_it("before verify_all_slices");
1122    verify_all_slices_on_CD(mountpoint);
1123
1124#ifdef __FreeBSD__
1125    ret = 0;
1126    mr_asprintf(command, "umount %s", mountpoint);
1127    ret += system(command);
1128    ret += kick_vn(mddevice);
1129    if (ret) {
1130#else
1131    mr_asprintf(command, "umount %s", mountpoint);
1132    if (system(command)) {
1133#endif
1134        log_to_screen("%s failed; unable to unmount ISO image\n", command);
1135
1136        retval++;
1137    } else {
1138        log_msg(2, "OK, I've unmounted the ISO file\n");
1139    }
1140    mr_free(mountpoint);
1141    mr_free(command);
1142
1143    if (!does_file_exist(fname)) {
1144        mr_asprintf(command, "umount %s", bkpinfo->media_device);
1145        run_program_and_log_output(command, 2);
1146        mr_free(command);
1147
1148        if (!bkpinfo->please_dont_eject && eject_device(bkpinfo->media_device)) {
1149            log_msg(2, "Failed to eject CD-ROM drive");
1150        }
1151    }
1152    mr_free(fname);
1153    return (retval);
1154}
1155
1156/**
1157 * Verify all backups on tape.
1158 * This should be done after the backup process has already closed the tape.
1159 * @param bkpinfo The backup information structure. Passed to various helper functions.
1160 * @return 0 for success (even if thee were differences), nonzero for failure.
1161 * @ingroup verifyGroup
1162 */
1163int verify_tape_backups()
1164{
1165
1166    /*@ int ************************************************************ */
1167    int retval = 0;
1168
1169    /*@ buffers ******************************************************** */
1170    char *tmp = NULL;
1171    char *changed_files_fname = NULL;
1172
1173    /*@ long *********************************************************** */
1174    long diffs = 0;
1175
1176    assert(bkpinfo != NULL);
1177
1178    log_msg(3, "verify_tape_backups --- starting");
1179    log_to_screen("Verifying backups");
1180    openin_tape();
1181/* verify archives themselves */
1182    retval += verify_afioballs_from_stream();
1183    retval += verify_biggiefiles_from_stream();
1184/* find the final blocks */
1185    paranoid_system("sync");
1186    sleep(2);
1187    closein_tape();
1188/* close tape; exit */
1189//  fclose(g_tape_stream); <-- not needed; is handled by closein_tape()
1190    mr_asprintf(tmp, "rm -f %s/biggies.changed %s/changed.files 2> /dev/null", bkpinfo->tmpdir, bkpinfo->tmpdir);
1191    paranoid_system(tmp);
1192    mr_free(tmp);
1193
1194    mr_asprintf(changed_files_fname, "%s/changed.files", bkpinfo->tmpdir);
1195    mr_asprintf(tmp, "grep -E '^%s:.*$' %s | cut -d'\"' -f2 | sort -u | awk '{print \"/\"$0;};' | tr -s '/' '/' | grep -v \"(total of\" | grep -v \"incheckentry.*xwait\" | grep -vE '^/afio:.*$' | grep -vE '^dev/.*$'  > %s", (bkpinfo->use_star) ? "star" : "afio", MONDO_LOGFILE, changed_files_fname);
1196    log_msg(2, "Running command to derive list of changed files");
1197    log_msg(2, tmp);
1198    if (system(tmp)) {
1199        if (does_file_exist(changed_files_fname) && length_of_file(changed_files_fname) > 2) {
1200            log_to_screen("Warning - unable to check logfile to derive list of changed files");
1201        } else {
1202            log_to_screen("No differences found. Therefore, no 'changed.files' text file.");
1203        }
1204    }
1205    mr_free(tmp);
1206
1207    mr_asprintf(tmp, "cat %s/biggies.changed >> %s", bkpinfo->tmpdir, changed_files_fname);
1208    paranoid_system(tmp);
1209    mr_free(tmp);
1210
1211    diffs = count_lines_in_file(changed_files_fname);
1212    if (diffs > 0) {
1213        mr_asprintf(tmp, "cp -f %s %s/changed.files", changed_files_fname, MONDO_CACHE);
1214        run_program_and_log_output(tmp, FALSE);
1215        mr_free(tmp);
1216
1217        log_msg(0, "%ld files differed from live filesystem; type less %s or less %s/changed.files to see", diffs, changed_files_fname, MONDO_CACHE);
1218        log_to_screen("See "MONDO_CACHE"/changed.files for a list of nonmatching files.");
1219        log_to_screen("The files probably changed on filesystem, not on backup media.");
1220    }
1221    mr_free(changed_files_fname);
1222    return (retval);
1223}
1224
1225
1226
Note: See TracBrowser for help on using the repository browser.