source: branches/stable/mondo/src/common/libmondo-filelist.c @ 1259

Last change on this file since 1259 was 1259, checked in by bruno, 13 years ago
  • More precision for an opendir error message
  • some sprintf replaced with mr_asprintf
  • Property svn:keywords set to Id
File size: 48.2 KB
Line 
1/* libmondo-filelist.c
2   $Id: libmondo-filelist.c 1259 2007-03-21 22:14:14Z bruno $
3*/
4
5/**
6 * @file
7 * Functions which create, chop, and edit the filelist.
8 */
9
10#include "my-stuff.h"
11#include "mondostructures.h"
12#include "libmondo-filelist.h"
13#include "libmondo-string-EXT.h"
14#include "libmondo-files-EXT.h"
15#include "libmondo-fork-EXT.h"
16#include "newt-specific-EXT.h"
17#include "libmondo-tools-EXT.h"
18#include "mr_str.h"
19#include "mr_mem.h"
20#include "mr_msg.h"
21
22#include <time.h>
23#include <stdio.h>
24#include <sys/types.h>
25#include <sys/stat.h>
26#include <dirent.h>
27#include <errno.h>
28#include <stdio.h>
29
30
31/**
32 * The maximum depth of directories to put in the skeleton filelist.
33 * This is a balance between performance and a good progress indicator.
34 */
35#define MAX_SKEL_DEPTH 3
36
37
38int mondo_makefilelist(char *logfile, char *tmpdir, char *scratchdir,
39                       char *include_paths, char *excp, int differential,
40                       char *userdef_filelist);
41
42
43/*@unused@*/
44//static char cvsid[] = "$Id: libmondo-filelist.c 1259 2007-03-21 22:14:14Z bruno $";
45
46/**
47 * Number of lines in the filelist last loaded.
48 * @warning This implies that two filesets cannot be loaded at once.
49 * @ingroup globalGroup
50 */
51long g_original_noof_lines_in_filelist = 0;
52
53/**
54 * Number of filesets in the current backup.
55 * @ingroup globalGroup
56 */
57long g_noof_sets = 0;
58
59extern bool g_text_mode;
60extern newtComponent g_progressForm;
61extern int g_currentY;
62extern int g_noof_rows;
63
64extern char *g_getfacl;
65extern char *g_getfattr;
66
67/**
68 * @addtogroup filelistGroup
69 * @{
70 */
71/**
72 * Call chop_filelist() to chop the filelist into sets.
73 * @param bkpinfo The backup information structure. Fields used:
74 * - @c bkpinfo->image_devs
75 * - @c bkpinfo->optimal_set_size
76 * - @c bkpinfo->scratchdir
77 * - @c bkpinfo->tmpdir
78 * @see chop_filelist
79 */
80int call_filelist_chopper(struct s_bkpinfo *bkpinfo)
81{
82    /*@ buffers *********************** */
83    char *dev;
84    char *filelist;
85    char *tempfile;
86    long noof_sets;
87
88    /*@ pointers ********************** */
89    char *ptr;
90    FILE *fout;
91
92    /*@ int *************************** */
93    int i, retval = 0;
94
95    mvaddstr_and_log_it(g_currentY, 0, _("Dividing filelist into sets"));
96
97    log_to_screen(_("Dividing filelist into sets. Please wait."));
98    i = 0;
99    mr_asprintf(&filelist, "%s/archives/filelist.full", bkpinfo->scratchdir);
100    if (!does_file_exist(filelist)) {
101        log_it("filelist %s not found", filelist);
102        fatal_error("call_filelist_chopper() -- filelist not found!");
103    }
104
105    noof_sets =
106        chop_filelist(filelist, bkpinfo->tmpdir,
107                      bkpinfo->optimal_set_size);
108    mr_free(filelist);
109
110    estimate_noof_media_required(bkpinfo, noof_sets);   // for cosmetic purposes
111
112    mr_asprintf(&tempfile, "%s/biggielist.txt", bkpinfo->tmpdir);
113    if (!(fout = fopen(tempfile, "a"))) {
114        log_OS_error("Cannot append to biggielist");
115        retval++;
116    }
117    mr_free(tempfile);
118    log_it(bkpinfo->image_devs);
119
120    ptr = bkpinfo->image_devs;
121
122    while (ptr && *ptr) {
123        mr_asprintf(&dev, ptr);
124        log_it("Examining imagedev %s", dev);
125        for (i = 0; i < (int) strlen(dev) && dev[i] != ' '; i++);
126        dev[i] = '\0';
127        if (!strlen(dev)) {
128            continue;
129        }
130        fprintf(fout, "%s\n", dev);
131        log_it("Adding '%s' to biggielist", dev);
132        mr_free(dev);
133
134        if ((ptr = strchr(ptr, ' '))) {
135            ptr++;
136        }
137    }
138    paranoid_fclose(fout);
139    mvaddstr_and_log_it(g_currentY++, 74, "Done.");
140
141    return (retval);
142}
143
144
145
146int sort_file(char *orig_fname)
147{
148    char *tmp_fname;
149    char *command;
150    int retval = 0;
151
152    mr_msg(1, "Sorting file %s", orig_fname);
153    mr_asprintf(&tmp_fname, "/tmp/sort.%d.%d.%d", (int) (random() % 32768),
154             (int) (random() % 32768), (int) (random() % 32768));
155
156    if (!does_file_exist(orig_fname)) {
157        return (0);
158    }                           // no sense in trying to sort an empty file
159
160    mr_asprintf(&command, "sort %s > %s 2>> %s", orig_fname, tmp_fname,
161             MONDO_LOGFILE);
162    retval = system(command);
163    mr_free(command);
164
165    if (retval) {
166        mr_msg(2, "Failed to sort %s - oh dear", orig_fname);
167    } else {
168        mr_msg(2, "Sorted %s --> %s OK. Copying it back to %s now",
169                orig_fname, tmp_fname, orig_fname);
170        mr_asprintf(&command, "mv -f %s %s", tmp_fname, orig_fname);
171        retval += run_program_and_log_output(command, 2);
172        mr_free(command);
173
174        if (retval) {
175            mr_msg(2, "Failed to copy %s back to %s - oh dear", tmp_fname,
176                    orig_fname);
177        } else {
178            mr_msg(2, "%s was sorted OK.", orig_fname);
179        }
180    }
181    mr_free(tmp_fname);
182    mr_msg(1, "Finished sorting file %s", orig_fname);
183    return (retval);
184}
185
186
187/**
188 * Chop the filelist into sets.
189 * Each fileset is a list of files whose total (uncompressed) size is usually
190 * about X KB. Files bigger than 8X KB are placed in a "biggielist"; they will
191 * be sliced and compressed separately from the regular files.
192 *
193 * @param filelist The big filelist (filelist.full) to chop up.
194 * @param outdir The directory to place the files (filelist.N where N is
195 * an integer, biggielist.txt, and LAST-FILELIST-NUMBER) created
196 * @param maxsetsizeK Optimal size of a fileset (X above).
197 * @return number of errors encountered (0 for success).
198 */
199int chop_filelist(char *filelist, char *outdir, long maxsetsizeK)
200{
201/*@ long ****************************************/
202    long lino = 0;
203    long max_sane_size_for_a_file;
204    long curr_set_size;
205    long noof_lines;
206    long siz;
207
208    /*@ int **************************************** */
209    int i;
210    size_t n = 0;
211    long curr_set_no;
212
213    /*@ buffers ************************************* */
214    char *outfname;
215    char *biggie_fname;
216    char *incoming = NULL;
217    char *tmp;
218
219    /*@ pointers *********************************** */
220    FILE *fin;
221    FILE *fout;
222    FILE *fbig;
223
224    /*@ structures ********************************* */
225    struct stat buf;
226
227    assert_string_is_neither_NULL_nor_zerolength(filelist);
228    assert_string_is_neither_NULL_nor_zerolength(outdir);
229    assert(maxsetsizeK > 0);
230
231    max_sane_size_for_a_file = 64L * 1024L;
232// max_sane_size_for_a_file = maxsetsizeK*2;
233//  if (max_sane_size_for_a_file > 32*1024)
234//    { max_sane_size_for_a_file = 32*1024; }
235
236    log_it("filelist=%s;", filelist);
237    open_evalcall_form("Dividing filelist into sets");
238    noof_lines = count_lines_in_file(filelist);
239    if (!(fin = fopen(filelist, "r"))) {
240        log_OS_error("Cannot openin filelist");
241        return (0);
242    }
243    curr_set_no = 0;
244    curr_set_size = 0;
245    mr_asprintf(&outfname, "%s/filelist.%ld", outdir, curr_set_no);
246    mr_asprintf(&biggie_fname, "%s/biggielist.txt", outdir);
247    log_it("outfname=%s; biggie_fname=%s", outfname, biggie_fname);
248    if (!(fbig = fopen(biggie_fname, "w"))) {
249        log_OS_error("Cannot openout biggie_fname");
250        return (0);
251    }
252    if (!(fout = fopen(outfname, "w"))) {
253        log_OS_error("Cannot openout outfname");
254        return (0);
255    }
256    mr_getline(&incoming, &n, fin);
257    while (!feof(fin)) {
258        lino++;
259        i = strlen(incoming) - 1;
260        if (i < 0) {
261            i = 0;
262        }
263        if (incoming[i] < 32) {
264            incoming[i] = '\0';
265        }
266        if (!strncmp(incoming, "/dev/", 5)) {
267            siz = 1;
268        } else if (lstat(incoming, &buf) != 0) {
269            siz = 0;
270        } else {
271            siz = (long) (buf.st_size >> 10);
272        }
273        if (siz > max_sane_size_for_a_file)
274// && strcmp(incoming+strlen(incoming)-4, ".bz2") && strcmp(incoming+strlen(incoming)-4, ".tbz"))
275        {
276            fprintf(fbig, "%s\n", incoming);
277        } else {
278            curr_set_size += siz;
279            fprintf(fout, "%s\n", incoming);
280            if (curr_set_size > maxsetsizeK) {
281                paranoid_fclose(fout);
282                sort_file(outfname);
283                mr_free(outfname);
284
285                curr_set_no++;
286                curr_set_size = 0;
287                mr_asprintf(&outfname, "%s/filelist.%ld", outdir,
288                         curr_set_no);
289                if (!(fout = fopen(outfname, "w"))) {
290                    log_OS_error("Unable to openout outfname");
291                    return (0);
292                }
293                update_evalcall_form((int) (lino * 100 / noof_lines));
294            }
295        }
296        mr_getline(&incoming, &n, fin);
297    }
298    paranoid_fclose(fin);
299    paranoid_fclose(fout);
300    paranoid_fclose(fbig);
301
302    if (length_of_file(outfname) <= 2) {
303        unlink(outfname);
304        g_noof_sets--;
305    }
306    g_noof_sets = curr_set_no;
307    sort_file(outfname);
308    sort_file(biggie_fname);
309    mr_free(biggie_fname);
310    mr_free(outfname);
311
312    mr_asprintf(&outfname, "%s/LAST-FILELIST-NUMBER", outdir);
313    mr_asprintf(&tmp, "%ld", curr_set_no);
314    if (write_one_liner_data_file(outfname, tmp)) {
315        log_OS_error
316            ("Unable to echo write one-liner to LAST-FILELIST-NUMBER");
317        return (0);
318    }
319    mr_free(outfname);
320    mr_free(tmp);
321
322    if (curr_set_no == 0) {
323        mr_asprintf(&tmp, "Only one fileset. Fine.");
324    } else {
325        mr_asprintf(&tmp, "Filelist divided into %ld sets", curr_set_no + 1);
326    }
327    mr_msg(1, tmp);
328    mr_free(tmp);
329    close_evalcall_form();
330    /* This is to work around an obscure bug in Newt; open a form, close it,
331       carry on... I don't know why it works but it works. If you don't do this
332       then update_progress_form() won't show the "time taken / time remaining"
333       line. The bug only crops up AFTER the call to chop_filelist(). Weird. */
334    if (!g_text_mode) {
335        open_progress_form("", "", "", "", 100);
336        newtPopHelpLine();
337        newtFormDestroy(g_progressForm);
338        newtPopWindow();
339    }
340    return (curr_set_no + 1);
341}
342
343
344/**
345 * Free all the memory used by a filelist structure.
346 * Since this may take a long time for large filelists, a progress bar will be displayed.
347 * @param filelist The filelist to free.
348 */
349void free_filelist(struct s_node *filelist)
350{
351    /*@ int's ******************************************************* */
352    static int depth = 0;
353    int percentage;
354
355    /*@ long's ****************************************************** */
356    static long i = 0;
357
358    /*@ end vars **************************************************** */
359
360    assert(filelist != NULL);
361    if (depth == 0) {
362        open_evalcall_form("Freeing memory");
363        log_to_screen(_("Freeing memory formerly occupied by filelist"));
364    }
365    depth++;
366
367    if (filelist->ch == '\0') {
368        if (!(i++ % 1111)) {
369            percentage =
370                (int) (i * 100 / g_original_noof_lines_in_filelist);
371            update_evalcall_form(percentage);
372
373        }
374    }
375
376    if (filelist->right) {
377        free_filelist(filelist->right);
378        filelist->right = NULL;
379    }
380    if (filelist->down) {
381/*      if (!(i++ %39999)) { update_evalcall_form(0); } */
382        free_filelist(filelist->down);
383        filelist->down = NULL;
384    }
385    filelist->ch = '\0';
386    mr_free(filelist);
387    depth--;
388    if (depth == 0) {
389        close_evalcall_form();
390        log_it("Finished freeing memory");
391    }
392}
393
394
395int call_exe_and_pipe_output_to_fd(char *sys_call, FILE * pout)
396{
397    FILE *pattr;
398    char *tmp = NULL;
399    size_t n = 0;
400
401    pattr = popen(sys_call, "r");
402    if (!pattr) {
403        mr_msg(1, "Failed to open fattr() %s", sys_call);
404        return (1);
405    }
406    if (feof(pattr)) {
407        mr_msg(1, "Failed to call fattr() %s", sys_call);
408        paranoid_pclose(pattr);
409        return (2);
410    }
411    for (mr_getline(&tmp, &n, pattr); !feof(pattr); mr_getline(&tmp, &n, pattr)) {
412        fputs(tmp, pout);
413    }
414    paranoid_pclose(pattr);
415    mr_free(tmp);
416    return (0);
417}
418
419
420int gen_aux_list(char *filelist, char *syscall_sprintf,
421                 char *auxlist_fname)
422{
423    FILE *fin;
424    FILE *pout;
425    char *pout_command;
426    char *sys_call;
427    char *file_to_analyze = NULL;
428    char *strtmp = NULL;
429    int i;
430    size_t n = 0;
431
432    if (!(fin = fopen(filelist, "r"))) {
433        mr_msg(1, "Cannot openin filelist %s", filelist);
434        return (1);
435    }
436    mr_asprintf(&pout_command, "gzip -c1 > %s", auxlist_fname);
437    if (!(pout = popen(pout_command, "w"))) {
438        mr_msg(1, "Cannot openout auxlist_fname %s", auxlist_fname);
439        fclose(fin);
440        mr_free(pout_command);
441        return (4);
442    }
443    mr_free(pout_command);
444
445    for (mr_getline(&file_to_analyze, &n, fin); !feof(fin);
446         mr_getline(&file_to_analyze, &n, fin)) {
447        i = strlen(file_to_analyze);
448        if (i > 0 && file_to_analyze[i - 1] < 32) {
449            file_to_analyze[i - 1] = '\0';
450        }
451        mr_msg(8, "Analyzing %s", file_to_analyze);
452        /* BERLIOS : to be checked */
453        mr_asprintf(&strtmp, syscall_sprintf, mr_stresc(file_to_analyze, "`$\\\"", BACKSLASH));
454        mr_asprintf(&sys_call, "%s 2>> /dev/null", strtmp);
455        mr_free(strtmp);
456        call_exe_and_pipe_output_to_fd(sys_call, pout);
457        mr_free(sys_call);
458    }
459    paranoid_fclose(fin);
460    paranoid_pclose(pout);
461    mr_free(file_to_analyze);
462    return (0);
463}
464
465
466int get_acl_list(char *filelist, char *facl_fname)
467{
468    char *command = NULL;
469    int retval = 0;
470
471    if (g_getfacl != NULL) {
472        mr_asprintf(&command, "touch %s", facl_fname);
473        run_program_and_log_output(command, 8);
474        mr_free(command);
475
476        mr_asprintf(&command,
477                 "getfacl --all-effective -P %s 2>> %s | gzip -c1 > %s 2>> %s",
478                 filelist, MONDO_LOGFILE, facl_fname, MONDO_LOGFILE);
479        iamhere(command);
480        retval = system(command);
481        mr_free(command);
482    }
483    return (retval);
484}
485
486
487int get_fattr_list(char *filelist, char *fattr_fname)
488{
489    char *command = NULL;
490    int retval = 0;
491
492    if (g_getfattr != NULL) {
493        mr_asprintf(&command, "touch %s", fattr_fname);
494        run_program_and_log_output(command, 8);
495        mr_free(command);
496
497        retval =
498            gen_aux_list(filelist, "getfattr --en=hex -P -d \"%s\"",
499                         fattr_fname);
500    }
501    return (retval);
502}
503
504
505int set_EXAT_list(char *orig_msklist, char *original_exat_fname,
506                  char *executable)
507{
508    const int my_depth = 8;
509    char *command, *syscall_pin, *syscall_pout;
510    char *incoming = NULL;
511    char *current_subset_file = NULL;
512    char *current_master_file, *masklist;
513    int retval = 0;
514    int i;
515    size_t n = 0;
516    char *p, *q;
517    FILE *pin, *pout, *faclin;
518
519    mr_msg(1, "set_EXAT_list(%s, %s, %s)", orig_msklist,
520            original_exat_fname, executable);
521    if (!orig_msklist || !orig_msklist[0]
522        || !does_file_exist(orig_msklist)) {
523        mr_msg(1,
524                "No masklist provided. I shall therefore set ALL attributes.");
525        mr_asprintf(&command, "gzip -dc %s | %s --restore - 2>> %s",
526                 original_exat_fname, executable, MONDO_LOGFILE);
527        mr_msg(1, "command = %s", command);
528        retval = system(command);
529        mr_free(command);
530        mr_msg(1, "Returning w/ retval=%d", retval);
531        return (retval);
532    }
533    if (length_of_file(original_exat_fname) <= 0) {
534        mr_msg(1,
535                "original_exat_fname %s is empty or missing, so no need to set EXAT list",
536                original_exat_fname);
537        return (0);
538    }
539    mr_asprintf(&masklist, "/tmp/%d.%d.mask", (int) (random() % 32768),
540             (int) (random() % 32768));
541
542    mr_asprintf(&command, "cp -f %s %s", orig_msklist, masklist);
543    run_program_and_log_output(command, 1);
544    mr_free(command);
545
546    sort_file(masklist);
547    mr_asprintf(&syscall_pin, "gzip -dc %s", original_exat_fname);
548    mr_asprintf(&syscall_pout, "%s --restore - 2>> %s", executable,
549             MONDO_LOGFILE);
550
551    mr_msg(1, "syscall_pin = %s", syscall_pin);
552    mr_msg(1, "syscall_pout = %s", syscall_pout);
553    pout = popen(syscall_pout, "w");
554    if (!pout) {
555        iamhere("Unable to openout to syscall_pout");
556        return (1);
557    }
558    mr_free(syscall_pout);
559
560    pin = popen(syscall_pin, "r");
561    if (!pin) {
562        pclose(pout);
563        iamhere("Unable to openin from syscall");
564        return (1);
565    }
566    mr_free(syscall_pin);
567
568    faclin = fopen(masklist, "r");
569    if (!faclin) {
570        pclose(pin);
571        pclose(pout);
572        iamhere("Unable to openin masklist");
573        return (1);
574    }
575//  printf("Hi there. Starting the loop\n");
576
577    mr_getline(&current_subset_file, &n, faclin);
578    mr_getline(&incoming, &n, pin);
579    while (!feof(pin) && !feof(faclin)) {
580//      printf("incoming = %s", incoming);
581
582        mr_asprintf(&current_master_file, incoming + 8);
583
584        p = current_subset_file;
585        if (*p == '/') {
586            p++;
587        }
588        i = strlen(p);
589        if (i > 0 && p[i - 1] < 32) {
590            p[i - 1] = '\0';
591        }
592
593
594        q = current_master_file;
595        if (*q == '/') {
596            q++;
597        }
598        i = strlen(q);
599        if (i > 0 && q[i - 1] < 32) {
600            q[i - 1] = '\0';
601        }
602
603        i = strcmp(p, q);
604        mr_msg(my_depth, "'%s' v '%s' --> %d\n", p, q, i);
605
606//      printf("%s v %s --> %d\n", p, q, i);
607
608        if (i < 0) {            // read another subset file in.
609            mr_msg(my_depth, "Reading next subset line in\n\n");
610            mr_getline(&current_subset_file, &n, faclin);
611            continue;
612        }
613
614        if (!i) {
615            fputs(incoming, pout);
616        }
617        mr_getline(&incoming, &n, pin);
618        if (!i) {
619            mr_msg(my_depth, "Copying master %s", q);
620        }
621//      if (!i) { printf("Match --- %s\n", q); }
622
623        while (!feof(pin) && strncmp(incoming, "# file: ", 8)) {
624            if (!i) {
625
626//    printf("%s", incoming);
627
628                fputs(incoming, pout);
629            }
630            mr_getline(&incoming, &n, pin);
631        }
632        if (!i) {
633            mr_getline(&current_subset_file, &n, faclin);
634        }
635        mr_free(current_master_file);
636    }
637    mr_free(current_subset_file);
638
639    while (!feof(pin)) {
640        mr_getline(&incoming, &n, pin);
641    }
642    mr_free(incoming);
643    fclose(faclin);
644    pclose(pin);
645    pclose(pout);
646
647//  printf("OK, loop is done\n");
648
649    unlink(masklist);
650    mr_free(masklist);
651
652    return (retval);
653}
654
655
656int set_fattr_list(char *masklist, char *fattr_fname)
657{
658    if (find_home_of_exe("setfattr")) {
659        return (set_EXAT_list(masklist, fattr_fname, "setfattr"));
660    } else {
661        mr_msg(1, "ERROR: set_EXAT_list: setfattr doesn't exist");
662        return(0);
663    }
664}
665
666
667
668int set_acl_list(char *masklist, char *acl_fname)
669{
670    if (find_home_of_exe("setfacl")) {
671        return (set_EXAT_list(masklist, acl_fname, "setfacl"));
672    } else {
673        mr_msg(1, "ERROR: set_EXAT_list: setfacl doesn't exist");
674        return(0);
675    }
676}
677
678
679/**
680 * Get the number of the last fileset in the backup.
681 * @param bkpinfo The backup information structure. Only the @c bkpinfo->tmpdir field is used.
682 * @return The last filelist number.
683 * @note This function should only be called at restore-time.
684 */
685int get_last_filelist_number(struct s_bkpinfo *bkpinfo)
686{
687    /*@ buffers ***************************************************** */
688    char *val_sz = NULL;
689    char *cfg_fname = NULL;
690
691    /*@ long ******************************************************** */
692    int val_i = 0;
693
694    /*@ end vars **************************************************** */
695
696    assert(bkpinfo != NULL);
697
698    malloc_string(val_sz);
699    mr_asprintf(&cfg_fname, "%s/mondo-restore.cfg", bkpinfo->tmpdir);
700    read_cfg_var(cfg_fname, "last-filelist-number", val_sz);
701    val_i = atoi(val_sz);
702    if (val_i <= 0) {
703        val_i = 500;
704    }
705    mr_free(cfg_fname);
706    mr_free(val_sz);
707    return (val_i);
708}
709
710
711/**
712 * Add a string at @p startnode.
713 * @param startnode The node to start at when searching for where to add the string.
714 * @param string_to_add The string to add.
715 * @return 0 for success, 1 for failure.
716 * @bug I don't understand this function. Would someone care to explain it?
717 */
718
719int add_string_at_node(struct s_node *startnode, char *string_to_add)
720{
721
722    int noof_chars;
723    int i;
724    int res;
725
726    struct s_node *node, *newnode;
727
728    char char_to_add;
729
730    const bool sosodef = FALSE;
731
732    static int depth = 0;
733    static char original_string[MAX_STR_LEN];
734
735    assert(startnode != NULL);
736    assert(string_to_add != NULL);
737
738    if (!depth) {
739        strcpy(original_string, string_to_add);
740    }
741
742    noof_chars = strlen(string_to_add) + 1; // we include the '\0'
743
744    // walk across tree if necessary
745    node = startnode;
746    char_to_add = string_to_add[0];
747    if (node->right != NULL && node->ch < char_to_add) {
748        mr_msg(7, "depth=%d --- going RIGHT ... %c-->%c", depth,
749                char_to_add, node->ch, (node->right)->ch);
750        return (add_string_at_node(node->right, string_to_add));
751    }
752
753    // walk down tree if appropriate
754    if (node->down != NULL && node->ch == char_to_add) {
755        mr_msg(7, "depth=%d char=%c --- going DOWN", depth, char_to_add);
756        depth++;
757        res = add_string_at_node(node->down, string_to_add + 1);
758        depth--;
759        return (res);
760    }
761
762    if (char_to_add == '\0' && node->ch == '\0') {
763        mr_msg(6, "%s already in tree", original_string);
764        return (1);
765    }
766
767    // add here
768    newnode = (struct s_node *) mr_malloc(sizeof(struct s_node));
769    if (char_to_add < node->ch) // add to the left of node
770    {
771        mr_msg(7, "depth=%d char=%c --- adding (left)", depth,
772                char_to_add);
773        memcpy((void *) newnode, (void *) node, sizeof(struct s_node));
774        node->right = newnode;
775    } else if (char_to_add > node->ch)  // add to the right of node
776    {
777        mr_msg(7, "depth=%d char=%c --- adding (right)", depth,
778                char_to_add);
779        newnode->right = node->right;   // newnode is to the RIGHT of node
780        node->right = newnode;
781        node = newnode;
782    }
783    // from now on, we're working on 'node'
784    node->down = NULL;
785    node->ch = char_to_add;
786    node->expanded = node->selected = FALSE;
787    if (char_to_add == '\0') {
788        mr_msg(6, "Added %s OK", original_string);
789        return (0);
790    }
791    // add the rest
792    mr_msg(6, "Adding remaining chars ('%s')", string_to_add + 1);
793    for (i = 1; i < noof_chars; i++) {
794        node->down = (struct s_node *) mr_malloc(sizeof(struct s_node));
795        node = node->down;
796        char_to_add = string_to_add[i];
797        mr_msg(6, "Adding '%c'", char_to_add);
798        node->ch = char_to_add;
799        node->right = node->down = NULL;
800        node->expanded = node->selected = FALSE;
801        if (!node->ch) {
802            node->selected = sosodef;
803        }
804    }
805    mr_msg(6, "Finally - added %s OK", original_string);
806    return (0);
807}
808
809
810/**
811 * Load a filelist into a <tt>struct s_node</tt>.
812 * When you are done with the filelist, call free_filelist().
813 * @param filelist_fname The file to load the filelist from.
814 * @return A filelist tree structure.
815 */
816struct s_node *load_filelist(char *filelist_fname)
817{
818
819    struct s_node *filelist = NULL;
820    FILE *pin = NULL;
821    char *command_to_open_fname = NULL;
822    char *fname = NULL;
823    char *tmp = NULL;
824    int pos_in_fname = 0;
825    size_t n = 0;
826    int percentage = 0;
827
828    long lines_in_filelist = 0L;
829    long lino = 0L;
830
831    assert_string_is_neither_NULL_nor_zerolength(filelist_fname);
832
833    if (!does_file_exist(filelist_fname)) {
834        fatal_error("filelist does not exist -- cannot load it");
835    }
836    log_to_screen(_("Loading filelist"));
837    mr_asprintf(&command_to_open_fname, "gzip -dc %s", filelist_fname);
838    mr_asprintf(&tmp, "zcat %s | wc -l", filelist_fname);
839    mr_msg(6, "tmp = %s", tmp);
840    lines_in_filelist =
841        atol(call_program_and_get_last_line_of_output(tmp));
842    if (lines_in_filelist < 3) {
843        log_to_screen(_("Warning - surprisingly short filelist."));
844    }
845    g_original_noof_lines_in_filelist = lines_in_filelist;
846    filelist = (struct s_node *) mr_malloc(sizeof(struct s_node));
847    filelist->ch = '/';
848    filelist->right = NULL;
849    filelist->down = mr_malloc(sizeof(struct s_node));
850    filelist->expanded = filelist->selected = FALSE;
851    (filelist->down)->ch = '\0';
852    (filelist->down)->right = (filelist->down)->down = FALSE;
853    (filelist->down)->expanded = (filelist->down)->selected = FALSE;
854    if (!(pin = popen(command_to_open_fname, "r"))) {
855        log_OS_error("Unable to openin filelist_fname");
856        return (NULL);
857    }
858    mr_free(command_to_open_fname);
859
860    open_evalcall_form(_("Loading filelist from disk"));
861    for (mr_getline(&fname, &n, pin); !feof(pin); mr_getline(&fname, &n, pin)) {
862        if ((fname[strlen(fname) - 1] == 13
863             || fname[strlen(fname) - 1] == 10) && strlen(fname) > 0) {
864            fname[strlen(fname) - 1] = '\0';
865        }
866        if (!strlen(fname)) {
867            continue;
868        }
869        for (pos_in_fname = 0; fname[pos_in_fname] != '\0'; pos_in_fname++) {
870            if (fname[pos_in_fname] != '/') {
871                continue;
872            }
873            mr_asprintf(&tmp, fname);
874            tmp[pos_in_fname] = '\0';
875            if (strlen(tmp)) {
876                add_string_at_node(filelist, tmp);
877            }
878            mr_free(tmp);
879        }
880        add_string_at_node(filelist, fname);
881        if (!(++lino % 1111)) {
882            percentage = (int) (lino * 100 / lines_in_filelist);
883            update_evalcall_form(percentage);
884        }
885    }
886    mr_free(fname);
887    paranoid_pclose(pin);
888    close_evalcall_form();
889    log_it("Finished loading filelist");
890    return (filelist);
891}
892
893
894/**
895 * Log a list of files in @p node.
896 * @param node The toplevel node to use.
897 */
898void show_filelist(struct s_node *node)
899{
900    static int depth = 0;
901    static char current_string[200];
902
903    if (depth == 0) {
904        mr_msg(0, "----------------show filelist--------------");
905    }
906    current_string[depth] = node->ch;
907
908    mr_msg(3, "depth=%d", depth);
909    if (node->down) {
910        mr_msg(3, "moving down");
911        depth++;
912        show_filelist(node->down);
913        depth--;
914    }
915
916    if (!node->ch) {
917        mr_msg(0, "%s\n", current_string);
918    }
919
920    if (node->right) {
921        mr_msg(3, "moving right");
922        show_filelist(node->right);
923    }
924    if (depth == 0) {
925        mr_msg(0, "----------------show filelist--------------");
926    }
927    return;
928}
929
930
931/**
932 * Reset the filelist to the state it was when it was loaded. This does not
933 * touch the file on disk.
934 * @param filelist The filelist tree structure.
935 */
936void reload_filelist(struct s_node *filelist)
937{
938    assert(filelist != NULL);
939    toggle_node_selection(filelist, FALSE);
940    toggle_path_expandability(filelist, "/", FALSE);
941    toggle_all_root_dirs_on(filelist);
942}
943
944
945/**
946 * Save a filelist tree structure to disk.
947 * @param filelist The filelist tree structure to save.
948 * @param outfname Where to save it.
949 */
950void save_filelist(struct s_node *filelist, char *outfname)
951{
952    /*@ int ********************************************************* */
953    static int percentage;
954    static int depth = 0;
955
956    /*@ buffers ***************************************************** */
957    static char str[MAX_STR_LEN];
958
959    /*@ structures ************************************************** */
960    struct s_node *node;
961
962    /*@ pointers **************************************************** */
963    static FILE *fout = NULL;
964
965    /*@ long ******************************************************** */
966    static long lines_in_filelist = 0;
967    static long lino = 0;
968
969    /*@ end vars *************************************************** */
970
971    assert(filelist != NULL);
972    assert(outfname != NULL);   // will be zerolength if save_filelist() is called by itself
973    if (depth == 0) {
974        log_to_screen(_("Saving filelist"));
975        if (!(fout = fopen(outfname, "w"))) {
976            fatal_error("Cannot openout/save filelist");
977        }
978        lines_in_filelist = g_original_noof_lines_in_filelist;  /* set by load_filelist() */
979        open_evalcall_form(_("Saving selection to disk"));
980    }
981    for (node = filelist; node != NULL; node = node->right) {
982        str[depth] = node->ch;
983        mr_msg(5, "depth=%d ch=%c", depth, node->ch);
984        if (!node->ch) {
985//    if (node->selected)
986//      {
987            fprintf(fout, "%s\n", str);
988//      }
989            if (!(++lino % 1111)) {
990                percentage = (int) (lino * 100 / lines_in_filelist);
991                update_evalcall_form(percentage);
992            }
993        }
994        if (node->down) {
995            depth++;
996            save_filelist(node->down, "");
997            depth--;
998        }
999    }
1000    if (depth == 0) {
1001        paranoid_fclose(fout);
1002        close_evalcall_form();
1003        log_it("Finished saving filelist");
1004    }
1005}
1006
1007
1008/**
1009 * Toggle all root dirs on.
1010 * @param filelist The filelist tree structure to operate on.
1011 * @bug I don't understand this function. Would someone care to explain it?
1012 */
1013void toggle_all_root_dirs_on(struct s_node *filelist)
1014{
1015    /*@ structures ************************************************** */
1016    struct s_node *node;
1017
1018    /*@ int ********************************************************* */
1019    static int depth = 0;
1020    static int root_dirs_expanded;
1021
1022    /*@ buffers ***************************************************** */
1023    static char filename[MAX_STR_LEN];
1024
1025    /*@ end vars *************************************************** */
1026
1027    assert(filelist != NULL);
1028    if (depth == 0) {
1029        log_it("Toggling all root dirs ON");
1030        root_dirs_expanded = 0;
1031    }
1032    for (node = filelist; node != NULL; node = node->right) {
1033        filename[depth] = node->ch;
1034        if (node->ch == '\0' && strlen(filename) > 1
1035            && (!strchr(filename + 1, '/'))) {
1036            node->selected = FALSE;
1037            node->expanded = TRUE;
1038//    log_it (filename);
1039            root_dirs_expanded++;
1040        }
1041        if (node->down) {
1042            depth++;
1043            toggle_all_root_dirs_on(node->down);
1044            depth--;
1045        }
1046    }
1047    if (depth == 0) {
1048        log_it("Finished toggling all root dirs ON");
1049    }
1050}
1051
1052
1053/**
1054 * Toggle the expandability of a path.
1055 * @param filelist The filelist tree to operate on.
1056 * @param pathname The path to toggle expandability of.
1057 * @param on_or_off Whether to toggle it on or off.
1058 * @bug I don't understand this function. Would someone care to explain it?
1059 */
1060void
1061toggle_path_expandability(struct s_node *filelist, char *pathname,
1062                          bool on_or_off)
1063{
1064
1065    /*@ int ******************************************************** */
1066    static int depth = 0;
1067    static int total_expanded;
1068    static int root_depth;
1069    int j;
1070    /*@ structures ************************************************* */
1071    struct s_node *node;
1072
1073    /*@ buffers **************************************************** */
1074    static char current_filename[MAX_STR_LEN];
1075
1076    /*@ end vars *************************************************** */
1077
1078    assert(filelist != NULL);
1079    assert_string_is_neither_NULL_nor_zerolength(pathname);
1080    if (depth == 0) {
1081        total_expanded = 0;
1082//      log_it ("Toggling path's expandability");
1083        for (root_depth = (int) strlen(pathname);
1084             root_depth > 0 && pathname[root_depth - 1] != '/';
1085             root_depth--);
1086        if (root_depth < 2) {
1087            root_depth = (int) strlen(pathname);
1088        }
1089    }
1090    for (node = filelist; node != NULL; node = node->right) {
1091        current_filename[depth] = node->ch;
1092        if (node->down) {
1093            depth++;
1094            toggle_path_expandability(node->down, pathname, on_or_off);
1095            depth--;
1096        }
1097        if (node->ch == '\0') {
1098            if (!strncmp(pathname, current_filename, strlen(pathname))) {
1099                for (j = root_depth;
1100                     current_filename[j] != '/'
1101                     && current_filename[j] != '\0'; j++);
1102                if (current_filename[j] != '\0') {
1103                    for (j++;
1104                         current_filename[j] != '/'
1105                         && current_filename[j] != '\0'; j++);
1106                }
1107                if (current_filename[j] == '\0') {
1108                    node->expanded =
1109                        (!strcmp(pathname, current_filename) ? TRUE :
1110                         on_or_off);
1111                }
1112            }
1113        }
1114        if (node->expanded) {
1115            if (total_expanded < ARBITRARY_MAXIMUM - 32
1116                || !strrchr(current_filename + strlen(pathname), '/')) {
1117                total_expanded++;
1118            } else {
1119                node->expanded = FALSE;
1120            }
1121        }
1122    }
1123    if (depth == 0) {
1124//      log_it ("Finished toggling expandability");
1125    }
1126}
1127
1128
1129/**
1130 * Toggle whether a path is selected.
1131 * @param filelist The filelist tree to operate on.
1132 * @param pathname The path to toggle selection of.
1133 * @param on_or_off Whether to toggle it on or off.
1134 * @bug I don't understand this function. Would someone care to explain it?
1135 */
1136void
1137toggle_path_selection(struct s_node *filelist, char *pathname,
1138                      bool on_or_off)
1139{
1140    /*@ int ********************************************************* */
1141    static int depth = 0;
1142    int j;
1143
1144    /*@ structures ************************************************** */
1145    struct s_node *node;
1146
1147    /*@ buffers ***************************************************** */
1148    static char current_filename[MAX_STR_LEN];
1149
1150    /*@ end vars *************************************************** */
1151    assert(filelist != NULL);
1152    assert_string_is_neither_NULL_nor_zerolength(pathname);
1153    if (depth == 0) {
1154        log_it("Toggling path's selection");
1155    }
1156    for (node = filelist; node != NULL; node = node->right) {
1157        current_filename[depth] = node->ch;
1158        if (node->down) {
1159            depth++;
1160            toggle_path_selection(node->down, pathname, on_or_off);
1161            depth--;
1162        }
1163        if (node->ch == '\0') {
1164            if (!strncmp(pathname, current_filename, strlen(pathname))) {
1165                for (j = 0;
1166                     pathname[j] != '\0'
1167                     && pathname[j] == current_filename[j]; j++);
1168                if (current_filename[j] == '/'
1169                    || current_filename[j] == '\0') {
1170                    node->selected = on_or_off;
1171                }
1172            }
1173        }
1174    }
1175    if (depth == 0) {
1176        log_it("Finished toggling selection");
1177    }
1178}
1179
1180
1181/**
1182 * Toggle node selection of a filelist tree.
1183 * @param filelist The filelist tree to operate on.
1184 * @param on_or_off Whether to toggle selection on or off.
1185 * @bug I don't understand this function. Would someone care to explain it?
1186 */
1187void toggle_node_selection(struct s_node *filelist, bool on_or_off)
1188{
1189    /*@ structure ************************************************** */
1190    struct s_node *node;
1191
1192    /*@ end vars *************************************************** */
1193    assert(filelist != NULL);
1194    for (node = filelist; node != NULL; node = node->right) {
1195        if (node->ch == '/') {
1196            continue;
1197        }                       /* don't go deep */
1198        if (node->ch == '\0') {
1199            node->selected = on_or_off;
1200        }
1201        if (node->down) {
1202            toggle_node_selection(node->down, on_or_off);
1203        }
1204    }
1205}
1206
1207
1208/**
1209 * The pathname to the skeleton filelist, used to give better progress reporting for mondo_makefilelist().
1210 */
1211char *g_skeleton_filelist = NULL;
1212
1213/**
1214 * Number of entries in the skeleton filelist.
1215 */
1216long g_skeleton_entries = 0;
1217
1218/**
1219 * Wrapper around mondo_makefilelist().
1220 * @param bkpinfo The backup information structure. Fields used:
1221 * - @c bkpinfo->differential
1222 * - @c bkpinfo->exclude_paths
1223 * - @c bkpinfo->include_paths
1224 * - @c bkpinfo->make_filelist
1225 * - @c bkpinfo->scratchdir
1226 * - @c bkpinfo->tmpdir
1227 * @return 0 for success, nonzero for failure.
1228 * @see mondo_makefilelist
1229 */
1230int prepare_filelist(struct s_bkpinfo *bkpinfo)
1231{
1232
1233    /*@ int **************************************************** */
1234    int res = 0;
1235
1236    assert(bkpinfo != NULL);
1237    log_it("tmpdir=%s; scratchdir=%s", bkpinfo->tmpdir,
1238           bkpinfo->scratchdir);
1239    if (bkpinfo->make_filelist) {
1240        mvaddstr_and_log_it(g_currentY, 0,
1241                            _("Making catalog of files to be backed up"));
1242    } else {
1243        mvaddstr_and_log_it(g_currentY, 0,
1244                            _("Using supplied catalog of files to be backed up"));
1245    }
1246
1247    if (bkpinfo->make_filelist) {
1248        res =
1249            mondo_makefilelist(MONDO_LOGFILE, bkpinfo->tmpdir,
1250                               bkpinfo->scratchdir, bkpinfo->include_paths,
1251                               bkpinfo->exclude_paths,
1252                               bkpinfo->differential, NULL);
1253    } else {
1254        res =
1255            mondo_makefilelist(MONDO_LOGFILE, bkpinfo->tmpdir,
1256                               bkpinfo->scratchdir, NULL,
1257                               bkpinfo->exclude_paths,
1258                               bkpinfo->differential,
1259                               bkpinfo->include_paths);
1260    }
1261
1262    if (res) {
1263        log_OS_error("Call to mondo_makefilelist failed");
1264        mvaddstr_and_log_it(g_currentY++, 74, _("Failed."));
1265    } else {
1266        mvaddstr_and_log_it(g_currentY++, 74, _("Done."));
1267    }
1268    return (res);
1269}
1270
1271
1272/**
1273 * Recursively list all files in @p dir newer than @p time_of_last_full_backup to @p fout.
1274 * @param dir The directory to list to @p fout.
1275 * @param sth The directories to skip (exclude).
1276 * @param fout The file to write everything to.
1277 * @param time_of_last_full_backup Only backup files newer than this (0 to disable).
1278 * @return 0, always.
1279 * @bug Return value should be @c void.
1280 */
1281int open_and_list_dir(char *dir, char *sth, FILE * fout,
1282                      time_t time_of_last_full_backup)
1283{
1284    const char delims[] = " ";
1285    DIR *dip = NULL;
1286    struct dirent *dit = NULL;
1287
1288    struct stat statbuf;
1289    char new[MAX_STR_LEN];
1290    char *sth_B = NULL;
1291    static int percentage = 0;
1292    char *ith_B = NULL;
1293    char *skip_these = NULL;
1294    char *new_with_spaces = NULL;
1295    static char *name_of_evalcall_form = NULL;
1296    int i = 0;
1297    char *strtmp = NULL;
1298    char *token = NULL;
1299    char *find_excludes = NULL;
1300    int lastpos = 0;
1301    static int depth = 0;
1302    char *p = NULL;
1303    static int counter = 0;
1304    static int uberctr = 0;
1305    static char *find_skeleton_marker = NULL;
1306    static long skeleton_lino = 0;
1307    static time_t last_time = 0;
1308    time_t this_time;
1309
1310    malloc_string(sth_B);
1311    malloc_string(ith_B);
1312    malloc_string(new_with_spaces);
1313    p = strrchr(dir, '/');
1314    if (p) {
1315        if (!strcmp(p, "/.") || !strcmp(p, "/..")) {
1316            return (0);
1317        }
1318    }
1319
1320    if (!depth) {
1321        malloc_string(name_of_evalcall_form);
1322        malloc_string(find_skeleton_marker);
1323        mr_asprintf(&find_excludes, " ");
1324        while((token = mr_strtok (sth, delims, &lastpos))) {
1325          mr_asprintf(&strtmp,"%s", find_excludes);
1326          mr_free(find_excludes);
1327          mr_asprintf(&find_excludes,"%s -path %s -prune -o", strtmp, token);
1328          mr_free(strtmp);
1329          mr_free(token);
1330        }
1331#if linux
1332        // 2.6 has /sys as a proc-type thing -- must be excluded
1333        mr_asprintf(&strtmp,
1334             "find %s -maxdepth %d -fstype mvfs -prune -o -path /dev/shm -prune -o %s -type d -print > %s 2> /dev/null",
1335             dir, MAX_SKEL_DEPTH, find_excludes, g_skeleton_filelist);
1336#else
1337        // On BSD, for example, /sys is the kernel sources -- don't exclude
1338        mr_asprintf(&strtmp,
1339             "find %s -maxdepth %d -fstype mvfs -prune -o -path /proc -prune -o %s -type d -print > %s 2> /dev/null",
1340                dir, MAX_SKEL_DEPTH, find_excludes, g_skeleton_filelist);
1341#endif
1342        mr_free(find_excludes);
1343        mr_msg(5, "find command = %s", strtmp);
1344        system(strtmp);
1345        mr_free(strtmp);
1346        mr_asprintf(&strtmp, "wc -l %s | awk '{print $1;}'", g_skeleton_filelist);
1347        g_skeleton_entries =
1348            1 + atol(call_program_and_get_last_line_of_output(strtmp));
1349        mr_free(strtmp);
1350        sprintf(name_of_evalcall_form, "Making catalog of %s", dir);
1351        open_evalcall_form(name_of_evalcall_form);
1352        find_skeleton_marker[0] = '\0';
1353        skeleton_lino = 1;
1354        mr_msg(5, "entries = %ld", g_skeleton_entries);
1355        percentage = 0;
1356    } else if (depth <= MAX_SKEL_DEPTH) // update evalcall form if appropriate
1357    {
1358        sprintf(find_skeleton_marker,
1359                "grep -Fv \"%s\" %s > %s.new 2> /dev/null", dir,
1360                g_skeleton_filelist, g_skeleton_filelist);
1361//    mr_msg(0, "fsm = %s", find_skeleton_marker);
1362        if (!system(find_skeleton_marker)) {
1363            percentage = (int) (skeleton_lino * 100 / g_skeleton_entries);
1364            skeleton_lino++;
1365//        mr_msg(5, "Found %s", dir);
1366//        mr_msg(2, "Incrementing skeleton_lino; now %ld/%ld (%d%%)", skeleton_lino, g_skeleton_entries, percentage);
1367            sprintf(find_skeleton_marker, "mv -f %s.new %s",
1368                    g_skeleton_filelist, g_skeleton_filelist);
1369//        mr_msg(6, "fsm = %s", find_skeleton_marker);
1370            run_program_and_log_output(find_skeleton_marker, 8);
1371            time(&this_time);
1372            if (this_time != last_time) {
1373                last_time = this_time;
1374#ifndef _XWIN
1375                if (!g_text_mode) {
1376                    mr_asprintf(&strtmp, "Reading %-68s", dir);
1377                    newtDrawRootText(0, g_noof_rows - 3, strtmp);
1378                    mr_free(strtmp);
1379                }
1380#endif
1381                update_evalcall_form(percentage);
1382            }
1383        }
1384    }
1385
1386    depth++;
1387
1388//  mr_msg(0, "Cataloguing %s", dir);
1389    if (sth[0] == ' ') {
1390        skip_these = sth;
1391    } else {
1392        skip_these = sth_B;
1393        sprintf(skip_these, " %s ", sth);
1394    }
1395    sprintf(new_with_spaces, " %s ", dir);
1396    if ((dip = opendir(dir)) == NULL) {
1397        mr_asprintf(&strtmp, "opendir %s", dir);
1398        log_OS_error(strtmp);
1399        mr_free(strtmp);
1400    } else if (strstr(skip_these, new_with_spaces)) {
1401        fprintf(fout, "%s\n", dir); // if excluded dir then print dir ONLY
1402    } else {
1403        fprintf(fout, "%s\n", dir);
1404        while ((dit = readdir(dip)) != NULL) {
1405            i++;
1406            strcpy(new, dir);
1407            if (strcmp(dir, "/")) {
1408                strcat(new, "/");
1409            }
1410            strcat(new, dit->d_name);
1411            new_with_spaces[0] = ' ';
1412            strcpy(new_with_spaces + 1, new);
1413            strcat(new_with_spaces, " ");
1414            if (strstr(skip_these, new_with_spaces)) {
1415                fprintf(fout, "%s\n", new);
1416            } else {
1417                if (!lstat(new, &statbuf)) {
1418                    if (!S_ISLNK(statbuf.st_mode)
1419                        && S_ISDIR(statbuf.st_mode)) {
1420                        open_and_list_dir(new, skip_these, fout,
1421                                          time_of_last_full_backup);
1422                    } else {
1423                        if (time_of_last_full_backup == 0
1424                            || time_of_last_full_backup <
1425                            statbuf.st_ctime) {
1426                            fprintf(fout, "%s\n", new);
1427                            if ((counter++) > 128) {
1428                                counter = 0;
1429                                uberctr++;
1430                                mr_asprintf(&strtmp, " %c ",
1431                                        special_dot_char(uberctr));
1432#ifndef _XWIN
1433                                if (!g_text_mode) {
1434                                    newtDrawRootText(77, g_noof_rows - 3,
1435                                                     strtmp);
1436                                    mr_free(strtmp);
1437                                    newtRefresh();
1438                                }
1439#endif
1440                            }
1441                        }
1442                    }
1443                }
1444            }
1445        }
1446    }
1447    if (dip) {
1448        if (closedir(dip) == -1) {
1449            log_OS_error("closedir");
1450        }
1451    }
1452    depth--;
1453    if (!depth) {
1454        close_evalcall_form();
1455        mr_free(name_of_evalcall_form);
1456        mr_free(find_skeleton_marker);
1457        unlink(g_skeleton_filelist);
1458        mr_msg(5, "g_skeleton_entries = %ld", g_skeleton_entries);
1459    }
1460    mr_free(sth_B);
1461    mr_free(ith_B);
1462    mr_free(new_with_spaces);
1463    return (0);
1464}
1465
1466
1467/**
1468 * Get the next entry in the space-separated list in @p incoming.
1469 * So if @p incoming was '"one and two" three four', we would
1470 * return "one and two".
1471 * @param incoming The list to get the next entry from.
1472 * @return The first item in the list (respecting double quotes).
1473 * @note The returned string points to static data that will be overwritten with each call.
1474 */
1475char *next_entry(char *incoming)
1476{
1477    static char sz_res[MAX_STR_LEN];
1478    char *p = NULL;
1479    bool in_quotes = FALSE;
1480
1481    strcpy(sz_res, incoming);
1482    p = sz_res;
1483    while ((*p != ' ' || in_quotes) && *p != '\0') {
1484        if (*p == '\"') {
1485            in_quotes = !in_quotes;
1486        }
1487        p++;
1488    }
1489    *p = '\0';
1490    return (sz_res);
1491}
1492
1493
1494/**
1495 * Create the filelist for the backup. It will be stored in [scratchdir]/archives/filelist.full.
1496 * @param logfile Unused.
1497 * @param tmpdir The tmpdir of the backup.
1498 * @param scratchdir The scratchdir of the backup.
1499 * @param include_paths The paths to back up, or NULL if you're using a user-defined filelist.
1500 * @param excp The paths to NOT back up.
1501 * @param differential The differential level (currently only 0 and 1 are supported).
1502 * @param userdef_filelist The user-defined filelist, or NULL if you're using @p include_paths.
1503 * @return 0, always.
1504 * @bug @p logfile is unused.
1505 * @bug Return value is meaningless.
1506 */
1507int mondo_makefilelist(char *logfile, char *tmpdir, char *scratchdir,
1508                       char *include_paths, char *excp, int differential,
1509                       char *userdef_filelist)
1510{
1511    char sz_datefile_wildcard[] = "/var/cache/mondo-archive/difflevel.%d";
1512    char *p = NULL;
1513    char *q = NULL;
1514
1515    char *sz_datefile = NULL;
1516    char *sz_filelist = NULL;
1517    char *exclude_paths = NULL;
1518    int i = 0;
1519    FILE *fout = NULL;
1520    char *command = NULL;
1521    time_t time_of_last_full_backup = 0;
1522    struct stat statbuf;
1523
1524    malloc_string(sz_datefile);
1525    malloc_string(exclude_paths);
1526    malloc_string(g_skeleton_filelist);
1527    // The pathname to the skeleton filelist, used to give better progress reporting for mondo_makefilelist().
1528    mr_asprintf(&sz_datefile, sz_datefile_wildcard, 0);
1529    if (!include_paths && !userdef_filelist) {
1530        fatal_error
1531            ("Please supply either include_paths or userdef_filelist");
1532    }
1533// make hole for filelist
1534    mr_asprintf(&command, "mkdir -p %s/archives", scratchdir);
1535    paranoid_system(command);
1536    mr_free(command);
1537
1538    mr_asprintf(&sz_filelist, "%s/tmpfs/filelist.full", tmpdir);
1539    make_hole_for_file(sz_filelist);
1540
1541    if (differential == 0) {
1542        // restore last good datefile if it exists
1543        mr_asprintf(&command, "cp -f %s.aborted %s", sz_datefile,
1544                 sz_datefile);
1545        run_program_and_log_output(command, 3);
1546        mr_free(command);
1547
1548        // backup last known good datefile just in case :)
1549        if (does_file_exist(sz_datefile)) {
1550            mr_asprintf(&command, "mv -f %s %s.aborted", sz_datefile,
1551                     sz_datefile);
1552            paranoid_system(command);
1553            mr_free(command);
1554        }
1555        make_hole_for_file(sz_datefile);
1556        write_one_liner_data_file(sz_datefile,
1557                                  call_program_and_get_last_line_of_output
1558                                  ("date +%s"));
1559    } else if (lstat(sz_datefile, &statbuf)) {
1560        mr_msg(2,
1561                "Warning - unable to find date of previous backup. Full backup instead.");
1562        differential = 0;
1563        time_of_last_full_backup = 0;
1564    } else {
1565        time_of_last_full_backup = statbuf.st_mtime;
1566        mr_msg(2, "Differential backup. Yay.");
1567    }
1568    mr_free(sz_datefile);
1569
1570// use user-specified filelist (if specified)
1571    if (userdef_filelist) {
1572        mr_msg(1,
1573                "Using the user-specified filelist - %s - instead of calculating one",
1574                userdef_filelist);
1575        mr_asprintf(&command, "cp -f %s %s", userdef_filelist, sz_filelist);
1576        if (run_program_and_log_output(command, 3)) {
1577            fatal_error("Failed to copy user-specified filelist");
1578        }
1579        mr_free(command);
1580    } else {
1581        mr_msg(2, "include_paths = '%s'", include_paths);
1582        mr_msg(1, "Calculating filelist");
1583        sprintf(exclude_paths, " %s %s %s %s %s %s . .. \
1584" MNT_CDROM " " MNT_FLOPPY " /media \
1585/proc /sys /tmp /root/images/mondo /var/cache/mindi ", excp, call_program_and_get_last_line_of_output("locate /win386.swp 2> /dev/null"), call_program_and_get_last_line_of_output("locate /hiberfil.sys 2> /dev/null"), call_program_and_get_last_line_of_output("locate /pagefile.sys 2> /dev/null"), (tmpdir[0] == '/' && tmpdir[1] == '/') ? (tmpdir + 1) : tmpdir, (scratchdir[0] == '/' && scratchdir[1] == '/') ? (scratchdir + 1) : scratchdir);
1586
1587        mr_msg(2, "Excluding paths = '%s'", exclude_paths);
1588        mr_msg(2,
1589                "Generating skeleton filelist so that we can track our progress");
1590        sprintf(g_skeleton_filelist, "%s/tmpfs/skeleton.txt", tmpdir);
1591        make_hole_for_file(g_skeleton_filelist);
1592        mr_msg(4, "g_skeleton_entries = %ld", g_skeleton_entries);
1593        mr_msg(2, "Opening out filelist to %s", sz_filelist);
1594        if (!(fout = fopen(sz_filelist, "w"))) {
1595            fatal_error("Cannot openout to sz_filelist");
1596        }
1597        i = 0;
1598        if (strlen(include_paths) == 0) {
1599            mr_msg(1, "Including only '/' in %s", sz_filelist);
1600            open_and_list_dir("/", exclude_paths, fout,
1601                              time_of_last_full_backup);
1602        } else {
1603            p = include_paths;
1604            while (*p) {
1605                q = next_entry(p);
1606                mr_msg(1, "Including %s in filelist %s", q, sz_filelist);
1607                open_and_list_dir(q, exclude_paths, fout,
1608                                  time_of_last_full_backup);
1609                p += strlen(q);
1610                while (*p == ' ') {
1611                    p++;
1612                }
1613            }
1614        }
1615        paranoid_fclose(fout);
1616        mr_free(exclude_paths);
1617    }
1618    mr_msg(2, "Copying new filelist to scratchdir");
1619    mr_asprintf(&command, "mkdir -p %s/archives", scratchdir);
1620    paranoid_system(command);
1621    mr_free(command);
1622
1623    mr_asprintf(&command, "cp -f %s %s/archives/", sz_filelist, scratchdir);
1624    paranoid_system(command);
1625    mr_free(command);
1626
1627    mr_asprintf(&command, "mv -f %s %s", sz_filelist, tmpdir);
1628    paranoid_system(command);
1629    mr_free(command);
1630    mr_free(sz_filelist);
1631    mr_free(g_skeleton_filelist);
1632    mr_msg(2, "Exiting");
1633    return (0);
1634}
1635
1636
1637/**
1638 * Locate the string @p string_to_find in the tree rooted at @p startnode.
1639 * @param startnode The node containing the root of the directory tree.
1640 * @param string_to_find The string to look for at @p startnode.
1641 * @return The node containing the last element of @p string_to_find, or NULL if
1642 * it was not found.
1643 */
1644struct s_node *find_string_at_node(struct s_node *startnode,
1645                                   char *string_to_find)
1646{
1647    /*@ int ******************************************************** */
1648    int noof_chars;
1649    static int depth = 0;
1650    static char original_string[MAX_STR_LEN];
1651
1652    /*@ sturctures ************************************************* */
1653    struct s_node *node;
1654
1655    /*@ char  ****************************************************** */
1656    char char_to_find;
1657
1658    /*@ bools ****************************************************** */
1659
1660    if (!depth) {
1661        strcpy(original_string, string_to_find);
1662    }
1663
1664    assert(startnode != NULL);
1665    assert(string_to_find != NULL);
1666
1667    noof_chars = strlen(string_to_find) + 1;    /* we include the '\0' */
1668
1669    mr_msg(7, "starting --- str=%s", string_to_find);
1670
1671/* walk across tree if necessary */
1672    node = startnode;
1673    char_to_find = string_to_find[0];
1674    if (node->right != NULL && node->ch < char_to_find) {
1675        mr_msg(7, "depth=%d --- going RIGHT ... %c-->%c", depth,
1676                char_to_find, node->ch, (node->right)->ch);
1677        return (find_string_at_node(node->right, string_to_find));
1678    }
1679
1680/* walk down tree if appropriate */
1681    if (node->down != NULL && node->ch == char_to_find) {
1682        mr_msg(7, "depth=%d char=%c --- going DOWN", depth, char_to_find);
1683        depth++;
1684        node = find_string_at_node(node->down, string_to_find + 1);
1685        depth--;
1686        return (node);
1687    }
1688
1689    if (char_to_find == '\0' && node->ch == '\0') {
1690        mr_msg(7, "%s is in tree", original_string);
1691        return (node);
1692    } else {
1693        mr_msg(7, "%s is NOT in tree", original_string);
1694        return (NULL);
1695    }
1696}
1697
1698
1699/**
1700 * Write all entries in @p needles_list_fname which are also in
1701 * @p filelist to @p matches_list_fname.
1702 * @param needles_list_fname A file containing strings to look for, 1 per line.
1703 * @param filelist The node for the root of the directory structure to search in.
1704 * @param matches_list_fname The filename where we should put the matches.
1705 * @return The number of matches found.
1706 */
1707long save_filelist_entries_in_common(char *needles_list_fname,
1708                                     struct s_node *filelist,
1709                                     char *matches_list_fname,
1710                                     bool use_star)
1711{
1712    int retval = 0;
1713    struct s_node *found_node = NULL;
1714    FILE *fin = NULL;
1715    FILE *fout = NULL;
1716    char *fname = NULL;
1717    char *tmp = NULL;
1718    size_t len = 0;             // Scrub's patch doesn't work without that
1719
1720    mr_msg(5, "starting");
1721    mr_msg(5, "needles_list_fname = %s", needles_list_fname);
1722    mr_msg(5, "matches_list_fname = %s", matches_list_fname);
1723    if (!(fin = fopen(needles_list_fname, "r"))) {
1724        fatal_error("Cannot openin needles_list_fname");
1725    }
1726    if (!(fout = fopen(matches_list_fname, "w"))) {
1727        fatal_error("Cannot openout matches_list_fname");
1728    }
1729    while (!feof(fin)) {
1730        mr_getline(&fname, &len, fin);
1731        if (!use_star) {
1732            if (fname[0] == '/') {
1733                mr_asprintf(&tmp, fname);
1734            } else {
1735                mr_asprintf(&tmp, "/%s", fname);
1736            }
1737            mr_free(fname);
1738            fname = tmp;
1739        }
1740        while (strlen(fname) > 0 && fname[strlen(fname) - 1] < 32) {
1741            fname[strlen(fname) - 1] = '\0';
1742        }
1743
1744        mr_msg(5, "Looking for '%s'", fname);
1745        found_node = find_string_at_node(filelist, fname);
1746        if (found_node) {
1747            if (found_node->selected) {
1748                if (fname[0] == '/') {
1749                    mr_asprintf(&tmp, fname + 1);
1750                    mr_free(fname);
1751                    fname = tmp;
1752                }
1753                mr_msg(5, "Found '%s'", fname);
1754                tmp = mr_stresc(fname, WILDCHARS, BACKSLASH);
1755                fprintf(fout, "%s\n", tmp);
1756                mr_free(tmp);
1757                retval++;
1758            }
1759        }
1760        mr_free(fname);
1761    }
1762    paranoid_fclose(fout);
1763    paranoid_fclose(fin);
1764    return (retval);
1765}
1766
1767
1768/**
1769 * Add all files listed in @p list_of_files_fname to the directory structure rooted at
1770 * @p filelist.
1771 * @param filelist The top node of the directory structure to add the files to.
1772 * @param list_of_files_fname The file containing the files to add, 1 per line.
1773 * @param flag_em If TRUE, then flag the added files for restoration.
1774 * @return 0 for success, nonzero for failure.
1775 */
1776int add_list_of_files_to_filelist(struct s_node *filelist,
1777                                  char *list_of_files_fname, bool flag_em)
1778{
1779    FILE *fin;
1780    char *tmp = NULL;
1781    size_t n = 0;
1782    struct s_node *nod;
1783
1784    mr_msg(3, "Adding %s to filelist", list_of_files_fname);
1785    if (!(fin = fopen(list_of_files_fname, "r"))) {
1786        iamhere(list_of_files_fname);
1787        return (1);
1788    }
1789    for (mr_getline(&tmp, &n, fin); !feof(fin); mr_getline(&tmp, &n, fin)) {
1790        if (!tmp[0]) {
1791            continue;
1792        }
1793        if ((tmp[strlen(tmp) - 1] == 13 || tmp[strlen(tmp) - 1] == 10)
1794            && strlen(tmp) > 0) {
1795            tmp[strlen(tmp) - 1] = '\0';
1796        }
1797        mr_msg(2, "tmp = '%s'", tmp);
1798        if (!tmp[0]) {
1799            continue;
1800        }
1801        if ((nod = find_string_at_node(filelist, tmp))) {
1802            mr_msg(5, "Found '%s' in filelist already. Cool.", tmp);
1803        } else {
1804            add_string_at_node(filelist, tmp);
1805            nod = find_string_at_node(filelist, tmp);
1806        }
1807
1808        if (nod && flag_em) {
1809            toggle_path_selection(filelist, tmp, TRUE);
1810            mr_msg(5, "Flagged '%s'", tmp);
1811        }
1812    }
1813    paranoid_fclose(fin);
1814    mr_free(tmp);
1815    return (0);
1816}
1817
1818/* @} - end of filelistGroup */
Note: See TracBrowser for help on using the repository browser.