]> sjero.net Git - wget/blob - src/main.c
[svn] Implemented breadth-first retrieval.
[wget] / src / main.c
1 /* Command line parsing.
2    Copyright (C) 1995, 1996, 1997, 1998, 2000, 2001
3    Free Software Foundation, Inc.
4
5 This file is part of GNU Wget.
6
7 GNU Wget is free software; you can redistribute it and/or modify
8 it under the terms of the GNU General Public License as published by
9 the Free Software Foundation; either version 2 of the License, or
10 (at your option) any later version.
11
12 GNU Wget is distributed in the hope that it will be useful,
13 but WITHOUT ANY WARRANTY; without even the implied warranty of
14 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15 GNU General Public License for more details.
16
17 You should have received a copy of the GNU General Public License
18 along with Wget; if not, write to the Free Software
19 Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.  */
20
21 #include <config.h>
22
23 #include <stdio.h>
24 #include <stdlib.h>
25 #ifdef HAVE_UNISTD_H
26 # include <unistd.h>
27 #endif /* HAVE_UNISTD_H */
28 #include <sys/types.h>
29 #ifdef HAVE_STRING_H
30 # include <string.h>
31 #else
32 # include <strings.h>
33 #endif /* HAVE_STRING_H */
34 #ifdef HAVE_SIGNAL_H
35 # include <signal.h>
36 #endif
37 #ifdef HAVE_NLS
38 #ifdef HAVE_LOCALE_H
39 # include <locale.h>
40 #endif /* HAVE_LOCALE_H */
41 #endif /* HAVE_NLS */
42 #include <errno.h>
43
44 #define OPTIONS_DEFINED_HERE    /* for options.h */
45
46 #include "wget.h"
47 #include "utils.h"
48 #include "init.h"
49 #include "retr.h"
50 #include "recur.h"
51 #include "host.h"
52 #include "cookies.h"
53 #include "url.h"
54 #include "progress.h"           /* for progress_handle_sigwinch */
55
56 /* On GNU system this will include system-wide getopt.h. */
57 #include "getopt.h"
58
59 #ifndef PATH_SEPARATOR
60 # define PATH_SEPARATOR '/'
61 #endif
62
63 extern char *version_string;
64
65 #ifndef errno
66 extern int errno;
67 #endif
68
69 struct options opt;
70
71 /* From log.c.  */
72 void log_init PARAMS ((const char *, int));
73 void log_close PARAMS ((void));
74 void redirect_output PARAMS ((const char *));
75
76 static RETSIGTYPE redirect_output_signal PARAMS ((int));
77
78 const char *exec_name;
79 \f
80 /* Initialize I18N.  The initialization amounts to invoking
81    setlocale(), bindtextdomain() and textdomain().
82    Does nothing if NLS is disabled or missing.  */
83 static void
84 i18n_initialize (void)
85 {
86   /* If HAVE_NLS is defined, assume the existence of the three
87      functions invoked here.  */
88 #ifdef HAVE_NLS
89   /* Set the current locale.  */
90   /* Here we use LC_MESSAGES instead of LC_ALL, for two reasons.
91      First, message catalogs are all of I18N Wget uses anyway.
92      Second, setting LC_ALL has a dangerous potential of messing
93      things up.  For example, when in a foreign locale, Solaris
94      strptime() fails to handle international dates correctly, which
95      makes http_atotm() malfunction.  */
96 #ifdef LC_MESSAGES
97   setlocale (LC_MESSAGES, "");
98   setlocale (LC_CTYPE, "");
99 #else
100   setlocale (LC_ALL, "");
101 #endif
102   /* Set the text message domain.  */
103   bindtextdomain ("wget", LOCALEDIR);
104   textdomain ("wget");
105 #endif /* HAVE_NLS */
106 }
107
108 /* It's kosher to declare these here because their interface _has_ to
109    be void foo(void).  */
110 void host_init PARAMS ((void));
111
112 /* This just calls the various initialization functions from the
113    modules that need one-time initialization. */
114 static void
115 private_initialize (void)
116 {
117   host_init ();
118 }
119 \f
120 /* Print the usage message.  */
121 static void
122 print_usage (void)
123 {
124   printf (_("Usage: %s [OPTION]... [URL]...\n"), exec_name);
125 }
126
127 /* Print the help message, describing all the available options.  If
128    you add an option, be sure to update this list.  */
129 static void
130 print_help (void)
131 {
132   printf (_("GNU Wget %s, a non-interactive network retriever.\n"),
133           version_string);
134   print_usage ();
135   /* Had to split this in parts, so the #@@#%# Ultrix compiler and cpp
136      don't bitch.  Also, it makes translation much easier.  */
137   fputs (_("\
138 \n\
139 Mandatory arguments to long options are mandatory for short options too.\n\
140 \n"), stdout);
141   fputs (_("\
142 Startup:\n\
143   -V,  --version           display the version of Wget and exit.\n\
144   -h,  --help              print this help.\n\
145   -b,  --background        go to background after startup.\n\
146   -e,  --execute=COMMAND   execute a `.wgetrc\'-style command.\n\
147 \n"), stdout);
148   fputs (_("\
149 Logging and input file:\n\
150   -o,  --output-file=FILE     log messages to FILE.\n\
151   -a,  --append-output=FILE   append messages to FILE.\n\
152   -d,  --debug                print debug output.\n\
153   -q,  --quiet                quiet (no output).\n\
154   -v,  --verbose              be verbose (this is the default).\n\
155   -nv, --non-verbose          turn off verboseness, without being quiet.\n\
156   -i,  --input-file=FILE      download URLs found in FILE.\n\
157   -F,  --force-html           treat input file as HTML.\n\
158   -B,  --base=URL             prepends URL to relative links in -F -i file.\n\
159        --sslcertfile=FILE     optional client certificate.\n\
160        --sslcertkey=KEYFILE   optional keyfile for this certificate.\n\
161 \n"), stdout);
162   fputs (_("\
163 Download:\n\
164        --bind-address=ADDRESS   bind to ADDRESS (hostname or IP) on local host.\n\
165   -t,  --tries=NUMBER           set number of retries to NUMBER (0 unlimits).\n\
166   -O   --output-document=FILE   write documents to FILE.\n\
167   -nc, --no-clobber             don\'t clobber existing files or use .# suffixes.\n\
168   -c,  --continue               resume getting a partially-downloaded file.\n\
169        --progress=TYPE          select progress gauge type.\n\
170   -N,  --timestamping           don\'t re-retrieve files unless newer than local.\n\
171   -S,  --server-response        print server response.\n\
172        --spider                 don\'t download anything.\n\
173   -T,  --timeout=SECONDS        set the read timeout to SECONDS.\n\
174   -w,  --wait=SECONDS           wait SECONDS between retrievals.\n\
175        --waitretry=SECONDS      wait 1...SECONDS between retries of a retrieval.\n\
176   -Y,  --proxy=on/off           turn proxy on or off.\n\
177   -Q,  --quota=NUMBER           set retrieval quota to NUMBER.\n\
178 \n"), stdout);
179   fputs (_("\
180 Directories:\n\
181   -nd  --no-directories            don\'t create directories.\n\
182   -x,  --force-directories         force creation of directories.\n\
183   -nH, --no-host-directories       don\'t create host directories.\n\
184   -P,  --directory-prefix=PREFIX   save files to PREFIX/...\n\
185        --cut-dirs=NUMBER           ignore NUMBER remote directory components.\n\
186 \n"), stdout);
187   fputs (_("\
188 HTTP options:\n\
189        --http-user=USER      set http user to USER.\n\
190        --http-passwd=PASS    set http password to PASS.\n\
191   -C,  --cache=on/off        (dis)allow server-cached data (normally allowed).\n\
192   -E,  --html-extension      save all text/html documents with .html extension.\n\
193        --ignore-length       ignore `Content-Length\' header field.\n\
194        --header=STRING       insert STRING among the headers.\n\
195        --proxy-user=USER     set USER as proxy username.\n\
196        --proxy-passwd=PASS   set PASS as proxy password.\n\
197        --referer=URL         include `Referer: URL\' header in HTTP request.\n\
198   -s,  --save-headers        save the HTTP headers to file.\n\
199   -U,  --user-agent=AGENT    identify as AGENT instead of Wget/VERSION.\n\
200        --no-http-keep-alive  disable HTTP keep-alive (persistent connections).\n\
201        --cookies=off         don't use cookies.\n\
202        --load-cookies=FILE   load cookies from FILE before session.\n\
203        --save-cookies=FILE   save cookies to FILE after session.\n\
204 \n"), stdout);
205   fputs (_("\
206 FTP options:\n\
207   -nr, --dont-remove-listing   don\'t remove `.listing\' files.\n\
208   -g,  --glob=on/off           turn file name globbing on or off.\n\
209        --passive-ftp           use the \"passive\" transfer mode.\n\
210        --retr-symlinks         when recursing, get linked-to files (not dirs).\n\
211 \n"), stdout);
212   fputs (_("\
213 Recursive retrieval:\n\
214   -r,  --recursive          recursive web-suck -- use with care!\n\
215   -l,  --level=NUMBER       maximum recursion depth (inf or 0 for infinite).\n\
216        --delete-after       delete files locally after downloading them.\n\
217   -k,  --convert-links      convert non-relative links to relative.\n\
218   -K,  --backup-converted   before converting file X, back up as X.orig.\n\
219   -m,  --mirror             shortcut option equivalent to -r -N -l inf -nr.\n\
220   -p,  --page-requisites    get all images, etc. needed to display HTML page.\n\
221 \n"), stdout);
222   fputs (_("\
223 Recursive accept/reject:\n\
224   -A,  --accept=LIST                comma-separated list of accepted extensions.\n\
225   -R,  --reject=LIST                comma-separated list of rejected extensions.\n\
226   -D,  --domains=LIST               comma-separated list of accepted domains.\n\
227        --exclude-domains=LIST       comma-separated list of rejected domains.\n\
228        --follow-ftp                 follow FTP links from HTML documents.\n\
229        --follow-tags=LIST           comma-separated list of followed HTML tags.\n\
230   -G,  --ignore-tags=LIST           comma-separated list of ignored HTML tags.\n\
231   -H,  --span-hosts                 go to foreign hosts when recursive.\n\
232   -L,  --relative                   follow relative links only.\n\
233   -I,  --include-directories=LIST   list of allowed directories.\n\
234   -X,  --exclude-directories=LIST   list of excluded directories.\n\
235   -nh, --no-host-lookup             don\'t DNS-lookup hosts.\n\
236   -np, --no-parent                  don\'t ascend to the parent directory.\n\
237 \n"), stdout);
238   fputs (_("Mail bug reports and suggestions to <bug-wget@gnu.org>.\n"),
239          stdout);
240 }
241 \f
242 int
243 main (int argc, char *const *argv)
244 {
245   char **url, **t;
246   int i, c, nurl, status, append_to_log;
247
248   static struct option long_options[] =
249   {
250     /* Options without arguments: */
251     { "background", no_argument, NULL, 'b' },
252     { "backup-converted", no_argument, NULL, 'K' },
253     { "continue", no_argument, NULL, 'c' },
254     { "convert-links", no_argument, NULL, 'k' },
255     { "debug", no_argument, NULL, 'd' },
256     { "delete-after", no_argument, NULL, 136 },
257     { "dont-remove-listing", no_argument, NULL, 149 },
258     { "follow-ftp", no_argument, NULL, 142 },
259     { "force-directories", no_argument, NULL, 'x' },
260     { "force-hier", no_argument, NULL, 'x' }, /* obsolete */
261     { "force-html", no_argument, NULL, 'F'},
262     { "help", no_argument, NULL, 'h' },
263     { "html-extension", no_argument, NULL, 'E' },
264     { "ignore-length", no_argument, NULL, 138 },
265     { "mirror", no_argument, NULL, 'm' },
266     { "no-clobber", no_argument, NULL, 141 },
267     { "no-directories", no_argument, NULL, 147 },
268     { "no-host-directories", no_argument, NULL, 148 },
269     { "no-host-lookup", no_argument, NULL, 150 },
270     { "no-http-keep-alive", no_argument, NULL, 156 },
271     { "no-parent", no_argument, NULL, 133 },
272     { "non-verbose", no_argument, NULL, 146 },
273     { "passive-ftp", no_argument, NULL, 139 },
274     { "page-requisites", no_argument, NULL, 'p' },
275     { "quiet", no_argument, NULL, 'q' },
276     { "recursive", no_argument, NULL, 'r' },
277     { "relative", no_argument, NULL, 'L' },
278     { "retr-symlinks", no_argument, NULL, 137 },
279     { "save-headers", no_argument, NULL, 's' },
280     { "server-response", no_argument, NULL, 'S' },
281     { "span-hosts", no_argument, NULL, 'H' },
282     { "spider", no_argument, NULL, 132 },
283     { "timestamping", no_argument, NULL, 'N' },
284     { "verbose", no_argument, NULL, 'v' },
285     { "version", no_argument, NULL, 'V' },
286
287     /* Options accepting an argument: */
288     { "accept", required_argument, NULL, 'A' },
289     { "append-output", required_argument, NULL, 'a' },
290     { "backups", required_argument, NULL, 151 }, /* undocumented */
291     { "base", required_argument, NULL, 'B' },
292     { "bind-address", required_argument, NULL, 155 },
293     { "cache", required_argument, NULL, 'C' },
294     { "cookies", required_argument, NULL, 160 },
295     { "cut-dirs", required_argument, NULL, 145 },
296     { "directory-prefix", required_argument, NULL, 'P' },
297     { "domains", required_argument, NULL, 'D' },
298     { "dot-style", required_argument, NULL, 134 },
299     { "execute", required_argument, NULL, 'e' },
300     { "exclude-directories", required_argument, NULL, 'X' },
301     { "exclude-domains", required_argument, NULL, 140 },
302     { "follow-tags", required_argument, NULL, 153 },
303     { "glob", required_argument, NULL, 'g' },
304     { "header", required_argument, NULL, 131 },
305     { "htmlify", required_argument, NULL, 135 },
306     { "http-passwd", required_argument, NULL, 130 },
307     { "http-user", required_argument, NULL, 129 },
308     { "ignore-tags", required_argument, NULL, 'G' },
309     { "include-directories", required_argument, NULL, 'I' },
310     { "input-file", required_argument, NULL, 'i' },
311     { "level", required_argument, NULL, 'l' },
312     { "load-cookies", required_argument, NULL, 161 },
313     { "no", required_argument, NULL, 'n' },
314     { "output-document", required_argument, NULL, 'O' },
315     { "output-file", required_argument, NULL, 'o' },
316     { "progress", required_argument, NULL, 163 },
317     { "proxy", required_argument, NULL, 'Y' },
318     { "proxy-passwd", required_argument, NULL, 144 },
319     { "proxy-user", required_argument, NULL, 143 },
320     { "quota", required_argument, NULL, 'Q' },
321     { "reject", required_argument, NULL, 'R' },
322     { "save-cookies", required_argument, NULL, 162 },
323     { "timeout", required_argument, NULL, 'T' },
324     { "tries", required_argument, NULL, 't' },
325     { "user-agent", required_argument, NULL, 'U' },
326     { "referer", required_argument, NULL, 157 },
327     { "use-proxy", required_argument, NULL, 'Y' },
328 #ifdef HAVE_SSL
329     { "sslcertfile", required_argument, NULL, 158 },
330     { "sslcertkey", required_argument, NULL, 159 },
331 #endif /* HAVE_SSL */
332     { "wait", required_argument, NULL, 'w' },
333     { "waitretry", required_argument, NULL, 152 },
334     { 0, 0, 0, 0 }
335   };
336
337   i18n_initialize ();
338   private_initialize ();
339
340   append_to_log = 0;
341
342   /* Construct the name of the executable, without the directory part.  */
343   exec_name = strrchr (argv[0], PATH_SEPARATOR);
344   if (!exec_name)
345     exec_name = argv[0];
346   else
347     ++exec_name;
348
349 #ifdef WINDOWS
350   windows_main_junk (&argc, (char **) argv, (char **) &exec_name);
351 #endif
352
353   initialize (); /* sets option defaults; reads the system wgetrc and .wgetrc */
354
355   /* [Is the order of the option letters significant?  If not, they should be
356       alphabetized, like the long_options.  The only thing I know for sure is
357       that the options with required arguments must be followed by a ':'.
358       -- Dan Harkless <wget@harkless.org>] */
359   while ((c = getopt_long (argc, argv, "\
360 hpVqvdkKsxmNWrHSLcFbEY:G:g:T:U:O:l:n:i:o:a:t:D:A:R:P:B:e:Q:X:I:w:C:",
361                            long_options, (int *)0)) != EOF)
362     {
363       switch (c)
364         {
365           /* Options without arguments: */
366         case 132:
367           setval ("spider", "on");
368           break;
369         case 133:
370           setval ("noparent", "on");
371           break;
372         case 136:
373           setval ("deleteafter", "on");
374           break;
375         case 137:
376           setval ("retrsymlinks", "on");
377           break;
378         case 138:
379           setval ("ignorelength", "on");
380           break;
381         case 139:
382           setval ("passiveftp", "on");
383           break;
384         case 141:
385           setval ("noclobber", "on");
386           break;
387         case 142:
388           setval ("followftp", "on");
389           break;
390         case 145:
391           setval ("cutdirs", optarg);
392           break;
393         case 146:
394           setval ("verbose", "off");
395           break;
396         case 147:
397           setval ("dirstruct", "off");
398           break;
399         case 148:
400           setval ("addhostdir", "off");
401           break;
402         case 149:
403           setval ("removelisting", "off");
404           break;
405         case 155:
406           setval ("bindaddress", optarg);
407           break;
408         case 156:
409           setval ("httpkeepalive", "off");
410           break;
411         case 'b':
412           setval ("background", "on");
413           break;
414         case 'c':
415           setval ("continue", "on");
416           break;
417         case 'd':
418 #ifdef DEBUG
419           setval ("debug", "on");
420 #else  /* not DEBUG */
421           fprintf (stderr, _("%s: debug support not compiled in.\n"),
422                    exec_name);
423 #endif /* not DEBUG */
424           break;
425         case 'E':
426           setval ("htmlextension", "on");
427           break;
428         case 'F':
429           setval ("forcehtml", "on");
430           break;
431         case 'H':
432           setval ("spanhosts", "on");
433           break;
434         case 'h':
435           print_help ();
436 #ifdef WINDOWS
437           ws_help (exec_name);
438 #endif
439           exit (0);
440           break;
441         case 'K':
442           setval ("backupconverted", "on");
443           break;
444         case 'k':
445           setval ("convertlinks", "on");
446           break;
447         case 'L':
448           setval ("relativeonly", "on");
449           break;
450         case 'm':
451           setval ("mirror", "on");
452           break;
453         case 'N':
454           setval ("timestamping", "on");
455           break;
456         case 'p':
457           setval ("pagerequisites", "on");
458           break;
459         case 'S':
460           setval ("serverresponse", "on");
461           break;
462         case 's':
463           setval ("saveheaders", "on");
464           break;
465         case 'q':
466           setval ("quiet", "on");
467           break;
468         case 'r':
469           setval ("recursive", "on");
470           break;
471         case 'V':
472           printf ("GNU Wget %s\n\n", version_string);
473           printf ("%s", _("\
474 Copyright (C) 1995, 1996, 1997, 1998, 2000, 2001 Free Software Foundation, Inc.\n"));
475           printf ("%s", _("\
476 This program is distributed in the hope that it will be useful,\n\
477 but WITHOUT ANY WARRANTY; without even the implied warranty of\n\
478 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the\n\
479 GNU General Public License for more details.\n"));
480           printf (_("\nOriginally written by Hrvoje Niksic <hniksic@arsdigita.com>.\n"));
481           exit (0);
482           break;
483         case 'v':
484           setval ("verbose", "on");
485           break;
486         case 'x':
487           setval ("dirstruct", "on");
488           break;
489
490           /* Options accepting an argument: */
491         case 129:
492           setval ("httpuser", optarg);
493           break;
494         case 130:
495           setval ("httppasswd", optarg);
496           break;
497         case 131:
498           setval ("header", optarg);
499           break;
500         case 134:
501           /* Supported for compatibility; --dot-style=foo equivalent
502              to --progress=dot:foo.  */
503           {
504             char *tmp = alloca (3 + 1 + strlen (optarg));
505             sprintf (tmp, "dot:%s", optarg);
506             setval ("progress", tmp);
507           }
508           break;
509         case 135:
510           setval ("htmlify", optarg);
511           break;
512         case 140:
513           setval ("excludedomains", optarg);
514           break;
515         case 143:
516           setval ("proxyuser", optarg);
517           break;
518         case 144:
519           setval ("proxypasswd", optarg);
520           break;
521         case 151:
522           setval ("backups", optarg);
523           break;
524         case 152:
525           setval ("waitretry", optarg);
526           break;
527         case 153:
528           setval ("followtags", optarg);
529           break;
530         case 160:
531           setval ("cookies", optarg);
532           break;
533         case 161:
534           setval ("loadcookies", optarg);
535           break;
536         case 162:
537           setval ("savecookies", optarg);
538           break;
539         case 163:
540           setval ("progress", optarg);
541           break;
542         case 157:
543           setval ("referer", optarg);
544           break;
545 #ifdef HAVE_SSL
546         case 158:
547           setval ("sslcertfile", optarg);
548           break;
549         case 159:
550           setval ("sslcertkey", optarg);
551           break;
552 #endif /* HAVE_SSL */
553         case 'A':
554           setval ("accept", optarg);
555           break;
556         case 'a':
557           setval ("logfile", optarg);
558           append_to_log = 1;
559           break;
560         case 'B':
561           setval ("base", optarg);
562           break;
563         case 'C':
564           setval ("cache", optarg);
565           break;
566         case 'D':
567           setval ("domains", optarg);
568           break;
569         case 'e':
570           {
571             char *com, *val;
572             if (parse_line (optarg, &com, &val))
573               {
574                 if (!setval (com, val))
575                   exit (1);
576               }
577             else
578               {
579                 fprintf (stderr, _("%s: %s: invalid command\n"), exec_name,
580                          optarg);
581                 exit (1);
582               }
583             xfree (com);
584             xfree (val);
585           }
586           break;
587         case 'G':
588           setval ("ignoretags", optarg);
589           break;
590         case 'g':
591           setval ("glob", optarg);
592           break;
593         case 'I':
594           setval ("includedirectories", optarg);
595           break;
596         case 'i':
597           setval ("input", optarg);
598           break;
599         case 'l':
600           setval ("reclevel", optarg);
601           break;
602         case 'n':
603           {
604             /* #### What we really want here is --no-foo. */
605             char *p;
606
607             for (p = optarg; *p; p++)
608               switch (*p)
609                 {
610                 case 'v':
611                   setval ("verbose", "off");
612                   break;
613                 case 'H':
614                   setval ("addhostdir", "off");
615                   break;
616                 case 'd':
617                   setval ("dirstruct", "off");
618                   break;
619                 case 'c':
620                   setval ("noclobber", "on");
621                   break;
622                 case 'r':
623                   setval ("removelisting", "off");
624                   break;
625                 case 'p':
626                   setval ("noparent", "on");
627                   break;
628                 case 'k':
629                   setval ("httpkeepalive", "off");
630                   break;
631                 default:
632                   printf (_("%s: illegal option -- `-n%c'\n"), exec_name, *p);
633                   print_usage ();
634                   printf ("\n");
635                   printf (_("Try `%s --help\' for more options.\n"), exec_name);
636                   exit (1);
637                 }
638             break;
639           }
640         case 'O':
641           setval ("outputdocument", optarg);
642           break;
643         case 'o':
644           setval ("logfile", optarg);
645           break;
646         case 'P':
647           setval ("dirprefix", optarg);
648           break;
649         case 'Q':
650           setval ("quota", optarg);
651           break;
652         case 'R':
653           setval ("reject", optarg);
654           break;
655         case 'T':
656           setval ("timeout", optarg);
657           break;
658         case 't':
659           setval ("tries", optarg);
660           break;
661         case 'U':
662           setval ("useragent", optarg);
663           break;
664         case 'w':
665           setval ("wait", optarg);
666           break;
667         case 'X':
668           setval ("excludedirectories", optarg);
669           break;
670         case 'Y':
671           setval ("useproxy", optarg);
672           break;
673
674         case '?':
675           print_usage ();
676           printf ("\n");
677           printf (_("Try `%s --help' for more options.\n"), exec_name);
678           exit (0);
679           break;
680         }
681     }
682
683   /* Initialize progress.  Have to do this after the options are
684      processed so we know where the log file is.  */
685   if (opt.verbose)
686     set_progress_implementation (opt.progress_type);
687
688   /* All user options have now been processed, so it's now safe to do
689      interoption dependency checks. */
690
691   if (opt.reclevel == 0)
692     opt.reclevel = INFINITE_RECURSION;  /* see wget.h for commentary on this */
693
694   if (opt.page_requisites && !opt.recursive)
695     {
696       opt.recursive = TRUE;
697       opt.reclevel = 0;
698       if (!opt.no_dirstruct)
699         opt.dirstruct = TRUE;  /* usually handled by cmd_spec_recursive() */
700     }
701
702   if (opt.verbose == -1)
703     opt.verbose = !opt.quiet;
704
705   /* Sanity checks.  */
706   if (opt.verbose && opt.quiet)
707     {
708       printf (_("Can't be verbose and quiet at the same time.\n"));
709       print_usage ();
710       exit (1);
711     }
712   if (opt.timestamping && opt.noclobber)
713     {
714       printf (_("\
715 Can't timestamp and not clobber old files at the same time.\n"));
716       print_usage ();
717       exit (1);
718     }
719   nurl = argc - optind;
720   if (!nurl && !opt.input_filename)
721     {
722       /* No URL specified.  */
723       printf (_("%s: missing URL\n"), exec_name);
724       print_usage ();
725       printf ("\n");
726       /* #### Something nicer should be printed here -- similar to the
727          pre-1.5 `--help' page.  */
728       printf (_("Try `%s --help' for more options.\n"), exec_name);
729       exit (1);
730     }
731
732   if (opt.background)
733     fork_to_background ();
734
735   /* Allocate basic pointer.  */
736   url = ALLOCA_ARRAY (char *, nurl + 1);
737   /* Fill in the arguments.  */
738   for (i = 0; i < nurl; i++, optind++)
739     {
740       char *rewritten = rewrite_shorthand_url (argv[optind]);
741       if (rewritten)
742         {
743           printf ("Converted %s to %s\n", argv[optind], rewritten);
744           url[i] = rewritten;
745         }
746       else
747         url[i] = xstrdup (argv[optind]);
748     }
749   url[i] = NULL;
750
751   /* Change the title of console window on Windows.  #### I think this
752      statement should belong to retrieve_url().  --hniksic.  */
753 #ifdef WINDOWS
754   ws_changetitle (*url, nurl);
755 #endif
756
757   /* Initialize logging.  */
758   log_init (opt.lfilename, append_to_log);
759
760   DEBUGP (("DEBUG output created by Wget %s on %s.\n\n", version_string,
761            OS_TYPE));
762
763   /* Open the output filename if necessary.  */
764   if (opt.output_document)
765     {
766       if (HYPHENP (opt.output_document))
767         opt.dfp = stdout;
768       else
769         {
770           struct stat st;
771           opt.dfp = fopen (opt.output_document, opt.always_rest ? "ab" : "wb");
772           if (opt.dfp == NULL)
773             {
774               perror (opt.output_document);
775               exit (1);
776             }
777           if (fstat (fileno (opt.dfp), &st) == 0 && S_ISREG (st.st_mode))
778             opt.od_known_regular = 1;
779         }
780     }
781
782 #ifdef WINDOWS
783   ws_startup ();
784 #endif
785
786   /* Setup the signal handler to redirect output when hangup is
787      received.  */
788 #ifdef HAVE_SIGNAL
789   if (signal(SIGHUP, SIG_IGN) != SIG_IGN)
790     signal(SIGHUP, redirect_output_signal);
791   /* ...and do the same for SIGUSR1.  */
792   signal (SIGUSR1, redirect_output_signal);
793   /* Writing to a closed socket normally signals SIGPIPE, and the
794      process exits.  What we want is to ignore SIGPIPE and just check
795      for the return value of write().  */
796   signal (SIGPIPE, SIG_IGN);
797 #ifdef SIGWINCH
798   signal (SIGWINCH, progress_handle_sigwinch);
799 #endif
800 #endif /* HAVE_SIGNAL */
801
802   status = RETROK;              /* initialize it, just-in-case */
803   /*recursive_reset ();*/
804   /* Retrieve the URLs from argument list.  */
805   for (t = url; *t; t++)
806     {
807       char *filename = NULL, *redirected_URL = NULL;
808       int dt;
809
810       if (opt.recursive && url_scheme (*t) != SCHEME_FTP)
811         status = retrieve_tree (*t);
812       else
813         status = retrieve_url (*t, &filename, &redirected_URL, NULL, &dt);
814
815       if (opt.delete_after && file_exists_p(filename))
816         {
817           DEBUGP (("Removing file due to --delete-after in main():\n"));
818           logprintf (LOG_VERBOSE, _("Removing %s.\n"), filename);
819           if (unlink (filename))
820             logprintf (LOG_NOTQUIET, "unlink: %s\n", strerror (errno));
821         }
822
823       FREE_MAYBE (redirected_URL);
824       FREE_MAYBE (filename);
825     }
826
827   /* And then from the input file, if any.  */
828   if (opt.input_filename)
829     {
830       int count;
831       status = retrieve_from_file (opt.input_filename, opt.force_html, &count);
832       if (!count)
833         logprintf (LOG_NOTQUIET, _("No URLs found in %s.\n"),
834                    opt.input_filename);
835     }
836   /* Print the downloaded sum.  */
837   if (opt.recursive
838       || nurl > 1
839       || (opt.input_filename && opt.downloaded != 0))
840     {
841       logprintf (LOG_NOTQUIET,
842                  _("\nFINISHED --%s--\nDownloaded: %s bytes in %d files\n"),
843                  time_str (NULL),
844                  (opt.downloaded_overflow ?
845                   "<overflow>" : legible_very_long (opt.downloaded)),
846                  opt.numurls);
847       /* Print quota warning, if exceeded.  */
848       if (downloaded_exceeds_quota ())
849         logprintf (LOG_NOTQUIET,
850                    _("Download quota (%s bytes) EXCEEDED!\n"),
851                    legible (opt.quota));
852     }
853
854   if (opt.cookies_output)
855     save_cookies (opt.cookies_output);
856
857   if (opt.convert_links && !opt.delete_after)
858     {
859       convert_all_links ();
860     }
861
862   log_close ();
863   for (i = 0; i < nurl; i++)
864     xfree (url[i]);
865   cleanup ();
866
867 #ifdef DEBUG_MALLOC
868   print_malloc_debug_stats ();
869 #endif
870   if (status == RETROK)
871     return 0;
872   else
873     return 1;
874 }
875 \f
876 #ifdef HAVE_SIGNAL
877 /* Hangup signal handler.  When wget receives SIGHUP or SIGUSR1, it
878    will proceed operation as usual, trying to write into a log file.
879    If that is impossible, the output will be turned off.  */
880
881 static RETSIGTYPE
882 redirect_output_signal (int sig)
883 {
884   char tmp[100];
885   signal (sig, redirect_output_signal);
886   /* Please note that the double `%' in `%%s' is intentional, because
887      redirect_output passes tmp through printf.  */
888   sprintf (tmp, _("%s received, redirecting output to `%%s'.\n"),
889            (sig == SIGHUP ? "SIGHUP" :
890             (sig == SIGUSR1 ? "SIGUSR1" :
891              "WTF?!")));
892   redirect_output (tmp);
893 }
894 #endif /* HAVE_SIGNAL */