]> sjero.net Git - wget/blob - src/main.c
Exit with failure if -k is specified and -O is not a regular file.
[wget] / src / main.c
1 /* Command line parsing.
2    Copyright (C) 1996, 1997, 1998, 1999, 2000, 2001, 2002, 2003, 2004,
3    2005, 2006, 2007, 2008, 2009, 2010 Free Software Foundation, Inc.
4
5 This file is part of GNU Wget.
6
7 GNU Wget is free software; you can redistribute it and/or modify
8 it under the terms of the GNU General Public License as published by
9 the Free Software Foundation; either version 3 of the License, or
10 (at your option) any later version.
11
12 GNU Wget is distributed in the hope that it will be useful,
13 but WITHOUT ANY WARRANTY; without even the implied warranty of
14 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15 GNU General Public License for more details.
16
17 You should have received a copy of the GNU General Public License
18 along with Wget.  If not, see <http://www.gnu.org/licenses/>.
19
20 Additional permission under GNU GPL version 3 section 7
21
22 If you modify this program, or any covered work, by linking or
23 combining it with the OpenSSL project's OpenSSL library (or a
24 modified version of that library), containing parts covered by the
25 terms of the OpenSSL or SSLeay licenses, the Free Software Foundation
26 grants you additional permission to convey the resulting work.
27 Corresponding Source for a non-source form of such a combination
28 shall include the source code for the parts of OpenSSL used as well
29 as that of the covered work.  */
30
31 #include "wget.h"
32
33 #include <stdio.h>
34 #include <stdlib.h>
35 #ifdef HAVE_UNISTD_H
36 # include <unistd.h>
37 #endif /* HAVE_UNISTD_H */
38 #include <string.h>
39 #include <signal.h>
40 #ifdef ENABLE_NLS
41 # include <locale.h>
42 #endif
43 #include <assert.h>
44 #include <errno.h>
45 #include <time.h>
46
47 #include "exits.h"
48 #include "utils.h"
49 #include "init.h"
50 #include "retr.h"
51 #include "recur.h"
52 #include "host.h"
53 #include "url.h"
54 #include "progress.h"           /* for progress_handle_sigwinch */
55 #include "convert.h"
56 #include "spider.h"
57 #include "http.h"               /* for save_cookies */
58
59 #include <getopt.h>
60 #include <getpass.h>
61 #include <quote.h>
62
63 #ifdef __VMS
64 #include "vms.h"
65 #endif /* __VMS */
66
67 #ifndef PATH_SEPARATOR
68 # define PATH_SEPARATOR '/'
69 #endif
70
71 struct options opt;
72
73 /* defined in version.c */
74 extern char *version_string;
75 extern char *compilation_string;
76 extern char *system_getrc;
77 extern char *link_string;
78 /* defined in build_info.c */
79 extern const char *compiled_features[];
80 /* Used for --version output in print_version */
81 #define MAX_CHARS_PER_LINE      72
82 #define TABULATION              4
83
84 #if defined(SIGHUP) || defined(SIGUSR1)
85 static void redirect_output_signal (int);
86 #endif
87
88 const char *exec_name;
89
90 /* Number of successfully downloaded URLs */
91 int numurls = 0;
92 \f
93 #ifndef TESTING
94 /* Initialize I18N/L10N.  That amounts to invoking setlocale, and
95    setting up gettext's message catalog using bindtextdomain and
96    textdomain.  Does nothing if NLS is disabled or missing.  */
97
98 static void
99 i18n_initialize (void)
100 {
101   /* ENABLE_NLS implies existence of functions invoked here.  */
102 #ifdef ENABLE_NLS
103   /* Set the current locale.  */
104   setlocale (LC_ALL, "");
105   /* Set the text message domain.  */
106   bindtextdomain ("wget", LOCALEDIR);
107   textdomain ("wget");
108 #endif /* ENABLE_NLS */
109 }
110 \f
111 /* Definition of command-line options. */
112
113 static void print_help (void);
114 static void print_version (void);
115
116 #ifdef HAVE_SSL
117 # define IF_SSL(x) x
118 #else
119 # define IF_SSL(x) NULL
120 #endif
121
122 #ifdef ENABLE_DEBUG
123 # define WHEN_DEBUG(x) x
124 #else
125 # define WHEN_DEBUG(x) NULL
126 #endif
127
128 struct cmdline_option {
129   const char *long_name;
130   char short_name;
131   enum {
132     OPT_VALUE,
133     OPT_BOOLEAN,
134     OPT_FUNCALL,
135     /* Non-standard options that have to be handled specially in
136        main().  */
137     OPT__APPEND_OUTPUT,
138     OPT__CLOBBER,
139     OPT__DONT_REMOVE_LISTING,
140     OPT__EXECUTE,
141     OPT__NO,
142     OPT__PARENT
143   } type;
144   const void *data;             /* for standard options */
145   int argtype;                  /* for non-standard options */
146 };
147
148 static struct cmdline_option option_data[] =
149   {
150     { "accept", 'A', OPT_VALUE, "accept", -1 },
151     { "adjust-extension", 'E', OPT_BOOLEAN, "adjustextension", -1 },
152     { "append-output", 'a', OPT__APPEND_OUTPUT, NULL, required_argument },
153     { "ask-password", 0, OPT_BOOLEAN, "askpassword", -1 },
154     { "auth-no-challenge", 0, OPT_BOOLEAN, "authnochallenge", -1 },
155     { "background", 'b', OPT_BOOLEAN, "background", -1 },
156     { "backup-converted", 'K', OPT_BOOLEAN, "backupconverted", -1 },
157     { "backups", 0, OPT_BOOLEAN, "backups", -1 },
158     { "base", 'B', OPT_VALUE, "base", -1 },
159     { "bind-address", 0, OPT_VALUE, "bindaddress", -1 },
160     { IF_SSL ("ca-certificate"), 0, OPT_VALUE, "cacertificate", -1 },
161     { IF_SSL ("ca-directory"), 0, OPT_VALUE, "cadirectory", -1 },
162     { "cache", 0, OPT_BOOLEAN, "cache", -1 },
163     { IF_SSL ("certificate"), 0, OPT_VALUE, "certificate", -1 },
164     { IF_SSL ("certificate-type"), 0, OPT_VALUE, "certificatetype", -1 },
165     { IF_SSL ("check-certificate"), 0, OPT_BOOLEAN, "checkcertificate", -1 },
166     { "clobber", 0, OPT__CLOBBER, NULL, optional_argument },
167     { "connect-timeout", 0, OPT_VALUE, "connecttimeout", -1 },
168     { "continue", 'c', OPT_BOOLEAN, "continue", -1 },
169     { "convert-links", 'k', OPT_BOOLEAN, "convertlinks", -1 },
170     { "content-disposition", 0, OPT_BOOLEAN, "contentdisposition", -1 },
171     { "cookies", 0, OPT_BOOLEAN, "cookies", -1 },
172     { "cut-dirs", 0, OPT_VALUE, "cutdirs", -1 },
173     { WHEN_DEBUG ("debug"), 'd', OPT_BOOLEAN, "debug", -1 },
174     { "default-page", 0, OPT_VALUE, "defaultpage", -1 },
175     { "delete-after", 0, OPT_BOOLEAN, "deleteafter", -1 },
176     { "directories", 0, OPT_BOOLEAN, "dirstruct", -1 },
177     { "directory-prefix", 'P', OPT_VALUE, "dirprefix", -1 },
178     { "dns-cache", 0, OPT_BOOLEAN, "dnscache", -1 },
179     { "dns-timeout", 0, OPT_VALUE, "dnstimeout", -1 },
180     { "domains", 'D', OPT_VALUE, "domains", -1 },
181     { "dont-remove-listing", 0, OPT__DONT_REMOVE_LISTING, NULL, no_argument },
182     { "dot-style", 0, OPT_VALUE, "dotstyle", -1 }, /* deprecated */
183     { "egd-file", 0, OPT_VALUE, "egdfile", -1 },
184     { "exclude-directories", 'X', OPT_VALUE, "excludedirectories", -1 },
185     { "exclude-domains", 0, OPT_VALUE, "excludedomains", -1 },
186     { "execute", 'e', OPT__EXECUTE, NULL, required_argument },
187     { "follow-ftp", 0, OPT_BOOLEAN, "followftp", -1 },
188     { "follow-tags", 0, OPT_VALUE, "followtags", -1 },
189     { "force-directories", 'x', OPT_BOOLEAN, "dirstruct", -1 },
190     { "force-html", 'F', OPT_BOOLEAN, "forcehtml", -1 },
191     { "ftp-password", 0, OPT_VALUE, "ftppassword", -1 },
192 #ifdef __VMS
193     { "ftp-stmlf", 0, OPT_BOOLEAN, "ftpstmlf", -1 },
194 #endif /* def __VMS */
195     { "ftp-user", 0, OPT_VALUE, "ftpuser", -1 },
196     { "glob", 0, OPT_BOOLEAN, "glob", -1 },
197     { "header", 0, OPT_VALUE, "header", -1 },
198     { "help", 'h', OPT_FUNCALL, (void *)print_help, no_argument },
199     { "host-directories", 0, OPT_BOOLEAN, "addhostdir", -1 },
200     { "html-extension", 'E', OPT_BOOLEAN, "adjustextension", -1 }, /* deprecated */
201     { "htmlify", 0, OPT_BOOLEAN, "htmlify", -1 },
202     { "http-keep-alive", 0, OPT_BOOLEAN, "httpkeepalive", -1 },
203     { "http-passwd", 0, OPT_VALUE, "httppassword", -1 }, /* deprecated */
204     { "http-password", 0, OPT_VALUE, "httppassword", -1 },
205     { "http-user", 0, OPT_VALUE, "httpuser", -1 },
206     { "ignore-case", 0, OPT_BOOLEAN, "ignorecase", -1 },
207     { "ignore-length", 0, OPT_BOOLEAN, "ignorelength", -1 },
208     { "ignore-tags", 0, OPT_VALUE, "ignoretags", -1 },
209     { "include-directories", 'I', OPT_VALUE, "includedirectories", -1 },
210 #ifdef ENABLE_IPV6
211     { "inet4-only", '4', OPT_BOOLEAN, "inet4only", -1 },
212     { "inet6-only", '6', OPT_BOOLEAN, "inet6only", -1 },
213 #endif
214     { "input-file", 'i', OPT_VALUE, "input", -1 },
215     { "iri", 0, OPT_BOOLEAN, "iri", -1 },
216     { "keep-session-cookies", 0, OPT_BOOLEAN, "keepsessioncookies", -1 },
217     { "level", 'l', OPT_VALUE, "reclevel", -1 },
218     { "limit-rate", 0, OPT_VALUE, "limitrate", -1 },
219     { "load-cookies", 0, OPT_VALUE, "loadcookies", -1 },
220     { "local-encoding", 0, OPT_VALUE, "localencoding", -1 },
221     { "max-redirect", 0, OPT_VALUE, "maxredirect", -1 },
222     { "mirror", 'm', OPT_BOOLEAN, "mirror", -1 },
223     { "no", 'n', OPT__NO, NULL, required_argument },
224     { "no-clobber", 0, OPT_BOOLEAN, "noclobber", -1 },
225     { "no-parent", 0, OPT_BOOLEAN, "noparent", -1 },
226     { "output-document", 'O', OPT_VALUE, "outputdocument", -1 },
227     { "output-file", 'o', OPT_VALUE, "logfile", -1 },
228     { "page-requisites", 'p', OPT_BOOLEAN, "pagerequisites", -1 },
229     { "parent", 0, OPT__PARENT, NULL, optional_argument },
230     { "passive-ftp", 0, OPT_BOOLEAN, "passiveftp", -1 },
231     { "password", 0, OPT_VALUE, "password", -1 },
232     { "post-data", 0, OPT_VALUE, "postdata", -1 },
233     { "post-file", 0, OPT_VALUE, "postfile", -1 },
234     { "prefer-family", 0, OPT_VALUE, "preferfamily", -1 },
235     { "preserve-permissions", 0, OPT_BOOLEAN, "preservepermissions", -1 }, /* deprecated */
236     { IF_SSL ("private-key"), 0, OPT_VALUE, "privatekey", -1 },
237     { IF_SSL ("private-key-type"), 0, OPT_VALUE, "privatekeytype", -1 },
238     { "progress", 0, OPT_VALUE, "progress", -1 },
239     { "protocol-directories", 0, OPT_BOOLEAN, "protocoldirectories", -1 },
240     { "proxy", 0, OPT_BOOLEAN, "useproxy", -1 },
241     { "proxy__compat", 'Y', OPT_VALUE, "useproxy", -1 }, /* back-compatible */
242     { "proxy-passwd", 0, OPT_VALUE, "proxypassword", -1 }, /* deprecated */
243     { "proxy-password", 0, OPT_VALUE, "proxypassword", -1 },
244     { "proxy-user", 0, OPT_VALUE, "proxyuser", -1 },
245     { "quiet", 'q', OPT_BOOLEAN, "quiet", -1 },
246     { "quota", 'Q', OPT_VALUE, "quota", -1 },
247     { "random-file", 0, OPT_VALUE, "randomfile", -1 },
248     { "random-wait", 0, OPT_BOOLEAN, "randomwait", -1 },
249     { "read-timeout", 0, OPT_VALUE, "readtimeout", -1 },
250     { "recursive", 'r', OPT_BOOLEAN, "recursive", -1 },
251     { "referer", 0, OPT_VALUE, "referer", -1 },
252     { "reject", 'R', OPT_VALUE, "reject", -1 },
253     { "relative", 'L', OPT_BOOLEAN, "relativeonly", -1 },
254     { "remote-encoding", 0, OPT_VALUE, "remoteencoding", -1 },
255     { "remove-listing", 0, OPT_BOOLEAN, "removelisting", -1 },
256     { "restrict-file-names", 0, OPT_BOOLEAN, "restrictfilenames", -1 },
257     { "retr-symlinks", 0, OPT_BOOLEAN, "retrsymlinks", -1 },
258     { "retry-connrefused", 0, OPT_BOOLEAN, "retryconnrefused", -1 },
259     { "save-cookies", 0, OPT_VALUE, "savecookies", -1 },
260     { "save-headers", 0, OPT_BOOLEAN, "saveheaders", -1 },
261     { IF_SSL ("secure-protocol"), 0, OPT_VALUE, "secureprotocol", -1 },
262     { "server-response", 'S', OPT_BOOLEAN, "serverresponse", -1 },
263     { "span-hosts", 'H', OPT_BOOLEAN, "spanhosts", -1 },
264     { "spider", 0, OPT_BOOLEAN, "spider", -1 },
265     { "strict-comments", 0, OPT_BOOLEAN, "strictcomments", -1 },
266     { "timeout", 'T', OPT_VALUE, "timeout", -1 },
267     { "timestamping", 'N', OPT_BOOLEAN, "timestamping", -1 },
268     { "tries", 't', OPT_VALUE, "tries", -1 },
269     { "use-server-timestamps", 0, OPT_BOOLEAN, "useservertimestamps", -1 },
270     { "user", 0, OPT_VALUE, "user", -1 },
271     { "user-agent", 'U', OPT_VALUE, "useragent", -1 },
272     { "verbose", 'v', OPT_BOOLEAN, "verbose", -1 },
273     { "verbose", 0, OPT_BOOLEAN, "verbose", -1 },
274     { "version", 'V', OPT_FUNCALL, (void *) print_version, no_argument },
275     { "wait", 'w', OPT_VALUE, "wait", -1 },
276     { "waitretry", 0, OPT_VALUE, "waitretry", -1 },
277 #ifdef USE_WATT32
278     { "wdebug", 0, OPT_BOOLEAN, "wdebug", -1 },
279 #endif
280   };
281
282 #undef WHEN_DEBUG
283 #undef IF_SSL
284
285 /* Return a string that contains S with "no-" prepended.  The string
286    is NUL-terminated and allocated off static storage at Wget
287    startup.  */
288
289 static char *
290 no_prefix (const char *s)
291 {
292   static char buffer[1024];
293   static char *p = buffer;
294
295   char *cp = p;
296   int size = 3 + strlen (s) + 1;  /* "no-STRING\0" */
297   if (p + size >= buffer + sizeof (buffer))
298     abort ();
299
300   cp[0] = 'n', cp[1] = 'o', cp[2] = '-';
301   strcpy (cp + 3, s);
302   p += size;
303   return cp;
304 }
305
306 /* The arguments that that main passes to getopt_long. */
307 static struct option long_options[2 * countof (option_data) + 1];
308 static char short_options[128];
309
310 /* Mapping between short option chars and option_data indices. */
311 static unsigned char optmap[96];
312
313 /* Marker for `--no-FOO' values in long_options.  */
314 #define BOOLEAN_NEG_MARKER 1024
315
316 /* Initialize the long_options array used by getopt_long from the data
317    in option_data.  */
318
319 static void
320 init_switches (void)
321 {
322   char *p = short_options;
323   size_t i, o = 0;
324   for (i = 0; i < countof (option_data); i++)
325     {
326       struct cmdline_option *opt = &option_data[i];
327       struct option *longopt;
328
329       if (!opt->long_name)
330         /* The option is disabled. */
331         continue;
332
333       longopt = &long_options[o++];
334       longopt->name = opt->long_name;
335       longopt->val = i;
336       if (opt->short_name)
337         {
338           *p++ = opt->short_name;
339           optmap[opt->short_name - 32] = longopt - long_options;
340         }
341       switch (opt->type)
342         {
343         case OPT_VALUE:
344           longopt->has_arg = required_argument;
345           if (opt->short_name)
346             *p++ = ':';
347           break;
348         case OPT_BOOLEAN:
349           /* Specify an optional argument for long options, so that
350              --option=off works the same as --no-option, for
351              compatibility with pre-1.10 Wget.  However, don't specify
352              optional arguments short-option booleans because they
353              prevent combining of short options.  */
354           longopt->has_arg = optional_argument;
355           /* For Boolean options, add the "--no-FOO" variant, which is
356              identical to "--foo", except it has opposite meaning and
357              it doesn't allow an argument.  */
358           longopt = &long_options[o++];
359           longopt->name = no_prefix (opt->long_name);
360           longopt->has_arg = no_argument;
361           /* Mask the value so we'll be able to recognize that we're
362              dealing with the false value.  */
363           longopt->val = i | BOOLEAN_NEG_MARKER;
364           break;
365         default:
366           assert (opt->argtype != -1);
367           longopt->has_arg = opt->argtype;
368           if (opt->short_name)
369             {
370               if (longopt->has_arg == required_argument)
371                 *p++ = ':';
372               /* Don't handle optional_argument */
373             }
374         }
375     }
376   /* Terminate short_options. */
377   *p = '\0';
378   /* No need for xzero(long_options[o]) because its storage is static
379      and it will be zeroed by default.  */
380   assert (o <= countof (long_options));
381 }
382
383 /* Print the usage message.  */
384 static void
385 print_usage (void)
386 {
387   printf (_("Usage: %s [OPTION]... [URL]...\n"), exec_name);
388 }
389
390 /* Print the help message, describing all the available options.  If
391    you add an option, be sure to update this list.  */
392 static void
393 print_help (void)
394 {
395   /* We split the help text this way to ease translation of individual
396      entries.  */
397   static const char *help[] = {
398     "\n",
399     N_("\
400 Mandatory arguments to long options are mandatory for short options too.\n\n"),
401     N_("\
402 Startup:\n"),
403     N_("\
404   -V,  --version           display the version of Wget and exit.\n"),
405     N_("\
406   -h,  --help              print this help.\n"),
407     N_("\
408   -b,  --background        go to background after startup.\n"),
409     N_("\
410   -e,  --execute=COMMAND   execute a `.wgetrc'-style command.\n"),
411     "\n",
412
413     N_("\
414 Logging and input file:\n"),
415     N_("\
416   -o,  --output-file=FILE    log messages to FILE.\n"),
417     N_("\
418   -a,  --append-output=FILE  append messages to FILE.\n"),
419 #ifdef ENABLE_DEBUG
420     N_("\
421   -d,  --debug               print lots of debugging information.\n"),
422 #endif
423 #ifdef USE_WATT32
424     N_("\
425        --wdebug              print Watt-32 debug output.\n"),
426 #endif
427     N_("\
428   -q,  --quiet               quiet (no output).\n"),
429     N_("\
430   -v,  --verbose             be verbose (this is the default).\n"),
431     N_("\
432   -nv, --no-verbose          turn off verboseness, without being quiet.\n"),
433     N_("\
434   -i,  --input-file=FILE     download URLs found in local or external FILE.\n"),
435     N_("\
436   -F,  --force-html          treat input file as HTML.\n"),
437     N_("\
438   -B,  --base=URL            resolves HTML input-file links (-i -F)\n\
439                              relative to URL.\n"),
440     "\n",
441
442     N_("\
443 Download:\n"),
444     N_("\
445   -t,  --tries=NUMBER            set number of retries to NUMBER (0 unlimits).\n"),
446     N_("\
447        --retry-connrefused       retry even if connection is refused.\n"),
448     N_("\
449   -O,  --output-document=FILE    write documents to FILE.\n"),
450     N_("\
451   -nc, --no-clobber              skip downloads that would download to\n\
452                                  existing files.\n"),
453     N_("\
454   -c,  --continue                resume getting a partially-downloaded file.\n"),
455     N_("\
456        --progress=TYPE           select progress gauge type.\n"),
457     N_("\
458   -N,  --timestamping            don't re-retrieve files unless newer than\n\
459                                  local.\n"),
460     N_("\
461   --no-use-server-timestamps     don't set the local file's timestamp by\n\
462                                  the one on the server.\n"),
463     N_("\
464   -S,  --server-response         print server response.\n"),
465     N_("\
466        --spider                  don't download anything.\n"),
467     N_("\
468   -T,  --timeout=SECONDS         set all timeout values to SECONDS.\n"),
469     N_("\
470        --dns-timeout=SECS        set the DNS lookup timeout to SECS.\n"),
471     N_("\
472        --connect-timeout=SECS    set the connect timeout to SECS.\n"),
473     N_("\
474        --read-timeout=SECS       set the read timeout to SECS.\n"),
475     N_("\
476   -w,  --wait=SECONDS            wait SECONDS between retrievals.\n"),
477     N_("\
478        --waitretry=SECONDS       wait 1..SECONDS between retries of a retrieval.\n"),
479     N_("\
480        --random-wait             wait from 0...2*WAIT secs between retrievals.\n"),
481     N_("\
482        --no-proxy                explicitly turn off proxy.\n"),
483     N_("\
484   -Q,  --quota=NUMBER            set retrieval quota to NUMBER.\n"),
485     N_("\
486        --bind-address=ADDRESS    bind to ADDRESS (hostname or IP) on local host.\n"),
487     N_("\
488        --limit-rate=RATE         limit download rate to RATE.\n"),
489     N_("\
490        --no-dns-cache            disable caching DNS lookups.\n"),
491     N_("\
492        --restrict-file-names=OS  restrict chars in file names to ones OS allows.\n"),
493     N_("\
494        --ignore-case             ignore case when matching files/directories.\n"),
495 #ifdef ENABLE_IPV6
496     N_("\
497   -4,  --inet4-only              connect only to IPv4 addresses.\n"),
498     N_("\
499   -6,  --inet6-only              connect only to IPv6 addresses.\n"),
500     N_("\
501        --prefer-family=FAMILY    connect first to addresses of specified family,\n\
502                                  one of IPv6, IPv4, or none.\n"),
503 #endif
504     N_("\
505        --user=USER               set both ftp and http user to USER.\n"),
506     N_("\
507        --password=PASS           set both ftp and http password to PASS.\n"),
508     N_("\
509        --ask-password            prompt for passwords.\n"),
510     N_("\
511        --no-iri                  turn off IRI support.\n"),
512     N_("\
513        --local-encoding=ENC      use ENC as the local encoding for IRIs.\n"),
514     N_("\
515        --remote-encoding=ENC     use ENC as the default remote encoding.\n"),
516     "\n",
517
518     N_("\
519 Directories:\n"),
520     N_("\
521   -nd, --no-directories           don't create directories.\n"),
522     N_("\
523   -x,  --force-directories        force creation of directories.\n"),
524     N_("\
525   -nH, --no-host-directories      don't create host directories.\n"),
526     N_("\
527        --protocol-directories     use protocol name in directories.\n"),
528     N_("\
529   -P,  --directory-prefix=PREFIX  save files to PREFIX/...\n"),
530     N_("\
531        --cut-dirs=NUMBER          ignore NUMBER remote directory components.\n"),
532     "\n",
533
534     N_("\
535 HTTP options:\n"),
536     N_("\
537        --http-user=USER        set http user to USER.\n"),
538     N_("\
539        --http-password=PASS    set http password to PASS.\n"),
540     N_("\
541        --no-cache              disallow server-cached data.\n"),
542     N_ ("\
543        --default-page=NAME     Change the default page name (normally\n\
544                                this is `index.html'.).\n"),
545     N_("\
546   -E,  --adjust-extension      save HTML/CSS documents with proper extensions.\n"),
547     N_("\
548        --ignore-length         ignore `Content-Length' header field.\n"),
549     N_("\
550        --header=STRING         insert STRING among the headers.\n"),
551     N_("\
552        --max-redirect          maximum redirections allowed per page.\n"),
553     N_("\
554        --proxy-user=USER       set USER as proxy username.\n"),
555     N_("\
556        --proxy-password=PASS   set PASS as proxy password.\n"),
557     N_("\
558        --referer=URL           include `Referer: URL' header in HTTP request.\n"),
559     N_("\
560        --save-headers          save the HTTP headers to file.\n"),
561     N_("\
562   -U,  --user-agent=AGENT      identify as AGENT instead of Wget/VERSION.\n"),
563     N_("\
564        --no-http-keep-alive    disable HTTP keep-alive (persistent connections).\n"),
565     N_("\
566        --no-cookies            don't use cookies.\n"),
567     N_("\
568        --load-cookies=FILE     load cookies from FILE before session.\n"),
569     N_("\
570        --save-cookies=FILE     save cookies to FILE after session.\n"),
571     N_("\
572        --keep-session-cookies  load and save session (non-permanent) cookies.\n"),
573     N_("\
574        --post-data=STRING      use the POST method; send STRING as the data.\n"),
575     N_("\
576        --post-file=FILE        use the POST method; send contents of FILE.\n"),
577     N_("\
578        --content-disposition   honor the Content-Disposition header when\n\
579                                choosing local file names (EXPERIMENTAL).\n"),
580     N_("\
581        --auth-no-challenge     send Basic HTTP authentication information\n\
582                                without first waiting for the server's\n\
583                                challenge.\n"),
584     "\n",
585
586 #ifdef HAVE_SSL
587     N_("\
588 HTTPS (SSL/TLS) options:\n"),
589     N_("\
590        --secure-protocol=PR     choose secure protocol, one of auto, SSLv2,\n\
591                                 SSLv3, and TLSv1.\n"),
592     N_("\
593        --no-check-certificate   don't validate the server's certificate.\n"),
594     N_("\
595        --certificate=FILE       client certificate file.\n"),
596     N_("\
597        --certificate-type=TYPE  client certificate type, PEM or DER.\n"),
598     N_("\
599        --private-key=FILE       private key file.\n"),
600     N_("\
601        --private-key-type=TYPE  private key type, PEM or DER.\n"),
602     N_("\
603        --ca-certificate=FILE    file with the bundle of CA's.\n"),
604     N_("\
605        --ca-directory=DIR       directory where hash list of CA's is stored.\n"),
606     N_("\
607        --random-file=FILE       file with random data for seeding the SSL PRNG.\n"),
608     N_("\
609        --egd-file=FILE          file naming the EGD socket with random data.\n"),
610     "\n",
611 #endif /* HAVE_SSL */
612
613     N_("\
614 FTP options:\n"),
615 #ifdef __VMS
616     N_("\
617        --ftp-stmlf             Use Stream_LF format for all binary FTP files.\n"),
618 #endif /* def __VMS */
619     N_("\
620        --ftp-user=USER         set ftp user to USER.\n"),
621     N_("\
622        --ftp-password=PASS     set ftp password to PASS.\n"),
623     N_("\
624        --no-remove-listing     don't remove `.listing' files.\n"),
625     N_("\
626        --no-glob               turn off FTP file name globbing.\n"),
627     N_("\
628        --no-passive-ftp        disable the \"passive\" transfer mode.\n"),
629     N_("\
630        --retr-symlinks         when recursing, get linked-to files (not dir).\n"),
631     "\n",
632
633     N_("\
634 Recursive download:\n"),
635     N_("\
636   -r,  --recursive          specify recursive download.\n"),
637     N_("\
638   -l,  --level=NUMBER       maximum recursion depth (inf or 0 for infinite).\n"),
639     N_("\
640        --delete-after       delete files locally after downloading them.\n"),
641     N_("\
642   -k,  --convert-links      make links in downloaded HTML or CSS point to\n\
643                             local files.\n"),
644 #ifdef __VMS
645     N_("\
646   -K,  --backup-converted   before converting file X, back up as X_orig.\n"),
647 #else /* def __VMS */
648     N_("\
649   -K,  --backup-converted   before converting file X, back up as X.orig.\n"),
650 #endif /* def __VMS [else] */
651     N_("\
652   -m,  --mirror             shortcut for -N -r -l inf --no-remove-listing.\n"),
653     N_("\
654   -p,  --page-requisites    get all images, etc. needed to display HTML page.\n"),
655     N_("\
656        --strict-comments    turn on strict (SGML) handling of HTML comments.\n"),
657     "\n",
658
659     N_("\
660 Recursive accept/reject:\n"),
661     N_("\
662   -A,  --accept=LIST               comma-separated list of accepted extensions.\n"),
663     N_("\
664   -R,  --reject=LIST               comma-separated list of rejected extensions.\n"),
665     N_("\
666   -D,  --domains=LIST              comma-separated list of accepted domains.\n"),
667     N_("\
668        --exclude-domains=LIST      comma-separated list of rejected domains.\n"),
669     N_("\
670        --follow-ftp                follow FTP links from HTML documents.\n"),
671     N_("\
672        --follow-tags=LIST          comma-separated list of followed HTML tags.\n"),
673     N_("\
674        --ignore-tags=LIST          comma-separated list of ignored HTML tags.\n"),
675     N_("\
676   -H,  --span-hosts                go to foreign hosts when recursive.\n"),
677     N_("\
678   -L,  --relative                  follow relative links only.\n"),
679     N_("\
680   -I,  --include-directories=LIST  list of allowed directories.\n"),
681     N_("\
682   -X,  --exclude-directories=LIST  list of excluded directories.\n"),
683     N_("\
684   -np, --no-parent                 don't ascend to the parent directory.\n"),
685     "\n",
686
687     N_("Mail bug reports and suggestions to <bug-wget@gnu.org>.\n")
688   };
689
690   size_t i;
691
692   printf (_("GNU Wget %s, a non-interactive network retriever.\n"),
693           version_string);
694   print_usage ();
695
696   for (i = 0; i < countof (help); i++)
697     fputs (_(help[i]), stdout);
698
699   exit (0);
700 }
701
702 /* Return a human-readable printed representation of INTERVAL,
703    measured in seconds.  */
704
705 static char *
706 secs_to_human_time (double interval)
707 {
708   static char buf[32];
709   int secs = (int) (interval + 0.5);
710   int hours, mins, days;
711
712   days = secs / 86400, secs %= 86400;
713   hours = secs / 3600, secs %= 3600;
714   mins = secs / 60, secs %= 60;
715
716   if (days)
717     sprintf (buf, "%dd %dh %dm %ds", days, hours, mins, secs);
718   else if (hours)
719     sprintf (buf, "%dh %dm %ds", hours, mins, secs);
720   else if (mins)
721     sprintf (buf, "%dm %ds", mins, secs);
722   else
723     sprintf (buf, "%ss", print_decimal (interval));
724
725   return buf;
726 }
727
728 static char *
729 prompt_for_password (void)
730 {
731   if (opt.user)
732     printf (_("Password for user %s: "), quote (opt.user));
733   else
734     printf (_("Password: "));
735   return getpass("");
736 }
737
738 /* Function that prints the line argument while limiting it
739    to at most line_length. prefix is printed on the first line
740    and an appropriate number of spaces are added on subsequent
741    lines.*/
742 static void
743 format_and_print_line (const char *prefix, const char *line,
744                        int line_length)
745 {
746   int remaining_chars;
747   char *line_dup, *token;
748
749   assert (prefix != NULL);
750   assert (line != NULL);
751
752   line_dup = xstrdup (line);
753
754   if (line_length <= 0)
755     line_length = MAX_CHARS_PER_LINE - TABULATION;
756
757   printf ("%s", prefix);
758   remaining_chars = line_length;
759   /* We break on spaces. */
760   token = strtok (line_dup, " ");
761   while (token != NULL)
762     {
763       /* If however a token is much larger than the maximum
764          line length, all bets are off and we simply print the
765          token on the next line. */
766       if (remaining_chars <= strlen (token))
767         {
768           printf ("\n%*c", TABULATION, ' ');
769           remaining_chars = line_length - TABULATION;
770         }
771       printf ("%s ", token);
772       remaining_chars -= strlen (token) + 1;  /* account for " " */
773       token = strtok (NULL, " ");
774     }
775
776   printf ("\n");
777
778   xfree (line_dup);
779 }
780
781 static void
782 print_version (void)
783 {
784   const char *wgetrc_title  = _("Wgetrc: ");
785   const char *locale_title  = _("Locale: ");
786   const char *compile_title = _("Compile: ");
787   const char *link_title    = _("Link: ");
788   char *line;
789   char *env_wgetrc, *user_wgetrc;
790   int i;
791
792   printf (_("GNU Wget %s built on %s.\n\n"), version_string, OS_TYPE);
793
794   for (i = 0; compiled_features[i] != NULL; )
795     {
796       int line_length = MAX_CHARS_PER_LINE;
797       while ((line_length > 0) && (compiled_features[i] != NULL))
798         {
799           printf ("%s ", compiled_features[i]);
800           line_length -= strlen (compiled_features[i]) + 2;
801           i++;
802         }
803       printf ("\n");
804     }
805   printf ("\n");
806
807   /* Handle the case when $WGETRC is unset and $HOME/.wgetrc is
808      absent. */
809   printf ("%s\n", wgetrc_title);
810   env_wgetrc = wgetrc_env_file_name ();
811   if (env_wgetrc && *env_wgetrc)
812     {
813       printf (_("    %s (env)\n"), env_wgetrc);
814       xfree (env_wgetrc);
815     }
816   user_wgetrc = wgetrc_user_file_name ();
817   if (user_wgetrc)
818     {
819       printf (_("    %s (user)\n"), user_wgetrc);
820       xfree (user_wgetrc);
821     }
822 #ifdef SYSTEM_WGETRC
823   printf (_("    %s (system)\n"), SYSTEM_WGETRC);
824 #endif
825
826 #ifdef ENABLE_NLS
827   format_and_print_line (locale_title,
828                         LOCALEDIR,
829                         MAX_CHARS_PER_LINE);
830 #endif /* def ENABLE_NLS */
831
832   if (compilation_string != NULL)
833     format_and_print_line (compile_title,
834                            compilation_string,
835                            MAX_CHARS_PER_LINE);
836
837   if (link_string != NULL)
838     format_and_print_line (link_title,
839                            link_string,
840                            MAX_CHARS_PER_LINE);
841
842   printf ("\n");
843   /* TRANSLATORS: When available, an actual copyright character
844      (cirle-c) should be used in preference to "(C)". */
845   fputs (_("\
846 Copyright (C) 2009 Free Software Foundation, Inc.\n"), stdout);
847   fputs (_("\
848 License GPLv3+: GNU GPL version 3 or later\n\
849 <http://www.gnu.org/licenses/gpl.html>.\n\
850 This is free software: you are free to change and redistribute it.\n\
851 There is NO WARRANTY, to the extent permitted by law.\n"), stdout);
852   /* TRANSLATORS: When available, please use the proper diacritics for
853      names such as this one. See en_US.po for reference. */
854   fputs (_("\nOriginally written by Hrvoje Niksic <hniksic@xemacs.org>.\n"),
855          stdout);
856   fputs (_("Currently maintained by Micah Cowan <micah@cowan.name>.\n"),
857          stdout);
858   fputs (_("Please send bug reports and questions to <bug-wget@gnu.org>.\n"),
859          stdout);
860   exit (0);
861 }
862
863 char *program_name; /* Needed by lib/error.c. */
864
865 int
866 main (int argc, char **argv)
867 {
868   char **url, **t;
869   int i, ret, longindex;
870   int nurl, status;
871   bool append_to_log = false;
872
873   program_name = argv[0];
874
875   i18n_initialize ();
876
877   /* Construct the name of the executable, without the directory part.  */
878 #ifdef __VMS
879   /* On VMS, lose the "dev:[dir]" prefix and the ".EXE;nnn" suffix. */
880   exec_name = vms_basename (argv[0]);
881 #else /* def __VMS */
882   exec_name = strrchr (argv[0], PATH_SEPARATOR);
883   if (!exec_name)
884     exec_name = argv[0];
885   else
886     ++exec_name;
887 #endif /* def __VMS [else] */
888
889 #ifdef WINDOWS
890   /* Drop extension (typically .EXE) from executable filename. */
891   windows_main ((char **) &exec_name);
892 #endif
893
894   /* Set option defaults; read the system wgetrc and ~/.wgetrc.  */
895   initialize ();
896
897   init_switches ();
898   longindex = -1;
899   while ((ret = getopt_long (argc, argv,
900                              short_options, long_options, &longindex)) != -1)
901     {
902       int val;
903       struct cmdline_option *opt;
904
905       /* If LONGINDEX is unchanged, it means RET is referring a short
906          option.  */
907       if (longindex == -1)
908         {
909           if (ret == '?')
910             {
911               print_usage ();
912               printf ("\n");
913               printf (_("Try `%s --help' for more options.\n"), exec_name);
914               exit (2);
915             }
916           /* Find the short option character in the mapping.  */
917           longindex = optmap[ret - 32];
918         }
919       val = long_options[longindex].val;
920
921       /* Use the retrieved value to locate the option in the
922          option_data array, and to see if we're dealing with the
923          negated "--no-FOO" variant of the boolean option "--foo".  */
924       opt = &option_data[val & ~BOOLEAN_NEG_MARKER];
925       switch (opt->type)
926         {
927         case OPT_VALUE:
928           setoptval (opt->data, optarg, opt->long_name);
929           break;
930         case OPT_BOOLEAN:
931           if (optarg)
932             /* The user has specified a value -- use it. */
933             setoptval (opt->data, optarg, opt->long_name);
934           else
935             {
936               /* NEG is true for `--no-FOO' style boolean options. */
937               bool neg = !!(val & BOOLEAN_NEG_MARKER);
938               setoptval (opt->data, neg ? "0" : "1", opt->long_name);
939             }
940           break;
941         case OPT_FUNCALL:
942           {
943             void (*func) (void) = (void (*) (void)) opt->data;
944             func ();
945           }
946           break;
947         case OPT__APPEND_OUTPUT:
948           setoptval ("logfile", optarg, opt->long_name);
949           append_to_log = true;
950           break;
951         case OPT__EXECUTE:
952           run_command (optarg);
953           break;
954         case OPT__NO:
955           {
956             /* We support real --no-FOO flags now, but keep these
957                short options for convenience and backward
958                compatibility.  */
959             char *p;
960             for (p = optarg; *p; p++)
961               switch (*p)
962                 {
963                 case 'v':
964                   setoptval ("verbose", "0", opt->long_name);
965                   break;
966                 case 'H':
967                   setoptval ("addhostdir", "0", opt->long_name);
968                   break;
969                 case 'd':
970                   setoptval ("dirstruct", "0", opt->long_name);
971                   break;
972                 case 'c':
973                   setoptval ("noclobber", "1", opt->long_name);
974                   break;
975                 case 'p':
976                   setoptval ("noparent", "1", opt->long_name);
977                   break;
978                 default:
979                   printf (_("%s: illegal option -- `-n%c'\n"), exec_name, *p);
980                   print_usage ();
981                   printf ("\n");
982                   printf (_("Try `%s --help' for more options.\n"), exec_name);
983                   exit (1);
984                 }
985             break;
986           }
987         case OPT__PARENT:
988         case OPT__CLOBBER:
989           {
990             /* The wgetrc commands are named noparent and noclobber,
991                so we must revert the meaning of the cmdline options
992                before passing the value to setoptval.  */
993             bool flag = true;
994             if (optarg)
995               flag = (*optarg == '1' || c_tolower (*optarg) == 'y'
996                       || (c_tolower (optarg[0]) == 'o'
997                           && c_tolower (optarg[1]) == 'n'));
998             setoptval (opt->type == OPT__PARENT ? "noparent" : "noclobber",
999                        flag ? "0" : "1", opt->long_name);
1000             break;
1001           }
1002         case OPT__DONT_REMOVE_LISTING:
1003           setoptval ("removelisting", "0", opt->long_name);
1004           break;
1005         }
1006
1007       longindex = -1;
1008     }
1009
1010   nurl = argc - optind;
1011
1012   /* All user options have now been processed, so it's now safe to do
1013      interoption dependency checks. */
1014
1015   if (opt.reclevel == 0)
1016       opt.reclevel = INFINITE_RECURSION; /* see recur.h for commentary */
1017
1018   if (opt.spider || opt.delete_after)
1019       opt.no_dirstruct = true;
1020
1021   if (opt.page_requisites && !opt.recursive)
1022     {
1023       /* Don't set opt.recursive here because it would confuse the FTP
1024          code.  Instead, call retrieve_tree below when either
1025          page_requisites or recursive is requested.  */
1026       opt.reclevel = 0;
1027       if (!opt.no_dirstruct)
1028         opt.dirstruct = 1;      /* normally handled by cmd_spec_recursive() */
1029     }
1030
1031   if (opt.verbose == -1)
1032     opt.verbose = !opt.quiet;
1033
1034   /* Sanity checks.  */
1035   if (opt.verbose && opt.quiet)
1036     {
1037       printf (_("Can't be verbose and quiet at the same time.\n"));
1038       print_usage ();
1039       exit (1);
1040     }
1041   if (opt.timestamping && opt.noclobber)
1042     {
1043       printf (_("\
1044 Can't timestamp and not clobber old files at the same time.\n"));
1045       print_usage ();
1046       exit (1);
1047     }
1048 #ifdef ENABLE_IPV6
1049   if (opt.ipv4_only && opt.ipv6_only)
1050     {
1051       printf (_("Cannot specify both --inet4-only and --inet6-only.\n"));
1052       print_usage ();
1053       exit (1);
1054     }
1055 #endif
1056   if (opt.output_document)
1057     {
1058       if (opt.convert_links
1059           && (nurl > 1 || opt.page_requisites || opt.recursive))
1060         {
1061           fputs (_("\
1062 Cannot specify both -k and -O if multiple URLs are given, or in combination\n\
1063 with -p or -r. See the manual for details.\n\n"), stdout);
1064           print_usage ();
1065           exit (1);
1066         }
1067       if (opt.page_requisites
1068           || opt.recursive)
1069         {
1070           logprintf (LOG_NOTQUIET, "%s", _("\
1071 WARNING: combining -O with -r or -p will mean that all downloaded content\n\
1072 will be placed in the single file you specified.\n\n"));
1073         }
1074       if (opt.timestamping)
1075         {
1076           logprintf (LOG_NOTQUIET, "%s", _("\
1077 WARNING: timestamping does nothing in combination with -O. See the manual\n\
1078 for details.\n\n"));
1079           opt.timestamping = false;
1080         }
1081       if (opt.noclobber && file_exists_p(opt.output_document))
1082            {
1083               /* Check if output file exists; if it does, exit. */
1084               logprintf (LOG_VERBOSE, _("File `%s' already there; not retrieving.\n"), opt.output_document);
1085               exit(1);
1086            }
1087     }
1088
1089   if (opt.ask_passwd && opt.passwd)
1090     {
1091       printf (_("Cannot specify both --ask-password and --password.\n"));
1092       print_usage ();
1093       exit (1);
1094     }
1095
1096   if (!nurl && !opt.input_filename)
1097     {
1098       /* No URL specified.  */
1099       printf (_("%s: missing URL\n"), exec_name);
1100       print_usage ();
1101       printf ("\n");
1102       /* #### Something nicer should be printed here -- similar to the
1103          pre-1.5 `--help' page.  */
1104       printf (_("Try `%s --help' for more options.\n"), exec_name);
1105       exit (1);
1106     }
1107
1108 #ifdef ENABLE_IRI
1109   if (opt.enable_iri)
1110     {
1111       if (opt.locale && !check_encoding_name (opt.locale))
1112         opt.locale = NULL;
1113
1114       if (!opt.locale)
1115         opt.locale = find_locale ();
1116
1117       if (opt.encoding_remote && !check_encoding_name (opt.encoding_remote))
1118         opt.encoding_remote = NULL;
1119     }
1120 #else
1121   if (opt.enable_iri || opt.locale || opt.encoding_remote)
1122     {
1123       /* sXXXav : be more specific... */
1124       printf(_("This version does not have support for IRIs\n"));
1125       exit(1);
1126     }
1127 #endif
1128
1129   if (opt.ask_passwd)
1130     {
1131       opt.passwd = prompt_for_password ();
1132
1133       if (opt.passwd == NULL || opt.passwd[0] == '\0')
1134         exit (1);
1135     }
1136
1137 #ifdef USE_WATT32
1138   if (opt.wdebug)
1139      dbug_init();
1140   sock_init();
1141 #else
1142   if (opt.background)
1143     fork_to_background ();
1144 #endif
1145
1146   /* Initialize progress.  Have to do this after the options are
1147      processed so we know where the log file is.  */
1148   if (opt.verbose)
1149     set_progress_implementation (opt.progress_type);
1150
1151   /* Fill in the arguments.  */
1152   url = alloca_array (char *, nurl + 1);
1153   for (i = 0; i < nurl; i++, optind++)
1154     {
1155       char *rewritten = rewrite_shorthand_url (argv[optind]);
1156       if (rewritten)
1157         url[i] = rewritten;
1158       else
1159         url[i] = xstrdup (argv[optind]);
1160     }
1161   url[i] = NULL;
1162
1163   /* Initialize logging.  */
1164   log_init (opt.lfilename, append_to_log);
1165
1166   DEBUGP (("DEBUG output created by Wget %s on %s.\n\n",
1167            version_string, OS_TYPE));
1168
1169   /* Open the output filename if necessary.  */
1170
1171 /* 2005-04-17 SMS.
1172    Note that having the output_stream ("-O") file opened here for an FTP
1173    URL rather than in getftp() (ftp.c) (and the http equivalent) rather
1174    limits the ability in VMS to open the file differently for ASCII
1175    versus binary FTP there.  (Of course, doing it here allows a open
1176    failure to be detected immediately, without first connecting to the
1177    server.)
1178 */
1179   if (opt.output_document)
1180     {
1181       if (HYPHENP (opt.output_document))
1182         {
1183 #ifdef WINDOWS
1184           FILE *result;
1185           result = freopen ("CONOUT$", "wb", stdout);
1186           if (result == NULL)
1187             {
1188               logputs (LOG_NOTQUIET, _("\
1189 WARNING: Can't reopen standard output in binary mode;\n\
1190          downloaded file may contain inappropriate line endings.\n"));
1191             }
1192 #endif
1193           output_stream = stdout;
1194         }
1195       else
1196         {
1197           struct_fstat st;
1198
1199 #ifdef __VMS
1200 /* Common fopen() optional arguments:
1201    sequential access only, access callback function.
1202 */
1203 # define FOPEN_OPT_ARGS , "fop=sqo", "acc", acc_cb, &open_id
1204           int open_id = 7;
1205 #else /* def __VMS */
1206 # define FOPEN_OPT_ARGS
1207 #endif /* def __VMS [else] */
1208
1209           output_stream = fopen (opt.output_document,
1210                                  opt.always_rest ? "ab" : "wb"
1211                                  FOPEN_OPT_ARGS);
1212           if (output_stream == NULL)
1213             {
1214               perror (opt.output_document);
1215               exit (1);
1216             }
1217           if (fstat (fileno (output_stream), &st) == 0 && S_ISREG (st.st_mode))
1218             output_stream_regular = true;
1219         }
1220       if (!output_stream_regular && opt.convert_links)
1221         {
1222           printf (_("-k can be used together with -O only if outputting to \
1223 a regular file.\n"));
1224           print_usage ();
1225           exit(1);
1226         }
1227     }
1228
1229 #ifdef __VMS
1230   /* Set global ODS5 flag according to the specified destination (if
1231      any), otherwise according to the current default device.
1232   */
1233   if (output_stream == NULL)
1234     {
1235       set_ods5_dest( "SYS$DISK");
1236     }
1237   else if (output_stream != stdout)
1238     {
1239       set_ods5_dest( opt.output_document);
1240     }
1241 #endif /* def __VMS */
1242
1243 #ifdef WINDOWS
1244   ws_startup ();
1245 #endif
1246
1247 #ifdef SIGHUP
1248   /* Setup the signal handler to redirect output when hangup is
1249      received.  */
1250   if (signal(SIGHUP, SIG_IGN) != SIG_IGN)
1251     signal(SIGHUP, redirect_output_signal);
1252 #endif
1253   /* ...and do the same for SIGUSR1.  */
1254 #ifdef SIGUSR1
1255   signal (SIGUSR1, redirect_output_signal);
1256 #endif
1257 #ifdef SIGPIPE
1258   /* Writing to a closed socket normally signals SIGPIPE, and the
1259      process exits.  What we want is to ignore SIGPIPE and just check
1260      for the return value of write().  */
1261   signal (SIGPIPE, SIG_IGN);
1262 #endif
1263 #ifdef SIGWINCH
1264   signal (SIGWINCH, progress_handle_sigwinch);
1265 #endif
1266
1267   status = RETROK;              /* initialize it, just-in-case */
1268   /* Retrieve the URLs from argument list.  */
1269   for (t = url; *t; t++)
1270     {
1271       char *filename = NULL, *redirected_URL = NULL;
1272       int dt, url_err;
1273       /* Need to do a new struct iri every time, because
1274        * retrieve_url may modify it in some circumstances,
1275        * currently. */
1276       struct iri *iri = iri_new ();
1277       struct url *url_parsed;
1278
1279       set_uri_encoding (iri, opt.locale, true);
1280       url_parsed = url_parse (*t, &url_err, iri, true);
1281
1282       if (!url_parsed)
1283         {
1284           char *error = url_error (*t, url_err);
1285           logprintf (LOG_NOTQUIET, "%s: %s.\n",*t, error);
1286           xfree (error);
1287           status = URLERROR;
1288         }
1289       else
1290         {
1291           if ((opt.recursive || opt.page_requisites)
1292               && (url_scheme (*t) != SCHEME_FTP || url_uses_proxy (url_parsed)))
1293             {
1294               int old_follow_ftp = opt.follow_ftp;
1295
1296               /* Turn opt.follow_ftp on in case of recursive FTP retrieval */
1297               if (url_scheme (*t) == SCHEME_FTP)
1298                 opt.follow_ftp = 1;
1299
1300               status = retrieve_tree (url_parsed, NULL);
1301
1302               opt.follow_ftp = old_follow_ftp;
1303             }
1304           else
1305           {
1306             status = retrieve_url (url_parsed, *t, &filename, &redirected_URL,
1307                                    NULL, &dt, opt.recursive, iri, true);
1308           }
1309
1310           if (opt.delete_after && file_exists_p(filename))
1311             {
1312               DEBUGP (("Removing file due to --delete-after in main():\n"));
1313               logprintf (LOG_VERBOSE, _("Removing %s.\n"), filename);
1314               if (unlink (filename))
1315                 logprintf (LOG_NOTQUIET, "unlink: %s\n", strerror (errno));
1316             }
1317           xfree_null (redirected_URL);
1318           xfree_null (filename);
1319           url_free (url_parsed);
1320         }
1321       iri_free (iri);
1322     }
1323
1324   /* And then from the input file, if any.  */
1325   if (opt.input_filename)
1326     {
1327       int count;
1328       status = retrieve_from_file (opt.input_filename, opt.force_html, &count);
1329       if (!count)
1330         logprintf (LOG_NOTQUIET, _("No URLs found in %s.\n"),
1331                    opt.input_filename);
1332     }
1333
1334   /* Print broken links. */
1335   if (opt.recursive && opt.spider)
1336     {
1337       print_broken_links();
1338     }
1339
1340   /* Print the downloaded sum.  */
1341   if ((opt.recursive || opt.page_requisites
1342        || nurl > 1
1343        || (opt.input_filename && total_downloaded_bytes != 0))
1344       &&
1345       total_downloaded_bytes != 0)
1346     {
1347       logprintf (LOG_NOTQUIET,
1348                  _("FINISHED --%s--\nDownloaded: %d files, %s in %s (%s)\n"),
1349                  datetime_str (time (NULL)),
1350                  numurls,
1351                  human_readable (total_downloaded_bytes),
1352                  secs_to_human_time (total_download_time),
1353                  retr_rate (total_downloaded_bytes, total_download_time));
1354       /* Print quota warning, if exceeded.  */
1355       if (opt.quota && total_downloaded_bytes > opt.quota)
1356         logprintf (LOG_NOTQUIET,
1357                    _("Download quota of %s EXCEEDED!\n"),
1358                    human_readable (opt.quota));
1359     }
1360
1361   if (opt.cookies_output)
1362     save_cookies ();
1363
1364   if (opt.convert_links && !opt.delete_after)
1365     convert_all_links ();
1366
1367   log_close ();
1368   for (i = 0; i < nurl; i++)
1369     xfree (url[i]);
1370   cleanup ();
1371
1372   return get_exit_status ();
1373 }
1374 #endif /* TESTING */
1375 \f
1376 #if defined(SIGHUP) || defined(SIGUSR1)
1377
1378 /* So the signal_name check doesn't blow when only one is available. */
1379 #ifndef SIGHUP
1380 # define SIGHUP -1
1381 #endif
1382 #ifndef SIGUSR1
1383 # define SIGUSR1 -1
1384 #endif
1385
1386 /* Hangup signal handler.  When wget receives SIGHUP or SIGUSR1, it
1387    will proceed operation as usual, trying to write into a log file.
1388    If that is impossible, the output will be turned off.  */
1389
1390 static void
1391 redirect_output_signal (int sig)
1392 {
1393   const char *signal_name = (sig == SIGHUP ? "SIGHUP" :
1394                              (sig == SIGUSR1 ? "SIGUSR1" :
1395                               "WTF?!"));
1396   log_request_redirect_output (signal_name);
1397   progress_schedule_redirect ();
1398   signal (sig, redirect_output_signal);
1399 }
1400 #endif
1401
1402 /*
1403  * vim: et ts=2 sw=2
1404  */