]> sjero.net Git - wget/blob - src/main.c
--no-match-server-timestamps
[wget] / src / main.c
1 /* Command line parsing.
2    Copyright (C) 1996, 1997, 1998, 1999, 2000, 2001, 2002, 2003,
3    2004, 2005, 2006, 2007, 2008, 2009 Free Software Foundation, Inc.
4
5 This file is part of GNU Wget.
6
7 GNU Wget is free software; you can redistribute it and/or modify
8 it under the terms of the GNU General Public License as published by
9 the Free Software Foundation; either version 3 of the License, or
10 (at your option) any later version.
11
12 GNU Wget is distributed in the hope that it will be useful,
13 but WITHOUT ANY WARRANTY; without even the implied warranty of
14 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15 GNU General Public License for more details.
16
17 You should have received a copy of the GNU General Public License
18 along with Wget.  If not, see <http://www.gnu.org/licenses/>.
19
20 Additional permission under GNU GPL version 3 section 7
21
22 If you modify this program, or any covered work, by linking or
23 combining it with the OpenSSL project's OpenSSL library (or a
24 modified version of that library), containing parts covered by the
25 terms of the OpenSSL or SSLeay licenses, the Free Software Foundation
26 grants you additional permission to convey the resulting work.
27 Corresponding Source for a non-source form of such a combination
28 shall include the source code for the parts of OpenSSL used as well
29 as that of the covered work.  */
30
31 #include "wget.h"
32
33 #include <stdio.h>
34 #include <stdlib.h>
35 #ifdef HAVE_UNISTD_H
36 # include <unistd.h>
37 #endif /* HAVE_UNISTD_H */
38 #include <string.h>
39 #include <signal.h>
40 #ifdef ENABLE_NLS
41 # include <locale.h>
42 #endif
43 #include <assert.h>
44 #include <errno.h>
45 #include <time.h>
46
47 #include "exits.h"
48 #include "utils.h"
49 #include "init.h"
50 #include "retr.h"
51 #include "recur.h"
52 #include "host.h"
53 #include "url.h"
54 #include "progress.h"           /* for progress_handle_sigwinch */
55 #include "convert.h"
56 #include "spider.h"
57 #include "http.h"               /* for save_cookies */
58
59 #include <getopt.h>
60 #include <getpass.h>
61 #include <quote.h>
62
63 #ifdef __VMS
64 #include "vms.h"
65 #endif /* __VMS */
66
67 #ifndef PATH_SEPARATOR
68 # define PATH_SEPARATOR '/'
69 #endif
70
71 struct options opt;
72
73 /* defined in version.c */
74 extern char *version_string;
75 extern char *compilation_string;
76 extern char *system_getrc;
77 extern char *link_string;
78 /* defined in build_info.c */
79 extern const char *compiled_features[];
80 /* Used for --version output in print_version */
81 #define MAX_CHARS_PER_LINE      72
82 #define TABULATION              4
83
84 #if defined(SIGHUP) || defined(SIGUSR1)
85 static void redirect_output_signal (int);
86 #endif
87
88 const char *exec_name;
89
90 /* Number of successfully downloaded URLs */
91 int numurls = 0;
92 \f
93 #ifndef TESTING
94 /* Initialize I18N/L10N.  That amounts to invoking setlocale, and
95    setting up gettext's message catalog using bindtextdomain and
96    textdomain.  Does nothing if NLS is disabled or missing.  */
97
98 static void
99 i18n_initialize (void)
100 {
101   /* ENABLE_NLS implies existence of functions invoked here.  */
102 #ifdef ENABLE_NLS
103   /* Set the current locale.  */
104   setlocale (LC_ALL, "");
105   /* Set the text message domain.  */
106   bindtextdomain ("wget", LOCALEDIR);
107   textdomain ("wget");
108 #endif /* ENABLE_NLS */
109 }
110 \f
111 /* Definition of command-line options. */
112
113 static void print_help (void);
114 static void print_version (void);
115
116 #ifdef HAVE_SSL
117 # define IF_SSL(x) x
118 #else
119 # define IF_SSL(x) NULL
120 #endif
121
122 #ifdef ENABLE_DEBUG
123 # define WHEN_DEBUG(x) x
124 #else
125 # define WHEN_DEBUG(x) NULL
126 #endif
127
128 struct cmdline_option {
129   const char *long_name;
130   char short_name;
131   enum {
132     OPT_VALUE,
133     OPT_BOOLEAN,
134     OPT_FUNCALL,
135     /* Non-standard options that have to be handled specially in
136        main().  */
137     OPT__APPEND_OUTPUT,
138     OPT__CLOBBER,
139     OPT__DONT_REMOVE_LISTING,
140     OPT__EXECUTE,
141     OPT__NO,
142     OPT__PARENT
143   } type;
144   const void *data;             /* for standard options */
145   int argtype;                  /* for non-standard options */
146 };
147
148 static struct cmdline_option option_data[] =
149   {
150     { "accept", 'A', OPT_VALUE, "accept", -1 },
151     { "adjust-extension", 'E', OPT_BOOLEAN, "adjustextension", -1 },
152     { "append-output", 'a', OPT__APPEND_OUTPUT, NULL, required_argument },
153     { "ask-password", 0, OPT_BOOLEAN, "askpassword", -1 },
154     { "auth-no-challenge", 0, OPT_BOOLEAN, "authnochallenge", -1 },
155     { "background", 'b', OPT_BOOLEAN, "background", -1 },
156     { "backup-converted", 'K', OPT_BOOLEAN, "backupconverted", -1 },
157     { "backups", 0, OPT_BOOLEAN, "backups", -1 },
158     { "base", 'B', OPT_VALUE, "base", -1 },
159     { "bind-address", 0, OPT_VALUE, "bindaddress", -1 },
160     { IF_SSL ("ca-certificate"), 0, OPT_VALUE, "cacertificate", -1 },
161     { IF_SSL ("ca-directory"), 0, OPT_VALUE, "cadirectory", -1 },
162     { "cache", 0, OPT_BOOLEAN, "cache", -1 },
163     { IF_SSL ("certificate"), 0, OPT_VALUE, "certificate", -1 },
164     { IF_SSL ("certificate-type"), 0, OPT_VALUE, "certificatetype", -1 },
165     { IF_SSL ("check-certificate"), 0, OPT_BOOLEAN, "checkcertificate", -1 },
166     { "clobber", 0, OPT__CLOBBER, NULL, optional_argument },
167     { "connect-timeout", 0, OPT_VALUE, "connecttimeout", -1 },
168     { "continue", 'c', OPT_BOOLEAN, "continue", -1 },
169     { "convert-links", 'k', OPT_BOOLEAN, "convertlinks", -1 },
170     { "content-disposition", 0, OPT_BOOLEAN, "contentdisposition", -1 },
171     { "cookies", 0, OPT_BOOLEAN, "cookies", -1 },
172     { "cut-dirs", 0, OPT_VALUE, "cutdirs", -1 },
173     { WHEN_DEBUG ("debug"), 'd', OPT_BOOLEAN, "debug", -1 },
174     { "default-page", 0, OPT_VALUE, "defaultpage", -1 },
175     { "delete-after", 0, OPT_BOOLEAN, "deleteafter", -1 },
176     { "directories", 0, OPT_BOOLEAN, "dirstruct", -1 },
177     { "directory-prefix", 'P', OPT_VALUE, "dirprefix", -1 },
178     { "dns-cache", 0, OPT_BOOLEAN, "dnscache", -1 },
179     { "dns-timeout", 0, OPT_VALUE, "dnstimeout", -1 },
180     { "domains", 'D', OPT_VALUE, "domains", -1 },
181     { "dont-remove-listing", 0, OPT__DONT_REMOVE_LISTING, NULL, no_argument },
182     { "dot-style", 0, OPT_VALUE, "dotstyle", -1 }, /* deprecated */
183     { "egd-file", 0, OPT_VALUE, "egdfile", -1 },
184     { "exclude-directories", 'X', OPT_VALUE, "excludedirectories", -1 },
185     { "exclude-domains", 0, OPT_VALUE, "excludedomains", -1 },
186     { "execute", 'e', OPT__EXECUTE, NULL, required_argument },
187     { "follow-ftp", 0, OPT_BOOLEAN, "followftp", -1 },
188     { "follow-tags", 0, OPT_VALUE, "followtags", -1 },
189     { "force-directories", 'x', OPT_BOOLEAN, "dirstruct", -1 },
190     { "force-html", 'F', OPT_BOOLEAN, "forcehtml", -1 },
191     { "ftp-password", 0, OPT_VALUE, "ftppassword", -1 },
192 #ifdef __VMS
193     { "ftp-stmlf", 0, OPT_BOOLEAN, "ftpstmlf", -1 },
194 #endif /* def __VMS */
195     { "ftp-user", 0, OPT_VALUE, "ftpuser", -1 },
196     { "glob", 0, OPT_BOOLEAN, "glob", -1 },
197     { "header", 0, OPT_VALUE, "header", -1 },
198     { "help", 'h', OPT_FUNCALL, (void *)print_help, no_argument },
199     { "host-directories", 0, OPT_BOOLEAN, "addhostdir", -1 },
200     { "html-extension", 'E', OPT_BOOLEAN, "adjustextension", -1 }, /* deprecated */
201     { "htmlify", 0, OPT_BOOLEAN, "htmlify", -1 },
202     { "http-keep-alive", 0, OPT_BOOLEAN, "httpkeepalive", -1 },
203     { "http-passwd", 0, OPT_VALUE, "httppassword", -1 }, /* deprecated */
204     { "http-password", 0, OPT_VALUE, "httppassword", -1 },
205     { "http-user", 0, OPT_VALUE, "httpuser", -1 },
206     { "ignore-case", 0, OPT_BOOLEAN, "ignorecase", -1 },
207     { "ignore-length", 0, OPT_BOOLEAN, "ignorelength", -1 },
208     { "ignore-tags", 0, OPT_VALUE, "ignoretags", -1 },
209     { "include-directories", 'I', OPT_VALUE, "includedirectories", -1 },
210 #ifdef ENABLE_IPV6
211     { "inet4-only", '4', OPT_BOOLEAN, "inet4only", -1 },
212     { "inet6-only", '6', OPT_BOOLEAN, "inet6only", -1 },
213 #endif
214     { "input-file", 'i', OPT_VALUE, "input", -1 },
215     { "iri", 0, OPT_BOOLEAN, "iri", -1 },
216     { "keep-session-cookies", 0, OPT_BOOLEAN, "keepsessioncookies", -1 },
217     { "level", 'l', OPT_VALUE, "reclevel", -1 },
218     { "limit-rate", 0, OPT_VALUE, "limitrate", -1 },
219     { "load-cookies", 0, OPT_VALUE, "loadcookies", -1 },
220     { "local-encoding", 0, OPT_VALUE, "localencoding", -1 },
221     { "match-server-timestamps", 0, OPT_BOOLEAN, "matchservertimestamps", -1 },
222     { "max-redirect", 0, OPT_VALUE, "maxredirect", -1 },
223     { "mirror", 'm', OPT_BOOLEAN, "mirror", -1 },
224     { "no", 'n', OPT__NO, NULL, required_argument },
225     { "no-clobber", 0, OPT_BOOLEAN, "noclobber", -1 },
226     { "no-parent", 0, OPT_BOOLEAN, "noparent", -1 },
227     { "output-document", 'O', OPT_VALUE, "outputdocument", -1 },
228     { "output-file", 'o', OPT_VALUE, "logfile", -1 },
229     { "page-requisites", 'p', OPT_BOOLEAN, "pagerequisites", -1 },
230     { "parent", 0, OPT__PARENT, NULL, optional_argument },
231     { "passive-ftp", 0, OPT_BOOLEAN, "passiveftp", -1 },
232     { "password", 0, OPT_VALUE, "password", -1 },
233     { "post-data", 0, OPT_VALUE, "postdata", -1 },
234     { "post-file", 0, OPT_VALUE, "postfile", -1 },
235     { "prefer-family", 0, OPT_VALUE, "preferfamily", -1 },
236     { "preserve-permissions", 0, OPT_BOOLEAN, "preservepermissions", -1 }, /* deprecated */
237     { IF_SSL ("private-key"), 0, OPT_VALUE, "privatekey", -1 },
238     { IF_SSL ("private-key-type"), 0, OPT_VALUE, "privatekeytype", -1 },
239     { "progress", 0, OPT_VALUE, "progress", -1 },
240     { "protocol-directories", 0, OPT_BOOLEAN, "protocoldirectories", -1 },
241     { "proxy", 0, OPT_BOOLEAN, "useproxy", -1 },
242     { "proxy__compat", 'Y', OPT_VALUE, "useproxy", -1 }, /* back-compatible */
243     { "proxy-passwd", 0, OPT_VALUE, "proxypassword", -1 }, /* deprecated */
244     { "proxy-password", 0, OPT_VALUE, "proxypassword", -1 },
245     { "proxy-user", 0, OPT_VALUE, "proxyuser", -1 },
246     { "quiet", 'q', OPT_BOOLEAN, "quiet", -1 },
247     { "quota", 'Q', OPT_VALUE, "quota", -1 },
248     { "random-file", 0, OPT_VALUE, "randomfile", -1 },
249     { "random-wait", 0, OPT_BOOLEAN, "randomwait", -1 },
250     { "read-timeout", 0, OPT_VALUE, "readtimeout", -1 },
251     { "recursive", 'r', OPT_BOOLEAN, "recursive", -1 },
252     { "referer", 0, OPT_VALUE, "referer", -1 },
253     { "reject", 'R', OPT_VALUE, "reject", -1 },
254     { "relative", 'L', OPT_BOOLEAN, "relativeonly", -1 },
255     { "remote-encoding", 0, OPT_VALUE, "remoteencoding", -1 },
256     { "remove-listing", 0, OPT_BOOLEAN, "removelisting", -1 },
257     { "restrict-file-names", 0, OPT_BOOLEAN, "restrictfilenames", -1 },
258     { "retr-symlinks", 0, OPT_BOOLEAN, "retrsymlinks", -1 },
259     { "retry-connrefused", 0, OPT_BOOLEAN, "retryconnrefused", -1 },
260     { "save-cookies", 0, OPT_VALUE, "savecookies", -1 },
261     { "save-headers", 0, OPT_BOOLEAN, "saveheaders", -1 },
262     { IF_SSL ("secure-protocol"), 0, OPT_VALUE, "secureprotocol", -1 },
263     { "server-response", 'S', OPT_BOOLEAN, "serverresponse", -1 },
264     { "span-hosts", 'H', OPT_BOOLEAN, "spanhosts", -1 },
265     { "spider", 0, OPT_BOOLEAN, "spider", -1 },
266     { "strict-comments", 0, OPT_BOOLEAN, "strictcomments", -1 },
267     { "timeout", 'T', OPT_VALUE, "timeout", -1 },
268     { "timestamping", 'N', OPT_BOOLEAN, "timestamping", -1 },
269     { "tries", 't', OPT_VALUE, "tries", -1 },
270     { "user", 0, OPT_VALUE, "user", -1 },
271     { "user-agent", 'U', OPT_VALUE, "useragent", -1 },
272     { "verbose", 'v', OPT_BOOLEAN, "verbose", -1 },
273     { "verbose", 0, OPT_BOOLEAN, "verbose", -1 },
274     { "version", 'V', OPT_FUNCALL, (void *) print_version, no_argument },
275     { "wait", 'w', OPT_VALUE, "wait", -1 },
276     { "waitretry", 0, OPT_VALUE, "waitretry", -1 },
277 #ifdef USE_WATT32
278     { "wdebug", 0, OPT_BOOLEAN, "wdebug", -1 },
279 #endif
280   };
281
282 #undef WHEN_DEBUG
283 #undef IF_SSL
284
285 /* Return a string that contains S with "no-" prepended.  The string
286    is NUL-terminated and allocated off static storage at Wget
287    startup.  */
288
289 static char *
290 no_prefix (const char *s)
291 {
292   static char buffer[1024];
293   static char *p = buffer;
294
295   char *cp = p;
296   int size = 3 + strlen (s) + 1;  /* "no-STRING\0" */
297   if (p + size >= buffer + sizeof (buffer))
298     abort ();
299
300   cp[0] = 'n', cp[1] = 'o', cp[2] = '-';
301   strcpy (cp + 3, s);
302   p += size;
303   return cp;
304 }
305
306 /* The arguments that that main passes to getopt_long. */
307 static struct option long_options[2 * countof (option_data) + 1];
308 static char short_options[128];
309
310 /* Mapping between short option chars and option_data indices. */
311 static unsigned char optmap[96];
312
313 /* Marker for `--no-FOO' values in long_options.  */
314 #define BOOLEAN_NEG_MARKER 1024
315
316 /* Initialize the long_options array used by getopt_long from the data
317    in option_data.  */
318
319 static void
320 init_switches (void)
321 {
322   char *p = short_options;
323   size_t i, o = 0;
324   for (i = 0; i < countof (option_data); i++)
325     {
326       struct cmdline_option *opt = &option_data[i];
327       struct option *longopt;
328
329       if (!opt->long_name)
330         /* The option is disabled. */
331         continue;
332
333       longopt = &long_options[o++];
334       longopt->name = opt->long_name;
335       longopt->val = i;
336       if (opt->short_name)
337         {
338           *p++ = opt->short_name;
339           optmap[opt->short_name - 32] = longopt - long_options;
340         }
341       switch (opt->type)
342         {
343         case OPT_VALUE:
344           longopt->has_arg = required_argument;
345           if (opt->short_name)
346             *p++ = ':';
347           break;
348         case OPT_BOOLEAN:
349           /* Specify an optional argument for long options, so that
350              --option=off works the same as --no-option, for
351              compatibility with pre-1.10 Wget.  However, don't specify
352              optional arguments short-option booleans because they
353              prevent combining of short options.  */
354           longopt->has_arg = optional_argument;
355           /* For Boolean options, add the "--no-FOO" variant, which is
356              identical to "--foo", except it has opposite meaning and
357              it doesn't allow an argument.  */
358           longopt = &long_options[o++];
359           longopt->name = no_prefix (opt->long_name);
360           longopt->has_arg = no_argument;
361           /* Mask the value so we'll be able to recognize that we're
362              dealing with the false value.  */
363           longopt->val = i | BOOLEAN_NEG_MARKER;
364           break;
365         default:
366           assert (opt->argtype != -1);
367           longopt->has_arg = opt->argtype;
368           if (opt->short_name)
369             {
370               if (longopt->has_arg == required_argument)
371                 *p++ = ':';
372               /* Don't handle optional_argument */
373             }
374         }
375     }
376   /* Terminate short_options. */
377   *p = '\0';
378   /* No need for xzero(long_options[o]) because its storage is static
379      and it will be zeroed by default.  */
380   assert (o <= countof (long_options));
381 }
382
383 /* Print the usage message.  */
384 static void
385 print_usage (void)
386 {
387   printf (_("Usage: %s [OPTION]... [URL]...\n"), exec_name);
388 }
389
390 /* Print the help message, describing all the available options.  If
391    you add an option, be sure to update this list.  */
392 static void
393 print_help (void)
394 {
395   /* We split the help text this way to ease translation of individual
396      entries.  */
397   static const char *help[] = {
398     "\n",
399     N_("\
400 Mandatory arguments to long options are mandatory for short options too.\n\n"),
401     N_("\
402 Startup:\n"),
403     N_("\
404   -V,  --version           display the version of Wget and exit.\n"),
405     N_("\
406   -h,  --help              print this help.\n"),
407     N_("\
408   -b,  --background        go to background after startup.\n"),
409     N_("\
410   -e,  --execute=COMMAND   execute a `.wgetrc'-style command.\n"),
411     "\n",
412
413     N_("\
414 Logging and input file:\n"),
415     N_("\
416   -o,  --output-file=FILE    log messages to FILE.\n"),
417     N_("\
418   -a,  --append-output=FILE  append messages to FILE.\n"),
419 #ifdef ENABLE_DEBUG
420     N_("\
421   -d,  --debug               print lots of debugging information.\n"),
422 #endif
423 #ifdef USE_WATT32
424     N_("\
425        --wdebug              print Watt-32 debug output.\n"),
426 #endif
427     N_("\
428   -q,  --quiet               quiet (no output).\n"),
429     N_("\
430   -v,  --verbose             be verbose (this is the default).\n"),
431     N_("\
432   -nv, --no-verbose          turn off verboseness, without being quiet.\n"),
433     N_("\
434   -i,  --input-file=FILE     download URLs found in local or external FILE.\n"),
435     N_("\
436   -F,  --force-html          treat input file as HTML.\n"),
437     N_("\
438   -B,  --base=URL            resolves HTML input-file links (-i -F)\n\
439                              relative to URL.\n"),
440     "\n",
441
442     N_("\
443 Download:\n"),
444     N_("\
445   -t,  --tries=NUMBER            set number of retries to NUMBER (0 unlimits).\n"),
446     N_("\
447        --retry-connrefused       retry even if connection is refused.\n"),
448     N_("\
449   -O,  --output-document=FILE    write documents to FILE.\n"),
450     N_("\
451   -nc, --no-clobber              skip downloads that would download to\n\
452                                  existing files.\n"),
453     N_("\
454   -c,  --continue                resume getting a partially-downloaded file.\n"),
455     N_("\
456        --progress=TYPE           select progress gauge type.\n"),
457     N_("\
458   -N,  --timestamping            don't re-retrieve files unless newer than\n\
459                                  local.\n"),
460     N_("\
461   -S,  --server-response         print server response.\n"),
462     N_("\
463        --spider                  don't download anything.\n"),
464     N_("\
465   -T,  --timeout=SECONDS         set all timeout values to SECONDS.\n"),
466     N_("\
467        --dns-timeout=SECS        set the DNS lookup timeout to SECS.\n"),
468     N_("\
469        --connect-timeout=SECS    set the connect timeout to SECS.\n"),
470     N_("\
471        --read-timeout=SECS       set the read timeout to SECS.\n"),
472     N_("\
473   -w,  --wait=SECONDS            wait SECONDS between retrievals.\n"),
474     N_("\
475        --waitretry=SECONDS       wait 1..SECONDS between retries of a retrieval.\n"),
476     N_("\
477        --random-wait             wait from 0...2*WAIT secs between retrievals.\n"),
478     N_("\
479        --no-proxy                explicitly turn off proxy.\n"),
480     N_("\
481   -Q,  --quota=NUMBER            set retrieval quota to NUMBER.\n"),
482     N_("\
483        --bind-address=ADDRESS    bind to ADDRESS (hostname or IP) on local host.\n"),
484     N_("\
485        --limit-rate=RATE         limit download rate to RATE.\n"),
486     N_("\
487        --no-dns-cache            disable caching DNS lookups.\n"),
488     N_("\
489        --restrict-file-names=OS  restrict chars in file names to ones OS allows.\n"),
490     N_("\
491        --ignore-case             ignore case when matching files/directories.\n"),
492 #ifdef ENABLE_IPV6
493     N_("\
494   -4,  --inet4-only              connect only to IPv4 addresses.\n"),
495     N_("\
496   -6,  --inet6-only              connect only to IPv6 addresses.\n"),
497     N_("\
498        --prefer-family=FAMILY    connect first to addresses of specified family,\n\
499                                  one of IPv6, IPv4, or none.\n"),
500 #endif
501     N_("\
502        --user=USER               set both ftp and http user to USER.\n"),
503     N_("\
504        --password=PASS           set both ftp and http password to PASS.\n"),
505     N_("\
506        --ask-password            prompt for passwords.\n"),
507     N_("\
508        --no-iri                  turn off IRI support.\n"),
509     N_("\
510        --local-encoding=ENC      use ENC as the local encoding for IRIs.\n"),
511     N_("\
512        --remote-encoding=ENC     use ENC as the default remote encoding.\n"),
513     "\n",
514
515     N_("\
516 Directories:\n"),
517     N_("\
518   -nd, --no-directories           don't create directories.\n"),
519     N_("\
520   -x,  --force-directories        force creation of directories.\n"),
521     N_("\
522   -nH, --no-host-directories      don't create host directories.\n"),
523     N_("\
524        --protocol-directories     use protocol name in directories.\n"),
525     N_("\
526   -P,  --directory-prefix=PREFIX  save files to PREFIX/...\n"),
527     N_("\
528        --cut-dirs=NUMBER          ignore NUMBER remote directory components.\n"),
529     "\n",
530
531     N_("\
532 HTTP options:\n"),
533     N_("\
534        --http-user=USER        set http user to USER.\n"),
535     N_("\
536        --http-password=PASS    set http password to PASS.\n"),
537     N_("\
538        --no-cache              disallow server-cached data.\n"),
539     N_ ("\
540        --default-page=NAME     Change the default page name (normally\n\
541                                this is `index.html'.).\n"),
542     N_("\
543   -E,  --adjust-extension      save HTML/CSS documents with proper extensions.\n"),
544     N_("\
545        --ignore-length         ignore `Content-Length' header field.\n"),
546     N_("\
547        --header=STRING         insert STRING among the headers.\n"),
548     N_("\
549        --max-redirect          maximum redirections allowed per page.\n"),
550     N_("\
551        --proxy-user=USER       set USER as proxy username.\n"),
552     N_("\
553        --proxy-password=PASS   set PASS as proxy password.\n"),
554     N_("\
555        --referer=URL           include `Referer: URL' header in HTTP request.\n"),
556     N_("\
557        --save-headers          save the HTTP headers to file.\n"),
558     N_("\
559   -U,  --user-agent=AGENT      identify as AGENT instead of Wget/VERSION.\n"),
560     N_("\
561        --no-http-keep-alive    disable HTTP keep-alive (persistent connections).\n"),
562     N_("\
563        --no-cookies            don't use cookies.\n"),
564     N_("\
565        --load-cookies=FILE     load cookies from FILE before session.\n"),
566     N_("\
567        --save-cookies=FILE     save cookies to FILE after session.\n"),
568     N_("\
569        --keep-session-cookies  load and save session (non-permanent) cookies.\n"),
570     N_("\
571        --post-data=STRING      use the POST method; send STRING as the data.\n"),
572     N_("\
573        --post-file=FILE        use the POST method; send contents of FILE.\n"),
574     N_("\
575        --content-disposition   honor the Content-Disposition header when\n\
576                                choosing local file names (EXPERIMENTAL).\n"),
577     N_("\
578        --auth-no-challenge     send Basic HTTP authentication information\n\
579                                without first waiting for the server's\n\
580                                challenge.\n"),
581     "\n",
582
583 #ifdef HAVE_SSL
584     N_("\
585 HTTPS (SSL/TLS) options:\n"),
586     N_("\
587        --secure-protocol=PR     choose secure protocol, one of auto, SSLv2,\n\
588                                 SSLv3, and TLSv1.\n"),
589     N_("\
590        --no-check-certificate   don't validate the server's certificate.\n"),
591     N_("\
592        --certificate=FILE       client certificate file.\n"),
593     N_("\
594        --certificate-type=TYPE  client certificate type, PEM or DER.\n"),
595     N_("\
596        --private-key=FILE       private key file.\n"),
597     N_("\
598        --private-key-type=TYPE  private key type, PEM or DER.\n"),
599     N_("\
600        --ca-certificate=FILE    file with the bundle of CA's.\n"),
601     N_("\
602        --ca-directory=DIR       directory where hash list of CA's is stored.\n"),
603     N_("\
604        --random-file=FILE       file with random data for seeding the SSL PRNG.\n"),
605     N_("\
606        --egd-file=FILE          file naming the EGD socket with random data.\n"),
607     "\n",
608 #endif /* HAVE_SSL */
609
610     N_("\
611 FTP options:\n"),
612 #ifdef __VMS
613     N_("\
614        --ftp-stmlf             Use Stream_LF format for all binary FTP files.\n"),
615 #endif /* def __VMS */
616     N_("\
617        --ftp-user=USER         set ftp user to USER.\n"),
618     N_("\
619        --ftp-password=PASS     set ftp password to PASS.\n"),
620     N_("\
621        --no-remove-listing     don't remove `.listing' files.\n"),
622     N_("\
623        --no-glob               turn off FTP file name globbing.\n"),
624     N_("\
625        --no-passive-ftp        disable the \"passive\" transfer mode.\n"),
626     N_("\
627        --retr-symlinks         when recursing, get linked-to files (not dir).\n"),
628     "\n",
629
630     N_("\
631 Recursive download:\n"),
632     N_("\
633   -r,  --recursive          specify recursive download.\n"),
634     N_("\
635   -l,  --level=NUMBER       maximum recursion depth (inf or 0 for infinite).\n"),
636     N_("\
637        --delete-after       delete files locally after downloading them.\n"),
638     N_("\
639   -k,  --convert-links      make links in downloaded HTML or CSS point to\n\
640                             local files.\n"),
641 #ifdef __VMS
642     N_("\
643   -K,  --backup-converted   before converting file X, back up as X_orig.\n"),
644 #else /* def __VMS */
645     N_("\
646   -K,  --backup-converted   before converting file X, back up as X.orig.\n"),
647 #endif /* def __VMS [else] */
648     N_("\
649   -m,  --mirror             shortcut for -N -r -l inf --no-remove-listing.\n"),
650     N_("\
651   -p,  --page-requisites    get all images, etc. needed to display HTML page.\n"),
652     N_("\
653        --strict-comments    turn on strict (SGML) handling of HTML comments.\n"),
654     "\n",
655
656     N_("\
657 Recursive accept/reject:\n"),
658     N_("\
659   -A,  --accept=LIST               comma-separated list of accepted extensions.\n"),
660     N_("\
661   -R,  --reject=LIST               comma-separated list of rejected extensions.\n"),
662     N_("\
663   -D,  --domains=LIST              comma-separated list of accepted domains.\n"),
664     N_("\
665        --exclude-domains=LIST      comma-separated list of rejected domains.\n"),
666     N_("\
667        --follow-ftp                follow FTP links from HTML documents.\n"),
668     N_("\
669        --follow-tags=LIST          comma-separated list of followed HTML tags.\n"),
670     N_("\
671        --ignore-tags=LIST          comma-separated list of ignored HTML tags.\n"),
672     N_("\
673   -H,  --span-hosts                go to foreign hosts when recursive.\n"),
674     N_("\
675   -L,  --relative                  follow relative links only.\n"),
676     N_("\
677   -I,  --include-directories=LIST  list of allowed directories.\n"),
678     N_("\
679   -X,  --exclude-directories=LIST  list of excluded directories.\n"),
680     N_("\
681   -np, --no-parent                 don't ascend to the parent directory.\n"),
682     "\n",
683
684     N_("Mail bug reports and suggestions to <bug-wget@gnu.org>.\n")
685   };
686
687   size_t i;
688
689   printf (_("GNU Wget %s, a non-interactive network retriever.\n"),
690           version_string);
691   print_usage ();
692
693   for (i = 0; i < countof (help); i++)
694     fputs (_(help[i]), stdout);
695
696   exit (0);
697 }
698
699 /* Return a human-readable printed representation of INTERVAL,
700    measured in seconds.  */
701
702 static char *
703 secs_to_human_time (double interval)
704 {
705   static char buf[32];
706   int secs = (int) (interval + 0.5);
707   int hours, mins, days;
708
709   days = secs / 86400, secs %= 86400;
710   hours = secs / 3600, secs %= 3600;
711   mins = secs / 60, secs %= 60;
712
713   if (days)
714     sprintf (buf, "%dd %dh %dm %ds", days, hours, mins, secs);
715   else if (hours)
716     sprintf (buf, "%dh %dm %ds", hours, mins, secs);
717   else if (mins)
718     sprintf (buf, "%dm %ds", mins, secs);
719   else
720     sprintf (buf, "%ss", print_decimal (interval));
721
722   return buf;
723 }
724
725 static char *
726 prompt_for_password (void)
727 {
728   if (opt.user)
729     printf (_("Password for user %s: "), quote (opt.user));
730   else
731     printf (_("Password: "));
732   return getpass("");
733 }
734
735 /* Function that prints the line argument while limiting it
736    to at most line_length. prefix is printed on the first line
737    and an appropriate number of spaces are added on subsequent
738    lines.*/
739 static void
740 format_and_print_line (const char *prefix, const char *line,
741                        int line_length)
742 {
743   int remaining_chars;
744   char *line_dup, *token;
745
746   assert (prefix != NULL);
747   assert (line != NULL);
748
749   line_dup = xstrdup (line);
750
751   if (line_length <= 0)
752     line_length = MAX_CHARS_PER_LINE - TABULATION;
753
754   printf ("%s", prefix);
755   remaining_chars = line_length;
756   /* We break on spaces. */
757   token = strtok (line_dup, " ");
758   while (token != NULL)
759     {
760       /* If however a token is much larger than the maximum
761          line length, all bets are off and we simply print the
762          token on the next line. */
763       if (remaining_chars <= strlen (token))
764         {
765           printf ("\n%*c", TABULATION, ' ');
766           remaining_chars = line_length - TABULATION;
767         }
768       printf ("%s ", token);
769       remaining_chars -= strlen (token) + 1;  /* account for " " */
770       token = strtok (NULL, " ");
771     }
772
773   printf ("\n");
774
775   xfree (line_dup);
776 }
777
778 static void
779 print_version (void)
780 {
781   const char *wgetrc_title  = _("Wgetrc: ");
782   const char *locale_title  = _("Locale: ");
783   const char *compile_title = _("Compile: ");
784   const char *link_title    = _("Link: ");
785   char *line;
786   char *env_wgetrc, *user_wgetrc;
787   int i;
788
789   printf (_("GNU Wget %s built on %s.\n\n"), version_string, OS_TYPE);
790
791   for (i = 0; compiled_features[i] != NULL; )
792     {
793       int line_length = MAX_CHARS_PER_LINE;
794       while ((line_length > 0) && (compiled_features[i] != NULL))
795         {
796           printf ("%s ", compiled_features[i]);
797           line_length -= strlen (compiled_features[i]) + 2;
798           i++;
799         }
800       printf ("\n");
801     }
802   printf ("\n");
803
804   /* Handle the case when $WGETRC is unset and $HOME/.wgetrc is
805      absent. */
806   printf ("%s\n", wgetrc_title);
807   env_wgetrc = wgetrc_env_file_name ();
808   if (env_wgetrc && *env_wgetrc)
809     {
810       printf (_("    %s (env)\n"), env_wgetrc);
811       xfree (env_wgetrc);
812     }
813   user_wgetrc = wgetrc_user_file_name ();
814   if (user_wgetrc)
815     {
816       printf (_("    %s (user)\n"), user_wgetrc);
817       xfree (user_wgetrc);
818     }
819 #ifdef SYSTEM_WGETRC
820   printf (_("    %s (system)\n"), SYSTEM_WGETRC);
821 #endif
822
823 #ifdef ENABLE_NLS
824   format_and_print_line (locale_title,
825                         LOCALEDIR,
826                         MAX_CHARS_PER_LINE);
827 #endif /* def ENABLE_NLS */
828
829   if (compilation_string != NULL)
830     format_and_print_line (compile_title,
831                            compilation_string,
832                            MAX_CHARS_PER_LINE);
833
834   if (link_string != NULL)
835     format_and_print_line (link_title,
836                            link_string,
837                            MAX_CHARS_PER_LINE);
838
839   printf ("\n");
840   /* TRANSLATORS: When available, an actual copyright character
841      (cirle-c) should be used in preference to "(C)". */
842   fputs (_("\
843 Copyright (C) 2009 Free Software Foundation, Inc.\n"), stdout);
844   fputs (_("\
845 License GPLv3+: GNU GPL version 3 or later\n\
846 <http://www.gnu.org/licenses/gpl.html>.\n\
847 This is free software: you are free to change and redistribute it.\n\
848 There is NO WARRANTY, to the extent permitted by law.\n"), stdout);
849   /* TRANSLATORS: When available, please use the proper diacritics for
850      names such as this one. See en_US.po for reference. */
851   fputs (_("\nOriginally written by Hrvoje Niksic <hniksic@xemacs.org>.\n"),
852          stdout);
853   fputs (_("Currently maintained by Micah Cowan <micah@cowan.name>.\n"),
854          stdout);
855   fputs (_("Please send bug reports and questions to <bug-wget@gnu.org>.\n"),
856          stdout);
857   exit (0);
858 }
859
860 char *program_name; /* Needed by lib/error.c. */
861
862 int
863 main (int argc, char **argv)
864 {
865   char **url, **t;
866   int i, ret, longindex;
867   int nurl, status;
868   bool append_to_log = false;
869
870   program_name = argv[0];
871
872   i18n_initialize ();
873
874   /* Construct the name of the executable, without the directory part.  */
875 #ifdef __VMS
876   /* On VMS, lose the "dev:[dir]" prefix and the ".EXE;nnn" suffix. */
877   exec_name = vms_basename (argv[0]);
878 #else /* def __VMS */
879   exec_name = strrchr (argv[0], PATH_SEPARATOR);
880   if (!exec_name)
881     exec_name = argv[0];
882   else
883     ++exec_name;
884 #endif /* def __VMS [else] */
885
886 #ifdef WINDOWS
887   /* Drop extension (typically .EXE) from executable filename. */
888   windows_main ((char **) &exec_name);
889 #endif
890
891   /* Set option defaults; read the system wgetrc and ~/.wgetrc.  */
892   initialize ();
893
894   init_switches ();
895   longindex = -1;
896   while ((ret = getopt_long (argc, argv,
897                              short_options, long_options, &longindex)) != -1)
898     {
899       int val;
900       struct cmdline_option *opt;
901
902       /* If LONGINDEX is unchanged, it means RET is referring a short
903          option.  */
904       if (longindex == -1)
905         {
906           if (ret == '?')
907             {
908               print_usage ();
909               printf ("\n");
910               printf (_("Try `%s --help' for more options.\n"), exec_name);
911               exit (2);
912             }
913           /* Find the short option character in the mapping.  */
914           longindex = optmap[ret - 32];
915         }
916       val = long_options[longindex].val;
917
918       /* Use the retrieved value to locate the option in the
919          option_data array, and to see if we're dealing with the
920          negated "--no-FOO" variant of the boolean option "--foo".  */
921       opt = &option_data[val & ~BOOLEAN_NEG_MARKER];
922       switch (opt->type)
923         {
924         case OPT_VALUE:
925           setoptval (opt->data, optarg, opt->long_name);
926           break;
927         case OPT_BOOLEAN:
928           if (optarg)
929             /* The user has specified a value -- use it. */
930             setoptval (opt->data, optarg, opt->long_name);
931           else
932             {
933               /* NEG is true for `--no-FOO' style boolean options. */
934               bool neg = !!(val & BOOLEAN_NEG_MARKER);
935               setoptval (opt->data, neg ? "0" : "1", opt->long_name);
936             }
937           break;
938         case OPT_FUNCALL:
939           {
940             void (*func) (void) = (void (*) (void)) opt->data;
941             func ();
942           }
943           break;
944         case OPT__APPEND_OUTPUT:
945           setoptval ("logfile", optarg, opt->long_name);
946           append_to_log = true;
947           break;
948         case OPT__EXECUTE:
949           run_command (optarg);
950           break;
951         case OPT__NO:
952           {
953             /* We support real --no-FOO flags now, but keep these
954                short options for convenience and backward
955                compatibility.  */
956             char *p;
957             for (p = optarg; *p; p++)
958               switch (*p)
959                 {
960                 case 'v':
961                   setoptval ("verbose", "0", opt->long_name);
962                   break;
963                 case 'H':
964                   setoptval ("addhostdir", "0", opt->long_name);
965                   break;
966                 case 'd':
967                   setoptval ("dirstruct", "0", opt->long_name);
968                   break;
969                 case 'c':
970                   setoptval ("noclobber", "1", opt->long_name);
971                   break;
972                 case 'p':
973                   setoptval ("noparent", "1", opt->long_name);
974                   break;
975                 default:
976                   printf (_("%s: illegal option -- `-n%c'\n"), exec_name, *p);
977                   print_usage ();
978                   printf ("\n");
979                   printf (_("Try `%s --help' for more options.\n"), exec_name);
980                   exit (1);
981                 }
982             break;
983           }
984         case OPT__PARENT:
985         case OPT__CLOBBER:
986           {
987             /* The wgetrc commands are named noparent and noclobber,
988                so we must revert the meaning of the cmdline options
989                before passing the value to setoptval.  */
990             bool flag = true;
991             if (optarg)
992               flag = (*optarg == '1' || c_tolower (*optarg) == 'y'
993                       || (c_tolower (optarg[0]) == 'o'
994                           && c_tolower (optarg[1]) == 'n'));
995             setoptval (opt->type == OPT__PARENT ? "noparent" : "noclobber",
996                        flag ? "0" : "1", opt->long_name);
997             break;
998           }
999         case OPT__DONT_REMOVE_LISTING:
1000           setoptval ("removelisting", "0", opt->long_name);
1001           break;
1002         }
1003
1004       longindex = -1;
1005     }
1006
1007   nurl = argc - optind;
1008
1009   /* All user options have now been processed, so it's now safe to do
1010      interoption dependency checks. */
1011
1012   if (opt.reclevel == 0)
1013       opt.reclevel = INFINITE_RECURSION; /* see recur.h for commentary */
1014
1015   if (opt.spider || opt.delete_after)
1016       opt.no_dirstruct = true;
1017
1018   if (opt.page_requisites && !opt.recursive)
1019     {
1020       /* Don't set opt.recursive here because it would confuse the FTP
1021          code.  Instead, call retrieve_tree below when either
1022          page_requisites or recursive is requested.  */
1023       opt.reclevel = 0;
1024       if (!opt.no_dirstruct)
1025         opt.dirstruct = 1;      /* normally handled by cmd_spec_recursive() */
1026     }
1027
1028   if (opt.verbose == -1)
1029     opt.verbose = !opt.quiet;
1030
1031   /* Sanity checks.  */
1032   if (opt.verbose && opt.quiet)
1033     {
1034       printf (_("Can't be verbose and quiet at the same time.\n"));
1035       print_usage ();
1036       exit (1);
1037     }
1038   if (opt.timestamping && opt.noclobber)
1039     {
1040       printf (_("\
1041 Can't timestamp and not clobber old files at the same time.\n"));
1042       print_usage ();
1043       exit (1);
1044     }
1045 #ifdef ENABLE_IPV6
1046   if (opt.ipv4_only && opt.ipv6_only)
1047     {
1048       printf (_("Cannot specify both --inet4-only and --inet6-only.\n"));
1049       print_usage ();
1050       exit (1);
1051     }
1052 #endif
1053   if (opt.output_document)
1054     {
1055       if (opt.convert_links
1056           && (nurl > 1 || opt.page_requisites || opt.recursive))
1057         {
1058           fputs (_("\
1059 Cannot specify both -k and -O if multiple URLs are given, or in combination\n\
1060 with -p or -r. See the manual for details.\n\n"), stdout);
1061           print_usage ();
1062           exit (1);
1063         }
1064       if (opt.page_requisites
1065           || opt.recursive)
1066         {
1067           logprintf (LOG_NOTQUIET, "%s", _("\
1068 WARNING: combining -O with -r or -p will mean that all downloaded content\n\
1069 will be placed in the single file you specified.\n\n"));
1070         }
1071       if (opt.timestamping)
1072         {
1073           logprintf (LOG_NOTQUIET, "%s", _("\
1074 WARNING: timestamping does nothing in combination with -O. See the manual\n\
1075 for details.\n\n"));
1076           opt.timestamping = false;
1077         }
1078       if (opt.noclobber && file_exists_p(opt.output_document))
1079            {
1080               /* Check if output file exists; if it does, exit. */
1081               logprintf (LOG_VERBOSE, _("File `%s' already there; not retrieving.\n"), opt.output_document);
1082               exit(1);
1083            }
1084     }
1085
1086   if (opt.ask_passwd && opt.passwd)
1087     {
1088       printf (_("Cannot specify both --ask-password and --password.\n"));
1089       print_usage ();
1090       exit (1);
1091     }
1092
1093   if (!nurl && !opt.input_filename)
1094     {
1095       /* No URL specified.  */
1096       printf (_("%s: missing URL\n"), exec_name);
1097       print_usage ();
1098       printf ("\n");
1099       /* #### Something nicer should be printed here -- similar to the
1100          pre-1.5 `--help' page.  */
1101       printf (_("Try `%s --help' for more options.\n"), exec_name);
1102       exit (1);
1103     }
1104
1105 #ifdef ENABLE_IRI
1106   if (opt.enable_iri)
1107     {
1108       if (opt.locale && !check_encoding_name (opt.locale))
1109         opt.locale = NULL;
1110
1111       if (!opt.locale)
1112         opt.locale = find_locale ();
1113
1114       if (opt.encoding_remote && !check_encoding_name (opt.encoding_remote))
1115         opt.encoding_remote = NULL;
1116     }
1117 #else
1118   if (opt.enable_iri || opt.locale || opt.encoding_remote)
1119     {
1120       /* sXXXav : be more specific... */
1121       printf(_("This version does not have support for IRIs\n"));
1122       exit(1);
1123     }
1124 #endif
1125
1126   if (opt.ask_passwd)
1127     {
1128       opt.passwd = prompt_for_password ();
1129
1130       if (opt.passwd == NULL || opt.passwd[0] == '\0')
1131         exit (1);
1132     }
1133
1134 #ifdef USE_WATT32
1135   if (opt.wdebug)
1136      dbug_init();
1137   sock_init();
1138 #else
1139   if (opt.background)
1140     fork_to_background ();
1141 #endif
1142
1143   /* Initialize progress.  Have to do this after the options are
1144      processed so we know where the log file is.  */
1145   if (opt.verbose)
1146     set_progress_implementation (opt.progress_type);
1147
1148   /* Fill in the arguments.  */
1149   url = alloca_array (char *, nurl + 1);
1150   for (i = 0; i < nurl; i++, optind++)
1151     {
1152       char *rewritten = rewrite_shorthand_url (argv[optind]);
1153       if (rewritten)
1154         url[i] = rewritten;
1155       else
1156         url[i] = xstrdup (argv[optind]);
1157     }
1158   url[i] = NULL;
1159
1160   /* Initialize logging.  */
1161   log_init (opt.lfilename, append_to_log);
1162
1163   DEBUGP (("DEBUG output created by Wget %s on %s.\n\n",
1164            version_string, OS_TYPE));
1165
1166   /* Open the output filename if necessary.  */
1167
1168 /* 2005-04-17 SMS.
1169    Note that having the output_stream ("-O") file opened here for an FTP
1170    URL rather than in getftp() (ftp.c) (and the http equivalent) rather
1171    limits the ability in VMS to open the file differently for ASCII
1172    versus binary FTP there.  (Of course, doing it here allows a open
1173    failure to be detected immediately, without first connecting to the
1174    server.)
1175 */
1176   if (opt.output_document)
1177     {
1178       if (HYPHENP (opt.output_document))
1179         {
1180 #ifdef WINDOWS
1181           FILE *result;
1182           result = freopen ("CONOUT$", "wb", stdout);
1183           if (result == NULL)
1184             {
1185               logputs (LOG_NOTQUIET, _("\
1186 WARNING: Can't reopen standard output in binary mode;\n\
1187          downloaded file may contain inappropriate line endings.\n"));
1188             }
1189 #endif
1190           output_stream = stdout;
1191         }
1192       else
1193         {
1194           struct_fstat st;
1195
1196 #ifdef __VMS
1197 /* Common fopen() optional arguments:
1198    sequential access only, access callback function.
1199 */
1200 # define FOPEN_OPT_ARGS , "fop=sqo", "acc", acc_cb, &open_id
1201           int open_id = 7;
1202 #else /* def __VMS */
1203 # define FOPEN_OPT_ARGS
1204 #endif /* def __VMS [else] */
1205
1206           output_stream = fopen (opt.output_document,
1207                                  opt.always_rest ? "ab" : "wb"
1208                                  FOPEN_OPT_ARGS);
1209           if (output_stream == NULL)
1210             {
1211               perror (opt.output_document);
1212               exit (1);
1213             }
1214           if (fstat (fileno (output_stream), &st) == 0 && S_ISREG (st.st_mode))
1215             output_stream_regular = true;
1216         }
1217     }
1218
1219 #ifdef __VMS
1220   /* Set global ODS5 flag according to the specified destination (if
1221      any), otherwise according to the current default device.
1222   */
1223   if (output_stream == NULL)
1224     {
1225       set_ods5_dest( "SYS$DISK");
1226     }
1227   else if (output_stream != stdout)
1228     {
1229       set_ods5_dest( opt.output_document);
1230     }
1231 #endif /* def __VMS */
1232
1233 #ifdef WINDOWS
1234   ws_startup ();
1235 #endif
1236
1237 #ifdef SIGHUP
1238   /* Setup the signal handler to redirect output when hangup is
1239      received.  */
1240   if (signal(SIGHUP, SIG_IGN) != SIG_IGN)
1241     signal(SIGHUP, redirect_output_signal);
1242 #endif
1243   /* ...and do the same for SIGUSR1.  */
1244 #ifdef SIGUSR1
1245   signal (SIGUSR1, redirect_output_signal);
1246 #endif
1247 #ifdef SIGPIPE
1248   /* Writing to a closed socket normally signals SIGPIPE, and the
1249      process exits.  What we want is to ignore SIGPIPE and just check
1250      for the return value of write().  */
1251   signal (SIGPIPE, SIG_IGN);
1252 #endif
1253 #ifdef SIGWINCH
1254   signal (SIGWINCH, progress_handle_sigwinch);
1255 #endif
1256
1257   status = RETROK;              /* initialize it, just-in-case */
1258   /* Retrieve the URLs from argument list.  */
1259   for (t = url; *t; t++)
1260     {
1261       char *filename = NULL, *redirected_URL = NULL;
1262       int dt, url_err;
1263       /* Need to do a new struct iri every time, because
1264        * retrieve_url may modify it in some circumstances,
1265        * currently. */
1266       struct iri *iri = iri_new ();
1267       struct url *url_parsed;
1268
1269       set_uri_encoding (iri, opt.locale, true);
1270       url_parsed = url_parse (*t, &url_err, iri, true);
1271
1272       if (!url_parsed)
1273         {
1274           char *error = url_error (*t, url_err);
1275           logprintf (LOG_NOTQUIET, "%s: %s.\n",*t, error);
1276           xfree (error);
1277           status = URLERROR;
1278         }
1279       else
1280         {
1281           if ((opt.recursive || opt.page_requisites)
1282               && (url_scheme (*t) != SCHEME_FTP || url_uses_proxy (url_parsed)))
1283             {
1284               int old_follow_ftp = opt.follow_ftp;
1285
1286               /* Turn opt.follow_ftp on in case of recursive FTP retrieval */
1287               if (url_scheme (*t) == SCHEME_FTP)
1288                 opt.follow_ftp = 1;
1289
1290               status = retrieve_tree (url_parsed, NULL);
1291
1292               opt.follow_ftp = old_follow_ftp;
1293             }
1294           else
1295           {
1296             status = retrieve_url (url_parsed, *t, &filename, &redirected_URL,
1297                                    NULL, &dt, opt.recursive, iri, true);
1298           }
1299
1300           if (opt.delete_after && file_exists_p(filename))
1301             {
1302               DEBUGP (("Removing file due to --delete-after in main():\n"));
1303               logprintf (LOG_VERBOSE, _("Removing %s.\n"), filename);
1304               if (unlink (filename))
1305                 logprintf (LOG_NOTQUIET, "unlink: %s\n", strerror (errno));
1306             }
1307           xfree_null (redirected_URL);
1308           xfree_null (filename);
1309           url_free (url_parsed);
1310         }
1311       iri_free (iri);
1312     }
1313
1314   /* And then from the input file, if any.  */
1315   if (opt.input_filename)
1316     {
1317       int count;
1318       status = retrieve_from_file (opt.input_filename, opt.force_html, &count);
1319       if (!count)
1320         logprintf (LOG_NOTQUIET, _("No URLs found in %s.\n"),
1321                    opt.input_filename);
1322     }
1323
1324   /* Print broken links. */
1325   if (opt.recursive && opt.spider)
1326     {
1327       print_broken_links();
1328     }
1329
1330   /* Print the downloaded sum.  */
1331   if ((opt.recursive || opt.page_requisites
1332        || nurl > 1
1333        || (opt.input_filename && total_downloaded_bytes != 0))
1334       &&
1335       total_downloaded_bytes != 0)
1336     {
1337       logprintf (LOG_NOTQUIET,
1338                  _("FINISHED --%s--\nDownloaded: %d files, %s in %s (%s)\n"),
1339                  datetime_str (time (NULL)),
1340                  numurls,
1341                  human_readable (total_downloaded_bytes),
1342                  secs_to_human_time (total_download_time),
1343                  retr_rate (total_downloaded_bytes, total_download_time));
1344       /* Print quota warning, if exceeded.  */
1345       if (opt.quota && total_downloaded_bytes > opt.quota)
1346         logprintf (LOG_NOTQUIET,
1347                    _("Download quota of %s EXCEEDED!\n"),
1348                    human_readable (opt.quota));
1349     }
1350
1351   if (opt.cookies_output)
1352     save_cookies ();
1353
1354   if (opt.convert_links && !opt.delete_after)
1355     convert_all_links ();
1356
1357   log_close ();
1358   for (i = 0; i < nurl; i++)
1359     xfree (url[i]);
1360   cleanup ();
1361
1362   return get_exit_status ();
1363 }
1364 #endif /* TESTING */
1365 \f
1366 #if defined(SIGHUP) || defined(SIGUSR1)
1367
1368 /* So the signal_name check doesn't blow when only one is available. */
1369 #ifndef SIGHUP
1370 # define SIGHUP -1
1371 #endif
1372 #ifndef SIGUSR1
1373 # define SIGUSR1 -1
1374 #endif
1375
1376 /* Hangup signal handler.  When wget receives SIGHUP or SIGUSR1, it
1377    will proceed operation as usual, trying to write into a log file.
1378    If that is impossible, the output will be turned off.  */
1379
1380 static void
1381 redirect_output_signal (int sig)
1382 {
1383   const char *signal_name = (sig == SIGHUP ? "SIGHUP" :
1384                              (sig == SIGUSR1 ? "SIGUSR1" :
1385                               "WTF?!"));
1386   log_request_redirect_output (signal_name);
1387   progress_schedule_redirect ();
1388   signal (sig, redirect_output_signal);
1389 }
1390 #endif
1391
1392 /*
1393  * vim: et ts=2 sw=2
1394  */