sjero.net Git - wget/blob - src/main.c

   1 /* Command line parsing.
   2    Copyright (C) 1996, 1997, 1998, 1999, 2000, 2001, 2002, 2003,
   3    2004, 2005, 2006, 2007, 2008, 2009 Free Software Foundation, Inc.
   4
   5 This file is part of GNU Wget.
   6
   7 GNU Wget is free software; you can redistribute it and/or modify
   8 it under the terms of the GNU General Public License as published by
   9 the Free Software Foundation; either version 3 of the License, or
  10 (at your option) any later version.
  11
  12 GNU Wget is distributed in the hope that it will be useful,
  13 but WITHOUT ANY WARRANTY; without even the implied warranty of
  14 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15 GNU General Public License for more details.
  16
  17 You should have received a copy of the GNU General Public License
  18 along with Wget.  If not, see <http://www.gnu.org/licenses/>.
  19
  20 Additional permission under GNU GPL version 3 section 7
  21
  22 If you modify this program, or any covered work, by linking or
  23 combining it with the OpenSSL project's OpenSSL library (or a
  24 modified version of that library), containing parts covered by the
  25 terms of the OpenSSL or SSLeay licenses, the Free Software Foundation
  26 grants you additional permission to convey the resulting work.
  27 Corresponding Source for a non-source form of such a combination
  28 shall include the source code for the parts of OpenSSL used as well
  29 as that of the covered work.  */
  30
  31 #include "wget.h"
  32
  33 #include <stdio.h>
  34 #include <stdlib.h>
  35 #ifdef HAVE_UNISTD_H
  36 # include <unistd.h>
  37 #endif /* HAVE_UNISTD_H */
  38 #include <string.h>
  39 #include <signal.h>
  40 #ifdef ENABLE_NLS
  41 # include <locale.h>
  42 #endif
  43 #include <assert.h>
  44 #include <errno.h>
  45 #include <time.h>
  46
  47 #include "utils.h"
  48 #include "init.h"
  49 #include "retr.h"
  50 #include "recur.h"
  51 #include "host.h"
  52 #include "url.h"
  53 #include "progress.h"           /* for progress_handle_sigwinch */
  54 #include "convert.h"
  55 #include "spider.h"
  56 #include "http.h"               /* for save_cookies */
  57
  58 #include <getopt.h>
  59 #include <getpass.h>
  60 #include <quote.h>
  61
  62 #ifdef __VMS
  63 #include "vms.h"
  64 #endif /* __VMS */
  65
  66 #include "version.h"
  67
  68 #ifndef PATH_SEPARATOR
  69 # define PATH_SEPARATOR '/'
  70 #endif
  71
  72 struct options opt;
  73
  74 /* defined in version.c */
  75 extern char *version_string;
  76 extern char *compilation_string;
  77 extern char *system_getrc;
  78 extern char *link_string;
  79 /* defined in build_info.c */
  80 extern char *compiled_features[];
  81 /* Used for --version output in print_version */
  82 #define MAX_CHARS_PER_LINE      72
  83 #define TABULATION              4
  84
  85 #if defined(SIGHUP) || defined(SIGUSR1)
  86 static void redirect_output_signal (int);
  87 #endif
  88
  89 const char *exec_name;
  90
  91 /* Number of successfully downloaded URLs */
  92 int numurls = 0;
  93 \f
  94 #ifndef TESTING
  95 /* Initialize I18N/L10N.  That amounts to invoking setlocale, and
  96    setting up gettext's message catalog using bindtextdomain and
  97    textdomain.  Does nothing if NLS is disabled or missing.  */
  98
  99 static void
 100 i18n_initialize (void)
 101 {
 102   /* ENABLE_NLS implies existence of functions invoked here.  */
 103 #ifdef ENABLE_NLS
 104   /* Set the current locale.  */
 105   setlocale (LC_ALL, "");
 106   /* Set the text message domain.  */
 107   bindtextdomain ("wget", LOCALEDIR);
 108   textdomain ("wget");
 109 #endif /* ENABLE_NLS */
 110 }
 111 \f
 112 /* Definition of command-line options. */
 113
 114 static void print_help (void);
 115 static void print_version (void);
 116
 117 #ifdef HAVE_SSL
 118 # define IF_SSL(x) x
 119 #else
 120 # define IF_SSL(x) NULL
 121 #endif
 122
 123 #ifdef ENABLE_DEBUG
 124 # define WHEN_DEBUG(x) x
 125 #else
 126 # define WHEN_DEBUG(x) NULL
 127 #endif
 128
 129 struct cmdline_option {
 130   const char *long_name;
 131   char short_name;
 132   enum {
 133     OPT_VALUE,
 134     OPT_BOOLEAN,
 135     OPT_FUNCALL,
 136     /* Non-standard options that have to be handled specially in
 137        main().  */
 138     OPT__APPEND_OUTPUT,
 139     OPT__CLOBBER,
 140     OPT__DONT_REMOVE_LISTING,
 141     OPT__EXECUTE,
 142     OPT__NO,
 143     OPT__PARENT
 144   } type;
 145   const void *data;             /* for standard options */
 146   int argtype;                  /* for non-standard options */
 147 };
 148
 149 static struct cmdline_option option_data[] =
 150   {
 151     { "accept", 'A', OPT_VALUE, "accept", -1 },
 152     { "append-output", 'a', OPT__APPEND_OUTPUT, NULL, required_argument },
 153     { "ask-password", 0, OPT_BOOLEAN, "askpassword", -1 },
 154     { "auth-no-challenge", 0, OPT_BOOLEAN, "authnochallenge", -1 },
 155     { "background", 'b', OPT_BOOLEAN, "background", -1 },
 156     { "backup-converted", 'K', OPT_BOOLEAN, "backupconverted", -1 },
 157     { "backups", 0, OPT_BOOLEAN, "backups", -1 },
 158     { "base", 'B', OPT_VALUE, "base", -1 },
 159     { "bind-address", 0, OPT_VALUE, "bindaddress", -1 },
 160     { IF_SSL ("ca-certificate"), 0, OPT_VALUE, "cacertificate", -1 },
 161     { IF_SSL ("ca-directory"), 0, OPT_VALUE, "cadirectory", -1 },
 162     { "cache", 0, OPT_BOOLEAN, "cache", -1 },
 163     { IF_SSL ("certificate"), 0, OPT_VALUE, "certificate", -1 },
 164     { IF_SSL ("certificate-type"), 0, OPT_VALUE, "certificatetype", -1 },
 165     { IF_SSL ("check-certificate"), 0, OPT_BOOLEAN, "checkcertificate", -1 },
 166     { "clobber", 0, OPT__CLOBBER, NULL, optional_argument },
 167     { "connect-timeout", 0, OPT_VALUE, "connecttimeout", -1 },
 168     { "continue", 'c', OPT_BOOLEAN, "continue", -1 },
 169     { "convert-links", 'k', OPT_BOOLEAN, "convertlinks", -1 },
 170     { "content-disposition", 0, OPT_BOOLEAN, "contentdisposition", -1 },
 171     { "cookies", 0, OPT_BOOLEAN, "cookies", -1 },
 172     { "cut-dirs", 0, OPT_VALUE, "cutdirs", -1 },
 173     { WHEN_DEBUG ("debug"), 'd', OPT_BOOLEAN, "debug", -1 },
 174     { "default-page", 0, OPT_VALUE, "defaultpage", -1 },
 175     { "delete-after", 0, OPT_BOOLEAN, "deleteafter", -1 },
 176     { "directories", 0, OPT_BOOLEAN, "dirstruct", -1 },
 177     { "directory-prefix", 'P', OPT_VALUE, "dirprefix", -1 },
 178     { "dns-cache", 0, OPT_BOOLEAN, "dnscache", -1 },
 179     { "dns-timeout", 0, OPT_VALUE, "dnstimeout", -1 },
 180     { "domains", 'D', OPT_VALUE, "domains", -1 },
 181     { "dont-remove-listing", 0, OPT__DONT_REMOVE_LISTING, NULL, no_argument },
 182     { "dot-style", 0, OPT_VALUE, "dotstyle", -1 },
 183     { "egd-file", 0, OPT_VALUE, "egdfile", -1 },
 184     { "exclude-directories", 'X', OPT_VALUE, "excludedirectories", -1 },
 185     { "exclude-domains", 0, OPT_VALUE, "excludedomains", -1 },
 186     { "execute", 'e', OPT__EXECUTE, NULL, required_argument },
 187     { "follow-ftp", 0, OPT_BOOLEAN, "followftp", -1 },
 188     { "follow-tags", 0, OPT_VALUE, "followtags", -1 },
 189     { "force-directories", 'x', OPT_BOOLEAN, "dirstruct", -1 },
 190     { "force-html", 'F', OPT_BOOLEAN, "forcehtml", -1 },
 191     { "ftp-password", 0, OPT_VALUE, "ftppassword", -1 },
 192 #ifdef __VMS
 193     { "ftp-stmlf", 0, OPT_BOOLEAN, "ftpstmlf", -1 },
 194 #endif /* def __VMS */
 195     { "ftp-user", 0, OPT_VALUE, "ftpuser", -1 },
 196     { "glob", 0, OPT_BOOLEAN, "glob", -1 },
 197     { "header", 0, OPT_VALUE, "header", -1 },
 198     { "help", 'h', OPT_FUNCALL, (void *)print_help, no_argument },
 199     { "host-directories", 0, OPT_BOOLEAN, "addhostdir", -1 },
 200     { "html-extension", 'E', OPT_BOOLEAN, "htmlextension", -1 },
 201     { "htmlify", 0, OPT_BOOLEAN, "htmlify", -1 },
 202     { "http-keep-alive", 0, OPT_BOOLEAN, "httpkeepalive", -1 },
 203     { "http-passwd", 0, OPT_VALUE, "httppassword", -1 }, /* deprecated */
 204     { "http-password", 0, OPT_VALUE, "httppassword", -1 },
 205     { "http-user", 0, OPT_VALUE, "httpuser", -1 },
 206     { "ignore-case", 0, OPT_BOOLEAN, "ignorecase", -1 },
 207     { "ignore-length", 0, OPT_BOOLEAN, "ignorelength", -1 },
 208     { "ignore-tags", 0, OPT_VALUE, "ignoretags", -1 },
 209     { "include-directories", 'I', OPT_VALUE, "includedirectories", -1 },
 210 #ifdef ENABLE_IPV6
 211     { "inet4-only", '4', OPT_BOOLEAN, "inet4only", -1 },
 212     { "inet6-only", '6', OPT_BOOLEAN, "inet6only", -1 },
 213 #endif
 214     { "input-file", 'i', OPT_VALUE, "input", -1 },
 215     { "iri", 0, OPT_BOOLEAN, "iri", -1 },
 216     { "keep-session-cookies", 0, OPT_BOOLEAN, "keepsessioncookies", -1 },
 217     { "level", 'l', OPT_VALUE, "reclevel", -1 },
 218     { "limit-rate", 0, OPT_VALUE, "limitrate", -1 },
 219     { "load-cookies", 0, OPT_VALUE, "loadcookies", -1 },
 220     { "locale", 0, OPT_VALUE, "locale", -1 },
 221     { "max-redirect", 0, OPT_VALUE, "maxredirect", -1 },
 222     { "mirror", 'm', OPT_BOOLEAN, "mirror", -1 },
 223     { "no", 'n', OPT__NO, NULL, required_argument },
 224     { "no-clobber", 0, OPT_BOOLEAN, "noclobber", -1 },
 225     { "no-parent", 0, OPT_BOOLEAN, "noparent", -1 },
 226     { "output-document", 'O', OPT_VALUE, "outputdocument", -1 },
 227     { "output-file", 'o', OPT_VALUE, "logfile", -1 },
 228     { "page-requisites", 'p', OPT_BOOLEAN, "pagerequisites", -1 },
 229     { "parent", 0, OPT__PARENT, NULL, optional_argument },
 230     { "passive-ftp", 0, OPT_BOOLEAN, "passiveftp", -1 },
 231     { "password", 0, OPT_VALUE, "password", -1 },
 232     { "post-data", 0, OPT_VALUE, "postdata", -1 },
 233     { "post-file", 0, OPT_VALUE, "postfile", -1 },
 234     { "prefer-family", 0, OPT_VALUE, "preferfamily", -1 },
 235     { "preserve-permissions", 0, OPT_BOOLEAN, "preservepermissions", -1 },
 236     { IF_SSL ("private-key"), 0, OPT_VALUE, "privatekey", -1 },
 237     { IF_SSL ("private-key-type"), 0, OPT_VALUE, "privatekeytype", -1 },
 238     { "progress", 0, OPT_VALUE, "progress", -1 },
 239     { "protocol-directories", 0, OPT_BOOLEAN, "protocoldirectories", -1 },
 240     { "proxy", 0, OPT_BOOLEAN, "useproxy", -1 },
 241     { "proxy__compat", 'Y', OPT_VALUE, "useproxy", -1 }, /* back-compatible */
 242     { "proxy-passwd", 0, OPT_VALUE, "proxypassword", -1 }, /* deprecated */
 243     { "proxy-password", 0, OPT_VALUE, "proxypassword", -1 },
 244     { "proxy-user", 0, OPT_VALUE, "proxyuser", -1 },
 245     { "quiet", 'q', OPT_BOOLEAN, "quiet", -1 },
 246     { "quota", 'Q', OPT_VALUE, "quota", -1 },
 247     { "random-file", 0, OPT_VALUE, "randomfile", -1 },
 248     { "random-wait", 0, OPT_BOOLEAN, "randomwait", -1 },
 249     { "read-timeout", 0, OPT_VALUE, "readtimeout", -1 },
 250     { "recursive", 'r', OPT_BOOLEAN, "recursive", -1 },
 251     { "referer", 0, OPT_VALUE, "referer", -1 },
 252     { "reject", 'R', OPT_VALUE, "reject", -1 },
 253     { "relative", 'L', OPT_BOOLEAN, "relativeonly", -1 },
 254     { "remote-encoding", 0, OPT_VALUE, "remoteencoding", -1},
 255     { "remove-listing", 0, OPT_BOOLEAN, "removelisting", -1 },
 256     { "restrict-file-names", 0, OPT_BOOLEAN, "restrictfilenames", -1 },
 257     { "retr-symlinks", 0, OPT_BOOLEAN, "retrsymlinks", -1 },
 258     { "retry-connrefused", 0, OPT_BOOLEAN, "retryconnrefused", -1 },
 259     { "save-cookies", 0, OPT_VALUE, "savecookies", -1 },
 260     { "save-headers", 0, OPT_BOOLEAN, "saveheaders", -1 },
 261     { IF_SSL ("secure-protocol"), 0, OPT_VALUE, "secureprotocol", -1 },
 262     { "server-response", 'S', OPT_BOOLEAN, "serverresponse", -1 },
 263     { "span-hosts", 'H', OPT_BOOLEAN, "spanhosts", -1 },
 264     { "spider", 0, OPT_BOOLEAN, "spider", -1 },
 265     { "strict-comments", 0, OPT_BOOLEAN, "strictcomments", -1 },
 266     { "timeout", 'T', OPT_VALUE, "timeout", -1 },
 267     { "timestamping", 'N', OPT_BOOLEAN, "timestamping", -1 },
 268     { "tries", 't', OPT_VALUE, "tries", -1 },
 269     { "user", 0, OPT_VALUE, "user", -1 },
 270     { "user-agent", 'U', OPT_VALUE, "useragent", -1 },
 271     { "verbose", 'v', OPT_BOOLEAN, "verbose", -1 },
 272     { "verbose", 0, OPT_BOOLEAN, "verbose", -1 },
 273     { "version", 'V', OPT_FUNCALL, (void *) print_version, no_argument },
 274     { "wait", 'w', OPT_VALUE, "wait", -1 },
 275     { "waitretry", 0, OPT_VALUE, "waitretry", -1 },
 276 #ifdef MSDOS
 277     { "wdebug", 0, OPT_BOOLEAN, "wdebug", -1 },
 278 #endif
 279   };
 280
 281 #undef WHEN_DEBUG
 282 #undef IF_SSL
 283
 284 /* Return a string that contains S with "no-" prepended.  The string
 285    is NUL-terminated and allocated off static storage at Wget
 286    startup.  */
 287
 288 static char *
 289 no_prefix (const char *s)
 290 {
 291   static char buffer[1024];
 292   static char *p = buffer;
 293
 294   char *cp = p;
 295   int size = 3 + strlen (s) + 1;  /* "no-STRING\0" */
 296   if (p + size >= buffer + sizeof (buffer))
 297     abort ();
 298
 299   cp[0] = 'n', cp[1] = 'o', cp[2] = '-';
 300   strcpy (cp + 3, s);
 301   p += size;
 302   return cp;
 303 }
 304
 305 /* The arguments that that main passes to getopt_long. */
 306 static struct option long_options[2 * countof (option_data) + 1];
 307 static char short_options[128];
 308
 309 /* Mapping between short option chars and option_data indices. */
 310 static unsigned char optmap[96];
 311
 312 /* Marker for `--no-FOO' values in long_options.  */
 313 #define BOOLEAN_NEG_MARKER 1024
 314
 315 /* Initialize the long_options array used by getopt_long from the data
 316    in option_data.  */
 317
 318 static void
 319 init_switches (void)
 320 {
 321   char *p = short_options;
 322   size_t i, o = 0;
 323   for (i = 0; i < countof (option_data); i++)
 324     {
 325       struct cmdline_option *opt = &option_data[i];
 326       struct option *longopt;
 327
 328       if (!opt->long_name)
 329         /* The option is disabled. */
 330         continue;
 331
 332       longopt = &long_options[o++];
 333       longopt->name = opt->long_name;
 334       longopt->val = i;
 335       if (opt->short_name)
 336         {
 337           *p++ = opt->short_name;
 338           optmap[opt->short_name - 32] = longopt - long_options;
 339         }
 340       switch (opt->type)
 341         {
 342         case OPT_VALUE:
 343           longopt->has_arg = required_argument;
 344           if (opt->short_name)
 345             *p++ = ':';
 346           break;
 347         case OPT_BOOLEAN:
 348           /* Specify an optional argument for long options, so that
 349              --option=off works the same as --no-option, for
 350              compatibility with pre-1.10 Wget.  However, don't specify
 351              optional arguments short-option booleans because they
 352              prevent combining of short options.  */
 353           longopt->has_arg = optional_argument;
 354           /* For Boolean options, add the "--no-FOO" variant, which is
 355              identical to "--foo", except it has opposite meaning and
 356              it doesn't allow an argument.  */
 357           longopt = &long_options[o++];
 358           longopt->name = no_prefix (opt->long_name);
 359           longopt->has_arg = no_argument;
 360           /* Mask the value so we'll be able to recognize that we're
 361              dealing with the false value.  */
 362           longopt->val = i | BOOLEAN_NEG_MARKER;
 363           break;
 364         default:
 365           assert (opt->argtype != -1);
 366           longopt->has_arg = opt->argtype;
 367           if (opt->short_name)
 368             {
 369               if (longopt->has_arg == required_argument)
 370                 *p++ = ':';
 371               /* Don't handle optional_argument */
 372             }
 373         }
 374     }
 375   /* Terminate short_options. */
 376   *p = '\0';
 377   /* No need for xzero(long_options[o]) because its storage is static
 378      and it will be zeroed by default.  */
 379   assert (o <= countof (long_options));
 380 }
 381
 382 /* Print the usage message.  */
 383 static void
 384 print_usage (void)
 385 {
 386   printf (_("Usage: %s [OPTION]... [URL]...\n"), exec_name);
 387 }
 388
 389 /* Print the help message, describing all the available options.  If
 390    you add an option, be sure to update this list.  */
 391 static void
 392 print_help (void)
 393 {
 394   /* We split the help text this way to ease translation of individual
 395      entries.  */
 396   static const char *help[] = {
 397     "\n",
 398     N_("\
 399 Mandatory arguments to long options are mandatory for short options too.\n\n"),
 400     N_("\
 401 Startup:\n"),
 402     N_("\
 403   -V,  --version           display the version of Wget and exit.\n"),
 404     N_("\
 405   -h,  --help              print this help.\n"),
 406     N_("\
 407   -b,  --background        go to background after startup.\n"),
 408     N_("\
 409   -e,  --execute=COMMAND   execute a `.wgetrc'-style command.\n"),
 410     "\n",
 411
 412     N_("\
 413 Logging and input file:\n"),
 414     N_("\
 415   -o,  --output-file=FILE    log messages to FILE.\n"),
 416     N_("\
 417   -a,  --append-output=FILE  append messages to FILE.\n"),
 418 #ifdef ENABLE_DEBUG
 419     N_("\
 420   -d,  --debug               print lots of debugging information.\n"),
 421 #endif
 422 #ifdef MSDOS
 423     N_("\
 424        --wdebug              print Watt-32 debug output.\n"),
 425 #endif
 426     N_("\
 427   -q,  --quiet               quiet (no output).\n"),
 428     N_("\
 429   -v,  --verbose             be verbose (this is the default).\n"),
 430     N_("\
 431   -nv, --no-verbose          turn off verboseness, without being quiet.\n"),
 432     N_("\
 433   -i,  --input-file=FILE     download URLs found in local or external FILE.\n"),
 434     N_("\
 435   -F,  --force-html          treat input file as HTML.\n"),
 436     N_("\
 437   -B,  --base=URL            prepends URL to relative links in -F -i file.\n"),
 438     "\n",
 439
 440     N_("\
 441 Download:\n"),
 442     N_("\
 443   -t,  --tries=NUMBER            set number of retries to NUMBER (0 unlimits).\n"),
 444     N_("\
 445        --retry-connrefused       retry even if connection is refused.\n"),
 446     N_("\
 447   -O,  --output-document=FILE    write documents to FILE.\n"),
 448     N_("\
 449   -nc, --no-clobber              skip downloads that would download to\n\
 450                                  existing files.\n"),
 451     N_("\
 452   -c,  --continue                resume getting a partially-downloaded file.\n"),
 453     N_("\
 454        --progress=TYPE           select progress gauge type.\n"),
 455     N_("\
 456   -N,  --timestamping            don't re-retrieve files unless newer than\n\
 457                                  local.\n"),
 458     N_("\
 459   -S,  --server-response         print server response.\n"),
 460     N_("\
 461        --spider                  don't download anything.\n"),
 462     N_("\
 463   -T,  --timeout=SECONDS         set all timeout values to SECONDS.\n"),
 464     N_("\
 465        --dns-timeout=SECS        set the DNS lookup timeout to SECS.\n"),
 466     N_("\
 467        --connect-timeout=SECS    set the connect timeout to SECS.\n"),
 468     N_("\
 469        --read-timeout=SECS       set the read timeout to SECS.\n"),
 470     N_("\
 471   -w,  --wait=SECONDS            wait SECONDS between retrievals.\n"),
 472     N_("\
 473        --waitretry=SECONDS       wait 1..SECONDS between retries of a retrieval.\n"),
 474     N_("\
 475        --random-wait             wait from 0...2*WAIT secs between retrievals.\n"),
 476     N_("\
 477        --no-proxy                explicitly turn off proxy.\n"),
 478     N_("\
 479   -Q,  --quota=NUMBER            set retrieval quota to NUMBER.\n"),
 480     N_("\
 481        --bind-address=ADDRESS    bind to ADDRESS (hostname or IP) on local host.\n"),
 482     N_("\
 483        --limit-rate=RATE         limit download rate to RATE.\n"),
 484     N_("\
 485        --no-dns-cache            disable caching DNS lookups.\n"),
 486     N_("\
 487        --restrict-file-names=OS  restrict chars in file names to ones OS allows.\n"),
 488     N_("\
 489        --ignore-case             ignore case when matching files/directories.\n"),
 490 #ifdef ENABLE_IPV6
 491     N_("\
 492   -4,  --inet4-only              connect only to IPv4 addresses.\n"),
 493     N_("\
 494   -6,  --inet6-only              connect only to IPv6 addresses.\n"),
 495     N_("\
 496        --prefer-family=FAMILY    connect first to addresses of specified family,\n\
 497                                  one of IPv6, IPv4, or none.\n"),
 498 #endif
 499     N_("\
 500        --user=USER               set both ftp and http user to USER.\n"),
 501     N_("\
 502        --password=PASS           set both ftp and http password to PASS.\n"),
 503     N_("\
 504        --ask-password            prompt for passwords.\n"),
 505     "\n",
 506
 507     N_("\
 508 Directories:\n"),
 509     N_("\
 510   -nd, --no-directories           don't create directories.\n"),
 511     N_("\
 512   -x,  --force-directories        force creation of directories.\n"),
 513     N_("\
 514   -nH, --no-host-directories      don't create host directories.\n"),
 515     N_("\
 516        --protocol-directories     use protocol name in directories.\n"),
 517     N_("\
 518   -P,  --directory-prefix=PREFIX  save files to PREFIX/...\n"),
 519     N_("\
 520        --cut-dirs=NUMBER          ignore NUMBER remote directory components.\n"),
 521     "\n",
 522
 523     N_("\
 524 HTTP options:\n"),
 525     N_("\
 526        --http-user=USER        set http user to USER.\n"),
 527     N_("\
 528        --http-password=PASS    set http password to PASS.\n"),
 529     N_("\
 530        --no-cache              disallow server-cached data.\n"),
 531     N_ ("\
 532        --default-page=NAME     Change the default page name (normally\n\
 533                                this is `index.html'.).\n"),
 534     N_("\
 535   -E,  --html-extension        save HTML documents with `.html' extension.\n"),
 536     N_("\
 537        --ignore-length         ignore `Content-Length' header field.\n"),
 538     N_("\
 539        --header=STRING         insert STRING among the headers.\n"),
 540     N_("\
 541        --max-redirect          maximum redirections allowed per page.\n"),
 542     N_("\
 543        --proxy-user=USER       set USER as proxy username.\n"),
 544     N_("\
 545        --proxy-password=PASS   set PASS as proxy password.\n"),
 546     N_("\
 547        --referer=URL           include `Referer: URL' header in HTTP request.\n"),
 548     N_("\
 549        --save-headers          save the HTTP headers to file.\n"),
 550     N_("\
 551   -U,  --user-agent=AGENT      identify as AGENT instead of Wget/VERSION.\n"),
 552     N_("\
 553        --no-http-keep-alive    disable HTTP keep-alive (persistent connections).\n"),
 554     N_("\
 555        --no-cookies            don't use cookies.\n"),
 556     N_("\
 557        --load-cookies=FILE     load cookies from FILE before session.\n"),
 558     N_("\
 559        --save-cookies=FILE     save cookies to FILE after session.\n"),
 560     N_("\
 561        --keep-session-cookies  load and save session (non-permanent) cookies.\n"),
 562     N_("\
 563        --post-data=STRING      use the POST method; send STRING as the data.\n"),
 564     N_("\
 565        --post-file=FILE        use the POST method; send contents of FILE.\n"),
 566     N_("\
 567        --content-disposition   honor the Content-Disposition header when\n\
 568                                choosing local file names (EXPERIMENTAL).\n"),
 569     N_("\
 570        --auth-no-challenge     Send Basic HTTP authentication information\n\
 571                                without first waiting for the server's\n\
 572                                challenge.\n"),
 573     "\n",
 574
 575 #ifdef HAVE_SSL
 576     N_("\
 577 HTTPS (SSL/TLS) options:\n"),
 578     N_("\
 579        --secure-protocol=PR     choose secure protocol, one of auto, SSLv2,\n\
 580                                 SSLv3, and TLSv1.\n"),
 581     N_("\
 582        --no-check-certificate   don't validate the server's certificate.\n"),
 583     N_("\
 584        --certificate=FILE       client certificate file.\n"),
 585     N_("\
 586        --certificate-type=TYPE  client certificate type, PEM or DER.\n"),
 587     N_("\
 588        --private-key=FILE       private key file.\n"),
 589     N_("\
 590        --private-key-type=TYPE  private key type, PEM or DER.\n"),
 591     N_("\
 592        --ca-certificate=FILE    file with the bundle of CA's.\n"),
 593     N_("\
 594        --ca-directory=DIR       directory where hash list of CA's is stored.\n"),
 595     N_("\
 596        --random-file=FILE       file with random data for seeding the SSL PRNG.\n"),
 597     N_("\
 598        --egd-file=FILE          file naming the EGD socket with random data.\n"),
 599     "\n",
 600 #endif /* HAVE_SSL */
 601
 602     N_("\
 603 FTP options:\n"),
 604 #ifdef __VMS
 605     N_("\
 606        --ftp-stmlf             Use Stream_LF format for all binary FTP files.\n"),
 607 #endif /* def __VMS */
 608     N_("\
 609        --ftp-user=USER         set ftp user to USER.\n"),
 610     N_("\
 611        --ftp-password=PASS     set ftp password to PASS.\n"),
 612     N_("\
 613        --no-remove-listing     don't remove `.listing' files.\n"),
 614     N_("\
 615        --no-glob               turn off FTP file name globbing.\n"),
 616     N_("\
 617        --no-passive-ftp        disable the \"passive\" transfer mode.\n"),
 618     N_("\
 619        --retr-symlinks         when recursing, get linked-to files (not dir).\n"),
 620     N_("\
 621        --preserve-permissions  preserve remote file permissions.\n"),
 622     "\n",
 623
 624     N_("\
 625 Recursive download:\n"),
 626     N_("\
 627   -r,  --recursive          specify recursive download.\n"),
 628     N_("\
 629   -l,  --level=NUMBER       maximum recursion depth (inf or 0 for infinite).\n"),
 630     N_("\
 631        --delete-after       delete files locally after downloading them.\n"),
 632     N_("\
 633   -k,  --convert-links      make links in downloaded HTML or CSS point to\n\
 634                             local files.\n"),
 635 #ifdef __VMS
 636     N_("\
 637   -K,  --backup-converted   before converting file X, back up as X_orig.\n"),
 638 #else /* def __VMS */
 639     N_("\
 640   -K,  --backup-converted   before converting file X, back up as X.orig.\n"),
 641 #endif /* def __VMS [else] */
 642     N_("\
 643   -m,  --mirror             shortcut for -N -r -l inf --no-remove-listing.\n"),
 644     N_("\
 645   -p,  --page-requisites    get all images, etc. needed to display HTML page.\n"),
 646     N_("\
 647        --strict-comments    turn on strict (SGML) handling of HTML comments.\n"),
 648     "\n",
 649
 650     N_("\
 651 Recursive accept/reject:\n"),
 652     N_("\
 653   -A,  --accept=LIST               comma-separated list of accepted extensions.\n"),
 654     N_("\
 655   -R,  --reject=LIST               comma-separated list of rejected extensions.\n"),
 656     N_("\
 657   -D,  --domains=LIST              comma-separated list of accepted domains.\n"),
 658     N_("\
 659        --exclude-domains=LIST      comma-separated list of rejected domains.\n"),
 660     N_("\
 661        --follow-ftp                follow FTP links from HTML documents.\n"),
 662     N_("\
 663        --follow-tags=LIST          comma-separated list of followed HTML tags.\n"),
 664     N_("\
 665        --ignore-tags=LIST          comma-separated list of ignored HTML tags.\n"),
 666     N_("\
 667   -H,  --span-hosts                go to foreign hosts when recursive.\n"),
 668     N_("\
 669   -L,  --relative                  follow relative links only.\n"),
 670     N_("\
 671   -I,  --include-directories=LIST  list of allowed directories.\n"),
 672     N_("\
 673   -X,  --exclude-directories=LIST  list of excluded directories.\n"),
 674     N_("\
 675   -np, --no-parent                 don't ascend to the parent directory.\n"),
 676     "\n",
 677
 678     N_("Mail bug reports and suggestions to <bug-wget@gnu.org>.\n")
 679   };
 680
 681   size_t i;
 682
 683   printf (_("GNU Wget %s, a non-interactive network retriever.\n"),
 684           VERSION_STRING);
 685   print_usage ();
 686
 687   for (i = 0; i < countof (help); i++)
 688     fputs (_(help[i]), stdout);
 689
 690   exit (0);
 691 }
 692
 693 /* Return a human-readable printed representation of INTERVAL,
 694    measured in seconds.  */
 695
 696 static char *
 697 secs_to_human_time (double interval)
 698 {
 699   static char buf[32];
 700   int secs = (int) (interval + 0.5);
 701   int hours, mins, days;
 702
 703   days = secs / 86400, secs %= 86400;
 704   hours = secs / 3600, secs %= 3600;
 705   mins = secs / 60, secs %= 60;
 706
 707   if (days)
 708     sprintf (buf, "%dd %dh %dm %ds", days, hours, mins, secs);
 709   else if (hours)
 710     sprintf (buf, "%dh %dm %ds", hours, mins, secs);
 711   else if (mins)
 712     sprintf (buf, "%dm %ds", mins, secs);
 713   else
 714     sprintf (buf, "%ss", print_decimal (interval));
 715
 716   return buf;
 717 }
 718
 719 static char *
 720 prompt_for_password (void)
 721 {
 722   if (opt.user)
 723     printf (_("Password for user %s: "), quote (opt.user));
 724   else
 725     printf (_("Password: "));
 726   return getpass("");
 727 }
 728
 729 /* Function that prints the line argument while limiting it
 730    to at most line_length. prefix is printed on the first line
 731    and an appropriate number of spaces are added on subsequent
 732    lines.*/
 733 static void
 734 format_and_print_line (const char *prefix, const char *line,
 735                        int line_length)
 736 {
 737   int remaining_chars;
 738   char *line_dup, *token;
 739
 740   assert (prefix != NULL);
 741   assert (line != NULL);
 742
 743   line_dup = xstrdup (line);
 744
 745   if (line_length <= 0)
 746     line_length = MAX_CHARS_PER_LINE - TABULATION;
 747
 748   printf ("%s", prefix);
 749   remaining_chars = line_length;
 750   /* We break on spaces. */
 751   token = strtok (line_dup, " ");
 752   while (token != NULL)
 753     {
 754       /* If however a token is much larger than the maximum
 755          line length, all bets are off and we simply print the
 756          token on the next line. */
 757       if (remaining_chars <= strlen (token))
 758         {
 759           printf ("\n%*c", TABULATION, ' ');
 760           remaining_chars = line_length - TABULATION;
 761         }
 762       printf ("%s ", token);
 763       remaining_chars -= strlen (token) + 1;  /* account for " " */
 764       token = strtok (NULL, " ");
 765     }
 766
 767   printf ("\n");
 768
 769   xfree (line_dup);
 770 }
 771
 772 static void
 773 print_version (void)
 774 {
 775   const char *wgetrc_title  = _("Wgetrc: ");
 776   const char *locale_title  = _("Locale: ");
 777   const char *compile_title = _("Compile: ");
 778   const char *link_title    = _("Link: ");
 779   char *line;
 780   char *env_wgetrc, *user_wgetrc;
 781   int i;
 782
 783 #ifdef __VMS
 784   printf ("GNU Wget %s built on VMS %s %s.\n\n",
 785    VERSION_STRING, vms_arch(), vms_vers());
 786 #else /* def __VMS */
 787   printf ("GNU Wget %s built on %s.\n\n", version_string, OS_TYPE);
 788 #endif /* def __VMS */
 789   /* compiled_features is a char*[]. We limit the characters per
 790      line to MAX_CHARS_PER_LINE and prefix each line with a constant
 791      number of spaces for proper alignment. */
 792   for (i = 0; compiled_features[i] != NULL; )
 793     {
 794       int line_length = MAX_CHARS_PER_LINE;
 795       while ((line_length > 0) && (compiled_features[i] != NULL))
 796         {
 797           printf ("%s ", compiled_features[i]);
 798           line_length -= strlen (compiled_features[i]) + 2;
 799           i++;
 800         }
 801       printf ("\n");
 802     }
 803   printf ("\n");
 804   /* Handle the case when $WGETRC is unset and $HOME/.wgetrc is
 805      absent. */
 806   printf ("%s\n", wgetrc_title);
 807   env_wgetrc = wgetrc_env_file_name ();
 808   if (env_wgetrc && *env_wgetrc)
 809     {
 810       printf ("    %s (env)\n", env_wgetrc);
 811       xfree (env_wgetrc);
 812     }
 813   user_wgetrc = wgetrc_user_file_name ();
 814   if (user_wgetrc)
 815     {
 816       printf ("    %s (user)\n", user_wgetrc);
 817       xfree (user_wgetrc);
 818     }
 819 #ifdef SYSTEM_WGETRC
 820   printf ("    %s (system)\n", SYSTEM_WGETRC);
 821 #endif
 822
 823   format_and_print_line (locale_title,
 824                          LOCALEDIR,
 825                          MAX_CHARS_PER_LINE);
 826
 827   format_and_print_line (compile_title,
 828                          compilation_string,
 829                          MAX_CHARS_PER_LINE);
 830
 831   format_and_print_line (link_title,
 832                          link_string,
 833                          MAX_CHARS_PER_LINE);
 834
 835   printf ("\n");
 836   /* TRANSLATORS: When available, an actual copyright character
 837      (cirle-c) should be used in preference to "(C)". */
 838   fputs (_("\
 839 Copyright (C) 2008 Free Software Foundation, Inc.\n"), stdout);
 840   fputs (_("\
 841 License GPLv3+: GNU GPL version 3 or later\n\
 842 <http://www.gnu.org/licenses/gpl.html>.\n\
 843 This is free software: you are free to change and redistribute it.\n\
 844 There is NO WARRANTY, to the extent permitted by law.\n"), stdout);
 845   /* TRANSLATORS: When available, please use the proper diacritics for
 846      names such as this one. See en_US.po for reference. */
 847   fputs (_("\nOriginally written by Hrvoje Niksic <hniksic@xemacs.org>.\n"),
 848          stdout);
 849   fputs (_("Currently maintained by Micah Cowan <micah@cowan.name>.\n"),
 850          stdout);
 851   fputs (_("Please send bug reports and questions to <bug-wget@gnu.org>.\n"),
 852          stdout);
 853   exit (0);
 854 }
 855
 856 char *program_name; /* Needed by lib/error.c. */
 857
 858 int
 859 main (int argc, char **argv)
 860 {
 861   char **url, **t;
 862   int i, ret, longindex;
 863   int nurl, status;
 864   bool append_to_log = false;
 865
 866   program_name = argv[0];
 867
 868   i18n_initialize ();
 869
 870   /* Construct the name of the executable, without the directory part.  */
 871   exec_name = strrchr (argv[0], PATH_SEPARATOR);
 872   if (!exec_name)
 873     exec_name = argv[0];
 874   else
 875     ++exec_name;
 876
 877 #ifdef WINDOWS
 878   /* Drop extension (typically .EXE) from executable filename. */
 879   windows_main ((char **) &exec_name);
 880 #endif
 881
 882   /* Set option defaults; read the system wgetrc and ~/.wgetrc.  */
 883   initialize ();
 884
 885   init_switches ();
 886   longindex = -1;
 887   while ((ret = getopt_long (argc, argv,
 888                              short_options, long_options, &longindex)) != -1)
 889     {
 890       int val;
 891       struct cmdline_option *opt;
 892
 893       /* If LONGINDEX is unchanged, it means RET is referring a short
 894          option.  */
 895       if (longindex == -1)
 896         {
 897           if (ret == '?')
 898             {
 899               print_usage ();
 900               printf ("\n");
 901               printf (_("Try `%s --help' for more options.\n"), exec_name);
 902               exit (2);
 903             }
 904           /* Find the short option character in the mapping.  */
 905           longindex = optmap[ret - 32];
 906         }
 907       val = long_options[longindex].val;
 908
 909       /* Use the retrieved value to locate the option in the
 910          option_data array, and to see if we're dealing with the
 911          negated "--no-FOO" variant of the boolean option "--foo".  */
 912       opt = &option_data[val & ~BOOLEAN_NEG_MARKER];
 913       switch (opt->type)
 914         {
 915         case OPT_VALUE:
 916           setoptval (opt->data, optarg, opt->long_name);
 917           break;
 918         case OPT_BOOLEAN:
 919           if (optarg)
 920             /* The user has specified a value -- use it. */
 921             setoptval (opt->data, optarg, opt->long_name);
 922           else
 923             {
 924               /* NEG is true for `--no-FOO' style boolean options. */
 925               bool neg = !!(val & BOOLEAN_NEG_MARKER);
 926               setoptval (opt->data, neg ? "0" : "1", opt->long_name);
 927             }
 928           break;
 929         case OPT_FUNCALL:
 930           {
 931             void (*func) (void) = (void (*) (void)) opt->data;
 932             func ();
 933           }
 934           break;
 935         case OPT__APPEND_OUTPUT:
 936           setoptval ("logfile", optarg, opt->long_name);
 937           append_to_log = true;
 938           break;
 939         case OPT__EXECUTE:
 940           run_command (optarg);
 941           break;
 942         case OPT__NO:
 943           {
 944             /* We support real --no-FOO flags now, but keep these
 945                short options for convenience and backward
 946                compatibility.  */
 947             char *p;
 948             for (p = optarg; *p; p++)
 949               switch (*p)
 950                 {
 951                 case 'v':
 952                   setoptval ("verbose", "0", opt->long_name);
 953                   break;
 954                 case 'H':
 955                   setoptval ("addhostdir", "0", opt->long_name);
 956                   break;
 957                 case 'd':
 958                   setoptval ("dirstruct", "0", opt->long_name);
 959                   break;
 960                 case 'c':
 961                   setoptval ("noclobber", "1", opt->long_name);
 962                   break;
 963                 case 'p':
 964                   setoptval ("noparent", "1", opt->long_name);
 965                   break;
 966                 default:
 967                   printf (_("%s: illegal option -- `-n%c'\n"), exec_name, *p);
 968                   print_usage ();
 969                   printf ("\n");
 970                   printf (_("Try `%s --help' for more options.\n"), exec_name);
 971                   exit (1);
 972                 }
 973             break;
 974           }
 975         case OPT__PARENT:
 976         case OPT__CLOBBER:
 977           {
 978             /* The wgetrc commands are named noparent and noclobber,
 979                so we must revert the meaning of the cmdline options
 980                before passing the value to setoptval.  */
 981             bool flag = true;
 982             if (optarg)
 983               flag = (*optarg == '1' || c_tolower (*optarg) == 'y'
 984                       || (c_tolower (optarg[0]) == 'o'
 985                           && c_tolower (optarg[1]) == 'n'));
 986             setoptval (opt->type == OPT__PARENT ? "noparent" : "noclobber",
 987                        flag ? "0" : "1", opt->long_name);
 988             break;
 989           }
 990         case OPT__DONT_REMOVE_LISTING:
 991           setoptval ("removelisting", "0", opt->long_name);
 992           break;
 993         }
 994
 995       longindex = -1;
 996     }
 997
 998   nurl = argc - optind;
 999
1000   /* All user options have now been processed, so it's now safe to do
1001      interoption dependency checks. */
1002
1003   if (opt.reclevel == 0)
1004       opt.reclevel = INFINITE_RECURSION; /* see recur.h for commentary */
1005
1006   if (opt.spider || opt.delete_after)
1007       opt.no_dirstruct = true;
1008
1009   if (opt.page_requisites && !opt.recursive)
1010     {
1011       /* Don't set opt.recursive here because it would confuse the FTP
1012          code.  Instead, call retrieve_tree below when either
1013          page_requisites or recursive is requested.  */
1014       opt.reclevel = 0;
1015       if (!opt.no_dirstruct)
1016         opt.dirstruct = 1;      /* normally handled by cmd_spec_recursive() */
1017     }
1018
1019   if (opt.verbose == -1)
1020     opt.verbose = !opt.quiet;
1021
1022   /* Sanity checks.  */
1023   if (opt.verbose && opt.quiet)
1024     {
1025       printf (_("Can't be verbose and quiet at the same time.\n"));
1026       print_usage ();
1027       exit (1);
1028     }
1029   if (opt.timestamping && opt.noclobber)
1030     {
1031       printf (_("\
1032 Can't timestamp and not clobber old files at the same time.\n"));
1033       print_usage ();
1034       exit (1);
1035     }
1036 #ifdef ENABLE_IPV6
1037   if (opt.ipv4_only && opt.ipv6_only)
1038     {
1039       printf (_("Cannot specify both --inet4-only and --inet6-only.\n"));
1040       print_usage ();
1041       exit (1);
1042     }
1043 #endif
1044   if (opt.output_document)
1045     {
1046       if (opt.convert_links
1047           && (nurl > 1 || opt.page_requisites || opt.recursive))
1048         {
1049           fputs (_("\
1050 Cannot specify both -k and -O if multiple URLs are given, or in combination\n\
1051 with -p or -r. See the manual for details.\n\n"), stdout);
1052           print_usage ();
1053           exit (1);
1054         }
1055       if (opt.page_requisites
1056           || opt.recursive)
1057         {
1058           logprintf (LOG_NOTQUIET, "%s", _("\
1059 WARNING: combining -O with -r or -p will mean that all downloaded content\n\
1060 will be placed in the single file you specified.\n\n"));
1061         }
1062       if (opt.timestamping)
1063         {
1064           logprintf (LOG_NOTQUIET, "%s", _("\
1065 WARNING: timestamping does nothing in combination with -O. See the manual\n\
1066 for details.\n\n"));
1067           opt.timestamping = false;
1068         }
1069       if (opt.noclobber && file_exists_p(opt.output_document))
1070            {
1071               /* Check if output file exists; if it does, exit. */
1072               logprintf (LOG_VERBOSE, _("File `%s' already there; not retrieving.\n"), opt.output_document);
1073               exit(1);
1074            }
1075     }
1076
1077   if (opt.ask_passwd && opt.passwd)
1078     {
1079       printf (_("Cannot specify both --ask-password and --password.\n"));
1080       print_usage ();
1081       exit (1);
1082     }
1083
1084   if (!nurl && !opt.input_filename)
1085     {
1086       /* No URL specified.  */
1087       printf (_("%s: missing URL\n"), exec_name);
1088       print_usage ();
1089       printf ("\n");
1090       /* #### Something nicer should be printed here -- similar to the
1091          pre-1.5 `--help' page.  */
1092       printf (_("Try `%s --help' for more options.\n"), exec_name);
1093       exit (1);
1094     }
1095
1096 #ifdef ENABLE_IRI
1097   if (opt.enable_iri)
1098     {
1099       if (opt.locale && !check_encoding_name (opt.locale))
1100         opt.locale = NULL;
1101
1102       if (!opt.locale)
1103         opt.locale = find_locale ();
1104
1105       if (opt.encoding_remote && !check_encoding_name (opt.encoding_remote))
1106         opt.encoding_remote = NULL;
1107     }
1108 #else
1109   if (opt.enable_iri || opt.locale || opt.encoding_remote)
1110     {
1111       /* sXXXav : be more specific... */
1112       printf(_("This version does not have support for IRIs\n"));
1113       exit(1);
1114     }
1115 #endif
1116
1117   if (opt.ask_passwd)
1118     {
1119       opt.passwd = prompt_for_password ();
1120
1121       if (opt.passwd == NULL || opt.passwd[0] == '\0')
1122         exit (1);
1123     }
1124
1125 #ifdef MSDOS
1126   if (opt.wdebug)
1127      dbug_init();
1128   sock_init();
1129 #else
1130   if (opt.background)
1131     fork_to_background ();
1132 #endif
1133
1134   /* Initialize progress.  Have to do this after the options are
1135      processed so we know where the log file is.  */
1136   if (opt.verbose)
1137     set_progress_implementation (opt.progress_type);
1138
1139   /* Fill in the arguments.  */
1140   url = alloca_array (char *, nurl + 1);
1141   for (i = 0; i < nurl; i++, optind++)
1142     {
1143       char *rewritten = rewrite_shorthand_url (argv[optind]);
1144       if (rewritten)
1145         url[i] = rewritten;
1146       else
1147         url[i] = xstrdup (argv[optind]);
1148     }
1149   url[i] = NULL;
1150
1151   /* Initialize logging.  */
1152   log_init (opt.lfilename, append_to_log);
1153
1154   DEBUGP (("DEBUG output created by Wget %s on %s.\n\n",
1155            VERSION_STRING, OS_TYPE));
1156
1157   /* Open the output filename if necessary.  */
1158
1159 /* 2005-04-17 SMS.
1160    Note that having the output_stream ("-O") file opened here for an FTP
1161    URL rather than in getftp() (ftp.c) (and the http equivalent) rather
1162    limits the ability in VMS to open the file differently for ASCII
1163    versus binary FTP there.  (Of course, doing it here allows a open
1164    failure to be detected immediately, without first connecting to the
1165    server.)
1166 */
1167   if (opt.output_document)
1168     {
1169       if (HYPHENP (opt.output_document))
1170         {
1171 #ifdef WINDOWS
1172           FILE *result;
1173           result = freopen ("CONOUT$", "wb", stdout);
1174           if (result == NULL)
1175             {
1176               logputs (LOG_NOTQUIET, _("\
1177 WARNING: Can't reopen standard output in binary mode;\n\
1178          downloaded file may contain inappropriate line endings.\n"));
1179             }
1180 #endif
1181           output_stream = stdout;
1182         }
1183       else
1184         {
1185           struct_fstat st;
1186
1187 #ifdef __VMS
1188 /* Common fopen() optional arguments:
1189    sequential access only, access callback function.
1190 */
1191 # define FOPEN_OPT_ARGS , "fop=sqo", "acc", acc_cb, &open_id
1192           int open_id = 7;
1193 #else /* def __VMS */
1194 # define FOPEN_OPT_ARGS
1195 #endif /* def __VMS [else] */
1196
1197           output_stream = fopen (opt.output_document,
1198                                  opt.always_rest ? "ab" : "wb"
1199                                  FOPEN_OPT_ARGS);
1200           if (output_stream == NULL)
1201             {
1202               perror (opt.output_document);
1203               exit (1);
1204             }
1205           if (fstat (fileno (output_stream), &st) == 0 && S_ISREG (st.st_mode))
1206             output_stream_regular = true;
1207         }
1208     }
1209
1210 #ifdef __VMS
1211   /* Set global ODS5 flag according to the specified destination (if
1212      any), otherwise according to the current default device.
1213   */
1214   if (output_stream == NULL)
1215     {
1216       set_ods5_dest( "SYS$DISK");
1217     }
1218   else if (output_stream != stdout)
1219     {
1220       set_ods5_dest( opt.output_document);
1221     }
1222 #endif /* def __VMS */
1223
1224 #ifdef WINDOWS
1225   ws_startup ();
1226 #endif
1227
1228 #ifdef SIGHUP
1229   /* Setup the signal handler to redirect output when hangup is
1230      received.  */
1231   if (signal(SIGHUP, SIG_IGN) != SIG_IGN)
1232     signal(SIGHUP, redirect_output_signal);
1233 #endif
1234   /* ...and do the same for SIGUSR1.  */
1235 #ifdef SIGUSR1
1236   signal (SIGUSR1, redirect_output_signal);
1237 #endif
1238 #ifdef SIGPIPE
1239   /* Writing to a closed socket normally signals SIGPIPE, and the
1240      process exits.  What we want is to ignore SIGPIPE and just check
1241      for the return value of write().  */
1242   signal (SIGPIPE, SIG_IGN);
1243 #endif
1244 #ifdef SIGWINCH
1245   signal (SIGWINCH, progress_handle_sigwinch);
1246 #endif
1247
1248   status = RETROK;              /* initialize it, just-in-case */
1249   /* Retrieve the URLs from argument list.  */
1250   for (t = url; *t; t++)
1251     {
1252       char *filename = NULL, *redirected_URL = NULL;
1253       int dt, url_err;
1254       /* Need to do a new struct iri every time, because
1255        * retrieve_url may modify it in some circumstances,
1256        * currently. */
1257       struct iri *iri = iri_new ();
1258       struct url *url_parsed;
1259
1260       set_uri_encoding (iri, opt.locale, true);
1261       url_parsed = url_parse (*t, &url_err, iri, true);
1262
1263       if (!url_parsed)
1264         {
1265           char *error = url_error (*t, url_err);
1266           logprintf (LOG_NOTQUIET, "%s: %s.\n",*t, error);
1267           xfree (error);
1268           status = URLERROR;
1269         }
1270       else
1271         {
1272           if ((opt.recursive || opt.page_requisites)
1273               && (url_scheme (*t) != SCHEME_FTP || url_uses_proxy (url_parsed)))
1274             {
1275               int old_follow_ftp = opt.follow_ftp;
1276
1277               /* Turn opt.follow_ftp on in case of recursive FTP retrieval */
1278               if (url_scheme (*t) == SCHEME_FTP)
1279                 opt.follow_ftp = 1;
1280
1281               status = retrieve_tree (url_parsed, NULL);
1282
1283               opt.follow_ftp = old_follow_ftp;
1284             }
1285           else
1286           {
1287             status = retrieve_url (url_parsed, *t, &filename, &redirected_URL,
1288                                    NULL, &dt, opt.recursive, iri);
1289           }
1290
1291           if (opt.delete_after && file_exists_p(filename))
1292             {
1293               DEBUGP (("Removing file due to --delete-after in main():\n"));
1294               logprintf (LOG_VERBOSE, _("Removing %s.\n"), filename);
1295               if (unlink (filename))
1296                 logprintf (LOG_NOTQUIET, "unlink: %s\n", strerror (errno));
1297             }
1298           xfree_null (redirected_URL);
1299           xfree_null (filename);
1300           url_free (url_parsed);
1301         }
1302       iri_free (iri);
1303     }
1304
1305   /* And then from the input file, if any.  */
1306   if (opt.input_filename)
1307     {
1308       int count;
1309       status = retrieve_from_file (opt.input_filename, opt.force_html, &count);
1310       if (!count)
1311         logprintf (LOG_NOTQUIET, _("No URLs found in %s.\n"),
1312                    opt.input_filename);
1313     }
1314
1315   /* Print broken links. */
1316   if (opt.recursive && opt.spider)
1317     {
1318       print_broken_links();
1319     }
1320
1321   /* Print the downloaded sum.  */
1322   if ((opt.recursive || opt.page_requisites
1323        || nurl > 1
1324        || (opt.input_filename && total_downloaded_bytes != 0))
1325       &&
1326       total_downloaded_bytes != 0)
1327     {
1328       logprintf (LOG_NOTQUIET,
1329                  _("FINISHED --%s--\nDownloaded: %d files, %s in %s (%s)\n"),
1330                  datetime_str (time (NULL)),
1331                  numurls,
1332                  human_readable (total_downloaded_bytes),
1333                  secs_to_human_time (total_download_time),
1334                  retr_rate (total_downloaded_bytes, total_download_time));
1335       /* Print quota warning, if exceeded.  */
1336       if (opt.quota && total_downloaded_bytes > opt.quota)
1337         logprintf (LOG_NOTQUIET,
1338                    _("Download quota of %s EXCEEDED!\n"),
1339                    human_readable (opt.quota));
1340     }
1341
1342   if (opt.cookies_output)
1343     save_cookies ();
1344
1345   if (opt.convert_links && !opt.delete_after)
1346     convert_all_links ();
1347
1348   log_close ();
1349   for (i = 0; i < nurl; i++)
1350     xfree (url[i]);
1351   cleanup ();
1352
1353   if (status == RETROK)
1354     return 0;
1355   else
1356     return 1;
1357 }
1358 #endif /* TESTING */
1359 \f
1360 #if defined(SIGHUP) || defined(SIGUSR1)
1361
1362 /* So the signal_name check doesn't blow when only one is available. */
1363 #ifndef SIGHUP
1364 # define SIGHUP -1
1365 #endif
1366 #ifndef SIGUSR1
1367 # define SIGUSR1 -1
1368 #endif
1369
1370 /* Hangup signal handler.  When wget receives SIGHUP or SIGUSR1, it
1371    will proceed operation as usual, trying to write into a log file.
1372    If that is impossible, the output will be turned off.  */
1373
1374 static void
1375 redirect_output_signal (int sig)
1376 {
1377   const char *signal_name = (sig == SIGHUP ? "SIGHUP" :
1378                              (sig == SIGUSR1 ? "SIGUSR1" :
1379                               "WTF?!"));
1380   log_request_redirect_output (signal_name);
1381   progress_schedule_redirect ();
1382   signal (sig, redirect_output_signal);
1383 }
1384 #endif
1385
1386 /*
1387  * vim: et ts=2 sw=2
1388  */