sjero.net Git - wget/blob - src/main.c

   1 /* Command line parsing.
   2    Copyright (C) 1996, 1997, 1998, 1999, 2000, 2001, 2002, 2003, 2004,
   3    2005, 2006, 2007, 2008, 2009, 2010 Free Software Foundation, Inc.
   4
   5 This file is part of GNU Wget.
   6
   7 GNU Wget is free software; you can redistribute it and/or modify
   8 it under the terms of the GNU General Public License as published by
   9 the Free Software Foundation; either version 3 of the License, or
  10 (at your option) any later version.
  11
  12 GNU Wget is distributed in the hope that it will be useful,
  13 but WITHOUT ANY WARRANTY; without even the implied warranty of
  14 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15 GNU General Public License for more details.
  16
  17 You should have received a copy of the GNU General Public License
  18 along with Wget.  If not, see <http://www.gnu.org/licenses/>.
  19
  20 Additional permission under GNU GPL version 3 section 7
  21
  22 If you modify this program, or any covered work, by linking or
  23 combining it with the OpenSSL project's OpenSSL library (or a
  24 modified version of that library), containing parts covered by the
  25 terms of the OpenSSL or SSLeay licenses, the Free Software Foundation
  26 grants you additional permission to convey the resulting work.
  27 Corresponding Source for a non-source form of such a combination
  28 shall include the source code for the parts of OpenSSL used as well
  29 as that of the covered work.  */
  30
  31 #include "wget.h"
  32
  33 #include <stdio.h>
  34 #include <stdlib.h>
  35 #include <unistd.h>
  36 #include <string.h>
  37 #include <signal.h>
  38 #ifdef ENABLE_NLS
  39 # include <locale.h>
  40 #endif
  41 #include <assert.h>
  42 #include <errno.h>
  43 #include <time.h>
  44
  45 #include "exits.h"
  46 #include "utils.h"
  47 #include "init.h"
  48 #include "retr.h"
  49 #include "recur.h"
  50 #include "host.h"
  51 #include "url.h"
  52 #include "progress.h"           /* for progress_handle_sigwinch */
  53 #include "convert.h"
  54 #include "spider.h"
  55 #include "http.h"               /* for save_cookies */
  56 #include "ptimer.h"
  57
  58 #include <getopt.h>
  59 #include <getpass.h>
  60 #include <quote.h>
  61
  62 #ifdef __VMS
  63 #include "vms.h"
  64 #endif /* __VMS */
  65
  66 #ifndef PATH_SEPARATOR
  67 # define PATH_SEPARATOR '/'
  68 #endif
  69
  70 struct options opt;
  71
  72 /* defined in version.c */
  73 extern char *version_string;
  74 extern char *compilation_string;
  75 extern char *system_getrc;
  76 extern char *link_string;
  77 /* defined in build_info.c */
  78 extern const char *compiled_features[];
  79 /* Used for --version output in print_version */
  80 #define MAX_CHARS_PER_LINE      72
  81 #define TABULATION              4
  82
  83 #if defined(SIGHUP) || defined(SIGUSR1)
  84 static void redirect_output_signal (int);
  85 #endif
  86
  87 const char *exec_name;
  88
  89 /* Number of successfully downloaded URLs */
  90 int numurls = 0;
  91 \f
  92 #ifndef TESTING
  93 /* Initialize I18N/L10N.  That amounts to invoking setlocale, and
  94    setting up gettext's message catalog using bindtextdomain and
  95    textdomain.  Does nothing if NLS is disabled or missing.  */
  96
  97 static void
  98 i18n_initialize (void)
  99 {
 100   /* ENABLE_NLS implies existence of functions invoked here.  */
 101 #ifdef ENABLE_NLS
 102   /* Set the current locale.  */
 103   setlocale (LC_ALL, "");
 104   /* Set the text message domain.  */
 105   bindtextdomain ("wget", LOCALEDIR);
 106   textdomain ("wget");
 107 #endif /* ENABLE_NLS */
 108 }
 109 \f
 110 /* Definition of command-line options. */
 111
 112 static void print_help (void);
 113 static void print_version (void);
 114
 115 #ifdef HAVE_SSL
 116 # define IF_SSL(x) x
 117 #else
 118 # define IF_SSL(x) NULL
 119 #endif
 120
 121 #ifdef ENABLE_DEBUG
 122 # define WHEN_DEBUG(x) x
 123 #else
 124 # define WHEN_DEBUG(x) NULL
 125 #endif
 126
 127 struct cmdline_option {
 128   const char *long_name;
 129   char short_name;
 130   enum {
 131     OPT_VALUE,
 132     OPT_BOOLEAN,
 133     OPT_FUNCALL,
 134     /* Non-standard options that have to be handled specially in
 135        main().  */
 136     OPT__APPEND_OUTPUT,
 137     OPT__CLOBBER,
 138     OPT__DONT_REMOVE_LISTING,
 139     OPT__EXECUTE,
 140     OPT__NO,
 141     OPT__PARENT
 142   } type;
 143   const void *data;             /* for standard options */
 144   int argtype;                  /* for non-standard options */
 145 };
 146
 147 static struct cmdline_option option_data[] =
 148   {
 149     { "accept", 'A', OPT_VALUE, "accept", -1 },
 150     { "adjust-extension", 'E', OPT_BOOLEAN, "adjustextension", -1 },
 151     { "append-output", 'a', OPT__APPEND_OUTPUT, NULL, required_argument },
 152     { "ask-password", 0, OPT_BOOLEAN, "askpassword", -1 },
 153     { "auth-no-challenge", 0, OPT_BOOLEAN, "authnochallenge", -1 },
 154     { "background", 'b', OPT_BOOLEAN, "background", -1 },
 155     { "backup-converted", 'K', OPT_BOOLEAN, "backupconverted", -1 },
 156     { "backups", 0, OPT_BOOLEAN, "backups", -1 },
 157     { "base", 'B', OPT_VALUE, "base", -1 },
 158     { "bind-address", 0, OPT_VALUE, "bindaddress", -1 },
 159     { IF_SSL ("ca-certificate"), 0, OPT_VALUE, "cacertificate", -1 },
 160     { IF_SSL ("ca-directory"), 0, OPT_VALUE, "cadirectory", -1 },
 161     { "cache", 0, OPT_BOOLEAN, "cache", -1 },
 162     { IF_SSL ("certificate"), 0, OPT_VALUE, "certificate", -1 },
 163     { IF_SSL ("certificate-type"), 0, OPT_VALUE, "certificatetype", -1 },
 164     { IF_SSL ("check-certificate"), 0, OPT_BOOLEAN, "checkcertificate", -1 },
 165     { "clobber", 0, OPT__CLOBBER, NULL, optional_argument },
 166     { "config", 0, OPT_VALUE, "chooseconfig", -1 },
 167     { "connect-timeout", 0, OPT_VALUE, "connecttimeout", -1 },
 168     { "continue", 'c', OPT_BOOLEAN, "continue", -1 },
 169     { "convert-links", 'k', OPT_BOOLEAN, "convertlinks", -1 },
 170     { "content-disposition", 0, OPT_BOOLEAN, "contentdisposition", -1 },
 171     { "cookies", 0, OPT_BOOLEAN, "cookies", -1 },
 172     { "cut-dirs", 0, OPT_VALUE, "cutdirs", -1 },
 173     { WHEN_DEBUG ("debug"), 'd', OPT_BOOLEAN, "debug", -1 },
 174     { "default-page", 0, OPT_VALUE, "defaultpage", -1 },
 175     { "delete-after", 0, OPT_BOOLEAN, "deleteafter", -1 },
 176     { "directories", 0, OPT_BOOLEAN, "dirstruct", -1 },
 177     { "directory-prefix", 'P', OPT_VALUE, "dirprefix", -1 },
 178     { "dns-cache", 0, OPT_BOOLEAN, "dnscache", -1 },
 179     { "dns-timeout", 0, OPT_VALUE, "dnstimeout", -1 },
 180     { "domains", 'D', OPT_VALUE, "domains", -1 },
 181     { "dont-remove-listing", 0, OPT__DONT_REMOVE_LISTING, NULL, no_argument },
 182     { "dot-style", 0, OPT_VALUE, "dotstyle", -1 }, /* deprecated */
 183     { "egd-file", 0, OPT_VALUE, "egdfile", -1 },
 184     { "exclude-directories", 'X', OPT_VALUE, "excludedirectories", -1 },
 185     { "exclude-domains", 0, OPT_VALUE, "excludedomains", -1 },
 186     { "execute", 'e', OPT__EXECUTE, NULL, required_argument },
 187     { "follow-ftp", 0, OPT_BOOLEAN, "followftp", -1 },
 188     { "follow-tags", 0, OPT_VALUE, "followtags", -1 },
 189     { "force-directories", 'x', OPT_BOOLEAN, "dirstruct", -1 },
 190     { "force-html", 'F', OPT_BOOLEAN, "forcehtml", -1 },
 191     { "ftp-password", 0, OPT_VALUE, "ftppassword", -1 },
 192 #ifdef __VMS
 193     { "ftp-stmlf", 0, OPT_BOOLEAN, "ftpstmlf", -1 },
 194 #endif /* def __VMS */
 195     { "ftp-user", 0, OPT_VALUE, "ftpuser", -1 },
 196     { "glob", 0, OPT_BOOLEAN, "glob", -1 },
 197     { "header", 0, OPT_VALUE, "header", -1 },
 198     { "help", 'h', OPT_FUNCALL, (void *)print_help, no_argument },
 199     { "host-directories", 0, OPT_BOOLEAN, "addhostdir", -1 },
 200     { "html-extension", 'E', OPT_BOOLEAN, "adjustextension", -1 }, /* deprecated */
 201     { "htmlify", 0, OPT_BOOLEAN, "htmlify", -1 },
 202     { "http-keep-alive", 0, OPT_BOOLEAN, "httpkeepalive", -1 },
 203     { "http-passwd", 0, OPT_VALUE, "httppassword", -1 }, /* deprecated */
 204     { "http-password", 0, OPT_VALUE, "httppassword", -1 },
 205     { "http-user", 0, OPT_VALUE, "httpuser", -1 },
 206     { "ignore-case", 0, OPT_BOOLEAN, "ignorecase", -1 },
 207     { "ignore-length", 0, OPT_BOOLEAN, "ignorelength", -1 },
 208     { "ignore-tags", 0, OPT_VALUE, "ignoretags", -1 },
 209     { "include-directories", 'I', OPT_VALUE, "includedirectories", -1 },
 210 #ifdef ENABLE_IPV6
 211     { "inet4-only", '4', OPT_BOOLEAN, "inet4only", -1 },
 212     { "inet6-only", '6', OPT_BOOLEAN, "inet6only", -1 },
 213 #endif
 214     { "input-file", 'i', OPT_VALUE, "input", -1 },
 215     { "iri", 0, OPT_BOOLEAN, "iri", -1 },
 216     { "keep-session-cookies", 0, OPT_BOOLEAN, "keepsessioncookies", -1 },
 217     { "level", 'l', OPT_VALUE, "reclevel", -1 },
 218     { "limit-rate", 0, OPT_VALUE, "limitrate", -1 },
 219     { "load-cookies", 0, OPT_VALUE, "loadcookies", -1 },
 220     { "local-encoding", 0, OPT_VALUE, "localencoding", -1 },
 221     { "max-redirect", 0, OPT_VALUE, "maxredirect", -1 },
 222     { "mirror", 'm', OPT_BOOLEAN, "mirror", -1 },
 223     { "no", 'n', OPT__NO, NULL, required_argument },
 224     { "no-clobber", 0, OPT_BOOLEAN, "noclobber", -1 },
 225     { "no-parent", 0, OPT_BOOLEAN, "noparent", -1 },
 226     { "output-document", 'O', OPT_VALUE, "outputdocument", -1 },
 227     { "output-file", 'o', OPT_VALUE, "logfile", -1 },
 228     { "page-requisites", 'p', OPT_BOOLEAN, "pagerequisites", -1 },
 229     { "parent", 0, OPT__PARENT, NULL, optional_argument },
 230     { "passive-ftp", 0, OPT_BOOLEAN, "passiveftp", -1 },
 231     { "password", 0, OPT_VALUE, "password", -1 },
 232     { "post-data", 0, OPT_VALUE, "postdata", -1 },
 233     { "post-file", 0, OPT_VALUE, "postfile", -1 },
 234     { "prefer-family", 0, OPT_VALUE, "preferfamily", -1 },
 235     { "preserve-permissions", 0, OPT_BOOLEAN, "preservepermissions", -1 }, /* deprecated */
 236     { IF_SSL ("private-key"), 0, OPT_VALUE, "privatekey", -1 },
 237     { IF_SSL ("private-key-type"), 0, OPT_VALUE, "privatekeytype", -1 },
 238     { "progress", 0, OPT_VALUE, "progress", -1 },
 239     { "protocol-directories", 0, OPT_BOOLEAN, "protocoldirectories", -1 },
 240     { "proxy", 0, OPT_BOOLEAN, "useproxy", -1 },
 241     { "proxy__compat", 'Y', OPT_VALUE, "useproxy", -1 }, /* back-compatible */
 242     { "proxy-passwd", 0, OPT_VALUE, "proxypassword", -1 }, /* deprecated */
 243     { "proxy-password", 0, OPT_VALUE, "proxypassword", -1 },
 244     { "proxy-user", 0, OPT_VALUE, "proxyuser", -1 },
 245     { "quiet", 'q', OPT_BOOLEAN, "quiet", -1 },
 246     { "quota", 'Q', OPT_VALUE, "quota", -1 },
 247     { "random-file", 0, OPT_VALUE, "randomfile", -1 },
 248     { "random-wait", 0, OPT_BOOLEAN, "randomwait", -1 },
 249     { "read-timeout", 0, OPT_VALUE, "readtimeout", -1 },
 250     { "recursive", 'r', OPT_BOOLEAN, "recursive", -1 },
 251     { "referer", 0, OPT_VALUE, "referer", -1 },
 252     { "reject", 'R', OPT_VALUE, "reject", -1 },
 253     { "relative", 'L', OPT_BOOLEAN, "relativeonly", -1 },
 254     { "remote-encoding", 0, OPT_VALUE, "remoteencoding", -1 },
 255     { "remove-listing", 0, OPT_BOOLEAN, "removelisting", -1 },
 256     { "restrict-file-names", 0, OPT_BOOLEAN, "restrictfilenames", -1 },
 257     { "retr-symlinks", 0, OPT_BOOLEAN, "retrsymlinks", -1 },
 258     { "retry-connrefused", 0, OPT_BOOLEAN, "retryconnrefused", -1 },
 259     { "save-cookies", 0, OPT_VALUE, "savecookies", -1 },
 260     { "save-headers", 0, OPT_BOOLEAN, "saveheaders", -1 },
 261     { IF_SSL ("secure-protocol"), 0, OPT_VALUE, "secureprotocol", -1 },
 262     { "server-response", 'S', OPT_BOOLEAN, "serverresponse", -1 },
 263     { "span-hosts", 'H', OPT_BOOLEAN, "spanhosts", -1 },
 264     { "spider", 0, OPT_BOOLEAN, "spider", -1 },
 265     { "strict-comments", 0, OPT_BOOLEAN, "strictcomments", -1 },
 266     { "timeout", 'T', OPT_VALUE, "timeout", -1 },
 267     { "timestamping", 'N', OPT_BOOLEAN, "timestamping", -1 },
 268     { "tries", 't', OPT_VALUE, "tries", -1 },
 269     { "unlink", 0, OPT_BOOLEAN, "unlink", -1 },
 270     { "trust-server-names", 0, OPT_BOOLEAN, "trustservernames", -1 },
 271     { "use-server-timestamps", 0, OPT_BOOLEAN, "useservertimestamps", -1 },
 272     { "user", 0, OPT_VALUE, "user", -1 },
 273     { "user-agent", 'U', OPT_VALUE, "useragent", -1 },
 274     { "verbose", 'v', OPT_BOOLEAN, "verbose", -1 },
 275     { "verbose", 0, OPT_BOOLEAN, "verbose", -1 },
 276     { "version", 'V', OPT_FUNCALL, (void *) print_version, no_argument },
 277     { "wait", 'w', OPT_VALUE, "wait", -1 },
 278     { "waitretry", 0, OPT_VALUE, "waitretry", -1 },
 279 #ifdef USE_WATT32
 280     { "wdebug", 0, OPT_BOOLEAN, "wdebug", -1 },
 281 #endif
 282   };
 283
 284 #undef WHEN_DEBUG
 285 #undef IF_SSL
 286
 287 /* Return a string that contains S with "no-" prepended.  The string
 288    is NUL-terminated and allocated off static storage at Wget
 289    startup.  */
 290
 291 static char *
 292 no_prefix (const char *s)
 293 {
 294   static char buffer[1024];
 295   static char *p = buffer;
 296
 297   char *cp = p;
 298   int size = 3 + strlen (s) + 1;  /* "no-STRING\0" */
 299   if (p + size >= buffer + sizeof (buffer))
 300     abort ();
 301
 302   cp[0] = 'n', cp[1] = 'o', cp[2] = '-';
 303   strcpy (cp + 3, s);
 304   p += size;
 305   return cp;
 306 }
 307
 308 /* The arguments that that main passes to getopt_long. */
 309 static struct option long_options[2 * countof (option_data) + 1];
 310 static char short_options[128];
 311
 312 /* Mapping between short option chars and option_data indices. */
 313 static unsigned char optmap[96];
 314
 315 /* Marker for `--no-FOO' values in long_options.  */
 316 #define BOOLEAN_NEG_MARKER 1024
 317
 318 /* Initialize the long_options array used by getopt_long from the data
 319    in option_data.  */
 320
 321 static void
 322 init_switches (void)
 323 {
 324   char *p = short_options;
 325   size_t i, o = 0;
 326   for (i = 0; i < countof (option_data); i++)
 327     {
 328       struct cmdline_option *opt = &option_data[i];
 329       struct option *longopt;
 330
 331       if (!opt->long_name)
 332         /* The option is disabled. */
 333         continue;
 334
 335       longopt = &long_options[o++];
 336       longopt->name = opt->long_name;
 337       longopt->val = i;
 338       if (opt->short_name)
 339         {
 340           *p++ = opt->short_name;
 341           optmap[opt->short_name - 32] = longopt - long_options;
 342         }
 343       switch (opt->type)
 344         {
 345         case OPT_VALUE:
 346           longopt->has_arg = required_argument;
 347           if (opt->short_name)
 348             *p++ = ':';
 349           break;
 350         case OPT_BOOLEAN:
 351           /* Specify an optional argument for long options, so that
 352              --option=off works the same as --no-option, for
 353              compatibility with pre-1.10 Wget.  However, don't specify
 354              optional arguments short-option booleans because they
 355              prevent combining of short options.  */
 356           longopt->has_arg = optional_argument;
 357           /* For Boolean options, add the "--no-FOO" variant, which is
 358              identical to "--foo", except it has opposite meaning and
 359              it doesn't allow an argument.  */
 360           longopt = &long_options[o++];
 361           longopt->name = no_prefix (opt->long_name);
 362           longopt->has_arg = no_argument;
 363           /* Mask the value so we'll be able to recognize that we're
 364              dealing with the false value.  */
 365           longopt->val = i | BOOLEAN_NEG_MARKER;
 366           break;
 367         default:
 368           assert (opt->argtype != -1);
 369           longopt->has_arg = opt->argtype;
 370           if (opt->short_name)
 371             {
 372               if (longopt->has_arg == required_argument)
 373                 *p++ = ':';
 374               /* Don't handle optional_argument */
 375             }
 376         }
 377     }
 378   /* Terminate short_options. */
 379   *p = '\0';
 380   /* No need for xzero(long_options[o]) because its storage is static
 381      and it will be zeroed by default.  */
 382   assert (o <= countof (long_options));
 383 }
 384
 385 /* Print the usage message.  */
 386 static void
 387 print_usage (int error)
 388 {
 389   fprintf (error ? stderr : stdout, _("Usage: %s [OPTION]... [URL]...\n"),
 390            exec_name);
 391 }
 392
 393 /* Print the help message, describing all the available options.  If
 394    you add an option, be sure to update this list.  */
 395 static void
 396 print_help (void)
 397 {
 398   /* We split the help text this way to ease translation of individual
 399      entries.  */
 400   static const char *help[] = {
 401     "\n",
 402     N_("\
 403 Mandatory arguments to long options are mandatory for short options too.\n\n"),
 404     N_("\
 405 Startup:\n"),
 406     N_("\
 407   -V,  --version           display the version of Wget and exit.\n"),
 408     N_("\
 409   -h,  --help              print this help.\n"),
 410     N_("\
 411   -b,  --background        go to background after startup.\n"),
 412     N_("\
 413   -e,  --execute=COMMAND   execute a `.wgetrc'-style command.\n"),
 414     "\n",
 415
 416     N_("\
 417 Logging and input file:\n"),
 418     N_("\
 419   -o,  --output-file=FILE    log messages to FILE.\n"),
 420     N_("\
 421   -a,  --append-output=FILE  append messages to FILE.\n"),
 422 #ifdef ENABLE_DEBUG
 423     N_("\
 424   -d,  --debug               print lots of debugging information.\n"),
 425 #endif
 426 #ifdef USE_WATT32
 427     N_("\
 428        --wdebug              print Watt-32 debug output.\n"),
 429 #endif
 430     N_("\
 431   -q,  --quiet               quiet (no output).\n"),
 432     N_("\
 433   -v,  --verbose             be verbose (this is the default).\n"),
 434     N_("\
 435   -nv, --no-verbose          turn off verboseness, without being quiet.\n"),
 436     N_("\
 437   -i,  --input-file=FILE     download URLs found in local or external FILE.\n"),
 438     N_("\
 439   -F,  --force-html          treat input file as HTML.\n"),
 440     N_("\
 441   -B,  --base=URL            resolves HTML input-file links (-i -F)\n\
 442                              relative to URL.\n"),
 443     N_("\
 444        --config=FILE         Specify config file to use.\n"),
 445     "\n",
 446
 447     N_("\
 448 Download:\n"),
 449     N_("\
 450   -t,  --tries=NUMBER            set number of retries to NUMBER (0 unlimits).\n"),
 451     N_("\
 452        --retry-connrefused       retry even if connection is refused.\n"),
 453     N_("\
 454   -O,  --output-document=FILE    write documents to FILE.\n"),
 455     N_("\
 456   -nc, --no-clobber              skip downloads that would download to\n\
 457                                  existing files (overwriting them).\n"),
 458     N_("\
 459   -c,  --continue                resume getting a partially-downloaded file.\n"),
 460     N_("\
 461        --progress=TYPE           select progress gauge type.\n"),
 462     N_("\
 463   -N,  --timestamping            don't re-retrieve files unless newer than\n\
 464                                  local.\n"),
 465     N_("\
 466   --no-use-server-timestamps     don't set the local file's timestamp by\n\
 467                                  the one on the server.\n"),
 468     N_("\
 469   -S,  --server-response         print server response.\n"),
 470     N_("\
 471        --spider                  don't download anything.\n"),
 472     N_("\
 473   -T,  --timeout=SECONDS         set all timeout values to SECONDS.\n"),
 474     N_("\
 475        --dns-timeout=SECS        set the DNS lookup timeout to SECS.\n"),
 476     N_("\
 477        --connect-timeout=SECS    set the connect timeout to SECS.\n"),
 478     N_("\
 479        --read-timeout=SECS       set the read timeout to SECS.\n"),
 480     N_("\
 481   -w,  --wait=SECONDS            wait SECONDS between retrievals.\n"),
 482     N_("\
 483        --waitretry=SECONDS       wait 1..SECONDS between retries of a retrieval.\n"),
 484     N_("\
 485        --random-wait             wait from 0.5*WAIT...1.5*WAIT secs between retrievals.\n"),
 486     N_("\
 487        --no-proxy                explicitly turn off proxy.\n"),
 488     N_("\
 489   -Q,  --quota=NUMBER            set retrieval quota to NUMBER.\n"),
 490     N_("\
 491        --bind-address=ADDRESS    bind to ADDRESS (hostname or IP) on local host.\n"),
 492     N_("\
 493        --limit-rate=RATE         limit download rate to RATE.\n"),
 494     N_("\
 495        --no-dns-cache            disable caching DNS lookups.\n"),
 496     N_("\
 497        --restrict-file-names=OS  restrict chars in file names to ones OS allows.\n"),
 498     N_("\
 499        --ignore-case             ignore case when matching files/directories.\n"),
 500 #ifdef ENABLE_IPV6
 501     N_("\
 502   -4,  --inet4-only              connect only to IPv4 addresses.\n"),
 503     N_("\
 504   -6,  --inet6-only              connect only to IPv6 addresses.\n"),
 505     N_("\
 506        --prefer-family=FAMILY    connect first to addresses of specified family,\n\
 507                                  one of IPv6, IPv4, or none.\n"),
 508 #endif
 509     N_("\
 510        --user=USER               set both ftp and http user to USER.\n"),
 511     N_("\
 512        --password=PASS           set both ftp and http password to PASS.\n"),
 513     N_("\
 514        --ask-password            prompt for passwords.\n"),
 515     N_("\
 516        --no-iri                  turn off IRI support.\n"),
 517     N_("\
 518        --local-encoding=ENC      use ENC as the local encoding for IRIs.\n"),
 519     N_("\
 520        --remote-encoding=ENC     use ENC as the default remote encoding.\n"),
 521     N_("\
 522        --unlink                  remove file before clobber.\n"),
 523     "\n",
 524
 525     N_("\
 526 Directories:\n"),
 527     N_("\
 528   -nd, --no-directories           don't create directories.\n"),
 529     N_("\
 530   -x,  --force-directories        force creation of directories.\n"),
 531     N_("\
 532   -nH, --no-host-directories      don't create host directories.\n"),
 533     N_("\
 534        --protocol-directories     use protocol name in directories.\n"),
 535     N_("\
 536   -P,  --directory-prefix=PREFIX  save files to PREFIX/...\n"),
 537     N_("\
 538        --cut-dirs=NUMBER          ignore NUMBER remote directory components.\n"),
 539     "\n",
 540
 541     N_("\
 542 HTTP options:\n"),
 543     N_("\
 544        --http-user=USER        set http user to USER.\n"),
 545     N_("\
 546        --http-password=PASS    set http password to PASS.\n"),
 547     N_("\
 548        --no-cache              disallow server-cached data.\n"),
 549     N_ ("\
 550        --default-page=NAME     Change the default page name (normally\n\
 551                                this is `index.html'.).\n"),
 552     N_("\
 553   -E,  --adjust-extension      save HTML/CSS documents with proper extensions.\n"),
 554     N_("\
 555        --ignore-length         ignore `Content-Length' header field.\n"),
 556     N_("\
 557        --header=STRING         insert STRING among the headers.\n"),
 558     N_("\
 559        --max-redirect          maximum redirections allowed per page.\n"),
 560     N_("\
 561        --proxy-user=USER       set USER as proxy username.\n"),
 562     N_("\
 563        --proxy-password=PASS   set PASS as proxy password.\n"),
 564     N_("\
 565        --referer=URL           include `Referer: URL' header in HTTP request.\n"),
 566     N_("\
 567        --save-headers          save the HTTP headers to file.\n"),
 568     N_("\
 569   -U,  --user-agent=AGENT      identify as AGENT instead of Wget/VERSION.\n"),
 570     N_("\
 571        --no-http-keep-alive    disable HTTP keep-alive (persistent connections).\n"),
 572     N_("\
 573        --no-cookies            don't use cookies.\n"),
 574     N_("\
 575        --load-cookies=FILE     load cookies from FILE before session.\n"),
 576     N_("\
 577        --save-cookies=FILE     save cookies to FILE after session.\n"),
 578     N_("\
 579        --keep-session-cookies  load and save session (non-permanent) cookies.\n"),
 580     N_("\
 581        --post-data=STRING      use the POST method; send STRING as the data.\n"),
 582     N_("\
 583        --post-file=FILE        use the POST method; send contents of FILE.\n"),
 584     N_("\
 585        --content-disposition   honor the Content-Disposition header when\n\
 586                                choosing local file names (EXPERIMENTAL).\n"),
 587     N_("\
 588        --auth-no-challenge     send Basic HTTP authentication information\n\
 589                                without first waiting for the server's\n\
 590                                challenge.\n"),
 591     "\n",
 592
 593 #ifdef HAVE_SSL
 594     N_("\
 595 HTTPS (SSL/TLS) options:\n"),
 596     N_("\
 597        --secure-protocol=PR     choose secure protocol, one of auto, SSLv2,\n\
 598                                 SSLv3, and TLSv1.\n"),
 599     N_("\
 600        --no-check-certificate   don't validate the server's certificate.\n"),
 601     N_("\
 602        --certificate=FILE       client certificate file.\n"),
 603     N_("\
 604        --certificate-type=TYPE  client certificate type, PEM or DER.\n"),
 605     N_("\
 606        --private-key=FILE       private key file.\n"),
 607     N_("\
 608        --private-key-type=TYPE  private key type, PEM or DER.\n"),
 609     N_("\
 610        --ca-certificate=FILE    file with the bundle of CA's.\n"),
 611     N_("\
 612        --ca-directory=DIR       directory where hash list of CA's is stored.\n"),
 613     N_("\
 614        --random-file=FILE       file with random data for seeding the SSL PRNG.\n"),
 615     N_("\
 616        --egd-file=FILE          file naming the EGD socket with random data.\n"),
 617     "\n",
 618 #endif /* HAVE_SSL */
 619
 620     N_("\
 621 FTP options:\n"),
 622 #ifdef __VMS
 623     N_("\
 624        --ftp-stmlf             Use Stream_LF format for all binary FTP files.\n"),
 625 #endif /* def __VMS */
 626     N_("\
 627        --ftp-user=USER         set ftp user to USER.\n"),
 628     N_("\
 629        --ftp-password=PASS     set ftp password to PASS.\n"),
 630     N_("\
 631        --no-remove-listing     don't remove `.listing' files.\n"),
 632     N_("\
 633        --no-glob               turn off FTP file name globbing.\n"),
 634     N_("\
 635        --no-passive-ftp        disable the \"passive\" transfer mode.\n"),
 636     N_("\
 637        --retr-symlinks         when recursing, get linked-to files (not dir).\n"),
 638     "\n",
 639
 640     N_("\
 641 Recursive download:\n"),
 642     N_("\
 643   -r,  --recursive          specify recursive download.\n"),
 644     N_("\
 645   -l,  --level=NUMBER       maximum recursion depth (inf or 0 for infinite).\n"),
 646     N_("\
 647        --delete-after       delete files locally after downloading them.\n"),
 648     N_("\
 649   -k,  --convert-links      make links in downloaded HTML or CSS point to\n\
 650                             local files.\n"),
 651 #ifdef __VMS
 652     N_("\
 653   -K,  --backup-converted   before converting file X, back up as X_orig.\n"),
 654 #else /* def __VMS */
 655     N_("\
 656   -K,  --backup-converted   before converting file X, back up as X.orig.\n"),
 657 #endif /* def __VMS [else] */
 658     N_("\
 659   -m,  --mirror             shortcut for -N -r -l inf --no-remove-listing.\n"),
 660     N_("\
 661   -p,  --page-requisites    get all images, etc. needed to display HTML page.\n"),
 662     N_("\
 663        --strict-comments    turn on strict (SGML) handling of HTML comments.\n"),
 664     "\n",
 665
 666     N_("\
 667 Recursive accept/reject:\n"),
 668     N_("\
 669   -A,  --accept=LIST               comma-separated list of accepted extensions.\n"),
 670     N_("\
 671   -R,  --reject=LIST               comma-separated list of rejected extensions.\n"),
 672     N_("\
 673   -D,  --domains=LIST              comma-separated list of accepted domains.\n"),
 674     N_("\
 675        --exclude-domains=LIST      comma-separated list of rejected domains.\n"),
 676     N_("\
 677        --follow-ftp                follow FTP links from HTML documents.\n"),
 678     N_("\
 679        --follow-tags=LIST          comma-separated list of followed HTML tags.\n"),
 680     N_("\
 681        --ignore-tags=LIST          comma-separated list of ignored HTML tags.\n"),
 682     N_("\
 683   -H,  --span-hosts                go to foreign hosts when recursive.\n"),
 684     N_("\
 685   -L,  --relative                  follow relative links only.\n"),
 686     N_("\
 687   -I,  --include-directories=LIST  list of allowed directories.\n"),
 688     N_("\
 689   --trust-server-names             use the name specified by the redirection\n\
 690                                    url last component.\n"),
 691     N_("\
 692   -X,  --exclude-directories=LIST  list of excluded directories.\n"),
 693     N_("\
 694   -np, --no-parent                 don't ascend to the parent directory.\n"),
 695     "\n",
 696
 697     N_("Mail bug reports and suggestions to <bug-wget@gnu.org>.\n")
 698   };
 699
 700   size_t i;
 701
 702   printf (_("GNU Wget %s, a non-interactive network retriever.\n"),
 703           version_string);
 704   print_usage (0);
 705
 706   for (i = 0; i < countof (help); i++)
 707     fputs (_(help[i]), stdout);
 708
 709   exit (0);
 710 }
 711
 712 /* Return a human-readable printed representation of INTERVAL,
 713    measured in seconds.  */
 714
 715 static char *
 716 secs_to_human_time (double interval)
 717 {
 718   static char buf[32];
 719   int secs = (int) (interval + 0.5);
 720   int hours, mins, days;
 721
 722   days = secs / 86400, secs %= 86400;
 723   hours = secs / 3600, secs %= 3600;
 724   mins = secs / 60, secs %= 60;
 725
 726   if (days)
 727     sprintf (buf, "%dd %dh %dm %ds", days, hours, mins, secs);
 728   else if (hours)
 729     sprintf (buf, "%dh %dm %ds", hours, mins, secs);
 730   else if (mins)
 731     sprintf (buf, "%dm %ds", mins, secs);
 732   else
 733     sprintf (buf, "%ss", print_decimal (interval));
 734
 735   return buf;
 736 }
 737
 738 static char *
 739 prompt_for_password (void)
 740 {
 741   if (opt.user)
 742     printf (_("Password for user %s: "), quote (opt.user));
 743   else
 744     printf (_("Password: "));
 745   return getpass("");
 746 }
 747
 748 /* Function that prints the line argument while limiting it
 749    to at most line_length. prefix is printed on the first line
 750    and an appropriate number of spaces are added on subsequent
 751    lines.*/
 752 static void
 753 format_and_print_line (const char *prefix, const char *line,
 754                        int line_length)
 755 {
 756   int remaining_chars;
 757   char *line_dup, *token;
 758
 759   assert (prefix != NULL);
 760   assert (line != NULL);
 761
 762   line_dup = xstrdup (line);
 763
 764   if (line_length <= 0)
 765     line_length = MAX_CHARS_PER_LINE - TABULATION;
 766
 767   printf ("%s", prefix);
 768   remaining_chars = line_length;
 769   /* We break on spaces. */
 770   token = strtok (line_dup, " ");
 771   while (token != NULL)
 772     {
 773       /* If however a token is much larger than the maximum
 774          line length, all bets are off and we simply print the
 775          token on the next line. */
 776       if (remaining_chars <= strlen (token))
 777         {
 778           printf ("\n%*c", TABULATION, ' ');
 779           remaining_chars = line_length - TABULATION;
 780         }
 781       printf ("%s ", token);
 782       remaining_chars -= strlen (token) + 1;  /* account for " " */
 783       token = strtok (NULL, " ");
 784     }
 785
 786   printf ("\n");
 787
 788   xfree (line_dup);
 789 }
 790
 791 static void
 792 print_version (void)
 793 {
 794   const char *wgetrc_title  = _("Wgetrc: ");
 795   const char *locale_title  = _("Locale: ");
 796   const char *compile_title = _("Compile: ");
 797   const char *link_title    = _("Link: ");
 798   char *env_wgetrc, *user_wgetrc;
 799   int i;
 800
 801   printf (_("GNU Wget %s built on %s.\n\n"), version_string, OS_TYPE);
 802
 803   for (i = 0; compiled_features[i] != NULL; )
 804     {
 805       int line_length = MAX_CHARS_PER_LINE;
 806       while ((line_length > 0) && (compiled_features[i] != NULL))
 807         {
 808           printf ("%s ", compiled_features[i]);
 809           line_length -= strlen (compiled_features[i]) + 2;
 810           i++;
 811         }
 812       printf ("\n");
 813     }
 814   printf ("\n");
 815
 816   /* Handle the case when $WGETRC is unset and $HOME/.wgetrc is
 817      absent. */
 818   printf ("%s\n", wgetrc_title);
 819   env_wgetrc = wgetrc_env_file_name ();
 820   if (env_wgetrc && *env_wgetrc)
 821     {
 822       printf (_("    %s (env)\n"), env_wgetrc);
 823       xfree (env_wgetrc);
 824     }
 825   user_wgetrc = wgetrc_user_file_name ();
 826   if (user_wgetrc)
 827     {
 828       printf (_("    %s (user)\n"), user_wgetrc);
 829       xfree (user_wgetrc);
 830     }
 831 #ifdef SYSTEM_WGETRC
 832   printf (_("    %s (system)\n"), SYSTEM_WGETRC);
 833 #endif
 834
 835 #ifdef ENABLE_NLS
 836   format_and_print_line (locale_title,
 837                         LOCALEDIR,
 838                         MAX_CHARS_PER_LINE);
 839 #endif /* def ENABLE_NLS */
 840
 841   if (compilation_string != NULL)
 842     format_and_print_line (compile_title,
 843                            compilation_string,
 844                            MAX_CHARS_PER_LINE);
 845
 846   if (link_string != NULL)
 847     format_and_print_line (link_title,
 848                            link_string,
 849                            MAX_CHARS_PER_LINE);
 850
 851   printf ("\n");
 852   /* TRANSLATORS: When available, an actual copyright character
 853      (cirle-c) should be used in preference to "(C)". */
 854   fputs (_("\
 855 Copyright (C) 2009 Free Software Foundation, Inc.\n"), stdout);
 856   fputs (_("\
 857 License GPLv3+: GNU GPL version 3 or later\n\
 858 <http://www.gnu.org/licenses/gpl.html>.\n\
 859 This is free software: you are free to change and redistribute it.\n\
 860 There is NO WARRANTY, to the extent permitted by law.\n"), stdout);
 861   /* TRANSLATORS: When available, please use the proper diacritics for
 862      names such as this one. See en_US.po for reference. */
 863   fputs (_("\nOriginally written by Hrvoje Niksic <hniksic@xemacs.org>.\n"),
 864          stdout);
 865   fputs (_("Please send bug reports and questions to <bug-wget@gnu.org>.\n"),
 866          stdout);
 867   exit (0);
 868 }
 869
 870 char *program_name; /* Needed by lib/error.c. */
 871
 872 int
 873 main (int argc, char **argv)
 874 {
 875   char **url, **t;
 876   int i, ret, longindex;
 877   int nurl;
 878   bool append_to_log = false;
 879
 880   total_downloaded_bytes = 0;
 881
 882   program_name = argv[0];
 883
 884   struct ptimer *timer = ptimer_new ();
 885   double start_time = ptimer_measure (timer);
 886
 887   i18n_initialize ();
 888
 889   /* Construct the name of the executable, without the directory part.  */
 890 #ifdef __VMS
 891   /* On VMS, lose the "dev:[dir]" prefix and the ".EXE;nnn" suffix. */
 892   exec_name = vms_basename (argv[0]);
 893 #else /* def __VMS */
 894   exec_name = strrchr (argv[0], PATH_SEPARATOR);
 895   if (!exec_name)
 896     exec_name = argv[0];
 897   else
 898     ++exec_name;
 899 #endif /* def __VMS [else] */
 900
 901 #ifdef WINDOWS
 902   /* Drop extension (typically .EXE) from executable filename. */
 903   windows_main ((char **) &exec_name);
 904 #endif
 905
 906   /* Load the hard-coded defaults.  */
 907   defaults ();
 908
 909   init_switches ();
 910
 911   /* This seperate getopt_long is needed to find the user config
 912      and parse it before the other user options. */
 913   longindex = -1;
 914   int retconf;
 915   bool use_userconfig = false;
 916
 917   while ((retconf = getopt_long (argc, argv,
 918                                 short_options, long_options, &longindex)) != -1)
 919     {
 920       int confval;
 921       bool userrc_ret = true;
 922       struct cmdline_option *config_opt;
 923       confval = long_options[longindex].val;
 924       config_opt = &option_data[confval & ~BOOLEAN_NEG_MARKER];
 925       if (strcmp (config_opt->long_name, "config") == 0)
 926         {
 927           userrc_ret &= run_wgetrc (optarg);
 928           use_userconfig = true;
 929         }
 930       if (!userrc_ret)
 931         {
 932           printf ("Exiting due to error in %s\n", optarg);
 933           exit (2);
 934         }
 935       else
 936         break;
 937     }
 938
 939   /* If the user did not specify a config, read the system wgetrc and ~/.wgetrc. */
 940   if (use_userconfig == false)
 941     initialize ();
 942
 943   opterr = 0;
 944   optind = 0;
 945
 946   longindex = -1;
 947   while ((ret = getopt_long (argc, argv,
 948                              short_options, long_options, &longindex)) != -1)
 949     {
 950       int val;
 951       struct cmdline_option *opt;
 952
 953       /* If LONGINDEX is unchanged, it means RET is referring a short
 954          option.  */
 955       if (longindex == -1)
 956         {
 957           if (ret == '?')
 958             {
 959               print_usage (0);
 960               printf ("\n");
 961               printf (_("Try `%s --help' for more options.\n"), exec_name);
 962               exit (2);
 963             }
 964           /* Find the short option character in the mapping.  */
 965           longindex = optmap[ret - 32];
 966         }
 967       val = long_options[longindex].val;
 968
 969       /* Use the retrieved value to locate the option in the
 970          option_data array, and to see if we're dealing with the
 971          negated "--no-FOO" variant of the boolean option "--foo".  */
 972       opt = &option_data[val & ~BOOLEAN_NEG_MARKER];
 973       switch (opt->type)
 974         {
 975         case OPT_VALUE:
 976           setoptval (opt->data, optarg, opt->long_name);
 977           break;
 978         case OPT_BOOLEAN:
 979           if (optarg)
 980             /* The user has specified a value -- use it. */
 981             setoptval (opt->data, optarg, opt->long_name);
 982           else
 983             {
 984               /* NEG is true for `--no-FOO' style boolean options. */
 985               bool neg = !!(val & BOOLEAN_NEG_MARKER);
 986               setoptval (opt->data, neg ? "0" : "1", opt->long_name);
 987             }
 988           break;
 989         case OPT_FUNCALL:
 990           {
 991             void (*func) (void) = (void (*) (void)) opt->data;
 992             func ();
 993           }
 994           break;
 995         case OPT__APPEND_OUTPUT:
 996           setoptval ("logfile", optarg, opt->long_name);
 997           append_to_log = true;
 998           break;
 999         case OPT__EXECUTE:
1000           run_command (optarg);
1001           break;
1002         case OPT__NO:
1003           {
1004             /* We support real --no-FOO flags now, but keep these
1005                short options for convenience and backward
1006                compatibility.  */
1007             char *p;
1008             for (p = optarg; p && *p; p++)
1009               switch (*p)
1010                 {
1011                 case 'v':
1012                   setoptval ("verbose", "0", opt->long_name);
1013                   break;
1014                 case 'H':
1015                   setoptval ("addhostdir", "0", opt->long_name);
1016                   break;
1017                 case 'd':
1018                   setoptval ("dirstruct", "0", opt->long_name);
1019                   break;
1020                 case 'c':
1021                   setoptval ("noclobber", "1", opt->long_name);
1022                   break;
1023                 case 'p':
1024                   setoptval ("noparent", "1", opt->long_name);
1025                   break;
1026                 default:
1027                   fprintf (stderr, _("%s: illegal option -- `-n%c'\n"),
1028                            exec_name, *p);
1029                   print_usage (1);
1030                   fprintf (stderr, "\n");
1031                   fprintf (stderr, _("Try `%s --help' for more options.\n"),
1032                            exec_name);
1033                   exit (1);
1034                 }
1035             break;
1036           }
1037         case OPT__PARENT:
1038         case OPT__CLOBBER:
1039           {
1040             /* The wgetrc commands are named noparent and noclobber,
1041                so we must revert the meaning of the cmdline options
1042                before passing the value to setoptval.  */
1043             bool flag = true;
1044             if (optarg)
1045               flag = (*optarg == '1' || c_tolower (*optarg) == 'y'
1046                       || (c_tolower (optarg[0]) == 'o'
1047                           && c_tolower (optarg[1]) == 'n'));
1048             setoptval (opt->type == OPT__PARENT ? "noparent" : "noclobber",
1049                        flag ? "0" : "1", opt->long_name);
1050             break;
1051           }
1052         case OPT__DONT_REMOVE_LISTING:
1053           setoptval ("removelisting", "0", opt->long_name);
1054           break;
1055         }
1056
1057       longindex = -1;
1058     }
1059
1060   nurl = argc - optind;
1061
1062   /* All user options have now been processed, so it's now safe to do
1063      interoption dependency checks. */
1064
1065   if (opt.noclobber && opt.convert_links)
1066     {
1067       fprintf (stderr,
1068                _("Both --no-clobber and --convert-links were specified,"
1069                  "only --convert-links will be used.\n"));
1070       opt.noclobber = false;
1071     }
1072
1073   if (opt.reclevel == 0)
1074       opt.reclevel = INFINITE_RECURSION; /* see recur.h for commentary */
1075
1076   if (opt.spider || opt.delete_after)
1077       opt.no_dirstruct = true;
1078
1079   if (opt.page_requisites && !opt.recursive)
1080     {
1081       /* Don't set opt.recursive here because it would confuse the FTP
1082          code.  Instead, call retrieve_tree below when either
1083          page_requisites or recursive is requested.  */
1084       opt.reclevel = 0;
1085       if (!opt.no_dirstruct)
1086         opt.dirstruct = 1;      /* normally handled by cmd_spec_recursive() */
1087     }
1088
1089   if (opt.verbose == -1)
1090     opt.verbose = !opt.quiet;
1091
1092   /* Sanity checks.  */
1093   if (opt.verbose && opt.quiet)
1094     {
1095       fprintf (stderr, _("Can't be verbose and quiet at the same time.\n"));
1096       print_usage (1);
1097       exit (1);
1098     }
1099   if (opt.timestamping && opt.noclobber)
1100     {
1101       fprintf (stderr, _("\
1102 Can't timestamp and not clobber old files at the same time.\n"));
1103       print_usage (1);
1104       exit (1);
1105     }
1106 #ifdef ENABLE_IPV6
1107   if (opt.ipv4_only && opt.ipv6_only)
1108     {
1109       fprintf (stderr,
1110                _("Cannot specify both --inet4-only and --inet6-only.\n"));
1111       print_usage (1);
1112       exit (1);
1113     }
1114 #endif
1115   if (opt.output_document)
1116     {
1117       if (opt.convert_links
1118           && (nurl > 1 || opt.page_requisites || opt.recursive))
1119         {
1120           fputs (_("\
1121 Cannot specify both -k and -O if multiple URLs are given, or in combination\n\
1122 with -p or -r. See the manual for details.\n\n"), stderr);
1123           print_usage (1);
1124           exit (1);
1125         }
1126       if (opt.page_requisites
1127           || opt.recursive)
1128         {
1129           logprintf (LOG_NOTQUIET, "%s", _("\
1130 WARNING: combining -O with -r or -p will mean that all downloaded content\n\
1131 will be placed in the single file you specified.\n\n"));
1132         }
1133       if (opt.timestamping)
1134         {
1135           logprintf (LOG_NOTQUIET, "%s", _("\
1136 WARNING: timestamping does nothing in combination with -O. See the manual\n\
1137 for details.\n\n"));
1138           opt.timestamping = false;
1139         }
1140       if (opt.noclobber && file_exists_p(opt.output_document))
1141            {
1142               /* Check if output file exists; if it does, exit. */
1143               logprintf (LOG_VERBOSE,
1144                          _("File `%s' already there; not retrieving.\n"),
1145                          opt.output_document);
1146               exit(1);
1147            }
1148     }
1149
1150   if (opt.ask_passwd && opt.passwd)
1151     {
1152       fprintf (stderr,
1153                _("Cannot specify both --ask-password and --password.\n"));
1154       print_usage (1);
1155       exit (1);
1156     }
1157
1158   if (!nurl && !opt.input_filename)
1159     {
1160       /* No URL specified.  */
1161       fprintf (stderr, _("%s: missing URL\n"), exec_name);
1162       print_usage (1);
1163       printf ("\n");
1164       /* #### Something nicer should be printed here -- similar to the
1165          pre-1.5 `--help' page.  */
1166       fprintf (stderr, _("Try `%s --help' for more options.\n"), exec_name);
1167       exit (1);
1168     }
1169
1170 #ifdef ENABLE_IRI
1171   if (opt.enable_iri)
1172     {
1173       if (opt.locale && !check_encoding_name (opt.locale))
1174         opt.locale = NULL;
1175
1176       if (!opt.locale)
1177         opt.locale = find_locale ();
1178
1179       if (opt.encoding_remote && !check_encoding_name (opt.encoding_remote))
1180         opt.encoding_remote = NULL;
1181     }
1182 #else
1183   if (opt.enable_iri || opt.locale || opt.encoding_remote)
1184     {
1185       /* sXXXav : be more specific... */
1186       fprintf (stderr, _("This version does not have support for IRIs\n"));
1187       exit(1);
1188     }
1189 #endif
1190
1191   if (opt.ask_passwd)
1192     {
1193       opt.passwd = prompt_for_password ();
1194
1195       if (opt.passwd == NULL || opt.passwd[0] == '\0')
1196         exit (1);
1197     }
1198
1199 #ifdef USE_WATT32
1200   if (opt.wdebug)
1201      dbug_init();
1202   sock_init();
1203 #else
1204   if (opt.background)
1205     fork_to_background ();
1206 #endif
1207
1208   /* Initialize progress.  Have to do this after the options are
1209      processed so we know where the log file is.  */
1210   if (opt.verbose)
1211     set_progress_implementation (opt.progress_type);
1212
1213   /* Fill in the arguments.  */
1214   url = alloca_array (char *, nurl + 1);
1215   for (i = 0; i < nurl; i++, optind++)
1216     {
1217       char *rewritten = rewrite_shorthand_url (argv[optind]);
1218       if (rewritten)
1219         url[i] = rewritten;
1220       else
1221         url[i] = xstrdup (argv[optind]);
1222     }
1223   url[i] = NULL;
1224
1225   /* Initialize logging.  */
1226   log_init (opt.lfilename, append_to_log);
1227
1228   DEBUGP (("DEBUG output created by Wget %s on %s.\n\n",
1229            version_string, OS_TYPE));
1230
1231   /* Open the output filename if necessary.  */
1232
1233 /* 2005-04-17 SMS.
1234    Note that having the output_stream ("-O") file opened here for an FTP
1235    URL rather than in getftp() (ftp.c) (and the http equivalent) rather
1236    limits the ability in VMS to open the file differently for ASCII
1237    versus binary FTP there.  (Of course, doing it here allows a open
1238    failure to be detected immediately, without first connecting to the
1239    server.)
1240 */
1241   if (opt.output_document)
1242     {
1243       if (HYPHENP (opt.output_document))
1244         {
1245 #ifdef WINDOWS
1246           FILE *result;
1247           result = freopen ("CONOUT$", "wb", stdout);
1248           if (result == NULL)
1249             {
1250               logputs (LOG_NOTQUIET, _("\
1251 WARNING: Can't reopen standard output in binary mode;\n\
1252          downloaded file may contain inappropriate line endings.\n"));
1253             }
1254 #endif
1255           output_stream = stdout;
1256         }
1257       else
1258         {
1259           struct_fstat st;
1260
1261 #ifdef __VMS
1262 /* Common fopen() optional arguments:
1263    sequential access only, access callback function.
1264 */
1265 # define FOPEN_OPT_ARGS , "fop=sqo", "acc", acc_cb, &open_id
1266           int open_id = 7;
1267 #else /* def __VMS */
1268 # define FOPEN_OPT_ARGS
1269 #endif /* def __VMS [else] */
1270
1271           output_stream = fopen (opt.output_document,
1272                                  opt.always_rest ? "ab" : "wb"
1273                                  FOPEN_OPT_ARGS);
1274           if (output_stream == NULL)
1275             {
1276               perror (opt.output_document);
1277               exit (1);
1278             }
1279           if (fstat (fileno (output_stream), &st) == 0 && S_ISREG (st.st_mode))
1280             output_stream_regular = true;
1281         }
1282       if (!output_stream_regular && opt.convert_links)
1283         {
1284           fprintf (stderr, _("-k can be used together with -O only if \
1285 outputting to a regular file.\n"));
1286           print_usage (1);
1287           exit(1);
1288         }
1289     }
1290
1291 #ifdef __VMS
1292   /* Set global ODS5 flag according to the specified destination (if
1293      any), otherwise according to the current default device.
1294   */
1295   if (output_stream == NULL)
1296     set_ods5_dest( "SYS$DISK");
1297   else if (output_stream != stdout)
1298     set_ods5_dest( opt.output_document);
1299 #endif /* def __VMS */
1300
1301 #ifdef WINDOWS
1302   ws_startup ();
1303 #endif
1304
1305 #ifdef SIGHUP
1306   /* Setup the signal handler to redirect output when hangup is
1307      received.  */
1308   if (signal(SIGHUP, SIG_IGN) != SIG_IGN)
1309     signal(SIGHUP, redirect_output_signal);
1310 #endif
1311   /* ...and do the same for SIGUSR1.  */
1312 #ifdef SIGUSR1
1313   signal (SIGUSR1, redirect_output_signal);
1314 #endif
1315 #ifdef SIGPIPE
1316   /* Writing to a closed socket normally signals SIGPIPE, and the
1317      process exits.  What we want is to ignore SIGPIPE and just check
1318      for the return value of write().  */
1319   signal (SIGPIPE, SIG_IGN);
1320 #endif
1321 #ifdef SIGWINCH
1322   signal (SIGWINCH, progress_handle_sigwinch);
1323 #endif
1324
1325   /* Retrieve the URLs from argument list.  */
1326   for (t = url; *t; t++)
1327     {
1328       char *filename = NULL, *redirected_URL = NULL;
1329       int dt, url_err;
1330       /* Need to do a new struct iri every time, because
1331        * retrieve_url may modify it in some circumstances,
1332        * currently. */
1333       struct iri *iri = iri_new ();
1334       struct url *url_parsed;
1335
1336       set_uri_encoding (iri, opt.locale, true);
1337       url_parsed = url_parse (*t, &url_err, iri, true);
1338
1339       if (!url_parsed)
1340         {
1341           char *error = url_error (*t, url_err);
1342           logprintf (LOG_NOTQUIET, "%s: %s.\n",*t, error);
1343           xfree (error);
1344         }
1345       else
1346         {
1347           if ((opt.recursive || opt.page_requisites)
1348               && (url_scheme (*t) != SCHEME_FTP || url_uses_proxy (url_parsed)))
1349             {
1350               int old_follow_ftp = opt.follow_ftp;
1351
1352               /* Turn opt.follow_ftp on in case of recursive FTP retrieval */
1353               if (url_scheme (*t) == SCHEME_FTP)
1354                 opt.follow_ftp = 1;
1355
1356               retrieve_tree (url_parsed, NULL);
1357
1358               opt.follow_ftp = old_follow_ftp;
1359             }
1360           else
1361           {
1362             retrieve_url (url_parsed, *t, &filename, &redirected_URL, NULL,
1363                           &dt, opt.recursive, iri, true);
1364           }
1365
1366           if (opt.delete_after && file_exists_p(filename))
1367             {
1368               DEBUGP (("Removing file due to --delete-after in main():\n"));
1369               logprintf (LOG_VERBOSE, _("Removing %s.\n"), filename);
1370               if (unlink (filename))
1371                 logprintf (LOG_NOTQUIET, "unlink: %s\n", strerror (errno));
1372             }
1373           xfree_null (redirected_URL);
1374           xfree_null (filename);
1375           url_free (url_parsed);
1376         }
1377       iri_free (iri);
1378     }
1379
1380   /* And then from the input file, if any.  */
1381   if (opt.input_filename)
1382     {
1383       int count;
1384       retrieve_from_file (opt.input_filename, opt.force_html, &count);
1385       if (!count)
1386         logprintf (LOG_NOTQUIET, _("No URLs found in %s.\n"),
1387                    opt.input_filename);
1388     }
1389
1390   /* Print broken links. */
1391   if (opt.recursive && opt.spider)
1392     print_broken_links ();
1393
1394   /* Print the downloaded sum.  */
1395   if ((opt.recursive || opt.page_requisites
1396        || nurl > 1
1397        || (opt.input_filename && total_downloaded_bytes != 0))
1398       &&
1399       total_downloaded_bytes != 0)
1400     {
1401       double end_time = ptimer_measure (timer);
1402       ptimer_destroy (timer);
1403
1404       char *wall_time = xstrdup (secs_to_human_time (end_time - start_time));
1405       char *download_time = xstrdup (secs_to_human_time (total_download_time));
1406       logprintf (LOG_NOTQUIET,
1407                  _("FINISHED --%s--\nTotal wall clock time: %s\n"
1408                    "Downloaded: %d files, %s in %s (%s)\n"),
1409                  datetime_str (time (NULL)),
1410                  wall_time,
1411                  numurls,
1412                  human_readable (total_downloaded_bytes),
1413                  download_time,
1414                  retr_rate (total_downloaded_bytes, total_download_time));
1415       xfree (wall_time);
1416       xfree (download_time);
1417
1418       /* Print quota warning, if exceeded.  */
1419       if (opt.quota && total_downloaded_bytes > opt.quota)
1420         logprintf (LOG_NOTQUIET,
1421                    _("Download quota of %s EXCEEDED!\n"),
1422                    human_readable (opt.quota));
1423     }
1424
1425   if (opt.cookies_output)
1426     save_cookies ();
1427
1428   if (opt.convert_links && !opt.delete_after)
1429     convert_all_links ();
1430
1431   log_close ();
1432   for (i = 0; i < nurl; i++)
1433     xfree (url[i]);
1434   cleanup ();
1435
1436   return get_exit_status ();
1437 }
1438 #endif /* TESTING */
1439 \f
1440 #if defined(SIGHUP) || defined(SIGUSR1)
1441
1442 /* So the signal_name check doesn't blow when only one is available. */
1443 #ifndef SIGHUP
1444 # define SIGHUP -1
1445 #endif
1446 #ifndef SIGUSR1
1447 # define SIGUSR1 -1
1448 #endif
1449
1450 /* Hangup signal handler.  When wget receives SIGHUP or SIGUSR1, it
1451    will proceed operation as usual, trying to write into a log file.
1452    If that is impossible, the output will be turned off.  */
1453
1454 static void
1455 redirect_output_signal (int sig)
1456 {
1457   const char *signal_name = (sig == SIGHUP ? "SIGHUP" :
1458                              (sig == SIGUSR1 ? "SIGUSR1" :
1459                               "WTF?!"));
1460   log_request_redirect_output (signal_name);
1461   progress_schedule_redirect ();
1462   signal (sig, redirect_output_signal);
1463 }
1464 #endif
1465
1466 /*
1467  * vim: et ts=2 sw=2
1468  */