sjero.net Git - wget/blob - src/main.c

   1 /* Command line parsing.
   2    Copyright (C) 1996, 1997, 1998, 1999, 2000, 2001, 2002, 2003, 2004,
   3    2005, 2006, 2007, 2008, 2009, 2010 Free Software Foundation, Inc.
   4
   5 This file is part of GNU Wget.
   6
   7 GNU Wget is free software; you can redistribute it and/or modify
   8 it under the terms of the GNU General Public License as published by
   9 the Free Software Foundation; either version 3 of the License, or
  10 (at your option) any later version.
  11
  12 GNU Wget is distributed in the hope that it will be useful,
  13 but WITHOUT ANY WARRANTY; without even the implied warranty of
  14 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15 GNU General Public License for more details.
  16
  17 You should have received a copy of the GNU General Public License
  18 along with Wget.  If not, see <http://www.gnu.org/licenses/>.
  19
  20 Additional permission under GNU GPL version 3 section 7
  21
  22 If you modify this program, or any covered work, by linking or
  23 combining it with the OpenSSL project's OpenSSL library (or a
  24 modified version of that library), containing parts covered by the
  25 terms of the OpenSSL or SSLeay licenses, the Free Software Foundation
  26 grants you additional permission to convey the resulting work.
  27 Corresponding Source for a non-source form of such a combination
  28 shall include the source code for the parts of OpenSSL used as well
  29 as that of the covered work.  */
  30
  31 #include "wget.h"
  32
  33 #include <stdio.h>
  34 #include <stdlib.h>
  35 #include <unistd.h>
  36 #include <string.h>
  37 #include <signal.h>
  38 #ifdef ENABLE_NLS
  39 # include <locale.h>
  40 #endif
  41 #include <assert.h>
  42 #include <errno.h>
  43 #include <time.h>
  44
  45 #include "exits.h"
  46 #include "utils.h"
  47 #include "init.h"
  48 #include "retr.h"
  49 #include "recur.h"
  50 #include "host.h"
  51 #include "url.h"
  52 #include "progress.h"           /* for progress_handle_sigwinch */
  53 #include "convert.h"
  54 #include "spider.h"
  55 #include "http.h"               /* for save_cookies */
  56 #include "ptimer.h"
  57
  58 #include <getopt.h>
  59 #include <getpass.h>
  60 #include <quote.h>
  61
  62 #ifdef __VMS
  63 #include "vms.h"
  64 #endif /* __VMS */
  65
  66 #ifndef PATH_SEPARATOR
  67 # define PATH_SEPARATOR '/'
  68 #endif
  69
  70 struct options opt;
  71
  72 /* defined in version.c */
  73 extern char *version_string;
  74 extern char *compilation_string;
  75 extern char *system_getrc;
  76 extern char *link_string;
  77 /* defined in build_info.c */
  78 extern const char *compiled_features[];
  79 /* Used for --version output in print_version */
  80 #define MAX_CHARS_PER_LINE      72
  81 #define TABULATION              4
  82
  83 #if defined(SIGHUP) || defined(SIGUSR1)
  84 static void redirect_output_signal (int);
  85 #endif
  86
  87 const char *exec_name;
  88
  89 /* Number of successfully downloaded URLs */
  90 int numurls = 0;
  91 \f
  92 #ifndef TESTING
  93 /* Initialize I18N/L10N.  That amounts to invoking setlocale, and
  94    setting up gettext's message catalog using bindtextdomain and
  95    textdomain.  Does nothing if NLS is disabled or missing.  */
  96
  97 static void
  98 i18n_initialize (void)
  99 {
 100   /* ENABLE_NLS implies existence of functions invoked here.  */
 101 #ifdef ENABLE_NLS
 102   /* Set the current locale.  */
 103   setlocale (LC_ALL, "");
 104   /* Set the text message domain.  */
 105   bindtextdomain ("wget", LOCALEDIR);
 106   textdomain ("wget");
 107 #endif /* ENABLE_NLS */
 108 }
 109 \f
 110 /* Definition of command-line options. */
 111
 112 static void print_help (void);
 113 static void print_version (void);
 114
 115 #ifdef HAVE_SSL
 116 # define IF_SSL(x) x
 117 #else
 118 # define IF_SSL(x) NULL
 119 #endif
 120
 121 #ifdef ENABLE_DEBUG
 122 # define WHEN_DEBUG(x) x
 123 #else
 124 # define WHEN_DEBUG(x) NULL
 125 #endif
 126
 127 struct cmdline_option {
 128   const char *long_name;
 129   char short_name;
 130   enum {
 131     OPT_VALUE,
 132     OPT_BOOLEAN,
 133     OPT_FUNCALL,
 134     /* Non-standard options that have to be handled specially in
 135        main().  */
 136     OPT__APPEND_OUTPUT,
 137     OPT__CLOBBER,
 138     OPT__DONT_REMOVE_LISTING,
 139     OPT__EXECUTE,
 140     OPT__NO,
 141     OPT__PARENT
 142   } type;
 143   const void *data;             /* for standard options */
 144   int argtype;                  /* for non-standard options */
 145 };
 146
 147 static struct cmdline_option option_data[] =
 148   {
 149     { "accept", 'A', OPT_VALUE, "accept", -1 },
 150     { "adjust-extension", 'E', OPT_BOOLEAN, "adjustextension", -1 },
 151     { "append-output", 'a', OPT__APPEND_OUTPUT, NULL, required_argument },
 152     { "ask-password", 0, OPT_BOOLEAN, "askpassword", -1 },
 153     { "auth-no-challenge", 0, OPT_BOOLEAN, "authnochallenge", -1 },
 154     { "background", 'b', OPT_BOOLEAN, "background", -1 },
 155     { "backup-converted", 'K', OPT_BOOLEAN, "backupconverted", -1 },
 156     { "backups", 0, OPT_BOOLEAN, "backups", -1 },
 157     { "base", 'B', OPT_VALUE, "base", -1 },
 158     { "bind-address", 0, OPT_VALUE, "bindaddress", -1 },
 159     { IF_SSL ("ca-certificate"), 0, OPT_VALUE, "cacertificate", -1 },
 160     { IF_SSL ("ca-directory"), 0, OPT_VALUE, "cadirectory", -1 },
 161     { "cache", 0, OPT_BOOLEAN, "cache", -1 },
 162     { IF_SSL ("certificate"), 0, OPT_VALUE, "certificate", -1 },
 163     { IF_SSL ("certificate-type"), 0, OPT_VALUE, "certificatetype", -1 },
 164     { IF_SSL ("check-certificate"), 0, OPT_BOOLEAN, "checkcertificate", -1 },
 165     { "clobber", 0, OPT__CLOBBER, NULL, optional_argument },
 166     { "config", 0, OPT_VALUE, "chooseconfig", -1 },
 167     { "connect-timeout", 0, OPT_VALUE, "connecttimeout", -1 },
 168     { "continue", 'c', OPT_BOOLEAN, "continue", -1 },
 169     { "convert-links", 'k', OPT_BOOLEAN, "convertlinks", -1 },
 170     { "content-disposition", 0, OPT_BOOLEAN, "contentdisposition", -1 },
 171     { "cookies", 0, OPT_BOOLEAN, "cookies", -1 },
 172     { "cut-dirs", 0, OPT_VALUE, "cutdirs", -1 },
 173     { WHEN_DEBUG ("debug"), 'd', OPT_BOOLEAN, "debug", -1 },
 174     { "default-page", 0, OPT_VALUE, "defaultpage", -1 },
 175     { "delete-after", 0, OPT_BOOLEAN, "deleteafter", -1 },
 176     { "directories", 0, OPT_BOOLEAN, "dirstruct", -1 },
 177     { "directory-prefix", 'P', OPT_VALUE, "dirprefix", -1 },
 178     { "dns-cache", 0, OPT_BOOLEAN, "dnscache", -1 },
 179     { "dns-timeout", 0, OPT_VALUE, "dnstimeout", -1 },
 180     { "domains", 'D', OPT_VALUE, "domains", -1 },
 181     { "dont-remove-listing", 0, OPT__DONT_REMOVE_LISTING, NULL, no_argument },
 182     { "dot-style", 0, OPT_VALUE, "dotstyle", -1 }, /* deprecated */
 183     { "egd-file", 0, OPT_VALUE, "egdfile", -1 },
 184     { "exclude-directories", 'X', OPT_VALUE, "excludedirectories", -1 },
 185     { "exclude-domains", 0, OPT_VALUE, "excludedomains", -1 },
 186     { "execute", 'e', OPT__EXECUTE, NULL, required_argument },
 187     { "follow-ftp", 0, OPT_BOOLEAN, "followftp", -1 },
 188     { "follow-tags", 0, OPT_VALUE, "followtags", -1 },
 189     { "force-directories", 'x', OPT_BOOLEAN, "dirstruct", -1 },
 190     { "force-html", 'F', OPT_BOOLEAN, "forcehtml", -1 },
 191     { "ftp-password", 0, OPT_VALUE, "ftppassword", -1 },
 192 #ifdef __VMS
 193     { "ftp-stmlf", 0, OPT_BOOLEAN, "ftpstmlf", -1 },
 194 #endif /* def __VMS */
 195     { "ftp-user", 0, OPT_VALUE, "ftpuser", -1 },
 196     { "glob", 0, OPT_BOOLEAN, "glob", -1 },
 197     { "header", 0, OPT_VALUE, "header", -1 },
 198     { "help", 'h', OPT_FUNCALL, (void *)print_help, no_argument },
 199     { "host-directories", 0, OPT_BOOLEAN, "addhostdir", -1 },
 200     { "html-extension", 'E', OPT_BOOLEAN, "adjustextension", -1 }, /* deprecated */
 201     { "htmlify", 0, OPT_BOOLEAN, "htmlify", -1 },
 202     { "http-keep-alive", 0, OPT_BOOLEAN, "httpkeepalive", -1 },
 203     { "http-passwd", 0, OPT_VALUE, "httppassword", -1 }, /* deprecated */
 204     { "http-password", 0, OPT_VALUE, "httppassword", -1 },
 205     { "http-user", 0, OPT_VALUE, "httpuser", -1 },
 206     { "ignore-case", 0, OPT_BOOLEAN, "ignorecase", -1 },
 207     { "ignore-length", 0, OPT_BOOLEAN, "ignorelength", -1 },
 208     { "ignore-tags", 0, OPT_VALUE, "ignoretags", -1 },
 209     { "include-directories", 'I', OPT_VALUE, "includedirectories", -1 },
 210 #ifdef ENABLE_IPV6
 211     { "inet4-only", '4', OPT_BOOLEAN, "inet4only", -1 },
 212     { "inet6-only", '6', OPT_BOOLEAN, "inet6only", -1 },
 213 #endif
 214     { "input-file", 'i', OPT_VALUE, "input", -1 },
 215     { "iri", 0, OPT_BOOLEAN, "iri", -1 },
 216     { "keep-session-cookies", 0, OPT_BOOLEAN, "keepsessioncookies", -1 },
 217     { "level", 'l', OPT_VALUE, "reclevel", -1 },
 218     { "limit-rate", 0, OPT_VALUE, "limitrate", -1 },
 219     { "load-cookies", 0, OPT_VALUE, "loadcookies", -1 },
 220     { "local-encoding", 0, OPT_VALUE, "localencoding", -1 },
 221     { "max-redirect", 0, OPT_VALUE, "maxredirect", -1 },
 222     { "mirror", 'm', OPT_BOOLEAN, "mirror", -1 },
 223     { "no", 'n', OPT__NO, NULL, required_argument },
 224     { "no-clobber", 0, OPT_BOOLEAN, "noclobber", -1 },
 225     { "no-parent", 0, OPT_BOOLEAN, "noparent", -1 },
 226     { "output-document", 'O', OPT_VALUE, "outputdocument", -1 },
 227     { "output-file", 'o', OPT_VALUE, "logfile", -1 },
 228     { "page-requisites", 'p', OPT_BOOLEAN, "pagerequisites", -1 },
 229     { "parent", 0, OPT__PARENT, NULL, optional_argument },
 230     { "passive-ftp", 0, OPT_BOOLEAN, "passiveftp", -1 },
 231     { "password", 0, OPT_VALUE, "password", -1 },
 232     { "post-data", 0, OPT_VALUE, "postdata", -1 },
 233     { "post-file", 0, OPT_VALUE, "postfile", -1 },
 234     { "prefer-family", 0, OPT_VALUE, "preferfamily", -1 },
 235     { "preserve-permissions", 0, OPT_BOOLEAN, "preservepermissions", -1 }, /* deprecated */
 236     { IF_SSL ("private-key"), 0, OPT_VALUE, "privatekey", -1 },
 237     { IF_SSL ("private-key-type"), 0, OPT_VALUE, "privatekeytype", -1 },
 238     { "progress", 0, OPT_VALUE, "progress", -1 },
 239     { "protocol-directories", 0, OPT_BOOLEAN, "protocoldirectories", -1 },
 240     { "proxy", 0, OPT_BOOLEAN, "useproxy", -1 },
 241     { "proxy__compat", 'Y', OPT_VALUE, "useproxy", -1 }, /* back-compatible */
 242     { "proxy-passwd", 0, OPT_VALUE, "proxypassword", -1 }, /* deprecated */
 243     { "proxy-password", 0, OPT_VALUE, "proxypassword", -1 },
 244     { "proxy-user", 0, OPT_VALUE, "proxyuser", -1 },
 245     { "quiet", 'q', OPT_BOOLEAN, "quiet", -1 },
 246     { "quota", 'Q', OPT_VALUE, "quota", -1 },
 247     { "random-file", 0, OPT_VALUE, "randomfile", -1 },
 248     { "random-wait", 0, OPT_BOOLEAN, "randomwait", -1 },
 249     { "read-timeout", 0, OPT_VALUE, "readtimeout", -1 },
 250     { "recursive", 'r', OPT_BOOLEAN, "recursive", -1 },
 251     { "referer", 0, OPT_VALUE, "referer", -1 },
 252     { "reject", 'R', OPT_VALUE, "reject", -1 },
 253     { "relative", 'L', OPT_BOOLEAN, "relativeonly", -1 },
 254     { "remote-encoding", 0, OPT_VALUE, "remoteencoding", -1 },
 255     { "remove-listing", 0, OPT_BOOLEAN, "removelisting", -1 },
 256     { "restrict-file-names", 0, OPT_BOOLEAN, "restrictfilenames", -1 },
 257     { "retr-symlinks", 0, OPT_BOOLEAN, "retrsymlinks", -1 },
 258     { "retry-connrefused", 0, OPT_BOOLEAN, "retryconnrefused", -1 },
 259     { "save-cookies", 0, OPT_VALUE, "savecookies", -1 },
 260     { "save-headers", 0, OPT_BOOLEAN, "saveheaders", -1 },
 261     { IF_SSL ("secure-protocol"), 0, OPT_VALUE, "secureprotocol", -1 },
 262     { "server-response", 'S', OPT_BOOLEAN, "serverresponse", -1 },
 263     { "span-hosts", 'H', OPT_BOOLEAN, "spanhosts", -1 },
 264     { "spider", 0, OPT_BOOLEAN, "spider", -1 },
 265     { "strict-comments", 0, OPT_BOOLEAN, "strictcomments", -1 },
 266     { "timeout", 'T', OPT_VALUE, "timeout", -1 },
 267     { "timestamping", 'N', OPT_BOOLEAN, "timestamping", -1 },
 268     { "tries", 't', OPT_VALUE, "tries", -1 },
 269     { "unlink", 0, OPT_BOOLEAN, "unlink", -1 },
 270     { "trust-server-names", 0, OPT_BOOLEAN, "trustservernames", -1 },
 271     { "use-server-timestamps", 0, OPT_BOOLEAN, "useservertimestamps", -1 },
 272     { "user", 0, OPT_VALUE, "user", -1 },
 273     { "user-agent", 'U', OPT_VALUE, "useragent", -1 },
 274     { "verbose", 'v', OPT_BOOLEAN, "verbose", -1 },
 275     { "verbose", 0, OPT_BOOLEAN, "verbose", -1 },
 276     { "version", 'V', OPT_FUNCALL, (void *) print_version, no_argument },
 277     { "wait", 'w', OPT_VALUE, "wait", -1 },
 278     { "waitretry", 0, OPT_VALUE, "waitretry", -1 },
 279 #ifdef USE_WATT32
 280     { "wdebug", 0, OPT_BOOLEAN, "wdebug", -1 },
 281 #endif
 282   };
 283
 284 #undef WHEN_DEBUG
 285 #undef IF_SSL
 286
 287 /* Return a string that contains S with "no-" prepended.  The string
 288    is NUL-terminated and allocated off static storage at Wget
 289    startup.  */
 290
 291 static char *
 292 no_prefix (const char *s)
 293 {
 294   static char buffer[1024];
 295   static char *p = buffer;
 296
 297   char *cp = p;
 298   int size = 3 + strlen (s) + 1;  /* "no-STRING\0" */
 299   if (p + size >= buffer + sizeof (buffer))
 300     abort ();
 301
 302   cp[0] = 'n', cp[1] = 'o', cp[2] = '-';
 303   strcpy (cp + 3, s);
 304   p += size;
 305   return cp;
 306 }
 307
 308 /* The arguments that that main passes to getopt_long. */
 309 static struct option long_options[2 * countof (option_data) + 1];
 310 static char short_options[128];
 311
 312 /* Mapping between short option chars and option_data indices. */
 313 static unsigned char optmap[96];
 314
 315 /* Marker for `--no-FOO' values in long_options.  */
 316 #define BOOLEAN_NEG_MARKER 1024
 317
 318 /* Initialize the long_options array used by getopt_long from the data
 319    in option_data.  */
 320
 321 static void
 322 init_switches (void)
 323 {
 324   char *p = short_options;
 325   size_t i, o = 0;
 326   for (i = 0; i < countof (option_data); i++)
 327     {
 328       struct cmdline_option *opt = &option_data[i];
 329       struct option *longopt;
 330
 331       if (!opt->long_name)
 332         /* The option is disabled. */
 333         continue;
 334
 335       longopt = &long_options[o++];
 336       longopt->name = opt->long_name;
 337       longopt->val = i;
 338       if (opt->short_name)
 339         {
 340           *p++ = opt->short_name;
 341           optmap[opt->short_name - 32] = longopt - long_options;
 342         }
 343       switch (opt->type)
 344         {
 345         case OPT_VALUE:
 346           longopt->has_arg = required_argument;
 347           if (opt->short_name)
 348             *p++ = ':';
 349           break;
 350         case OPT_BOOLEAN:
 351           /* Specify an optional argument for long options, so that
 352              --option=off works the same as --no-option, for
 353              compatibility with pre-1.10 Wget.  However, don't specify
 354              optional arguments short-option booleans because they
 355              prevent combining of short options.  */
 356           longopt->has_arg = optional_argument;
 357           /* For Boolean options, add the "--no-FOO" variant, which is
 358              identical to "--foo", except it has opposite meaning and
 359              it doesn't allow an argument.  */
 360           longopt = &long_options[o++];
 361           longopt->name = no_prefix (opt->long_name);
 362           longopt->has_arg = no_argument;
 363           /* Mask the value so we'll be able to recognize that we're
 364              dealing with the false value.  */
 365           longopt->val = i | BOOLEAN_NEG_MARKER;
 366           break;
 367         default:
 368           assert (opt->argtype != -1);
 369           longopt->has_arg = opt->argtype;
 370           if (opt->short_name)
 371             {
 372               if (longopt->has_arg == required_argument)
 373                 *p++ = ':';
 374               /* Don't handle optional_argument */
 375             }
 376         }
 377     }
 378   /* Terminate short_options. */
 379   *p = '\0';
 380   /* No need for xzero(long_options[o]) because its storage is static
 381      and it will be zeroed by default.  */
 382   assert (o <= countof (long_options));
 383 }
 384
 385 /* Print the usage message.  */
 386 static void
 387 print_usage (int error)
 388 {
 389   fprintf (error ? stderr : stdout, _("Usage: %s [OPTION]... [URL]...\n"),
 390            exec_name);
 391 }
 392
 393 /* Print the help message, describing all the available options.  If
 394    you add an option, be sure to update this list.  */
 395 static void
 396 print_help (void)
 397 {
 398   /* We split the help text this way to ease translation of individual
 399      entries.  */
 400   static const char *help[] = {
 401     "\n",
 402     N_("\
 403 Mandatory arguments to long options are mandatory for short options too.\n\n"),
 404     N_("\
 405 Startup:\n"),
 406     N_("\
 407   -V,  --version           display the version of Wget and exit.\n"),
 408     N_("\
 409   -h,  --help              print this help.\n"),
 410     N_("\
 411   -b,  --background        go to background after startup.\n"),
 412     N_("\
 413   -e,  --execute=COMMAND   execute a `.wgetrc'-style command.\n"),
 414     "\n",
 415
 416     N_("\
 417 Logging and input file:\n"),
 418     N_("\
 419   -o,  --output-file=FILE    log messages to FILE.\n"),
 420     N_("\
 421   -a,  --append-output=FILE  append messages to FILE.\n"),
 422 #ifdef ENABLE_DEBUG
 423     N_("\
 424   -d,  --debug               print lots of debugging information.\n"),
 425 #endif
 426 #ifdef USE_WATT32
 427     N_("\
 428        --wdebug              print Watt-32 debug output.\n"),
 429 #endif
 430     N_("\
 431   -q,  --quiet               quiet (no output).\n"),
 432     N_("\
 433   -v,  --verbose             be verbose (this is the default).\n"),
 434     N_("\
 435   -nv, --no-verbose          turn off verboseness, without being quiet.\n"),
 436     N_("\
 437   -i,  --input-file=FILE     download URLs found in local or external FILE.\n"),
 438     N_("\
 439   -F,  --force-html          treat input file as HTML.\n"),
 440     N_("\
 441   -B,  --base=URL            resolves HTML input-file links (-i -F)\n\
 442                              relative to URL.\n"),
 443     N_("\
 444        --config=FILE         Specify config file to use.\n"),
 445     "\n",
 446
 447     N_("\
 448 Download:\n"),
 449     N_("\
 450   -t,  --tries=NUMBER            set number of retries to NUMBER (0 unlimits).\n"),
 451     N_("\
 452        --retry-connrefused       retry even if connection is refused.\n"),
 453     N_("\
 454   -O,  --output-document=FILE    write documents to FILE.\n"),
 455     N_("\
 456   -nc, --no-clobber              skip downloads that would download to\n\
 457                                  existing files (overwriting them).\n"),
 458     N_("\
 459   -c,  --continue                resume getting a partially-downloaded file.\n"),
 460     N_("\
 461        --progress=TYPE           select progress gauge type.\n"),
 462     N_("\
 463   -N,  --timestamping            don't re-retrieve files unless newer than\n\
 464                                  local.\n"),
 465     N_("\
 466   --no-use-server-timestamps     don't set the local file's timestamp by\n\
 467                                  the one on the server.\n"),
 468     N_("\
 469   -S,  --server-response         print server response.\n"),
 470     N_("\
 471        --spider                  don't download anything.\n"),
 472     N_("\
 473   -T,  --timeout=SECONDS         set all timeout values to SECONDS.\n"),
 474     N_("\
 475        --dns-timeout=SECS        set the DNS lookup timeout to SECS.\n"),
 476     N_("\
 477        --connect-timeout=SECS    set the connect timeout to SECS.\n"),
 478     N_("\
 479        --read-timeout=SECS       set the read timeout to SECS.\n"),
 480     N_("\
 481   -w,  --wait=SECONDS            wait SECONDS between retrievals.\n"),
 482     N_("\
 483        --waitretry=SECONDS       wait 1..SECONDS between retries of a retrieval.\n"),
 484     N_("\
 485        --random-wait             wait from 0.5*WAIT...1.5*WAIT secs between retrievals.\n"),
 486     N_("\
 487        --no-proxy                explicitly turn off proxy.\n"),
 488     N_("\
 489   -Q,  --quota=NUMBER            set retrieval quota to NUMBER.\n"),
 490     N_("\
 491        --bind-address=ADDRESS    bind to ADDRESS (hostname or IP) on local host.\n"),
 492     N_("\
 493        --limit-rate=RATE         limit download rate to RATE.\n"),
 494     N_("\
 495        --no-dns-cache            disable caching DNS lookups.\n"),
 496     N_("\
 497        --restrict-file-names=OS  restrict chars in file names to ones OS allows.\n"),
 498     N_("\
 499        --ignore-case             ignore case when matching files/directories.\n"),
 500 #ifdef ENABLE_IPV6
 501     N_("\
 502   -4,  --inet4-only              connect only to IPv4 addresses.\n"),
 503     N_("\
 504   -6,  --inet6-only              connect only to IPv6 addresses.\n"),
 505     N_("\
 506        --prefer-family=FAMILY    connect first to addresses of specified family,\n\
 507                                  one of IPv6, IPv4, or none.\n"),
 508 #endif
 509     N_("\
 510        --user=USER               set both ftp and http user to USER.\n"),
 511     N_("\
 512        --password=PASS           set both ftp and http password to PASS.\n"),
 513     N_("\
 514        --ask-password            prompt for passwords.\n"),
 515     N_("\
 516        --no-iri                  turn off IRI support.\n"),
 517     N_("\
 518        --local-encoding=ENC      use ENC as the local encoding for IRIs.\n"),
 519     N_("\
 520        --remote-encoding=ENC     use ENC as the default remote encoding.\n"),
 521     N_("\
 522        --unlink                  remove file before clobber.\n"),
 523     "\n",
 524
 525     N_("\
 526 Directories:\n"),
 527     N_("\
 528   -nd, --no-directories           don't create directories.\n"),
 529     N_("\
 530   -x,  --force-directories        force creation of directories.\n"),
 531     N_("\
 532   -nH, --no-host-directories      don't create host directories.\n"),
 533     N_("\
 534        --protocol-directories     use protocol name in directories.\n"),
 535     N_("\
 536   -P,  --directory-prefix=PREFIX  save files to PREFIX/...\n"),
 537     N_("\
 538        --cut-dirs=NUMBER          ignore NUMBER remote directory components.\n"),
 539     "\n",
 540
 541     N_("\
 542 HTTP options:\n"),
 543     N_("\
 544        --http-user=USER        set http user to USER.\n"),
 545     N_("\
 546        --http-password=PASS    set http password to PASS.\n"),
 547     N_("\
 548        --no-cache              disallow server-cached data.\n"),
 549     N_ ("\
 550        --default-page=NAME     Change the default page name (normally\n\
 551                                this is `index.html'.).\n"),
 552     N_("\
 553   -E,  --adjust-extension      save HTML/CSS documents with proper extensions.\n"),
 554     N_("\
 555        --ignore-length         ignore `Content-Length' header field.\n"),
 556     N_("\
 557        --header=STRING         insert STRING among the headers.\n"),
 558     N_("\
 559        --max-redirect          maximum redirections allowed per page.\n"),
 560     N_("\
 561        --proxy-user=USER       set USER as proxy username.\n"),
 562     N_("\
 563        --proxy-password=PASS   set PASS as proxy password.\n"),
 564     N_("\
 565        --referer=URL           include `Referer: URL' header in HTTP request.\n"),
 566     N_("\
 567        --save-headers          save the HTTP headers to file.\n"),
 568     N_("\
 569   -U,  --user-agent=AGENT      identify as AGENT instead of Wget/VERSION.\n"),
 570     N_("\
 571        --no-http-keep-alive    disable HTTP keep-alive (persistent connections).\n"),
 572     N_("\
 573        --no-cookies            don't use cookies.\n"),
 574     N_("\
 575        --load-cookies=FILE     load cookies from FILE before session.\n"),
 576     N_("\
 577        --save-cookies=FILE     save cookies to FILE after session.\n"),
 578     N_("\
 579        --keep-session-cookies  load and save session (non-permanent) cookies.\n"),
 580     N_("\
 581        --post-data=STRING      use the POST method; send STRING as the data.\n"),
 582     N_("\
 583        --post-file=FILE        use the POST method; send contents of FILE.\n"),
 584     N_("\
 585        --content-disposition   honor the Content-Disposition header when\n\
 586                                choosing local file names (EXPERIMENTAL).\n"),
 587     N_("\
 588        --auth-no-challenge     send Basic HTTP authentication information\n\
 589                                without first waiting for the server's\n\
 590                                challenge.\n"),
 591     "\n",
 592
 593 #ifdef HAVE_SSL
 594     N_("\
 595 HTTPS (SSL/TLS) options:\n"),
 596     N_("\
 597        --secure-protocol=PR     choose secure protocol, one of auto, SSLv2,\n\
 598                                 SSLv3, and TLSv1.\n"),
 599     N_("\
 600        --no-check-certificate   don't validate the server's certificate.\n"),
 601     N_("\
 602        --certificate=FILE       client certificate file.\n"),
 603     N_("\
 604        --certificate-type=TYPE  client certificate type, PEM or DER.\n"),
 605     N_("\
 606        --private-key=FILE       private key file.\n"),
 607     N_("\
 608        --private-key-type=TYPE  private key type, PEM or DER.\n"),
 609     N_("\
 610        --ca-certificate=FILE    file with the bundle of CA's.\n"),
 611     N_("\
 612        --ca-directory=DIR       directory where hash list of CA's is stored.\n"),
 613     N_("\
 614        --random-file=FILE       file with random data for seeding the SSL PRNG.\n"),
 615     N_("\
 616        --egd-file=FILE          file naming the EGD socket with random data.\n"),
 617     "\n",
 618 #endif /* HAVE_SSL */
 619
 620     N_("\
 621 FTP options:\n"),
 622 #ifdef __VMS
 623     N_("\
 624        --ftp-stmlf             Use Stream_LF format for all binary FTP files.\n"),
 625 #endif /* def __VMS */
 626     N_("\
 627        --ftp-user=USER         set ftp user to USER.\n"),
 628     N_("\
 629        --ftp-password=PASS     set ftp password to PASS.\n"),
 630     N_("\
 631        --no-remove-listing     don't remove `.listing' files.\n"),
 632     N_("\
 633        --no-glob               turn off FTP file name globbing.\n"),
 634     N_("\
 635        --no-passive-ftp        disable the \"passive\" transfer mode.\n"),
 636     N_("\
 637        --retr-symlinks         when recursing, get linked-to files (not dir).\n"),
 638     "\n",
 639
 640     N_("\
 641 Recursive download:\n"),
 642     N_("\
 643   -r,  --recursive          specify recursive download.\n"),
 644     N_("\
 645   -l,  --level=NUMBER       maximum recursion depth (inf or 0 for infinite).\n"),
 646     N_("\
 647        --delete-after       delete files locally after downloading them.\n"),
 648     N_("\
 649   -k,  --convert-links      make links in downloaded HTML or CSS point to\n\
 650                             local files.\n"),
 651 #ifdef __VMS
 652     N_("\
 653   -K,  --backup-converted   before converting file X, back up as X_orig.\n"),
 654 #else /* def __VMS */
 655     N_("\
 656   -K,  --backup-converted   before converting file X, back up as X.orig.\n"),
 657 #endif /* def __VMS [else] */
 658     N_("\
 659   -m,  --mirror             shortcut for -N -r -l inf --no-remove-listing.\n"),
 660     N_("\
 661   -p,  --page-requisites    get all images, etc. needed to display HTML page.\n"),
 662     N_("\
 663        --strict-comments    turn on strict (SGML) handling of HTML comments.\n"),
 664     "\n",
 665
 666     N_("\
 667 Recursive accept/reject:\n"),
 668     N_("\
 669   -A,  --accept=LIST               comma-separated list of accepted extensions.\n"),
 670     N_("\
 671   -R,  --reject=LIST               comma-separated list of rejected extensions.\n"),
 672     N_("\
 673   -D,  --domains=LIST              comma-separated list of accepted domains.\n"),
 674     N_("\
 675        --exclude-domains=LIST      comma-separated list of rejected domains.\n"),
 676     N_("\
 677        --follow-ftp                follow FTP links from HTML documents.\n"),
 678     N_("\
 679        --follow-tags=LIST          comma-separated list of followed HTML tags.\n"),
 680     N_("\
 681        --ignore-tags=LIST          comma-separated list of ignored HTML tags.\n"),
 682     N_("\
 683   -H,  --span-hosts                go to foreign hosts when recursive.\n"),
 684     N_("\
 685   -L,  --relative                  follow relative links only.\n"),
 686     N_("\
 687   -I,  --include-directories=LIST  list of allowed directories.\n"),
 688     N_("\
 689   --trust-server-names             use the name specified by the redirection\n\
 690                                    url last component.\n"),
 691     N_("\
 692   -X,  --exclude-directories=LIST  list of excluded directories.\n"),
 693     N_("\
 694   -np, --no-parent                 don't ascend to the parent directory.\n"),
 695     "\n",
 696
 697     N_("Mail bug reports and suggestions to <bug-wget@gnu.org>.\n")
 698   };
 699
 700   size_t i;
 701
 702   printf (_("GNU Wget %s, a non-interactive network retriever.\n"),
 703           version_string);
 704   print_usage (0);
 705
 706   for (i = 0; i < countof (help); i++)
 707     fputs (_(help[i]), stdout);
 708
 709   exit (0);
 710 }
 711
 712 /* Return a human-readable printed representation of INTERVAL,
 713    measured in seconds.  */
 714
 715 static char *
 716 secs_to_human_time (double interval)
 717 {
 718   static char buf[32];
 719   int secs = (int) (interval + 0.5);
 720   int hours, mins, days;
 721
 722   days = secs / 86400, secs %= 86400;
 723   hours = secs / 3600, secs %= 3600;
 724   mins = secs / 60, secs %= 60;
 725
 726   if (days)
 727     sprintf (buf, "%dd %dh %dm %ds", days, hours, mins, secs);
 728   else if (hours)
 729     sprintf (buf, "%dh %dm %ds", hours, mins, secs);
 730   else if (mins)
 731     sprintf (buf, "%dm %ds", mins, secs);
 732   else
 733     sprintf (buf, "%ss", print_decimal (interval));
 734
 735   return buf;
 736 }
 737
 738 static char *
 739 prompt_for_password (void)
 740 {
 741   if (opt.user)
 742     printf (_("Password for user %s: "), quote (opt.user));
 743   else
 744     printf (_("Password: "));
 745   return getpass("");
 746 }
 747
 748 /* Function that prints the line argument while limiting it
 749    to at most line_length. prefix is printed on the first line
 750    and an appropriate number of spaces are added on subsequent
 751    lines.*/
 752 static void
 753 format_and_print_line (const char *prefix, const char *line,
 754                        int line_length)
 755 {
 756   int remaining_chars;
 757   char *line_dup, *token;
 758
 759   assert (prefix != NULL);
 760   assert (line != NULL);
 761
 762   line_dup = xstrdup (line);
 763
 764   if (line_length <= 0)
 765     line_length = MAX_CHARS_PER_LINE - TABULATION;
 766
 767   printf ("%s", prefix);
 768   remaining_chars = line_length;
 769   /* We break on spaces. */
 770   token = strtok (line_dup, " ");
 771   while (token != NULL)
 772     {
 773       /* If however a token is much larger than the maximum
 774          line length, all bets are off and we simply print the
 775          token on the next line. */
 776       if (remaining_chars <= strlen (token))
 777         {
 778           printf ("\n%*c", TABULATION, ' ');
 779           remaining_chars = line_length - TABULATION;
 780         }
 781       printf ("%s ", token);
 782       remaining_chars -= strlen (token) + 1;  /* account for " " */
 783       token = strtok (NULL, " ");
 784     }
 785
 786   printf ("\n");
 787
 788   xfree (line_dup);
 789 }
 790
 791 static void
 792 print_version (void)
 793 {
 794   const char *wgetrc_title  = _("Wgetrc: ");
 795   const char *locale_title  = _("Locale: ");
 796   const char *compile_title = _("Compile: ");
 797   const char *link_title    = _("Link: ");
 798   char *env_wgetrc, *user_wgetrc;
 799   int i;
 800
 801   printf (_("GNU Wget %s built on %s.\n\n"), version_string, OS_TYPE);
 802
 803   for (i = 0; compiled_features[i] != NULL; )
 804     {
 805       int line_length = MAX_CHARS_PER_LINE;
 806       while ((line_length > 0) && (compiled_features[i] != NULL))
 807         {
 808           printf ("%s ", compiled_features[i]);
 809           line_length -= strlen (compiled_features[i]) + 2;
 810           i++;
 811         }
 812       printf ("\n");
 813     }
 814   printf ("\n");
 815
 816   /* Handle the case when $WGETRC is unset and $HOME/.wgetrc is
 817      absent. */
 818   printf ("%s\n", wgetrc_title);
 819   env_wgetrc = wgetrc_env_file_name ();
 820   if (env_wgetrc && *env_wgetrc)
 821     {
 822       printf (_("    %s (env)\n"), env_wgetrc);
 823       xfree (env_wgetrc);
 824     }
 825   user_wgetrc = wgetrc_user_file_name ();
 826   if (user_wgetrc)
 827     {
 828       printf (_("    %s (user)\n"), user_wgetrc);
 829       xfree (user_wgetrc);
 830     }
 831 #ifdef SYSTEM_WGETRC
 832   printf (_("    %s (system)\n"), SYSTEM_WGETRC);
 833 #endif
 834
 835 #ifdef ENABLE_NLS
 836   format_and_print_line (locale_title,
 837                         LOCALEDIR,
 838                         MAX_CHARS_PER_LINE);
 839 #endif /* def ENABLE_NLS */
 840
 841   if (compilation_string != NULL)
 842     format_and_print_line (compile_title,
 843                            compilation_string,
 844                            MAX_CHARS_PER_LINE);
 845
 846   if (link_string != NULL)
 847     format_and_print_line (link_title,
 848                            link_string,
 849                            MAX_CHARS_PER_LINE);
 850
 851   printf ("\n");
 852   /* TRANSLATORS: When available, an actual copyright character
 853      (cirle-c) should be used in preference to "(C)". */
 854   fputs (_("\
 855 Copyright (C) 2009 Free Software Foundation, Inc.\n"), stdout);
 856   fputs (_("\
 857 License GPLv3+: GNU GPL version 3 or later\n\
 858 <http://www.gnu.org/licenses/gpl.html>.\n\
 859 This is free software: you are free to change and redistribute it.\n\
 860 There is NO WARRANTY, to the extent permitted by law.\n"), stdout);
 861   /* TRANSLATORS: When available, please use the proper diacritics for
 862      names such as this one. See en_US.po for reference. */
 863   fputs (_("\nOriginally written by Hrvoje Niksic <hniksic@xemacs.org>.\n"),
 864          stdout);
 865   fputs (_("Please send bug reports and questions to <bug-wget@gnu.org>.\n"),
 866          stdout);
 867   exit (0);
 868 }
 869
 870 char *program_name; /* Needed by lib/error.c. */
 871
 872 int
 873 main (int argc, char **argv)
 874 {
 875   char **url, **t;
 876   int i, ret, longindex;
 877   int nurl;
 878   bool append_to_log = false;
 879
 880   program_name = argv[0];
 881
 882   struct ptimer *timer = ptimer_new ();
 883   double start_time = ptimer_measure (timer);
 884
 885   i18n_initialize ();
 886
 887   /* Construct the name of the executable, without the directory part.  */
 888 #ifdef __VMS
 889   /* On VMS, lose the "dev:[dir]" prefix and the ".EXE;nnn" suffix. */
 890   exec_name = vms_basename (argv[0]);
 891 #else /* def __VMS */
 892   exec_name = strrchr (argv[0], PATH_SEPARATOR);
 893   if (!exec_name)
 894     exec_name = argv[0];
 895   else
 896     ++exec_name;
 897 #endif /* def __VMS [else] */
 898
 899 #ifdef WINDOWS
 900   /* Drop extension (typically .EXE) from executable filename. */
 901   windows_main ((char **) &exec_name);
 902 #endif
 903
 904   /* Load the hard-coded defaults.  */
 905   defaults ();
 906
 907   init_switches ();
 908
 909   /* This seperate getopt_long is needed to find the user config
 910      and parse it before the other user options. */
 911   longindex = -1;
 912   int retconf;
 913   bool use_userconfig = false;
 914
 915   while ((retconf = getopt_long (argc, argv,
 916                                 short_options, long_options, &longindex)) != -1)
 917     {
 918       int confval;
 919       bool userrc_ret = true;
 920       struct cmdline_option *config_opt;
 921       confval = long_options[longindex].val;
 922       config_opt = &option_data[confval & ~BOOLEAN_NEG_MARKER];
 923       if (strcmp (config_opt->long_name, "config") == 0)
 924         {
 925           userrc_ret &= run_wgetrc (optarg);
 926           use_userconfig = true;
 927         }
 928       if (!userrc_ret)
 929         {
 930           printf ("Exiting due to error in %s\n", optarg);
 931           exit (2);
 932         }
 933       else
 934         break;
 935     }
 936
 937   /* If the user did not specify a config, read the system wgetrc and ~/.wgetrc. */
 938   if (use_userconfig == false)
 939     initialize ();
 940
 941   opterr = 0;
 942   optind = 0;
 943
 944   longindex = -1;
 945   while ((ret = getopt_long (argc, argv,
 946                              short_options, long_options, &longindex)) != -1)
 947     {
 948       int val;
 949       struct cmdline_option *opt;
 950
 951       /* If LONGINDEX is unchanged, it means RET is referring a short
 952          option.  */
 953       if (longindex == -1)
 954         {
 955           if (ret == '?')
 956             {
 957               print_usage (0);
 958               printf ("\n");
 959               printf (_("Try `%s --help' for more options.\n"), exec_name);
 960               exit (2);
 961             }
 962           /* Find the short option character in the mapping.  */
 963           longindex = optmap[ret - 32];
 964         }
 965       val = long_options[longindex].val;
 966
 967       /* Use the retrieved value to locate the option in the
 968          option_data array, and to see if we're dealing with the
 969          negated "--no-FOO" variant of the boolean option "--foo".  */
 970       opt = &option_data[val & ~BOOLEAN_NEG_MARKER];
 971       switch (opt->type)
 972         {
 973         case OPT_VALUE:
 974           setoptval (opt->data, optarg, opt->long_name);
 975           break;
 976         case OPT_BOOLEAN:
 977           if (optarg)
 978             /* The user has specified a value -- use it. */
 979             setoptval (opt->data, optarg, opt->long_name);
 980           else
 981             {
 982               /* NEG is true for `--no-FOO' style boolean options. */
 983               bool neg = !!(val & BOOLEAN_NEG_MARKER);
 984               setoptval (opt->data, neg ? "0" : "1", opt->long_name);
 985             }
 986           break;
 987         case OPT_FUNCALL:
 988           {
 989             void (*func) (void) = (void (*) (void)) opt->data;
 990             func ();
 991           }
 992           break;
 993         case OPT__APPEND_OUTPUT:
 994           setoptval ("logfile", optarg, opt->long_name);
 995           append_to_log = true;
 996           break;
 997         case OPT__EXECUTE:
 998           run_command (optarg);
 999           break;
1000         case OPT__NO:
1001           {
1002             /* We support real --no-FOO flags now, but keep these
1003                short options for convenience and backward
1004                compatibility.  */
1005             char *p;
1006             for (p = optarg; p && *p; p++)
1007               switch (*p)
1008                 {
1009                 case 'v':
1010                   setoptval ("verbose", "0", opt->long_name);
1011                   break;
1012                 case 'H':
1013                   setoptval ("addhostdir", "0", opt->long_name);
1014                   break;
1015                 case 'd':
1016                   setoptval ("dirstruct", "0", opt->long_name);
1017                   break;
1018                 case 'c':
1019                   setoptval ("noclobber", "1", opt->long_name);
1020                   break;
1021                 case 'p':
1022                   setoptval ("noparent", "1", opt->long_name);
1023                   break;
1024                 default:
1025                   fprintf (stderr, _("%s: illegal option -- `-n%c'\n"),
1026                            exec_name, *p);
1027                   print_usage (1);
1028                   fprintf (stderr, "\n");
1029                   fprintf (stderr, _("Try `%s --help' for more options.\n"),
1030                            exec_name);
1031                   exit (1);
1032                 }
1033             break;
1034           }
1035         case OPT__PARENT:
1036         case OPT__CLOBBER:
1037           {
1038             /* The wgetrc commands are named noparent and noclobber,
1039                so we must revert the meaning of the cmdline options
1040                before passing the value to setoptval.  */
1041             bool flag = true;
1042             if (optarg)
1043               flag = (*optarg == '1' || c_tolower (*optarg) == 'y'
1044                       || (c_tolower (optarg[0]) == 'o'
1045                           && c_tolower (optarg[1]) == 'n'));
1046             setoptval (opt->type == OPT__PARENT ? "noparent" : "noclobber",
1047                        flag ? "0" : "1", opt->long_name);
1048             break;
1049           }
1050         case OPT__DONT_REMOVE_LISTING:
1051           setoptval ("removelisting", "0", opt->long_name);
1052           break;
1053         }
1054
1055       longindex = -1;
1056     }
1057
1058   nurl = argc - optind;
1059
1060   /* All user options have now been processed, so it's now safe to do
1061      interoption dependency checks. */
1062
1063   if (opt.noclobber && opt.convert_links)
1064     {
1065       fprintf (stderr,
1066                _("Both --no-clobber and --convert-links were specified,"
1067                  "only --convert-links will be used.\n"));
1068       opt.noclobber = false;
1069     }
1070
1071   if (opt.reclevel == 0)
1072       opt.reclevel = INFINITE_RECURSION; /* see recur.h for commentary */
1073
1074   if (opt.spider || opt.delete_after)
1075       opt.no_dirstruct = true;
1076
1077   if (opt.page_requisites && !opt.recursive)
1078     {
1079       /* Don't set opt.recursive here because it would confuse the FTP
1080          code.  Instead, call retrieve_tree below when either
1081          page_requisites or recursive is requested.  */
1082       opt.reclevel = 0;
1083       if (!opt.no_dirstruct)
1084         opt.dirstruct = 1;      /* normally handled by cmd_spec_recursive() */
1085     }
1086
1087   if (opt.verbose == -1)
1088     opt.verbose = !opt.quiet;
1089
1090   /* Sanity checks.  */
1091   if (opt.verbose && opt.quiet)
1092     {
1093       fprintf (stderr, _("Can't be verbose and quiet at the same time.\n"));
1094       print_usage (1);
1095       exit (1);
1096     }
1097   if (opt.timestamping && opt.noclobber)
1098     {
1099       fprintf (stderr, _("\
1100 Can't timestamp and not clobber old files at the same time.\n"));
1101       print_usage (1);
1102       exit (1);
1103     }
1104 #ifdef ENABLE_IPV6
1105   if (opt.ipv4_only && opt.ipv6_only)
1106     {
1107       fprintf (stderr,
1108                _("Cannot specify both --inet4-only and --inet6-only.\n"));
1109       print_usage (1);
1110       exit (1);
1111     }
1112 #endif
1113   if (opt.output_document)
1114     {
1115       if (opt.convert_links
1116           && (nurl > 1 || opt.page_requisites || opt.recursive))
1117         {
1118           fputs (_("\
1119 Cannot specify both -k and -O if multiple URLs are given, or in combination\n\
1120 with -p or -r. See the manual for details.\n\n"), stderr);
1121           print_usage (1);
1122           exit (1);
1123         }
1124       if (opt.page_requisites
1125           || opt.recursive)
1126         {
1127           logprintf (LOG_NOTQUIET, "%s", _("\
1128 WARNING: combining -O with -r or -p will mean that all downloaded content\n\
1129 will be placed in the single file you specified.\n\n"));
1130         }
1131       if (opt.timestamping)
1132         {
1133           logprintf (LOG_NOTQUIET, "%s", _("\
1134 WARNING: timestamping does nothing in combination with -O. See the manual\n\
1135 for details.\n\n"));
1136           opt.timestamping = false;
1137         }
1138       if (opt.noclobber && file_exists_p(opt.output_document))
1139            {
1140               /* Check if output file exists; if it does, exit. */
1141               logprintf (LOG_VERBOSE,
1142                          _("File `%s' already there; not retrieving.\n"),
1143                          opt.output_document);
1144               exit(1);
1145            }
1146     }
1147
1148   if (opt.ask_passwd && opt.passwd)
1149     {
1150       fprintf (stderr,
1151                _("Cannot specify both --ask-password and --password.\n"));
1152       print_usage (1);
1153       exit (1);
1154     }
1155
1156   if (!nurl && !opt.input_filename)
1157     {
1158       /* No URL specified.  */
1159       fprintf (stderr, _("%s: missing URL\n"), exec_name);
1160       print_usage (1);
1161       printf ("\n");
1162       /* #### Something nicer should be printed here -- similar to the
1163          pre-1.5 `--help' page.  */
1164       fprintf (stderr, _("Try `%s --help' for more options.\n"), exec_name);
1165       exit (1);
1166     }
1167
1168 #ifdef ENABLE_IRI
1169   if (opt.enable_iri)
1170     {
1171       if (opt.locale && !check_encoding_name (opt.locale))
1172         opt.locale = NULL;
1173
1174       if (!opt.locale)
1175         opt.locale = find_locale ();
1176
1177       if (opt.encoding_remote && !check_encoding_name (opt.encoding_remote))
1178         opt.encoding_remote = NULL;
1179     }
1180 #else
1181   if (opt.enable_iri || opt.locale || opt.encoding_remote)
1182     {
1183       /* sXXXav : be more specific... */
1184       fprintf (stderr, _("This version does not have support for IRIs\n"));
1185       exit(1);
1186     }
1187 #endif
1188
1189   if (opt.ask_passwd)
1190     {
1191       opt.passwd = prompt_for_password ();
1192
1193       if (opt.passwd == NULL || opt.passwd[0] == '\0')
1194         exit (1);
1195     }
1196
1197 #ifdef USE_WATT32
1198   if (opt.wdebug)
1199      dbug_init();
1200   sock_init();
1201 #else
1202   if (opt.background)
1203     fork_to_background ();
1204 #endif
1205
1206   /* Initialize progress.  Have to do this after the options are
1207      processed so we know where the log file is.  */
1208   if (opt.verbose)
1209     set_progress_implementation (opt.progress_type);
1210
1211   /* Fill in the arguments.  */
1212   url = alloca_array (char *, nurl + 1);
1213   for (i = 0; i < nurl; i++, optind++)
1214     {
1215       char *rewritten = rewrite_shorthand_url (argv[optind]);
1216       if (rewritten)
1217         url[i] = rewritten;
1218       else
1219         url[i] = xstrdup (argv[optind]);
1220     }
1221   url[i] = NULL;
1222
1223   /* Initialize logging.  */
1224   log_init (opt.lfilename, append_to_log);
1225
1226   DEBUGP (("DEBUG output created by Wget %s on %s.\n\n",
1227            version_string, OS_TYPE));
1228
1229   /* Open the output filename if necessary.  */
1230
1231 /* 2005-04-17 SMS.
1232    Note that having the output_stream ("-O") file opened here for an FTP
1233    URL rather than in getftp() (ftp.c) (and the http equivalent) rather
1234    limits the ability in VMS to open the file differently for ASCII
1235    versus binary FTP there.  (Of course, doing it here allows a open
1236    failure to be detected immediately, without first connecting to the
1237    server.)
1238 */
1239   if (opt.output_document)
1240     {
1241       if (HYPHENP (opt.output_document))
1242         {
1243 #ifdef WINDOWS
1244           FILE *result;
1245           result = freopen ("CONOUT$", "wb", stdout);
1246           if (result == NULL)
1247             {
1248               logputs (LOG_NOTQUIET, _("\
1249 WARNING: Can't reopen standard output in binary mode;\n\
1250          downloaded file may contain inappropriate line endings.\n"));
1251             }
1252 #endif
1253           output_stream = stdout;
1254         }
1255       else
1256         {
1257           struct_fstat st;
1258
1259 #ifdef __VMS
1260 /* Common fopen() optional arguments:
1261    sequential access only, access callback function.
1262 */
1263 # define FOPEN_OPT_ARGS , "fop=sqo", "acc", acc_cb, &open_id
1264           int open_id = 7;
1265 #else /* def __VMS */
1266 # define FOPEN_OPT_ARGS
1267 #endif /* def __VMS [else] */
1268
1269           output_stream = fopen (opt.output_document,
1270                                  opt.always_rest ? "ab" : "wb"
1271                                  FOPEN_OPT_ARGS);
1272           if (output_stream == NULL)
1273             {
1274               perror (opt.output_document);
1275               exit (1);
1276             }
1277           if (fstat (fileno (output_stream), &st) == 0 && S_ISREG (st.st_mode))
1278             output_stream_regular = true;
1279         }
1280       if (!output_stream_regular && opt.convert_links)
1281         {
1282           fprintf (stderr, _("-k can be used together with -O only if \
1283 outputting to a regular file.\n"));
1284           print_usage (1);
1285           exit(1);
1286         }
1287     }
1288
1289 #ifdef __VMS
1290   /* Set global ODS5 flag according to the specified destination (if
1291      any), otherwise according to the current default device.
1292   */
1293   if (output_stream == NULL)
1294     set_ods5_dest( "SYS$DISK");
1295   else if (output_stream != stdout)
1296     set_ods5_dest( opt.output_document);
1297 #endif /* def __VMS */
1298
1299 #ifdef WINDOWS
1300   ws_startup ();
1301 #endif
1302
1303 #ifdef SIGHUP
1304   /* Setup the signal handler to redirect output when hangup is
1305      received.  */
1306   if (signal(SIGHUP, SIG_IGN) != SIG_IGN)
1307     signal(SIGHUP, redirect_output_signal);
1308 #endif
1309   /* ...and do the same for SIGUSR1.  */
1310 #ifdef SIGUSR1
1311   signal (SIGUSR1, redirect_output_signal);
1312 #endif
1313 #ifdef SIGPIPE
1314   /* Writing to a closed socket normally signals SIGPIPE, and the
1315      process exits.  What we want is to ignore SIGPIPE and just check
1316      for the return value of write().  */
1317   signal (SIGPIPE, SIG_IGN);
1318 #endif
1319 #ifdef SIGWINCH
1320   signal (SIGWINCH, progress_handle_sigwinch);
1321 #endif
1322
1323   /* Retrieve the URLs from argument list.  */
1324   for (t = url; *t; t++)
1325     {
1326       char *filename = NULL, *redirected_URL = NULL;
1327       int dt, url_err;
1328       /* Need to do a new struct iri every time, because
1329        * retrieve_url may modify it in some circumstances,
1330        * currently. */
1331       struct iri *iri = iri_new ();
1332       struct url *url_parsed;
1333
1334       set_uri_encoding (iri, opt.locale, true);
1335       url_parsed = url_parse (*t, &url_err, iri, true);
1336
1337       if (!url_parsed)
1338         {
1339           char *error = url_error (*t, url_err);
1340           logprintf (LOG_NOTQUIET, "%s: %s.\n",*t, error);
1341           xfree (error);
1342         }
1343       else
1344         {
1345           if ((opt.recursive || opt.page_requisites)
1346               && (url_scheme (*t) != SCHEME_FTP || url_uses_proxy (url_parsed)))
1347             {
1348               int old_follow_ftp = opt.follow_ftp;
1349
1350               /* Turn opt.follow_ftp on in case of recursive FTP retrieval */
1351               if (url_scheme (*t) == SCHEME_FTP)
1352                 opt.follow_ftp = 1;
1353
1354               retrieve_tree (url_parsed, NULL);
1355
1356               opt.follow_ftp = old_follow_ftp;
1357             }
1358           else
1359           {
1360             retrieve_url (url_parsed, *t, &filename, &redirected_URL, NULL,
1361                           &dt, opt.recursive, iri, true);
1362           }
1363
1364           if (opt.delete_after && file_exists_p(filename))
1365             {
1366               DEBUGP (("Removing file due to --delete-after in main():\n"));
1367               logprintf (LOG_VERBOSE, _("Removing %s.\n"), filename);
1368               if (unlink (filename))
1369                 logprintf (LOG_NOTQUIET, "unlink: %s\n", strerror (errno));
1370             }
1371           xfree_null (redirected_URL);
1372           xfree_null (filename);
1373           url_free (url_parsed);
1374         }
1375       iri_free (iri);
1376     }
1377
1378   /* And then from the input file, if any.  */
1379   if (opt.input_filename)
1380     {
1381       int count;
1382       retrieve_from_file (opt.input_filename, opt.force_html, &count);
1383       if (!count)
1384         logprintf (LOG_NOTQUIET, _("No URLs found in %s.\n"),
1385                    opt.input_filename);
1386     }
1387
1388   /* Print broken links. */
1389   if (opt.recursive && opt.spider)
1390     print_broken_links ();
1391
1392   /* Print the downloaded sum.  */
1393   if ((opt.recursive || opt.page_requisites
1394        || nurl > 1
1395        || (opt.input_filename && total_downloaded_bytes != 0))
1396       &&
1397       total_downloaded_bytes != 0)
1398     {
1399       double end_time = ptimer_measure (timer);
1400       ptimer_destroy (timer);
1401
1402       char *wall_time = xstrdup (secs_to_human_time (end_time - start_time));
1403       char *download_time = xstrdup (secs_to_human_time (total_download_time));
1404       logprintf (LOG_NOTQUIET,
1405                  _("FINISHED --%s--\nTotal wall clock time: %s\n"
1406                    "Downloaded: %d files, %s in %s (%s)\n"),
1407                  datetime_str (time (NULL)),
1408                  wall_time,
1409                  numurls,
1410                  human_readable (total_downloaded_bytes),
1411                  download_time,
1412                  retr_rate (total_downloaded_bytes, total_download_time));
1413       xfree (wall_time);
1414       xfree (download_time);
1415
1416       /* Print quota warning, if exceeded.  */
1417       if (opt.quota && total_downloaded_bytes > opt.quota)
1418         logprintf (LOG_NOTQUIET,
1419                    _("Download quota of %s EXCEEDED!\n"),
1420                    human_readable (opt.quota));
1421     }
1422
1423   if (opt.cookies_output)
1424     save_cookies ();
1425
1426   if (opt.convert_links && !opt.delete_after)
1427     convert_all_links ();
1428
1429   log_close ();
1430   for (i = 0; i < nurl; i++)
1431     xfree (url[i]);
1432   cleanup ();
1433
1434   return get_exit_status ();
1435 }
1436 #endif /* TESTING */
1437 \f
1438 #if defined(SIGHUP) || defined(SIGUSR1)
1439
1440 /* So the signal_name check doesn't blow when only one is available. */
1441 #ifndef SIGHUP
1442 # define SIGHUP -1
1443 #endif
1444 #ifndef SIGUSR1
1445 # define SIGUSR1 -1
1446 #endif
1447
1448 /* Hangup signal handler.  When wget receives SIGHUP or SIGUSR1, it
1449    will proceed operation as usual, trying to write into a log file.
1450    If that is impossible, the output will be turned off.  */
1451
1452 static void
1453 redirect_output_signal (int sig)
1454 {
1455   const char *signal_name = (sig == SIGHUP ? "SIGHUP" :
1456                              (sig == SIGUSR1 ? "SIGUSR1" :
1457                               "WTF?!"));
1458   log_request_redirect_output (signal_name);
1459   progress_schedule_redirect ();
1460   signal (sig, redirect_output_signal);
1461 }
1462 #endif
1463
1464 /*
1465  * vim: et ts=2 sw=2
1466  */