sjero.net Git - wget/blob - src/main.c

   1 /* Command line parsing.
   2    Copyright (C) 1996, 1997, 1998, 1999, 2000, 2001, 2002, 2003, 2004,
   3    2005, 2006, 2007, 2008, 2009, 2010 Free Software Foundation, Inc.
   4
   5 This file is part of GNU Wget.
   6
   7 GNU Wget is free software; you can redistribute it and/or modify
   8 it under the terms of the GNU General Public License as published by
   9 the Free Software Foundation; either version 3 of the License, or
  10 (at your option) any later version.
  11
  12 GNU Wget is distributed in the hope that it will be useful,
  13 but WITHOUT ANY WARRANTY; without even the implied warranty of
  14 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15 GNU General Public License for more details.
  16
  17 You should have received a copy of the GNU General Public License
  18 along with Wget.  If not, see <http://www.gnu.org/licenses/>.
  19
  20 Additional permission under GNU GPL version 3 section 7
  21
  22 If you modify this program, or any covered work, by linking or
  23 combining it with the OpenSSL project's OpenSSL library (or a
  24 modified version of that library), containing parts covered by the
  25 terms of the OpenSSL or SSLeay licenses, the Free Software Foundation
  26 grants you additional permission to convey the resulting work.
  27 Corresponding Source for a non-source form of such a combination
  28 shall include the source code for the parts of OpenSSL used as well
  29 as that of the covered work.  */
  30
  31 #include "wget.h"
  32
  33 #include <stdio.h>
  34 #include <stdlib.h>
  35 #ifdef HAVE_UNISTD_H
  36 # include <unistd.h>
  37 #endif /* HAVE_UNISTD_H */
  38 #include <string.h>
  39 #include <signal.h>
  40 #ifdef ENABLE_NLS
  41 # include <locale.h>
  42 #endif
  43 #include <assert.h>
  44 #include <errno.h>
  45 #include <time.h>
  46
  47 #include "exits.h"
  48 #include "utils.h"
  49 #include "init.h"
  50 #include "retr.h"
  51 #include "recur.h"
  52 #include "host.h"
  53 #include "url.h"
  54 #include "progress.h"           /* for progress_handle_sigwinch */
  55 #include "convert.h"
  56 #include "spider.h"
  57 #include "http.h"               /* for save_cookies */
  58 #include "ptimer.h"
  59
  60 #include <getopt.h>
  61 #include <getpass.h>
  62 #include <quote.h>
  63
  64 #ifdef __VMS
  65 #include "vms.h"
  66 #endif /* __VMS */
  67
  68 #ifndef PATH_SEPARATOR
  69 # define PATH_SEPARATOR '/'
  70 #endif
  71
  72 struct options opt;
  73
  74 /* defined in version.c */
  75 extern char *version_string;
  76 extern char *compilation_string;
  77 extern char *system_getrc;
  78 extern char *link_string;
  79 /* defined in build_info.c */
  80 extern const char *compiled_features[];
  81 /* Used for --version output in print_version */
  82 #define MAX_CHARS_PER_LINE      72
  83 #define TABULATION              4
  84
  85 #if defined(SIGHUP) || defined(SIGUSR1)
  86 static void redirect_output_signal (int);
  87 #endif
  88
  89 const char *exec_name;
  90
  91 /* Number of successfully downloaded URLs */
  92 int numurls = 0;
  93 \f
  94 #ifndef TESTING
  95 /* Initialize I18N/L10N.  That amounts to invoking setlocale, and
  96    setting up gettext's message catalog using bindtextdomain and
  97    textdomain.  Does nothing if NLS is disabled or missing.  */
  98
  99 static void
 100 i18n_initialize (void)
 101 {
 102   /* ENABLE_NLS implies existence of functions invoked here.  */
 103 #ifdef ENABLE_NLS
 104   /* Set the current locale.  */
 105   setlocale (LC_ALL, "");
 106   /* Set the text message domain.  */
 107   bindtextdomain ("wget", LOCALEDIR);
 108   textdomain ("wget");
 109 #endif /* ENABLE_NLS */
 110 }
 111 \f
 112 /* Definition of command-line options. */
 113
 114 static void print_help (void);
 115 static void print_version (void);
 116
 117 #ifdef HAVE_SSL
 118 # define IF_SSL(x) x
 119 #else
 120 # define IF_SSL(x) NULL
 121 #endif
 122
 123 #ifdef ENABLE_DEBUG
 124 # define WHEN_DEBUG(x) x
 125 #else
 126 # define WHEN_DEBUG(x) NULL
 127 #endif
 128
 129 struct cmdline_option {
 130   const char *long_name;
 131   char short_name;
 132   enum {
 133     OPT_VALUE,
 134     OPT_BOOLEAN,
 135     OPT_FUNCALL,
 136     /* Non-standard options that have to be handled specially in
 137        main().  */
 138     OPT__APPEND_OUTPUT,
 139     OPT__CLOBBER,
 140     OPT__DONT_REMOVE_LISTING,
 141     OPT__EXECUTE,
 142     OPT__NO,
 143     OPT__PARENT
 144   } type;
 145   const void *data;             /* for standard options */
 146   int argtype;                  /* for non-standard options */
 147 };
 148
 149 static struct cmdline_option option_data[] =
 150   {
 151     { "accept", 'A', OPT_VALUE, "accept", -1 },
 152     { "adjust-extension", 'E', OPT_BOOLEAN, "adjustextension", -1 },
 153     { "append-output", 'a', OPT__APPEND_OUTPUT, NULL, required_argument },
 154     { "ask-password", 0, OPT_BOOLEAN, "askpassword", -1 },
 155     { "auth-no-challenge", 0, OPT_BOOLEAN, "authnochallenge", -1 },
 156     { "background", 'b', OPT_BOOLEAN, "background", -1 },
 157     { "backup-converted", 'K', OPT_BOOLEAN, "backupconverted", -1 },
 158     { "backups", 0, OPT_BOOLEAN, "backups", -1 },
 159     { "base", 'B', OPT_VALUE, "base", -1 },
 160     { "bind-address", 0, OPT_VALUE, "bindaddress", -1 },
 161     { IF_SSL ("ca-certificate"), 0, OPT_VALUE, "cacertificate", -1 },
 162     { IF_SSL ("ca-directory"), 0, OPT_VALUE, "cadirectory", -1 },
 163     { "cache", 0, OPT_BOOLEAN, "cache", -1 },
 164     { IF_SSL ("certificate"), 0, OPT_VALUE, "certificate", -1 },
 165     { IF_SSL ("certificate-type"), 0, OPT_VALUE, "certificatetype", -1 },
 166     { IF_SSL ("check-certificate"), 0, OPT_BOOLEAN, "checkcertificate", -1 },
 167     { "clobber", 0, OPT__CLOBBER, NULL, optional_argument },
 168     { "connect-timeout", 0, OPT_VALUE, "connecttimeout", -1 },
 169     { "continue", 'c', OPT_BOOLEAN, "continue", -1 },
 170     { "convert-links", 'k', OPT_BOOLEAN, "convertlinks", -1 },
 171     { "content-disposition", 0, OPT_BOOLEAN, "contentdisposition", -1 },
 172     { "cookies", 0, OPT_BOOLEAN, "cookies", -1 },
 173     { "cut-dirs", 0, OPT_VALUE, "cutdirs", -1 },
 174     { WHEN_DEBUG ("debug"), 'd', OPT_BOOLEAN, "debug", -1 },
 175     { "default-page", 0, OPT_VALUE, "defaultpage", -1 },
 176     { "delete-after", 0, OPT_BOOLEAN, "deleteafter", -1 },
 177     { "directories", 0, OPT_BOOLEAN, "dirstruct", -1 },
 178     { "directory-prefix", 'P', OPT_VALUE, "dirprefix", -1 },
 179     { "dns-cache", 0, OPT_BOOLEAN, "dnscache", -1 },
 180     { "dns-timeout", 0, OPT_VALUE, "dnstimeout", -1 },
 181     { "domains", 'D', OPT_VALUE, "domains", -1 },
 182     { "dont-remove-listing", 0, OPT__DONT_REMOVE_LISTING, NULL, no_argument },
 183     { "dot-style", 0, OPT_VALUE, "dotstyle", -1 }, /* deprecated */
 184     { "egd-file", 0, OPT_VALUE, "egdfile", -1 },
 185     { "exclude-directories", 'X', OPT_VALUE, "excludedirectories", -1 },
 186     { "exclude-domains", 0, OPT_VALUE, "excludedomains", -1 },
 187     { "execute", 'e', OPT__EXECUTE, NULL, required_argument },
 188     { "follow-ftp", 0, OPT_BOOLEAN, "followftp", -1 },
 189     { "follow-tags", 0, OPT_VALUE, "followtags", -1 },
 190     { "force-directories", 'x', OPT_BOOLEAN, "dirstruct", -1 },
 191     { "force-html", 'F', OPT_BOOLEAN, "forcehtml", -1 },
 192     { "ftp-password", 0, OPT_VALUE, "ftppassword", -1 },
 193 #ifdef __VMS
 194     { "ftp-stmlf", 0, OPT_BOOLEAN, "ftpstmlf", -1 },
 195 #endif /* def __VMS */
 196     { "ftp-user", 0, OPT_VALUE, "ftpuser", -1 },
 197     { "glob", 0, OPT_BOOLEAN, "glob", -1 },
 198     { "header", 0, OPT_VALUE, "header", -1 },
 199     { "help", 'h', OPT_FUNCALL, (void *)print_help, no_argument },
 200     { "host-directories", 0, OPT_BOOLEAN, "addhostdir", -1 },
 201     { "html-extension", 'E', OPT_BOOLEAN, "adjustextension", -1 }, /* deprecated */
 202     { "htmlify", 0, OPT_BOOLEAN, "htmlify", -1 },
 203     { "http-keep-alive", 0, OPT_BOOLEAN, "httpkeepalive", -1 },
 204     { "http-passwd", 0, OPT_VALUE, "httppassword", -1 }, /* deprecated */
 205     { "http-password", 0, OPT_VALUE, "httppassword", -1 },
 206     { "http-user", 0, OPT_VALUE, "httpuser", -1 },
 207     { "ignore-case", 0, OPT_BOOLEAN, "ignorecase", -1 },
 208     { "ignore-length", 0, OPT_BOOLEAN, "ignorelength", -1 },
 209     { "ignore-tags", 0, OPT_VALUE, "ignoretags", -1 },
 210     { "include-directories", 'I', OPT_VALUE, "includedirectories", -1 },
 211 #ifdef ENABLE_IPV6
 212     { "inet4-only", '4', OPT_BOOLEAN, "inet4only", -1 },
 213     { "inet6-only", '6', OPT_BOOLEAN, "inet6only", -1 },
 214 #endif
 215     { "input-file", 'i', OPT_VALUE, "input", -1 },
 216     { "iri", 0, OPT_BOOLEAN, "iri", -1 },
 217     { "keep-session-cookies", 0, OPT_BOOLEAN, "keepsessioncookies", -1 },
 218     { "level", 'l', OPT_VALUE, "reclevel", -1 },
 219     { "limit-rate", 0, OPT_VALUE, "limitrate", -1 },
 220     { "load-cookies", 0, OPT_VALUE, "loadcookies", -1 },
 221     { "local-encoding", 0, OPT_VALUE, "localencoding", -1 },
 222     { "max-redirect", 0, OPT_VALUE, "maxredirect", -1 },
 223     { "mirror", 'm', OPT_BOOLEAN, "mirror", -1 },
 224     { "no", 'n', OPT__NO, NULL, required_argument },
 225     { "no-clobber", 0, OPT_BOOLEAN, "noclobber", -1 },
 226     { "no-parent", 0, OPT_BOOLEAN, "noparent", -1 },
 227     { "output-document", 'O', OPT_VALUE, "outputdocument", -1 },
 228     { "output-file", 'o', OPT_VALUE, "logfile", -1 },
 229     { "page-requisites", 'p', OPT_BOOLEAN, "pagerequisites", -1 },
 230     { "parent", 0, OPT__PARENT, NULL, optional_argument },
 231     { "passive-ftp", 0, OPT_BOOLEAN, "passiveftp", -1 },
 232     { "password", 0, OPT_VALUE, "password", -1 },
 233     { "post-data", 0, OPT_VALUE, "postdata", -1 },
 234     { "post-file", 0, OPT_VALUE, "postfile", -1 },
 235     { "prefer-family", 0, OPT_VALUE, "preferfamily", -1 },
 236     { "preserve-permissions", 0, OPT_BOOLEAN, "preservepermissions", -1 }, /* deprecated */
 237     { IF_SSL ("private-key"), 0, OPT_VALUE, "privatekey", -1 },
 238     { IF_SSL ("private-key-type"), 0, OPT_VALUE, "privatekeytype", -1 },
 239     { "progress", 0, OPT_VALUE, "progress", -1 },
 240     { "protocol-directories", 0, OPT_BOOLEAN, "protocoldirectories", -1 },
 241     { "proxy", 0, OPT_BOOLEAN, "useproxy", -1 },
 242     { "proxy__compat", 'Y', OPT_VALUE, "useproxy", -1 }, /* back-compatible */
 243     { "proxy-passwd", 0, OPT_VALUE, "proxypassword", -1 }, /* deprecated */
 244     { "proxy-password", 0, OPT_VALUE, "proxypassword", -1 },
 245     { "proxy-user", 0, OPT_VALUE, "proxyuser", -1 },
 246     { "quiet", 'q', OPT_BOOLEAN, "quiet", -1 },
 247     { "quota", 'Q', OPT_VALUE, "quota", -1 },
 248     { "random-file", 0, OPT_VALUE, "randomfile", -1 },
 249     { "random-wait", 0, OPT_BOOLEAN, "randomwait", -1 },
 250     { "read-timeout", 0, OPT_VALUE, "readtimeout", -1 },
 251     { "recursive", 'r', OPT_BOOLEAN, "recursive", -1 },
 252     { "referer", 0, OPT_VALUE, "referer", -1 },
 253     { "reject", 'R', OPT_VALUE, "reject", -1 },
 254     { "relative", 'L', OPT_BOOLEAN, "relativeonly", -1 },
 255     { "remote-encoding", 0, OPT_VALUE, "remoteencoding", -1 },
 256     { "remove-listing", 0, OPT_BOOLEAN, "removelisting", -1 },
 257     { "restrict-file-names", 0, OPT_BOOLEAN, "restrictfilenames", -1 },
 258     { "retr-symlinks", 0, OPT_BOOLEAN, "retrsymlinks", -1 },
 259     { "retry-connrefused", 0, OPT_BOOLEAN, "retryconnrefused", -1 },
 260     { "save-cookies", 0, OPT_VALUE, "savecookies", -1 },
 261     { "save-headers", 0, OPT_BOOLEAN, "saveheaders", -1 },
 262     { IF_SSL ("secure-protocol"), 0, OPT_VALUE, "secureprotocol", -1 },
 263     { "server-response", 'S', OPT_BOOLEAN, "serverresponse", -1 },
 264     { "span-hosts", 'H', OPT_BOOLEAN, "spanhosts", -1 },
 265     { "spider", 0, OPT_BOOLEAN, "spider", -1 },
 266     { "strict-comments", 0, OPT_BOOLEAN, "strictcomments", -1 },
 267     { "timeout", 'T', OPT_VALUE, "timeout", -1 },
 268     { "timestamping", 'N', OPT_BOOLEAN, "timestamping", -1 },
 269     { "tries", 't', OPT_VALUE, "tries", -1 },
 270     { "unlink", 0, OPT_BOOLEAN, "unlink", -1 },
 271     { "trust-server-names", 0, OPT_BOOLEAN, "trustservernames", -1 },
 272     { "use-server-timestamps", 0, OPT_BOOLEAN, "useservertimestamps", -1 },
 273     { "user", 0, OPT_VALUE, "user", -1 },
 274     { "user-agent", 'U', OPT_VALUE, "useragent", -1 },
 275     { "verbose", 'v', OPT_BOOLEAN, "verbose", -1 },
 276     { "verbose", 0, OPT_BOOLEAN, "verbose", -1 },
 277     { "version", 'V', OPT_FUNCALL, (void *) print_version, no_argument },
 278     { "wait", 'w', OPT_VALUE, "wait", -1 },
 279     { "waitretry", 0, OPT_VALUE, "waitretry", -1 },
 280 #ifdef USE_WATT32
 281     { "wdebug", 0, OPT_BOOLEAN, "wdebug", -1 },
 282 #endif
 283   };
 284
 285 #undef WHEN_DEBUG
 286 #undef IF_SSL
 287
 288 /* Return a string that contains S with "no-" prepended.  The string
 289    is NUL-terminated and allocated off static storage at Wget
 290    startup.  */
 291
 292 static char *
 293 no_prefix (const char *s)
 294 {
 295   static char buffer[1024];
 296   static char *p = buffer;
 297
 298   char *cp = p;
 299   int size = 3 + strlen (s) + 1;  /* "no-STRING\0" */
 300   if (p + size >= buffer + sizeof (buffer))
 301     abort ();
 302
 303   cp[0] = 'n', cp[1] = 'o', cp[2] = '-';
 304   strcpy (cp + 3, s);
 305   p += size;
 306   return cp;
 307 }
 308
 309 /* The arguments that that main passes to getopt_long. */
 310 static struct option long_options[2 * countof (option_data) + 1];
 311 static char short_options[128];
 312
 313 /* Mapping between short option chars and option_data indices. */
 314 static unsigned char optmap[96];
 315
 316 /* Marker for `--no-FOO' values in long_options.  */
 317 #define BOOLEAN_NEG_MARKER 1024
 318
 319 /* Initialize the long_options array used by getopt_long from the data
 320    in option_data.  */
 321
 322 static void
 323 init_switches (void)
 324 {
 325   char *p = short_options;
 326   size_t i, o = 0;
 327   for (i = 0; i < countof (option_data); i++)
 328     {
 329       struct cmdline_option *opt = &option_data[i];
 330       struct option *longopt;
 331
 332       if (!opt->long_name)
 333         /* The option is disabled. */
 334         continue;
 335
 336       longopt = &long_options[o++];
 337       longopt->name = opt->long_name;
 338       longopt->val = i;
 339       if (opt->short_name)
 340         {
 341           *p++ = opt->short_name;
 342           optmap[opt->short_name - 32] = longopt - long_options;
 343         }
 344       switch (opt->type)
 345         {
 346         case OPT_VALUE:
 347           longopt->has_arg = required_argument;
 348           if (opt->short_name)
 349             *p++ = ':';
 350           break;
 351         case OPT_BOOLEAN:
 352           /* Specify an optional argument for long options, so that
 353              --option=off works the same as --no-option, for
 354              compatibility with pre-1.10 Wget.  However, don't specify
 355              optional arguments short-option booleans because they
 356              prevent combining of short options.  */
 357           longopt->has_arg = optional_argument;
 358           /* For Boolean options, add the "--no-FOO" variant, which is
 359              identical to "--foo", except it has opposite meaning and
 360              it doesn't allow an argument.  */
 361           longopt = &long_options[o++];
 362           longopt->name = no_prefix (opt->long_name);
 363           longopt->has_arg = no_argument;
 364           /* Mask the value so we'll be able to recognize that we're
 365              dealing with the false value.  */
 366           longopt->val = i | BOOLEAN_NEG_MARKER;
 367           break;
 368         default:
 369           assert (opt->argtype != -1);
 370           longopt->has_arg = opt->argtype;
 371           if (opt->short_name)
 372             {
 373               if (longopt->has_arg == required_argument)
 374                 *p++ = ':';
 375               /* Don't handle optional_argument */
 376             }
 377         }
 378     }
 379   /* Terminate short_options. */
 380   *p = '\0';
 381   /* No need for xzero(long_options[o]) because its storage is static
 382      and it will be zeroed by default.  */
 383   assert (o <= countof (long_options));
 384 }
 385
 386 /* Print the usage message.  */
 387 static void
 388 print_usage (int error)
 389 {
 390   fprintf (error ? stderr : stdout, _("Usage: %s [OPTION]... [URL]...\n"),
 391            exec_name);
 392 }
 393
 394 /* Print the help message, describing all the available options.  If
 395    you add an option, be sure to update this list.  */
 396 static void
 397 print_help (void)
 398 {
 399   /* We split the help text this way to ease translation of individual
 400      entries.  */
 401   static const char *help[] = {
 402     "\n",
 403     N_("\
 404 Mandatory arguments to long options are mandatory for short options too.\n\n"),
 405     N_("\
 406 Startup:\n"),
 407     N_("\
 408   -V,  --version           display the version of Wget and exit.\n"),
 409     N_("\
 410   -h,  --help              print this help.\n"),
 411     N_("\
 412   -b,  --background        go to background after startup.\n"),
 413     N_("\
 414   -e,  --execute=COMMAND   execute a `.wgetrc'-style command.\n"),
 415     "\n",
 416
 417     N_("\
 418 Logging and input file:\n"),
 419     N_("\
 420   -o,  --output-file=FILE    log messages to FILE.\n"),
 421     N_("\
 422   -a,  --append-output=FILE  append messages to FILE.\n"),
 423 #ifdef ENABLE_DEBUG
 424     N_("\
 425   -d,  --debug               print lots of debugging information.\n"),
 426 #endif
 427 #ifdef USE_WATT32
 428     N_("\
 429        --wdebug              print Watt-32 debug output.\n"),
 430 #endif
 431     N_("\
 432   -q,  --quiet               quiet (no output).\n"),
 433     N_("\
 434   -v,  --verbose             be verbose (this is the default).\n"),
 435     N_("\
 436   -nv, --no-verbose          turn off verboseness, without being quiet.\n"),
 437     N_("\
 438   -i,  --input-file=FILE     download URLs found in local or external FILE.\n"),
 439     N_("\
 440   -F,  --force-html          treat input file as HTML.\n"),
 441     N_("\
 442   -B,  --base=URL            resolves HTML input-file links (-i -F)\n\
 443                              relative to URL.\n"),
 444     "\n",
 445
 446     N_("\
 447 Download:\n"),
 448     N_("\
 449   -t,  --tries=NUMBER            set number of retries to NUMBER (0 unlimits).\n"),
 450     N_("\
 451        --retry-connrefused       retry even if connection is refused.\n"),
 452     N_("\
 453   -O,  --output-document=FILE    write documents to FILE.\n"),
 454     N_("\
 455   -nc, --no-clobber              skip downloads that would download to\n\
 456                                  existing files.\n"),
 457     N_("\
 458   -c,  --continue                resume getting a partially-downloaded file.\n"),
 459     N_("\
 460        --progress=TYPE           select progress gauge type.\n"),
 461     N_("\
 462   -N,  --timestamping            don't re-retrieve files unless newer than\n\
 463                                  local.\n"),
 464     N_("\
 465   --no-use-server-timestamps     don't set the local file's timestamp by\n\
 466                                  the one on the server.\n"),
 467     N_("\
 468   -S,  --server-response         print server response.\n"),
 469     N_("\
 470        --spider                  don't download anything.\n"),
 471     N_("\
 472   -T,  --timeout=SECONDS         set all timeout values to SECONDS.\n"),
 473     N_("\
 474        --dns-timeout=SECS        set the DNS lookup timeout to SECS.\n"),
 475     N_("\
 476        --connect-timeout=SECS    set the connect timeout to SECS.\n"),
 477     N_("\
 478        --read-timeout=SECS       set the read timeout to SECS.\n"),
 479     N_("\
 480   -w,  --wait=SECONDS            wait SECONDS between retrievals.\n"),
 481     N_("\
 482        --waitretry=SECONDS       wait 1..SECONDS between retries of a retrieval.\n"),
 483     N_("\
 484        --random-wait             wait from 0.5*WAIT...1.5*WAIT secs between retrievals.\n"),
 485     N_("\
 486        --no-proxy                explicitly turn off proxy.\n"),
 487     N_("\
 488   -Q,  --quota=NUMBER            set retrieval quota to NUMBER.\n"),
 489     N_("\
 490        --bind-address=ADDRESS    bind to ADDRESS (hostname or IP) on local host.\n"),
 491     N_("\
 492        --limit-rate=RATE         limit download rate to RATE.\n"),
 493     N_("\
 494        --no-dns-cache            disable caching DNS lookups.\n"),
 495     N_("\
 496        --restrict-file-names=OS  restrict chars in file names to ones OS allows.\n"),
 497     N_("\
 498        --ignore-case             ignore case when matching files/directories.\n"),
 499 #ifdef ENABLE_IPV6
 500     N_("\
 501   -4,  --inet4-only              connect only to IPv4 addresses.\n"),
 502     N_("\
 503   -6,  --inet6-only              connect only to IPv6 addresses.\n"),
 504     N_("\
 505        --prefer-family=FAMILY    connect first to addresses of specified family,\n\
 506                                  one of IPv6, IPv4, or none.\n"),
 507 #endif
 508     N_("\
 509        --user=USER               set both ftp and http user to USER.\n"),
 510     N_("\
 511        --password=PASS           set both ftp and http password to PASS.\n"),
 512     N_("\
 513        --ask-password            prompt for passwords.\n"),
 514     N_("\
 515        --no-iri                  turn off IRI support.\n"),
 516     N_("\
 517        --local-encoding=ENC      use ENC as the local encoding for IRIs.\n"),
 518     N_("\
 519        --remote-encoding=ENC     use ENC as the default remote encoding.\n"),
 520     N_("\
 521        --unlink                  remove file before clobber.\n"),
 522     "\n",
 523
 524     N_("\
 525 Directories:\n"),
 526     N_("\
 527   -nd, --no-directories           don't create directories.\n"),
 528     N_("\
 529   -x,  --force-directories        force creation of directories.\n"),
 530     N_("\
 531   -nH, --no-host-directories      don't create host directories.\n"),
 532     N_("\
 533        --protocol-directories     use protocol name in directories.\n"),
 534     N_("\
 535   -P,  --directory-prefix=PREFIX  save files to PREFIX/...\n"),
 536     N_("\
 537        --cut-dirs=NUMBER          ignore NUMBER remote directory components.\n"),
 538     "\n",
 539
 540     N_("\
 541 HTTP options:\n"),
 542     N_("\
 543        --http-user=USER        set http user to USER.\n"),
 544     N_("\
 545        --http-password=PASS    set http password to PASS.\n"),
 546     N_("\
 547        --no-cache              disallow server-cached data.\n"),
 548     N_ ("\
 549        --default-page=NAME     Change the default page name (normally\n\
 550                                this is `index.html'.).\n"),
 551     N_("\
 552   -E,  --adjust-extension      save HTML/CSS documents with proper extensions.\n"),
 553     N_("\
 554        --ignore-length         ignore `Content-Length' header field.\n"),
 555     N_("\
 556        --header=STRING         insert STRING among the headers.\n"),
 557     N_("\
 558        --max-redirect          maximum redirections allowed per page.\n"),
 559     N_("\
 560        --proxy-user=USER       set USER as proxy username.\n"),
 561     N_("\
 562        --proxy-password=PASS   set PASS as proxy password.\n"),
 563     N_("\
 564        --referer=URL           include `Referer: URL' header in HTTP request.\n"),
 565     N_("\
 566        --save-headers          save the HTTP headers to file.\n"),
 567     N_("\
 568   -U,  --user-agent=AGENT      identify as AGENT instead of Wget/VERSION.\n"),
 569     N_("\
 570        --no-http-keep-alive    disable HTTP keep-alive (persistent connections).\n"),
 571     N_("\
 572        --no-cookies            don't use cookies.\n"),
 573     N_("\
 574        --load-cookies=FILE     load cookies from FILE before session.\n"),
 575     N_("\
 576        --save-cookies=FILE     save cookies to FILE after session.\n"),
 577     N_("\
 578        --keep-session-cookies  load and save session (non-permanent) cookies.\n"),
 579     N_("\
 580        --post-data=STRING      use the POST method; send STRING as the data.\n"),
 581     N_("\
 582        --post-file=FILE        use the POST method; send contents of FILE.\n"),
 583     N_("\
 584        --content-disposition   honor the Content-Disposition header when\n\
 585                                choosing local file names (EXPERIMENTAL).\n"),
 586     N_("\
 587        --auth-no-challenge     send Basic HTTP authentication information\n\
 588                                without first waiting for the server's\n\
 589                                challenge.\n"),
 590     "\n",
 591
 592 #ifdef HAVE_SSL
 593     N_("\
 594 HTTPS (SSL/TLS) options:\n"),
 595     N_("\
 596        --secure-protocol=PR     choose secure protocol, one of auto, SSLv2,\n\
 597                                 SSLv3, and TLSv1.\n"),
 598     N_("\
 599        --no-check-certificate   don't validate the server's certificate.\n"),
 600     N_("\
 601        --certificate=FILE       client certificate file.\n"),
 602     N_("\
 603        --certificate-type=TYPE  client certificate type, PEM or DER.\n"),
 604     N_("\
 605        --private-key=FILE       private key file.\n"),
 606     N_("\
 607        --private-key-type=TYPE  private key type, PEM or DER.\n"),
 608     N_("\
 609        --ca-certificate=FILE    file with the bundle of CA's.\n"),
 610     N_("\
 611        --ca-directory=DIR       directory where hash list of CA's is stored.\n"),
 612     N_("\
 613        --random-file=FILE       file with random data for seeding the SSL PRNG.\n"),
 614     N_("\
 615        --egd-file=FILE          file naming the EGD socket with random data.\n"),
 616     "\n",
 617 #endif /* HAVE_SSL */
 618
 619     N_("\
 620 FTP options:\n"),
 621 #ifdef __VMS
 622     N_("\
 623        --ftp-stmlf             Use Stream_LF format for all binary FTP files.\n"),
 624 #endif /* def __VMS */
 625     N_("\
 626        --ftp-user=USER         set ftp user to USER.\n"),
 627     N_("\
 628        --ftp-password=PASS     set ftp password to PASS.\n"),
 629     N_("\
 630        --no-remove-listing     don't remove `.listing' files.\n"),
 631     N_("\
 632        --no-glob               turn off FTP file name globbing.\n"),
 633     N_("\
 634        --no-passive-ftp        disable the \"passive\" transfer mode.\n"),
 635     N_("\
 636        --retr-symlinks         when recursing, get linked-to files (not dir).\n"),
 637     "\n",
 638
 639     N_("\
 640 Recursive download:\n"),
 641     N_("\
 642   -r,  --recursive          specify recursive download.\n"),
 643     N_("\
 644   -l,  --level=NUMBER       maximum recursion depth (inf or 0 for infinite).\n"),
 645     N_("\
 646        --delete-after       delete files locally after downloading them.\n"),
 647     N_("\
 648   -k,  --convert-links      make links in downloaded HTML or CSS point to\n\
 649                             local files.\n"),
 650 #ifdef __VMS
 651     N_("\
 652   -K,  --backup-converted   before converting file X, back up as X_orig.\n"),
 653 #else /* def __VMS */
 654     N_("\
 655   -K,  --backup-converted   before converting file X, back up as X.orig.\n"),
 656 #endif /* def __VMS [else] */
 657     N_("\
 658   -m,  --mirror             shortcut for -N -r -l inf --no-remove-listing.\n"),
 659     N_("\
 660   -p,  --page-requisites    get all images, etc. needed to display HTML page.\n"),
 661     N_("\
 662        --strict-comments    turn on strict (SGML) handling of HTML comments.\n"),
 663     "\n",
 664
 665     N_("\
 666 Recursive accept/reject:\n"),
 667     N_("\
 668   -A,  --accept=LIST               comma-separated list of accepted extensions.\n"),
 669     N_("\
 670   -R,  --reject=LIST               comma-separated list of rejected extensions.\n"),
 671     N_("\
 672   -D,  --domains=LIST              comma-separated list of accepted domains.\n"),
 673     N_("\
 674        --exclude-domains=LIST      comma-separated list of rejected domains.\n"),
 675     N_("\
 676        --follow-ftp                follow FTP links from HTML documents.\n"),
 677     N_("\
 678        --follow-tags=LIST          comma-separated list of followed HTML tags.\n"),
 679     N_("\
 680        --ignore-tags=LIST          comma-separated list of ignored HTML tags.\n"),
 681     N_("\
 682   -H,  --span-hosts                go to foreign hosts when recursive.\n"),
 683     N_("\
 684   -L,  --relative                  follow relative links only.\n"),
 685     N_("\
 686   -I,  --include-directories=LIST  list of allowed directories.\n"),
 687     N_("\
 688   --trust-server-names             use the name specified by the redirection\n\
 689                                    url last component.\n"),
 690     N_("\
 691   -X,  --exclude-directories=LIST  list of excluded directories.\n"),
 692     N_("\
 693   -np, --no-parent                 don't ascend to the parent directory.\n"),
 694     "\n",
 695
 696     N_("Mail bug reports and suggestions to <bug-wget@gnu.org>.\n")
 697   };
 698
 699   size_t i;
 700
 701   printf (_("GNU Wget %s, a non-interactive network retriever.\n"),
 702           version_string);
 703   print_usage (0);
 704
 705   for (i = 0; i < countof (help); i++)
 706     fputs (_(help[i]), stdout);
 707
 708   exit (0);
 709 }
 710
 711 /* Return a human-readable printed representation of INTERVAL,
 712    measured in seconds.  */
 713
 714 static char *
 715 secs_to_human_time (double interval)
 716 {
 717   static char buf[32];
 718   int secs = (int) (interval + 0.5);
 719   int hours, mins, days;
 720
 721   days = secs / 86400, secs %= 86400;
 722   hours = secs / 3600, secs %= 3600;
 723   mins = secs / 60, secs %= 60;
 724
 725   if (days)
 726     sprintf (buf, "%dd %dh %dm %ds", days, hours, mins, secs);
 727   else if (hours)
 728     sprintf (buf, "%dh %dm %ds", hours, mins, secs);
 729   else if (mins)
 730     sprintf (buf, "%dm %ds", mins, secs);
 731   else
 732     sprintf (buf, "%ss", print_decimal (interval));
 733
 734   return buf;
 735 }
 736
 737 static char *
 738 prompt_for_password (void)
 739 {
 740   if (opt.user)
 741     printf (_("Password for user %s: "), quote (opt.user));
 742   else
 743     printf (_("Password: "));
 744   return getpass("");
 745 }
 746
 747 /* Function that prints the line argument while limiting it
 748    to at most line_length. prefix is printed on the first line
 749    and an appropriate number of spaces are added on subsequent
 750    lines.*/
 751 static void
 752 format_and_print_line (const char *prefix, const char *line,
 753                        int line_length)
 754 {
 755   int remaining_chars;
 756   char *line_dup, *token;
 757
 758   assert (prefix != NULL);
 759   assert (line != NULL);
 760
 761   line_dup = xstrdup (line);
 762
 763   if (line_length <= 0)
 764     line_length = MAX_CHARS_PER_LINE - TABULATION;
 765
 766   printf ("%s", prefix);
 767   remaining_chars = line_length;
 768   /* We break on spaces. */
 769   token = strtok (line_dup, " ");
 770   while (token != NULL)
 771     {
 772       /* If however a token is much larger than the maximum
 773          line length, all bets are off and we simply print the
 774          token on the next line. */
 775       if (remaining_chars <= strlen (token))
 776         {
 777           printf ("\n%*c", TABULATION, ' ');
 778           remaining_chars = line_length - TABULATION;
 779         }
 780       printf ("%s ", token);
 781       remaining_chars -= strlen (token) + 1;  /* account for " " */
 782       token = strtok (NULL, " ");
 783     }
 784
 785   printf ("\n");
 786
 787   xfree (line_dup);
 788 }
 789
 790 static void
 791 print_version (void)
 792 {
 793   const char *wgetrc_title  = _("Wgetrc: ");
 794   const char *locale_title  = _("Locale: ");
 795   const char *compile_title = _("Compile: ");
 796   const char *link_title    = _("Link: ");
 797   char *env_wgetrc, *user_wgetrc;
 798   int i;
 799
 800   printf (_("GNU Wget %s built on %s.\n\n"), version_string, OS_TYPE);
 801
 802   for (i = 0; compiled_features[i] != NULL; )
 803     {
 804       int line_length = MAX_CHARS_PER_LINE;
 805       while ((line_length > 0) && (compiled_features[i] != NULL))
 806         {
 807           printf ("%s ", compiled_features[i]);
 808           line_length -= strlen (compiled_features[i]) + 2;
 809           i++;
 810         }
 811       printf ("\n");
 812     }
 813   printf ("\n");
 814
 815   /* Handle the case when $WGETRC is unset and $HOME/.wgetrc is
 816      absent. */
 817   printf ("%s\n", wgetrc_title);
 818   env_wgetrc = wgetrc_env_file_name ();
 819   if (env_wgetrc && *env_wgetrc)
 820     {
 821       printf (_("    %s (env)\n"), env_wgetrc);
 822       xfree (env_wgetrc);
 823     }
 824   user_wgetrc = wgetrc_user_file_name ();
 825   if (user_wgetrc)
 826     {
 827       printf (_("    %s (user)\n"), user_wgetrc);
 828       xfree (user_wgetrc);
 829     }
 830 #ifdef SYSTEM_WGETRC
 831   printf (_("    %s (system)\n"), SYSTEM_WGETRC);
 832 #endif
 833
 834 #ifdef ENABLE_NLS
 835   format_and_print_line (locale_title,
 836                         LOCALEDIR,
 837                         MAX_CHARS_PER_LINE);
 838 #endif /* def ENABLE_NLS */
 839
 840   if (compilation_string != NULL)
 841     format_and_print_line (compile_title,
 842                            compilation_string,
 843                            MAX_CHARS_PER_LINE);
 844
 845   if (link_string != NULL)
 846     format_and_print_line (link_title,
 847                            link_string,
 848                            MAX_CHARS_PER_LINE);
 849
 850   printf ("\n");
 851   /* TRANSLATORS: When available, an actual copyright character
 852      (cirle-c) should be used in preference to "(C)". */
 853   fputs (_("\
 854 Copyright (C) 2009 Free Software Foundation, Inc.\n"), stdout);
 855   fputs (_("\
 856 License GPLv3+: GNU GPL version 3 or later\n\
 857 <http://www.gnu.org/licenses/gpl.html>.\n\
 858 This is free software: you are free to change and redistribute it.\n\
 859 There is NO WARRANTY, to the extent permitted by law.\n"), stdout);
 860   /* TRANSLATORS: When available, please use the proper diacritics for
 861      names such as this one. See en_US.po for reference. */
 862   fputs (_("\nOriginally written by Hrvoje Niksic <hniksic@xemacs.org>.\n"),
 863          stdout);
 864   fputs (_("Please send bug reports and questions to <bug-wget@gnu.org>.\n"),
 865          stdout);
 866   exit (0);
 867 }
 868
 869 char *program_name; /* Needed by lib/error.c. */
 870
 871 int
 872 main (int argc, char **argv)
 873 {
 874   char **url, **t;
 875   int i, ret, longindex;
 876   int nurl;
 877   bool append_to_log = false;
 878
 879   program_name = argv[0];
 880
 881   struct ptimer *timer = ptimer_new ();
 882   double start_time = ptimer_measure (timer);
 883
 884   i18n_initialize ();
 885
 886   /* Construct the name of the executable, without the directory part.  */
 887 #ifdef __VMS
 888   /* On VMS, lose the "dev:[dir]" prefix and the ".EXE;nnn" suffix. */
 889   exec_name = vms_basename (argv[0]);
 890 #else /* def __VMS */
 891   exec_name = strrchr (argv[0], PATH_SEPARATOR);
 892   if (!exec_name)
 893     exec_name = argv[0];
 894   else
 895     ++exec_name;
 896 #endif /* def __VMS [else] */
 897
 898 #ifdef WINDOWS
 899   /* Drop extension (typically .EXE) from executable filename. */
 900   windows_main ((char **) &exec_name);
 901 #endif
 902
 903   /* Set option defaults; read the system wgetrc and ~/.wgetrc.  */
 904   initialize ();
 905
 906   init_switches ();
 907   longindex = -1;
 908   while ((ret = getopt_long (argc, argv,
 909                              short_options, long_options, &longindex)) != -1)
 910     {
 911       int val;
 912       struct cmdline_option *opt;
 913
 914       /* If LONGINDEX is unchanged, it means RET is referring a short
 915          option.  */
 916       if (longindex == -1)
 917         {
 918           if (ret == '?')
 919             {
 920               print_usage (0);
 921               printf ("\n");
 922               printf (_("Try `%s --help' for more options.\n"), exec_name);
 923               exit (2);
 924             }
 925           /* Find the short option character in the mapping.  */
 926           longindex = optmap[ret - 32];
 927         }
 928       val = long_options[longindex].val;
 929
 930       /* Use the retrieved value to locate the option in the
 931          option_data array, and to see if we're dealing with the
 932          negated "--no-FOO" variant of the boolean option "--foo".  */
 933       opt = &option_data[val & ~BOOLEAN_NEG_MARKER];
 934       switch (opt->type)
 935         {
 936         case OPT_VALUE:
 937           setoptval (opt->data, optarg, opt->long_name);
 938           break;
 939         case OPT_BOOLEAN:
 940           if (optarg)
 941             /* The user has specified a value -- use it. */
 942             setoptval (opt->data, optarg, opt->long_name);
 943           else
 944             {
 945               /* NEG is true for `--no-FOO' style boolean options. */
 946               bool neg = !!(val & BOOLEAN_NEG_MARKER);
 947               setoptval (opt->data, neg ? "0" : "1", opt->long_name);
 948             }
 949           break;
 950         case OPT_FUNCALL:
 951           {
 952             void (*func) (void) = (void (*) (void)) opt->data;
 953             func ();
 954           }
 955           break;
 956         case OPT__APPEND_OUTPUT:
 957           setoptval ("logfile", optarg, opt->long_name);
 958           append_to_log = true;
 959           break;
 960         case OPT__EXECUTE:
 961           run_command (optarg);
 962           break;
 963         case OPT__NO:
 964           {
 965             /* We support real --no-FOO flags now, but keep these
 966                short options for convenience and backward
 967                compatibility.  */
 968             char *p;
 969             for (p = optarg; p && *p; p++)
 970               switch (*p)
 971                 {
 972                 case 'v':
 973                   setoptval ("verbose", "0", opt->long_name);
 974                   break;
 975                 case 'H':
 976                   setoptval ("addhostdir", "0", opt->long_name);
 977                   break;
 978                 case 'd':
 979                   setoptval ("dirstruct", "0", opt->long_name);
 980                   break;
 981                 case 'c':
 982                   setoptval ("noclobber", "1", opt->long_name);
 983                   break;
 984                 case 'p':
 985                   setoptval ("noparent", "1", opt->long_name);
 986                   break;
 987                 default:
 988                   fprintf (stderr, _("%s: illegal option -- `-n%c'\n"),
 989                            exec_name, *p);
 990                   print_usage (1);
 991                   fprintf (stderr, "\n");
 992                   fprintf (stderr, _("Try `%s --help' for more options.\n"),
 993                            exec_name);
 994                   exit (1);
 995                 }
 996             break;
 997           }
 998         case OPT__PARENT:
 999         case OPT__CLOBBER:
1000           {
1001             /* The wgetrc commands are named noparent and noclobber,
1002                so we must revert the meaning of the cmdline options
1003                before passing the value to setoptval.  */
1004             bool flag = true;
1005             if (optarg)
1006               flag = (*optarg == '1' || c_tolower (*optarg) == 'y'
1007                       || (c_tolower (optarg[0]) == 'o'
1008                           && c_tolower (optarg[1]) == 'n'));
1009             setoptval (opt->type == OPT__PARENT ? "noparent" : "noclobber",
1010                        flag ? "0" : "1", opt->long_name);
1011             break;
1012           }
1013         case OPT__DONT_REMOVE_LISTING:
1014           setoptval ("removelisting", "0", opt->long_name);
1015           break;
1016         }
1017
1018       longindex = -1;
1019     }
1020
1021   nurl = argc - optind;
1022
1023   /* All user options have now been processed, so it's now safe to do
1024      interoption dependency checks. */
1025
1026   if (opt.reclevel == 0)
1027       opt.reclevel = INFINITE_RECURSION; /* see recur.h for commentary */
1028
1029   if (opt.spider || opt.delete_after)
1030       opt.no_dirstruct = true;
1031
1032   if (opt.page_requisites && !opt.recursive)
1033     {
1034       /* Don't set opt.recursive here because it would confuse the FTP
1035          code.  Instead, call retrieve_tree below when either
1036          page_requisites or recursive is requested.  */
1037       opt.reclevel = 0;
1038       if (!opt.no_dirstruct)
1039         opt.dirstruct = 1;      /* normally handled by cmd_spec_recursive() */
1040     }
1041
1042   if (opt.verbose == -1)
1043     opt.verbose = !opt.quiet;
1044
1045   /* Sanity checks.  */
1046   if (opt.verbose && opt.quiet)
1047     {
1048       fprintf (stderr, _("Can't be verbose and quiet at the same time.\n"));
1049       print_usage (1);
1050       exit (1);
1051     }
1052   if (opt.timestamping && opt.noclobber)
1053     {
1054       fprintf (stderr, _("\
1055 Can't timestamp and not clobber old files at the same time.\n"));
1056       print_usage (1);
1057       exit (1);
1058     }
1059 #ifdef ENABLE_IPV6
1060   if (opt.ipv4_only && opt.ipv6_only)
1061     {
1062       fprintf (stderr,
1063                _("Cannot specify both --inet4-only and --inet6-only.\n"));
1064       print_usage (1);
1065       exit (1);
1066     }
1067 #endif
1068   if (opt.output_document)
1069     {
1070       if (opt.convert_links
1071           && (nurl > 1 || opt.page_requisites || opt.recursive))
1072         {
1073           fputs (_("\
1074 Cannot specify both -k and -O if multiple URLs are given, or in combination\n\
1075 with -p or -r. See the manual for details.\n\n"), stderr);
1076           print_usage (1);
1077           exit (1);
1078         }
1079       if (opt.page_requisites
1080           || opt.recursive)
1081         {
1082           logprintf (LOG_NOTQUIET, "%s", _("\
1083 WARNING: combining -O with -r or -p will mean that all downloaded content\n\
1084 will be placed in the single file you specified.\n\n"));
1085         }
1086       if (opt.timestamping)
1087         {
1088           logprintf (LOG_NOTQUIET, "%s", _("\
1089 WARNING: timestamping does nothing in combination with -O. See the manual\n\
1090 for details.\n\n"));
1091           opt.timestamping = false;
1092         }
1093       if (opt.noclobber && file_exists_p(opt.output_document))
1094            {
1095               /* Check if output file exists; if it does, exit. */
1096               logprintf (LOG_VERBOSE,
1097                          _("File `%s' already there; not retrieving.\n"),
1098                          opt.output_document);
1099               exit(1);
1100            }
1101     }
1102
1103   if (opt.ask_passwd && opt.passwd)
1104     {
1105       fprintf (stderr,
1106                _("Cannot specify both --ask-password and --password.\n"));
1107       print_usage (1);
1108       exit (1);
1109     }
1110
1111   if (!nurl && !opt.input_filename)
1112     {
1113       /* No URL specified.  */
1114       fprintf (stderr, _("%s: missing URL\n"), exec_name);
1115       print_usage (1);
1116       printf ("\n");
1117       /* #### Something nicer should be printed here -- similar to the
1118          pre-1.5 `--help' page.  */
1119       fprintf (stderr, _("Try `%s --help' for more options.\n"), exec_name);
1120       exit (1);
1121     }
1122
1123 #ifdef ENABLE_IRI
1124   if (opt.enable_iri)
1125     {
1126       if (opt.locale && !check_encoding_name (opt.locale))
1127         opt.locale = NULL;
1128
1129       if (!opt.locale)
1130         opt.locale = find_locale ();
1131
1132       if (opt.encoding_remote && !check_encoding_name (opt.encoding_remote))
1133         opt.encoding_remote = NULL;
1134     }
1135 #else
1136   if (opt.enable_iri || opt.locale || opt.encoding_remote)
1137     {
1138       /* sXXXav : be more specific... */
1139       fprintf (stderr, _("This version does not have support for IRIs\n"));
1140       exit(1);
1141     }
1142 #endif
1143
1144   if (opt.ask_passwd)
1145     {
1146       opt.passwd = prompt_for_password ();
1147
1148       if (opt.passwd == NULL || opt.passwd[0] == '\0')
1149         exit (1);
1150     }
1151
1152 #ifdef USE_WATT32
1153   if (opt.wdebug)
1154      dbug_init();
1155   sock_init();
1156 #else
1157   if (opt.background)
1158     fork_to_background ();
1159 #endif
1160
1161   /* Initialize progress.  Have to do this after the options are
1162      processed so we know where the log file is.  */
1163   if (opt.verbose)
1164     set_progress_implementation (opt.progress_type);
1165
1166   /* Fill in the arguments.  */
1167   url = alloca_array (char *, nurl + 1);
1168   for (i = 0; i < nurl; i++, optind++)
1169     {
1170       char *rewritten = rewrite_shorthand_url (argv[optind]);
1171       if (rewritten)
1172         url[i] = rewritten;
1173       else
1174         url[i] = xstrdup (argv[optind]);
1175     }
1176   url[i] = NULL;
1177
1178   /* Initialize logging.  */
1179   log_init (opt.lfilename, append_to_log);
1180
1181   DEBUGP (("DEBUG output created by Wget %s on %s.\n\n",
1182            version_string, OS_TYPE));
1183
1184   /* Open the output filename if necessary.  */
1185
1186 /* 2005-04-17 SMS.
1187    Note that having the output_stream ("-O") file opened here for an FTP
1188    URL rather than in getftp() (ftp.c) (and the http equivalent) rather
1189    limits the ability in VMS to open the file differently for ASCII
1190    versus binary FTP there.  (Of course, doing it here allows a open
1191    failure to be detected immediately, without first connecting to the
1192    server.)
1193 */
1194   if (opt.output_document)
1195     {
1196       if (HYPHENP (opt.output_document))
1197         {
1198 #ifdef WINDOWS
1199           FILE *result;
1200           result = freopen ("CONOUT$", "wb", stdout);
1201           if (result == NULL)
1202             {
1203               logputs (LOG_NOTQUIET, _("\
1204 WARNING: Can't reopen standard output in binary mode;\n\
1205          downloaded file may contain inappropriate line endings.\n"));
1206             }
1207 #endif
1208           output_stream = stdout;
1209         }
1210       else
1211         {
1212           struct_fstat st;
1213
1214 #ifdef __VMS
1215 /* Common fopen() optional arguments:
1216    sequential access only, access callback function.
1217 */
1218 # define FOPEN_OPT_ARGS , "fop=sqo", "acc", acc_cb, &open_id
1219           int open_id = 7;
1220 #else /* def __VMS */
1221 # define FOPEN_OPT_ARGS
1222 #endif /* def __VMS [else] */
1223
1224           output_stream = fopen (opt.output_document,
1225                                  opt.always_rest ? "ab" : "wb"
1226                                  FOPEN_OPT_ARGS);
1227           if (output_stream == NULL)
1228             {
1229               perror (opt.output_document);
1230               exit (1);
1231             }
1232           if (fstat (fileno (output_stream), &st) == 0 && S_ISREG (st.st_mode))
1233             output_stream_regular = true;
1234         }
1235       if (!output_stream_regular && opt.convert_links)
1236         {
1237           fprintf (stderr, _("-k can be used together with -O only if \
1238 outputting to a regular file.\n"));
1239           print_usage (1);
1240           exit(1);
1241         }
1242     }
1243
1244 #ifdef __VMS
1245   /* Set global ODS5 flag according to the specified destination (if
1246      any), otherwise according to the current default device.
1247   */
1248   if (output_stream == NULL)
1249     set_ods5_dest( "SYS$DISK");
1250   else if (output_stream != stdout)
1251     set_ods5_dest( opt.output_document);
1252 #endif /* def __VMS */
1253
1254 #ifdef WINDOWS
1255   ws_startup ();
1256 #endif
1257
1258 #ifdef SIGHUP
1259   /* Setup the signal handler to redirect output when hangup is
1260      received.  */
1261   if (signal(SIGHUP, SIG_IGN) != SIG_IGN)
1262     signal(SIGHUP, redirect_output_signal);
1263 #endif
1264   /* ...and do the same for SIGUSR1.  */
1265 #ifdef SIGUSR1
1266   signal (SIGUSR1, redirect_output_signal);
1267 #endif
1268 #ifdef SIGPIPE
1269   /* Writing to a closed socket normally signals SIGPIPE, and the
1270      process exits.  What we want is to ignore SIGPIPE and just check
1271      for the return value of write().  */
1272   signal (SIGPIPE, SIG_IGN);
1273 #endif
1274 #ifdef SIGWINCH
1275   signal (SIGWINCH, progress_handle_sigwinch);
1276 #endif
1277
1278   /* Retrieve the URLs from argument list.  */
1279   for (t = url; *t; t++)
1280     {
1281       char *filename = NULL, *redirected_URL = NULL;
1282       int dt, url_err;
1283       /* Need to do a new struct iri every time, because
1284        * retrieve_url may modify it in some circumstances,
1285        * currently. */
1286       struct iri *iri = iri_new ();
1287       struct url *url_parsed;
1288
1289       set_uri_encoding (iri, opt.locale, true);
1290       url_parsed = url_parse (*t, &url_err, iri, true);
1291
1292       if (!url_parsed)
1293         {
1294           char *error = url_error (*t, url_err);
1295           logprintf (LOG_NOTQUIET, "%s: %s.\n",*t, error);
1296           xfree (error);
1297         }
1298       else
1299         {
1300           if ((opt.recursive || opt.page_requisites)
1301               && (url_scheme (*t) != SCHEME_FTP || url_uses_proxy (url_parsed)))
1302             {
1303               int old_follow_ftp = opt.follow_ftp;
1304
1305               /* Turn opt.follow_ftp on in case of recursive FTP retrieval */
1306               if (url_scheme (*t) == SCHEME_FTP)
1307                 opt.follow_ftp = 1;
1308
1309               retrieve_tree (url_parsed, NULL);
1310
1311               opt.follow_ftp = old_follow_ftp;
1312             }
1313           else
1314           {
1315             retrieve_url (url_parsed, *t, &filename, &redirected_URL, NULL,
1316                           &dt, opt.recursive, iri, true);
1317           }
1318
1319           if (opt.delete_after && file_exists_p(filename))
1320             {
1321               DEBUGP (("Removing file due to --delete-after in main():\n"));
1322               logprintf (LOG_VERBOSE, _("Removing %s.\n"), filename);
1323               if (unlink (filename))
1324                 logprintf (LOG_NOTQUIET, "unlink: %s\n", strerror (errno));
1325             }
1326           xfree_null (redirected_URL);
1327           xfree_null (filename);
1328           url_free (url_parsed);
1329         }
1330       iri_free (iri);
1331     }
1332
1333   /* And then from the input file, if any.  */
1334   if (opt.input_filename)
1335     {
1336       int count;
1337       retrieve_from_file (opt.input_filename, opt.force_html, &count);
1338       if (!count)
1339         logprintf (LOG_NOTQUIET, _("No URLs found in %s.\n"),
1340                    opt.input_filename);
1341     }
1342
1343   /* Print broken links. */
1344   if (opt.recursive && opt.spider)
1345     print_broken_links ();
1346
1347   /* Print the downloaded sum.  */
1348   if ((opt.recursive || opt.page_requisites
1349        || nurl > 1
1350        || (opt.input_filename && total_downloaded_bytes != 0))
1351       &&
1352       total_downloaded_bytes != 0)
1353     {
1354       double end_time = ptimer_measure (timer);
1355       ptimer_destroy (timer);
1356
1357       char *wall_time = xstrdup (secs_to_human_time (end_time - start_time));
1358       char *download_time = xstrdup (secs_to_human_time (total_download_time));
1359       logprintf (LOG_NOTQUIET,
1360                  _("FINISHED --%s--\nTotal wall clock time: %s\n"
1361                    "Downloaded: %d files, %s in %s (%s)\n"),
1362                  datetime_str (time (NULL)),
1363                  wall_time,
1364                  numurls,
1365                  human_readable (total_downloaded_bytes),
1366                  download_time,
1367                  retr_rate (total_downloaded_bytes, total_download_time));
1368       xfree (wall_time);
1369       xfree (download_time);
1370
1371       /* Print quota warning, if exceeded.  */
1372       if (opt.quota && total_downloaded_bytes > opt.quota)
1373         logprintf (LOG_NOTQUIET,
1374                    _("Download quota of %s EXCEEDED!\n"),
1375                    human_readable (opt.quota));
1376     }
1377
1378   if (opt.cookies_output)
1379     save_cookies ();
1380
1381   if (opt.convert_links && !opt.delete_after)
1382     convert_all_links ();
1383
1384   log_close ();
1385   for (i = 0; i < nurl; i++)
1386     xfree (url[i]);
1387   cleanup ();
1388
1389   return get_exit_status ();
1390 }
1391 #endif /* TESTING */
1392 \f
1393 #if defined(SIGHUP) || defined(SIGUSR1)
1394
1395 /* So the signal_name check doesn't blow when only one is available. */
1396 #ifndef SIGHUP
1397 # define SIGHUP -1
1398 #endif
1399 #ifndef SIGUSR1
1400 # define SIGUSR1 -1
1401 #endif
1402
1403 /* Hangup signal handler.  When wget receives SIGHUP or SIGUSR1, it
1404    will proceed operation as usual, trying to write into a log file.
1405    If that is impossible, the output will be turned off.  */
1406
1407 static void
1408 redirect_output_signal (int sig)
1409 {
1410   const char *signal_name = (sig == SIGHUP ? "SIGHUP" :
1411                              (sig == SIGUSR1 ? "SIGUSR1" :
1412                               "WTF?!"));
1413   log_request_redirect_output (signal_name);
1414   progress_schedule_redirect ();
1415   signal (sig, redirect_output_signal);
1416 }
1417 #endif
1418
1419 /*
1420  * vim: et ts=2 sw=2
1421  */