sjero.net Git - wget/blob - src/main.c

   1 /* Command line parsing.
   2    Copyright (C) 2003, 2004, 2005 Free Software Foundation, Inc.
   3
   4 This file is part of GNU Wget.
   5
   6 GNU Wget is free software; you can redistribute it and/or modify
   7 it under the terms of the GNU General Public License as published by
   8 the Free Software Foundation; either version 2 of the License, or
   9 (at your option) any later version.
  10
  11 GNU Wget is distributed in the hope that it will be useful,
  12 but WITHOUT ANY WARRANTY; without even the implied warranty of
  13 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14 GNU General Public License for more details.
  15
  16 You should have received a copy of the GNU General Public License
  17 along with Wget; if not, write to the Free Software
  18 Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  19
  20 In addition, as a special exception, the Free Software Foundation
  21 gives permission to link the code of its release of Wget with the
  22 OpenSSL project's "OpenSSL" library (or with modified versions of it
  23 that use the same license as the "OpenSSL" library), and distribute
  24 the linked executables.  You must obey the GNU General Public License
  25 in all respects for all of the code used other than "OpenSSL".  If you
  26 modify this file, you may extend this exception to your version of the
  27 file, but you are not obligated to do so.  If you do not wish to do
  28 so, delete this exception statement from your version.  */
  29
  30 #include <config.h>
  31
  32 #include <stdio.h>
  33 #include <stdlib.h>
  34 #ifdef HAVE_UNISTD_H
  35 # include <unistd.h>
  36 #endif /* HAVE_UNISTD_H */
  37 #include <sys/types.h>
  38 #ifdef HAVE_STRING_H
  39 # include <string.h>
  40 #else
  41 # include <strings.h>
  42 #endif /* HAVE_STRING_H */
  43 #ifdef HAVE_SIGNAL_H
  44 # include <signal.h>
  45 #endif
  46 #ifdef HAVE_NLS
  47 #ifdef HAVE_LOCALE_H
  48 # include <locale.h>
  49 #endif /* HAVE_LOCALE_H */
  50 #endif /* HAVE_NLS */
  51 #include <assert.h>
  52
  53 #include <errno.h>
  54 #ifndef errno
  55 extern int errno;
  56 #endif
  57
  58 #include "wget.h"
  59 #include "utils.h"
  60 #include "init.h"
  61 #include "retr.h"
  62 #include "recur.h"
  63 #include "host.h"
  64 #include "url.h"
  65 #include "progress.h"           /* for progress_handle_sigwinch */
  66 #include "convert.h"
  67
  68 /* On GNU system this will include system-wide getopt.h. */
  69 #include "getopt.h"
  70
  71 #ifndef PATH_SEPARATOR
  72 # define PATH_SEPARATOR '/'
  73 #endif
  74
  75 struct options opt;
  76
  77 extern LARGE_INT total_downloaded_bytes;
  78 extern char *version_string;
  79
  80 extern struct cookie_jar *wget_cookie_jar;
  81
  82 static RETSIGTYPE redirect_output_signal PARAMS ((int));
  83
  84 const char *exec_name;
  85 \f
  86 /* Initialize I18N/L10N.  That amounts to invoking setlocale, and
  87    setting up gettext's message catalog using bindtextdomain and
  88    textdomain.  Does nothing if NLS is disabled or missing.  */
  89
  90 static void
  91 i18n_initialize (void)
  92 {
  93   /* HAVE_NLS implies existence of functions invoked here.  */
  94 #ifdef HAVE_NLS
  95   /* Set the current locale.  */
  96   /* Where possible, sets only LC_MESSAGES and LC_CTYPE.  Other
  97      categories, such as numeric, time, or collation, break code that
  98      parses data received from the network and relies on C-locale
  99      behavior of libc functions.  For example, Solaris strptime fails
 100      to recognize English month names in non-English locales, which
 101      breaks http_atotm.  Some implementations of fnmatch perform
 102      unwanted case folding in non-C locales.  ctype macros, while they
 103      were used, provided another example against LC_ALL.  */
 104 #if defined(LC_MESSAGES) && defined(LC_CTYPE)
 105   setlocale (LC_MESSAGES, "");
 106   setlocale (LC_CTYPE, "");     /* safe because we use safe-ctype */
 107 #else
 108   setlocale (LC_ALL, "");
 109 #endif
 110   /* Set the text message domain.  */
 111   bindtextdomain ("wget", LOCALEDIR);
 112   textdomain ("wget");
 113 #endif /* HAVE_NLS */
 114 }
 115 \f
 116 /* Definition of command-line options. */
 117
 118 static void print_help PARAMS ((void));
 119 static void print_version PARAMS ((void));
 120
 121 #ifdef HAVE_SSL
 122 # define IF_SSL(x) x
 123 #else
 124 # define IF_SSL(x) NULL
 125 #endif
 126
 127 #ifdef ENABLE_DEBUG
 128 # define IF_DEBUG(x) x
 129 #else
 130 # define IF_DEBUG(x) NULL
 131 #endif
 132
 133 struct cmdline_option {
 134   const char *long_name;
 135   char short_name;
 136   enum {
 137     OPT_VALUE,
 138     OPT_BOOLEAN,
 139     OPT_FUNCALL,
 140     /* Non-standard options that have to be handled specially in
 141        main().  */
 142     OPT__APPEND_OUTPUT,
 143     OPT__CLOBBER,
 144     OPT__DONT_REMOVE_LISTING,
 145     OPT__EXECUTE,
 146     OPT__NO,
 147     OPT__PARENT
 148   } type;
 149   const void *data;             /* for standard options */
 150   int argtype;                  /* for non-standard options */
 151 };
 152
 153 struct cmdline_option option_data[] =
 154   {
 155     { "accept", 'A', OPT_VALUE, "accept", -1 },
 156     { "append-output", 'a', OPT__APPEND_OUTPUT, NULL, required_argument },
 157     { "background", 'b', OPT_BOOLEAN, "background", -1 },
 158     { "backup-converted", 'K', OPT_BOOLEAN, "backupconverted", -1 },
 159     { "backups", 0, OPT_BOOLEAN, "backups", -1 },
 160     { "base", 'B', OPT_VALUE, "base", -1 },
 161     { "bind-address", 0, OPT_VALUE, "bindaddress", -1 },
 162     { IF_SSL ("ca-certificate"), 0, OPT_VALUE, "cacertificate", -1 },
 163     { IF_SSL ("ca-directory"), 0, OPT_VALUE, "cadirectory", -1 },
 164     { "cache", 0, OPT_BOOLEAN, "cache", -1 },
 165     { IF_SSL ("certificate"), 0, OPT_VALUE, "certificate", -1 },
 166     { IF_SSL ("certificate-type"), 0, OPT_VALUE, "certificatetype", -1 },
 167     { IF_SSL ("check-certificate"), 0, OPT_BOOLEAN, "checkcertificate", -1 },
 168     { "clobber", 0, OPT__CLOBBER, NULL, optional_argument },
 169     { "connect-timeout", 0, OPT_VALUE, "connecttimeout", -1 },
 170     { "continue", 'c', OPT_BOOLEAN, "continue", -1 },
 171     { "convert-links", 'k', OPT_BOOLEAN, "convertlinks", -1 },
 172     { "cookies", 0, OPT_BOOLEAN, "cookies", -1 },
 173     { "cut-dirs", 0, OPT_VALUE, "cutdirs", -1 },
 174     { IF_DEBUG ("debug"), 'd', OPT_BOOLEAN, "debug", -1 },
 175     { "delete-after", 0, OPT_BOOLEAN, "deleteafter", -1 },
 176     { "directories", 0, OPT_BOOLEAN, "dirstruct", -1 },
 177     { "directory-prefix", 'P', OPT_VALUE, "dirprefix", -1 },
 178     { "dns-cache", 0, OPT_BOOLEAN, "dnscache", -1 },
 179     { "dns-timeout", 0, OPT_VALUE, "dnstimeout", -1 },
 180     { "domains", 'D', OPT_VALUE, "domains", -1 },
 181     { "dont-remove-listing", 0, OPT__DONT_REMOVE_LISTING, NULL, no_argument },
 182     { "dot-style", 0, OPT_VALUE, "dotstyle", -1 },
 183     { "egd-file", 0, OPT_VALUE, "egdfile", -1 },
 184     { "exclude-directories", 'X', OPT_VALUE, "excludedirectories", -1 },
 185     { "exclude-domains", 0, OPT_VALUE, "excludedomains", -1 },
 186     { "execute", 'e', OPT__EXECUTE, NULL, required_argument },
 187     { "follow-ftp", 0, OPT_BOOLEAN, "followftp", -1 },
 188     { "follow-tags", 0, OPT_VALUE, "followtags", -1 },
 189     { "force-directories", 'x', OPT_BOOLEAN, "dirstruct", -1 },
 190     { "force-html", 'F', OPT_BOOLEAN, "forcehtml", -1 },
 191     { "ftp-password", 0, OPT_VALUE, "ftppassword", -1 },
 192     { "ftp-user", 0, OPT_VALUE, "ftpuser", -1 },
 193     { "glob", 0, OPT_BOOLEAN, "glob", -1 },
 194     { "header", 0, OPT_VALUE, "header", -1 },
 195     { "help", 'h', OPT_FUNCALL, (void *)print_help, no_argument },
 196     { "host-directories", 0, OPT_BOOLEAN, "addhostdir", -1 },
 197     { "html-extension", 'E', OPT_BOOLEAN, "htmlextension", -1 },
 198     { "htmlify", 0, OPT_BOOLEAN, "htmlify", -1 },
 199     { "http-keep-alive", 0, OPT_BOOLEAN, "httpkeepalive", -1 },
 200     { "http-passwd", 0, OPT_VALUE, "httppassword", -1 }, /* deprecated */
 201     { "http-password", 0, OPT_VALUE, "httppassword", -1 },
 202     { "http-user", 0, OPT_VALUE, "httpuser", -1 },
 203     { "ignore-length", 0, OPT_BOOLEAN, "ignorelength", -1 },
 204     { "ignore-tags", 0, OPT_VALUE, "ignoretags", -1 },
 205     { "include-directories", 'I', OPT_VALUE, "includedirectories", -1 },
 206 #ifdef ENABLE_IPV6
 207     { "inet4-only", '4', OPT_BOOLEAN, "inet4only", -1 },
 208     { "inet6-only", '6', OPT_BOOLEAN, "inet6only", -1 },
 209 #endif
 210     { "input-file", 'i', OPT_VALUE, "input", -1 },
 211     { "keep-session-cookies", 0, OPT_BOOLEAN, "keepsessioncookies", -1 },
 212     { "level", 'l', OPT_VALUE, "reclevel", -1 },
 213     { "limit-rate", 0, OPT_VALUE, "limitrate", -1 },
 214     { "load-cookies", 0, OPT_VALUE, "loadcookies", -1 },
 215     { "mirror", 'm', OPT_BOOLEAN, "mirror", -1 },
 216     { "no", 'n', OPT__NO, NULL, required_argument },
 217     { "no-clobber", 0, OPT_BOOLEAN, "noclobber", -1 },
 218     { "no-parent", 0, OPT_BOOLEAN, "noparent", -1 },
 219     { "output-document", 'O', OPT_VALUE, "outputdocument", -1 },
 220     { "output-file", 'o', OPT_VALUE, "logfile", -1 },
 221     { "page-requisites", 'p', OPT_BOOLEAN, "pagerequisites", -1 },
 222     { "parent", 0, OPT__PARENT, NULL, optional_argument },
 223     { "passive-ftp", 0, OPT_BOOLEAN, "passiveftp", -1 },
 224     { "password", 0, OPT_VALUE, "password", -1 },
 225     { "post-data", 0, OPT_VALUE, "postdata", -1 },
 226     { "post-file", 0, OPT_VALUE, "postfile", -1 },
 227     { "prefer-family", 0, OPT_VALUE, "preferfamily", -1 },
 228     { "preserve-permissions", 0, OPT_BOOLEAN, "preservepermissions", -1 },
 229     { IF_SSL ("private-key"), 0, OPT_VALUE, "privatekey", -1 },
 230     { IF_SSL ("private-key-type"), 0, OPT_VALUE, "privatekeytype", -1 },
 231     { "progress", 0, OPT_VALUE, "progress", -1 },
 232     { "protocol-directories", 0, OPT_BOOLEAN, "protocoldirectories", -1 },
 233     { "proxy", 0, OPT_BOOLEAN, "useproxy", -1 },
 234     { "proxy__compat", 'Y', OPT_VALUE, "useproxy", -1 }, /* back-compatible */
 235     { "proxy-passwd", 0, OPT_VALUE, "proxypassword", -1 }, /* deprecated */
 236     { "proxy-password", 0, OPT_VALUE, "proxypassword", -1 },
 237     { "proxy-user", 0, OPT_VALUE, "proxyuser", -1 },
 238     { "quiet", 'q', OPT_BOOLEAN, "quiet", -1 },
 239     { "quota", 'Q', OPT_VALUE, "quota", -1 },
 240     { "random-file", 0, OPT_VALUE, "randomfile", -1 },
 241     { "random-wait", 0, OPT_BOOLEAN, "randomwait", -1 },
 242     { "read-timeout", 0, OPT_VALUE, "readtimeout", -1 },
 243     { "recursive", 'r', OPT_BOOLEAN, "recursive", -1 },
 244     { "referer", 0, OPT_VALUE, "referer", -1 },
 245     { "reject", 'R', OPT_VALUE, "reject", -1 },
 246     { "relative", 'L', OPT_BOOLEAN, "relativeonly", -1 },
 247     { "remove-listing", 0, OPT_BOOLEAN, "removelisting", -1 },
 248     { "restrict-file-names", 0, OPT_BOOLEAN, "restrictfilenames", -1 },
 249     { "retr-symlinks", 0, OPT_BOOLEAN, "retrsymlinks", -1 },
 250     { "retry-connrefused", 0, OPT_BOOLEAN, "retryconnrefused", -1 },
 251     { "save-cookies", 0, OPT_VALUE, "savecookies", -1 },
 252     { "save-headers", 0, OPT_BOOLEAN, "saveheaders", -1 },
 253     { IF_SSL ("secure-protocol"), 0, OPT_VALUE, "secureprotocol", -1 },
 254     { "server-response", 'S', OPT_BOOLEAN, "serverresponse", -1 },
 255     { "span-hosts", 'H', OPT_BOOLEAN, "spanhosts", -1 },
 256     { "spider", 0, OPT_BOOLEAN, "spider", -1 },
 257     { "strict-comments", 0, OPT_BOOLEAN, "strictcomments", -1 },
 258     { "timeout", 'T', OPT_VALUE, "timeout", -1 },
 259     { "timestamping", 'N', OPT_BOOLEAN, "timestamping", -1 },
 260     { "tries", 't', OPT_VALUE, "tries", -1 },
 261     { "user", 0, OPT_VALUE, "user", -1 },
 262     { "user-agent", 'U', OPT_VALUE, "useragent", -1 },
 263     { "verbose", 'v', OPT_BOOLEAN, "verbose", -1 },
 264     { "verbose", 0, OPT_BOOLEAN, "verbose", -1 },
 265     { "version", 'V', OPT_FUNCALL, (void *) print_version, no_argument },
 266     { "wait", 'w', OPT_VALUE, "wait", -1 },
 267     { "waitretry", 0, OPT_VALUE, "waitretry", -1 },
 268   };
 269
 270 #undef IF_DEBUG
 271 #undef IF_SSL
 272
 273 /* Return a string that contains S with "no-" prepended.  The string
 274    is NUL-terminated and allocated off static storage at Wget
 275    startup.  */
 276
 277 static char *
 278 no_prefix (const char *s)
 279 {
 280   static char buffer[1024];
 281   static char *p = buffer;
 282
 283   char *cp = p;
 284   int size = 3 + strlen (s) + 1;  /* "no-STRING\0" */
 285   if (p + size >= buffer + sizeof (buffer))
 286     abort ();
 287
 288   cp[0] = 'n', cp[1] = 'o', cp[2] = '-';
 289   strcpy (cp + 3, s);
 290   p += size;
 291   return cp;
 292 }
 293
 294 /* The arguments that that main passes to getopt_long. */
 295 static struct option long_options[2 * countof (option_data) + 1];
 296 static char short_options[128];
 297
 298 /* Mapping between short option chars and option_data indices. */
 299 static unsigned char optmap[96];
 300
 301 /* Marker for `--no-FOO' values in long_options.  */
 302 #define BOOLEAN_NEG_MARKER 1024
 303
 304 /* Initialize the long_options array used by getopt_long from the data
 305    in option_data.  */
 306
 307 static void
 308 init_switches (void)
 309 {
 310   char *p = short_options;
 311   int i, o = 0;
 312   for (i = 0; i < countof (option_data); i++)
 313     {
 314       struct cmdline_option *opt = &option_data[i];
 315       struct option *longopt;
 316
 317       if (!opt->long_name)
 318         /* The option is disabled. */
 319         continue;
 320
 321       longopt = &long_options[o++];
 322       longopt->name = opt->long_name;
 323       longopt->val = i;
 324       if (opt->short_name)
 325         {
 326           *p++ = opt->short_name;
 327           optmap[opt->short_name - 32] = longopt - long_options;
 328         }
 329       switch (opt->type)
 330         {
 331         case OPT_VALUE:
 332           longopt->has_arg = required_argument;
 333           if (opt->short_name)
 334             *p++ = ':';
 335           break;
 336         case OPT_BOOLEAN:
 337           /* Specify an optional argument for long options, so that
 338              --option=off works the same as --no-option, for
 339              compatibility with pre-1.10 Wget.  However, don't specify
 340              optional arguments short-option booleans because they
 341              prevent combining of short options.  */
 342           longopt->has_arg = optional_argument;
 343           /* For Boolean options, add the "--no-FOO" variant, which is
 344              identical to "--foo", except it has opposite meaning and
 345              it doesn't allow an argument.  */
 346           longopt = &long_options[o++];
 347           longopt->name = no_prefix (opt->long_name);
 348           longopt->has_arg = no_argument;
 349           /* Mask the value so we'll be able to recognize that we're
 350              dealing with the false value.  */
 351           longopt->val = i | BOOLEAN_NEG_MARKER;
 352           break;
 353         default:
 354           assert (opt->argtype != -1);
 355           longopt->has_arg = opt->argtype;
 356           if (opt->short_name)
 357             {
 358               if (longopt->has_arg == required_argument)
 359                 *p++ = ':';
 360               /* Don't handle optional_argument */
 361             }
 362         }
 363     }
 364   /* Terminate short_options. */
 365   *p = '\0';
 366   /* No need for xzero(long_options[o]) because its storage is static
 367      and it will be zeroed by default.  */
 368   assert (o <= countof (long_options));
 369 }
 370
 371 /* Print the usage message.  */
 372 static void
 373 print_usage (void)
 374 {
 375   printf (_("Usage: %s [OPTION]... [URL]...\n"), exec_name);
 376 }
 377
 378 /* Print the help message, describing all the available options.  If
 379    you add an option, be sure to update this list.  */
 380 static void
 381 print_help (void)
 382 {
 383   /* We split the help text this way to ease translation of individual
 384      entries.  */
 385   static const char *help[] = {
 386     "\n",
 387     N_("\
 388 Mandatory arguments to long options are mandatory for short options too.\n\n"),
 389     N_("\
 390 Startup:\n"),
 391     N_("\
 392   -V,  --version           display the version of Wget and exit.\n"),
 393     N_("\
 394   -h,  --help              print this help.\n"),
 395     N_("\
 396   -b,  --background        go to background after startup.\n"),
 397     N_("\
 398   -e,  --execute=COMMAND   execute a `.wgetrc'-style command.\n"),
 399     "\n",
 400
 401     N_("\
 402 Logging and input file:\n"),
 403     N_("\
 404   -o,  --output-file=FILE    log messages to FILE.\n"),
 405     N_("\
 406   -a,  --append-output=FILE  append messages to FILE.\n"),
 407 #ifdef ENABLE_DEBUG
 408     N_("\
 409   -d,  --debug               print lots of debugging information.\n"),
 410 #endif
 411     N_("\
 412   -q,  --quiet               quiet (no output).\n"),
 413     N_("\
 414   -v,  --verbose             be verbose (this is the default).\n"),
 415     N_("\
 416   -nv, --no-verbose          turn off verboseness, without being quiet.\n"),
 417     N_("\
 418   -i,  --input-file=FILE     download URLs found in FILE.\n"),
 419     N_("\
 420   -F,  --force-html          treat input file as HTML.\n"),
 421     N_("\
 422   -B,  --base=URL            prepends URL to relative links in -F -i file.\n"),
 423     "\n",
 424
 425     N_("\
 426 Download:\n"),
 427     N_("\
 428   -t,  --tries=NUMBER            set number of retries to NUMBER (0 unlimits).\n"),
 429     N_("\
 430        --retry-connrefused       retry even if connection is refused.\n"),
 431     N_("\
 432   -O,  --output-document=FILE    write documents to FILE.\n"),
 433     N_("\
 434   -nc, --no-clobber              skip downloads that would download to\n\
 435                                  existing files.\n"),
 436     N_("\
 437   -c,  --continue                resume getting a partially-downloaded file.\n"),
 438     N_("\
 439        --progress=TYPE           select progress gauge type.\n"),
 440     N_("\
 441   -N,  --timestamping            don't re-retrieve files unless newer than\n\
 442                                  local.\n"),
 443     N_("\
 444   -S,  --server-response         print server response.\n"),
 445     N_("\
 446        --spider                  don't download anything.\n"),
 447     N_("\
 448   -T,  --timeout=SECONDS         set all timeout values to SECONDS.\n"),
 449     N_("\
 450        --dns-timeout=SECS        set the DNS lookup timeout to SECS.\n"),
 451     N_("\
 452        --connect-timeout=SECS    set the connect timeout to SECS.\n"),
 453     N_("\
 454        --read-timeout=SECS       set the read timeout to SECS.\n"),
 455     N_("\
 456   -w,  --wait=SECONDS            wait SECONDS between retrievals.\n"),
 457     N_("\
 458        --waitretry=SECONDS       wait 1..SECONDS between retries of a retrieval.\n"),
 459     N_("\
 460        --random-wait             wait from 0...2*WAIT secs between retrievals.\n"),
 461     N_("\
 462   -Y,  --proxy                   explicitly turn on proxy.\n"),
 463     N_("\
 464        --no-proxy                explicitly turn off proxy.\n"),
 465     N_("\
 466   -Q,  --quota=NUMBER            set retrieval quota to NUMBER.\n"),
 467     N_("\
 468        --bind-address=ADDRESS    bind to ADDRESS (hostname or IP) on local host.\n"),
 469     N_("\
 470        --limit-rate=RATE         limit download rate to RATE.\n"),
 471     N_("\
 472        --no-dns-cache            disable caching DNS lookups.\n"),
 473     N_("\
 474        --restrict-file-names=OS  restrict chars in file names to ones OS allows.\n"),
 475 #ifdef ENABLE_IPV6
 476     N_("\
 477   -4,  --inet4-only              connect only to IPv4 addresses.\n"),
 478     N_("\
 479   -6,  --inet6-only              connect only to IPv6 addresses.\n"),
 480     N_("\
 481        --prefer-family=FAMILY    connect first to addresses of specified family,\n\
 482                                  one of IPv6, IPv4, or none.\n"),
 483 #endif
 484     N_("\
 485        --user=USER               set both ftp and http user to USER.\n"),
 486     N_("\
 487        --password=PASS           set both ftp and http password to PASS.\n"),
 488     "\n",
 489
 490     N_("\
 491 Directories:\n"),
 492     N_("\
 493   -nd, --no-directories           don't create directories.\n"),
 494     N_("\
 495   -x,  --force-directories        force creation of directories.\n"),
 496     N_("\
 497   -nH, --no-host-directories      don't create host directories.\n"),
 498     N_("\
 499        --protocol-directories     use protocol name in directories.\n"),
 500     N_("\
 501   -P,  --directory-prefix=PREFIX  save files to PREFIX/...\n"),
 502     N_("\
 503        --cut-dirs=NUMBER          ignore NUMBER remote directory components.\n"),
 504     "\n",
 505
 506     N_("\
 507 HTTP options:\n"),
 508     N_("\
 509        --http-user=USER        set http user to USER.\n"),
 510     N_("\
 511        --http-password=PASS    set http password to PASS.\n"),
 512     N_("\
 513        --no-cache              disallow server-cached data.\n"),
 514     N_("\
 515   -E,  --html-extension        save HTML documents with `.html' extension.\n"),
 516     N_("\
 517        --ignore-length         ignore `Content-Length' header field.\n"),
 518     N_("\
 519        --header=STRING         insert STRING among the headers.\n"),
 520     N_("\
 521        --proxy-user=USER       set USER as proxy username.\n"),
 522     N_("\
 523        --proxy-password=PASS   set PASS as proxy password.\n"),
 524     N_("\
 525        --referer=URL           include `Referer: URL' header in HTTP request.\n"),
 526     N_("\
 527        --save-headers          save the HTTP headers to file.\n"),
 528     N_("\
 529   -U,  --user-agent=AGENT      identify as AGENT instead of Wget/VERSION.\n"),
 530     N_("\
 531        --no-http-keep-alive    disable HTTP keep-alive (persistent connections).\n"),
 532     N_("\
 533        --no-cookies            don't use cookies.\n"),
 534     N_("\
 535        --load-cookies=FILE     load cookies from FILE before session.\n"),
 536     N_("\
 537        --save-cookies=FILE     save cookies to FILE after session.\n"),
 538     N_("\
 539        --keep-session-cookies  load and save session (non-permanent) cookies.\n"),
 540     N_("\
 541        --post-data=STRING      use the POST method; send STRING as the data.\n"),
 542     N_("\
 543        --post-file=FILE        use the POST method; send contents of FILE.\n"),
 544     "\n",
 545
 546 #ifdef HAVE_SSL
 547     N_("\
 548 HTTPS (SSL/TLS) options:\n"),
 549     N_("\
 550        --secure-protocol=PR     choose secure protocol, one of auto, SSLv2,\n\
 551                                 SSLv3, and TLSv1.\n"),
 552     N_("\
 553        --no-check-certificate   don't validate the server's certificate.\n"),
 554     N_("\
 555        --certificate=FILE       client certificate file.\n"),
 556     N_("\
 557        --certificate-type=TYPE  client certificate type, PEM or DER.\n"),
 558     N_("\
 559        --private-key=FILE       private key file.\n"),
 560     N_("\
 561        --private-key-type=TYPE  private key type, PEM or DER.\n"),
 562     N_("\
 563        --ca-certificate=FILE    file with the bundle of CA's.\n"),
 564     N_("\
 565        --ca-directory=DIR       directory where hash list of CA's is stored.\n"),
 566     N_("\
 567        --random-file=FILE       file with random data for seeding the SSL PRNG.\n"),
 568     N_("\
 569        --egd-file=FILE          file naming the EGD socket with random data.\n"),
 570     "\n",
 571 #endif /* HAVE_SSL */
 572
 573     N_("\
 574 FTP options:\n"),
 575     N_("\
 576        --ftp-user=USER         set ftp user to USER.\n"),
 577     N_("\
 578        --ftp-password=PASS     set ftp password to PASS.\n"),
 579     N_("\
 580        --no-remove-listing     don't remove `.listing' files.\n"),
 581     N_("\
 582        --no-glob               turn off FTP file name globbing.\n"),
 583     N_("\
 584        --no-passive-ftp        disable the \"passive\" transfer mode.\n"),
 585     N_("\
 586        --retr-symlinks         when recursing, get linked-to files (not dir).\n"),
 587     N_("\
 588        --preserve-permissions  preserve remote file permissions.\n"),
 589     "\n",
 590
 591     N_("\
 592 Recursive download:\n"),
 593     N_("\
 594   -r,  --recursive          specify recursive download.\n"),
 595     N_("\
 596   -l,  --level=NUMBER       maximum recursion depth (inf or 0 for infinite).\n"),
 597     N_("\
 598        --delete-after       delete files locally after downloading them.\n"),
 599     N_("\
 600   -k,  --convert-links      make links in downloaded HTML point to local files.\n"),
 601     N_("\
 602   -K,  --backup-converted   before converting file X, back up as X.orig.\n"),
 603     N_("\
 604   -m,  --mirror             shortcut option equivalent to -r -N -l inf -nr.\n"),
 605     N_("\
 606   -p,  --page-requisites    get all images, etc. needed to display HTML page.\n"),
 607     N_("\
 608        --strict-comments    turn on strict (SGML) handling of HTML comments.\n"),
 609     "\n",
 610
 611     N_("\
 612 Recursive accept/reject:\n"),
 613     N_("\
 614   -A,  --accept=LIST               comma-separated list of accepted extensions.\n"),
 615     N_("\
 616   -R,  --reject=LIST               comma-separated list of rejected extensions.\n"),
 617     N_("\
 618   -D,  --domains=LIST              comma-separated list of accepted domains.\n"),
 619     N_("\
 620        --exclude-domains=LIST      comma-separated list of rejected domains.\n"),
 621     N_("\
 622        --follow-ftp                follow FTP links from HTML documents.\n"),
 623     N_("\
 624        --follow-tags=LIST          comma-separated list of followed HTML tags.\n"),
 625     N_("\
 626        --ignore-tags=LIST          comma-separated list of ignored HTML tags.\n"),
 627     N_("\
 628   -H,  --span-hosts                go to foreign hosts when recursive.\n"),
 629     N_("\
 630   -L,  --relative                  follow relative links only.\n"),
 631     N_("\
 632   -I,  --include-directories=LIST  list of allowed directories.\n"),
 633     N_("\
 634   -X,  --exclude-directories=LIST  list of excluded directories.\n"),
 635     N_("\
 636   -np, --no-parent                 don't ascend to the parent directory.\n"),
 637     "\n",
 638
 639     N_("Mail bug reports and suggestions to <bug-wget@gnu.org>.\n")
 640   };
 641
 642   int i;
 643
 644   printf (_("GNU Wget %s, a non-interactive network retriever.\n"),
 645           version_string);
 646   print_usage ();
 647
 648   for (i = 0; i < countof (help); i++)
 649     fputs (_(help[i]), stdout);
 650
 651   exit (0);
 652 }
 653
 654 static void
 655 print_version (void)
 656 {
 657   printf ("GNU Wget %s\n\n", version_string);
 658   fputs (_("\
 659 Copyright (C) 2005 Free Software Foundation, Inc.\n"), stdout);
 660   fputs (_("\
 661 This program is distributed in the hope that it will be useful,\n\
 662 but WITHOUT ANY WARRANTY; without even the implied warranty of\n\
 663 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the\n\
 664 GNU General Public License for more details.\n"), stdout);
 665   fputs (_("\nOriginally written by Hrvoje Niksic <hniksic@xemacs.org>.\n"),
 666          stdout);
 667   exit (0);
 668 }
 669 \f
 670 int
 671 main (int argc, char *const *argv)
 672 {
 673   char **url, **t;
 674   int i, ret, longindex;
 675   int nurl, status;
 676   int append_to_log = 0;
 677
 678   i18n_initialize ();
 679
 680   /* Construct the name of the executable, without the directory part.  */
 681   exec_name = strrchr (argv[0], PATH_SEPARATOR);
 682   if (!exec_name)
 683     exec_name = argv[0];
 684   else
 685     ++exec_name;
 686
 687 #ifdef WINDOWS
 688   /* Drop extension (typically .EXE) from executable filename. */
 689   windows_main (&argc, (char **) argv, (char **) &exec_name);
 690 #endif
 691
 692   /* Set option defaults; read the system wgetrc and ~/.wgetrc.  */
 693   initialize ();
 694
 695   init_switches ();
 696   longindex = -1;
 697   while ((ret = getopt_long (argc, argv,
 698                              short_options, long_options, &longindex)) != -1)
 699     {
 700       int val;
 701       struct cmdline_option *opt;
 702
 703       /* If LONGINDEX is unchanged, it means RET is referring a short
 704          option.  */
 705       if (longindex == -1)
 706         {
 707           if (ret == '?')
 708             {
 709               print_usage ();
 710               printf ("\n");
 711               printf (_("Try `%s --help' for more options.\n"), exec_name);
 712               exit (2);
 713             }
 714           /* Find the short option character in the mapping.  */
 715           longindex = optmap[ret - 32];
 716         }
 717       val = long_options[longindex].val;
 718
 719       /* Use the retrieved value to locate the option in the
 720          option_data array, and to see if we're dealing with the
 721          negated "--no-FOO" variant of the boolean option "--foo".  */
 722       opt = &option_data[val & ~BOOLEAN_NEG_MARKER];
 723       switch (opt->type)
 724         {
 725         case OPT_VALUE:
 726           setoptval (opt->data, optarg, opt->long_name);
 727           break;
 728         case OPT_BOOLEAN:
 729           if (optarg)
 730             /* The user has specified a value -- use it. */
 731             setoptval (opt->data, optarg, opt->long_name);
 732           else
 733             {
 734               /* NEG is true for `--no-FOO' style boolean options. */
 735               int neg = val & BOOLEAN_NEG_MARKER;
 736               setoptval (opt->data, neg ? "0" : "1", opt->long_name);
 737             }
 738           break;
 739         case OPT_FUNCALL:
 740           {
 741             void (*func) PARAMS ((void)) = (void (*) PARAMS ((void))) opt->data;
 742             func ();
 743           }
 744           break;
 745         case OPT__APPEND_OUTPUT:
 746           setoptval ("logfile", optarg, opt->long_name);
 747           append_to_log = 1;
 748           break;
 749         case OPT__EXECUTE:
 750           run_command (optarg);
 751           break;
 752         case OPT__NO:
 753           {
 754             /* We support real --no-FOO flags now, but keep these
 755                short options for convenience and backward
 756                compatibility.  */
 757             char *p;
 758             for (p = optarg; *p; p++)
 759               switch (*p)
 760                 {
 761                 case 'v':
 762                   setoptval ("verbose", "0", opt->long_name);
 763                   break;
 764                 case 'H':
 765                   setoptval ("addhostdir", "0", opt->long_name);
 766                   break;
 767                 case 'd':
 768                   setoptval ("dirstruct", "0", opt->long_name);
 769                   break;
 770                 case 'c':
 771                   setoptval ("noclobber", "1", opt->long_name);
 772                   break;
 773                 case 'p':
 774                   setoptval ("noparent", "1", opt->long_name);
 775                   break;
 776                 default:
 777                   printf (_("%s: illegal option -- `-n%c'\n"), exec_name, *p);
 778                   print_usage ();
 779                   printf ("\n");
 780                   printf (_("Try `%s --help' for more options.\n"), exec_name);
 781                   exit (1);
 782                 }
 783             break;
 784           }
 785         case OPT__PARENT:
 786         case OPT__CLOBBER:
 787           {
 788             /* The wgetrc commands are named noparent and noclobber,
 789                so we must revert the meaning of the cmdline options
 790                before passing the value to setoptval.  */
 791             int flag = 1;
 792             if (optarg)
 793               flag = (*optarg == '1' || TOLOWER (*optarg) == 'y'
 794                       || (TOLOWER (optarg[0]) == 'o'
 795                           && TOLOWER (optarg[1]) == 'n'));
 796             setoptval (opt->type == OPT__PARENT ? "noparent" : "noclobber",
 797                        flag ? "0" : "1", opt->long_name);
 798             break;
 799           }
 800         case OPT__DONT_REMOVE_LISTING:
 801           setoptval ("removelisting", "0", opt->long_name);
 802           break;
 803         }
 804
 805       longindex = -1;
 806     }
 807
 808   /* All user options have now been processed, so it's now safe to do
 809      interoption dependency checks. */
 810
 811   if (opt.reclevel == 0)
 812     opt.reclevel = INFINITE_RECURSION; /* see recur.h for commentary on this */
 813
 814   if (opt.page_requisites && !opt.recursive)
 815     {
 816       /* Don't set opt.recursive here because it would confuse the FTP
 817          code.  Instead, call retrieve_tree below when either
 818          page_requisites or recursive is requested.  */
 819       opt.reclevel = 0;
 820       if (!opt.no_dirstruct)
 821         opt.dirstruct = 1;      /* normally handled by cmd_spec_recursive() */
 822     }
 823
 824   if (opt.verbose == -1)
 825     opt.verbose = !opt.quiet;
 826
 827   /* Sanity checks.  */
 828   if (opt.verbose && opt.quiet)
 829     {
 830       printf (_("Can't be verbose and quiet at the same time.\n"));
 831       print_usage ();
 832       exit (1);
 833     }
 834   if (opt.timestamping && opt.noclobber)
 835     {
 836       printf (_("\
 837 Can't timestamp and not clobber old files at the same time.\n"));
 838       print_usage ();
 839       exit (1);
 840     }
 841 #ifdef ENABLE_IPV6
 842   if (opt.ipv4_only && opt.ipv6_only)
 843     {
 844       printf (_("Cannot specify both --inet4-only and --inet6-only.\n"));
 845       print_usage ();
 846       exit (1);
 847     }
 848 #endif
 849
 850   nurl = argc - optind;
 851   if (!nurl && !opt.input_filename)
 852     {
 853       /* No URL specified.  */
 854       printf (_("%s: missing URL\n"), exec_name);
 855       print_usage ();
 856       printf ("\n");
 857       /* #### Something nicer should be printed here -- similar to the
 858          pre-1.5 `--help' page.  */
 859       printf (_("Try `%s --help' for more options.\n"), exec_name);
 860       exit (1);
 861     }
 862
 863   if (opt.background)
 864     fork_to_background ();
 865
 866   /* Initialize progress.  Have to do this after the options are
 867      processed so we know where the log file is.  */
 868   if (opt.verbose)
 869     set_progress_implementation (opt.progress_type);
 870
 871   /* Fill in the arguments.  */
 872   url = alloca_array (char *, nurl + 1);
 873   for (i = 0; i < nurl; i++, optind++)
 874     {
 875       char *rewritten = rewrite_shorthand_url (argv[optind]);
 876       if (rewritten)
 877         url[i] = rewritten;
 878       else
 879         url[i] = xstrdup (argv[optind]);
 880     }
 881   url[i] = NULL;
 882
 883   /* Initialize logging.  */
 884   log_init (opt.lfilename, append_to_log);
 885
 886   DEBUGP (("DEBUG output created by Wget %s on %s.\n\n", version_string,
 887            OS_TYPE));
 888
 889   /* Open the output filename if necessary.  */
 890   if (opt.output_document)
 891     {
 892       extern FILE *output_stream;
 893       extern int output_stream_regular;
 894
 895       if (HYPHENP (opt.output_document))
 896         output_stream = stdout;
 897       else
 898         {
 899           struct_stat st;
 900           output_stream = fopen (opt.output_document,
 901                                  opt.always_rest ? "ab" : "wb");
 902           if (output_stream == NULL)
 903             {
 904               perror (opt.output_document);
 905               exit (1);
 906             }
 907           if (fstat (fileno (output_stream), &st) == 0 && S_ISREG (st.st_mode))
 908             output_stream_regular = 1;
 909         }
 910     }
 911
 912 #ifdef WINDOWS
 913   ws_startup ();
 914 #endif
 915
 916   /* Setup the signal handler to redirect output when hangup is
 917      received.  */
 918 #ifdef HAVE_SIGNAL
 919   if (signal(SIGHUP, SIG_IGN) != SIG_IGN)
 920     signal(SIGHUP, redirect_output_signal);
 921   /* ...and do the same for SIGUSR1.  */
 922   signal (SIGUSR1, redirect_output_signal);
 923   /* Writing to a closed socket normally signals SIGPIPE, and the
 924      process exits.  What we want is to ignore SIGPIPE and just check
 925      for the return value of write().  */
 926   signal (SIGPIPE, SIG_IGN);
 927 #ifdef SIGWINCH
 928   signal (SIGWINCH, progress_handle_sigwinch);
 929 #endif
 930 #endif /* HAVE_SIGNAL */
 931
 932   status = RETROK;              /* initialize it, just-in-case */
 933   /* Retrieve the URLs from argument list.  */
 934   for (t = url; *t; t++)
 935     {
 936       char *filename = NULL, *redirected_URL = NULL;
 937       int dt;
 938
 939       if ((opt.recursive || opt.page_requisites)
 940           && url_scheme (*t) != SCHEME_FTP)
 941         status = retrieve_tree (*t);
 942       else
 943         status = retrieve_url (*t, &filename, &redirected_URL, NULL, &dt);
 944
 945       if (opt.delete_after && file_exists_p(filename))
 946         {
 947           DEBUGP (("Removing file due to --delete-after in main():\n"));
 948           logprintf (LOG_VERBOSE, _("Removing %s.\n"), filename);
 949           if (unlink (filename))
 950             logprintf (LOG_NOTQUIET, "unlink: %s\n", strerror (errno));
 951         }
 952
 953       xfree_null (redirected_URL);
 954       xfree_null (filename);
 955     }
 956
 957   /* And then from the input file, if any.  */
 958   if (opt.input_filename)
 959     {
 960       int count;
 961       status = retrieve_from_file (opt.input_filename, opt.force_html, &count);
 962       if (!count)
 963         logprintf (LOG_NOTQUIET, _("No URLs found in %s.\n"),
 964                    opt.input_filename);
 965     }
 966   /* Print the downloaded sum.  */
 967   if (opt.recursive || opt.page_requisites
 968       || nurl > 1
 969       || (opt.input_filename && total_downloaded_bytes != 0))
 970     {
 971       logprintf (LOG_NOTQUIET,
 972                  _("\nFINISHED --%s--\nDownloaded: %s bytes in %d files\n"),
 973                  time_str (NULL), with_thousand_seps_large (total_downloaded_bytes),
 974                  opt.numurls);
 975       /* Print quota warning, if exceeded.  */
 976       if (opt.quota && total_downloaded_bytes > opt.quota)
 977         logprintf (LOG_NOTQUIET,
 978                    _("Download quota (%s bytes) EXCEEDED!\n"),
 979                    with_thousand_seps_large (opt.quota));
 980     }
 981
 982   if (opt.cookies_output)
 983     save_cookies ();
 984
 985   if (opt.convert_links && !opt.delete_after)
 986     convert_all_links ();
 987
 988   log_close ();
 989   for (i = 0; i < nurl; i++)
 990     xfree (url[i]);
 991   cleanup ();
 992
 993 #ifdef DEBUG_MALLOC
 994   print_malloc_debug_stats ();
 995 #endif
 996   if (status == RETROK)
 997     return 0;
 998   else
 999     return 1;
1000 }
1001 \f
1002 #ifdef HAVE_SIGNAL
1003 /* Hangup signal handler.  When wget receives SIGHUP or SIGUSR1, it
1004    will proceed operation as usual, trying to write into a log file.
1005    If that is impossible, the output will be turned off.
1006
1007    #### It is unsafe to do call libc functions from a signal handler.
1008    What we should do is, set a global variable, and have the code in
1009    log.c pick it up.  */
1010
1011 static RETSIGTYPE
1012 redirect_output_signal (int sig)
1013 {
1014   const char *signal_name = (sig == SIGHUP ? "SIGHUP" :
1015                              (sig == SIGUSR1 ? "SIGUSR1" :
1016                               "WTF?!"));
1017   log_request_redirect_output (signal_name);
1018   progress_schedule_redirect ();
1019   signal (sig, redirect_output_signal);
1020 }
1021 #endif /* HAVE_SIGNAL */