sjero.net Git - wget/blob - src/main.c

   1 /* Command line parsing.
   2    Copyright (C) 2003, 2004, 2005 Free Software Foundation, Inc.
   3
   4 This file is part of GNU Wget.
   5
   6 GNU Wget is free software; you can redistribute it and/or modify
   7 it under the terms of the GNU General Public License as published by
   8 the Free Software Foundation; either version 2 of the License, or
   9 (at your option) any later version.
  10
  11 GNU Wget is distributed in the hope that it will be useful,
  12 but WITHOUT ANY WARRANTY; without even the implied warranty of
  13 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14 GNU General Public License for more details.
  15
  16 You should have received a copy of the GNU General Public License
  17 along with Wget; if not, write to the Free Software
  18 Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  19
  20 In addition, as a special exception, the Free Software Foundation
  21 gives permission to link the code of its release of Wget with the
  22 OpenSSL project's "OpenSSL" library (or with modified versions of it
  23 that use the same license as the "OpenSSL" library), and distribute
  24 the linked executables.  You must obey the GNU General Public License
  25 in all respects for all of the code used other than "OpenSSL".  If you
  26 modify this file, you may extend this exception to your version of the
  27 file, but you are not obligated to do so.  If you do not wish to do
  28 so, delete this exception statement from your version.  */
  29
  30 #include <config.h>
  31
  32 #include <stdio.h>
  33 #include <stdlib.h>
  34 #ifdef HAVE_UNISTD_H
  35 # include <unistd.h>
  36 #endif /* HAVE_UNISTD_H */
  37 #include <sys/types.h>
  38 #ifdef HAVE_STRING_H
  39 # include <string.h>
  40 #else
  41 # include <strings.h>
  42 #endif /* HAVE_STRING_H */
  43 #ifdef HAVE_SIGNAL_H
  44 # include <signal.h>
  45 #endif
  46 #ifdef HAVE_NLS
  47 #ifdef HAVE_LOCALE_H
  48 # include <locale.h>
  49 #endif /* HAVE_LOCALE_H */
  50 #endif /* HAVE_NLS */
  51 #include <assert.h>
  52
  53 #include <errno.h>
  54 #ifndef errno
  55 extern int errno;
  56 #endif
  57
  58 #include "wget.h"
  59 #include "utils.h"
  60 #include "init.h"
  61 #include "retr.h"
  62 #include "recur.h"
  63 #include "host.h"
  64 #include "url.h"
  65 #include "progress.h"           /* for progress_handle_sigwinch */
  66 #include "convert.h"
  67
  68 /* On GNU system this will include system-wide getopt.h. */
  69 #include "getopt.h"
  70
  71 #ifndef PATH_SEPARATOR
  72 # define PATH_SEPARATOR '/'
  73 #endif
  74
  75 struct options opt;
  76
  77 extern LARGE_INT total_downloaded_bytes;
  78 extern char *version_string;
  79
  80 extern struct cookie_jar *wget_cookie_jar;
  81
  82 static RETSIGTYPE redirect_output_signal PARAMS ((int));
  83
  84 const char *exec_name;
  85 \f
  86 /* Initialize I18N.  The initialization amounts to invoking
  87    setlocale(), bindtextdomain() and textdomain().
  88    Does nothing if NLS is disabled or missing.  */
  89 static void
  90 i18n_initialize (void)
  91 {
  92   /* If HAVE_NLS is defined, assume the existence of the three
  93      functions invoked here.  */
  94 #ifdef HAVE_NLS
  95   /* Set the current locale.  */
  96   /* Here we use LC_MESSAGES instead of LC_ALL, for two reasons.
  97      First, message catalogs are all of I18N Wget uses anyway.
  98      Second, setting LC_ALL has a dangerous potential of messing
  99      things up.  For example, when in a foreign locale, Solaris
 100      strptime() fails to handle international dates correctly, which
 101      makes http_atotm() malfunction.  */
 102 #ifdef LC_MESSAGES
 103   setlocale (LC_MESSAGES, "");
 104   setlocale (LC_CTYPE, "");
 105 #else
 106   setlocale (LC_ALL, "");
 107 #endif
 108   /* Set the text message domain.  */
 109   bindtextdomain ("wget", LOCALEDIR);
 110   textdomain ("wget");
 111 #endif /* HAVE_NLS */
 112 }
 113 \f
 114 /* Definition of command-line options. */
 115
 116 static void print_help PARAMS ((void));
 117 static void print_version PARAMS ((void));
 118
 119 #ifdef HAVE_SSL
 120 # define IF_SSL(x) x
 121 #else
 122 # define IF_SSL(x) NULL
 123 #endif
 124
 125 #ifdef ENABLE_DEBUG
 126 # define IF_DEBUG(x) x
 127 #else
 128 # define IF_DEBUG(x) NULL
 129 #endif
 130
 131 struct cmdline_option {
 132   const char *long_name;
 133   char short_name;
 134   enum {
 135     OPT_VALUE,
 136     OPT_BOOLEAN,
 137     OPT_FUNCALL,
 138     /* Non-standard options that have to be handled specially in
 139        main().  */
 140     OPT__APPEND_OUTPUT,
 141     OPT__CLOBBER,
 142     OPT__DONT_REMOVE_LISTING,
 143     OPT__EXECUTE,
 144     OPT__NO,
 145     OPT__PARENT,
 146   } type;
 147   const void *data;             /* for standard options */
 148   int argtype;                  /* for non-standard options */
 149 };
 150
 151 struct cmdline_option option_data[] =
 152   {
 153     { "accept", 'A', OPT_VALUE, "accept", -1 },
 154     { "append-output", 'a', OPT__APPEND_OUTPUT, NULL, required_argument },
 155     { "background", 'b', OPT_BOOLEAN, "background", -1 },
 156     { "backup-converted", 'K', OPT_BOOLEAN, "backupconverted", -1 },
 157     { "backups", 0, OPT_BOOLEAN, "backups", -1 },
 158     { "base", 'B', OPT_VALUE, "base", -1 },
 159     { "bind-address", 0, OPT_VALUE, "bindaddress", -1 },
 160     { IF_SSL ("ca-certificate"), 0, OPT_VALUE, "cacertificate", -1 },
 161     { IF_SSL ("ca-directory"), 0, OPT_VALUE, "cadirectory", -1 },
 162     { "cache", 0, OPT_BOOLEAN, "cache", -1 },
 163     { IF_SSL ("certificate"), 0, OPT_VALUE, "certificate", -1 },
 164     { IF_SSL ("certificate-type"), 0, OPT_VALUE, "certificatetype", -1 },
 165     { IF_SSL ("check-certificate"), 0, OPT_BOOLEAN, "checkcertificate", -1 },
 166     { "clobber", 0, OPT__CLOBBER, NULL, optional_argument },
 167     { "connect-timeout", 0, OPT_VALUE, "connecttimeout", -1 },
 168     { "continue", 'c', OPT_BOOLEAN, "continue", -1 },
 169     { "convert-links", 'k', OPT_BOOLEAN, "convertlinks", -1 },
 170     { "cookies", 0, OPT_BOOLEAN, "cookies", -1 },
 171     { "cut-dirs", 0, OPT_VALUE, "cutdirs", -1 },
 172     { IF_DEBUG ("debug"), 'd', OPT_BOOLEAN, "debug", -1 },
 173     { "delete-after", 0, OPT_BOOLEAN, "deleteafter", -1 },
 174     { "directories", 0, OPT_BOOLEAN, "dirstruct", -1 },
 175     { "directory-prefix", 'P', OPT_VALUE, "dirprefix", -1 },
 176     { "dns-cache", 0, OPT_BOOLEAN, "dnscache", -1 },
 177     { "dns-timeout", 0, OPT_VALUE, "dnstimeout", -1 },
 178     { "domains", 'D', OPT_VALUE, "domains", -1 },
 179     { "dont-remove-listing", 0, OPT__DONT_REMOVE_LISTING, NULL, no_argument },
 180     { "dot-style", 0, OPT_VALUE, "dotstyle", -1 },
 181     { "egd-file", 0, OPT_VALUE, "egdfile", -1 },
 182     { "exclude-directories", 'X', OPT_VALUE, "excludedirectories", -1 },
 183     { "exclude-domains", 0, OPT_VALUE, "excludedomains", -1 },
 184     { "execute", 'e', OPT__EXECUTE, NULL, required_argument },
 185     { "follow-ftp", 0, OPT_BOOLEAN, "followftp", -1 },
 186     { "follow-tags", 0, OPT_VALUE, "followtags", -1 },
 187     { "force-directories", 'x', OPT_BOOLEAN, "dirstruct", -1 },
 188     { "force-html", 'F', OPT_BOOLEAN, "forcehtml", -1 },
 189     { "ftp-passwd", 0, OPT_VALUE, "ftppasswd", -1 },
 190     { "glob", 0, OPT_BOOLEAN, "glob", -1 },
 191     { "header", 0, OPT_VALUE, "header", -1 },
 192     { "help", 'h', OPT_FUNCALL, (void *)print_help, no_argument },
 193     { "host-directories", 0, OPT_BOOLEAN, "addhostdir", -1 },
 194     { "html-extension", 'E', OPT_BOOLEAN, "htmlextension", -1 },
 195     { "htmlify", 0, OPT_BOOLEAN, "htmlify", -1 },
 196     { "http-keep-alive", 0, OPT_BOOLEAN, "httpkeepalive", -1 },
 197     { "http-passwd", 0, OPT_VALUE, "httppasswd", -1 },
 198     { "http-user", 0, OPT_VALUE, "httpuser", -1 },
 199     { "ignore-length", 0, OPT_BOOLEAN, "ignorelength", -1 },
 200     { "ignore-tags", 0, OPT_VALUE, "ignoretags", -1 },
 201     { "include-directories", 'I', OPT_VALUE, "includedirectories", -1 },
 202 #ifdef ENABLE_IPV6
 203     { "inet4-only", '4', OPT_BOOLEAN, "inet4only", -1 },
 204     { "inet6-only", '6', OPT_BOOLEAN, "inet6only", -1 },
 205 #endif
 206     { "input-file", 'i', OPT_VALUE, "input", -1 },
 207     { "keep-session-cookies", 0, OPT_BOOLEAN, "keepsessioncookies", -1 },
 208     { "level", 'l', OPT_VALUE, "reclevel", -1 },
 209     { "limit-rate", 0, OPT_VALUE, "limitrate", -1 },
 210     { "load-cookies", 0, OPT_VALUE, "loadcookies", -1 },
 211     { "mirror", 'm', OPT_BOOLEAN, "mirror", -1 },
 212     { "no", 'n', OPT__NO, NULL, required_argument },
 213     { "no-clobber", 0, OPT_BOOLEAN, "noclobber", -1 },
 214     { "no-parent", 0, OPT_BOOLEAN, "noparent", -1 },
 215     { "output-document", 'O', OPT_VALUE, "outputdocument", -1 },
 216     { "output-file", 'o', OPT_VALUE, "logfile", -1 },
 217     { "page-requisites", 'p', OPT_BOOLEAN, "pagerequisites", -1 },
 218     { "parent", 0, OPT__PARENT, NULL, optional_argument },
 219     { "passive-ftp", 0, OPT_BOOLEAN, "passiveftp", -1 },
 220     { "post-data", 0, OPT_VALUE, "postdata", -1 },
 221     { "post-file", 0, OPT_VALUE, "postfile", -1 },
 222     { "prefer-family", 0, OPT_VALUE, "preferfamily", -1 },
 223     { "preserve-permissions", 0, OPT_BOOLEAN, "preservepermissions", -1 },
 224     { IF_SSL ("private-key"), 0, OPT_VALUE, "privatekey", -1 },
 225     { IF_SSL ("private-key-type"), 0, OPT_VALUE, "privatekeytype", -1 },
 226     { "progress", 0, OPT_VALUE, "progress", -1 },
 227     { "protocol-directories", 0, OPT_BOOLEAN, "protocoldirectories", -1 },
 228     { "proxy", 0, OPT_BOOLEAN, "useproxy", -1 },
 229     { "proxy__compat", 'Y', OPT_VALUE, "useproxy", -1 }, /* back-compatible */
 230     { "proxy-passwd", 0, OPT_VALUE, "proxypasswd", -1 },
 231     { "proxy-user", 0, OPT_VALUE, "proxyuser", -1 },
 232     { "quiet", 'q', OPT_BOOLEAN, "quiet", -1 },
 233     { "quota", 'Q', OPT_VALUE, "quota", -1 },
 234     { "random-wait", 0, OPT_BOOLEAN, "randomwait", -1 },
 235     { "read-timeout", 0, OPT_VALUE, "readtimeout", -1 },
 236     { "recursive", 'r', OPT_BOOLEAN, "recursive", -1 },
 237     { "referer", 0, OPT_VALUE, "referer", -1 },
 238     { "reject", 'R', OPT_VALUE, "reject", -1 },
 239     { "relative", 'L', OPT_BOOLEAN, "relativeonly", -1 },
 240     { "remove-listing", 0, OPT_BOOLEAN, "removelisting", -1 },
 241     { "restrict-file-names", 0, OPT_BOOLEAN, "restrictfilenames", -1 },
 242     { "retr-symlinks", 0, OPT_BOOLEAN, "retrsymlinks", -1 },
 243     { "retry-connrefused", 0, OPT_BOOLEAN, "retryconnrefused", -1 },
 244     { "save-cookies", 0, OPT_VALUE, "savecookies", -1 },
 245     { "save-headers", 0, OPT_BOOLEAN, "saveheaders", -1 },
 246     { IF_SSL ("secure-protocol"), 0, OPT_VALUE, "secureprotocol", -1 },
 247     { "server-response", 'S', OPT_BOOLEAN, "serverresponse", -1 },
 248     { "span-hosts", 'H', OPT_BOOLEAN, "spanhosts", -1 },
 249     { "spider", 0, OPT_BOOLEAN, "spider", -1 },
 250     { "strict-comments", 0, OPT_BOOLEAN, "strictcomments", -1 },
 251     { "timeout", 'T', OPT_VALUE, "timeout", -1 },
 252     { "timestamping", 'N', OPT_BOOLEAN, "timestamping", -1 },
 253     { "tries", 't', OPT_VALUE, "tries", -1 },
 254     { "user-agent", 'U', OPT_VALUE, "useragent", -1 },
 255     { "verbose", 'v', OPT_BOOLEAN, "verbose", -1 },
 256     { "verbose", 0, OPT_BOOLEAN, "verbose", -1 },
 257     { "version", 'V', OPT_FUNCALL, (void *) print_version, no_argument },
 258     { "wait", 'w', OPT_VALUE, "wait", -1 },
 259     { "waitretry", 0, OPT_VALUE, "waitretry", -1 },
 260   };
 261
 262 #undef IF_DEBUG
 263 #undef IF_SSL
 264
 265 /* Return a string that contains S with "no-" prepended.  The string
 266    is NUL-terminated and allocated off static storage at Wget
 267    startup.  */
 268
 269 static char *
 270 no_prefix (const char *s)
 271 {
 272   static char buffer[1024];
 273   static char *p = buffer;
 274
 275   char *cp = p;
 276   int size = 3 + strlen (s) + 1;  /* "no-STRING\0" */
 277   if (p + size >= buffer + sizeof (buffer))
 278     abort ();
 279
 280   cp[0] = 'n', cp[1] = 'o', cp[2] = '-';
 281   strcpy (cp + 3, s);
 282   p += size;
 283   return cp;
 284 }
 285
 286 /* The arguments that that main passes to getopt_long. */
 287 static struct option long_options[2 * countof (option_data) + 1];
 288 static char short_options[128];
 289
 290 /* Mapping between short option chars and option_data indices. */
 291 static unsigned char optmap[96];
 292
 293 /* Marker for `--no-FOO' values in long_options.  */
 294 #define BOOLEAN_NEG_MARKER 1024
 295
 296 /* Initialize the long_options array used by getopt_long from the data
 297    in option_data.  */
 298
 299 static void
 300 init_switches (void)
 301 {
 302   char *p = short_options;
 303   int i, o = 0;
 304   for (i = 0; i < countof (option_data); i++)
 305     {
 306       struct cmdline_option *opt = &option_data[i];
 307       struct option *longopt;
 308
 309       if (!opt->long_name)
 310         /* The option is disabled. */
 311         continue;
 312
 313       longopt = &long_options[o++];
 314       longopt->name = opt->long_name;
 315       longopt->val = i;
 316       if (opt->short_name)
 317         {
 318           *p++ = opt->short_name;
 319           optmap[opt->short_name - 32] = longopt - long_options;
 320         }
 321       switch (opt->type)
 322         {
 323         case OPT_VALUE:
 324           longopt->has_arg = required_argument;
 325           if (opt->short_name)
 326             *p++ = ':';
 327           break;
 328         case OPT_BOOLEAN:
 329           /* Specify an optional argument for long options, so that
 330              --option=off works the same as --no-option, for
 331              compatibility with pre-1.10 Wget.  However, don't specify
 332              optional arguments short-option booleans because they
 333              prevent combining of short options.  */
 334           longopt->has_arg = optional_argument;
 335           /* For Boolean options, add the "--no-FOO" variant, which is
 336              identical to "--foo", except it has opposite meaning and
 337              it doesn't allow an argument.  */
 338           longopt = &long_options[o++];
 339           longopt->name = no_prefix (opt->long_name);
 340           longopt->has_arg = no_argument;
 341           /* Mask the value so we'll be able to recognize that we're
 342              dealing with the false value.  */
 343           longopt->val = i | BOOLEAN_NEG_MARKER;
 344           break;
 345         default:
 346           assert (opt->argtype != -1);
 347           longopt->has_arg = opt->argtype;
 348           if (opt->short_name)
 349             {
 350               if (longopt->has_arg == required_argument)
 351                 *p++ = ':';
 352               /* Don't handle optional_argument */
 353             }
 354         }
 355     }
 356   /* Terminate short_options. */
 357   *p = '\0';
 358   /* No need for xzero(long_options[o]) because its storage is static
 359      and it will be zeroed by default.  */
 360   assert (o <= countof (long_options));
 361 }
 362
 363 /* Print the usage message.  */
 364 static void
 365 print_usage (void)
 366 {
 367   printf (_("Usage: %s [OPTION]... [URL]...\n"), exec_name);
 368 }
 369
 370 /* Print the help message, describing all the available options.  If
 371    you add an option, be sure to update this list.  */
 372 static void
 373 print_help (void)
 374 {
 375   /* We split the help text this way to ease translation of individual
 376      entries.  */
 377   static const char *help[] = {
 378     "\n",
 379     N_("\
 380 Mandatory arguments to long options are mandatory for short options too.\n\n"),
 381     N_("\
 382 Startup:\n"),
 383     N_("\
 384   -V,  --version           display the version of Wget and exit.\n"),
 385     N_("\
 386   -h,  --help              print this help.\n"),
 387     N_("\
 388   -b,  --background        go to background after startup.\n"),
 389     N_("\
 390   -e,  --execute=COMMAND   execute a `.wgetrc'-style command.\n"),
 391     "\n",
 392
 393     N_("\
 394 Logging and input file:\n"),
 395     N_("\
 396   -o,  --output-file=FILE    log messages to FILE.\n"),
 397     N_("\
 398   -a,  --append-output=FILE  append messages to FILE.\n"),
 399 #ifdef ENABLE_DEBUG
 400     N_("\
 401   -d,  --debug               print lots of debugging information.\n"),
 402 #endif
 403     N_("\
 404   -q,  --quiet               quiet (no output).\n"),
 405     N_("\
 406   -v,  --verbose             be verbose (this is the default).\n"),
 407     N_("\
 408   -nv, --no-verbose          turn off verboseness, without being quiet.\n"),
 409     N_("\
 410   -i,  --input-file=FILE     download URLs found in FILE.\n"),
 411     N_("\
 412   -F,  --force-html          treat input file as HTML.\n"),
 413     N_("\
 414   -B,  --base=URL            prepends URL to relative links in -F -i file.\n"),
 415     "\n",
 416
 417     N_("\
 418 Download:\n"),
 419     N_("\
 420   -t,  --tries=NUMBER            set number of retries to NUMBER (0 unlimits).\n"),
 421     N_("\
 422        --retry-connrefused       retry even if connection is refused.\n"),
 423     N_("\
 424   -O,  --output-document=FILE    write documents to FILE.\n"),
 425     N_("\
 426   -nc, --no-clobber              skip downloads that would download to\n\
 427                                  existing files.\n"),
 428     N_("\
 429   -c,  --continue                resume getting a partially-downloaded file.\n"),
 430     N_("\
 431        --progress=TYPE           select progress gauge type.\n"),
 432     N_("\
 433   -N,  --timestamping            don't re-retrieve files unless newer than\n\
 434                                  local.\n"),
 435     N_("\
 436   -S,  --server-response         print server response.\n"),
 437     N_("\
 438        --spider                  don't download anything.\n"),
 439     N_("\
 440   -T,  --timeout=SECONDS         set all timeout values to SECONDS.\n"),
 441     N_("\
 442        --dns-timeout=SECS        set the DNS lookup timeout to SECS.\n"),
 443     N_("\
 444        --connect-timeout=SECS    set the connect timeout to SECS.\n"),
 445     N_("\
 446        --read-timeout=SECS       set the read timeout to SECS.\n"),
 447     N_("\
 448   -w,  --wait=SECONDS            wait SECONDS between retrievals.\n"),
 449     N_("\
 450        --waitretry=SECONDS       wait 1..SECONDS between retries of a retrieval.\n"),
 451     N_("\
 452        --random-wait             wait from 0...2*WAIT secs between retrievals.\n"),
 453     N_("\
 454   -Y,  --proxy                   explicitly turn on proxy.\n"),
 455     N_("\
 456        --no-proxy                explicitly turn off proxy.\n"),
 457     N_("\
 458   -Q,  --quota=NUMBER            set retrieval quota to NUMBER.\n"),
 459     N_("\
 460        --bind-address=ADDRESS    bind to ADDRESS (hostname or IP) on local host.\n"),
 461     N_("\
 462        --limit-rate=RATE         limit download rate to RATE.\n"),
 463     N_("\
 464        --no-dns-cache            disable caching DNS lookups.\n"),
 465     N_("\
 466        --restrict-file-names=OS  restrict chars in file names to ones OS allows.\n"),
 467 #ifdef ENABLE_IPV6
 468     N_("\
 469   -4,  --inet4-only              connect only to IPv4 addresses.\n"),
 470     N_("\
 471   -6,  --inet6-only              connect only to IPv6 addresses.\n"),
 472     N_("\
 473        --prefer-family=FAMILY    connect first to addresses of specified family,\n\
 474                                  one of IPv6, IPv4, or none.\n"),
 475 #endif
 476     "\n",
 477
 478     N_("\
 479 Directories:\n"),
 480     N_("\
 481   -nd, --no-directories           don't create directories.\n"),
 482     N_("\
 483   -x,  --force-directories        force creation of directories.\n"),
 484     N_("\
 485   -nH, --no-host-directories      don't create host directories.\n"),
 486     N_("\
 487        --protocol-directories     use protocol name in directories.\n"),
 488     N_("\
 489   -P,  --directory-prefix=PREFIX  save files to PREFIX/...\n"),
 490     N_("\
 491        --cut-dirs=NUMBER          ignore NUMBER remote directory components.\n"),
 492     "\n",
 493
 494     N_("\
 495 HTTP options:\n"),
 496     N_("\
 497        --http-user=USER        set http user to USER.\n"),
 498     N_("\
 499        --http-passwd=PASS      set http password to PASS.\n"),
 500     N_("\
 501        --no-cache              disallow server-cached data.\n"),
 502     N_("\
 503   -E,  --html-extension        save HTML documents with `.html' extension.\n"),
 504     N_("\
 505        --ignore-length         ignore `Content-Length' header field.\n"),
 506     N_("\
 507        --header=STRING         insert STRING among the headers.\n"),
 508     N_("\
 509        --proxy-user=USER       set USER as proxy username.\n"),
 510     N_("\
 511        --proxy-passwd=PASS     set PASS as proxy password.\n"),
 512     N_("\
 513        --referer=URL           include `Referer: URL' header in HTTP request.\n"),
 514     N_("\
 515        --save-headers          save the HTTP headers to file.\n"),
 516     N_("\
 517   -U,  --user-agent=AGENT      identify as AGENT instead of Wget/VERSION.\n"),
 518     N_("\
 519        --no-http-keep-alive    disable HTTP keep-alive (persistent connections).\n"),
 520     N_("\
 521        --no-cookies            don't use cookies.\n"),
 522     N_("\
 523        --load-cookies=FILE     load cookies from FILE before session.\n"),
 524     N_("\
 525        --save-cookies=FILE     save cookies to FILE after session.\n"),
 526     N_("\
 527        --keep-session-cookies  load and save session (non-permanent) cookies.\n"),
 528     N_("\
 529        --post-data=STRING      use the POST method; send STRING as the data.\n"),
 530     N_("\
 531        --post-file=FILE        use the POST method; send contents of FILE.\n"),
 532     "\n",
 533
 534 #ifdef HAVE_SSL
 535     N_("\
 536 HTTPS (SSL/TLS) options:\n"),
 537     N_("\
 538        --secure-protocol=PR     choose SSL protocol, one of auto, SSLv2, SSLv3,\n\
 539                                 and TLSv1.\n"),
 540     N_("\
 541        --no-check-certificate   don't validate the server's certificate.\n"),
 542     N_("\
 543        --certificate=FILE       client certificate file.\n"),
 544     N_("\
 545        --certificate-type=TYPE  client certificate type, PEM or ASN1.\n"),
 546     N_("\
 547        --private-key=FILE       private key file.\n"),
 548     N_("\
 549        --private-key-type=TYPE  private key type, PEM or ASN1.\n"),
 550     N_("\
 551        --ca-certificate=FILE    file with the bundle of CA's.\n"),
 552     N_("\
 553        --ca-directory=DIR       directory where hash list of CA's is stored.\n"),
 554     N_("\
 555        --egd-file=FILE          file name of the EGD socket.\n"),
 556     "\n",
 557 #endif /* HAVE_SSL */
 558
 559     N_("\
 560 FTP options:\n"),
 561     N_("\
 562        --no-remove-listing     don't remove `.listing' files.\n"),
 563     N_("\
 564        --no-glob               turn off FTP file name globbing.\n"),
 565     N_("\
 566        --no-passive-ftp        disable the \"passive\" transfer mode.\n"),
 567     N_("\
 568        --retr-symlinks         when recursing, get linked-to files (not dir).\n"),
 569     N_("\
 570        --preserve-permissions  preserve remote file permissions.\n"),
 571     "\n",
 572
 573     N_("\
 574 Recursive download:\n"),
 575     N_("\
 576   -r,  --recursive          specify recursive download.\n"),
 577     N_("\
 578   -l,  --level=NUMBER       maximum recursion depth (inf or 0 for infinite).\n"),
 579     N_("\
 580        --delete-after       delete files locally after downloading them.\n"),
 581     N_("\
 582   -k,  --convert-links      make links in downloaded HTML point to local files.\n"),
 583     N_("\
 584   -K,  --backup-converted   before converting file X, back up as X.orig.\n"),
 585     N_("\
 586   -m,  --mirror             shortcut option equivalent to -r -N -l inf -nr.\n"),
 587     N_("\
 588   -p,  --page-requisites    get all images, etc. needed to display HTML page.\n"),
 589     N_("\
 590        --strict-comments    turn on strict (SGML) handling of HTML comments.\n"),
 591     "\n",
 592
 593     N_("\
 594 Recursive accept/reject:\n"),
 595     N_("\
 596   -A,  --accept=LIST               comma-separated list of accepted extensions.\n"),
 597     N_("\
 598   -R,  --reject=LIST               comma-separated list of rejected extensions.\n"),
 599     N_("\
 600   -D,  --domains=LIST              comma-separated list of accepted domains.\n"),
 601     N_("\
 602        --exclude-domains=LIST      comma-separated list of rejected domains.\n"),
 603     N_("\
 604        --follow-ftp                follow FTP links from HTML documents.\n"),
 605     N_("\
 606        --follow-tags=LIST          comma-separated list of followed HTML tags.\n"),
 607     N_("\
 608        --ignore-tags=LIST          comma-separated list of ignored HTML tags.\n"),
 609     N_("\
 610   -H,  --span-hosts                go to foreign hosts when recursive.\n"),
 611     N_("\
 612   -L,  --relative                  follow relative links only.\n"),
 613     N_("\
 614   -I,  --include-directories=LIST  list of allowed directories.\n"),
 615     N_("\
 616   -X,  --exclude-directories=LIST  list of excluded directories.\n"),
 617     N_("\
 618   -np, --no-parent                 don't ascend to the parent directory.\n"),
 619     "\n",
 620
 621     N_("Mail bug reports and suggestions to <bug-wget@gnu.org>.\n")
 622   };
 623
 624   int i;
 625
 626   printf (_("GNU Wget %s, a non-interactive network retriever.\n"),
 627           version_string);
 628   print_usage ();
 629
 630   for (i = 0; i < countof (help); i++)
 631     fputs (_(help[i]), stdout);
 632
 633   exit (0);
 634 }
 635
 636 static void
 637 print_version (void)
 638 {
 639   printf ("GNU Wget %s\n\n", version_string);
 640   fputs (_("\
 641 Copyright (C) 2005 Free Software Foundation, Inc.\n"), stdout);
 642   fputs (_("\
 643 This program is distributed in the hope that it will be useful,\n\
 644 but WITHOUT ANY WARRANTY; without even the implied warranty of\n\
 645 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the\n\
 646 GNU General Public License for more details.\n"), stdout);
 647   fputs (_("\nOriginally written by Hrvoje Niksic <hniksic@xemacs.org>.\n"),
 648          stdout);
 649   exit (0);
 650 }
 651 \f
 652 int
 653 main (int argc, char *const *argv)
 654 {
 655   char **url, **t;
 656   int i, ret, longindex;
 657   int nurl, status;
 658   int append_to_log = 0;
 659
 660   i18n_initialize ();
 661
 662   /* Construct the name of the executable, without the directory part.  */
 663   exec_name = strrchr (argv[0], PATH_SEPARATOR);
 664   if (!exec_name)
 665     exec_name = argv[0];
 666   else
 667     ++exec_name;
 668
 669 #ifdef WINDOWS
 670   /* Drop extension (typically .EXE) from executable filename. */
 671   windows_main (&argc, (char **) argv, (char **) &exec_name);
 672 #endif
 673
 674   /* Set option defaults; read the system wgetrc and ~/.wgetrc.  */
 675   initialize ();
 676
 677   init_switches ();
 678   longindex = -1;
 679   while ((ret = getopt_long (argc, argv,
 680                              short_options, long_options, &longindex)) != -1)
 681     {
 682       int val;
 683       struct cmdline_option *opt;
 684
 685       /* If LONGINDEX is unchanged, it means RET is referring a short
 686          option.  */
 687       if (longindex == -1)
 688         {
 689           if (ret == '?')
 690             {
 691               print_usage ();
 692               printf ("\n");
 693               printf (_("Try `%s --help' for more options.\n"), exec_name);
 694               exit (2);
 695             }
 696           /* Find the short option character in the mapping.  */
 697           longindex = optmap[ret - 32];
 698         }
 699       val = long_options[longindex].val;
 700
 701       /* Use the retrieved value to locate the option in the
 702          option_data array, and to see if we're dealing with the
 703          negated "--no-FOO" variant of the boolean option "--foo".  */
 704       opt = &option_data[val & ~BOOLEAN_NEG_MARKER];
 705       switch (opt->type)
 706         {
 707         case OPT_VALUE:
 708           setoptval (opt->data, optarg);
 709           break;
 710         case OPT_BOOLEAN:
 711           if (optarg)
 712             /* The user has specified a value -- use it. */
 713             setoptval (opt->data, optarg);
 714           else
 715             {
 716               /* NEG is true for `--no-FOO' style boolean options. */
 717               int neg = val & BOOLEAN_NEG_MARKER;
 718               setoptval (opt->data, neg ? "0" : "1");
 719             }
 720           break;
 721         case OPT_FUNCALL:
 722           {
 723             void (*func) PARAMS ((void)) = (void (*) PARAMS ((void))) opt->data;
 724             func ();
 725           }
 726           break;
 727         case OPT__APPEND_OUTPUT:
 728           setoptval ("logfile", optarg);
 729           append_to_log = 1;
 730           break;
 731         case OPT__EXECUTE:
 732           run_command (optarg);
 733           break;
 734         case OPT__NO:
 735           {
 736             /* We support real --no-FOO flags now, but keep these
 737                short options for convenience and backward
 738                compatibility.  */
 739             char *p;
 740             for (p = optarg; *p; p++)
 741               switch (*p)
 742                 {
 743                 case 'v':
 744                   setoptval ("verbose", "0");
 745                   break;
 746                 case 'H':
 747                   setoptval ("addhostdir", "0");
 748                   break;
 749                 case 'd':
 750                   setoptval ("dirstruct", "0");
 751                   break;
 752                 case 'c':
 753                   setoptval ("noclobber", "1");
 754                   break;
 755                 case 'p':
 756                   setoptval ("noparent", "1");
 757                   break;
 758                 default:
 759                   printf (_("%s: illegal option -- `-n%c'\n"), exec_name, *p);
 760                   print_usage ();
 761                   printf ("\n");
 762                   printf (_("Try `%s --help' for more options.\n"), exec_name);
 763                   exit (1);
 764                 }
 765             break;
 766           }
 767         case OPT__PARENT:
 768         case OPT__CLOBBER:
 769           {
 770             /* The wgetrc commands are named noparent and noclobber,
 771                so we must revert the meaning of the cmdline options
 772                before passing the value to setoptval.  */
 773             int flag = 1;
 774             if (optarg)
 775               flag = (*optarg == '1' || TOLOWER (*optarg) == 'y'
 776                       || (TOLOWER (optarg[0]) == 'o'
 777                           && TOLOWER (optarg[1]) == 'n'));
 778             setoptval (opt->type == OPT__PARENT ? "noparent" : "noclobber",
 779                        flag ? "0" : "1");
 780             break;
 781           }
 782         case OPT__DONT_REMOVE_LISTING:
 783           setoptval ("removelisting", "0");
 784           break;
 785         }
 786
 787       longindex = -1;
 788     }
 789
 790   /* All user options have now been processed, so it's now safe to do
 791      interoption dependency checks. */
 792
 793   if (opt.reclevel == 0)
 794     opt.reclevel = INFINITE_RECURSION; /* see recur.h for commentary on this */
 795
 796   if (opt.page_requisites && !opt.recursive)
 797     {
 798       /* Don't set opt.recursive here because it would confuse the FTP
 799          code.  Instead, call retrieve_tree below when either
 800          page_requisites or recursive is requested.  */
 801       opt.reclevel = 0;
 802       if (!opt.no_dirstruct)
 803         opt.dirstruct = 1;      /* normally handled by cmd_spec_recursive() */
 804     }
 805
 806   if (opt.verbose == -1)
 807     opt.verbose = !opt.quiet;
 808
 809   /* Sanity checks.  */
 810   if (opt.verbose && opt.quiet)
 811     {
 812       printf (_("Can't be verbose and quiet at the same time.\n"));
 813       print_usage ();
 814       exit (1);
 815     }
 816   if (opt.timestamping && opt.noclobber)
 817     {
 818       printf (_("\
 819 Can't timestamp and not clobber old files at the same time.\n"));
 820       print_usage ();
 821       exit (1);
 822     }
 823 #ifdef ENABLE_IPV6
 824   if (opt.ipv4_only && opt.ipv6_only)
 825     {
 826       printf (_("Cannot specify both --inet4-only and --inet6-only.\n"));
 827       print_usage ();
 828       exit (1);
 829     }
 830 #endif
 831
 832   nurl = argc - optind;
 833   if (!nurl && !opt.input_filename)
 834     {
 835       /* No URL specified.  */
 836       printf (_("%s: missing URL\n"), exec_name);
 837       print_usage ();
 838       printf ("\n");
 839       /* #### Something nicer should be printed here -- similar to the
 840          pre-1.5 `--help' page.  */
 841       printf (_("Try `%s --help' for more options.\n"), exec_name);
 842       exit (1);
 843     }
 844
 845   if (opt.background)
 846     fork_to_background ();
 847
 848   /* Initialize progress.  Have to do this after the options are
 849      processed so we know where the log file is.  */
 850   if (opt.verbose)
 851     set_progress_implementation (opt.progress_type);
 852
 853   /* Fill in the arguments.  */
 854   url = alloca_array (char *, nurl + 1);
 855   for (i = 0; i < nurl; i++, optind++)
 856     {
 857       char *rewritten = rewrite_shorthand_url (argv[optind]);
 858       if (rewritten)
 859         url[i] = rewritten;
 860       else
 861         url[i] = xstrdup (argv[optind]);
 862     }
 863   url[i] = NULL;
 864
 865   /* Initialize logging.  */
 866   log_init (opt.lfilename, append_to_log);
 867
 868   DEBUGP (("DEBUG output created by Wget %s on %s.\n\n", version_string,
 869            OS_TYPE));
 870
 871   /* Open the output filename if necessary.  */
 872   if (opt.output_document)
 873     {
 874       extern FILE *output_stream;
 875       extern int output_stream_regular;
 876
 877       if (HYPHENP (opt.output_document))
 878         output_stream = stdout;
 879       else
 880         {
 881           struct_stat st;
 882           output_stream = fopen (opt.output_document,
 883                                  opt.always_rest ? "ab" : "wb");
 884           if (output_stream == NULL)
 885             {
 886               perror (opt.output_document);
 887               exit (1);
 888             }
 889           if (fstat (fileno (output_stream), &st) == 0 && S_ISREG (st.st_mode))
 890             output_stream_regular = 1;
 891         }
 892     }
 893
 894 #ifdef WINDOWS
 895   ws_startup ();
 896 #endif
 897
 898   /* Setup the signal handler to redirect output when hangup is
 899      received.  */
 900 #ifdef HAVE_SIGNAL
 901   if (signal(SIGHUP, SIG_IGN) != SIG_IGN)
 902     signal(SIGHUP, redirect_output_signal);
 903   /* ...and do the same for SIGUSR1.  */
 904   signal (SIGUSR1, redirect_output_signal);
 905   /* Writing to a closed socket normally signals SIGPIPE, and the
 906      process exits.  What we want is to ignore SIGPIPE and just check
 907      for the return value of write().  */
 908   signal (SIGPIPE, SIG_IGN);
 909 #ifdef SIGWINCH
 910   signal (SIGWINCH, progress_handle_sigwinch);
 911 #endif
 912 #endif /* HAVE_SIGNAL */
 913
 914   status = RETROK;              /* initialize it, just-in-case */
 915   /* Retrieve the URLs from argument list.  */
 916   for (t = url; *t; t++)
 917     {
 918       char *filename = NULL, *redirected_URL = NULL;
 919       int dt;
 920
 921       if ((opt.recursive || opt.page_requisites)
 922           && url_scheme (*t) != SCHEME_FTP)
 923         status = retrieve_tree (*t);
 924       else
 925         status = retrieve_url (*t, &filename, &redirected_URL, NULL, &dt);
 926
 927       if (opt.delete_after && file_exists_p(filename))
 928         {
 929           DEBUGP (("Removing file due to --delete-after in main():\n"));
 930           logprintf (LOG_VERBOSE, _("Removing %s.\n"), filename);
 931           if (unlink (filename))
 932             logprintf (LOG_NOTQUIET, "unlink: %s\n", strerror (errno));
 933         }
 934
 935       xfree_null (redirected_URL);
 936       xfree_null (filename);
 937     }
 938
 939   /* And then from the input file, if any.  */
 940   if (opt.input_filename)
 941     {
 942       int count;
 943       status = retrieve_from_file (opt.input_filename, opt.force_html, &count);
 944       if (!count)
 945         logprintf (LOG_NOTQUIET, _("No URLs found in %s.\n"),
 946                    opt.input_filename);
 947     }
 948   /* Print the downloaded sum.  */
 949   if (opt.recursive || opt.page_requisites
 950       || nurl > 1
 951       || (opt.input_filename && total_downloaded_bytes != 0))
 952     {
 953       logprintf (LOG_NOTQUIET,
 954                  _("\nFINISHED --%s--\nDownloaded: %s bytes in %d files\n"),
 955                  time_str (NULL), with_thousand_seps_large (total_downloaded_bytes),
 956                  opt.numurls);
 957       /* Print quota warning, if exceeded.  */
 958       if (opt.quota && total_downloaded_bytes > opt.quota)
 959         logprintf (LOG_NOTQUIET,
 960                    _("Download quota (%s bytes) EXCEEDED!\n"),
 961                    with_thousand_seps_large (opt.quota));
 962     }
 963
 964   if (opt.cookies_output)
 965     save_cookies ();
 966
 967   if (opt.convert_links && !opt.delete_after)
 968     convert_all_links ();
 969
 970   log_close ();
 971   for (i = 0; i < nurl; i++)
 972     xfree (url[i]);
 973   cleanup ();
 974
 975 #ifdef DEBUG_MALLOC
 976   print_malloc_debug_stats ();
 977 #endif
 978   if (status == RETROK)
 979     return 0;
 980   else
 981     return 1;
 982 }
 983 \f
 984 #ifdef HAVE_SIGNAL
 985 /* Hangup signal handler.  When wget receives SIGHUP or SIGUSR1, it
 986    will proceed operation as usual, trying to write into a log file.
 987    If that is impossible, the output will be turned off.
 988
 989    #### It is unsafe to do call libc functions from a signal handler.
 990    What we should do is, set a global variable, and have the code in
 991    log.c pick it up.  */
 992
 993 static RETSIGTYPE
 994 redirect_output_signal (int sig)
 995 {
 996   const char *signal_name = (sig == SIGHUP ? "SIGHUP" :
 997                              (sig == SIGUSR1 ? "SIGUSR1" :
 998                               "WTF?!"));
 999   log_request_redirect_output (signal_name);
1000   progress_schedule_redirect ();
1001   signal (sig, redirect_output_signal);
1002 }
1003 #endif /* HAVE_SIGNAL */