sjero.net Git - wget/blob - TODO

   1                                  Hey Emacs, this is -*- outline -*- mode
   2
   3 This is the to-do list for Wget.  There is no timetable of when we plan to
   4 implement these features -- this is just a list of things it'd be nice to see in
   5 Wget.  Patches to implement any of these items would be gladly accepted.  The
   6 items are not listed in any particular order (except that recently-added items
   7 may tend towards the top).  Not all of these represent user-visible
   8 changes.
   9
  10 * RFC 1738 says that if logging on to an FTP server puts you in a directory
  11   other than '/', the way to specify a file relative to '/' in a URL (let's use
  12   "/bin/ls" in this example) is "ftp://host/%2Fbin/ls".  Wget needs to support
  13   this (and ideally not consider "ftp://host//bin/ls" to be equivalent, as that
  14   would equate to the command "CWD " rather than "CWD /").  To accomodate people
  15   used to broken FTP clients like Internet Explorer and Netscape, if
  16   "ftp://host/bin/ls" doesn't exist, Wget should try again (perhaps under
  17   control of an option), acting as if the user had typed "ftp://host/%2Fbin/ls".
  18
  19 * If multiple FTP URLs are specified that are on the same host, Wget should
  20   re-use the connection rather than opening a new one for each file.
  21
  22 * Try to devise a scheme so that, when password is unknown, Wget asks
  23   the user for one.
  24
  25 * Limit the number of successive redirection to max. 20 or so.
  26
  27 * If -c used on a file that's already completely downloaded, don't re-download
  28   it (unless normal --timestamping processing would cause you to do so).
  29
  30 * If -c used with -N, check to make sure a file hasn't changed on the server
  31   before "continuing" to download it (preventing a bogus hybrid file).
  32
  33 * Take a look at
  34   <http://info.webcrawler.com/mak/projects/robots/norobots-rfc.html>
  35   and support the new directives.
  36
  37 * Generalize --html-extension to something like --mime-extensions and have it
  38   look at mime.types/mimecap file for preferred extension.  Non-HTML files with
  39   filenames changed this way would be re-downloaded each time despite -N unless
  40   .orig files were saved for them.  Since .orig would contain the same data as
  41   non-.orig, the latter could be just a link to the former.  Another possibility
  42   would be to implement a per-directory database called something like
  43   .wget_url_mapping containing URLs and their corresponding filenames.
  44
  45 * When spanning hosts, there's no way to say that you are only interested in
  46   files in a certain directory on _one_ of the hosts (-I and -X apply to all).
  47   Perhaps -I and -X should take an optional hostname before the directory?
  48
  49 * Add an option to not encode special characters like ' ' and '~' when saving
  50   local files.  Would be good to have a mode that encodes all special characters
  51   (as now), one that encodes none (as above), and one that only encodes a
  52   character if it was encoded in the original URL (e.g. %20 but not %7E).
  53
  54 * --retr-symlinks should cause wget to traverse links to directories too.
  55
  56 * Make wget return non-zero status in more situations, like incorrect HTTP auth.
  57
  58 * Make -K compare X.orig to X and move the former on top of the latter if
  59   they're the same, rather than leaving identical .orig files laying around.
  60
  61 * If CGI output is saved to a file, e.g. cow.cgi?param, -k needs to change the
  62   '?' to a "%3F" in links to that file to avoid passing part of the filename as
  63   a parameter.
  64
  65 * Make `-k' convert <base href=...> too.
  66
  67 * Make `-k' check for files that were downloaded in the past and convert links
  68   to them in newly-downloaded documents.
  69
  70 * Add option to clobber existing file names (no `.N' suffixes).
  71
  72 * Introduce a concept of "boolean" options.  For instance, every
  73   boolean option `--foo' would have a `--no-foo' equivalent for
  74   turning it off.  Get rid of `--foo=no' stuff.  Short options would
  75   be handled as `-x' vs. `-nx'.
  76
  77 * Implement "thermometer" display (not all that hard; use an
  78   alternative show_progress() if the output goes to a terminal.)
  79
  80 * Add option to only list wildcard matches without doing the download.
  81
  82 * Add case-insensitivity as an option.
  83
  84 * Handle MIME types correctly.  There should be an option to (not)
  85   retrieve files based on MIME types, e.g. `--accept-types=image/*'.
  86
  87 * Implement "persistent" retrieving.  In "persistent" mode Wget should
  88   treat most of the errors as transient.
  89
  90 * Allow time-stamping by arbitrary date.
  91
  92 * Fix Unix directory parser to allow for spaces in file names.
  93
  94 * Allow size limit to files (perhaps with an option to download oversize files
  95   up through the limit or not at all, to get more functionality than [u]limit.
  96
  97 * Implement breadth-first retrieval.
  98
  99 * Download to .in* when mirroring.
 100
 101 * Add an option to delete or move no-longer-existent files when mirroring.
 102
 103 * Implement a switch to avoid downloading multiple files (e.g. x and x.gz).
 104
 105 * Implement uploading (--upload URL?) in FTP and HTTP.
 106
 107 * Rewrite FTP code to allow for easy addition of new commands.  It
 108   should probably be coded as a simple DFA engine.
 109
 110 * Recognize more FTP servers (VMS).
 111
 112 * Make HTTP timestamping use If-Modified-Since facility.
 113
 114 * Implement better spider options.
 115
 116 * Add more protocols (e.g. gopher and news), implementing them in a
 117   modular fashion.
 118
 119 * Implement a concept of "packages" a la mirror.
 120
 121 * Implement correct RFC1808 URL parsing.
 122
 123 * Implement HTTP cookies.
 124
 125 * Implement more HTTP/1.1 bells and whistles (ETag, Content-MD5 etc.)
 126
 127 * Add a "rollback" option to have --continue throw away a configurable number of
 128   bytes at the end of a file before resuming download.  Apparently, some stupid
 129   proxies insert a "transfer interrupted" string we need to get rid of.
 130
 131 * When using --accept and --reject, you can end up with empty directories.  Have
 132   Wget any such at the end.