]> sjero.net Git - wget/blob - NEWS
[svn] Mention that --timeout also affects DNS lookups.
[wget] / NEWS
1 GNU Wget NEWS -- history of user-visible changes.
2
3 Copyright (C) 1997, 1998, 2000, 2001, 2002, 2003 Free Software Foundation, Inc.
4 See the end for copying conditions.
5
6 Please send GNU Wget bug reports to <bug-wget@gnu.org>.
7 \f
8 * Changes in Wget 1.9.
9
10 ** It is now possible to specify that POST method be used for HTTP
11 requests.  For example, `wget --post-data="id=foo&data=bar" URL' will
12 send a POST request with the specified contents.
13
14 ** IPv6 is experimentally supported.
15
16 ** The `--timeout' option now affects DNS lookup and establishing the
17 connection as well.  Previously it only affected reading and writing
18 data.
19
20 ** Download speed shown by the progress bar is based on the data
21 recently read, rather than the average speed of the entire download.
22 The ETA is still based on the average speed, though.
23
24 ** It is now possible to connect to FTP servers through FWTK
25 firewalls.  Set ftp_proxy to an FTP URL, and Wget will automatically
26 log on to the proxy as "username@host".
27
28 ** The new option `--retry-connrefused' makes Wget retry downloads
29 even in the face of refused connections, which are otherwise
30 considered a fatal error.
31
32 ** The new option `--dns-cache=off' may be used to prevent Wget from
33 caching DNS lookups.
34
35 ** The build process now requires Autoconf 2.5x.
36
37 ** Wget no longer quotes characters in local file names that would be
38 considered "unsafe" as part of URL.  Quoting can still occur for
39 control characters or for '/', but no longer for frequent characters
40 such as space.  You can use the new option --restrict-file-names to
41 enforce even stricter rules, which is useful when downloading to
42 Windows partitions.
43 \f
44 * Wget 1.8.2 is a bugfix release with no user-visible changes.
45 \f
46 * Wget 1.8.1 is a bugfix release with no user-visible changes.
47 \f
48 * Changes in Wget 1.8.
49
50 ** A new progress indicator is now available and used by default.
51 You can choose the progress bar type with `--progress=TYPE'.  Two
52 types are available, "bar" (the new default), and "dot" (the old
53 dotted indicator).  You can permanently revert to the old progress
54 indicator by putting `progress = dot' in your `.wgetrc'.
55
56 ** You can limit the download rate of the retrieval using the
57 `--limit-rate' option.  For example, `wget --limit-rate=15k URL' will
58 tell Wget not to download the body of the URL faster than 15 kilobytes
59 per second.
60
61 ** Recursive retrieval and link conversion have been revamped:
62
63 *** Wget now traverses links breadth-first.  This makes the
64 calculation of depth much more reliable than before.  Also, recursive
65 downloads are faster and consume *significantly* less memory than
66 before.
67
68 *** Links are converted only when the entire retrieval is complete.
69 This is the only safe thing to do, as only then is it known what URLs
70 have been downloaded.
71
72 *** BASE tags are handled correctly when converting links.  Since Wget
73 already resolves <base href="..."> when resolving handling URLs, link
74 conversion now makes the BASE tags point to an empty string.
75
76 *** HTML anchors are now handled correctly.  Links to an anchor in the
77 same document (<a href="#anchorname">), which used to confuse Wget,
78 are now converted correctly.
79
80 *** When in page-requisites (-p) mode, no-parent (-np) is ignored when
81 retrieving for inline images, stylesheets, and other documents needed
82 to display the page.
83
84 *** Page-requisites (-p) mode now works with frames.  In other words,
85 `wget -p URL-THAT-USES-FRAMES' will now download the frame HTML files,
86 and all the files that they need to be displayed properly.
87
88 ** `--base' now works conjunction with `--input-file', providing a
89 base for each URL and thereby allowing the URLs in the file to be
90 relative.
91
92 ** If a host has more than one IP address, Wget uses the other
93 addresses when accessing the first one fails.
94
95 ** Host directories now contain port information if the URL is at a
96 non-standard port.
97
98 ** Wget now supports the robots.txt directives specified in
99 <http://www.robotstxt.org/wc/norobots-rfc.txt>.
100
101 ** URL parser has been fixed, especially the infamous overzealous
102 quoting.  Wget no longer dequotes reserved characters, e.g. `%3F' is
103 no longer translated to `?', nor `%2B' to `+'.  Unsafe characters
104 which are not reserved are still escaped, of course.
105
106 ** No more than 20 successive redirections are allowed.
107 \f
108 * Wget 1.7.1 is a bugfix release with no user-visible changes.
109 \f
110 * Changes in Wget 1.7.
111
112 ** SSL (`https') pages now work if you compile Wget with SSL support;
113 use the `--with-ssl' configure flag.  You need to have OpenSSL
114 installed.
115
116 ** Cookies are now supported.  Wget will accept cookies sent by the
117 server and return them in later requests.  Additionally, it can load
118 and save cookies to disk, in the same format that Netscape uses.
119
120 ** "Keep-alive" (persistent) HTTP connections are now supported.
121 Using keep-alive allows Wget to share one TCP/IP connection for
122 many retrievals, making multiple-file downloads faster and less
123 stressing for the server and the network.
124
125 ** Wget now recognizes FTP directory listings generated by NT and VMS
126 servers.
127
128 ** It is now possible to recurse through FTP sites where logging in
129 puts you in some directory other than '/'.
130
131 ** You may now use `~' to mean home directory in `.wgetrc'.  For
132 example, `load_cookies = ~/.netscape/cookies.txt' works as you would
133 expect.
134
135 ** The HTML parser has been rewritten.  The new one works more
136 reliably, allows finer-grained control over which tags and attributes
137 are detected, and has better support for some features like correctly
138 skipping comments and declarations, decoding entities, etc.  It is
139 also more general.
140
141 ** <meta name="robots"> tags are now respected.
142
143 ** Wget's internal tables now use hash tables instead of linked lists
144 where appropriate.  This results in huge speedups when retrieving
145 large sites (thousands of documents).
146
147 ** Wget now has a man page, automatically generated from the Texinfo
148 documentation.  (The last version that shipped with a man page was
149 1.4.5).  To get this, you need to have pod2man from the Perl
150 distribution installed on your system.
151 \f
152 * Changes in Wget 1.6
153
154 ** Administrative changes.
155
156 *** Maintainership.  Due to Hrvoje being plagued with a "real job",
157 Dan Harkless is the most active maintainer (not that he doesn't have a
158 real job as well).  Hrvoje still participates occasionally, and both
159 are being helped by many other people.
160
161 *** Web page.  Thanks to Jan Prikryl, Wget has an "official" web page.
162 Take a look at:
163
164     http://sunsite.dk/wget/
165
166 *** Anonymous CVS.  Thanks to ever-helpful Karsten Thygesen, Wget
167 sources are now available at an anonymous CVS server.  Take a look at
168 the web page for downloading instructions.
169
170 ** New -K / --backup-converted / backup_converted = on option causes files
171 modified due to -k to be saved with a .orig prefix before being changed.  When
172 using -N as well, it is these .orig files that are compared against the server.
173
174 ** New --follow-tags / follow_tags = ... option allows you to restrict
175 Wget to following only certain HTML tags when doing a recursive
176 retrieval.  -G / --ignore-tags / ignore_tags = ... is just the
177 opposite -- all tags but the ones you specify will be followed.
178
179 ** New --waitretry / waitretry = SECONDS option allows waiting between retries
180 of failed downloads.  Wget will use "linear" backoff, waiting 1 second after the
181 first failure, 2 after the second, up to SECONDS.  waitretry is set to 10 by
182 default in the system wgetrc.
183
184 ** New -p / --page-requisites / page_requisites = on option causes
185 Wget to download all ancillary files necessary to display a given HTML
186 page properly (e.g. inlined images).
187
188 ** New -E / --html-extension / html_extension = on option causes Wget
189 to append ".html" to text/html filenames not ending in regexp
190 "\.[Hh][Tt][Mm][Ll]?".
191
192 ** New type of .wgetrc command -- "lockable Boolean".  Can be set to on, off,
193 always, or never.  This allows the .wgetrc to override the commandline.  So far,
194 passive_ftp is the only .wgetrc command which takes a lockable Boolean.
195
196 ** A number of new translation files have been added.
197
198 ** New --bind-address / bind_address = <address> option for people on hosts 
199 bound to multiple IP addresses.
200
201 ** wget now accepts (illegal per HTTP spec) relative URLs in HTTP redirects.
202 \f
203 * Wget 1.5.3 is a bugfix release with no user-visible changes.
204 \f
205 * Wget 1.5.2 is a bugfix release with no user-visible changes.
206 \f
207 * Wget 1.5.1 is a bugfix release with no user-visible changes.
208 \f
209 * Changes in Wget 1.5.0
210
211 ** Wget speaks many languages!
212
213 On systems with gettext(), Wget will output messages in the language
214 set by the current locale, if available.  At this time we support
215 Czech, German, Croatian, Italian, Norwegian and Portuguese.
216
217 ** Opie (Skey) is now supported with FTP.
218
219 ** HTTP Digest Access Authentication (RFC2069) is now supported.
220
221 ** The new `-b' option makes Wget go to background automatically.
222
223 ** The `-I' and `-X' options now accept wildcard arguments.
224
225 ** The `-w' option now accepts suffixes `s' for seconds, `m' for
226 minutes, `h' for hours, `d' for days and `w' for weeks.
227
228 ** Upon getting SIGHUP, the whole previous log is now copied to
229 `wget-log'.
230
231 ** Wget now understands proxy settings with explicit usernames and
232 passwords, e.g. `http://user:password@proxy.foo.com/'.
233
234 ** You can use the new `--cut-dirs' option to make Wget create less
235 directories.
236
237 ** The `;type=a' appendix to FTP URLs is now recognized.  For
238 instance, the following command will retrieve the welcoming message in
239 ASCII type transfer:
240
241     wget "ftp://ftp.somewhere.com/welcome.msg;type=a"
242
243 ** `--help' and `--version' options have been redone to to conform to
244 standards set by other GNU utilities.
245
246 ** Wget should now be compilable under MS Windows environment.  MS
247 Visual C++ and Watcom C have been used successfully.
248
249 ** If the file length is known, percentages are displayed during
250 download.
251
252 ** The manual page, now hopelessly out of date, is no longer
253 distributed with Wget.
254 \f
255 * Wget 1.4.5 is a bugfix release with no user-visible changes.
256 \f
257 * Wget 1.4.4 is a bugfix release with no user-visible changes.
258 \f
259 * Changes in Wget 1.4.3
260
261 ** Wget is now a GNU utility.
262
263 ** Can do passive FTP.
264
265 ** Reads .netrc.
266
267 ** Info documentation expanded.
268
269 ** Compiles on pre-ANSI compilers.
270
271 ** Global wgetrc now goes to /usr/local/etc (i.e. $sysconfdir).
272
273 ** Lots of bugfixes.
274 \f
275 * Changes in Wget 1.4.2
276
277 ** New mirror site at ftp://sunsite.auc.dk/pub/infosystems/wget/,
278 thanks to Karsten Thygesen.
279
280 ** Mailing list!  Mail to wget-request@sunsite.auc.dk to subscribe.
281
282 ** New option --delete-after for proxy prefetching.
283
284 ** New option --retr-symlinks to retrieve symbolic links like plain
285 files.
286
287 ** rmold.pl -- script to remove files deleted on the remote server
288
289 ** --convert-links should work now.
290
291 ** Minor bugfixes.
292 \f
293 * Changes in Wget 1.4.1
294
295 ** Minor bugfixes.
296
297 ** Added -I (the opposite of -X).
298
299 ** Dot tracing is now customizable; try wget --dot-style=binary
300 \f
301 * Changes in Wget 1.4.0
302
303 ** Wget 1.4.0 [formerly known as Geturl] is an extensive rewrite of
304 Geturl.  Although many things look suspiciously similar, most of the
305 stuff was rewritten, like recursive retrieval, HTTP, FTP and mostly
306 everything else.  Wget should be now easier to debug, maintain and,
307 most importantly, use.
308
309 ** Recursive HTTP should now work without glitches, even with Location
310 changes, server-generated directory listings and other naughty stuff.
311
312 ** HTTP regetting is supported on servers that support Range
313 specification. WWW authorization is supported -- try
314 wget http://user:password@hostname/
315
316 ** FTP support was rewritten and widely enhanced. Globbing should now
317 work flawlessly. Symbolic links are created locally. All the
318 information the Unix-style ls listing can give is now recognized.
319
320 ** Recursive FTP is supported, e.g.
321     wget -r ftp://gnjilux.cc.fer.hr/pub/unix/util/
322
323 ** You can specify "rejected" directories, to which you do not want to
324 enter, e.g. with wget -X /pub
325
326 ** Time-stamping is supported, with both HTTP and FTP. Try wget -N URL.
327
328 ** A new texinfo reference manual is provided.  It can be read with
329 Emacs, standalone info, or converted to HTML, dvi or postscript.
330
331 ** Fixed a long-standing bug, so that Wget now works over SLIP
332 connections.
333
334 ** You can have a system-wide wgetrc (/usr/local/lib/wgetrc by
335 default). Settings in $HOME/.wgetrc override the global ones, of
336 course :-)
337
338 ** You can set up quota in .wgetrc to prevent sucking too much
339 data. Try `quota = 5M' in .wgetrc (or quota = 100K if you want your
340 sysadmin to like you).
341
342 ** Download rate is printed after retrieval.
343
344 ** Wget now sends the `Referer' header when retrieving
345 recursively.
346
347 ** With the new --no-parent option Wget can retrieve FTP recursively
348 through a proxy server.
349
350 ** HTML parser, as well as the whole of Wget was rewritten to be much
351 faster and less memory-consuming (yes, both).
352
353 ** Absolute links can be converted to relative links locally. Check
354 wget -k.
355
356 ** Wget catches hangup, filtering the output to a log file and
357 resuming work. Try kill -HUP %?wget.
358
359 ** User-defined headers can be sent.  Try
360
361     wget http://fly.cc.her.hr/ --header='Accept-Charset: iso-8859-2'
362
363 ** Acceptance/Rejection lists may contain wildcards.
364
365 ** Wget can display HTTP headers and/or FTP server response with the
366 new `-S' option.  It can save the original HTTP headers with `-s'.
367
368 ** socks library is now supported (thanks to Antonio Rosella
369 <Antonio.Rosella@agip.it>). Configure with --with-socks.
370
371 ** There is a nicer display of REST-ed output.
372
373 ** Many new options (like -x to force directory hierarchy, or -m to
374 turn on mirroring options).
375
376 ** Wget is now distributed under GNU General Public License (GPL).
377
378 ** Lots of small features I can't remember. :-)
379
380 ** A host of bugfixes.
381 \f
382 * Changes in Geturl 1.3
383
384 ** Added FTP globbing support (ftp://fly.cc.fer.hr/*)
385
386 ** Added support for no_proxy
387
388 ** Added support for ftp://user:password@host/
389
390 ** Added support for %xx in URL syntax
391
392 ** More natural command-line options
393
394 ** Added -e switch to execute .geturlrc commands from the command-line
395
396 ** Added support for robots.txt
397
398 ** Fixed some minor bugs
399 \f
400 * Geturl 1.2 is a bugfix release with no user-visible changes.
401 \f
402 * Changes in Geturl 1.1
403
404 ** REST supported in FTP
405
406 ** Proxy servers supported
407
408 ** GNU getopt used, which enables command-line arguments to be ordered
409 as you wish, e.g.  geturl http://fly.cc.fer.hr/ -vo log is the same as
410 geturl -vo log http://fly.cc.fer.hr/
411
412 ** Netscape-compatible URL syntax for HTTP supported: host[:port]/dir/file
413
414 ** NcFTP-compatible colon URL syntax for FTP supported: host:/dir/file
415
416 ** <base href="xxx"> supported
417
418 ** autoconf supported
419 \f
420 ----------------------------------------------------------------------
421 Copyright information:
422
423 Copyright (C) 1997, 1998, 2000, 2001 Free Software Foundation, Inc.
424
425    Permission is granted to anyone to make or distribute verbatim
426    copies of this document as received, in any medium, provided that
427    the copyright notice and this permission notice are preserved, thus
428    giving the recipient permission to redistribute in turn.
429
430    Permission is granted to distribute modified versions of this
431    document, or of portions of it, under the above conditions,
432    provided also that they carry prominent notices stating who last
433    changed them.