]> sjero.net Git - wget/blob - src/ChangeLog
39af0663565cd740285533fac70fac5a7915ba38
[wget] / src / ChangeLog
1 2005-03-06  Hrvoje Niksic  <hniksic@xemacs.org>
2
3         * mswindows.c: Provide wrappers to Winsock functions that set
4         errno to WSAGetLastError() in case of failure.  Also provide a
5         Windows-specific version of strerror.
6
7         * mswindows.h: Wrap calls to socket, bind, connect, recv, send,
8         select, getsockname, getpeername, and setsockopt.
9
10 2005-03-06  Hrvoje Niksic  <hniksic@xemacs.org>
11
12         * url.c (url_parse): Reject port numbers larger than 65535.  We
13         also check for overflow while parsing port numbers.
14
15 2005-03-06  Hrvoje Niksic  <hniksic@xemacs.org>
16
17         * utils.c (read_file): Don't use wgint for file size; LFS won't
18         work since the file is mmap'ed as a whole.
19
20         * options.h: Don't include stdio.h.
21
22         * log.c: Ditto.
23
24         * init.c: Disambiguate assignment from non-zero test to avoid
25         Borland C warning.
26
27         * http.c (response_new): Don't needlessly post-increment count.
28
29         * hash.c: Include stdio.h.
30
31         * gnu-md5.h: Don't include stdio.h.
32
33         * getopt.h (struct option): Always use const.
34
35         * ftp.c (getftp): Avoid unnecessary assignment to RES to avoid
36         Borland C warning.
37
38         * ftp-ls.c: Disambiguate assignment from non-zero test to avoid
39         Borland C warning.
40
41         * cmpt.c (strptime_internal): Don't initialize rp_backup when
42         !_NL_CURRENT to avoid Borland C warning.
43
44 2005-03-06  Hrvoje Niksic  <hniksic@xemacs.org>
45
46         * utils.c (fopen_excl): Fix parse error when O_BINARY is
47         available.
48
49 2005-03-05  Hrvoje Niksic  <hniksic@xemacs.org>
50
51         * url.c (url_file_name): Don't allow hosts named ".." to be
52         appended as path elements.
53
54 2005-03-03  Hrvoje Niksic  <hniksic@xemacs.org>
55
56         * retr.c (retrieve_url): Escape location header.
57
58         * http.c (print_server_response_1): Escape server response when
59         printing it.
60         (gethttp): Escape host name, status message, location header, and
61         content type.
62         (http_loop): Escape error message from server.
63
64         * host.c (lookup_host): Escape host name when printing it.
65
66         * ftp.c (getftp): Escape user name when printing it.
67         (getftp): Escape remote file and directory for printing.
68         (getftp): Escape server listing when printing it.
69         (ftp_retrieve_list): Escape link name and file name.
70         (ftp_retrieve_glob): Escape file name.
71
72         * ftp-basic.c (ftp_response): Escape server response when printing
73         it.
74
75         * cookies.c (parse_set_cookies): Escape the cookie field when
76         printing it.
77         (parse_set_cookies): Escape contents of remote header.
78         (cookie_handle_set_cookie): Escape host name and cookie domain.
79
80         * connect.c (connect_to_ip): Escape the host name.
81
82         * log.c (escnonprint): New function, used for printing strings
83         coming from the server that possibly contain non-ASCII characters.
84         (escnonprint_uri): Ditto.
85
86 2005-02-24  Hrvoje Niksic  <hniksic@xemacs.org>
87
88         * ftp.c (getftp): Ditto.
89
90         * http.c (gethttp): When we're not supposed to overwrite files,
91         use fopen_excl to open the file and recompute the file name.
92
93         * log.c (redirect_output): Use unique_create to avoid a race
94         condition.
95
96         * mswindows.c (fake_fork_child): Use unique_create.
97
98         * utils.c (fopen_excl): New function that opens a stdio stream
99         with the O_EXCL flag (where available).
100         (unique_create): New function, like unique_name, but also creating
101         the file and returning a file pointer.
102         (fork_to_background): Use unique_create to create the file
103         immediately to avoid race condition with multiple instances of
104         wget -b.
105
106 2005-02-24  Hrvoje Niksic  <hniksic@xemacs.org>
107
108         * host.c (lookup_host): Test for AI_ADDRCONFIG directly, instead
109         of checking for HAVE_GETADDRINFO_AI_ADDRCONFIG.
110
111 2005-02-23  Hrvoje Niksic  <hniksic@xemacs.org>
112
113         * host.c (is_valid_ipv6_address): Move here from url.c.
114         (lookup_host): If the address is numeric, don't print the
115         "resolving..." line, don't set up DNS timeouts, and set the
116         AI_NUMERICHOST hint, where available.
117
118 2005-02-26  Gisle Vanem  <giva@bgnett.no>
119
120         * utils.c: Use the nnnLL syntax under GCC.  Define struct_stat to
121         struct _stati64 under __MINGW32__ as well as under MS VC.
122
123 2005-02-26  Hrvoje Niksic  <hniksic@xemacs.org>
124
125         * utils.c: Use the nnnI64 syntax for __int64 constants under all
126         Windows compilers.
127         (SPRINTF_WGINT): Use "%I64" under all Windows compilers.
128
129         * mswindows.h (WGINT_MAX): Use the nnnI64 syntax for
130         __int64 constants under all Windows compilers.
131         (struct_stat): Use `struct stati64' under Borland C.
132         (fstat): Don't redefine to _fstati64 under Borland.
133
134         * mswindows.c: Define str_to_int64 under Borland C as well as
135         under (older) Visual C.
136
137 2005-02-25  Hrvoje Niksic  <hniksic@xemacs.org>
138
139         * ftp.c (getftp): Initialize err to suppress compiler warning.
140
141 2005-02-24  Hrvoje Niksic  <hniksic@xemacs.org>
142
143         * ftp.c (ftp_expected_bytes): Fix bug that caused infloop because
144         of not correctly skipping the '(' character.
145
146 2005-02-24  Hrvoje Niksic  <hniksic@xemacs.org>
147
148         * mswindows.c (wget_ftello): Removed.
149
150         * mswindows.h: Remove bogus definition of stat.
151         (wget_ftello): Remove the leftover ftello replacement.
152
153 2005-02-20  Hrvoje Niksic  <hniksic@xemacs.org>
154
155         * mswindows.c (wget_ftello): Wget's replacement for ftello.
156
157         * utils.c (file_size): Use ftello where available.
158
159         * ftp-ls.c (ftp_parse_unix_ls): Use str_to_wgint to parse the file
160         size.
161         (ftp_parse_winnt_ls): Ditto.
162
163         * ftp-basic.c (ftp_size): Use str_to_wgint to convert number to
164         wgint; pass 10 instead of 0 as the BASE argument.
165
166         * ftp.c (ftp_expected_bytes): Use str_to_wgint to parse the file
167         size.
168
169         * sysdep.h (LARGE_INT_FMT): Use __int64 as LARGE_INT on
170         MSVC/Windows; print it with "%I64".
171
172         * wget.h: Define a `wgint' type, normally aliased to (the possibly
173         64-bit variant of) off_t.
174
175         * all: Use `wgint' instead of `long' for numeric variables that
176         can hold file sizes.
177
178         * utils.c (number_to_string): Support printing of `wgint'
179         argument.
180         (number_to_static_string): New function.
181
182         * all: Replace printf("%ld", long_value) with printf("%s",
183         number_to_static_string(wgint_value)).
184
185 2005-02-18  Mauro Tortonesi <mauro@ferrara.linux.it>
186
187         * main.c: Added the --ftp-passwd command line option.
188
189         * init.c: Renamed command passwd to ftppasswd.
190
191 2005-02-11  Mauro Tortonesi <mauro@ferrara.linux.it>
192         
193         * string_t.c: Fixed a bug in do_escape and triggered escape of
194         backslashes in string_escape to avoid ambiguities in the result
195         string.
196         
197 2005-02-10  Mauro Tortonesi <mauro@ferrara.linux.it>
198
199         * string.h: Renamed to string_t.h to fix a compilation conflict 
200         with the string.h header in the standard C library.
201         
202         * string.c: Renamed to string_t.c for consistency with string.h.
203         
204         * string_t.c: Ditto.
205
206         * string_t.h: Ditto.
207         
208 2004-12-31  Mauro Tortonesi <mauro@ferrara.linux.it>
209
210         * string.c: New file.
211
212         * string.h: New file.
213
214         * Makefile.in: Added string.c to the list of modules to compile.
215
216         * main.c: Updated copyright.
217
218 2004-11-18  Ulf Harnhammar <ulf.harnhammar.9485@student.uu.se>
219
220         * ftp-ls.c: Fixed a problem in ftp_parse_winnt_ls that could allow a
221         malicious remote FTP server to crash wget.
222
223 2004-11-18  Hans-Andreas Engel <engel@node.ch>
224
225         * http.c: Enable --convert-links (-k) when a single page is downloaded
226         via --output-document (-O).
227
228 2004-11-18  Mauro Tortonesi <mauro@deepspace6.net>
229
230         * connect.c: Minor correction to the comment in front of fd_peek.
231
232 2004-11-18  Leonid Petrov <nouser@lpetrov.net>
233
234         * retr.c: Fix a timeout problem in fd_read_body when using http_proxy.
235
236 2004-11-15  YAMAZAKI Makoto <Yamazaki.Makoto@fujixerox.co.jp>
237
238         * netrc.c: Fix termination by assertion bug in netrc parsing.
239
240 2004-05-09  David Fritz  <zeroxdf@att.net>
241
242         * mswindows.c (fake_fork): Pass entire command line to the child
243         process.
244
245 2004-03-31  Hrvoje Niksic  <hniksic@xemacs.org>
246
247         * http.c (gethttp): Fix typo: SCHEME_SSL -> SCHEME_HTTPS.
248
249 2004-03-30  Hrvoje Niksic  <hniksic@xemacs.org>
250
251         * http.c (gethttp): Send the Proxy-Authorization header over
252         non-SSL connections too.
253
254 2004-03-25  David Fritz  <zeroxdf@att.net>
255
256         * mswindows.c (fake_fork_child): Ignore error code when
257         OpenFileMapping() fails; assume it failed because the object does
258         not exist.
259
260 2004-03-24  David Fritz  <zeroxdf@att.net>
261
262         * mswindows.c (fake_fork): New function.
263
264         * mswindows.c (fork_to_background): Use it.
265
266 2004-03-19  David Fritz  <zeroxdf@att.net>
267
268         * mswindows.c (ws_hangup): Incorporate old fork_to_background()
269         code.  Add event name argument.
270         (fork_to_backgorund): Now a simple wrapper around ws_hangup().
271         (ws_handler): Correctly handle the case when neither CTRLC_BACKGND
272         nor CTRLBREAK_BACKGND are defined.  Don't bother handling close,
273         logoff, or shutdown events.  Call ws_hangup() with the correct
274         event name; don't assume it was CTRL+Break.
275
276 2004-03-19  Hrvoje Niksic  <hniksic@xemacs.org>
277
278         * url.c (url_parse): Decode %HH sequences in host name.
279
280 2004-03-04  Hrvoje Niksic  <hniksic@xemacs.org>
281
282         * convert.c (local_quote_string): Quote "#" as "%23" and "%" as
283         "%25" when creating links to local files.
284
285 2004-03-02  David Fritz  <zeroxdf@att.net>
286
287         * mswindows.c (ws_percenttitle): Guard against future changes by
288         doing nothing if the proper variables have not been initialized.
289         Clamp percentage value.
290
291 2004-03-04  Gisle Vanem  <giva@bgnett.no>
292
293         * retr.c (fd_read_body): Don't change console title if quiet.
294
295 2004-02-25  David Fritz  <zeroxdf@att.net>
296
297         * mswindows.c (set_sleep_mode): Remove argument and return value.
298         Call GetModuleHandle() instead of LoadLibrary()/FreeLibrary() for
299         kernel32.dll.  Use typedef for function-pointer.  Don't cast
300         l-value.  Don't use dereference operator when calling through
301         function-pointer.
302         (ws_startup): Update call to set_sleep_mode().
303         (ws_cleanup): Remove call to set_sleep_mode().
304
305 2004-02-23  David Fritz  <zeroxdf@att.net>
306
307         * http.c (http_loop): Ditto.
308
309         * ftp.c (ftp_loop_internal): Update call to ws_changetitle().
310
311         * main.c (main): Don't bother calling ws_changetitle().
312
313         * mswindows.h (ws_changetitle): Update prototype.
314
315         * mswindows.c (ws_changetitle): Remove second argument.  Use
316         xfree_null().
317         (ws_percenttitle): Only update title when percentage has changed.
318
319 2004-02-23  David Fritz  <zeroxdf@att.net>
320
321         * mswindows.h: Ditto.
322
323         * mswindows.c: Misc. formatting/comment tweaks throughout.
324
325 2004-02-20  David Fritz  <zeroxdf@att.net>
326
327         * main.c (print_help): Remove call to ws_help().
328
329         * mswindows.c (ws_help): Remove.
330
331         * mswindows.h (ws_help): Remove.
332
333 2004-02-16  David Fritz  <zeroxdf@att.net>
334
335         * init.c (home_dir): Use aprintf() instead of xmalloc()/sprintf().
336         Under Windows, if $HOME is not defined, use the directory that
337         contains the Wget binary instead of hard-coded `C:\'.
338         (wgetrc_file_name): Under Windows, look for $HOME/.wgetrc then, if
339         not found, look for wget.ini in the directory of the Wget binary.
340
341         * mswindows.c (ws_mypath): Employ slightly more robust methodology.
342         Strip trailing path separator.
343
344 2004-02-06  Hrvoje Niksic  <hniksic@xemacs.org>
345
346         * http.c (gethttp): Respect --ignore-length.
347         (gethttp): Inhibit keep-alive if --ignore-length is specified.
348
349 2004-02-06  Hrvoje Niksic  <hniksic@xemacs.org>
350
351         * connect.c (sockaddr_set_data): Zero out
352         sockaddr_in/sockaddr_in6.  Apparently BSD-derived stacks need this
353         when binding a socket to local address.
354
355 2004-02-04  Hrvoje Niksic  <hniksic@xemacs.org>
356
357         * hash.c: Make the file compilable outside Wget source tree when
358         -DSTANDALONE is used.
359
360 2004-01-29  Hrvoje Niksic  <hniksic@xemacs.org>
361
362         * utils.c (determine_screen_width): Return 0 if not running on
363         Windows or on a TIOCGWINSZ-capable system.
364
365 2004-01-28  David Fritz  <zeroxdf@att.net>
366
367         * utils.c (determine_screen_width): Correctly determine console
368         width under Windows.
369
370 2004-01-28  Christian Biere  <christianbiere@gmx.de>
371
372         * progress.c (bar_set_params): Fixed syntax error when HAVE_ISATTY
373         was undefined.
374
375         * ftp.c (ftp_loop_internal): Allocate a larger buffer in case
376         "try" gets translated to something large.  Ditto in http_loop in
377         http.c.
378
379         * http.c (response_header_copy): Don't write to buf[BUFSIZE].
380
381         * ftp-opie.c (skey_response): Eliminate unnecessary string
382         concatenation; just call gen_md5_update twice.
383
384 2004-01-25  Hrvoje Niksic  <hniksic@xemacs.org>
385
386         * utils.c (xsleep): Don't call usleep with values larger than
387         1,000,000.
388
389 2003-12-16  Hrvoje Niksic  <hniksic@xemacs.org>
390
391         * http.c (gethttp): Fix generation of `Content-Length'.
392
393 2003-12-15  Gisle Vanem  <giva@bgnett.no>
394
395         * url.c (url_skip_credentials): Fixed return value; 'url' if no
396         credentials.
397
398 2003-12-14  Hrvoje Niksic  <hniksic@xemacs.org>
399
400         * url.c (url_skip_credentials): Return a pointer directly.
401
402 2003-12-14  Hrvoje Niksic  <hniksic@xemacs.org>
403
404         * url.c (url_file_name): Ditto.
405         (parse_errors): Ditto.
406
407         * retr.c (retr_rate): Ditto.
408
409         * progress.c (create_image): Ditto.
410
411         * netrc.c (parse_netrc): Ditto.
412
413         * main.c (struct cmdline_option): Ditto.
414         (redirect_output_signal): Ditto.
415
416         * init.c (commands): Ditto.
417
418         * ftp-ls.c (ftp_index): Ditto.
419
420         * cookies.c (check_domain_match): Declare the pointer to a literal
421         string as `const'.
422
423 2003-12-12  Hrvoje Niksic  <hniksic@xemacs.org>
424
425         * retr.c (fd_read_body): Pass total size to progress_create, not
426         the remaining amount.
427
428 2003-12-12  Hrvoje Niksic  <hniksic@xemacs.org>
429
430         * retr.c (fd_read_body): Don't fiddle with "interactive timeout"
431         if read timeout is unset.
432
433 2003-12-12  Hrvoje Niksic  <hniksic@xemacs.org>
434
435         * connect.c (bind_local): Don't set the IPV6_V6ONLY option on the
436         socket.
437
438 2003-12-06  Hrvoje Niksic  <hniksic@xemacs.org>
439
440         * url.c (url_file_name): Respect the setting of
441         opt.protocol_directories.
442
443         * main.c (main): Only check for ret=='?' when longindex is unset.
444         (option_data): New option --protocol-directories.
445
446 2003-12-06  Hrvoje Niksic  <hniksic@xemacs.org>
447
448         * ftp.c (getftp): Ditto.
449
450         * http.c (gethttp): Correctly calculate bandwidth as total data
451         read divided with download time.
452
453         * retr.c (fd_read_body): Separate the return values for data
454         written and read.
455
456 2003-12-05  Hrvoje Niksic  <hniksic@xemacs.org>
457
458         * http.c (H_REDIRECTED): Respect the HTTP/1.1 "303 See Other"
459         response code.
460         Suggested by Dan Razzell.
461
462 2003-11-30  Hrvoje Niksic  <hniksic@xemacs.org>
463
464         * retr.c (fd_read_body): Report the amount of data *written* as
465         amount_read.  This is not entirely logical, but that's what the
466         callers expect, and it's not easy to change.
467
468         * ftp.c (ftp_loop_internal): Ditto.
469
470         * http.c (http_loop): Be smarter about assigning restval; if we're
471         in the nth pass of a download, simply use the information we have
472         about how much data has been retrieved as restval.
473
474         * ftp.c (getftp): Ditto for FTP "REST" command.
475
476         * http.c (gethttp): When the server doesn't respect range, skip
477         the first RESTVAL bytes of the read body.  Never truncate the
478         output file.
479
480         * retr.c (fd_read_body): Support skipping initial STARTPOS octets.
481
482 2003-11-30  Hrvoje Niksic  <hniksic@xemacs.org>
483
484         * http.c (skip_short_body): Renamed skip_body to skip_short_body;
485         don't bother calling fd_read_body.
486
487 2003-11-30  Hrvoje Niksic  <hniksic@xemacs.org>
488
489         * retr.c (fd_read_body): Sanitize arguments and document them
490         better.  Make sure the timer is created and updated only if
491         necessary.  Updated callers.
492
493 2003-11-30  Hrvoje Niksic  <hniksic@xemacs.org>
494
495         * http.c (skip_body): New function.
496         (gethttp): Use it to skip the body of the responses we don't care
497         to download.  That allows us to reuse the connection.
498         (gethttp): Trust that the HEAD requests will not generate body
499         data.
500
501         * retr.c (fd_read_body): Don't write to OUT if it's NULL.
502
503 2003-11-29  Hrvoje Niksic  <hniksic@xemacs.org>
504
505         * http.c (gethttp): Initialize SSL only the first time when SSL
506         URL is downloaded.
507
508 2003-11-29  Hrvoje Niksic  <hniksic@xemacs.org>
509
510         * cookies.c (cookie_header): Only generate the contents of the
511         header, not the leading "Cookie: " or the trailing "\r\n".
512
513         * http.c (gethttp): When adding headers specified with `--header',
514         allow them to override the headers generated by Wget.
515
516         * init.c (cmd_spec_header): Made opt.user_headers a vector.
517
518         * http.c (request_new): New function.  Returns a request structure
519         which can be modified in various ways, most notably by adding HTTP
520         headers to the request.
521         (request_set_header): New function for adding the header to the
522         request.  If the header is already available, it gets replaced.
523         (request_send): Construct and send the request.
524         (gethttp): Use the request_* functions to generate the request.
525
526 2003-11-28  Hrvoje Niksic  <hniksic@xemacs.org>
527
528         * http.c (gethttp): Don't include the Proxy-Authorization header
529         in the request tunneled through proxy.
530
531 2003-11-28  Hrvoje Niksic  <hniksic@xemacs.org>
532
533         * http.c (gethttp): Use the CONNECT handle to establish SSL
534         passthrough through non-SSL proxies.
535
536 2003-11-28  Hrvoje Niksic  <hniksic@xemacs.org>
537
538         * init.c: Don't #include netinet/Winsock stuff.
539
540 2003-11-28  Hrvoje Niksic  <hniksic@xemacs.org>
541
542         * http.c: Deleted the old functions header_process,
543         header_extract_number, header_exists, header_strdup,
544         http_process_range, http_process_none, http_process_type, and
545         http_process_connection.
546
547         * http.c (response_new): New function.
548         (response_header_bounds): Ditto.
549         (response_header_copy): Ditto.
550         (response_header_strdup): Ditto.
551         (response_status): Ditto.
552         (gethttp): Use the new response_* functions to parse the response.
553         Support HTTP/0.9 responses.
554
555 2003-11-27  Hrvoje Niksic  <hniksic@xemacs.org>
556
557         * progress.c (create_image): Don't calculate ETA if nothing has
558         been downloaded yet, because it causes division by zero.
559
560 2003-11-27  Hrvoje Niksic  <hniksic@xemacs.org>
561
562         * connect.c (bind_local): Rename sa_len to addrlen because IRIX
563         headers define sa_len as a macro.
564
565 2003-11-26  Hrvoje Niksic  <hniksic@xemacs.org>
566
567         * html-parse.c (convert_and_copy): Remove embedded newlines when
568         AP_TRIM_BLANKS is specified.
569
570 2003-11-26  Hrvoje Niksic  <hniksic@xemacs.org>
571
572         * ftp.c: Set con->csock to -1 where rbuf_uninitialize was
573         previously used.
574
575 2003-11-26  Hrvoje Niksic  <hniksic@xemacs.org>
576
577         * Makefile.in (http$o): Added the trailing backslash that was
578         missing.
579
580 2003-11-21  Hrvoje Niksic  <hniksic@xemacs.org>
581
582         * headers.c: Removed.  The file is no longer relevant, now that no
583         special handling of headers is done by the rbuf code.  Moved
584         portions to http.c.
585
586 2003-11-21  Hrvoje Niksic  <hniksic@xemacs.org>
587
588         * rbuf.c: Removed.
589
590         * ftp-basic.c (ftp_response): Use fd_read_line.  No longer use
591         struct rbuf.  Updated all callers.
592
593         * http.c (gethttp): Use fd_read_head to read all the headers in
594         one go.
595         (next_header): New function.
596
597         * retr.c (fd_read_line): New function: reads a line from FD,
598         leaving the rest of the data unread.
599         (fd_read_head): New function.
600
601         * connect.c (fd_peek): New function, implements peeking.
602         (poll_internal): New function.
603         (fd_read): Use it.
604         (fd_write): Ditto.
605         (fd_peek): Ditto.
606         (fd_register_transport): Allow registering a "peeker" callback.
607
608 2003-11-20  Hrvoje Niksic  <hniksic@xemacs.org>
609
610         * connect.c: Renamed xread/xwrite/xclose to
611         fd_read/fd_write/fd_close.  The "x" prefix is not appropriate
612         because the semantics have diverged from read/write/close too
613         significantly.  Updated all callers.
614
615 2003-11-20  Hrvoje Niksic  <hniksic@xemacs.org>
616
617         * connect.c (sock_write): It's not necessary to initialize RES.
618
619 2003-11-19  Hrvoje Niksic  <hniksic@xemacs.org>
620
621         * main.c (main): Don't reference opt.ipv4_only and opt.ipv6_only
622         if IPv6 is disabled.
623
624 2003-11-19  Hrvoje Niksic  <hniksic@xemacs.org>
625
626         * connect.c (socket_has_inet6): Only compile it if IPv6 is enabled
627         and AI_ADDRCONFIG is missing.
628
629 2003-11-18  Hrvoje Niksic  <hniksic@xemacs.org>
630
631         * gen_sslfunc.c (ssl_init_prng): Warn the user when using a weak
632         random seed.
633
634 2003-11-18  Hrvoje Niksic  <hniksic@xemacs.org>
635
636         * host.c (address_list_contains): Renamed address_list_find to
637         address_list_contains because its result is boolean.
638
639 2003-11-18  Hrvoje Niksic  <hniksic@xemacs.org>
640
641         * connect.c (select_fd): Return 1 if select is not available.
642
643 2003-11-17  Hrvoje Niksic  <hniksic@xemacs.org>
644
645         * connect.c (connect_to_host): Don't reference address list after
646         releasing it.
647
648 2003-11-17  Hrvoje Niksic  <hniksic@xemacs.org>
649
650         * main.c (print_help): Fix alignment of FTP options output.
651
652 2003-11-17  Hrvoje Niksic  <hniksic@xemacs.org>
653
654         * host.c (lookup_host): Check for the ability to create IPv6
655         sockets here.
656
657         * init.c (defaults): Don't auto-set --inet4-only on IPv6-less
658         systems.
659
660 2003-11-16  Hrvoje Niksic  <hniksic@xemacs.org>
661
662         * main.c (print_help): Fix typo in `-O' help message.  Fix docs of
663         -Y/--proxy.  Fix docs of `--cookies' and `--glob'.  Improve docs
664         of --convert-links.  Fix docs of SSL options.
665
666 2003-11-16  Hrvoje Niksic  <hniksic@xemacs.org>
667
668         * ftp-basic.c: Don't include <arpa/inet.h> and others because
669         they're no longer needed.
670
671 2003-11-16  Hrvoje Niksic  <hniksic@xemacs.org>
672
673         * main.c (main): Don't allow setting of both opt.ipv4_only and
674         opt.ipv6_only.
675
676         * init.c (defaults): Mark opt.ipv4_only specially when set
677         automatically.
678
679 2003-11-15  Hrvoje Niksic  <hniksic@xemacs.org>
680
681         * host.c (lookup_host): Use AI_ADDRCONFIG only if the family is
682         unspecified.  This ensures that specifying `--no-inet4' on systems
683         where IPv6 resolves, but doesn't work behaves the same regardless
684         of the availability of AI_ADDRCONFIG.
685
686 2003-11-15  Hrvoje Niksic  <hniksic@xemacs.org>
687
688         * host.c: Don't refer to the now-removed function
689         forget_host_lookup in the documentation of lookup_host.
690
691 2003-11-15  Hrvoje Niksic  <hniksic@xemacs.org>
692
693         * http.c (persistent_available_p): Correctly specify the endpoint
694         argument to socket_ip_address.
695         (gethttp): When printing the "reusing connection to..." message,
696         specify the host name of the reused connection, not the current
697         host name.  That makes more sense because it provides a useful
698         piece of information -- we know to which host we're supposed to
699         connect anyway!
700
701 2003-11-15  Hrvoje Niksic  <hniksic@xemacs.org>
702
703         * init.c: Make sure the options are in alphabetic order!
704
705         * host.c (lookup_host): Merge lookup_host_passive and lookup_host
706         after all -- having both would result in some code duplication.
707         (lookup_host): Set hints.ai_family to AF_INET if ipv4_only is
708         requested.  Likewise, set it to AF_INET6 for ipv6_only.  Specify
709         AI_ADDRCONFIG where available.
710         (lookup_host): New flag LH_REFRESH that specifies that a cached
711         entry for HOST should be refreshed.
712         (cache_query): New function.
713         (cache_store): Ditto.
714         (cache_remove): Ditto.
715         (forget_host_lookup): No longer necessary, replaced with static
716         function cache_remove.
717
718 2003-11-14  Hrvoje Niksic  <hniksic@xemacs.org>
719
720         * main.c: Enable -4 and -6 only if IPv6 is enabled.
721
722 2003-11-14  Hrvoje Niksic  <hniksic@xemacs.org>
723
724         * connect.c (register_transport): Renamed from register_extended.
725         Explain the intended usage.
726
727 2003-11-14  Hrvoje Niksic  <hniksic@xemacs.org>
728
729         * url.c (uri_merge): Merging "foo" and "bar" should result in
730         "bar", not in "foo/bar".
731         (path_simplify): Don't remove empty path elements; don't
732         special-case leading slash.
733         (path_simplify): Don't swallow ".."'s at the beginning of string.
734         E.g. simplify "foo/../../bar" as "../bar", not as "bar".
735         (append_uri_pathel): Defang ".." path element upon encountering
736         it.
737
738 2003-11-13  Hrvoje Niksic  <hniksic@xemacs.org>
739
740         * http.c (persistent_available_p): Don't attempt to talk to two
741         different SSL sites over the same secure connection.
742
743 2003-11-13  Hrvoje Niksic  <hniksic@xemacs.org>
744
745         * http.c (gethttp): Ditto.
746
747         * ftp.c (getftp): Use retryable_socket_connect_error instead of
748         CONNECT_ERROR.
749
750         * wget.h (CONNECT_ERROR): Removed.
751
752         * connect.c (retryable_socket_connect_error): New function instead
753         of unsupported_socket_family_error.
754
755 2003-11-13  Hrvoje Niksic  <hniksic@xemacs.org>
756
757         * wget.h (CONNECT_ERROR): Use it.
758
759         * connect.c (unsupported_socket_family_error): New function.
760
761 2003-11-13  Hrvoje Niksic  <hniksic@xemacs.org>
762
763         * connect.c (bind_local): Renamed bindport to bind_local; return
764         the socket directly.  Updated callers.
765         (accept_connection): Renamed acceptport to accept_connection;
766         return the created socket directly.  Updated callers.
767
768 2003-11-13  Hrvoje Niksic  <hniksic@xemacs.org>
769
770         * init.c (defaults): Turn on opt.ipv4_only if we're compiling with
771         IPv6, and AI_ADDRINFO is not available, and AF_INET6 sockets can't
772         be created.
773
774 2003-11-13  Hrvoje Niksic  <hniksic@xemacs.org>
775
776         * host.c (lookup_host): Document the fact that the addresses are
777         returned in order.
778
779 2003-11-12  Hrvoje Niksic  <hniksic@xemacs.org>
780
781         * utils.c: Use limits.h only where available.
782
783         * hash.c: Use INVALID_PTR and INVALID_PTR_BYTE.  Include limits.h.
784
785 2003-11-11  Hrvoje Niksic  <hniksic@xemacs.org>
786
787         * main.c: Added options --inet4-only and --inet6-only.
788
789 2003-11-11  Hrvoje Niksic  <hniksic@xemacs.org>
790
791         * host.c (host_errstr): Use the more standard message "Unknown
792         host".
793
794 2003-11-10  Hrvoje Niksic  <hniksic@xemacs.org>
795
796         * connect.c (connect_to_host): Use that flag to decide whether to
797         re-resolve the host name.
798
799         * host.c (struct address_list): Added a flag that maintains
800         whether the connection worked at some point.
801
802 2003-11-10  Hrvoje Niksic  <hniksic@xemacs.org>
803
804         * host.c (lookup_host): Special-case the numeric addresses only in
805         the non-IPv6 case.
806
807 2003-11-10  Hrvoje Niksic  <hniksic@xemacs.org>
808
809         * connect.c (resolve_bind_address): Call lookup_host_passive.
810         Make sure that opt.bind_address is resolved only once.
811
812         * host.c (lookup_host_passive): New function, handles "passive"
813         lookups.
814         (lookup_host): Remove the passive flags.  Remove the
815         family-related flags -- use ip_default_family instead.
816
817 2003-11-09  Hrvoje Niksic  <hniksic@xemacs.org>
818
819         * html-url.c: Get URLs from <object data="...">.
820
821 2003-11-09  Hrvoje Niksic  <hniksic@xemacs.org>
822
823         * main.c (option_data): Specify the command to use for --mirror.
824
825 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
826
827         * cookies.c (cookie_handle_set_cookie): Specify exact match for
828         unspecified domains.
829
830 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
831
832         * main.c (main): Removed one-letter options `-C', `-g', `-G', and
833         `-s'.
834
835 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
836
837         * main.c (main): Add --dont-remove-listing for backward
838         compatibility with previous versions.
839         (print_help): Fix typo, spotted by Dennis Smit.
840
841 2003-11-08  Gisle Vanem  <giva@bgnett.no>
842
843         * ftp-basic.c: Support Windows-2000 ftp servers. Win-2000 *is*
844         Win-NT 5.0 so calling it ST_WINNT is okay I guess.
845
846 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
847
848         * progress.c (update_speed_ring): Clear the speed ring when the
849         download stalls.
850
851         * retr.c (get_contents): Specify 0.95s read timeout, so that the
852         progress gauge can be updated even when data arrives very slowly
853         or stalls.
854
855 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
856
857         * utils.c (wtimer_allocate): Bless the use of wtimer_read on a
858         timer that has merely been allocated because get_contents() does
859         that.
860         (wtimer_update): Abort if the timer is not initialized.
861
862 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
863
864         * retr.c (get_contents): Pass the timer to limit_bandwidth().
865
866         * utils.c (wtimer_update): New function instead of wget_elapsed;
867         just update the timer, but don't return anything.
868         (wtimer_read): Read and return the last known value of the timer.
869
870 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
871
872         * http.c (persistent_available_p): Instead of matching all the
873         addresses of HOST and last host, determine the peer's IP address
874         with socket_ip_address and see if that address is one of those
875         HOST resolves to.
876
877         * host.c (address_list_match_all): Removed.
878         (address_list_find): New function, finds an IP address in the
879         address list.
880
881         * ftp.c (ftp_do_pasv): Get the peer's address here, and pass it to
882         ftp_epsv so it doesn't need to call getpeername.
883
884         * ftp-basic.c (ftp_port): Use socket_ip_address instead of
885         getpeername.
886         (ftp_lprt): Ditto.
887
888         * connect.c (socket_ip_address): Replaces conaddr, generalized to
889         either get peer's or local address.
890         (sockaddr_get_data): Made local to this file.
891
892 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
893
894         * hash.c (HASH_POSITION): Explicitly accept the hash function.
895         (grow_hash_table): Extract ht->hash_function outside the loop.
896         (hash_table_remove): Ditto.
897         (hash_table_clear): Fill entries with 0xff to clear them.
898         (hash_table_remove): Mark entries as deleted with the correct
899         marker.
900
901 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
902
903         * http.c (persistent_available_p): No reason for the host lookup
904         to be silent -- it's a lookup like any other.
905
906 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
907
908         * connect.c (register_extended): Check that fd >= 0.
909
910 2003-11-07  Hrvoje Niksic  <hniksic@xemacs.org>
911
912         * connect.c (LAZY_RETRIEVE_INFO): Set LAST_INFO.
913
914 2003-11-07  Hrvoje Niksic  <hniksic@xemacs.org>
915
916         * hash.c (NON_EMPTY): Use the all-bit-set value as the marker that
917         the field is empty.  This allows NULL pointer and 0 value to be
918         used as keys, which is necessary for the connect.c code to work
919         when fd==0.
920         (hash_table_new): Fill mappings with 0xff.
921         (grow_hash_table): Ditto.
922
923 2003-11-07  Hrvoje Niksic  <hniksic@xemacs.org>
924
925         * url.c (url_parse): Allow empty ports.
926
927 2003-11-07  Hrvoje Niksic  <hniksic@xemacs.org>
928
929         * main.c (print_help): Break the help string into multiple chunks.
930         (cmdline_option): New option handler OPT_FUNCALL.  Generalized
931         HANDLE_CMD to generic DATA.
932         (option_data): Use the new OPT_FUNCALL feature.
933
934 2003-11-06  Hrvoje Niksic  <hniksic@xemacs.org>
935
936         * log.h: Declare log_init, log_close, and
937         log_request_redirect_output here.
938
939 2003-11-05  Dennis Smit  <ds@nerds-incorporated.org>
940
941         * main.c: (main): added --preserve-permissions option.
942
943         * ftp.c (ftp_retrieve_list): added support for
944         --preserve-permissions option.
945
946         * init.c: added support for --preserve-permission option.
947
948         * option.h: added support for --preserve-permission option.
949
950 2003-11-06  Hrvoje Niksic  <hniksic@xemacs.org>
951
952         * main.c (init_switches): New function.  Convert option_data to
953         long_options and short_options, which can be fed to getopt_long.
954         (main): Execute command-line options by consulting option_data.
955
956 2003-11-06  Hrvoje Niksic  <hniksic@xemacs.org>
957
958         * gen_sslfunc.c (ssl_read): Implement a more correct check for
959         EINTR.
960         (ssl_write): Ditto.
961         (init_ssl): Use a global SSL context.
962
963 2003-11-06  Hrvoje Niksic  <hniksic@xemacs.org>
964
965         * connect.c (xclose): Free INFO even if it doesn't provide a
966         closer.
967
968 2003-11-06  Hrvoje Niksic  <hniksic@xemacs.org>
969
970         * connect.c: Updated all callers of
971         iread/ssl_iread/iwrite/ssl_iwrite to use xread and xwrite instead.
972
973         * rbuf.h (struct rbuf): Removed the SSL member because SSL is
974         handled automatically by xread.
975
976         * hash.c (ptrhash): Made private.
977         (ptrcmp): Ditto.
978         (inthash): Removed.
979
980         * connect.c (select_fd): Don't set errno, leave it to the caller.
981
982         * gen_sslfunc.c (connect_ssl): Use register_extended to register
983         SSL callbacks for communication with SSL-enabled endpoints.
984         (ssl_read): New function.
985         (ssl_write): Ditto.
986         (ssl_poll): Ditto.
987         (ssl_close): Ditto.
988
989         * connect.c (register_extended): New function -- register
990         callbacks for basic socket operations.
991         (xread): Ditto.
992         (xwrite): Ditto.
993         (xclose): Ditto.
994         (sock_read): New function, default implementation for reading.
995         (sock_write): Ditto for writing.
996         (sock_poll): Ditto for polling.
997         (sock_close): Ditto for closing.
998
999 2003-11-05  Hrvoje Niksic  <hniksic@xemacs.org>
1000
1001         * connect.c (bindport): Fix compilation under pre-C99 compilers.
1002
1003 2003-11-05  Hrvoje Niksic  <hniksic@xemacs.org>
1004
1005         * connect.c (connect_to_ip): More compact error checking.
1006         (bindport): Don't treat failed setsockopt as a fatal error.
1007
1008 2003-11-05  Hrvoje Niksic  <hniksic@xemacs.org>
1009
1010         * connect.c (resolve_bind_address): Use a more accurate error
1011         message -- we're not binding to ANY, we're disabling bind
1012         altogether.
1013
1014 2003-11-05  Hrvoje Niksic  <hniksic@xemacs.org>
1015
1016         * cookies.c (save_cookies_mapper): Respect the setting of
1017         keep-session-cookies.
1018         (cookie_jar_load): Import session cookies.
1019         Based on code submitted by Nicolas Schodet.
1020
1021         * utils.c (datetime_str): Use information in TM when it's
1022         non-NULL.
1023
1024         * main.c (main): New option `--keep-session-cookies'.
1025
1026 2003-11-04  Hrvoje Niksic  <hniksic@xemacs.org>
1027
1028         * Makefile.in (realclean): Delete config.h.in.
1029
1030 2003-11-04  Hrvoje Niksic  <hniksic@xemacs.org>
1031
1032         * config-post.h: New file, included from now autogenerated
1033         config.h.in.
1034
1035 2003-11-04  Hrvoje Niksic  <hniksic@xemacs.org>
1036
1037         * progress.c (progress_handle_sigwinch): Don't call
1038         determine_screen_width() from the signal handler.  Instead, just
1039         set a volatile variable.
1040         (bar_create): Check whether SIGWINCH was received.
1041         (bar_update): Ditto.
1042
1043         * sysdep.h: Define SYSTEM_FNMATCH only if HAVE_FNMATCH_H is true.
1044
1045 2003-11-03  Hrvoje Niksic  <hniksic@xemacs.org>
1046
1047         * utils.c (xsleep): New function.  Uses nanosleep where available,
1048         resuming sleeps interrupted by signals.  Updated callers of sleep
1049         and usleep to use xsleep.
1050
1051 2003-11-03  Hrvoje Niksic  <hniksic@xemacs.org>
1052
1053         * ftp-basic.c (ftp_login): Remove shadowing (and bogus)
1054         declaration of SEED.
1055
1056 2003-11-03  Hrvoje Niksic  <hniksic@xemacs.org>
1057
1058         * log.c (logvprintf): Documented better.  Renamed to
1059         log_vprintf_internal to avoid confusion with the public API
1060         functions logprintf and logputs.
1061
1062 2003-11-03  Hrvoje Niksic  <hniksic@xemacs.org>
1063
1064         * wget.h (N_): Don't parenthesize argument.
1065
1066 2003-11-03  Hrvoje Niksic  <hniksic@xemacs.org>
1067
1068         * host.h (ADDRESS_IPV4_DATA): Don't take the address of in.s_addr
1069         because that doesn't work on machines that define it as bitfield.
1070
1071 2003-11-03  Hrvoje Niksic  <hniksic@xemacs.org>
1072
1073         * connect.c (select_fd): Generalize the third argument into WAIT,
1074         so that the caller can request waiting for both read and write.
1075         Updated callers.
1076
1077 2003-11-02  Hrvoje Niksic  <hniksic@xemacs.org>
1078
1079         * html-url.c (cleanup_html_url): Destroy the hash tables, don't
1080         just call free on them.
1081         (init_interesting): Use hash_table_put instead of string_set_add
1082         because we don't need the strdup that the latter function
1083         performs.
1084
1085         * init.c (cleanup): Don't pass NULL to cookie_jar_delete.
1086
1087         * xmalloc.c (xfree_real): Abort when passed a NULL pointer.
1088         (xfree_debug): Print at the file and line of the offending call to
1089         free.
1090
1091 2003-11-02  Hrvoje Niksic  <hniksic@xemacs.org>
1092
1093         * wget.h: Retired the `boolean' type.  Moved the DEFAULT_LOGFILE
1094         define to log.h.  Moved the INFINITE_RECURSION define to recur.h.
1095
1096         * xmalloc.h: Renamed FREE_MAYBE to xfree_null and moved the
1097         definition from wget.h to xmalloc.h.
1098
1099 2003-11-02  Hrvoje Niksic  <hniksic@xemacs.org>
1100
1101         * html-parse.c (decode_entity): New function; split the decoding
1102         of entities here.
1103         (convert_and_copy): Use it to decode entities.
1104         (decode_entity): Handle the &apos entity.
1105         (decode_entity): Don't decode Latin 1 numeric entities.  Don't
1106         decode &#0.
1107
1108 2003-11-01  Hrvoje Niksic  <hniksic@xemacs.org>
1109
1110         * ftp-opie.c (calculate_skey_response): Use uint32_t instead of
1111         `unsigned long' for the cheksum array.  Document the function.
1112
1113 2003-11-01  Hrvoje Niksic  <hniksic@xemacs.org>
1114
1115         * connect.c (acceptport): Don't call select_fd when timeout is not
1116         requested.
1117
1118 2003-11-01  Hrvoje Niksic  <hniksic@xemacs.org>
1119
1120         * host.c: Removed the ip_default_family global variable.
1121
1122         * host.c (lookup_host): Document the function.  Fixed declaration
1123         of VEC.
1124
1125 2003-10-31  Hrvoje Niksic  <hniksic@xemacs.org>
1126
1127         * various: Use new macros xnew, xnew0, xnew_array, and xnew0_array
1128         in various places.
1129
1130 2003-10-31  Hrvoje Niksic  <hniksic@xemacs.org>
1131
1132         * wget.h: Move declarations of malloc and logging code to
1133         xmalloc.h and log.h respectively to unclutter this file.
1134         (STRDUP_ALLOCA): Made it side-effect free.
1135
1136         * xmalloc.h: New files.  Define macros xnew, xnew0, xnew_array,
1137         and xnew0_array.
1138
1139         * xmalloc.c: New file.  Move the xmalloc routines here.
1140
1141 2003-10-31  Hrvoje Niksic  <hniksic@xemacs.org>
1142
1143         * connect.c (sockaddr_set_data): Remove the broken code that
1144         checked for NULL address.
1145
1146 2003-10-31  Hrvoje Niksic  <hniksic@xemacs.org>
1147
1148         * host.c (address_list_from_single): Removed.
1149         (address_list_from_ipv4_addresses): Renamed from
1150         address_list_from_vector.
1151
1152 2003-10-31  Hrvoje Niksic  <hniksic@xemacs.org>
1153
1154         * sysdep.h (CLOSE): Don't call close on file descriptors less than
1155         0, i.e. on uncreated sockets.
1156
1157         * connect.c (resolve_bind_address): Work on struct sockaddr
1158         directly.
1159         (connect_to_host): Replacement for connect_to_many.  Resolve HOST
1160         and connect to any of its addresses.  If we can't connect and the
1161         host name lookup was cached, try to resolve it again.  This should
1162         fix problems with hosts behind dynamic DNS.  Updated all callers.
1163         (connect_to_ip): Replacement for connect_to_one.  Removed SILENT;
1164         added the argument PRINT instead.  Updated all callers.
1165         (set_connection_host_name): Removed.
1166
1167         * host.c (address_list_address_at): New function instead of
1168         address_list_copy_one. It returns a pointer to ip_address *, so
1169         it's not necessary to copy the data.
1170         (address_list_cached_p): New function.
1171         (forget_host_lookup): Ditto.
1172
1173         * connect.c: Got rid of the MSOCK global variable.  Made bindport
1174         return the local socket it creates.  Added a new argument to
1175         acceptport, the socket to call accept on.  Updated callers.
1176         (closeport): Removed.
1177
1178         * connect.c: Moved the sockaddr code from host.c to this file,
1179         because most of that stuff is used for connecting, and has nothing
1180         to do with host names anyway.
1181         (sockaddr_set_data, sockaddr_get_data): New functions, replace the
1182         old sockaddr_set_address, sockaddr_set_port, sockaddr_get_address,
1183         and sockaddr_get_port.
1184
1185 2003-10-30  Hrvoje Niksic  <hniksic@xemacs.org>
1186
1187         * sysdep.h: Use `S >= 8' rather than `S == 8' when looking for
1188         large integers.
1189
1190 2003-10-30  Hrvoje Niksic  <hniksic@xemacs.org>
1191
1192         * url.c (append_uri_pathel): New argument ESCAPED_P that says
1193         whether [B, E) is to be treated as URL-escaped or not.  If
1194         ESCAPED_P is false, don't unescape the region.
1195         (url_file_name): u->file is not URL-escaped.
1196
1197 2003-10-30  Hrvoje Niksic  <hniksic@xemacs.org>
1198
1199         * retr.c (retrieve_from_file): Use retrieve_tree for
1200         page-requisites.
1201
1202         * main.c (main): Don't define opt.recursive when -p is used.
1203         Instead, make sure that recursion is used for HTTP in that case.
1204
1205 2003-10-29  Hrvoje Niksic  <hniksic@xemacs.org>
1206
1207         * host.h: Defined accessors for elements of ip_address.  Updated
1208         all callers.
1209         (address_list_match_all): Use memcmp in the non-IPv6 case.
1210
1211         * wget.h (CONNECT_ERROR): Don't retry connecting if connect()
1212         returned EAFNOSUPPORT.
1213
1214 2003-10-27  Mauro Tortonesi <mauro@deepspace6.net>
1215
1216         * connect.h: changed bindport prototype and added the related
1217         BIND_ON_IPV4_ONLY and BIND_ON_IPV6_ONLY flags.
1218
1219         * connect.c: changed bindport and resolve_bind_address to allow
1220         protocol-version specific DNS resolution. modified conaddr,
1221         acceptport and connect_to_one to make use of struct
1222         sockaddr_storage and of the new ip_address structure.
1223
1224         * ftp-basic.c: added LPRT/LPSV (RFC1639) support, refactored
1225         PORT/PASV (RFC959) and EPRT/EPSV (RFC2428) support code.
1226
1227         * ftp.c: added the ftp_do_port and ftp_do_pasv functions to
1228         handle FTP over IPv6.
1229
1230         * ftp.h: changed prototype of ftp_epsv and added prototypes for
1231         ftp_lpsv, ftp_lprt and ftp_eprt.
1232
1233         * host.c: renamed the
1234         wget_sockaddr_set_address and wget_sockaddr_get_addr, and
1235         wget_sockaddr_{s,g}et_port couples to sockaddr_{s,g}et_address and
1236         sockaddr_{g,s}et_port respectively.  changed
1237         address_list_match_all, address_list_from_addrinfo sockaddr_len,
1238         pretty_print_address, lookup_host, sockaddr_{s,g}et_address and
1239         sockaddr_{g,s}et_port to make use of struct sockaddr_storage and
1240         of the new ip_address structure.  removed map_ipv4_to_ip and
1241         map_ip_to_ipv4.
1242
1243         * host.h: redefined structure ip_address and removed structure
1244         wget_sockaddr.
1245
1246 2003-10-26  Hrvoje Niksic  <hniksic@xemacs.org>
1247
1248         * sysdep.h: Include inttypes.h where available.
1249
1250         * host.c: Switch from u_int32_t to uint32_t.
1251
1252 2003-10-26  Hrvoje Niksic  <hniksic@xemacs.org>
1253
1254         * netrc.c (parse_netrc): Reset the QUOTE flag after the closing
1255         quote.
1256
1257 2003-10-25  Hrvoje Niksic  <hniksic@xemacs.org>
1258
1259         * url.c (is_valid_ipv6_address): Reformat to GNU coding style.
1260         Use enums for NS_IN* constants.  Use ISXDIGIT.
1261
1262         * convert.c (construct_relative): Document better how the function
1263         works.
1264
1265 2003-10-23  Hrvoje Niksic  <hniksic@xemacs.org>
1266
1267         * config.h.in: Deploy preprocessor magic to avoid Ultrix's
1268         <netdb.h> include <bitypes.h> which defines its own u_int32_t.
1269         Reported by Bernhard Simon.
1270
1271 2003-10-23  Hrvoje Niksic  <hniksic@xemacs.org>
1272
1273         * version.c: Bump version.
1274
1275 2003-10-23  Hrvoje Niksic  <hniksic@xemacs.org>
1276
1277         * url.c: Ditto.
1278
1279         * html-parse.c (advance_declaration): Don't use trailing comma in
1280         enum because older compilers don't support it.
1281
1282         * utils.c: Don't redefine HAVE_SIGSETJMP.
1283
1284 2003-10-16  Hrvoje Niksic  <hniksic@xemacs.org>
1285
1286         * convert.c (construct_relative): Don't handle absolute files
1287         specially -- for example, -P/tmp/foo shouldn't imply that
1288         converted files must refer to "/tmp/foo/..."!
1289
1290 2003-10-15  Hrvoje Niksic  <hniksic@xemacs.org>
1291
1292         * http.c: Consider status 307 a valid redirect.
1293
1294 2003-10-15  Philip Stadermann  <philip.stadermann@credativ.de>
1295
1296         * ftp.c (ftp_retrieve_glob): Correctly loop through the list whose
1297         elements might have been deleted.
1298
1299 2003-10-13  Hrvoje Niksic  <hniksic@xemacs.org>
1300
1301         * html-url.c (tag_handle_meta): Set the Refresh link to expect
1302         HTML.
1303         (append_one_url): Renamed to append_url.
1304
1305 2003-10-13  Hrvoje Niksic  <hniksic@xemacs.org>
1306
1307         * sysdep.h: Only define u_int32_t.
1308
1309 2003-10-11  Hrvoje Niksic  <hniksic@xemacs.org>
1310
1311         * utils.c (large_int_to_string): Use snprintf() to print the
1312         number.  This will work even on systems where libc doesn't
1313         understand %lld, but the compiler does, because it will use our
1314         snprintf replacement.
1315
1316         * init.c (parse_bytes_helper): New function.
1317         (cmd_bytes): Use it to parse bytes, but cast the result to long.
1318         (cmd_bytes_large): Ditto, but store the result to LARGE_INT.  Used
1319         for --quota so that --quota=10G works even on machines without
1320         long long.
1321
1322         * options.h (struct options): Declare quota as LARGE_INT.
1323
1324         * retr.c (downloaded_exceeds_quota): Removed.
1325         (downloaded_increase): Ditto.
1326         (total_downloaded_bytes): New variable, replaces opt.downloaded,
1327         which was the wrong place for it anyway.  Updated callers of
1328         downloaded_exceeds_quota and downloaded_increase to check this
1329         variable directly.
1330
1331         * sysdep.h: Get rid of VERY_LONG_TYPE.  Use LARGE_INT for the same
1332         purpose, defined as `long', `long long' or `double', depending on
1333         size of long and whether long long is available.
1334
1335 2003-10-11  Hrvoje Niksic  <hniksic@xemacs.org>
1336
1337         * sysdep.h: Also check size of short for int32_t.
1338
1339 2003-10-11  Hrvoje Niksic  <hniksic@xemacs.org>
1340
1341         * host.c (lookup_host): Use u_int32_t to store the result of
1342         inet_addr().  That removes the need for offset fiddling, caring
1343         about endian-ness, etc.
1344
1345         * sysdep.h: Define int32_t and u_int32_t if not available.
1346
1347 2003-10-11  Hrvoje Niksic  <hniksic@xemacs.org>
1348
1349         * ftp-basic.c (ftp_epsv): Use socklen_t * as the third argument to
1350         getpeername.
1351
1352         * config.h.in: Define socklen_t stub.
1353
1354         * host.c (sockaddr_len): Return socklen_t.
1355
1356         * connect.c (conaddr): Use socklen_t as the third argument to
1357         accept, getsockname, and connect.
1358
1359 2003-10-10  Hrvoje Niksic  <hniksic@xemacs.org>
1360
1361         * recur.c (retrieve_tree): Don't descend into documents that are
1362         not expected to contain HTML, regardless of their content-type.
1363
1364         * html-url.c (tag_url_attributes): Record which attributes are
1365         supposed to yield HTML links that can be followed.
1366         (tag_find_urls): Propagate that information to the caller through
1367         struct urlpos.
1368
1369 2003-10-10  Hrvoje Niksic  <hniksic@xemacs.org>
1370
1371         * hash.c (find_mapping): Return the next available mapping when
1372         the key is not found, not NULL.
1373         (hash_table_put): Use find_mapping to find the storage for the new
1374         data.
1375         (hash_table_put): Grow the table before exceeding maximum
1376         fullness, not afterwards.
1377
1378 2003-10-10  Hrvoje Niksic  <hniksic@xemacs.org>
1379
1380         * hash.c (hash_table_new): Slightly change the meaning of the
1381         first parameter.  Instead of being the minimum initial size, it is
1382         now the minimum number of items that the hash table can take
1383         without needing to resize.
1384
1385 2003-10-09  Hrvoje Niksic  <hniksic@xemacs.org>
1386
1387         * html-url.c (init_interesting): Initialize interesting_tags and
1388         interesting_attributes as hash tables.  This simplifies the code
1389         immensely because hash tables handle allocation and remove
1390         duplicates automatically.
1391         (find_tag): Removed.
1392         (collect_tags_mapper): Instead of calling find_tag, simply get the
1393         entry from interesting_tags hash table, which is both simpler and
1394         faster.
1395
1396 2003-10-09  Hrvoje Niksic  <hniksic@xemacs.org>
1397
1398         * hash.c (hash_table_get): Declare hash-table argument as const.
1399         (find_mapping): Ditto.
1400         (hash_table_get_pair): Ditto.
1401         (hash_table_contains): Ditto.
1402         (hash_table_count): Ditto.
1403
1404 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
1405
1406         * html-url.c (get_urls_html): Parse the appropriate flags to
1407         html-parse.c.
1408
1409         * html-parse.c (map_html_tags): Accept FLAGS from the caller
1410         instead of examining OPT.
1411
1412 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
1413
1414         * html-url.c (find_tag): Switch to binary search.
1415
1416 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
1417
1418         * main.c (print_help): Fix typo; stured -> stored.
1419
1420 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
1421
1422         * getopt.c: Add definitions of getopt_long and getopt_long_only.
1423
1424 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
1425
1426         * config.h.in: Renamed DEBUG to ENABLE_DEBUG.  ENABLE_DEBUG is, I
1427         think, a better name, because it implies that debugging output is
1428         merely possible, not "on by default", as might be construed from
1429         just DEBUG.
1430
1431 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
1432
1433         * ftp.c (has_insecure_name_p): Define it here.
1434
1435         * utils.c (has_wildcards_p): Define it here.
1436
1437         * sysdep.h: Declare fnmatch-related macros here, if not using
1438         system fnmatch().  Update .c files to not declare fnmatch.h
1439         directly.
1440
1441         * cmpt.c (fnmatch): Moved here.  Use it only under non-GNU libc.
1442
1443 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
1444
1445         * getopt.c: Newer version, imported from Free libit.
1446
1447 2003-10-07  Hrvoje Niksic  <hniksic@xemacs.org>
1448
1449         * cookies.c (struct cookie): Remove unused backpointer to cookie
1450         jar.
1451
1452 2003-10-07  Hrvoje Niksic  <hniksic@xemacs.org>
1453
1454         * cmpt.c (memmove): Comment out, since it's no longer used.
1455
1456         * cookies.c (cookie_jar_generate_cookie_header): Allocate room for
1457         chains in one pass.
1458         (find_chains_of_host): Assume that the caller has allocated DEST
1459         to be sufficiently large to take all the data.
1460         (eliminate_dups): Run through the array and eliminate dups on the
1461         fly instead of using memmove.
1462         (cookie_jar_process_set_cookie): Free cookie->domain before
1463         re-setting it.
1464
1465 2003-10-05  Gisle Vanem  <giva@bgnett.no>
1466
1467         * mswindows.c (set_sleep_mode): Fix type of
1468         _SetThreadExecutionState.
1469
1470 2003-10-05  Hrvoje Niksic  <hniksic@xemacs.org>
1471
1472         * utils.c (file_size): Return -1 if fopen() returns NULL.  Prior
1473         to this patch, wget --post-file=nosuchfile dumped core.
1474
1475 2003-10-04  Gisle Vanem  <giva@bgnett.no>
1476
1477         * mswindows.c (run_with_timeout): Use WaitForSingleObject to wait
1478         for thread termination.
1479
1480 2003-10-04  Hrvoje Niksic  <hniksic@xemacs.org>
1481
1482         * log.c: Use `...' in function definitions; ansi2knr will convert
1483         them to va_dcl.  This allowed removal of the ugly VA_START_1 and
1484         VA_START_2 macros.
1485
1486 2003-10-03  Gisle Vanem  <giva@bgnett.no>
1487
1488         * connect.c: And don't include them here.
1489
1490         * mswindows.h: Include winsock headers here.
1491
1492 2003-10-03  Hrvoje Niksic  <hniksic@xemacs.org>
1493
1494         * html-parse.c (convert_and_copy): Move variable declarations
1495         before statements.
1496
1497 2003-10-02  Gisle Vanem  <giva@bgnett.no>
1498         
1499         * mswindows.c (run_with_timeout): For Windows: Run the 'fun' in a
1500         thread via a helper function. Continually query the thread's
1501         exit-code until finished or timed out.
1502
1503 2003-10-02  Hrvoje Niksic  <hniksic@xemacs.org>
1504
1505         * wget.h (XMALLOC_ARRAY): Removed.
1506         (ALLOCA_ARRAY): Ditto.
1507
1508         * html-parse.c: Renamed alloca_p to resized.
1509         (GROW_ARRAY): Renamed DO_REALLOC_FROM_ALLOCA to GROW_ARRAY and
1510         returned it to html-parse.c, since nothing else was using it.
1511
1512 2003-10-02  Hrvoje Niksic  <hniksic@xemacs.org>
1513
1514         * retr.c (retrieve_url): Initialize DUMMY storage for DT.  Caught
1515         by valgrind.
1516
1517 2003-10-02  Hrvoje Niksic  <hniksic@xemacs.org>
1518
1519         * html-parse.c (convert_and_copy): Handle numeric entities in
1520         hexadecimal, &#xHH.
1521         (convert_and_copy): Copy the contents directly to the pool without
1522         a stack-allocated intermediary.
1523
1524 2003-10-02  Hrvoje Niksic  <hniksic@xemacs.org>
1525
1526         * utils.c (alarm_set): New function; use either setitimer or alarm
1527         to set up the alarm.
1528         (alarm_cancel): New function; cancel the alarm set up by
1529         alarm_set.
1530         (run_with_timeout): Use them.
1531
1532 2003-10-01  Hrvoje Niksic  <hniksic@xemacs.org>
1533
1534         * url.c (url_parse): Don't leak memory when a reencoded URL turns
1535         out to be invalid.
1536
1537         * url.c (parse_errors): Mark error messages for translation.
1538         (url_error): Translate error messages returned to the caller.
1539
1540 2003-10-01  Hrvoje Niksic  <hniksic@xemacs.org>
1541
1542         * ftp.c (ftp_loop_internal): Initialize TMRATE to NULL to shut up
1543         the compiler.
1544
1545 2003-09-26  Gisle Vanem  <giva@bgnett.no>
1546
1547         * src/mswindows.c: Added ws_percenttitle() showing progress in the
1548         window titlebar. Called from retr.c. Secured ws_mypath().
1549
1550         * windows/config.h.ms: alloca() prototype not needed.  Removed
1551         "#undef ENABLE_NLS"; should be in Makefile IMHO. Moved
1552         WGET_USE_STDARG from mswindows.h to config.ms.h because of #ifdef
1553         in log.c. (MSVC's vararg.h and stdarg.h are incompatible).
1554
1555 2003-09-29  Aaron Hawley <Aaron.Hawley@uvm.edu>
1556
1557         * ftp.c (getftp): --spider option should now work with FTP
1558         downloads.
1559         (ftp_loop_internal): quiet reports and calculations of downloads
1560         when --spider option set, nor try deleting when --delete-after
1561         also set.
1562         (ftp_loop): --spider will skip HTML-ification of .listing file.
1563
1564 2003-09-26  Gisle Vanem  <giva@bgnett.no>
1565
1566         * mswindows.c (read_registry): Removed.
1567         (set_sleep_mode): New function.
1568         (windows_main_junk): Call it.
1569
1570 2003-09-26  Gisle Vanem  <giva@bgnett.no>
1571
1572         * mswindows.c (read_registry): Fix invocation of registry
1573         functions.
1574
1575         * mswindows.c (read_registry): Condition definitions of sleep and
1576         usleep with not HAVE_SLEEP and HAVE_USLEEP respectively.  Define
1577         HAVE_SLEEP and HAVE_USLEEP under __DMC__.
1578
1579 2003-09-24  Hrvoje Niksic  <hniksic@xemacs.org>
1580
1581         * url.c (url_escape_1): Revert unintentional change to lowercase
1582         xdigit escapes.
1583         (url_escape_dir): Document that this function depends on the
1584         output of url_escape_1.
1585
1586 2003-09-23  Hrvoje Niksic  <hniksic@xemacs.org>
1587
1588         * progress.c (create_image): Print the current ETA if we're done
1589         with the download.
1590         (create_image): Change '-' display char to '+' in the progress bar.
1591
1592         * Makefile.in (clean): Remove .libs.
1593
1594 2003-09-23  Hrvoje Niksic  <hniksic@xemacs.org>
1595
1596         * cookies.c (struct cookie): New flag domain_exact.
1597         (update_cookie_field): Skip leading dot in domain.
1598         (find_matching_chains): Match numeric addresses exactly; don't
1599         needlessly copy HOST to the stack.
1600         (matching_cookie): Added argument HOST.  If cookie->domain_exact
1601         is set, check that HOST is equal to cookie->domain.
1602         (cookie_jar_load): Only use TAB as delimiter.  Document the
1603         meaning of DOMAIN-FLAG.  Skip leading dot in domain.
1604         (cookie_jar_load): Don't ignore DOMAIN-FLAG -- instead, set
1605         domain_exact to true if DOMAIN-FLAG is false.
1606         (save_cookies_mapper): If domain_exact is false, prepend the
1607         domain with dot, like Mozilla does.
1608
1609 2003-09-22  Hrvoje Niksic  <hniksic@xemacs.org>
1610
1611         * progress.c (create_image): Print the initial part of the
1612         download with '-' characters, analogous to how dot progress prints
1613         the initial part with ','.
1614
1615         * hash.c (ptrhash): New function.
1616         (ptrcmp): Ditto.
1617         (hash_table_new): Default to identity hash table.
1618
1619 2003-09-22  Hrvoje Niksic  <hniksic@xemacs.org>
1620
1621         * safe-ctype.h (_sch_test): The cast of BIT to unsigned char was
1622         broken -- _sch_istable bitmasks are 16-bit, not 8-bit!  Cast BIT
1623         to unsigned short instead.
1624
1625 2003-09-22  Hrvoje Niksic  <hniksic@xemacs.org>
1626
1627         * url.c (path_simplify): Instead of calls to memmove, handle "./"
1628         and "../" by advancing pointers.
1629
1630 2003-09-22  Hrvoje Niksic  <hniksic@xemacs.org>
1631
1632         * retr.c (getproxy): Moved from url.c.
1633
1634         * convert.c: Split off link conversion from url.c into separate
1635         file.  Also included the book-keeping stuff from recur.c.
1636
1637 2003-09-21  Hrvoje Niksic  <hniksic@xemacs.org>
1638
1639         * init.c: Improved documentation of functions.
1640         (cmd_boolean): Attempt to make code that tries to avoid calling
1641         strcmp for "speed" a bit more readable.
1642
1643         * init.c (simple_atof): Report error on encountering non-digit,
1644         non-"." character.
1645         (simple_atoi): Replacement for myatoi(), calling interface
1646         compatible with simple_atof.  Updated myatoi's callers.
1647
1648 2003-09-21  Bertrand Demiddelaer  <bert@b3rt.org>
1649
1650         * url.c (path_simplify): Would read two bytes past the end of the
1651         string in the "./" case.
1652
1653 2003-09-21  Matthew J. Mellon  <mellon@tymenet.com>
1654
1655         * http.c (gethttp): Recognize content-type "application/xhtml+xml"
1656         as what Wget considers "text/html".
1657
1658 2003-09-21  Hrvoje Niksic  <hniksic@xemacs.org>
1659
1660         * connect.c (connect_with_timeout): Made timeout type double.
1661
1662         * options.h (struct options): New members read_timeout,
1663         dns_timeout, and connect_timeout.
1664         Use them.
1665
1666 2003-09-21  Hrvoje Niksic  <hniksic@xemacs.org>
1667
1668         * init.c (simple_atof): New function.
1669         (cmd_time): Use it.
1670         (cmd_bytes): Accept things like "1.5k" and such.  Use simple_atof
1671         to parse decimals.
1672
1673         * retr.c (limit_bandwidth): Adjust each sleep by the error of the
1674         previous one.
1675
1676 2003-09-21  Hrvoje Niksic  <hniksic@xemacs.org>
1677
1678         * main.c (main): Use setoptval() for setting the options.  Use
1679         run_command for `-e'.
1680
1681         * init.c (parse_line): Rewritten to return COMIND right away.
1682         Changed linkage to static.
1683         (run_wgetrc): Use the available comind when calling setval, so it
1684         doesn't have to be computed twice.
1685         (setval_internal): New function, runs the command's action without
1686         any error checking.
1687         (setoptval): New function, does what setval used to do, but exits
1688         in case of error.
1689         (run_command): New function.
1690
1691 2003-09-21  Hrvoje Niksic  <hniksic@xemacs.org>
1692
1693         * connect.c (select_fd): Change MAXTIME's type to double.  Handle
1694         its decimal part.
1695
1696         * retr.c (sleep_between_retrievals): In the random-wait case, use
1697         random_float() to wait between 0 and 2*opt.wait seconds.
1698
1699         * utils.c (run_with_timeout): Accept `double' timeouts.  Correctly
1700         handle timeout values in (0, 1) range.
1701         (random_float): New function.
1702
1703         * options.h (struct options): Change the types of wait, waitretry,
1704         and timeout to double.
1705
1706         * init.c (cmd_time): Accept floating point time.
1707
1708 2003-09-20  Hrvoje Niksic  <hniksic@xemacs.org>
1709
1710         * retr.c (get_contents): Cosmetic fixes.
1711
1712 2003-09-20  Hrvoje Niksic  <hniksic@xemacs.org>
1713
1714         * url.c (uri_merge): Get rid of uri_merge_1.
1715         (uri_merge): Merge "foo//", "bar" as "foo//bar", not "foo///bar",
1716         i.e. don't add an extra slash merely because BASE ends with two
1717         slashes.
1718         (parse_credentials): Renamed from parse_uname.  Rewrittern in
1719         standard [beg, end) calling style.
1720         (url_skip_credentials): Renamed from url_skip_uname.  Made static.
1721         (url_skip_credentials): Include # and ; as terminators.  Old code
1722         would mistakenly consider "http://foo.com#hniksic@iskon.hr" to
1723         contain a username.
1724         (url_skip_scheme): Removed because it was unused.
1725         (url_has_scheme): Require "scheme" to be at least one char long.
1726
1727 2003-09-19  Hrvoje Niksic  <hniksic@xemacs.org>
1728
1729         * url.c (url_file_name): Expect NULL dir_prefix.
1730
1731         * init.c (cmd_file): Use a macro to prevent multiple #ifdef
1732         WINDOWS.
1733         (defaults): Set dir_prefix to NULL by default.
1734
1735 2003-09-19  Hrvoje Niksic  <hniksic@xemacs.org>
1736
1737         * safe-ctype.h (_sch_test): Cast BIT to unsigned char, like latest
1738         gcc does.
1739
1740 2003-09-19  Hrvoje Niksic  <hniksic@xemacs.org>
1741
1742         * wget.h (BOUNDED_TO_ALLOCA): Evaluate PLACE only once.
1743         (ARRAY_SIZE): Renamed to countof.  All callers updated.
1744
1745 2003-09-19  Hrvoje Niksic  <hniksic@xemacs.org>
1746
1747         * main.c (main): New option --strict-comments.
1748
1749         * html-parse.c (find_comment_end): New function: simple BM search
1750         for "-->".
1751         (map_html_tags): Use it if looking at a comment and not in strict
1752         comments mode.
1753
1754 2003-09-17  Aurelien Marchand  <artaxerxes@users.sf.net>
1755
1756         * ftp.h: Added OS400 system in enum
1757         * ftp-basic.c: recognize OS400 systems
1758         * ftp.c: don't prepend the CWD if talking to OS400, since it
1759         breaks the change in library
1760
1761 2003-09-18  Hrvoje Niksic  <hniksic@xemacs.org>
1762
1763         * retr.c (get_contents): Pass the correct argument to ssl_iread.
1764
1765 2003-09-18  Hrvoje Niksic  <hniksic@xemacs.org>
1766
1767         * safe-ctype.h: Don't #define ctype.h macros to errors because
1768         that loses when someone #include's ctype.h after safe-ctype.h.
1769
1770 2003-09-17  Hrvoje Niksic  <hniksic@xemacs.org>
1771
1772         * url.c: Undef U, W, C after use.
1773
1774 2003-09-17  Hrvoje Niksic  <hniksic@xemacs.org>
1775
1776         * init.c (cmd_spec_restrict_file_names): Allow the OS setting to
1777         be augmented by ",nocontrol" which means don't escape the control
1778         characters, but otherwise keep OS settings.
1779
1780         * url.c (file_unsafe_char): Deleted.
1781         (append_uri_pathel): Query filechr_table directly.
1782         (filechr_table): Separated Unix, Windows, and control-unsafe
1783         characters.
1784
1785 2003-09-17  Hrvoje Niksic  <hniksic@xemacs.org>
1786
1787         * url.c (url_escape_1): New function.
1788         (url_escape): Use it.
1789         (sync_path): Handle pathological cases where u->file and u->dir
1790         contain really strange characters.
1791         (ENCODE): Deleted.
1792         (REENCODE): Deleted.
1793
1794 2003-09-16  Hrvoje Niksic  <hniksic@xemacs.org>
1795
1796         * url.c (url_file_name): Don't reallocate FNAME if the file
1797         doesn't exist, as is usually the case.
1798
1799         * utils.c (unique_name): New flag allow_passthrough.
1800
1801 2003-09-16  Hrvoje Niksic  <hniksic@xemacs.org>
1802
1803         * utils.c (wtimer_sys_diff): Convert the time difference to signed
1804         __int64, then to double.  This works around MS VC++ 6 which can't
1805         convert unsigned __int64 to double directly.
1806
1807 2003-09-16  Hrvoje Niksic  <hniksic@xemacs.org>
1808
1809         * Makefile.in (clean): Also remove the core.<number> files
1810         produced by recent Linux systems.
1811
1812 2003-09-16  Hrvoje Niksic  <hniksic@xemacs.org>
1813
1814         * http.c (post_file): Don't pad the file if it's not large
1815         enough.  Bail out instead.
1816
1817 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1818
1819         * retr.c (get_contents): Reduce the buffer size to the amount of
1820         data that may pass through for one second.  This prevents long
1821         sleeps when limiting bandwidth.
1822
1823         * connect.c (connect_to_one): Reduce the socket's RCVBUF when
1824         bandwidth limitation to small values is requested.
1825
1826 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1827
1828         * progress.c (update_speed_ring): Moved the speed ring update to a
1829         separate function and documented it better.
1830
1831         * progress.c: Use `double' for most timers to support granularity
1832         smaller than 1ms.
1833
1834 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1835
1836         * wget.h (XDIGIT_TO_XCHAR): Implement as index into a literal
1837         string.
1838         (XDIGIT_TO_xchar): Ditto.
1839
1840 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1841
1842         * utils.c: Change the type of timer-related functions from long to
1843         double, for better precision.  On machines supporting gettimeofday
1844         the timers now work with granularity of less than one millisecond.
1845
1846 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1847
1848         * cookies.c (parse_set_cookies): Fixed the parser to handle more
1849         edge conditions.
1850         (test_cookies): New function, contains a test suite for
1851         parse_set_cookies.
1852
1853 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1854
1855         * url.c (strpbrk_or_eos): Implement as a macro under Gcc.
1856
1857 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1858
1859         * cookies.c (parse_set_cookies): Allow trailing space in
1860         set-cookies header.  Also, allow any amount of whitespace, not
1861         only one character.  Allow empty set-cookies header without
1862         spewing an error.
1863
1864 2003-09-14  Hrvoje Niksic  <hniksic@xemacs.org>
1865
1866         * url.c (append_uri_pathel): Use opt.restrict_file_names when
1867         calling file_unsafe_char.
1868
1869         * init.c: New command restrict_file_names.
1870
1871         * main.c (main): New option --restrict-file-names[=windows,unix].
1872
1873         * url.c (url_file_name): Renamed from url_filename.
1874         (url_file_name): Add directory and hostdir prefix here, not in
1875         mkstruct.
1876         (append_dir_structure): New function, does part of the work that
1877         used to be in mkstruct.  Iterates over path elements in u->path,
1878         calling append_uri_pathel on each one to append it to the file
1879         name.
1880         (append_uri_pathel): URL-unescape a path element and reencode it
1881         with a different set of rules, more appropriate for handling of
1882         files.
1883         (file_unsafe_char): New function, uses a lookup table to decide
1884         whether a character should be escaped for use in file name.
1885         (append_string): New utility function.
1886         (append_char): Ditto.
1887         (file_unsafe_char): New argument restrict_for_windows, decide
1888         whether Windows file names should be escaped in run-time.
1889
1890         * connect.c: Include <stdlib.h> to get prototype for abort().
1891
1892 2003-09-14  Hrvoje Niksic  <hniksic@xemacs.org>
1893
1894         * utils.c (wtimer_sys_set): Extracted the code that sets the
1895         current time here.
1896         (wtimer_reset): Call it.
1897         (wtimer_sys_diff): Extracted the code that calculates the
1898         difference between two system times here.
1899         (wtimer_elapsed): Call it.
1900         (wtimer_elapsed): Don't return a value smaller than the previous
1901         one, which could previously happen when system time is set back.
1902         Instead, reset start time to current time and note the elapsed
1903         offset for future calculations.  The returned times are now
1904         guaranteed to be monotonically nondecreasing.
1905
1906 2003-09-10  Hrvoje Niksic  <hniksic@xemacs.org>
1907
1908         * host.c (lookup_host): Print the result of the DNS lookup.
1909
1910 2003-09-10  Hrvoje Niksic  <hniksic@xemacs.org>
1911
1912         * init.c (cmd_boolean): Accept yes/no along with on/off.
1913         (cmd_lockable_boolean): Ditto.
1914
1915 2003-09-10  Hrvoje Niksic  <hniksic@xemacs.org>
1916
1917         * init.c: New command dns_cache.
1918
1919         * main.c (main): New option --dns-cache[=off].
1920
1921 2003-09-09  Hrvoje Niksic  <hniksic@xemacs.org>
1922
1923         * config.h.in: Initialize HAVE_GETADDRINFO and ENABLE_IPV6.
1924
1925         * all: Use #ifdef ENABLE_IPV6 instead of the older INET6.  Use
1926         HAVE_GETADDRINFO for getaddrinfo-related stuff.
1927
1928 2003-09-09  Hrvoje Niksic  <hniksic@xemacs.org>
1929
1930         * url.c (url_parse): Return an error if the URL contains a [...]
1931         IPv6 numeric address and we don't support IPv6.
1932
1933 2003-09-05  Hrvoje Niksic  <hniksic@xemacs.org>
1934
1935         * url.c (is_valid_ipv6_address): Modified to not require
1936         zero-terminated strings.
1937         (is_valid_ipv4_address): Ditto.
1938
1939 2003-09-05  Mauro Tortonesi <mauro@deepspace6.net>
1940
1941         src/url.c: added RFC 2732 compliance for URL parsing. The
1942         functions is_*_address valid are a modified version of
1943         glibc 2.3.2 inet_pton's code.
1944
1945 2003-09-03  Ahmon Dancy  <dancy@dancysoft.com>
1946
1947         * main.c init.c options.h: Added --retry-connrefused option so
1948         that Connection Refused failures are treated as non-fatal (when
1949         trying to retrieve from busy servers).
1950
1951         * wget.h: New CONNECT_ERROR macro for encapsulating this
1952         modification.
1953
1954         * ftp.c http.c : Use CONNECT_ERROR macro in places where
1955         ECONNREFUSED was checked.
1956
1957 2003-01-11  Ian Abbott  <abbotti@mev.co.uk>
1958
1959         * ftp.c (ftp_retrieve_glob): Reject insecure filenames as determined
1960         by calling new function has_insecure_name_p.  This is based on a
1961         patch by Red Hat.
1962
1963         * fnmatch.c (has_insecure_name_p): New function: returns non-zero
1964         if filename starts with `/' or contains `../' and is therefore
1965         considered insecure.
1966
1967         * fnmatch.h: Declare has_insecure_name_p().
1968
1969 2002-08-03  Hrvoje Niksic  <hniksic@xemacs.org>
1970
1971         * init.c (cmd_file): Allocate RESULT correctly.
1972
1973 2002-07-24  Hrvoje Niksic  <hniksic@xemacs.org>
1974
1975         * recur.c (retrieve_tree): Check whether downloaded_html_set is
1976         non-NULL before using it.
1977
1978 2002-05-27  Hrvoje Niksic  <hniksic@arsdigita.com>
1979
1980         * html-parse.c (NAME_CHAR_P): Allow almost any character here.
1981
1982 2002-05-24  Hrvoje Niksic  <hniksic@arsdigita.com>
1983
1984         * progress.c (bar_set_params): Fall back to dot progress if the
1985         terminal type is "emacs".
1986
1987 2002-05-20  Hrvoje Niksic  <hniksic@arsdigita.com>
1988
1989         * log.c: Don't #undef WGET_USE_STDARG.
1990
1991 2002-05-16  Hrvoje Niksic  <hniksic@arsdigita.com>
1992
1993         * hash.c (prime_size): Store the offset of the prime number in the
1994         prime table.  When searching, start with the given offset.
1995         (hash_table_new): Pass the pointer to ht->prime_offset to
1996         prime_size.
1997         (grow_hash_table): Ditto.
1998         (prime_size): Make 13 the first prime to make empty hash tables
1999         slightly smaller.
2000
2001 2002-05-16  Ian Abbott  <abbotti@mev.co.uk>
2002
2003         * recur.c (download_child_p): Minor optimization to avoid an
2004         unnecessary additional call to schemes_are_similar_p function.
2005
2006 2002-05-16  Ian Abbott  <abbotti@mev.co.uk>
2007
2008         * url.c (schemes_are_similar_p): New function to test enumerated
2009         scheme codes for similarity.
2010
2011         * url.h: Declare it.
2012
2013         * recur.c (download_child_p): Use it to compare schemes.  This
2014         also fixes a bug that allows hosts to be spanned (without the
2015         -H option) when the parent scheme is https and the child's is
2016         http or vice versa.
2017
2018 2002-05-14  Bill Richardson  <bill@riverstonenet.com>
2019
2020         * ftp.c (getftp): Don't ftruncate stdout.
2021
2022         * http.c (gethttp): Don't ftruncate stdout.
2023
2024 2002-05-09  Ian Abbott  <abbotti@mev.co.uk>
2025
2026         * cmpt.c (strptime_internal): Synched with glibc-2.1.3.
2027         (get_number): Ditto.
2028         (get_alt_number): Ditto.
2029         (__isleap): New function-like macro used by strptime.
2030         (day_of_the_week): New function used by strptime.
2031         (day_of_the_year): Ditto.
2032         (__mon_yday): Now shared by mktime and strptime implementations.
2033
2034 2002-05-08  Hrvoje Niksic  <hniksic@arsdigita.com>
2035
2036         * cookies.c (check_domain_match): Use match_tail in case
2037         insensitive mode.
2038
2039         * utils.c (match_tail): Allow the caller to specify case
2040         insensitive mode.
2041
2042         * cookies.c (store_cookie): When expiry_time is 0, print it as
2043         undefined, not indefinite.
2044
2045 2002-05-07  Ian Abbott  <abbotti@mev.co.uk>
2046
2047         * cookies.c (cookie_jar_process_set_cookie): Do not store
2048         discarded cookie.
2049
2050 2002-04-21  Hrvoje Niksic  <hniksic@arsdigita.com>
2051
2052         * cookies.c (check_domain_match): Allow cookies to be set for
2053         subdomains of unknown top-level domains under some circumstances.
2054
2055 2002-04-21  Thomas Lussnig  <thomas.lussnig@bewegungsmelder.de>
2056
2057         * gen_ssl.c:
2058         - allow checking of server cert
2059         - allow defining client cert type
2060         - allow limit of ssl protocol
2061         - check more return values
2062         - added debug message on break
2063
2064 2002-04-21  Hrvoje Niksic  <hniksic@arsdigita.com>
2065
2066         * recur.c (download_child_p): Revert order of items in check
2067         number 6 for clarity.
2068
2069 2002-04-20  Hrvoje Niksic  <hniksic@arsdigita.com>
2070
2071         * init.c: Ditto.
2072
2073         * main.c: Ditto.
2074
2075         * http.c: Use the new interface.
2076
2077         * cookies.c: Provide an OO-style "cookie jar" interface to enable
2078         separate cookie jars.
2079
2080         * http.c (http_atotm): Declare argument as const.
2081
2082 2002-04-20  Hrvoje Niksic  <hniksic@arsdigita.com>
2083
2084         * cookies.c (cookie_new): Default to PORT_ANY.
2085         (find_cookie_chain_exact): Only search by DOMAIN.
2086         (find_matching_cookie): Also check that PORT matches.
2087         (store_cookie): Only match the domain.
2088         (set_cookie_header_cb): When a cookie "fakes" a domain, assume it
2089         is valid for that host rather than discarding it completely.
2090         (find_matching_chains): Don't search by PORT.
2091         (matching_cookie): Also match PORT.
2092         (load_cookies): Set the port if specified, otherwise leave it as
2093         ANY.
2094         (save_cookies_mapper): Save the port if specified, otherwise leave
2095         it empty.
2096
2097 2002-04-19  Thomas Lussnig  <thomas.lussnig@bewegungsmelder.de>
2098
2099         * init.c: The option `egdfile' was not in sort order.
2100
2101 2002-04-16  Hrvoje Niksic  <hniksic@arsdigita.com>
2102
2103         * ftp.c (getftp): Treat directories that begin with <letter>: as
2104         absolute.
2105         (getftp): Strip trailing slashes from con->id before merging it
2106         with TARGET.
2107
2108 2002-04-16  Hrvoje Niksic  <hniksic@arsdigita.com>
2109
2110         * http.c (gethttp): If Content-Type is not given, assume
2111         text/html.
2112
2113 2002-04-15  Hrvoje Niksic  <hniksic@arsdigita.com>
2114
2115         * recur.c (download_child_p): Don't ignore rejection of HTML
2116         documents that are themselves leaves of recursion.
2117
2118 2002-04-15  Ian Abbott  <abbotti@mev.co.uk>
2119
2120         Makefile.in: Updated several dependencies for object files to take
2121         account of nested include files.
2122
2123 2002-04-15  Ian Abbott  <abbotti@mev.co.uk>
2124
2125         Makefile.in: The target `connect$o' (connect.o) now depends on
2126         `utils.h'
2127
2128 2002-04-15  Ian Abbott  <abbotti@mev.co.uk>
2129
2130         * host.c (SET_H_ERRNO): New function-like macro to set `h_errno'.
2131         (gethostbyname_with_timeout): Use it.
2132
2133         * utils.c: Don't define `SETJMP()', `run_with_timeout_env' or
2134         `abort_run_with_timeout()' when `USE_SIGNAL_TIMEOUT' is undefined.
2135
2136 2002-04-15  Hrvoje Niksic  <hniksic@arsdigita.com>
2137
2138         * host.c (getaddrinfo_with_timeout): New function.
2139         (gethostbyname_with_timeout): Ditto.
2140         (lookup_host): Use them.
2141
2142 2002-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
2143
2144         * utils.c (number_to_string): Handle the case when n < -INT_MAX.
2145
2146 2002-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
2147
2148         * init.c (comind): Use a marginally faster implementation of
2149         binary search.  To quote Martin Buchholz, "a nanosecond saved is a
2150         nanosecond earned."
2151
2152 2002-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
2153
2154         * main.c (print_help): Document `--post-data' and `--post-file'.
2155
2156 2002-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
2157
2158         * http.c (gethttp): Ditto.
2159
2160         * retr.c (retrieve_url): Initialize variables to appease the
2161         compiler.
2162
2163         * gen_sslfunc.c (ssl_iread): Don't handle EINTR when calling
2164         select_fd.
2165         (ssl_iwrite): Ditto.
2166
2167         * connect.c (select_fd): Rewrite to handle EINTR.  Set errno to
2168         ETIMEDOUT in case of timeout.
2169         (iread): No need to handle EINTR when calling select_fd.
2170         (iwrite): Ditto.
2171
2172 2002-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
2173
2174         * retr.c (retrieve_url): Make sure that POST is not honored for
2175         redirections.
2176
2177         * http.c (gethttp): Send the POST data when requested.
2178         (post_file): New function.
2179         (gethttp): Use it.
2180
2181         * main.c (main): Ditto.
2182
2183         * init.c: Add new options.
2184
2185         * options.h (struct options): New options post_data and
2186         post_file_name.
2187
2188 2002-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
2189
2190         * connect.c (connect_with_timeout): Firing SIGALRM can result in
2191         connect() exiting with EINTR.  Treat EINTR the same as ETIMEDOUT.
2192
2193 2002-04-13  Hrvoje Niksic  <hniksic@arsdigita.com>
2194
2195         * connect.c (connect_with_timeout): Use it.
2196
2197         * utils.c (run_with_timeout): New function.
2198
2199 2002-04-13  Hrvoje Niksic  <hniksic@arsdigita.com>
2200
2201         * url.c (getproxy): Accept a struct url argument.  This obviates
2202         the need for USE_PROXY_P.
2203
2204         * retr.c (retrieve_url): Allow proxy to be a non-FTP URL.
2205
2206         * ftp.c (getftp): Recognize FWTK-style proxy.
2207
2208 2002-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
2209
2210         * config.h.in: Only define _VA_LIST when compiled with gcc.
2211
2212 2002-04012  Ian Abbott  <abbotti@mev.co.uk>
2213
2214         * http.c (http_loop): Compensate for MS Windows two-second
2215         granularity of file modification time when comparing timestamps.
2216
2217         * ftp.c (ftp_retrieve_list): Ditto.
2218
2219 2002-04-12  Ian Abbott  <abbotti@mev.co.uk>
2220
2221         * utils.c (has_html_suffix_p): New function to test filename for
2222         common html extensions.
2223
2224         * utils.h: Declare it.
2225
2226         * http.c (http_loop): Use it instead of previous test.
2227
2228         * retr.c (retrieve_url): Ditto.
2229
2230         * recur.c (download_child_p): Ditto.
2231
2232 2002-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
2233
2234         * config.h.in: Define _VA_LIST on Solaris to prevent stdio.h from
2235         declaring va_list.
2236         From Kevin Rodgers <kevinr@ihs.com>.
2237
2238 2002-04-12  Ian Abbott  <abbotti@mev.co.uk>
2239
2240         * Makefile.in: Specify libtool mode explicitly when linking.
2241
2242 2002-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
2243
2244         * connect.c (connect_with_timeout): New function.
2245         (connect_to_one): Use it.
2246
2247         * config.h.in: Add stubs for HAVE_SIGSETJMP, HAVE_SIGBLOCK, and
2248         HAVE_SETJMP_H.
2249
2250 2002-04-11  Hrvoje Niksic  <hniksic@arsdigita.com>
2251
2252         * log.c: Set WGET_USE_STDARG if __STDC__ is defined and stdarg.h
2253         is present.
2254
2255 2002-04-11  Hrvoje Niksic  <hniksic@arsdigita.com>
2256
2257         * progress.c (bar_create): If INITIAL is larger than TOTAL, fix
2258         TOTAL.
2259         (bar_finish): Likewise.
2260
2261 2002-04-11  Hrvoje Niksic  <hniksic@arsdigita.com>
2262
2263         * html-url.c (tag_handle_form): New function.  Pick up form
2264         actions and mark them for conversion only.
2265
2266 2002-04-11  Hrvoje Niksic  <hniksic@arsdigita.com>
2267
2268         * progress.c (struct progress_implementation): Use PARAMS when
2269         declaring the parameters of *create, *update, *finish, and
2270         *set_params.
2271
2272         * netrc.c: Ditto.
2273
2274         * http.c: Reformat some function definitions so that ansi2knr can
2275         read them.
2276
2277         * hash.c (struct hash_table): Use the PARAMS macro around
2278         parameters in the declaration of hash_function and test_function.
2279         (prime_size): Spell 2580823717UL and 3355070839UL as (unsigned
2280         long)0x99d43ea5 and (unsigned long)0xc7fa5177 respectively, so
2281         that pre-ANSI compilers can read them.
2282         (find_mapping): Use PARAMS when declaring EQUALS.
2283         (hash_table_put): Ditto.
2284
2285         * ftp.h: Wrap the parameters of ftp_index declaration in PARAMS.
2286
2287         * cookies.c (cookie_new): Use (unsigned long)0 instead of 0UL,
2288         which was unsupported by pre-ANSI compilers.
2289
2290         From Nelson H. F. Beebe <beebe@math.utah.edu>, for the most part.
2291
2292 2002-04-11  Hrvoje Niksic  <hniksic@arsdigita.com>
2293
2294         * url.c (url_filename): Use compose_file_name regardless of
2295         whether opt.dirstruct is set.
2296         (mkstruct): Don't handle the query and the reencoding of DIR; that
2297         is done in compose_file_name.
2298
2299 2002-04-10  Hrvoje Niksic  <hniksic@arsdigita.com>
2300
2301         * wget.h: Ditto for extern char *exec_name.
2302
2303         * options.h: Don't guard against OPTIONS_DEFINED_HERE -- it is
2304         perfectly legal to follow an `extern' with a non-`extern' ones,
2305         provided the types match.
2306
2307         * main.c: Don't define OPTIONS_DEFINED_HERE.
2308
2309 2002-04-10  Hrvoje Niksic  <hniksic@arsdigita.com>
2310
2311         * progress.c (create_image): Revert to calculating ETA based on
2312         average download speed.
2313         (create_image): Don't print ETA until the download has been active
2314         for at least 3 seconds.
2315         (create_image): When ETA is not available, don't print anything.
2316         The previous version would print --:--.
2317
2318 2002-04-10  Hrvoje Niksic  <hniksic@arsdigita.com>
2319
2320         * progress.c (bar_update): Keep updating a subinterval until it
2321         reaches or exceeds a watermark.  That way the measurement will be
2322         guaranteed to span a configurable minimum of time.  The current
2323         default is 3s in 30 100ms intervals.
2324
2325 2002-04-09  Hrvoje Niksic  <hniksic@arsdigita.com>
2326
2327         * progress.c (bar_update): Maintain an array of the time it took
2328         to perform previous 30 network reads.
2329         (create_image): Calculate the download speed and ETA based on the
2330         last 30 reads, not the entire download.
2331         (create_image): Make sure that the ETA is not changed more than
2332         once per second.
2333
2334 2002-04-09  Ian Abbott  <abbotti@mev.co.uk>
2335
2336         * mswindows.c (borland_utime): New function conditionally defined
2337         when `HACK_BCC_UTIME_BUG' is defined.  A reimplementation of
2338         `utime()' as Borland's `utime()' function is broken on Windows 9x
2339         systems.  (Original patch by Chin-yuan Kuo <sr1111111@yahoo.com.tw>.)
2340
2341 2002-04-08  Hrvoje Niksic  <hniksic@arsdigita.com>
2342
2343         * ftp.c (ftp_loop): Propagate the result of ftp_retrieve_glob.
2344
2345 2002-03-26  Ian Abbott  <abbotti@mev.co.uk>
2346
2347         * Makefile.in: Updated several dependencies for object files.
2348
2349 2002-03-20  Ian Abbott  <abbotti@mev.co.uk>
2350
2351         * mswindows.c: Include "utils.h".
2352
2353 2002-03-18  Ian Abbott  <abbotti@mev.co.uk>
2354
2355         * host.h: Don't include netdb.h on windows.
2356
2357 2002-02-19  Hrvoje Niksic  <hniksic@arsdigita.com>
2358
2359         * recur.c (retrieve_tree): Handle the case when start_url doesn't
2360         parse.
2361
2362 2002-02-19  Andreas Damm  <andreas-sourceforge@radab.org>
2363
2364         * wget.h (DO_REALLOC_FROM_ALLOCA): Multiply with sizeof(type) when
2365         calling xmalloc and memcpy.
2366
2367 2002-02-19  Hrvoje Niksic  <hniksic@arsdigita.com>
2368
2369         * host.h: Include Unix-specific includes #ifndef WINDOWS.
2370         Patch originally provided by Christian Lackas.
2371
2372 2002-02-11  Christian Lackas  <delta@lackas.net>
2373
2374         * recur.c: recurive downloading for https fixed.
2375
2376 2002-02-19  Alan Eldridge  <alane@geeksrus.net>
2377
2378         * host.h: Also include <netinet/in.h> and <sys/socket.h>.
2379
2380         * ftp-basic.c: Also include <netinet/in.h>.
2381
2382 2002-02-05  Ian Abbott  <abbotti@mev.co.uk>
2383
2384         * http.c (gethttp): when -c used, mark already fully retrieved
2385         file as successfully retrieved.
2386
2387 2002-02-19  Hrvoje Niksic  <hniksic@arsdigita.com>
2388
2389         * url.c (url_parse): Don't treat '?' as query string separator
2390         when parsing FTP URLs.
2391
2392 2002-02-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2393
2394         * html-url.c (tag_handle_meta): Don't crash on <meta
2395         http-equiv=refresh> where content is missing.
2396
2397 2002-01-31  Herold Heiko  <Heiko.Herold@previnet.it>
2398
2399         * ftp-basic.c, host.c: don't include sys/socket.h, arpa/inet.h,
2400         netdb.h on windows.
2401
2402 2002-01-30  Hrvoje Niksic  <hniksic@arsdigita.com>
2403
2404         * retr.c (retrieve_url): Remove redirection cycle detection.  This
2405         is because some sites legitimately redirect the user back to the
2406         same location, e.g. after an authorization check performed by
2407         another page.  MAX_REDIRECTIONS is still used to prevent infinite
2408         redirection loops.
2409
2410 2002-01-26  Hrvoje Niksic  <hniksic@arsdigita.com>
2411
2412         * http.c (gethttp): Wrap host name in square brackets if it
2413         contains a colon.
2414
2415 2002-01-26  Hrvoje Niksic  <hniksic@arsdigita.com>
2416
2417         * url.c (url_parse): Allow all hex digits, not only decimal ones,
2418         to form an IP address.
2419
2420 2002-01-26  Hrvoje Niksic  <hniksic@arsdigita.com>
2421
2422         * url.c (urlchr_table): Make square braces reserved, so we can
2423         parse http://[::1]/.
2424         (url_parse): Handle host in braces.
2425         (url_string): If url->host contains colons, wrap it in braces.
2426
2427 2002-01-24  Hrvoje Niksic  <hniksic@arsdigita.com>
2428
2429         * connect.c (resolve_bind_address): New function.
2430         (connect_to_one): Use it.
2431         (bindport): Ditto.
2432
2433         * init.c: Don't resolve bind-address here.
2434
2435         * host.c (wget_sockaddr_set_address): Would bug out with ADDR == NULL.
2436
2437 2002-01-24  Hrvoje Niksic  <hniksic@arsdigita.com>
2438
2439         * host.c (lookup_host): Use sizeof(ip4_address) to calculate the
2440         offset.
2441         (address_list_new): Use map_ipv4_to_ip.
2442         (wget_sockaddr_set_address): Convert ADDR to IPv4 before using it
2443         in IPv4 context.
2444
2445 2002-01-24  Hrvoje Niksic  <hniksic@arsdigita.com>
2446
2447         * source: Integrated IPv6 support.
2448         Written by Thomas Lussnig <thomas.lussnig@bewegungsmelder.de>.
2449
2450 2002-01-15  Ian Abbott  <abbotti@mev.co.uk>
2451
2452         * init.c (cmd_file): Change `\' to `/' for Windows (yes, really!)
2453         (cmd_directory): New function. Like cmd_file(), but strips
2454         trailing directory separators.
2455         (commands): Change action for "dirprefix" from `cmd_file' to
2456         `cmd_directory'.
2457
2458         * utils.c (make_directory): Allow intermediate `mkdir' calls to
2459         fail, as not all path components that do not exist should be
2460         directory components, especially under Windows.
2461
2462 2002-01-17  Hrvoje Niksic  <hniksic@arsdigita.com>
2463
2464         * netrc.c (parse_netrc): Skip leading whitespace before testing
2465         whether the line is empty.  Empty lines still contain the line
2466         terminator.
2467
2468 2002-01-15  Hrvoje Niksic  <hniksic@arsdigita.com>
2469
2470         * gen_sslfunc.c (ssl_iread): Call select on the file descriptor
2471         only if no data is pending in SSL buffers.
2472         From tony@bluetail.com.
2473
2474 2002-01-14  Hrvoje Niksic  <hniksic@arsdigita.com>
2475
2476         * headers.c (header_get): Strip trailing whitespace from the
2477         header.
2478
2479 2002-01-14  Hrvoje Niksic  <hniksic@arsdigita.com>
2480
2481         * url.c (parse_uname): URL-decode *USER and *PASSWD.
2482
2483 2002-01-07  Ian Abbott <abbotti@mev.co.uk>
2484
2485         * url.c (uri_merge_1): Deal with "net path" relative URL (one that
2486         starts with "//").
2487
2488 2002-01-14  Hrvoje Niksic  <hniksic@arsdigita.com>
2489
2490         * http.c (gethttp): Invalidate SOCK if get_contents encountered an
2491         error.
2492
2493 2001-12-24  Hrvoje Niksic  <hniksic@arsdigita.com>
2494
2495         * version.c: Wget 1.8.1 is released.
2496
2497 2001-12-19  Hrvoje Niksic  <hniksic@arsdigita.com>
2498
2499         * version.c: Wget 1.8.1-pre3 is released.
2500
2501 2001-12-19  Hrvoje Niksic  <hniksic@arsdigita.com>
2502
2503         * recur.c (retrieve_tree): Enqueue the canonical representation of
2504         start_url, so that the test against dl_url_file_map works.
2505
2506 2001-12-19  Hrvoje Niksic  <hniksic@arsdigita.com>
2507
2508         * log.c (logputs): Check for requested verbosity before printing
2509         anything.
2510
2511 2001-12-19  Hrvoje Niksic  <hniksic@arsdigita.com>
2512
2513         * html-url.c (tag_handle_link): Treat the "shortcut icon" link as
2514         inline.
2515
2516 2001-12-18  Hrvoje Niksic  <hniksic@arsdigita.com>
2517
2518         * recur.c (retrieve_tree): Make a copy of file obtained from
2519         dl_url_file_map because the code calls xfree(file) later.
2520
2521 2001-12-18  Hrvoje Niksic  <hniksic@arsdigita.com>
2522
2523         * recur.c (register_html): Maintain a hash table of HTML files
2524         along with the list.  Disallow duplicates.
2525         (retrieve_tree): Use downloaded_html_set to check whether the file
2526         found in dl_url_file_map is an HTML file, and descend into it if
2527         so.
2528         (convert_all_links): Don't guard against duplicates in
2529         downloaded_html_list, since they are no longer possible.
2530
2531 2001-12-18  Ian Abbott  <abbotti@mev.co.uk>
2532
2533         * recur.c (retrieve_tree): Pass on referring URL when retrieving
2534         recursed URL.
2535
2536 2001-12-17  Hrvoje Niksic  <hniksic@arsdigita.com>
2537
2538         * version.c: Wget 1.8.1-pre2 is released.
2539
2540 2001-12-17  Hrvoje Niksic  <hniksic@arsdigita.com>
2541
2542         * retr.c (sleep_between_retrievals): Simplify indentation.
2543
2544 2001-12-17  Hrvoje Niksic  <hniksic@arsdigita.com>
2545
2546         * gen_sslfunc.c (ssl_init_prng): Use random_number to get a byte
2547         of "randomness" at a time.
2548         (ssl_init_prng): Don't seed the PRNG; random_number will do that.
2549
2550         * retr.c (sleep_between_retrievals): Use it.  Make sure that the
2551         random amount averages in opt.wait.
2552         (sleep_between_retrievals): Don't seed the PRNG; random_number
2553         will do that.
2554
2555         * utils.c (random_number): New function.
2556
2557 2001-12-14  Hrvoje Niksic  <hniksic@arsdigita.com>
2558
2559         * url.c (path_simplify): Move here from utils.c, and make static.
2560
2561 2001-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
2562
2563         * init.c (wgetrc_file_name): Print correct message when loading
2564         getenv("WGETRC") fails.
2565
2566 2001-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
2567
2568         * recur.c (register_download): Don't abort when one URL references
2569         two different files.
2570
2571 2001-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
2572
2573         * http.c (gethttp): Check for conn->scheme, not u->scheme, before
2574         calling ssl_iwrite.
2575
2576 2001-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
2577
2578         * version.c: Wget 1.8.1-pre1 is released.
2579
2580 2001-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
2581
2582         * res.c (matches): Fix broken URL in the docstring.
2583
2584 2001-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
2585
2586         * html-url.c (tag_url_attributes): Mark <embed href=...> as
2587         external.
2588
2589 2001-12-12  Hrvoje Niksic  <hniksic@arsdigita.com>
2590
2591         * url.c (get_urls_file): Cosmetic changes.
2592
2593 2001-12-12  Hrvoje Niksic  <hniksic@arsdigita.com>
2594
2595         * html-url.c (append_one_url): Resurrect warning when unable to
2596         resolve a relative link.
2597
2598 2001-12-12  Hrvoje Niksic  <hniksic@arsdigita.com>
2599
2600         * html-url.c (collect_tags_mapper): Break into several functions.
2601         (tag_url_attributes): Collect <embed href=...>.
2602
2603 2001-12-11  Hrvoje Niksic  <hniksic@arsdigita.com>
2604
2605         * host.c: New type ipv4_address.  Use it consistently instead of
2606         `unsigned char[4]' and `unsigned char *'.
2607         (pretty_print_address): Accept a `const void *', to require even
2608         less casting.
2609
2610 2001-12-11  Hrvoje Niksic  <hniksic@arsdigita.com>
2611
2612         * ftp-ls.c (ftp_parse_vms_ls): Fix obvious memory leaks.
2613
2614 2001-12-10  Hrvoje Niksic  <hniksic@arsdigita.com>
2615
2616         * main.c (main): Initialize progress after fork_to_background, so
2617         that it knows when to use dots.
2618
2619         * mswindows.c (ws_hangup): Call log_request_redirect_output.
2620
2621         * utils.c (fork_to_background): Print the PID of the child
2622         process.
2623
2624         * log.c (log_request_redirect_output): Set a flag that output
2625         redirection has been requested.  Doing anything else in a signal
2626         handler is unsafe.
2627         (check_redirect_output): New function: check whether redirection
2628         has been requested and, if so, call redirect_output().
2629         (logputs): Call check_redirect_output.
2630         (logprintf): Ditto.
2631         (debug_logprintf): Ditto.
2632         (redirect_output): Print clearer messages.
2633
2634         * main.c (redirect_output_signal): Don't call
2635         redirect_output_signal directly.  Instead, call
2636         log_request_redirect_output.
2637
2638         * utils.c (memfatal): Ditto.
2639
2640         * progress.c (display_image): Use it.
2641
2642         * log.c (log_set_save_context): New function: allow the caller to
2643         turn off saving log context lines.
2644
2645 2001-12-10  Hrvoje Niksic  <hniksic@arsdigita.com>
2646
2647         * host.c (address_list_set_faulty): Uncomment a sanity check.
2648
2649 2001-12-10  Hrvoje Niksic  <hniksic@arsdigita.com>
2650
2651         * utils.c (long_to_string): Return a pointer after where the
2652         number ends.
2653         (long_to_string): Rename to number_to_string.
2654
2655 2001-12-10  Hrvoje Niksic  <hniksic@arsdigita.com>
2656
2657         * utils.c (path_simplify): Correctly handle the unlikely case that
2658         b starts out as path + 1.
2659
2660 2001-12-10  Hrvoje Niksic  <hniksic@arsdigita.com>
2661
2662         * utils.c (path_simplify): Rewrite, with better comments, and
2663         without the use of strcpy to move overlapping blocks.
2664
2665 2001-12-09  Hrvoje Niksic  <hniksic@arsdigita.com>
2666
2667         * init.c (cmd_spec_progress): Resurrect.  Check whether VAL is a
2668         valid progress type before setting it.
2669
2670 2001-12-09  Hrvoje Niksic  <hniksic@arsdigita.com>
2671
2672         * main.c (main): Remove stray debugging message.
2673
2674 2001-12-09  Hrvoje Niksic  <hniksic@arsdigita.com>
2675
2676         * progress.c (create_image): Fix ETA padding when hours are prined.
2677
2678 2001-12-09  Hrvoje Niksic  <hniksic@arsdigita.com>
2679
2680         * version.c: Wget 1.8 is released.
2681
2682 2001-12-09  Hrvoje Niksic  <hniksic@arsdigita.com>
2683
2684         * url.c (reencode_string): Declare static.
2685
2686         * res.c (registered_specs): Declare static.
2687
2688         * progress.c (current_impl_locked): Declare static.
2689
2690         * log.c (flush_log_p): Declare static.
2691         (needs_flushing): Ditto.
2692
2693         * http.c (digest_authentication_encode): Declare static.
2694
2695         * html-url.c (init_interesting): Declare static.
2696
2697         * host.c (host_name_addresses_map): Declare static.
2698
2699         * cookies.c (find_matching_chains): Declare static.
2700
2701         * ftp-ls.c (ftp_parse_vms_ls): Warn about the memory leak
2702         indicated by lint.
2703
2704         * utils.c (path_simplify): Remove unused variable STUB_CHAR.
2705
2706         * host.c (address_list_set_faulty): Document that INDEX is
2707         currently unused.
2708
2709         * url.c (rewrite_shorthand_url): Remove unused variable PATH.
2710
2711 2001-12-08  Hrvoje Niksic  <hniksic@arsdigita.com>
2712
2713         * version.c: Wget 1.8-pre2 is released.
2714
2715 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2716
2717         * progress.c (progress_handle_sigwinch): Set up the signal again.
2718
2719         * utils.c: Include <sys/termios.h>, where Solaris defines
2720         TIOCGWINSZ.
2721
2722         * progress.c (bar_create): Don't use the last column on the screen.
2723         (create_image): Pad ETA to constant size.  Pad SIZE to nine digits
2724         only until it exceeded them.
2725
2726 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2727
2728         * version.c: Wget 1.8-pre1 is released.
2729
2730 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2731
2732         * progress.c (progress_create): Make sure that, when the output is
2733         redirected, the progress implementation gets changed to the
2734         fallback one.
2735         (bar_set_params): Set current_impl_locked to 1 when "force" is
2736         specified.
2737         (progress_create): Don't change the progress implementation if
2738         current_impl_locked is non-zero.
2739
2740         * main.c (redirect_output_signal): Call
2741         progress_schedule_redirect.
2742
2743         * progress.c (progress_schedule_redirect): New function.
2744
2745 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2746
2747         * log.c (logvprintf): Restructure to allow being called multiple
2748         times.
2749         (logprintf): Call logvprintf in a loop.
2750         (debug_logprintf): Ditto.
2751
2752 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2753
2754         * gen_sslfunc.c (ssl_init_prng): Allow the user to disable EGD by
2755         setting egd_file it to empty string.
2756
2757         * main.c (main): Change the option name from --sslegdsock to
2758         --egd-file.
2759
2760 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2761
2762         * gen_sslfunc.c (ssl_init_prng): Make the printed message
2763         translatable.
2764
2765 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2766
2767         * url.c (scheme_disable): New function.
2768
2769         * main.c (main): Call ssl_init_prng from here rather than from
2770         init_ssl, so that it has a chance to disable support for https
2771         before a URL has been resolved.
2772
2773         * gen_sslfunc.c (ssl_init_prng): Seed with rand() if all else
2774         failed.
2775         (ssl_init_prng): Disable support for https if seeding the PRNG
2776         fails.
2777
2778 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2779
2780         * utils.c (read_whole_line): Handle lines beginning with \0.
2781
2782 2001-12-05  Hrvoje Niksic  <hniksic@arsdigita.com>
2783
2784         * recur.c (convert_all_links): Guard against duplicates in
2785         downloaded_html_files.
2786         (register_download): Don't invalidate similar-looking URLs.
2787         (match_except_index): New function.
2788
2789 2001-12-05  Hrvoje Niksic  <hniksic@arsdigita.com>
2790
2791         * utils.c (path_simplify): Document with test cases.
2792
2793 2001-12-04  Hrvoje Niksic  <hniksic@arsdigita.com>
2794
2795         * gen_sslfunc.c: Ditto.
2796
2797         * rbuf.c: Include <string.h>.
2798
2799 2001-12-04  Hrvoje Niksic  <hniksic@arsdigita.com>
2800
2801         * recur.c (retrieve_tree): Check whether the URL was already
2802         downloaded before downloading it again.
2803         (descend_child_p): Renamed to download_child_p.
2804         (register_download): When one URL is downloaded to a file already
2805         "owned" by another URL, delete all references that map any URL to
2806         that file.
2807         (register_delete_file): New function.
2808         (retrieve_tree): Use it after deleting a file.
2809
2810         * url.c (url_parse): Re-canonicalize the URL also if the path is
2811         empty, so that e.g. "http://www.server.com" ->
2812         "http://www.server.com/".
2813         (lowercase_str): Use ISUPPER instead of !ISLOWER.
2814
2815         * retr.c (retrieve_url): Use the canonical URL form when calling
2816         register_download().
2817
2818 2001-12-04  Ian Abbott <abbotti@mev.co.uk>
2819
2820         * snprintf.c (dopr): Use `unsigned int' as the second argument to
2821         va_arg when casting to `unsigned short' is intended.
2822
2823 2001-12-04  Herold Heiko  <Heiko.Herold@previnet.it>
2824
2825         * gen_sslfunc.c: on windows provide ssl crypto random 
2826           initialization through RAND_screen(); could possibly
2827           be not enough for strong ssl communication (see the 
2828           relevant manual page from the openssl package).
2829
2830 2001-12-04  Hrvoje Niksic  <hniksic@arsdigita.com>
2831
2832         * url.c (local_quote_string): Reenable quoting of question marks,
2833         but only when `--html-extension' is used.
2834
2835 2001-12-03  Hrvoje Niksic  <hniksic@arsdigita.com>
2836
2837         * version.c: Wget 1.8-beta3 is released.
2838
2839 2001-12-03  Hrvoje Niksic  <hniksic@arsdigita.com>
2840
2841         * snprintf.c (dopr): Cast the result of va_arg to short int and
2842         short unsigned int where these types are expected to be used.
2843
2844 2001-12-03  Hrvoje Niksic  <hniksic@arsdigita.com>
2845
2846         * snprintf.c (dopr): Replace `short int' and `unsigned short int'
2847         with `int' when using it as the second argument to `va_arg'.
2848
2849 2001-12-03  Hrvoje Niksic  <hniksic@arsdigita.com>
2850
2851         * host.c (address_list_new_one): New function.
2852         (lookup_host): Use it.
2853
2854 2001-12-03  Andre Majorel  <amajorel@teaser.fr>
2855
2856         * host.c (lookup_host): Don't initialize TMPSTORE directly because
2857         it's not legal C.
2858
2859 2001-12-03  Hrvoje Niksic  <hniksic@arsdigita.com>
2860
2861         * ftp-basic.c (ftp_port): Don't return HOSTERR if we fail getting
2862         the socket data.
2863
2864         * ftp.c: Ditto.
2865
2866         * http.c: No need to declare h_errno.
2867
2868         * host.c: Declare h_errno.
2869
2870 2001-12-02  Hrvoje Niksic  <hniksic@arsdigita.com>
2871
2872         * utils.c (file_merge): If BASE doesn't contain a slash, just
2873         return a copy of FILE.
2874
2875 2001-12-02  Hrvoje Niksic  <hniksic@arsdigita.com>
2876
2877         * version.c: Wget 1.8-beta2 is released.
2878
2879 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2880
2881         * ftp.c (getftp): When PWD fails, assume "/".
2882
2883         * ftp-basic.c (ftp_syst): Fix indentation.
2884
2885 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2886
2887         * url.c (get_urls_file): If opt.base_href is specified, merge each
2888         URL with the base.
2889
2890 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2891
2892         * main.c (print_help): Don't document the removed `-nh'.
2893
2894 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2895
2896         * url.c (url_full_path): Document better.
2897
2898         * http.c (gethttp): Use the full path when creating digest
2899         authorization.
2900
2901 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2902
2903         * cookies.c (path_matches): Return 0 if PREFIX doesn't begin with
2904         '/'.
2905
2906 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2907
2908         * cookies.c (path_matches): FULL_PATH doesn't begin with '/', but
2909         PREFIX does.
2910
2911 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2912
2913         * cookies.c (check_domain_match): Reimplement to match Netscape's
2914         "preliminary specification" for cookies.
2915
2916 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2917
2918         * url.c (replace_attr_refresh_hack): New function.
2919         (convert_links): Call replace_attr_refresh_hack for Refresh
2920         links.  It will add the "TMOUT; URL=" junk before the link.
2921
2922         * html-url.c (collect_tags_mapper): Set ID to the ID of the
2923         "content" attribute, not "http-equiv".
2924         (collect_tags_mapper): Don't use OFFSET to hack the raw_* values;
2925         instead, store the information that this entry belongs to a
2926         "refresh" link.
2927
2928 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2929
2930         * version.c: Wget 1.8-beta1 is released.
2931
2932 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2933
2934         * recur.c (retrieve_tree): Allow -p retrievals to exceed maximum
2935         depth by more than one.
2936
2937 2001-11-30  Hrvoje Niksic  <hniksic@arsdigita.com>
2938
2939         * retr.c (retrieve_url): Don't allow more than 20 redirections.
2940
2941 2001-11-30  Hrvoje Niksic  <hniksic@arsdigita.com>
2942
2943         * recur.c (retrieve_tree): Skip the non-inline entries when
2944         enqueuing the children of a leaf HTML node in -p mode.
2945         (descend_url_p): Ignore opt.no_parent when in -p mode and UPOS is
2946         "inline".
2947
2948         * html-url.c (get_urls_html): Don't accept dash_p_leaf_HTML.
2949         (collect_tags_mapper): When an entry is "inline", mark it as such.
2950
2951         * recur.c (descend_url_p): Fix test when checking for
2952         acceptance/rejection rules.
2953
2954 2001-10-31 Daniel BODEA <dali@dali-designs.com>
2955
2956         * netrc.c (search_netrc): When slack_default is 0, still look for
2957         an account with matching password, just not the "default account".
2958         HTTP Authorization using .netrc should now work as expected.
2959
2960 2001-11-30  T. Bharath  <TBharath@responsenetworks.com>
2961
2962         * http.c (persistent_available_p): Call SHUTDOWN_SSL if
2963         test_socket_open fails.
2964
2965 2001-11-30  Hrvoje Niksic  <hniksic@arsdigita.com>
2966
2967         * progress.c (display_image): Just print one CR to reset the
2968         cursor position.
2969
2970 2001-11-30  Christian Fraenkel  <c.fraenkel@gmx.net>
2971
2972         * init.c: New command `ssl_egd_sock'.
2973
2974         * main.c (main): New option `--sslegdsock'.
2975
2976         * gen_sslfunc.c (ssl_init_prng): Seed the RNG using EGD.
2977
2978 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
2979
2980         * cmpt.c (memmove): Include a simple memmove implementation.
2981
2982 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
2983
2984         * headers: Guard against header files being included twice.
2985
2986 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
2987
2988         * gen-md5.c: Use unsigned char * as the buffer argument to
2989         gen_md5_update.
2990
2991 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
2992
2993         * connect.h: Declare select_fd.
2994
2995 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
2996
2997         * recur.c (descend_url_p): When resolving no_parent, compare with
2998         start_url, not parent url.  Otherwise link from /a/b/ to /a/c/
2999         wouldn't be followed, although the download started from /a/.
3000
3001 2001-01-23  Herold Heiko  <Heiko.Herold@previnet.it>
3002
3003         * config.h.ms, mswindows.h: defined HAVE_ISATTY, use _isatty for
3004         MS VC; somebody with Borland compiler please check and provide
3005         patch if possible;
3006
3007         * cmpt.c: provided a usleep emulation.
3008
3009 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
3010
3011         * host.c (address_list_new): Initialize al->faulty.
3012
3013 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
3014
3015         * http.c (http_process_range): Accept the broken output of
3016         "JavaWebServer/1.1.1".
3017
3018 2001-11-28  Hrvoje Niksic  <hniksic@arsdigita.com>
3019
3020         * progress.c (dot_set_params): If PARAMS is unspecified, use
3021         dot_style, if available.
3022
3023         * init.c: Ditto.
3024
3025         * main.c (main): Resurect --dot-style.
3026
3027         * progress.c (dot_finish): Print the quantity if we're left at the
3028         beginning of a row.
3029
3030 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3031
3032         * cmpt.c (random): Removed.
3033
3034         * retr.c (sleep_between_retrievals): Use the more portable rand()
3035         instead of random().
3036
3037 2001-11-27  Ian Abbott <abbotti@mev.co.uk>
3038
3039         * retr.c (retrieve_from_file): Initialize `new_file' to NULL to
3040         prevent seg fault.
3041
3042 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3043
3044         * connect.c (connect_to_many): Use address_list_set_faulty to
3045         prevent the faulty address from being reused.
3046
3047         * host.c (address_list_set_faulty): New function.
3048         (address_list_get_bounds): New function, instead of
3049         address_list_count.
3050
3051 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3052
3053         * url.c (convert_links): Don't translate %d-%d.
3054
3055         * main.c (print_help): Remove stray HAVE_RANDOM code.
3056
3057 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3058
3059         * ftp.c (getftp): Improve output after sending PASV.  Don't
3060         attempt to "look up" the IP address we already know; call
3061         connect_to_one directly.
3062
3063 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3064
3065         * progress.c: Change the default progress implementation to "bar".
3066
3067 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3068
3069         * progress.c (bar_create): Print two newlines.
3070
3071 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3072
3073         * cmpt.c (random): New function, a simple-minded replacement for
3074         random() on systems that don't have it.
3075
3076 2001-11-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3077
3078         * config.h.in: Put a HAVE_USLEEP stub.
3079
3080         * cmpt.c (usleep): Replacement implementation of usleep using
3081         select.
3082
3083         * init.c: New option init_rate.
3084
3085         * main.c (main): New option --limit-rate.
3086
3087         * retr.c (limit_bandwidth): New function.
3088         (get_contents): Call it to limit the bandwidth used when
3089         downloading.
3090
3091         * progress.c (dot_update): Would print the wrong download speed on
3092         rows other than the first one when the download was continued.
3093         (dot_finish): Ditto.
3094
3095 2001-11-26  Ian Abbott <abbotti@mev.co.uk>
3096
3097         * http.c (gethttp): fix undeclared variable 'err' when compiled
3098         with HAVE_SSL.
3099
3100 2001-11-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3101
3102         * progress.c: Don't allocate new timers; use the timing data
3103         propagated from the caller.
3104
3105         * retr.c (get_contents): Allocate and use a timer.
3106
3107 2001-11-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3108
3109         * http.c (last_host_ip): Made into an address_list.
3110         (invalidate_persistent): Release pc_last_host_ip.
3111         (register_persistent): Use lookup_host.
3112         (persistent_available_p): Check for equality of hosts using
3113         address_list_match_all.  Call address_list_release.
3114         (http_cleanup): New function.
3115
3116         * ftp.c (getftp): Use lookup_host and connect_to_many.
3117
3118         * http.c (gethttp): Use lookup_host and connect_to_many.
3119
3120         * connect.c (make_connection): Removed.
3121         (connect_to_one): New function.
3122         (connect_to_many): Ditto.
3123         (set_connection_host_name): Ditto.
3124
3125         * host.c (lookup_host): New function; new return type.
3126         (address_list_new): New function.
3127         (address_list_count): Ditto.
3128         (address_list_copy_one): Ditto.
3129         (address_list_delete): Ditto.
3130         (address_list_release): Ditto.
3131         (pretty_print_address): Ditto.
3132
3133 2001-11-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3134
3135         * recur.c (retrieve_tree): In case of followed redirection,
3136         blacklist the pre-redirection URL.
3137
3138 2001-11-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3139
3140         * recur.c (descend_redirect_p): New function.
3141         (retrieve_tree): Make sure redirections are not blindly followed.
3142
3143 2001-11-04  Alan Eldridge  <alane@geeksrus.net>
3144
3145         * config.h.in: added HAVE_RANDOM.
3146
3147         * options.h: added random_wait to struct options.
3148
3149         * main.c (print_help [HAVE_RANDOM], main): added arg parsing, help
3150         for --random-wait.
3151
3152         * retr.c (sleep_between_retrievals) [HAVE_RANDOM]: added
3153         implementation of random wait times.
3154
3155         * init.c (commands): added "randomwait" keyword.
3156
3157 2001-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3158
3159         * recur.c (descend_url_p): Be more conservative with blacklisting
3160         URLs.
3161         (convert_all_links): Print how many files have been converted, and
3162         how long it took.
3163
3164         * progress.c (create_image): Place the number of downloaded bytes
3165         right after the progress bar.
3166
3167         * utils.c (suffix): Return a pointer into the string.
3168
3169 2001-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3170
3171         * url.c (convert_links): Handle CO_NULLIFY_BASE.
3172
3173         * recur.c (retrieve_tree): Ignore download-ignorable children.
3174         (convert_all_links): Specify CO_NULLIFY_BASE when link_base_p.
3175
3176         * html-url.c (handle_link): Return the newly created urlpos.
3177         (collect_tags_mapper): When dealing with BASE, store the base
3178         reference and mark it as download-ignorable.
3179
3180 2001-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3181
3182         * url.c (convert_links): Attempt to quote '?' as "%3F" when
3183         linking to local files.  Given up on the attempt, as it breaks
3184         local browsing.
3185
3186 2001-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3187
3188         * main.c (private_initialize): Removed.
3189         (main): Don't call private_initialize.
3190
3191         * http.c: Call lookup_host.
3192
3193         * host.c (host_init): Removed.
3194         (add_host_to_cache): Initialize host_name_address_map here, on
3195         demand.
3196         (ngethostbyname): Commented out.
3197
3198         * connect.c (make_connection): Remove dead code; use lookup_host.
3199
3200         * host.c (store_hostaddress): Renamed to lookup_host and reversed
3201         the args.
3202         Removed host_address_name_map and host_slave_master_map.
3203
3204 2001-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3205
3206         * progress.c (dot_create): Align the "[ skipping ... ]" string
3207         with the dots.
3208
3209         * retr.c (rate): Split into two functions: calc_rate and
3210         retr_rate.
3211
3212         * progress.c (create_image): Draw a dummy progress bar even when
3213         total size is unknown.
3214         (display_image): Place the text cursor at the end of the "image".
3215
3216 2001-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3217
3218         * url.c (reencode_string): Use unsigned char, not char --
3219         otherwise the hex digits come out wrong for 8-bit chars such as
3220         nbsp.
3221         (lowercase_str): New function.
3222         (url_parse): Canonicalize u->url if needed.
3223         (get_urls_file): Parse each URL, and return only the valid ones.
3224         (free_urlpos): Call url_free.
3225         (mkstruct): Add :port if the port is non-standard.
3226         (mkstruct): Append the query string to the file name, if any.
3227         (urlpath_length): Use strpbrk_or_eos.
3228         (uri_merge_1): Handle the cases where LINK is an empty string,
3229         where LINK consists only of query, and where LINK consists only of
3230         fragment.
3231         (convert_links): Count and report both kinds of conversion.
3232         (downloaded_file): Use a hash table, not a list.
3233         (downloaded_files_free): Free the hash table.
3234
3235         * retr.c (retrieve_from_file): Ditto.
3236
3237         * main.c (main): Call either retrieve_url or retrieve_tree
3238         for each URL, not both.
3239
3240         * retr.c (register_all_redirections): New function.
3241         (register_redirections_mapper): Ditto.
3242         (retrieve_url): Register the redirections.
3243         (retrieve_url): Make the string "Error parsing proxy ..." 
3244         translatable.
3245
3246         * res.c (add_path): Strip leading slash from robots.txt paths so
3247         that the path representations are "compatible".
3248         (free_specs): Free each individual path, too.
3249         (res_cleanup): New function.
3250         (cleanup_hash_table_mapper): Ditto.
3251
3252         * recur.c (url_queue_new): New function.
3253         (url_queue_delete): Ditto.
3254         (url_enqueue): Ditto.
3255         (url_dequeue): Ditto.
3256         (retrieve_tree): New function, replacement for recursive_retrieve.
3257         (descend_url_p): New function.
3258         (register_redirection): New function.
3259
3260         * progress.c (create_image): Cosmetic changes.
3261
3262         * init.c (cleanup): Do all those complex cleanups only if
3263         DEBUG_MALLOC is defined.
3264
3265         * main.c: Removed --simple-check and the corresponding
3266         simple_host_check in init.c.
3267
3268         * html-url.c (handle_link): Parse the URL here, and propagate the
3269         parsed URL to the caller, who would otherwise have to parse it
3270         again.
3271
3272         * host.c (xstrdup_lower): Moved to utils.c.
3273         (realhost): Removed.
3274         (same_host): Ditto.
3275
3276 2001-11-24  Hrvoje Niksic  <hniksic@arsdigita.com>
3277
3278         * utils.c (path_simplify): Preserver the (non-)existence of
3279         leading slash.  Return non-zero if changes were made.
3280
3281 2001-11-24  Hrvoje Niksic  <hniksic@arsdigita.com>
3282
3283         * progress.c (bar_update): Don't modify bp->total_length if it is
3284         zero.
3285
3286 2001-11-24  Hrvoje Niksic  <hniksic@arsdigita.com>
3287
3288         * retr.c (retrieve_url): When the redirection URL doesn't parse,
3289         print the correct error message rather than "UNKNOWN".
3290
3291 2001-11-24  Hrvoje Niksic  <hniksic@arsdigita.com>
3292
3293         * progress.c (bar_finish): If the timer didn't record any time
3294         since the download beginning, fake 1ms.
3295
3296 2001-11-24  Hrvoje Niksic  <hniksic@arsdigita.com>
3297
3298         * recur.c (recursive_retrieve): Fix typo.
3299
3300 2001-11-23  Hrvoje Niksic  <hniksic@arsdigita.com>
3301
3302         * progress.c (create_image): Don't translate "%ld ".
3303
3304 2001-11-23  Hrvoje Niksic  <hniksic@arsdigita.com>
3305
3306         * progress.c (bar_set_params): Allow the user to force the use of
3307         the bar.
3308
3309 2001-11-23  Lemble Gregory  <gregory.lemble@st.com>
3310
3311         * gen_sslfunc.c (ssl_init_prng): New function; seed the SSL RNG.
3312
3313 2001-11-23  Hrvoje Niksic  <hniksic@arsdigita.com>
3314
3315         * progress.c: Renamed dp_* functions to dot_* for greater clarity
3316         and consistency with bar_*.
3317         (print_download_speed): Get rid of the unneeded '@' character.
3318         (create_image): Fix download rate geometry.
3319
3320         * progress.c (print_elapsed): Remove spurious space.
3321         (print_elapsed): Renamed to print_download_speed, since that's
3322         what it does.
3323
3324 2001-11-23  Hrvoje Niksic  <hniksic@arsdigita.com>
3325
3326         * progress.c (bar_update): If the downloaded amount becomes larger
3327         than the expected amount, adjust the expected amount accordingly.
3328
3329 2001-11-23  Hrvoje Niksic  <hniksic@arsdigita.com>
3330
3331         * utils.c (determine_screen_width): New function.
3332
3333         * main.c (main): New option `--progress=TYPE'.
3334         (main): Implement compatibility with the old option `--dot-style'.
3335
3336         * init.c: Removed cmd_spec_dotstyle -- that logic is now in
3337         dp_set_params.
3338         (cmd_spec_progress): New function.
3339
3340         * retr.c (get_contents): Use the progress_* functions instead of
3341         the old show_progress().
3342         (show_progress): Removed.
3343         (rate): Print "xxxx.xx K/s" instead of "KB/s".  Ditto for MB/s,
3344         etc.
3345
3346         * progress.c (set_progress_implementation): New function.
3347         (valid_progress_implementation_p): Ditto.
3348         (progress_create): Ditto.
3349         (progress_update): Ditto.
3350         (progress_finish): Ditto.
3351         (dp_create): Ditto.
3352         (dp_update): Ditto.
3353         (dp_finish): Ditto.
3354         (dp_set_params): Ditto.
3355         (print_elapsed): Ditto.
3356
3357 2001-11-22  Hrvoje Niksic  <hniksic@arsdigita.com>
3358
3359         * retr.c (show_progress): Use it.
3360
3361         * log.c (log_set_flush): New function.
3362
3363 2001-11-22  Hrvoje Niksic  <hniksic@arsdigita.com>
3364
3365         * utils.c (path_simplify): Don't remove trailing slashes.
3366
3367         * ftp.c (ftp_get_listing): Use it.
3368
3369         * utils.c (file_merge): New function.
3370
3371         * url.c (opt_url): Removed.
3372
3373         * recur.c (recursive_retrieve): Inline "opt_url" logic.
3374
3375         * main.c (main): Use xfree(), not free().
3376
3377         * url.c (rewrite_url_maybe): Renamed to rewrite_shorthand_url.
3378
3379         * ftp.c (ccon): Move `ccon' typedef here, since it's only used
3380         internally.
3381
3382         * config.h.in: Include a stub for HAVE_STRPBRK.
3383
3384         * cmpt.c (strpbrk): Include a replacement for systems without
3385         strpbrk().
3386
3387         * ftp.c: Use url_set_dir and url_set_file when modifying the URL.
3388
3389         * url.c (url_set_dir): New function.
3390         (url_set_file): Ditto.
3391
3392         * ftp-basic.c (ftp_process_type): Process FTP type here; the URL
3393         parser makes the URL "params" available, so we can do that in this
3394         function.
3395
3396         * retr.c: Ditto.
3397
3398         * ftp.c: Ditto; pass the local file information in `ccon'.
3399
3400         * http.c: Get rid of the ugly kludge that had URL being replaced
3401         with the proxy URL when proxy retrieval was requested.  Use a
3402         separate parameter to http_loop and gethttp for the proxy URL.
3403
3404         * http.c: Changed to reflect the fact that local file, proxy, and
3405         referer information are no longer stored in struct url.  The local
3406         file information is passed in `struct hstat' now.
3407
3408         * url.c: Reworked URL parsing to be more regular.  Reencode the
3409         URL using reencode_string.
3410         Removed non-URL-related information from struct url.  This
3411         includes fields `proxy', `local', and `referer'.
3412
3413 2001-11-22  Jochen Hein  <jochen@jochen.org>
3414
3415         * main.c (main): Split the copyright notice for easier
3416         translation.
3417
3418 2001-08-21  Dave Turner <dct25@hermes.cam.ac.uk>
3419
3420         * ftp-basic.c (ftp_size): New function to send non-standard SIZE
3421           command to server to request file size.
3422         * ftp.h (ftp_size): Export it.
3423         * ftp.c (getftp): Use new ftp_size function if restoring
3424           transfer of a file with unknown size.
3425
3426 2001-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
3427
3428         * url.c (parseurl): Don't depend on the now-obsolete TYPE.
3429
3430 2001-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
3431
3432         * url.c (getproxy): Handle URL shorthands.
3433
3434 2001-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
3435
3436         * main.c: Remove --wait / --waitretry backwards compatibility
3437         code.
3438         
3439 2001-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
3440
3441         * main.c (main): Use it.
3442
3443         * url.c (rewrite_url_maybe): New function.
3444
3445 2001-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
3446
3447         * url.c: Clean up handling of URL schemes.
3448
3449 2001-05-13  Hrvoje Niksic  <hniksic@arsdigita.com>
3450
3451         * url.c: Get rid of `protostrings'.
3452         (skip_proto): Don't use protostrings.
3453         (has_proto): Ditto.
3454
3455 2001-11-18  Hrvoje Niksic  <hniksic@arsdigita.com>
3456
3457         * Makefile.in: Conditionally compile getopt.o.
3458
3459 2001-11-18  Hrvoje Niksic  <hniksic@arsdigita.com>
3460
3461         * md5.h: Renamed to gnu-md5.h.
3462
3463         * md5.c: Renamed to gnu-md5.c.
3464
3465         * http.c: Ditto.
3466
3467         * ftp-opie.c: Use the new macros.
3468
3469         * sysdep.h: Define md5-related macros.
3470
3471         * config.h.in: Define HAVE_SOLARIS_MD5 or HAVE_BUILTIN_MD5
3472         depending on which md5 implementation is used.
3473
3474 2001-11-18  Hrvoje Niksic  <hniksic@arsdigita.com>
3475
3476         * res.c (res_register_specs): Initialize OLD and HP_OLD to appease
3477         the compiler.
3478
3479 2001-11-18  Hrvoje Niksic  <hniksic@arsdigita.com>
3480
3481         * http.c (gethttp): Print the whole response line when printing
3482         headers is requested.
3483
3484 2001-05-12  Hrvoje Niksic  <hniksic@arsdigita.com>
3485
3486         * res.c: New file.  Implement all RES-related code here.
3487
3488 2001-11-18  Hrvoje Niksic  <hniksic@arsdigita.com>
3489
3490         * version.c: Wget 1.7.1 is released.
3491
3492 2001-11-16  Hrvoje Niksic  <hniksic@arsdigita.com>
3493
3494         * headers.c (header_extract_number): Ignore trailing whitespace.
3495
3496 2001-08-24  Ian Abbott  <abbotti@mev.co.uk>
3497
3498         * html-url.c (collect_tags_mapper): Fix bug converting links
3499         with -k option for tags with multiple link attributes by
3500         handling links in the order they appear.
3501
3502 2001-08-15  Ian Abbott  <abbotti@mev.co.uk>
3503
3504         * ftp.c (ftp_loop_internal): Avoid a potential buffer overflow in
3505           the call to the 'rate' function by moving it past the error
3506           checking for the 'getftp' function return value.
3507
3508 2001-11-16  Hrvoje Niksic  <hniksic@arsdigita.com>
3509
3510         * html-parse.c (advance_declaration): Use 0x22 instead of '"' or
3511         '\"'.  Different compilers' assert macros are broken in different
3512         ways.
3513
3514 2001-09-29  Christian Fraenkel  <c.fraenkel@gmx.net>
3515
3516         * http.c (gethttp): print debug output for errors occuring during
3517         the ssl handshake.
3518
3519 2001-11-16  Chris Seawood  <cls@seawood.org>
3520
3521         * init.c: Ditto.
3522
3523         * host.c: Ditto.
3524
3525         * connect.c: Ditto.
3526
3527         * sysdep.h: Support compilation under BEOS.
3528
3529 2001-06-08  Edward J. Sabol  <sabol@alderaan.gsfc.nasa.gov>
3530
3531         * url.c (url_equal): Fix a memory leak when parseurl returns an
3532         error on the second URL. Also, since url_equal is not used at the
3533         moment, do not compile it.
3534
3535         * url.h: Ditto for the prototype of url_equal.
3536
3537 2001-11-16  Hrvoje Niksic  <hniksic@arsdigita.com>
3538
3539         * html-parse.c (map_html_tags): Support XML-style empty tags.
3540
3541 2001-06-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3542
3543         * wget.h (DO_REALLOC_FROM_ALLOCA): Check for do_realloc_newsize in
3544         loop condition because we're no longer setting SIZEVAR here.
3545
3546 2001-06-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3547
3548         * wget.h (DO_REALLOC_FROM_ALLOCA): Set SIZEVAR after the memcpy()
3549         call because it needs the old value.
3550
3551 2001-06-18  Hrvoje Niksic  <hniksic@arsdigita.com>
3552
3553         * cookies.c (ATTR_NAME_CHAR): Allow almost any character to be in
3554         an attribute name.
3555
3556 2001-06-18  Hrvoje Niksic  <hniksic@arsdigita.com>
3557
3558         * url.c (url_filename): Make sure that slashes that sneak in to
3559         u->file via query string get protected.
3560         (file_name_protect_query_string): New function.
3561
3562 2001-06-14  Hrvoje Niksic  <hniksic@arsdigita.com>
3563
3564         * recur.c (recursive_retrieve): Also check undesirable_urls with
3565         canonicalized URL.
3566
3567 2001-06-14  Hrvoje Niksic  <hniksic@arsdigita.com>
3568
3569         * http.c (gethttp): Search `.netrc' with real host, not the proxy
3570         one.
3571
3572 2001-06-14  Hrvoje Niksic  <hniksic@arsdigita.com>
3573
3574         * sysdep.h (MAP_FAILED): Provide MAP_FAILED for systems that don't
3575         define it.
3576
3577 2001-06-09  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3578
3579         * ftp.h: Provide correct prototype for ftp_parse_ls().
3580
3581 2001-06-04  Hrvoje Niksic  <hniksic@arsdigita.com>
3582
3583         * version.c: Wget 1.7 is released.
3584
3585 2001-06-03  Karl Eichwalder  <ke@suse.de>
3586
3587         * ftp-ls.c (ftp_parse_ls): Fix typo.
3588
3589 2001-05-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3590
3591         * all: Update copyright information.
3592
3593 2001-05-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3594
3595         * http.c (gethttp): Indicate that the continued download failed
3596         for *this* file.
3597
3598 2001-05-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3599
3600         * version.c: Wget 1.7-pre1 is released.
3601
3602 2001-05-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3603
3604         * version.c: Updated version to 1.7-pre1.
3605
3606 2001-05-14  Hrvoje Niksic  <hniksic@arsdigita.com>
3607
3608         * gen_sslfunc.c: Don't include <sys/time.h> directly.
3609
3610 2001-05-14  Hrvoje Niksic  <hniksic@arsdigita.com>
3611
3612         * http.c (gethttp): Use real URL data for cookies, not the proxy
3613         stuff.
3614
3615 2001-05-12  Hrvoje Niksic  <hniksic@arsdigita.com>
3616
3617         * main.c (print_help): Document `--no-http-keep-alive'.
3618
3619         * utils.c (numdigit): Handle negative numbers *correctly*.
3620
3621         * hash.c (make_nocase_string_hash_table): Use term "nocase" rather
3622         than the confusing "unsigned".
3623
3624         * utils.c (string_set_contains): Renamed from string_set_exists.
3625
3626         * hash.c (hash_table_contains): Renamed from hash_table_exists.
3627
3628         * cookies.c: Move case-insensitive hash tables to hash.c.
3629
3630 2001-05-09  Hrvoje Niksic  <hniksic@arsdigita.com>
3631
3632         * http.c (gethttp): Before concluding that the file is already
3633         fully retrieved, make sure that the file existed and `Range' was
3634         actually requested.
3635
3636 2001-05-09  Hrvoje Niksic  <hniksic@arsdigita.com>
3637
3638         * cookies.c (eliminate_dups): New function.
3639         (build_cookies_request): Use it.
3640         (build_cookies_request): Set chain_store_size after reallocating
3641         all_chains.
3642         (check_domain_match): Annotated for easier future debugging.
3643         (store_cookie): In the debug message, print whether the cookie is
3644         permanent.
3645
3646 2001-05-08  Hrvoje Niksic  <hniksic@arsdigita.com>
3647
3648         * http.c (http_loop): Reset no_truncate before deciding whether to
3649         set it.
3650         (gethttp): Further clarify "-c conflicts with existing file" error
3651         message, based on input from Herold Heiko.
3652
3653 2001-05-07  Hrvoje Niksic  <hniksic@arsdigita.com>
3654
3655         * http.c (http_loop): If restval is set, set no_truncate to 1
3656         unconditionally.
3657
3658 2001-05-02  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3659
3660         * ftp-ls.c (ftp_parse_winnt_ls): Assure months are being correctly
3661         converted. Pointed out by <Stefan.Weil@de.heidelberg.com>.
3662         (ftp_parse_vms_ls): Ditto.
3663
3664 2001-04-30  Hrvoje Niksic  <hniksic@arsdigita.com>
3665
3666         * init.c (cmd_address): Zero SIN before using it; apparently
3667         needed on *BSD.
3668
3669 2001-04-29  Hrvoje Niksic  <hniksic@arsdigita.com>
3670
3671         * ftp.c (ftp_loop_internal): Don't set NO_TRUNCATE if the file is
3672         empty.
3673
3674 2001-04-29  Hrvoje Niksic  <hniksic@arsdigita.com>
3675
3676         * main.c (main): Make `--cookies' respect its argument.
3677
3678 2001-04-28  Hrvoje Niksic  <hniksic@arsdigita.com>
3679
3680         * main.c (main): Removed undocumented option `--email-address'.
3681
3682         * netrc.c: Use the latest read_whole_line.
3683
3684         * init.c (defaults): Set opt.ftp_pass to "-wget@".
3685
3686         * mswindows.c (pwd_cuserid): Ditto.
3687
3688         * utils.c (pwd_cuserid): Removed.
3689
3690         * host.c (ftp_getaddress): Removed.
3691
3692 2001-04-28  Hrvoje Niksic  <hniksic@arsdigita.com>
3693
3694         (http_loop): Allocate space for filename_plus_orig_suffix with
3695         alloca; this is more efficient and removes the need to free it
3696         before each and every return.
3697
3698 2001-04-28  Hrvoje Niksic  <hniksic@arsdigita.com>
3699
3700         * http.c (gethttp): Return RETRUNNEEDED when the retrieval is
3701         unneeded because the file is already there and fully downloaded,
3702         and -c is specified.
3703         (http_loop): Handle RETRUNNEEDED.
3704
3705         * wget.h (uerr_t): New value RETRUNNEEDED.
3706
3707         * http.c (http_loop): Set no_truncate for files that both exist
3708         and are non-empty.
3709         (gethttp): Consider the download finished when restval >= contlen,
3710         not only when restval==contlen.
3711         (gethttp): Handle redirection before giving up due to -c.
3712         (gethttp): Clarify error message which explains that -c will not
3713         truncate the file.
3714         (gethttp): When returning CONTNOTSUPPORTED, don't forget to free
3715         the stuff that needs freeing and release the socket.
3716
3717 2001-04-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3718
3719         * main.c (print_help): Wget booleans accept "off", not "no".
3720
3721 2001-04-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3722
3723         * http.c (http_loop): If allow_cache is zero, always disable
3724         caching, not only when retrieving through proxy.
3725
3726         * init.c: Ditto.
3727
3728         * options.h (struct options): Rename proxy_cache to allow_cache.
3729
3730 2001-04-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3731
3732         * http.c (mktime_from_utc): Improve documentation.
3733         (http_atotm): Put format strings into a separate array.
3734
3735 2001-04-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3736
3737         * safe-ctype.h: Instead of throwing #error when isalpha is
3738         defined, redefine it to something that will throw a compile-time
3739         error if actually *used*.  Do the same for the rest of the
3740         standard C macros.
3741
3742 2001-04-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3743
3744         * url.c (getproxy): Ignore empty proxy vars.
3745
3746 2001-04-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3747
3748         * http.c (http_loop): Would load cookies every time.
3749
3750         * cookies.c (load_cookies): Handle cookies whose values contain
3751         embedded spaces.
3752
3753 2001-04-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3754
3755         * utils.c: Define each DIGITS_* in one line.
3756
3757 2001-04-25  Roger L. Beeman  <beeman@cisco.com>
3758
3759         * http.c (http_atotm): Initialize t.tm_isdst to 0.
3760         (mktime_from_utc): Prevent mktime() from having discontinuities at
3761         DST transition points.
3762
3763 2001-04-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3764
3765         * html-url.c (get_urls_html): Fix documentation.
3766
3767 2001-04-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3768
3769         * url.c (UNSAFE_CHAR): Reimplement using a static table.
3770         (url_init): Removed.
3771         (init_unsafe_char_table): Removed.
3772
3773 2001-04-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3774
3775         * snprintf.c (dopr): Replace ISDIGIT with '0' <= ch && ch <= '9'.
3776
3777 2001-04-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3778
3779         * utils.c: Document timer functions.
3780
3781         * retr.c (rate): Use it.
3782         (rate): Print in GB/s if transfer rate exceeds 1 GB/s.
3783
3784         * utils.c (wtimer_granularity): New function.
3785
3786 2001-04-24  Hrvoje Niksic  <hniksic@arsdigita.com>
3787
3788         * retr.c (show_progress): Ditto.
3789
3790         * ftp.c (getftp): Ditto.
3791
3792         * http.c (gethttp): Use new timer functions.
3793
3794         * utils.c (wtimer_allocate): New function.
3795         (wtimer_new): Ditto.
3796         (wtimer_delete): Ditto.
3797         (wtimer_reset): Ditto.
3798         (wtimer_elapsed): Ditto.
3799
3800 2001-04-24  Hrvoje Niksic  <hniksic@arsdigita.com>
3801
3802         * utils.c (long_to_string): New, faster version.  Favors smaller
3803         numbers; much of the calculation is now done at compile-time.
3804
3805 2001-04-24  Hrvoje Niksic  <hniksic@arsdigita.com>
3806
3807         * utils.c (numdigit): Handle negative numbers.
3808
3809 2001-04-23  Hrvoje Niksic  <hniksic@arsdigita.com>
3810
3811         * retr.c (show_progress): Print the download rate even when the
3812         percentages are not available.
3813
3814 2001-04-21  Hrvoje Niksic  <hniksic@arsdigita.com>
3815
3816         * ftp.c (getftp): Adjust expected_bytes if the length is
3817         authoritative.
3818
3819 2001-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
3820
3821         * url.c: Don't declare `construct'.
3822
3823         * hash.c (grow_hash_table): Speed up rehashing; inline storing of
3824         mappings to new locations.
3825         (hash_table_new): Make resize_threshold a field in the hash table,
3826         so we don't have to recalculate it in each hash_table_put.
3827         (grow_hash_table): Update resize_threshold.
3828         (MAX): Remove unused macro.
3829         (prime_size): Made static.
3830
3831 2001-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
3832
3833         * retr.c (retrieve_url): Call uri_merge, not url_concat.
3834
3835         * html-url.c (collect_tags_mapper): Call uri_merge, not
3836         url_concat.
3837
3838         * url.c (mkstruct): Use encode_string instead of xstrdup followed
3839         by URL_CLEANSE.
3840         (path_simplify_with_kludge): Deleted.
3841         (contains_unsafe): Deleted.
3842         (construct): Renamed to uri_merge_1.
3843         (url_concat): Renamed to uri_merge.
3844
3845 2001-04-13  Hrvoje Niksic  <hniksic@arsdigita.com>
3846
3847         * url.c (str_url): Use encode_string instead of the unnecessary
3848         CLEANDUP.
3849         (encode_string_maybe): New function, returns input string if no
3850         encoding is needed.
3851         (encode_string): Call encode_string_maybe to do the dirty work,
3852         xstrdup if no work needed.
3853
3854 2001-04-13  Hrvoje Niksic  <hniksic@arsdigita.com>
3855
3856         * wget.h (XDIGIT_TO_xchar): Define here.
3857
3858         * url.c (decode_string): Use new name.
3859         (encode_string): Ditto.
3860
3861         * http.c (XDIGIT_TO_xchar): Rename HEXD2asc to XDIGIT_TO_xchar.
3862         (dump_hash): Use new name.
3863
3864         * wget.h: Rename ASC2HEXD and HEXD2ASC to XCHAR_TO_XDIGIT and
3865         XDIGIT_TO_XCHAR respectively.
3866
3867 2001-04-13  Hrvoje Niksic  <hniksic@arsdigita.com>
3868
3869         * init.c: Include cookies.h.
3870
3871         * cookies.h: Declare cookies_cleanup.
3872
3873         * cookies.c (check_domain_match): Remove unused variable.
3874         (save_cookies): Remove extraneous argument from debug statement.
3875
3876         * host.c (same_host): Don't call skip_url.
3877
3878         * url.c (skip_url): Removed.  Removed its calls from various
3879         functions in url.c.
3880
3881 2001-04-13  Hrvoje Niksic  <hniksic@arsdigita.com>
3882
3883         * cookies.c (unsigned_string_hash): Use the new code in
3884         string_hash as reference.
3885
3886         * hash.c (hash_table_map): Allow deletion and change of the
3887         element processed by MAPFUN.
3888         (string_hash): Use the function from glib.
3889
3890 2001-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
3891
3892         * config.h.in: Include #undef stub.
3893
3894         * hash.c (hash_table_remove): Rewrite to actually clear deleted
3895         entries instead of just marking them as deleted.
3896
3897 2001-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
3898
3899         * hash.h: Declare hash_table_get_pair and hash_table_count.
3900
3901 2001-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
3902
3903         * cookies.c: Declare http_atotm.
3904
3905 2001-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
3906
3907         * ftp-ls.c (ftp_parse_unix_ls): Use octal constants for
3908         permissions.  A compiler that doesn't accept octal constants is
3909         seriously broken and shouldn't be used -- octal constants were
3910         present in K&R C!
3911
3912 2001-01-20  Karl Eichwalder  <ke@suse.de>
3913
3914         * Makefile.in: Provide and use DESTDIR according to the Coding
3915         Standards.
3916
3917 2001-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
3918
3919         * ftp-ls.c (ftp_parse_vms_ls): Make seconds optional in time
3920         specification.
3921
3922 2001-04-11  Hrvoje Niksic  <hniksic@arsdigita.com>
3923
3924         * url.c (parseurl): Don't strip trailing slash when u->dir is "/"
3925         because that strips the *leading* slash, thus forcing relative
3926         FTP retrieval.
3927
3928 2001-04-10  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3929
3930         * ftp.c (getftp): Convert initial FTP directory from VMS to UNIX
3931         notation for VMS servers. 
3932         (ftp_retrieve_dirs): Do not prepend '/' to f->name when
3933         odir is an empty string.
3934
3935 2001-04-10  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3936
3937         * ftp-ls.c (ftp_parse_winnt_ls): Made the fix for AM/PM more
3938         effective. Suggested by Edward J. Sabol.
3939
3940 2001-04-10  Hrvoje Niksic  <hniksic@arsdigita.com>
3941
3942         * cookies.c (build_cookies_request): Use and sort cookies from all
3943         matching domains.
3944         (build_cookies_request): Check for duplicates before generating
3945         the `Cookies' header.
3946
3947         * main.c (main): Don't load cookies here.
3948         (main): Make loadcookies and savecookies call the correct command.
3949
3950         * http.c (http_loop): Load cookies on-demand.
3951
3952 2001-04-09  Hrvoje Niksic  <hniksic@arsdigita.com>
3953
3954         * http.c (gethttp): Fix indentation of SSL ifdef.
3955
3956 2001-04-09  Hrvoje Niksic  <hniksic@arsdigita.com>
3957
3958         * ftp.c (ftp_retrieve_dirs): Don't forcibly prepend "/" to u->dir;
3959         that hack is no longer necessary.
3960         (getftp): Prepend initial directory to *non*-absolute u->dir's.
3961
3962 2001-04-09  Hrvoje Niksic  <hniksic@arsdigita.com>
3963
3964         * init.c (cmd_file): New function.
3965         (enable_tilde_expansion): New variable.
3966         (run_wgetrc): Use it.
3967         (cmd_file): Use it.
3968
3969 2001-04-08  Hrvoje Niksic  <hniksic@arsdigita.com>
3970
3971         * init.c: Include cookie-related options.
3972
3973         * main.c (main): Include cookie-specific options.
3974         (main): Load cookies before download is finished.
3975         (main): Save cookies when done.
3976
3977         * http.c (gethttp): Process the `Set-Cookie' header.
3978         (gethttp): Include cookies in the response.
3979
3980         * cookies.c: New file.
3981
3982 2001-04-08  Hrvoje Niksic  <hniksic@arsdigita.com>
3983
3984         * utils.c (datetime_str): New function.
3985
3986 2001-04-08  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3987
3988         * ftp-ls.c (ftp_parse_winnt_ls): The AM/PM change did assume
3989         12:01PM == 00:01, which was obviously wrong. Taken care of this
3990         anomaly.
3991
3992         * ChangeLog: Removed an excess conflict marker. Reformatted the
3993         entry by Philipp Thomas from 2001-03-09.
3994
3995         * ftp-ls.c (ftp_parse_winnt_ls): Ensure that adjusted PM hours lay
3996         between 0 and 23. Elminate unused variable `sec'.
3997
3998 2001-04-08  Hrvoje Niksic  <hniksic@arsdigita.com>
3999
4000         * hash.c (hash_table_count): New function.
4001
4002 2001-04-06  Hrvoje Niksic  <hniksic@arsdigita.com>
4003
4004         * utils.c (read_file): Cast MAP_FAILED to char *.  Enforced by
4005         Digital Unix cc.
4006
4007 2001-04-06  Hrvoje Niksic  <hniksic@arsdigita.com>
4008
4009         * config.h.in: Oops, do the namespace tweaks only on systems we
4010         know about.
4011
4012 2001-04-06  Hrvoje Niksic  <hniksic@arsdigita.com>
4013
4014         * hash.c: Include <string.h>.
4015
4016 2001-04-06  Hrvoje Niksic  <hniksic@arsdigita.com>
4017
4018         * config.h.in: Define "compilation environment" options that work
4019         under Linux and Solaris.  To be reviewed on other OS'es.
4020
4021 2001-04-06  Hrvoje Niksic  <hniksic@arsdigita.com>
4022
4023         * http.c (gethttp): Prepend literal newline with `\n\'.
4024
4025 2001-04-06  Hrvoje Niksic  <hniksic@arsdigita.com>
4026
4027         * sysdep.h: Don't define VERY_LONG_FORMAT.
4028
4029         * utils.c (very_long_to_string): New function.
4030         (legible_very_long): Use it; don't use VERY_LONG_FORMAT.
4031
4032 2001-04-04  Christian Fraenkel  <christian.fraenkel@gmx.net>
4033
4034         * url.c (parse_uname): Would run past the end of the string if the
4035         username was present, but the URL did not contain a slash, e.g.
4036         http://foo:bar@myhost.
4037
4038 2001-04-03  KOJIMA Hajime  <kjm@rins.ryukoku.ac.jp>
4039
4040         * http.c (http_atotm): Use %A instead of %a to match full
4041         weekday.  (On most systems there is no difference.)
4042
4043 2001-04-03  Paul Bludov  <paul@ozero.net>
4044
4045         * mswindows.c (sleep): Use SleepEx() instead of Sleep().
4046         (ws_changetitle): Use alloca() instead of malloc() to avoid memory
4047         leak.
4048         (ws_mypath): Use GetModuleFileName instead of argv[0].
4049         (ws_startup): Use data.wVersion for comparison.
4050
4051 2001-04-02  Hrvoje Niksic  <hniksic@arsdigita.com>
4052
4053         * http.c (http_loop): Ditto.
4054
4055         * ftp.c (ftp_loop_internal): Made the check whether to continue
4056         retrieval `-O'-friendly.
4057
4058 2001-04-02  Hrvoje Niksic  <hniksic@arsdigita.com>
4059
4060         * netrc.c (parse_netrc): Don't trim the line endings explicitly;
4061         they will be handled as whitespace.
4062         (parse_netrc): Correctly handle lines that end with whitespace.
4063
4064 2001-04-02  Hrvoje Niksic  <hniksic@arsdigita.com>
4065
4066         * retr.c (retrieve_url): New variable global_download_count used
4067         to identify first retrieval.
4068
4069         * ftp.c (getftp): Ditto.
4070
4071         * http.c (gethttp): Rewind opt.dfp only on first retrieval.
4072
4073 2001-04-02  Hrvoje Niksic  <hniksic@arsdigita.com>
4074
4075         * init.c (cmd_address): Heap-allocate the address that gets stored
4076         to CLOSURE.  Old code would simply assign an address on the stack.
4077
4078 2001-04-01  Nicolas Lichtmaier <nick@debian.org>
4079
4080         * ftp.c (ftp_get_listing): Propagate error status.
4081         (ftp_retrieve_glob): Use it.
4082         (ftp_loop): Ditto.
4083
4084 2001-04-01  Nicolas Lichtmaier <nick@debian.org>
4085
4086         * main.c (main): Add -C to the string that is the third arg to
4087         getopt_long().
4088
4089 2001-04-01  Hrvoje Niksic  <hniksic@arsdigita.com>
4090
4091         * ftp.c (getftp): Don't start the download from scratch if `-c'
4092         was specified, but the file is already fully downloaded.
4093
4094         * http.c (gethttp): Don't truncate a pre-existing file if `-c' was
4095         specified and the server doesn't support continued download.
4096         (gethttp): Don't start the download from scratch if `-c' was
4097         specified, but the file is already fully downloaded.
4098
4099 2001-03-31  Hrvoje Niksic  <hniksic@arsdigita.com>
4100
4101         (recursive_retrieve): Don't clear the hash tables at this point at
4102         all; it interferes with the normal operation of register_download.
4103
4104 2001-03-31  Hrvoje Niksic  <hniksic@arsdigita.com>
4105
4106         * recur.c (recursive_retrieve): Clear the hash tables only when
4107         they are defined.
4108
4109 2001-03-31  Hrvoje Niksic  <hniksic@arsdigita.com>
4110
4111         * http.c (gethttp): Make sure the socket is closed with
4112         CLOSE_INVALIDATE before we have drained the body.
4113
4114 2001-03-31  Hrvoje Niksic  <hniksic@arsdigita.com>
4115
4116         * retr.c (retrieve_url): Call register_download() for downloaded
4117         files and register_html() for downloaded HTML files.
4118
4119         * recur.c (register_download): New function; register here that a
4120         file has been downloaded, rather than in recursive_retrieve().
4121         (register_html): New function; enqueue the location of HTML files
4122         here rather than in recursive_retrieve().
4123
4124 2001-03-31  Hrvoje Niksic  <hniksic@arsdigita.com>
4125
4126         * main.c (print_help): Use multiple fputs instead of a single ugly
4127         printf().
4128         (main): Consistently assign numbers >128 to options without a
4129         corresponding character.
4130
4131 2001-03-09  Philipp Thomas  <pthomas@suse.de>
4132
4133         * safe-ctype.h: New file. Locale independent ctype.h replacement
4134         taken from libiberty.
4135
4136         * safe-ctype.c: New file. Tables for above.
4137
4138         * Makefile.in: Add safe-ctype$o to OBJS.  Add dependencies for
4139         safe-ctype$o.
4140
4141         * cmpt.c: Remove include of ctype.h. Use ISSPACE instead of
4142         isspace.
4143
4144         * ftp-basic.c: Don't include ctype.h.
4145
4146         * ftp-ls.c: Likewise.
4147
4148         * ftp.c: Likewise.
4149
4150         * headers.c: Likewise.
4151
4152         * host.c: Likewise.
4153
4154         * html-parse.c: Likewise.
4155
4156         * html-url.c: Likewise.
4157
4158         * http.c: Likewise.
4159
4160         * init.c: Likewise.
4161
4162         * main.c: Likewise. Set LC_CTYPE along with LC_MESSAGES.
4163
4164         * netrc.c: Likewise.
4165
4166         * recur.c: Likewise.
4167
4168         * retr.c: Likewise.
4169
4170         * snprintf.c: Replace ctype.h with safe-ctype.h. Use ISDIGIT
4171         instead of isdigit.
4172
4173         * sysdep.h: Remove defines of ctype macros as they aren't needed
4174         for safe-ctype-h.
4175
4176         * url.c: Don't include ctype.h.
4177
4178         * utils.c: Likewise.
4179
4180         * wget.h: Include safe-ctype.h.
4181
4182 2001-03-27  Dan Harkless  <wget@harkless.org>
4183
4184         * Makefile.in: Moved top_builddir out of "User configuration
4185         section" of top Makefile and analogous spot in this one.
4186
4187 2001-03-17  Dan Harkless  <wget@harkless.org>
4188
4189         * Makefile.in: Include @SSL_INCLUDES@ substition in INCLUDES.
4190         Define top_builddir.  Link wget with libtool so the user doesn't
4191         have to supply a bunch of custom environment variables to 
4192         correctly link with the OpenSSL shared libraries.
4193
4194 2001-03-06  Hack Kampbjorn  <hack@hackdata.com>
4195
4196         * http.c (gethttp): skip :port in host header if it is the
4197         DEFAULT_HTTPS_PORT when using SSL.
4198
4199         * url.c: move the #define of DEFAULT_HTTP_PORT, DEFAULT_FTP_PORT
4200         and DEFAULT_HTTPS_PORT to the header file so it can be use in the
4201         rest of the code. 
4202         * url.h: Ditto
4203
4204 2001-03-01  Jonas Jensen  <bones@huleboer.dk>
4205
4206         * retr.c (show_progress): Correctly calculate the number of bytes
4207         in the first line of the download that have been actually
4208         downloaded in this run.
4209
4210 2001-02-23  Dan Harkless  <wget@harkless.org>
4211
4212         * main.c (print_help): --help documentation for -N said it would
4213         re-download files if they had the _same_ timestamp on server.
4214         (print_help): -nr belongs in "FTP options" section of --help
4215         output, not "Recursive retrieval" section.  Alphabetized FTP
4216         options by long option name.
4217
4218 2001-02-16  Dan Harkless  <wget@harkless.org>
4219
4220         * init.c (commands): Hack Kampbjørn <hack@hackdata.com> discovered
4221         that "httpsproxy" had been inserted into commands[] out of
4222         alphabetical order, causing "BUG: unknown command `httpuser'".
4223
4224 2001-02-13  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
4225
4226         * ftp-ls.c (ftp_parse_ls): Added support of ST_MACOS (Unix-like
4227         listing without correct permissons).
4228
4229         * ftp.h (stype): Added ST_MACOS to identify the NetPresenz MacOS
4230         FTP server. 
4231
4232         * ftp.c (ftp_retrieve_list): New mirroring logic: A remote file
4233         shall be donwloaded only when it's newer than the local copy or
4234         when it has the same timeestamp but its size is different. ST_VMS
4235         and ST_MACOS as special cases that lie about file size. 
4236
4237         * ftp-ls.c (ftp_parse_ls): Support for ST_MACOS.
4238
4239         * Makefile.in: Removed dependency on ftpparse library due to unclear
4240         copyright issues and absence of any feedback to our queries. 
4241
4242         * ftp-ls.c: Removed dependency on ftpparse library due to unclear
4243         copyright issues and absence of any feedback to our queries.   
4244         (ftp_parse_ls): Added a warning message when remote server system
4245         does not seem to be suported by wget. 
4246         (ftp_parse_vms_ls): New function for parsing VMS ftp
4247         server listing output.
4248         (clean_line): New function responsible for removing
4249         end-of-line characters from FTP listing texts.
4250
4251         * ftp.c (getftp): Global variables pwd and host_type are now
4252         member of the ccon structure under names ccon.id and ccon.rs. 
4253
4254         * ftp.h (struct ccon): Added formed global variables from ftp.c,
4255         enum stype rs (remote system identification) and char *id (initial
4256         working directory), as suggested by Hrvoje.
4257
4258         * url.c (parse_uname): Added support for passwords containing '@'
4259         characters.
4260         (skip_uname): Ditto.
4261
4262 2001-02-11  Hrvoje Niksic  <hniksic@arsdigita.com>
4263
4264         * ftp.c (ftp_loop): Reset con.
4265
4266 2001-01-06  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
4267
4268         * url.c (parse_uname): Added support for passwords containing '@'
4269         characters.
4270         (skip_uname): Ditto.
4271
4272 2001-02-11  Hack Kampbjørn  <hack@hackdata.com>
4273
4274         * url.c (parseurl): Debug-print u->ftp_type.
4275
4276 2001-02-11  Hrvoje Niksic  <hniksic@arsdigita.com>
4277
4278         * ftp.c (ftp_loop_internal): Disable padding.
4279         (getftp): Ditto.
4280
4281         * http.c (http_loop): Disable padding.
4282
4283         * retr.c (show_progress): Use it to enable padding.
4284
4285         * retr.c (rate): Optional parameter PAD for padding the rate.
4286
4287 2001-02-10  Hrvoje Niksic  <hniksic@arsdigita.com>
4288
4289         * retr.c (show_progress): Make sure that the last output line
4290         includes progress.
4291
4292 2001-02-10  Jonas Jensen  <bones@huleboer.dk>
4293
4294         * retr.c (show_progress): Print the download rate along with the
4295         percentages.
4296         Along with Anders Thorsby <anders@thorsby.dk>.
4297
4298 2001-02-10  Tim Mooney  <mooney@dogbert.cc.ndsu.NoDak.edu>
4299
4300         * ftp.h: Rename enums `command' to `wget_ftp_command' and
4301         `fstatus' to `wget_ftp_status' because old names clash with Tru64
4302         net/if.h.
4303
4304 2001-02-08  Christian Fraenkel <christian.fraenkel@gmx.net>
4305
4306         * gen_sslfunc.c: verify_callback is now static
4307
4308         * gen_sslfunc.c (init_ssl): load certificate if specified
4309
4310         * gen_sslfunc.c (ssl_printerr): new function
4311
4312         * init.c: added new --sslcertfile and --sslcertkey switches
4313
4314         * main.c: ditto
4315
4316         * options.h: ditto
4317
4318         * http.c (gethttp): abort when init_ssl fails
4319
4320 2001-01-23  Herold Heiko  <Heiko.Herold@previnet.it>
4321
4322         * mswindows.h: Include <malloc.h>; it's needed for alloca().
4323
4324 2001-01-10  Dan Harkless  <wget@harkless.org>
4325
4326         * url.c (str_url): Clarified this function's comment header after
4327         Hrvoje answered my question on the list as to when hide != 1.
4328         Also Hrvoje pointed out I need to use xstrdup() on the string literal.
4329
4330 2001-01-06  Hrvoje Niksic  <hniksic@arsdigita.com>
4331
4332         * connect.c (bindport): Declare addrlen as int.  Diagnosed by
4333         Drazen Kacar <dave@arsdigita.com>.
4334         (conaddr): Ditto.
4335
4336 2001-01-09  Dan Harkless  <wget@harkless.org>
4337
4338         * html-url.c: A bunch of fixup of `--page-requisites'-related
4339         comments to reflect Hrvoje's changes to my code when transplanting
4340         it into this new file, to fix spelling mistakes, to clarify, etc.
4341
4342         * url.c (write_backup_file): Clarified a comment.
4343         (str_url): Henrik van Ginhoven pointed out on the list that we
4344         shouldn't give away the number of characters in the password by
4345         replacing each character with a 'x'.  Use "<password>" instead.
4346
4347         * ftp.c (ftp_retrieve_dirs): The bug where recursion into FTP
4348         directories didn't work if logging in put you in a directory other
4349         than "/" is fixed now.  Removed the comment here warning of the bug.
4350
4351         * main.c (print_help): --continue's description was misleading.
4352         We don't "restart", we "resume".  Also, better to say
4353         "partially-downloaded file" rather than just "existing file".
4354
4355 2001-01-06  Dan Harkless  <wget@harkless.org>
4356
4357         * ChangeLog: The '[Not in 1.6 branch.]'s were decided not to be
4358         the best way to go about my aim.  Removed them in favor of:
4359
4360         * ChangeLog-branches/1.6_branch.ChangeLog: New file.
4361
4362 2001-01-04  Hrvoje Niksic  <hniksic@arsdigita.com>
4363
4364         * url.c (replace_attr): New function, to be used by both
4365         TO_COMPLETE and TO_RELATIVE case in convert_links.
4366         (find_fragment): New function for finding URL fragments.
4367         (replace_attr): Better handle the case where the original string
4368         is not quoted.  Use find_fragment.
4369         (convert_links): Use replace_attr().
4370
4371 2000-12-31  Dan Harkless  <wget@harkless.org>
4372
4373         * ChangeLog: Since this flat file doesn't have multiple branches,
4374         looking at the dates would make you think that things went into
4375         1.6 that actually just went into the 1.7-dev branch.  Added "[Not
4376         in 1.6 branch.]" where appropriate to clarify.
4377         
4378 2000-12-30  Dan Harkless  <wget@harkless.org>
4379
4380         * ftp.c, http.c:  Applied Hack Kampbjørn <hack@hackdata.com>'s
4381         patch to deal with h_errno not being defined in netdb.h under Cygwin.
4382
4383 2000-12-18  Csaba Raduly  <csaba.raduly@sophos.com>
4384
4385         * sysdep.h: Include <malloc.h> and <io.h> under Watcom.
4386
4387 2000-12-17  Igor Khristophorov  <igor@atdot.org>
4388
4389         * http.c (check_end): Fix test for '+' or '-'.
4390
4391 2000-12-17  Hrvoje Niksic  <hniksic@arsdigita.com>
4392
4393         * url.c (parseurl): Rename inner loop var from i to ind to avoid
4394         clash with the function top-level-declared variable i.
4395         (str_url): Likewise, rename inner-loop i to j.
4396
4397         * recur.c (parse_robots): Don't declare LEN at top of function.
4398         (robots_match): Renamed parameter FORBIDDEN to avoid hiding of
4399         global variable.
4400
4401         * main.c (main): Change erroneous use of bitwise and to logical.
4402
4403         * init.c (cmd_address): Don't heap-allocate `sin'; it can be on
4404         the stack because it will be copied to closure.
4405
4406         Thanks to Csaba Raduly's run of PC-LINT over the sources.
4407
4408 2000-12-17  Hrvoje Niksic  <hniksic@arsdigita.com>
4409
4410         * http.c (basic_authentication_encode): Use xmalloc(), not
4411         malloc().  Thanks to Csaba Raduly's run of PC-LINT over the
4412         sources.
4413
4414 2000-12-17  Csaba Raduly  <csaba.raduly@sophos.com>
4415
4416         * sysdep.h: Test for __EMX__ rather than for EMXOS2 for OS/2
4417         compilation.
4418
4419 2000-12-17  Hrvoje Niksic  <hniksic@arsdigita.com>
4420
4421         * mswindows.c: Include <errno.h>.
4422
4423         * gen_sslfunc.c: Include <errno.h>.
4424
4425         * ftp-basic.c: Don't attempt to declare errno or h_errno because
4426         they're not used.
4427
4428         * main.c: Include <errno.h> because errno is used.
4429
4430         * ftp.c: Ditto.
4431
4432         * http.c: Include <netdb.h> for h_errno.
4433
4434 2000-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
4435
4436         * html-parse.c (advance_declaration): MSVC assert() chokes on
4437         '\"'.  Use '"' instead.
4438
4439 2000-12-11  Hrvoje Niksic  <hniksic@arsdigita.com>
4440
4441         * utils.c (xfree_real): Removed.
4442         (xfree_debug): Just call free().
4443
4444         * wget.h (xfree): Make it an alias for free.
4445
4446 2000-12-11  Hrvoje Niksic  <hniksic@arsdigita.com>
4447
4448         * http.c (http_loop): Furthermore, touch output_document only if
4449         it is known to be an existing regular file.
4450
4451 2000-12-11  Hrvoje Niksic  <hniksic@arsdigita.com>
4452
4453         * ftp.c (ftp_retrieve_list): Ditto.
4454
4455         * http.c (http_loop): Touch output_document if that is used for
4456         output.
4457
4458 2000-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
4459
4460         * http.c: Include gen_sslfunc.h after including Wget's headers.
4461         (persistent_available_p): Needed coma before `int ssl'.
4462
4463 2000-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
4464
4465         * ftp.c (ftp_loop_internal): Ditto.
4466
4467         * http.c (http_loop): Use it.
4468
4469         * retr.c (sleep_between_retrievals): New function that handles the
4470         logic of opt.wait and opt.waitretry.
4471
4472 2000-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
4473
4474         * rbuf.h: Implement only a single version of RBUF_READCHAR, using
4475         rbuf_read_bufferful when the buffer is depleted.
4476
4477         * rbuf.c (rbuf_read_bufferful): New function.
4478
4479 2000-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
4480
4481         * gen_sslfunc.h: Use ansi2knr style function declarations.
4482
4483         * gen_sslfunc.c: Reformat according to the GNU coding standards.
4484         More should be done.
4485
4486         * http.c (persistent_available_p): Place the cheap SSL test nearer
4487         the top of the function.
4488         (CLOSE_FINISH, CLOSE_INVALIDATE): Define only one version of each.
4489
4490 2000-12-05  Hrvoje Niksic  <hniksic@arsdigita.com>
4491
4492         * url.c (init_unsafe_char_table): Reinstate space as an unsafe
4493         char.
4494
4495 2000-12-03  Christian Fraenkel <christian.fraenkel@gmx.net>
4496
4497         * Makefile.in: added gen_sslfunc object
4498         * config.h.in: added HAVE_SSL define
4499         * connect.c: changed select_fd from static int to int
4500         * connect.h: ditto
4501         * gen_sslfunc.h: New file
4502         * gen_sslfunc.c: ditto
4503         * http.c: added HTTPS fuctionality
4504         * retrc.c: ditto
4505         * url.c: ditto
4506         * init.c: added opt.httpsproxy
4507         * options.h: ditto
4508         * rbuf.h: added alternate rbuf struct
4509         * wget.h: added CONSSLERR
4510         * rbuf.c: ditto
4511
4512         * http.c: Added HTTPS fuctionality.
4513
4514         * retrc.c: Ditto.
4515
4516         * url.c: Ditto.
4517
4518         * init.c: Added opt.httpsproxy.
4519
4520         * options.h: Ditto.
4521
4522         * rbuf.h: Added alternate rbuf struct.
4523
4524         * wget.h: Added CONSSLERR.
4525
4526         * rbuf.c: Ditto.
4527
4528 2000-11-30  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
4529
4530         * ftp-ls.c (ftp_parse_unix_ls): Added second parameter
4531         "ignore_perms" to ignore file and directory permissions for
4532         Windows NT FTP server listings.
4533         (ftp_parse_winnt_ls): New function.
4534         (ftp_parse_ls): Parses UNIX and Windows NT listings
4535         separately. Simple heuristics for distinguishing between UNIX and
4536         MS-DOS-like FTP listing provided by Windows NT FTP service.
4537
4538 2000-11-18  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
4539
4540         * ftpparse.c, ftpparse.h: New files.
4541
4542         * ftp-ls.c (ftp_parse_ls): Use ftp_parse_unix_ls for UNIX servers
4543         only. Use ftp_parse_nonunix_ls otherwise.
4544         (ftp_parse_nonunix_ls): Stub to the ftpparse library handling all
4545         exotic FTP servers.
4546
4547         * ftp.h (stype): New enum, distinguishes UNIX, VMS, and "other"
4548         FTP servers.
4549
4550         * ftp.c: New static wariables host_type, pwd, and pwd_len. 
4551         (getftp): Support for VMS. Support for FTP servers that do not
4552         place you in the root directory after login.
4553         (ftp_retrieve_list): VMS is silent about the real file size, issue
4554         a more appropriate message.
4555         (ftp_get_listing): Pass host_type to ftp_parse_ls.
4556
4557         * ftp-basic.c (ftp_pwd, ftp_syst): New functions.
4558
4559 2000-11-30  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
4560
4561         * ftp-ls.c (ftp_parse_unix_ls): Added second parameter
4562         "ignore_perms" to ignore file and directory permissions for
4563         Windows NT FTP server listings.
4564         (ftp_parse_winnt_ls): New function.
4565         (ftp_parse_ls): Parses UNIX and Windows NT listings
4566         separately. Simple heuristics for distinguishing between UNIX
4567         and MS-DOS-like FTP listing provided by Windows NT FTP service.
4568
4569 2000-11-29  John Summerfield  <summer@OS2.ami.com.au>
4570
4571         * netrc.c (parse_netrc): Get rid of line ending.
4572
4573 2000-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
4574
4575         * ftp.c (ftp_retrieve_list): Undo typo "fix" until resolution by
4576         Dan.
4577
4578 2000-11-24  Karl Eichwalder  <ke@suse.de>
4579
4580         * main.c (print_help): Untabify.
4581
4582 2000-11-23  Hrvoje Niksic  <hniksic@arsdigita.com>
4583
4584         * utils.c (xrealloc_debug): Do the unregister/register thing only
4585         if the pointer has actually changed.
4586         (xmalloc_real): Declare `static' in DEBUG_MALLOC builds.
4587         (xfree_real): Ditto.
4588         (xrealloc_real): Ditto.
4589         (xstrdup_real): Ditto.
4590
4591 2000-11-22  Hrvoje Niksic  <hniksic@arsdigita.com>
4592
4593         * ftp.c (getftp): ftp_getaddress() returns a malloc'ed copy of the
4594         string; no need to strdup() it.
4595         (getftp): Make pwd_len a local variable.
4596         (ftp_loop): Free PWD before returning.
4597
4598         * init.c (cleanup): Free opt.ftp_pass only if it's non-NULL.
4599
4600 2000-11-22  Hrvoje Niksic  <hniksic@arsdigita.com>
4601
4602         * all: Use xfree() instead of free.
4603
4604         * utils.c (xfree): New function.
4605
4606 2000-11-21  Hrvoje Niksic  <hniksic@arsdigita.com>
4607
4608         * url.c (convert_links): HTML-quote the converted string.
4609
4610         * utils.c (html_quote_string): Move here from ftp-ls.c
4611         (html_quote_string): Make non-static; declare in utils.h.
4612         (html_quote_string): Convert SP to &#32;.
4613
4614 2000-11-21  Hrvoje Niksic  <hniksic@arsdigita.com>
4615
4616         * ftp.c (getftp): Reformat Jan's code according to GNU coding
4617         standards; remove (debugging?) printf's; use '\0' for the ASCII
4618         zero character.  Use alloca() instead of malloc() for
4619         inter-function temporary allocations.
4620
4621 2000-11-18  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
4622
4623         * ftpparse.c, ftpparse.h: New files.
4624
4625         * ftp-ls.c (ftp_parse_ls): Use ftp_parse_unix_ls for UNIX servers
4626         only. Use ftp_parse_nonunix_ls otherwise.
4627         (ftp_parse_nonunix_ls): Stub to the ftpparse library handling all
4628         exotic FTP servers.
4629
4630         * ftp.h (stype): New enum, distinguishes UNIX, VMS, and "other"
4631         FTP servers.
4632
4633         * ftp.c: New static wariables host_type, pwd, and pwd_len. 
4634         (getftp): Support for VMS. Support for FTP servers that do not
4635         place you in the root directory after login.
4636         (ftp_retrieve_list): VMS is silent about the real file size, issue
4637         a more appropriate message.
4638         (ftp_get_listing): Pass host_type to ftp_parse_ls.
4639
4640         * ftp-basic.c (ftp_pwd, ftp_syst): New functions.
4641
4642 2000-11-21  Hrvoje Niksic  <hniksic@arsdigita.com>
4643
4644         * hash.c (hash_table_put): Don't overwrite deleted mappings.
4645
4646 2000-11-21  Hrvoje Niksic  <hniksic@arsdigita.com>
4647
4648         * hash.c (find_mapping): New function.
4649         (hash_table_get): Use it.
4650         (hash_table_get_pair): Ditto.
4651         (hash_table_exists): Ditto.
4652         (hash_table_remove): Ditto.
4653         (hash_table_remove): Really delete the entry if the mapping
4654         following LOCATION is empty.
4655
4656         * utils.c (string_set_add): Check whether the element has existed
4657         before.
4658
4659         * hash.c (hash_table_get_pair): New function.
4660
4661 2000-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
4662
4663         * http.c (http_process_type): Ignore trailing whitespace; use
4664         strdupdelim().
4665
4666         * recur.c (recursive_retrieve): Use the new `convert' field.
4667         (convert_all_links): Ditto.
4668         (convert_all_links): Don't respect meta_disallow_follow.
4669
4670         * html-url.c (handle_link): Fill out link_relative_p and
4671         link_complete_p.
4672
4673         * url.h (struct _urlpos): Make elements more readable.
4674
4675         * recur.c (recursive_retrieve): Call slist_prepend instead of
4676         slist_append.
4677         (convert_all_links): Call slist_nreverse before iterating through
4678         urls_html.
4679
4680         * utils.c (slist_prepend): New function.
4681         (slist_nreverse): Ditto.
4682
4683 2000-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
4684
4685         * http.c (check_end): Constify.
4686
4687 2000-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
4688
4689         * http.c (http_loop): If username and password are known, try the
4690         `Basic' authentication scheme by default.
4691
4692         * connect.h: Declare test_socket_open.
4693
4694 2000-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
4695
4696         * version.c: Bump version from 1.5.3+dev to 1.7-dev.
4697
4698 2000-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
4699
4700         * http.c (gethttp): Don't use the return value of sprintf().
4701         (gethttp): Inhibit keep-alive if opt.http_keep_alive is 0.
4702
4703 2000-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
4704
4705         * recur.c (recursive_retrieve): Print the "so we don't load"
4706         debugging message only if we really don't load.
4707
4708         * http.c (gethttp): Inhibit keep-alive if proxy is being used.
4709         (gethttp): Don't request keep-alive if keep-alive is inhibited.
4710
4711 2000-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
4712
4713         * http.c (gethttp): Make the HTTP persistent connections more
4714         robust.
4715
4716 2000-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
4717
4718         * retr.c (get_contents): If use_expected, make sure that the
4719         appropriate amount of data is being read.
4720
4721         * http.c (gethttp): Check for both `Keep-Alive: ...' and
4722         `Connection: Keep-Alive'.
4723
4724         * wget.h (DEBUGP): Call debug_logprintf only if opt.debug is
4725         turned on.
4726
4727 2000-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
4728
4729         * http.c (connection_available_p): Use it.
4730
4731         * connect.c (test_socket_open): New function.
4732
4733         * http.c (gethttp): Support persistent connections.  Based on the
4734         ideas, and partly on code, by Sam Horrocks <sam@daemoninc.com>.
4735         (register_persistent): New function.
4736         (connection_available_p): Ditto.
4737         (invalidate_connection): Ditto.
4738
4739 2000-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
4740
4741         * url.c (convert_links): Handle UREL2ABS case.
4742
4743         * recur.c (recursive_retrieve): Instead of the list
4744         urls_downloaded, use hash tables dl_file_url_map and
4745         dl_url_file_map.
4746         (convert_all_links): Use them to retrieve data.
4747
4748         * host.c (clean_hosts): Free the hash tables.
4749
4750         * main.c (private_initialize): Call host_init().
4751
4752         * host.c (store_hostaddress): Use a saner, hash table-based data
4753         model.
4754         (realhost): Ditto.
4755         (host_init): Initialize the hash tables.
4756
4757 2000-11-18  Hrvoje Niksic  <hniksic@arsdigita.com>
4758
4759         * utils.c (slist_append): Eviscerate NOSORT.  Hash tables are now
4760         used for what the sorted slists used to be used for.
4761         (slist_contains): Don't rely on the list being sorted.
4762         (slist_append): Simplify the code.
4763
4764         * recur.c (recursive_cleanup): Use free_string_set.
4765
4766         * utils.c (string_set_add, string_set_exists, string_set_free):
4767         New functions for easier freeing of hash tables whose keys are
4768         strdup'ed strings.
4769
4770         * recur.c (recursive_retrieve): Use the hash table functions for
4771         storing undesirable URLs.
4772
4773         * hash.c: New file.
4774
4775 2000-11-17  Hrvoje Niksic  <hniksic@arsdigita.com>
4776
4777         * main.c (private_initialize): Call url_init.
4778         (main): Call private_initialize.
4779
4780         * url.c (unsafe_char_table): New table.
4781         (UNSAFE_CHAR): Use it.
4782         (init_unsafe_char_table): New function.
4783         (url_init): New function; call init_unsafe_char_table.
4784
4785 2000-11-16  Hrvoje Niksic  <hniksic@arsdigita.com>
4786
4787         * mswindows.h: Define snprintf and vsnprintf to _snprintf and
4788         _vsnprintf respectively.
4789
4790 2000-11-15  Hrvoje Niksic  <hniksic@arsdigita.com>
4791
4792         * config.h.in: Do the _XOPEN_SOURCE and _SVID_SOURCE things only
4793         on Linux.
4794
4795 2000-11-15  Hrvoje Niksic  <hniksic@arsdigita.com>
4796
4797         * html-url.c (handle_link): Handle HTML fragment identifiers.
4798
4799         * recur.c (recursive_retrieve): If norobot info is respected and
4800         the file is specified not to be followed by robots, respect that.
4801
4802         * html-url.c (collect_tags_mapper): Handle <meta name=robots
4803         content=X>.  For us the important cases are where X is NONE or
4804         where X contains NOFOLLOW.
4805         (get_urls_html): Propagate that information to the caller.
4806
4807 2000-11-13  Hrvoje Niksic  <hniksic@arsdigita.com>
4808
4809         * url.c (convert_links): Unlink the file we might be reading from
4810         before writing to it.
4811         (convert_links): Use alloca instead of malloc for
4812         filename_plus_orig_suffix.
4813
4814 2000-11-12  Hrvoje Niksic  <hniksic@arsdigita.com>
4815
4816         * host.c (realhost): Add HOST to the list with quality==0 only if
4817         it wasn't already there.
4818         Based on analysis by Lu Guohan <feng@public.bjnet.edu.cn>.
4819
4820 2000-11-10  Hrvoje Niksic  <hniksic@arsdigita.com>
4821
4822         * url.c (get_urls_file): Ditto.
4823         (convert_links): Ditto.
4824
4825         * html-url.c (get_urls_html): Use read_file() instead of
4826         load_file().
4827
4828         * utils.c (read_file): New function, instead of the old
4829         load_file().
4830         (read_file_free): Ditto.
4831
4832         * url.c (findurl): Search only for the supported protocols.
4833         (convert_links): Use fwrite() when writing out a region of
4834         characters.
4835
4836 2000-11-10  Hrvoje Niksic  <hniksic@arsdigita.com>
4837
4838         * ftp-ls.c: Move html_quote_string and ftp_index here.
4839
4840         * url.c: Remove get_urls_html, since that's now in html-url.c.
4841
4842         * html-url.c: New file.
4843
4844         * html-parse.c: New file.
4845
4846 2000-11-10  Hrvoje Niksic  <hniksic@arsdigita.com>
4847
4848         * init.c (run_wgetrc): Don't bother killing off '\r' since
4849         pars_line() skips whitespace at end of line anyway.
4850         (parse_line): Oops, it didn't.  Now it does.
4851
4852         * recur.c (parse_robots): Ditto here.
4853
4854         * ftp-ls.c (ftp_parse_unix_ls): Kill off the newline character
4855         manually because read_whole_line no longer does.
4856
4857         * utils.c (read_whole_line): Rewrite to: a) use less memory
4858         (reallocates to needed size after work), b) work faster -->
4859         fgets() instead of getc, c) be more correct --> doesn't kill the
4860         newline character at the end of line.
4861
4862 2000-11-10  Hrvoje Niksic  <hniksic@arsdigita.com>
4863
4864         * init.c (comind): Initialize MAX to array size - 1.
4865
4866 2000-11-08  Hrvoje Niksic  <hniksic@arsdigita.com>
4867
4868         * url.c (construct): Changed last_slash[-1] to *(last_slash - 1).
4869         Suggested by Edward J. Sabol.
4870
4871 2000-11-08  Hrvoje Niksic  <hniksic@arsdigita.com>
4872
4873         * url.c (construct): Handle the case where host name is not
4874         followed by a slash.
4875
4876 2000-11-06  Hrvoje Niksic  <hniksic@arsdigita.com>
4877
4878         * init.c: commands[] need to be sorted!  ("base" wasn't.)
4879
4880 2000-11-05  Hrvoje Niksic  <hniksic@arsdigita.com>
4881
4882         * wget.h (DO_REALLOC_FROM_ALLOCA): Use braces to disambiguate
4883         `if'.
4884
4885 2000-11-05  Hrvoje Niksic  <hniksic@arsdigita.com>
4886
4887         * url.c (construct): Insert unneeded initialization for the
4888         compiler to shut up.
4889
4890         * config.h.in: Define _XOPEN_SOURCE to 500 to get the prototype
4891         for strptime() (*duh*).  Define _SVID_SOURCE to get S_IFLNK which
4892         otherwise gets lost when you define _XOPEN_SOURCE.
4893
4894         * utils.c (touch): Include the file name in the error message.
4895         From Debian.
4896
4897 2000-11-05  Hrvoje Niksic  <hniksic@arsdigita.com>
4898
4899         * log.c (logvprintf): Use vsnprintf() in all cases.  If necessary,
4900         resize the buffer to fit the formated message.  That way, messages
4901         of arbitrary size may be printed.
4902         (logvprintf): Use saved_append() to optionally log the last
4903         several lines of output.
4904         (logputs): Ditto.
4905         (log_close): Adapt to new data structures.
4906         (log_dump): Ditto.
4907         (redirect_output): Print messages to stderr, not to stdout.
4908
4909         * log.c (saved_append_1): New function.  Replaces the old logging
4910         system ("log all output until 10M characters") with a new, much
4911         more reasonable one ("log last screenful of text").
4912         (saved_append): New function; call saved_append_1.
4913         (free_log_line): New function.
4914
4915 2000-11-05  Hrvoje Niksic  <hniksic@arsdigita.com>
4916
4917         * url.c (construct): Fix comment.
4918         (find_last_char): Document.
4919
4920 2000-11-04  Hrvoje Niksic  <hniksic@arsdigita.com>
4921
4922         * snprintf.c: New file.
4923
4924 2000-11-03  Hrvoje Niksic  <hniksic@arsdigita.com>
4925
4926         * wget.h: If HAVE_STDARG_H is not defined, don't declare argument
4927         types to logprintf() and debug_logprintf().
4928
4929 2000-11-02  Hrvoje Niksic  <hniksic@arsdigita.com>
4930
4931         * ftp.c (ftp_loop_internal): Hide the password from the URL when
4932         printing non-verbose.  Problem spotted by Dariusz Mlynarczyk
4933         <darekm@bydg.lomac.com.pl>.
4934
4935 2000-11-02  Junio Hamano  <junio@twinsun.com>
4936
4937         * ftp-basic.c (ftp_login): Make comparison case-insensitive.
4938
4939 2000-11-02  Tyler Riddle  <triddle@liquidmarket.com>
4940
4941         * http.c (known_authentication_scheme_p): Recognize NTML
4942         authentication.
4943         (create_authorization_line): Treat NTML the same as `Basic'.
4944
4945 2000-11-02  Hrvoje Niksic  <hniksic@arsdigita.com>
4946
4947         * retr.c (retrieve_url): Free url before returning.
4948         (retrieve_url): Free mynewloc before returning.
4949         Spotted by Mark A. Mankins <Mankins_Mark@prc.com>.
4950
4951 2000-11-02  Hrvoje Niksic  <hniksic@arsdigita.com>
4952
4953         * url.c (parseurl): Remove possible reading past the end of
4954         sup_protos[].  Spotted by Mark A. Mankins <Mankins_Mark@prc.com>.
4955
4956 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
4957
4958         * main.c (main): In case of opt.downloaded overflowing, print
4959         <overflow> instead of a totally bogus random value.
4960
4961         * retr.c (retrieve_from_file): Ditto.
4962
4963         * recur.c (recursive_retrieve): Ditto.
4964
4965         * main.c (main): Ditto.
4966
4967         * http.c (http_loop): Ditto.
4968
4969         * ftp.c (ftp_loop_internal): Use downloaded_increase() instead of
4970         `+=', and downloaded_exceeds_quota() instead of the simple-minded
4971         check.
4972         (ftp_retrieve_list): Ditto.
4973         (ftp_retrieve_dirs): Ditto.
4974         (ftp_retrieve_glob): Ditto.
4975
4976         * retr.c (downloaded_increase): New function.  Notice overflows of
4977         opt.downloaded.
4978         (downloaded_exceeds_quota): Make sure that opt.downloaded is not
4979         used if it overflowed.
4980
4981         * options.h (struct options): New member downloaded_overflow.
4982
4983 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
4984
4985         * wget.h (enum): Remove extra space after last enumeration.
4986
4987 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
4988
4989         * main.c (main): Use legible_very_long() for printing
4990         opt.downloaded.
4991
4992         * utils.c (legible_1): New function that operates on strings and
4993         does the brunt of legible()'s work.
4994         (legible): Use legible_1().
4995         (legible_very_long): New function; dump the argument with
4996         sprintf(), and call legible_1().
4997
4998         * options.h (struct options): Use VERY_LONG_TYPE for
4999         opt.downloaded.
5000
5001         * sysdep.h (VERY_LONG_TYPE): Define it to have a 64-bit or greater
5002         type.
5003
5004         * config.h.in: Make sure that SIZEOF_LONG and SIZEOF_LONG_LONG get
5005         defined.  Define HAVE_LONG_LONG if long long is available.
5006
5007 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
5008
5009         * utils.c (long_to_string): Update with a later, better version.
5010
5011 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
5012
5013         * url.c (path_simplify_with_kludge): New function.
5014         (path_simplify_with_kludge): Disable it.  Instead...
5015         (parse_dir): ...make sure that at this point the right thing is
5016         done, i.e. that "query" part of the URL (?...) is always assigned
5017         to the file, never to the directory portion of the path.
5018
5019 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
5020
5021         * retr.c (retrieve_url): Detect redirection cycles.
5022
5023 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
5024
5025         * url.c (get_urls_html): Decode HTML entities using
5026         html_decode_entities.
5027
5028         * html.c (htmlfindurl): Don't count the `#' in numeric entities
5029         (&#NNN;) as an HTML fragemnt.
5030         (html_decode_entities): New function.
5031
5032 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
5033
5034         * html.c (htmlfindurl): Fix recognition of # HTML fragments.
5035
5036 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
5037
5038         * url.c (construct): Rewritten for clarity.  Avoids the
5039         unnecessary copying and stack-allocation the old version
5040         performed.
5041
5042 2000-10-31  Hrvoje Niksic  <hniksic@arsdigita.com>
5043
5044         * ftp.c (getftp): Ditto.
5045
5046         * http.c (gethttp): Rewind the stream when retrying from scratch.
5047
5048 2000-10-31  Hrvoje Niksic  <hniksic@arsdigita.com>
5049
5050         * retr.c (retrieve_url): Use url_concat() to handle relative
5051         redirections instead of /ad hoc/ code.
5052
5053         * url.c (url_concat): New function encapsulating weird
5054         construct().
5055         (urllen_http_hack): New function.
5056         (construct): When constructing new URLs, recognize that `?' does
5057         not form part of the file name in HTTP.
5058
5059 2000-10-13  Adrian Aichner  <adrian@xemacs.org>
5060
5061         * retr.c: Add msec timing support for WINDOWS.
5062         * retr.c (reset_timer): GetSystemTime() on WINDOWS.
5063         * retr.c (elapsed_time): Calculate delta time to msec on WINDOWS.
5064
5065 2000-10-27  Dan Harkless  <wget@harkless.org>
5066
5067         * retr.c (retrieve_url): Manually applied T. Bharath
5068         <TBharath@responsenetworks.com>'s patch to get wget to grok
5069         illegal relative URL redirects.  Reformatted and re-commented it.
5070
5071 2000-10-23  Dan Harkless  <wget@harkless.org>
5072
5073         * connect.c (make_connection and bindport): Manually applied Rob
5074         Mayoff <mayoff@dqd.com>'s 1.5.3 patch to add --bind-address,
5075         changing coding style to GNU's.
5076
5077         * ftp.c (ftp_loop_internal): --delete-after wasn't implemented for
5078         files downloaded via FTP.  Per a comment, .listing files were not
5079         counted towards number of bytes and files downloaded because they're 
5080         deleted anyway.  Well, they aren't under -nr, so count them then.
5081
5082         * init.c: Manually applied Rob Mayoff's 1.5.3 patch to add
5083         --bind-address, alphabetizing, changing coding style to GNU's,
5084         commenting, and renaming cmd_ip_address() to cmd_address() to
5085         imply hostnames also okay.
5086                 
5087         * main.c (main): --delete-after didn't delete the root of the
5088         tree.  Ignore --convert-links if --delete-after was specified.
5089         Manually applied Rob Mayoff's 1.5.3 patch to add --bind-address,
5090         fixing duplicate use of added-since-1.5.3 case value.
5091         (print_help): Clarified that --delete-after deletes local files.
5092         Rob forgot to add a line for his new --bind-address option.
5093                 
5094         * options.h (struct options): Manually applied Rob Mayoff's patch
5095         to add --bind-address (bind_address structure member).
5096                 
5097         * recur.c (recursive_retrieve): Improved comment; added DEBUGP().
5098         Ignore --convert-links if --delete-after was specified.
5099                 
5100         * retr.c (retrieve_from_file): Just added a DEBUGP().
5101                 
5102 2000-10-19  Dan Harkless  <wget@harkless.org>
5103
5104         * ftp.c (ftp_loop_internal): downloaded_file() enumerators changed.
5105         (getftp): Applied Piotr Sulecki <Piotr.Sulecki@ios.krakow.pl>'s
5106         patch to work around FTP servers that incorrectly respond to the
5107         "REST" command with the remaining size rather than the total file size.
5108                 
5109         * http.c (gethttp): Improved a comment and added code to tack on
5110         ".html" to text/html files without that extension when -E specified.
5111         (http_loop): Use new downloaded_file() enumerators and deal with
5112         the case of gethttp() called xrealloc() on u->local.
5113
5114         * init.c (commands): Added new "htmlextension" command.
5115         Also renamed John Daily's cmd_quad() to the more descriptive
5116         cmd_lockable_boolean(), alpha-sorted the CMD_DECLARE()s and
5117         removed duplicate cmd_boolean() declaration.
5118
5119         * main.c (print_help): Added my new -E / --html-extension option.
5120         (main): Undocumented --email-address option previously used -E synonym.
5121         Stole it away for the much more deserving --html-extension's use.
5122
5123         * options.h (struct options): Added html_extension field.
5124
5125         * url.c (convert_links): URL X that we saved as X.html locally due
5126         to -E needs to be backed up as X.orig, not X.html.orig.  Added comments.
5127         (downloaded_file): Now remembers if we added .html extension to a file.
5128
5129         * url.h (downloaded_file_t): Added extra enumerators to support above.
5130         (downloaded_file): Now takes and returns a downloaded_file_t.
5131
5132         * wget.h (unnamed "dt" enum): Added ADDED_HTML_EXTENSION enumerator.
5133         
5134 2000-10-09  Dan Harkless  <wget@harkless.org>
5135
5136         * html.c (htmlfindurl): Added unneeded initialization to quiet warning.
5137                 
5138         * main.c (print_help): Clarified what --retr-symlinks does.
5139         
5140 2000-09-15  John Daily  <jdaily@cyberdude.com>
5141
5142         * init.c: Add support for "always" and "never" values to allow
5143         .wgetrc to override commandline (useful e.g. with .pm files
5144         calling `wget --passive-ftp' when your firewall doesn't allow that).
5145
5146         * ftp.c (getftp): passive_ftp is first option to support always/never.
5147
5148 2000-08-30  Dan Harkless  <wget@harkless.org>
5149
5150         * ftp.c (ftp_retrieve_list): Use new INFINITE_RECURSION #define.
5151         
5152         * html.c: htmlfindurl() now takes final `dash_p_leaf_HTML' parameter.
5153         Wrapped some > 80-column lines.  When -p is specified and we're at a 
5154         leaf node, do not traverse <A>, <AREA>, or <LINK> tags other than 
5155         <LINK REL="stylesheet">.
5156         
5157         * html.h (htmlfindurl): Now takes final `dash_p_leaf_HTML' parameter.
5158         
5159         * init.c: Added new -p / --page-requisites / page_requisites option.
5160
5161         * main.c (print_help): Clarified that -l inf and -l 0 both allow
5162         infinite recursion.  Changed the unhelpful --mirrior description
5163         to simply give the options it's equivalent to.  Added new -p option.
5164         (main): Added some comments; handle new -p / --page-requisites.
5165         
5166         * options.h (struct options): Added new page_requisites field.
5167
5168         * recur.c: Changed "URL-s" to "URLs" and "HTML-s" to "HTMLs".
5169         Calculate and pass down new `dash_p_leaf_HTML' parameter to
5170         get_urls_html().  Use new INFINITE_RECURSION #define.
5171
5172         * retr.c: Changed "URL-s" to "URLs".  get_urls_html() now takes
5173         final `dash_p_leaf_HTML' parameter.
5174
5175         * url.c: get_urls_html() and htmlfindurl() now take final
5176         `dash_p_leaf_HTML' parameter.
5177
5178         * url.h (get_urls_html): Now takes final `dash_p_leaf_HTML' parameter.
5179
5180         * wget.h: Added some comments and new INFINITE_RECURSION #define.
5181         
5182 2000-08-23  Dan Harkless  <wget@harkless.org>
5183
5184         * main.c (print_help): -B / --base was not mentioned.
5185
5186 2000-08-22  Dan Harkless  <wget@harkless.org>
5187
5188         * main.c (print_help): Modified -nc description to mention that it
5189         also prevents the creation of multiple versions of the same file
5190         with ".<number>" suffixes.
5191
5192 2000-07-14  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
5193
5194         * retr.c (retrieve_url): Consistently strdup opt.referer when
5195         setting u->referer.
5196
5197 2000-06-09  Dan Harkless  <wget@harkless.org>
5198
5199         * main.c (print_help): --help output for --waitretry was over 80 cols.
5200
5201 2000-06-09  Hrvoje Niksic  <hniksic@iskon.hr>
5202
5203         * url.c (encode_string): Fix comment.
5204         Suggested by Herold Heiko <Heiko.Herold@previnet.it>.
5205
5206 2000-06-01  Const Kaplinsky  <const@ce.cctpu.edu.ru>
5207
5208         * ftp.c (ftp_retrieve_list): Change permissions only on plain
5209         files.
5210
5211 2000-06-01  Hrvoje Niksic  <hniksic@iskon.hr>
5212
5213         * url.c (str_url): Print the port number only if it's different
5214         from the default port number for that protocol.
5215
5216 2000-05-22  Dan Harkless  <wget@harkless.org>
5217
5218         * main.c (print_help): Added --help line for Damir Dzeko
5219         <ddzeko@zesoi.fer.hr>'s until-now-undocumented --referer option.
5220         Removed comments that --referer and --waitretry were undocumented.
5221         Changed "`.wgetrc' command" to "`.wgetrc'-style command" on --help
5222         line for --execute.
5223
5224 2000-05-18  Hrvoje Niksic  <hniksic@iskon.hr>
5225
5226         * ftp.c (getftp): Ditto.
5227
5228         * http.c (gethttp): Check for return value of fclose/fflush.
5229
5230 2000-04-12  Hrvoje Niksic  <hniksic@iskon.hr>
5231
5232         * host.c (store_hostaddress): Instead of shifting ADDR, start
5233         copying from the correct address.
5234
5235 2000-04-12  Hrvoje Niksic  <hniksic@iskon.hr>
5236
5237         * http.c (gethttp): Don't free REQUEST -- it was allocated with
5238         alloca().
5239         Pointed out by Gisle Vanem <gvanem@eunet.no>.
5240
5241 2000-04-04  Dan Harkless  <wget@harkless.org>
5242
5243         * host.c (store_hostaddress): R. K. Owen's patch introduces a
5244         "left shift count >= width of type" warning on 32-bit
5245         architectures.  Got rid of it by tricking the compiler w/ a variable.
5246         
5247         * url.c (UNSAFE_CHAR): The macro didn't include all the illegal
5248         characters per RFC1738, namely everything above '~'.  It also
5249         generated a warning on OSes where char =~ unsigned char.  Fixed.
5250         
5251 1998-10-17  Hrvoje Niksic  <hniksic@srce.hr>
5252
5253         * http.c (http_process_type): Removed needless strdup(), a memory
5254         leak.
5255
5256 1998-09-25  Hrvoje Niksic  <hniksic@srce.hr>
5257
5258         * html.c (htmlfindurl): Set PH to the first occurrence of `#'.
5259
5260 1998-09-25  Simon Munton  <simonm@m4data.co.uk>
5261
5262         * init.c (wgetrc_file_name): Don't free HOME under Windows.
5263
5264 1998-12-01  "R. K. Owen"  <rkowen@Nersc.GOV>
5265
5266         * host.c (store_hostaddress): Fix for big endian 64-bit machines.
5267
5268 1998-12-01  Hrvoje Niksic  <hniksic@srce.hr>
5269
5270         * url.c (UNSAFE_CHAR): New macro.
5271         (contains_unsafe): Use it.
5272         (encode_string): Ditto.
5273
5274 1998-12-01  Hrvoje Niksic  <hniksic@srce.hr>
5275
5276         * main.c (i18n_initialize): Use LC_MESSAGES only if available.
5277
5278 2000-03-31  Hrvoje Niksic  <hniksic@srce.hr>
5279
5280         * Use TOUPPER/TOLOWER.
5281
5282 1998-12-22  Alexander V. Lukyanov  <lav@yars.free.net>
5283
5284         * ftp-opie.c (btoe): Zero-terminate OSTORE.
5285
5286 2000-03-21  Hrvoje Niksic  <hniksic@iskon.hr>
5287
5288         * wget.h (DO_REALLOC_FROM_ALLOCA): Ditto.
5289
5290         * sysdep.h (ISALNUM): New macro.
5291         (TOLOWER): Ditto.
5292         (TOUPPER): Ditto.
5293
5294 2000-03-10  Dan Harkless  <wget@harkless.org>
5295
5296         * html.c (idmatch): Implemented checking of my new --follow-tags
5297         and --ignore-tags options.
5298         
5299         * init.c (commands): Added comment reminding people adding new
5300         entries doing allocation to add corresponding freeing in cleanup().
5301         (commands): Added new followtags and ignoretags commands.
5302         (cleanup): Free storage for new followtags and ignoretags.
5303         
5304         * main.c: Use of "comma-separated list" was random -- normalized
5305         it.  Did some alphabetization.  Added comments pointing out
5306         "Options without arguments" and "Options accepting an argument"
5307         sections of long_options[].  Added new options --follow-tags and
5308         -G / --ignore-tags.  Added comment that Damir's --referer is
5309         currently undocumented.  Added comment that Heiko's --waitretry is
5310         partially undocumented (mentioned in --help but not in
5311         wget.texi).  Moved improperly sorted 24, 129, and 'G' cases.
5312         
5313         * options.h (struct options): Added new fields follow_tags and
5314         ignore_tags. 
5315         
5316         * wget.h: Added "#define EQ 0" so we can say "strcmp(a, b) == EQ".
5317         
5318 2000-03-02  Dan Harkless  <wget@harkless.org>
5319
5320         * ftp.c (ftp_loop_internal): Heiko introduced "suggest explicit
5321         braces to avoid ambiguous `else'" warnings.  Eliminated them.
5322         
5323         * http.c (gethttp): Dan Berger's query string patch is totally
5324         bogus.  If you have two different URLs, gen_page.cgi?page1 and
5325         get_page.cgi?page2, they'll both be saved as get_page.cgi and the
5326         second will overwrite the first.  Also, parameters to implicit
5327         CGIs, like "http://www.host.com/db/?2000-03-02" cause the URLs to
5328         be printed with trailing garbage characters, and could seg fault.
5329         Backing out the patch, which Dan B. informed me by email was just
5330         a kludge to download StarOffice from Sun made necessary due to
5331         wget's unconditional escaping of certain characters (room for an
5332         option there?).
5333         (http_loop): Heiko introduced "suggest explicit braces to avoid
5334         ambiguous `else'" warnings.  Eliminated them.
5335         
5336         * main.c: Heiko's --wait / --waitretry backwards compatibility
5337         code looks to have been totally untested -- automatic variable
5338         'wr' was used without being initialized, and a long int was passed
5339         into setval()'s char* val parameter.
5340         
5341         * recur.c (parse_robots): Applied Edward J. Sabol
5342         <sabol@alderaan.gsfc.nasa.gov>'s patch for Guan Yang's reported
5343         problem with "User-agent:<space>*<space>" lines in robots.txt.
5344         
5345         * url.c (parseurl, str_url): Removing Dan Berger's code (see
5346         http.c above for explanation).
5347         
5348 1999-08-25  Heiko Herold  <Heiko.Herold@previnet.it>
5349
5350         * ftp.c: Respect new option waitretry.
5351
5352 2000-01-30  Damir Dzeko  <ddzeko@zesoi.fer.hr>
5353
5354         * http.c (gethttp): Send custom Referer, if required.
5355
5356 1999-09-24  Charles G Waldman  <cgw@fnal.gov>
5357
5358         * netrc.c (parse_netrc): Allow passwords to contain spaces.
5359
5360         * netrc.c (parse_netrc): New function.
5361
5362 1999-09-17  Dan Berger  <dberger@ix.netcom.com>
5363
5364         * http.c (gethttp): Send it.
5365
5366         * url.c (parseurl): Detect query string in HTTP URL-s.
5367         (str_url): Print it.
5368
5369 2000-03-02  HIROSE Masaaki  <hirose31@t3.rim.or.jp>
5370
5371         * html.c (html_allow): Add <link href=...> and <script src=...>.
5372
5373 1999-05-02  andrew deryabin  <djsf@softhome.net>
5374
5375         * http.c (gethttp): Specify port in `Host' header only if it's
5376         different from 80.
5377
5378 1998-11-03  Edward J. Sabol  <sabol@alderaan.gsfc.nasa.gov>
5379
5380         * recur.c (recursive_retrieve): If a finite maximum depth is
5381         specified, and we're are already at that depth, don't download the
5382         HTML file for parsing.
5383
5384 2000-03-01  Dan Harkless  <wget@harkless.org>
5385
5386         * ftp.c (ftp_loop_internal): Call new downloaded_file() function,
5387         even though we don't do conversion on HTML files retrieved via
5388         FTP, so _current_ usage of downloaded_file() makes this call unneeded. 
5389         (ftp_retrieve_list): Added a comment saying where we need to
5390         stat() a .orig file if FTP'd HTML file conversion is ever implemented.
5391         (ftp_retrieve_list): "Local file '%s' is more recent," is sometimes
5392         a lie -- reworded as "Server file no newer than local file '%s' --".
5393         
5394         * http.c (http_loop): Fixed a typo and clarified a comment.
5395         (http_loop): When -K and -N are specified together, compare size
5396         and timestamp of server file X against local file X.orig (if
5397         extant) rather than converted local file X.
5398         (http_loop): "Local file '%s' is more recent," is sometimes a lie
5399         -- reworded as "Server file no newer than local file '%s' --".
5400         (http_loop): Call new downloaded_file() function to prevent
5401         wrongful overwriting of .orig file when -N is specified.
5402         
5403         * url.c (convert_links): When -K specified, only rename X to
5404         X.orig if downloaded_file() returns TRUE.  Otherwise when we skip
5405         file X due to -N, we clobber an X.orig from a previous invocation.
5406         (convert_links): Call the failsafe xstrdup(), not the real strdup().
5407         (convert_links): Added a note asking anyone who understands how
5408         multiple URLs can correspond to a single file to comment it.
5409         (downloaded_file): Added this new function.
5410         
5411         * url.h (downloaded_file): Added prototype for this new function
5412         as well as its downloaded_file_t enum type.
5413
5414         * wget.h (boolean): Added this new typedef and TRUE and FALSE #defines.
5415
5416 2000-02-29  Dan Harkless  <wget@harkless.org>
5417
5418         * version.c: Upped version to developer-only "1.5.3+dev".
5419
5420 2000-02-18  Dan Harkless  <wget@harkless.org>
5421
5422         * init.c (backup_converted): Added this new option.
5423
5424         * main.c (-K / --backup-converted): Added this new option.
5425
5426         * options.h (backup_converted): Added this new option.
5427
5428         * url.c (convert_links): When backup_converted is specified, save
5429         file X as X.orig before converting.
5430
5431         * url.h (urlpos): Fixed typo -- said "Rekative" instead of "Relative".
5432
5433 1998-09-21  Hrvoje Niksic  <hniksic@srce.hr>
5434
5435         * version.c: Wget 1.5.3 is released.
5436
5437 1998-09-21  Hrvoje Niksic  <hniksic@srce.hr>
5438
5439         * host.c (ftp_getaddress): Don't warn when reverse-lookup of local 
5440         address doesn't yield FQDN.
5441
5442 1998-09-21  Andreas Schwab  <schwab@issan.informatik.uni-dortmund.de>
5443
5444         * cmpt.c (strerror): Fix declaration of sys_errlist.
5445
5446 1998-09-11  Hrvoje Niksic  <hniksic@srce.hr>
5447
5448         * main.c (main): Don't use an array subscript as the first
5449         argument to STRDUP_ALLOCA.
5450         From Kaveh R. Ghazi.
5451
5452 1998-09-11  Szakacsits Szabolcs  <szaka@sienet.hu>
5453
5454         * html.c (htmlfindurl): Download table background.
5455
5456 1998-09-11  Hans Grobler  <grobh@conde.ee.sun.ac.za>
5457
5458         * init.c (parse_line): Would free *com before allocating it.
5459         (parse_line): Would free com instead of *com.
5460
5461 1998-09-10  Howard Gayle  <howard@fjst.com>
5462
5463         * url.c (get_urls_html): Would drop the last character of the
5464         link.
5465
5466 1998-09-10  Hrvoje Niksic  <hniksic@srce.hr>
5467
5468         * http.c (http_loop): Don't print status code if quiet.
5469
5470 1998-09-10  Kaveh R. Ghazi  <ghazi@caip.rutgers.edu>
5471
5472         * log.c: Use <stdarg.h> only when __STDC__.
5473
5474 1998-09-10  Adam D. Moss  <adam@foxbox.org>
5475
5476         * html.c (htmlfindurl): Download <layer src=...>.
5477
5478 1998-09-10  Howard Gayle  <howard@fjst.com>
5479
5480         * ftp.c (ftp_retrieve_list): Don't update the time stamp of a file 
5481         not retrieved.
5482
5483 1998-06-27  Hrvoje Niksic  <hniksic@srce.hr>
5484
5485         * utils.c: Include <libc.h> on NeXT.
5486
5487 1998-06-26  Heinz Salzmann  <heinz.salzmann@intermetall.de>
5488
5489         * url.c (get_urls_html): Fix calculation of URL position.
5490
5491 1998-06-23  Hrvoje Niksic  <hniksic@srce.hr>
5492
5493         * version.c: Wget 1.5.2 is released.
5494
5495 1998-06-23  Dave Love  <d.love@dl.ac.uk>
5496
5497         * ftp.c, init.c, netrc.c: Include errno.h.
5498
5499         * http.c: Include errno.h and time header.
5500
5501         * Makefile.in (exext): Define.
5502         (install.bin, uninstall.bin): Use it.
5503
5504 1998-06-21  Hrvoje Niksic  <hniksic@srce.hr>
5505
5506         * http.c (http_loop): Don't attempt to compare local and remote
5507         sizes if the remote size is unknown.
5508
5509 1998-06-16  Hrvoje Niksic  <hniksic@srce.hr>
5510
5511         * url.c (get_urls_html): Use malloc() instead of alloca in the
5512         loop.
5513
5514 1998-06-13  Hrvoje Niksic  <hniksic@srce.hr>
5515
5516         * version.c: Wget 1.5.2-b4 is released.
5517
5518 1998-06-13  Hrvoje Niksic  <hniksic@srce.hr>
5519
5520         * url.c (get_urls_html): Ignore spaces before and after the URI.
5521
5522 1998-06-08  Wanderlei Antonio Cavassin  <cavassin@conectiva.com.br>
5523
5524         * ftp.c (getftp): Translate `done'.
5525
5526 1998-06-06  Hrvoje Niksic  <hniksic@srce.hr>
5527
5528         * version.c: Wget 1.5.2-b3 is released.
5529
5530 1998-06-06  Alexander Kourakos  <awk@bnt.com>
5531
5532         * init.c (cleanup): Close dfp, don't free it.
5533
5534 1998-06-06  Hrvoje Niksic  <hniksic@srce.hr>
5535
5536         * utils.c (make_directory): Twiddle.
5537
5538         * config.h.in: Added template for access().
5539
5540 1998-06-05  Mathieu Guillaume  <mat@cythere.com>
5541
5542         * html.c (htmlfindurl): Download <input src=...>
5543
5544 1998-06-03  Hrvoje Niksic  <hniksic@srce.hr>
5545
5546         * utils.c (file_exists_p): Use access() with two arguments.
5547
5548 1998-05-27  Martin Kraemer  <Martin.Kraemer@mch.sni.de>
5549
5550         * netrc.c (parse_netrc): Correct logic.
5551
5552 1998-05-27  Hrvoje Niksic  <hniksic@srce.hr>
5553
5554         * ftp.c (getftp): Added `break'; suggested by Lin Zhe Min
5555         <ljm@ljm.wownet.net>.
5556
5557 1998-05-24  Hrvoje Niksic  <hniksic@srce.hr>
5558
5559         * version.c: Wget 1.5.2-b2 is released.
5560
5561 1998-05-18  Juan Jose Rodriguez  <jcnsoft@jal1.telmex.net.mx>
5562
5563         * mswindows.h: Don't translate mkdir to _mkdir under Borland.
5564
5565 1998-05-17  Hrvoje Niksic  <hniksic@srce.hr>
5566
5567         * retr.c (elapsed_time): Return correct value when
5568         HAVE_GETTIMEOFDAY is undefined.
5569
5570 1998-05-13  Hrvoje Niksic  <hniksic@srce.hr>
5571
5572         * version.c: Wget 1.5.2-b1 is released.
5573
5574 1998-05-08  Hrvoje Niksic  <hniksic@srce.hr>
5575
5576         * getopt.c (_getopt_internal): Use exec_name instead of argv[0].
5577         (_getopt_internal): Don't translate `#if 0'-ed strings.
5578
5579 1998-05-06  Douglas E. Wegscheid  <wegscd@whirlpool.com>
5580
5581         * mswindows.c (ws_handler): Use fork_to_background().
5582
5583 1998-05-05  Hrvoje Niksic  <hniksic@srce.hr>
5584
5585         * version.c: Wget 1.5.1 is released.
5586
5587 1998-05-05  Hrvoje Niksic  <hniksic@srce.hr>
5588
5589         * http.c (parse_http_status_line): Avoid `minor' and `major'
5590         names.
5591
5592 1998-05-02  Hrvoje Niksic  <hniksic@srce.hr>
5593
5594         * utils.c (mkdirhier): Renamed to make_directory.
5595
5596 1998-05-01  Hrvoje Niksic  <hniksic@srce.hr>
5597
5598         * mswindows.c (fork_to_background): Define under Windows.
5599
5600         * utils.c (fork_to_background): New function.
5601
5602         * html.c (htmlfindurl): Removed rerdundant casts.
5603
5604 1998-05-01  Douglas E. Wegscheid  <wegscd@whirlpool.com>
5605
5606         * mswindows.c (ws_mypath): Cache the path.
5607
5608 1998-04-30  Douglas E. Wegscheid  <wegscd@whirlpool.com>
5609
5610         * ftp.h: Prefix enum ftype members with FT_.
5611
5612         * ftp-ls.c, ftp.c, html.h: Adjust accordingly.
5613
5614         * mswindows.h: Use stat under Borland, _stat under MSVC.
5615
5616 1998-04-28  Hrvoje Niksic  <hniksic@srce.hr>
5617
5618         * http.c (known_authentication_scheme_p): New function.
5619         (gethttp): Handle authorization more correctly.
5620
5621         * ftp-basic.h: Removed.
5622
5623         * cmpt.h: Removed.
5624
5625         * utils.c: Include <unistd.h> before <pwd.h>; needed under SunOS
5626         with gcc 2.8.
5627         (numdigit): Use `while' loop.
5628
5629         * http.c (create_authorization_line): Detect authentication
5630         schemes case-insensitively.
5631
5632         * http.c (extract_header_attr): Use strdupdelim().
5633         (digest_authentication_encode): Move declaration of local
5634         variables to smaller scope.
5635         (digest_authentication_encode): Reset REALM, OPAQUE and NONCE.
5636         (create_authorization_line): Detect authentication schemes
5637         case-insensitively.
5638
5639         * utils.c (touch): Constify.
5640
5641         * http.c (gethttp): Report a nicer error when no data is received.
5642
5643         * rbuf.h (RBUF_READCHAR): Ditto.
5644
5645         * ftp-basic.c (ftp_response): Use sizeof.
5646
5647 1998-04-27  Hrvoje Niksic  <hniksic@srce.hr>
5648
5649         * retr.c (print_percentage): EXPECTED is long, not int.
5650         (print_percentage): Use floating-point arithmetic to avoid
5651         overflow with large files' sizes multiplied with 100.
5652
5653 1998-04-27  Gregor Hoffleit  <flight@mathi.uni-heidelberg.de>
5654
5655         * config.h.in: Added pid_t stub.
5656
5657         * sysdep.h (S_ISREG): Moved here from mswindows.h (NeXT doesn't
5658         define it).
5659
5660 1998-04-20  Hrvoje Niksic  <hniksic@srce.hr>
5661
5662         * version.c: Wget 1.5.0 is released.
5663
5664 1998-04-18  Hrvoje Niksic  <hniksic@srce.hr>
5665
5666         * url.c (str_url): Ditto.
5667
5668         * ftp-basic.c (ftp_rest): Use new name.
5669
5670         * utils.c (long_to_string): Renamed from prnum().
5671
5672 1998-04-16  Hrvoje Niksic  <hniksic@srce.hr>
5673
5674         * version.c: Wget 1.5-b17 is released.
5675
5676 1998-04-08  Hrvoje Niksic  <hniksic@srce.hr>
5677
5678         * headers.c (header_get): New argument FLAGS.
5679
5680         * http.c (gethttp): If request is malformed, bail out of the
5681         header loop.
5682         (gethttp): Check for empty header *after* the status line checks.
5683         (gethttp): Disallow continuations for status line.
5684
5685 1998-04-08  Hrvoje Niksic  <hniksic@srce.hr>
5686
5687         * version.c: Wget 1.5-b16 is released.
5688
5689 1998-04-08  Hrvoje Niksic  <hniksic@srce.hr>
5690
5691         * init.c (commands): Renamed `always_rest' to `continue'.
5692
5693 1998-04-05  Hrvoje Niksic  <hniksic@srce.hr>
5694
5695         * all: Use it.
5696
5697         * log.c (logputs): New argument.
5698         (logvprintf): Ditto.
5699         (logprintf): Ditto.
5700
5701 1998-04-04  Hrvoje Niksic  <hniksic@srce.hr>
5702
5703         * http.c (http_atotm): Update comment.
5704
5705         * main.c (i18n_initialize): Set LC_MESSAGES, not LC_ALL.
5706
5707         * wget.h: Renamed ENABLED_NLS to HAVE_NLS.
5708
5709         * main.c (i18n_initialize): New function.
5710         (main): Use it.
5711
5712         * log.c: Include <unistd.h>.
5713
5714         * retr.c (show_progress): Cast alloca to char *.
5715
5716 1998-04-04  Hrvoje Niksic  <hniksic@srce.hr>
5717
5718         * version.c: Wget 1.5-b15 is released.
5719
5720 1998-04-04  Hrvoje Niksic  <hniksic@srce.hr>
5721
5722         * utils.h: Declare file_non_directory_p().
5723
5724 1998-04-03  Hrvoje Niksic  <hniksic@srce.hr>
5725
5726         * main.c (main): It's `tries', not `numtries' now.
5727
5728 1998-04-01  Hrvoje Niksic  <hniksic@srce.hr>
5729
5730         * init.c (getperms): Removed.
5731
5732 1998-04-01  Tim Charron  <tcharron@interlog.com>
5733
5734         * log.c (logvprintf): Don't use ARGS twice.
5735
5736 1998-04-01  John  <john@futuresguide.com>
5737
5738         * mswindows.c: Cleaned up.
5739
5740 1998-04-01  Hrvoje Niksic  <hniksic@srce.hr>
5741
5742         * version.c: Wget 1.5-b14 is released.
5743
5744 1998-04-01  Hrvoje Niksic  <hniksic@srce.hr>
5745
5746         * ftp-opie.c (STRLEN4): New macro.
5747         (btoe): Use it.
5748
5749 1998-04-01  Junio Hamano  <junio@twinsun.com>
5750
5751         * http.c: Document all the Digest functions.
5752
5753 1998-04-01  Hrvoje Niksic  <hniksic@srce.hr>
5754
5755         * utils.c (file_non_directory_p): Renamed from isfile().
5756
5757         * mswindows.h (S_ISREG): New macro, suggested by Tim Adam.
5758
5759 1998-03-31  Hrvoje Niksic  <hniksic@srce.hr>
5760
5761         * utils.c (mkdirhier): Use 0777 instead of opt.dirmode.
5762
5763         * init.c (cmd_spec_dotstyle): Use 48 dots per line for binary
5764         style.
5765         (cmd_permissions): Removed.
5766
5767         * config.h.in: Add template for WORDS_BIGENDIAN.
5768
5769 1998-03-31  Junio Hamano  <junio@twinsun.com>
5770
5771         * http.c (HEXD2asc): New macro.
5772         (dump_hash): Use it.
5773
5774 1998-03-31  Hrvoje Niksic  <hniksic@srce.hr>
5775
5776         * version.c: Wget 1.5-b13 is released.
5777
5778 1998-03-31  Hrvoje Niksic  <hniksic@srce.hr>
5779
5780         * main.c (main): Don't try to use `com'.
5781
5782 1998-03-30  Hrvoje Niksic  <hniksic@srce.hr>
5783
5784         * init.c (cmd_permissions): New function.
5785
5786 1998-03-30  Hrvoje Niksic  <hniksic@srce.hr>
5787
5788         * version.c: Wget 1.5-b12 is released.
5789
5790 1998-03-30  Hrvoje Niksic  <hniksic@srce.hr>
5791
5792         * init.c (commands): Renamed `numtries' to `tries'.
5793         (cmd_spec_debug): Removed.
5794         (home_dir): Under Windows, return `C:\' if HOME is undefined.
5795
5796 1998-03-29  Hrvoje Niksic  <hniksic@srce.hr>
5797
5798         * config.h.in: Define _XOPEN_SOURCE.
5799
5800         * init.c (check_user_specified_header): New function.
5801         (cmd_spec_header): Use it.
5802         (cmd_spec_useragent): New function.
5803
5804 1998-03-29  Hrvoje Niksic  <hniksic@srce.hr>
5805
5806         * version.c: Wget 1.5-b11 is released.
5807
5808 1998-03-28  Hrvoje Niksic  <hniksic@srce.hr>
5809
5810         * wget.h: Include <libintl.h> only if NLS is enabled.
5811
5812 1998-03-26  Hrvoje Niksic  <hniksic@srce.hr>
5813
5814         * options.h (struct options): Made `wait' a long.
5815         (struct options): Ditto for `timeout'.
5816
5817 1998-03-19  Hrvoje Niksic  <hniksic@srce.hr>
5818
5819         * utils.c (exists): Renamed to file_exists_p.
5820         (file_exists_p): Use access() if available.
5821
5822 1998-03-17  Hrvoje Niksic  <hniksic@srce.hr>
5823
5824         * utils.c (memfatal): Set save_log_p to 0 to avoid potential
5825         infloop.
5826
5827         * log.c: do_logging -> save_log_p.
5828
5829         * config.h.in: Added template for HAVE_VSNPRINTF.
5830
5831 1998-03-16  Hrvoje Niksic  <hniksic@srce.hr>
5832
5833         * init.c: Ditto.
5834
5835         * http.c: Protect declaration against non-ANSI compiler.
5836
5837         * log.c (logvprintf): Use vsnprintf() if available.
5838
5839         * getopt.c (main): Don't translate test stuff.
5840
5841 1998-03-16  Hrvoje Niksic  <hniksic@srce.hr>
5842
5843         * version.c: Wget 1.5-b10 is released.
5844
5845 1998-03-11  Hrvoje Niksic  <hniksic@srce.hr>
5846
5847         * ftp.c (getftp): Don't translate "CWD %s".
5848
5849         * wget.h (GCC_FORMAT_ATTR): Renamed from FORMAT_ATTR.
5850
5851 1998-03-07  Hrvoje Niksic  <hniksic@srce.hr>
5852
5853         * ftp-opie.c (btoe): Use memcpy() instead of strncat().
5854
5855         * log.c (logputs): New function.
5856         (logvprintf): Renamed from vlogmsg; use logputs().
5857
5858         * retr.c (show_progress): Print `[100%]' when the retrieval is
5859         finished.
5860
5861         * init.c (run_wgetrc): Use FILE, not PATH.
5862         (wgetrc_file_name): Ditto.
5863
5864 1998-03-07  Tim Adam  <tma@osa.com.au>
5865
5866         * recur.c (parse_robots): Correctly reset `entries' on empty
5867         disallow.
5868
5869 1998-03-07  Hrvoje Niksic  <hniksic@srce.hr>
5870
5871         * init.c (cmd_spec_debug): Use cmd_boolean().
5872
5873 1998-02-23  Hrvoje Niksic  <hniksic@srce.hr>
5874
5875         * http.c (gethttp): Create proxy-authorization correctly.
5876
5877 1998-02-22  Hrvoje Niksic  <hniksic@srce.hr>
5878
5879         * md5.c: Ditto.
5880
5881         * getopt.c: Use ANSI function definitions.
5882
5883         * ftp-opie.c: New file.
5884
5885         * options.h: Don't redefine EXTERN.
5886
5887         * init.c: Sort it correctly.
5888
5889 1998-02-22  Hrvoje Niksic  <hniksic@srce.hr>
5890
5891         * version.c: Wget 1.5-b9 is released.
5892
5893 1998-02-22  Hrvoje Niksic  <hniksic@srce.hr>
5894
5895         * recur.c (recursive_retrieve): Reset `first_time'.
5896
5897         * ftp.c (getftp): Added `default' clause to switches of uerr_t.
5898
5899         * rbuf.c (rbuf_peek): Simplified.
5900         (rbuf_flush): Use MINVAL.
5901
5902         * wget.h (MINVAL): Moved from url.h.
5903
5904         * rbuf.h (RBUF_FD): New macro.
5905
5906         * url.c (add_url): Add to the head of the list.
5907
5908         * ftp.c (ftp_retrieve_list): Set the permissions to downloaded
5909         file.
5910         (getftp): Set the default permissions to 0600.
5911
5912 1998-02-21  Hrvoje Niksic  <hniksic@srce.hr>
5913
5914         * url.c (get_urls_html): Ditto.
5915         (convert_links): Ditto.
5916
5917         * recur.c (parse_robots): Ditto.
5918
5919         * html.c (ftp_index): Ditto.
5920
5921         * ftp-ls.c (ftp_parse_unix_ls): Open file as binary.
5922
5923         * init.c (defaults): Initialize `opt' to zero via memset.
5924
5925         * http.c (digest_authentication_encode): goto considered harmful.
5926
5927 1998-02-19  Hrvoje Niksic  <hniksic@srce.hr>
5928
5929         * ftp.c (delelement): Simplify and fix leak.
5930
5931 1998-02-18  Hrvoje Niksic  <hniksic@srce.hr>
5932
5933         * http.c (dump_hash): Use HEXD2ASC instead of home-grown stuff.
5934
5935         * url.h (HEXD2ASC): Removed warning.
5936
5937         * init.c (comind): Use binary search.
5938         (commands): Reorganized.
5939         (setval): Ditto.
5940         (cmd_boolean): New function.
5941         (cmd_number): Ditto.
5942         (cmd_number_inf): Ditto.
5943         (cmd_string): Ditto.
5944         (cmd_vector): Ditto.
5945         (cmd_directory_vector): Ditto.
5946         (cmd_bytes): Ditto.
5947         (cmd_time): Ditto.
5948         (cmd_spec_debug): Ditto.
5949         (cmd_spec_dirmode): Ditto.
5950         (cmd_spec_dirstruct): Ditto.
5951         (cmd_spec_dotstyle): Ditto.
5952         (cmd_spec_header): Ditto.
5953         (cmd_spec_htmlify): Ditto.
5954         (cmd_spec_mirror): Ditto.
5955         (cmd_spec_outputdocument): Ditto.
5956         (cmd_spec_recursive): Ditto.
5957         (settime): Merged with cmd_time().
5958         (setbytes): Merged with cmd_bytes().
5959         (setonoff): Merged with cmd_boolean().
5960         (onoff): Ditto.
5961
5962 1998-02-17  Hrvoje Niksic  <hniksic@srce.hr>
5963
5964         * Makefile.in (distclean): Remove `config.h'.
5965
5966 1998-02-17  Hrvoje Niksic  <hniksic@srce.hr>
5967
5968         * version.c: Wget 1.5-b8 is released.
5969
5970 1998-02-17  Hrvoje Niksic  <hniksic@srce.hr>
5971
5972         * http.c (digest_authentication_encode): New function.
5973         (create_authorization_line): Use it.
5974         (dump_hash): New function.
5975         (digest_authentication_encode): Use it.
5976
5977         * fnmatch.c: Renamed from `mtch.c'.
5978
5979 1998-02-15  Karl Eichwalder  <ke@suse.de>
5980
5981         * main.c (main): Tag "Written by..." string as translatable.
5982
5983 1998-02-15  Hrvoje Niksic  <hniksic@srce.hr>
5984
5985         * wget.h (FREE_MAYBE): New macro.
5986
5987         * http.c (create_authorization_line): Don't use ANSI C string
5988         concatenation feature.
5989         (basic_authentication_encode): Use alloca() for temporary
5990         variables.
5991
5992         * recur.h: Ditto.
5993
5994         * http.c: Ditto.
5995
5996         * headers.h: Ditto.
5997
5998         * ftp-basic.c: Protect declaration against non-ANSI compiler.
5999
6000         * http.c (create_authorization_line): Cast `unsigned char *' to
6001         `char *' for sprintf, to shut up the noisy Digital Unix cc.
6002
6003 1998-02-15  Hrvoje Niksic  <hniksic@srce.hr>
6004
6005         * version.c: Wget 1.5-b7 is released.
6006
6007 1998-02-15  Hrvoje Niksic  <hniksic@srce.hr>
6008
6009         * cmpt.c (strstr): Synched with glibc-2.0.6.
6010
6011         * ftp-basic.c (calculate_skey_response): Ditto.
6012         (calculate_skey_response): Use alloca().
6013
6014         * http.c (create_authorization_line): Work with FSF's version of
6015         md5.c.
6016
6017         * md5.c: New file, from GNU libc.
6018
6019 1998-02-14  Hrvoje Niksic  <hniksic@srce.hr>
6020
6021         * url.h (URL_CLEANSE): Name the temporary variable more carefully.
6022
6023 1998-02-13  Hrvoje Niksic  <hniksic@srce.hr>
6024
6025         * http.c (basic_authentication_encode): New function, instead of
6026         the macro.
6027
6028 1998-02-13  Junio Hamano  <junio@twinsun.com>
6029
6030         * http.c: Add HTTP-DA support.
6031         * ftp-basic.c: Add Opie/S-key support.
6032         * config.h.in, Makefile.in: Add HTTP-DA and Opie/S-key support.
6033         * md5.c, md5.h: New files.
6034
6035 1998-02-13  Hrvoje Niksic  <hniksic@srce.hr>
6036
6037         * http.c (http_process_range): Renamed from hprocrange().
6038         (http_process_range): Parse the whole header.
6039
6040         * headers.c: New file.
6041         (header_process): New function.
6042         (header_get): Renamed from fetch_next_header.
6043
6044         * all: Include utils.h only where necessary.
6045
6046         * wget.h: Declare xmalloc(), xrealloc() and xstrdup() here.
6047
6048         * wget.h: Add provisions for dmalloc.
6049
6050 1998-02-12  Hrvoje Niksic  <hniksic@srce.hr>
6051
6052         * version.c: Wget 1.5-b6 is released.
6053
6054 1998-02-12  Hrvoje Niksic  <hniksic@srce.hr>
6055
6056         * ftp.c (ftp_loop): Determine `filename' more precisely.
6057
6058         * init.c (setval): Don't set `opt.quiet' if output-document is
6059         `-'.
6060
6061         * log.c (log_init): Print to STDERR instead of STDOUT.
6062         (vlogmsg): Use STDERR by default.
6063         (logflush): Ditto.
6064
6065 1998-02-11  Simon Josefsson  <jas@pdc.kth.se>
6066
6067         * host.c: Use addr_in again.
6068
6069 1998-02-08  Karl Eichwalder  <karl@suse.de>
6070
6071         * http.c (gethttp): Fixed typo.
6072
6073 1998-02-08  Hrvoje Niksic  <hniksic@srce.hr>
6074
6075         * version.c: Wget 1.5-b5 is released.
6076
6077 1998-02-08  Hrvoje Niksic  <hniksic@srce.hr>
6078
6079         * retr.c (show_progress): Use it.
6080
6081         * log.c (logflush): New function.
6082
6083         * wget.h: Utilize __attribute__ if on gcc.
6084
6085 1998-02-07  Hrvoje Niksic  <hniksic@srce.hr>
6086
6087         * http.c (base64_encode_line): New argument LENGTH.
6088         (BASIC_AUTHENTICATION_ENCODE): Use it.
6089         (BASIC_AUTHENTICATION_ENCODE): Take length of HEADER into account.
6090
6091         * main.c (main): Fixed fprintf() format mismatch.
6092
6093 1998-02-06  Hrvoje Niksic  <hniksic@srce.hr>
6094
6095         * version.c: Wget 1.5-b4 is released.
6096
6097 1998-02-03  Simon Josefsson  <jas@pdc.kth.se>
6098
6099         * host.c: use sockaddr_in instead of addr_in.
6100
6101 1998-02-04  Hrvoje Niksic  <hniksic@srce.hr>
6102
6103         * init.c (cleanup): Use it.
6104
6105         * recur.c (recursive_cleanup): New function.
6106
6107         * retr.c (retrieve_from_file): Ditto.
6108
6109         * main.c (main): Use it.
6110
6111         * recur.c (recursive_reset): New function.
6112
6113         * retr.c (retrieve_from_file): Ditto.
6114
6115         * main.c (main): Simplify call to recursive_retrieve().
6116
6117         * recur.c (recursive_retrieve): Removed FLAGS argument.
6118
6119         * http.c (gethttp): Changed call to iwrite().
6120
6121 1998-02-03  Hrvoje Niksic  <hniksic@srce.hr>
6122
6123         * url.c (get_urls_html): Ditto.
6124         (free_urlpos): Ditto.
6125         (mkstruct): Ditto.
6126         (construct): Ditto.
6127
6128         * retr.c (retrieve_url): Move declaration of local variables to
6129         smaller scope.
6130
6131         * url.c (urlproto): Use it.
6132         (parseurl): Ditto.
6133         (str_url): Ditto.
6134         (get_urls_html): Ditto.
6135
6136         * utils.h (ARRAY_SIZE): New macro.
6137
6138         * url.c (proto): Moved from url.h.
6139
6140         * url.h (URL_CLEANSE): Reformatted.
6141         (USE_PROXY_P): Renamed from USE_PROXY.
6142
6143         * ftp-basic.c: Adjust to the new interface of iwrite().
6144
6145         * ftp-basic.c (ftp_port): Use alloca().
6146
6147 1998-02-03  Hrvoje Niksic  <hniksic@srce.hr>
6148
6149         * version.c: Wget 1.5-b3 is released.
6150
6151         * host.c (ftp_getaddress): Don't print to stderr directly.
6152
6153         * init.c (setbytes): Support `g' for gigabytes.
6154         (cmdtype): New specification CTIME.
6155         (setval): Use it with settime().
6156         (commands): Use it for WAIT and TIMEOUT.
6157
6158 1998-02-02  Hrvoje Niksic  <hniksic@srce.hr>
6159
6160         * http.c (BASIC_AUTHENTICATION_ENCODE): New macro.
6161         (gethttp): Use it.
6162
6163         * utils.c (unique_name_1): Moved from url.c.
6164         (unique_name): Ditto.
6165
6166         * url.c (url_filename): Ditto.
6167
6168         * log.c (redirect_output): Changed call to unique_name().
6169
6170         * url.c (unique_name_1): Renamed from unique_name().
6171         (unique_name): Changed interface.
6172
6173         * init.c (enum cmdid): Moved from init.h.
6174         (cmdtype): Ditto.
6175         (struct cmd): Ditto.
6176
6177         * main.c (main): Use it.
6178         (main): Moved `--backups' to not have a short option.
6179
6180         * options.h (struct options): New member BACKGROUND.
6181
6182         * main.c (print_help): Rearranged.
6183         (main): New long options for -n* short options: --no-directories,
6184         --no-host-directories, --non-verbose, --no-host-lookup and
6185         --dont-remove-listing.
6186
6187 1998-02-01  Hrvoje Niksic  <hniksic@srce.hr>
6188
6189         * main.c (main): Use log_close().
6190
6191         * log.c: New variable LOGFP.
6192         (vlogmsg): Use it.
6193         (redirect_output): Don't open /dev/null; set LOGFP to stdin
6194         instead.
6195         (log_close): New function.
6196
6197         * options.h (struct options): Removed LFILE.
6198
6199         * log.c (log_enable): Removed.
6200
6201         * main.c (main): Use it.
6202
6203         * log.c (log_init): New function.
6204
6205         * url.c (get_urls_html): Removed needless assignment to BASE.
6206
6207         * host.c (add_hlist): Don't set CMP needlessly.
6208
6209         * utils.c (match_backwards): Ditto.
6210         (in_acclist): Ditto.
6211
6212         * url.c (findurl): Ditto.
6213
6214         * netrc.c (parse_netrc): Ditto.
6215
6216         * log.c (log_dump): Ditto.
6217
6218         * html.c (html_quote_string): Ditto.
6219
6220         * ftp-basic.c (ftp_request): Made static.
6221
6222         * connect.c: Made global variables static.
6223
6224         * url.c (construct): Ditto.
6225
6226         * init.c (init_path): Avoid assignment inside `if'-condition.
6227
6228         * ftp.c: Don't include in.h or winsock.h.
6229
6230         * ftp.c (ftp_loop): Use SZ.
6231
6232         * connect.c (bindport): Cast &addrlen to int *.
6233         (conaddr): Ditto.
6234
6235         * init.c (initialize): Don't use SYSTEM_WGETRC unconditionally.
6236
6237 1998-01-31  Hrvoje Niksic  <hniksic@srce.hr>
6238
6239         * ftp.c (getftp): Initialize opt.ftp_pass here.
6240         (ftp_retrieve_dirs): Use alloca().
6241
6242         * init.c (defaults): Don't initialize opt.ftp_pass.
6243
6244         * sysdep.h (S_ISLNK): Declare for OS/2; ditto for lstat.
6245         From Ivan F. Martinez <ivanfm@ecodigit.com.br>.
6246
6247 1998-01-31  Hrvoje Niksic  <hniksic@srce.hr>
6248
6249         * recur.c (parse_robots): Check for comments more correctly.
6250
6251         * host.c (ftp_getaddress): Use STRDUP_ALLOCA.
6252         (ftp_getaddress): Add diagnostics when reverse-lookup yields only
6253         hostname.
6254
6255 1998-01-31  Hrvoje Niksic  <hniksic@srce.hr>
6256
6257         * version.c: Wget 1.5-b2 is released.
6258
6259         * netrc.c (NETRC_FILE_NAME): Moved from netrc.h.
6260
6261         * utils.c (proclist): Pass FNM_PATHNAME to fnmatch().
6262
6263         * ftp-basic.c (ftp_pasv): Avoid unnecessary casting to unsigned
6264         char.
6265
6266         * log.c: Don't attempt to hide arguments from ansi2knr.
6267
6268         * cmpt.c: Synched strptime() and mktime() with glibc-2.0.6.
6269
6270         * ansi2knr.c: Use a later version, from fileutils-3.16l alpha.
6271
6272         * ftp.c (getftp): Ditto.
6273
6274         * http.c (gethttp): Use it.
6275
6276         * retr.c (get_contents): New argument EXPECTED; pass it to
6277         show_progress().
6278         (show_progress): New argument EXPECTED; use it to display
6279         percentages.
6280
6281         * init.c (setval): Ditto.
6282
6283         * http.c (gethttp): Ditto.
6284         (http_loop): Ditto.
6285
6286         * ftp.c (getftp): Ditto.
6287         (ftp_loop_internal): Ditto.
6288
6289         * ftp-ls.c (ftp_parse_unix_ls): Use abort() instead of assert(0).
6290
6291         * sysdep.h (CLOSE): Simplify; use DEBUGP.
6292
6293         * netrc.c (search_netrc): Use alloca().
6294
6295         * init.c (defaults): Initialize no_flush.
6296
6297         * log.c (vlogmsg): Don't flush if no_flush.
6298
6299         * options.h (struct options): New variable no_flush.
6300
6301         * main.c (main): Don't play games with buffering.
6302
6303         * log.c (vlogmsg): Flush the output after every message.
6304
6305 1998-01-31  Hrvoje Niksic  <hniksic@srce.hr>
6306
6307         * init.c (parse_line): Ditto.
6308
6309         * url.c (get_urls_html): Ditto.
6310
6311         * main.c (main): Don't cast to unsigned char.
6312
6313         * init.c (run_wgetrc): Don't cast to unsigned char.
6314         (parse_line): Accept char instead of unsigned char.
6315
6316         * html.c (htmlfindurl): Use char instead of unsigned char.
6317
6318         * all: Use them.
6319
6320         * sysdep.h: Add wrappers to ctype macros to make them
6321         eight-bit-clean:
6322
6323 1998-01-30  Hrvoje Niksic  <hniksic@srce.hr>
6324
6325         * html.c (htmlfindurl): Download <img lowsrc=...>
6326
6327         * main.c (main): Ignore SIGPIPE.
6328
6329         * connect.c (select_fd): New argument WRITEP.
6330         (iwrite): Call select_fd().
6331
6332 1997-02-27  Fila Kolodny <fila@ibi.com>
6333
6334         * ftp.c (ftp_retrieve_list): If retrieving symlink and the proper
6335         one already exists, just skip it.
6336
6337 1998-01-30  Hrvoje Niksic  <hniksic@srce.hr>
6338
6339         * http.c (gethttp): Cosmetic changes.
6340
6341         * http.c (check_end): Allow `+D...' instead of `GMT'.
6342         From Fabrizio Pollastri <pollastri@cstv.to.cnr.it>.
6343
6344         * url.c (process_ftp_type): New function.
6345         (parseurl): Use it.
6346
6347         * connect.c (iwrite): Allow writing in a few chunks.
6348         (bindport): Made SRV static, so addr can point to it.
6349         (select_fd): Removed HPUX kludge.
6350
6351         * host.c (free_hlist): Incorporated into clean_hosts().
6352
6353 1998-01-29  Hrvoje Niksic  <hniksic@srce.hr>
6354
6355         * host.c (hlist): Made static.
6356         (search_address): Cosmetic change.
6357
6358 1998-01-29  Hrvoje Niksic  <hniksic@srce.hr>
6359
6360         * version.c: Wget v1.5-b1 is released.
6361
6362         * http.c (hgetlen): Use sizeof() to get the header length.
6363         (hgetrange): Ditto.
6364         (hgettype): Ditto.
6365         (hgetlocation): Ditto.
6366         (hgetmodified): Ditto.
6367         (haccepts_none): Ditto.
6368
6369         * main.c (main): Updated `--version' and `--help' output, as per
6370         Francois Pinard's suggestions.
6371
6372         * main.c: Include locale.h; call setlocale(), bindtextdomain() and 
6373         textdomain().
6374
6375         * config.h.in: Define stubs for I18N3.
6376
6377         * wget.h: Include libintl.h.
6378
6379 1998-01-28  Hrvoje Niksic  <hniksic@srce.hr>
6380
6381         * url.c (mkstruct): Check for opt.cut_dirs.
6382         (mkstruct): alloca()-te more, xmalloc() less.
6383
6384         * utils.c (load_file): Check for ferror().
6385
6386         * url.c (get_urls_file): Close only the files we opened.
6387         (get_urls_html): Ditto.
6388         (count_slashes): New function.
6389
6390         * http.h: Removed.
6391
6392         * http.c (gethttp): Respect username and password provided by
6393         proxy URL.
6394         (base64_encode_line): Write into an existing buffer instead of
6395         malloc-ing a new one.
6396         (struct http_stat): Moved from http.h
6397
6398         * retr.c (retrieve_url): Free SUF.
6399
6400         * all: Removed lots of unnecessary .h dependencies.
6401
6402         * html.c (global_state): Made static.
6403
6404         * utils.h (ALLOCA_ARRAY): New macro.
6405
6406         * main.c (main): New option `--cut-dirs'.
6407
6408         * url.c (construct): Use alloca() for T.
6409
6410         * utils.c (mkdirhier): Use STRDUP_ALLOCA.
6411
6412         * host.c (_host_t): Moved from host.h.
6413         (struct host): Renamed from _host_t.
6414         (store_hostaddress): Use STRDUP_ALLOCA for INET_S.
6415         (realhost): Ditto.
6416
6417         * host.h: Don't include url.h.
6418
6419         * ftp.c (LIST_FILENAME): Moved from ftp.h.
6420
6421         * init.c (DEFAULT_FTP_ACCT): Moved from ftp.h.
6422
6423         * main.c (main): Enable log if the output goes to a TTY.
6424
6425         * connect.h: Removed unused constant `BACKLOG'.
6426
6427         * config.h.in: Check for isatty().
6428
6429         * Makefile.in (LINK): Use CFLAGS when linking.
6430
6431 1998-01-27  Hrvoje Niksic  <hniksic@srce.hr>
6432
6433         * mswindows.c (ws_hangup): Use redirect_output().
6434
6435         * main.c (redirect_output_signal): New function; use
6436         redirect_output().
6437
6438         * log.c (redirect_output): New function, based on hangup(), which
6439         is deleted.
6440
6441         * log.c (vlogmsg): New function.
6442
6443         * wget.h (DEBUGP): Use debug_logmsg().
6444
6445         * main.c (hangup): Use it.
6446
6447         * log.c (log_dump): New function.
6448
6449         * utils.h (DO_REALLOC): Use `long' for various sizes.
6450
6451         * http.c (hskip_lws): Use `while', for clarity.
6452         (HTTP_DYNAMIC_LINE_BUFFER): New constant.
6453         (fetch_next_header): Use it instead of DYNAMIC_LINE_BUFFER.
6454
6455         * ftp-basic.c (FTP_DYNAMIC_LINE_BUFFER): New constant.
6456         (ftp_response): Use it instead of DYNAMIC_LINE_BUFFER.
6457
6458         * utils.c (DYNAMIC_LINE_BUFFER): Moved from utils.c.
6459         (LEGIBLE_SEPARATOR): Ditto.
6460         (FILE_BUFFER_SIZE): Ditto.
6461
6462         * retr.c (BUFFER_SIZE): Moved from retr.h.
6463
6464         * log.c: New file.
6465         (logmsg): Moved from utils.c.
6466         (debug_logmsg): New function.
6467
6468         * mswindows.h: Include it here.
6469
6470         * init.c: Ditto.
6471
6472         * utils.c: Don't include <windows.h>.
6473
6474 1998-01-25  Hrvoje Niksic  <hniksic@srce.hr>
6475
6476         * host.c (ftp_getaddress): Ditto.
6477
6478         * main.c (main): Use it.
6479
6480         * utils.h (STRDUP_ALLOCA): New macro.
6481
6482         * init.c: Prepend `wget: ' to error messages printed on stderr.
6483
6484         * utils.c (mkdirhier): Renamed from mymkdir.
6485         (touch): Renamed from my_touch.
6486         (pwd_cuserid): Renamed from my_cuserid().
6487
6488 1998-01-24  Andy Eskilsson  <andy.eskilsson@telelogic.se>
6489
6490         * utils.c (accdir): Process wildcards.
6491         (proclist): New function.
6492         (accdir): Use it to avoid code repetition.
6493
6494 1998-01-24  Hrvoje Niksic  <hniksic@srce.hr>
6495
6496         * recur.c (parse_robots): Respect opt.useragent; use alloca().
6497
6498         * http.c (gethttp): Construct useragent accordingly.
6499
6500         * version.c: Changed version string to numbers-only.
6501
6502         * main.c (print_help): List all the options.
6503
6504         * mswindows.c (windows_main_junk): Initialize argv0 here.
6505
6506 1998-01-24  Karl Heuer  <kwzh@gnu.org>
6507
6508         * netrc.c (search_netrc): Initialize `l' only after processing
6509         netrc.
6510
6511         * main.c (main): Don't trap SIGHUP if it's being ignored.
6512
6513 1998-01-24  Hrvoje Niksic  <hniksic@srce.hr>
6514
6515         * all: Use logmsg().
6516
6517         * utils.c (time_str): Moved from retr.c.
6518         (logmsg): New function.
6519         (logmsg_noflush): Ditto.
6520
6521         * rbuf.c: New file, moved buf_* functions here.
6522
6523         * ftp.c (ftp_expected_bytes): Moved from ftp-basic.c.
6524
6525         * ftp-basic.c (ftp_rest): Use prnum().
6526
6527         * ftp-basic.c: Ditto.
6528
6529         * ftp.c: Use the new reading functions and macros.
6530
6531         * retr.c (buf_initialize): New function.
6532         (buf_initialized_p): Ditto.
6533         (buf_uninitialize): Ditto.
6534         (buf_fd): Ditto.
6535
6536         * http.c (fetch_next_header): Use the BUF_READCHAR macro for
6537         efficiency.
6538         (gethttp): Use alloca() where appropriate.
6539
6540         * retr.c (buf_readchar): Use it.
6541         (buf_peek): Use rstreams.
6542
6543         * retr.h (BUF_READCHAR): New macro.
6544
6545         * init.c (home_dir): Rewritten for clarity.
6546         (init_path): Ditto.
6547
6548         * mswindows.c (ws_backgnd): Made static.
6549         (read_registry): Ditto.
6550         (ws_cleanup): Ditto.
6551         (ws_handler): Ditto.
6552
6553 1998-01-23  Hrvoje Niksic  <hniksic@srce.hr>
6554
6555         * alloca.c: New file.
6556
6557         * Makefile.in (ALLOCA): Define.
6558
6559         * mswindows.c (ws_help): Constify.
6560         (ws_help): Use alloca.
6561
6562         * mswindows.c: Reformat.
6563
6564         * all: Added _(...) annotations for I18N snarfing and translation.
6565
6566         * host.c (ftp_getaddress): Nuke SYSINFO.
6567         (ftp_getaddress): Don't use getdomainname().
6568         (ftp_getaddress): Use uname(), where available.
6569
6570         * http.c (gethttp): Protect a stray fprintf().
6571
6572         * init.c (settime): New function.
6573         (setval): Treat WAIT specially, allowing suffixes like `m' for
6574         minutes, etc.
6575
6576 1998-01-21  Hrvoje Niksic  <hniksic@srce.hr>
6577
6578         * url.c (get_urls_html): Use alloca() for TEMP.
6579
6580 1998-01-21  Jordan Mendelson  <jordy@wserv.com>
6581
6582         * url.c (rotate_backups): New function.
6583
6584         * http.c (gethttp): Ditto.
6585
6586         * ftp.c (getftp): Rotate backups.
6587
6588 1997-12-18  Hrvoje Niksic  <hniksic@srce.hr>
6589
6590         * all: Renamed nmalloc(), nrealloc() and nstrdup() to xmalloc(),
6591         xrealloc() and xstrdup().  Use the new functions.
6592
6593         * url.c (decode_string): Made static.
6594         (has_proto): Ditto.
6595         (parse_dir): Ditto.
6596         (parse_uname): Ditto.
6597         (mkstruct): Ditto.
6598         (construct): Ditto.
6599         (construct_relative): Ditto.
6600
6601         * retr.c (show_progress): Made static.
6602
6603         * recur.c (robots_url): Made static.
6604         (retrieve_robots): Ditto.
6605         (parse_robots): Ditto.
6606         (robots_match): Ditto.
6607
6608         * main.h: Removed.
6609
6610         * main.c (printhelp): Made static.
6611         (hangup): Ditto.
6612
6613         * init.c (comind): Made static.
6614         (defaults): Ditto.
6615         (init_path): Ditto.
6616         (run_wgetrc): Ditto.
6617         (onoff): Ditto.
6618         (setonoff): Ditto.
6619         (setnum): Ditto.
6620         (myatoi): Ditto.
6621         (getperms): Ditto.
6622         (setbytes): Ditto.
6623
6624         * http.c (fetch_next_header): Made static.
6625         (hparsestatline): Ditto.
6626         (hskip_lws): Ditto.
6627         (hgetlen): Ditto.
6628         (hgetrange): Ditto.
6629         (hgettype): Ditto.
6630         (hgetlocation): Ditto.
6631         (hgetmodified): Ditto.
6632         (haccepts_none): Ditto.
6633         (gethttp): Ditto.
6634         (base64_encode_line): Ditto.
6635         (mktime_from_utc): Ditto.
6636         (http_atotm): Ditto.
6637
6638         * html.c (idmatch): Made static.
6639
6640         * host.c (search_host): Made static.
6641         (search_address): Ditto.
6642         (free_hlist): Ditto.
6643
6644         * ftp.c (getftp): Made static.
6645         (ftp_loop_internal): Ditto.
6646         (ftp_get_listing): Ditto.
6647         (ftp_retrieve_list): Ditto.
6648         (ftp_retrieve_dirs): Ditto.
6649         (ftp_retrieve_glob): Ditto.
6650         (freefileinfo): Ditto.
6651         (delelement): Ditto.
6652
6653         * ftp-ls.c (symperms): Made static.
6654         (ftp_parse_unix_ls): Ditto.
6655
6656         * connect.c (select_fd): Made static.
6657
6658         * utils.c (xmalloc): Renamed from nmalloc.
6659         (xrealloc): Renamed from nrealloc.
6660         (xstrdup): Renamed from nstrdup.
6661
6662         * getopt.c (exchange): Use alloca.
6663
6664         * mswindows.c (mycuserid): Use strncpy.
6665
6666         * New files mswindows.c, mswindows.h, sysdep.h.  winjunk.c,
6667         systhings.h, windecl.h and winjunk.h removed.
6668
6669         * mswindows.c (sleep): New function.
6670
6671         * utils.c: Include <windows.h> under Windows.
6672
6673 1997-06-12  Darko Budor  <dbudor@zesoi.fer.hr>
6674
6675         * url.h (URL_UNSAFE): Change default under Windows.
6676
6677         * retr.c (retrieve_from_file): Respect opt.delete_after.
6678
6679         * main.c (main): Call ws_help on Windows.
6680
6681         * winjunk.c (windows_main_junk): New function.
6682
6683         * main.c (main): Junk-process argv[0].
6684
6685         * http.c (mktime_from_utc): Return -1 if mktime failed.
6686
6687         * http.c (http_loop): Ditto.
6688
6689         * ftp.c (ftp_loop_internal): Change title on Windows when using a
6690         new URL.
6691
6692         * winjunk.c (getdomainname): Lots of functions.
6693
6694 1997-06-12  Hrvoje Niksic  <hniksic@srce.hr>
6695
6696         * cmpt.c (strptime_internal): Handle years more correctly for
6697         `%y'.
6698
6699 1997-06-09  Mike Thomas <mthomas@reality.ctron.com>
6700
6701         * http.c (gethttp): Allocate enough space for
6702         `Proxy-Authorization' header.
6703
6704 1997-05-10  Hrvoje Niksic  <hniksic@srce.hr>
6705
6706         * version.c: Wget/1.4.5 is released.
6707
6708 1997-05-10  Hrvoje Niksic  <hniksic@srce.hr>
6709
6710         * retr.c (get_contents): Check return value of fwrite more
6711         carefully.
6712
6713 1997-03-30  Andreas Schwab  <schwab@issan.informatik.uni-dortmund.de>
6714
6715         * cmpt.c (strptime_internal) [case 'Y']: Always subtract 1900 from
6716         year, regardless of century.
6717
6718 1997-03-30  Hrvoje Niksic  <hniksic@srce.hr>
6719
6720         * utils.c (isfile): Use `lstat' instead of `stat'.
6721
6722 1997-03-29  Hrvoje Niksic  <hniksic@srce.hr>
6723
6724         * utils.c (numdigit): Use explicit test.
6725
6726 1997-03-21  Hrvoje Niksic  <hniksic@srce.hr>
6727
6728         * http.c (http_loop): Always use `url_filename' to get u->local.
6729
6730 1997-03-20  Hrvoje Niksic  <hniksic@srce.hr>
6731
6732         * url.c: Recognize https.
6733
6734 1997-03-13  Hrvoje Niksic  <hniksic@srce.hr>
6735
6736         * recur.c (recursive_retrieve): Lowercase just the host name.
6737
6738 1997-03-09  Hrvoje Niksic  <hniksic@srce.hr>
6739
6740         * url.c (get_urls_file): Use the correct test.
6741         (get_urls_html): Ditto.
6742
6743 1997-03-07  Hrvoje Niksic  <hniksic@srce.hr>
6744
6745         * connect.c: Reverted addrlen to int.
6746
6747         * init.c (parse_line): Check for -1 instead of NONE.
6748
6749         * version.c: Changed version to 1.4.5.
6750
6751 1997-02-17  Hrvoje Niksic  <hniksic@srce.hr>
6752
6753         * init.c: New option netrc.
6754         (initialize): Don't parse .netrc.
6755
6756         * cmpt.c (recursive): Return rp.
6757         (strptime_internal): Match the long strings first, the abbreviated
6758         second.
6759
6760 1997-02-16  Hrvoje Niksic  <hniksic@srce.hr>
6761
6762         * http.c (check_end): New function.
6763         (http_atotm): Use it.
6764  
6765 1997-02-13  gilles Cedoc  <gilles@cedocar.fr>
6766
6767         * http.c (gethttp): Use them.
6768
6769         * init.c: New options proxy_user and proxy_passwd.
6770
6771 1997-02-14  Hrvoje Niksic  <hniksic@srce.hr>
6772
6773         * ftp.c (ftp_retrieve_list): Create links even if not relative.
6774
6775 1997-02-10  Hrvoje Niksic  <hniksic@srce.hr>
6776
6777         * recur.c (recursive_retrieve): Lowercase the host name, if the
6778         URL is not "optimized".
6779
6780         * host.c (realhost): Return l->hostname, even if it matches with
6781         host.
6782
6783 1997-02-10  Marin Purgar  <pmc@asgard.hr>
6784
6785         * connect.c: Make addrlen size_t instead of int.
6786         (conaddr): Ditto.
6787
6788 1997-02-09  Gregor Hoffleit  <flight@mathi.uni-heidelberg.DE>
6789
6790         * systhings.h: Define S_ISLNK on NeXT too.
6791
6792 1997-02-09  Hrvoje Niksic  <hniksic@srce.hr>
6793
6794         * version.c: Released 1.4.3.
6795
6796         * url.c: Futher update to list of protostrings.
6797         (skip_proto): Skip `//' correctly for FTP and HTTP.
6798
6799         * url.c (get_urls_html): Handle bogus `http:' things a little
6800         different.
6801
6802         * main.c (main): Removed `follow-ftp' from `f'.
6803         (main): Dumped the `prefix-files' and `file-prefix' options and
6804         features; old and bogus.
6805         (main): Exit on failed setval() in `-e'.
6806
6807         * http.c (fetch_next_header): Use it to detect header continuation
6808         correctly.
6809
6810         * retr.c (buf_peek): New function.
6811
6812 1997-02-08  Hrvoje Niksic  <hniksic@srce.hr>
6813
6814         * wget.h: Include time.h and stuff.
6815
6816 1997-02-08  Roger Beeman  <beeman@cisco.com>
6817
6818         * ftp.c: Include <time.h>
6819
6820 1997-02-07  Hrvoje Niksic  <hniksic@srce.hr>
6821
6822         * url.c (findurl): Would read over buffer limits.
6823
6824 1997-02-06  Hrvoje Niksic  <hniksic@srce.hr>
6825
6826         * ftp-ls.c (ftp_parse_unix_ls): Allow spaces in file names.
6827
6828 1997-02-05  Hrvoje Niksic  <hniksic@srce.hr>
6829
6830         * http.c (http_atotm): Initialize tm.is_dst.
6831
6832 1997-02-02  Hrvoje Niksic  <hniksic@srce.hr>
6833
6834         * http.c (gethttp): Don't print the number of retrieved headers.
6835
6836         * main.c (main): New option `--no-clobber', alias for `-nc'.
6837
6838         * url.c: Recognize `https://'.
6839
6840 1997-02-01  Hrvoje Niksic  <hniksic@srce.hr>
6841
6842         * host.c (herrmsg): Don't use h_errno.
6843
6844 1997-01-30  Hrvoje Niksic  <hniksic@srce.hr>
6845
6846         * host.c (accept_domain): Use it.
6847
6848         * main.c (main): New option `--exclude-domains'.
6849
6850         * retr.c (retrieve_url): Use it.
6851         (retrieve_url): Bail out when an URL is redirecting to itself.
6852
6853         * url.c (url_equal): New function.
6854
6855 1997-01-29  Hrvoje Niksic  <hniksic@srce.hr>
6856
6857         * connect.c: Include arpa/inet.h instead of arpa/nameser.h.
6858
6859         * http.c (mk_utc_time): New function.
6860         (http_atotm): Use it; handle time zones correctly.
6861
6862 1997-01-28  Hrvoje Niksic  <hniksic@srce.hr>
6863
6864         * http.c: Ditto.
6865
6866         * ftp-basic.c: Use it instead of WRITE.
6867
6868         * connect.c (iwrite): New function.
6869
6870 1997-01-27  Hrvoje Niksic  <hniksic@srce.hr>
6871
6872         * cmpt.c (mktime): New function.
6873
6874         * netrc.c: Include <sys/types.h>.
6875
6876         * main.c (main): Wouldn't recognize --spider.
6877
6878         * retr.c (rate): Use `B', `KB' and `MB'.
6879         (reset_timer,elapsed_time): Moved from utils.c.
6880
6881         * ftp.c (ftp_retrieve_list): Ditto.
6882
6883         * http.c (http_loop): Don't touch the file if opt.dfp.
6884
6885 1997-01-24  Hrvoje Niksic  <hniksic@srce.hr>
6886
6887         * cmpt.c: New file.
6888
6889         * ftp.c (ftp_retrieve_glob): New argument semantics.
6890         (ftp_retrieve_dirs): Use it.
6891         (ftp_loop): Ditto.
6892
6893         * html.c (htmlfindurl): Recognize `'' as the quote char.
6894
6895 1997-01-23  Hrvoje Niksic  <hniksic@srce.hr>
6896
6897         * ftp.c (ftp_loop_internal): Use it.
6898
6899         * utils.c (remove_link): New function.
6900
6901 1997-01-22  Hrvoje Niksic  <hniksic@srce.hr>
6902
6903         * retr.c (retrieve_url): Require STRICT redirection URL.
6904
6905         * url.c (parseurl): New argument STRICT.
6906
6907         * http.c (hparsestatline): Be a little-bit less strict about
6908         status line format.
6909
6910 1997-01-21  Hrvoje Niksic  <hniksic@srce.hr>
6911
6912         * http.c (gethttp): Use it.
6913
6914         * main.c (main): Don't use '<digit>' as options.
6915
6916         * init.c: New option ignore_length.
6917
6918         * http.c (gethttp): Ditto.
6919         (http_loop): Check for redirection without Location:.
6920         (gethttp): Don't print Length unless RETROKF.
6921
6922         * ftp.c (getftp): Use it.
6923
6924         * url.c (mkalldirs): New function.
6925
6926         * utils.c (mymkdir): Don't check for existing non-directory.
6927
6928         * url.c (mkstruct): Don't create the directory.
6929
6930 1997-01-20  Hrvoje Niksic  <hniksic@srce.hr>
6931
6932         * init.c (setval): Removed NO_RECURSION checks.
6933
6934 1997-01-19  Hrvoje Niksic  <hniksic@srce.hr>
6935
6936         * version.c: "Released" 1.4.3-pre2.
6937
6938         * recur.c (recursive_retrieve): Bypass host checking only if URL
6939         is ftp AND parent URL is not ftp.
6940
6941         * ftp-basic.c (ftp_request): Print out Turtle Power.
6942
6943         * ftp.c (ftp_loop): Call ftp_retrieve_glob with 0 if there's no
6944         wildcard.
6945         (ftp_retrieve_glob): Call ftp_loop_internal even on empty list, if
6946         not glob.
6947
6948         * http.c (gethttp): Be a little bit smarter about status codes.
6949
6950         * recur.c (recursive_retrieve): Always reset opt.recursive when
6951         dealing with FTP.
6952
6953 1997-01-18  Hrvoje Niksic  <hniksic@srce.hr>
6954
6955         * retr.c (retrieve_url): New variable location_changed; use it for
6956         tests instead of mynewloc.
6957         (retrieve_url): Allow heuristic adding of html.
6958
6959         * url.c (url_filename): Don't use the `%' in Windows file names.
6960
6961         * http.c (http_loop): Always time-stamp the local file.
6962
6963         * http.c (http_loop): Ditto.
6964
6965         * ftp.c (ftp_retrieve_list): Use it.
6966
6967         * utils.c (my_touch): New function.
6968
6969         * ftp.c (ftp_retrieve_list): Use #ifdef HAVE_STRUCT_UTIMBUF
6970         instead of #ifndef NeXT.
6971
6972         * utils.c (strptime): New version, by Ulrich Drepper.
6973
6974 1997-01-17  Hrvoje Niksic  <hniksic@srce.hr>
6975
6976         * http.c (haccepts_none): Renamed from `haccepts_bytes'.
6977         (gethttp): If haccepts_none(), disable ACCEPTRANGES.
6978         (http_loop): Would remove ACCEPTRANGES.
6979
6980         * ftp.c (getftp): Call ftp_list with NULL.
6981
6982 1997-01-15  Hrvoje Niksic  <hniksic@srce.hr>
6983
6984         * html.c (ftp_index): Don't print minutes and seconds if we don't
6985         know them; beautify the output.
6986
6987         * ftp.c (getftp): Don't close the socket on FTPNSFOD.
6988
6989 1997-01-14  Hrvoje Niksic  <hniksic@srce.hr>
6990
6991         * utils.c (strptime): New function.
6992         (strptime): Don't use get_alt_number.
6993         (strptime): Don't use locale.
6994         (match_string): Made it a function.
6995
6996 1997-01-12  Hrvoje Niksic  <hniksic@srce.hr>
6997
6998         * http.c (http_atotm): New function.
6999         (http_loop): Use it.
7000
7001         * atotm.c: Removed from the distribution.
7002
7003         * http.c (base64_encode_line): Rewrite.
7004
7005 1997-01-09  Hrvoje Niksic  <hniksic@srce.hr>
7006
7007         * ftp.c (getftp): Use ftp_expected_bytes; print size.
7008
7009         * ftp-basic.c (ftp_response): Use ftp_last_respline.
7010         (ftp_expected_bytes): New function.
7011
7012         * ftp.c (getftp): Print the unauthoritative file length.
7013
7014         * ftp-ls.c: Renamed from ftp-unix.c.
7015         (ftp_parse_ls): Moved from ftp.c.
7016         (ftp_parse_unix_ls): Recognize seconds in time spec.
7017         (ftp_parse_unix_ls): Recognize year-less dates of the previous
7018         year.
7019
7020 1997-01-08  Hrvoje Niksic  <hniksic@srce.hr>
7021
7022         * ftp-basic.c: Don't declare errno if #defined.
7023
7024         * host.c (ftp_getaddress): Check for sysinfo legally.
7025
7026 1997-01-08  Darko Budor  <dbudor@diana.zems.fer.hr>
7027
7028         * connect.c (iread): Use READ.
7029
7030 1996-12-23  Hrvoje Niksic  <hniksic@srce.hr>
7031
7032         * url.c: Recognize finger, rlogin, tn3270, mid and cid as valid
7033         schemes.
7034
7035 1996-12-22  Hrvoje Niksic  <hniksic@srce.hr>
7036
7037         * host.c (ftp_getaddress): Allow `.' in hostname.
7038
7039 1996-12-26  Darko Budor <dbudor@zems.fer.hr>
7040
7041         * wget.h: READ and WRITE macros for use instead of read and write
7042         on sockets, grep READ *.c, grep WRITE *.c
7043
7044         * wsstartup.c: new file - startup for winsock
7045
7046         * wsstartup.h: new file
7047
7048         * win32decl.h: new file - fixup for <errno.h> and winsock trouble
7049
7050         * configure.bat: Configure utility for MSVC
7051
7052         * src/Makefile.ms,config.h.ms: new files for use with MSVC 4.x
7053
7054 1996-12-22  Hrvoje Niksic  <hniksic@srce.hr>
7055
7056         * version.c: Released 1.4.3-pre.
7057
7058         * utils.c (prnum): Accept long.
7059         (legible): Use prnum().
7060
7061         * connect.c (make_connection): Accept port as short.
7062         (bindport): Ditto.
7063
7064         * http.c (gethttp): Use search_netrc.
7065
7066 1996-12-21  Hrvoje Niksic  <hniksic@srce.hr>
7067
7068         * ftp.c (getftp): Use search_netrc.
7069
7070         * netrc.c (free_netrc): New function.
7071
7072         * init.c (home_dir): New function.
7073
7074         * url.c (convert_links): Allow REL2ABS changes.
7075
7076 1996-12-21  Gordon Matzigkeit  <gord@gnu.ai.mit.edu>
7077
7078         * netrc.c: New file.
7079         (parse_netrc, maybe_add_to_list): New functions.
7080
7081 1996-12-17  Hrvoje Niksic  <hniksic@srce.hr>
7082
7083         * retr.c (retrieve_url): Reset opt.recursion before calling
7084         ftp_loop if it is reached through newloc.
7085
7086         * init.c (run_wgetrc): Print the wgetrc path too, when reporting
7087         error; don't use "Syntax error", since we don't know if it is
7088         really a syntax error.
7089
7090 1996-12-16  Hrvoje Niksic  <hniksic@srce.hr>
7091
7092         * utils.c (acceptable): Extract the filename part of the path.
7093
7094         * recur.c (recursive_retrieve): Call acceptable() with the right
7095         argument; would bug out on wildcards.
7096
7097         * init.c (parse_line): Likewise.
7098
7099         * html.c (htmlfindurl): Cast to char * when calling stuff.
7100
7101 1996-12-15  Hrvoje Niksic  <hniksic@srce.hr>
7102
7103         * ftp.c (getftp): Use ftp_pasv.
7104
7105         * ftp-basic.c (ftp_request): Accept NULL value.
7106         (ftp_pasv): New function.
7107
7108         * options.h (struct options): Add passive FTP option.
7109
7110 1996-12-15  Hrvoje Niksic  <hniksic@srce.hr>
7111
7112         * url.c (parseurl): Debug output.
7113
7114         * utils.c (path_simplify): New one, adapted from bash's
7115         canonicalize_pathname().
7116
7117 1996-12-14  Hrvoje Niksic  <hniksic@srce.hr>
7118
7119         * ftp.c (getftp): Don't discard the buffer.
7120
7121         * retr.c (get_contents): New parameter nobuf.
7122
7123 1996-12-13  Shawn McHorse  <riffraff@txdirect.net>
7124
7125         * html.c (htmlfindurl): Recognize <meta contents="d; URL=...".
7126
7127         * init.c (setval): Strip the trailing slashes on CVECDIR.
7128
7129 1996-12-13  Hrvoje Niksic  <hniksic@srce.hr>
7130
7131         * init.c: Make excludes and includes under CVECDIR instead of
7132         CVEC.
7133
7134 1996-12-13  Shawn McHorse  <riffraff@txdirect.net>
7135
7136         * url.c (get_urls_html): Skip "http:".
7137
7138 1996-12-13  Hrvoje Niksic  <hniksic@srce.hr>
7139
7140         * utils.c (strcasecmp): From glibc.
7141         (strncasecmp): Also.
7142         (strstr): Also.
7143
7144         * url.c: Added javascript: to the list of URLs prefixes.
7145
7146 1996-12-12  Shawn McHorse  <riffraff@txdirect.net>
7147
7148         * recur.c (retrieve_robots): Print the warning message only if
7149         verbose.
7150
7151 1996-12-12  Gregor Hoffleit  <flight@mathi.uni-heidelberg.DE>
7152
7153         * ftp.c (ftp_retrieve_list): Use NeXT old utime interface.
7154
7155 1996-12-12  Hrvoje Niksic  <hniksic@srce.hr>
7156
7157         * systhings.h: New file.
7158
7159         * ../configure.in: Check for utime.h
7160
7161         * ftp.c: Check whether we have unistd.h.
7162
7163 1996-11-27  Hrvoje Niksic  <hniksic@srce.hr>
7164
7165         * recur.c (recursive_retrieve): Send the canonical URL as referer.
7166         (recursive_retrieve): Call get_urls_html with the canonical URL.
7167
7168 1996-12-13  Kaveh R. Ghazi  <ghazi@caip.rutgers.edu>
7169
7170         * (configure.in, config.h.in, src/Makefile.in, src/*.[ch]): Add
7171         ansi2knr support for compilers which don't support ANSI style
7172         function prototypes and signatures.
7173
7174         * (aclocal.m4, src/ansi2knr.c, src/ansi2knr.1): New files.
7175
7176 1996-11-26  Hrvoje Niksic  <hniksic@srce.hr>
7177
7178         * url.c: Use it; Recognize paths ending with "." and ".." as
7179         directories.
7180         (url_filename): Append .n whenever file exists and could be a
7181         directory.
7182
7183         * url.h (ISDDOT): New macro.
7184
7185         * init.c (parse_line): Use unsigned char.
7186
7187         * url.c (get_urls_html): Cast to unsigned char * when calling
7188         htmlfindurl.
7189
7190         * html.c (htmlfindurl): Use unsigned char.
7191
7192         * version.c: Changed version to 1.4.3.
7193
7194 1996-11-25  Hrvoje Niksic  <hniksic@srce.hr>
7195
7196         * version.c: Released 1.4.2.
7197
7198         * ftp.c (getftp): Simplified assertion.
7199         (ftp_loop_internal): Remove symlink before downloading.
7200         (ftp_retrieve_list): Unlink the symlink name before attempting to
7201         create a symlink!
7202
7203         * options.h (struct options): Renamed print_server_response to
7204         server_response.
7205
7206         * ftp.c (rel_constr): Removed.
7207         (ftp_retrieve_list): Don't use it.
7208         (ftp_retrieve_list): Use opt.retr_symlinks.
7209
7210 1996-11-24  Hrvoje Niksic  <hniksic@srce.hr>
7211
7212         * main.c (main): New option retr_symlinks.
7213
7214         * url.c (convert_links): Print verbose message.
7215
7216 1996-11-24  Hrvoje Niksic  <hniksic@srce.hr>
7217
7218         * http.c (http_loop): Reset newloc in the beginning of function;
7219         would cause FMR in retrieve_url.
7220
7221 1996-11-23  Hrvoje Niksic  <hniksic@srce.hr>
7222
7223         * recur.c (convert_all_links): Find the URL of each HTML document,
7224         and feed it to get_urls_html; would bug out.
7225         (convert_all_links): Check for l2 instead of dl; removed dl.
7226
7227         * url.c (convert_links): Don't refer to freed newname.
7228
7229         * recur.c (recursive_retrieve): Add this_url to urls_downloaded.
7230
7231         * main.c (main): Print the OS_TYPE in the debug output, too.
7232
7233         * recur.c (recursive_retrieve): Check for opt.delete_after.
7234
7235         * main.c (main): New option delete-after.
7236
7237         * init.c (setval): Cleaned up.
7238
7239 1996-11-21  Hrvoje Niksic  <hniksic@srce.hr>
7240
7241         * Makefile.in (wget): Make `wget' the default target.
7242
7243         * ftp.c (ftp_loop_internal): Move noclobber checking out of the
7244         loop.
7245         (ftp_retrieve_list): Warn about non-matching sizes.
7246
7247         * http.c (http_loop): Made -nc non-dependent on opt.recursive.
7248
7249         * init.c (setnum): Renamed from setnuminf; New argument flags.
7250         (setval): Use it.
7251
7252         * main.c (main): Sorted the options.
7253         (main): New option --wait.
7254
7255 1996-11-21  Shawn McHorse  <riffraff@txdirect.net>
7256
7257         * html.c (htmlfindurl): Reset s->in_quote after getting out of
7258         quotes.
7259
7260 1996-11-20  Hrvoje Niksic  <hniksic@srce.hr>
7261
7262         * version.c: Changed version to 1.4.2.
7263
7264 1996-11-20  Hrvoje Niksic  <hniksic@srce.hr>
7265
7266         * version.c: Released 1.4.1.
7267
7268         * html.c (html_quote_string): New function.
7269         (ftp_index): Use it.
7270         (htmlfindurl): A more gentle ending debug message.
7271
7272         * ftp.c (ftp_loop): Check for opt.htmlify.
7273
7274         * init.c: New command htmlify.
7275
7276         * ftp.c (getftp): Nicer error messages, with `'-encapsulated
7277         strings.
7278         (ftp_loop): Print size of index.html.
7279
7280         * init.c (setval): Implement "styles".
7281
7282         * main.c (main): New option dotstyle.
7283
7284 1996-11-19  Hrvoje Niksic  <hniksic@srce.hr>
7285
7286         * ftp.c (getftp): Close the master socket in case of errors, after
7287         bindport().
7288
7289         * connect.c (bindport): Initialize msock to -1.
7290
7291         * ftp.c (getftp): Initialize dtsock to -1.
7292
7293         * connect.c (closeport): Don't close sock if sock == -1.
7294
7295 1996-11-18  Hrvoje Niksic  <hniksic@srce.hr>
7296
7297         * init.c (setnuminf): Nuked default value -- just leave unchanged.
7298         (setval): Don't send default values.
7299         (defaults): Use DEFAULT_TIMEOUT -- aaargh.
7300
7301         * options.h (struct options): Use long for dot_bytes.
7302
7303         * init.c (setquota): Renamed to setbytes.
7304         (setval): Use setbytes on DOTBYTES.
7305
7306 1996-11-17  Hrvoje Niksic  <hniksic@srce.hr>
7307
7308         * ftp.c (getftp): Initialize con->dltime.
7309
7310         * recur.c (recursive_retrieve): Use same_host instead of
7311         try_robots; simply load robots_txt whenever the host is changed.
7312         (recursive_retrieve): Free forbidden before calling parse_robots.
7313
7314 1996-11-16  Hrvoje Niksic  <hniksic@srce.hr>
7315
7316         * retr.c (show_progress): Use them.
7317
7318         * options.h (struct options): New options dot_bytes, dots_on_line
7319         and dot_spacing.
7320
7321 1996-11-16  Mark Boyns  <boyns@sdsu.edu>
7322
7323         * recur.c (recursive_retrieve): Retrieve directories regardless of
7324         acc/rej rules; check for empty u->file.
7325
7326 1996-11-14  Hrvoje Niksic  <hniksic@srce.hr>
7327
7328         * init.c (setval): Use it.
7329
7330         * utils.c (merge_vecs): New function.
7331
7332         * init.c (setval): Reset the list-type functions when encountering
7333         "".
7334
7335 1996-11-14  Shawn McHorse  <riffraff@txdirect.net>
7336
7337         * recur.c (recursive_retrieve): Use base_url instead of this_url
7338         for no_parent.
7339
7340 1996-11-14  Shawn McHorse  <riffraff@txdirect.net>
7341
7342         * html.c (htmlfindurl): Reset s->in_quote after exiting the quote.
7343
7344 1996-11-13  Hrvoje Niksic  <hniksic@srce.hr>
7345
7346         * utils.c (sepstring): Rewrote; don't use strtok.
7347
7348         * recur.c (recursive_retrieve): Enter assorted this_url to slist
7349         when running the first time.
7350         (retrieve_robots): Warn to ignore errors when robots are loaded.
7351
7352         * utils.c (load_file): Moved from url.c.
7353
7354         * http.c: Made static variables const too in h* functions.
7355
7356         * main.c (main): Renamed --continue-ftp to --continue.
7357
7358         * recur.c (recursive_retrieve): Use it.
7359
7360         * utils.c (frontcmp): New function.
7361
7362         * url.c (accdir): New function.
7363
7364         * html.c (htmlfindurl): Recognize <area href=...>.
7365
7366         * ftp.c (ftp_retrieve_dirs): Implemented opt.includes.
7367
7368         * init.c (setval): Free the existing opt.excludes and
7369         opt.includes, if available.
7370
7371         * main.c (main): New option -I.
7372
7373 1996-11-12  Hrvoje Niksic  <hniksic@srce.hr>
7374
7375         * ftp.c (ftp_retrieve_glob): Do not weed out directories.
7376
7377         * version.c: Changed version to 1.4.1.
7378
7379 1996-11-11  Hrvoje Niksic  <hniksic@srce.hr>
7380
7381         * version.c: Released 1.4.0.
7382
7383 1996-11-10  Hrvoje Niksic  <hniksic@srce.hr>
7384
7385         * main.c (main): Free com and val after parse_line.
7386         (printhelp): Reorder the listing.
7387
7388         * http.c: More robust header parsing.
7389
7390         * http.c: Allow any number of spaces, or no spaces, precede ':'.
7391         (hskip_lws): New function.
7392         (haccepts_bytes): New function.
7393         (gethttp): Use it.
7394
7395         * init.c (setval): Check header sanity.
7396         (setval): Allow resetting of headers.
7397
7398 1996-11-10  Hrvoje Niksic  <hniksic@srce.hr>
7399
7400         * http.c (http_loop): Don't use has_wildcards.
7401
7402         * http.c (gethttp): Free all_headers -- would leak.
7403
7404         * recur.c (recursive_retrieve): Initialize depth to 1 instead of
7405         0 -- this fixes a long-standing bug in -rl.
7406
7407 1996-11-09  Hrvoje Niksic  <hniksic@srce.hr>
7408
7409         * ftp.c: Use -1 as "impossible" value for con->fd.
7410
7411         * url.h (URL_SEPARATOR): Don't treat `*' and `+' as separators.
7412
7413         * init.c (parse_line): Use isalpha.
7414
7415         * ftp-unix.c: Use HAVE_UNISTD_H.
7416
7417         * mtch.c (has_wildcards): Don't match \.
7418
7419         * http.c (http_loop): Warn on HTTP wildcard usage.
7420
7421 1996-11-08  Hrvoje Niksic  <hniksic@srce.hr>
7422
7423         * url.c (url_filename): Do not create numbered suffixes if
7424         opt.noclobber -- would bug out on -nc.
7425
7426 1996-11-07  Hrvoje Niksic  <hniksic@srce.hr>
7427
7428         * recur.c (parse_robots): Don't chuck out the commands without
7429         arguments (`Disallow:<empty>' didn't work).
7430         (parse_robots): Compare versions lowercase.
7431         (parse_robots): Match on base_version, not version_string!
7432         (parse_robots): Handle comments properly.
7433         (parse_robots): Match versions in a sane way.
7434
7435         * init.c: Print nicer error messages.
7436
7437         * version.c: Changed version to 1.4.0.
7438
7439 1996-11-06  Hrvoje Niksic  <hniksic@srce.hr>
7440
7441         * version.c: Released 1.4.0-test2.
7442
7443         * init.c (run_wgetrc): Close fp.
7444
7445         * ftp.c (ftp_retrieve_dirs): Allocate the correct length for
7446         u->dir.
7447
7448 1996-11-06  Hrvoje Niksic  <hniksic@srce.hr>
7449
7450         * init.c (setquota): Allow inf as quota specification.
7451
7452 1996-11-05  Hrvoje Niksic  <hniksic@srce.hr>
7453
7454         * ftp.c (ftp_retrieve_dirs): Return QUOTEXC if quota exceeded.
7455         (ftp_retrieve_glob): Return QUOTEXC on quota exceeded.
7456
7457         * main.c (main): Check for quota by comparison with downloaded
7458         stuff, not from status.
7459
7460         * connect.c (select_fd): Should compile on HPUX without warnings now.
7461
7462         * ftp.c (ftp_get_listing): Check whether ftp_loop_internal
7463         returned RETROK.
7464
7465 1996-11-04  Hrvoje Niksic  <hniksic@srce.hr>
7466
7467         * ftp.c (ftp_retrieve_glob): Print the pattern nicely.
7468         (getftp): Return FTPRETRINT on control connection error.
7469
7470         * html.c (htmlfindurl): Recognize <embed src=...> and
7471         <bgsound src=...>.
7472         (ftp_index): Handle username and password correctly.
7473
7474         * main.c (main): Made `-np' a synonim for --no-parent.
7475
7476 1996-11-02  Hrvoje Niksic  <hniksic@srce.hr>
7477
7478         * ftp.c (ftp_loop): Check for opt.ftp_glob too before calling
7479         ftp_retrieve_glob.
7480
7481         * version.c: Changed version to 1.4.0-test2.
7482
7483 1996-11-02  Hrvoje Niksic  <hniksic@srce.hr>
7484
7485         * version.c: Released 1.4.0-test1.
7486
7487         * url.c (str_url): Don't use sprintf when creating %2F-prefixed
7488         directory.
7489         (convert_links): Removed definition of make_backup.
7490
7491         * http.h: Removed definition of MAX_ERROR_LENGTH.
7492
7493         * host.c (ftp_getaddress): Check for "(none)" domains.
7494
7495         * ftp.c (ftp_retrieve_dirs): Docfix.
7496
7497         * http.c (gethttp): Use ou->referer instead of u->referer.
7498
7499         * retr.c (retrieve_url): Reset u to avoid freeing pointers twice;
7500         this was known to cause coredumps on Linux.
7501
7502         * html.c (ftp_index): Cast the argument to local_time to time_t *.
7503
7504 1996-11-01  Hrvoje Niksic  <hniksic@srce.hr>
7505
7506         * connect.c (select_fd): Use exceptfds -- once and for all.
7507
7508         * retr.c (retrieve_from_file): Free filename after
7509         recursive_retrieve.
7510         (retrieve_from_file): Send RFIRST_TIME to recursive_retrieve on
7511         first-time retrieval.
7512         (retrieve_from_file): Return uerr_t; new argument, count.
7513         (retrieve_from_file): Break on QUOTEXC.
7514
7515         * init.c (setquota): Fixed a bug that caused rejection of
7516         non-postfixed values..
7517
7518 1996-10-30  Hrvoje Niksic  <hniksic@srce.hr>
7519
7520         * version.c: Changed name to wget.
7521
7522         * connect.c (iread): Smarter use of select.
7523         (select_fd): Set errno on timeout.  If not timeout, return 1
7524         instead of 0.
7525
7526 1996-10-29  Hrvoje Niksic  <hniksic@srce.hr>
7527
7528         * ftp.c (ftp_loop_internal): Don't use con->cmd before
7529         establishing it.
7530
7531 1996-10-26  Hrvoje Niksic  <hniksic@srce.hr>
7532
7533         * http.c (gethttp): Send correct referer when using proxy.
7534         (gethttp): Use struct urlinfo ou to access the relevant data; send
7535         correct authorization in all cases.
7536
7537         * host.c (same_host): Use skip_uname to skip username and
7538         password.
7539
7540         * url.c (skip_uname): New function.
7541         (parseurl): Use it.
7542
7543         * host.c (same_host): Do not assume HTTP -- same_host should now
7544         be totally foolproof.
7545
7546         * url.c (skip_proto): New function.
7547         (parse_uname): Use it.
7548
7549         * http.c (gethttp): Create local user and passwd from what is
7550         given.
7551
7552         * url.c (parseurl): Check for HTTP username and password too.
7553
7554 1996-10-25  Hrvoje Niksic  <hniksic@srce.hr>
7555
7556         * config.h.in: Removed #define gethostbyname R...
7557
7558 1996-10-22  Hrvoje Niksic  <hniksic@srce.hr>
7559
7560         * version.c: Changed version to 1.4.0-test1.
7561
7562 1996-10-21  Hrvoje Niksic  <hniksic@srce.hr>
7563
7564         * version.c: "Released" 1.4b29.
7565
7566         * recur.c (recursive_retrieve): Check for no_parent.
7567
7568         * init.c (setval): Option update.
7569
7570         * main.c (main): New option no-parent.
7571
7572         * options.h (struct options): New variable no_parent.
7573
7574         * recur.c (recursive_retrieve): Only files are checked for
7575         opt.accepts and opt.rejects.
7576         (recursive_retrieve): Check directories for opt.excludes.
7577         (recursive_retrieve): Make the dir absolute when checking
7578         opt.excludes.
7579
7580         * html.c (htmlfindurl): Recognize <applet code=...> and <script
7581         src=...>
7582
7583 1996-10-18  Hrvoje Niksic  <hniksic@srce.hr>
7584
7585         * ftp.c (getftp): Do not line-break assert entries at all.
7586         (ftp_retrieve_dirs): docfix.
7587
7588         * connect.c (select_fd): Use fd + 1 as nfds.
7589
7590         * version.c: Changed version to 1.4b29.
7591
7592 1996-10-18  Hrvoje Niksic  <hniksic@srce.hr>
7593
7594         * version.c: "Released" 1.4b28.
7595
7596         * ftp.c (ftp_loop_internal): Check whether f->size == len and
7597         don't continue the loop if it is.
7598         (ftp_get_listing): Remove list_filename on unsuccesful loop.
7599
7600 1996-10-17  Hrvoje Niksic  <hniksic@srce.hr>
7601
7602         * ftp.c (ftp_loop_internal): Use strcpy to initialize tmp.
7603         (getftp): Do not use multiline assert.
7604
7605         * http.c (hparsestatline): Use mjr and mnr instead of major and
7606         minor, which don't compile on Ultrix.
7607         (http_loop): Use strcpy() to initialize tmp.
7608
7609         * all: Geturl -> Fetch
7610
7611 1996-10-17  Hrvoje Niksic  <hniksic@srce.hr>
7612
7613         * recur.c (parse_robots): Fixed an off-by-one bug when looking for
7614         ':'.
7615
7616         * html.c (htmlfindurl): Fixed several possible off-by-one bugs by
7617         moving `bufsize &&' to the beginning of each check in for-loops.
7618
7619         * recur.c (parse_robots): Close fp on exit.
7620
7621         * url.c (mymkdir): Check for each directory before creating.
7622
7623 1996-10-16  Hrvoje Niksic  <hniksic@srce.hr>
7624
7625         * version.c: Changed version to 1.4b28.
7626
7627 1996-10-16  Hrvoje Niksic  <hniksic@srce.hr>
7628
7629         * version.c: "Released" 1.4b27.
7630
7631         * init.c (parse_line): Use isspace.
7632         (parse_line): Free *com on all errors.
7633
7634         * ftp.c (ftp_loop): Change FTPOK to RETROK before exiting.
7635         (delelement): Use next instead of f->next and prev instead of
7636         f->prev.
7637         (delelement): Free the members of the deleted element.
7638
7639         * http.c (http_loop): Do not return RETROK on code != 20x.
7640
7641         * init.c (cleanup): Free opt.user_header.
7642         (cleanup): Free opt.domains.
7643
7644         * url.c (freelists): Moved to cleanup().
7645
7646         * http.c (hparsestatline): Docfix.
7647
7648         * main.c (main): Return with error status on unsuccesful
7649         retrieval.
7650
7651         * init.c (setval): Do not remove listing when mirroring.
7652
7653         * url.c (url_filename): Use opt.fileprefix.
7654
7655         * ftp.c (ftp_get_listing): Use url_filename to get filename for
7656         .listing.
7657
7658         * main.c (main): New option: -rn.
7659
7660 1996-10-15  Hrvoje Niksic  <hniksic@srce.hr>
7661
7662         * Makefile.in (RM): Added RM = rm -f.
7663
7664         * host.c (clean_hosts): New function.
7665         (free_hlist): Just free the list, no reset.
7666
7667         * version.c: Changed version to 1.4b27.
7668
7669 1996-10-13  Hrvoje Niksic  <hniksic@srce.hr>
7670
7671         * version.c: "Released" 1.4b26.
7672
7673         * retr.c (retrieve_from_file): If call get_urls_html with
7674         opt.spider to make it silent in spider mode.
7675
7676         * url.c (str_url): Use CLEANDUP instead of URL_CLEANSE.
7677
7678         * url.h (CLEANDUP): New macro.
7679
7680         * http.c (gethttp): Fixed a bug that freed location only when it
7681         was NULL.
7682
7683         * retr.c (retrieve_url): Free url if it will not be stored,
7684         i.e. newloc is NULL.
7685
7686         * html.c (htmlfindurl): Handle exiting from quotes correctly; the
7687         old version would bug out on <a href="x#a"href="y">.
7688
7689         * html.h (state_t): New member in_quote.
7690
7691         * html.c (htmlfindurl): Free s->attr at the beginning of
7692         attr-loop.
7693
7694         * recur.c (recursive_retrieve): Recognize RCLEANUP.
7695         (tried_robots): Make hosts a global variable.
7696         (recursive_retrieve): Free constr after URL host optimization.
7697         (tried_robots): Free urlinfo before exiting.
7698
7699         * utils.c (free_slist): New function.
7700
7701         * recur.c (recursive_retrieve): Use flags to add cleanup
7702         possibility.
7703
7704         * main.c (main): Free filename after recursive_retrieve.
7705
7706         * http.c (gethttp): Store successful responses too.
7707
7708 1996-10-12  Hrvoje Niksic  <hniksic@srce.hr>
7709
7710         * all: Constified the whole source.  This required some minor
7711         changes in many functions in url.c, possibly introducing bugs -- I
7712         hope not.
7713
7714         * ftp-basic.c: Removed last_respline.
7715
7716         * http.c (gethttp): Free type.
7717
7718         * host.c (same_host): Free real1 and real2.
7719
7720         * main.c (main): New option --spider.
7721
7722         * retr.c (get_contents): Don't reset errno.
7723
7724         * main.c (main): Sorted the options.
7725
7726         * connect.c (iread): Set errno to ETIMEDOUT only if it was left
7727         uninitialized by select().
7728
7729         * http.c (http_loop): Print the time when the connection is
7730         closed.
7731         (gethttp): Debug-print the HTTP request.
7732
7733 1996-10-11  Hrvoje Niksic  <hniksic@srce.hr>
7734
7735         * connect.c (iread): Do not try reading after timeout.
7736
7737         * main.c (main): Would bug out on -T.
7738
7739         * connect.c (select_fd): Do not use exceptfds.
7740         (iread): Set ETIMEDOUT on select_fd <= 0.
7741
7742         * version.c: Changed version to 1.4b26.
7743
7744 1996-10-10  Hrvoje Niksic  <hniksic@srce.hr>
7745
7746         * version.c: "Released" 1.4b25.
7747
7748         * ftp-unix.c (ftp_parse_unix_ls): Ignore lines without file name
7749         or link name.
7750
7751         * http.c (gethttp): Add errcode to struct hstat.
7752         (http_loop): Use it.
7753
7754         * url.c (no_proxy_match): Simplify using char** for no_proxy.
7755
7756         * options.h (struct options): Make opt.no_proxy a vector.
7757
7758         * utils.c (sepstring): Use !*s instead of !strlen(s).
7759
7760         * init.c (setval): Set opt.maxreclevel to 0 on --mirror.
7761         (getperms): Use ISODIGIT instead of isdigit.
7762
7763         * ftp.c (getftp): Print time.
7764
7765         * main.c (main): Use legible output of downloaded quantity.
7766
7767         * ftp.c (getftp): Use elapsed_time().
7768         (ftp_loop_internal): Use rate().
7769
7770         * http.c (http_loop): Add download ratio output; Use rate().
7771
7772         * utils.c (rate): New function.
7773
7774 1996-10-09  Hrvoje Niksic  <hniksic@srce.hr>
7775
7776         * http.c (http_loop): Use timer.
7777
7778         * ftp.c: Split to ftp-basic.c and ftp.c
7779
7780         * utils.c (reset_timer): New function.
7781         (elapsed_time): New function.
7782
7783         * retr.c (show_progress): Make bytes_in_line and offs long; should
7784         work on 16-bit machines.
7785
7786 1996-10-08  Hrvoje Niksic  <hniksic@srce.hr>
7787
7788         * url.c (in_acclist): New argument backward.
7789
7790         * ftp.c (ftp_retrieve_glob): Use acceptable() to determine whether
7791         a file should be retrieved according to suffix.
7792         (ftp_get_listing): Check the return value of unlink; Do not call
7793         ftp_retrieve_dirs if depth reached maxreclevel.
7794         (ftp_retrieve_dirs): Check whether the directory is in
7795         exclude-list.
7796
7797         * main.c (main): Print the version number at the beginning of
7798         DEBUG output.
7799         (main): Use strrchr when creating exec_name.
7800
7801         * ftp.c (ftp_retrieve_glob): Do not close control connection.
7802
7803         * version.c: Changed version to 1.4b25.
7804
7805 1996-10-07  Hrvoje Niksic  <hniksic@srce.hr>
7806
7807         * version.c: "Released" 1.4b24.
7808
7809         * Makefile.in: Rewrite.
7810
7811         * ftp.c (ftp_loop_internal): Likewise.
7812
7813         * retr.c (time_str): Check for failed time().
7814
7815         * html.c (htmlfindurl): Recognize <fig src> and <overlay src> from
7816         HTML3.0.
7817
7818         * retr.c (time_str): Return time_t *.
7819
7820         * connect.c (bindport): Close msock on unsuccesful bind.
7821         (bindport): The same for getsockname and listen.
7822
7823         * retr.c (retrieve_url): Allow any number of retries on
7824         proxy.
7825
7826         * http.c (gethttp): Do not treat errno == 0 as timeout.
7827         (http_loop): Likewise.
7828         (http_loop): Cosmetic changes.
7829
7830         * connect.c (iread): Set errno to ETIMEDOUT in case of timeout.
7831
7832         * retr.c (get_contents): Reset errno.
7833
7834         * ftp.c (getftp): Minor fixes.
7835
7836 1996-10-06  Hrvoje Niksic  <hniksic@srce.hr>
7837
7838         * http.c: Do not use backups.
7839
7840         * geturl.1 (WARNING): Warn that man-page could be obsolete.
7841
7842         * getopt.c (getopt_long): Moved to getopt.c
7843
7844         * geturl.texi: Enhanced.
7845
7846         * main.c (main): Use it.
7847
7848         * recur.c (convert_all_links): New function.
7849
7850         * utils.c (add_slist): New argument flags.
7851
7852         * recur.c (recursive_retrieve): Update a list of downloaded URLs.
7853         (parse_robots): Do not chuck out empty value fields.
7854         (parse_robots): Make yourself welcome on empty Disallow.
7855
7856         * version.c: Changed version to 1.4b24.
7857
7858 1996-10-06  Hrvoje Niksic  <hniksic@srce.hr>
7859
7860         * version.c: "Released" 1.4b23.
7861
7862         * ftp.c (ftp_loop_internal): Get the time after getftp.
7863
7864         * Makefile.in (install.info): New target.
7865         (install): Use it.
7866
7867         * http.c (http_loop): Fix output when doing -O.
7868
7869 1996-10-05  Hrvoje Niksic  <hniksic@srce.hr>
7870
7871         * geturl.texi: New file.
7872
7873         * main.c (main): Do not print the warnings and download summary if
7874         opt.quiet is set.
7875
7876         * version.c: Changed version to 1.4b23.
7877
7878 1996-10-05  Hrvoje Niksic  <hniksic@srce.hr>
7879
7880         * "Released" 1.4b22.
7881
7882         * atotm.c (atotm): Use True and False instead of TRUE and FALSE,
7883         to avoid redefinition warnings.
7884
7885         * host.c (store_hostaddress): Use memcpy() to copy the address
7886         returned by inet_addr.
7887
7888         * version.c: Changed version to 1.4b22.
7889
7890 1996-10-04  Hrvoje Niksic  <hniksic@srce.hr>
7891
7892         * version.c: "Released" 1.4b21.
7893
7894         * ftp-unix.c (ftp_parse_ls): Renamed to ftp_parse_unix_ls.
7895
7896         * ftp.c (ftp_port): Use conaddr.
7897         (getftp): Print the file length.
7898         (ftp_retrieve_list): Check the stamps of plain files only.
7899
7900         * connect.c (closeport): Do not call shutdown().
7901         (conaddr): New function.
7902
7903         * html.c (ftp_index): Made it dfp-aware.
7904
7905         * init.c (cleanup): New name of freemem. Close opt.dfp.
7906
7907         * ftp.c (getftp): Use opt.dfp if it is set.
7908
7909         * ftp-unix.c (ftp_parse_ls): Recognize time in h:mm format.
7910
7911         * ftp.c (ftp_retrieve_dirs): Fixed a bug that caused incorrect
7912         CWDs to be sent with recursive FTP retrievals.
7913
7914 1996-10-03  Hrvoje Niksic  <hniksic@srce.hr>
7915
7916         * recur.c (parse_robots): Made it more compliant with "official"
7917         specifications.
7918
7919         * http.c: New function.
7920
7921         * ftp-unix.c (ftp_parse_ls): Added better debug output.
7922
7923         * ftp.c (getftp): Print out the LIST in case of
7924         opt.print_server_response.
7925
7926         * version.c: Changed version to 1.4b21.
7927
7928 1996-10-01  Hrvoje Niksic  <hniksic@srce.hr>
7929
7930         * version.c: "Released" 1.4b20.
7931
7932         * README: Update.
7933
7934         * http.c (gethttp): Preset lengths of various headers instead of
7935         calculating them dynamically.
7936         (gethttp): Check for 206 partial contents.
7937
7938 1996-09-30  Hrvoje Niksic  <hniksic@srce.hr>
7939
7940         * configure.in: Set SYSTEM_GETURLRC to $libdir/geturlrc
7941
7942         * http.c (gethttp): Send the port number in the Host: header.
7943
7944 1996-09-29  Hrvoje Niksic  <hniksic@srce.hr>
7945
7946         * http.c (gethttp): Send host: header.
7947         (gethttp): Add the possibility of user-defined headers.
7948         (gethttp): Move decision about pragma: no-cache to http_loop,
7949         where it belongs.
7950         (gethttp): Pass a struct instead of enormous argument list.
7951         (http_loop): Use a new, fancier display format.
7952         (ftp_loop): Likewise.
7953
7954         * main.c: (hangup): Turn off buffering of the new log file.
7955
7956         * install-sh: Likewise.
7957
7958         * config.sub: Replace with the one in autoconf-2.10
7959
7960         * geturl.1: Update.
7961
7962         * init.c: New options httpuser and httppasswd.
7963
7964         * http.c: (base64_encode_line): New function.
7965         (gethttp): Send authentication.
7966
7967         * connect.c (make_connection): Use store_hostaddress.
7968
7969 1996-09-28  Hrvoje Niksic  <hniksic@srce.hr>
7970
7971         * host.c (store_hostaddress): New function.
7972
7973         * NEWS: Update.
7974
7975         * http.c (hgetrange): New function.
7976         (gethttp): Use ranges.
7977
7978         * utils.c (numdigit): Accept long instead of int.
7979
7980         * http.c (http_loop): Add restart capabilities.
7981
7982         * ftp.c (ftp_retrieve_glob): Fixed a bug that could cause matchres
7983         being used uninitialized.
7984         (ftp_retrieve_list): Similar fix.
7985
7986         * host.c (add_hlist): Fixed a bug that could cause cmp being used
7987         uninitialized.
7988
7989         * url.c (construct_relative): New function.
7990
7991         * recur.c (recursive_retrieve): Use it.
7992
7993         * retr.c (convert_links): New function.
7994
7995 1996-09-27  Hrvoje Niksic  <hniksic@srce.hr>
7996
7997         * url.c (free_urlpos): New function.
7998
7999         * recur.c (recursive_retrieve): Adapt.
8000
8001         * url.c (get_urls_html): Return a linked list instead of a vector.
8002
8003         * url.c (get_urls_file): Return a linked list instead of a vector.
8004
8005         * geturl.1: Update.
8006
8007         * http.c (gethttp): Implement it.
8008
8009         * init.c (setval): New option: SAVEHEADERS
8010
8011         * ftp.c (ftp_loop_internal): Do not set restval if listing is to
8012         be retrieved. Lack of this test caused bugs when the connection
8013         was lost during listing.
8014
8015         * retr.c (retrieve_url): Fixed a bug that caused
8016         coredumps. *newloc is now reset by default.
8017         (retrieve_url): Lift the twenty-tries limit on proxies.
8018
8019         * version.c: Changed version to 1.4b20.
8020
8021 1996-09-20  Hrvoje Niksic  <hniksic@srce.hr>
8022
8023         * version.c: "Released" 1.4b19.
8024
8025 1996-09-19  Hrvoje Niksic  <hniksic@srce.hr>
8026
8027         * ftp.c (ftp_loop_internal): Renamed from ftp_1fl_loop.
8028         (getftp): Changed prototype to accept ccon *.
8029
8030 1996-09-17  Hrvoje Niksic  <hniksic@srce.hr>
8031
8032         * ftp.c (ftp_retrieve_list): Fixed a bug that caused setting
8033         incorrect values to files pointed to by symbolic links.
8034         (ftp_1fl_loop): Do not count listings among the downloaded URL-s.
8035
8036 1996-09-16  Hrvoje Niksic  <hniksic@srce.hr>
8037
8038         * url.c (mkstruct): Do not prepend "./" in front of a pathname.
8039
8040         * main.c (main): New option: --user-agent.
8041
8042         * geturl.1: Ditto.
8043
8044         * init.h: Ditto.
8045
8046         * init.c (setval): Ditto.
8047
8048         * main.c (main): Rename "server-headers" to "server-response".
8049
8050         * ftp-unix.c (ftp_parse_ls): Check for asterisks at the end of
8051         executables in 'ls -F' listings.
8052
8053 1996-09-15  Hrvoje Niksic  <hniksic@srce.hr>
8054
8055         * url.c (parseurl): Remove realloc() and sprintf().
8056         (str_url): Get rid of sprintf().
8057
8058         * recur.c (recursive_retrieve): Enable FTP recursion through proxy
8059         servers.
8060
8061         * url.h (URL_CLEANSE): Made it else-resistant.
8062         (USE_PROXY): New macro.
8063
8064 1996-09-14  Hrvoje Niksic  <hniksic@srce.hr>
8065
8066         * NEWS: Update.
8067
8068         * version.c: Changed version to 1.4b19.
8069
8070 1996-09-14  Hrvoje Niksic  <hniksic@srce.hr>
8071
8072         * version.c: "Released" 1.4b18.
8073
8074         * url.c: Made it reallocate space exponentially.
8075
8076 1996-09-14  Drazen Kacar  <dave@fly.cc.fer.hr>
8077
8078         * html.c (htmlfindurl): Added <frame src> and <iframe src> among
8079         the list of stuff to fetch.
8080
8081 1996-09-13  Hrvoje Niksic  <hniksic@srce.hr>
8082
8083         * url.c (get_urls_html): Fixed a bug that caused SIGSEGV's with
8084         -Fi.
8085
8086         * html.c (htmlfindurl): Rewrite.
8087
8088         * http.c (gethttp): Use opt.proxy_cache.
8089
8090         * main.c (main): Added --cache option.
8091
8092         * ftp.c (ftp_response): Print server response if opt.print_server
8093         response is set.
8094         (getftp): Print newlines after each request if the server response
8095         is to be printed.
8096         (ftp_response): Copy the last response line to last_respline.
8097
8098         * http.c (gethttp): Add Pragma: nocache for retried
8099         proxy-retrievals.
8100
8101         * ftp.c (getftp): Use it.
8102
8103         * retr.c (buf_discard): New function.
8104
8105         * ftp.c (ftp_response): Use buf_readchar().
8106         (getftp): Flush the control connection buffer before calling
8107         get_contents().
8108
8109         * retr.c (buf_readchar): New function.
8110         (buf_flush): New function.
8111         (get_contents): Use buf_readchar() instead of read(x, x, 1).
8112         (get_contents): Use buf_flush.
8113
8114 1996-09-12  Hrvoje Niksic  <hniksic@srce.hr>
8115
8116         * ftp.c: Incorporate changes to ftp_response.
8117
8118         * ftp.c (ftp_response): Allocate the server response dynamically,
8119         as in read_whole_line and fetch_next_header.
8120
8121         * utils.c (read_whole_line): Fixed a bug that prevented reading
8122         the last line if it is not \n-terminated. Also fixed a possible
8123         memory overflow.
8124
8125         * http.c (fetch_next_header): Return malloc-ed string as large as
8126         needed.
8127         (gethttp): Use new fetch_next_header.
8128
8129 1996-09-12  Hrvoje Niksic  <hniksic@srce.hr>
8130
8131         * http.c (hgetlen): Compute the header length the first time only.
8132         (hgettype): Ditto.
8133         (hgetlocation): Ditto.
8134         (hgetmodified): Ditto.
8135
8136 1996-09-11  Hrvoje Niksic  <hniksic@srce.hr>
8137
8138         * sample.geturlrc: Update.
8139
8140 1996-09-10  Hrvoje Niksic  <hniksic@srce.hr>
8141
8142         * http.c (http_loop): Ditto.
8143
8144         * ftp.c (getftp): Open the output file as binary.
8145
8146         * version.c: Changed version to 1.4b18.
8147
8148 1996-09-10  Hrvoje Niksic  <hniksic@srce.hr>
8149
8150         * version.c: "Released" 1.4b17.
8151
8152         * ftp-unix.c (ftp_parse_ls): If unable to open file, return NULL
8153         instead of failed assertion.
8154
8155 1996-09-09  Hrvoje Niksic  <hniksic@srce.hr>
8156
8157         * ftp.c (ftp_get_listing): Add a numbered suffix to LIST_FILENAME
8158         if a file of that name already exists.
8159
8160 1996-09-05  Hrvoje Niksic  <hniksic@srce.hr>
8161
8162         * ftp.c (ftp_1fl_loop): Handler FTPPORTERR and FOPENERR correctly.
8163
8164         * config.h.in: Define gethostbyname as Rgethostbyname when using
8165         Socks.
8166
8167         * configure.in: Check for -lresolv if using Socks.
8168
8169         * version.c: Changed version to 1.4b17.
8170
8171 1996-07-15  Hrvoje Niksic  <hniksic@srce.hr>
8172
8173         * version.c: "Released" 1.4b16.
8174
8175         * http.c (gethttp): More intelligent check for first line of HTTP
8176         response.
8177         (gethttp): Would bug out on time-stamping.
8178
8179         * version.c: Changed version to 1.4b16.
8180
8181 1996-07-11  Hrvoje Niksic  <hniksic@srce.hr>
8182
8183         * version.c: Released 1.4b15.
8184
8185         * http.c (http_loop): Print \n after the loop entry, not before.
8186
8187         * url.c (url_filename): Use ISDOT.
8188
8189         * url.h (ISDOT): New macro.
8190
8191         * recur.c (recursive_retrieve): Change only opt.recursive for
8192         following FTP.
8193
8194 1996-07-11  Antonio Rosella <antonio.rosella@agip.it>
8195
8196         * socks/geturl.cgi: Fixed version No.
8197
8198         * socks/download-netscape.html: Ditto.
8199
8200         * socks/download.html: Changed socks.html to download.html.
8201
8202 1996-07-11  Hrvoje Niksic  <hniksic@srce.hr>
8203
8204         * url.c (url_filename): Check for opt.dirstruct instead for
8205         opt.recursive && opt.dirstruct.
8206
8207         * init.c (defaults): Ditto.
8208         (defaults): Reset dirstruct by default.
8209         (setval): Set opt.dirstruct whenever setting recursive.
8210
8211         * init.h: Removed FORCEDIRHIER.
8212
8213         * INSTALL: Added -L to socks-description.
8214
8215         * version.c: Changed version to 1.4b15.
8216
8217 1996-07-10  Hrvoje Niksic  <hniksic@srce.hr>
8218
8219         * version.c: "Released" 1.4b14.
8220
8221         * geturl.1: Update AUTHOR to include Rosella as contributor.
8222
8223         * NEWS: Update.
8224
8225         * socks/geturl.cgi: Simplified command creation, nuked <blink>.
8226
8227         * socks/geturl.cgi: Wrap nutscape extensions within if $netscape.
8228         (cal_time): Fix == to eq.
8229
8230         * socks/geturl.cgi: GPL-ized with permission of A. Rosella.
8231
8232         * geturl.1 (hostname): Moved URL CONVENTIONS to the beginning.
8233
8234         * Makefile.in: Use @VERSION@.
8235
8236         * configure.in: Check version from version.c.
8237
8238         * socks/geturl.cgi: Changed /pub/bin/perl to /usr/bin/perl.
8239
8240         * socks/download.html: Created from download-netscape.html, made
8241         HTML-2.0 compliant.
8242
8243         * recur.c (recursive_retrieve): Set opt.force_dir_hier when
8244         following FTP links from recursions.
8245
8246 1996-07-09  Hrvoje Niksic  <hniksic@srce.hr>
8247
8248         * url.c (mymkdir): Fixed a bug that prevented mymkdir() to create
8249         absolute directories correctly.
8250
8251         * version.c: Changed version to 1.4b14.
8252
8253 1996-07-09  Hrvoje Niksic  <hniksic@srce.hr>
8254
8255         * version.c: "Released" 1.4b13.
8256
8257         * url.c (make_backup): New function.
8258
8259         * http.c (http_loop): Make a backup copy of the local file (using
8260         rename(2)) before opening it.
8261
8262         * main.c (main): Added --backups.
8263
8264         * host.c (ftp_getaddress): Bail out on failed mycuserid().
8265         (ftp_getaddress): Check for leading dot on MY_DOMAIN.
8266         (ftp_getaddress): Check for empty, null or (null) domain.
8267
8268         * url.c (get_urls_html): If this_url is NULL, the base must have a
8269         protocol.
8270         (parseurl): Use has_proto.
8271
8272         * retr.c (retrieve_url): Warn when proxy is used with more than 20
8273         retries.
8274
8275         * url.c (mkstruct): Create the directory (calling mymkdir()) only
8276         if it is not already there.
8277         (has_proto): New function.
8278         (get_urls_html): Eliminate the remaining call to findurl -- use
8279         has_proto.
8280
8281         * geturl.1: Ditto.
8282
8283         * main.c: Change -X to -x.
8284
8285         * url.c (url_filename): Simplify creation of filename if
8286         prefix_files is set.
8287         (url_filename): Simplify everything. And I do mean *everything*.
8288         (mkstruct): Add dir_prefix before hostname.
8289         (path_simplify): Fixed a bug that caused writing outside the path
8290         string in case of "." and ".." path strings.
8291
8292 1996-07-06  Hrvoje Niksic  <hniksic@srce.hr>
8293
8294         * init.c: Added --mirror.
8295
8296         * main.c (main): Added -X to force saving of directory hierarchy.
8297
8298         * ftp.c (ftp_retrieve_list): Added recursion depth counter.
8299         (ftp_retrieve_list): Check whether quota is exceeded.
8300
8301         * url.c (get_urls_html): Skip leading blanks for absolute URIs.
8302
8303         * http.c (gethttp): Use referer if present.
8304
8305         * recur.c (recursive_retrieve): Set u->referer before calling
8306         retrieve_url.
8307
8308         * url.c (newurl): Use memset to nullify the struct members.
8309         (freeurl): Free the referer field too.
8310
8311         * url.h: Added referer to urlinfo.
8312
8313         * geturl.1: Updated the manual to document some of the new features.
8314
8315         * utils.c (numdigit): Moved from url.c.
8316
8317         * README: Rewritten.
8318
8319         * config.h.in: Add the support for socks.
8320
8321         * configure.in: Add the support for socks.
8322
8323         * url.c (url_filename): If the dir_prefix is ".", work with just
8324         the file name.
8325         (url_filename): Do not look for .n extensions if timestamping if
8326         turned on.
8327
8328         * retr.c (show_progress): Skip the over-abundant restval data, and
8329         print the rest of it with ',' instead of '.'.
8330
8331 1996-07-05  Hrvoje Niksic  <hniksic@srce.hr>
8332
8333         * retr.c (show_progress): Changed second arg. to long (as it
8334         should be).
8335         (show_progress): Moved to retr.c.
8336         (get_contents): Moved to retr.c.
8337
8338         * version.c: Change version to 1.4b13.
8339
8340 1996-07-05  Hrvoje Lacko <hlacko@fly.cc.fer.hr>
8341
8342         * url.c (in_acclist): Would return after the first suffix.
8343
8344 1996-07-04  Hrvoje Niksic  <hniksic@srce.hr>
8345
8346         * version.c: "Released" 1.4b12.
8347
8348         * url.c (path_simplify): More kludgifications.
8349         (get_urls_html): Use new parameters for htmlfindurl.
8350
8351         * html.c: Removed memorizing "parser states", since the new
8352         organization does not require them.
8353
8354         * init.c (run_geturlrc): Use read_whole_line.
8355
8356         * ftp-unix.c (ftp_parse_ls): Use read_whole_line.
8357
8358         * recur.c (parse_robots): Use read_whole_line.
8359
8360         * utils.c (read_whole_line): New function.
8361
8362         * recur.c (tried_robots): Use add_slist/in_slist, *much* cleaner.
8363
8364         * host.c (ngethostbyname): Call inet_addr just once. Yet to be
8365         tested on OSF and Ultrix.
8366         (add_hlist): New function.
8367         (free_hlist): New function.
8368         (search_host): New function.
8369         (search_address): New function.
8370         (realhost): Use search_host, search_address and add_hlist.
8371         (same_host): Replaced realloc() with strdupdelim(), made
8372         case-insensitive, fixed a memory leak.
8373
8374         * html.c (ftp_index): Fixed tm_min and tm_sec to be tm_hour and
8375         tm_min, like intended.
8376
8377         * version.c: Change user agent information to
8378         Geturl/version.
8379
8380 1996-07-03  Hrvoje Niksic  <hniksic@srce.hr>
8381
8382         * utils.c: Renamed nmalloc.c to utils.c, .h likewise.
8383
8384         * url.c (acceptable): Always accept directories.
8385
8386         * ftp-unix.c (ftp_parse_ls): Support brain-damaged "ls -F"-loving
8387         servers by stripping trailing @ from symlinks and trailing / from
8388         directories.
8389
8390         * ftp.c (ftp_loop): Debugged the "enhanced" heuristics. :-)
8391
8392         * url.c (skip_url): Use toupper instead of UCASE.
8393
8394         * host.c (sufmatch): Made it case-insensitive.
8395
8396         * url.c (match_backwards_or_pattern): Fixed i == -1 to j == -1.
8397         (match_backwards): New function, instead of
8398         match_backwards_or_pattern.
8399
8400         * recur.c (recursive_retrieve): Increased performance by
8401         introducing inl, which reduces number of calls to in_slist to only
8402         one.
8403
8404         * ftp.c (ftp_loop): Enhanced the heuristics that decides which
8405         routine to use.
8406
8407         * main.c (printhelp): Removed the warranty stuff.
8408
8409 1996-07-02  Hrvoje Niksic  <hniksic@srce.hr>
8410
8411         * url.c (add_slist): Simplify.
8412         (match_backwards_or_pattern): New function.
8413         (in_acclist): Use match_backwards_or_pattern.
8414         (matches): Remove.
8415
8416 1996-06-30  Hrvoje Niksic  <hniksic@srce.hr>
8417
8418         * ftp.c (ftp_loop): Call ftp_index on empty file names, if not
8419         recursive.
8420
8421         * html.c (ftp_index): Fixed to work. Beautified the output.
8422
8423         * ftp.c (ftp_retrieve_glob): Another argument to control whether
8424         globbing is to be used.
8425         (ftp_retrieve_list): Compare the time-stamps of local and remote
8426         files to determine whether to download.
8427
8428 1996-06-29  Hrvoje Niksic  <hniksic@srce.hr>
8429
8430         * ftp.c (rel_constr): New function.
8431
8432         * retr.c (retrieve_from_file): Check for text/html before
8433         retrieving recursively.
8434
8435         * main.c (main): Check whether the file is HTML before going into
8436         recursive HTML retrieving.
8437
8438         * ftp.c (ftp_retrieve_list): Manage directories.
8439         (ftp_retrieve_glob): Pass all the file-types to ftp_retrieve_list.
8440         (ftp_1fl_loop): Fixed a bug that caused con->com to be incorrectly
8441         initialized, causing bugchecks in getftp to fail.
8442
8443         * configure.in: Check for symlink.
8444
8445         * ftp.c (ftp_retrieve_list): Added support for symlinks.
8446
8447         * version.c: "Released" 1.4b10.
8448
8449         * atotm.c (atotm): Redeclared as time_t.
8450
8451         * init.c: New variable "timestamping".
8452
8453         * main.c (main): New option 'N'.
8454
8455         * http.c (hgetlocation): Case-insensitive match.
8456         (hgetmodified): New function.
8457         (http_loop): Implement time-stamping.
8458
8459 1996-06-28  Hrvoje Niksic  <hniksic@srce.hr>
8460
8461         * version.c: Changed version to 1.4b10
8462
8463         * atotm.c: New file, from phttpd.
8464
8465         * options.h (struct options): New parameter timestamping.
8466
8467         * version.c: 1.4b9 "released".
8468
8469         * recur.c (recursive_retrieve): Used linked list (ulist) for
8470         faster storing of URLs.
8471
8472         * url.c (get_urls_html): Removed the old kludge with comparing the
8473         outputs of htmlfindurl and findurl.
8474         (get_urls_html): Added better protocol support here.
8475         (create_hash): Removed, as well as add_hash and in_hash.
8476         (addslist): New function.
8477         (in_slist): ditto
8478
8479         * version.c: Released 1.4b8, changed version to b9.
8480
8481 1996-06-27  Hrvoje Niksic  <hniksic@srce.hr>
8482
8483         * ftp.c (freefileinfo): New function.
8484         (delelement): New function.
8485
8486         * everywhere: GPL!
8487
8488         * ftp.c (ftp_loop): Use ccon.
8489         (ftp_retrieve_glob): Likewise.
8490
8491         * ftp.h: Define ccon, to define status of control connection.
8492
8493         * ftp.c (ftp_get_listing): New function.
8494         (ftp_retrieve_more): New function.
8495         (ftp_retrieve_glob): New function.
8496
8497 1996-06-25  Hrvoje Niksic  <hniksic@srce.hr>
8498
8499         * configure.in: Removed the search for cuserid().
8500
8501         * init.c (getmode): Renamed to getperms.
8502
8503 1996-06-24  Hrvoje Niksic  <hniksic@srce.hr>
8504
8505         * version.c: New version.
8506
8507         * main.c (hangup): New function, that handles hangup. Hangup
8508         signal now causes geturl to stop writing on stdout, and to write
8509         to a log file.
8510
8511         * ftp.c (getftp): "Released" 1.4b7.
8512
8513         * html.c (htmlfindurl): Ignore everything inside <head>...</head>.
8514         (ftp_index): Use fileinfo/urlinfo.
8515
8516         * ftp-unix.c (ftp_parse_ls): New function.
8517         (symperms): New function.
8518
8519         * ftp.c (ftp_1fl_loop): New function, to handle 1-file loops.
8520
8521         * retr.c (retrieve_url): Added FTP support.
8522
8523 1996-06-23  Hrvoje Niksic  <hniksic@srce.hr>
8524
8525         * geturl.h: Removed NOTFTP2HTML enum.
8526         Added DO_LOGIN, DO_CWD and DO_LIST. LIST_ONLY is obsolete.
8527
8528         * ftp.c (getftp): Resynched with urlinfo.
8529         (getftp): Removed HMTL-ization of index.html from getftp.
8530
8531         * version.c: 1.4b6 "released".
8532
8533         * options.h (options): New struct, to keep options in.
8534
8535         * http.c (http_loop,gethttp): Synched with proxy.
8536
8537         * retr.c (retrieve_url): Implemented proxy retrieval.
8538
8539         * main.c (main): Use retrieve_from_file.
8540
8541 1996-06-22  Hrvoje Niksic  <hniksic@srce.hr>
8542
8543         * retr.c (retrieve_from_file): New function.
8544
8545         * url.c (parseurl): Modified to return URLOK if all OK. Protocol
8546         can be found in u->proto.
8547
8548         * ftp.c (ftp_response): Fixed to accept multi-line responses as
8549         per RFC 959.
8550
8551         * recr.c (recursive_retrieve): Take newloc from retrieve_url.
8552
8553         * url.c (mymkdir): Removed the file of the same name, if one
8554         exists.
8555         (isfile): New function.
8556         (mkstruct): Fixed the '/' glitches.
8557         (path_simplify): Hacked to treat something/.. correctly.
8558
8559 1996-06-21  Hrvoje Niksic  <hniksic@srce.hr>
8560
8561         * http.c (gethttp): Close the socket after error in headers.
8562         (http_loop): HEOF no longer a fatal header.
8563
8564         * loop.c (retrieve_url): When dt is NULL, do not modify it. This
8565         simplifies the syntax of calling retrieve_url.
8566
8567         * recr.c (recursive_retrieve): Modified to use get_urls_html.
8568
8569         * url.c (get_urls_file): New function.
8570         (get_urls_html): New function.
8571
8572         * recr.c (recursive_retrieve): Patched up to conform to the
8573         standards.
8574
8575         * http.c (gethttp): Synched with the rest...
8576         (gethttp): Treat only CONREFUSED specially, with connection
8577         errors.
8578
8579         * init.c,geturl.1,http.c (http_loop): Removed kill_error.
8580
8581 1996-06-20  Hrvoje Niksic  <hniksic@srce.hr>
8582
8583         * http.c (http_loop): New function.
8584
8585         * loop.c: Removed *lots* of stuff from retrieve_url.
8586
8587         * url.c (parseurl): Changed to work with urlinfo. Integrated
8588         username finding and path parsing.
8589         (newurl): New function.
8590         (freeurl): New function.
8591         (mkstruct): Removed the old bogosities, made it urlinfo-compliant.
8592         (url_filename): Likewise.
8593         (path_simplify): Accept relative paths too.
8594         (opt_url): Made urlinfo-compliant, removed bogosities.
8595         (path_simplify): Expanded to accept relative paths.
8596         (str_url): A replacement for hide_url
8597         (decode_string): Fixed a bug that caused malfunctioning when
8598         encountering an illegal %.. combination.
8599         (opt_url): Removed the argument. Dot-optimizations are now default.
8600
8601         * nmalloc.c (strdupdelim): New function.
8602
8603         * url.h: Added the urlinfo structure
8604
8605 1996-06-19  Hrvoje Niksic  <hniksic@srce.hr>
8606
8607         * url.c (hide_url): Thrown out the protocol assertion. Do not
8608         change the URL if the protocol if not recognized.
8609         (findurl): Put continue instead of break.
8610
8611 1996-06-18  Hrvoje Niksic  <hniksic@srce.hr>
8612
8613         * sample.geturlrc: Changed the defaults to be commented out and
8614         harmless (previous defaults caused pains if copied to
8615         ~/.geturlrc).
8616
8617         * http.c (gethttp): Print the HTTP request in debug mode.
8618
8619         * connect.c (iread): Added EINTR check loop to select-ing
8620         too. EINTR is now correctly handled with select().
8621
8622         * TODO: new file
8623
8624 1996-05-07  Hrvoje Niksic  <hniksic@srce.hr>
8625
8626         * host.c (same_host): Made the function a little bit more
8627         intelligent regarding diversified URL syntaxes.
8628
8629         * url.c (skip_url): Spaces are now skipped after URL:
8630
8631         * Released 1.3.1 with the patch to prevent crashing when sending
8632         NULL to robot* functions and the patch to compile "out of the box"
8633         on AIX.
8634
8635         * recr.c (recursive_retrieve): Added checking whether this_url is
8636         NULL when calling the robot functions.
8637
8638         * ChangeLog: New file.