]> sjero.net Git - wget/blob - src/ChangeLog
[svn] Remove headers.c and headers.h.
[wget] / src / ChangeLog
1 2003-11-21  Hrvoje Niksic  <hniksic@xemacs.org>
2
3         * headers.c: Removed.  The file is no longer relevant, now that no
4         special handling of headers is done by the rbuf code.  Moved
5         portions to http.c.
6
7 2003-11-21  Hrvoje Niksic  <hniksic@xemacs.org>
8
9         * rbuf.c: Removed.
10
11         * ftp-basic.c (ftp_response): Use fd_read_line.  No longer use
12         struct rbuf.  Updated all callers.
13
14         * http.c (gethttp): Use fd_read_head to read all the headers in
15         one go.
16         (next_header): New function.
17
18         * retr.c (fd_read_line): New function: reads a line from FD,
19         leaving the rest of the data unread.
20         (fd_read_head): New function.
21
22         * connect.c (fd_peek): New function, implements peeking.
23         (poll_internal): New function.
24         (fd_read): Use it.
25         (fd_write): Ditto.
26         (fd_peek): Ditto.
27         (fd_register_transport): Allow registering a "peeker" callback.
28
29 2003-11-20  Hrvoje Niksic  <hniksic@xemacs.org>
30
31         * connect.c: Renamed xread/xwrite/xclose to
32         fd_read/fd_write/fd_close.  The "x" prefix is not appropriate
33         because the semantics have diverged from read/write/close too
34         significantly.  Updated all callers.
35
36 2003-11-20  Hrvoje Niksic  <hniksic@xemacs.org>
37
38         * connect.c (sock_write): It's not necessary to initialize RES.
39
40 2003-11-19  Hrvoje Niksic  <hniksic@xemacs.org>
41
42         * main.c (main): Don't reference opt.ipv4_only and opt.ipv6_only
43         if IPv6 is disabled.
44
45 2003-11-19  Hrvoje Niksic  <hniksic@xemacs.org>
46
47         * connect.c (socket_has_inet6): Only compile it if IPv6 is enabled
48         and AI_ADDRCONFIG is missing.
49
50 2003-11-18  Hrvoje Niksic  <hniksic@xemacs.org>
51
52         * gen_sslfunc.c (ssl_init_prng): Warn the user when using a weak
53         random seed.
54
55 2003-11-18  Hrvoje Niksic  <hniksic@xemacs.org>
56
57         * host.c (address_list_contains): Renamed address_list_find to
58         address_list_contains because its result is boolean.
59
60 2003-11-18  Hrvoje Niksic  <hniksic@xemacs.org>
61
62         * connect.c (select_fd): Return 1 if select is not available.
63
64 2003-11-17  Hrvoje Niksic  <hniksic@xemacs.org>
65
66         * connect.c (connect_to_host): Don't reference address list after
67         releasing it.
68
69 2003-11-17  Hrvoje Niksic  <hniksic@xemacs.org>
70
71         * main.c (print_help): Fix alignment of FTP options output.
72
73 2003-11-17  Hrvoje Niksic  <hniksic@xemacs.org>
74
75         * host.c (lookup_host): Check for the ability to create IPv6
76         sockets here.
77
78         * init.c (defaults): Don't auto-set --inet4-only on IPv6-less
79         systems.
80
81 2003-11-16  Hrvoje Niksic  <hniksic@xemacs.org>
82
83         * main.c (print_help): Fix typo in `-O' help message.  Fix docs of
84         -Y/--proxy.  Fix docs of `--cookies' and `--glob'.  Improve docs
85         of --convert-links.  Fix docs of SSL options.
86
87 2003-11-16  Hrvoje Niksic  <hniksic@xemacs.org>
88
89         * ftp-basic.c: Don't include <arpa/inet.h> and others because
90         they're no longer needed.
91
92 2003-11-16  Hrvoje Niksic  <hniksic@xemacs.org>
93
94         * main.c (main): Don't allow setting of both opt.ipv4_only and
95         opt.ipv6_only.
96
97         * init.c (defaults): Mark opt.ipv4_only specially when set
98         automatically.
99
100 2003-11-15  Hrvoje Niksic  <hniksic@xemacs.org>
101
102         * host.c (lookup_host): Use AI_ADDRCONFIG only if the family is
103         unspecified.  This ensures that specifying `--no-inet4' on systems
104         where IPv6 resolves, but doesn't work behaves the same regardless
105         of the availability of AI_ADDRCONFIG.
106
107 2003-11-15  Hrvoje Niksic  <hniksic@xemacs.org>
108
109         * host.c: Don't refer to the now-removed function
110         forget_host_lookup in the documentation of lookup_host.
111
112 2003-11-15  Hrvoje Niksic  <hniksic@xemacs.org>
113
114         * http.c (persistent_available_p): Correctly specify the endpoint
115         argument to socket_ip_address.
116         (gethttp): When printing the "reusing connection to..." message,
117         specify the host name of the reused connection, not the current
118         host name.  That makes more sense because it provides a useful
119         piece of information -- we know to which host we're supposed to
120         connect anyway!
121
122 2003-11-15  Hrvoje Niksic  <hniksic@xemacs.org>
123
124         * init.c: Make sure the options are in alphabetic order!
125
126         * host.c (lookup_host): Merge lookup_host_passive and lookup_host
127         after all -- having both would result in some code duplication.
128         (lookup_host): Set hints.ai_family to AF_INET if ipv4_only is
129         requested.  Likewise, set it to AF_INET6 for ipv6_only.  Specify
130         AI_ADDRCONFIG where available.
131         (lookup_host): New flag LH_REFRESH that specifies that a cached
132         entry for HOST should be refreshed.
133         (cache_query): New function.
134         (cache_store): Ditto.
135         (cache_remove): Ditto.
136         (forget_host_lookup): No longer necessary, replaced with static
137         function cache_remove.
138
139 2003-11-14  Hrvoje Niksic  <hniksic@xemacs.org>
140
141         * main.c: Enable -4 and -6 only if IPv6 is enabled.
142
143 2003-11-14  Hrvoje Niksic  <hniksic@xemacs.org>
144
145         * connect.c (register_transport): Renamed from register_extended.
146         Explain the intended usage.
147
148 2003-11-14  Hrvoje Niksic  <hniksic@xemacs.org>
149
150         * url.c (uri_merge): Merging "foo" and "bar" should result in
151         "bar", not in "foo/bar".
152         (path_simplify): Don't remove empty path elements; don't
153         special-case leading slash.
154         (path_simplify): Don't swallow ".."'s at the beginning of string.
155         E.g. simplify "foo/../../bar" as "../bar", not as "bar".
156         (append_uri_pathel): Defang ".." path element upon encountering
157         it.
158
159 2003-11-13  Hrvoje Niksic  <hniksic@xemacs.org>
160
161         * http.c (persistent_available_p): Don't attempt to talk to two
162         different SSL sites over the same secure connection.
163
164 2003-11-13  Hrvoje Niksic  <hniksic@xemacs.org>
165
166         * http.c (gethttp): Ditto.
167
168         * ftp.c (getftp): Use retryable_socket_connect_error instead of
169         CONNECT_ERROR.
170
171         * wget.h (CONNECT_ERROR): Removed.
172
173         * connect.c (retryable_socket_connect_error): New function instead
174         of unsupported_socket_family_error.
175
176 2003-11-13  Hrvoje Niksic  <hniksic@xemacs.org>
177
178         * wget.h (CONNECT_ERROR): Use it.
179
180         * connect.c (unsupported_socket_family_error): New function.
181
182 2003-11-13  Hrvoje Niksic  <hniksic@xemacs.org>
183
184         * connect.c (bind_local): Renamed bindport to bind_local; return
185         the socket directly.  Updated callers.
186         (accept_connection): Renamed acceptport to accept_connection;
187         return the created socket directly.  Updated callers.
188
189 2003-11-13  Hrvoje Niksic  <hniksic@xemacs.org>
190
191         * init.c (defaults): Turn on opt.ipv4_only if we're compiling with
192         IPv6, and AI_ADDRINFO is not available, and AF_INET6 sockets can't
193         be created.
194
195 2003-11-13  Hrvoje Niksic  <hniksic@xemacs.org>
196
197         * host.c (lookup_host): Document the fact that the addresses are
198         returned in order.
199
200 2003-11-12  Hrvoje Niksic  <hniksic@xemacs.org>
201
202         * utils.c: Use limits.h only where available.
203
204         * hash.c: Use INVALID_PTR and INVALID_PTR_BYTE.  Include limits.h.
205
206 2003-11-11  Hrvoje Niksic  <hniksic@xemacs.org>
207
208         * main.c: Added options --inet4-only and --inet6-only.
209
210 2003-11-11  Hrvoje Niksic  <hniksic@xemacs.org>
211
212         * host.c (host_errstr): Use the more standard message "Unknown
213         host".
214
215 2003-11-10  Hrvoje Niksic  <hniksic@xemacs.org>
216
217         * connect.c (connect_to_host): Use that flag to decide whether to
218         re-resolve the host name.
219
220         * host.c (struct address_list): Added a flag that maintains
221         whether the connection worked at some point.
222
223 2003-11-10  Hrvoje Niksic  <hniksic@xemacs.org>
224
225         * host.c (lookup_host): Special-case the numeric addresses only in
226         the non-IPv6 case.
227
228 2003-11-10  Hrvoje Niksic  <hniksic@xemacs.org>
229
230         * connect.c (resolve_bind_address): Call lookup_host_passive.
231         Make sure that opt.bind_address is resolved only once.
232
233         * host.c (lookup_host_passive): New function, handles "passive"
234         lookups.
235         (lookup_host): Remove the passive flags.  Remove the
236         family-related flags -- use ip_default_family instead.
237
238 2003-11-09  Hrvoje Niksic  <hniksic@xemacs.org>
239
240         * html-url.c: Get URLs from <object data="...">.
241
242 2003-11-09  Hrvoje Niksic  <hniksic@xemacs.org>
243
244         * main.c (option_data): Specify the command to use for --mirror.
245
246 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
247
248         * cookies.c (cookie_handle_set_cookie): Specify exact match for
249         unspecified domains.
250
251 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
252
253         * main.c (main): Removed one-letter options `-C', `-g', `-G', and
254         `-s'.
255
256 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
257
258         * main.c (main): Add --dont-remove-listing for backward
259         compatibility with previous versions.
260         (print_help): Fix typo, spotted by Dennis Smit.
261
262 2003-11-08  Gisle Vanem  <giva@bgnett.no>
263
264         * ftp-basic.c: Support Windows-2000 ftp servers. Win-2000 *is*
265         Win-NT 5.0 so calling it ST_WINNT is okay I guess.
266
267 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
268
269         * progress.c (update_speed_ring): Clear the speed ring when the
270         download stalls.
271
272         * retr.c (get_contents): Specify 0.95s read timeout, so that the
273         progress gauge can be updated even when data arrives very slowly
274         or stalls.
275
276 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
277
278         * utils.c (wtimer_allocate): Bless the use of wtimer_read on a
279         timer that has merely been allocated because get_contents() does
280         that.
281         (wtimer_update): Abort if the timer is not initialized.
282
283 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
284
285         * retr.c (get_contents): Pass the timer to limit_bandwidth().
286
287         * utils.c (wtimer_update): New function instead of wget_elapsed;
288         just update the timer, but don't return anything.
289         (wtimer_read): Read and return the last known value of the timer.
290
291 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
292
293         * http.c (persistent_available_p): Instead of matching all the
294         addresses of HOST and last host, determine the peer's IP address
295         with socket_ip_address and see if that address is one of those
296         HOST resolves to.
297
298         * host.c (address_list_match_all): Removed.
299         (address_list_find): New function, finds an IP address in the
300         address list.
301
302         * ftp.c (ftp_do_pasv): Get the peer's address here, and pass it to
303         ftp_epsv so it doesn't need to call getpeername.
304
305         * ftp-basic.c (ftp_port): Use socket_ip_address instead of
306         getpeername.
307         (ftp_lprt): Ditto.
308
309         * connect.c (socket_ip_address): Replaces conaddr, generalized to
310         either get peer's or local address.
311         (sockaddr_get_data): Made local to this file.
312
313 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
314
315         * hash.c (HASH_POSITION): Explicitly accept the hash function.
316         (grow_hash_table): Extract ht->hash_function outside the loop.
317         (hash_table_remove): Ditto.
318         (hash_table_clear): Fill entries with 0xff to clear them.
319         (hash_table_remove): Mark entries as deleted with the correct
320         marker.
321
322 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
323
324         * http.c (persistent_available_p): No reason for the host lookup
325         to be silent -- it's a lookup like any other.
326
327 2003-11-08  Hrvoje Niksic  <hniksic@xemacs.org>
328
329         * connect.c (register_extended): Check that fd >= 0.
330
331 2003-11-07  Hrvoje Niksic  <hniksic@xemacs.org>
332
333         * connect.c (LAZY_RETRIEVE_INFO): Set LAST_INFO.
334
335 2003-11-07  Hrvoje Niksic  <hniksic@xemacs.org>
336
337         * hash.c (NON_EMPTY): Use the all-bit-set value as the marker that
338         the field is empty.  This allows NULL pointer and 0 value to be
339         used as keys, which is necessary for the connect.c code to work
340         when fd==0.
341         (hash_table_new): Fill mappings with 0xff.
342         (grow_hash_table): Ditto.
343
344 2003-11-07  Hrvoje Niksic  <hniksic@xemacs.org>
345
346         * url.c (url_parse): Allow empty ports.
347
348 2003-11-07  Hrvoje Niksic  <hniksic@xemacs.org>
349
350         * main.c (print_help): Break the help string into multiple chunks.
351         (cmdline_option): New option handler OPT_FUNCALL.  Generalized
352         HANDLE_CMD to generic DATA.
353         (option_data): Use the new OPT_FUNCALL feature.
354
355 2003-11-06  Hrvoje Niksic  <hniksic@xemacs.org>
356
357         * log.h: Declare log_init, log_close, and
358         log_request_redirect_output here.
359
360 2003-11-05  Dennis Smit  <ds@nerds-incorporated.org>
361
362         * main.c: (main): added --preserve-permissions option.
363
364         * ftp.c (ftp_retrieve_list): added support for
365         --preserve-permissions option.
366
367         * init.c: added support for --preserve-permission option.
368
369         * option.h: added support for --preserve-permission option.
370
371 2003-11-06  Hrvoje Niksic  <hniksic@xemacs.org>
372
373         * main.c (init_switches): New function.  Convert option_data to
374         long_options and short_options, which can be fed to getopt_long.
375         (main): Execute command-line options by consulting option_data.
376
377 2003-11-06  Hrvoje Niksic  <hniksic@xemacs.org>
378
379         * gen_sslfunc.c (ssl_read): Implement a more correct check for
380         EINTR.
381         (ssl_write): Ditto.
382         (init_ssl): Use a global SSL context.
383
384 2003-11-06  Hrvoje Niksic  <hniksic@xemacs.org>
385
386         * connect.c (xclose): Free INFO even if it doesn't provide a
387         closer.
388
389 2003-11-06  Hrvoje Niksic  <hniksic@xemacs.org>
390
391         * connect.c: Updated all callers of
392         iread/ssl_iread/iwrite/ssl_iwrite to use xread and xwrite instead.
393
394         * rbuf.h (struct rbuf): Removed the SSL member because SSL is
395         handled automatically by xread.
396
397         * hash.c (ptrhash): Made private.
398         (ptrcmp): Ditto.
399         (inthash): Removed.
400
401         * connect.c (select_fd): Don't set errno, leave it to the caller.
402
403         * gen_sslfunc.c (connect_ssl): Use register_extended to register
404         SSL callbacks for communication with SSL-enabled endpoints.
405         (ssl_read): New function.
406         (ssl_write): Ditto.
407         (ssl_poll): Ditto.
408         (ssl_close): Ditto.
409
410         * connect.c (register_extended): New function -- register
411         callbacks for basic socket operations.
412         (xread): Ditto.
413         (xwrite): Ditto.
414         (xclose): Ditto.
415         (sock_read): New function, default implementation for reading.
416         (sock_write): Ditto for writing.
417         (sock_poll): Ditto for polling.
418         (sock_close): Ditto for closing.
419
420 2003-11-05  Hrvoje Niksic  <hniksic@xemacs.org>
421
422         * connect.c (bindport): Fix compilation under pre-C99 compilers.
423
424 2003-11-05  Hrvoje Niksic  <hniksic@xemacs.org>
425
426         * connect.c (connect_to_ip): More compact error checking.
427         (bindport): Don't treat failed setsockopt as a fatal error.
428
429 2003-11-05  Hrvoje Niksic  <hniksic@xemacs.org>
430
431         * connect.c (resolve_bind_address): Use a more accurate error
432         message -- we're not binding to ANY, we're disabling bind
433         altogether.
434
435 2003-11-05  Hrvoje Niksic  <hniksic@xemacs.org>
436
437         * cookies.c (save_cookies_mapper): Respect the setting of
438         keep-session-cookies.
439         (cookie_jar_load): Import session cookies.
440         Based on code submitted by Nicolas Schodet.
441
442         * utils.c (datetime_str): Use information in TM when it's
443         non-NULL.
444
445         * main.c (main): New option `--keep-session-cookies'.
446
447 2003-11-04  Hrvoje Niksic  <hniksic@xemacs.org>
448
449         * Makefile.in (realclean): Delete config.h.in.
450
451 2003-11-04  Hrvoje Niksic  <hniksic@xemacs.org>
452
453         * config-post.h: New file, included from now autogenerated
454         config.h.in.
455
456 2003-11-04  Hrvoje Niksic  <hniksic@xemacs.org>
457
458         * progress.c (progress_handle_sigwinch): Don't call
459         determine_screen_width() from the signal handler.  Instead, just
460         set a volatile variable.
461         (bar_create): Check whether SIGWINCH was received.
462         (bar_update): Ditto.
463
464         * sysdep.h: Define SYSTEM_FNMATCH only if HAVE_FNMATCH_H is true.
465
466 2003-11-03  Hrvoje Niksic  <hniksic@xemacs.org>
467
468         * utils.c (xsleep): New function.  Uses nanosleep where available,
469         resuming sleeps interrupted by signals.  Updated callers of sleep
470         and usleep to use xsleep.
471
472 2003-11-03  Hrvoje Niksic  <hniksic@xemacs.org>
473
474         * ftp-basic.c (ftp_login): Remove shadowing (and bogus)
475         declaration of SEED.
476
477 2003-11-03  Hrvoje Niksic  <hniksic@xemacs.org>
478
479         * log.c (logvprintf): Documented better.  Renamed to
480         log_vprintf_internal to avoid confusion with the public API
481         functions logprintf and logputs.
482
483 2003-11-03  Hrvoje Niksic  <hniksic@xemacs.org>
484
485         * wget.h (N_): Don't parenthesize argument.
486
487 2003-11-03  Hrvoje Niksic  <hniksic@xemacs.org>
488
489         * host.h (ADDRESS_IPV4_DATA): Don't take the address of in.s_addr
490         because that doesn't work on machines that define it as bitfield.
491
492 2003-11-03  Hrvoje Niksic  <hniksic@xemacs.org>
493
494         * connect.c (select_fd): Generalize the third argument into WAIT,
495         so that the caller can request waiting for both read and write.
496         Updated callers.
497
498 2003-11-02  Hrvoje Niksic  <hniksic@xemacs.org>
499
500         * html-url.c (cleanup_html_url): Destroy the hash tables, don't
501         just call free on them.
502         (init_interesting): Use hash_table_put instead of string_set_add
503         because we don't need the strdup that the latter function
504         performs.
505
506         * init.c (cleanup): Don't pass NULL to cookie_jar_delete.
507
508         * xmalloc.c (xfree_real): Abort when passed a NULL pointer.
509         (xfree_debug): Print at the file and line of the offending call to
510         free.
511
512 2003-11-02  Hrvoje Niksic  <hniksic@xemacs.org>
513
514         * wget.h: Retired the `boolean' type.  Moved the DEFAULT_LOGFILE
515         define to log.h.  Moved the INFINITE_RECURSION define to recur.h.
516
517         * xmalloc.h: Renamed FREE_MAYBE to xfree_null and moved the
518         definition from wget.h to xmalloc.h.
519
520 2003-11-02  Hrvoje Niksic  <hniksic@xemacs.org>
521
522         * html-parse.c (decode_entity): New function; split the decoding
523         of entities here.
524         (convert_and_copy): Use it to decode entities.
525         (decode_entity): Handle the &apos entity.
526         (decode_entity): Don't decode Latin 1 numeric entities.  Don't
527         decode &#0.
528
529 2003-11-01  Hrvoje Niksic  <hniksic@xemacs.org>
530
531         * ftp-opie.c (calculate_skey_response): Use uint32_t instead of
532         `unsigned long' for the cheksum array.  Document the function.
533
534 2003-11-01  Hrvoje Niksic  <hniksic@xemacs.org>
535
536         * connect.c (acceptport): Don't call select_fd when timeout is not
537         requested.
538
539 2003-11-01  Hrvoje Niksic  <hniksic@xemacs.org>
540
541         * host.c: Removed the ip_default_family global variable.
542
543         * host.c (lookup_host): Document the function.  Fixed declaration
544         of VEC.
545
546 2003-10-31  Hrvoje Niksic  <hniksic@xemacs.org>
547
548         * various: Use new macros xnew, xnew0, xnew_array, and xnew0_array
549         in various places.
550
551 2003-10-31  Hrvoje Niksic  <hniksic@xemacs.org>
552
553         * wget.h: Move declarations of malloc and logging code to
554         xmalloc.h and log.h respectively to unclutter this file.
555         (STRDUP_ALLOCA): Made it side-effect free.
556
557         * xmalloc.h: New files.  Define macros xnew, xnew0, xnew_array,
558         and xnew0_array.
559
560         * xmalloc.c: New file.  Move the xmalloc routines here.
561
562 2003-10-31  Hrvoje Niksic  <hniksic@xemacs.org>
563
564         * connect.c (sockaddr_set_data): Remove the broken code that
565         checked for NULL address.
566
567 2003-10-31  Hrvoje Niksic  <hniksic@xemacs.org>
568
569         * host.c (address_list_from_single): Removed.
570         (address_list_from_ipv4_addresses): Renamed from
571         address_list_from_vector.
572
573 2003-10-31  Hrvoje Niksic  <hniksic@xemacs.org>
574
575         * sysdep.h (CLOSE): Don't call close on file descriptors less than
576         0, i.e. on uncreated sockets.
577
578         * connect.c (resolve_bind_address): Work on struct sockaddr
579         directly.
580         (connect_to_host): Replacement for connect_to_many.  Resolve HOST
581         and connect to any of its addresses.  If we can't connect and the
582         host name lookup was cached, try to resolve it again.  This should
583         fix problems with hosts behind dynamic DNS.  Updated all callers.
584         (connect_to_ip): Replacement for connect_to_one.  Removed SILENT;
585         added the argument PRINT instead.  Updated all callers.
586         (set_connection_host_name): Removed.
587
588         * host.c (address_list_address_at): New function instead of
589         address_list_copy_one. It returns a pointer to ip_address *, so
590         it's not necessary to copy the data.
591         (address_list_cached_p): New function.
592         (forget_host_lookup): Ditto.
593
594         * connect.c: Got rid of the MSOCK global variable.  Made bindport
595         return the local socket it creates.  Added a new argument to
596         acceptport, the socket to call accept on.  Updated callers.
597         (closeport): Removed.
598
599         * connect.c: Moved the sockaddr code from host.c to this file,
600         because most of that stuff is used for connecting, and has nothing
601         to do with host names anyway.
602         (sockaddr_set_data, sockaddr_get_data): New functions, replace the
603         old sockaddr_set_address, sockaddr_set_port, sockaddr_get_address,
604         and sockaddr_get_port.
605
606 2003-10-30  Hrvoje Niksic  <hniksic@xemacs.org>
607
608         * sysdep.h: Use `S >= 8' rather than `S == 8' when looking for
609         large integers.
610
611 2003-10-30  Hrvoje Niksic  <hniksic@xemacs.org>
612
613         * url.c (append_uri_pathel): New argument ESCAPED_P that says
614         whether [B, E) is to be treated as URL-escaped or not.  If
615         ESCAPED_P is false, don't unescape the region.
616         (url_file_name): u->file is not URL-escaped.
617
618 2003-10-30  Hrvoje Niksic  <hniksic@xemacs.org>
619
620         * retr.c (retrieve_from_file): Use retrieve_tree for
621         page-requisites.
622
623         * main.c (main): Don't define opt.recursive when -p is used.
624         Instead, make sure that recursion is used for HTTP in that case.
625
626 2003-10-29  Hrvoje Niksic  <hniksic@xemacs.org>
627
628         * host.h: Defined accessors for elements of ip_address.  Updated
629         all callers.
630         (address_list_match_all): Use memcmp in the non-IPv6 case.
631
632         * wget.h (CONNECT_ERROR): Don't retry connecting if connect()
633         returned EAFNOSUPPORT.
634
635 2003-10-27  Mauro Tortonesi <mauro@deepspace6.net>
636
637         * connect.h: changed bindport prototype and added the related
638         BIND_ON_IPV4_ONLY and BIND_ON_IPV6_ONLY flags.
639
640         * connect.c: changed bindport and resolve_bind_address to allow
641         protocol-version specific DNS resolution. modified conaddr,
642         acceptport and connect_to_one to make use of struct
643         sockaddr_storage and of the new ip_address structure.
644
645         * ftp-basic.c: added LPRT/LPSV (RFC1639) support, refactored
646         PORT/PASV (RFC959) and EPRT/EPSV (RFC2428) support code.
647
648         * ftp.c: added the ftp_do_port and ftp_do_pasv functions to
649         handle FTP over IPv6.
650
651         * ftp.h: changed prototype of ftp_epsv and added prototypes for
652         ftp_lpsv, ftp_lprt and ftp_eprt.
653
654         * host.c: renamed the
655         wget_sockaddr_set_address and wget_sockaddr_get_addr, and
656         wget_sockaddr_{s,g}et_port couples to sockaddr_{s,g}et_address and
657         sockaddr_{g,s}et_port respectively.  changed
658         address_list_match_all, address_list_from_addrinfo sockaddr_len,
659         pretty_print_address, lookup_host, sockaddr_{s,g}et_address and
660         sockaddr_{g,s}et_port to make use of struct sockaddr_storage and
661         of the new ip_address structure.  removed map_ipv4_to_ip and
662         map_ip_to_ipv4.
663
664         * host.h: redefined structure ip_address and removed structure
665         wget_sockaddr.
666
667 2003-10-26  Hrvoje Niksic  <hniksic@xemacs.org>
668
669         * sysdep.h: Include inttypes.h where available.
670
671         * host.c: Switch from u_int32_t to uint32_t.
672
673 2003-10-26  Hrvoje Niksic  <hniksic@xemacs.org>
674
675         * netrc.c (parse_netrc): Reset the QUOTE flag after the closing
676         quote.
677
678 2003-10-25  Hrvoje Niksic  <hniksic@xemacs.org>
679
680         * url.c (is_valid_ipv6_address): Reformat to GNU coding style.
681         Use enums for NS_IN* constants.  Use ISXDIGIT.
682
683         * convert.c (construct_relative): Document better how the function
684         works.
685
686 2003-10-23  Hrvoje Niksic  <hniksic@xemacs.org>
687
688         * config.h.in: Deploy preprocessor magic to avoid Ultrix's
689         <netdb.h> include <bitypes.h> which defines its own u_int32_t.
690         Reported by Bernhard Simon.
691
692 2003-10-23  Hrvoje Niksic  <hniksic@xemacs.org>
693
694         * version.c: Bump version.
695
696 2003-10-23  Hrvoje Niksic  <hniksic@xemacs.org>
697
698         * url.c: Ditto.
699
700         * html-parse.c (advance_declaration): Don't use trailing comma in
701         enum because older compilers don't support it.
702
703         * utils.c: Don't redefine HAVE_SIGSETJMP.
704
705 2003-10-16  Hrvoje Niksic  <hniksic@xemacs.org>
706
707         * convert.c (construct_relative): Don't handle absolute files
708         specially -- for example, -P/tmp/foo shouldn't imply that
709         converted files must refer to "/tmp/foo/..."!
710
711 2003-10-15  Hrvoje Niksic  <hniksic@xemacs.org>
712
713         * http.c: Consider status 307 a valid redirect.
714
715 2003-10-15  Philip Stadermann  <philip.stadermann@credativ.de>
716
717         * ftp.c (ftp_retrieve_glob): Correctly loop through the list whose
718         elements might have been deleted.
719
720 2003-10-13  Hrvoje Niksic  <hniksic@xemacs.org>
721
722         * html-url.c (tag_handle_meta): Set the Refresh link to expect
723         HTML.
724         (append_one_url): Renamed to append_url.
725
726 2003-10-13  Hrvoje Niksic  <hniksic@xemacs.org>
727
728         * sysdep.h: Only define u_int32_t.
729
730 2003-10-11  Hrvoje Niksic  <hniksic@xemacs.org>
731
732         * utils.c (large_int_to_string): Use snprintf() to print the
733         number.  This will work even on systems where libc doesn't
734         understand %lld, but the compiler does, because it will use our
735         snprintf replacement.
736
737         * init.c (parse_bytes_helper): New function.
738         (cmd_bytes): Use it to parse bytes, but cast the result to long.
739         (cmd_bytes_large): Ditto, but store the result to LARGE_INT.  Used
740         for --quota so that --quota=10G works even on machines without
741         long long.
742
743         * options.h (struct options): Declare quota as LARGE_INT.
744
745         * retr.c (downloaded_exceeds_quota): Removed.
746         (downloaded_increase): Ditto.
747         (total_downloaded_bytes): New variable, replaces opt.downloaded,
748         which was the wrong place for it anyway.  Updated callers of
749         downloaded_exceeds_quota and downloaded_increase to check this
750         variable directly.
751
752         * sysdep.h: Get rid of VERY_LONG_TYPE.  Use LARGE_INT for the same
753         purpose, defined as `long', `long long' or `double', depending on
754         size of long and whether long long is available.
755
756 2003-10-11  Hrvoje Niksic  <hniksic@xemacs.org>
757
758         * sysdep.h: Also check size of short for int32_t.
759
760 2003-10-11  Hrvoje Niksic  <hniksic@xemacs.org>
761
762         * host.c (lookup_host): Use u_int32_t to store the result of
763         inet_addr().  That removes the need for offset fiddling, caring
764         about endian-ness, etc.
765
766         * sysdep.h: Define int32_t and u_int32_t if not available.
767
768 2003-10-11  Hrvoje Niksic  <hniksic@xemacs.org>
769
770         * ftp-basic.c (ftp_epsv): Use socklen_t * as the third argument to
771         getpeername.
772
773         * config.h.in: Define socklen_t stub.
774
775         * host.c (sockaddr_len): Return socklen_t.
776
777         * connect.c (conaddr): Use socklen_t as the third argument to
778         accept, getsockname, and connect.
779
780 2003-10-10  Hrvoje Niksic  <hniksic@xemacs.org>
781
782         * recur.c (retrieve_tree): Don't descend into documents that are
783         not expected to contain HTML, regardless of their content-type.
784
785         * html-url.c (tag_url_attributes): Record which attributes are
786         supposed to yield HTML links that can be followed.
787         (tag_find_urls): Propagate that information to the caller through
788         struct urlpos.
789
790 2003-10-10  Hrvoje Niksic  <hniksic@xemacs.org>
791
792         * hash.c (find_mapping): Return the next available mapping when
793         the key is not found, not NULL.
794         (hash_table_put): Use find_mapping to find the storage for the new
795         data.
796         (hash_table_put): Grow the table before exceeding maximum
797         fullness, not afterwards.
798
799 2003-10-10  Hrvoje Niksic  <hniksic@xemacs.org>
800
801         * hash.c (hash_table_new): Slightly change the meaning of the
802         first parameter.  Instead of being the minimum initial size, it is
803         now the minimum number of items that the hash table can take
804         without needing to resize.
805
806 2003-10-09  Hrvoje Niksic  <hniksic@xemacs.org>
807
808         * html-url.c (init_interesting): Initialize interesting_tags and
809         interesting_attributes as hash tables.  This simplifies the code
810         immensely because hash tables handle allocation and remove
811         duplicates automatically.
812         (find_tag): Removed.
813         (collect_tags_mapper): Instead of calling find_tag, simply get the
814         entry from interesting_tags hash table, which is both simpler and
815         faster.
816
817 2003-10-09  Hrvoje Niksic  <hniksic@xemacs.org>
818
819         * hash.c (hash_table_get): Declare hash-table argument as const.
820         (find_mapping): Ditto.
821         (hash_table_get_pair): Ditto.
822         (hash_table_contains): Ditto.
823         (hash_table_count): Ditto.
824
825 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
826
827         * html-url.c (get_urls_html): Parse the appropriate flags to
828         html-parse.c.
829
830         * html-parse.c (map_html_tags): Accept FLAGS from the caller
831         instead of examining OPT.
832
833 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
834
835         * html-url.c (find_tag): Switch to binary search.
836
837 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
838
839         * main.c (print_help): Fix typo; stured -> stored.
840
841 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
842
843         * getopt.c: Add definitions of getopt_long and getopt_long_only.
844
845 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
846
847         * config.h.in: Renamed DEBUG to ENABLE_DEBUG.  ENABLE_DEBUG is, I
848         think, a better name, because it implies that debugging output is
849         merely possible, not "on by default", as might be construed from
850         just DEBUG.
851
852 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
853
854         * ftp.c (has_insecure_name_p): Define it here.
855
856         * utils.c (has_wildcards_p): Define it here.
857
858         * sysdep.h: Declare fnmatch-related macros here, if not using
859         system fnmatch().  Update .c files to not declare fnmatch.h
860         directly.
861
862         * cmpt.c (fnmatch): Moved here.  Use it only under non-GNU libc.
863
864 2003-10-08  Hrvoje Niksic  <hniksic@xemacs.org>
865
866         * getopt.c: Newer version, imported from Free libit.
867
868 2003-10-07  Hrvoje Niksic  <hniksic@xemacs.org>
869
870         * cookies.c (struct cookie): Remove unused backpointer to cookie
871         jar.
872
873 2003-10-07  Hrvoje Niksic  <hniksic@xemacs.org>
874
875         * cmpt.c (memmove): Comment out, since it's no longer used.
876
877         * cookies.c (cookie_jar_generate_cookie_header): Allocate room for
878         chains in one pass.
879         (find_chains_of_host): Assume that the caller has allocated DEST
880         to be sufficiently large to take all the data.
881         (eliminate_dups): Run through the array and eliminate dups on the
882         fly instead of using memmove.
883         (cookie_jar_process_set_cookie): Free cookie->domain before
884         re-setting it.
885
886 2003-10-05  Gisle Vanem  <giva@bgnett.no>
887
888         * mswindows.c (set_sleep_mode): Fix type of
889         _SetThreadExecutionState.
890
891 2003-10-05  Hrvoje Niksic  <hniksic@xemacs.org>
892
893         * utils.c (file_size): Return -1 if fopen() returns NULL.  Prior
894         to this patch, wget --post-file=nosuchfile dumped core.
895
896 2003-10-04  Gisle Vanem  <giva@bgnett.no>
897
898         * mswindows.c (run_with_timeout): Use WaitForSingleObject to wait
899         for thread termination.
900
901 2003-10-04  Hrvoje Niksic  <hniksic@xemacs.org>
902
903         * log.c: Use `...' in function definitions; ansi2knr will convert
904         them to va_dcl.  This allowed removal of the ugly VA_START_1 and
905         VA_START_2 macros.
906
907 2003-10-03  Gisle Vanem  <giva@bgnett.no>
908
909         * connect.c: And don't include them here.
910
911         * mswindows.h: Include winsock headers here.
912
913 2003-10-03  Hrvoje Niksic  <hniksic@xemacs.org>
914
915         * html-parse.c (convert_and_copy): Move variable declarations
916         before statements.
917
918 2003-10-02  Gisle Vanem  <giva@bgnett.no>
919         
920         * mswindows.c (run_with_timeout): For Windows: Run the 'fun' in a
921         thread via a helper function. Continually query the thread's
922         exit-code until finished or timed out.
923
924 2003-10-02  Hrvoje Niksic  <hniksic@xemacs.org>
925
926         * wget.h (XMALLOC_ARRAY): Removed.
927         (ALLOCA_ARRAY): Ditto.
928
929         * html-parse.c: Renamed alloca_p to resized.
930         (GROW_ARRAY): Renamed DO_REALLOC_FROM_ALLOCA to GROW_ARRAY and
931         returned it to html-parse.c, since nothing else was using it.
932
933 2003-10-02  Hrvoje Niksic  <hniksic@xemacs.org>
934
935         * retr.c (retrieve_url): Initialize DUMMY storage for DT.  Caught
936         by valgrind.
937
938 2003-10-02  Hrvoje Niksic  <hniksic@xemacs.org>
939
940         * html-parse.c (convert_and_copy): Handle numeric entities in
941         hexadecimal, &#xHH.
942         (convert_and_copy): Copy the contents directly to the pool without
943         a stack-allocated intermediary.
944
945 2003-10-02  Hrvoje Niksic  <hniksic@xemacs.org>
946
947         * utils.c (alarm_set): New function; use either setitimer or alarm
948         to set up the alarm.
949         (alarm_cancel): New function; cancel the alarm set up by
950         alarm_set.
951         (run_with_timeout): Use them.
952
953 2003-10-01  Hrvoje Niksic  <hniksic@xemacs.org>
954
955         * url.c (url_parse): Don't leak memory when a reencoded URL turns
956         out to be invalid.
957
958         * url.c (parse_errors): Mark error messages for translation.
959         (url_error): Translate error messages returned to the caller.
960
961 2003-10-01  Hrvoje Niksic  <hniksic@xemacs.org>
962
963         * ftp.c (ftp_loop_internal): Initialize TMRATE to NULL to shut up
964         the compiler.
965
966 2003-09-26  Gisle Vanem  <giva@bgnett.no>
967
968         * src/mswindows.c: Added ws_percenttitle() showing progress in the
969         window titlebar. Called from retr.c. Secured ws_mypath().
970
971         * windows/config.h.ms: alloca() prototype not needed.  Removed
972         "#undef ENABLE_NLS"; should be in Makefile IMHO. Moved
973         WGET_USE_STDARG from mswindows.h to config.ms.h because of #ifdef
974         in log.c. (MSVC's vararg.h and stdarg.h are incompatible).
975
976 2003-09-29  Aaron Hawley <Aaron.Hawley@uvm.edu>
977
978         * ftp.c (getftp): --spider option should now work with FTP
979         downloads.
980         (ftp_loop_internal): quiet reports and calculations of downloads
981         when --spider option set, nor try deleting when --delete-after
982         also set.
983         (ftp_loop): --spider will skip HTML-ification of .listing file.
984
985 2003-09-26  Gisle Vanem  <giva@bgnett.no>
986
987         * mswindows.c (read_registry): Removed.
988         (set_sleep_mode): New function.
989         (windows_main_junk): Call it.
990
991 2003-09-26  Gisle Vanem  <giva@bgnett.no>
992
993         * mswindows.c (read_registry): Fix invocation of registry
994         functions.
995
996         * mswindows.c (read_registry): Condition definitions of sleep and
997         usleep with not HAVE_SLEEP and HAVE_USLEEP respectively.  Define
998         HAVE_SLEEP and HAVE_USLEEP under __DMC__.
999
1000 2003-09-24  Hrvoje Niksic  <hniksic@xemacs.org>
1001
1002         * url.c (url_escape_1): Revert unintentional change to lowercase
1003         xdigit escapes.
1004         (url_escape_dir): Document that this function depends on the
1005         output of url_escape_1.
1006
1007 2003-09-23  Hrvoje Niksic  <hniksic@xemacs.org>
1008
1009         * progress.c (create_image): Print the current ETA if we're done
1010         with the download.
1011         (create_image): Change '-' display char to '+' in the progress bar.
1012
1013         * Makefile.in (clean): Remove .libs.
1014
1015 2003-09-23  Hrvoje Niksic  <hniksic@xemacs.org>
1016
1017         * cookies.c (struct cookie): New flag domain_exact.
1018         (update_cookie_field): Skip leading dot in domain.
1019         (find_matching_chains): Match numeric addresses exactly; don't
1020         needlessly copy HOST to the stack.
1021         (matching_cookie): Added argument HOST.  If cookie->domain_exact
1022         is set, check that HOST is equal to cookie->domain.
1023         (cookie_jar_load): Only use TAB as delimiter.  Document the
1024         meaning of DOMAIN-FLAG.  Skip leading dot in domain.
1025         (cookie_jar_load): Don't ignore DOMAIN-FLAG -- instead, set
1026         domain_exact to true if DOMAIN-FLAG is false.
1027         (save_cookies_mapper): If domain_exact is false, prepend the
1028         domain with dot, like Mozilla does.
1029
1030 2003-09-22  Hrvoje Niksic  <hniksic@xemacs.org>
1031
1032         * progress.c (create_image): Print the initial part of the
1033         download with '-' characters, analogous to how dot progress prints
1034         the initial part with ','.
1035
1036         * hash.c (ptrhash): New function.
1037         (ptrcmp): Ditto.
1038         (hash_table_new): Default to identity hash table.
1039
1040 2003-09-22  Hrvoje Niksic  <hniksic@xemacs.org>
1041
1042         * safe-ctype.h (_sch_test): The cast of BIT to unsigned char was
1043         broken -- _sch_istable bitmasks are 16-bit, not 8-bit!  Cast BIT
1044         to unsigned short instead.
1045
1046 2003-09-22  Hrvoje Niksic  <hniksic@xemacs.org>
1047
1048         * url.c (path_simplify): Instead of calls to memmove, handle "./"
1049         and "../" by advancing pointers.
1050
1051 2003-09-22  Hrvoje Niksic  <hniksic@xemacs.org>
1052
1053         * retr.c (getproxy): Moved from url.c.
1054
1055         * convert.c: Split off link conversion from url.c into separate
1056         file.  Also included the book-keeping stuff from recur.c.
1057
1058 2003-09-21  Hrvoje Niksic  <hniksic@xemacs.org>
1059
1060         * init.c: Improved documentation of functions.
1061         (cmd_boolean): Attempt to make code that tries to avoid calling
1062         strcmp for "speed" a bit more readable.
1063
1064         * init.c (simple_atof): Report error on encountering non-digit,
1065         non-"." character.
1066         (simple_atoi): Replacement for myatoi(), calling interface
1067         compatible with simple_atof.  Updated myatoi's callers.
1068
1069 2003-09-21  Bertrand Demiddelaer  <bert@b3rt.org>
1070
1071         * url.c (path_simplify): Would read two bytes past the end of the
1072         string in the "./" case.
1073
1074 2003-09-21  Matthew J. Mellon  <mellon@tymenet.com>
1075
1076         * http.c (gethttp): Recognize content-type "application/xhtml+xml"
1077         as what Wget considers "text/html".
1078
1079 2003-09-21  Hrvoje Niksic  <hniksic@xemacs.org>
1080
1081         * connect.c (connect_with_timeout): Made timeout type double.
1082
1083         * options.h (struct options): New members read_timeout,
1084         dns_timeout, and connect_timeout.
1085         Use them.
1086
1087 2003-09-21  Hrvoje Niksic  <hniksic@xemacs.org>
1088
1089         * init.c (simple_atof): New function.
1090         (cmd_time): Use it.
1091         (cmd_bytes): Accept things like "1.5k" and such.  Use simple_atof
1092         to parse decimals.
1093
1094         * retr.c (limit_bandwidth): Adjust each sleep by the error of the
1095         previous one.
1096
1097 2003-09-21  Hrvoje Niksic  <hniksic@xemacs.org>
1098
1099         * main.c (main): Use setoptval() for setting the options.  Use
1100         run_command for `-e'.
1101
1102         * init.c (parse_line): Rewritten to return COMIND right away.
1103         Changed linkage to static.
1104         (run_wgetrc): Use the available comind when calling setval, so it
1105         doesn't have to be computed twice.
1106         (setval_internal): New function, runs the command's action without
1107         any error checking.
1108         (setoptval): New function, does what setval used to do, but exits
1109         in case of error.
1110         (run_command): New function.
1111
1112 2003-09-21  Hrvoje Niksic  <hniksic@xemacs.org>
1113
1114         * connect.c (select_fd): Change MAXTIME's type to double.  Handle
1115         its decimal part.
1116
1117         * retr.c (sleep_between_retrievals): In the random-wait case, use
1118         random_float() to wait between 0 and 2*opt.wait seconds.
1119
1120         * utils.c (run_with_timeout): Accept `double' timeouts.  Correctly
1121         handle timeout values in (0, 1) range.
1122         (random_float): New function.
1123
1124         * options.h (struct options): Change the types of wait, waitretry,
1125         and timeout to double.
1126
1127         * init.c (cmd_time): Accept floating point time.
1128
1129 2003-09-20  Hrvoje Niksic  <hniksic@xemacs.org>
1130
1131         * retr.c (get_contents): Cosmetic fixes.
1132
1133 2003-09-20  Hrvoje Niksic  <hniksic@xemacs.org>
1134
1135         * url.c (uri_merge): Get rid of uri_merge_1.
1136         (uri_merge): Merge "foo//", "bar" as "foo//bar", not "foo///bar",
1137         i.e. don't add an extra slash merely because BASE ends with two
1138         slashes.
1139         (parse_credentials): Renamed from parse_uname.  Rewrittern in
1140         standard [beg, end) calling style.
1141         (url_skip_credentials): Renamed from url_skip_uname.  Made static.
1142         (url_skip_credentials): Include # and ; as terminators.  Old code
1143         would mistakenly consider "http://foo.com#hniksic@iskon.hr" to
1144         contain a username.
1145         (url_skip_scheme): Removed because it was unused.
1146         (url_has_scheme): Require "scheme" to be at least one char long.
1147
1148 2003-09-19  Hrvoje Niksic  <hniksic@xemacs.org>
1149
1150         * url.c (url_file_name): Expect NULL dir_prefix.
1151
1152         * init.c (cmd_file): Use a macro to prevent multiple #ifdef
1153         WINDOWS.
1154         (defaults): Set dir_prefix to NULL by default.
1155
1156 2003-09-19  Hrvoje Niksic  <hniksic@xemacs.org>
1157
1158         * safe-ctype.h (_sch_test): Cast BIT to unsigned char, like latest
1159         gcc does.
1160
1161 2003-09-19  Hrvoje Niksic  <hniksic@xemacs.org>
1162
1163         * wget.h (BOUNDED_TO_ALLOCA): Evaluate PLACE only once.
1164         (ARRAY_SIZE): Renamed to countof.  All callers updated.
1165
1166 2003-09-19  Hrvoje Niksic  <hniksic@xemacs.org>
1167
1168         * main.c (main): New option --strict-comments.
1169
1170         * html-parse.c (find_comment_end): New function: simple BM search
1171         for "-->".
1172         (map_html_tags): Use it if looking at a comment and not in strict
1173         comments mode.
1174
1175 2003-09-17  Aurelien Marchand  <artaxerxes@users.sf.net>
1176
1177         * ftp.h: Added OS400 system in enum
1178         * ftp-basic.c: recognize OS400 systems
1179         * ftp.c: don't prepend the CWD if talking to OS400, since it
1180         breaks the change in library
1181
1182 2003-09-18  Hrvoje Niksic  <hniksic@xemacs.org>
1183
1184         * retr.c (get_contents): Pass the correct argument to ssl_iread.
1185
1186 2003-09-18  Hrvoje Niksic  <hniksic@xemacs.org>
1187
1188         * safe-ctype.h: Don't #define ctype.h macros to errors because
1189         that loses when someone #include's ctype.h after safe-ctype.h.
1190
1191 2003-09-17  Hrvoje Niksic  <hniksic@xemacs.org>
1192
1193         * url.c: Undef U, W, C after use.
1194
1195 2003-09-17  Hrvoje Niksic  <hniksic@xemacs.org>
1196
1197         * init.c (cmd_spec_restrict_file_names): Allow the OS setting to
1198         be augmented by ",nocontrol" which means don't escape the control
1199         characters, but otherwise keep OS settings.
1200
1201         * url.c (file_unsafe_char): Deleted.
1202         (append_uri_pathel): Query filechr_table directly.
1203         (filechr_table): Separated Unix, Windows, and control-unsafe
1204         characters.
1205
1206 2003-09-17  Hrvoje Niksic  <hniksic@xemacs.org>
1207
1208         * url.c (url_escape_1): New function.
1209         (url_escape): Use it.
1210         (sync_path): Handle pathological cases where u->file and u->dir
1211         contain really strange characters.
1212         (ENCODE): Deleted.
1213         (REENCODE): Deleted.
1214
1215 2003-09-16  Hrvoje Niksic  <hniksic@xemacs.org>
1216
1217         * url.c (url_file_name): Don't reallocate FNAME if the file
1218         doesn't exist, as is usually the case.
1219
1220         * utils.c (unique_name): New flag allow_passthrough.
1221
1222 2003-09-16  Hrvoje Niksic  <hniksic@xemacs.org>
1223
1224         * utils.c (wtimer_sys_diff): Convert the time difference to signed
1225         __int64, then to double.  This works around MS VC++ 6 which can't
1226         convert unsigned __int64 to double directly.
1227
1228 2003-09-16  Hrvoje Niksic  <hniksic@xemacs.org>
1229
1230         * Makefile.in (clean): Also remove the core.<number> files
1231         produced by recent Linux systems.
1232
1233 2003-09-16  Hrvoje Niksic  <hniksic@xemacs.org>
1234
1235         * http.c (post_file): Don't pad the file if it's not large
1236         enough.  Bail out instead.
1237
1238 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1239
1240         * retr.c (get_contents): Reduce the buffer size to the amount of
1241         data that may pass through for one second.  This prevents long
1242         sleeps when limiting bandwidth.
1243
1244         * connect.c (connect_to_one): Reduce the socket's RCVBUF when
1245         bandwidth limitation to small values is requested.
1246
1247 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1248
1249         * progress.c (update_speed_ring): Moved the speed ring update to a
1250         separate function and documented it better.
1251
1252         * progress.c: Use `double' for most timers to support granularity
1253         smaller than 1ms.
1254
1255 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1256
1257         * wget.h (XDIGIT_TO_XCHAR): Implement as index into a literal
1258         string.
1259         (XDIGIT_TO_xchar): Ditto.
1260
1261 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1262
1263         * utils.c: Change the type of timer-related functions from long to
1264         double, for better precision.  On machines supporting gettimeofday
1265         the timers now work with granularity of less than one millisecond.
1266
1267 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1268
1269         * cookies.c (parse_set_cookies): Fixed the parser to handle more
1270         edge conditions.
1271         (test_cookies): New function, contains a test suite for
1272         parse_set_cookies.
1273
1274 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1275
1276         * url.c (strpbrk_or_eos): Implement as a macro under Gcc.
1277
1278 2003-09-15  Hrvoje Niksic  <hniksic@xemacs.org>
1279
1280         * cookies.c (parse_set_cookies): Allow trailing space in
1281         set-cookies header.  Also, allow any amount of whitespace, not
1282         only one character.  Allow empty set-cookies header without
1283         spewing an error.
1284
1285 2003-09-14  Hrvoje Niksic  <hniksic@xemacs.org>
1286
1287         * url.c (append_uri_pathel): Use opt.restrict_file_names when
1288         calling file_unsafe_char.
1289
1290         * init.c: New command restrict_file_names.
1291
1292         * main.c (main): New option --restrict-file-names[=windows,unix].
1293
1294         * url.c (url_file_name): Renamed from url_filename.
1295         (url_file_name): Add directory and hostdir prefix here, not in
1296         mkstruct.
1297         (append_dir_structure): New function, does part of the work that
1298         used to be in mkstruct.  Iterates over path elements in u->path,
1299         calling append_uri_pathel on each one to append it to the file
1300         name.
1301         (append_uri_pathel): URL-unescape a path element and reencode it
1302         with a different set of rules, more appropriate for handling of
1303         files.
1304         (file_unsafe_char): New function, uses a lookup table to decide
1305         whether a character should be escaped for use in file name.
1306         (append_string): New utility function.
1307         (append_char): Ditto.
1308         (file_unsafe_char): New argument restrict_for_windows, decide
1309         whether Windows file names should be escaped in run-time.
1310
1311         * connect.c: Include <stdlib.h> to get prototype for abort().
1312
1313 2003-09-14  Hrvoje Niksic  <hniksic@xemacs.org>
1314
1315         * utils.c (wtimer_sys_set): Extracted the code that sets the
1316         current time here.
1317         (wtimer_reset): Call it.
1318         (wtimer_sys_diff): Extracted the code that calculates the
1319         difference between two system times here.
1320         (wtimer_elapsed): Call it.
1321         (wtimer_elapsed): Don't return a value smaller than the previous
1322         one, which could previously happen when system time is set back.
1323         Instead, reset start time to current time and note the elapsed
1324         offset for future calculations.  The returned times are now
1325         guaranteed to be monotonically nondecreasing.
1326
1327 2003-09-10  Hrvoje Niksic  <hniksic@xemacs.org>
1328
1329         * host.c (lookup_host): Print the result of the DNS lookup.
1330
1331 2003-09-10  Hrvoje Niksic  <hniksic@xemacs.org>
1332
1333         * init.c (cmd_boolean): Accept yes/no along with on/off.
1334         (cmd_lockable_boolean): Ditto.
1335
1336 2003-09-10  Hrvoje Niksic  <hniksic@xemacs.org>
1337
1338         * init.c: New command dns_cache.
1339
1340         * main.c (main): New option --dns-cache[=off].
1341
1342 2003-09-09  Hrvoje Niksic  <hniksic@xemacs.org>
1343
1344         * config.h.in: Initialize HAVE_GETADDRINFO and ENABLE_IPV6.
1345
1346         * all: Use #ifdef ENABLE_IPV6 instead of the older INET6.  Use
1347         HAVE_GETADDRINFO for getaddrinfo-related stuff.
1348
1349 2003-09-09  Hrvoje Niksic  <hniksic@xemacs.org>
1350
1351         * url.c (url_parse): Return an error if the URL contains a [...]
1352         IPv6 numeric address and we don't support IPv6.
1353
1354 2003-09-05  Hrvoje Niksic  <hniksic@xemacs.org>
1355
1356         * url.c (is_valid_ipv6_address): Modified to not require
1357         zero-terminated strings.
1358         (is_valid_ipv4_address): Ditto.
1359
1360 2003-09-05  Mauro Tortonesi <mauro@deepspace6.net>
1361
1362         src/url.c: added RFC 2732 compliance for URL parsing. The
1363         functions is_*_address valid are a modified version of
1364         glibc 2.3.2 inet_pton's code.
1365
1366 2003-09-03  Ahmon Dancy  <dancy@dancysoft.com>
1367
1368         * main.c init.c options.h: Added --retry-connrefused option so
1369         that Connection Refused failures are treated as non-fatal (when
1370         trying to retrieve from busy servers).
1371
1372         * wget.h: New CONNECT_ERROR macro for encapsulating this
1373         modification.
1374
1375         * ftp.c http.c : Use CONNECT_ERROR macro in places where
1376         ECONNREFUSED was checked.
1377
1378 2003-01-11  Ian Abbott  <abbotti@mev.co.uk>
1379
1380         * ftp.c (ftp_retrieve_glob): Reject insecure filenames as determined
1381         by calling new function has_insecure_name_p.  This is based on a
1382         patch by Red Hat.
1383
1384         * fnmatch.c (has_insecure_name_p): New function: returns non-zero
1385         if filename starts with `/' or contains `../' and is therefore
1386         considered insecure.
1387
1388         * fnmatch.h: Declare has_insecure_name_p().
1389
1390 2002-08-03  Hrvoje Niksic  <hniksic@xemacs.org>
1391
1392         * init.c (cmd_file): Allocate RESULT correctly.
1393
1394 2002-07-24  Hrvoje Niksic  <hniksic@xemacs.org>
1395
1396         * recur.c (retrieve_tree): Check whether downloaded_html_set is
1397         non-NULL before using it.
1398
1399 2002-05-27  Hrvoje Niksic  <hniksic@arsdigita.com>
1400
1401         * html-parse.c (NAME_CHAR_P): Allow almost any character here.
1402
1403 2002-05-24  Hrvoje Niksic  <hniksic@arsdigita.com>
1404
1405         * progress.c (bar_set_params): Fall back to dot progress if the
1406         terminal type is "emacs".
1407
1408 2002-05-20  Hrvoje Niksic  <hniksic@arsdigita.com>
1409
1410         * log.c: Don't #undef WGET_USE_STDARG.
1411
1412 2002-05-16  Hrvoje Niksic  <hniksic@arsdigita.com>
1413
1414         * hash.c (prime_size): Store the offset of the prime number in the
1415         prime table.  When searching, start with the given offset.
1416         (hash_table_new): Pass the pointer to ht->prime_offset to
1417         prime_size.
1418         (grow_hash_table): Ditto.
1419         (prime_size): Make 13 the first prime to make empty hash tables
1420         slightly smaller.
1421
1422 2002-05-16  Ian Abbott  <abbotti@mev.co.uk>
1423
1424         * recur.c (download_child_p): Minor optimization to avoid an
1425         unnecessary additional call to schemes_are_similar_p function.
1426
1427 2002-05-16  Ian Abbott  <abbotti@mev.co.uk>
1428
1429         * url.c (schemes_are_similar_p): New function to test enumerated
1430         scheme codes for similarity.
1431
1432         * url.h: Declare it.
1433
1434         * recur.c (download_child_p): Use it to compare schemes.  This
1435         also fixes a bug that allows hosts to be spanned (without the
1436         -H option) when the parent scheme is https and the child's is
1437         http or vice versa.
1438
1439 2002-05-14  Bill Richardson  <bill@riverstonenet.com>
1440
1441         * ftp.c (getftp): Don't ftruncate stdout.
1442
1443         * http.c (gethttp): Don't ftruncate stdout.
1444
1445 2002-05-09  Ian Abbott  <abbotti@mev.co.uk>
1446
1447         * cmpt.c (strptime_internal): Synched with glibc-2.1.3.
1448         (get_number): Ditto.
1449         (get_alt_number): Ditto.
1450         (__isleap): New function-like macro used by strptime.
1451         (day_of_the_week): New function used by strptime.
1452         (day_of_the_year): Ditto.
1453         (__mon_yday): Now shared by mktime and strptime implementations.
1454
1455 2002-05-08  Hrvoje Niksic  <hniksic@arsdigita.com>
1456
1457         * cookies.c (check_domain_match): Use match_tail in case
1458         insensitive mode.
1459
1460         * utils.c (match_tail): Allow the caller to specify case
1461         insensitive mode.
1462
1463         * cookies.c (store_cookie): When expiry_time is 0, print it as
1464         undefined, not indefinite.
1465
1466 2002-05-07  Ian Abbott  <abbotti@mev.co.uk>
1467
1468         * cookies.c (cookie_jar_process_set_cookie): Do not store
1469         discarded cookie.
1470
1471 2002-04-21  Hrvoje Niksic  <hniksic@arsdigita.com>
1472
1473         * cookies.c (check_domain_match): Allow cookies to be set for
1474         subdomains of unknown top-level domains under some circumstances.
1475
1476 2002-04-21  Thomas Lussnig  <thomas.lussnig@bewegungsmelder.de>
1477
1478         * gen_ssl.c:
1479         - allow checking of server cert
1480         - allow defining client cert type
1481         - allow limit of ssl protocol
1482         - check more return values
1483         - added debug message on break
1484
1485 2002-04-21  Hrvoje Niksic  <hniksic@arsdigita.com>
1486
1487         * recur.c (download_child_p): Revert order of items in check
1488         number 6 for clarity.
1489
1490 2002-04-20  Hrvoje Niksic  <hniksic@arsdigita.com>
1491
1492         * init.c: Ditto.
1493
1494         * main.c: Ditto.
1495
1496         * http.c: Use the new interface.
1497
1498         * cookies.c: Provide an OO-style "cookie jar" interface to enable
1499         separate cookie jars.
1500
1501         * http.c (http_atotm): Declare argument as const.
1502
1503 2002-04-20  Hrvoje Niksic  <hniksic@arsdigita.com>
1504
1505         * cookies.c (cookie_new): Default to PORT_ANY.
1506         (find_cookie_chain_exact): Only search by DOMAIN.
1507         (find_matching_cookie): Also check that PORT matches.
1508         (store_cookie): Only match the domain.
1509         (set_cookie_header_cb): When a cookie "fakes" a domain, assume it
1510         is valid for that host rather than discarding it completely.
1511         (find_matching_chains): Don't search by PORT.
1512         (matching_cookie): Also match PORT.
1513         (load_cookies): Set the port if specified, otherwise leave it as
1514         ANY.
1515         (save_cookies_mapper): Save the port if specified, otherwise leave
1516         it empty.
1517
1518 2002-04-19  Thomas Lussnig  <thomas.lussnig@bewegungsmelder.de>
1519
1520         * init.c: The option `egdfile' was not in sort order.
1521
1522 2002-04-16  Hrvoje Niksic  <hniksic@arsdigita.com>
1523
1524         * ftp.c (getftp): Treat directories that begin with <letter>: as
1525         absolute.
1526         (getftp): Strip trailing slashes from con->id before merging it
1527         with TARGET.
1528
1529 2002-04-16  Hrvoje Niksic  <hniksic@arsdigita.com>
1530
1531         * http.c (gethttp): If Content-Type is not given, assume
1532         text/html.
1533
1534 2002-04-15  Hrvoje Niksic  <hniksic@arsdigita.com>
1535
1536         * recur.c (download_child_p): Don't ignore rejection of HTML
1537         documents that are themselves leaves of recursion.
1538
1539 2002-04-15  Ian Abbott  <abbotti@mev.co.uk>
1540
1541         Makefile.in: Updated several dependencies for object files to take
1542         account of nested include files.
1543
1544 2002-04-15  Ian Abbott  <abbotti@mev.co.uk>
1545
1546         Makefile.in: The target `connect$o' (connect.o) now depends on
1547         `utils.h'
1548
1549 2002-04-15  Ian Abbott  <abbotti@mev.co.uk>
1550
1551         * host.c (SET_H_ERRNO): New function-like macro to set `h_errno'.
1552         (gethostbyname_with_timeout): Use it.
1553
1554         * utils.c: Don't define `SETJMP()', `run_with_timeout_env' or
1555         `abort_run_with_timeout()' when `USE_SIGNAL_TIMEOUT' is undefined.
1556
1557 2002-04-15  Hrvoje Niksic  <hniksic@arsdigita.com>
1558
1559         * host.c (getaddrinfo_with_timeout): New function.
1560         (gethostbyname_with_timeout): Ditto.
1561         (lookup_host): Use them.
1562
1563 2002-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
1564
1565         * utils.c (number_to_string): Handle the case when n < -INT_MAX.
1566
1567 2002-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
1568
1569         * init.c (comind): Use a marginally faster implementation of
1570         binary search.  To quote Martin Buchholz, "a nanosecond saved is a
1571         nanosecond earned."
1572
1573 2002-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
1574
1575         * main.c (print_help): Document `--post-data' and `--post-file'.
1576
1577 2002-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
1578
1579         * http.c (gethttp): Ditto.
1580
1581         * retr.c (retrieve_url): Initialize variables to appease the
1582         compiler.
1583
1584         * gen_sslfunc.c (ssl_iread): Don't handle EINTR when calling
1585         select_fd.
1586         (ssl_iwrite): Ditto.
1587
1588         * connect.c (select_fd): Rewrite to handle EINTR.  Set errno to
1589         ETIMEDOUT in case of timeout.
1590         (iread): No need to handle EINTR when calling select_fd.
1591         (iwrite): Ditto.
1592
1593 2002-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
1594
1595         * retr.c (retrieve_url): Make sure that POST is not honored for
1596         redirections.
1597
1598         * http.c (gethttp): Send the POST data when requested.
1599         (post_file): New function.
1600         (gethttp): Use it.
1601
1602         * main.c (main): Ditto.
1603
1604         * init.c: Add new options.
1605
1606         * options.h (struct options): New options post_data and
1607         post_file_name.
1608
1609 2002-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
1610
1611         * connect.c (connect_with_timeout): Firing SIGALRM can result in
1612         connect() exiting with EINTR.  Treat EINTR the same as ETIMEDOUT.
1613
1614 2002-04-13  Hrvoje Niksic  <hniksic@arsdigita.com>
1615
1616         * connect.c (connect_with_timeout): Use it.
1617
1618         * utils.c (run_with_timeout): New function.
1619
1620 2002-04-13  Hrvoje Niksic  <hniksic@arsdigita.com>
1621
1622         * url.c (getproxy): Accept a struct url argument.  This obviates
1623         the need for USE_PROXY_P.
1624
1625         * retr.c (retrieve_url): Allow proxy to be a non-FTP URL.
1626
1627         * ftp.c (getftp): Recognize FWTK-style proxy.
1628
1629 2002-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
1630
1631         * config.h.in: Only define _VA_LIST when compiled with gcc.
1632
1633 2002-04012  Ian Abbott  <abbotti@mev.co.uk>
1634
1635         * http.c (http_loop): Compensate for MS Windows two-second
1636         granularity of file modification time when comparing timestamps.
1637
1638         * ftp.c (ftp_retrieve_list): Ditto.
1639
1640 2002-04-12  Ian Abbott  <abbotti@mev.co.uk>
1641
1642         * utils.c (has_html_suffix_p): New function to test filename for
1643         common html extensions.
1644
1645         * utils.h: Declare it.
1646
1647         * http.c (http_loop): Use it instead of previous test.
1648
1649         * retr.c (retrieve_url): Ditto.
1650
1651         * recur.c (download_child_p): Ditto.
1652
1653 2002-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
1654
1655         * config.h.in: Define _VA_LIST on Solaris to prevent stdio.h from
1656         declaring va_list.
1657         From Kevin Rodgers <kevinr@ihs.com>.
1658
1659 2002-04-12  Ian Abbott  <abbotti@mev.co.uk>
1660
1661         * Makefile.in: Specify libtool mode explicitly when linking.
1662
1663 2002-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
1664
1665         * connect.c (connect_with_timeout): New function.
1666         (connect_to_one): Use it.
1667
1668         * config.h.in: Add stubs for HAVE_SIGSETJMP, HAVE_SIGBLOCK, and
1669         HAVE_SETJMP_H.
1670
1671 2002-04-11  Hrvoje Niksic  <hniksic@arsdigita.com>
1672
1673         * log.c: Set WGET_USE_STDARG if __STDC__ is defined and stdarg.h
1674         is present.
1675
1676 2002-04-11  Hrvoje Niksic  <hniksic@arsdigita.com>
1677
1678         * progress.c (bar_create): If INITIAL is larger than TOTAL, fix
1679         TOTAL.
1680         (bar_finish): Likewise.
1681
1682 2002-04-11  Hrvoje Niksic  <hniksic@arsdigita.com>
1683
1684         * html-url.c (tag_handle_form): New function.  Pick up form
1685         actions and mark them for conversion only.
1686
1687 2002-04-11  Hrvoje Niksic  <hniksic@arsdigita.com>
1688
1689         * progress.c (struct progress_implementation): Use PARAMS when
1690         declaring the parameters of *create, *update, *finish, and
1691         *set_params.
1692
1693         * netrc.c: Ditto.
1694
1695         * http.c: Reformat some function definitions so that ansi2knr can
1696         read them.
1697
1698         * hash.c (struct hash_table): Use the PARAMS macro around
1699         parameters in the declaration of hash_function and test_function.
1700         (prime_size): Spell 2580823717UL and 3355070839UL as (unsigned
1701         long)0x99d43ea5 and (unsigned long)0xc7fa5177 respectively, so
1702         that pre-ANSI compilers can read them.
1703         (find_mapping): Use PARAMS when declaring EQUALS.
1704         (hash_table_put): Ditto.
1705
1706         * ftp.h: Wrap the parameters of ftp_index declaration in PARAMS.
1707
1708         * cookies.c (cookie_new): Use (unsigned long)0 instead of 0UL,
1709         which was unsupported by pre-ANSI compilers.
1710
1711         From Nelson H. F. Beebe <beebe@math.utah.edu>, for the most part.
1712
1713 2002-04-11  Hrvoje Niksic  <hniksic@arsdigita.com>
1714
1715         * url.c (url_filename): Use compose_file_name regardless of
1716         whether opt.dirstruct is set.
1717         (mkstruct): Don't handle the query and the reencoding of DIR; that
1718         is done in compose_file_name.
1719
1720 2002-04-10  Hrvoje Niksic  <hniksic@arsdigita.com>
1721
1722         * wget.h: Ditto for extern char *exec_name.
1723
1724         * options.h: Don't guard against OPTIONS_DEFINED_HERE -- it is
1725         perfectly legal to follow an `extern' with a non-`extern' ones,
1726         provided the types match.
1727
1728         * main.c: Don't define OPTIONS_DEFINED_HERE.
1729
1730 2002-04-10  Hrvoje Niksic  <hniksic@arsdigita.com>
1731
1732         * progress.c (create_image): Revert to calculating ETA based on
1733         average download speed.
1734         (create_image): Don't print ETA until the download has been active
1735         for at least 3 seconds.
1736         (create_image): When ETA is not available, don't print anything.
1737         The previous version would print --:--.
1738
1739 2002-04-10  Hrvoje Niksic  <hniksic@arsdigita.com>
1740
1741         * progress.c (bar_update): Keep updating a subinterval until it
1742         reaches or exceeds a watermark.  That way the measurement will be
1743         guaranteed to span a configurable minimum of time.  The current
1744         default is 3s in 30 100ms intervals.
1745
1746 2002-04-09  Hrvoje Niksic  <hniksic@arsdigita.com>
1747
1748         * progress.c (bar_update): Maintain an array of the time it took
1749         to perform previous 30 network reads.
1750         (create_image): Calculate the download speed and ETA based on the
1751         last 30 reads, not the entire download.
1752         (create_image): Make sure that the ETA is not changed more than
1753         once per second.
1754
1755 2002-04-09  Ian Abbott  <abbotti@mev.co.uk>
1756
1757         * mswindows.c (borland_utime): New function conditionally defined
1758         when `HACK_BCC_UTIME_BUG' is defined.  A reimplementation of
1759         `utime()' as Borland's `utime()' function is broken on Windows 9x
1760         systems.  (Original patch by Chin-yuan Kuo <sr1111111@yahoo.com.tw>.)
1761
1762 2002-04-08  Hrvoje Niksic  <hniksic@arsdigita.com>
1763
1764         * ftp.c (ftp_loop): Propagate the result of ftp_retrieve_glob.
1765
1766 2002-03-26  Ian Abbott  <abbotti@mev.co.uk>
1767
1768         * Makefile.in: Updated several dependencies for object files.
1769
1770 2002-03-20  Ian Abbott  <abbotti@mev.co.uk>
1771
1772         * mswindows.c: Include "utils.h".
1773
1774 2002-03-18  Ian Abbott  <abbotti@mev.co.uk>
1775
1776         * host.h: Don't include netdb.h on windows.
1777
1778 2002-02-19  Hrvoje Niksic  <hniksic@arsdigita.com>
1779
1780         * recur.c (retrieve_tree): Handle the case when start_url doesn't
1781         parse.
1782
1783 2002-02-19  Andreas Damm  <andreas-sourceforge@radab.org>
1784
1785         * wget.h (DO_REALLOC_FROM_ALLOCA): Multiply with sizeof(type) when
1786         calling xmalloc and memcpy.
1787
1788 2002-02-19  Hrvoje Niksic  <hniksic@arsdigita.com>
1789
1790         * host.h: Include Unix-specific includes #ifndef WINDOWS.
1791         Patch originally provided by Christian Lackas.
1792
1793 2002-02-11  Christian Lackas  <delta@lackas.net>
1794
1795         * recur.c: recurive downloading for https fixed.
1796
1797 2002-02-19  Alan Eldridge  <alane@geeksrus.net>
1798
1799         * host.h: Also include <netinet/in.h> and <sys/socket.h>.
1800
1801         * ftp-basic.c: Also include <netinet/in.h>.
1802
1803 2002-02-05  Ian Abbott  <abbotti@mev.co.uk>
1804
1805         * http.c (gethttp): when -c used, mark already fully retrieved
1806         file as successfully retrieved.
1807
1808 2002-02-19  Hrvoje Niksic  <hniksic@arsdigita.com>
1809
1810         * url.c (url_parse): Don't treat '?' as query string separator
1811         when parsing FTP URLs.
1812
1813 2002-02-01  Hrvoje Niksic  <hniksic@arsdigita.com>
1814
1815         * html-url.c (tag_handle_meta): Don't crash on <meta
1816         http-equiv=refresh> where content is missing.
1817
1818 2002-01-31  Herold Heiko  <Heiko.Herold@previnet.it>
1819
1820         * ftp-basic.c, host.c: don't include sys/socket.h, arpa/inet.h,
1821         netdb.h on windows.
1822
1823 2002-01-30  Hrvoje Niksic  <hniksic@arsdigita.com>
1824
1825         * retr.c (retrieve_url): Remove redirection cycle detection.  This
1826         is because some sites legitimately redirect the user back to the
1827         same location, e.g. after an authorization check performed by
1828         another page.  MAX_REDIRECTIONS is still used to prevent infinite
1829         redirection loops.
1830
1831 2002-01-26  Hrvoje Niksic  <hniksic@arsdigita.com>
1832
1833         * http.c (gethttp): Wrap host name in square brackets if it
1834         contains a colon.
1835
1836 2002-01-26  Hrvoje Niksic  <hniksic@arsdigita.com>
1837
1838         * url.c (url_parse): Allow all hex digits, not only decimal ones,
1839         to form an IP address.
1840
1841 2002-01-26  Hrvoje Niksic  <hniksic@arsdigita.com>
1842
1843         * url.c (urlchr_table): Make square braces reserved, so we can
1844         parse http://[::1]/.
1845         (url_parse): Handle host in braces.
1846         (url_string): If url->host contains colons, wrap it in braces.
1847
1848 2002-01-24  Hrvoje Niksic  <hniksic@arsdigita.com>
1849
1850         * connect.c (resolve_bind_address): New function.
1851         (connect_to_one): Use it.
1852         (bindport): Ditto.
1853
1854         * init.c: Don't resolve bind-address here.
1855
1856         * host.c (wget_sockaddr_set_address): Would bug out with ADDR == NULL.
1857
1858 2002-01-24  Hrvoje Niksic  <hniksic@arsdigita.com>
1859
1860         * host.c (lookup_host): Use sizeof(ip4_address) to calculate the
1861         offset.
1862         (address_list_new): Use map_ipv4_to_ip.
1863         (wget_sockaddr_set_address): Convert ADDR to IPv4 before using it
1864         in IPv4 context.
1865
1866 2002-01-24  Hrvoje Niksic  <hniksic@arsdigita.com>
1867
1868         * source: Integrated IPv6 support.
1869         Written by Thomas Lussnig <thomas.lussnig@bewegungsmelder.de>.
1870
1871 2002-01-15  Ian Abbott  <abbotti@mev.co.uk>
1872
1873         * init.c (cmd_file): Change `\' to `/' for Windows (yes, really!)
1874         (cmd_directory): New function. Like cmd_file(), but strips
1875         trailing directory separators.
1876         (commands): Change action for "dirprefix" from `cmd_file' to
1877         `cmd_directory'.
1878
1879         * utils.c (make_directory): Allow intermediate `mkdir' calls to
1880         fail, as not all path components that do not exist should be
1881         directory components, especially under Windows.
1882
1883 2002-01-17  Hrvoje Niksic  <hniksic@arsdigita.com>
1884
1885         * netrc.c (parse_netrc): Skip leading whitespace before testing
1886         whether the line is empty.  Empty lines still contain the line
1887         terminator.
1888
1889 2002-01-15  Hrvoje Niksic  <hniksic@arsdigita.com>
1890
1891         * gen_sslfunc.c (ssl_iread): Call select on the file descriptor
1892         only if no data is pending in SSL buffers.
1893         From tony@bluetail.com.
1894
1895 2002-01-14  Hrvoje Niksic  <hniksic@arsdigita.com>
1896
1897         * headers.c (header_get): Strip trailing whitespace from the
1898         header.
1899
1900 2002-01-14  Hrvoje Niksic  <hniksic@arsdigita.com>
1901
1902         * url.c (parse_uname): URL-decode *USER and *PASSWD.
1903
1904 2002-01-07  Ian Abbott <abbotti@mev.co.uk>
1905
1906         * url.c (uri_merge_1): Deal with "net path" relative URL (one that
1907         starts with "//").
1908
1909 2002-01-14  Hrvoje Niksic  <hniksic@arsdigita.com>
1910
1911         * http.c (gethttp): Invalidate SOCK if get_contents encountered an
1912         error.
1913
1914 2001-12-24  Hrvoje Niksic  <hniksic@arsdigita.com>
1915
1916         * version.c: Wget 1.8.1 is released.
1917
1918 2001-12-19  Hrvoje Niksic  <hniksic@arsdigita.com>
1919
1920         * version.c: Wget 1.8.1-pre3 is released.
1921
1922 2001-12-19  Hrvoje Niksic  <hniksic@arsdigita.com>
1923
1924         * recur.c (retrieve_tree): Enqueue the canonical representation of
1925         start_url, so that the test against dl_url_file_map works.
1926
1927 2001-12-19  Hrvoje Niksic  <hniksic@arsdigita.com>
1928
1929         * log.c (logputs): Check for requested verbosity before printing
1930         anything.
1931
1932 2001-12-19  Hrvoje Niksic  <hniksic@arsdigita.com>
1933
1934         * html-url.c (tag_handle_link): Treat the "shortcut icon" link as
1935         inline.
1936
1937 2001-12-18  Hrvoje Niksic  <hniksic@arsdigita.com>
1938
1939         * recur.c (retrieve_tree): Make a copy of file obtained from
1940         dl_url_file_map because the code calls xfree(file) later.
1941
1942 2001-12-18  Hrvoje Niksic  <hniksic@arsdigita.com>
1943
1944         * recur.c (register_html): Maintain a hash table of HTML files
1945         along with the list.  Disallow duplicates.
1946         (retrieve_tree): Use downloaded_html_set to check whether the file
1947         found in dl_url_file_map is an HTML file, and descend into it if
1948         so.
1949         (convert_all_links): Don't guard against duplicates in
1950         downloaded_html_list, since they are no longer possible.
1951
1952 2001-12-18  Ian Abbott  <abbotti@mev.co.uk>
1953
1954         * recur.c (retrieve_tree): Pass on referring URL when retrieving
1955         recursed URL.
1956
1957 2001-12-17  Hrvoje Niksic  <hniksic@arsdigita.com>
1958
1959         * version.c: Wget 1.8.1-pre2 is released.
1960
1961 2001-12-17  Hrvoje Niksic  <hniksic@arsdigita.com>
1962
1963         * retr.c (sleep_between_retrievals): Simplify indentation.
1964
1965 2001-12-17  Hrvoje Niksic  <hniksic@arsdigita.com>
1966
1967         * gen_sslfunc.c (ssl_init_prng): Use random_number to get a byte
1968         of "randomness" at a time.
1969         (ssl_init_prng): Don't seed the PRNG; random_number will do that.
1970
1971         * retr.c (sleep_between_retrievals): Use it.  Make sure that the
1972         random amount averages in opt.wait.
1973         (sleep_between_retrievals): Don't seed the PRNG; random_number
1974         will do that.
1975
1976         * utils.c (random_number): New function.
1977
1978 2001-12-14  Hrvoje Niksic  <hniksic@arsdigita.com>
1979
1980         * url.c (path_simplify): Move here from utils.c, and make static.
1981
1982 2001-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
1983
1984         * init.c (wgetrc_file_name): Print correct message when loading
1985         getenv("WGETRC") fails.
1986
1987 2001-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
1988
1989         * recur.c (register_download): Don't abort when one URL references
1990         two different files.
1991
1992 2001-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
1993
1994         * http.c (gethttp): Check for conn->scheme, not u->scheme, before
1995         calling ssl_iwrite.
1996
1997 2001-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
1998
1999         * version.c: Wget 1.8.1-pre1 is released.
2000
2001 2001-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
2002
2003         * res.c (matches): Fix broken URL in the docstring.
2004
2005 2001-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
2006
2007         * html-url.c (tag_url_attributes): Mark <embed href=...> as
2008         external.
2009
2010 2001-12-12  Hrvoje Niksic  <hniksic@arsdigita.com>
2011
2012         * url.c (get_urls_file): Cosmetic changes.
2013
2014 2001-12-12  Hrvoje Niksic  <hniksic@arsdigita.com>
2015
2016         * html-url.c (append_one_url): Resurrect warning when unable to
2017         resolve a relative link.
2018
2019 2001-12-12  Hrvoje Niksic  <hniksic@arsdigita.com>
2020
2021         * html-url.c (collect_tags_mapper): Break into several functions.
2022         (tag_url_attributes): Collect <embed href=...>.
2023
2024 2001-12-11  Hrvoje Niksic  <hniksic@arsdigita.com>
2025
2026         * host.c: New type ipv4_address.  Use it consistently instead of
2027         `unsigned char[4]' and `unsigned char *'.
2028         (pretty_print_address): Accept a `const void *', to require even
2029         less casting.
2030
2031 2001-12-11  Hrvoje Niksic  <hniksic@arsdigita.com>
2032
2033         * ftp-ls.c (ftp_parse_vms_ls): Fix obvious memory leaks.
2034
2035 2001-12-10  Hrvoje Niksic  <hniksic@arsdigita.com>
2036
2037         * main.c (main): Initialize progress after fork_to_background, so
2038         that it knows when to use dots.
2039
2040         * mswindows.c (ws_hangup): Call log_request_redirect_output.
2041
2042         * utils.c (fork_to_background): Print the PID of the child
2043         process.
2044
2045         * log.c (log_request_redirect_output): Set a flag that output
2046         redirection has been requested.  Doing anything else in a signal
2047         handler is unsafe.
2048         (check_redirect_output): New function: check whether redirection
2049         has been requested and, if so, call redirect_output().
2050         (logputs): Call check_redirect_output.
2051         (logprintf): Ditto.
2052         (debug_logprintf): Ditto.
2053         (redirect_output): Print clearer messages.
2054
2055         * main.c (redirect_output_signal): Don't call
2056         redirect_output_signal directly.  Instead, call
2057         log_request_redirect_output.
2058
2059         * utils.c (memfatal): Ditto.
2060
2061         * progress.c (display_image): Use it.
2062
2063         * log.c (log_set_save_context): New function: allow the caller to
2064         turn off saving log context lines.
2065
2066 2001-12-10  Hrvoje Niksic  <hniksic@arsdigita.com>
2067
2068         * host.c (address_list_set_faulty): Uncomment a sanity check.
2069
2070 2001-12-10  Hrvoje Niksic  <hniksic@arsdigita.com>
2071
2072         * utils.c (long_to_string): Return a pointer after where the
2073         number ends.
2074         (long_to_string): Rename to number_to_string.
2075
2076 2001-12-10  Hrvoje Niksic  <hniksic@arsdigita.com>
2077
2078         * utils.c (path_simplify): Correctly handle the unlikely case that
2079         b starts out as path + 1.
2080
2081 2001-12-10  Hrvoje Niksic  <hniksic@arsdigita.com>
2082
2083         * utils.c (path_simplify): Rewrite, with better comments, and
2084         without the use of strcpy to move overlapping blocks.
2085
2086 2001-12-09  Hrvoje Niksic  <hniksic@arsdigita.com>
2087
2088         * init.c (cmd_spec_progress): Resurrect.  Check whether VAL is a
2089         valid progress type before setting it.
2090
2091 2001-12-09  Hrvoje Niksic  <hniksic@arsdigita.com>
2092
2093         * main.c (main): Remove stray debugging message.
2094
2095 2001-12-09  Hrvoje Niksic  <hniksic@arsdigita.com>
2096
2097         * progress.c (create_image): Fix ETA padding when hours are prined.
2098
2099 2001-12-09  Hrvoje Niksic  <hniksic@arsdigita.com>
2100
2101         * version.c: Wget 1.8 is released.
2102
2103 2001-12-09  Hrvoje Niksic  <hniksic@arsdigita.com>
2104
2105         * url.c (reencode_string): Declare static.
2106
2107         * res.c (registered_specs): Declare static.
2108
2109         * progress.c (current_impl_locked): Declare static.
2110
2111         * log.c (flush_log_p): Declare static.
2112         (needs_flushing): Ditto.
2113
2114         * http.c (digest_authentication_encode): Declare static.
2115
2116         * html-url.c (init_interesting): Declare static.
2117
2118         * host.c (host_name_addresses_map): Declare static.
2119
2120         * cookies.c (find_matching_chains): Declare static.
2121
2122         * ftp-ls.c (ftp_parse_vms_ls): Warn about the memory leak
2123         indicated by lint.
2124
2125         * utils.c (path_simplify): Remove unused variable STUB_CHAR.
2126
2127         * host.c (address_list_set_faulty): Document that INDEX is
2128         currently unused.
2129
2130         * url.c (rewrite_shorthand_url): Remove unused variable PATH.
2131
2132 2001-12-08  Hrvoje Niksic  <hniksic@arsdigita.com>
2133
2134         * version.c: Wget 1.8-pre2 is released.
2135
2136 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2137
2138         * progress.c (progress_handle_sigwinch): Set up the signal again.
2139
2140         * utils.c: Include <sys/termios.h>, where Solaris defines
2141         TIOCGWINSZ.
2142
2143         * progress.c (bar_create): Don't use the last column on the screen.
2144         (create_image): Pad ETA to constant size.  Pad SIZE to nine digits
2145         only until it exceeded them.
2146
2147 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2148
2149         * version.c: Wget 1.8-pre1 is released.
2150
2151 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2152
2153         * progress.c (progress_create): Make sure that, when the output is
2154         redirected, the progress implementation gets changed to the
2155         fallback one.
2156         (bar_set_params): Set current_impl_locked to 1 when "force" is
2157         specified.
2158         (progress_create): Don't change the progress implementation if
2159         current_impl_locked is non-zero.
2160
2161         * main.c (redirect_output_signal): Call
2162         progress_schedule_redirect.
2163
2164         * progress.c (progress_schedule_redirect): New function.
2165
2166 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2167
2168         * log.c (logvprintf): Restructure to allow being called multiple
2169         times.
2170         (logprintf): Call logvprintf in a loop.
2171         (debug_logprintf): Ditto.
2172
2173 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2174
2175         * gen_sslfunc.c (ssl_init_prng): Allow the user to disable EGD by
2176         setting egd_file it to empty string.
2177
2178         * main.c (main): Change the option name from --sslegdsock to
2179         --egd-file.
2180
2181 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2182
2183         * gen_sslfunc.c (ssl_init_prng): Make the printed message
2184         translatable.
2185
2186 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2187
2188         * url.c (scheme_disable): New function.
2189
2190         * main.c (main): Call ssl_init_prng from here rather than from
2191         init_ssl, so that it has a chance to disable support for https
2192         before a URL has been resolved.
2193
2194         * gen_sslfunc.c (ssl_init_prng): Seed with rand() if all else
2195         failed.
2196         (ssl_init_prng): Disable support for https if seeding the PRNG
2197         fails.
2198
2199 2001-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
2200
2201         * utils.c (read_whole_line): Handle lines beginning with \0.
2202
2203 2001-12-05  Hrvoje Niksic  <hniksic@arsdigita.com>
2204
2205         * recur.c (convert_all_links): Guard against duplicates in
2206         downloaded_html_files.
2207         (register_download): Don't invalidate similar-looking URLs.
2208         (match_except_index): New function.
2209
2210 2001-12-05  Hrvoje Niksic  <hniksic@arsdigita.com>
2211
2212         * utils.c (path_simplify): Document with test cases.
2213
2214 2001-12-04  Hrvoje Niksic  <hniksic@arsdigita.com>
2215
2216         * gen_sslfunc.c: Ditto.
2217
2218         * rbuf.c: Include <string.h>.
2219
2220 2001-12-04  Hrvoje Niksic  <hniksic@arsdigita.com>
2221
2222         * recur.c (retrieve_tree): Check whether the URL was already
2223         downloaded before downloading it again.
2224         (descend_child_p): Renamed to download_child_p.
2225         (register_download): When one URL is downloaded to a file already
2226         "owned" by another URL, delete all references that map any URL to
2227         that file.
2228         (register_delete_file): New function.
2229         (retrieve_tree): Use it after deleting a file.
2230
2231         * url.c (url_parse): Re-canonicalize the URL also if the path is
2232         empty, so that e.g. "http://www.server.com" ->
2233         "http://www.server.com/".
2234         (lowercase_str): Use ISUPPER instead of !ISLOWER.
2235
2236         * retr.c (retrieve_url): Use the canonical URL form when calling
2237         register_download().
2238
2239 2001-12-04  Ian Abbott <abbotti@mev.co.uk>
2240
2241         * snprintf.c (dopr): Use `unsigned int' as the second argument to
2242         va_arg when casting to `unsigned short' is intended.
2243
2244 2001-12-04  Herold Heiko  <Heiko.Herold@previnet.it>
2245
2246         * gen_sslfunc.c: on windows provide ssl crypto random 
2247           initialization through RAND_screen(); could possibly
2248           be not enough for strong ssl communication (see the 
2249           relevant manual page from the openssl package).
2250
2251 2001-12-04  Hrvoje Niksic  <hniksic@arsdigita.com>
2252
2253         * url.c (local_quote_string): Reenable quoting of question marks,
2254         but only when `--html-extension' is used.
2255
2256 2001-12-03  Hrvoje Niksic  <hniksic@arsdigita.com>
2257
2258         * version.c: Wget 1.8-beta3 is released.
2259
2260 2001-12-03  Hrvoje Niksic  <hniksic@arsdigita.com>
2261
2262         * snprintf.c (dopr): Cast the result of va_arg to short int and
2263         short unsigned int where these types are expected to be used.
2264
2265 2001-12-03  Hrvoje Niksic  <hniksic@arsdigita.com>
2266
2267         * snprintf.c (dopr): Replace `short int' and `unsigned short int'
2268         with `int' when using it as the second argument to `va_arg'.
2269
2270 2001-12-03  Hrvoje Niksic  <hniksic@arsdigita.com>
2271
2272         * host.c (address_list_new_one): New function.
2273         (lookup_host): Use it.
2274
2275 2001-12-03  Andre Majorel  <amajorel@teaser.fr>
2276
2277         * host.c (lookup_host): Don't initialize TMPSTORE directly because
2278         it's not legal C.
2279
2280 2001-12-03  Hrvoje Niksic  <hniksic@arsdigita.com>
2281
2282         * ftp-basic.c (ftp_port): Don't return HOSTERR if we fail getting
2283         the socket data.
2284
2285         * ftp.c: Ditto.
2286
2287         * http.c: No need to declare h_errno.
2288
2289         * host.c: Declare h_errno.
2290
2291 2001-12-02  Hrvoje Niksic  <hniksic@arsdigita.com>
2292
2293         * utils.c (file_merge): If BASE doesn't contain a slash, just
2294         return a copy of FILE.
2295
2296 2001-12-02  Hrvoje Niksic  <hniksic@arsdigita.com>
2297
2298         * version.c: Wget 1.8-beta2 is released.
2299
2300 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2301
2302         * ftp.c (getftp): When PWD fails, assume "/".
2303
2304         * ftp-basic.c (ftp_syst): Fix indentation.
2305
2306 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2307
2308         * url.c (get_urls_file): If opt.base_href is specified, merge each
2309         URL with the base.
2310
2311 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2312
2313         * main.c (print_help): Don't document the removed `-nh'.
2314
2315 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2316
2317         * url.c (url_full_path): Document better.
2318
2319         * http.c (gethttp): Use the full path when creating digest
2320         authorization.
2321
2322 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2323
2324         * cookies.c (path_matches): Return 0 if PREFIX doesn't begin with
2325         '/'.
2326
2327 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2328
2329         * cookies.c (path_matches): FULL_PATH doesn't begin with '/', but
2330         PREFIX does.
2331
2332 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2333
2334         * cookies.c (check_domain_match): Reimplement to match Netscape's
2335         "preliminary specification" for cookies.
2336
2337 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2338
2339         * url.c (replace_attr_refresh_hack): New function.
2340         (convert_links): Call replace_attr_refresh_hack for Refresh
2341         links.  It will add the "TMOUT; URL=" junk before the link.
2342
2343         * html-url.c (collect_tags_mapper): Set ID to the ID of the
2344         "content" attribute, not "http-equiv".
2345         (collect_tags_mapper): Don't use OFFSET to hack the raw_* values;
2346         instead, store the information that this entry belongs to a
2347         "refresh" link.
2348
2349 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2350
2351         * version.c: Wget 1.8-beta1 is released.
2352
2353 2001-12-01  Hrvoje Niksic  <hniksic@arsdigita.com>
2354
2355         * recur.c (retrieve_tree): Allow -p retrievals to exceed maximum
2356         depth by more than one.
2357
2358 2001-11-30  Hrvoje Niksic  <hniksic@arsdigita.com>
2359
2360         * retr.c (retrieve_url): Don't allow more than 20 redirections.
2361
2362 2001-11-30  Hrvoje Niksic  <hniksic@arsdigita.com>
2363
2364         * recur.c (retrieve_tree): Skip the non-inline entries when
2365         enqueuing the children of a leaf HTML node in -p mode.
2366         (descend_url_p): Ignore opt.no_parent when in -p mode and UPOS is
2367         "inline".
2368
2369         * html-url.c (get_urls_html): Don't accept dash_p_leaf_HTML.
2370         (collect_tags_mapper): When an entry is "inline", mark it as such.
2371
2372         * recur.c (descend_url_p): Fix test when checking for
2373         acceptance/rejection rules.
2374
2375 2001-10-31 Daniel BODEA <dali@dali-designs.com>
2376
2377         * netrc.c (search_netrc): When slack_default is 0, still look for
2378         an account with matching password, just not the "default account".
2379         HTTP Authorization using .netrc should now work as expected.
2380
2381 2001-11-30  T. Bharath  <TBharath@responsenetworks.com>
2382
2383         * http.c (persistent_available_p): Call SHUTDOWN_SSL if
2384         test_socket_open fails.
2385
2386 2001-11-30  Hrvoje Niksic  <hniksic@arsdigita.com>
2387
2388         * progress.c (display_image): Just print one CR to reset the
2389         cursor position.
2390
2391 2001-11-30  Christian Fraenkel  <c.fraenkel@gmx.net>
2392
2393         * init.c: New command `ssl_egd_sock'.
2394
2395         * main.c (main): New option `--sslegdsock'.
2396
2397         * gen_sslfunc.c (ssl_init_prng): Seed the RNG using EGD.
2398
2399 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
2400
2401         * cmpt.c (memmove): Include a simple memmove implementation.
2402
2403 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
2404
2405         * headers: Guard against header files being included twice.
2406
2407 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
2408
2409         * gen-md5.c: Use unsigned char * as the buffer argument to
2410         gen_md5_update.
2411
2412 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
2413
2414         * connect.h: Declare select_fd.
2415
2416 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
2417
2418         * recur.c (descend_url_p): When resolving no_parent, compare with
2419         start_url, not parent url.  Otherwise link from /a/b/ to /a/c/
2420         wouldn't be followed, although the download started from /a/.
2421
2422 2001-01-23  Herold Heiko  <Heiko.Herold@previnet.it>
2423
2424         * config.h.ms, mswindows.h: defined HAVE_ISATTY, use _isatty for
2425         MS VC; somebody with Borland compiler please check and provide
2426         patch if possible;
2427
2428         * cmpt.c: provided a usleep emulation.
2429
2430 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
2431
2432         * host.c (address_list_new): Initialize al->faulty.
2433
2434 2001-11-29  Hrvoje Niksic  <hniksic@arsdigita.com>
2435
2436         * http.c (http_process_range): Accept the broken output of
2437         "JavaWebServer/1.1.1".
2438
2439 2001-11-28  Hrvoje Niksic  <hniksic@arsdigita.com>
2440
2441         * progress.c (dot_set_params): If PARAMS is unspecified, use
2442         dot_style, if available.
2443
2444         * init.c: Ditto.
2445
2446         * main.c (main): Resurect --dot-style.
2447
2448         * progress.c (dot_finish): Print the quantity if we're left at the
2449         beginning of a row.
2450
2451 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
2452
2453         * cmpt.c (random): Removed.
2454
2455         * retr.c (sleep_between_retrievals): Use the more portable rand()
2456         instead of random().
2457
2458 2001-11-27  Ian Abbott <abbotti@mev.co.uk>
2459
2460         * retr.c (retrieve_from_file): Initialize `new_file' to NULL to
2461         prevent seg fault.
2462
2463 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
2464
2465         * connect.c (connect_to_many): Use address_list_set_faulty to
2466         prevent the faulty address from being reused.
2467
2468         * host.c (address_list_set_faulty): New function.
2469         (address_list_get_bounds): New function, instead of
2470         address_list_count.
2471
2472 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
2473
2474         * url.c (convert_links): Don't translate %d-%d.
2475
2476         * main.c (print_help): Remove stray HAVE_RANDOM code.
2477
2478 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
2479
2480         * ftp.c (getftp): Improve output after sending PASV.  Don't
2481         attempt to "look up" the IP address we already know; call
2482         connect_to_one directly.
2483
2484 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
2485
2486         * progress.c: Change the default progress implementation to "bar".
2487
2488 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
2489
2490         * progress.c (bar_create): Print two newlines.
2491
2492 2001-11-27  Hrvoje Niksic  <hniksic@arsdigita.com>
2493
2494         * cmpt.c (random): New function, a simple-minded replacement for
2495         random() on systems that don't have it.
2496
2497 2001-11-26  Hrvoje Niksic  <hniksic@arsdigita.com>
2498
2499         * config.h.in: Put a HAVE_USLEEP stub.
2500
2501         * cmpt.c (usleep): Replacement implementation of usleep using
2502         select.
2503
2504         * init.c: New option init_rate.
2505
2506         * main.c (main): New option --limit-rate.
2507
2508         * retr.c (limit_bandwidth): New function.
2509         (get_contents): Call it to limit the bandwidth used when
2510         downloading.
2511
2512         * progress.c (dot_update): Would print the wrong download speed on
2513         rows other than the first one when the download was continued.
2514         (dot_finish): Ditto.
2515
2516 2001-11-26  Ian Abbott <abbotti@mev.co.uk>
2517
2518         * http.c (gethttp): fix undeclared variable 'err' when compiled
2519         with HAVE_SSL.
2520
2521 2001-11-26  Hrvoje Niksic  <hniksic@arsdigita.com>
2522
2523         * progress.c: Don't allocate new timers; use the timing data
2524         propagated from the caller.
2525
2526         * retr.c (get_contents): Allocate and use a timer.
2527
2528 2001-11-26  Hrvoje Niksic  <hniksic@arsdigita.com>
2529
2530         * http.c (last_host_ip): Made into an address_list.
2531         (invalidate_persistent): Release pc_last_host_ip.
2532         (register_persistent): Use lookup_host.
2533         (persistent_available_p): Check for equality of hosts using
2534         address_list_match_all.  Call address_list_release.
2535         (http_cleanup): New function.
2536
2537         * ftp.c (getftp): Use lookup_host and connect_to_many.
2538
2539         * http.c (gethttp): Use lookup_host and connect_to_many.
2540
2541         * connect.c (make_connection): Removed.
2542         (connect_to_one): New function.
2543         (connect_to_many): Ditto.
2544         (set_connection_host_name): Ditto.
2545
2546         * host.c (lookup_host): New function; new return type.
2547         (address_list_new): New function.
2548         (address_list_count): Ditto.
2549         (address_list_copy_one): Ditto.
2550         (address_list_delete): Ditto.
2551         (address_list_release): Ditto.
2552         (pretty_print_address): Ditto.
2553
2554 2001-11-26  Hrvoje Niksic  <hniksic@arsdigita.com>
2555
2556         * recur.c (retrieve_tree): In case of followed redirection,
2557         blacklist the pre-redirection URL.
2558
2559 2001-11-26  Hrvoje Niksic  <hniksic@arsdigita.com>
2560
2561         * recur.c (descend_redirect_p): New function.
2562         (retrieve_tree): Make sure redirections are not blindly followed.
2563
2564 2001-11-04  Alan Eldridge  <alane@geeksrus.net>
2565
2566         * config.h.in: added HAVE_RANDOM.
2567
2568         * options.h: added random_wait to struct options.
2569
2570         * main.c (print_help [HAVE_RANDOM], main): added arg parsing, help
2571         for --random-wait.
2572
2573         * retr.c (sleep_between_retrievals) [HAVE_RANDOM]: added
2574         implementation of random wait times.
2575
2576         * init.c (commands): added "randomwait" keyword.
2577
2578 2001-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
2579
2580         * recur.c (descend_url_p): Be more conservative with blacklisting
2581         URLs.
2582         (convert_all_links): Print how many files have been converted, and
2583         how long it took.
2584
2585         * progress.c (create_image): Place the number of downloaded bytes
2586         right after the progress bar.
2587
2588         * utils.c (suffix): Return a pointer into the string.
2589
2590 2001-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
2591
2592         * url.c (convert_links): Handle CO_NULLIFY_BASE.
2593
2594         * recur.c (retrieve_tree): Ignore download-ignorable children.
2595         (convert_all_links): Specify CO_NULLIFY_BASE when link_base_p.
2596
2597         * html-url.c (handle_link): Return the newly created urlpos.
2598         (collect_tags_mapper): When dealing with BASE, store the base
2599         reference and mark it as download-ignorable.
2600
2601 2001-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
2602
2603         * url.c (convert_links): Attempt to quote '?' as "%3F" when
2604         linking to local files.  Given up on the attempt, as it breaks
2605         local browsing.
2606
2607 2001-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
2608
2609         * main.c (private_initialize): Removed.
2610         (main): Don't call private_initialize.
2611
2612         * http.c: Call lookup_host.
2613
2614         * host.c (host_init): Removed.
2615         (add_host_to_cache): Initialize host_name_address_map here, on
2616         demand.
2617         (ngethostbyname): Commented out.
2618
2619         * connect.c (make_connection): Remove dead code; use lookup_host.
2620
2621         * host.c (store_hostaddress): Renamed to lookup_host and reversed
2622         the args.
2623         Removed host_address_name_map and host_slave_master_map.
2624
2625 2001-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
2626
2627         * progress.c (dot_create): Align the "[ skipping ... ]" string
2628         with the dots.
2629
2630         * retr.c (rate): Split into two functions: calc_rate and
2631         retr_rate.
2632
2633         * progress.c (create_image): Draw a dummy progress bar even when
2634         total size is unknown.
2635         (display_image): Place the text cursor at the end of the "image".
2636
2637 2001-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
2638
2639         * url.c (reencode_string): Use unsigned char, not char --
2640         otherwise the hex digits come out wrong for 8-bit chars such as
2641         nbsp.
2642         (lowercase_str): New function.
2643         (url_parse): Canonicalize u->url if needed.
2644         (get_urls_file): Parse each URL, and return only the valid ones.
2645         (free_urlpos): Call url_free.
2646         (mkstruct): Add :port if the port is non-standard.
2647         (mkstruct): Append the query string to the file name, if any.
2648         (urlpath_length): Use strpbrk_or_eos.
2649         (uri_merge_1): Handle the cases where LINK is an empty string,
2650         where LINK consists only of query, and where LINK consists only of
2651         fragment.
2652         (convert_links): Count and report both kinds of conversion.
2653         (downloaded_file): Use a hash table, not a list.
2654         (downloaded_files_free): Free the hash table.
2655
2656         * retr.c (retrieve_from_file): Ditto.
2657
2658         * main.c (main): Call either retrieve_url or retrieve_tree
2659         for each URL, not both.
2660
2661         * retr.c (register_all_redirections): New function.
2662         (register_redirections_mapper): Ditto.
2663         (retrieve_url): Register the redirections.
2664         (retrieve_url): Make the string "Error parsing proxy ..." 
2665         translatable.
2666
2667         * res.c (add_path): Strip leading slash from robots.txt paths so
2668         that the path representations are "compatible".
2669         (free_specs): Free each individual path, too.
2670         (res_cleanup): New function.
2671         (cleanup_hash_table_mapper): Ditto.
2672
2673         * recur.c (url_queue_new): New function.
2674         (url_queue_delete): Ditto.
2675         (url_enqueue): Ditto.
2676         (url_dequeue): Ditto.
2677         (retrieve_tree): New function, replacement for recursive_retrieve.
2678         (descend_url_p): New function.
2679         (register_redirection): New function.
2680
2681         * progress.c (create_image): Cosmetic changes.
2682
2683         * init.c (cleanup): Do all those complex cleanups only if
2684         DEBUG_MALLOC is defined.
2685
2686         * main.c: Removed --simple-check and the corresponding
2687         simple_host_check in init.c.
2688
2689         * html-url.c (handle_link): Parse the URL here, and propagate the
2690         parsed URL to the caller, who would otherwise have to parse it
2691         again.
2692
2693         * host.c (xstrdup_lower): Moved to utils.c.
2694         (realhost): Removed.
2695         (same_host): Ditto.
2696
2697 2001-11-24  Hrvoje Niksic  <hniksic@arsdigita.com>
2698
2699         * utils.c (path_simplify): Preserver the (non-)existence of
2700         leading slash.  Return non-zero if changes were made.
2701
2702 2001-11-24  Hrvoje Niksic  <hniksic@arsdigita.com>
2703
2704         * progress.c (bar_update): Don't modify bp->total_length if it is
2705         zero.
2706
2707 2001-11-24  Hrvoje Niksic  <hniksic@arsdigita.com>
2708
2709         * retr.c (retrieve_url): When the redirection URL doesn't parse,
2710         print the correct error message rather than "UNKNOWN".
2711
2712 2001-11-24  Hrvoje Niksic  <hniksic@arsdigita.com>
2713
2714         * progress.c (bar_finish): If the timer didn't record any time
2715         since the download beginning, fake 1ms.
2716
2717 2001-11-24  Hrvoje Niksic  <hniksic@arsdigita.com>
2718
2719         * recur.c (recursive_retrieve): Fix typo.
2720
2721 2001-11-23  Hrvoje Niksic  <hniksic@arsdigita.com>
2722
2723         * progress.c (create_image): Don't translate "%ld ".
2724
2725 2001-11-23  Hrvoje Niksic  <hniksic@arsdigita.com>
2726
2727         * progress.c (bar_set_params): Allow the user to force the use of
2728         the bar.
2729
2730 2001-11-23  Lemble Gregory  <gregory.lemble@st.com>
2731
2732         * gen_sslfunc.c (ssl_init_prng): New function; seed the SSL RNG.
2733
2734 2001-11-23  Hrvoje Niksic  <hniksic@arsdigita.com>
2735
2736         * progress.c: Renamed dp_* functions to dot_* for greater clarity
2737         and consistency with bar_*.
2738         (print_download_speed): Get rid of the unneeded '@' character.
2739         (create_image): Fix download rate geometry.
2740
2741         * progress.c (print_elapsed): Remove spurious space.
2742         (print_elapsed): Renamed to print_download_speed, since that's
2743         what it does.
2744
2745 2001-11-23  Hrvoje Niksic  <hniksic@arsdigita.com>
2746
2747         * progress.c (bar_update): If the downloaded amount becomes larger
2748         than the expected amount, adjust the expected amount accordingly.
2749
2750 2001-11-23  Hrvoje Niksic  <hniksic@arsdigita.com>
2751
2752         * utils.c (determine_screen_width): New function.
2753
2754         * main.c (main): New option `--progress=TYPE'.
2755         (main): Implement compatibility with the old option `--dot-style'.
2756
2757         * init.c: Removed cmd_spec_dotstyle -- that logic is now in
2758         dp_set_params.
2759         (cmd_spec_progress): New function.
2760
2761         * retr.c (get_contents): Use the progress_* functions instead of
2762         the old show_progress().
2763         (show_progress): Removed.
2764         (rate): Print "xxxx.xx K/s" instead of "KB/s".  Ditto for MB/s,
2765         etc.
2766
2767         * progress.c (set_progress_implementation): New function.
2768         (valid_progress_implementation_p): Ditto.
2769         (progress_create): Ditto.
2770         (progress_update): Ditto.
2771         (progress_finish): Ditto.
2772         (dp_create): Ditto.
2773         (dp_update): Ditto.
2774         (dp_finish): Ditto.
2775         (dp_set_params): Ditto.
2776         (print_elapsed): Ditto.
2777
2778 2001-11-22  Hrvoje Niksic  <hniksic@arsdigita.com>
2779
2780         * retr.c (show_progress): Use it.
2781
2782         * log.c (log_set_flush): New function.
2783
2784 2001-11-22  Hrvoje Niksic  <hniksic@arsdigita.com>
2785
2786         * utils.c (path_simplify): Don't remove trailing slashes.
2787
2788         * ftp.c (ftp_get_listing): Use it.
2789
2790         * utils.c (file_merge): New function.
2791
2792         * url.c (opt_url): Removed.
2793
2794         * recur.c (recursive_retrieve): Inline "opt_url" logic.
2795
2796         * main.c (main): Use xfree(), not free().
2797
2798         * url.c (rewrite_url_maybe): Renamed to rewrite_shorthand_url.
2799
2800         * ftp.c (ccon): Move `ccon' typedef here, since it's only used
2801         internally.
2802
2803         * config.h.in: Include a stub for HAVE_STRPBRK.
2804
2805         * cmpt.c (strpbrk): Include a replacement for systems without
2806         strpbrk().
2807
2808         * ftp.c: Use url_set_dir and url_set_file when modifying the URL.
2809
2810         * url.c (url_set_dir): New function.
2811         (url_set_file): Ditto.
2812
2813         * ftp-basic.c (ftp_process_type): Process FTP type here; the URL
2814         parser makes the URL "params" available, so we can do that in this
2815         function.
2816
2817         * retr.c: Ditto.
2818
2819         * ftp.c: Ditto; pass the local file information in `ccon'.
2820
2821         * http.c: Get rid of the ugly kludge that had URL being replaced
2822         with the proxy URL when proxy retrieval was requested.  Use a
2823         separate parameter to http_loop and gethttp for the proxy URL.
2824
2825         * http.c: Changed to reflect the fact that local file, proxy, and
2826         referer information are no longer stored in struct url.  The local
2827         file information is passed in `struct hstat' now.
2828
2829         * url.c: Reworked URL parsing to be more regular.  Reencode the
2830         URL using reencode_string.
2831         Removed non-URL-related information from struct url.  This
2832         includes fields `proxy', `local', and `referer'.
2833
2834 2001-11-22  Jochen Hein  <jochen@jochen.org>
2835
2836         * main.c (main): Split the copyright notice for easier
2837         translation.
2838
2839 2001-08-21  Dave Turner <dct25@hermes.cam.ac.uk>
2840
2841         * ftp-basic.c (ftp_size): New function to send non-standard SIZE
2842           command to server to request file size.
2843         * ftp.h (ftp_size): Export it.
2844         * ftp.c (getftp): Use new ftp_size function if restoring
2845           transfer of a file with unknown size.
2846
2847 2001-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
2848
2849         * url.c (parseurl): Don't depend on the now-obsolete TYPE.
2850
2851 2001-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
2852
2853         * url.c (getproxy): Handle URL shorthands.
2854
2855 2001-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
2856
2857         * main.c: Remove --wait / --waitretry backwards compatibility
2858         code.
2859         
2860 2001-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
2861
2862         * main.c (main): Use it.
2863
2864         * url.c (rewrite_url_maybe): New function.
2865
2866 2001-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
2867
2868         * url.c: Clean up handling of URL schemes.
2869
2870 2001-05-13  Hrvoje Niksic  <hniksic@arsdigita.com>
2871
2872         * url.c: Get rid of `protostrings'.
2873         (skip_proto): Don't use protostrings.
2874         (has_proto): Ditto.
2875
2876 2001-11-18  Hrvoje Niksic  <hniksic@arsdigita.com>
2877
2878         * Makefile.in: Conditionally compile getopt.o.
2879
2880 2001-11-18  Hrvoje Niksic  <hniksic@arsdigita.com>
2881
2882         * md5.h: Renamed to gnu-md5.h.
2883
2884         * md5.c: Renamed to gnu-md5.c.
2885
2886         * http.c: Ditto.
2887
2888         * ftp-opie.c: Use the new macros.
2889
2890         * sysdep.h: Define md5-related macros.
2891
2892         * config.h.in: Define HAVE_SOLARIS_MD5 or HAVE_BUILTIN_MD5
2893         depending on which md5 implementation is used.
2894
2895 2001-11-18  Hrvoje Niksic  <hniksic@arsdigita.com>
2896
2897         * res.c (res_register_specs): Initialize OLD and HP_OLD to appease
2898         the compiler.
2899
2900 2001-11-18  Hrvoje Niksic  <hniksic@arsdigita.com>
2901
2902         * http.c (gethttp): Print the whole response line when printing
2903         headers is requested.
2904
2905 2001-05-12  Hrvoje Niksic  <hniksic@arsdigita.com>
2906
2907         * res.c: New file.  Implement all RES-related code here.
2908
2909 2001-11-18  Hrvoje Niksic  <hniksic@arsdigita.com>
2910
2911         * version.c: Wget 1.7.1 is released.
2912
2913 2001-11-16  Hrvoje Niksic  <hniksic@arsdigita.com>
2914
2915         * headers.c (header_extract_number): Ignore trailing whitespace.
2916
2917 2001-08-24  Ian Abbott  <abbotti@mev.co.uk>
2918
2919         * html-url.c (collect_tags_mapper): Fix bug converting links
2920         with -k option for tags with multiple link attributes by
2921         handling links in the order they appear.
2922
2923 2001-08-15  Ian Abbott  <abbotti@mev.co.uk>
2924
2925         * ftp.c (ftp_loop_internal): Avoid a potential buffer overflow in
2926           the call to the 'rate' function by moving it past the error
2927           checking for the 'getftp' function return value.
2928
2929 2001-11-16  Hrvoje Niksic  <hniksic@arsdigita.com>
2930
2931         * html-parse.c (advance_declaration): Use 0x22 instead of '"' or
2932         '\"'.  Different compilers' assert macros are broken in different
2933         ways.
2934
2935 2001-09-29  Christian Fraenkel  <c.fraenkel@gmx.net>
2936
2937         * http.c (gethttp): print debug output for errors occuring during
2938         the ssl handshake.
2939
2940 2001-11-16  Chris Seawood  <cls@seawood.org>
2941
2942         * init.c: Ditto.
2943
2944         * host.c: Ditto.
2945
2946         * connect.c: Ditto.
2947
2948         * sysdep.h: Support compilation under BEOS.
2949
2950 2001-06-08  Edward J. Sabol  <sabol@alderaan.gsfc.nasa.gov>
2951
2952         * url.c (url_equal): Fix a memory leak when parseurl returns an
2953         error on the second URL. Also, since url_equal is not used at the
2954         moment, do not compile it.
2955
2956         * url.h: Ditto for the prototype of url_equal.
2957
2958 2001-11-16  Hrvoje Niksic  <hniksic@arsdigita.com>
2959
2960         * html-parse.c (map_html_tags): Support XML-style empty tags.
2961
2962 2001-06-26  Hrvoje Niksic  <hniksic@arsdigita.com>
2963
2964         * wget.h (DO_REALLOC_FROM_ALLOCA): Check for do_realloc_newsize in
2965         loop condition because we're no longer setting SIZEVAR here.
2966
2967 2001-06-26  Hrvoje Niksic  <hniksic@arsdigita.com>
2968
2969         * wget.h (DO_REALLOC_FROM_ALLOCA): Set SIZEVAR after the memcpy()
2970         call because it needs the old value.
2971
2972 2001-06-18  Hrvoje Niksic  <hniksic@arsdigita.com>
2973
2974         * cookies.c (ATTR_NAME_CHAR): Allow almost any character to be in
2975         an attribute name.
2976
2977 2001-06-18  Hrvoje Niksic  <hniksic@arsdigita.com>
2978
2979         * url.c (url_filename): Make sure that slashes that sneak in to
2980         u->file via query string get protected.
2981         (file_name_protect_query_string): New function.
2982
2983 2001-06-14  Hrvoje Niksic  <hniksic@arsdigita.com>
2984
2985         * recur.c (recursive_retrieve): Also check undesirable_urls with
2986         canonicalized URL.
2987
2988 2001-06-14  Hrvoje Niksic  <hniksic@arsdigita.com>
2989
2990         * http.c (gethttp): Search `.netrc' with real host, not the proxy
2991         one.
2992
2993 2001-06-14  Hrvoje Niksic  <hniksic@arsdigita.com>
2994
2995         * sysdep.h (MAP_FAILED): Provide MAP_FAILED for systems that don't
2996         define it.
2997
2998 2001-06-09  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
2999
3000         * ftp.h: Provide correct prototype for ftp_parse_ls().
3001
3002 2001-06-04  Hrvoje Niksic  <hniksic@arsdigita.com>
3003
3004         * version.c: Wget 1.7 is released.
3005
3006 2001-06-03  Karl Eichwalder  <ke@suse.de>
3007
3008         * ftp-ls.c (ftp_parse_ls): Fix typo.
3009
3010 2001-05-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3011
3012         * all: Update copyright information.
3013
3014 2001-05-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3015
3016         * http.c (gethttp): Indicate that the continued download failed
3017         for *this* file.
3018
3019 2001-05-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3020
3021         * version.c: Wget 1.7-pre1 is released.
3022
3023 2001-05-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3024
3025         * version.c: Updated version to 1.7-pre1.
3026
3027 2001-05-14  Hrvoje Niksic  <hniksic@arsdigita.com>
3028
3029         * gen_sslfunc.c: Don't include <sys/time.h> directly.
3030
3031 2001-05-14  Hrvoje Niksic  <hniksic@arsdigita.com>
3032
3033         * http.c (gethttp): Use real URL data for cookies, not the proxy
3034         stuff.
3035
3036 2001-05-12  Hrvoje Niksic  <hniksic@arsdigita.com>
3037
3038         * main.c (print_help): Document `--no-http-keep-alive'.
3039
3040         * utils.c (numdigit): Handle negative numbers *correctly*.
3041
3042         * hash.c (make_nocase_string_hash_table): Use term "nocase" rather
3043         than the confusing "unsigned".
3044
3045         * utils.c (string_set_contains): Renamed from string_set_exists.
3046
3047         * hash.c (hash_table_contains): Renamed from hash_table_exists.
3048
3049         * cookies.c: Move case-insensitive hash tables to hash.c.
3050
3051 2001-05-09  Hrvoje Niksic  <hniksic@arsdigita.com>
3052
3053         * http.c (gethttp): Before concluding that the file is already
3054         fully retrieved, make sure that the file existed and `Range' was
3055         actually requested.
3056
3057 2001-05-09  Hrvoje Niksic  <hniksic@arsdigita.com>
3058
3059         * cookies.c (eliminate_dups): New function.
3060         (build_cookies_request): Use it.
3061         (build_cookies_request): Set chain_store_size after reallocating
3062         all_chains.
3063         (check_domain_match): Annotated for easier future debugging.
3064         (store_cookie): In the debug message, print whether the cookie is
3065         permanent.
3066
3067 2001-05-08  Hrvoje Niksic  <hniksic@arsdigita.com>
3068
3069         * http.c (http_loop): Reset no_truncate before deciding whether to
3070         set it.
3071         (gethttp): Further clarify "-c conflicts with existing file" error
3072         message, based on input from Herold Heiko.
3073
3074 2001-05-07  Hrvoje Niksic  <hniksic@arsdigita.com>
3075
3076         * http.c (http_loop): If restval is set, set no_truncate to 1
3077         unconditionally.
3078
3079 2001-05-02  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3080
3081         * ftp-ls.c (ftp_parse_winnt_ls): Assure months are being correctly
3082         converted. Pointed out by <Stefan.Weil@de.heidelberg.com>.
3083         (ftp_parse_vms_ls): Ditto.
3084
3085 2001-04-30  Hrvoje Niksic  <hniksic@arsdigita.com>
3086
3087         * init.c (cmd_address): Zero SIN before using it; apparently
3088         needed on *BSD.
3089
3090 2001-04-29  Hrvoje Niksic  <hniksic@arsdigita.com>
3091
3092         * ftp.c (ftp_loop_internal): Don't set NO_TRUNCATE if the file is
3093         empty.
3094
3095 2001-04-29  Hrvoje Niksic  <hniksic@arsdigita.com>
3096
3097         * main.c (main): Make `--cookies' respect its argument.
3098
3099 2001-04-28  Hrvoje Niksic  <hniksic@arsdigita.com>
3100
3101         * main.c (main): Removed undocumented option `--email-address'.
3102
3103         * netrc.c: Use the latest read_whole_line.
3104
3105         * init.c (defaults): Set opt.ftp_pass to "-wget@".
3106
3107         * mswindows.c (pwd_cuserid): Ditto.
3108
3109         * utils.c (pwd_cuserid): Removed.
3110
3111         * host.c (ftp_getaddress): Removed.
3112
3113 2001-04-28  Hrvoje Niksic  <hniksic@arsdigita.com>
3114
3115         (http_loop): Allocate space for filename_plus_orig_suffix with
3116         alloca; this is more efficient and removes the need to free it
3117         before each and every return.
3118
3119 2001-04-28  Hrvoje Niksic  <hniksic@arsdigita.com>
3120
3121         * http.c (gethttp): Return RETRUNNEEDED when the retrieval is
3122         unneeded because the file is already there and fully downloaded,
3123         and -c is specified.
3124         (http_loop): Handle RETRUNNEEDED.
3125
3126         * wget.h (uerr_t): New value RETRUNNEEDED.
3127
3128         * http.c (http_loop): Set no_truncate for files that both exist
3129         and are non-empty.
3130         (gethttp): Consider the download finished when restval >= contlen,
3131         not only when restval==contlen.
3132         (gethttp): Handle redirection before giving up due to -c.
3133         (gethttp): Clarify error message which explains that -c will not
3134         truncate the file.
3135         (gethttp): When returning CONTNOTSUPPORTED, don't forget to free
3136         the stuff that needs freeing and release the socket.
3137
3138 2001-04-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3139
3140         * main.c (print_help): Wget booleans accept "off", not "no".
3141
3142 2001-04-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3143
3144         * http.c (http_loop): If allow_cache is zero, always disable
3145         caching, not only when retrieving through proxy.
3146
3147         * init.c: Ditto.
3148
3149         * options.h (struct options): Rename proxy_cache to allow_cache.
3150
3151 2001-04-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3152
3153         * http.c (mktime_from_utc): Improve documentation.
3154         (http_atotm): Put format strings into a separate array.
3155
3156 2001-04-27  Hrvoje Niksic  <hniksic@arsdigita.com>
3157
3158         * safe-ctype.h: Instead of throwing #error when isalpha is
3159         defined, redefine it to something that will throw a compile-time
3160         error if actually *used*.  Do the same for the rest of the
3161         standard C macros.
3162
3163 2001-04-26  Hrvoje Niksic  <hniksic@arsdigita.com>
3164
3165         * url.c (getproxy): Ignore empty proxy vars.
3166
3167 2001-04-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3168
3169         * http.c (http_loop): Would load cookies every time.
3170
3171         * cookies.c (load_cookies): Handle cookies whose values contain
3172         embedded spaces.
3173
3174 2001-04-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3175
3176         * utils.c: Define each DIGITS_* in one line.
3177
3178 2001-04-25  Roger L. Beeman  <beeman@cisco.com>
3179
3180         * http.c (http_atotm): Initialize t.tm_isdst to 0.
3181         (mktime_from_utc): Prevent mktime() from having discontinuities at
3182         DST transition points.
3183
3184 2001-04-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3185
3186         * html-url.c (get_urls_html): Fix documentation.
3187
3188 2001-04-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3189
3190         * url.c (UNSAFE_CHAR): Reimplement using a static table.
3191         (url_init): Removed.
3192         (init_unsafe_char_table): Removed.
3193
3194 2001-04-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3195
3196         * snprintf.c (dopr): Replace ISDIGIT with '0' <= ch && ch <= '9'.
3197
3198 2001-04-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3199
3200         * utils.c: Document timer functions.
3201
3202         * retr.c (rate): Use it.
3203         (rate): Print in GB/s if transfer rate exceeds 1 GB/s.
3204
3205         * utils.c (wtimer_granularity): New function.
3206
3207 2001-04-24  Hrvoje Niksic  <hniksic@arsdigita.com>
3208
3209         * retr.c (show_progress): Ditto.
3210
3211         * ftp.c (getftp): Ditto.
3212
3213         * http.c (gethttp): Use new timer functions.
3214
3215         * utils.c (wtimer_allocate): New function.
3216         (wtimer_new): Ditto.
3217         (wtimer_delete): Ditto.
3218         (wtimer_reset): Ditto.
3219         (wtimer_elapsed): Ditto.
3220
3221 2001-04-24  Hrvoje Niksic  <hniksic@arsdigita.com>
3222
3223         * utils.c (long_to_string): New, faster version.  Favors smaller
3224         numbers; much of the calculation is now done at compile-time.
3225
3226 2001-04-24  Hrvoje Niksic  <hniksic@arsdigita.com>
3227
3228         * utils.c (numdigit): Handle negative numbers.
3229
3230 2001-04-23  Hrvoje Niksic  <hniksic@arsdigita.com>
3231
3232         * retr.c (show_progress): Print the download rate even when the
3233         percentages are not available.
3234
3235 2001-04-21  Hrvoje Niksic  <hniksic@arsdigita.com>
3236
3237         * ftp.c (getftp): Adjust expected_bytes if the length is
3238         authoritative.
3239
3240 2001-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
3241
3242         * url.c: Don't declare `construct'.
3243
3244         * hash.c (grow_hash_table): Speed up rehashing; inline storing of
3245         mappings to new locations.
3246         (hash_table_new): Make resize_threshold a field in the hash table,
3247         so we don't have to recalculate it in each hash_table_put.
3248         (grow_hash_table): Update resize_threshold.
3249         (MAX): Remove unused macro.
3250         (prime_size): Made static.
3251
3252 2001-04-14  Hrvoje Niksic  <hniksic@arsdigita.com>
3253
3254         * retr.c (retrieve_url): Call uri_merge, not url_concat.
3255
3256         * html-url.c (collect_tags_mapper): Call uri_merge, not
3257         url_concat.
3258
3259         * url.c (mkstruct): Use encode_string instead of xstrdup followed
3260         by URL_CLEANSE.
3261         (path_simplify_with_kludge): Deleted.
3262         (contains_unsafe): Deleted.
3263         (construct): Renamed to uri_merge_1.
3264         (url_concat): Renamed to uri_merge.
3265
3266 2001-04-13  Hrvoje Niksic  <hniksic@arsdigita.com>
3267
3268         * url.c (str_url): Use encode_string instead of the unnecessary
3269         CLEANDUP.
3270         (encode_string_maybe): New function, returns input string if no
3271         encoding is needed.
3272         (encode_string): Call encode_string_maybe to do the dirty work,
3273         xstrdup if no work needed.
3274
3275 2001-04-13  Hrvoje Niksic  <hniksic@arsdigita.com>
3276
3277         * wget.h (XDIGIT_TO_xchar): Define here.
3278
3279         * url.c (decode_string): Use new name.
3280         (encode_string): Ditto.
3281
3282         * http.c (XDIGIT_TO_xchar): Rename HEXD2asc to XDIGIT_TO_xchar.
3283         (dump_hash): Use new name.
3284
3285         * wget.h: Rename ASC2HEXD and HEXD2ASC to XCHAR_TO_XDIGIT and
3286         XDIGIT_TO_XCHAR respectively.
3287
3288 2001-04-13  Hrvoje Niksic  <hniksic@arsdigita.com>
3289
3290         * init.c: Include cookies.h.
3291
3292         * cookies.h: Declare cookies_cleanup.
3293
3294         * cookies.c (check_domain_match): Remove unused variable.
3295         (save_cookies): Remove extraneous argument from debug statement.
3296
3297         * host.c (same_host): Don't call skip_url.
3298
3299         * url.c (skip_url): Removed.  Removed its calls from various
3300         functions in url.c.
3301
3302 2001-04-13  Hrvoje Niksic  <hniksic@arsdigita.com>
3303
3304         * cookies.c (unsigned_string_hash): Use the new code in
3305         string_hash as reference.
3306
3307         * hash.c (hash_table_map): Allow deletion and change of the
3308         element processed by MAPFUN.
3309         (string_hash): Use the function from glib.
3310
3311 2001-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
3312
3313         * config.h.in: Include #undef stub.
3314
3315         * hash.c (hash_table_remove): Rewrite to actually clear deleted
3316         entries instead of just marking them as deleted.
3317
3318 2001-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
3319
3320         * hash.h: Declare hash_table_get_pair and hash_table_count.
3321
3322 2001-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
3323
3324         * cookies.c: Declare http_atotm.
3325
3326 2001-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
3327
3328         * ftp-ls.c (ftp_parse_unix_ls): Use octal constants for
3329         permissions.  A compiler that doesn't accept octal constants is
3330         seriously broken and shouldn't be used -- octal constants were
3331         present in K&R C!
3332
3333 2001-01-20  Karl Eichwalder  <ke@suse.de>
3334
3335         * Makefile.in: Provide and use DESTDIR according to the Coding
3336         Standards.
3337
3338 2001-04-12  Hrvoje Niksic  <hniksic@arsdigita.com>
3339
3340         * ftp-ls.c (ftp_parse_vms_ls): Make seconds optional in time
3341         specification.
3342
3343 2001-04-11  Hrvoje Niksic  <hniksic@arsdigita.com>
3344
3345         * url.c (parseurl): Don't strip trailing slash when u->dir is "/"
3346         because that strips the *leading* slash, thus forcing relative
3347         FTP retrieval.
3348
3349 2001-04-10  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3350
3351         * ftp.c (getftp): Convert initial FTP directory from VMS to UNIX
3352         notation for VMS servers. 
3353         (ftp_retrieve_dirs): Do not prepend '/' to f->name when
3354         odir is an empty string.
3355
3356 2001-04-10  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3357
3358         * ftp-ls.c (ftp_parse_winnt_ls): Made the fix for AM/PM more
3359         effective. Suggested by Edward J. Sabol.
3360
3361 2001-04-10  Hrvoje Niksic  <hniksic@arsdigita.com>
3362
3363         * cookies.c (build_cookies_request): Use and sort cookies from all
3364         matching domains.
3365         (build_cookies_request): Check for duplicates before generating
3366         the `Cookies' header.
3367
3368         * main.c (main): Don't load cookies here.
3369         (main): Make loadcookies and savecookies call the correct command.
3370
3371         * http.c (http_loop): Load cookies on-demand.
3372
3373 2001-04-09  Hrvoje Niksic  <hniksic@arsdigita.com>
3374
3375         * http.c (gethttp): Fix indentation of SSL ifdef.
3376
3377 2001-04-09  Hrvoje Niksic  <hniksic@arsdigita.com>
3378
3379         * ftp.c (ftp_retrieve_dirs): Don't forcibly prepend "/" to u->dir;
3380         that hack is no longer necessary.
3381         (getftp): Prepend initial directory to *non*-absolute u->dir's.
3382
3383 2001-04-09  Hrvoje Niksic  <hniksic@arsdigita.com>
3384
3385         * init.c (cmd_file): New function.
3386         (enable_tilde_expansion): New variable.
3387         (run_wgetrc): Use it.
3388         (cmd_file): Use it.
3389
3390 2001-04-08  Hrvoje Niksic  <hniksic@arsdigita.com>
3391
3392         * init.c: Include cookie-related options.
3393
3394         * main.c (main): Include cookie-specific options.
3395         (main): Load cookies before download is finished.
3396         (main): Save cookies when done.
3397
3398         * http.c (gethttp): Process the `Set-Cookie' header.
3399         (gethttp): Include cookies in the response.
3400
3401         * cookies.c: New file.
3402
3403 2001-04-08  Hrvoje Niksic  <hniksic@arsdigita.com>
3404
3405         * utils.c (datetime_str): New function.
3406
3407 2001-04-08  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3408
3409         * ftp-ls.c (ftp_parse_winnt_ls): The AM/PM change did assume
3410         12:01PM == 00:01, which was obviously wrong. Taken care of this
3411         anomaly.
3412
3413         * ChangeLog: Removed an excess conflict marker. Reformatted the
3414         entry by Philipp Thomas from 2001-03-09.
3415
3416         * ftp-ls.c (ftp_parse_winnt_ls): Ensure that adjusted PM hours lay
3417         between 0 and 23. Elminate unused variable `sec'.
3418
3419 2001-04-08  Hrvoje Niksic  <hniksic@arsdigita.com>
3420
3421         * hash.c (hash_table_count): New function.
3422
3423 2001-04-06  Hrvoje Niksic  <hniksic@arsdigita.com>
3424
3425         * utils.c (read_file): Cast MAP_FAILED to char *.  Enforced by
3426         Digital Unix cc.
3427
3428 2001-04-06  Hrvoje Niksic  <hniksic@arsdigita.com>
3429
3430         * config.h.in: Oops, do the namespace tweaks only on systems we
3431         know about.
3432
3433 2001-04-06  Hrvoje Niksic  <hniksic@arsdigita.com>
3434
3435         * hash.c: Include <string.h>.
3436
3437 2001-04-06  Hrvoje Niksic  <hniksic@arsdigita.com>
3438
3439         * config.h.in: Define "compilation environment" options that work
3440         under Linux and Solaris.  To be reviewed on other OS'es.
3441
3442 2001-04-06  Hrvoje Niksic  <hniksic@arsdigita.com>
3443
3444         * http.c (gethttp): Prepend literal newline with `\n\'.
3445
3446 2001-04-06  Hrvoje Niksic  <hniksic@arsdigita.com>
3447
3448         * sysdep.h: Don't define VERY_LONG_FORMAT.
3449
3450         * utils.c (very_long_to_string): New function.
3451         (legible_very_long): Use it; don't use VERY_LONG_FORMAT.
3452
3453 2001-04-04  Christian Fraenkel  <christian.fraenkel@gmx.net>
3454
3455         * url.c (parse_uname): Would run past the end of the string if the
3456         username was present, but the URL did not contain a slash, e.g.
3457         http://foo:bar@myhost.
3458
3459 2001-04-03  KOJIMA Hajime  <kjm@rins.ryukoku.ac.jp>
3460
3461         * http.c (http_atotm): Use %A instead of %a to match full
3462         weekday.  (On most systems there is no difference.)
3463
3464 2001-04-03  Paul Bludov  <paul@ozero.net>
3465
3466         * mswindows.c (sleep): Use SleepEx() instead of Sleep().
3467         (ws_changetitle): Use alloca() instead of malloc() to avoid memory
3468         leak.
3469         (ws_mypath): Use GetModuleFileName instead of argv[0].
3470         (ws_startup): Use data.wVersion for comparison.
3471
3472 2001-04-02  Hrvoje Niksic  <hniksic@arsdigita.com>
3473
3474         * http.c (http_loop): Ditto.
3475
3476         * ftp.c (ftp_loop_internal): Made the check whether to continue
3477         retrieval `-O'-friendly.
3478
3479 2001-04-02  Hrvoje Niksic  <hniksic@arsdigita.com>
3480
3481         * netrc.c (parse_netrc): Don't trim the line endings explicitly;
3482         they will be handled as whitespace.
3483         (parse_netrc): Correctly handle lines that end with whitespace.
3484
3485 2001-04-02  Hrvoje Niksic  <hniksic@arsdigita.com>
3486
3487         * retr.c (retrieve_url): New variable global_download_count used
3488         to identify first retrieval.
3489
3490         * ftp.c (getftp): Ditto.
3491
3492         * http.c (gethttp): Rewind opt.dfp only on first retrieval.
3493
3494 2001-04-02  Hrvoje Niksic  <hniksic@arsdigita.com>
3495
3496         * init.c (cmd_address): Heap-allocate the address that gets stored
3497         to CLOSURE.  Old code would simply assign an address on the stack.
3498
3499 2001-04-01  Nicolas Lichtmaier <nick@debian.org>
3500
3501         * ftp.c (ftp_get_listing): Propagate error status.
3502         (ftp_retrieve_glob): Use it.
3503         (ftp_loop): Ditto.
3504
3505 2001-04-01  Nicolas Lichtmaier <nick@debian.org>
3506
3507         * main.c (main): Add -C to the string that is the third arg to
3508         getopt_long().
3509
3510 2001-04-01  Hrvoje Niksic  <hniksic@arsdigita.com>
3511
3512         * ftp.c (getftp): Don't start the download from scratch if `-c'
3513         was specified, but the file is already fully downloaded.
3514
3515         * http.c (gethttp): Don't truncate a pre-existing file if `-c' was
3516         specified and the server doesn't support continued download.
3517         (gethttp): Don't start the download from scratch if `-c' was
3518         specified, but the file is already fully downloaded.
3519
3520 2001-03-31  Hrvoje Niksic  <hniksic@arsdigita.com>
3521
3522         (recursive_retrieve): Don't clear the hash tables at this point at
3523         all; it interferes with the normal operation of register_download.
3524
3525 2001-03-31  Hrvoje Niksic  <hniksic@arsdigita.com>
3526
3527         * recur.c (recursive_retrieve): Clear the hash tables only when
3528         they are defined.
3529
3530 2001-03-31  Hrvoje Niksic  <hniksic@arsdigita.com>
3531
3532         * http.c (gethttp): Make sure the socket is closed with
3533         CLOSE_INVALIDATE before we have drained the body.
3534
3535 2001-03-31  Hrvoje Niksic  <hniksic@arsdigita.com>
3536
3537         * retr.c (retrieve_url): Call register_download() for downloaded
3538         files and register_html() for downloaded HTML files.
3539
3540         * recur.c (register_download): New function; register here that a
3541         file has been downloaded, rather than in recursive_retrieve().
3542         (register_html): New function; enqueue the location of HTML files
3543         here rather than in recursive_retrieve().
3544
3545 2001-03-31  Hrvoje Niksic  <hniksic@arsdigita.com>
3546
3547         * main.c (print_help): Use multiple fputs instead of a single ugly
3548         printf().
3549         (main): Consistently assign numbers >128 to options without a
3550         corresponding character.
3551
3552 2001-03-09  Philipp Thomas  <pthomas@suse.de>
3553
3554         * safe-ctype.h: New file. Locale independent ctype.h replacement
3555         taken from libiberty.
3556
3557         * safe-ctype.c: New file. Tables for above.
3558
3559         * Makefile.in: Add safe-ctype$o to OBJS.  Add dependencies for
3560         safe-ctype$o.
3561
3562         * cmpt.c: Remove include of ctype.h. Use ISSPACE instead of
3563         isspace.
3564
3565         * ftp-basic.c: Don't include ctype.h.
3566
3567         * ftp-ls.c: Likewise.
3568
3569         * ftp.c: Likewise.
3570
3571         * headers.c: Likewise.
3572
3573         * host.c: Likewise.
3574
3575         * html-parse.c: Likewise.
3576
3577         * html-url.c: Likewise.
3578
3579         * http.c: Likewise.
3580
3581         * init.c: Likewise.
3582
3583         * main.c: Likewise. Set LC_CTYPE along with LC_MESSAGES.
3584
3585         * netrc.c: Likewise.
3586
3587         * recur.c: Likewise.
3588
3589         * retr.c: Likewise.
3590
3591         * snprintf.c: Replace ctype.h with safe-ctype.h. Use ISDIGIT
3592         instead of isdigit.
3593
3594         * sysdep.h: Remove defines of ctype macros as they aren't needed
3595         for safe-ctype-h.
3596
3597         * url.c: Don't include ctype.h.
3598
3599         * utils.c: Likewise.
3600
3601         * wget.h: Include safe-ctype.h.
3602
3603 2001-03-27  Dan Harkless  <wget@harkless.org>
3604
3605         * Makefile.in: Moved top_builddir out of "User configuration
3606         section" of top Makefile and analogous spot in this one.
3607
3608 2001-03-17  Dan Harkless  <wget@harkless.org>
3609
3610         * Makefile.in: Include @SSL_INCLUDES@ substition in INCLUDES.
3611         Define top_builddir.  Link wget with libtool so the user doesn't
3612         have to supply a bunch of custom environment variables to 
3613         correctly link with the OpenSSL shared libraries.
3614
3615 2001-03-06  Hack Kampbjorn  <hack@hackdata.com>
3616
3617         * http.c (gethttp): skip :port in host header if it is the
3618         DEFAULT_HTTPS_PORT when using SSL.
3619
3620         * url.c: move the #define of DEFAULT_HTTP_PORT, DEFAULT_FTP_PORT
3621         and DEFAULT_HTTPS_PORT to the header file so it can be use in the
3622         rest of the code. 
3623         * url.h: Ditto
3624
3625 2001-03-01  Jonas Jensen  <bones@huleboer.dk>
3626
3627         * retr.c (show_progress): Correctly calculate the number of bytes
3628         in the first line of the download that have been actually
3629         downloaded in this run.
3630
3631 2001-02-23  Dan Harkless  <wget@harkless.org>
3632
3633         * main.c (print_help): --help documentation for -N said it would
3634         re-download files if they had the _same_ timestamp on server.
3635         (print_help): -nr belongs in "FTP options" section of --help
3636         output, not "Recursive retrieval" section.  Alphabetized FTP
3637         options by long option name.
3638
3639 2001-02-16  Dan Harkless  <wget@harkless.org>
3640
3641         * init.c (commands): Hack Kampbjørn <hack@hackdata.com> discovered
3642         that "httpsproxy" had been inserted into commands[] out of
3643         alphabetical order, causing "BUG: unknown command `httpuser'".
3644
3645 2001-02-13  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3646
3647         * ftp-ls.c (ftp_parse_ls): Added support of ST_MACOS (Unix-like
3648         listing without correct permissons).
3649
3650         * ftp.h (stype): Added ST_MACOS to identify the NetPresenz MacOS
3651         FTP server. 
3652
3653         * ftp.c (ftp_retrieve_list): New mirroring logic: A remote file
3654         shall be donwloaded only when it's newer than the local copy or
3655         when it has the same timeestamp but its size is different. ST_VMS
3656         and ST_MACOS as special cases that lie about file size. 
3657
3658         * ftp-ls.c (ftp_parse_ls): Support for ST_MACOS.
3659
3660         * Makefile.in: Removed dependency on ftpparse library due to unclear
3661         copyright issues and absence of any feedback to our queries. 
3662
3663         * ftp-ls.c: Removed dependency on ftpparse library due to unclear
3664         copyright issues and absence of any feedback to our queries.   
3665         (ftp_parse_ls): Added a warning message when remote server system
3666         does not seem to be suported by wget. 
3667         (ftp_parse_vms_ls): New function for parsing VMS ftp
3668         server listing output.
3669         (clean_line): New function responsible for removing
3670         end-of-line characters from FTP listing texts.
3671
3672         * ftp.c (getftp): Global variables pwd and host_type are now
3673         member of the ccon structure under names ccon.id and ccon.rs. 
3674
3675         * ftp.h (struct ccon): Added formed global variables from ftp.c,
3676         enum stype rs (remote system identification) and char *id (initial
3677         working directory), as suggested by Hrvoje.
3678
3679         * url.c (parse_uname): Added support for passwords containing '@'
3680         characters.
3681         (skip_uname): Ditto.
3682
3683 2001-02-11  Hrvoje Niksic  <hniksic@arsdigita.com>
3684
3685         * ftp.c (ftp_loop): Reset con.
3686
3687 2001-01-06  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3688
3689         * url.c (parse_uname): Added support for passwords containing '@'
3690         characters.
3691         (skip_uname): Ditto.
3692
3693 2001-02-11  Hack Kampbjørn  <hack@hackdata.com>
3694
3695         * url.c (parseurl): Debug-print u->ftp_type.
3696
3697 2001-02-11  Hrvoje Niksic  <hniksic@arsdigita.com>
3698
3699         * ftp.c (ftp_loop_internal): Disable padding.
3700         (getftp): Ditto.
3701
3702         * http.c (http_loop): Disable padding.
3703
3704         * retr.c (show_progress): Use it to enable padding.
3705
3706         * retr.c (rate): Optional parameter PAD for padding the rate.
3707
3708 2001-02-10  Hrvoje Niksic  <hniksic@arsdigita.com>
3709
3710         * retr.c (show_progress): Make sure that the last output line
3711         includes progress.
3712
3713 2001-02-10  Jonas Jensen  <bones@huleboer.dk>
3714
3715         * retr.c (show_progress): Print the download rate along with the
3716         percentages.
3717         Along with Anders Thorsby <anders@thorsby.dk>.
3718
3719 2001-02-10  Tim Mooney  <mooney@dogbert.cc.ndsu.NoDak.edu>
3720
3721         * ftp.h: Rename enums `command' to `wget_ftp_command' and
3722         `fstatus' to `wget_ftp_status' because old names clash with Tru64
3723         net/if.h.
3724
3725 2001-02-08  Christian Fraenkel <christian.fraenkel@gmx.net>
3726
3727         * gen_sslfunc.c: verify_callback is now static
3728
3729         * gen_sslfunc.c (init_ssl): load certificate if specified
3730
3731         * gen_sslfunc.c (ssl_printerr): new function
3732
3733         * init.c: added new --sslcertfile and --sslcertkey switches
3734
3735         * main.c: ditto
3736
3737         * options.h: ditto
3738
3739         * http.c (gethttp): abort when init_ssl fails
3740
3741 2001-01-23  Herold Heiko  <Heiko.Herold@previnet.it>
3742
3743         * mswindows.h: Include <malloc.h>; it's needed for alloca().
3744
3745 2001-01-10  Dan Harkless  <wget@harkless.org>
3746
3747         * url.c (str_url): Clarified this function's comment header after
3748         Hrvoje answered my question on the list as to when hide != 1.
3749         Also Hrvoje pointed out I need to use xstrdup() on the string literal.
3750
3751 2001-01-06  Hrvoje Niksic  <hniksic@arsdigita.com>
3752
3753         * connect.c (bindport): Declare addrlen as int.  Diagnosed by
3754         Drazen Kacar <dave@arsdigita.com>.
3755         (conaddr): Ditto.
3756
3757 2001-01-09  Dan Harkless  <wget@harkless.org>
3758
3759         * html-url.c: A bunch of fixup of `--page-requisites'-related
3760         comments to reflect Hrvoje's changes to my code when transplanting
3761         it into this new file, to fix spelling mistakes, to clarify, etc.
3762
3763         * url.c (write_backup_file): Clarified a comment.
3764         (str_url): Henrik van Ginhoven pointed out on the list that we
3765         shouldn't give away the number of characters in the password by
3766         replacing each character with a 'x'.  Use "<password>" instead.
3767
3768         * ftp.c (ftp_retrieve_dirs): The bug where recursion into FTP
3769         directories didn't work if logging in put you in a directory other
3770         than "/" is fixed now.  Removed the comment here warning of the bug.
3771
3772         * main.c (print_help): --continue's description was misleading.
3773         We don't "restart", we "resume".  Also, better to say
3774         "partially-downloaded file" rather than just "existing file".
3775
3776 2001-01-06  Dan Harkless  <wget@harkless.org>
3777
3778         * ChangeLog: The '[Not in 1.6 branch.]'s were decided not to be
3779         the best way to go about my aim.  Removed them in favor of:
3780
3781         * ChangeLog-branches/1.6_branch.ChangeLog: New file.
3782
3783 2001-01-04  Hrvoje Niksic  <hniksic@arsdigita.com>
3784
3785         * url.c (replace_attr): New function, to be used by both
3786         TO_COMPLETE and TO_RELATIVE case in convert_links.
3787         (find_fragment): New function for finding URL fragments.
3788         (replace_attr): Better handle the case where the original string
3789         is not quoted.  Use find_fragment.
3790         (convert_links): Use replace_attr().
3791
3792 2000-12-31  Dan Harkless  <wget@harkless.org>
3793
3794         * ChangeLog: Since this flat file doesn't have multiple branches,
3795         looking at the dates would make you think that things went into
3796         1.6 that actually just went into the 1.7-dev branch.  Added "[Not
3797         in 1.6 branch.]" where appropriate to clarify.
3798         
3799 2000-12-30  Dan Harkless  <wget@harkless.org>
3800
3801         * ftp.c, http.c:  Applied Hack Kampbjørn <hack@hackdata.com>'s
3802         patch to deal with h_errno not being defined in netdb.h under Cygwin.
3803
3804 2000-12-18  Csaba Raduly  <csaba.raduly@sophos.com>
3805
3806         * sysdep.h: Include <malloc.h> and <io.h> under Watcom.
3807
3808 2000-12-17  Igor Khristophorov  <igor@atdot.org>
3809
3810         * http.c (check_end): Fix test for '+' or '-'.
3811
3812 2000-12-17  Hrvoje Niksic  <hniksic@arsdigita.com>
3813
3814         * url.c (parseurl): Rename inner loop var from i to ind to avoid
3815         clash with the function top-level-declared variable i.
3816         (str_url): Likewise, rename inner-loop i to j.
3817
3818         * recur.c (parse_robots): Don't declare LEN at top of function.
3819         (robots_match): Renamed parameter FORBIDDEN to avoid hiding of
3820         global variable.
3821
3822         * main.c (main): Change erroneous use of bitwise and to logical.
3823
3824         * init.c (cmd_address): Don't heap-allocate `sin'; it can be on
3825         the stack because it will be copied to closure.
3826
3827         Thanks to Csaba Raduly's run of PC-LINT over the sources.
3828
3829 2000-12-17  Hrvoje Niksic  <hniksic@arsdigita.com>
3830
3831         * http.c (basic_authentication_encode): Use xmalloc(), not
3832         malloc().  Thanks to Csaba Raduly's run of PC-LINT over the
3833         sources.
3834
3835 2000-12-17  Csaba Raduly  <csaba.raduly@sophos.com>
3836
3837         * sysdep.h: Test for __EMX__ rather than for EMXOS2 for OS/2
3838         compilation.
3839
3840 2000-12-17  Hrvoje Niksic  <hniksic@arsdigita.com>
3841
3842         * mswindows.c: Include <errno.h>.
3843
3844         * gen_sslfunc.c: Include <errno.h>.
3845
3846         * ftp-basic.c: Don't attempt to declare errno or h_errno because
3847         they're not used.
3848
3849         * main.c: Include <errno.h> because errno is used.
3850
3851         * ftp.c: Ditto.
3852
3853         * http.c: Include <netdb.h> for h_errno.
3854
3855 2000-12-13  Hrvoje Niksic  <hniksic@arsdigita.com>
3856
3857         * html-parse.c (advance_declaration): MSVC assert() chokes on
3858         '\"'.  Use '"' instead.
3859
3860 2000-12-11  Hrvoje Niksic  <hniksic@arsdigita.com>
3861
3862         * utils.c (xfree_real): Removed.
3863         (xfree_debug): Just call free().
3864
3865         * wget.h (xfree): Make it an alias for free.
3866
3867 2000-12-11  Hrvoje Niksic  <hniksic@arsdigita.com>
3868
3869         * http.c (http_loop): Furthermore, touch output_document only if
3870         it is known to be an existing regular file.
3871
3872 2000-12-11  Hrvoje Niksic  <hniksic@arsdigita.com>
3873
3874         * ftp.c (ftp_retrieve_list): Ditto.
3875
3876         * http.c (http_loop): Touch output_document if that is used for
3877         output.
3878
3879 2000-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
3880
3881         * http.c: Include gen_sslfunc.h after including Wget's headers.
3882         (persistent_available_p): Needed coma before `int ssl'.
3883
3884 2000-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
3885
3886         * ftp.c (ftp_loop_internal): Ditto.
3887
3888         * http.c (http_loop): Use it.
3889
3890         * retr.c (sleep_between_retrievals): New function that handles the
3891         logic of opt.wait and opt.waitretry.
3892
3893 2000-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
3894
3895         * rbuf.h: Implement only a single version of RBUF_READCHAR, using
3896         rbuf_read_bufferful when the buffer is depleted.
3897
3898         * rbuf.c (rbuf_read_bufferful): New function.
3899
3900 2000-12-06  Hrvoje Niksic  <hniksic@arsdigita.com>
3901
3902         * gen_sslfunc.h: Use ansi2knr style function declarations.
3903
3904         * gen_sslfunc.c: Reformat according to the GNU coding standards.
3905         More should be done.
3906
3907         * http.c (persistent_available_p): Place the cheap SSL test nearer
3908         the top of the function.
3909         (CLOSE_FINISH, CLOSE_INVALIDATE): Define only one version of each.
3910
3911 2000-12-05  Hrvoje Niksic  <hniksic@arsdigita.com>
3912
3913         * url.c (init_unsafe_char_table): Reinstate space as an unsafe
3914         char.
3915
3916 2000-12-03  Christian Fraenkel <christian.fraenkel@gmx.net>
3917
3918         * Makefile.in: added gen_sslfunc object
3919         * config.h.in: added HAVE_SSL define
3920         * connect.c: changed select_fd from static int to int
3921         * connect.h: ditto
3922         * gen_sslfunc.h: New file
3923         * gen_sslfunc.c: ditto
3924         * http.c: added HTTPS fuctionality
3925         * retrc.c: ditto
3926         * url.c: ditto
3927         * init.c: added opt.httpsproxy
3928         * options.h: ditto
3929         * rbuf.h: added alternate rbuf struct
3930         * wget.h: added CONSSLERR
3931         * rbuf.c: ditto
3932
3933         * http.c: Added HTTPS fuctionality.
3934
3935         * retrc.c: Ditto.
3936
3937         * url.c: Ditto.
3938
3939         * init.c: Added opt.httpsproxy.
3940
3941         * options.h: Ditto.
3942
3943         * rbuf.h: Added alternate rbuf struct.
3944
3945         * wget.h: Added CONSSLERR.
3946
3947         * rbuf.c: Ditto.
3948
3949 2000-11-30  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3950
3951         * ftp-ls.c (ftp_parse_unix_ls): Added second parameter
3952         "ignore_perms" to ignore file and directory permissions for
3953         Windows NT FTP server listings.
3954         (ftp_parse_winnt_ls): New function.
3955         (ftp_parse_ls): Parses UNIX and Windows NT listings
3956         separately. Simple heuristics for distinguishing between UNIX and
3957         MS-DOS-like FTP listing provided by Windows NT FTP service.
3958
3959 2000-11-18  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3960
3961         * ftpparse.c, ftpparse.h: New files.
3962
3963         * ftp-ls.c (ftp_parse_ls): Use ftp_parse_unix_ls for UNIX servers
3964         only. Use ftp_parse_nonunix_ls otherwise.
3965         (ftp_parse_nonunix_ls): Stub to the ftpparse library handling all
3966         exotic FTP servers.
3967
3968         * ftp.h (stype): New enum, distinguishes UNIX, VMS, and "other"
3969         FTP servers.
3970
3971         * ftp.c: New static wariables host_type, pwd, and pwd_len. 
3972         (getftp): Support for VMS. Support for FTP servers that do not
3973         place you in the root directory after login.
3974         (ftp_retrieve_list): VMS is silent about the real file size, issue
3975         a more appropriate message.
3976         (ftp_get_listing): Pass host_type to ftp_parse_ls.
3977
3978         * ftp-basic.c (ftp_pwd, ftp_syst): New functions.
3979
3980 2000-11-30  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
3981
3982         * ftp-ls.c (ftp_parse_unix_ls): Added second parameter
3983         "ignore_perms" to ignore file and directory permissions for
3984         Windows NT FTP server listings.
3985         (ftp_parse_winnt_ls): New function.
3986         (ftp_parse_ls): Parses UNIX and Windows NT listings
3987         separately. Simple heuristics for distinguishing between UNIX
3988         and MS-DOS-like FTP listing provided by Windows NT FTP service.
3989
3990 2000-11-29  John Summerfield  <summer@OS2.ami.com.au>
3991
3992         * netrc.c (parse_netrc): Get rid of line ending.
3993
3994 2000-11-25  Hrvoje Niksic  <hniksic@arsdigita.com>
3995
3996         * ftp.c (ftp_retrieve_list): Undo typo "fix" until resolution by
3997         Dan.
3998
3999 2000-11-24  Karl Eichwalder  <ke@suse.de>
4000
4001         * main.c (print_help): Untabify.
4002
4003 2000-11-23  Hrvoje Niksic  <hniksic@arsdigita.com>
4004
4005         * utils.c (xrealloc_debug): Do the unregister/register thing only
4006         if the pointer has actually changed.
4007         (xmalloc_real): Declare `static' in DEBUG_MALLOC builds.
4008         (xfree_real): Ditto.
4009         (xrealloc_real): Ditto.
4010         (xstrdup_real): Ditto.
4011
4012 2000-11-22  Hrvoje Niksic  <hniksic@arsdigita.com>
4013
4014         * ftp.c (getftp): ftp_getaddress() returns a malloc'ed copy of the
4015         string; no need to strdup() it.
4016         (getftp): Make pwd_len a local variable.
4017         (ftp_loop): Free PWD before returning.
4018
4019         * init.c (cleanup): Free opt.ftp_pass only if it's non-NULL.
4020
4021 2000-11-22  Hrvoje Niksic  <hniksic@arsdigita.com>
4022
4023         * all: Use xfree() instead of free.
4024
4025         * utils.c (xfree): New function.
4026
4027 2000-11-21  Hrvoje Niksic  <hniksic@arsdigita.com>
4028
4029         * url.c (convert_links): HTML-quote the converted string.
4030
4031         * utils.c (html_quote_string): Move here from ftp-ls.c
4032         (html_quote_string): Make non-static; declare in utils.h.
4033         (html_quote_string): Convert SP to &#32;.
4034
4035 2000-11-21  Hrvoje Niksic  <hniksic@arsdigita.com>
4036
4037         * ftp.c (getftp): Reformat Jan's code according to GNU coding
4038         standards; remove (debugging?) printf's; use '\0' for the ASCII
4039         zero character.  Use alloca() instead of malloc() for
4040         inter-function temporary allocations.
4041
4042 2000-11-18  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
4043
4044         * ftpparse.c, ftpparse.h: New files.
4045
4046         * ftp-ls.c (ftp_parse_ls): Use ftp_parse_unix_ls for UNIX servers
4047         only. Use ftp_parse_nonunix_ls otherwise.
4048         (ftp_parse_nonunix_ls): Stub to the ftpparse library handling all
4049         exotic FTP servers.
4050
4051         * ftp.h (stype): New enum, distinguishes UNIX, VMS, and "other"
4052         FTP servers.
4053
4054         * ftp.c: New static wariables host_type, pwd, and pwd_len. 
4055         (getftp): Support for VMS. Support for FTP servers that do not
4056         place you in the root directory after login.
4057         (ftp_retrieve_list): VMS is silent about the real file size, issue
4058         a more appropriate message.
4059         (ftp_get_listing): Pass host_type to ftp_parse_ls.
4060
4061         * ftp-basic.c (ftp_pwd, ftp_syst): New functions.
4062
4063 2000-11-21  Hrvoje Niksic  <hniksic@arsdigita.com>
4064
4065         * hash.c (hash_table_put): Don't overwrite deleted mappings.
4066
4067 2000-11-21  Hrvoje Niksic  <hniksic@arsdigita.com>
4068
4069         * hash.c (find_mapping): New function.
4070         (hash_table_get): Use it.
4071         (hash_table_get_pair): Ditto.
4072         (hash_table_exists): Ditto.
4073         (hash_table_remove): Ditto.
4074         (hash_table_remove): Really delete the entry if the mapping
4075         following LOCATION is empty.
4076
4077         * utils.c (string_set_add): Check whether the element has existed
4078         before.
4079
4080         * hash.c (hash_table_get_pair): New function.
4081
4082 2000-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
4083
4084         * http.c (http_process_type): Ignore trailing whitespace; use
4085         strdupdelim().
4086
4087         * recur.c (recursive_retrieve): Use the new `convert' field.
4088         (convert_all_links): Ditto.
4089         (convert_all_links): Don't respect meta_disallow_follow.
4090
4091         * html-url.c (handle_link): Fill out link_relative_p and
4092         link_complete_p.
4093
4094         * url.h (struct _urlpos): Make elements more readable.
4095
4096         * recur.c (recursive_retrieve): Call slist_prepend instead of
4097         slist_append.
4098         (convert_all_links): Call slist_nreverse before iterating through
4099         urls_html.
4100
4101         * utils.c (slist_prepend): New function.
4102         (slist_nreverse): Ditto.
4103
4104 2000-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
4105
4106         * http.c (check_end): Constify.
4107
4108 2000-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
4109
4110         * http.c (http_loop): If username and password are known, try the
4111         `Basic' authentication scheme by default.
4112
4113         * connect.h: Declare test_socket_open.
4114
4115 2000-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
4116
4117         * version.c: Bump version from 1.5.3+dev to 1.7-dev.
4118
4119 2000-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
4120
4121         * http.c (gethttp): Don't use the return value of sprintf().
4122         (gethttp): Inhibit keep-alive if opt.http_keep_alive is 0.
4123
4124 2000-11-20  Hrvoje Niksic  <hniksic@arsdigita.com>
4125
4126         * recur.c (recursive_retrieve): Print the "so we don't load"
4127         debugging message only if we really don't load.
4128
4129         * http.c (gethttp): Inhibit keep-alive if proxy is being used.
4130         (gethttp): Don't request keep-alive if keep-alive is inhibited.
4131
4132 2000-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
4133
4134         * http.c (gethttp): Make the HTTP persistent connections more
4135         robust.
4136
4137 2000-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
4138
4139         * retr.c (get_contents): If use_expected, make sure that the
4140         appropriate amount of data is being read.
4141
4142         * http.c (gethttp): Check for both `Keep-Alive: ...' and
4143         `Connection: Keep-Alive'.
4144
4145         * wget.h (DEBUGP): Call debug_logprintf only if opt.debug is
4146         turned on.
4147
4148 2000-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
4149
4150         * http.c (connection_available_p): Use it.
4151
4152         * connect.c (test_socket_open): New function.
4153
4154         * http.c (gethttp): Support persistent connections.  Based on the
4155         ideas, and partly on code, by Sam Horrocks <sam@daemoninc.com>.
4156         (register_persistent): New function.
4157         (connection_available_p): Ditto.
4158         (invalidate_connection): Ditto.
4159
4160 2000-11-19  Hrvoje Niksic  <hniksic@arsdigita.com>
4161
4162         * url.c (convert_links): Handle UREL2ABS case.
4163
4164         * recur.c (recursive_retrieve): Instead of the list
4165         urls_downloaded, use hash tables dl_file_url_map and
4166         dl_url_file_map.
4167         (convert_all_links): Use them to retrieve data.
4168
4169         * host.c (clean_hosts): Free the hash tables.
4170
4171         * main.c (private_initialize): Call host_init().
4172
4173         * host.c (store_hostaddress): Use a saner, hash table-based data
4174         model.
4175         (realhost): Ditto.
4176         (host_init): Initialize the hash tables.
4177
4178 2000-11-18  Hrvoje Niksic  <hniksic@arsdigita.com>
4179
4180         * utils.c (slist_append): Eviscerate NOSORT.  Hash tables are now
4181         used for what the sorted slists used to be used for.
4182         (slist_contains): Don't rely on the list being sorted.
4183         (slist_append): Simplify the code.
4184
4185         * recur.c (recursive_cleanup): Use free_string_set.
4186
4187         * utils.c (string_set_add, string_set_exists, string_set_free):
4188         New functions for easier freeing of hash tables whose keys are
4189         strdup'ed strings.
4190
4191         * recur.c (recursive_retrieve): Use the hash table functions for
4192         storing undesirable URLs.
4193
4194         * hash.c: New file.
4195
4196 2000-11-17  Hrvoje Niksic  <hniksic@arsdigita.com>
4197
4198         * main.c (private_initialize): Call url_init.
4199         (main): Call private_initialize.
4200
4201         * url.c (unsafe_char_table): New table.
4202         (UNSAFE_CHAR): Use it.
4203         (init_unsafe_char_table): New function.
4204         (url_init): New function; call init_unsafe_char_table.
4205
4206 2000-11-16  Hrvoje Niksic  <hniksic@arsdigita.com>
4207
4208         * mswindows.h: Define snprintf and vsnprintf to _snprintf and
4209         _vsnprintf respectively.
4210
4211 2000-11-15  Hrvoje Niksic  <hniksic@arsdigita.com>
4212
4213         * config.h.in: Do the _XOPEN_SOURCE and _SVID_SOURCE things only
4214         on Linux.
4215
4216 2000-11-15  Hrvoje Niksic  <hniksic@arsdigita.com>
4217
4218         * html-url.c (handle_link): Handle HTML fragment identifiers.
4219
4220         * recur.c (recursive_retrieve): If norobot info is respected and
4221         the file is specified not to be followed by robots, respect that.
4222
4223         * html-url.c (collect_tags_mapper): Handle <meta name=robots
4224         content=X>.  For us the important cases are where X is NONE or
4225         where X contains NOFOLLOW.
4226         (get_urls_html): Propagate that information to the caller.
4227
4228 2000-11-13  Hrvoje Niksic  <hniksic@arsdigita.com>
4229
4230         * url.c (convert_links): Unlink the file we might be reading from
4231         before writing to it.
4232         (convert_links): Use alloca instead of malloc for
4233         filename_plus_orig_suffix.
4234
4235 2000-11-12  Hrvoje Niksic  <hniksic@arsdigita.com>
4236
4237         * host.c (realhost): Add HOST to the list with quality==0 only if
4238         it wasn't already there.
4239         Based on analysis by Lu Guohan <feng@public.bjnet.edu.cn>.
4240
4241 2000-11-10  Hrvoje Niksic  <hniksic@arsdigita.com>
4242
4243         * url.c (get_urls_file): Ditto.
4244         (convert_links): Ditto.
4245
4246         * html-url.c (get_urls_html): Use read_file() instead of
4247         load_file().
4248
4249         * utils.c (read_file): New function, instead of the old
4250         load_file().
4251         (read_file_free): Ditto.
4252
4253         * url.c (findurl): Search only for the supported protocols.
4254         (convert_links): Use fwrite() when writing out a region of
4255         characters.
4256
4257 2000-11-10  Hrvoje Niksic  <hniksic@arsdigita.com>
4258
4259         * ftp-ls.c: Move html_quote_string and ftp_index here.
4260
4261         * url.c: Remove get_urls_html, since that's now in html-url.c.
4262
4263         * html-url.c: New file.
4264
4265         * html-parse.c: New file.
4266
4267 2000-11-10  Hrvoje Niksic  <hniksic@arsdigita.com>
4268
4269         * init.c (run_wgetrc): Don't bother killing off '\r' since
4270         pars_line() skips whitespace at end of line anyway.
4271         (parse_line): Oops, it didn't.  Now it does.
4272
4273         * recur.c (parse_robots): Ditto here.
4274
4275         * ftp-ls.c (ftp_parse_unix_ls): Kill off the newline character
4276         manually because read_whole_line no longer does.
4277
4278         * utils.c (read_whole_line): Rewrite to: a) use less memory
4279         (reallocates to needed size after work), b) work faster -->
4280         fgets() instead of getc, c) be more correct --> doesn't kill the
4281         newline character at the end of line.
4282
4283 2000-11-10  Hrvoje Niksic  <hniksic@arsdigita.com>
4284
4285         * init.c (comind): Initialize MAX to array size - 1.
4286
4287 2000-11-08  Hrvoje Niksic  <hniksic@arsdigita.com>
4288
4289         * url.c (construct): Changed last_slash[-1] to *(last_slash - 1).
4290         Suggested by Edward J. Sabol.
4291
4292 2000-11-08  Hrvoje Niksic  <hniksic@arsdigita.com>
4293
4294         * url.c (construct): Handle the case where host name is not
4295         followed by a slash.
4296
4297 2000-11-06  Hrvoje Niksic  <hniksic@arsdigita.com>
4298
4299         * init.c: commands[] need to be sorted!  ("base" wasn't.)
4300
4301 2000-11-05  Hrvoje Niksic  <hniksic@arsdigita.com>
4302
4303         * wget.h (DO_REALLOC_FROM_ALLOCA): Use braces to disambiguate
4304         `if'.
4305
4306 2000-11-05  Hrvoje Niksic  <hniksic@arsdigita.com>
4307
4308         * url.c (construct): Insert unneeded initialization for the
4309         compiler to shut up.
4310
4311         * config.h.in: Define _XOPEN_SOURCE to 500 to get the prototype
4312         for strptime() (*duh*).  Define _SVID_SOURCE to get S_IFLNK which
4313         otherwise gets lost when you define _XOPEN_SOURCE.
4314
4315         * utils.c (touch): Include the file name in the error message.
4316         From Debian.
4317
4318 2000-11-05  Hrvoje Niksic  <hniksic@arsdigita.com>
4319
4320         * log.c (logvprintf): Use vsnprintf() in all cases.  If necessary,
4321         resize the buffer to fit the formated message.  That way, messages
4322         of arbitrary size may be printed.
4323         (logvprintf): Use saved_append() to optionally log the last
4324         several lines of output.
4325         (logputs): Ditto.
4326         (log_close): Adapt to new data structures.
4327         (log_dump): Ditto.
4328         (redirect_output): Print messages to stderr, not to stdout.
4329
4330         * log.c (saved_append_1): New function.  Replaces the old logging
4331         system ("log all output until 10M characters") with a new, much
4332         more reasonable one ("log last screenful of text").
4333         (saved_append): New function; call saved_append_1.
4334         (free_log_line): New function.
4335
4336 2000-11-05  Hrvoje Niksic  <hniksic@arsdigita.com>
4337
4338         * url.c (construct): Fix comment.
4339         (find_last_char): Document.
4340
4341 2000-11-04  Hrvoje Niksic  <hniksic@arsdigita.com>
4342
4343         * snprintf.c: New file.
4344
4345 2000-11-03  Hrvoje Niksic  <hniksic@arsdigita.com>
4346
4347         * wget.h: If HAVE_STDARG_H is not defined, don't declare argument
4348         types to logprintf() and debug_logprintf().
4349
4350 2000-11-02  Hrvoje Niksic  <hniksic@arsdigita.com>
4351
4352         * ftp.c (ftp_loop_internal): Hide the password from the URL when
4353         printing non-verbose.  Problem spotted by Dariusz Mlynarczyk
4354         <darekm@bydg.lomac.com.pl>.
4355
4356 2000-11-02  Junio Hamano  <junio@twinsun.com>
4357
4358         * ftp-basic.c (ftp_login): Make comparison case-insensitive.
4359
4360 2000-11-02  Tyler Riddle  <triddle@liquidmarket.com>
4361
4362         * http.c (known_authentication_scheme_p): Recognize NTML
4363         authentication.
4364         (create_authorization_line): Treat NTML the same as `Basic'.
4365
4366 2000-11-02  Hrvoje Niksic  <hniksic@arsdigita.com>
4367
4368         * retr.c (retrieve_url): Free url before returning.
4369         (retrieve_url): Free mynewloc before returning.
4370         Spotted by Mark A. Mankins <Mankins_Mark@prc.com>.
4371
4372 2000-11-02  Hrvoje Niksic  <hniksic@arsdigita.com>
4373
4374         * url.c (parseurl): Remove possible reading past the end of
4375         sup_protos[].  Spotted by Mark A. Mankins <Mankins_Mark@prc.com>.
4376
4377 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
4378
4379         * main.c (main): In case of opt.downloaded overflowing, print
4380         <overflow> instead of a totally bogus random value.
4381
4382         * retr.c (retrieve_from_file): Ditto.
4383
4384         * recur.c (recursive_retrieve): Ditto.
4385
4386         * main.c (main): Ditto.
4387
4388         * http.c (http_loop): Ditto.
4389
4390         * ftp.c (ftp_loop_internal): Use downloaded_increase() instead of
4391         `+=', and downloaded_exceeds_quota() instead of the simple-minded
4392         check.
4393         (ftp_retrieve_list): Ditto.
4394         (ftp_retrieve_dirs): Ditto.
4395         (ftp_retrieve_glob): Ditto.
4396
4397         * retr.c (downloaded_increase): New function.  Notice overflows of
4398         opt.downloaded.
4399         (downloaded_exceeds_quota): Make sure that opt.downloaded is not
4400         used if it overflowed.
4401
4402         * options.h (struct options): New member downloaded_overflow.
4403
4404 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
4405
4406         * wget.h (enum): Remove extra space after last enumeration.
4407
4408 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
4409
4410         * main.c (main): Use legible_very_long() for printing
4411         opt.downloaded.
4412
4413         * utils.c (legible_1): New function that operates on strings and
4414         does the brunt of legible()'s work.
4415         (legible): Use legible_1().
4416         (legible_very_long): New function; dump the argument with
4417         sprintf(), and call legible_1().
4418
4419         * options.h (struct options): Use VERY_LONG_TYPE for
4420         opt.downloaded.
4421
4422         * sysdep.h (VERY_LONG_TYPE): Define it to have a 64-bit or greater
4423         type.
4424
4425         * config.h.in: Make sure that SIZEOF_LONG and SIZEOF_LONG_LONG get
4426         defined.  Define HAVE_LONG_LONG if long long is available.
4427
4428 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
4429
4430         * utils.c (long_to_string): Update with a later, better version.
4431
4432 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
4433
4434         * url.c (path_simplify_with_kludge): New function.
4435         (path_simplify_with_kludge): Disable it.  Instead...
4436         (parse_dir): ...make sure that at this point the right thing is
4437         done, i.e. that "query" part of the URL (?...) is always assigned
4438         to the file, never to the directory portion of the path.
4439
4440 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
4441
4442         * retr.c (retrieve_url): Detect redirection cycles.
4443
4444 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
4445
4446         * url.c (get_urls_html): Decode HTML entities using
4447         html_decode_entities.
4448
4449         * html.c (htmlfindurl): Don't count the `#' in numeric entities
4450         (&#NNN;) as an HTML fragemnt.
4451         (html_decode_entities): New function.
4452
4453 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
4454
4455         * html.c (htmlfindurl): Fix recognition of # HTML fragments.
4456
4457 2000-11-01  Hrvoje Niksic  <hniksic@arsdigita.com>
4458
4459         * url.c (construct): Rewritten for clarity.  Avoids the
4460         unnecessary copying and stack-allocation the old version
4461         performed.
4462
4463 2000-10-31  Hrvoje Niksic  <hniksic@arsdigita.com>
4464
4465         * ftp.c (getftp): Ditto.
4466
4467         * http.c (gethttp): Rewind the stream when retrying from scratch.
4468
4469 2000-10-31  Hrvoje Niksic  <hniksic@arsdigita.com>
4470
4471         * retr.c (retrieve_url): Use url_concat() to handle relative
4472         redirections instead of /ad hoc/ code.
4473
4474         * url.c (url_concat): New function encapsulating weird
4475         construct().
4476         (urllen_http_hack): New function.
4477         (construct): When constructing new URLs, recognize that `?' does
4478         not form part of the file name in HTTP.
4479
4480 2000-10-13  Adrian Aichner  <adrian@xemacs.org>
4481
4482         * retr.c: Add msec timing support for WINDOWS.
4483         * retr.c (reset_timer): GetSystemTime() on WINDOWS.
4484         * retr.c (elapsed_time): Calculate delta time to msec on WINDOWS.
4485
4486 2000-10-27  Dan Harkless  <wget@harkless.org>
4487
4488         * retr.c (retrieve_url): Manually applied T. Bharath
4489         <TBharath@responsenetworks.com>'s patch to get wget to grok
4490         illegal relative URL redirects.  Reformatted and re-commented it.
4491
4492 2000-10-23  Dan Harkless  <wget@harkless.org>
4493
4494         * connect.c (make_connection and bindport): Manually applied Rob
4495         Mayoff <mayoff@dqd.com>'s 1.5.3 patch to add --bind-address,
4496         changing coding style to GNU's.
4497
4498         * ftp.c (ftp_loop_internal): --delete-after wasn't implemented for
4499         files downloaded via FTP.  Per a comment, .listing files were not
4500         counted towards number of bytes and files downloaded because they're 
4501         deleted anyway.  Well, they aren't under -nr, so count them then.
4502
4503         * init.c: Manually applied Rob Mayoff's 1.5.3 patch to add
4504         --bind-address, alphabetizing, changing coding style to GNU's,
4505         commenting, and renaming cmd_ip_address() to cmd_address() to
4506         imply hostnames also okay.
4507                 
4508         * main.c (main): --delete-after didn't delete the root of the
4509         tree.  Ignore --convert-links if --delete-after was specified.
4510         Manually applied Rob Mayoff's 1.5.3 patch to add --bind-address,
4511         fixing duplicate use of added-since-1.5.3 case value.
4512         (print_help): Clarified that --delete-after deletes local files.
4513         Rob forgot to add a line for his new --bind-address option.
4514                 
4515         * options.h (struct options): Manually applied Rob Mayoff's patch
4516         to add --bind-address (bind_address structure member).
4517                 
4518         * recur.c (recursive_retrieve): Improved comment; added DEBUGP().
4519         Ignore --convert-links if --delete-after was specified.
4520                 
4521         * retr.c (retrieve_from_file): Just added a DEBUGP().
4522                 
4523 2000-10-19  Dan Harkless  <wget@harkless.org>
4524
4525         * ftp.c (ftp_loop_internal): downloaded_file() enumerators changed.
4526         (getftp): Applied Piotr Sulecki <Piotr.Sulecki@ios.krakow.pl>'s
4527         patch to work around FTP servers that incorrectly respond to the
4528         "REST" command with the remaining size rather than the total file size.
4529                 
4530         * http.c (gethttp): Improved a comment and added code to tack on
4531         ".html" to text/html files without that extension when -E specified.
4532         (http_loop): Use new downloaded_file() enumerators and deal with
4533         the case of gethttp() called xrealloc() on u->local.
4534
4535         * init.c (commands): Added new "htmlextension" command.
4536         Also renamed John Daily's cmd_quad() to the more descriptive
4537         cmd_lockable_boolean(), alpha-sorted the CMD_DECLARE()s and
4538         removed duplicate cmd_boolean() declaration.
4539
4540         * main.c (print_help): Added my new -E / --html-extension option.
4541         (main): Undocumented --email-address option previously used -E synonym.
4542         Stole it away for the much more deserving --html-extension's use.
4543
4544         * options.h (struct options): Added html_extension field.
4545
4546         * url.c (convert_links): URL X that we saved as X.html locally due
4547         to -E needs to be backed up as X.orig, not X.html.orig.  Added comments.
4548         (downloaded_file): Now remembers if we added .html extension to a file.
4549
4550         * url.h (downloaded_file_t): Added extra enumerators to support above.
4551         (downloaded_file): Now takes and returns a downloaded_file_t.
4552
4553         * wget.h (unnamed "dt" enum): Added ADDED_HTML_EXTENSION enumerator.
4554         
4555 2000-10-09  Dan Harkless  <wget@harkless.org>
4556
4557         * html.c (htmlfindurl): Added unneeded initialization to quiet warning.
4558                 
4559         * main.c (print_help): Clarified what --retr-symlinks does.
4560         
4561 2000-09-15  John Daily  <jdaily@cyberdude.com>
4562
4563         * init.c: Add support for "always" and "never" values to allow
4564         .wgetrc to override commandline (useful e.g. with .pm files
4565         calling `wget --passive-ftp' when your firewall doesn't allow that).
4566
4567         * ftp.c (getftp): passive_ftp is first option to support always/never.
4568
4569 2000-08-30  Dan Harkless  <wget@harkless.org>
4570
4571         * ftp.c (ftp_retrieve_list): Use new INFINITE_RECURSION #define.
4572         
4573         * html.c: htmlfindurl() now takes final `dash_p_leaf_HTML' parameter.
4574         Wrapped some > 80-column lines.  When -p is specified and we're at a 
4575         leaf node, do not traverse <A>, <AREA>, or <LINK> tags other than 
4576         <LINK REL="stylesheet">.
4577         
4578         * html.h (htmlfindurl): Now takes final `dash_p_leaf_HTML' parameter.
4579         
4580         * init.c: Added new -p / --page-requisites / page_requisites option.
4581
4582         * main.c (print_help): Clarified that -l inf and -l 0 both allow
4583         infinite recursion.  Changed the unhelpful --mirrior description
4584         to simply give the options it's equivalent to.  Added new -p option.
4585         (main): Added some comments; handle new -p / --page-requisites.
4586         
4587         * options.h (struct options): Added new page_requisites field.
4588
4589         * recur.c: Changed "URL-s" to "URLs" and "HTML-s" to "HTMLs".
4590         Calculate and pass down new `dash_p_leaf_HTML' parameter to
4591         get_urls_html().  Use new INFINITE_RECURSION #define.
4592
4593         * retr.c: Changed "URL-s" to "URLs".  get_urls_html() now takes
4594         final `dash_p_leaf_HTML' parameter.
4595
4596         * url.c: get_urls_html() and htmlfindurl() now take final
4597         `dash_p_leaf_HTML' parameter.
4598
4599         * url.h (get_urls_html): Now takes final `dash_p_leaf_HTML' parameter.
4600
4601         * wget.h: Added some comments and new INFINITE_RECURSION #define.
4602         
4603 2000-08-23  Dan Harkless  <wget@harkless.org>
4604
4605         * main.c (print_help): -B / --base was not mentioned.
4606
4607 2000-08-22  Dan Harkless  <wget@harkless.org>
4608
4609         * main.c (print_help): Modified -nc description to mention that it
4610         also prevents the creation of multiple versions of the same file
4611         with ".<number>" suffixes.
4612
4613 2000-07-14  Jan Prikryl  <prikryl@cg.tuwien.ac.at>
4614
4615         * retr.c (retrieve_url): Consistently strdup opt.referer when
4616         setting u->referer.
4617
4618 2000-06-09  Dan Harkless  <wget@harkless.org>
4619
4620         * main.c (print_help): --help output for --waitretry was over 80 cols.
4621
4622 2000-06-09  Hrvoje Niksic  <hniksic@iskon.hr>
4623
4624         * url.c (encode_string): Fix comment.
4625         Suggested by Herold Heiko <Heiko.Herold@previnet.it>.
4626
4627 2000-06-01  Const Kaplinsky  <const@ce.cctpu.edu.ru>
4628
4629         * ftp.c (ftp_retrieve_list): Change permissions only on plain
4630         files.
4631
4632 2000-06-01  Hrvoje Niksic  <hniksic@iskon.hr>
4633
4634         * url.c (str_url): Print the port number only if it's different
4635         from the default port number for that protocol.
4636
4637 2000-05-22  Dan Harkless  <wget@harkless.org>
4638
4639         * main.c (print_help): Added --help line for Damir Dzeko
4640         <ddzeko@zesoi.fer.hr>'s until-now-undocumented --referer option.
4641         Removed comments that --referer and --waitretry were undocumented.
4642         Changed "`.wgetrc' command" to "`.wgetrc'-style command" on --help
4643         line for --execute.
4644
4645 2000-05-18  Hrvoje Niksic  <hniksic@iskon.hr>
4646
4647         * ftp.c (getftp): Ditto.
4648
4649         * http.c (gethttp): Check for return value of fclose/fflush.
4650
4651 2000-04-12  Hrvoje Niksic  <hniksic@iskon.hr>
4652
4653         * host.c (store_hostaddress): Instead of shifting ADDR, start
4654         copying from the correct address.
4655
4656 2000-04-12  Hrvoje Niksic  <hniksic@iskon.hr>
4657
4658         * http.c (gethttp): Don't free REQUEST -- it was allocated with
4659         alloca().
4660         Pointed out by Gisle Vanem <gvanem@eunet.no>.
4661
4662 2000-04-04  Dan Harkless  <wget@harkless.org>
4663
4664         * host.c (store_hostaddress): R. K. Owen's patch introduces a
4665         "left shift count >= width of type" warning on 32-bit
4666         architectures.  Got rid of it by tricking the compiler w/ a variable.
4667         
4668         * url.c (UNSAFE_CHAR): The macro didn't include all the illegal
4669         characters per RFC1738, namely everything above '~'.  It also
4670         generated a warning on OSes where char =~ unsigned char.  Fixed.
4671         
4672 1998-10-17  Hrvoje Niksic  <hniksic@srce.hr>
4673
4674         * http.c (http_process_type): Removed needless strdup(), a memory
4675         leak.
4676
4677 1998-09-25  Hrvoje Niksic  <hniksic@srce.hr>
4678
4679         * html.c (htmlfindurl): Set PH to the first occurrence of `#'.
4680
4681 1998-09-25  Simon Munton  <simonm@m4data.co.uk>
4682
4683         * init.c (wgetrc_file_name): Don't free HOME under Windows.
4684
4685 1998-12-01  "R. K. Owen"  <rkowen@Nersc.GOV>
4686
4687         * host.c (store_hostaddress): Fix for big endian 64-bit machines.
4688
4689 1998-12-01  Hrvoje Niksic  <hniksic@srce.hr>
4690
4691         * url.c (UNSAFE_CHAR): New macro.
4692         (contains_unsafe): Use it.
4693         (encode_string): Ditto.
4694
4695 1998-12-01  Hrvoje Niksic  <hniksic@srce.hr>
4696
4697         * main.c (i18n_initialize): Use LC_MESSAGES only if available.
4698
4699 2000-03-31  Hrvoje Niksic  <hniksic@srce.hr>
4700
4701         * Use TOUPPER/TOLOWER.
4702
4703 1998-12-22  Alexander V. Lukyanov  <lav@yars.free.net>
4704
4705         * ftp-opie.c (btoe): Zero-terminate OSTORE.
4706
4707 2000-03-21  Hrvoje Niksic  <hniksic@iskon.hr>
4708
4709         * wget.h (DO_REALLOC_FROM_ALLOCA): Ditto.
4710
4711         * sysdep.h (ISALNUM): New macro.
4712         (TOLOWER): Ditto.
4713         (TOUPPER): Ditto.
4714
4715 2000-03-10  Dan Harkless  <wget@harkless.org>
4716
4717         * html.c (idmatch): Implemented checking of my new --follow-tags
4718         and --ignore-tags options.
4719         
4720         * init.c (commands): Added comment reminding people adding new
4721         entries doing allocation to add corresponding freeing in cleanup().
4722         (commands): Added new followtags and ignoretags commands.
4723         (cleanup): Free storage for new followtags and ignoretags.
4724         
4725         * main.c: Use of "comma-separated list" was random -- normalized
4726         it.  Did some alphabetization.  Added comments pointing out
4727         "Options without arguments" and "Options accepting an argument"
4728         sections of long_options[].  Added new options --follow-tags and
4729         -G / --ignore-tags.  Added comment that Damir's --referer is
4730         currently undocumented.  Added comment that Heiko's --waitretry is
4731         partially undocumented (mentioned in --help but not in
4732         wget.texi).  Moved improperly sorted 24, 129, and 'G' cases.
4733         
4734         * options.h (struct options): Added new fields follow_tags and
4735         ignore_tags. 
4736         
4737         * wget.h: Added "#define EQ 0" so we can say "strcmp(a, b) == EQ".
4738         
4739 2000-03-02  Dan Harkless  <wget@harkless.org>
4740
4741         * ftp.c (ftp_loop_internal): Heiko introduced "suggest explicit
4742         braces to avoid ambiguous `else'" warnings.  Eliminated them.
4743         
4744         * http.c (gethttp): Dan Berger's query string patch is totally
4745         bogus.  If you have two different URLs, gen_page.cgi?page1 and
4746         get_page.cgi?page2, they'll both be saved as get_page.cgi and the
4747         second will overwrite the first.  Also, parameters to implicit
4748         CGIs, like "http://www.host.com/db/?2000-03-02" cause the URLs to
4749         be printed with trailing garbage characters, and could seg fault.
4750         Backing out the patch, which Dan B. informed me by email was just
4751         a kludge to download StarOffice from Sun made necessary due to
4752         wget's unconditional escaping of certain characters (room for an
4753         option there?).
4754         (http_loop): Heiko introduced "suggest explicit braces to avoid
4755         ambiguous `else'" warnings.  Eliminated them.
4756         
4757         * main.c: Heiko's --wait / --waitretry backwards compatibility
4758         code looks to have been totally untested -- automatic variable
4759         'wr' was used without being initialized, and a long int was passed
4760         into setval()'s char* val parameter.
4761         
4762         * recur.c (parse_robots): Applied Edward J. Sabol
4763         <sabol@alderaan.gsfc.nasa.gov>'s patch for Guan Yang's reported
4764         problem with "User-agent:<space>*<space>" lines in robots.txt.
4765         
4766         * url.c (parseurl, str_url): Removing Dan Berger's code (see
4767         http.c above for explanation).
4768         
4769 1999-08-25  Heiko Herold  <Heiko.Herold@previnet.it>
4770
4771         * ftp.c: Respect new option waitretry.
4772
4773 2000-01-30  Damir Dzeko  <ddzeko@zesoi.fer.hr>
4774
4775         * http.c (gethttp): Send custom Referer, if required.
4776
4777 1999-09-24  Charles G Waldman  <cgw@fnal.gov>
4778
4779         * netrc.c (parse_netrc): Allow passwords to contain spaces.
4780
4781         * netrc.c (parse_netrc): New function.
4782
4783 1999-09-17  Dan Berger  <dberger@ix.netcom.com>
4784
4785         * http.c (gethttp): Send it.
4786
4787         * url.c (parseurl): Detect query string in HTTP URL-s.
4788         (str_url): Print it.
4789
4790 2000-03-02  HIROSE Masaaki  <hirose31@t3.rim.or.jp>
4791
4792         * html.c (html_allow): Add <link href=...> and <script src=...>.
4793
4794 1999-05-02  andrew deryabin  <djsf@softhome.net>
4795
4796         * http.c (gethttp): Specify port in `Host' header only if it's
4797         different from 80.
4798
4799 1998-11-03  Edward J. Sabol  <sabol@alderaan.gsfc.nasa.gov>
4800
4801         * recur.c (recursive_retrieve): If a finite maximum depth is
4802         specified, and we're are already at that depth, don't download the
4803         HTML file for parsing.
4804
4805 2000-03-01  Dan Harkless  <wget@harkless.org>
4806
4807         * ftp.c (ftp_loop_internal): Call new downloaded_file() function,
4808         even though we don't do conversion on HTML files retrieved via
4809         FTP, so _current_ usage of downloaded_file() makes this call unneeded. 
4810         (ftp_retrieve_list): Added a comment saying where we need to
4811         stat() a .orig file if FTP'd HTML file conversion is ever implemented.
4812         (ftp_retrieve_list): "Local file '%s' is more recent," is sometimes
4813         a lie -- reworded as "Server file no newer than local file '%s' --".
4814         
4815         * http.c (http_loop): Fixed a typo and clarified a comment.
4816         (http_loop): When -K and -N are specified together, compare size
4817         and timestamp of server file X against local file X.orig (if
4818         extant) rather than converted local file X.
4819         (http_loop): "Local file '%s' is more recent," is sometimes a lie
4820         -- reworded as "Server file no newer than local file '%s' --".
4821         (http_loop): Call new downloaded_file() function to prevent
4822         wrongful overwriting of .orig file when -N is specified.
4823         
4824         * url.c (convert_links): When -K specified, only rename X to
4825         X.orig if downloaded_file() returns TRUE.  Otherwise when we skip
4826         file X due to -N, we clobber an X.orig from a previous invocation.
4827         (convert_links): Call the failsafe xstrdup(), not the real strdup().
4828         (convert_links): Added a note asking anyone who understands how
4829         multiple URLs can correspond to a single file to comment it.
4830         (downloaded_file): Added this new function.
4831         
4832         * url.h (downloaded_file): Added prototype for this new function
4833         as well as its downloaded_file_t enum type.
4834
4835         * wget.h (boolean): Added this new typedef and TRUE and FALSE #defines.
4836
4837 2000-02-29  Dan Harkless  <wget@harkless.org>
4838
4839         * version.c: Upped version to developer-only "1.5.3+dev".
4840
4841 2000-02-18  Dan Harkless  <wget@harkless.org>
4842
4843         * init.c (backup_converted): Added this new option.
4844
4845         * main.c (-K / --backup-converted): Added this new option.
4846
4847         * options.h (backup_converted): Added this new option.
4848
4849         * url.c (convert_links): When backup_converted is specified, save
4850         file X as X.orig before converting.
4851
4852         * url.h (urlpos): Fixed typo -- said "Rekative" instead of "Relative".
4853
4854 1998-09-21  Hrvoje Niksic  <hniksic@srce.hr>
4855
4856         * version.c: Wget 1.5.3 is released.
4857
4858 1998-09-21  Hrvoje Niksic  <hniksic@srce.hr>
4859
4860         * host.c (ftp_getaddress): Don't warn when reverse-lookup of local 
4861         address doesn't yield FQDN.
4862
4863 1998-09-21  Andreas Schwab  <schwab@issan.informatik.uni-dortmund.de>
4864
4865         * cmpt.c (strerror): Fix declaration of sys_errlist.
4866
4867 1998-09-11  Hrvoje Niksic  <hniksic@srce.hr>
4868
4869         * main.c (main): Don't use an array subscript as the first
4870         argument to STRDUP_ALLOCA.
4871         From Kaveh R. Ghazi.
4872
4873 1998-09-11  Szakacsits Szabolcs  <szaka@sienet.hu>
4874
4875         * html.c (htmlfindurl): Download table background.
4876
4877 1998-09-11  Hans Grobler  <grobh@conde.ee.sun.ac.za>
4878
4879         * init.c (parse_line): Would free *com before allocating it.
4880         (parse_line): Would free com instead of *com.
4881
4882 1998-09-10  Howard Gayle  <howard@fjst.com>
4883
4884         * url.c (get_urls_html): Would drop the last character of the
4885         link.
4886
4887 1998-09-10  Hrvoje Niksic  <hniksic@srce.hr>
4888
4889         * http.c (http_loop): Don't print status code if quiet.
4890
4891 1998-09-10  Kaveh R. Ghazi  <ghazi@caip.rutgers.edu>
4892
4893         * log.c: Use <stdarg.h> only when __STDC__.
4894
4895 1998-09-10  Adam D. Moss  <adam@foxbox.org>
4896
4897         * html.c (htmlfindurl): Download <layer src=...>.
4898
4899 1998-09-10  Howard Gayle  <howard@fjst.com>
4900
4901         * ftp.c (ftp_retrieve_list): Don't update the time stamp of a file 
4902         not retrieved.
4903
4904 1998-06-27  Hrvoje Niksic  <hniksic@srce.hr>
4905
4906         * utils.c: Include <libc.h> on NeXT.
4907
4908 1998-06-26  Heinz Salzmann  <heinz.salzmann@intermetall.de>
4909
4910         * url.c (get_urls_html): Fix calculation of URL position.
4911
4912 1998-06-23  Hrvoje Niksic  <hniksic@srce.hr>
4913
4914         * version.c: Wget 1.5.2 is released.
4915
4916 1998-06-23  Dave Love  <d.love@dl.ac.uk>
4917
4918         * ftp.c, init.c, netrc.c: Include errno.h.
4919
4920         * http.c: Include errno.h and time header.
4921
4922         * Makefile.in (exext): Define.
4923         (install.bin, uninstall.bin): Use it.
4924
4925 1998-06-21  Hrvoje Niksic  <hniksic@srce.hr>
4926
4927         * http.c (http_loop): Don't attempt to compare local and remote
4928         sizes if the remote size is unknown.
4929
4930 1998-06-16  Hrvoje Niksic  <hniksic@srce.hr>
4931
4932         * url.c (get_urls_html): Use malloc() instead of alloca in the
4933         loop.
4934
4935 1998-06-13  Hrvoje Niksic  <hniksic@srce.hr>
4936
4937         * version.c: Wget 1.5.2-b4 is released.
4938
4939 1998-06-13  Hrvoje Niksic  <hniksic@srce.hr>
4940
4941         * url.c (get_urls_html): Ignore spaces before and after the URI.
4942
4943 1998-06-08  Wanderlei Antonio Cavassin  <cavassin@conectiva.com.br>
4944
4945         * ftp.c (getftp): Translate `done'.
4946
4947 1998-06-06  Hrvoje Niksic  <hniksic@srce.hr>
4948
4949         * version.c: Wget 1.5.2-b3 is released.
4950
4951 1998-06-06  Alexander Kourakos  <awk@bnt.com>
4952
4953         * init.c (cleanup): Close dfp, don't free it.
4954
4955 1998-06-06  Hrvoje Niksic  <hniksic@srce.hr>
4956
4957         * utils.c (make_directory): Twiddle.
4958
4959         * config.h.in: Added template for access().
4960
4961 1998-06-05  Mathieu Guillaume  <mat@cythere.com>
4962
4963         * html.c (htmlfindurl): Download <input src=...>
4964
4965 1998-06-03  Hrvoje Niksic  <hniksic@srce.hr>
4966
4967         * utils.c (file_exists_p): Use access() with two arguments.
4968
4969 1998-05-27  Martin Kraemer  <Martin.Kraemer@mch.sni.de>
4970
4971         * netrc.c (parse_netrc): Correct logic.
4972
4973 1998-05-27  Hrvoje Niksic  <hniksic@srce.hr>
4974
4975         * ftp.c (getftp): Added `break'; suggested by Lin Zhe Min
4976         <ljm@ljm.wownet.net>.
4977
4978 1998-05-24  Hrvoje Niksic  <hniksic@srce.hr>
4979
4980         * version.c: Wget 1.5.2-b2 is released.
4981
4982 1998-05-18  Juan Jose Rodriguez  <jcnsoft@jal1.telmex.net.mx>
4983
4984         * mswindows.h: Don't translate mkdir to _mkdir under Borland.
4985
4986 1998-05-17  Hrvoje Niksic  <hniksic@srce.hr>
4987
4988         * retr.c (elapsed_time): Return correct value when
4989         HAVE_GETTIMEOFDAY is undefined.
4990
4991 1998-05-13  Hrvoje Niksic  <hniksic@srce.hr>
4992
4993         * version.c: Wget 1.5.2-b1 is released.
4994
4995 1998-05-08  Hrvoje Niksic  <hniksic@srce.hr>
4996
4997         * getopt.c (_getopt_internal): Use exec_name instead of argv[0].
4998         (_getopt_internal): Don't translate `#if 0'-ed strings.
4999
5000 1998-05-06  Douglas E. Wegscheid  <wegscd@whirlpool.com>
5001
5002         * mswindows.c (ws_handler): Use fork_to_background().
5003
5004 1998-05-05  Hrvoje Niksic  <hniksic@srce.hr>
5005
5006         * version.c: Wget 1.5.1 is released.
5007
5008 1998-05-05  Hrvoje Niksic  <hniksic@srce.hr>
5009
5010         * http.c (parse_http_status_line): Avoid `minor' and `major'
5011         names.
5012
5013 1998-05-02  Hrvoje Niksic  <hniksic@srce.hr>
5014
5015         * utils.c (mkdirhier): Renamed to make_directory.
5016
5017 1998-05-01  Hrvoje Niksic  <hniksic@srce.hr>
5018
5019         * mswindows.c (fork_to_background): Define under Windows.
5020
5021         * utils.c (fork_to_background): New function.
5022
5023         * html.c (htmlfindurl): Removed rerdundant casts.
5024
5025 1998-05-01  Douglas E. Wegscheid  <wegscd@whirlpool.com>
5026
5027         * mswindows.c (ws_mypath): Cache the path.
5028
5029 1998-04-30  Douglas E. Wegscheid  <wegscd@whirlpool.com>
5030
5031         * ftp.h: Prefix enum ftype members with FT_.
5032
5033         * ftp-ls.c, ftp.c, html.h: Adjust accordingly.
5034
5035         * mswindows.h: Use stat under Borland, _stat under MSVC.
5036
5037 1998-04-28  Hrvoje Niksic  <hniksic@srce.hr>
5038
5039         * http.c (known_authentication_scheme_p): New function.
5040         (gethttp): Handle authorization more correctly.
5041
5042         * ftp-basic.h: Removed.
5043
5044         * cmpt.h: Removed.
5045
5046         * utils.c: Include <unistd.h> before <pwd.h>; needed under SunOS
5047         with gcc 2.8.
5048         (numdigit): Use `while' loop.
5049
5050         * http.c (create_authorization_line): Detect authentication
5051         schemes case-insensitively.
5052
5053         * http.c (extract_header_attr): Use strdupdelim().
5054         (digest_authentication_encode): Move declaration of local
5055         variables to smaller scope.
5056         (digest_authentication_encode): Reset REALM, OPAQUE and NONCE.
5057         (create_authorization_line): Detect authentication schemes
5058         case-insensitively.
5059
5060         * utils.c (touch): Constify.
5061
5062         * http.c (gethttp): Report a nicer error when no data is received.
5063
5064         * rbuf.h (RBUF_READCHAR): Ditto.
5065
5066         * ftp-basic.c (ftp_response): Use sizeof.
5067
5068 1998-04-27  Hrvoje Niksic  <hniksic@srce.hr>
5069
5070         * retr.c (print_percentage): EXPECTED is long, not int.
5071         (print_percentage): Use floating-point arithmetic to avoid
5072         overflow with large files' sizes multiplied with 100.
5073
5074 1998-04-27  Gregor Hoffleit  <flight@mathi.uni-heidelberg.de>
5075
5076         * config.h.in: Added pid_t stub.
5077
5078         * sysdep.h (S_ISREG): Moved here from mswindows.h (NeXT doesn't
5079         define it).
5080
5081 1998-04-20  Hrvoje Niksic  <hniksic@srce.hr>
5082
5083         * version.c: Wget 1.5.0 is released.
5084
5085 1998-04-18  Hrvoje Niksic  <hniksic@srce.hr>
5086
5087         * url.c (str_url): Ditto.
5088
5089         * ftp-basic.c (ftp_rest): Use new name.
5090
5091         * utils.c (long_to_string): Renamed from prnum().
5092
5093 1998-04-16  Hrvoje Niksic  <hniksic@srce.hr>
5094
5095         * version.c: Wget 1.5-b17 is released.
5096
5097 1998-04-08  Hrvoje Niksic  <hniksic@srce.hr>
5098
5099         * headers.c (header_get): New argument FLAGS.
5100
5101         * http.c (gethttp): If request is malformed, bail out of the
5102         header loop.
5103         (gethttp): Check for empty header *after* the status line checks.
5104         (gethttp): Disallow continuations for status line.
5105
5106 1998-04-08  Hrvoje Niksic  <hniksic@srce.hr>
5107
5108         * version.c: Wget 1.5-b16 is released.
5109
5110 1998-04-08  Hrvoje Niksic  <hniksic@srce.hr>
5111
5112         * init.c (commands): Renamed `always_rest' to `continue'.
5113
5114 1998-04-05  Hrvoje Niksic  <hniksic@srce.hr>
5115
5116         * all: Use it.
5117
5118         * log.c (logputs): New argument.
5119         (logvprintf): Ditto.
5120         (logprintf): Ditto.
5121
5122 1998-04-04  Hrvoje Niksic  <hniksic@srce.hr>
5123
5124         * http.c (http_atotm): Update comment.
5125
5126         * main.c (i18n_initialize): Set LC_MESSAGES, not LC_ALL.
5127
5128         * wget.h: Renamed ENABLED_NLS to HAVE_NLS.
5129
5130         * main.c (i18n_initialize): New function.
5131         (main): Use it.
5132
5133         * log.c: Include <unistd.h>.
5134
5135         * retr.c (show_progress): Cast alloca to char *.
5136
5137 1998-04-04  Hrvoje Niksic  <hniksic@srce.hr>
5138
5139         * version.c: Wget 1.5-b15 is released.
5140
5141 1998-04-04  Hrvoje Niksic  <hniksic@srce.hr>
5142
5143         * utils.h: Declare file_non_directory_p().
5144
5145 1998-04-03  Hrvoje Niksic  <hniksic@srce.hr>
5146
5147         * main.c (main): It's `tries', not `numtries' now.
5148
5149 1998-04-01  Hrvoje Niksic  <hniksic@srce.hr>
5150
5151         * init.c (getperms): Removed.
5152
5153 1998-04-01  Tim Charron  <tcharron@interlog.com>
5154
5155         * log.c (logvprintf): Don't use ARGS twice.
5156
5157 1998-04-01  John  <john@futuresguide.com>
5158
5159         * mswindows.c: Cleaned up.
5160
5161 1998-04-01  Hrvoje Niksic  <hniksic@srce.hr>
5162
5163         * version.c: Wget 1.5-b14 is released.
5164
5165 1998-04-01  Hrvoje Niksic  <hniksic@srce.hr>
5166
5167         * ftp-opie.c (STRLEN4): New macro.
5168         (btoe): Use it.
5169
5170 1998-04-01  Junio Hamano  <junio@twinsun.com>
5171
5172         * http.c: Document all the Digest functions.
5173
5174 1998-04-01  Hrvoje Niksic  <hniksic@srce.hr>
5175
5176         * utils.c (file_non_directory_p): Renamed from isfile().
5177
5178         * mswindows.h (S_ISREG): New macro, suggested by Tim Adam.
5179
5180 1998-03-31  Hrvoje Niksic  <hniksic@srce.hr>
5181
5182         * utils.c (mkdirhier): Use 0777 instead of opt.dirmode.
5183
5184         * init.c (cmd_spec_dotstyle): Use 48 dots per line for binary
5185         style.
5186         (cmd_permissions): Removed.
5187
5188         * config.h.in: Add template for WORDS_BIGENDIAN.
5189
5190 1998-03-31  Junio Hamano  <junio@twinsun.com>
5191
5192         * http.c (HEXD2asc): New macro.
5193         (dump_hash): Use it.
5194
5195 1998-03-31  Hrvoje Niksic  <hniksic@srce.hr>
5196
5197         * version.c: Wget 1.5-b13 is released.
5198
5199 1998-03-31  Hrvoje Niksic  <hniksic@srce.hr>
5200
5201         * main.c (main): Don't try to use `com'.
5202
5203 1998-03-30  Hrvoje Niksic  <hniksic@srce.hr>
5204
5205         * init.c (cmd_permissions): New function.
5206
5207 1998-03-30  Hrvoje Niksic  <hniksic@srce.hr>
5208
5209         * version.c: Wget 1.5-b12 is released.
5210
5211 1998-03-30  Hrvoje Niksic  <hniksic@srce.hr>
5212
5213         * init.c (commands): Renamed `numtries' to `tries'.
5214         (cmd_spec_debug): Removed.
5215         (home_dir): Under Windows, return `C:\' if HOME is undefined.
5216
5217 1998-03-29  Hrvoje Niksic  <hniksic@srce.hr>
5218
5219         * config.h.in: Define _XOPEN_SOURCE.
5220
5221         * init.c (check_user_specified_header): New function.
5222         (cmd_spec_header): Use it.
5223         (cmd_spec_useragent): New function.
5224
5225 1998-03-29  Hrvoje Niksic  <hniksic@srce.hr>
5226
5227         * version.c: Wget 1.5-b11 is released.
5228
5229 1998-03-28  Hrvoje Niksic  <hniksic@srce.hr>
5230
5231         * wget.h: Include <libintl.h> only if NLS is enabled.
5232
5233 1998-03-26  Hrvoje Niksic  <hniksic@srce.hr>
5234
5235         * options.h (struct options): Made `wait' a long.
5236         (struct options): Ditto for `timeout'.
5237
5238 1998-03-19  Hrvoje Niksic  <hniksic@srce.hr>
5239
5240         * utils.c (exists): Renamed to file_exists_p.
5241         (file_exists_p): Use access() if available.
5242
5243 1998-03-17  Hrvoje Niksic  <hniksic@srce.hr>
5244
5245         * utils.c (memfatal): Set save_log_p to 0 to avoid potential
5246         infloop.
5247
5248         * log.c: do_logging -> save_log_p.
5249
5250         * config.h.in: Added template for HAVE_VSNPRINTF.
5251
5252 1998-03-16  Hrvoje Niksic  <hniksic@srce.hr>
5253
5254         * init.c: Ditto.
5255
5256         * http.c: Protect declaration against non-ANSI compiler.
5257
5258         * log.c (logvprintf): Use vsnprintf() if available.
5259
5260         * getopt.c (main): Don't translate test stuff.
5261
5262 1998-03-16  Hrvoje Niksic  <hniksic@srce.hr>
5263
5264         * version.c: Wget 1.5-b10 is released.
5265
5266 1998-03-11  Hrvoje Niksic  <hniksic@srce.hr>
5267
5268         * ftp.c (getftp): Don't translate "CWD %s".
5269
5270         * wget.h (GCC_FORMAT_ATTR): Renamed from FORMAT_ATTR.
5271
5272 1998-03-07  Hrvoje Niksic  <hniksic@srce.hr>
5273
5274         * ftp-opie.c (btoe): Use memcpy() instead of strncat().
5275
5276         * log.c (logputs): New function.
5277         (logvprintf): Renamed from vlogmsg; use logputs().
5278
5279         * retr.c (show_progress): Print `[100%]' when the retrieval is
5280         finished.
5281
5282         * init.c (run_wgetrc): Use FILE, not PATH.
5283         (wgetrc_file_name): Ditto.
5284
5285 1998-03-07  Tim Adam  <tma@osa.com.au>
5286
5287         * recur.c (parse_robots): Correctly reset `entries' on empty
5288         disallow.
5289
5290 1998-03-07  Hrvoje Niksic  <hniksic@srce.hr>
5291
5292         * init.c (cmd_spec_debug): Use cmd_boolean().
5293
5294 1998-02-23  Hrvoje Niksic  <hniksic@srce.hr>
5295
5296         * http.c (gethttp): Create proxy-authorization correctly.
5297
5298 1998-02-22  Hrvoje Niksic  <hniksic@srce.hr>
5299
5300         * md5.c: Ditto.
5301
5302         * getopt.c: Use ANSI function definitions.
5303
5304         * ftp-opie.c: New file.
5305
5306         * options.h: Don't redefine EXTERN.
5307
5308         * init.c: Sort it correctly.
5309
5310 1998-02-22  Hrvoje Niksic  <hniksic@srce.hr>
5311
5312         * version.c: Wget 1.5-b9 is released.
5313
5314 1998-02-22  Hrvoje Niksic  <hniksic@srce.hr>
5315
5316         * recur.c (recursive_retrieve): Reset `first_time'.
5317
5318         * ftp.c (getftp): Added `default' clause to switches of uerr_t.
5319
5320         * rbuf.c (rbuf_peek): Simplified.
5321         (rbuf_flush): Use MINVAL.
5322
5323         * wget.h (MINVAL): Moved from url.h.
5324
5325         * rbuf.h (RBUF_FD): New macro.
5326
5327         * url.c (add_url): Add to the head of the list.
5328
5329         * ftp.c (ftp_retrieve_list): Set the permissions to downloaded
5330         file.
5331         (getftp): Set the default permissions to 0600.
5332
5333 1998-02-21  Hrvoje Niksic  <hniksic@srce.hr>
5334
5335         * url.c (get_urls_html): Ditto.
5336         (convert_links): Ditto.
5337
5338         * recur.c (parse_robots): Ditto.
5339
5340         * html.c (ftp_index): Ditto.
5341
5342         * ftp-ls.c (ftp_parse_unix_ls): Open file as binary.
5343
5344         * init.c (defaults): Initialize `opt' to zero via memset.
5345
5346         * http.c (digest_authentication_encode): goto considered harmful.
5347
5348 1998-02-19  Hrvoje Niksic  <hniksic@srce.hr>
5349
5350         * ftp.c (delelement): Simplify and fix leak.
5351
5352 1998-02-18  Hrvoje Niksic  <hniksic@srce.hr>
5353
5354         * http.c (dump_hash): Use HEXD2ASC instead of home-grown stuff.
5355
5356         * url.h (HEXD2ASC): Removed warning.
5357
5358         * init.c (comind): Use binary search.
5359         (commands): Reorganized.
5360         (setval): Ditto.
5361         (cmd_boolean): New function.
5362         (cmd_number): Ditto.
5363         (cmd_number_inf): Ditto.
5364         (cmd_string): Ditto.
5365         (cmd_vector): Ditto.
5366         (cmd_directory_vector): Ditto.
5367         (cmd_bytes): Ditto.
5368         (cmd_time): Ditto.
5369         (cmd_spec_debug): Ditto.
5370         (cmd_spec_dirmode): Ditto.
5371         (cmd_spec_dirstruct): Ditto.
5372         (cmd_spec_dotstyle): Ditto.
5373         (cmd_spec_header): Ditto.
5374         (cmd_spec_htmlify): Ditto.
5375         (cmd_spec_mirror): Ditto.
5376         (cmd_spec_outputdocument): Ditto.
5377         (cmd_spec_recursive): Ditto.
5378         (settime): Merged with cmd_time().
5379         (setbytes): Merged with cmd_bytes().
5380         (setonoff): Merged with cmd_boolean().
5381         (onoff): Ditto.
5382
5383 1998-02-17  Hrvoje Niksic  <hniksic@srce.hr>
5384
5385         * Makefile.in (distclean): Remove `config.h'.
5386
5387 1998-02-17  Hrvoje Niksic  <hniksic@srce.hr>
5388
5389         * version.c: Wget 1.5-b8 is released.
5390
5391 1998-02-17  Hrvoje Niksic  <hniksic@srce.hr>
5392
5393         * http.c (digest_authentication_encode): New function.
5394         (create_authorization_line): Use it.
5395         (dump_hash): New function.
5396         (digest_authentication_encode): Use it.
5397
5398         * fnmatch.c: Renamed from `mtch.c'.
5399
5400 1998-02-15  Karl Eichwalder  <ke@suse.de>
5401
5402         * main.c (main): Tag "Written by..." string as translatable.
5403
5404 1998-02-15  Hrvoje Niksic  <hniksic@srce.hr>
5405
5406         * wget.h (FREE_MAYBE): New macro.
5407
5408         * http.c (create_authorization_line): Don't use ANSI C string
5409         concatenation feature.
5410         (basic_authentication_encode): Use alloca() for temporary
5411         variables.
5412
5413         * recur.h: Ditto.
5414
5415         * http.c: Ditto.
5416
5417         * headers.h: Ditto.
5418
5419         * ftp-basic.c: Protect declaration against non-ANSI compiler.
5420
5421         * http.c (create_authorization_line): Cast `unsigned char *' to
5422         `char *' for sprintf, to shut up the noisy Digital Unix cc.
5423
5424 1998-02-15  Hrvoje Niksic  <hniksic@srce.hr>
5425
5426         * version.c: Wget 1.5-b7 is released.
5427
5428 1998-02-15  Hrvoje Niksic  <hniksic@srce.hr>
5429
5430         * cmpt.c (strstr): Synched with glibc-2.0.6.
5431
5432         * ftp-basic.c (calculate_skey_response): Ditto.
5433         (calculate_skey_response): Use alloca().
5434
5435         * http.c (create_authorization_line): Work with FSF's version of
5436         md5.c.
5437
5438         * md5.c: New file, from GNU libc.
5439
5440 1998-02-14  Hrvoje Niksic  <hniksic@srce.hr>
5441
5442         * url.h (URL_CLEANSE): Name the temporary variable more carefully.
5443
5444 1998-02-13  Hrvoje Niksic  <hniksic@srce.hr>
5445
5446         * http.c (basic_authentication_encode): New function, instead of
5447         the macro.
5448
5449 1998-02-13  Junio Hamano  <junio@twinsun.com>
5450
5451         * http.c: Add HTTP-DA support.
5452         * ftp-basic.c: Add Opie/S-key support.
5453         * config.h.in, Makefile.in: Add HTTP-DA and Opie/S-key support.
5454         * md5.c, md5.h: New files.
5455
5456 1998-02-13  Hrvoje Niksic  <hniksic@srce.hr>
5457
5458         * http.c (http_process_range): Renamed from hprocrange().
5459         (http_process_range): Parse the whole header.
5460
5461         * headers.c: New file.
5462         (header_process): New function.
5463         (header_get): Renamed from fetch_next_header.
5464
5465         * all: Include utils.h only where necessary.
5466
5467         * wget.h: Declare xmalloc(), xrealloc() and xstrdup() here.
5468
5469         * wget.h: Add provisions for dmalloc.
5470
5471 1998-02-12  Hrvoje Niksic  <hniksic@srce.hr>
5472
5473         * version.c: Wget 1.5-b6 is released.
5474
5475 1998-02-12  Hrvoje Niksic  <hniksic@srce.hr>
5476
5477         * ftp.c (ftp_loop): Determine `filename' more precisely.
5478
5479         * init.c (setval): Don't set `opt.quiet' if output-document is
5480         `-'.
5481
5482         * log.c (log_init): Print to STDERR instead of STDOUT.
5483         (vlogmsg): Use STDERR by default.
5484         (logflush): Ditto.
5485
5486 1998-02-11  Simon Josefsson  <jas@pdc.kth.se>
5487
5488         * host.c: Use addr_in again.
5489
5490 1998-02-08  Karl Eichwalder  <karl@suse.de>
5491
5492         * http.c (gethttp): Fixed typo.
5493
5494 1998-02-08  Hrvoje Niksic  <hniksic@srce.hr>
5495
5496         * version.c: Wget 1.5-b5 is released.
5497
5498 1998-02-08  Hrvoje Niksic  <hniksic@srce.hr>
5499
5500         * retr.c (show_progress): Use it.
5501
5502         * log.c (logflush): New function.
5503
5504         * wget.h: Utilize __attribute__ if on gcc.
5505
5506 1998-02-07  Hrvoje Niksic  <hniksic@srce.hr>
5507
5508         * http.c (base64_encode_line): New argument LENGTH.
5509         (BASIC_AUTHENTICATION_ENCODE): Use it.
5510         (BASIC_AUTHENTICATION_ENCODE): Take length of HEADER into account.
5511
5512         * main.c (main): Fixed fprintf() format mismatch.
5513
5514 1998-02-06  Hrvoje Niksic  <hniksic@srce.hr>
5515
5516         * version.c: Wget 1.5-b4 is released.
5517
5518 1998-02-03  Simon Josefsson  <jas@pdc.kth.se>
5519
5520         * host.c: use sockaddr_in instead of addr_in.
5521
5522 1998-02-04  Hrvoje Niksic  <hniksic@srce.hr>
5523
5524         * init.c (cleanup): Use it.
5525
5526         * recur.c (recursive_cleanup): New function.
5527
5528         * retr.c (retrieve_from_file): Ditto.
5529
5530         * main.c (main): Use it.
5531
5532         * recur.c (recursive_reset): New function.
5533
5534         * retr.c (retrieve_from_file): Ditto.
5535
5536         * main.c (main): Simplify call to recursive_retrieve().
5537
5538         * recur.c (recursive_retrieve): Removed FLAGS argument.
5539
5540         * http.c (gethttp): Changed call to iwrite().
5541
5542 1998-02-03  Hrvoje Niksic  <hniksic@srce.hr>
5543
5544         * url.c (get_urls_html): Ditto.
5545         (free_urlpos): Ditto.
5546         (mkstruct): Ditto.
5547         (construct): Ditto.
5548
5549         * retr.c (retrieve_url): Move declaration of local variables to
5550         smaller scope.
5551
5552         * url.c (urlproto): Use it.
5553         (parseurl): Ditto.
5554         (str_url): Ditto.
5555         (get_urls_html): Ditto.
5556
5557         * utils.h (ARRAY_SIZE): New macro.
5558
5559         * url.c (proto): Moved from url.h.
5560
5561         * url.h (URL_CLEANSE): Reformatted.
5562         (USE_PROXY_P): Renamed from USE_PROXY.
5563
5564         * ftp-basic.c: Adjust to the new interface of iwrite().
5565
5566         * ftp-basic.c (ftp_port): Use alloca().
5567
5568 1998-02-03  Hrvoje Niksic  <hniksic@srce.hr>
5569
5570         * version.c: Wget 1.5-b3 is released.
5571
5572         * host.c (ftp_getaddress): Don't print to stderr directly.
5573
5574         * init.c (setbytes): Support `g' for gigabytes.
5575         (cmdtype): New specification CTIME.
5576         (setval): Use it with settime().
5577         (commands): Use it for WAIT and TIMEOUT.
5578
5579 1998-02-02  Hrvoje Niksic  <hniksic@srce.hr>
5580
5581         * http.c (BASIC_AUTHENTICATION_ENCODE): New macro.
5582         (gethttp): Use it.
5583
5584         * utils.c (unique_name_1): Moved from url.c.
5585         (unique_name): Ditto.
5586
5587         * url.c (url_filename): Ditto.
5588
5589         * log.c (redirect_output): Changed call to unique_name().
5590
5591         * url.c (unique_name_1): Renamed from unique_name().
5592         (unique_name): Changed interface.
5593
5594         * init.c (enum cmdid): Moved from init.h.
5595         (cmdtype): Ditto.
5596         (struct cmd): Ditto.
5597
5598         * main.c (main): Use it.
5599         (main): Moved `--backups' to not have a short option.
5600
5601         * options.h (struct options): New member BACKGROUND.
5602
5603         * main.c (print_help): Rearranged.
5604         (main): New long options for -n* short options: --no-directories,
5605         --no-host-directories, --non-verbose, --no-host-lookup and
5606         --dont-remove-listing.
5607
5608 1998-02-01  Hrvoje Niksic  <hniksic@srce.hr>
5609
5610         * main.c (main): Use log_close().
5611
5612         * log.c: New variable LOGFP.
5613         (vlogmsg): Use it.
5614         (redirect_output): Don't open /dev/null; set LOGFP to stdin
5615         instead.
5616         (log_close): New function.
5617
5618         * options.h (struct options): Removed LFILE.
5619
5620         * log.c (log_enable): Removed.
5621
5622         * main.c (main): Use it.
5623
5624         * log.c (log_init): New function.
5625
5626         * url.c (get_urls_html): Removed needless assignment to BASE.
5627
5628         * host.c (add_hlist): Don't set CMP needlessly.
5629
5630         * utils.c (match_backwards): Ditto.
5631         (in_acclist): Ditto.
5632
5633         * url.c (findurl): Ditto.
5634
5635         * netrc.c (parse_netrc): Ditto.
5636
5637         * log.c (log_dump): Ditto.
5638
5639         * html.c (html_quote_string): Ditto.
5640
5641         * ftp-basic.c (ftp_request): Made static.
5642
5643         * connect.c: Made global variables static.
5644
5645         * url.c (construct): Ditto.
5646
5647         * init.c (init_path): Avoid assignment inside `if'-condition.
5648
5649         * ftp.c: Don't include in.h or winsock.h.
5650
5651         * ftp.c (ftp_loop): Use SZ.
5652
5653         * connect.c (bindport): Cast &addrlen to int *.
5654         (conaddr): Ditto.
5655
5656         * init.c (initialize): Don't use SYSTEM_WGETRC unconditionally.
5657
5658 1998-01-31  Hrvoje Niksic  <hniksic@srce.hr>
5659
5660         * ftp.c (getftp): Initialize opt.ftp_pass here.
5661         (ftp_retrieve_dirs): Use alloca().
5662
5663         * init.c (defaults): Don't initialize opt.ftp_pass.
5664
5665         * sysdep.h (S_ISLNK): Declare for OS/2; ditto for lstat.
5666         From Ivan F. Martinez <ivanfm@ecodigit.com.br>.
5667
5668 1998-01-31  Hrvoje Niksic  <hniksic@srce.hr>
5669
5670         * recur.c (parse_robots): Check for comments more correctly.
5671
5672         * host.c (ftp_getaddress): Use STRDUP_ALLOCA.
5673         (ftp_getaddress): Add diagnostics when reverse-lookup yields only
5674         hostname.
5675
5676 1998-01-31  Hrvoje Niksic  <hniksic@srce.hr>
5677
5678         * version.c: Wget 1.5-b2 is released.
5679
5680         * netrc.c (NETRC_FILE_NAME): Moved from netrc.h.
5681
5682         * utils.c (proclist): Pass FNM_PATHNAME to fnmatch().
5683
5684         * ftp-basic.c (ftp_pasv): Avoid unnecessary casting to unsigned
5685         char.
5686
5687         * log.c: Don't attempt to hide arguments from ansi2knr.
5688
5689         * cmpt.c: Synched strptime() and mktime() with glibc-2.0.6.
5690
5691         * ansi2knr.c: Use a later version, from fileutils-3.16l alpha.
5692
5693         * ftp.c (getftp): Ditto.
5694
5695         * http.c (gethttp): Use it.
5696
5697         * retr.c (get_contents): New argument EXPECTED; pass it to
5698         show_progress().
5699         (show_progress): New argument EXPECTED; use it to display
5700         percentages.
5701
5702         * init.c (setval): Ditto.
5703
5704         * http.c (gethttp): Ditto.
5705         (http_loop): Ditto.
5706
5707         * ftp.c (getftp): Ditto.
5708         (ftp_loop_internal): Ditto.
5709
5710         * ftp-ls.c (ftp_parse_unix_ls): Use abort() instead of assert(0).
5711
5712         * sysdep.h (CLOSE): Simplify; use DEBUGP.
5713
5714         * netrc.c (search_netrc): Use alloca().
5715
5716         * init.c (defaults): Initialize no_flush.
5717
5718         * log.c (vlogmsg): Don't flush if no_flush.
5719
5720         * options.h (struct options): New variable no_flush.
5721
5722         * main.c (main): Don't play games with buffering.
5723
5724         * log.c (vlogmsg): Flush the output after every message.
5725
5726 1998-01-31  Hrvoje Niksic  <hniksic@srce.hr>
5727
5728         * init.c (parse_line): Ditto.
5729
5730         * url.c (get_urls_html): Ditto.
5731
5732         * main.c (main): Don't cast to unsigned char.
5733
5734         * init.c (run_wgetrc): Don't cast to unsigned char.
5735         (parse_line): Accept char instead of unsigned char.
5736
5737         * html.c (htmlfindurl): Use char instead of unsigned char.
5738
5739         * all: Use them.
5740
5741         * sysdep.h: Add wrappers to ctype macros to make them
5742         eight-bit-clean:
5743
5744 1998-01-30  Hrvoje Niksic  <hniksic@srce.hr>
5745
5746         * html.c (htmlfindurl): Download <img lowsrc=...>
5747
5748         * main.c (main): Ignore SIGPIPE.
5749
5750         * connect.c (select_fd): New argument WRITEP.
5751         (iwrite): Call select_fd().
5752
5753 1997-02-27  Fila Kolodny <fila@ibi.com>
5754
5755         * ftp.c (ftp_retrieve_list): If retrieving symlink and the proper
5756         one already exists, just skip it.
5757
5758 1998-01-30  Hrvoje Niksic  <hniksic@srce.hr>
5759
5760         * http.c (gethttp): Cosmetic changes.
5761
5762         * http.c (check_end): Allow `+D...' instead of `GMT'.
5763         From Fabrizio Pollastri <pollastri@cstv.to.cnr.it>.
5764
5765         * url.c (process_ftp_type): New function.
5766         (parseurl): Use it.
5767
5768         * connect.c (iwrite): Allow writing in a few chunks.
5769         (bindport): Made SRV static, so addr can point to it.
5770         (select_fd): Removed HPUX kludge.
5771
5772         * host.c (free_hlist): Incorporated into clean_hosts().
5773
5774 1998-01-29  Hrvoje Niksic  <hniksic@srce.hr>
5775
5776         * host.c (hlist): Made static.
5777         (search_address): Cosmetic change.
5778
5779 1998-01-29  Hrvoje Niksic  <hniksic@srce.hr>
5780
5781         * version.c: Wget v1.5-b1 is released.
5782
5783         * http.c (hgetlen): Use sizeof() to get the header length.
5784         (hgetrange): Ditto.
5785         (hgettype): Ditto.
5786         (hgetlocation): Ditto.
5787         (hgetmodified): Ditto.
5788         (haccepts_none): Ditto.
5789
5790         * main.c (main): Updated `--version' and `--help' output, as per
5791         Francois Pinard's suggestions.
5792
5793         * main.c: Include locale.h; call setlocale(), bindtextdomain() and 
5794         textdomain().
5795
5796         * config.h.in: Define stubs for I18N3.
5797
5798         * wget.h: Include libintl.h.
5799
5800 1998-01-28  Hrvoje Niksic  <hniksic@srce.hr>
5801
5802         * url.c (mkstruct): Check for opt.cut_dirs.
5803         (mkstruct): alloca()-te more, xmalloc() less.
5804
5805         * utils.c (load_file): Check for ferror().
5806
5807         * url.c (get_urls_file): Close only the files we opened.
5808         (get_urls_html): Ditto.
5809         (count_slashes): New function.
5810
5811         * http.h: Removed.
5812
5813         * http.c (gethttp): Respect username and password provided by
5814         proxy URL.
5815         (base64_encode_line): Write into an existing buffer instead of
5816         malloc-ing a new one.
5817         (struct http_stat): Moved from http.h
5818
5819         * retr.c (retrieve_url): Free SUF.
5820
5821         * all: Removed lots of unnecessary .h dependencies.
5822
5823         * html.c (global_state): Made static.
5824
5825         * utils.h (ALLOCA_ARRAY): New macro.
5826
5827         * main.c (main): New option `--cut-dirs'.
5828
5829         * url.c (construct): Use alloca() for T.
5830
5831         * utils.c (mkdirhier): Use STRDUP_ALLOCA.
5832
5833         * host.c (_host_t): Moved from host.h.
5834         (struct host): Renamed from _host_t.
5835         (store_hostaddress): Use STRDUP_ALLOCA for INET_S.
5836         (realhost): Ditto.
5837
5838         * host.h: Don't include url.h.
5839
5840         * ftp.c (LIST_FILENAME): Moved from ftp.h.
5841
5842         * init.c (DEFAULT_FTP_ACCT): Moved from ftp.h.
5843
5844         * main.c (main): Enable log if the output goes to a TTY.
5845
5846         * connect.h: Removed unused constant `BACKLOG'.
5847
5848         * config.h.in: Check for isatty().
5849
5850         * Makefile.in (LINK): Use CFLAGS when linking.
5851
5852 1998-01-27  Hrvoje Niksic  <hniksic@srce.hr>
5853
5854         * mswindows.c (ws_hangup): Use redirect_output().
5855
5856         * main.c (redirect_output_signal): New function; use
5857         redirect_output().
5858
5859         * log.c (redirect_output): New function, based on hangup(), which
5860         is deleted.
5861
5862         * log.c (vlogmsg): New function.
5863
5864         * wget.h (DEBUGP): Use debug_logmsg().
5865
5866         * main.c (hangup): Use it.
5867
5868         * log.c (log_dump): New function.
5869
5870         * utils.h (DO_REALLOC): Use `long' for various sizes.
5871
5872         * http.c (hskip_lws): Use `while', for clarity.
5873         (HTTP_DYNAMIC_LINE_BUFFER): New constant.
5874         (fetch_next_header): Use it instead of DYNAMIC_LINE_BUFFER.
5875
5876         * ftp-basic.c (FTP_DYNAMIC_LINE_BUFFER): New constant.
5877         (ftp_response): Use it instead of DYNAMIC_LINE_BUFFER.
5878
5879         * utils.c (DYNAMIC_LINE_BUFFER): Moved from utils.c.
5880         (LEGIBLE_SEPARATOR): Ditto.
5881         (FILE_BUFFER_SIZE): Ditto.
5882
5883         * retr.c (BUFFER_SIZE): Moved from retr.h.
5884
5885         * log.c: New file.
5886         (logmsg): Moved from utils.c.
5887         (debug_logmsg): New function.
5888
5889         * mswindows.h: Include it here.
5890
5891         * init.c: Ditto.
5892
5893         * utils.c: Don't include <windows.h>.
5894
5895 1998-01-25  Hrvoje Niksic  <hniksic@srce.hr>
5896
5897         * host.c (ftp_getaddress): Ditto.
5898
5899         * main.c (main): Use it.
5900
5901         * utils.h (STRDUP_ALLOCA): New macro.
5902
5903         * init.c: Prepend `wget: ' to error messages printed on stderr.
5904
5905         * utils.c (mkdirhier): Renamed from mymkdir.
5906         (touch): Renamed from my_touch.
5907         (pwd_cuserid): Renamed from my_cuserid().
5908
5909 1998-01-24  Andy Eskilsson  <andy.eskilsson@telelogic.se>
5910
5911         * utils.c (accdir): Process wildcards.
5912         (proclist): New function.
5913         (accdir): Use it to avoid code repetition.
5914
5915 1998-01-24  Hrvoje Niksic  <hniksic@srce.hr>
5916
5917         * recur.c (parse_robots): Respect opt.useragent; use alloca().
5918
5919         * http.c (gethttp): Construct useragent accordingly.
5920
5921         * version.c: Changed version string to numbers-only.
5922
5923         * main.c (print_help): List all the options.
5924
5925         * mswindows.c (windows_main_junk): Initialize argv0 here.
5926
5927 1998-01-24  Karl Heuer  <kwzh@gnu.org>
5928
5929         * netrc.c (search_netrc): Initialize `l' only after processing
5930         netrc.
5931
5932         * main.c (main): Don't trap SIGHUP if it's being ignored.
5933
5934 1998-01-24  Hrvoje Niksic  <hniksic@srce.hr>
5935
5936         * all: Use logmsg().
5937
5938         * utils.c (time_str): Moved from retr.c.
5939         (logmsg): New function.
5940         (logmsg_noflush): Ditto.
5941
5942         * rbuf.c: New file, moved buf_* functions here.
5943
5944         * ftp.c (ftp_expected_bytes): Moved from ftp-basic.c.
5945
5946         * ftp-basic.c (ftp_rest): Use prnum().
5947
5948         * ftp-basic.c: Ditto.
5949
5950         * ftp.c: Use the new reading functions and macros.
5951
5952         * retr.c (buf_initialize): New function.
5953         (buf_initialized_p): Ditto.
5954         (buf_uninitialize): Ditto.
5955         (buf_fd): Ditto.
5956
5957         * http.c (fetch_next_header): Use the BUF_READCHAR macro for
5958         efficiency.
5959         (gethttp): Use alloca() where appropriate.
5960
5961         * retr.c (buf_readchar): Use it.
5962         (buf_peek): Use rstreams.
5963
5964         * retr.h (BUF_READCHAR): New macro.
5965
5966         * init.c (home_dir): Rewritten for clarity.
5967         (init_path): Ditto.
5968
5969         * mswindows.c (ws_backgnd): Made static.
5970         (read_registry): Ditto.
5971         (ws_cleanup): Ditto.
5972         (ws_handler): Ditto.
5973
5974 1998-01-23  Hrvoje Niksic  <hniksic@srce.hr>
5975
5976         * alloca.c: New file.
5977
5978         * Makefile.in (ALLOCA): Define.
5979
5980         * mswindows.c (ws_help): Constify.
5981         (ws_help): Use alloca.
5982
5983         * mswindows.c: Reformat.
5984
5985         * all: Added _(...) annotations for I18N snarfing and translation.
5986
5987         * host.c (ftp_getaddress): Nuke SYSINFO.
5988         (ftp_getaddress): Don't use getdomainname().
5989         (ftp_getaddress): Use uname(), where available.
5990
5991         * http.c (gethttp): Protect a stray fprintf().
5992
5993         * init.c (settime): New function.
5994         (setval): Treat WAIT specially, allowing suffixes like `m' for
5995         minutes, etc.
5996
5997 1998-01-21  Hrvoje Niksic  <hniksic@srce.hr>
5998
5999         * url.c (get_urls_html): Use alloca() for TEMP.
6000
6001 1998-01-21  Jordan Mendelson  <jordy@wserv.com>
6002
6003         * url.c (rotate_backups): New function.
6004
6005         * http.c (gethttp): Ditto.
6006
6007         * ftp.c (getftp): Rotate backups.
6008
6009 1997-12-18  Hrvoje Niksic  <hniksic@srce.hr>
6010
6011         * all: Renamed nmalloc(), nrealloc() and nstrdup() to xmalloc(),
6012         xrealloc() and xstrdup().  Use the new functions.
6013
6014         * url.c (decode_string): Made static.
6015         (has_proto): Ditto.
6016         (parse_dir): Ditto.
6017         (parse_uname): Ditto.
6018         (mkstruct): Ditto.
6019         (construct): Ditto.
6020         (construct_relative): Ditto.
6021
6022         * retr.c (show_progress): Made static.
6023
6024         * recur.c (robots_url): Made static.
6025         (retrieve_robots): Ditto.
6026         (parse_robots): Ditto.
6027         (robots_match): Ditto.
6028
6029         * main.h: Removed.
6030
6031         * main.c (printhelp): Made static.
6032         (hangup): Ditto.
6033
6034         * init.c (comind): Made static.
6035         (defaults): Ditto.
6036         (init_path): Ditto.
6037         (run_wgetrc): Ditto.
6038         (onoff): Ditto.
6039         (setonoff): Ditto.
6040         (setnum): Ditto.
6041         (myatoi): Ditto.
6042         (getperms): Ditto.
6043         (setbytes): Ditto.
6044
6045         * http.c (fetch_next_header): Made static.
6046         (hparsestatline): Ditto.
6047         (hskip_lws): Ditto.
6048         (hgetlen): Ditto.
6049         (hgetrange): Ditto.
6050         (hgettype): Ditto.
6051         (hgetlocation): Ditto.
6052         (hgetmodified): Ditto.
6053         (haccepts_none): Ditto.
6054         (gethttp): Ditto.
6055         (base64_encode_line): Ditto.
6056         (mktime_from_utc): Ditto.
6057         (http_atotm): Ditto.
6058
6059         * html.c (idmatch): Made static.
6060
6061         * host.c (search_host): Made static.
6062         (search_address): Ditto.
6063         (free_hlist): Ditto.
6064
6065         * ftp.c (getftp): Made static.
6066         (ftp_loop_internal): Ditto.
6067         (ftp_get_listing): Ditto.
6068         (ftp_retrieve_list): Ditto.
6069         (ftp_retrieve_dirs): Ditto.
6070         (ftp_retrieve_glob): Ditto.
6071         (freefileinfo): Ditto.
6072         (delelement): Ditto.
6073
6074         * ftp-ls.c (symperms): Made static.
6075         (ftp_parse_unix_ls): Ditto.
6076
6077         * connect.c (select_fd): Made static.
6078
6079         * utils.c (xmalloc): Renamed from nmalloc.
6080         (xrealloc): Renamed from nrealloc.
6081         (xstrdup): Renamed from nstrdup.
6082
6083         * getopt.c (exchange): Use alloca.
6084
6085         * mswindows.c (mycuserid): Use strncpy.
6086
6087         * New files mswindows.c, mswindows.h, sysdep.h.  winjunk.c,
6088         systhings.h, windecl.h and winjunk.h removed.
6089
6090         * mswindows.c (sleep): New function.
6091
6092         * utils.c: Include <windows.h> under Windows.
6093
6094 1997-06-12  Darko Budor  <dbudor@zesoi.fer.hr>
6095
6096         * url.h (URL_UNSAFE): Change default under Windows.
6097
6098         * retr.c (retrieve_from_file): Respect opt.delete_after.
6099
6100         * main.c (main): Call ws_help on Windows.
6101
6102         * winjunk.c (windows_main_junk): New function.
6103
6104         * main.c (main): Junk-process argv[0].
6105
6106         * http.c (mktime_from_utc): Return -1 if mktime failed.
6107
6108         * http.c (http_loop): Ditto.
6109
6110         * ftp.c (ftp_loop_internal): Change title on Windows when using a
6111         new URL.
6112
6113         * winjunk.c (getdomainname): Lots of functions.
6114
6115 1997-06-12  Hrvoje Niksic  <hniksic@srce.hr>
6116
6117         * cmpt.c (strptime_internal): Handle years more correctly for
6118         `%y'.
6119
6120 1997-06-09  Mike Thomas <mthomas@reality.ctron.com>
6121
6122         * http.c (gethttp): Allocate enough space for
6123         `Proxy-Authorization' header.
6124
6125 1997-05-10  Hrvoje Niksic  <hniksic@srce.hr>
6126
6127         * version.c: Wget/1.4.5 is released.
6128
6129 1997-05-10  Hrvoje Niksic  <hniksic@srce.hr>
6130
6131         * retr.c (get_contents): Check return value of fwrite more
6132         carefully.
6133
6134 1997-03-30  Andreas Schwab  <schwab@issan.informatik.uni-dortmund.de>
6135
6136         * cmpt.c (strptime_internal) [case 'Y']: Always subtract 1900 from
6137         year, regardless of century.
6138
6139 1997-03-30  Hrvoje Niksic  <hniksic@srce.hr>
6140
6141         * utils.c (isfile): Use `lstat' instead of `stat'.
6142
6143 1997-03-29  Hrvoje Niksic  <hniksic@srce.hr>
6144
6145         * utils.c (numdigit): Use explicit test.
6146
6147 1997-03-21  Hrvoje Niksic  <hniksic@srce.hr>
6148
6149         * http.c (http_loop): Always use `url_filename' to get u->local.
6150
6151 1997-03-20  Hrvoje Niksic  <hniksic@srce.hr>
6152
6153         * url.c: Recognize https.
6154
6155 1997-03-13  Hrvoje Niksic  <hniksic@srce.hr>
6156
6157         * recur.c (recursive_retrieve): Lowercase just the host name.
6158
6159 1997-03-09  Hrvoje Niksic  <hniksic@srce.hr>
6160
6161         * url.c (get_urls_file): Use the correct test.
6162         (get_urls_html): Ditto.
6163
6164 1997-03-07  Hrvoje Niksic  <hniksic@srce.hr>
6165
6166         * connect.c: Reverted addrlen to int.
6167
6168         * init.c (parse_line): Check for -1 instead of NONE.
6169
6170         * version.c: Changed version to 1.4.5.
6171
6172 1997-02-17  Hrvoje Niksic  <hniksic@srce.hr>
6173
6174         * init.c: New option netrc.
6175         (initialize): Don't parse .netrc.
6176
6177         * cmpt.c (recursive): Return rp.
6178         (strptime_internal): Match the long strings first, the abbreviated
6179         second.
6180
6181 1997-02-16  Hrvoje Niksic  <hniksic@srce.hr>
6182
6183         * http.c (check_end): New function.
6184         (http_atotm): Use it.
6185  
6186 1997-02-13  gilles Cedoc  <gilles@cedocar.fr>
6187
6188         * http.c (gethttp): Use them.
6189
6190         * init.c: New options proxy_user and proxy_passwd.
6191
6192 1997-02-14  Hrvoje Niksic  <hniksic@srce.hr>
6193
6194         * ftp.c (ftp_retrieve_list): Create links even if not relative.
6195
6196 1997-02-10  Hrvoje Niksic  <hniksic@srce.hr>
6197
6198         * recur.c (recursive_retrieve): Lowercase the host name, if the
6199         URL is not "optimized".
6200
6201         * host.c (realhost): Return l->hostname, even if it matches with
6202         host.
6203
6204 1997-02-10  Marin Purgar  <pmc@asgard.hr>
6205
6206         * connect.c: Make addrlen size_t instead of int.
6207         (conaddr): Ditto.
6208
6209 1997-02-09  Gregor Hoffleit  <flight@mathi.uni-heidelberg.DE>
6210
6211         * systhings.h: Define S_ISLNK on NeXT too.
6212
6213 1997-02-09  Hrvoje Niksic  <hniksic@srce.hr>
6214
6215         * version.c: Released 1.4.3.
6216
6217         * url.c: Futher update to list of protostrings.
6218         (skip_proto): Skip `//' correctly for FTP and HTTP.
6219
6220         * url.c (get_urls_html): Handle bogus `http:' things a little
6221         different.
6222
6223         * main.c (main): Removed `follow-ftp' from `f'.
6224         (main): Dumped the `prefix-files' and `file-prefix' options and
6225         features; old and bogus.
6226         (main): Exit on failed setval() in `-e'.
6227
6228         * http.c (fetch_next_header): Use it to detect header continuation
6229         correctly.
6230
6231         * retr.c (buf_peek): New function.
6232
6233 1997-02-08  Hrvoje Niksic  <hniksic@srce.hr>
6234
6235         * wget.h: Include time.h and stuff.
6236
6237 1997-02-08  Roger Beeman  <beeman@cisco.com>
6238
6239         * ftp.c: Include <time.h>
6240
6241 1997-02-07  Hrvoje Niksic  <hniksic@srce.hr>
6242
6243         * url.c (findurl): Would read over buffer limits.
6244
6245 1997-02-06  Hrvoje Niksic  <hniksic@srce.hr>
6246
6247         * ftp-ls.c (ftp_parse_unix_ls): Allow spaces in file names.
6248
6249 1997-02-05  Hrvoje Niksic  <hniksic@srce.hr>
6250
6251         * http.c (http_atotm): Initialize tm.is_dst.
6252
6253 1997-02-02  Hrvoje Niksic  <hniksic@srce.hr>
6254
6255         * http.c (gethttp): Don't print the number of retrieved headers.
6256
6257         * main.c (main): New option `--no-clobber', alias for `-nc'.
6258
6259         * url.c: Recognize `https://'.
6260
6261 1997-02-01  Hrvoje Niksic  <hniksic@srce.hr>
6262
6263         * host.c (herrmsg): Don't use h_errno.
6264
6265 1997-01-30  Hrvoje Niksic  <hniksic@srce.hr>
6266
6267         * host.c (accept_domain): Use it.
6268
6269         * main.c (main): New option `--exclude-domains'.
6270
6271         * retr.c (retrieve_url): Use it.
6272         (retrieve_url): Bail out when an URL is redirecting to itself.
6273
6274         * url.c (url_equal): New function.
6275
6276 1997-01-29  Hrvoje Niksic  <hniksic@srce.hr>
6277
6278         * connect.c: Include arpa/inet.h instead of arpa/nameser.h.
6279
6280         * http.c (mk_utc_time): New function.
6281         (http_atotm): Use it; handle time zones correctly.
6282
6283 1997-01-28  Hrvoje Niksic  <hniksic@srce.hr>
6284
6285         * http.c: Ditto.
6286
6287         * ftp-basic.c: Use it instead of WRITE.
6288
6289         * connect.c (iwrite): New function.
6290
6291 1997-01-27  Hrvoje Niksic  <hniksic@srce.hr>
6292
6293         * cmpt.c (mktime): New function.
6294
6295         * netrc.c: Include <sys/types.h>.
6296
6297         * main.c (main): Wouldn't recognize --spider.
6298
6299         * retr.c (rate): Use `B', `KB' and `MB'.
6300         (reset_timer,elapsed_time): Moved from utils.c.
6301
6302         * ftp.c (ftp_retrieve_list): Ditto.
6303
6304         * http.c (http_loop): Don't touch the file if opt.dfp.
6305
6306 1997-01-24  Hrvoje Niksic  <hniksic@srce.hr>
6307
6308         * cmpt.c: New file.
6309
6310         * ftp.c (ftp_retrieve_glob): New argument semantics.
6311         (ftp_retrieve_dirs): Use it.
6312         (ftp_loop): Ditto.
6313
6314         * html.c (htmlfindurl): Recognize `'' as the quote char.
6315
6316 1997-01-23  Hrvoje Niksic  <hniksic@srce.hr>
6317
6318         * ftp.c (ftp_loop_internal): Use it.
6319
6320         * utils.c (remove_link): New function.
6321
6322 1997-01-22  Hrvoje Niksic  <hniksic@srce.hr>
6323
6324         * retr.c (retrieve_url): Require STRICT redirection URL.
6325
6326         * url.c (parseurl): New argument STRICT.
6327
6328         * http.c (hparsestatline): Be a little-bit less strict about
6329         status line format.
6330
6331 1997-01-21  Hrvoje Niksic  <hniksic@srce.hr>
6332
6333         * http.c (gethttp): Use it.
6334
6335         * main.c (main): Don't use '<digit>' as options.
6336
6337         * init.c: New option ignore_length.
6338
6339         * http.c (gethttp): Ditto.
6340         (http_loop): Check for redirection without Location:.
6341         (gethttp): Don't print Length unless RETROKF.
6342
6343         * ftp.c (getftp): Use it.
6344
6345         * url.c (mkalldirs): New function.
6346
6347         * utils.c (mymkdir): Don't check for existing non-directory.
6348
6349         * url.c (mkstruct): Don't create the directory.
6350
6351 1997-01-20  Hrvoje Niksic  <hniksic@srce.hr>
6352
6353         * init.c (setval): Removed NO_RECURSION checks.
6354
6355 1997-01-19  Hrvoje Niksic  <hniksic@srce.hr>
6356
6357         * version.c: "Released" 1.4.3-pre2.
6358
6359         * recur.c (recursive_retrieve): Bypass host checking only if URL
6360         is ftp AND parent URL is not ftp.
6361
6362         * ftp-basic.c (ftp_request): Print out Turtle Power.
6363
6364         * ftp.c (ftp_loop): Call ftp_retrieve_glob with 0 if there's no
6365         wildcard.
6366         (ftp_retrieve_glob): Call ftp_loop_internal even on empty list, if
6367         not glob.
6368
6369         * http.c (gethttp): Be a little bit smarter about status codes.
6370
6371         * recur.c (recursive_retrieve): Always reset opt.recursive when
6372         dealing with FTP.
6373
6374 1997-01-18  Hrvoje Niksic  <hniksic@srce.hr>
6375
6376         * retr.c (retrieve_url): New variable location_changed; use it for
6377         tests instead of mynewloc.
6378         (retrieve_url): Allow heuristic adding of html.
6379
6380         * url.c (url_filename): Don't use the `%' in Windows file names.
6381
6382         * http.c (http_loop): Always time-stamp the local file.
6383
6384         * http.c (http_loop): Ditto.
6385
6386         * ftp.c (ftp_retrieve_list): Use it.
6387
6388         * utils.c (my_touch): New function.
6389
6390         * ftp.c (ftp_retrieve_list): Use #ifdef HAVE_STRUCT_UTIMBUF
6391         instead of #ifndef NeXT.
6392
6393         * utils.c (strptime): New version, by Ulrich Drepper.
6394
6395 1997-01-17  Hrvoje Niksic  <hniksic@srce.hr>
6396
6397         * http.c (haccepts_none): Renamed from `haccepts_bytes'.
6398         (gethttp): If haccepts_none(), disable ACCEPTRANGES.
6399         (http_loop): Would remove ACCEPTRANGES.
6400
6401         * ftp.c (getftp): Call ftp_list with NULL.
6402
6403 1997-01-15  Hrvoje Niksic  <hniksic@srce.hr>
6404
6405         * html.c (ftp_index): Don't print minutes and seconds if we don't
6406         know them; beautify the output.
6407
6408         * ftp.c (getftp): Don't close the socket on FTPNSFOD.
6409
6410 1997-01-14  Hrvoje Niksic  <hniksic@srce.hr>
6411
6412         * utils.c (strptime): New function.
6413         (strptime): Don't use get_alt_number.
6414         (strptime): Don't use locale.
6415         (match_string): Made it a function.
6416
6417 1997-01-12  Hrvoje Niksic  <hniksic@srce.hr>
6418
6419         * http.c (http_atotm): New function.
6420         (http_loop): Use it.
6421
6422         * atotm.c: Removed from the distribution.
6423
6424         * http.c (base64_encode_line): Rewrite.
6425
6426 1997-01-09  Hrvoje Niksic  <hniksic@srce.hr>
6427
6428         * ftp.c (getftp): Use ftp_expected_bytes; print size.
6429
6430         * ftp-basic.c (ftp_response): Use ftp_last_respline.
6431         (ftp_expected_bytes): New function.
6432
6433         * ftp.c (getftp): Print the unauthoritative file length.
6434
6435         * ftp-ls.c: Renamed from ftp-unix.c.
6436         (ftp_parse_ls): Moved from ftp.c.
6437         (ftp_parse_unix_ls): Recognize seconds in time spec.
6438         (ftp_parse_unix_ls): Recognize year-less dates of the previous
6439         year.
6440
6441 1997-01-08  Hrvoje Niksic  <hniksic@srce.hr>
6442
6443         * ftp-basic.c: Don't declare errno if #defined.
6444
6445         * host.c (ftp_getaddress): Check for sysinfo legally.
6446
6447 1997-01-08  Darko Budor  <dbudor@diana.zems.fer.hr>
6448
6449         * connect.c (iread): Use READ.
6450
6451 1996-12-23  Hrvoje Niksic  <hniksic@srce.hr>
6452
6453         * url.c: Recognize finger, rlogin, tn3270, mid and cid as valid
6454         schemes.
6455
6456 1996-12-22  Hrvoje Niksic  <hniksic@srce.hr>
6457
6458         * host.c (ftp_getaddress): Allow `.' in hostname.
6459
6460 1996-12-26  Darko Budor <dbudor@zems.fer.hr>
6461
6462         * wget.h: READ and WRITE macros for use instead of read and write
6463         on sockets, grep READ *.c, grep WRITE *.c
6464
6465         * wsstartup.c: new file - startup for winsock
6466
6467         * wsstartup.h: new file
6468
6469         * win32decl.h: new file - fixup for <errno.h> and winsock trouble
6470
6471         * configure.bat: Configure utility for MSVC
6472
6473         * src/Makefile.ms,config.h.ms: new files for use with MSVC 4.x
6474
6475 1996-12-22  Hrvoje Niksic  <hniksic@srce.hr>
6476
6477         * version.c: Released 1.4.3-pre.
6478
6479         * utils.c (prnum): Accept long.
6480         (legible): Use prnum().
6481
6482         * connect.c (make_connection): Accept port as short.
6483         (bindport): Ditto.
6484
6485         * http.c (gethttp): Use search_netrc.
6486
6487 1996-12-21  Hrvoje Niksic  <hniksic@srce.hr>
6488
6489         * ftp.c (getftp): Use search_netrc.
6490
6491         * netrc.c (free_netrc): New function.
6492
6493         * init.c (home_dir): New function.
6494
6495         * url.c (convert_links): Allow REL2ABS changes.
6496
6497 1996-12-21  Gordon Matzigkeit  <gord@gnu.ai.mit.edu>
6498
6499         * netrc.c: New file.
6500         (parse_netrc, maybe_add_to_list): New functions.
6501
6502 1996-12-17  Hrvoje Niksic  <hniksic@srce.hr>
6503
6504         * retr.c (retrieve_url): Reset opt.recursion before calling
6505         ftp_loop if it is reached through newloc.
6506
6507         * init.c (run_wgetrc): Print the wgetrc path too, when reporting
6508         error; don't use "Syntax error", since we don't know if it is
6509         really a syntax error.
6510
6511 1996-12-16  Hrvoje Niksic  <hniksic@srce.hr>
6512
6513         * utils.c (acceptable): Extract the filename part of the path.
6514
6515         * recur.c (recursive_retrieve): Call acceptable() with the right
6516         argument; would bug out on wildcards.
6517
6518         * init.c (parse_line): Likewise.
6519
6520         * html.c (htmlfindurl): Cast to char * when calling stuff.
6521
6522 1996-12-15  Hrvoje Niksic  <hniksic@srce.hr>
6523
6524         * ftp.c (getftp): Use ftp_pasv.
6525
6526         * ftp-basic.c (ftp_request): Accept NULL value.
6527         (ftp_pasv): New function.
6528
6529         * options.h (struct options): Add passive FTP option.
6530
6531 1996-12-15  Hrvoje Niksic  <hniksic@srce.hr>
6532
6533         * url.c (parseurl): Debug output.
6534
6535         * utils.c (path_simplify): New one, adapted from bash's
6536         canonicalize_pathname().
6537
6538 1996-12-14  Hrvoje Niksic  <hniksic@srce.hr>
6539
6540         * ftp.c (getftp): Don't discard the buffer.
6541
6542         * retr.c (get_contents): New parameter nobuf.
6543
6544 1996-12-13  Shawn McHorse  <riffraff@txdirect.net>
6545
6546         * html.c (htmlfindurl): Recognize <meta contents="d; URL=...".
6547
6548         * init.c (setval): Strip the trailing slashes on CVECDIR.
6549
6550 1996-12-13  Hrvoje Niksic  <hniksic@srce.hr>
6551
6552         * init.c: Make excludes and includes under CVECDIR instead of
6553         CVEC.
6554
6555 1996-12-13  Shawn McHorse  <riffraff@txdirect.net>
6556
6557         * url.c (get_urls_html): Skip "http:".
6558
6559 1996-12-13  Hrvoje Niksic  <hniksic@srce.hr>
6560
6561         * utils.c (strcasecmp): From glibc.
6562         (strncasecmp): Also.
6563         (strstr): Also.
6564
6565         * url.c: Added javascript: to the list of URLs prefixes.
6566
6567 1996-12-12  Shawn McHorse  <riffraff@txdirect.net>
6568
6569         * recur.c (retrieve_robots): Print the warning message only if
6570         verbose.
6571
6572 1996-12-12  Gregor Hoffleit  <flight@mathi.uni-heidelberg.DE>
6573
6574         * ftp.c (ftp_retrieve_list): Use NeXT old utime interface.
6575
6576 1996-12-12  Hrvoje Niksic  <hniksic@srce.hr>
6577
6578         * systhings.h: New file.
6579
6580         * ../configure.in: Check for utime.h
6581
6582         * ftp.c: Check whether we have unistd.h.
6583
6584 1996-11-27  Hrvoje Niksic  <hniksic@srce.hr>
6585
6586         * recur.c (recursive_retrieve): Send the canonical URL as referer.
6587         (recursive_retrieve): Call get_urls_html with the canonical URL.
6588
6589 1996-12-13  Kaveh R. Ghazi  <ghazi@caip.rutgers.edu>
6590
6591         * (configure.in, config.h.in, src/Makefile.in, src/*.[ch]): Add
6592         ansi2knr support for compilers which don't support ANSI style
6593         function prototypes and signatures.
6594
6595         * (aclocal.m4, src/ansi2knr.c, src/ansi2knr.1): New files.
6596
6597 1996-11-26  Hrvoje Niksic  <hniksic@srce.hr>
6598
6599         * url.c: Use it; Recognize paths ending with "." and ".." as
6600         directories.
6601         (url_filename): Append .n whenever file exists and could be a
6602         directory.
6603
6604         * url.h (ISDDOT): New macro.
6605
6606         * init.c (parse_line): Use unsigned char.
6607
6608         * url.c (get_urls_html): Cast to unsigned char * when calling
6609         htmlfindurl.
6610
6611         * html.c (htmlfindurl): Use unsigned char.
6612
6613         * version.c: Changed version to 1.4.3.
6614
6615 1996-11-25  Hrvoje Niksic  <hniksic@srce.hr>
6616
6617         * version.c: Released 1.4.2.
6618
6619         * ftp.c (getftp): Simplified assertion.
6620         (ftp_loop_internal): Remove symlink before downloading.
6621         (ftp_retrieve_list): Unlink the symlink name before attempting to
6622         create a symlink!
6623
6624         * options.h (struct options): Renamed print_server_response to
6625         server_response.
6626
6627         * ftp.c (rel_constr): Removed.
6628         (ftp_retrieve_list): Don't use it.
6629         (ftp_retrieve_list): Use opt.retr_symlinks.
6630
6631 1996-11-24  Hrvoje Niksic  <hniksic@srce.hr>
6632
6633         * main.c (main): New option retr_symlinks.
6634
6635         * url.c (convert_links): Print verbose message.
6636
6637 1996-11-24  Hrvoje Niksic  <hniksic@srce.hr>
6638
6639         * http.c (http_loop): Reset newloc in the beginning of function;
6640         would cause FMR in retrieve_url.
6641
6642 1996-11-23  Hrvoje Niksic  <hniksic@srce.hr>
6643
6644         * recur.c (convert_all_links): Find the URL of each HTML document,
6645         and feed it to get_urls_html; would bug out.
6646         (convert_all_links): Check for l2 instead of dl; removed dl.
6647
6648         * url.c (convert_links): Don't refer to freed newname.
6649
6650         * recur.c (recursive_retrieve): Add this_url to urls_downloaded.
6651
6652         * main.c (main): Print the OS_TYPE in the debug output, too.
6653
6654         * recur.c (recursive_retrieve): Check for opt.delete_after.
6655
6656         * main.c (main): New option delete-after.
6657
6658         * init.c (setval): Cleaned up.
6659
6660 1996-11-21  Hrvoje Niksic  <hniksic@srce.hr>
6661
6662         * Makefile.in (wget): Make `wget' the default target.
6663
6664         * ftp.c (ftp_loop_internal): Move noclobber checking out of the
6665         loop.
6666         (ftp_retrieve_list): Warn about non-matching sizes.
6667
6668         * http.c (http_loop): Made -nc non-dependent on opt.recursive.
6669
6670         * init.c (setnum): Renamed from setnuminf; New argument flags.
6671         (setval): Use it.
6672
6673         * main.c (main): Sorted the options.
6674         (main): New option --wait.
6675
6676 1996-11-21  Shawn McHorse  <riffraff@txdirect.net>
6677
6678         * html.c (htmlfindurl): Reset s->in_quote after getting out of
6679         quotes.
6680
6681 1996-11-20  Hrvoje Niksic  <hniksic@srce.hr>
6682
6683         * version.c: Changed version to 1.4.2.
6684
6685 1996-11-20  Hrvoje Niksic  <hniksic@srce.hr>
6686
6687         * version.c: Released 1.4.1.
6688
6689         * html.c (html_quote_string): New function.
6690         (ftp_index): Use it.
6691         (htmlfindurl): A more gentle ending debug message.
6692
6693         * ftp.c (ftp_loop): Check for opt.htmlify.
6694
6695         * init.c: New command htmlify.
6696
6697         * ftp.c (getftp): Nicer error messages, with `'-encapsulated
6698         strings.
6699         (ftp_loop): Print size of index.html.
6700
6701         * init.c (setval): Implement "styles".
6702
6703         * main.c (main): New option dotstyle.
6704
6705 1996-11-19  Hrvoje Niksic  <hniksic@srce.hr>
6706
6707         * ftp.c (getftp): Close the master socket in case of errors, after
6708         bindport().
6709
6710         * connect.c (bindport): Initialize msock to -1.
6711
6712         * ftp.c (getftp): Initialize dtsock to -1.
6713
6714         * connect.c (closeport): Don't close sock if sock == -1.
6715
6716 1996-11-18  Hrvoje Niksic  <hniksic@srce.hr>
6717
6718         * init.c (setnuminf): Nuked default value -- just leave unchanged.
6719         (setval): Don't send default values.
6720         (defaults): Use DEFAULT_TIMEOUT -- aaargh.
6721
6722         * options.h (struct options): Use long for dot_bytes.
6723
6724         * init.c (setquota): Renamed to setbytes.
6725         (setval): Use setbytes on DOTBYTES.
6726
6727 1996-11-17  Hrvoje Niksic  <hniksic@srce.hr>
6728
6729         * ftp.c (getftp): Initialize con->dltime.
6730
6731         * recur.c (recursive_retrieve): Use same_host instead of
6732         try_robots; simply load robots_txt whenever the host is changed.
6733         (recursive_retrieve): Free forbidden before calling parse_robots.
6734
6735 1996-11-16  Hrvoje Niksic  <hniksic@srce.hr>
6736
6737         * retr.c (show_progress): Use them.
6738
6739         * options.h (struct options): New options dot_bytes, dots_on_line
6740         and dot_spacing.
6741
6742 1996-11-16  Mark Boyns  <boyns@sdsu.edu>
6743
6744         * recur.c (recursive_retrieve): Retrieve directories regardless of
6745         acc/rej rules; check for empty u->file.
6746
6747 1996-11-14  Hrvoje Niksic  <hniksic@srce.hr>
6748
6749         * init.c (setval): Use it.
6750
6751         * utils.c (merge_vecs): New function.
6752
6753         * init.c (setval): Reset the list-type functions when encountering
6754         "".
6755
6756 1996-11-14  Shawn McHorse  <riffraff@txdirect.net>
6757
6758         * recur.c (recursive_retrieve): Use base_url instead of this_url
6759         for no_parent.
6760
6761 1996-11-14  Shawn McHorse  <riffraff@txdirect.net>
6762
6763         * html.c (htmlfindurl): Reset s->in_quote after exiting the quote.
6764
6765 1996-11-13  Hrvoje Niksic  <hniksic@srce.hr>
6766
6767         * utils.c (sepstring): Rewrote; don't use strtok.
6768
6769         * recur.c (recursive_retrieve): Enter assorted this_url to slist
6770         when running the first time.
6771         (retrieve_robots): Warn to ignore errors when robots are loaded.
6772
6773         * utils.c (load_file): Moved from url.c.
6774
6775         * http.c: Made static variables const too in h* functions.
6776
6777         * main.c (main): Renamed --continue-ftp to --continue.
6778
6779         * recur.c (recursive_retrieve): Use it.
6780
6781         * utils.c (frontcmp): New function.
6782
6783         * url.c (accdir): New function.
6784
6785         * html.c (htmlfindurl): Recognize <area href=...>.
6786
6787         * ftp.c (ftp_retrieve_dirs): Implemented opt.includes.
6788
6789         * init.c (setval): Free the existing opt.excludes and
6790         opt.includes, if available.
6791
6792         * main.c (main): New option -I.
6793
6794 1996-11-12  Hrvoje Niksic  <hniksic@srce.hr>
6795
6796         * ftp.c (ftp_retrieve_glob): Do not weed out directories.
6797
6798         * version.c: Changed version to 1.4.1.
6799
6800 1996-11-11  Hrvoje Niksic  <hniksic@srce.hr>
6801
6802         * version.c: Released 1.4.0.
6803
6804 1996-11-10  Hrvoje Niksic  <hniksic@srce.hr>
6805
6806         * main.c (main): Free com and val after parse_line.
6807         (printhelp): Reorder the listing.
6808
6809         * http.c: More robust header parsing.
6810
6811         * http.c: Allow any number of spaces, or no spaces, precede ':'.
6812         (hskip_lws): New function.
6813         (haccepts_bytes): New function.
6814         (gethttp): Use it.
6815
6816         * init.c (setval): Check header sanity.
6817         (setval): Allow resetting of headers.
6818
6819 1996-11-10  Hrvoje Niksic  <hniksic@srce.hr>
6820
6821         * http.c (http_loop): Don't use has_wildcards.
6822
6823         * http.c (gethttp): Free all_headers -- would leak.
6824
6825         * recur.c (recursive_retrieve): Initialize depth to 1 instead of
6826         0 -- this fixes a long-standing bug in -rl.
6827
6828 1996-11-09  Hrvoje Niksic  <hniksic@srce.hr>
6829
6830         * ftp.c: Use -1 as "impossible" value for con->fd.
6831
6832         * url.h (URL_SEPARATOR): Don't treat `*' and `+' as separators.
6833
6834         * init.c (parse_line): Use isalpha.
6835
6836         * ftp-unix.c: Use HAVE_UNISTD_H.
6837
6838         * mtch.c (has_wildcards): Don't match \.
6839
6840         * http.c (http_loop): Warn on HTTP wildcard usage.
6841
6842 1996-11-08  Hrvoje Niksic  <hniksic@srce.hr>
6843
6844         * url.c (url_filename): Do not create numbered suffixes if
6845         opt.noclobber -- would bug out on -nc.
6846
6847 1996-11-07  Hrvoje Niksic  <hniksic@srce.hr>
6848
6849         * recur.c (parse_robots): Don't chuck out the commands without
6850         arguments (`Disallow:<empty>' didn't work).
6851         (parse_robots): Compare versions lowercase.
6852         (parse_robots): Match on base_version, not version_string!
6853         (parse_robots): Handle comments properly.
6854         (parse_robots): Match versions in a sane way.
6855
6856         * init.c: Print nicer error messages.
6857
6858         * version.c: Changed version to 1.4.0.
6859
6860 1996-11-06  Hrvoje Niksic  <hniksic@srce.hr>
6861
6862         * version.c: Released 1.4.0-test2.
6863
6864         * init.c (run_wgetrc): Close fp.
6865
6866         * ftp.c (ftp_retrieve_dirs): Allocate the correct length for
6867         u->dir.
6868
6869 1996-11-06  Hrvoje Niksic  <hniksic@srce.hr>
6870
6871         * init.c (setquota): Allow inf as quota specification.
6872
6873 1996-11-05  Hrvoje Niksic  <hniksic@srce.hr>
6874
6875         * ftp.c (ftp_retrieve_dirs): Return QUOTEXC if quota exceeded.
6876         (ftp_retrieve_glob): Return QUOTEXC on quota exceeded.
6877
6878         * main.c (main): Check for quota by comparison with downloaded
6879         stuff, not from status.
6880
6881         * connect.c (select_fd): Should compile on HPUX without warnings now.
6882
6883         * ftp.c (ftp_get_listing): Check whether ftp_loop_internal
6884         returned RETROK.
6885
6886 1996-11-04  Hrvoje Niksic  <hniksic@srce.hr>
6887
6888         * ftp.c (ftp_retrieve_glob): Print the pattern nicely.
6889         (getftp): Return FTPRETRINT on control connection error.
6890
6891         * html.c (htmlfindurl): Recognize <embed src=...> and
6892         <bgsound src=...>.
6893         (ftp_index): Handle username and password correctly.
6894
6895         * main.c (main): Made `-np' a synonim for --no-parent.
6896
6897 1996-11-02  Hrvoje Niksic  <hniksic@srce.hr>
6898
6899         * ftp.c (ftp_loop): Check for opt.ftp_glob too before calling
6900         ftp_retrieve_glob.
6901
6902         * version.c: Changed version to 1.4.0-test2.
6903
6904 1996-11-02  Hrvoje Niksic  <hniksic@srce.hr>
6905
6906         * version.c: Released 1.4.0-test1.
6907
6908         * url.c (str_url): Don't use sprintf when creating %2F-prefixed
6909         directory.
6910         (convert_links): Removed definition of make_backup.
6911
6912         * http.h: Removed definition of MAX_ERROR_LENGTH.
6913
6914         * host.c (ftp_getaddress): Check for "(none)" domains.
6915
6916         * ftp.c (ftp_retrieve_dirs): Docfix.
6917
6918         * http.c (gethttp): Use ou->referer instead of u->referer.
6919
6920         * retr.c (retrieve_url): Reset u to avoid freeing pointers twice;
6921         this was known to cause coredumps on Linux.
6922
6923         * html.c (ftp_index): Cast the argument to local_time to time_t *.
6924
6925 1996-11-01  Hrvoje Niksic  <hniksic@srce.hr>
6926
6927         * connect.c (select_fd): Use exceptfds -- once and for all.
6928
6929         * retr.c (retrieve_from_file): Free filename after
6930         recursive_retrieve.
6931         (retrieve_from_file): Send RFIRST_TIME to recursive_retrieve on
6932         first-time retrieval.
6933         (retrieve_from_file): Return uerr_t; new argument, count.
6934         (retrieve_from_file): Break on QUOTEXC.
6935
6936         * init.c (setquota): Fixed a bug that caused rejection of
6937         non-postfixed values..
6938
6939 1996-10-30  Hrvoje Niksic  <hniksic@srce.hr>
6940
6941         * version.c: Changed name to wget.
6942
6943         * connect.c (iread): Smarter use of select.
6944         (select_fd): Set errno on timeout.  If not timeout, return 1
6945         instead of 0.
6946
6947 1996-10-29  Hrvoje Niksic  <hniksic@srce.hr>
6948
6949         * ftp.c (ftp_loop_internal): Don't use con->cmd before
6950         establishing it.
6951
6952 1996-10-26  Hrvoje Niksic  <hniksic@srce.hr>
6953
6954         * http.c (gethttp): Send correct referer when using proxy.
6955         (gethttp): Use struct urlinfo ou to access the relevant data; send
6956         correct authorization in all cases.
6957
6958         * host.c (same_host): Use skip_uname to skip username and
6959         password.
6960
6961         * url.c (skip_uname): New function.
6962         (parseurl): Use it.
6963
6964         * host.c (same_host): Do not assume HTTP -- same_host should now
6965         be totally foolproof.
6966
6967         * url.c (skip_proto): New function.
6968         (parse_uname): Use it.
6969
6970         * http.c (gethttp): Create local user and passwd from what is
6971         given.
6972
6973         * url.c (parseurl): Check for HTTP username and password too.
6974
6975 1996-10-25  Hrvoje Niksic  <hniksic@srce.hr>
6976
6977         * config.h.in: Removed #define gethostbyname R...
6978
6979 1996-10-22  Hrvoje Niksic  <hniksic@srce.hr>
6980
6981         * version.c: Changed version to 1.4.0-test1.
6982
6983 1996-10-21  Hrvoje Niksic  <hniksic@srce.hr>
6984
6985         * version.c: "Released" 1.4b29.
6986
6987         * recur.c (recursive_retrieve): Check for no_parent.
6988
6989         * init.c (setval): Option update.
6990
6991         * main.c (main): New option no-parent.
6992
6993         * options.h (struct options): New variable no_parent.
6994
6995         * recur.c (recursive_retrieve): Only files are checked for
6996         opt.accepts and opt.rejects.
6997         (recursive_retrieve): Check directories for opt.excludes.
6998         (recursive_retrieve): Make the dir absolute when checking
6999         opt.excludes.
7000
7001         * html.c (htmlfindurl): Recognize <applet code=...> and <script
7002         src=...>
7003
7004 1996-10-18  Hrvoje Niksic  <hniksic@srce.hr>
7005
7006         * ftp.c (getftp): Do not line-break assert entries at all.
7007         (ftp_retrieve_dirs): docfix.
7008
7009         * connect.c (select_fd): Use fd + 1 as nfds.
7010
7011         * version.c: Changed version to 1.4b29.
7012
7013 1996-10-18  Hrvoje Niksic  <hniksic@srce.hr>
7014
7015         * version.c: "Released" 1.4b28.
7016
7017         * ftp.c (ftp_loop_internal): Check whether f->size == len and
7018         don't continue the loop if it is.
7019         (ftp_get_listing): Remove list_filename on unsuccesful loop.
7020
7021 1996-10-17  Hrvoje Niksic  <hniksic@srce.hr>
7022
7023         * ftp.c (ftp_loop_internal): Use strcpy to initialize tmp.
7024         (getftp): Do not use multiline assert.
7025
7026         * http.c (hparsestatline): Use mjr and mnr instead of major and
7027         minor, which don't compile on Ultrix.
7028         (http_loop): Use strcpy() to initialize tmp.
7029
7030         * all: Geturl -> Fetch
7031
7032 1996-10-17  Hrvoje Niksic  <hniksic@srce.hr>
7033
7034         * recur.c (parse_robots): Fixed an off-by-one bug when looking for
7035         ':'.
7036
7037         * html.c (htmlfindurl): Fixed several possible off-by-one bugs by
7038         moving `bufsize &&' to the beginning of each check in for-loops.
7039
7040         * recur.c (parse_robots): Close fp on exit.
7041
7042         * url.c (mymkdir): Check for each directory before creating.
7043
7044 1996-10-16  Hrvoje Niksic  <hniksic@srce.hr>
7045
7046         * version.c: Changed version to 1.4b28.
7047
7048 1996-10-16  Hrvoje Niksic  <hniksic@srce.hr>
7049
7050         * version.c: "Released" 1.4b27.
7051
7052         * init.c (parse_line): Use isspace.
7053         (parse_line): Free *com on all errors.
7054
7055         * ftp.c (ftp_loop): Change FTPOK to RETROK before exiting.
7056         (delelement): Use next instead of f->next and prev instead of
7057         f->prev.
7058         (delelement): Free the members of the deleted element.
7059
7060         * http.c (http_loop): Do not return RETROK on code != 20x.
7061
7062         * init.c (cleanup): Free opt.user_header.
7063         (cleanup): Free opt.domains.
7064
7065         * url.c (freelists): Moved to cleanup().
7066
7067         * http.c (hparsestatline): Docfix.
7068
7069         * main.c (main): Return with error status on unsuccesful
7070         retrieval.
7071
7072         * init.c (setval): Do not remove listing when mirroring.
7073
7074         * url.c (url_filename): Use opt.fileprefix.
7075
7076         * ftp.c (ftp_get_listing): Use url_filename to get filename for
7077         .listing.
7078
7079         * main.c (main): New option: -rn.
7080
7081 1996-10-15  Hrvoje Niksic  <hniksic@srce.hr>
7082
7083         * Makefile.in (RM): Added RM = rm -f.
7084
7085         * host.c (clean_hosts): New function.
7086         (free_hlist): Just free the list, no reset.
7087
7088         * version.c: Changed version to 1.4b27.
7089
7090 1996-10-13  Hrvoje Niksic  <hniksic@srce.hr>
7091
7092         * version.c: "Released" 1.4b26.
7093
7094         * retr.c (retrieve_from_file): If call get_urls_html with
7095         opt.spider to make it silent in spider mode.
7096
7097         * url.c (str_url): Use CLEANDUP instead of URL_CLEANSE.
7098
7099         * url.h (CLEANDUP): New macro.
7100
7101         * http.c (gethttp): Fixed a bug that freed location only when it
7102         was NULL.
7103
7104         * retr.c (retrieve_url): Free url if it will not be stored,
7105         i.e. newloc is NULL.
7106
7107         * html.c (htmlfindurl): Handle exiting from quotes correctly; the
7108         old version would bug out on <a href="x#a"href="y">.
7109
7110         * html.h (state_t): New member in_quote.
7111
7112         * html.c (htmlfindurl): Free s->attr at the beginning of
7113         attr-loop.
7114
7115         * recur.c (recursive_retrieve): Recognize RCLEANUP.
7116         (tried_robots): Make hosts a global variable.
7117         (recursive_retrieve): Free constr after URL host optimization.
7118         (tried_robots): Free urlinfo before exiting.
7119
7120         * utils.c (free_slist): New function.
7121
7122         * recur.c (recursive_retrieve): Use flags to add cleanup
7123         possibility.
7124
7125         * main.c (main): Free filename after recursive_retrieve.
7126
7127         * http.c (gethttp): Store successful responses too.
7128
7129 1996-10-12  Hrvoje Niksic  <hniksic@srce.hr>
7130
7131         * all: Constified the whole source.  This required some minor
7132         changes in many functions in url.c, possibly introducing bugs -- I
7133         hope not.
7134
7135         * ftp-basic.c: Removed last_respline.
7136
7137         * http.c (gethttp): Free type.
7138
7139         * host.c (same_host): Free real1 and real2.
7140
7141         * main.c (main): New option --spider.
7142
7143         * retr.c (get_contents): Don't reset errno.
7144
7145         * main.c (main): Sorted the options.
7146
7147         * connect.c (iread): Set errno to ETIMEDOUT only if it was left
7148         uninitialized by select().
7149
7150         * http.c (http_loop): Print the time when the connection is
7151         closed.
7152         (gethttp): Debug-print the HTTP request.
7153
7154 1996-10-11  Hrvoje Niksic  <hniksic@srce.hr>
7155
7156         * connect.c (iread): Do not try reading after timeout.
7157
7158         * main.c (main): Would bug out on -T.
7159
7160         * connect.c (select_fd): Do not use exceptfds.
7161         (iread): Set ETIMEDOUT on select_fd <= 0.
7162
7163         * version.c: Changed version to 1.4b26.
7164
7165 1996-10-10  Hrvoje Niksic  <hniksic@srce.hr>
7166
7167         * version.c: "Released" 1.4b25.
7168
7169         * ftp-unix.c (ftp_parse_unix_ls): Ignore lines without file name
7170         or link name.
7171
7172         * http.c (gethttp): Add errcode to struct hstat.
7173         (http_loop): Use it.
7174
7175         * url.c (no_proxy_match): Simplify using char** for no_proxy.
7176
7177         * options.h (struct options): Make opt.no_proxy a vector.
7178
7179         * utils.c (sepstring): Use !*s instead of !strlen(s).
7180
7181         * init.c (setval): Set opt.maxreclevel to 0 on --mirror.
7182         (getperms): Use ISODIGIT instead of isdigit.
7183
7184         * ftp.c (getftp): Print time.
7185
7186         * main.c (main): Use legible output of downloaded quantity.
7187
7188         * ftp.c (getftp): Use elapsed_time().
7189         (ftp_loop_internal): Use rate().
7190
7191         * http.c (http_loop): Add download ratio output; Use rate().
7192
7193         * utils.c (rate): New function.
7194
7195 1996-10-09  Hrvoje Niksic  <hniksic@srce.hr>
7196
7197         * http.c (http_loop): Use timer.
7198
7199         * ftp.c: Split to ftp-basic.c and ftp.c
7200
7201         * utils.c (reset_timer): New function.
7202         (elapsed_time): New function.
7203
7204         * retr.c (show_progress): Make bytes_in_line and offs long; should
7205         work on 16-bit machines.
7206
7207 1996-10-08  Hrvoje Niksic  <hniksic@srce.hr>
7208
7209         * url.c (in_acclist): New argument backward.
7210
7211         * ftp.c (ftp_retrieve_glob): Use acceptable() to determine whether
7212         a file should be retrieved according to suffix.
7213         (ftp_get_listing): Check the return value of unlink; Do not call
7214         ftp_retrieve_dirs if depth reached maxreclevel.
7215         (ftp_retrieve_dirs): Check whether the directory is in
7216         exclude-list.
7217
7218         * main.c (main): Print the version number at the beginning of
7219         DEBUG output.
7220         (main): Use strrchr when creating exec_name.
7221
7222         * ftp.c (ftp_retrieve_glob): Do not close control connection.
7223
7224         * version.c: Changed version to 1.4b25.
7225
7226 1996-10-07  Hrvoje Niksic  <hniksic@srce.hr>
7227
7228         * version.c: "Released" 1.4b24.
7229
7230         * Makefile.in: Rewrite.
7231
7232         * ftp.c (ftp_loop_internal): Likewise.
7233
7234         * retr.c (time_str): Check for failed time().
7235
7236         * html.c (htmlfindurl): Recognize <fig src> and <overlay src> from
7237         HTML3.0.
7238
7239         * retr.c (time_str): Return time_t *.
7240
7241         * connect.c (bindport): Close msock on unsuccesful bind.
7242         (bindport): The same for getsockname and listen.
7243
7244         * retr.c (retrieve_url): Allow any number of retries on
7245         proxy.
7246
7247         * http.c (gethttp): Do not treat errno == 0 as timeout.
7248         (http_loop): Likewise.
7249         (http_loop): Cosmetic changes.
7250
7251         * connect.c (iread): Set errno to ETIMEDOUT in case of timeout.
7252
7253         * retr.c (get_contents): Reset errno.
7254
7255         * ftp.c (getftp): Minor fixes.
7256
7257 1996-10-06  Hrvoje Niksic  <hniksic@srce.hr>
7258
7259         * http.c: Do not use backups.
7260
7261         * geturl.1 (WARNING): Warn that man-page could be obsolete.
7262
7263         * getopt.c (getopt_long): Moved to getopt.c
7264
7265         * geturl.texi: Enhanced.
7266
7267         * main.c (main): Use it.
7268
7269         * recur.c (convert_all_links): New function.
7270
7271         * utils.c (add_slist): New argument flags.
7272
7273         * recur.c (recursive_retrieve): Update a list of downloaded URLs.
7274         (parse_robots): Do not chuck out empty value fields.
7275         (parse_robots): Make yourself welcome on empty Disallow.
7276
7277         * version.c: Changed version to 1.4b24.
7278
7279 1996-10-06  Hrvoje Niksic  <hniksic@srce.hr>
7280
7281         * version.c: "Released" 1.4b23.
7282
7283         * ftp.c (ftp_loop_internal): Get the time after getftp.
7284
7285         * Makefile.in (install.info): New target.
7286         (install): Use it.
7287
7288         * http.c (http_loop): Fix output when doing -O.
7289
7290 1996-10-05  Hrvoje Niksic  <hniksic@srce.hr>
7291
7292         * geturl.texi: New file.
7293
7294         * main.c (main): Do not print the warnings and download summary if
7295         opt.quiet is set.
7296
7297         * version.c: Changed version to 1.4b23.
7298
7299 1996-10-05  Hrvoje Niksic  <hniksic@srce.hr>
7300
7301         * "Released" 1.4b22.
7302
7303         * atotm.c (atotm): Use True and False instead of TRUE and FALSE,
7304         to avoid redefinition warnings.
7305
7306         * host.c (store_hostaddress): Use memcpy() to copy the address
7307         returned by inet_addr.
7308
7309         * version.c: Changed version to 1.4b22.
7310
7311 1996-10-04  Hrvoje Niksic  <hniksic@srce.hr>
7312
7313         * version.c: "Released" 1.4b21.
7314
7315         * ftp-unix.c (ftp_parse_ls): Renamed to ftp_parse_unix_ls.
7316
7317         * ftp.c (ftp_port): Use conaddr.
7318         (getftp): Print the file length.
7319         (ftp_retrieve_list): Check the stamps of plain files only.
7320
7321         * connect.c (closeport): Do not call shutdown().
7322         (conaddr): New function.
7323
7324         * html.c (ftp_index): Made it dfp-aware.
7325
7326         * init.c (cleanup): New name of freemem. Close opt.dfp.
7327
7328         * ftp.c (getftp): Use opt.dfp if it is set.
7329
7330         * ftp-unix.c (ftp_parse_ls): Recognize time in h:mm format.
7331
7332         * ftp.c (ftp_retrieve_dirs): Fixed a bug that caused incorrect
7333         CWDs to be sent with recursive FTP retrievals.
7334
7335 1996-10-03  Hrvoje Niksic  <hniksic@srce.hr>
7336
7337         * recur.c (parse_robots): Made it more compliant with "official"
7338         specifications.
7339
7340         * http.c: New function.
7341
7342         * ftp-unix.c (ftp_parse_ls): Added better debug output.
7343
7344         * ftp.c (getftp): Print out the LIST in case of
7345         opt.print_server_response.
7346
7347         * version.c: Changed version to 1.4b21.
7348
7349 1996-10-01  Hrvoje Niksic  <hniksic@srce.hr>
7350
7351         * version.c: "Released" 1.4b20.
7352
7353         * README: Update.
7354
7355         * http.c (gethttp): Preset lengths of various headers instead of
7356         calculating them dynamically.
7357         (gethttp): Check for 206 partial contents.
7358
7359 1996-09-30  Hrvoje Niksic  <hniksic@srce.hr>
7360
7361         * configure.in: Set SYSTEM_GETURLRC to $libdir/geturlrc
7362
7363         * http.c (gethttp): Send the port number in the Host: header.
7364
7365 1996-09-29  Hrvoje Niksic  <hniksic@srce.hr>
7366
7367         * http.c (gethttp): Send host: header.
7368         (gethttp): Add the possibility of user-defined headers.
7369         (gethttp): Move decision about pragma: no-cache to http_loop,
7370         where it belongs.
7371         (gethttp): Pass a struct instead of enormous argument list.
7372         (http_loop): Use a new, fancier display format.
7373         (ftp_loop): Likewise.
7374
7375         * main.c: (hangup): Turn off buffering of the new log file.
7376
7377         * install-sh: Likewise.
7378
7379         * config.sub: Replace with the one in autoconf-2.10
7380
7381         * geturl.1: Update.
7382
7383         * init.c: New options httpuser and httppasswd.
7384
7385         * http.c: (base64_encode_line): New function.
7386         (gethttp): Send authentication.
7387
7388         * connect.c (make_connection): Use store_hostaddress.
7389
7390 1996-09-28  Hrvoje Niksic  <hniksic@srce.hr>
7391
7392         * host.c (store_hostaddress): New function.
7393
7394         * NEWS: Update.
7395
7396         * http.c (hgetrange): New function.
7397         (gethttp): Use ranges.
7398
7399         * utils.c (numdigit): Accept long instead of int.
7400
7401         * http.c (http_loop): Add restart capabilities.
7402
7403         * ftp.c (ftp_retrieve_glob): Fixed a bug that could cause matchres
7404         being used uninitialized.
7405         (ftp_retrieve_list): Similar fix.
7406
7407         * host.c (add_hlist): Fixed a bug that could cause cmp being used
7408         uninitialized.
7409
7410         * url.c (construct_relative): New function.
7411
7412         * recur.c (recursive_retrieve): Use it.
7413
7414         * retr.c (convert_links): New function.
7415
7416 1996-09-27  Hrvoje Niksic  <hniksic@srce.hr>
7417
7418         * url.c (free_urlpos): New function.
7419
7420         * recur.c (recursive_retrieve): Adapt.
7421
7422         * url.c (get_urls_html): Return a linked list instead of a vector.
7423
7424         * url.c (get_urls_file): Return a linked list instead of a vector.
7425
7426         * geturl.1: Update.
7427
7428         * http.c (gethttp): Implement it.
7429
7430         * init.c (setval): New option: SAVEHEADERS
7431
7432         * ftp.c (ftp_loop_internal): Do not set restval if listing is to
7433         be retrieved. Lack of this test caused bugs when the connection
7434         was lost during listing.
7435
7436         * retr.c (retrieve_url): Fixed a bug that caused
7437         coredumps. *newloc is now reset by default.
7438         (retrieve_url): Lift the twenty-tries limit on proxies.
7439
7440         * version.c: Changed version to 1.4b20.
7441
7442 1996-09-20  Hrvoje Niksic  <hniksic@srce.hr>
7443
7444         * version.c: "Released" 1.4b19.
7445
7446 1996-09-19  Hrvoje Niksic  <hniksic@srce.hr>
7447
7448         * ftp.c (ftp_loop_internal): Renamed from ftp_1fl_loop.
7449         (getftp): Changed prototype to accept ccon *.
7450
7451 1996-09-17  Hrvoje Niksic  <hniksic@srce.hr>
7452
7453         * ftp.c (ftp_retrieve_list): Fixed a bug that caused setting
7454         incorrect values to files pointed to by symbolic links.
7455         (ftp_1fl_loop): Do not count listings among the downloaded URL-s.
7456
7457 1996-09-16  Hrvoje Niksic  <hniksic@srce.hr>
7458
7459         * url.c (mkstruct): Do not prepend "./" in front of a pathname.
7460
7461         * main.c (main): New option: --user-agent.
7462
7463         * geturl.1: Ditto.
7464
7465         * init.h: Ditto.
7466
7467         * init.c (setval): Ditto.
7468
7469         * main.c (main): Rename "server-headers" to "server-response".
7470
7471         * ftp-unix.c (ftp_parse_ls): Check for asterisks at the end of
7472         executables in 'ls -F' listings.
7473
7474 1996-09-15  Hrvoje Niksic  <hniksic@srce.hr>
7475
7476         * url.c (parseurl): Remove realloc() and sprintf().
7477         (str_url): Get rid of sprintf().
7478
7479         * recur.c (recursive_retrieve): Enable FTP recursion through proxy
7480         servers.
7481
7482         * url.h (URL_CLEANSE): Made it else-resistant.
7483         (USE_PROXY): New macro.
7484
7485 1996-09-14  Hrvoje Niksic  <hniksic@srce.hr>
7486
7487         * NEWS: Update.
7488
7489         * version.c: Changed version to 1.4b19.
7490
7491 1996-09-14  Hrvoje Niksic  <hniksic@srce.hr>
7492
7493         * version.c: "Released" 1.4b18.
7494
7495         * url.c: Made it reallocate space exponentially.
7496
7497 1996-09-14  Drazen Kacar  <dave@fly.cc.fer.hr>
7498
7499         * html.c (htmlfindurl): Added <frame src> and <iframe src> among
7500         the list of stuff to fetch.
7501
7502 1996-09-13  Hrvoje Niksic  <hniksic@srce.hr>
7503
7504         * url.c (get_urls_html): Fixed a bug that caused SIGSEGV's with
7505         -Fi.
7506
7507         * html.c (htmlfindurl): Rewrite.
7508
7509         * http.c (gethttp): Use opt.proxy_cache.
7510
7511         * main.c (main): Added --cache option.
7512
7513         * ftp.c (ftp_response): Print server response if opt.print_server
7514         response is set.
7515         (getftp): Print newlines after each request if the server response
7516         is to be printed.
7517         (ftp_response): Copy the last response line to last_respline.
7518
7519         * http.c (gethttp): Add Pragma: nocache for retried
7520         proxy-retrievals.
7521
7522         * ftp.c (getftp): Use it.
7523
7524         * retr.c (buf_discard): New function.
7525
7526         * ftp.c (ftp_response): Use buf_readchar().
7527         (getftp): Flush the control connection buffer before calling
7528         get_contents().
7529
7530         * retr.c (buf_readchar): New function.
7531         (buf_flush): New function.
7532         (get_contents): Use buf_readchar() instead of read(x, x, 1).
7533         (get_contents): Use buf_flush.
7534
7535 1996-09-12  Hrvoje Niksic  <hniksic@srce.hr>
7536
7537         * ftp.c: Incorporate changes to ftp_response.
7538
7539         * ftp.c (ftp_response): Allocate the server response dynamically,
7540         as in read_whole_line and fetch_next_header.
7541
7542         * utils.c (read_whole_line): Fixed a bug that prevented reading
7543         the last line if it is not \n-terminated. Also fixed a possible
7544         memory overflow.
7545
7546         * http.c (fetch_next_header): Return malloc-ed string as large as
7547         needed.
7548         (gethttp): Use new fetch_next_header.
7549
7550 1996-09-12  Hrvoje Niksic  <hniksic@srce.hr>
7551
7552         * http.c (hgetlen): Compute the header length the first time only.
7553         (hgettype): Ditto.
7554         (hgetlocation): Ditto.
7555         (hgetmodified): Ditto.
7556
7557 1996-09-11  Hrvoje Niksic  <hniksic@srce.hr>
7558
7559         * sample.geturlrc: Update.
7560
7561 1996-09-10  Hrvoje Niksic  <hniksic@srce.hr>
7562
7563         * http.c (http_loop): Ditto.
7564
7565         * ftp.c (getftp): Open the output file as binary.
7566
7567         * version.c: Changed version to 1.4b18.
7568
7569 1996-09-10  Hrvoje Niksic  <hniksic@srce.hr>
7570
7571         * version.c: "Released" 1.4b17.
7572
7573         * ftp-unix.c (ftp_parse_ls): If unable to open file, return NULL
7574         instead of failed assertion.
7575
7576 1996-09-09  Hrvoje Niksic  <hniksic@srce.hr>
7577
7578         * ftp.c (ftp_get_listing): Add a numbered suffix to LIST_FILENAME
7579         if a file of that name already exists.
7580
7581 1996-09-05  Hrvoje Niksic  <hniksic@srce.hr>
7582
7583         * ftp.c (ftp_1fl_loop): Handler FTPPORTERR and FOPENERR correctly.
7584
7585         * config.h.in: Define gethostbyname as Rgethostbyname when using
7586         Socks.
7587
7588         * configure.in: Check for -lresolv if using Socks.
7589
7590         * version.c: Changed version to 1.4b17.
7591
7592 1996-07-15  Hrvoje Niksic  <hniksic@srce.hr>
7593
7594         * version.c: "Released" 1.4b16.
7595
7596         * http.c (gethttp): More intelligent check for first line of HTTP
7597         response.
7598         (gethttp): Would bug out on time-stamping.
7599
7600         * version.c: Changed version to 1.4b16.
7601
7602 1996-07-11  Hrvoje Niksic  <hniksic@srce.hr>
7603
7604         * version.c: Released 1.4b15.
7605
7606         * http.c (http_loop): Print \n after the loop entry, not before.
7607
7608         * url.c (url_filename): Use ISDOT.
7609
7610         * url.h (ISDOT): New macro.
7611
7612         * recur.c (recursive_retrieve): Change only opt.recursive for
7613         following FTP.
7614
7615 1996-07-11  Antonio Rosella <antonio.rosella@agip.it>
7616
7617         * socks/geturl.cgi: Fixed version No.
7618
7619         * socks/download-netscape.html: Ditto.
7620
7621         * socks/download.html: Changed socks.html to download.html.
7622
7623 1996-07-11  Hrvoje Niksic  <hniksic@srce.hr>
7624
7625         * url.c (url_filename): Check for opt.dirstruct instead for
7626         opt.recursive && opt.dirstruct.
7627
7628         * init.c (defaults): Ditto.
7629         (defaults): Reset dirstruct by default.
7630         (setval): Set opt.dirstruct whenever setting recursive.
7631
7632         * init.h: Removed FORCEDIRHIER.
7633
7634         * INSTALL: Added -L to socks-description.
7635
7636         * version.c: Changed version to 1.4b15.
7637
7638 1996-07-10  Hrvoje Niksic  <hniksic@srce.hr>
7639
7640         * version.c: "Released" 1.4b14.
7641
7642         * geturl.1: Update AUTHOR to include Rosella as contributor.
7643
7644         * NEWS: Update.
7645
7646         * socks/geturl.cgi: Simplified command creation, nuked <blink>.
7647
7648         * socks/geturl.cgi: Wrap nutscape extensions within if $netscape.
7649         (cal_time): Fix == to eq.
7650
7651         * socks/geturl.cgi: GPL-ized with permission of A. Rosella.
7652
7653         * geturl.1 (hostname): Moved URL CONVENTIONS to the beginning.
7654
7655         * Makefile.in: Use @VERSION@.
7656
7657         * configure.in: Check version from version.c.
7658
7659         * socks/geturl.cgi: Changed /pub/bin/perl to /usr/bin/perl.
7660
7661         * socks/download.html: Created from download-netscape.html, made
7662         HTML-2.0 compliant.
7663
7664         * recur.c (recursive_retrieve): Set opt.force_dir_hier when
7665         following FTP links from recursions.
7666
7667 1996-07-09  Hrvoje Niksic  <hniksic@srce.hr>
7668
7669         * url.c (mymkdir): Fixed a bug that prevented mymkdir() to create
7670         absolute directories correctly.
7671
7672         * version.c: Changed version to 1.4b14.
7673
7674 1996-07-09  Hrvoje Niksic  <hniksic@srce.hr>
7675
7676         * version.c: "Released" 1.4b13.
7677
7678         * url.c (make_backup): New function.
7679
7680         * http.c (http_loop): Make a backup copy of the local file (using
7681         rename(2)) before opening it.
7682
7683         * main.c (main): Added --backups.
7684
7685         * host.c (ftp_getaddress): Bail out on failed mycuserid().
7686         (ftp_getaddress): Check for leading dot on MY_DOMAIN.
7687         (ftp_getaddress): Check for empty, null or (null) domain.
7688
7689         * url.c (get_urls_html): If this_url is NULL, the base must have a
7690         protocol.
7691         (parseurl): Use has_proto.
7692
7693         * retr.c (retrieve_url): Warn when proxy is used with more than 20
7694         retries.
7695
7696         * url.c (mkstruct): Create the directory (calling mymkdir()) only
7697         if it is not already there.
7698         (has_proto): New function.
7699         (get_urls_html): Eliminate the remaining call to findurl -- use
7700         has_proto.
7701
7702         * geturl.1: Ditto.
7703
7704         * main.c: Change -X to -x.
7705
7706         * url.c (url_filename): Simplify creation of filename if
7707         prefix_files is set.
7708         (url_filename): Simplify everything. And I do mean *everything*.
7709         (mkstruct): Add dir_prefix before hostname.
7710         (path_simplify): Fixed a bug that caused writing outside the path
7711         string in case of "." and ".." path strings.
7712
7713 1996-07-06  Hrvoje Niksic  <hniksic@srce.hr>
7714
7715         * init.c: Added --mirror.
7716
7717         * main.c (main): Added -X to force saving of directory hierarchy.
7718
7719         * ftp.c (ftp_retrieve_list): Added recursion depth counter.
7720         (ftp_retrieve_list): Check whether quota is exceeded.
7721
7722         * url.c (get_urls_html): Skip leading blanks for absolute URIs.
7723
7724         * http.c (gethttp): Use referer if present.
7725
7726         * recur.c (recursive_retrieve): Set u->referer before calling
7727         retrieve_url.
7728
7729         * url.c (newurl): Use memset to nullify the struct members.
7730         (freeurl): Free the referer field too.
7731
7732         * url.h: Added referer to urlinfo.
7733
7734         * geturl.1: Updated the manual to document some of the new features.
7735
7736         * utils.c (numdigit): Moved from url.c.
7737
7738         * README: Rewritten.
7739
7740         * config.h.in: Add the support for socks.
7741
7742         * configure.in: Add the support for socks.
7743
7744         * url.c (url_filename): If the dir_prefix is ".", work with just
7745         the file name.
7746         (url_filename): Do not look for .n extensions if timestamping if
7747         turned on.
7748
7749         * retr.c (show_progress): Skip the over-abundant restval data, and
7750         print the rest of it with ',' instead of '.'.
7751
7752 1996-07-05  Hrvoje Niksic  <hniksic@srce.hr>
7753
7754         * retr.c (show_progress): Changed second arg. to long (as it
7755         should be).
7756         (show_progress): Moved to retr.c.
7757         (get_contents): Moved to retr.c.
7758
7759         * version.c: Change version to 1.4b13.
7760
7761 1996-07-05  Hrvoje Lacko <hlacko@fly.cc.fer.hr>
7762
7763         * url.c (in_acclist): Would return after the first suffix.
7764
7765 1996-07-04  Hrvoje Niksic  <hniksic@srce.hr>
7766
7767         * version.c: "Released" 1.4b12.
7768
7769         * url.c (path_simplify): More kludgifications.
7770         (get_urls_html): Use new parameters for htmlfindurl.
7771
7772         * html.c: Removed memorizing "parser states", since the new
7773         organization does not require them.
7774
7775         * init.c (run_geturlrc): Use read_whole_line.
7776
7777         * ftp-unix.c (ftp_parse_ls): Use read_whole_line.
7778
7779         * recur.c (parse_robots): Use read_whole_line.
7780
7781         * utils.c (read_whole_line): New function.
7782
7783         * recur.c (tried_robots): Use add_slist/in_slist, *much* cleaner.
7784
7785         * host.c (ngethostbyname): Call inet_addr just once. Yet to be
7786         tested on OSF and Ultrix.
7787         (add_hlist): New function.
7788         (free_hlist): New function.
7789         (search_host): New function.
7790         (search_address): New function.
7791         (realhost): Use search_host, search_address and add_hlist.
7792         (same_host): Replaced realloc() with strdupdelim(), made
7793         case-insensitive, fixed a memory leak.
7794
7795         * html.c (ftp_index): Fixed tm_min and tm_sec to be tm_hour and
7796         tm_min, like intended.
7797
7798         * version.c: Change user agent information to
7799         Geturl/version.
7800
7801 1996-07-03  Hrvoje Niksic  <hniksic@srce.hr>
7802
7803         * utils.c: Renamed nmalloc.c to utils.c, .h likewise.
7804
7805         * url.c (acceptable): Always accept directories.
7806
7807         * ftp-unix.c (ftp_parse_ls): Support brain-damaged "ls -F"-loving
7808         servers by stripping trailing @ from symlinks and trailing / from
7809         directories.
7810
7811         * ftp.c (ftp_loop): Debugged the "enhanced" heuristics. :-)
7812
7813         * url.c (skip_url): Use toupper instead of UCASE.
7814
7815         * host.c (sufmatch): Made it case-insensitive.
7816
7817         * url.c (match_backwards_or_pattern): Fixed i == -1 to j == -1.
7818         (match_backwards): New function, instead of
7819         match_backwards_or_pattern.
7820
7821         * recur.c (recursive_retrieve): Increased performance by
7822         introducing inl, which reduces number of calls to in_slist to only
7823         one.
7824
7825         * ftp.c (ftp_loop): Enhanced the heuristics that decides which
7826         routine to use.
7827
7828         * main.c (printhelp): Removed the warranty stuff.
7829
7830 1996-07-02  Hrvoje Niksic  <hniksic@srce.hr>
7831
7832         * url.c (add_slist): Simplify.
7833         (match_backwards_or_pattern): New function.
7834         (in_acclist): Use match_backwards_or_pattern.
7835         (matches): Remove.
7836
7837 1996-06-30  Hrvoje Niksic  <hniksic@srce.hr>
7838
7839         * ftp.c (ftp_loop): Call ftp_index on empty file names, if not
7840         recursive.
7841
7842         * html.c (ftp_index): Fixed to work. Beautified the output.
7843
7844         * ftp.c (ftp_retrieve_glob): Another argument to control whether
7845         globbing is to be used.
7846         (ftp_retrieve_list): Compare the time-stamps of local and remote
7847         files to determine whether to download.
7848
7849 1996-06-29  Hrvoje Niksic  <hniksic@srce.hr>
7850
7851         * ftp.c (rel_constr): New function.
7852
7853         * retr.c (retrieve_from_file): Check for text/html before
7854         retrieving recursively.
7855
7856         * main.c (main): Check whether the file is HTML before going into
7857         recursive HTML retrieving.
7858
7859         * ftp.c (ftp_retrieve_list): Manage directories.
7860         (ftp_retrieve_glob): Pass all the file-types to ftp_retrieve_list.
7861         (ftp_1fl_loop): Fixed a bug that caused con->com to be incorrectly
7862         initialized, causing bugchecks in getftp to fail.
7863
7864         * configure.in: Check for symlink.
7865
7866         * ftp.c (ftp_retrieve_list): Added support for symlinks.
7867
7868         * version.c: "Released" 1.4b10.
7869
7870         * atotm.c (atotm): Redeclared as time_t.
7871
7872         * init.c: New variable "timestamping".
7873
7874         * main.c (main): New option 'N'.
7875
7876         * http.c (hgetlocation): Case-insensitive match.
7877         (hgetmodified): New function.
7878         (http_loop): Implement time-stamping.
7879
7880 1996-06-28  Hrvoje Niksic  <hniksic@srce.hr>
7881
7882         * version.c: Changed version to 1.4b10
7883
7884         * atotm.c: New file, from phttpd.
7885
7886         * options.h (struct options): New parameter timestamping.
7887
7888         * version.c: 1.4b9 "released".
7889
7890         * recur.c (recursive_retrieve): Used linked list (ulist) for
7891         faster storing of URLs.
7892
7893         * url.c (get_urls_html): Removed the old kludge with comparing the
7894         outputs of htmlfindurl and findurl.
7895         (get_urls_html): Added better protocol support here.
7896         (create_hash): Removed, as well as add_hash and in_hash.
7897         (addslist): New function.
7898         (in_slist): ditto
7899
7900         * version.c: Released 1.4b8, changed version to b9.
7901
7902 1996-06-27  Hrvoje Niksic  <hniksic@srce.hr>
7903
7904         * ftp.c (freefileinfo): New function.
7905         (delelement): New function.
7906
7907         * everywhere: GPL!
7908
7909         * ftp.c (ftp_loop): Use ccon.
7910         (ftp_retrieve_glob): Likewise.
7911
7912         * ftp.h: Define ccon, to define status of control connection.
7913
7914         * ftp.c (ftp_get_listing): New function.
7915         (ftp_retrieve_more): New function.
7916         (ftp_retrieve_glob): New function.
7917
7918 1996-06-25  Hrvoje Niksic  <hniksic@srce.hr>
7919
7920         * configure.in: Removed the search for cuserid().
7921
7922         * init.c (getmode): Renamed to getperms.
7923
7924 1996-06-24  Hrvoje Niksic  <hniksic@srce.hr>
7925
7926         * version.c: New version.
7927
7928         * main.c (hangup): New function, that handles hangup. Hangup
7929         signal now causes geturl to stop writing on stdout, and to write
7930         to a log file.
7931
7932         * ftp.c (getftp): "Released" 1.4b7.
7933
7934         * html.c (htmlfindurl): Ignore everything inside <head>...</head>.
7935         (ftp_index): Use fileinfo/urlinfo.
7936
7937         * ftp-unix.c (ftp_parse_ls): New function.
7938         (symperms): New function.
7939
7940         * ftp.c (ftp_1fl_loop): New function, to handle 1-file loops.
7941
7942         * retr.c (retrieve_url): Added FTP support.
7943
7944 1996-06-23  Hrvoje Niksic  <hniksic@srce.hr>
7945
7946         * geturl.h: Removed NOTFTP2HTML enum.
7947         Added DO_LOGIN, DO_CWD and DO_LIST. LIST_ONLY is obsolete.
7948
7949         * ftp.c (getftp): Resynched with urlinfo.
7950         (getftp): Removed HMTL-ization of index.html from getftp.
7951
7952         * version.c: 1.4b6 "released".
7953
7954         * options.h (options): New struct, to keep options in.
7955
7956         * http.c (http_loop,gethttp): Synched with proxy.
7957
7958         * retr.c (retrieve_url): Implemented proxy retrieval.
7959
7960         * main.c (main): Use retrieve_from_file.
7961
7962 1996-06-22  Hrvoje Niksic  <hniksic@srce.hr>
7963
7964         * retr.c (retrieve_from_file): New function.
7965
7966         * url.c (parseurl): Modified to return URLOK if all OK. Protocol
7967         can be found in u->proto.
7968
7969         * ftp.c (ftp_response): Fixed to accept multi-line responses as
7970         per RFC 959.
7971
7972         * recr.c (recursive_retrieve): Take newloc from retrieve_url.
7973
7974         * url.c (mymkdir): Removed the file of the same name, if one
7975         exists.
7976         (isfile): New function.
7977         (mkstruct): Fixed the '/' glitches.
7978         (path_simplify): Hacked to treat something/.. correctly.
7979
7980 1996-06-21  Hrvoje Niksic  <hniksic@srce.hr>
7981
7982         * http.c (gethttp): Close the socket after error in headers.
7983         (http_loop): HEOF no longer a fatal header.
7984
7985         * loop.c (retrieve_url): When dt is NULL, do not modify it. This
7986         simplifies the syntax of calling retrieve_url.
7987
7988         * recr.c (recursive_retrieve): Modified to use get_urls_html.
7989
7990         * url.c (get_urls_file): New function.
7991         (get_urls_html): New function.
7992
7993         * recr.c (recursive_retrieve): Patched up to conform to the
7994         standards.
7995
7996         * http.c (gethttp): Synched with the rest...
7997         (gethttp): Treat only CONREFUSED specially, with connection
7998         errors.
7999
8000         * init.c,geturl.1,http.c (http_loop): Removed kill_error.
8001
8002 1996-06-20  Hrvoje Niksic  <hniksic@srce.hr>
8003
8004         * http.c (http_loop): New function.
8005
8006         * loop.c: Removed *lots* of stuff from retrieve_url.
8007
8008         * url.c (parseurl): Changed to work with urlinfo. Integrated
8009         username finding and path parsing.
8010         (newurl): New function.
8011         (freeurl): New function.
8012         (mkstruct): Removed the old bogosities, made it urlinfo-compliant.
8013         (url_filename): Likewise.
8014         (path_simplify): Accept relative paths too.
8015         (opt_url): Made urlinfo-compliant, removed bogosities.
8016         (path_simplify): Expanded to accept relative paths.
8017         (str_url): A replacement for hide_url
8018         (decode_string): Fixed a bug that caused malfunctioning when
8019         encountering an illegal %.. combination.
8020         (opt_url): Removed the argument. Dot-optimizations are now default.
8021
8022         * nmalloc.c (strdupdelim): New function.
8023
8024         * url.h: Added the urlinfo structure
8025
8026 1996-06-19  Hrvoje Niksic  <hniksic@srce.hr>
8027
8028         * url.c (hide_url): Thrown out the protocol assertion. Do not
8029         change the URL if the protocol if not recognized.
8030         (findurl): Put continue instead of break.
8031
8032 1996-06-18  Hrvoje Niksic  <hniksic@srce.hr>
8033
8034         * sample.geturlrc: Changed the defaults to be commented out and
8035         harmless (previous defaults caused pains if copied to
8036         ~/.geturlrc).
8037
8038         * http.c (gethttp): Print the HTTP request in debug mode.
8039
8040         * connect.c (iread): Added EINTR check loop to select-ing
8041         too. EINTR is now correctly handled with select().
8042
8043         * TODO: new file
8044
8045 1996-05-07  Hrvoje Niksic  <hniksic@srce.hr>
8046
8047         * host.c (same_host): Made the function a little bit more
8048         intelligent regarding diversified URL syntaxes.
8049
8050         * url.c (skip_url): Spaces are now skipped after URL:
8051
8052         * Released 1.3.1 with the patch to prevent crashing when sending
8053         NULL to robot* functions and the patch to compile "out of the box"
8054         on AIX.
8055
8056         * recr.c (recursive_retrieve): Added checking whether this_url is
8057         NULL when calling the robot functions.
8058
8059         * ChangeLog: New file.