]> sjero.net Git - wget/blob - src/utils.c
[svn] Abort if wtimer_update is called on an uninitialized timer.
[wget] / src / utils.c
1 /* Various utility functions.
2    Copyright (C) 2003 Free Software Foundation, Inc.
3
4 This file is part of GNU Wget.
5
6 GNU Wget is free software; you can redistribute it and/or modify
7 it under the terms of the GNU General Public License as published by
8 the Free Software Foundation; either version 2 of the License, or
9 (at your option) any later version.
10
11 GNU Wget is distributed in the hope that it will be useful,
12 but WITHOUT ANY WARRANTY; without even the implied warranty of
13 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14 GNU General Public License for more details.
15
16 You should have received a copy of the GNU General Public License
17 along with Wget; if not, write to the Free Software
18 Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
19
20 In addition, as a special exception, the Free Software Foundation
21 gives permission to link the code of its release of Wget with the
22 OpenSSL project's "OpenSSL" library (or with modified versions of it
23 that use the same license as the "OpenSSL" library), and distribute
24 the linked executables.  You must obey the GNU General Public License
25 in all respects for all of the code used other than "OpenSSL".  If you
26 modify this file, you may extend this exception to your version of the
27 file, but you are not obligated to do so.  If you do not wish to do
28 so, delete this exception statement from your version.  */
29
30 #include <config.h>
31
32 #include <stdio.h>
33 #include <stdlib.h>
34 #ifdef HAVE_STRING_H
35 # include <string.h>
36 #else  /* not HAVE_STRING_H */
37 # include <strings.h>
38 #endif /* not HAVE_STRING_H */
39 #include <sys/types.h>
40 #ifdef HAVE_UNISTD_H
41 # include <unistd.h>
42 #endif
43 #ifdef HAVE_MMAP
44 # include <sys/mman.h>
45 #endif
46 #ifdef HAVE_PWD_H
47 # include <pwd.h>
48 #endif
49 #include <limits.h>
50 #ifdef HAVE_UTIME_H
51 # include <utime.h>
52 #endif
53 #ifdef HAVE_SYS_UTIME_H
54 # include <sys/utime.h>
55 #endif
56 #include <errno.h>
57 #ifdef NeXT
58 # include <libc.h>              /* for access() */
59 #endif
60 #include <fcntl.h>
61 #include <assert.h>
62
63 /* For TIOCGWINSZ and friends: */
64 #ifdef HAVE_SYS_IOCTL_H
65 # include <sys/ioctl.h>
66 #endif
67 #ifdef HAVE_TERMIOS_H
68 # include <termios.h>
69 #endif
70
71 /* Needed for run_with_timeout. */
72 #undef USE_SIGNAL_TIMEOUT
73 #ifdef HAVE_SIGNAL_H
74 # include <signal.h>
75 #endif
76 #ifdef HAVE_SETJMP_H
77 # include <setjmp.h>
78 #endif
79
80 #ifndef HAVE_SIGSETJMP
81 /* If sigsetjmp is a macro, configure won't pick it up. */
82 # ifdef sigsetjmp
83 #  define HAVE_SIGSETJMP
84 # endif
85 #endif
86
87 #ifdef HAVE_SIGNAL
88 # ifdef HAVE_SIGSETJMP
89 #  define USE_SIGNAL_TIMEOUT
90 # endif
91 # ifdef HAVE_SIGBLOCK
92 #  define USE_SIGNAL_TIMEOUT
93 # endif
94 #endif
95
96 #include "wget.h"
97 #include "utils.h"
98 #include "hash.h"
99
100 #ifndef errno
101 extern int errno;
102 #endif
103
104 /* Utility function: like xstrdup(), but also lowercases S.  */
105
106 char *
107 xstrdup_lower (const char *s)
108 {
109   char *copy = xstrdup (s);
110   char *p = copy;
111   for (; *p; p++)
112     *p = TOLOWER (*p);
113   return copy;
114 }
115
116 /* Return a count of how many times CHR occurs in STRING. */
117
118 int
119 count_char (const char *string, char chr)
120 {
121   const char *p;
122   int count = 0;
123   for (p = string; *p; p++)
124     if (*p == chr)
125       ++count;
126   return count;
127 }
128
129 /* Copy the string formed by two pointers (one on the beginning, other
130    on the char after the last char) to a new, malloc-ed location.
131    0-terminate it.  */
132 char *
133 strdupdelim (const char *beg, const char *end)
134 {
135   char *res = (char *)xmalloc (end - beg + 1);
136   memcpy (res, beg, end - beg);
137   res[end - beg] = '\0';
138   return res;
139 }
140
141 /* Parse a string containing comma-separated elements, and return a
142    vector of char pointers with the elements.  Spaces following the
143    commas are ignored.  */
144 char **
145 sepstring (const char *s)
146 {
147   char **res;
148   const char *p;
149   int i = 0;
150
151   if (!s || !*s)
152     return NULL;
153   res = NULL;
154   p = s;
155   while (*s)
156     {
157       if (*s == ',')
158         {
159           res = (char **)xrealloc (res, (i + 2) * sizeof (char *));
160           res[i] = strdupdelim (p, s);
161           res[++i] = NULL;
162           ++s;
163           /* Skip the blanks following the ','.  */
164           while (ISSPACE (*s))
165             ++s;
166           p = s;
167         }
168       else
169         ++s;
170     }
171   res = (char **)xrealloc (res, (i + 2) * sizeof (char *));
172   res[i] = strdupdelim (p, s);
173   res[i + 1] = NULL;
174   return res;
175 }
176 \f
177 /* Return pointer to a static char[] buffer in which zero-terminated
178    string-representation of TM (in form hh:mm:ss) is printed.
179
180    If TM is NULL, the current time will be used.  */
181
182 char *
183 time_str (time_t *tm)
184 {
185   static char output[15];
186   struct tm *ptm;
187   time_t secs = tm ? *tm : time (NULL);
188
189   if (secs == -1)
190     {
191       /* In case of error, return the empty string.  Maybe we should
192          just abort if this happens?  */
193       *output = '\0';
194       return output;
195     }
196   ptm = localtime (&secs);
197   sprintf (output, "%02d:%02d:%02d", ptm->tm_hour, ptm->tm_min, ptm->tm_sec);
198   return output;
199 }
200
201 /* Like the above, but include the date: YYYY-MM-DD hh:mm:ss.  */
202
203 char *
204 datetime_str (time_t *tm)
205 {
206   static char output[20];       /* "YYYY-MM-DD hh:mm:ss" + \0 */
207   struct tm *ptm;
208   time_t secs = tm ? *tm : time (NULL);
209
210   if (secs == -1)
211     {
212       /* In case of error, return the empty string.  Maybe we should
213          just abort if this happens?  */
214       *output = '\0';
215       return output;
216     }
217   ptm = localtime (&secs);
218   sprintf (output, "%04d-%02d-%02d %02d:%02d:%02d",
219            ptm->tm_year + 1900, ptm->tm_mon + 1, ptm->tm_mday,
220            ptm->tm_hour, ptm->tm_min, ptm->tm_sec);
221   return output;
222 }
223 \f
224 /* The Windows versions of the following two functions are defined in
225    mswindows.c.  */
226
227 #ifndef WINDOWS
228 void
229 fork_to_background (void)
230 {
231   pid_t pid;
232   /* Whether we arrange our own version of opt.lfilename here.  */
233   int changedp = 0;
234
235   if (!opt.lfilename)
236     {
237       opt.lfilename = unique_name (DEFAULT_LOGFILE, 0);
238       changedp = 1;
239     }
240   pid = fork ();
241   if (pid < 0)
242     {
243       /* parent, error */
244       perror ("fork");
245       exit (1);
246     }
247   else if (pid != 0)
248     {
249       /* parent, no error */
250       printf (_("Continuing in background, pid %d.\n"), (int)pid);
251       if (changedp)
252         printf (_("Output will be written to `%s'.\n"), opt.lfilename);
253       exit (0);                 /* #### should we use _exit()? */
254     }
255
256   /* child: give up the privileges and keep running. */
257   setsid ();
258   freopen ("/dev/null", "r", stdin);
259   freopen ("/dev/null", "w", stdout);
260   freopen ("/dev/null", "w", stderr);
261 }
262 #endif /* not WINDOWS */
263 \f
264 /* "Touch" FILE, i.e. make its atime and mtime equal to the time
265    specified with TM.  */
266 void
267 touch (const char *file, time_t tm)
268 {
269 #ifdef HAVE_STRUCT_UTIMBUF
270   struct utimbuf times;
271   times.actime = times.modtime = tm;
272 #else
273   time_t times[2];
274   times[0] = times[1] = tm;
275 #endif
276
277   if (utime (file, &times) == -1)
278     logprintf (LOG_NOTQUIET, "utime(%s): %s\n", file, strerror (errno));
279 }
280
281 /* Checks if FILE is a symbolic link, and removes it if it is.  Does
282    nothing under MS-Windows.  */
283 int
284 remove_link (const char *file)
285 {
286   int err = 0;
287   struct stat st;
288
289   if (lstat (file, &st) == 0 && S_ISLNK (st.st_mode))
290     {
291       DEBUGP (("Unlinking %s (symlink).\n", file));
292       err = unlink (file);
293       if (err != 0)
294         logprintf (LOG_VERBOSE, _("Failed to unlink symlink `%s': %s\n"),
295                    file, strerror (errno));
296     }
297   return err;
298 }
299
300 /* Does FILENAME exist?  This is quite a lousy implementation, since
301    it supplies no error codes -- only a yes-or-no answer.  Thus it
302    will return that a file does not exist if, e.g., the directory is
303    unreadable.  I don't mind it too much currently, though.  The
304    proper way should, of course, be to have a third, error state,
305    other than true/false, but that would introduce uncalled-for
306    additional complexity to the callers.  */
307 int
308 file_exists_p (const char *filename)
309 {
310 #ifdef HAVE_ACCESS
311   return access (filename, F_OK) >= 0;
312 #else
313   struct stat buf;
314   return stat (filename, &buf) >= 0;
315 #endif
316 }
317
318 /* Returns 0 if PATH is a directory, 1 otherwise (any kind of file).
319    Returns 0 on error.  */
320 int
321 file_non_directory_p (const char *path)
322 {
323   struct stat buf;
324   /* Use lstat() rather than stat() so that symbolic links pointing to
325      directories can be identified correctly.  */
326   if (lstat (path, &buf) != 0)
327     return 0;
328   return S_ISDIR (buf.st_mode) ? 0 : 1;
329 }
330
331 /* Return the size of file named by FILENAME, or -1 if it cannot be
332    opened or seeked into. */
333 long
334 file_size (const char *filename)
335 {
336   long size;
337   /* We use fseek rather than stat to determine the file size because
338      that way we can also verify whether the file is readable.
339      Inspired by the POST patch by Arnaud Wylie.  */
340   FILE *fp = fopen (filename, "rb");
341   if (!fp)
342     return -1;
343   fseek (fp, 0, SEEK_END);
344   size = ftell (fp);
345   fclose (fp);
346   return size;
347 }
348
349 /* stat file names named PREFIX.1, PREFIX.2, etc., until one that
350    doesn't exist is found.  Return a freshly allocated copy of the
351    unused file name.  */
352
353 static char *
354 unique_name_1 (const char *prefix)
355 {
356   int count = 1;
357   int plen = strlen (prefix);
358   char *template = (char *)alloca (plen + 1 + 24);
359   char *template_tail = template + plen;
360
361   memcpy (template, prefix, plen);
362   *template_tail++ = '.';
363
364   do
365     number_to_string (template_tail, count++);
366   while (file_exists_p (template));
367
368   return xstrdup (template);
369 }
370
371 /* Return a unique file name, based on FILE.
372
373    More precisely, if FILE doesn't exist, it is returned unmodified.
374    If not, FILE.1 is tried, then FILE.2, etc.  The first FILE.<number>
375    file name that doesn't exist is returned.
376
377    The resulting file is not created, only verified that it didn't
378    exist at the point in time when the function was called.
379    Therefore, where security matters, don't rely that the file created
380    by this function exists until you open it with O_EXCL or
381    something.
382
383    If ALLOW_PASSTHROUGH is 0, it always returns a freshly allocated
384    string.  Otherwise, it may return FILE if the file doesn't exist
385    (and therefore doesn't need changing).  */
386
387 char *
388 unique_name (const char *file, int allow_passthrough)
389 {
390   /* If the FILE itself doesn't exist, return it without
391      modification. */
392   if (!file_exists_p (file))
393     return allow_passthrough ? (char *)file : xstrdup (file);
394
395   /* Otherwise, find a numeric suffix that results in unused file name
396      and return it.  */
397   return unique_name_1 (file);
398 }
399 \f
400 /* Create DIRECTORY.  If some of the pathname components of DIRECTORY
401    are missing, create them first.  In case any mkdir() call fails,
402    return its error status.  Returns 0 on successful completion.
403
404    The behaviour of this function should be identical to the behaviour
405    of `mkdir -p' on systems where mkdir supports the `-p' option.  */
406 int
407 make_directory (const char *directory)
408 {
409   int quit = 0;
410   int i;
411   int ret = 0;
412   char *dir;
413
414   /* Make a copy of dir, to be able to write to it.  Otherwise, the
415      function is unsafe if called with a read-only char *argument.  */
416   STRDUP_ALLOCA (dir, directory);
417
418   /* If the first character of dir is '/', skip it (and thus enable
419      creation of absolute-pathname directories.  */
420   for (i = (*dir == '/'); 1; ++i)
421     {
422       for (; dir[i] && dir[i] != '/'; i++)
423         ;
424       if (!dir[i])
425         quit = 1;
426       dir[i] = '\0';
427       /* Check whether the directory already exists.  Allow creation of
428          of intermediate directories to fail, as the initial path components
429          are not necessarily directories!  */
430       if (!file_exists_p (dir))
431         ret = mkdir (dir, 0777);
432       else
433         ret = 0;
434       if (quit)
435         break;
436       else
437         dir[i] = '/';
438     }
439   return ret;
440 }
441
442 /* Merge BASE with FILE.  BASE can be a directory or a file name, FILE
443    should be a file name.
444
445    file_merge("/foo/bar", "baz")  => "/foo/baz"
446    file_merge("/foo/bar/", "baz") => "/foo/bar/baz"
447    file_merge("foo", "bar")       => "bar"
448
449    In other words, it's a simpler and gentler version of uri_merge_1.  */
450
451 char *
452 file_merge (const char *base, const char *file)
453 {
454   char *result;
455   const char *cut = (const char *)strrchr (base, '/');
456
457   if (!cut)
458     return xstrdup (file);
459
460   result = (char *)xmalloc (cut - base + 1 + strlen (file) + 1);
461   memcpy (result, base, cut - base);
462   result[cut - base] = '/';
463   strcpy (result + (cut - base) + 1, file);
464
465   return result;
466 }
467 \f
468 static int in_acclist PARAMS ((const char *const *, const char *, int));
469
470 /* Determine whether a file is acceptable to be followed, according to
471    lists of patterns to accept/reject.  */
472 int
473 acceptable (const char *s)
474 {
475   int l = strlen (s);
476
477   while (l && s[l] != '/')
478     --l;
479   if (s[l] == '/')
480     s += (l + 1);
481   if (opt.accepts)
482     {
483       if (opt.rejects)
484         return (in_acclist ((const char *const *)opt.accepts, s, 1)
485                 && !in_acclist ((const char *const *)opt.rejects, s, 1));
486       else
487         return in_acclist ((const char *const *)opt.accepts, s, 1);
488     }
489   else if (opt.rejects)
490     return !in_acclist ((const char *const *)opt.rejects, s, 1);
491   return 1;
492 }
493
494 /* Compare S1 and S2 frontally; S2 must begin with S1.  E.g. if S1 is
495    `/something', frontcmp() will return 1 only if S2 begins with
496    `/something'.  Otherwise, 0 is returned.  */
497 int
498 frontcmp (const char *s1, const char *s2)
499 {
500   for (; *s1 && *s2 && (*s1 == *s2); ++s1, ++s2);
501   return !*s1;
502 }
503
504 /* Iterate through STRLIST, and return the first element that matches
505    S, through wildcards or front comparison (as appropriate).  */
506 static char *
507 proclist (char **strlist, const char *s, enum accd flags)
508 {
509   char **x;
510
511   for (x = strlist; *x; x++)
512     if (has_wildcards_p (*x))
513       {
514         if (fnmatch (*x, s, FNM_PATHNAME) == 0)
515           break;
516       }
517     else
518       {
519         char *p = *x + ((flags & ALLABS) && (**x == '/')); /* Remove '/' */
520         if (frontcmp (p, s))
521           break;
522       }
523   return *x;
524 }
525
526 /* Returns whether DIRECTORY is acceptable for download, wrt the
527    include/exclude lists.
528
529    If FLAGS is ALLABS, the leading `/' is ignored in paths; relative
530    and absolute paths may be freely intermixed.  */
531 int
532 accdir (const char *directory, enum accd flags)
533 {
534   /* Remove starting '/'.  */
535   if (flags & ALLABS && *directory == '/')
536     ++directory;
537   if (opt.includes)
538     {
539       if (!proclist (opt.includes, directory, flags))
540         return 0;
541     }
542   if (opt.excludes)
543     {
544       if (proclist (opt.excludes, directory, flags))
545         return 0;
546     }
547   return 1;
548 }
549
550 /* Return non-zero if STRING ends with TAIL.  For instance:
551
552    match_tail ("abc", "bc", 0)  -> 1
553    match_tail ("abc", "ab", 0)  -> 0
554    match_tail ("abc", "abc", 0) -> 1
555
556    If FOLD_CASE_P is non-zero, the comparison will be
557    case-insensitive.  */
558
559 int
560 match_tail (const char *string, const char *tail, int fold_case_p)
561 {
562   int i, j;
563
564   /* We want this to be fast, so we code two loops, one with
565      case-folding, one without. */
566
567   if (!fold_case_p)
568     {
569       for (i = strlen (string), j = strlen (tail); i >= 0 && j >= 0; i--, j--)
570         if (string[i] != tail[j])
571           break;
572     }
573   else
574     {
575       for (i = strlen (string), j = strlen (tail); i >= 0 && j >= 0; i--, j--)
576         if (TOLOWER (string[i]) != TOLOWER (tail[j]))
577           break;
578     }
579
580   /* If the tail was exhausted, the match was succesful.  */
581   if (j == -1)
582     return 1;
583   else
584     return 0;
585 }
586
587 /* Checks whether string S matches each element of ACCEPTS.  A list
588    element are matched either with fnmatch() or match_tail(),
589    according to whether the element contains wildcards or not.
590
591    If the BACKWARD is 0, don't do backward comparison -- just compare
592    them normally.  */
593 static int
594 in_acclist (const char *const *accepts, const char *s, int backward)
595 {
596   for (; *accepts; accepts++)
597     {
598       if (has_wildcards_p (*accepts))
599         {
600           /* fnmatch returns 0 if the pattern *does* match the
601              string.  */
602           if (fnmatch (*accepts, s, 0) == 0)
603             return 1;
604         }
605       else
606         {
607           if (backward)
608             {
609               if (match_tail (s, *accepts, 0))
610                 return 1;
611             }
612           else
613             {
614               if (!strcmp (s, *accepts))
615                 return 1;
616             }
617         }
618     }
619   return 0;
620 }
621
622 /* Return the location of STR's suffix (file extension).  Examples:
623    suffix ("foo.bar")       -> "bar"
624    suffix ("foo.bar.baz")   -> "baz"
625    suffix ("/foo/bar")      -> NULL
626    suffix ("/foo.bar/baz")  -> NULL  */
627 char *
628 suffix (const char *str)
629 {
630   int i;
631
632   for (i = strlen (str); i && str[i] != '/' && str[i] != '.'; i--)
633     ;
634
635   if (str[i++] == '.')
636     return (char *)str + i;
637   else
638     return NULL;
639 }
640
641 /* Return non-zero if S contains globbing wildcards (`*', `?', `[' or
642    `]').  */
643
644 int
645 has_wildcards_p (const char *s)
646 {
647   for (; *s; s++)
648     if (*s == '*' || *s == '?' || *s == '[' || *s == ']')
649       return 1;
650   return 0;
651 }
652
653 /* Return non-zero if FNAME ends with a typical HTML suffix.  The
654    following (case-insensitive) suffixes are presumed to be HTML files:
655    
656      html
657      htm
658      ?html (`?' matches one character)
659
660    #### CAVEAT.  This is not necessarily a good indication that FNAME
661    refers to a file that contains HTML!  */
662 int
663 has_html_suffix_p (const char *fname)
664 {
665   char *suf;
666
667   if ((suf = suffix (fname)) == NULL)
668     return 0;
669   if (!strcasecmp (suf, "html"))
670     return 1;
671   if (!strcasecmp (suf, "htm"))
672     return 1;
673   if (suf[0] && !strcasecmp (suf + 1, "html"))
674     return 1;
675   return 0;
676 }
677
678 /* Read a line from FP and return the pointer to freshly allocated
679    storage.  The storage space is obtained through malloc() and should
680    be freed with free() when it is no longer needed.
681
682    The length of the line is not limited, except by available memory.
683    The newline character at the end of line is retained.  The line is
684    terminated with a zero character.
685
686    After end-of-file is encountered without anything being read, NULL
687    is returned.  NULL is also returned on error.  To distinguish
688    between these two cases, use the stdio function ferror().  */
689
690 char *
691 read_whole_line (FILE *fp)
692 {
693   int length = 0;
694   int bufsize = 82;
695   char *line = (char *)xmalloc (bufsize);
696
697   while (fgets (line + length, bufsize - length, fp))
698     {
699       length += strlen (line + length);
700       if (length == 0)
701         /* Possible for example when reading from a binary file where
702            a line begins with \0.  */
703         continue;
704
705       if (line[length - 1] == '\n')
706         break;
707
708       /* fgets() guarantees to read the whole line, or to use up the
709          space we've given it.  We can double the buffer
710          unconditionally.  */
711       bufsize <<= 1;
712       line = xrealloc (line, bufsize);
713     }
714   if (length == 0 || ferror (fp))
715     {
716       xfree (line);
717       return NULL;
718     }
719   if (length + 1 < bufsize)
720     /* Relieve the memory from our exponential greediness.  We say
721        `length + 1' because the terminating \0 is not included in
722        LENGTH.  We don't need to zero-terminate the string ourselves,
723        though, because fgets() does that.  */
724     line = xrealloc (line, length + 1);
725   return line;
726 }
727 \f
728 /* Read FILE into memory.  A pointer to `struct file_memory' are
729    returned; use struct element `content' to access file contents, and
730    the element `length' to know the file length.  `content' is *not*
731    zero-terminated, and you should *not* read or write beyond the [0,
732    length) range of characters.
733
734    After you are done with the file contents, call read_file_free to
735    release the memory.
736
737    Depending on the operating system and the type of file that is
738    being read, read_file() either mmap's the file into memory, or
739    reads the file into the core using read().
740
741    If file is named "-", fileno(stdin) is used for reading instead.
742    If you want to read from a real file named "-", use "./-" instead.  */
743
744 struct file_memory *
745 read_file (const char *file)
746 {
747   int fd;
748   struct file_memory *fm;
749   long size;
750   int inhibit_close = 0;
751
752   /* Some magic in the finest tradition of Perl and its kin: if FILE
753      is "-", just use stdin.  */
754   if (HYPHENP (file))
755     {
756       fd = fileno (stdin);
757       inhibit_close = 1;
758       /* Note that we don't inhibit mmap() in this case.  If stdin is
759          redirected from a regular file, mmap() will still work.  */
760     }
761   else
762     fd = open (file, O_RDONLY);
763   if (fd < 0)
764     return NULL;
765   fm = xnew (struct file_memory);
766
767 #ifdef HAVE_MMAP
768   {
769     struct stat buf;
770     if (fstat (fd, &buf) < 0)
771       goto mmap_lose;
772     fm->length = buf.st_size;
773     /* NOTE: As far as I know, the callers of this function never
774        modify the file text.  Relying on this would enable us to
775        specify PROT_READ and MAP_SHARED for a marginal gain in
776        efficiency, but at some cost to generality.  */
777     fm->content = mmap (NULL, fm->length, PROT_READ | PROT_WRITE,
778                         MAP_PRIVATE, fd, 0);
779     if (fm->content == (char *)MAP_FAILED)
780       goto mmap_lose;
781     if (!inhibit_close)
782       close (fd);
783
784     fm->mmap_p = 1;
785     return fm;
786   }
787
788  mmap_lose:
789   /* The most common reason why mmap() fails is that FD does not point
790      to a plain file.  However, it's also possible that mmap() doesn't
791      work for a particular type of file.  Therefore, whenever mmap()
792      fails, we just fall back to the regular method.  */
793 #endif /* HAVE_MMAP */
794
795   fm->length = 0;
796   size = 512;                   /* number of bytes fm->contents can
797                                    hold at any given time. */
798   fm->content = xmalloc (size);
799   while (1)
800     {
801       long nread;
802       if (fm->length > size / 2)
803         {
804           /* #### I'm not sure whether the whole exponential-growth
805              thing makes sense with kernel read.  On Linux at least,
806              read() refuses to read more than 4K from a file at a
807              single chunk anyway.  But other Unixes might optimize it
808              better, and it doesn't *hurt* anything, so I'm leaving
809              it.  */
810
811           /* Normally, we grow SIZE exponentially to make the number
812              of calls to read() and realloc() logarithmic in relation
813              to file size.  However, read() can read an amount of data
814              smaller than requested, and it would be unreasonable to
815              double SIZE every time *something* was read.  Therefore,
816              we double SIZE only when the length exceeds half of the
817              entire allocated size.  */
818           size <<= 1;
819           fm->content = xrealloc (fm->content, size);
820         }
821       nread = read (fd, fm->content + fm->length, size - fm->length);
822       if (nread > 0)
823         /* Successful read. */
824         fm->length += nread;
825       else if (nread < 0)
826         /* Error. */
827         goto lose;
828       else
829         /* EOF */
830         break;
831     }
832   if (!inhibit_close)
833     close (fd);
834   if (size > fm->length && fm->length != 0)
835     /* Due to exponential growth of fm->content, the allocated region
836        might be much larger than what is actually needed.  */
837     fm->content = xrealloc (fm->content, fm->length);
838   fm->mmap_p = 0;
839   return fm;
840
841  lose:
842   if (!inhibit_close)
843     close (fd);
844   xfree (fm->content);
845   xfree (fm);
846   return NULL;
847 }
848
849 /* Release the resources held by FM.  Specifically, this calls
850    munmap() or xfree() on fm->content, depending whether mmap or
851    malloc/read were used to read in the file.  It also frees the
852    memory needed to hold the FM structure itself.  */
853
854 void
855 read_file_free (struct file_memory *fm)
856 {
857 #ifdef HAVE_MMAP
858   if (fm->mmap_p)
859     {
860       munmap (fm->content, fm->length);
861     }
862   else
863 #endif
864     {
865       xfree (fm->content);
866     }
867   xfree (fm);
868 }
869 \f
870 /* Free the pointers in a NULL-terminated vector of pointers, then
871    free the pointer itself.  */
872 void
873 free_vec (char **vec)
874 {
875   if (vec)
876     {
877       char **p = vec;
878       while (*p)
879         xfree (*p++);
880       xfree (vec);
881     }
882 }
883
884 /* Append vector V2 to vector V1.  The function frees V2 and
885    reallocates V1 (thus you may not use the contents of neither
886    pointer after the call).  If V1 is NULL, V2 is returned.  */
887 char **
888 merge_vecs (char **v1, char **v2)
889 {
890   int i, j;
891
892   if (!v1)
893     return v2;
894   if (!v2)
895     return v1;
896   if (!*v2)
897     {
898       /* To avoid j == 0 */
899       xfree (v2);
900       return v1;
901     }
902   /* Count v1.  */
903   for (i = 0; v1[i]; i++);
904   /* Count v2.  */
905   for (j = 0; v2[j]; j++);
906   /* Reallocate v1.  */
907   v1 = (char **)xrealloc (v1, (i + j + 1) * sizeof (char **));
908   memcpy (v1 + i, v2, (j + 1) * sizeof (char *));
909   xfree (v2);
910   return v1;
911 }
912
913 /* A set of simple-minded routines to store strings in a linked list.
914    This used to also be used for searching, but now we have hash
915    tables for that.  */
916
917 /* It's a shame that these simple things like linked lists and hash
918    tables (see hash.c) need to be implemented over and over again.  It
919    would be nice to be able to use the routines from glib -- see
920    www.gtk.org for details.  However, that would make Wget depend on
921    glib, and I want to avoid dependencies to external libraries for
922    reasons of convenience and portability (I suspect Wget is more
923    portable than anything ever written for Gnome).  */
924
925 /* Append an element to the list.  If the list has a huge number of
926    elements, this can get slow because it has to find the list's
927    ending.  If you think you have to call slist_append in a loop,
928    think about calling slist_prepend() followed by slist_nreverse().  */
929
930 slist *
931 slist_append (slist *l, const char *s)
932 {
933   slist *newel = xnew (slist);
934   slist *beg = l;
935
936   newel->string = xstrdup (s);
937   newel->next = NULL;
938
939   if (!l)
940     return newel;
941   /* Find the last element.  */
942   while (l->next)
943     l = l->next;
944   l->next = newel;
945   return beg;
946 }
947
948 /* Prepend S to the list.  Unlike slist_append(), this is O(1).  */
949
950 slist *
951 slist_prepend (slist *l, const char *s)
952 {
953   slist *newel = xnew (slist);
954   newel->string = xstrdup (s);
955   newel->next = l;
956   return newel;
957 }
958
959 /* Destructively reverse L. */
960
961 slist *
962 slist_nreverse (slist *l)
963 {
964   slist *prev = NULL;
965   while (l)
966     {
967       slist *next = l->next;
968       l->next = prev;
969       prev = l;
970       l = next;
971     }
972   return prev;
973 }
974
975 /* Is there a specific entry in the list?  */
976 int
977 slist_contains (slist *l, const char *s)
978 {
979   for (; l; l = l->next)
980     if (!strcmp (l->string, s))
981       return 1;
982   return 0;
983 }
984
985 /* Free the whole slist.  */
986 void
987 slist_free (slist *l)
988 {
989   while (l)
990     {
991       slist *n = l->next;
992       xfree (l->string);
993       xfree (l);
994       l = n;
995     }
996 }
997 \f
998 /* Sometimes it's useful to create "sets" of strings, i.e. special
999    hash tables where you want to store strings as keys and merely
1000    query for their existence.  Here is a set of utility routines that
1001    makes that transparent.  */
1002
1003 void
1004 string_set_add (struct hash_table *ht, const char *s)
1005 {
1006   /* First check whether the set element already exists.  If it does,
1007      do nothing so that we don't have to free() the old element and
1008      then strdup() a new one.  */
1009   if (hash_table_contains (ht, s))
1010     return;
1011
1012   /* We use "1" as value.  It provides us a useful and clear arbitrary
1013      value, and it consumes no memory -- the pointers to the same
1014      string "1" will be shared by all the key-value pairs in all `set'
1015      hash tables.  */
1016   hash_table_put (ht, xstrdup (s), "1");
1017 }
1018
1019 /* Synonym for hash_table_contains... */
1020
1021 int
1022 string_set_contains (struct hash_table *ht, const char *s)
1023 {
1024   return hash_table_contains (ht, s);
1025 }
1026
1027 static int
1028 string_set_free_mapper (void *key, void *value_ignored, void *arg_ignored)
1029 {
1030   xfree (key);
1031   return 0;
1032 }
1033
1034 void
1035 string_set_free (struct hash_table *ht)
1036 {
1037   hash_table_map (ht, string_set_free_mapper, NULL);
1038   hash_table_destroy (ht);
1039 }
1040
1041 static int
1042 free_keys_and_values_mapper (void *key, void *value, void *arg_ignored)
1043 {
1044   xfree (key);
1045   xfree (value);
1046   return 0;
1047 }
1048
1049 /* Another utility function: call free() on all keys and values of HT.  */
1050
1051 void
1052 free_keys_and_values (struct hash_table *ht)
1053 {
1054   hash_table_map (ht, free_keys_and_values_mapper, NULL);
1055 }
1056
1057 \f
1058 /* Engine for legible and legible_large_int; add thousand separators
1059    to numbers printed in strings.  */
1060
1061 static char *
1062 legible_1 (const char *repr)
1063 {
1064   static char outbuf[48];
1065   int i, i1, mod;
1066   char *outptr;
1067   const char *inptr;
1068
1069   /* Reset the pointers.  */
1070   outptr = outbuf;
1071   inptr = repr;
1072
1073   /* Ignore the sign for the purpose of adding thousand
1074      separators.  */
1075   if (*inptr == '-')
1076     {
1077       *outptr++ = '-';
1078       ++inptr;
1079     }
1080   /* How many digits before the first separator?  */
1081   mod = strlen (inptr) % 3;
1082   /* Insert them.  */
1083   for (i = 0; i < mod; i++)
1084     *outptr++ = inptr[i];
1085   /* Now insert the rest of them, putting separator before every
1086      third digit.  */
1087   for (i1 = i, i = 0; inptr[i1]; i++, i1++)
1088     {
1089       if (i % 3 == 0 && i1 != 0)
1090         *outptr++ = ',';
1091       *outptr++ = inptr[i1];
1092     }
1093   /* Zero-terminate the string.  */
1094   *outptr = '\0';
1095   return outbuf;
1096 }
1097
1098 /* Legible -- return a static pointer to the legibly printed long.  */
1099
1100 char *
1101 legible (long l)
1102 {
1103   char inbuf[24];
1104   /* Print the number into the buffer.  */
1105   number_to_string (inbuf, l);
1106   return legible_1 (inbuf);
1107 }
1108
1109 /* Write a string representation of LARGE_INT NUMBER into the provided
1110    buffer.  The buffer should be able to accept 24 characters,
1111    including the terminating zero.
1112
1113    It would be dangerous to use sprintf, because the code wouldn't
1114    work on a machine with gcc-provided long long support, but without
1115    libc support for "%lld".  However, such platforms will typically
1116    not have snprintf and will use our version, which does support
1117    "%lld" where long longs are available.  */
1118
1119 static void
1120 large_int_to_string (char *buffer, LARGE_INT number)
1121 {
1122   snprintf (buffer, 24, LARGE_INT_FMT, number);
1123 }
1124
1125 /* The same as legible(), but works on LARGE_INT.  */
1126
1127 char *
1128 legible_large_int (LARGE_INT l)
1129 {
1130   char inbuf[48];
1131   large_int_to_string (inbuf, l);
1132   return legible_1 (inbuf);
1133 }
1134
1135 /* Count the digits in a (long) integer.  */
1136 int
1137 numdigit (long number)
1138 {
1139   int cnt = 1;
1140   if (number < 0)
1141     {
1142       number = -number;
1143       ++cnt;
1144     }
1145   while ((number /= 10) > 0)
1146     ++cnt;
1147   return cnt;
1148 }
1149
1150 /* A half-assed implementation of INT_MAX on machines that don't
1151    bother to define one. */
1152 #ifndef INT_MAX
1153 # define INT_MAX ((int) ~((unsigned)1 << 8 * sizeof (int) - 1))
1154 #endif
1155
1156 #define ONE_DIGIT(figure) *p++ = n / (figure) + '0'
1157 #define ONE_DIGIT_ADVANCE(figure) (ONE_DIGIT (figure), n %= (figure))
1158
1159 #define DIGITS_1(figure) ONE_DIGIT (figure)
1160 #define DIGITS_2(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_1 ((figure) / 10)
1161 #define DIGITS_3(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_2 ((figure) / 10)
1162 #define DIGITS_4(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_3 ((figure) / 10)
1163 #define DIGITS_5(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_4 ((figure) / 10)
1164 #define DIGITS_6(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_5 ((figure) / 10)
1165 #define DIGITS_7(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_6 ((figure) / 10)
1166 #define DIGITS_8(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_7 ((figure) / 10)
1167 #define DIGITS_9(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_8 ((figure) / 10)
1168 #define DIGITS_10(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_9 ((figure) / 10)
1169
1170 /* DIGITS_<11-20> are only used on machines with 64-bit longs. */
1171
1172 #define DIGITS_11(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_10 ((figure) / 10)
1173 #define DIGITS_12(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_11 ((figure) / 10)
1174 #define DIGITS_13(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_12 ((figure) / 10)
1175 #define DIGITS_14(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_13 ((figure) / 10)
1176 #define DIGITS_15(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_14 ((figure) / 10)
1177 #define DIGITS_16(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_15 ((figure) / 10)
1178 #define DIGITS_17(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_16 ((figure) / 10)
1179 #define DIGITS_18(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_17 ((figure) / 10)
1180 #define DIGITS_19(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_18 ((figure) / 10)
1181
1182 /* Print NUMBER to BUFFER in base 10.  This should be completely
1183    equivalent to `sprintf(buffer, "%ld", number)', only much faster.
1184
1185    The speedup may make a difference in programs that frequently
1186    convert numbers to strings.  Some implementations of sprintf,
1187    particularly the one in GNU libc, have been known to be extremely
1188    slow compared to this function.
1189
1190    Return the pointer to the location where the terminating zero was
1191    printed.  (Equivalent to calling buffer+strlen(buffer) after the
1192    function is done.)
1193
1194    BUFFER should be big enough to accept as many bytes as you expect
1195    the number to take up.  On machines with 64-bit longs the maximum
1196    needed size is 24 bytes.  That includes the digits needed for the
1197    largest 64-bit number, the `-' sign in case it's negative, and the
1198    terminating '\0'.  */
1199
1200 char *
1201 number_to_string (char *buffer, long number)
1202 {
1203   char *p = buffer;
1204   long n = number;
1205
1206 #if (SIZEOF_LONG != 4) && (SIZEOF_LONG != 8)
1207   /* We are running in a strange or misconfigured environment.  Let
1208      sprintf cope with it.  */
1209   sprintf (buffer, "%ld", n);
1210   p += strlen (buffer);
1211 #else  /* (SIZEOF_LONG == 4) || (SIZEOF_LONG == 8) */
1212
1213   if (n < 0)
1214     {
1215       if (n < -INT_MAX)
1216         {
1217           /* We cannot print a '-' and assign -n to n because -n would
1218              overflow.  Let sprintf deal with this border case.  */
1219           sprintf (buffer, "%ld", n);
1220           p += strlen (buffer);
1221           return p;
1222         }
1223
1224       *p++ = '-';
1225       n = -n;
1226     }
1227
1228   if      (n < 10)                   { DIGITS_1 (1); }
1229   else if (n < 100)                  { DIGITS_2 (10); }
1230   else if (n < 1000)                 { DIGITS_3 (100); }
1231   else if (n < 10000)                { DIGITS_4 (1000); }
1232   else if (n < 100000)               { DIGITS_5 (10000); }
1233   else if (n < 1000000)              { DIGITS_6 (100000); }
1234   else if (n < 10000000)             { DIGITS_7 (1000000); }
1235   else if (n < 100000000)            { DIGITS_8 (10000000); }
1236   else if (n < 1000000000)           { DIGITS_9 (100000000); }
1237 #if SIZEOF_LONG == 4
1238   /* ``if (1)'' serves only to preserve editor indentation. */
1239   else if (1)                        { DIGITS_10 (1000000000); }
1240 #else  /* SIZEOF_LONG != 4 */
1241   else if (n < 10000000000L)         { DIGITS_10 (1000000000L); }
1242   else if (n < 100000000000L)        { DIGITS_11 (10000000000L); }
1243   else if (n < 1000000000000L)       { DIGITS_12 (100000000000L); }
1244   else if (n < 10000000000000L)      { DIGITS_13 (1000000000000L); }
1245   else if (n < 100000000000000L)     { DIGITS_14 (10000000000000L); }
1246   else if (n < 1000000000000000L)    { DIGITS_15 (100000000000000L); }
1247   else if (n < 10000000000000000L)   { DIGITS_16 (1000000000000000L); }
1248   else if (n < 100000000000000000L)  { DIGITS_17 (10000000000000000L); }
1249   else if (n < 1000000000000000000L) { DIGITS_18 (100000000000000000L); }
1250   else                               { DIGITS_19 (1000000000000000000L); }
1251 #endif /* SIZEOF_LONG != 4 */
1252
1253   *p = '\0';
1254 #endif /* (SIZEOF_LONG == 4) || (SIZEOF_LONG == 8) */
1255
1256   return p;
1257 }
1258
1259 #undef ONE_DIGIT
1260 #undef ONE_DIGIT_ADVANCE
1261
1262 #undef DIGITS_1
1263 #undef DIGITS_2
1264 #undef DIGITS_3
1265 #undef DIGITS_4
1266 #undef DIGITS_5
1267 #undef DIGITS_6
1268 #undef DIGITS_7
1269 #undef DIGITS_8
1270 #undef DIGITS_9
1271 #undef DIGITS_10
1272 #undef DIGITS_11
1273 #undef DIGITS_12
1274 #undef DIGITS_13
1275 #undef DIGITS_14
1276 #undef DIGITS_15
1277 #undef DIGITS_16
1278 #undef DIGITS_17
1279 #undef DIGITS_18
1280 #undef DIGITS_19
1281 \f
1282 /* Support for timers. */
1283
1284 #undef TIMER_WINDOWS
1285 #undef TIMER_GETTIMEOFDAY
1286 #undef TIMER_TIME
1287
1288 /* Depending on the OS and availability of gettimeofday(), one and
1289    only one of the above constants will be defined.  Virtually all
1290    modern Unix systems will define TIMER_GETTIMEOFDAY; Windows will
1291    use TIMER_WINDOWS.  TIMER_TIME is a catch-all method for
1292    non-Windows systems without gettimeofday.
1293
1294    #### Perhaps we should also support ftime(), which exists on old
1295    BSD 4.2-influenced systems?  (It also existed under MS DOS Borland
1296    C, if memory serves me.)  */
1297
1298 #ifdef WINDOWS
1299 # define TIMER_WINDOWS
1300 #else  /* not WINDOWS */
1301 # ifdef HAVE_GETTIMEOFDAY
1302 #  define TIMER_GETTIMEOFDAY
1303 # else
1304 #  define TIMER_TIME
1305 # endif
1306 #endif /* not WINDOWS */
1307
1308 #ifdef TIMER_GETTIMEOFDAY
1309 typedef struct timeval wget_sys_time;
1310 #endif
1311
1312 #ifdef TIMER_TIME
1313 typedef time_t wget_sys_time;
1314 #endif
1315
1316 #ifdef TIMER_WINDOWS
1317 typedef ULARGE_INTEGER wget_sys_time;
1318 #endif
1319
1320 struct wget_timer {
1321   /* Whether the start time has been initialized. */
1322   int initialized;
1323
1324   /* The starting point in time which, subtracted from the current
1325      time, yields elapsed time. */
1326   wget_sys_time start;
1327
1328   /* The most recent elapsed time, calculated by wtimer_elapsed().
1329      Measured in milliseconds.  */
1330   double elapsed_last;
1331
1332   /* Approximately, the time elapsed between the true start of the
1333      measurement and the time represented by START.  */
1334   double elapsed_pre_start;
1335 };
1336
1337 /* Allocate a timer.  Calling wtimer_read on the timer will return
1338    zero.  It is not legal to call wtimer_update with a freshly
1339    allocated timer -- use wtimer_reset first.  */
1340
1341 struct wget_timer *
1342 wtimer_allocate (void)
1343 {
1344   struct wget_timer *wt = xnew (struct wget_timer);
1345   xzero (*wt);
1346   return wt;
1347 }
1348
1349 /* Allocate a new timer and reset it.  Return the new timer. */
1350
1351 struct wget_timer *
1352 wtimer_new (void)
1353 {
1354   struct wget_timer *wt = wtimer_allocate ();
1355   wtimer_reset (wt);
1356   return wt;
1357 }
1358
1359 /* Free the resources associated with the timer.  Its further use is
1360    prohibited.  */
1361
1362 void
1363 wtimer_delete (struct wget_timer *wt)
1364 {
1365   xfree (wt);
1366 }
1367
1368 /* Store system time to WST.  */
1369
1370 static void
1371 wtimer_sys_set (wget_sys_time *wst)
1372 {
1373 #ifdef TIMER_GETTIMEOFDAY
1374   gettimeofday (wst, NULL);
1375 #endif
1376
1377 #ifdef TIMER_TIME
1378   time (wst);
1379 #endif
1380
1381 #ifdef TIMER_WINDOWS
1382   /* We use GetSystemTime to get the elapsed time.  MSDN warns that
1383      system clock adjustments can skew the output of GetSystemTime
1384      when used as a timer and gives preference to GetTickCount and
1385      high-resolution timers.  But GetTickCount can overflow, and hires
1386      timers are typically used for profiling, not for regular time
1387      measurement.  Since we handle clock skew anyway, we just use
1388      GetSystemTime.  */
1389   FILETIME ft;
1390   SYSTEMTIME st;
1391   GetSystemTime (&st);
1392
1393   /* As recommended by MSDN, we convert SYSTEMTIME to FILETIME, copy
1394      FILETIME to ULARGE_INTEGER, and use regular 64-bit integer
1395      arithmetic on that.  */
1396   SystemTimeToFileTime (&st, &ft);
1397   wst->HighPart = ft.dwHighDateTime;
1398   wst->LowPart  = ft.dwLowDateTime;
1399 #endif
1400 }
1401
1402 /* Reset timer WT.  This establishes the starting point from which
1403    wtimer_elapsed() will return the number of elapsed milliseconds.
1404    It is allowed to reset a previously used timer.
1405
1406    If a non-zero value is used as START, the timer's values will be
1407    offset by START.  */
1408
1409 void
1410 wtimer_reset (struct wget_timer *wt)
1411 {
1412   /* Set the start time to the current time. */
1413   wtimer_sys_set (&wt->start);
1414   wt->elapsed_last = 0;
1415   wt->elapsed_pre_start = 0;
1416   wt->initialized = 1;
1417 }
1418
1419 static double
1420 wtimer_sys_diff (wget_sys_time *wst1, wget_sys_time *wst2)
1421 {
1422 #ifdef TIMER_GETTIMEOFDAY
1423   return ((double)(wst1->tv_sec - wst2->tv_sec) * 1000
1424           + (double)(wst1->tv_usec - wst2->tv_usec) / 1000);
1425 #endif
1426
1427 #ifdef TIMER_TIME
1428   return 1000 * (*wst1 - *wst2);
1429 #endif
1430
1431 #ifdef WINDOWS
1432   /* VC++ 6 doesn't support direct cast of uint64 to double.  To work
1433      around this, we subtract, then convert to signed, then finally to
1434      double.  */
1435   return (double)(signed __int64)(wst1->QuadPart - wst2->QuadPart) / 10000;
1436 #endif
1437 }
1438
1439 /* Update the timer's elapsed interval.  This function causes the
1440    timer to call gettimeofday (or time(), etc.) to update its idea of
1441    current time.  To get the elapsed interval in milliseconds, use
1442    wtimer_read.
1443
1444    This function handles clock skew, i.e. time that moves backwards is
1445    ignored.  */
1446
1447 void
1448 wtimer_update (struct wget_timer *wt)
1449 {
1450   wget_sys_time now;
1451   double elapsed;
1452
1453   assert (wt->initialized != 0);
1454
1455   wtimer_sys_set (&now);
1456   elapsed = wt->elapsed_pre_start + wtimer_sys_diff (&now, &wt->start);
1457
1458   /* Ideally we'd just return the difference between NOW and
1459      wt->start.  However, the system timer can be set back, and we
1460      could return a value smaller than when we were last called, even
1461      a negative value.  Both of these would confuse the callers, which
1462      expect us to return monotonically nondecreasing values.
1463
1464      Therefore: if ELAPSED is smaller than its previous known value,
1465      we reset wt->start to the current time and effectively start
1466      measuring from this point.  But since we don't want the elapsed
1467      value to start from zero, we set elapsed_pre_start to the last
1468      elapsed time and increment all future calculations by that
1469      amount.  */
1470
1471   if (elapsed < wt->elapsed_last)
1472     {
1473       wt->start = now;
1474       wt->elapsed_pre_start = wt->elapsed_last;
1475       elapsed = wt->elapsed_last;
1476     }
1477
1478   wt->elapsed_last = elapsed;
1479 }
1480
1481 /* Return the elapsed time in milliseconds between the last call to
1482    wtimer_reset and the last call to wtimer_update.
1483
1484    A typical use of the timer interface would be:
1485
1486        struct wtimer *timer = wtimer_new ();
1487        ... do something that takes a while ...
1488        wtimer_update ();
1489        double msecs = wtimer_read ();  */
1490
1491 double
1492 wtimer_read (const struct wget_timer *wt)
1493 {
1494   return wt->elapsed_last;
1495 }
1496
1497 /* Return the assessed granularity of the timer implementation, in
1498    milliseconds.  This is used by code that tries to substitute a
1499    better value for timers that have returned zero.  */
1500
1501 double
1502 wtimer_granularity (void)
1503 {
1504 #ifdef TIMER_GETTIMEOFDAY
1505   /* Granularity of gettimeofday varies wildly between architectures.
1506      However, it appears that on modern machines it tends to be better
1507      than 1ms.  Assume 100 usecs.  (Perhaps the configure process
1508      could actually measure this?)  */
1509   return 0.1;
1510 #endif
1511
1512 #ifdef TIMER_TIME
1513   return 1000;
1514 #endif
1515
1516 #ifdef TIMER_WINDOWS
1517   /* According to MSDN, GetSystemTime returns a broken-down time
1518      structure the smallest member of which are milliseconds.  */
1519   return 1;
1520 #endif
1521 }
1522 \f
1523 /* This should probably be at a better place, but it doesn't really
1524    fit into html-parse.c.  */
1525
1526 /* The function returns the pointer to the malloc-ed quoted version of
1527    string s.  It will recognize and quote numeric and special graphic
1528    entities, as per RFC1866:
1529
1530    `&' -> `&amp;'
1531    `<' -> `&lt;'
1532    `>' -> `&gt;'
1533    `"' -> `&quot;'
1534    SP  -> `&#32;'
1535
1536    No other entities are recognized or replaced.  */
1537 char *
1538 html_quote_string (const char *s)
1539 {
1540   const char *b = s;
1541   char *p, *res;
1542   int i;
1543
1544   /* Pass through the string, and count the new size.  */
1545   for (i = 0; *s; s++, i++)
1546     {
1547       if (*s == '&')
1548         i += 4;                 /* `amp;' */
1549       else if (*s == '<' || *s == '>')
1550         i += 3;                 /* `lt;' and `gt;' */
1551       else if (*s == '\"')
1552         i += 5;                 /* `quot;' */
1553       else if (*s == ' ')
1554         i += 4;                 /* #32; */
1555     }
1556   res = (char *)xmalloc (i + 1);
1557   s = b;
1558   for (p = res; *s; s++)
1559     {
1560       switch (*s)
1561         {
1562         case '&':
1563           *p++ = '&';
1564           *p++ = 'a';
1565           *p++ = 'm';
1566           *p++ = 'p';
1567           *p++ = ';';
1568           break;
1569         case '<': case '>':
1570           *p++ = '&';
1571           *p++ = (*s == '<' ? 'l' : 'g');
1572           *p++ = 't';
1573           *p++ = ';';
1574           break;
1575         case '\"':
1576           *p++ = '&';
1577           *p++ = 'q';
1578           *p++ = 'u';
1579           *p++ = 'o';
1580           *p++ = 't';
1581           *p++ = ';';
1582           break;
1583         case ' ':
1584           *p++ = '&';
1585           *p++ = '#';
1586           *p++ = '3';
1587           *p++ = '2';
1588           *p++ = ';';
1589           break;
1590         default:
1591           *p++ = *s;
1592         }
1593     }
1594   *p = '\0';
1595   return res;
1596 }
1597
1598 /* Determine the width of the terminal we're running on.  If that's
1599    not possible, return 0.  */
1600
1601 int
1602 determine_screen_width (void)
1603 {
1604   /* If there's a way to get the terminal size using POSIX
1605      tcgetattr(), somebody please tell me.  */
1606 #ifndef TIOCGWINSZ
1607   return 0;
1608 #else  /* TIOCGWINSZ */
1609   int fd;
1610   struct winsize wsz;
1611
1612   if (opt.lfilename != NULL)
1613     return 0;
1614
1615   fd = fileno (stderr);
1616   if (ioctl (fd, TIOCGWINSZ, &wsz) < 0)
1617     return 0;                   /* most likely ENOTTY */
1618
1619   return wsz.ws_col;
1620 #endif /* TIOCGWINSZ */
1621 }
1622
1623 /* Return a random number between 0 and MAX-1, inclusive.
1624
1625    If MAX is greater than the value of RAND_MAX+1 on the system, the
1626    returned value will be in the range [0, RAND_MAX].  This may be
1627    fixed in a future release.
1628
1629    The random number generator is seeded automatically the first time
1630    it is called.
1631
1632    This uses rand() for portability.  It has been suggested that
1633    random() offers better randomness, but this is not required for
1634    Wget, so I chose to go for simplicity and use rand
1635    unconditionally.
1636
1637    DO NOT use this for cryptographic purposes.  It is only meant to be
1638    used in situations where quality of the random numbers returned
1639    doesn't really matter.  */
1640
1641 int
1642 random_number (int max)
1643 {
1644   static int seeded;
1645   double bounded;
1646   int rnd;
1647
1648   if (!seeded)
1649     {
1650       srand (time (NULL));
1651       seeded = 1;
1652     }
1653   rnd = rand ();
1654
1655   /* On systems that don't define RAND_MAX, assume it to be 2**15 - 1,
1656      and enforce that assumption by masking other bits.  */
1657 #ifndef RAND_MAX
1658 # define RAND_MAX 32767
1659   rnd &= RAND_MAX;
1660 #endif
1661
1662   /* This is equivalent to rand() % max, but uses the high-order bits
1663      for better randomness on architecture where rand() is implemented
1664      using a simple congruential generator.  */
1665
1666   bounded = (double)max * rnd / (RAND_MAX + 1.0);
1667   return (int)bounded;
1668 }
1669
1670 /* Return a random uniformly distributed floating point number in the
1671    [0, 1) range.  The precision of returned numbers is 9 digits.
1672
1673    Modify this to use erand48() where available!  */
1674
1675 double
1676 random_float (void)
1677 {
1678   /* We can't rely on any specific value of RAND_MAX, but I'm pretty
1679      sure it's greater than 1000.  */
1680   int rnd1 = random_number (1000);
1681   int rnd2 = random_number (1000);
1682   int rnd3 = random_number (1000);
1683   return rnd1 / 1000.0 + rnd2 / 1000000.0 + rnd3 / 1000000000.0;
1684 }
1685
1686 #if 0
1687 /* A debugging function for checking whether an MD5 library works. */
1688
1689 #include "gen-md5.h"
1690
1691 char *
1692 debug_test_md5 (char *buf)
1693 {
1694   unsigned char raw[16];
1695   static char res[33];
1696   unsigned char *p1;
1697   char *p2;
1698   int cnt;
1699   ALLOCA_MD5_CONTEXT (ctx);
1700
1701   gen_md5_init (ctx);
1702   gen_md5_update ((unsigned char *)buf, strlen (buf), ctx);
1703   gen_md5_finish (ctx, raw);
1704
1705   p1 = raw;
1706   p2 = res;
1707   cnt = 16;
1708   while (cnt--)
1709     {
1710       *p2++ = XNUM_TO_digit (*p1 >> 4);
1711       *p2++ = XNUM_TO_digit (*p1 & 0xf);
1712       ++p1;
1713     }
1714   *p2 = '\0';
1715
1716   return res;
1717 }
1718 #endif
1719 \f
1720 /* Implementation of run_with_timeout, a generic timeout-forcing
1721    routine for systems with Unix-like signal handling.  */
1722
1723 #ifdef USE_SIGNAL_TIMEOUT
1724 # ifdef HAVE_SIGSETJMP
1725 #  define SETJMP(env) sigsetjmp (env, 1)
1726
1727 static sigjmp_buf run_with_timeout_env;
1728
1729 static RETSIGTYPE
1730 abort_run_with_timeout (int sig)
1731 {
1732   assert (sig == SIGALRM);
1733   siglongjmp (run_with_timeout_env, -1);
1734 }
1735 # else /* not HAVE_SIGSETJMP */
1736 #  define SETJMP(env) setjmp (env)
1737
1738 static jmp_buf run_with_timeout_env;
1739
1740 static RETSIGTYPE
1741 abort_run_with_timeout (int sig)
1742 {
1743   assert (sig == SIGALRM);
1744   /* We don't have siglongjmp to preserve the set of blocked signals;
1745      if we longjumped out of the handler at this point, SIGALRM would
1746      remain blocked.  We must unblock it manually. */
1747   int mask = siggetmask ();
1748   mask &= ~sigmask (SIGALRM);
1749   sigsetmask (mask);
1750
1751   /* Now it's safe to longjump. */
1752   longjmp (run_with_timeout_env, -1);
1753 }
1754 # endif /* not HAVE_SIGSETJMP */
1755
1756 /* Arrange for SIGALRM to be delivered in TIMEOUT seconds.  This uses
1757    setitimer where available, alarm otherwise.
1758
1759    TIMEOUT should be non-zero.  If the timeout value is so small that
1760    it would be rounded to zero, it is rounded to the least legal value
1761    instead (1us for setitimer, 1s for alarm).  That ensures that
1762    SIGALRM will be delivered in all cases.  */
1763
1764 static void
1765 alarm_set (double timeout)
1766 {
1767 #ifdef ITIMER_REAL
1768   /* Use the modern itimer interface. */
1769   struct itimerval itv;
1770   xzero (itv);
1771   itv.it_value.tv_sec = (long) timeout;
1772   itv.it_value.tv_usec = 1000000L * (timeout - (long)timeout);
1773   if (itv.it_value.tv_sec == 0 && itv.it_value.tv_usec == 0)
1774     /* Ensure that we wait for at least the minimum interval.
1775        Specifying zero would mean "wait forever".  */
1776     itv.it_value.tv_usec = 1;
1777   setitimer (ITIMER_REAL, &itv, NULL);
1778 #else  /* not ITIMER_REAL */
1779   /* Use the old alarm() interface. */
1780   int secs = (int) timeout;
1781   if (secs == 0)
1782     /* Round TIMEOUTs smaller than 1 to 1, not to zero.  This is
1783        because alarm(0) means "never deliver the alarm", i.e. "wait
1784        forever", which is not what someone who specifies a 0.5s
1785        timeout would expect.  */
1786     secs = 1;
1787   alarm (secs);
1788 #endif /* not ITIMER_REAL */
1789 }
1790
1791 /* Cancel the alarm set with alarm_set. */
1792
1793 static void
1794 alarm_cancel (void)
1795 {
1796 #ifdef ITIMER_REAL
1797   struct itimerval disable;
1798   xzero (disable);
1799   setitimer (ITIMER_REAL, &disable, NULL);
1800 #else  /* not ITIMER_REAL */
1801   alarm (0);
1802 #endif /* not ITIMER_REAL */
1803 }
1804
1805 /* Call FUN(ARG), but don't allow it to run for more than TIMEOUT
1806    seconds.  Returns non-zero if the function was interrupted with a
1807    timeout, zero otherwise.
1808
1809    This works by setting up SIGALRM to be delivered in TIMEOUT seconds
1810    using setitimer() or alarm().  The timeout is enforced by
1811    longjumping out of the SIGALRM handler.  This has several
1812    advantages compared to the traditional approach of relying on
1813    signals causing system calls to exit with EINTR:
1814
1815      * The callback function is *forcibly* interrupted after the
1816        timeout expires, (almost) regardless of what it was doing and
1817        whether it was in a syscall.  For example, a calculation that
1818        takes a long time is interrupted as reliably as an IO
1819        operation.
1820
1821      * It works with both SYSV and BSD signals because it doesn't
1822        depend on the default setting of SA_RESTART.
1823
1824      * It doesn't special handler setup beyond a simple call to
1825        signal().  (It does use sigsetjmp/siglongjmp, but they're
1826        optional.)
1827
1828    The only downside is that, if FUN allocates internal resources that
1829    are normally freed prior to exit from the functions, they will be
1830    lost in case of timeout.  */
1831
1832 int
1833 run_with_timeout (double timeout, void (*fun) (void *), void *arg)
1834 {
1835   int saved_errno;
1836
1837   if (timeout == 0)
1838     {
1839       fun (arg);
1840       return 0;
1841     }
1842
1843   signal (SIGALRM, abort_run_with_timeout);
1844   if (SETJMP (run_with_timeout_env) != 0)
1845     {
1846       /* Longjumped out of FUN with a timeout. */
1847       signal (SIGALRM, SIG_DFL);
1848       return 1;
1849     }
1850   alarm_set (timeout);
1851   fun (arg);
1852
1853   /* Preserve errno in case alarm() or signal() modifies it. */
1854   saved_errno = errno;
1855   alarm_cancel ();
1856   signal (SIGALRM, SIG_DFL);
1857   errno = saved_errno;
1858
1859   return 0;
1860 }
1861
1862 #else  /* not USE_SIGNAL_TIMEOUT */
1863
1864 #ifndef WINDOWS
1865 /* A stub version of run_with_timeout that just calls FUN(ARG).  Don't
1866    define it under Windows, because Windows has its own version of
1867    run_with_timeout that uses threads.  */
1868
1869 int
1870 run_with_timeout (double timeout, void (*fun) (void *), void *arg)
1871 {
1872   fun (arg);
1873   return 0;
1874 }
1875 #endif /* not WINDOWS */
1876 #endif /* not USE_SIGNAL_TIMEOUT */
1877 \f
1878 #ifndef WINDOWS
1879
1880 /* Sleep the specified amount of seconds.  On machines without
1881    nanosleep(), this may sleep shorter if interrupted by signals.  */
1882
1883 void
1884 xsleep (double seconds)
1885 {
1886 #ifdef HAVE_NANOSLEEP
1887   /* nanosleep is the preferred interface because it offers high
1888      accuracy and, more importantly, because it allows us to reliably
1889      restart after having been interrupted by a signal such as
1890      SIGWINCH.  */
1891   struct timespec sleep, remaining;
1892   sleep.tv_sec = (long) seconds;
1893   sleep.tv_nsec = 1000000000L * (seconds - (long) seconds);
1894   while (nanosleep (&sleep, &remaining) < 0 && errno == EINTR)
1895     /* If nanosleep has been interrupted by a signal, adjust the
1896        sleeping period and return to sleep.  */
1897     sleep = remaining;
1898 #else  /* not HAVE_NANOSLEEP */
1899 #ifdef HAVE_USLEEP
1900   /* If usleep is available, use it in preference to select.  */
1901   if (seconds > 1000)
1902     {
1903       /* usleep apparently accepts unsigned long, which means it can't
1904          sleep longer than ~70 min (35min if signed).  If the period
1905          is larger than what usleep can safely handle, use sleep
1906          first, then add usleep for subsecond accuracy.  */
1907       sleep (seconds);
1908       seconds -= (long) seconds;
1909     }
1910   usleep (seconds * 1000000L);
1911 #else  /* not HAVE_USLEEP */
1912 #ifdef HAVE_SELECT
1913   struct timeval sleep;
1914   sleep.tv_sec = (long) seconds;
1915   sleep.tv_usec = 1000000L * (seconds - (long) seconds);
1916   select (0, NULL, NULL, NULL, &sleep);
1917   /* If select returns -1 and errno is EINTR, it means we were
1918      interrupted by a signal.  But without knowing how long we've
1919      actually slept, we can't return to sleep.  Using gettimeofday to
1920      track sleeps is slow and unreliable due to clock skew.  */
1921 #else  /* not HAVE_SELECT */
1922   sleep (seconds);
1923 #endif /* not HAVE_SELECT */
1924 #endif /* not HAVE_USLEEP */
1925 #endif /* not HAVE_NANOSLEEP */
1926 }
1927
1928 #endif /* not WINDOWS */