]> sjero.net Git - wget/blob - src/utils.c
7a9ca64260acbb3eeb5d6ded979bb869d8f39641
[wget] / src / utils.c
1 /* Various utility functions.
2    Copyright (C) 2003 Free Software Foundation, Inc.
3
4 This file is part of GNU Wget.
5
6 GNU Wget is free software; you can redistribute it and/or modify
7 it under the terms of the GNU General Public License as published by
8 the Free Software Foundation; either version 2 of the License, or
9 (at your option) any later version.
10
11 GNU Wget is distributed in the hope that it will be useful,
12 but WITHOUT ANY WARRANTY; without even the implied warranty of
13 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14 GNU General Public License for more details.
15
16 You should have received a copy of the GNU General Public License
17 along with Wget; if not, write to the Free Software
18 Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
19
20 In addition, as a special exception, the Free Software Foundation
21 gives permission to link the code of its release of Wget with the
22 OpenSSL project's "OpenSSL" library (or with modified versions of it
23 that use the same license as the "OpenSSL" library), and distribute
24 the linked executables.  You must obey the GNU General Public License
25 in all respects for all of the code used other than "OpenSSL".  If you
26 modify this file, you may extend this exception to your version of the
27 file, but you are not obligated to do so.  If you do not wish to do
28 so, delete this exception statement from your version.  */
29
30 #include <config.h>
31
32 #include <stdio.h>
33 #include <stdlib.h>
34 #ifdef HAVE_STRING_H
35 # include <string.h>
36 #else  /* not HAVE_STRING_H */
37 # include <strings.h>
38 #endif /* not HAVE_STRING_H */
39 #include <sys/types.h>
40 #ifdef HAVE_UNISTD_H
41 # include <unistd.h>
42 #endif
43 #ifdef HAVE_MMAP
44 # include <sys/mman.h>
45 #endif
46 #ifdef HAVE_PWD_H
47 # include <pwd.h>
48 #endif
49 #include <limits.h>
50 #ifdef HAVE_UTIME_H
51 # include <utime.h>
52 #endif
53 #ifdef HAVE_SYS_UTIME_H
54 # include <sys/utime.h>
55 #endif
56 #include <errno.h>
57 #ifdef NeXT
58 # include <libc.h>              /* for access() */
59 #endif
60 #include <fcntl.h>
61 #include <assert.h>
62
63 /* For TIOCGWINSZ and friends: */
64 #ifdef HAVE_SYS_IOCTL_H
65 # include <sys/ioctl.h>
66 #endif
67 #ifdef HAVE_TERMIOS_H
68 # include <termios.h>
69 #endif
70
71 /* Needed for run_with_timeout. */
72 #undef USE_SIGNAL_TIMEOUT
73 #ifdef HAVE_SIGNAL_H
74 # include <signal.h>
75 #endif
76 #ifdef HAVE_SETJMP_H
77 # include <setjmp.h>
78 #endif
79
80 #ifndef HAVE_SIGSETJMP
81 /* If sigsetjmp is a macro, configure won't pick it up. */
82 # ifdef sigsetjmp
83 #  define HAVE_SIGSETJMP
84 # endif
85 #endif
86
87 #ifdef HAVE_SIGNAL
88 # ifdef HAVE_SIGSETJMP
89 #  define USE_SIGNAL_TIMEOUT
90 # endif
91 # ifdef HAVE_SIGBLOCK
92 #  define USE_SIGNAL_TIMEOUT
93 # endif
94 #endif
95
96 #include "wget.h"
97 #include "utils.h"
98 #include "hash.h"
99
100 #ifndef errno
101 extern int errno;
102 #endif
103
104 /* Utility function: like xstrdup(), but also lowercases S.  */
105
106 char *
107 xstrdup_lower (const char *s)
108 {
109   char *copy = xstrdup (s);
110   char *p = copy;
111   for (; *p; p++)
112     *p = TOLOWER (*p);
113   return copy;
114 }
115
116 /* Return a count of how many times CHR occurs in STRING. */
117
118 int
119 count_char (const char *string, char chr)
120 {
121   const char *p;
122   int count = 0;
123   for (p = string; *p; p++)
124     if (*p == chr)
125       ++count;
126   return count;
127 }
128
129 /* Copy the string formed by two pointers (one on the beginning, other
130    on the char after the last char) to a new, malloc-ed location.
131    0-terminate it.  */
132 char *
133 strdupdelim (const char *beg, const char *end)
134 {
135   char *res = (char *)xmalloc (end - beg + 1);
136   memcpy (res, beg, end - beg);
137   res[end - beg] = '\0';
138   return res;
139 }
140
141 /* Parse a string containing comma-separated elements, and return a
142    vector of char pointers with the elements.  Spaces following the
143    commas are ignored.  */
144 char **
145 sepstring (const char *s)
146 {
147   char **res;
148   const char *p;
149   int i = 0;
150
151   if (!s || !*s)
152     return NULL;
153   res = NULL;
154   p = s;
155   while (*s)
156     {
157       if (*s == ',')
158         {
159           res = (char **)xrealloc (res, (i + 2) * sizeof (char *));
160           res[i] = strdupdelim (p, s);
161           res[++i] = NULL;
162           ++s;
163           /* Skip the blanks following the ','.  */
164           while (ISSPACE (*s))
165             ++s;
166           p = s;
167         }
168       else
169         ++s;
170     }
171   res = (char **)xrealloc (res, (i + 2) * sizeof (char *));
172   res[i] = strdupdelim (p, s);
173   res[i + 1] = NULL;
174   return res;
175 }
176 \f
177 /* Return pointer to a static char[] buffer in which zero-terminated
178    string-representation of TM (in form hh:mm:ss) is printed.
179
180    If TM is non-NULL, the current time-in-seconds will be stored
181    there.
182
183    (#### This is misleading: one would expect TM would be used instead
184    of the current time in that case.  This design was probably
185    influenced by the design time(2), and should be changed at some
186    points.  No callers use non-NULL TM anyway.)  */
187
188 char *
189 time_str (time_t *tm)
190 {
191   static char output[15];
192   struct tm *ptm;
193   time_t secs = time (tm);
194
195   if (secs == -1)
196     {
197       /* In case of error, return the empty string.  Maybe we should
198          just abort if this happens?  */
199       *output = '\0';
200       return output;
201     }
202   ptm = localtime (&secs);
203   sprintf (output, "%02d:%02d:%02d", ptm->tm_hour, ptm->tm_min, ptm->tm_sec);
204   return output;
205 }
206
207 /* Like the above, but include the date: YYYY-MM-DD hh:mm:ss.  */
208
209 char *
210 datetime_str (time_t *tm)
211 {
212   static char output[20];       /* "YYYY-MM-DD hh:mm:ss" + \0 */
213   struct tm *ptm;
214   time_t secs = time (tm);
215
216   if (secs == -1)
217     {
218       /* In case of error, return the empty string.  Maybe we should
219          just abort if this happens?  */
220       *output = '\0';
221       return output;
222     }
223   ptm = localtime (&secs);
224   sprintf (output, "%04d-%02d-%02d %02d:%02d:%02d",
225            ptm->tm_year + 1900, ptm->tm_mon + 1, ptm->tm_mday,
226            ptm->tm_hour, ptm->tm_min, ptm->tm_sec);
227   return output;
228 }
229 \f
230 /* The Windows versions of the following two functions are defined in
231    mswindows.c.  */
232
233 #ifndef WINDOWS
234 void
235 fork_to_background (void)
236 {
237   pid_t pid;
238   /* Whether we arrange our own version of opt.lfilename here.  */
239   int changedp = 0;
240
241   if (!opt.lfilename)
242     {
243       opt.lfilename = unique_name (DEFAULT_LOGFILE, 0);
244       changedp = 1;
245     }
246   pid = fork ();
247   if (pid < 0)
248     {
249       /* parent, error */
250       perror ("fork");
251       exit (1);
252     }
253   else if (pid != 0)
254     {
255       /* parent, no error */
256       printf (_("Continuing in background, pid %d.\n"), (int)pid);
257       if (changedp)
258         printf (_("Output will be written to `%s'.\n"), opt.lfilename);
259       exit (0);                 /* #### should we use _exit()? */
260     }
261
262   /* child: give up the privileges and keep running. */
263   setsid ();
264   freopen ("/dev/null", "r", stdin);
265   freopen ("/dev/null", "w", stdout);
266   freopen ("/dev/null", "w", stderr);
267 }
268 #endif /* not WINDOWS */
269 \f
270 /* "Touch" FILE, i.e. make its atime and mtime equal to the time
271    specified with TM.  */
272 void
273 touch (const char *file, time_t tm)
274 {
275 #ifdef HAVE_STRUCT_UTIMBUF
276   struct utimbuf times;
277   times.actime = times.modtime = tm;
278 #else
279   time_t times[2];
280   times[0] = times[1] = tm;
281 #endif
282
283   if (utime (file, &times) == -1)
284     logprintf (LOG_NOTQUIET, "utime(%s): %s\n", file, strerror (errno));
285 }
286
287 /* Checks if FILE is a symbolic link, and removes it if it is.  Does
288    nothing under MS-Windows.  */
289 int
290 remove_link (const char *file)
291 {
292   int err = 0;
293   struct stat st;
294
295   if (lstat (file, &st) == 0 && S_ISLNK (st.st_mode))
296     {
297       DEBUGP (("Unlinking %s (symlink).\n", file));
298       err = unlink (file);
299       if (err != 0)
300         logprintf (LOG_VERBOSE, _("Failed to unlink symlink `%s': %s\n"),
301                    file, strerror (errno));
302     }
303   return err;
304 }
305
306 /* Does FILENAME exist?  This is quite a lousy implementation, since
307    it supplies no error codes -- only a yes-or-no answer.  Thus it
308    will return that a file does not exist if, e.g., the directory is
309    unreadable.  I don't mind it too much currently, though.  The
310    proper way should, of course, be to have a third, error state,
311    other than true/false, but that would introduce uncalled-for
312    additional complexity to the callers.  */
313 int
314 file_exists_p (const char *filename)
315 {
316 #ifdef HAVE_ACCESS
317   return access (filename, F_OK) >= 0;
318 #else
319   struct stat buf;
320   return stat (filename, &buf) >= 0;
321 #endif
322 }
323
324 /* Returns 0 if PATH is a directory, 1 otherwise (any kind of file).
325    Returns 0 on error.  */
326 int
327 file_non_directory_p (const char *path)
328 {
329   struct stat buf;
330   /* Use lstat() rather than stat() so that symbolic links pointing to
331      directories can be identified correctly.  */
332   if (lstat (path, &buf) != 0)
333     return 0;
334   return S_ISDIR (buf.st_mode) ? 0 : 1;
335 }
336
337 /* Return the size of file named by FILENAME, or -1 if it cannot be
338    opened or seeked into. */
339 long
340 file_size (const char *filename)
341 {
342   long size;
343   /* We use fseek rather than stat to determine the file size because
344      that way we can also verify whether the file is readable.
345      Inspired by the POST patch by Arnaud Wylie.  */
346   FILE *fp = fopen (filename, "rb");
347   if (!fp)
348     return -1;
349   fseek (fp, 0, SEEK_END);
350   size = ftell (fp);
351   fclose (fp);
352   return size;
353 }
354
355 /* stat file names named PREFIX.1, PREFIX.2, etc., until one that
356    doesn't exist is found.  Return a freshly allocated copy of the
357    unused file name.  */
358
359 static char *
360 unique_name_1 (const char *prefix)
361 {
362   int count = 1;
363   int plen = strlen (prefix);
364   char *template = (char *)alloca (plen + 1 + 24);
365   char *template_tail = template + plen;
366
367   memcpy (template, prefix, plen);
368   *template_tail++ = '.';
369
370   do
371     number_to_string (template_tail, count++);
372   while (file_exists_p (template));
373
374   return xstrdup (template);
375 }
376
377 /* Return a unique file name, based on FILE.
378
379    More precisely, if FILE doesn't exist, it is returned unmodified.
380    If not, FILE.1 is tried, then FILE.2, etc.  The first FILE.<number>
381    file name that doesn't exist is returned.
382
383    The resulting file is not created, only verified that it didn't
384    exist at the point in time when the function was called.
385    Therefore, where security matters, don't rely that the file created
386    by this function exists until you open it with O_EXCL or
387    something.
388
389    If ALLOW_PASSTHROUGH is 0, it always returns a freshly allocated
390    string.  Otherwise, it may return FILE if the file doesn't exist
391    (and therefore doesn't need changing).  */
392
393 char *
394 unique_name (const char *file, int allow_passthrough)
395 {
396   /* If the FILE itself doesn't exist, return it without
397      modification. */
398   if (!file_exists_p (file))
399     return allow_passthrough ? (char *)file : xstrdup (file);
400
401   /* Otherwise, find a numeric suffix that results in unused file name
402      and return it.  */
403   return unique_name_1 (file);
404 }
405 \f
406 /* Create DIRECTORY.  If some of the pathname components of DIRECTORY
407    are missing, create them first.  In case any mkdir() call fails,
408    return its error status.  Returns 0 on successful completion.
409
410    The behaviour of this function should be identical to the behaviour
411    of `mkdir -p' on systems where mkdir supports the `-p' option.  */
412 int
413 make_directory (const char *directory)
414 {
415   int quit = 0;
416   int i;
417   int ret = 0;
418   char *dir;
419
420   /* Make a copy of dir, to be able to write to it.  Otherwise, the
421      function is unsafe if called with a read-only char *argument.  */
422   STRDUP_ALLOCA (dir, directory);
423
424   /* If the first character of dir is '/', skip it (and thus enable
425      creation of absolute-pathname directories.  */
426   for (i = (*dir == '/'); 1; ++i)
427     {
428       for (; dir[i] && dir[i] != '/'; i++)
429         ;
430       if (!dir[i])
431         quit = 1;
432       dir[i] = '\0';
433       /* Check whether the directory already exists.  Allow creation of
434          of intermediate directories to fail, as the initial path components
435          are not necessarily directories!  */
436       if (!file_exists_p (dir))
437         ret = mkdir (dir, 0777);
438       else
439         ret = 0;
440       if (quit)
441         break;
442       else
443         dir[i] = '/';
444     }
445   return ret;
446 }
447
448 /* Merge BASE with FILE.  BASE can be a directory or a file name, FILE
449    should be a file name.
450
451    file_merge("/foo/bar", "baz")  => "/foo/baz"
452    file_merge("/foo/bar/", "baz") => "/foo/bar/baz"
453    file_merge("foo", "bar")       => "bar"
454
455    In other words, it's a simpler and gentler version of uri_merge_1.  */
456
457 char *
458 file_merge (const char *base, const char *file)
459 {
460   char *result;
461   const char *cut = (const char *)strrchr (base, '/');
462
463   if (!cut)
464     return xstrdup (file);
465
466   result = (char *)xmalloc (cut - base + 1 + strlen (file) + 1);
467   memcpy (result, base, cut - base);
468   result[cut - base] = '/';
469   strcpy (result + (cut - base) + 1, file);
470
471   return result;
472 }
473 \f
474 static int in_acclist PARAMS ((const char *const *, const char *, int));
475
476 /* Determine whether a file is acceptable to be followed, according to
477    lists of patterns to accept/reject.  */
478 int
479 acceptable (const char *s)
480 {
481   int l = strlen (s);
482
483   while (l && s[l] != '/')
484     --l;
485   if (s[l] == '/')
486     s += (l + 1);
487   if (opt.accepts)
488     {
489       if (opt.rejects)
490         return (in_acclist ((const char *const *)opt.accepts, s, 1)
491                 && !in_acclist ((const char *const *)opt.rejects, s, 1));
492       else
493         return in_acclist ((const char *const *)opt.accepts, s, 1);
494     }
495   else if (opt.rejects)
496     return !in_acclist ((const char *const *)opt.rejects, s, 1);
497   return 1;
498 }
499
500 /* Compare S1 and S2 frontally; S2 must begin with S1.  E.g. if S1 is
501    `/something', frontcmp() will return 1 only if S2 begins with
502    `/something'.  Otherwise, 0 is returned.  */
503 int
504 frontcmp (const char *s1, const char *s2)
505 {
506   for (; *s1 && *s2 && (*s1 == *s2); ++s1, ++s2);
507   return !*s1;
508 }
509
510 /* Iterate through STRLIST, and return the first element that matches
511    S, through wildcards or front comparison (as appropriate).  */
512 static char *
513 proclist (char **strlist, const char *s, enum accd flags)
514 {
515   char **x;
516
517   for (x = strlist; *x; x++)
518     if (has_wildcards_p (*x))
519       {
520         if (fnmatch (*x, s, FNM_PATHNAME) == 0)
521           break;
522       }
523     else
524       {
525         char *p = *x + ((flags & ALLABS) && (**x == '/')); /* Remove '/' */
526         if (frontcmp (p, s))
527           break;
528       }
529   return *x;
530 }
531
532 /* Returns whether DIRECTORY is acceptable for download, wrt the
533    include/exclude lists.
534
535    If FLAGS is ALLABS, the leading `/' is ignored in paths; relative
536    and absolute paths may be freely intermixed.  */
537 int
538 accdir (const char *directory, enum accd flags)
539 {
540   /* Remove starting '/'.  */
541   if (flags & ALLABS && *directory == '/')
542     ++directory;
543   if (opt.includes)
544     {
545       if (!proclist (opt.includes, directory, flags))
546         return 0;
547     }
548   if (opt.excludes)
549     {
550       if (proclist (opt.excludes, directory, flags))
551         return 0;
552     }
553   return 1;
554 }
555
556 /* Return non-zero if STRING ends with TAIL.  For instance:
557
558    match_tail ("abc", "bc", 0)  -> 1
559    match_tail ("abc", "ab", 0)  -> 0
560    match_tail ("abc", "abc", 0) -> 1
561
562    If FOLD_CASE_P is non-zero, the comparison will be
563    case-insensitive.  */
564
565 int
566 match_tail (const char *string, const char *tail, int fold_case_p)
567 {
568   int i, j;
569
570   /* We want this to be fast, so we code two loops, one with
571      case-folding, one without. */
572
573   if (!fold_case_p)
574     {
575       for (i = strlen (string), j = strlen (tail); i >= 0 && j >= 0; i--, j--)
576         if (string[i] != tail[j])
577           break;
578     }
579   else
580     {
581       for (i = strlen (string), j = strlen (tail); i >= 0 && j >= 0; i--, j--)
582         if (TOLOWER (string[i]) != TOLOWER (tail[j]))
583           break;
584     }
585
586   /* If the tail was exhausted, the match was succesful.  */
587   if (j == -1)
588     return 1;
589   else
590     return 0;
591 }
592
593 /* Checks whether string S matches each element of ACCEPTS.  A list
594    element are matched either with fnmatch() or match_tail(),
595    according to whether the element contains wildcards or not.
596
597    If the BACKWARD is 0, don't do backward comparison -- just compare
598    them normally.  */
599 static int
600 in_acclist (const char *const *accepts, const char *s, int backward)
601 {
602   for (; *accepts; accepts++)
603     {
604       if (has_wildcards_p (*accepts))
605         {
606           /* fnmatch returns 0 if the pattern *does* match the
607              string.  */
608           if (fnmatch (*accepts, s, 0) == 0)
609             return 1;
610         }
611       else
612         {
613           if (backward)
614             {
615               if (match_tail (s, *accepts, 0))
616                 return 1;
617             }
618           else
619             {
620               if (!strcmp (s, *accepts))
621                 return 1;
622             }
623         }
624     }
625   return 0;
626 }
627
628 /* Return the location of STR's suffix (file extension).  Examples:
629    suffix ("foo.bar")       -> "bar"
630    suffix ("foo.bar.baz")   -> "baz"
631    suffix ("/foo/bar")      -> NULL
632    suffix ("/foo.bar/baz")  -> NULL  */
633 char *
634 suffix (const char *str)
635 {
636   int i;
637
638   for (i = strlen (str); i && str[i] != '/' && str[i] != '.'; i--)
639     ;
640
641   if (str[i++] == '.')
642     return (char *)str + i;
643   else
644     return NULL;
645 }
646
647 /* Return non-zero if S contains globbing wildcards (`*', `?', `[' or
648    `]').  */
649
650 int
651 has_wildcards_p (const char *s)
652 {
653   for (; *s; s++)
654     if (*s == '*' || *s == '?' || *s == '[' || *s == ']')
655       return 1;
656   return 0;
657 }
658
659 /* Return non-zero if FNAME ends with a typical HTML suffix.  The
660    following (case-insensitive) suffixes are presumed to be HTML files:
661    
662      html
663      htm
664      ?html (`?' matches one character)
665
666    #### CAVEAT.  This is not necessarily a good indication that FNAME
667    refers to a file that contains HTML!  */
668 int
669 has_html_suffix_p (const char *fname)
670 {
671   char *suf;
672
673   if ((suf = suffix (fname)) == NULL)
674     return 0;
675   if (!strcasecmp (suf, "html"))
676     return 1;
677   if (!strcasecmp (suf, "htm"))
678     return 1;
679   if (suf[0] && !strcasecmp (suf + 1, "html"))
680     return 1;
681   return 0;
682 }
683
684 /* Read a line from FP and return the pointer to freshly allocated
685    storage.  The storage space is obtained through malloc() and should
686    be freed with free() when it is no longer needed.
687
688    The length of the line is not limited, except by available memory.
689    The newline character at the end of line is retained.  The line is
690    terminated with a zero character.
691
692    After end-of-file is encountered without anything being read, NULL
693    is returned.  NULL is also returned on error.  To distinguish
694    between these two cases, use the stdio function ferror().  */
695
696 char *
697 read_whole_line (FILE *fp)
698 {
699   int length = 0;
700   int bufsize = 82;
701   char *line = (char *)xmalloc (bufsize);
702
703   while (fgets (line + length, bufsize - length, fp))
704     {
705       length += strlen (line + length);
706       if (length == 0)
707         /* Possible for example when reading from a binary file where
708            a line begins with \0.  */
709         continue;
710
711       if (line[length - 1] == '\n')
712         break;
713
714       /* fgets() guarantees to read the whole line, or to use up the
715          space we've given it.  We can double the buffer
716          unconditionally.  */
717       bufsize <<= 1;
718       line = xrealloc (line, bufsize);
719     }
720   if (length == 0 || ferror (fp))
721     {
722       xfree (line);
723       return NULL;
724     }
725   if (length + 1 < bufsize)
726     /* Relieve the memory from our exponential greediness.  We say
727        `length + 1' because the terminating \0 is not included in
728        LENGTH.  We don't need to zero-terminate the string ourselves,
729        though, because fgets() does that.  */
730     line = xrealloc (line, length + 1);
731   return line;
732 }
733 \f
734 /* Read FILE into memory.  A pointer to `struct file_memory' are
735    returned; use struct element `content' to access file contents, and
736    the element `length' to know the file length.  `content' is *not*
737    zero-terminated, and you should *not* read or write beyond the [0,
738    length) range of characters.
739
740    After you are done with the file contents, call read_file_free to
741    release the memory.
742
743    Depending on the operating system and the type of file that is
744    being read, read_file() either mmap's the file into memory, or
745    reads the file into the core using read().
746
747    If file is named "-", fileno(stdin) is used for reading instead.
748    If you want to read from a real file named "-", use "./-" instead.  */
749
750 struct file_memory *
751 read_file (const char *file)
752 {
753   int fd;
754   struct file_memory *fm;
755   long size;
756   int inhibit_close = 0;
757
758   /* Some magic in the finest tradition of Perl and its kin: if FILE
759      is "-", just use stdin.  */
760   if (HYPHENP (file))
761     {
762       fd = fileno (stdin);
763       inhibit_close = 1;
764       /* Note that we don't inhibit mmap() in this case.  If stdin is
765          redirected from a regular file, mmap() will still work.  */
766     }
767   else
768     fd = open (file, O_RDONLY);
769   if (fd < 0)
770     return NULL;
771   fm = xmalloc (sizeof (struct file_memory));
772
773 #ifdef HAVE_MMAP
774   {
775     struct stat buf;
776     if (fstat (fd, &buf) < 0)
777       goto mmap_lose;
778     fm->length = buf.st_size;
779     /* NOTE: As far as I know, the callers of this function never
780        modify the file text.  Relying on this would enable us to
781        specify PROT_READ and MAP_SHARED for a marginal gain in
782        efficiency, but at some cost to generality.  */
783     fm->content = mmap (NULL, fm->length, PROT_READ | PROT_WRITE,
784                         MAP_PRIVATE, fd, 0);
785     if (fm->content == (char *)MAP_FAILED)
786       goto mmap_lose;
787     if (!inhibit_close)
788       close (fd);
789
790     fm->mmap_p = 1;
791     return fm;
792   }
793
794  mmap_lose:
795   /* The most common reason why mmap() fails is that FD does not point
796      to a plain file.  However, it's also possible that mmap() doesn't
797      work for a particular type of file.  Therefore, whenever mmap()
798      fails, we just fall back to the regular method.  */
799 #endif /* HAVE_MMAP */
800
801   fm->length = 0;
802   size = 512;                   /* number of bytes fm->contents can
803                                    hold at any given time. */
804   fm->content = xmalloc (size);
805   while (1)
806     {
807       long nread;
808       if (fm->length > size / 2)
809         {
810           /* #### I'm not sure whether the whole exponential-growth
811              thing makes sense with kernel read.  On Linux at least,
812              read() refuses to read more than 4K from a file at a
813              single chunk anyway.  But other Unixes might optimize it
814              better, and it doesn't *hurt* anything, so I'm leaving
815              it.  */
816
817           /* Normally, we grow SIZE exponentially to make the number
818              of calls to read() and realloc() logarithmic in relation
819              to file size.  However, read() can read an amount of data
820              smaller than requested, and it would be unreasonable to
821              double SIZE every time *something* was read.  Therefore,
822              we double SIZE only when the length exceeds half of the
823              entire allocated size.  */
824           size <<= 1;
825           fm->content = xrealloc (fm->content, size);
826         }
827       nread = read (fd, fm->content + fm->length, size - fm->length);
828       if (nread > 0)
829         /* Successful read. */
830         fm->length += nread;
831       else if (nread < 0)
832         /* Error. */
833         goto lose;
834       else
835         /* EOF */
836         break;
837     }
838   if (!inhibit_close)
839     close (fd);
840   if (size > fm->length && fm->length != 0)
841     /* Due to exponential growth of fm->content, the allocated region
842        might be much larger than what is actually needed.  */
843     fm->content = xrealloc (fm->content, fm->length);
844   fm->mmap_p = 0;
845   return fm;
846
847  lose:
848   if (!inhibit_close)
849     close (fd);
850   xfree (fm->content);
851   xfree (fm);
852   return NULL;
853 }
854
855 /* Release the resources held by FM.  Specifically, this calls
856    munmap() or xfree() on fm->content, depending whether mmap or
857    malloc/read were used to read in the file.  It also frees the
858    memory needed to hold the FM structure itself.  */
859
860 void
861 read_file_free (struct file_memory *fm)
862 {
863 #ifdef HAVE_MMAP
864   if (fm->mmap_p)
865     {
866       munmap (fm->content, fm->length);
867     }
868   else
869 #endif
870     {
871       xfree (fm->content);
872     }
873   xfree (fm);
874 }
875 \f
876 /* Free the pointers in a NULL-terminated vector of pointers, then
877    free the pointer itself.  */
878 void
879 free_vec (char **vec)
880 {
881   if (vec)
882     {
883       char **p = vec;
884       while (*p)
885         xfree (*p++);
886       xfree (vec);
887     }
888 }
889
890 /* Append vector V2 to vector V1.  The function frees V2 and
891    reallocates V1 (thus you may not use the contents of neither
892    pointer after the call).  If V1 is NULL, V2 is returned.  */
893 char **
894 merge_vecs (char **v1, char **v2)
895 {
896   int i, j;
897
898   if (!v1)
899     return v2;
900   if (!v2)
901     return v1;
902   if (!*v2)
903     {
904       /* To avoid j == 0 */
905       xfree (v2);
906       return v1;
907     }
908   /* Count v1.  */
909   for (i = 0; v1[i]; i++);
910   /* Count v2.  */
911   for (j = 0; v2[j]; j++);
912   /* Reallocate v1.  */
913   v1 = (char **)xrealloc (v1, (i + j + 1) * sizeof (char **));
914   memcpy (v1 + i, v2, (j + 1) * sizeof (char *));
915   xfree (v2);
916   return v1;
917 }
918
919 /* A set of simple-minded routines to store strings in a linked list.
920    This used to also be used for searching, but now we have hash
921    tables for that.  */
922
923 /* It's a shame that these simple things like linked lists and hash
924    tables (see hash.c) need to be implemented over and over again.  It
925    would be nice to be able to use the routines from glib -- see
926    www.gtk.org for details.  However, that would make Wget depend on
927    glib, and I want to avoid dependencies to external libraries for
928    reasons of convenience and portability (I suspect Wget is more
929    portable than anything ever written for Gnome).  */
930
931 /* Append an element to the list.  If the list has a huge number of
932    elements, this can get slow because it has to find the list's
933    ending.  If you think you have to call slist_append in a loop,
934    think about calling slist_prepend() followed by slist_nreverse().  */
935
936 slist *
937 slist_append (slist *l, const char *s)
938 {
939   slist *newel = (slist *)xmalloc (sizeof (slist));
940   slist *beg = l;
941
942   newel->string = xstrdup (s);
943   newel->next = NULL;
944
945   if (!l)
946     return newel;
947   /* Find the last element.  */
948   while (l->next)
949     l = l->next;
950   l->next = newel;
951   return beg;
952 }
953
954 /* Prepend S to the list.  Unlike slist_append(), this is O(1).  */
955
956 slist *
957 slist_prepend (slist *l, const char *s)
958 {
959   slist *newel = (slist *)xmalloc (sizeof (slist));
960   newel->string = xstrdup (s);
961   newel->next = l;
962   return newel;
963 }
964
965 /* Destructively reverse L. */
966
967 slist *
968 slist_nreverse (slist *l)
969 {
970   slist *prev = NULL;
971   while (l)
972     {
973       slist *next = l->next;
974       l->next = prev;
975       prev = l;
976       l = next;
977     }
978   return prev;
979 }
980
981 /* Is there a specific entry in the list?  */
982 int
983 slist_contains (slist *l, const char *s)
984 {
985   for (; l; l = l->next)
986     if (!strcmp (l->string, s))
987       return 1;
988   return 0;
989 }
990
991 /* Free the whole slist.  */
992 void
993 slist_free (slist *l)
994 {
995   while (l)
996     {
997       slist *n = l->next;
998       xfree (l->string);
999       xfree (l);
1000       l = n;
1001     }
1002 }
1003 \f
1004 /* Sometimes it's useful to create "sets" of strings, i.e. special
1005    hash tables where you want to store strings as keys and merely
1006    query for their existence.  Here is a set of utility routines that
1007    makes that transparent.  */
1008
1009 void
1010 string_set_add (struct hash_table *ht, const char *s)
1011 {
1012   /* First check whether the set element already exists.  If it does,
1013      do nothing so that we don't have to free() the old element and
1014      then strdup() a new one.  */
1015   if (hash_table_contains (ht, s))
1016     return;
1017
1018   /* We use "1" as value.  It provides us a useful and clear arbitrary
1019      value, and it consumes no memory -- the pointers to the same
1020      string "1" will be shared by all the key-value pairs in all `set'
1021      hash tables.  */
1022   hash_table_put (ht, xstrdup (s), "1");
1023 }
1024
1025 /* Synonym for hash_table_contains... */
1026
1027 int
1028 string_set_contains (struct hash_table *ht, const char *s)
1029 {
1030   return hash_table_contains (ht, s);
1031 }
1032
1033 static int
1034 string_set_free_mapper (void *key, void *value_ignored, void *arg_ignored)
1035 {
1036   xfree (key);
1037   return 0;
1038 }
1039
1040 void
1041 string_set_free (struct hash_table *ht)
1042 {
1043   hash_table_map (ht, string_set_free_mapper, NULL);
1044   hash_table_destroy (ht);
1045 }
1046
1047 static int
1048 free_keys_and_values_mapper (void *key, void *value, void *arg_ignored)
1049 {
1050   xfree (key);
1051   xfree (value);
1052   return 0;
1053 }
1054
1055 /* Another utility function: call free() on all keys and values of HT.  */
1056
1057 void
1058 free_keys_and_values (struct hash_table *ht)
1059 {
1060   hash_table_map (ht, free_keys_and_values_mapper, NULL);
1061 }
1062
1063 \f
1064 /* Engine for legible and legible_large_int; add thousand separators
1065    to numbers printed in strings.  */
1066
1067 static char *
1068 legible_1 (const char *repr)
1069 {
1070   static char outbuf[48];
1071   int i, i1, mod;
1072   char *outptr;
1073   const char *inptr;
1074
1075   /* Reset the pointers.  */
1076   outptr = outbuf;
1077   inptr = repr;
1078
1079   /* Ignore the sign for the purpose of adding thousand
1080      separators.  */
1081   if (*inptr == '-')
1082     {
1083       *outptr++ = '-';
1084       ++inptr;
1085     }
1086   /* How many digits before the first separator?  */
1087   mod = strlen (inptr) % 3;
1088   /* Insert them.  */
1089   for (i = 0; i < mod; i++)
1090     *outptr++ = inptr[i];
1091   /* Now insert the rest of them, putting separator before every
1092      third digit.  */
1093   for (i1 = i, i = 0; inptr[i1]; i++, i1++)
1094     {
1095       if (i % 3 == 0 && i1 != 0)
1096         *outptr++ = ',';
1097       *outptr++ = inptr[i1];
1098     }
1099   /* Zero-terminate the string.  */
1100   *outptr = '\0';
1101   return outbuf;
1102 }
1103
1104 /* Legible -- return a static pointer to the legibly printed long.  */
1105
1106 char *
1107 legible (long l)
1108 {
1109   char inbuf[24];
1110   /* Print the number into the buffer.  */
1111   number_to_string (inbuf, l);
1112   return legible_1 (inbuf);
1113 }
1114
1115 /* Write a string representation of LARGE_INT NUMBER into the provided
1116    buffer.  The buffer should be able to accept 24 characters,
1117    including the terminating zero.
1118
1119    It would be dangerous to use sprintf, because the code wouldn't
1120    work on a machine with gcc-provided long long support, but without
1121    libc support for "%lld".  However, such platforms will typically
1122    not have snprintf and will use our version, which does support
1123    "%lld" where long longs are available.  */
1124
1125 static void
1126 large_int_to_string (char *buffer, LARGE_INT number)
1127 {
1128   snprintf (buffer, 24, LARGE_INT_FMT, number);
1129 }
1130
1131 /* The same as legible(), but works on LARGE_INT.  */
1132
1133 char *
1134 legible_large_int (LARGE_INT l)
1135 {
1136   char inbuf[48];
1137   large_int_to_string (inbuf, l);
1138   return legible_1 (inbuf);
1139 }
1140
1141 /* Count the digits in a (long) integer.  */
1142 int
1143 numdigit (long number)
1144 {
1145   int cnt = 1;
1146   if (number < 0)
1147     {
1148       number = -number;
1149       ++cnt;
1150     }
1151   while ((number /= 10) > 0)
1152     ++cnt;
1153   return cnt;
1154 }
1155
1156 /* A half-assed implementation of INT_MAX on machines that don't
1157    bother to define one. */
1158 #ifndef INT_MAX
1159 # define INT_MAX ((int) ~((unsigned)1 << 8 * sizeof (int) - 1))
1160 #endif
1161
1162 #define ONE_DIGIT(figure) *p++ = n / (figure) + '0'
1163 #define ONE_DIGIT_ADVANCE(figure) (ONE_DIGIT (figure), n %= (figure))
1164
1165 #define DIGITS_1(figure) ONE_DIGIT (figure)
1166 #define DIGITS_2(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_1 ((figure) / 10)
1167 #define DIGITS_3(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_2 ((figure) / 10)
1168 #define DIGITS_4(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_3 ((figure) / 10)
1169 #define DIGITS_5(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_4 ((figure) / 10)
1170 #define DIGITS_6(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_5 ((figure) / 10)
1171 #define DIGITS_7(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_6 ((figure) / 10)
1172 #define DIGITS_8(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_7 ((figure) / 10)
1173 #define DIGITS_9(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_8 ((figure) / 10)
1174 #define DIGITS_10(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_9 ((figure) / 10)
1175
1176 /* DIGITS_<11-20> are only used on machines with 64-bit longs. */
1177
1178 #define DIGITS_11(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_10 ((figure) / 10)
1179 #define DIGITS_12(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_11 ((figure) / 10)
1180 #define DIGITS_13(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_12 ((figure) / 10)
1181 #define DIGITS_14(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_13 ((figure) / 10)
1182 #define DIGITS_15(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_14 ((figure) / 10)
1183 #define DIGITS_16(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_15 ((figure) / 10)
1184 #define DIGITS_17(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_16 ((figure) / 10)
1185 #define DIGITS_18(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_17 ((figure) / 10)
1186 #define DIGITS_19(figure) ONE_DIGIT_ADVANCE (figure); DIGITS_18 ((figure) / 10)
1187
1188 /* Print NUMBER to BUFFER in base 10.  This should be completely
1189    equivalent to `sprintf(buffer, "%ld", number)', only much faster.
1190
1191    The speedup may make a difference in programs that frequently
1192    convert numbers to strings.  Some implementations of sprintf,
1193    particularly the one in GNU libc, have been known to be extremely
1194    slow compared to this function.
1195
1196    Return the pointer to the location where the terminating zero was
1197    printed.  (Equivalent to calling buffer+strlen(buffer) after the
1198    function is done.)
1199
1200    BUFFER should be big enough to accept as many bytes as you expect
1201    the number to take up.  On machines with 64-bit longs the maximum
1202    needed size is 24 bytes.  That includes the digits needed for the
1203    largest 64-bit number, the `-' sign in case it's negative, and the
1204    terminating '\0'.  */
1205
1206 char *
1207 number_to_string (char *buffer, long number)
1208 {
1209   char *p = buffer;
1210   long n = number;
1211
1212 #if (SIZEOF_LONG != 4) && (SIZEOF_LONG != 8)
1213   /* We are running in a strange or misconfigured environment.  Let
1214      sprintf cope with it.  */
1215   sprintf (buffer, "%ld", n);
1216   p += strlen (buffer);
1217 #else  /* (SIZEOF_LONG == 4) || (SIZEOF_LONG == 8) */
1218
1219   if (n < 0)
1220     {
1221       if (n < -INT_MAX)
1222         {
1223           /* We cannot print a '-' and assign -n to n because -n would
1224              overflow.  Let sprintf deal with this border case.  */
1225           sprintf (buffer, "%ld", n);
1226           p += strlen (buffer);
1227           return p;
1228         }
1229
1230       *p++ = '-';
1231       n = -n;
1232     }
1233
1234   if      (n < 10)                   { DIGITS_1 (1); }
1235   else if (n < 100)                  { DIGITS_2 (10); }
1236   else if (n < 1000)                 { DIGITS_3 (100); }
1237   else if (n < 10000)                { DIGITS_4 (1000); }
1238   else if (n < 100000)               { DIGITS_5 (10000); }
1239   else if (n < 1000000)              { DIGITS_6 (100000); }
1240   else if (n < 10000000)             { DIGITS_7 (1000000); }
1241   else if (n < 100000000)            { DIGITS_8 (10000000); }
1242   else if (n < 1000000000)           { DIGITS_9 (100000000); }
1243 #if SIZEOF_LONG == 4
1244   /* ``if (1)'' serves only to preserve editor indentation. */
1245   else if (1)                        { DIGITS_10 (1000000000); }
1246 #else  /* SIZEOF_LONG != 4 */
1247   else if (n < 10000000000L)         { DIGITS_10 (1000000000L); }
1248   else if (n < 100000000000L)        { DIGITS_11 (10000000000L); }
1249   else if (n < 1000000000000L)       { DIGITS_12 (100000000000L); }
1250   else if (n < 10000000000000L)      { DIGITS_13 (1000000000000L); }
1251   else if (n < 100000000000000L)     { DIGITS_14 (10000000000000L); }
1252   else if (n < 1000000000000000L)    { DIGITS_15 (100000000000000L); }
1253   else if (n < 10000000000000000L)   { DIGITS_16 (1000000000000000L); }
1254   else if (n < 100000000000000000L)  { DIGITS_17 (10000000000000000L); }
1255   else if (n < 1000000000000000000L) { DIGITS_18 (100000000000000000L); }
1256   else                               { DIGITS_19 (1000000000000000000L); }
1257 #endif /* SIZEOF_LONG != 4 */
1258
1259   *p = '\0';
1260 #endif /* (SIZEOF_LONG == 4) || (SIZEOF_LONG == 8) */
1261
1262   return p;
1263 }
1264
1265 #undef ONE_DIGIT
1266 #undef ONE_DIGIT_ADVANCE
1267
1268 #undef DIGITS_1
1269 #undef DIGITS_2
1270 #undef DIGITS_3
1271 #undef DIGITS_4
1272 #undef DIGITS_5
1273 #undef DIGITS_6
1274 #undef DIGITS_7
1275 #undef DIGITS_8
1276 #undef DIGITS_9
1277 #undef DIGITS_10
1278 #undef DIGITS_11
1279 #undef DIGITS_12
1280 #undef DIGITS_13
1281 #undef DIGITS_14
1282 #undef DIGITS_15
1283 #undef DIGITS_16
1284 #undef DIGITS_17
1285 #undef DIGITS_18
1286 #undef DIGITS_19
1287 \f
1288 /* Support for timers. */
1289
1290 #undef TIMER_WINDOWS
1291 #undef TIMER_GETTIMEOFDAY
1292 #undef TIMER_TIME
1293
1294 /* Depending on the OS and availability of gettimeofday(), one and
1295    only one of the above constants will be defined.  Virtually all
1296    modern Unix systems will define TIMER_GETTIMEOFDAY; Windows will
1297    use TIMER_WINDOWS.  TIMER_TIME is a catch-all method for
1298    non-Windows systems without gettimeofday.
1299
1300    #### Perhaps we should also support ftime(), which exists on old
1301    BSD 4.2-influenced systems?  (It also existed under MS DOS Borland
1302    C, if memory serves me.)  */
1303
1304 #ifdef WINDOWS
1305 # define TIMER_WINDOWS
1306 #else  /* not WINDOWS */
1307 # ifdef HAVE_GETTIMEOFDAY
1308 #  define TIMER_GETTIMEOFDAY
1309 # else
1310 #  define TIMER_TIME
1311 # endif
1312 #endif /* not WINDOWS */
1313
1314 #ifdef TIMER_GETTIMEOFDAY
1315 typedef struct timeval wget_sys_time;
1316 #endif
1317
1318 #ifdef TIMER_TIME
1319 typedef time_t wget_sys_time;
1320 #endif
1321
1322 #ifdef TIMER_WINDOWS
1323 typedef ULARGE_INTEGER wget_sys_time;
1324 #endif
1325
1326 struct wget_timer {
1327   /* The starting point in time which, subtracted from the current
1328      time, yields elapsed time. */
1329   wget_sys_time start;
1330
1331   /* The most recent elapsed time, calculated by wtimer_elapsed().
1332      Measured in milliseconds.  */
1333   double elapsed_last;
1334
1335   /* Approximately, the time elapsed between the true start of the
1336      measurement and the time represented by START.  */
1337   double elapsed_pre_start;
1338 };
1339
1340 /* Allocate a timer.  It is not legal to do anything with a freshly
1341    allocated timer, except call wtimer_reset() or wtimer_delete().  */
1342
1343 struct wget_timer *
1344 wtimer_allocate (void)
1345 {
1346   struct wget_timer *wt =
1347     (struct wget_timer *)xmalloc (sizeof (struct wget_timer));
1348   return wt;
1349 }
1350
1351 /* Allocate a new timer and reset it.  Return the new timer. */
1352
1353 struct wget_timer *
1354 wtimer_new (void)
1355 {
1356   struct wget_timer *wt = wtimer_allocate ();
1357   wtimer_reset (wt);
1358   return wt;
1359 }
1360
1361 /* Free the resources associated with the timer.  Its further use is
1362    prohibited.  */
1363
1364 void
1365 wtimer_delete (struct wget_timer *wt)
1366 {
1367   xfree (wt);
1368 }
1369
1370 /* Store system time to WST.  */
1371
1372 static void
1373 wtimer_sys_set (wget_sys_time *wst)
1374 {
1375 #ifdef TIMER_GETTIMEOFDAY
1376   gettimeofday (wst, NULL);
1377 #endif
1378
1379 #ifdef TIMER_TIME
1380   time (wst);
1381 #endif
1382
1383 #ifdef TIMER_WINDOWS
1384   /* We use GetSystemTime to get the elapsed time.  MSDN warns that
1385      system clock adjustments can skew the output of GetSystemTime
1386      when used as a timer and gives preference to GetTickCount and
1387      high-resolution timers.  But GetTickCount can overflow, and hires
1388      timers are typically used for profiling, not for regular time
1389      measurement.  Since we handle clock skew anyway, we just use
1390      GetSystemTime.  */
1391   FILETIME ft;
1392   SYSTEMTIME st;
1393   GetSystemTime (&st);
1394
1395   /* As recommended by MSDN, we convert SYSTEMTIME to FILETIME, copy
1396      FILETIME to ULARGE_INTEGER, and use regular 64-bit integer
1397      arithmetic on that.  */
1398   SystemTimeToFileTime (&st, &ft);
1399   wst->HighPart = ft.dwHighDateTime;
1400   wst->LowPart  = ft.dwLowDateTime;
1401 #endif
1402 }
1403
1404 /* Reset timer WT.  This establishes the starting point from which
1405    wtimer_elapsed() will return the number of elapsed
1406    milliseconds.  It is allowed to reset a previously used timer.  */
1407
1408 void
1409 wtimer_reset (struct wget_timer *wt)
1410 {
1411   /* Set the start time to the current time. */
1412   wtimer_sys_set (&wt->start);
1413   wt->elapsed_last = 0;
1414   wt->elapsed_pre_start = 0;
1415 }
1416
1417 static double
1418 wtimer_sys_diff (wget_sys_time *wst1, wget_sys_time *wst2)
1419 {
1420 #ifdef TIMER_GETTIMEOFDAY
1421   return ((double)(wst1->tv_sec - wst2->tv_sec) * 1000
1422           + (double)(wst1->tv_usec - wst2->tv_usec) / 1000);
1423 #endif
1424
1425 #ifdef TIMER_TIME
1426   return 1000 * (*wst1 - *wst2);
1427 #endif
1428
1429 #ifdef WINDOWS
1430   /* VC++ 6 doesn't support direct cast of uint64 to double.  To work
1431      around this, we subtract, then convert to signed, then finally to
1432      double.  */
1433   return (double)(signed __int64)(wst1->QuadPart - wst2->QuadPart) / 10000;
1434 #endif
1435 }
1436
1437 /* Return the number of milliseconds elapsed since the timer was last
1438    reset.  It is allowed to call this function more than once to get
1439    increasingly higher elapsed values.  These timers handle clock
1440    skew.  */
1441
1442 double
1443 wtimer_elapsed (struct wget_timer *wt)
1444 {
1445   wget_sys_time now;
1446   double elapsed;
1447
1448   wtimer_sys_set (&now);
1449   elapsed = wt->elapsed_pre_start + wtimer_sys_diff (&now, &wt->start);
1450
1451   /* Ideally we'd just return the difference between NOW and
1452      wt->start.  However, the system timer can be set back, and we
1453      could return a value smaller than when we were last called, even
1454      a negative value.  Both of these would confuse the callers, which
1455      expect us to return monotonically nondecreasing values.
1456
1457      Therefore: if ELAPSED is smaller than its previous known value,
1458      we reset wt->start to the current time and effectively start
1459      measuring from this point.  But since we don't want the elapsed
1460      value to start from zero, we set elapsed_pre_start to the last
1461      elapsed time and increment all future calculations by that
1462      amount.  */
1463
1464   if (elapsed < wt->elapsed_last)
1465     {
1466       wt->start = now;
1467       wt->elapsed_pre_start = wt->elapsed_last;
1468       elapsed = wt->elapsed_last;
1469     }
1470
1471   wt->elapsed_last = elapsed;
1472   return elapsed;
1473 }
1474
1475 /* Return the assessed granularity of the timer implementation, in
1476    milliseconds.  This is used by code that tries to substitute a
1477    better value for timers that have returned zero.  */
1478
1479 double
1480 wtimer_granularity (void)
1481 {
1482 #ifdef TIMER_GETTIMEOFDAY
1483   /* Granularity of gettimeofday varies wildly between architectures.
1484      However, it appears that on modern machines it tends to be better
1485      than 1ms.  Assume 100 usecs.  (Perhaps the configure process
1486      could actually measure this?)  */
1487   return 0.1;
1488 #endif
1489
1490 #ifdef TIMER_TIME
1491   return 1000;
1492 #endif
1493
1494 #ifdef TIMER_WINDOWS
1495   /* According to MSDN, GetSystemTime returns a broken-down time
1496      structure the smallest member of which are milliseconds.  */
1497   return 1;
1498 #endif
1499 }
1500 \f
1501 /* This should probably be at a better place, but it doesn't really
1502    fit into html-parse.c.  */
1503
1504 /* The function returns the pointer to the malloc-ed quoted version of
1505    string s.  It will recognize and quote numeric and special graphic
1506    entities, as per RFC1866:
1507
1508    `&' -> `&amp;'
1509    `<' -> `&lt;'
1510    `>' -> `&gt;'
1511    `"' -> `&quot;'
1512    SP  -> `&#32;'
1513
1514    No other entities are recognized or replaced.  */
1515 char *
1516 html_quote_string (const char *s)
1517 {
1518   const char *b = s;
1519   char *p, *res;
1520   int i;
1521
1522   /* Pass through the string, and count the new size.  */
1523   for (i = 0; *s; s++, i++)
1524     {
1525       if (*s == '&')
1526         i += 4;                 /* `amp;' */
1527       else if (*s == '<' || *s == '>')
1528         i += 3;                 /* `lt;' and `gt;' */
1529       else if (*s == '\"')
1530         i += 5;                 /* `quot;' */
1531       else if (*s == ' ')
1532         i += 4;                 /* #32; */
1533     }
1534   res = (char *)xmalloc (i + 1);
1535   s = b;
1536   for (p = res; *s; s++)
1537     {
1538       switch (*s)
1539         {
1540         case '&':
1541           *p++ = '&';
1542           *p++ = 'a';
1543           *p++ = 'm';
1544           *p++ = 'p';
1545           *p++ = ';';
1546           break;
1547         case '<': case '>':
1548           *p++ = '&';
1549           *p++ = (*s == '<' ? 'l' : 'g');
1550           *p++ = 't';
1551           *p++ = ';';
1552           break;
1553         case '\"':
1554           *p++ = '&';
1555           *p++ = 'q';
1556           *p++ = 'u';
1557           *p++ = 'o';
1558           *p++ = 't';
1559           *p++ = ';';
1560           break;
1561         case ' ':
1562           *p++ = '&';
1563           *p++ = '#';
1564           *p++ = '3';
1565           *p++ = '2';
1566           *p++ = ';';
1567           break;
1568         default:
1569           *p++ = *s;
1570         }
1571     }
1572   *p = '\0';
1573   return res;
1574 }
1575
1576 /* Determine the width of the terminal we're running on.  If that's
1577    not possible, return 0.  */
1578
1579 int
1580 determine_screen_width (void)
1581 {
1582   /* If there's a way to get the terminal size using POSIX
1583      tcgetattr(), somebody please tell me.  */
1584 #ifndef TIOCGWINSZ
1585   return 0;
1586 #else  /* TIOCGWINSZ */
1587   int fd;
1588   struct winsize wsz;
1589
1590   if (opt.lfilename != NULL)
1591     return 0;
1592
1593   fd = fileno (stderr);
1594   if (ioctl (fd, TIOCGWINSZ, &wsz) < 0)
1595     return 0;                   /* most likely ENOTTY */
1596
1597   return wsz.ws_col;
1598 #endif /* TIOCGWINSZ */
1599 }
1600
1601 /* Return a random number between 0 and MAX-1, inclusive.
1602
1603    If MAX is greater than the value of RAND_MAX+1 on the system, the
1604    returned value will be in the range [0, RAND_MAX].  This may be
1605    fixed in a future release.
1606
1607    The random number generator is seeded automatically the first time
1608    it is called.
1609
1610    This uses rand() for portability.  It has been suggested that
1611    random() offers better randomness, but this is not required for
1612    Wget, so I chose to go for simplicity and use rand
1613    unconditionally.
1614
1615    DO NOT use this for cryptographic purposes.  It is only meant to be
1616    used in situations where quality of the random numbers returned
1617    doesn't really matter.  */
1618
1619 int
1620 random_number (int max)
1621 {
1622   static int seeded;
1623   double bounded;
1624   int rnd;
1625
1626   if (!seeded)
1627     {
1628       srand (time (NULL));
1629       seeded = 1;
1630     }
1631   rnd = rand ();
1632
1633   /* On systems that don't define RAND_MAX, assume it to be 2**15 - 1,
1634      and enforce that assumption by masking other bits.  */
1635 #ifndef RAND_MAX
1636 # define RAND_MAX 32767
1637   rnd &= RAND_MAX;
1638 #endif
1639
1640   /* This is equivalent to rand() % max, but uses the high-order bits
1641      for better randomness on architecture where rand() is implemented
1642      using a simple congruential generator.  */
1643
1644   bounded = (double)max * rnd / (RAND_MAX + 1.0);
1645   return (int)bounded;
1646 }
1647
1648 /* Return a random uniformly distributed floating point number in the
1649    [0, 1) range.  The precision of returned numbers is 9 digits.
1650
1651    Modify this to use erand48() where available!  */
1652
1653 double
1654 random_float (void)
1655 {
1656   /* We can't rely on any specific value of RAND_MAX, but I'm pretty
1657      sure it's greater than 1000.  */
1658   int rnd1 = random_number (1000);
1659   int rnd2 = random_number (1000);
1660   int rnd3 = random_number (1000);
1661   return rnd1 / 1000.0 + rnd2 / 1000000.0 + rnd3 / 1000000000.0;
1662 }
1663
1664 #if 0
1665 /* A debugging function for checking whether an MD5 library works. */
1666
1667 #include "gen-md5.h"
1668
1669 char *
1670 debug_test_md5 (char *buf)
1671 {
1672   unsigned char raw[16];
1673   static char res[33];
1674   unsigned char *p1;
1675   char *p2;
1676   int cnt;
1677   ALLOCA_MD5_CONTEXT (ctx);
1678
1679   gen_md5_init (ctx);
1680   gen_md5_update ((unsigned char *)buf, strlen (buf), ctx);
1681   gen_md5_finish (ctx, raw);
1682
1683   p1 = raw;
1684   p2 = res;
1685   cnt = 16;
1686   while (cnt--)
1687     {
1688       *p2++ = XNUM_TO_digit (*p1 >> 4);
1689       *p2++ = XNUM_TO_digit (*p1 & 0xf);
1690       ++p1;
1691     }
1692   *p2 = '\0';
1693
1694   return res;
1695 }
1696 #endif
1697 \f
1698 /* Implementation of run_with_timeout, a generic timeout-forcing
1699    routine for systems with Unix-like signal handling.  */
1700
1701 #ifdef USE_SIGNAL_TIMEOUT
1702 # ifdef HAVE_SIGSETJMP
1703 #  define SETJMP(env) sigsetjmp (env, 1)
1704
1705 static sigjmp_buf run_with_timeout_env;
1706
1707 static RETSIGTYPE
1708 abort_run_with_timeout (int sig)
1709 {
1710   assert (sig == SIGALRM);
1711   siglongjmp (run_with_timeout_env, -1);
1712 }
1713 # else /* not HAVE_SIGSETJMP */
1714 #  define SETJMP(env) setjmp (env)
1715
1716 static jmp_buf run_with_timeout_env;
1717
1718 static RETSIGTYPE
1719 abort_run_with_timeout (int sig)
1720 {
1721   assert (sig == SIGALRM);
1722   /* We don't have siglongjmp to preserve the set of blocked signals;
1723      if we longjumped out of the handler at this point, SIGALRM would
1724      remain blocked.  We must unblock it manually. */
1725   int mask = siggetmask ();
1726   mask &= ~sigmask (SIGALRM);
1727   sigsetmask (mask);
1728
1729   /* Now it's safe to longjump. */
1730   longjmp (run_with_timeout_env, -1);
1731 }
1732 # endif /* not HAVE_SIGSETJMP */
1733
1734 /* Arrange for SIGALRM to be delivered in TIMEOUT seconds.  This uses
1735    setitimer where available, alarm otherwise.
1736
1737    TIMEOUT should be non-zero.  If the timeout value is so small that
1738    it would be rounded to zero, it is rounded to the least legal value
1739    instead (1us for setitimer, 1s for alarm).  That ensures that
1740    SIGALRM will be delivered in all cases.  */
1741
1742 static void
1743 alarm_set (double timeout)
1744 {
1745 #ifdef ITIMER_REAL
1746   /* Use the modern itimer interface. */
1747   struct itimerval itv;
1748   memset (&itv, 0, sizeof (itv));
1749   itv.it_value.tv_sec = (long) timeout;
1750   itv.it_value.tv_usec = 1000000L * (timeout - (long)timeout);
1751   if (itv.it_value.tv_sec == 0 && itv.it_value.tv_usec == 0)
1752     /* Ensure that we wait for at least the minimum interval.
1753        Specifying zero would mean "wait forever".  */
1754     itv.it_value.tv_usec = 1;
1755   setitimer (ITIMER_REAL, &itv, NULL);
1756 #else  /* not ITIMER_REAL */
1757   /* Use the old alarm() interface. */
1758   int secs = (int) timeout;
1759   if (secs == 0)
1760     /* Round TIMEOUTs smaller than 1 to 1, not to zero.  This is
1761        because alarm(0) means "never deliver the alarm", i.e. "wait
1762        forever", which is not what someone who specifies a 0.5s
1763        timeout would expect.  */
1764     secs = 1;
1765   alarm (secs);
1766 #endif /* not ITIMER_REAL */
1767 }
1768
1769 /* Cancel the alarm set with alarm_set. */
1770
1771 static void
1772 alarm_cancel (void)
1773 {
1774 #ifdef ITIMER_REAL
1775   struct itimerval disable;
1776   memset (&disable, 0, sizeof (disable));
1777   setitimer (ITIMER_REAL, &disable, NULL);
1778 #else  /* not ITIMER_REAL */
1779   alarm (0);
1780 #endif /* not ITIMER_REAL */
1781 }
1782
1783 /* Call FUN(ARG), but don't allow it to run for more than TIMEOUT
1784    seconds.  Returns non-zero if the function was interrupted with a
1785    timeout, zero otherwise.
1786
1787    This works by setting up SIGALRM to be delivered in TIMEOUT seconds
1788    using setitimer() or alarm().  The timeout is enforced by
1789    longjumping out of the SIGALRM handler.  This has several
1790    advantages compared to the traditional approach of relying on
1791    signals causing system calls to exit with EINTR:
1792
1793      * The callback function is *forcibly* interrupted after the
1794        timeout expires, (almost) regardless of what it was doing and
1795        whether it was in a syscall.  For example, a calculation that
1796        takes a long time is interrupted as reliably as an IO
1797        operation.
1798
1799      * It works with both SYSV and BSD signals because it doesn't
1800        depend on the default setting of SA_RESTART.
1801
1802      * It doesn't special handler setup beyond a simple call to
1803        signal().  (It does use sigsetjmp/siglongjmp, but they're
1804        optional.)
1805
1806    The only downside is that, if FUN allocates internal resources that
1807    are normally freed prior to exit from the functions, they will be
1808    lost in case of timeout.  */
1809
1810 int
1811 run_with_timeout (double timeout, void (*fun) (void *), void *arg)
1812 {
1813   int saved_errno;
1814
1815   if (timeout == 0)
1816     {
1817       fun (arg);
1818       return 0;
1819     }
1820
1821   signal (SIGALRM, abort_run_with_timeout);
1822   if (SETJMP (run_with_timeout_env) != 0)
1823     {
1824       /* Longjumped out of FUN with a timeout. */
1825       signal (SIGALRM, SIG_DFL);
1826       return 1;
1827     }
1828   alarm_set (timeout);
1829   fun (arg);
1830
1831   /* Preserve errno in case alarm() or signal() modifies it. */
1832   saved_errno = errno;
1833   alarm_cancel ();
1834   signal (SIGALRM, SIG_DFL);
1835   errno = saved_errno;
1836
1837   return 0;
1838 }
1839
1840 #else  /* not USE_SIGNAL_TIMEOUT */
1841
1842 #ifndef WINDOWS
1843 /* A stub version of run_with_timeout that just calls FUN(ARG).  Don't
1844    define it under Windows, because Windows has its own version of
1845    run_with_timeout that uses threads.  */
1846
1847 int
1848 run_with_timeout (double timeout, void (*fun) (void *), void *arg)
1849 {
1850   fun (arg);
1851   return 0;
1852 }
1853 #endif /* not WINDOWS */
1854 #endif /* not USE_SIGNAL_TIMEOUT */