]> sjero.net Git - wget/blob - src/utils.c
Use sigprocmask instead of sigsetmask.
[wget] / src / utils.c
1 /* Various utility functions.
2    Copyright (C) 1996, 1997, 1998, 1999, 2000, 2001, 2002, 2003, 2004,
3    2005, 2006, 2007, 2008, 2009, 2010, 2011 Free Software Foundation,
4    Inc.
5
6 This file is part of GNU Wget.
7
8 GNU Wget is free software; you can redistribute it and/or modify
9 it under the terms of the GNU General Public License as published by
10 the Free Software Foundation; either version 3 of the License, or
11 (at your option) any later version.
12
13 GNU Wget is distributed in the hope that it will be useful,
14 but WITHOUT ANY WARRANTY; without even the implied warranty of
15 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16 GNU General Public License for more details.
17
18 You should have received a copy of the GNU General Public License
19 along with Wget.  If not, see <http://www.gnu.org/licenses/>.
20
21 Additional permission under GNU GPL version 3 section 7
22
23 If you modify this program, or any covered work, by linking or
24 combining it with the OpenSSL project's OpenSSL library (or a
25 modified version of that library), containing parts covered by the
26 terms of the OpenSSL or SSLeay licenses, the Free Software Foundation
27 grants you additional permission to convey the resulting work.
28 Corresponding Source for a non-source form of such a combination
29 shall include the source code for the parts of OpenSSL used as well
30 as that of the covered work.  */
31
32 #include "wget.h"
33
34 #include <stdio.h>
35 #include <stdlib.h>
36 #include <string.h>
37 #include <time.h>
38 #include <unistd.h>
39 #ifdef HAVE_MMAP
40 # include <sys/mman.h>
41 #endif
42 #ifdef HAVE_PROCESS_H
43 # include <process.h>  /* getpid() */
44 #endif
45 #ifdef HAVE_UTIME_H
46 # include <utime.h>
47 #endif
48 #include <errno.h>
49 #include <fcntl.h>
50 #include <assert.h>
51 #include <stdarg.h>
52 #include <locale.h>
53
54 #include <sys/stat.h>
55
56 /* For TIOCGWINSZ and friends: */
57 #ifdef HAVE_SYS_IOCTL_H
58 # include <sys/ioctl.h>
59 #endif
60 #ifdef HAVE_TERMIOS_H
61 # include <termios.h>
62 #endif
63
64 /* Needed for Unix version of run_with_timeout. */
65 #include <signal.h>
66 #include <setjmp.h>
67
68 #ifndef HAVE_SIGSETJMP
69 /* If sigsetjmp is a macro, configure won't pick it up. */
70 # ifdef sigsetjmp
71 #  define HAVE_SIGSETJMP
72 # endif
73 #endif
74
75 #if defined HAVE_SIGSETJMP || defined HAVE_SIGBLOCK
76 # define USE_SIGNAL_TIMEOUT
77 #endif
78
79 #include "utils.h"
80 #include "hash.h"
81
82 #ifdef __VMS
83 #include "vms.h"
84 #endif /* def __VMS */
85
86 #ifdef TESTING
87 #include "test.h"
88 #endif
89
90 static void
91 memfatal (const char *context, long attempted_size)
92 {
93   /* Make sure we don't try to store part of the log line, and thus
94      call malloc.  */
95   log_set_save_context (false);
96
97   /* We have different log outputs in different situations:
98      1) output without bytes information
99      2) output with bytes information  */
100   if (attempted_size == UNKNOWN_ATTEMPTED_SIZE)
101     {
102       logprintf (LOG_ALWAYS,
103                  _("%s: %s: Failed to allocate enough memory; memory exhausted.\n"),
104                  exec_name, context);
105     }
106   else
107     {
108       logprintf (LOG_ALWAYS,
109                  _("%s: %s: Failed to allocate %ld bytes; memory exhausted.\n"),
110                  exec_name, context, attempted_size);
111     }
112
113   exit (1);
114 }
115
116 /* Character property table for (re-)escaping VMS ODS5 extended file
117    names.  Note that this table ignores Unicode.
118
119    ODS2 valid characters: 0-9 A-Z a-z $ - _ ~
120
121    ODS5 Invalid characters:
122       C0 control codes (0x00 to 0x1F inclusive)
123       Asterisk (*)
124       Question mark (?)
125
126    ODS5 Invalid characters only in VMS V7.2 (which no one runs, right?):
127       Double quotation marks (")
128       Backslash (\)
129       Colon (:)
130       Left angle bracket (<)
131       Right angle bracket (>)
132       Slash (/)
133       Vertical bar (|)
134
135    Characters escaped by "^":
136       SP  !  "  #  %  &  '  (  )  +  ,  .  :  ;  =
137        @  [  \  ]  ^  `  {  |  }  ~
138
139    Either "^_" or "^ " is accepted as a space.  Period (.) is a special
140    case.  Note that un-escaped < and > can also confuse a directory
141    spec.
142
143    Characters put out as ^xx:
144       7F (DEL)
145       80-9F (C1 control characters)
146       A0 (nonbreaking space)
147       FF (Latin small letter y diaeresis)
148
149    Other cases:
150       Unicode: "^Uxxxx", where "xxxx" is four hex digits.
151
152     Property table values:
153       Normal escape:    1
154       Space:            2
155       Dot:              4
156       Hex-hex escape:   8
157       ODS2 normal:     16
158       ODS2 lower case: 32
159       Hex digit:       64
160 */
161
162 unsigned char char_prop[ 256] = {
163
164 /* NUL SOH STX ETX EOT ENQ ACK BEL   BS  HT  LF  VT  FF  CR  SO  SI */
165     0,  0,  0,  0,  0,  0,  0,  0,   0,  0,  0,  0,  0,  0,  0,  0,
166
167 /* DLE DC1 DC2 DC3 DC4 NAK SYN ETB  CAN  EM SUB ESC  FS  GS  RS  US */
168     0,  0,  0,  0,  0,  0,  0,  0,   0,  0,  0,  0,  0,  0,  0,  0,
169
170 /*  SP  !   "   #   $   %   &   '    (   )   *   +   ,   -   .   /  */
171     2,  1,  1,  1, 16,  1,  1,  1,   1,  1,  0,  1,  1, 16,  4,  0,
172
173 /*  0   1   2   3   4   5   6   7    8   9   :   ;   <   =   >   ?  */
174    80, 80, 80, 80, 80, 80, 80, 80,  80, 80,  1,  1,  1,  1,  1,  1,
175
176 /*  @   A   B   C   D   E   F   G    H   I   J   K   L   M   N   O  */
177     1, 80, 80, 80, 80, 80, 80, 16,  16, 16, 16, 16, 16, 16, 16, 16,
178
179 /*  P   Q   R   S   T   U   V   W    X   Y   Z   [   \   ]   ^   _  */
180    16, 16, 16, 16, 16, 16, 16, 16,  16, 16, 16,  1,  1,  1,  1, 16,
181
182 /*  `   a   b   c   d   e   f   g    h   i   j   k   l   m   n   o  */
183     1, 96, 96, 96, 96, 96, 96, 32,  32, 32, 32, 32, 32, 32, 32, 32,
184
185 /*  p   q   r   s   t   u   v   w    x   y   z   {   |   }   ~  DEL */
186    32, 32, 32, 32, 32, 32, 32, 32,  32, 32, 32,  1,  1,  1, 17,  8,
187
188     8,  8,  8,  8,  8,  8,  8,  8,   8,  8,  8,  8,  8,  8,  8,  8,
189     8,  8,  8,  8,  8,  8,  8,  8,   8,  8,  8,  8,  8,  8,  8,  8,
190     8,  0,  0,  0,  0,  0,  0,  0,   0,  0,  0,  0,  0,  0,  0,  0,
191     0,  0,  0,  0,  0,  0,  0,  0,   0,  0,  0,  0,  0,  0,  0,  0,
192     0,  0,  0,  0,  0,  0,  0,  0,   0,  0,  0,  0,  0,  0,  0,  0,
193     0,  0,  0,  0,  0,  0,  0,  0,   0,  0,  0,  0,  0,  0,  0,  0,
194     0,  0,  0,  0,  0,  0,  0,  0,   0,  0,  0,  0,  0,  0,  0,  0,
195     0,  0,  0,  0,  0,  0,  0,  0,   0,  0,  0,  0,  0,  0,  0,  8
196 };
197
198 /* Utility function: like xstrdup(), but also lowercases S.  */
199
200 char *
201 xstrdup_lower (const char *s)
202 {
203   char *copy = xstrdup (s);
204   char *p = copy;
205   for (; *p; p++)
206     *p = c_tolower (*p);
207   return copy;
208 }
209
210 /* Copy the string formed by two pointers (one on the beginning, other
211    on the char after the last char) to a new, malloc-ed location.
212    0-terminate it.  */
213 char *
214 strdupdelim (const char *beg, const char *end)
215 {
216   char *res = xmalloc (end - beg + 1);
217   memcpy (res, beg, end - beg);
218   res[end - beg] = '\0';
219   return res;
220 }
221
222 /* Parse a string containing comma-separated elements, and return a
223    vector of char pointers with the elements.  Spaces following the
224    commas are ignored.  */
225 char **
226 sepstring (const char *s)
227 {
228   char **res;
229   const char *p;
230   int i = 0;
231
232   if (!s || !*s)
233     return NULL;
234   res = NULL;
235   p = s;
236   while (*s)
237     {
238       if (*s == ',')
239         {
240           res = xrealloc (res, (i + 2) * sizeof (char *));
241           res[i] = strdupdelim (p, s);
242           res[++i] = NULL;
243           ++s;
244           /* Skip the blanks following the ','.  */
245           while (c_isspace (*s))
246             ++s;
247           p = s;
248         }
249       else
250         ++s;
251     }
252   res = xrealloc (res, (i + 2) * sizeof (char *));
253   res[i] = strdupdelim (p, s);
254   res[i + 1] = NULL;
255   return res;
256 }
257 \f
258 /* Like sprintf, but prints into a string of sufficient size freshly
259    allocated with malloc, which is returned.  If unable to print due
260    to invalid format, returns NULL.  Inability to allocate needed
261    memory results in abort, as with xmalloc.  This is in spirit
262    similar to the GNU/BSD extension asprintf, but somewhat easier to
263    use.
264
265    Internally the function either calls vasprintf or loops around
266    vsnprintf until the correct size is found.  Since Wget also ships a
267    fallback implementation of vsnprintf, this should be portable.  */
268
269 /* Constant is using for limits memory allocation for text buffer.
270    Applicable in situation when: vasprintf is not available in the system
271    and vsnprintf return -1 when long line is truncated (in old versions of
272    glibc and in other system where C99 doesn`t support) */
273
274 #define FMT_MAX_LENGTH 1048576
275
276 char *
277 aprintf (const char *fmt, ...)
278 {
279 #if defined HAVE_VASPRINTF && !defined DEBUG_MALLOC
280   /* Use vasprintf. */
281   int ret;
282   va_list args;
283   char *str;
284   va_start (args, fmt);
285   ret = vasprintf (&str, fmt, args);
286   va_end (args);
287   if (ret < 0 && errno == ENOMEM)
288     memfatal ("aprintf", UNKNOWN_ATTEMPTED_SIZE);  /* for consistency
289                                                       with xmalloc/xrealloc */
290   else if (ret < 0)
291     return NULL;
292   return str;
293 #else  /* not HAVE_VASPRINTF */
294
295   /* vasprintf is unavailable.  snprintf into a small buffer and
296      resize it as necessary. */
297   int size = 32;
298   char *str = xmalloc (size);
299
300   /* #### This code will infloop and eventually abort in xrealloc if
301      passed a FMT that causes snprintf to consistently return -1.  */
302
303   while (1)
304     {
305       int n;
306       va_list args;
307
308       va_start (args, fmt);
309       n = vsnprintf (str, size, fmt, args);
310       va_end (args);
311
312       /* If the printing worked, return the string. */
313       if (n > -1 && n < size)
314         return str;
315
316       /* Else try again with a larger buffer. */
317       if (n > -1)               /* C99 */
318         size = n + 1;           /* precisely what is needed */
319       else if (size >= FMT_MAX_LENGTH)  /* We have a huge buffer, */
320         {                               /* maybe we have some wrong
321                                            format string? */
322           logprintf (LOG_ALWAYS,
323                      _("%s: aprintf: text buffer is too big (%ld bytes), "
324                        "aborting.\n"),
325                      exec_name, size);  /* printout a log message */
326           abort ();                     /* and abort... */
327         }
328       else
329         {
330           /* else, we continue to grow our
331            * buffer: Twice the old size. */
332           size <<= 1;
333         }
334       str = xrealloc (str, size);
335     }
336 #endif /* not HAVE_VASPRINTF */
337 }
338
339 /* Concatenate the NULL-terminated list of string arguments into
340    freshly allocated space.  */
341
342 char *
343 concat_strings (const char *str0, ...)
344 {
345   va_list args;
346   int saved_lengths[5];         /* inspired by Apache's apr_pstrcat */
347   char *ret, *p;
348
349   const char *next_str;
350   int total_length = 0;
351   size_t argcount;
352
353   /* Calculate the length of and allocate the resulting string. */
354
355   argcount = 0;
356   va_start (args, str0);
357   for (next_str = str0; next_str != NULL; next_str = va_arg (args, char *))
358     {
359       int len = strlen (next_str);
360       if (argcount < countof (saved_lengths))
361         saved_lengths[argcount++] = len;
362       total_length += len;
363     }
364   va_end (args);
365   p = ret = xmalloc (total_length + 1);
366
367   /* Copy the strings into the allocated space. */
368
369   argcount = 0;
370   va_start (args, str0);
371   for (next_str = str0; next_str != NULL; next_str = va_arg (args, char *))
372     {
373       int len;
374       if (argcount < countof (saved_lengths))
375         len = saved_lengths[argcount++];
376       else
377         len = strlen (next_str);
378       memcpy (p, next_str, len);
379       p += len;
380     }
381   va_end (args);
382   *p = '\0';
383
384   return ret;
385 }
386 \f
387 /* Format the provided time according to the specified format.  The
388    format is a string with format elements supported by strftime.  */
389
390 static char *
391 fmttime (time_t t, const char *fmt)
392 {
393   static char output[32];
394   struct tm *tm = localtime(&t);
395   if (!tm)
396     abort ();
397   if (!strftime(output, sizeof(output), fmt, tm))
398     abort ();
399   return output;
400 }
401
402 /* Return pointer to a static char[] buffer in which zero-terminated
403    string-representation of TM (in form hh:mm:ss) is printed.
404
405    If TM is NULL, the current time will be used.  */
406
407 char *
408 time_str (time_t t)
409 {
410   return fmttime(t, "%H:%M:%S");
411 }
412
413 /* Like the above, but include the date: YYYY-MM-DD hh:mm:ss.  */
414
415 char *
416 datetime_str (time_t t)
417 {
418   return fmttime(t, "%Y-%m-%d %H:%M:%S");
419 }
420 \f
421 /* The Windows versions of the following two functions are defined in
422    mswindows.c. On MSDOS this function should never be called. */
423
424 #ifdef __VMS
425
426 void
427 fork_to_background (void)
428 {
429   return;
430 }
431
432 #else /* def __VMS */
433
434 #if !defined(WINDOWS) && !defined(MSDOS)
435 void
436 fork_to_background (void)
437 {
438   pid_t pid;
439   /* Whether we arrange our own version of opt.lfilename here.  */
440   bool logfile_changed = false;
441
442   if (!opt.lfilename && (!opt.quiet || opt.server_response))
443     {
444       /* We must create the file immediately to avoid either a race
445          condition (which arises from using unique_name and failing to
446          use fopen_excl) or lying to the user about the log file name
447          (which arises from using unique_name, printing the name, and
448          using fopen_excl later on.)  */
449       FILE *new_log_fp = unique_create (DEFAULT_LOGFILE, false, &opt.lfilename);
450       if (new_log_fp)
451         {
452           logfile_changed = true;
453           fclose (new_log_fp);
454         }
455     }
456   pid = fork ();
457   if (pid < 0)
458     {
459       /* parent, error */
460       perror ("fork");
461       exit (1);
462     }
463   else if (pid != 0)
464     {
465       /* parent, no error */
466       printf (_("Continuing in background, pid %d.\n"), (int) pid);
467       if (logfile_changed)
468         printf (_("Output will be written to %s.\n"), quote (opt.lfilename));
469       exit (0);                 /* #### should we use _exit()? */
470     }
471
472   /* child: give up the privileges and keep running. */
473   setsid ();
474   freopen ("/dev/null", "r", stdin);
475   freopen ("/dev/null", "w", stdout);
476   freopen ("/dev/null", "w", stderr);
477 }
478 #endif /* !WINDOWS && !MSDOS */
479
480 #endif /* def __VMS [else] */
481
482 \f
483 /* "Touch" FILE, i.e. make its mtime ("modified time") equal the time
484    specified with TM.  The atime ("access time") is set to the current
485    time.  */
486
487 void
488 touch (const char *file, time_t tm)
489 {
490   struct timespec timespecs[2];
491   int fd;
492
493   fd = open (file, O_WRONLY);
494   if (fd < 0)
495     {
496       logprintf (LOG_NOTQUIET, "open(%s): %s\n", file, strerror (errno));
497       return;
498     }
499
500   timespecs[0].tv_sec = time (NULL);
501   timespecs[0].tv_nsec = 0L;
502   timespecs[1].tv_sec = tm;
503   timespecs[1].tv_nsec = 0L;
504
505   if (futimens (fd, timespecs) == -1)
506     logprintf (LOG_NOTQUIET, "futimens(%s): %s\n", file, strerror (errno));
507
508   close (fd);
509 }
510
511 /* Checks if FILE is a symbolic link, and removes it if it is.  Does
512    nothing under MS-Windows.  */
513 int
514 remove_link (const char *file)
515 {
516   int err = 0;
517   struct_stat st;
518
519   if (lstat (file, &st) == 0 && S_ISLNK (st.st_mode))
520     {
521       DEBUGP (("Unlinking %s (symlink).\n", file));
522       err = unlink (file);
523       if (err != 0)
524         logprintf (LOG_VERBOSE, _("Failed to unlink symlink %s: %s\n"),
525                    quote (file), strerror (errno));
526     }
527   return err;
528 }
529
530 /* Does FILENAME exist?  This is quite a lousy implementation, since
531    it supplies no error codes -- only a yes-or-no answer.  Thus it
532    will return that a file does not exist if, e.g., the directory is
533    unreadable.  I don't mind it too much currently, though.  The
534    proper way should, of course, be to have a third, error state,
535    other than true/false, but that would introduce uncalled-for
536    additional complexity to the callers.  */
537 bool
538 file_exists_p (const char *filename)
539 {
540 #ifdef HAVE_ACCESS
541   return access (filename, F_OK) >= 0;
542 #else
543   struct_stat buf;
544   return stat (filename, &buf) >= 0;
545 #endif
546 }
547
548 /* Returns 0 if PATH is a directory, 1 otherwise (any kind of file).
549    Returns 0 on error.  */
550 bool
551 file_non_directory_p (const char *path)
552 {
553   struct_stat buf;
554   /* Use lstat() rather than stat() so that symbolic links pointing to
555      directories can be identified correctly.  */
556   if (lstat (path, &buf) != 0)
557     return false;
558   return S_ISDIR (buf.st_mode) ? false : true;
559 }
560
561 /* Return the size of file named by FILENAME, or -1 if it cannot be
562    opened or seeked into. */
563 wgint
564 file_size (const char *filename)
565 {
566 #if defined(HAVE_FSEEKO) && defined(HAVE_FTELLO)
567   wgint size;
568   /* We use fseek rather than stat to determine the file size because
569      that way we can also verify that the file is readable without
570      explicitly checking for permissions.  Inspired by the POST patch
571      by Arnaud Wylie.  */
572   FILE *fp = fopen (filename, "rb");
573   if (!fp)
574     return -1;
575   fseeko (fp, 0, SEEK_END);
576   size = ftello (fp);
577   fclose (fp);
578   return size;
579 #else
580   struct_stat st;
581   if (stat (filename, &st) < 0)
582     return -1;
583   return st.st_size;
584 #endif
585 }
586
587 /* 2005-02-19 SMS.
588    If no UNIQ_SEP is defined (as on VMS), have unique_name() return the
589    original name.  With the VMS file systems' versioning, everything
590    should be fine, and appending ".NN" just causes trouble.
591 */
592
593 #ifdef UNIQ_SEP
594
595 /* stat file names named PREFIX.1, PREFIX.2, etc., until one that
596    doesn't exist is found.  Return a freshly allocated copy of the
597    unused file name.  */
598
599 static char *
600 unique_name_1 (const char *prefix)
601 {
602   int count = 1;
603   int plen = strlen (prefix);
604   char *template = (char *)alloca (plen + 1 + 24);
605   char *template_tail = template + plen;
606
607   memcpy (template, prefix, plen);
608   *template_tail++ = UNIQ_SEP;
609
610   do
611     number_to_string (template_tail, count++);
612   while (file_exists_p (template));
613
614   return xstrdup (template);
615 }
616
617 /* Return a unique file name, based on FILE.
618
619    More precisely, if FILE doesn't exist, it is returned unmodified.
620    If not, FILE.1 is tried, then FILE.2, etc.  The first FILE.<number>
621    file name that doesn't exist is returned.
622
623    2005-02-19 SMS.  "." is now UNIQ_SEP, and may be different.
624
625    The resulting file is not created, only verified that it didn't
626    exist at the point in time when the function was called.
627    Therefore, where security matters, don't rely that the file created
628    by this function exists until you open it with O_EXCL or
629    equivalent.
630
631    If ALLOW_PASSTHROUGH is 0, it always returns a freshly allocated
632    string.  Otherwise, it may return FILE if the file doesn't exist
633    (and therefore doesn't need changing).  */
634
635 char *
636 unique_name (const char *file, bool allow_passthrough)
637 {
638   /* If the FILE itself doesn't exist, return it without
639      modification. */
640   if (!file_exists_p (file))
641     return allow_passthrough ? (char *)file : xstrdup (file);
642
643   /* Otherwise, find a numeric suffix that results in unused file name
644      and return it.  */
645   return unique_name_1 (file);
646 }
647
648 #else /* def UNIQ_SEP */
649
650 /* Dummy unique_name() for VMS.  Return the original name as easily as
651    possible.
652 */
653 char *
654 unique_name (const char *file, bool allow_passthrough)
655 {
656   /* Return the FILE itself, without modification, irregardful. */
657   return allow_passthrough ? (char *)file : xstrdup (file);
658 }
659
660 #endif /* def UNIQ_SEP [else] */
661
662 /* Create a file based on NAME, except without overwriting an existing
663    file with that name.  Providing O_EXCL is correctly implemented,
664    this function does not have the race condition associated with
665    opening the file returned by unique_name.  */
666
667 FILE *
668 unique_create (const char *name, bool binary, char **opened_name)
669 {
670   /* unique file name, based on NAME */
671   char *uname = unique_name (name, false);
672   FILE *fp;
673   while ((fp = fopen_excl (uname, binary)) == NULL && errno == EEXIST)
674     {
675       xfree (uname);
676       uname = unique_name (name, false);
677     }
678   if (opened_name && fp != NULL)
679     {
680       if (fp)
681         *opened_name = uname;
682       else
683         {
684           *opened_name = NULL;
685           xfree (uname);
686         }
687     }
688   else
689     xfree (uname);
690   return fp;
691 }
692
693 /* Open the file for writing, with the addition that the file is
694    opened "exclusively".  This means that, if the file already exists,
695    this function will *fail* and errno will be set to EEXIST.  If
696    BINARY is set, the file will be opened in binary mode, equivalent
697    to fopen's "wb".
698
699    If opening the file fails for any reason, including the file having
700    previously existed, this function returns NULL and sets errno
701    appropriately.  */
702
703 FILE *
704 fopen_excl (const char *fname, int binary)
705 {
706   int fd;
707 #ifdef O_EXCL
708
709 /* 2005-04-14 SMS.
710    VMS lacks O_BINARY, but makes up for it in weird and wonderful ways.
711    It also has file versions which obviate all the O_EXCL effort.
712    O_TRUNC (something of a misnomer) requests a new version.
713 */
714 # ifdef __VMS
715 /* Common open() optional arguments:
716    sequential access only, access callback function.
717 */
718 #  define OPEN_OPT_ARGS "fop=sqo", "acc", acc_cb, &open_id
719
720   int open_id;
721   int flags = O_WRONLY | O_CREAT | O_TRUNC;
722
723   if (binary > 1)
724     {
725       open_id = 11;
726       fd = open( fname,                 /* File name. */
727        flags,                           /* Flags. */
728        0777,                            /* Mode for default protection. */
729        "ctx=bin,stm",                   /* Binary, stream access. */
730        "rfm=stmlf",                     /* Stream_LF. */
731        OPEN_OPT_ARGS);                  /* Access callback. */
732     }
733   else if (binary)
734     {
735       open_id = 12;
736       fd = open( fname,                 /* File name. */
737        flags,                           /* Flags. */
738        0777,                            /* Mode for default protection. */
739        "ctx=bin,stm",                   /* Binary, stream access. */
740        "rfm=fix",                       /* Fixed-length, */
741        "mrs=512",                       /* 512-byte records. */
742        OPEN_OPT_ARGS);                  /* Access callback. */
743     }
744   else
745     {
746       open_id = 13;
747       fd = open( fname,                 /* File name. */
748        flags,                           /* Flags. */
749        0777,                            /* Mode for default protection.
750 */
751        "rfm=stmlf",                     /* Stream_LF. */
752        OPEN_OPT_ARGS);                  /* Access callback. */
753     }
754 # else /* def __VMS */
755   int flags = O_WRONLY | O_CREAT | O_EXCL;
756 # ifdef O_BINARY
757   if (binary)
758     flags |= O_BINARY;
759 # endif
760   fd = open (fname, flags, 0666);
761 # endif /* def __VMS [else] */
762
763   if (fd < 0)
764     return NULL;
765   return fdopen (fd, binary ? "wb" : "w");
766 #else  /* not O_EXCL */
767   /* Manually check whether the file exists.  This is prone to race
768      conditions, but systems without O_EXCL haven't deserved
769      better.  */
770   if (file_exists_p (fname))
771     {
772       errno = EEXIST;
773       return NULL;
774     }
775   return fopen (fname, binary ? "wb" : "w");
776 #endif /* not O_EXCL */
777 }
778 \f
779 /* Create DIRECTORY.  If some of the pathname components of DIRECTORY
780    are missing, create them first.  In case any mkdir() call fails,
781    return its error status.  Returns 0 on successful completion.
782
783    The behaviour of this function should be identical to the behaviour
784    of `mkdir -p' on systems where mkdir supports the `-p' option.  */
785 int
786 make_directory (const char *directory)
787 {
788   int i, ret, quit = 0;
789   char *dir;
790
791   /* Make a copy of dir, to be able to write to it.  Otherwise, the
792      function is unsafe if called with a read-only char *argument.  */
793   STRDUP_ALLOCA (dir, directory);
794
795   /* If the first character of dir is '/', skip it (and thus enable
796      creation of absolute-pathname directories.  */
797   for (i = (*dir == '/'); 1; ++i)
798     {
799       for (; dir[i] && dir[i] != '/'; i++)
800         ;
801       if (!dir[i])
802         quit = 1;
803       dir[i] = '\0';
804       /* Check whether the directory already exists.  Allow creation of
805          of intermediate directories to fail, as the initial path components
806          are not necessarily directories!  */
807       if (!file_exists_p (dir))
808         ret = mkdir (dir, 0777);
809       else
810         ret = 0;
811       if (quit)
812         break;
813       else
814         dir[i] = '/';
815     }
816   return ret;
817 }
818
819 /* Merge BASE with FILE.  BASE can be a directory or a file name, FILE
820    should be a file name.
821
822    file_merge("/foo/bar", "baz")  => "/foo/baz"
823    file_merge("/foo/bar/", "baz") => "/foo/bar/baz"
824    file_merge("foo", "bar")       => "bar"
825
826    In other words, it's a simpler and gentler version of uri_merge.  */
827
828 char *
829 file_merge (const char *base, const char *file)
830 {
831   char *result;
832   const char *cut = (const char *)strrchr (base, '/');
833
834   if (!cut)
835     return xstrdup (file);
836
837   result = xmalloc (cut - base + 1 + strlen (file) + 1);
838   memcpy (result, base, cut - base);
839   result[cut - base] = '/';
840   strcpy (result + (cut - base) + 1, file);
841
842   return result;
843 }
844 \f
845 /* Like fnmatch, but performs a case-insensitive match.  */
846
847 int
848 fnmatch_nocase (const char *pattern, const char *string, int flags)
849 {
850 #ifdef FNM_CASEFOLD
851   /* The FNM_CASEFOLD flag started as a GNU extension, but it is now
852      also present on *BSD platforms, and possibly elsewhere.  */
853   return fnmatch (pattern, string, flags | FNM_CASEFOLD);
854 #else
855   /* Turn PATTERN and STRING to lower case and call fnmatch on them. */
856   char *patcopy = (char *) alloca (strlen (pattern) + 1);
857   char *strcopy = (char *) alloca (strlen (string) + 1);
858   char *p;
859   for (p = patcopy; *pattern; pattern++, p++)
860     *p = c_tolower (*pattern);
861   *p = '\0';
862   for (p = strcopy; *string; string++, p++)
863     *p = c_tolower (*string);
864   *p = '\0';
865   return fnmatch (patcopy, strcopy, flags);
866 #endif
867 }
868
869 static bool in_acclist (const char *const *, const char *, bool);
870
871 /* Determine whether a file is acceptable to be followed, according to
872    lists of patterns to accept/reject.  */
873 bool
874 acceptable (const char *s)
875 {
876   int l = strlen (s);
877
878   if (opt.output_document && strcmp (s, opt.output_document) == 0)
879     return true;
880
881   while (l && s[l] != '/')
882     --l;
883   if (s[l] == '/')
884     s += (l + 1);
885   if (opt.accepts)
886     {
887       if (opt.rejects)
888         return (in_acclist ((const char *const *)opt.accepts, s, true)
889                 && !in_acclist ((const char *const *)opt.rejects, s, true));
890       else
891         return in_acclist ((const char *const *)opt.accepts, s, true);
892     }
893   else if (opt.rejects)
894     return !in_acclist ((const char *const *)opt.rejects, s, true);
895   return true;
896 }
897
898 /* Check if D2 is a subdirectory of D1.  E.g. if D1 is `/something', subdir_p()
899    will return true if and only if D2 begins with `/something/' or is exactly
900    '/something'.  */
901 bool
902 subdir_p (const char *d1, const char *d2)
903 {
904   if (*d1 == '\0')
905     return true;
906   if (!opt.ignore_case)
907     for (; *d1 && *d2 && (*d1 == *d2); ++d1, ++d2)
908       ;
909   else
910     for (; *d1 && *d2 && (c_tolower (*d1) == c_tolower (*d2)); ++d1, ++d2)
911       ;
912
913   return *d1 == '\0' && (*d2 == '\0' || *d2 == '/');
914 }
915
916 /* Iterate through DIRLIST (which must be NULL-terminated), and return the
917    first element that matches DIR, through wildcards or front comparison (as
918    appropriate).  */
919 static bool
920 dir_matches_p (char **dirlist, const char *dir)
921 {
922   char **x;
923   int (*matcher) (const char *, const char *, int)
924     = opt.ignore_case ? fnmatch_nocase : fnmatch;
925
926   for (x = dirlist; *x; x++)
927     {
928       /* Remove leading '/' */
929       char *p = *x + (**x == '/');
930       if (has_wildcards_p (p))
931         {
932           if (matcher (p, dir, FNM_PATHNAME) == 0)
933             break;
934         }
935       else
936         {
937           if (subdir_p (p, dir))
938             break;
939         }
940     }
941
942   return *x ? true : false;
943 }
944
945 /* Returns whether DIRECTORY is acceptable for download, wrt the
946    include/exclude lists.
947
948    The leading `/' is ignored in paths; relative and absolute paths
949    may be freely intermixed.  */
950
951 bool
952 accdir (const char *directory)
953 {
954   /* Remove starting '/'.  */
955   if (*directory == '/')
956     ++directory;
957   if (opt.includes)
958     {
959       if (!dir_matches_p (opt.includes, directory))
960         return false;
961     }
962   if (opt.excludes)
963     {
964       if (dir_matches_p (opt.excludes, directory))
965         return false;
966     }
967   return true;
968 }
969
970 /* Return true if STRING ends with TAIL.  For instance:
971
972    match_tail ("abc", "bc", false)  -> 1
973    match_tail ("abc", "ab", false)  -> 0
974    match_tail ("abc", "abc", false) -> 1
975
976    If FOLD_CASE is true, the comparison will be case-insensitive.  */
977
978 bool
979 match_tail (const char *string, const char *tail, bool fold_case)
980 {
981   int i, j;
982
983   /* We want this to be fast, so we code two loops, one with
984      case-folding, one without. */
985
986   if (!fold_case)
987     {
988       for (i = strlen (string), j = strlen (tail); i >= 0 && j >= 0; i--, j--)
989         if (string[i] != tail[j])
990           break;
991     }
992   else
993     {
994       for (i = strlen (string), j = strlen (tail); i >= 0 && j >= 0; i--, j--)
995         if (c_tolower (string[i]) != c_tolower (tail[j]))
996           break;
997     }
998
999   /* If the tail was exhausted, the match was succesful.  */
1000   if (j == -1)
1001     return true;
1002   else
1003     return false;
1004 }
1005
1006 /* Checks whether string S matches each element of ACCEPTS.  A list
1007    element are matched either with fnmatch() or match_tail(),
1008    according to whether the element contains wildcards or not.
1009
1010    If the BACKWARD is false, don't do backward comparison -- just compare
1011    them normally.  */
1012 static bool
1013 in_acclist (const char *const *accepts, const char *s, bool backward)
1014 {
1015   for (; *accepts; accepts++)
1016     {
1017       if (has_wildcards_p (*accepts))
1018         {
1019           int res = opt.ignore_case
1020             ? fnmatch_nocase (*accepts, s, 0) : fnmatch (*accepts, s, 0);
1021           /* fnmatch returns 0 if the pattern *does* match the string.  */
1022           if (res == 0)
1023             return true;
1024         }
1025       else
1026         {
1027           if (backward)
1028             {
1029               if (match_tail (s, *accepts, opt.ignore_case))
1030                 return true;
1031             }
1032           else
1033             {
1034               int cmp = opt.ignore_case
1035                 ? strcasecmp (s, *accepts) : strcmp (s, *accepts);
1036               if (cmp == 0)
1037                 return true;
1038             }
1039         }
1040     }
1041   return false;
1042 }
1043
1044 /* Return the location of STR's suffix (file extension).  Examples:
1045    suffix ("foo.bar")       -> "bar"
1046    suffix ("foo.bar.baz")   -> "baz"
1047    suffix ("/foo/bar")      -> NULL
1048    suffix ("/foo.bar/baz")  -> NULL  */
1049 char *
1050 suffix (const char *str)
1051 {
1052   int i;
1053
1054   for (i = strlen (str); i && str[i] != '/' && str[i] != '.'; i--)
1055     ;
1056
1057   if (str[i++] == '.')
1058     return (char *)str + i;
1059   else
1060     return NULL;
1061 }
1062
1063 /* Return true if S contains globbing wildcards (`*', `?', `[' or
1064    `]').  */
1065
1066 bool
1067 has_wildcards_p (const char *s)
1068 {
1069   for (; *s; s++)
1070     if (*s == '*' || *s == '?' || *s == '[' || *s == ']')
1071       return true;
1072   return false;
1073 }
1074
1075 /* Return true if FNAME ends with a typical HTML suffix.  The
1076    following (case-insensitive) suffixes are presumed to be HTML
1077    files:
1078
1079      html
1080      htm
1081      ?html (`?' matches one character)
1082
1083    #### CAVEAT.  This is not necessarily a good indication that FNAME
1084    refers to a file that contains HTML!  */
1085 bool
1086 has_html_suffix_p (const char *fname)
1087 {
1088   char *suf;
1089
1090   if ((suf = suffix (fname)) == NULL)
1091     return false;
1092   if (!strcasecmp (suf, "html"))
1093     return true;
1094   if (!strcasecmp (suf, "htm"))
1095     return true;
1096   if (suf[0] && !strcasecmp (suf + 1, "html"))
1097     return true;
1098   return false;
1099 }
1100
1101 /* Read a line from FP and return the pointer to freshly allocated
1102    storage.  The storage space is obtained through malloc() and should
1103    be freed with free() when it is no longer needed.
1104
1105    The length of the line is not limited, except by available memory.
1106    The newline character at the end of line is retained.  The line is
1107    terminated with a zero character.
1108
1109    After end-of-file is encountered without anything being read, NULL
1110    is returned.  NULL is also returned on error.  To distinguish
1111    between these two cases, use the stdio function ferror().  */
1112
1113 char *
1114 read_whole_line (FILE *fp)
1115 {
1116   int length = 0;
1117   int bufsize = 82;
1118   char *line = xmalloc (bufsize);
1119
1120   while (fgets (line + length, bufsize - length, fp))
1121     {
1122       length += strlen (line + length);
1123       if (length == 0)
1124         /* Possible for example when reading from a binary file where
1125            a line begins with \0.  */
1126         continue;
1127
1128       if (line[length - 1] == '\n')
1129         break;
1130
1131       /* fgets() guarantees to read the whole line, or to use up the
1132          space we've given it.  We can double the buffer
1133          unconditionally.  */
1134       bufsize <<= 1;
1135       line = xrealloc (line, bufsize);
1136     }
1137   if (length == 0 || ferror (fp))
1138     {
1139       xfree (line);
1140       return NULL;
1141     }
1142   if (length + 1 < bufsize)
1143     /* Relieve the memory from our exponential greediness.  We say
1144        `length + 1' because the terminating \0 is not included in
1145        LENGTH.  We don't need to zero-terminate the string ourselves,
1146        though, because fgets() does that.  */
1147     line = xrealloc (line, length + 1);
1148   return line;
1149 }
1150 \f
1151 /* Read FILE into memory.  A pointer to `struct file_memory' are
1152    returned; use struct element `content' to access file contents, and
1153    the element `length' to know the file length.  `content' is *not*
1154    zero-terminated, and you should *not* read or write beyond the [0,
1155    length) range of characters.
1156
1157    After you are done with the file contents, call wget_read_file_free to
1158    release the memory.
1159
1160    Depending on the operating system and the type of file that is
1161    being read, wget_read_file() either mmap's the file into memory, or
1162    reads the file into the core using read().
1163
1164    If file is named "-", fileno(stdin) is used for reading instead.
1165    If you want to read from a real file named "-", use "./-" instead.  */
1166
1167 struct file_memory *
1168 wget_read_file (const char *file)
1169 {
1170   int fd;
1171   struct file_memory *fm;
1172   long size;
1173   bool inhibit_close = false;
1174
1175   /* Some magic in the finest tradition of Perl and its kin: if FILE
1176      is "-", just use stdin.  */
1177   if (HYPHENP (file))
1178     {
1179       fd = fileno (stdin);
1180       inhibit_close = true;
1181       /* Note that we don't inhibit mmap() in this case.  If stdin is
1182          redirected from a regular file, mmap() will still work.  */
1183     }
1184   else
1185     fd = open (file, O_RDONLY);
1186   if (fd < 0)
1187     return NULL;
1188   fm = xnew (struct file_memory);
1189
1190 #ifdef HAVE_MMAP
1191   {
1192     struct_fstat buf;
1193     if (fstat (fd, &buf) < 0)
1194       goto mmap_lose;
1195     fm->length = buf.st_size;
1196     /* NOTE: As far as I know, the callers of this function never
1197        modify the file text.  Relying on this would enable us to
1198        specify PROT_READ and MAP_SHARED for a marginal gain in
1199        efficiency, but at some cost to generality.  */
1200     fm->content = mmap (NULL, fm->length, PROT_READ | PROT_WRITE,
1201                         MAP_PRIVATE, fd, 0);
1202     if (fm->content == (char *)MAP_FAILED)
1203       goto mmap_lose;
1204     if (!inhibit_close)
1205       close (fd);
1206
1207     fm->mmap_p = 1;
1208     return fm;
1209   }
1210
1211  mmap_lose:
1212   /* The most common reason why mmap() fails is that FD does not point
1213      to a plain file.  However, it's also possible that mmap() doesn't
1214      work for a particular type of file.  Therefore, whenever mmap()
1215      fails, we just fall back to the regular method.  */
1216 #endif /* HAVE_MMAP */
1217
1218   fm->length = 0;
1219   size = 512;                   /* number of bytes fm->contents can
1220                                    hold at any given time. */
1221   fm->content = xmalloc (size);
1222   while (1)
1223     {
1224       wgint nread;
1225       if (fm->length > size / 2)
1226         {
1227           /* #### I'm not sure whether the whole exponential-growth
1228              thing makes sense with kernel read.  On Linux at least,
1229              read() refuses to read more than 4K from a file at a
1230              single chunk anyway.  But other Unixes might optimize it
1231              better, and it doesn't *hurt* anything, so I'm leaving
1232              it.  */
1233
1234           /* Normally, we grow SIZE exponentially to make the number
1235              of calls to read() and realloc() logarithmic in relation
1236              to file size.  However, read() can read an amount of data
1237              smaller than requested, and it would be unreasonable to
1238              double SIZE every time *something* was read.  Therefore,
1239              we double SIZE only when the length exceeds half of the
1240              entire allocated size.  */
1241           size <<= 1;
1242           fm->content = xrealloc (fm->content, size);
1243         }
1244       nread = read (fd, fm->content + fm->length, size - fm->length);
1245       if (nread > 0)
1246         /* Successful read. */
1247         fm->length += nread;
1248       else if (nread < 0)
1249         /* Error. */
1250         goto lose;
1251       else
1252         /* EOF */
1253         break;
1254     }
1255   if (!inhibit_close)
1256     close (fd);
1257   if (size > fm->length && fm->length != 0)
1258     /* Due to exponential growth of fm->content, the allocated region
1259        might be much larger than what is actually needed.  */
1260     fm->content = xrealloc (fm->content, fm->length);
1261   fm->mmap_p = 0;
1262   return fm;
1263
1264  lose:
1265   if (!inhibit_close)
1266     close (fd);
1267   xfree (fm->content);
1268   xfree (fm);
1269   return NULL;
1270 }
1271
1272 /* Release the resources held by FM.  Specifically, this calls
1273    munmap() or xfree() on fm->content, depending whether mmap or
1274    malloc/read were used to read in the file.  It also frees the
1275    memory needed to hold the FM structure itself.  */
1276
1277 void
1278 wget_read_file_free (struct file_memory *fm)
1279 {
1280 #ifdef HAVE_MMAP
1281   if (fm->mmap_p)
1282     {
1283       munmap (fm->content, fm->length);
1284     }
1285   else
1286 #endif
1287     {
1288       xfree (fm->content);
1289     }
1290   xfree (fm);
1291 }
1292 \f
1293 /* Free the pointers in a NULL-terminated vector of pointers, then
1294    free the pointer itself.  */
1295 void
1296 free_vec (char **vec)
1297 {
1298   if (vec)
1299     {
1300       char **p = vec;
1301       while (*p)
1302         xfree (*p++);
1303       xfree (vec);
1304     }
1305 }
1306
1307 /* Append vector V2 to vector V1.  The function frees V2 and
1308    reallocates V1 (thus you may not use the contents of neither
1309    pointer after the call).  If V1 is NULL, V2 is returned.  */
1310 char **
1311 merge_vecs (char **v1, char **v2)
1312 {
1313   int i, j;
1314
1315   if (!v1)
1316     return v2;
1317   if (!v2)
1318     return v1;
1319   if (!*v2)
1320     {
1321       /* To avoid j == 0 */
1322       xfree (v2);
1323       return v1;
1324     }
1325   /* Count v1.  */
1326   for (i = 0; v1[i]; i++)
1327     ;
1328   /* Count v2.  */
1329   for (j = 0; v2[j]; j++)
1330     ;
1331   /* Reallocate v1.  */
1332   v1 = xrealloc (v1, (i + j + 1) * sizeof (char **));
1333   memcpy (v1 + i, v2, (j + 1) * sizeof (char *));
1334   xfree (v2);
1335   return v1;
1336 }
1337
1338 /* Append a freshly allocated copy of STR to VEC.  If VEC is NULL, it
1339    is allocated as needed.  Return the new value of the vector. */
1340
1341 char **
1342 vec_append (char **vec, const char *str)
1343 {
1344   int cnt;                      /* count of vector elements, including
1345                                    the one we're about to append */
1346   if (vec != NULL)
1347     {
1348       for (cnt = 0; vec[cnt]; cnt++)
1349         ;
1350       ++cnt;
1351     }
1352   else
1353     cnt = 1;
1354   /* Reallocate the array to fit the new element and the NULL. */
1355   vec = xrealloc (vec, (cnt + 1) * sizeof (char *));
1356   /* Append a copy of STR to the vector. */
1357   vec[cnt - 1] = xstrdup (str);
1358   vec[cnt] = NULL;
1359   return vec;
1360 }
1361 \f
1362 /* Sometimes it's useful to create "sets" of strings, i.e. special
1363    hash tables where you want to store strings as keys and merely
1364    query for their existence.  Here is a set of utility routines that
1365    makes that transparent.  */
1366
1367 void
1368 string_set_add (struct hash_table *ht, const char *s)
1369 {
1370   /* First check whether the set element already exists.  If it does,
1371      do nothing so that we don't have to free() the old element and
1372      then strdup() a new one.  */
1373   if (hash_table_contains (ht, s))
1374     return;
1375
1376   /* We use "1" as value.  It provides us a useful and clear arbitrary
1377      value, and it consumes no memory -- the pointers to the same
1378      string "1" will be shared by all the key-value pairs in all `set'
1379      hash tables.  */
1380   hash_table_put (ht, xstrdup (s), "1");
1381 }
1382
1383 /* Synonym for hash_table_contains... */
1384
1385 int
1386 string_set_contains (struct hash_table *ht, const char *s)
1387 {
1388   return hash_table_contains (ht, s);
1389 }
1390
1391 /* Convert the specified string set to array.  ARRAY should be large
1392    enough to hold hash_table_count(ht) char pointers.  */
1393
1394 void string_set_to_array (struct hash_table *ht, char **array)
1395 {
1396   hash_table_iterator iter;
1397   for (hash_table_iterate (ht, &iter); hash_table_iter_next (&iter); )
1398     *array++ = iter.key;
1399 }
1400
1401 /* Free the string set.  This frees both the storage allocated for
1402    keys and the actual hash table.  (hash_table_destroy would only
1403    destroy the hash table.)  */
1404
1405 void
1406 string_set_free (struct hash_table *ht)
1407 {
1408   hash_table_iterator iter;
1409   for (hash_table_iterate (ht, &iter); hash_table_iter_next (&iter); )
1410     xfree (iter.key);
1411   hash_table_destroy (ht);
1412 }
1413
1414 /* Utility function: simply call xfree() on all keys and values of HT.  */
1415
1416 void
1417 free_keys_and_values (struct hash_table *ht)
1418 {
1419   hash_table_iterator iter;
1420   for (hash_table_iterate (ht, &iter); hash_table_iter_next (&iter); )
1421     {
1422       xfree (iter.key);
1423       xfree (iter.value);
1424     }
1425 }
1426 \f
1427 /* Get digit grouping data for thousand separors by calling
1428    localeconv().  The data includes separator string and grouping info
1429    and is cached after the first call to the function.
1430
1431    In locales that don't set a thousand separator (such as the "C"
1432    locale), this forces it to be ",".  We are now only showing
1433    thousand separators in one place, so this shouldn't be a problem in
1434    practice.  */
1435
1436 static void
1437 get_grouping_data (const char **sep, const char **grouping)
1438 {
1439   static const char *cached_sep;
1440   static const char *cached_grouping;
1441   static bool initialized;
1442   if (!initialized)
1443     {
1444       /* Get the grouping info from the locale. */
1445       struct lconv *lconv = localeconv ();
1446       cached_sep = lconv->thousands_sep;
1447       cached_grouping = lconv->grouping;
1448 #if ! USE_NLS_PROGRESS_BAR
1449       /* We can't count column widths, so ensure that the separator
1450        * is single-byte only (let check below determine what byte). */
1451       if (strlen(cached_sep) > 1)
1452         cached_sep = "";
1453 #endif
1454       if (!*cached_sep)
1455         {
1456           /* Many locales (such as "C" or "hr_HR") don't specify
1457              grouping, which we still want to use it for legibility.
1458              In those locales set the sep char to ',', unless that
1459              character is used for decimal point, in which case set it
1460              to ".".  */
1461           if (*lconv->decimal_point != ',')
1462             cached_sep = ",";
1463           else
1464             cached_sep = ".";
1465           cached_grouping = "\x03";
1466         }
1467       initialized = true;
1468     }
1469   *sep = cached_sep;
1470   *grouping = cached_grouping;
1471 }
1472
1473 /* Return a printed representation of N with thousand separators.
1474    This should respect locale settings, with the exception of the "C"
1475    locale which mandates no separator, but we use one anyway.
1476
1477    Unfortunately, we cannot use %'d (in fact it would be %'j) to get
1478    the separators because it's too non-portable, and it's hard to test
1479    for this feature at configure time.  Besides, it wouldn't display
1480    separators in the "C" locale, still used by many Unix users.  */
1481
1482 const char *
1483 with_thousand_seps (wgint n)
1484 {
1485   static char outbuf[48];
1486   char *p = outbuf + sizeof outbuf;
1487
1488   /* Info received from locale */
1489   const char *grouping, *sep;
1490   int seplen;
1491
1492   /* State information */
1493   int i = 0, groupsize;
1494   const char *atgroup;
1495
1496   bool negative = n < 0;
1497
1498   /* Initialize grouping data. */
1499   get_grouping_data (&sep, &grouping);
1500   seplen = strlen (sep);
1501   atgroup = grouping;
1502   groupsize = *atgroup++;
1503
1504   /* This would overflow on WGINT_MIN, but printing negative numbers
1505      is not an important goal of this fuinction.  */
1506   if (negative)
1507     n = -n;
1508
1509   /* Write the number into the buffer, backwards, inserting the
1510      separators as necessary.  */
1511   *--p = '\0';
1512   while (1)
1513     {
1514       *--p = n % 10 + '0';
1515       n /= 10;
1516       if (n == 0)
1517         break;
1518       /* Prepend SEP to every groupsize'd digit and get new groupsize.  */
1519       if (++i == groupsize)
1520         {
1521           if (seplen == 1)
1522             *--p = *sep;
1523           else
1524             memcpy (p -= seplen, sep, seplen);
1525           i = 0;
1526           if (*atgroup)
1527             groupsize = *atgroup++;
1528         }
1529     }
1530   if (negative)
1531     *--p = '-';
1532
1533   return p;
1534 }
1535
1536 /* N, a byte quantity, is converted to a human-readable abberviated
1537    form a la sizes printed by `ls -lh'.  The result is written to a
1538    static buffer, a pointer to which is returned.
1539
1540    Unlike `with_thousand_seps', this approximates to the nearest unit.
1541    Quoting GNU libit: "Most people visually process strings of 3-4
1542    digits effectively, but longer strings of digits are more prone to
1543    misinterpretation.  Hence, converting to an abbreviated form
1544    usually improves readability."
1545
1546    This intentionally uses kilobyte (KB), megabyte (MB), etc. in their
1547    original computer-related meaning of "powers of 1024".  We don't
1548    use the "*bibyte" names invented in 1998, and seldom used in
1549    practice.  Wikipedia's entry on "binary prefix" discusses this in
1550    some detail.  */
1551
1552 char *
1553 human_readable (HR_NUMTYPE n)
1554 {
1555   /* These suffixes are compatible with those of GNU `ls -lh'. */
1556   static char powers[] =
1557     {
1558       'K',                      /* kilobyte, 2^10 bytes */
1559       'M',                      /* megabyte, 2^20 bytes */
1560       'G',                      /* gigabyte, 2^30 bytes */
1561       'T',                      /* terabyte, 2^40 bytes */
1562       'P',                      /* petabyte, 2^50 bytes */
1563       'E',                      /* exabyte,  2^60 bytes */
1564     };
1565   static char buf[8];
1566   size_t i;
1567
1568   /* If the quantity is smaller than 1K, just print it. */
1569   if (n < 1024)
1570     {
1571       snprintf (buf, sizeof (buf), "%d", (int) n);
1572       return buf;
1573     }
1574
1575   /* Loop over powers, dividing N with 1024 in each iteration.  This
1576      works unchanged for all sizes of wgint, while still avoiding
1577      non-portable `long double' arithmetic.  */
1578   for (i = 0; i < countof (powers); i++)
1579     {
1580       /* At each iteration N is greater than the *subsequent* power.
1581          That way N/1024.0 produces a decimal number in the units of
1582          *this* power.  */
1583       if ((n / 1024) < 1024 || i == countof (powers) - 1)
1584         {
1585           double val = n / 1024.0;
1586           /* Print values smaller than 10 with one decimal digits, and
1587              others without any decimals.  */
1588           snprintf (buf, sizeof (buf), "%.*f%c",
1589                     val < 10 ? 1 : 0, val, powers[i]);
1590           return buf;
1591         }
1592       n /= 1024;
1593     }
1594   return NULL;                  /* unreached */
1595 }
1596
1597 /* Count the digits in the provided number.  Used to allocate space
1598    when printing numbers.  */
1599
1600 int
1601 numdigit (wgint number)
1602 {
1603   int cnt = 1;
1604   if (number < 0)
1605     ++cnt;                      /* accomodate '-' */
1606   while ((number /= 10) != 0)
1607     ++cnt;
1608   return cnt;
1609 }
1610
1611 #define PR(mask) *p++ = n / (mask) + '0'
1612
1613 /* DIGITS_<D> is used to print a D-digit number and should be called
1614    with mask==10^(D-1).  It prints n/mask (the first digit), reducing
1615    n to n%mask (the remaining digits), and calling DIGITS_<D-1>.
1616    Recursively this continues until DIGITS_1 is invoked.  */
1617
1618 #define DIGITS_1(mask) PR (mask)
1619 #define DIGITS_2(mask) PR (mask), n %= (mask), DIGITS_1 ((mask) / 10)
1620 #define DIGITS_3(mask) PR (mask), n %= (mask), DIGITS_2 ((mask) / 10)
1621 #define DIGITS_4(mask) PR (mask), n %= (mask), DIGITS_3 ((mask) / 10)
1622 #define DIGITS_5(mask) PR (mask), n %= (mask), DIGITS_4 ((mask) / 10)
1623 #define DIGITS_6(mask) PR (mask), n %= (mask), DIGITS_5 ((mask) / 10)
1624 #define DIGITS_7(mask) PR (mask), n %= (mask), DIGITS_6 ((mask) / 10)
1625 #define DIGITS_8(mask) PR (mask), n %= (mask), DIGITS_7 ((mask) / 10)
1626 #define DIGITS_9(mask) PR (mask), n %= (mask), DIGITS_8 ((mask) / 10)
1627 #define DIGITS_10(mask) PR (mask), n %= (mask), DIGITS_9 ((mask) / 10)
1628
1629 /* DIGITS_<11-20> are only used on machines with 64-bit wgints. */
1630
1631 #define DIGITS_11(mask) PR (mask), n %= (mask), DIGITS_10 ((mask) / 10)
1632 #define DIGITS_12(mask) PR (mask), n %= (mask), DIGITS_11 ((mask) / 10)
1633 #define DIGITS_13(mask) PR (mask), n %= (mask), DIGITS_12 ((mask) / 10)
1634 #define DIGITS_14(mask) PR (mask), n %= (mask), DIGITS_13 ((mask) / 10)
1635 #define DIGITS_15(mask) PR (mask), n %= (mask), DIGITS_14 ((mask) / 10)
1636 #define DIGITS_16(mask) PR (mask), n %= (mask), DIGITS_15 ((mask) / 10)
1637 #define DIGITS_17(mask) PR (mask), n %= (mask), DIGITS_16 ((mask) / 10)
1638 #define DIGITS_18(mask) PR (mask), n %= (mask), DIGITS_17 ((mask) / 10)
1639 #define DIGITS_19(mask) PR (mask), n %= (mask), DIGITS_18 ((mask) / 10)
1640
1641 /* Shorthand for casting to wgint. */
1642 #define W wgint
1643
1644 /* Print NUMBER to BUFFER in base 10.  This is equivalent to
1645    `sprintf(buffer, "%lld", (long long) number)', only typically much
1646    faster and portable to machines without long long.
1647
1648    The speedup may make a difference in programs that frequently
1649    convert numbers to strings.  Some implementations of sprintf,
1650    particularly the one in some versions of GNU libc, have been known
1651    to be quite slow when converting integers to strings.
1652
1653    Return the pointer to the location where the terminating zero was
1654    printed.  (Equivalent to calling buffer+strlen(buffer) after the
1655    function is done.)
1656
1657    BUFFER should be large enough to accept as many bytes as you expect
1658    the number to take up.  On machines with 64-bit wgints the maximum
1659    needed size is 24 bytes.  That includes the digits needed for the
1660    largest 64-bit number, the `-' sign in case it's negative, and the
1661    terminating '\0'.  */
1662
1663 char *
1664 number_to_string (char *buffer, wgint number)
1665 {
1666   char *p = buffer;
1667   wgint n = number;
1668
1669   int last_digit_char = 0;
1670
1671 #if (SIZEOF_WGINT != 4) && (SIZEOF_WGINT != 8)
1672   /* We are running in a very strange environment.  Leave the correct
1673      printing to sprintf.  */
1674   p += sprintf (buf, "%j", (intmax_t) (n));
1675 #else  /* (SIZEOF_WGINT == 4) || (SIZEOF_WGINT == 8) */
1676
1677   if (n < 0)
1678     {
1679       if (n < -WGINT_MAX)
1680         {
1681           /* n = -n would overflow because -n would evaluate to a
1682              wgint value larger than WGINT_MAX.  Need to make n
1683              smaller and handle the last digit separately.  */
1684           int last_digit = n % 10;
1685           /* The sign of n%10 is implementation-defined. */
1686           if (last_digit < 0)
1687             last_digit_char = '0' - last_digit;
1688           else
1689             last_digit_char = '0' + last_digit;
1690           /* After n is made smaller, -n will not overflow. */
1691           n /= 10;
1692         }
1693
1694       *p++ = '-';
1695       n = -n;
1696     }
1697
1698   /* Use the DIGITS_ macro appropriate for N's number of digits.  That
1699      way printing any N is fully open-coded without a loop or jump.
1700      (Also see description of DIGITS_*.)  */
1701
1702   if      (n < 10)                       DIGITS_1 (1);
1703   else if (n < 100)                      DIGITS_2 (10);
1704   else if (n < 1000)                     DIGITS_3 (100);
1705   else if (n < 10000)                    DIGITS_4 (1000);
1706   else if (n < 100000)                   DIGITS_5 (10000);
1707   else if (n < 1000000)                  DIGITS_6 (100000);
1708   else if (n < 10000000)                 DIGITS_7 (1000000);
1709   else if (n < 100000000)                DIGITS_8 (10000000);
1710   else if (n < 1000000000)               DIGITS_9 (100000000);
1711 #if SIZEOF_WGINT == 4
1712   /* wgint is 32 bits wide: no number has more than 10 digits. */
1713   else                                   DIGITS_10 (1000000000);
1714 #else
1715   /* wgint is 64 bits wide: handle numbers with 9-19 decimal digits.
1716      Constants are constructed by compile-time multiplication to avoid
1717      dealing with different notations for 64-bit constants
1718      (nL/nLL/nI64, depending on the compiler and architecture).  */
1719   else if (n < 10*(W)1000000000)         DIGITS_10 (1000000000);
1720   else if (n < 100*(W)1000000000)        DIGITS_11 (10*(W)1000000000);
1721   else if (n < 1000*(W)1000000000)       DIGITS_12 (100*(W)1000000000);
1722   else if (n < 10000*(W)1000000000)      DIGITS_13 (1000*(W)1000000000);
1723   else if (n < 100000*(W)1000000000)     DIGITS_14 (10000*(W)1000000000);
1724   else if (n < 1000000*(W)1000000000)    DIGITS_15 (100000*(W)1000000000);
1725   else if (n < 10000000*(W)1000000000)   DIGITS_16 (1000000*(W)1000000000);
1726   else if (n < 100000000*(W)1000000000)  DIGITS_17 (10000000*(W)1000000000);
1727   else if (n < 1000000000*(W)1000000000) DIGITS_18 (100000000*(W)1000000000);
1728   else                                   DIGITS_19 (1000000000*(W)1000000000);
1729 #endif
1730
1731   if (last_digit_char)
1732     *p++ = last_digit_char;
1733
1734   *p = '\0';
1735 #endif /* (SIZEOF_WGINT == 4) || (SIZEOF_WGINT == 8) */
1736
1737   return p;
1738 }
1739
1740 #undef PR
1741 #undef W
1742 #undef SPRINTF_WGINT
1743 #undef DIGITS_1
1744 #undef DIGITS_2
1745 #undef DIGITS_3
1746 #undef DIGITS_4
1747 #undef DIGITS_5
1748 #undef DIGITS_6
1749 #undef DIGITS_7
1750 #undef DIGITS_8
1751 #undef DIGITS_9
1752 #undef DIGITS_10
1753 #undef DIGITS_11
1754 #undef DIGITS_12
1755 #undef DIGITS_13
1756 #undef DIGITS_14
1757 #undef DIGITS_15
1758 #undef DIGITS_16
1759 #undef DIGITS_17
1760 #undef DIGITS_18
1761 #undef DIGITS_19
1762
1763 #define RING_SIZE 3
1764
1765 /* Print NUMBER to a statically allocated string and return a pointer
1766    to the printed representation.
1767
1768    This function is intended to be used in conjunction with printf.
1769    It is hard to portably print wgint values:
1770     a) you cannot use printf("%ld", number) because wgint can be long
1771        long on 32-bit machines with LFS.
1772     b) you cannot use printf("%lld", number) because NUMBER could be
1773        long on 32-bit machines without LFS, or on 64-bit machines,
1774        which do not require LFS.  Also, Windows doesn't support %lld.
1775     c) you cannot use printf("%j", (int_max_t) number) because not all
1776        versions of printf support "%j", the most notable being the one
1777        on Windows.
1778     d) you cannot #define WGINT_FMT to the appropriate format and use
1779        printf(WGINT_FMT, number) because that would break translations
1780        for user-visible messages, such as printf("Downloaded: %d
1781        bytes\n", number).
1782
1783    What you should use instead is printf("%s", number_to_static_string
1784    (number)).
1785
1786    CAVEAT: since the function returns pointers to static data, you
1787    must be careful to copy its result before calling it again.
1788    However, to make it more useful with printf, the function maintains
1789    an internal ring of static buffers to return.  That way things like
1790    printf("%s %s", number_to_static_string (num1),
1791    number_to_static_string (num2)) work as expected.  Three buffers
1792    are currently used, which means that "%s %s %s" will work, but "%s
1793    %s %s %s" won't.  If you need to print more than three wgints,
1794    bump the RING_SIZE (or rethink your message.)  */
1795
1796 char *
1797 number_to_static_string (wgint number)
1798 {
1799   static char ring[RING_SIZE][24];
1800   static int ringpos;
1801   char *buf = ring[ringpos];
1802   number_to_string (buf, number);
1803   ringpos = (ringpos + 1) % RING_SIZE;
1804   return buf;
1805 }
1806 \f
1807 /* Determine the width of the terminal we're running on.  If that's
1808    not possible, return 0.  */
1809
1810 int
1811 determine_screen_width (void)
1812 {
1813   /* If there's a way to get the terminal size using POSIX
1814      tcgetattr(), somebody please tell me.  */
1815 #ifdef TIOCGWINSZ
1816   int fd;
1817   struct winsize wsz;
1818
1819   if (opt.lfilename != NULL)
1820     return 0;
1821
1822   fd = fileno (stderr);
1823   if (ioctl (fd, TIOCGWINSZ, &wsz) < 0)
1824     return 0;                   /* most likely ENOTTY */
1825
1826   return wsz.ws_col;
1827 #elif defined(WINDOWS)
1828   CONSOLE_SCREEN_BUFFER_INFO csbi;
1829   if (!GetConsoleScreenBufferInfo (GetStdHandle (STD_ERROR_HANDLE), &csbi))
1830     return 0;
1831   return csbi.dwSize.X;
1832 #else  /* neither TIOCGWINSZ nor WINDOWS */
1833   return 0;
1834 #endif /* neither TIOCGWINSZ nor WINDOWS */
1835 }
1836 \f
1837 /* Whether the rnd system (either rand or [dl]rand48) has been
1838    seeded.  */
1839 static int rnd_seeded;
1840
1841 /* Return a random number between 0 and MAX-1, inclusive.
1842
1843    If the system does not support lrand48 and MAX is greater than the
1844    value of RAND_MAX+1 on the system, the returned value will be in
1845    the range [0, RAND_MAX].  This may be fixed in a future release.
1846    The random number generator is seeded automatically the first time
1847    it is called.
1848
1849    This uses lrand48 where available, rand elsewhere.  DO NOT use it
1850    for cryptography.  It is only meant to be used in situations where
1851    quality of the random numbers returned doesn't really matter.  */
1852
1853 int
1854 random_number (int max)
1855 {
1856 #ifdef HAVE_DRAND48
1857   if (!rnd_seeded)
1858     {
1859       srand48 ((long) time (NULL) ^ (long) getpid ());
1860       rnd_seeded = 1;
1861     }
1862   return lrand48 () % max;
1863 #else  /* not HAVE_DRAND48 */
1864
1865   double bounded;
1866   int rnd;
1867   if (!rnd_seeded)
1868     {
1869       srand ((unsigned) time (NULL) ^ (unsigned) getpid ());
1870       rnd_seeded = 1;
1871     }
1872   rnd = rand ();
1873
1874   /* Like rand() % max, but uses the high-order bits for better
1875      randomness on architectures where rand() is implemented using a
1876      simple congruential generator.  */
1877
1878   bounded = (double) max * rnd / (RAND_MAX + 1.0);
1879   return (int) bounded;
1880
1881 #endif /* not HAVE_DRAND48 */
1882 }
1883
1884 /* Return a random uniformly distributed floating point number in the
1885    [0, 1) range.  Uses drand48 where available, and a really lame
1886    kludge elsewhere.  */
1887
1888 double
1889 random_float (void)
1890 {
1891 #ifdef HAVE_DRAND48
1892   if (!rnd_seeded)
1893     {
1894       srand48 ((long) time (NULL) ^ (long) getpid ());
1895       rnd_seeded = 1;
1896     }
1897   return drand48 ();
1898 #else  /* not HAVE_DRAND48 */
1899   return (  random_number (10000) / 10000.0
1900           + random_number (10000) / (10000.0 * 10000.0)
1901           + random_number (10000) / (10000.0 * 10000.0 * 10000.0)
1902           + random_number (10000) / (10000.0 * 10000.0 * 10000.0 * 10000.0));
1903 #endif /* not HAVE_DRAND48 */
1904 }
1905 \f
1906 /* Implementation of run_with_timeout, a generic timeout-forcing
1907    routine for systems with Unix-like signal handling.  */
1908
1909 #ifdef USE_SIGNAL_TIMEOUT
1910 # ifdef HAVE_SIGSETJMP
1911 #  define SETJMP(env) sigsetjmp (env, 1)
1912
1913 static sigjmp_buf run_with_timeout_env;
1914
1915 static void
1916 abort_run_with_timeout (int sig)
1917 {
1918   assert (sig == SIGALRM);
1919   siglongjmp (run_with_timeout_env, -1);
1920 }
1921 # else /* not HAVE_SIGSETJMP */
1922 #  define SETJMP(env) setjmp (env)
1923
1924 static jmp_buf run_with_timeout_env;
1925
1926 static void
1927 abort_run_with_timeout (int sig)
1928 {
1929   assert (sig == SIGALRM);
1930   /* We don't have siglongjmp to preserve the set of blocked signals;
1931      if we longjumped out of the handler at this point, SIGALRM would
1932      remain blocked.  We must unblock it manually. */
1933   sigset_t set;
1934   sigemptyset (&set);
1935   sigaddset (&set, SIGALRM);
1936   sigprocmask (SIG_BLOCK, &set, NULL);
1937
1938   /* Now it's safe to longjump. */
1939   longjmp (run_with_timeout_env, -1);
1940 }
1941 # endif /* not HAVE_SIGSETJMP */
1942
1943 /* Arrange for SIGALRM to be delivered in TIMEOUT seconds.  This uses
1944    setitimer where available, alarm otherwise.
1945
1946    TIMEOUT should be non-zero.  If the timeout value is so small that
1947    it would be rounded to zero, it is rounded to the least legal value
1948    instead (1us for setitimer, 1s for alarm).  That ensures that
1949    SIGALRM will be delivered in all cases.  */
1950
1951 static void
1952 alarm_set (double timeout)
1953 {
1954 #ifdef ITIMER_REAL
1955   /* Use the modern itimer interface. */
1956   struct itimerval itv;
1957   xzero (itv);
1958   itv.it_value.tv_sec = (long) timeout;
1959   itv.it_value.tv_usec = 1000000 * (timeout - (long)timeout);
1960   if (itv.it_value.tv_sec == 0 && itv.it_value.tv_usec == 0)
1961     /* Ensure that we wait for at least the minimum interval.
1962        Specifying zero would mean "wait forever".  */
1963     itv.it_value.tv_usec = 1;
1964   setitimer (ITIMER_REAL, &itv, NULL);
1965 #else  /* not ITIMER_REAL */
1966   /* Use the old alarm() interface. */
1967   int secs = (int) timeout;
1968   if (secs == 0)
1969     /* Round TIMEOUTs smaller than 1 to 1, not to zero.  This is
1970        because alarm(0) means "never deliver the alarm", i.e. "wait
1971        forever", which is not what someone who specifies a 0.5s
1972        timeout would expect.  */
1973     secs = 1;
1974   alarm (secs);
1975 #endif /* not ITIMER_REAL */
1976 }
1977
1978 /* Cancel the alarm set with alarm_set. */
1979
1980 static void
1981 alarm_cancel (void)
1982 {
1983 #ifdef ITIMER_REAL
1984   struct itimerval disable;
1985   xzero (disable);
1986   setitimer (ITIMER_REAL, &disable, NULL);
1987 #else  /* not ITIMER_REAL */
1988   alarm (0);
1989 #endif /* not ITIMER_REAL */
1990 }
1991
1992 /* Call FUN(ARG), but don't allow it to run for more than TIMEOUT
1993    seconds.  Returns true if the function was interrupted with a
1994    timeout, false otherwise.
1995
1996    This works by setting up SIGALRM to be delivered in TIMEOUT seconds
1997    using setitimer() or alarm().  The timeout is enforced by
1998    longjumping out of the SIGALRM handler.  This has several
1999    advantages compared to the traditional approach of relying on
2000    signals causing system calls to exit with EINTR:
2001
2002      * The callback function is *forcibly* interrupted after the
2003        timeout expires, (almost) regardless of what it was doing and
2004        whether it was in a syscall.  For example, a calculation that
2005        takes a long time is interrupted as reliably as an IO
2006        operation.
2007
2008      * It works with both SYSV and BSD signals because it doesn't
2009        depend on the default setting of SA_RESTART.
2010
2011      * It doesn't require special handler setup beyond a simple call
2012        to signal().  (It does use sigsetjmp/siglongjmp, but they're
2013        optional.)
2014
2015    The only downside is that, if FUN allocates internal resources that
2016    are normally freed prior to exit from the functions, they will be
2017    lost in case of timeout.  */
2018
2019 bool
2020 run_with_timeout (double timeout, void (*fun) (void *), void *arg)
2021 {
2022   int saved_errno;
2023
2024   if (timeout == 0)
2025     {
2026       fun (arg);
2027       return false;
2028     }
2029
2030   signal (SIGALRM, abort_run_with_timeout);
2031   if (SETJMP (run_with_timeout_env) != 0)
2032     {
2033       /* Longjumped out of FUN with a timeout. */
2034       signal (SIGALRM, SIG_DFL);
2035       return true;
2036     }
2037   alarm_set (timeout);
2038   fun (arg);
2039
2040   /* Preserve errno in case alarm() or signal() modifies it. */
2041   saved_errno = errno;
2042   alarm_cancel ();
2043   signal (SIGALRM, SIG_DFL);
2044   errno = saved_errno;
2045
2046   return false;
2047 }
2048
2049 #else  /* not USE_SIGNAL_TIMEOUT */
2050
2051 #ifndef WINDOWS
2052 /* A stub version of run_with_timeout that just calls FUN(ARG).  Don't
2053    define it under Windows, because Windows has its own version of
2054    run_with_timeout that uses threads.  */
2055
2056 bool
2057 run_with_timeout (double timeout, void (*fun) (void *), void *arg)
2058 {
2059   fun (arg);
2060   return false;
2061 }
2062 #endif /* not WINDOWS */
2063 #endif /* not USE_SIGNAL_TIMEOUT */
2064 \f
2065 #ifndef WINDOWS
2066
2067 /* Sleep the specified amount of seconds.  On machines without
2068    nanosleep(), this may sleep shorter if interrupted by signals.  */
2069
2070 void
2071 xsleep (double seconds)
2072 {
2073 #ifdef HAVE_NANOSLEEP
2074   /* nanosleep is the preferred interface because it offers high
2075      accuracy and, more importantly, because it allows us to reliably
2076      restart receiving a signal such as SIGWINCH.  (There was an
2077      actual Debian bug report about --limit-rate malfunctioning while
2078      the terminal was being resized.)  */
2079   struct timespec sleep, remaining;
2080   sleep.tv_sec = (long) seconds;
2081   sleep.tv_nsec = 1000000000 * (seconds - (long) seconds);
2082   while (nanosleep (&sleep, &remaining) < 0 && errno == EINTR)
2083     /* If nanosleep has been interrupted by a signal, adjust the
2084        sleeping period and return to sleep.  */
2085     sleep = remaining;
2086 #elif defined(HAVE_USLEEP)
2087   /* If usleep is available, use it in preference to select.  */
2088   if (seconds >= 1)
2089     {
2090       /* On some systems, usleep cannot handle values larger than
2091          1,000,000.  If the period is larger than that, use sleep
2092          first, then add usleep for subsecond accuracy.  */
2093       sleep (seconds);
2094       seconds -= (long) seconds;
2095     }
2096   usleep (seconds * 1000000);
2097 #else /* fall back select */
2098   /* Note that, although Windows supports select, it can't be used to
2099      implement sleeping because Winsock's select doesn't implement
2100      timeout when it is passed NULL pointers for all fd sets.  (But it
2101      does under Cygwin, which implements Unix-compatible select.)  */
2102   struct timeval sleep;
2103   sleep.tv_sec = (long) seconds;
2104   sleep.tv_usec = 1000000 * (seconds - (long) seconds);
2105   select (0, NULL, NULL, NULL, &sleep);
2106   /* If select returns -1 and errno is EINTR, it means we were
2107      interrupted by a signal.  But without knowing how long we've
2108      actually slept, we can't return to sleep.  Using gettimeofday to
2109      track sleeps is slow and unreliable due to clock skew.  */
2110 #endif
2111 }
2112
2113 #endif /* not WINDOWS */
2114
2115 /* Encode the octets in DATA of length LENGTH to base64 format,
2116    storing the result to DEST.  The output will be zero-terminated,
2117    and must point to a writable buffer of at least
2118    1+BASE64_LENGTH(length) bytes.  The function returns the length of
2119    the resulting base64 data, not counting the terminating zero.
2120
2121    This implementation does not emit newlines after 76 characters of
2122    base64 data.  */
2123
2124 int
2125 base64_encode (const void *data, int length, char *dest)
2126 {
2127   /* Conversion table.  */
2128   static const char tbl[64] = {
2129     'A','B','C','D','E','F','G','H','I','J','K','L','M','N','O','P',
2130     'Q','R','S','T','U','V','W','X','Y','Z','a','b','c','d','e','f',
2131     'g','h','i','j','k','l','m','n','o','p','q','r','s','t','u','v',
2132     'w','x','y','z','0','1','2','3','4','5','6','7','8','9','+','/'
2133   };
2134   /* Access bytes in DATA as unsigned char, otherwise the shifts below
2135      don't work for data with MSB set. */
2136   const unsigned char *s = data;
2137   /* Theoretical ANSI violation when length < 3. */
2138   const unsigned char *end = (const unsigned char *) data + length - 2;
2139   char *p = dest;
2140
2141   /* Transform the 3x8 bits to 4x6 bits, as required by base64.  */
2142   for (; s < end; s += 3)
2143     {
2144       *p++ = tbl[s[0] >> 2];
2145       *p++ = tbl[((s[0] & 3) << 4) + (s[1] >> 4)];
2146       *p++ = tbl[((s[1] & 0xf) << 2) + (s[2] >> 6)];
2147       *p++ = tbl[s[2] & 0x3f];
2148     }
2149
2150   /* Pad the result if necessary...  */
2151   switch (length % 3)
2152     {
2153     case 1:
2154       *p++ = tbl[s[0] >> 2];
2155       *p++ = tbl[(s[0] & 3) << 4];
2156       *p++ = '=';
2157       *p++ = '=';
2158       break;
2159     case 2:
2160       *p++ = tbl[s[0] >> 2];
2161       *p++ = tbl[((s[0] & 3) << 4) + (s[1] >> 4)];
2162       *p++ = tbl[((s[1] & 0xf) << 2)];
2163       *p++ = '=';
2164       break;
2165     }
2166   /* ...and zero-terminate it.  */
2167   *p = '\0';
2168
2169   return p - dest;
2170 }
2171
2172 /* Store in C the next non-whitespace character from the string, or \0
2173    when end of string is reached.  */
2174 #define NEXT_CHAR(c, p) do {                    \
2175   c = (unsigned char) *p++;                     \
2176 } while (c_isspace (c))
2177
2178 #define IS_ASCII(c) (((c) & 0x80) == 0)
2179
2180 /* Decode data from BASE64 (a null-terminated string) into memory
2181    pointed to by DEST.  DEST is assumed to be large enough to
2182    accomodate the decoded data, which is guaranteed to be no more than
2183    3/4*strlen(base64).
2184
2185    Since DEST is assumed to contain binary data, it is not
2186    NUL-terminated.  The function returns the length of the data
2187    written to TO.  -1 is returned in case of error caused by malformed
2188    base64 input.
2189
2190    This function originates from Free Recode.  */
2191
2192 int
2193 base64_decode (const char *base64, void *dest)
2194 {
2195   /* Table of base64 values for first 128 characters.  Note that this
2196      assumes ASCII (but so does Wget in other places).  */
2197   static const signed char base64_char_to_value[128] =
2198     {
2199       -1,  -1,  -1,  -1,  -1,  -1,  -1,  -1,  -1,  -1,  /*   0-  9 */
2200       -1,  -1,  -1,  -1,  -1,  -1,  -1,  -1,  -1,  -1,  /*  10- 19 */
2201       -1,  -1,  -1,  -1,  -1,  -1,  -1,  -1,  -1,  -1,  /*  20- 29 */
2202       -1,  -1,  -1,  -1,  -1,  -1,  -1,  -1,  -1,  -1,  /*  30- 39 */
2203       -1,  -1,  -1,  62,  -1,  -1,  -1,  63,  52,  53,  /*  40- 49 */
2204       54,  55,  56,  57,  58,  59,  60,  61,  -1,  -1,  /*  50- 59 */
2205       -1,  -1,  -1,  -1,  -1,  0,   1,   2,   3,   4,   /*  60- 69 */
2206       5,   6,   7,   8,   9,   10,  11,  12,  13,  14,  /*  70- 79 */
2207       15,  16,  17,  18,  19,  20,  21,  22,  23,  24,  /*  80- 89 */
2208       25,  -1,  -1,  -1,  -1,  -1,  -1,  26,  27,  28,  /*  90- 99 */
2209       29,  30,  31,  32,  33,  34,  35,  36,  37,  38,  /* 100-109 */
2210       39,  40,  41,  42,  43,  44,  45,  46,  47,  48,  /* 110-119 */
2211       49,  50,  51,  -1,  -1,  -1,  -1,  -1             /* 120-127 */
2212     };
2213 #define BASE64_CHAR_TO_VALUE(c) ((int) base64_char_to_value[c])
2214 #define IS_BASE64(c) ((IS_ASCII (c) && BASE64_CHAR_TO_VALUE (c) >= 0) || c == '=')
2215
2216   const char *p = base64;
2217   char *q = dest;
2218
2219   while (1)
2220     {
2221       unsigned char c;
2222       unsigned long value;
2223
2224       /* Process first byte of a quadruplet.  */
2225       NEXT_CHAR (c, p);
2226       if (!c)
2227         break;
2228       if (c == '=' || !IS_BASE64 (c))
2229         return -1;              /* illegal char while decoding base64 */
2230       value = BASE64_CHAR_TO_VALUE (c) << 18;
2231
2232       /* Process second byte of a quadruplet.  */
2233       NEXT_CHAR (c, p);
2234       if (!c)
2235         return -1;              /* premature EOF while decoding base64 */
2236       if (c == '=' || !IS_BASE64 (c))
2237         return -1;              /* illegal char while decoding base64 */
2238       value |= BASE64_CHAR_TO_VALUE (c) << 12;
2239       *q++ = value >> 16;
2240
2241       /* Process third byte of a quadruplet.  */
2242       NEXT_CHAR (c, p);
2243       if (!c)
2244         return -1;              /* premature EOF while decoding base64 */
2245       if (!IS_BASE64 (c))
2246         return -1;              /* illegal char while decoding base64 */
2247
2248       if (c == '=')
2249         {
2250           NEXT_CHAR (c, p);
2251           if (!c)
2252             return -1;          /* premature EOF while decoding base64 */
2253           if (c != '=')
2254             return -1;          /* padding `=' expected but not found */
2255           continue;
2256         }
2257
2258       value |= BASE64_CHAR_TO_VALUE (c) << 6;
2259       *q++ = 0xff & value >> 8;
2260
2261       /* Process fourth byte of a quadruplet.  */
2262       NEXT_CHAR (c, p);
2263       if (!c)
2264         return -1;              /* premature EOF while decoding base64 */
2265       if (c == '=')
2266         continue;
2267       if (!IS_BASE64 (c))
2268         return -1;              /* illegal char while decoding base64 */
2269
2270       value |= BASE64_CHAR_TO_VALUE (c);
2271       *q++ = 0xff & value;
2272     }
2273 #undef IS_BASE64
2274 #undef BASE64_CHAR_TO_VALUE
2275
2276   return q - (char *) dest;
2277 }
2278
2279 #undef IS_ASCII
2280 #undef NEXT_CHAR
2281 \f
2282 /* Simple merge sort for use by stable_sort.  Implementation courtesy
2283    Zeljko Vrba with additional debugging by Nenad Barbutov.  */
2284
2285 static void
2286 mergesort_internal (void *base, void *temp, size_t size, size_t from, size_t to,
2287                     int (*cmpfun) (const void *, const void *))
2288 {
2289 #define ELT(array, pos) ((char *)(array) + (pos) * size)
2290   if (from < to)
2291     {
2292       size_t i, j, k;
2293       size_t mid = (to + from) / 2;
2294       mergesort_internal (base, temp, size, from, mid, cmpfun);
2295       mergesort_internal (base, temp, size, mid + 1, to, cmpfun);
2296       i = from;
2297       j = mid + 1;
2298       for (k = from; (i <= mid) && (j <= to); k++)
2299         if (cmpfun (ELT (base, i), ELT (base, j)) <= 0)
2300           memcpy (ELT (temp, k), ELT (base, i++), size);
2301         else
2302           memcpy (ELT (temp, k), ELT (base, j++), size);
2303       while (i <= mid)
2304         memcpy (ELT (temp, k++), ELT (base, i++), size);
2305       while (j <= to)
2306         memcpy (ELT (temp, k++), ELT (base, j++), size);
2307       for (k = from; k <= to; k++)
2308         memcpy (ELT (base, k), ELT (temp, k), size);
2309     }
2310 #undef ELT
2311 }
2312
2313 /* Stable sort with interface exactly like standard library's qsort.
2314    Uses mergesort internally, allocating temporary storage with
2315    alloca.  */
2316
2317 void
2318 stable_sort (void *base, size_t nmemb, size_t size,
2319              int (*cmpfun) (const void *, const void *))
2320 {
2321   if (size > 1)
2322     {
2323       void *temp = alloca (nmemb * size * sizeof (void *));
2324       mergesort_internal (base, temp, size, 0, nmemb - 1, cmpfun);
2325     }
2326 }
2327 \f
2328 /* Print a decimal number.  If it is equal to or larger than ten, the
2329    number is rounded.  Otherwise it is printed with one significant
2330    digit without trailing zeros and with no more than three fractional
2331    digits total.  For example, 0.1 is printed as "0.1", 0.035 is
2332    printed as "0.04", 0.0091 as "0.009", and 0.0003 as simply "0".
2333
2334    This is useful for displaying durations because it provides
2335    order-of-magnitude information without unnecessary clutter --
2336    long-running downloads are shown without the fractional part, and
2337    short ones still retain one significant digit.  */
2338
2339 const char *
2340 print_decimal (double number)
2341 {
2342   static char buf[32];
2343   double n = number >= 0 ? number : -number;
2344
2345   if (n >= 9.95)
2346     /* Cut off at 9.95 because the below %.1f would round 9.96 to
2347        "10.0" instead of "10".  OTOH 9.94 will print as "9.9".  */
2348     snprintf (buf, sizeof buf, "%.0f", number);
2349   else if (n >= 0.95)
2350     snprintf (buf, sizeof buf, "%.1f", number);
2351   else if (n >= 0.001)
2352     snprintf (buf, sizeof buf, "%.1g", number);
2353   else if (n >= 0.0005)
2354     /* round [0.0005, 0.001) to 0.001 */
2355     snprintf (buf, sizeof buf, "%.3f", number);
2356   else
2357     /* print numbers close to 0 as 0, not 0.000 */
2358     strcpy (buf, "0");
2359
2360   return buf;
2361 }
2362
2363 #ifdef TESTING
2364
2365 const char *
2366 test_subdir_p()
2367 {
2368   int i;
2369   struct {
2370     char *d1;
2371     char *d2;
2372     bool result;
2373   } test_array[] = {
2374     { "/somedir", "/somedir", true },
2375     { "/somedir", "/somedir/d2", true },
2376     { "/somedir/d1", "/somedir", false },
2377   };
2378
2379   for (i = 0; i < countof(test_array); ++i)
2380     {
2381       bool res = subdir_p (test_array[i].d1, test_array[i].d2);
2382
2383       mu_assert ("test_subdir_p: wrong result",
2384                  res == test_array[i].result);
2385     }
2386
2387   return NULL;
2388 }
2389
2390 const char *
2391 test_dir_matches_p()
2392 {
2393   int i;
2394   struct {
2395     char *dirlist[3];
2396     char *dir;
2397     bool result;
2398   } test_array[] = {
2399     { { "/somedir", "/someotherdir", NULL }, "somedir", true },
2400     { { "/somedir", "/someotherdir", NULL }, "anotherdir", false },
2401     { { "/somedir", "/*otherdir", NULL }, "anotherdir", true },
2402     { { "/somedir/d1", "/someotherdir", NULL }, "somedir/d1", true },
2403     { { "*/*d1", "/someotherdir", NULL }, "somedir/d1", true },
2404     { { "/somedir/d1", "/someotherdir", NULL }, "d1", false },
2405     { { "!COMPLETE", NULL, NULL }, "!COMPLETE", true },
2406     { { "*COMPLETE", NULL, NULL }, "!COMPLETE", true },
2407     { { "*/!COMPLETE", NULL, NULL }, "foo/!COMPLETE", true },
2408     { { "*COMPLETE", NULL, NULL }, "foo/!COMPLETE", false },
2409     { { "*/*COMPLETE", NULL, NULL }, "foo/!COMPLETE", true },
2410     { { "/dir with spaces", NULL, NULL }, "dir with spaces", true },
2411     { { "/dir*with*spaces", NULL, NULL }, "dir with spaces", true },
2412     { { "/Tmp/has", NULL, NULL }, "/Tmp/has space", false },
2413     { { "/Tmp/has", NULL, NULL }, "/Tmp/has,comma", false },
2414   };
2415
2416   for (i = 0; i < countof(test_array); ++i)
2417     {
2418       bool res = dir_matches_p (test_array[i].dirlist, test_array[i].dir);
2419
2420       mu_assert ("test_dir_matches_p: wrong result",
2421                  res == test_array[i].result);
2422     }
2423
2424   return NULL;
2425 }
2426
2427 #endif /* TESTING */
2428