revert openexr-2.4.0, breaks most builds, req cmake past baseline, bad configure...
[goodguy/cinelerra.git] / cinelerra-5.1 / thirdparty / src / giflib-5.1.6.patch2
1 diff -ur a/quantize.c b/quantize.c
2 --- a/quantize.c        2019-02-11 07:43:57.000000000 -0700
3 +++ b/quantize.c        2019-02-27 17:20:06.369498072 -0700
4 # SortRGBAxis is static and not locked, qsort recoded
5 # GAErrorToken is also static and not locked, not fixed
6 @@ -11,8 +11,9 @@
7  
8  ******************************************************************************/
9  
10 -#include <stdlib.h>
11  #include <stdio.h>
12 +#include <stdlib.h>
13 +
14  #include "gif_lib.h"
15  #include "gif_lib_private.h"
16  
17 @@ -22,8 +23,6 @@
18  #define BITS_PER_PRIM_COLOR 5
19  #define MAX_PRIM_COLOR      0x1f
20  
21 -static int SortRGBAxis;
22 -
23  typedef struct QuantizedColorType {
24      GifByteType RGB[3];
25      GifByteType NewColorIndex;
26 @@ -31,6 +30,40 @@
27      struct QuantizedColorType *Pnext;
28  } QuantizedColorType;
29  
30 +static int QCmpr(QuantizedColorType *a, QuantizedColorType *b, int i)
31 +{
32 +       int i0 = i, i1 = i+1, i2 = i+2;
33 +       if( i1 >= 3 ) i1 -= 3;
34 +       if( i2 >= 3 ) i2 -= 3;
35 +       /* sort on all axes of the color space! */
36 +       int hash_a = (a->RGB[i0] << 16) | (a->RGB[i1] << 8) | (a->RGB[i2] << 0);
37 +       int hash_b = (b->RGB[i0] << 16) | (b->RGB[i1] << 8) | (b->RGB[i2] << 0);
38 +       return hash_a - hash_b;
39 +}
40 +
41 +static int QSplit(QuantizedColorType **q, int l, int r, int i)
42 +{
43 +       int m;
44 +       QuantizedColorType *t;
45 +       for(;;) {
46 +               while( QCmpr(q[r],q[l], i) >= 0 ) if( ++l == r ) return r;
47 +               t = q[l];  q[l] = q[r];  q[r] = t;  m = l;  l = r;  r = m;
48 +               while( QCmpr(q[l],q[r], i) >= 0 ) if( r == --l ) return r;
49 +               t = q[l];  q[l] = q[r];  q[r] = t;  m = l;  l = r;  r = m;
50 +       }
51 +}
52 +
53 +static void QSort(QuantizedColorType **q, int ll, int rr, int i)
54 +{
55 +       for(;;) {
56 +               int l = ll+1;  if( l == rr ) return;
57 +               int r = rr-1;  if( l == r ) return;
58 +               int m = QSplit(q, l, r, i);
59 +               QSort(q, ll, m, i);
60 +               ll = m;
61 +       }
62 +}
63 +
64  typedef struct NewColorMapType {
65      GifByteType RGBMin[3], RGBWidth[3];
66      unsigned int NumEntries; /* # of QuantizedColorType in linked list below */
67 @@ -41,7 +74,6 @@
68  static int SubdivColorMap(NewColorMapType * NewColorSubdiv,
69                            unsigned int ColorMapSize,
70                            unsigned int *NewColorMapSize);
71 -static int SortCmpRtn(const void *Entry1, const void *Entry2);
72  
73  /******************************************************************************
74   Quantize high resolution image into lower one. Input image consists of a
75 @@ -198,6 +230,7 @@
76                 unsigned int ColorMapSize,
77                 unsigned int *NewColorMapSize) {
78  
79 +    int SortRGBAxis = 0;
80      unsigned int i, j, Index = 0;
81      QuantizedColorType *QuantizedColor, **SortArray;
82  
83 @@ -234,19 +267,7 @@
84               j++, QuantizedColor = QuantizedColor->Pnext)
85              SortArray[j] = QuantizedColor;
86  
87 -       /*
88 -        * Because qsort isn't stable, this can produce differing 
89 -        * results for the order of tuples depending on platform
90 -        * details of how qsort() is implemented.
91 -        *
92 -        * We mitigate this problem by sorting on all three axes rather
93 -        * than only the one specied by SortRGBAxis; that way the instability
94 -        * can only become an issue if there are multiple color indices
95 -        * referring to identical RGB tuples.  Older versions of this 
96 -        * sorted on only the one axis.
97 -        */
98 -        qsort(SortArray, NewColorSubdiv[Index].NumEntries,
99 -              sizeof(QuantizedColorType *), SortCmpRtn);
100 +        QSort(SortArray, -1, NewColorSubdiv[Index].NumEntries, SortRGBAxis);
101  
102          /* Relink the sorted list into one: */
103          for (j = 0; j < NewColorSubdiv[Index].NumEntries - 1; j++)
104 @@ -310,21 +331,4 @@
105   Routine called by qsort to compare two entries.
106  *****************************************************************************/
107  
108 -static int
109 -SortCmpRtn(const void *Entry1,
110 -           const void *Entry2) {
111 -          QuantizedColorType *entry1 = (*((QuantizedColorType **) Entry1));
112 -          QuantizedColorType *entry2 = (*((QuantizedColorType **) Entry2));
113 -
114 -          /* sort on all axes of the color space! */
115 -          int hash1 = entry1->RGB[SortRGBAxis] * 256 * 256
116 -                               + entry1->RGB[(SortRGBAxis+1) % 3] * 256
117 -                               + entry1->RGB[(SortRGBAxis+2) % 3];
118 -          int hash2 = entry2->RGB[SortRGBAxis] * 256 * 256
119 -                               + entry2->RGB[(SortRGBAxis+1) % 3] * 256
120 -                               + entry2->RGB[(SortRGBAxis+2) % 3];
121 -
122 -    return hash1 - hash2;
123 -}
124 -
125  /* end */