]> git.cworth.org Git - apitrace/blob - glsize.hpp
Trace right number of parameters in GL_EXT_direct_state_access.
[apitrace] / glsize.hpp
1 /**************************************************************************
2  *
3  * Copyright 2010 VMware, Inc.
4  * Copyright 2004 IBM Corporation
5  * All Rights Reserved.
6  * 
7  * Permission is hereby granted, free of charge, to any person obtaining a
8  * copy of this software and associated documentation files (the "Software"),
9  * to deal in the Software without restriction, including without limitation
10  * the rights to use, copy, modify, merge, publish, distribute, sub license,
11  * and/or sell copies of the Software, and to permit persons to whom the
12  * Software is furnished to do so, subject to the following conditions:
13  * 
14  * The above copyright notice and this permission notice (including the next
15  * paragraph) shall be included in all copies or substantial portions of the
16  * Software.
17  * 
18  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
19  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
20  * FITNESS FOR A PARTICULAR PURPOSE AND NON-INFRINGEMENT.  IN NO EVENT SHALL
21  * AUTHORS,
22  * AND/OR THEIR SUPPLIERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY,
23  * WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF
24  * OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
25  * SOFTWARE.
26  *
27  **************************************************************************/
28
29 /*
30  * Auxiliary functions to compute the size of array/blob arguments, depending.
31  */
32
33 #ifndef _GL_SIZE_HPP_
34 #define _GL_SIZE_HPP_
35
36
37 #include "os.hpp"
38 #include "glimports.hpp"
39
40
41 static inline size_t
42 __gl_type_size(GLenum type)
43 {
44     switch (type) {
45     case GL_BOOL:
46     case GL_BYTE:
47     case GL_UNSIGNED_BYTE:
48         return 1;
49     case GL_SHORT:
50     case GL_UNSIGNED_SHORT:
51     case GL_2_BYTES:
52     case GL_HALF_FLOAT:
53         return 2;
54     case GL_3_BYTES:
55         return 3;
56     case GL_INT:
57     case GL_UNSIGNED_INT:
58     case GL_FLOAT:
59     case GL_4_BYTES:
60         return 4;
61     case GL_DOUBLE:
62         return 8;
63     default:
64         OS::DebugMessage("warning: %s: unknown GLenum 0x%04X\n", __FUNCTION__, type);
65         return 0;
66     }
67 }
68
69 static inline size_t
70 __glArrayPointer_size(GLint size, GLenum type, GLsizei stride, GLsizei maxIndex)
71 {
72     size_t elementSize = size*__gl_type_size(type);
73     if (!stride) {
74         stride = (GLsizei)elementSize;
75     }
76     return stride*maxIndex + elementSize;
77 }
78
79 #define __glVertexPointer_size(size, type, stride, maxIndex) __glArrayPointer_size(size, type, stride, maxIndex)
80 #define __glNormalPointer_size(type, stride, maxIndex) __glArrayPointer_size(3, type, stride, maxIndex)
81 #define __glColorPointer_size(size, type, stride, maxIndex) __glArrayPointer_size(size, type, stride, maxIndex)
82 #define __glIndexPointer_size(type, stride, maxIndex) __glArrayPointer_size(1, type, stride, maxIndex)
83 #define __glTexCoordPointer_size(size, type, stride, maxIndex) __glArrayPointer_size(size, type, stride, maxIndex)
84 #define __glEdgeFlagPointer_size(stride, maxIndex) __glArrayPointer_size(1, GL_BOOL, stride, maxIndex)
85 #define __glFogCoordPointer_size(type, stride, maxIndex) __glArrayPointer_size(1, type, stride, maxIndex)
86 #define __glSecondaryColorPointer_size(size, type, stride, maxIndex) __glArrayPointer_size(size, type, stride, maxIndex)
87 #define __glVertexAttribPointer_size(size, type, normalized, stride, maxIndex) __glArrayPointer_size(size, type, stride, maxIndex)
88
89 static inline GLuint
90 __glDrawArrays_maxindex(GLint first, GLsizei count)
91 {
92     if (!count) {
93         return 0;
94     }
95     return first + count - 1;
96 }
97
98 #define __glDrawArraysEXT_maxindex __glDrawArrays_maxindex
99
100 static inline GLuint
101 __glDrawElements_maxindex(GLsizei count, GLenum type, const GLvoid *indices)
102 {
103     GLvoid *temp = 0;
104     GLint __element_array_buffer = 0;
105
106     if (!count) {
107         return 0;
108     }
109     __glGetIntegerv(GL_ELEMENT_ARRAY_BUFFER_BINDING, &__element_array_buffer);
110     if (__element_array_buffer) {
111         // Read indices from index buffer object
112         GLintptr offset = (GLintptr)indices;
113         GLsizeiptr size = count*__gl_type_size(type);
114         GLvoid *temp = malloc(size);
115         if (!temp) {
116             return 0;
117         }
118         memset(temp, 0, size);
119         __glGetBufferSubData(GL_ELEMENT_ARRAY_BUFFER, offset, size, temp);
120         indices = temp;
121     } else {
122         if (!indices) {
123             return 0;
124         }
125     }
126
127     GLuint maxindex = 0;
128     GLsizei i;
129     if (type == GL_UNSIGNED_BYTE) {
130         const GLubyte *p = (const GLubyte *)indices;
131         for (i = 0; i < count; ++i) {
132             if (p[i] > maxindex) {
133                 maxindex = p[i];
134             }
135         }
136     } else if (type == GL_UNSIGNED_SHORT) {
137         const GLushort *p = (const GLushort *)indices;
138         for (i = 0; i < count; ++i) {
139             if (p[i] > maxindex) {
140                 maxindex = p[i];
141             }
142         }
143     } else if (type == GL_UNSIGNED_INT) {
144         const GLuint *p = (const GLuint *)indices;
145         for (i = 0; i < count; ++i) {
146             if (p[i] > maxindex) {
147                 maxindex = p[i];
148             }
149         }
150     } else {
151         OS::DebugMessage("warning: %s: unknown GLenum 0x%04X\n", __FUNCTION__, type);
152     }
153
154     if (__element_array_buffer) {
155         free(temp);
156     }
157
158     return maxindex;
159 }
160
161 static inline GLuint
162 __glDrawRangeElements_maxindex(GLuint start, GLuint end, GLsizei count, GLenum type, const GLvoid * indices)
163 {
164     (void)start;
165     (void)end;
166     return __glDrawElements_maxindex(count, type, indices);
167 }
168
169 #define __glDrawRangeElementsEXT_maxindex __glDrawRangeElements_maxindex
170
171 static inline size_t
172 __glCallLists_size(GLsizei n, GLenum type)
173 {
174     return n*__gl_type_size(type);
175 }
176
177 #define __glFogfv_size __gl_param_size
178 #define __glFogiv_size __gl_param_size
179
180 #define __glLightfv_size __gl_param_size
181 #define __glLightiv_size __gl_param_size
182
183 #define __glLightModelfv_size __gl_param_size
184 #define __glLightModeliv_size __glLightModelfv_size
185
186 #define __glMaterialfv_size __gl_param_size
187 #define __glMaterialiv_size __glMaterialfv_size
188
189
190 static inline size_t
191 __glMap1d_size(GLenum pname)
192 {
193     switch (pname) {
194     case GL_MAP1_INDEX:
195     case GL_MAP1_TEXTURE_COORD_1:
196         return 1;
197     case GL_MAP1_TEXTURE_COORD_2:
198         return 2;
199     case GL_MAP1_NORMAL:
200     case GL_MAP1_TEXTURE_COORD_3:
201     case GL_MAP1_VERTEX_3:
202         return 3;
203     case GL_MAP1_COLOR_4:
204     case GL_MAP1_TEXTURE_COORD_4:
205     case GL_MAP1_VERTEX_4:
206         return 4;
207     default:
208         OS::DebugMessage("warning: %s: unknown GLenum 0x%04X\n", __FUNCTION__, pname);
209         return 1;
210     }
211 }
212
213 #define __glMap1f_size __glMap1d_size
214
215 static inline size_t
216 __glMap2d_size(GLenum pname)
217 {
218     switch (pname) {
219     case GL_MAP2_INDEX:
220     case GL_MAP2_TEXTURE_COORD_1:
221         return 1;
222     case GL_MAP2_TEXTURE_COORD_2:
223         return 2;
224     case GL_MAP2_NORMAL:
225     case GL_MAP2_TEXTURE_COORD_3:
226     case GL_MAP2_VERTEX_3:
227         return 3;
228     case GL_MAP2_COLOR_4:
229     case GL_MAP2_TEXTURE_COORD_4:
230     case GL_MAP2_VERTEX_4:
231         return 4;
232     default:
233         OS::DebugMessage("warning: %s: unknown GLenum 0x%04X\n", __FUNCTION__, pname);
234         return 1;
235     }
236 }
237
238 #define __glMap2f_size __glMap2d_size
239
240 #define __glGetBooleanv_size __gl_param_size
241 #define __glGetDoublev_size __glGetBooleanv_size
242 #define __glGetFloatv_size __glGetBooleanv_size
243 #define __glGetIntegerv_size __glGetBooleanv_size
244 #define __glGetInteger64v_size __glGetBooleanv_size
245
246 #define __glGetLightfv_size __glLightfv_size
247 #define __glGetLightiv_size __glLightfv_size
248
249 #define __glGetMaterialfv_size __glMaterialfv_size
250 #define __glGetMaterialiv_size __glMaterialfv_size
251
252
253 #define __glColorTableParameterfv_size __gl_param_size
254 #define __glColorTableParameteriv_size __gl_param_size
255 #define __glGetColorTableParameterfv_size __gl_param_size
256 #define __glGetColorTableParameteriv_size __gl_param_size
257
258 #define __glConvolutionParameterfv_size __gl_param_size
259 #define __glConvolutionParameteriv_size __gl_param_size
260 #define __glGetConvolutionParameterfv_size __gl_param_size
261 #define __glGetConvolutionParameteriv_size __gl_param_size
262
263 #define __glGetHistogramParameterfv_size __gl_param_size
264 #define __glGetHistogramParameteriv_size __gl_param_size
265
266 #define __glGetMinmaxParameterfv_size __gl_param_size
267 #define __glGetMinmaxParameteriv_size __gl_param_size
268
269 #define __glGetProgramivARB_size __gl_param_size
270 #define __glGetProgramivNV_size __gl_param_size
271
272 #define __glGetVertexAttribdvARB_size __gl_param_size
273 #define __glGetVertexAttribfvARB_size __gl_param_size
274 #define __glGetVertexAttribivARB_size __gl_param_size
275 #define __glGetVertexAttribdvNV_size __gl_param_size
276 #define __glGetVertexAttribfvNV_size __gl_param_size
277 #define __glGetVertexAttribivNV_size __gl_param_size
278
279 #define __glGetQueryObjectivARB_size __gl_param_size
280 #define __glGetQueryObjectuivARB_size __glGetQueryObjectivARB_size
281 #define __glGetQueryivARB_size __gl_param_size
282
283 #define __glPointParameterfv_size __glPointParameterfvEXT_size
284 #define __glPointParameteriv_size __glPointParameterfvEXT_size
285 #define __glPointParameterfvARB_size __glPointParameterfvEXT_size
286 #define __glPointParameterfvEXT_size __gl_param_size
287 #define __glPointParameterivNV_size __glPointParameterfvEXT_size
288
289 #define __glGetFramebufferAttachmentParameteriv_size __gl_param_size
290 #define __glGetFramebufferAttachmentParameterivEXT_size __gl_param_size
291
292 static inline size_t
293 __gl_format_channels(GLenum format) {
294     switch (format) {
295     case GL_COLOR_INDEX:
296     case GL_RED:
297     case GL_GREEN:
298     case GL_BLUE:
299     case GL_ALPHA:
300     case GL_INTENSITY:
301     case GL_LUMINANCE:
302     case GL_DEPTH_COMPONENT:
303     case GL_STENCIL_INDEX:
304         return 1;
305     case GL_DEPTH_STENCIL:
306     case GL_LUMINANCE_ALPHA:
307     case GL_RG:
308         return 2;
309     case GL_RGB:
310     case GL_BGR:
311         return 3;
312     case GL_RGBA:
313     case GL_BGRA:
314         return 4;
315     default:
316         OS::DebugMessage("warning: %s: unexpected format GLenum 0x%04X\n", __FUNCTION__, format);
317         return 0;
318     }
319 }
320
321 static inline size_t
322 __gl_image_size(GLenum format, GLenum type, GLsizei width, GLsizei height, GLsizei depth) {
323     size_t num_channels = __gl_format_channels(format);
324
325     size_t bits_per_pixel;
326     switch (type) {
327     case GL_BITMAP:
328         bits_per_pixel = 1;
329         break;
330     case GL_BYTE:
331     case GL_UNSIGNED_BYTE:
332         bits_per_pixel = 8 * num_channels;
333         break;
334     case GL_SHORT:
335     case GL_UNSIGNED_SHORT:
336     case GL_HALF_FLOAT:
337         bits_per_pixel = 16 * num_channels;
338         break;
339     case GL_INT:
340     case GL_UNSIGNED_INT:
341     case GL_FLOAT:
342         bits_per_pixel = 32 * num_channels;
343         break;
344     case GL_UNSIGNED_BYTE_3_3_2:
345     case GL_UNSIGNED_BYTE_2_3_3_REV:
346         bits_per_pixel = 8;
347         break;
348     case GL_UNSIGNED_SHORT_4_4_4_4:
349     case GL_UNSIGNED_SHORT_4_4_4_4_REV:
350     case GL_UNSIGNED_SHORT_5_5_5_1:
351     case GL_UNSIGNED_SHORT_1_5_5_5_REV:
352     case GL_UNSIGNED_SHORT_5_6_5:
353     case GL_UNSIGNED_SHORT_5_6_5_REV:
354     case GL_UNSIGNED_SHORT_8_8_MESA:
355     case GL_UNSIGNED_SHORT_8_8_REV_MESA:
356         bits_per_pixel = 16;
357         break;
358     case GL_UNSIGNED_INT_8_8_8_8:
359     case GL_UNSIGNED_INT_8_8_8_8_REV:
360     case GL_UNSIGNED_INT_10_10_10_2:
361     case GL_UNSIGNED_INT_2_10_10_10_REV:
362     case GL_UNSIGNED_INT_24_8:
363     case GL_UNSIGNED_INT_10F_11F_11F_REV:
364     case GL_UNSIGNED_INT_5_9_9_9_REV:
365     case GL_UNSIGNED_INT_S8_S8_8_8_NV:
366     case GL_UNSIGNED_INT_8_8_S8_S8_REV_NV:
367         bits_per_pixel = 32;
368         break;
369     case GL_FLOAT_32_UNSIGNED_INT_24_8_REV:
370         bits_per_pixel = 64;
371         break;
372     default:
373         OS::DebugMessage("warning: %s: unexpected type GLenum 0x%04X\n", __FUNCTION__, type);
374         bits_per_pixel = 0;
375         break;
376     }
377
378     /* FIXME: consider glPixelStore settings */
379
380     size_t row_stride = (width*bits_per_pixel + 7)/8;
381
382     size_t slice_stride = height*row_stride;
383
384     return depth*slice_stride;
385 }
386
387 #define __glTexParameterfv_size __gl_param_size
388 #define __glTexParameteriv_size __gl_param_size
389 #define __glGetTexParameterfv_size __gl_param_size
390 #define __glGetTexParameteriv_size __gl_param_size
391 #define __glGetTexLevelParameterfv_size __gl_param_size
392 #define __glGetTexLevelParameteriv_size __gl_param_size
393
394 #define __glTexEnvfv_size __gl_param_size
395 #define __glTexEnviv_size __gl_param_size
396 #define __glGetTexEnvfv_size __gl_param_size
397 #define __glGetTexEnviv_size __gl_param_size
398
399 #define __glTexGendv_size __gl_param_size
400 #define __glTexGenfv_size __gl_param_size
401 #define __glTexGeniv_size __gl_param_size
402 #define __glGetTexGendv_size __gl_param_size
403 #define __glGetTexGenfv_size __gl_param_size
404 #define __glGetTexGeniv_size __gl_param_size
405
406 #define __glTexImage3D_size(format, type, width, height, depth) __gl_image_size(format, type, width, height, depth)
407 #define __glTexImage2D_size(format, type, width, height)        __gl_image_size(format, type, width, height, 1)
408 #define __glTexImage1D_size(format, type, width)                __gl_image_size(format, type, width, 1, 1)
409
410 #define __glTexSubImage3D_size(format, type, width, height, depth) __glTexImage3D_size(format, type, width, height, depth)
411 #define __glTexSubImage2D_size(format, type, width, height)        __glTexImage2D_size(format, type, width, height)
412 #define __glTexSubImage1D_size(format, type, width)                __glTexImage1D_size(format, type, width)
413
414 #define __glTexImage3DEXT_size __glTexImage3D_size
415 #define __glTexImage2DEXT_size __glTexImage2D_size
416 #define __glTexImage1DEXT_size __glTexImage1D_size
417 #define __glTexSubImage3DEXT_size __glTexSubImage3D_size
418 #define __glTexSubImage2DEXT_size __glTexSubImage2D_size
419 #define __glTexSubImage1DEXT_size __glTexSubImage1D_size
420
421 #define __glTextureImage3DEXT_size __glTexImage3D_size
422 #define __glTextureImage2DEXT_size __glTexImage2D_size
423 #define __glTextureImage1DEXT_size __glTexImage1D_size
424 #define __glTextureSubImage3DEXT_size __glTexSubImage3D_size
425 #define __glTextureSubImage2DEXT_size __glTexSubImage2D_size
426 #define __glTextureSubImage1DEXT_size __glTexSubImage1D_size
427
428 #define __glMultiTexImage3DEXT_size __glTexImage3D_size
429 #define __glMultiTexImage2DEXT_size __glTexImage2D_size
430 #define __glMultiTexImage1DEXT_size __glTexImage1D_size
431 #define __glMultiTexSubImage3DEXT_size __glTexSubImage3D_size
432 #define __glMultiTexSubImage2DEXT_size __glTexSubImage2D_size
433 #define __glMultiTexSubImage1DEXT_size __glTexSubImage1D_size
434
435 #define __glDrawPixels_size(format, type, width, height) __glTexImage2D_size(format, type, width, height)
436
437 #define __glBitmap_size(width, height) __glTexImage2D_size(GL_COLOR_INDEX, GL_BITMAP, width, height)
438 #define __glPolygonStipple_size() __glBitmap_size(32, 32)
439
440
441 /* 
442  * 0 terminated integer/float attribute list.
443  */
444 template<class T>
445 static inline size_t
446 __AttribList_size(const T *pAttribList)
447 {
448     size_t size = 0;
449
450     if (pAttribList) {
451         do {
452             ++size;
453         } while (*pAttribList++);
454     }
455
456     return size;
457 }
458
459
460 #endif /* _GL_SIZE_HPP_ */