git.cworth.org Git - apitrace/blob - glsize.hpp

   1 /**************************************************************************
   2  *
   3  * Copyright 2010 VMware, Inc.
   4  * Copyright 2004 IBM Corporation
   5  * All Rights Reserved.
   6  *
   7  * Permission is hereby granted, free of charge, to any person obtaining a
   8  * copy of this software and associated documentation files (the "Software"),
   9  * to deal in the Software without restriction, including without limitation
  10  * the rights to use, copy, modify, merge, publish, distribute, sub license,
  11  * and/or sell copies of the Software, and to permit persons to whom the
  12  * Software is furnished to do so, subject to the following conditions:
  13  *
  14  * The above copyright notice and this permission notice (including the next
  15  * paragraph) shall be included in all copies or substantial portions of the
  16  * Software.
  17  *
  18  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  19  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  20  * FITNESS FOR A PARTICULAR PURPOSE AND NON-INFRINGEMENT.  IN NO EVENT SHALL
  21  * AUTHORS,
  22  * AND/OR THEIR SUPPLIERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY,
  23  * WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF
  24  * OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
  25  * SOFTWARE.
  26  *
  27  **************************************************************************/
  28
  29 /*
  30  * Auxiliary functions to compute the size of array/blob arguments, depending.
  31  */
  32
  33 #ifndef _GL_SIZE_HPP_
  34 #define _GL_SIZE_HPP_
  35
  36
  37 #include "os.hpp"
  38 #include "glimports.hpp"
  39
  40
  41 static inline size_t
  42 __gl_type_size(GLenum type)
  43 {
  44     switch (type) {
  45     case GL_BOOL:
  46     case GL_BYTE:
  47     case GL_UNSIGNED_BYTE:
  48         return 1;
  49     case GL_SHORT:
  50     case GL_UNSIGNED_SHORT:
  51     case GL_2_BYTES:
  52     case GL_HALF_FLOAT:
  53         return 2;
  54     case GL_3_BYTES:
  55         return 3;
  56     case GL_INT:
  57     case GL_UNSIGNED_INT:
  58     case GL_FLOAT:
  59     case GL_4_BYTES:
  60         return 4;
  61     case GL_DOUBLE:
  62         return 8;
  63     default:
  64         OS::DebugMessage("warning: %s: unknown GLenum 0x%04X\n", __FUNCTION__, type);
  65         return 0;
  66     }
  67 }
  68
  69 static inline size_t
  70 __glArrayPointer_size(GLint size, GLenum type, GLsizei stride, GLsizei maxIndex)
  71 {
  72     size_t elementSize = size*__gl_type_size(type);
  73     if (!stride) {
  74         stride = (GLsizei)elementSize;
  75     }
  76     return stride*maxIndex + elementSize;
  77 }
  78
  79 #define __glVertexPointer_size(size, type, stride, maxIndex) __glArrayPointer_size(size, type, stride, maxIndex)
  80 #define __glNormalPointer_size(type, stride, maxIndex) __glArrayPointer_size(3, type, stride, maxIndex)
  81 #define __glColorPointer_size(size, type, stride, maxIndex) __glArrayPointer_size(size, type, stride, maxIndex)
  82 #define __glIndexPointer_size(type, stride, maxIndex) __glArrayPointer_size(1, type, stride, maxIndex)
  83 #define __glTexCoordPointer_size(size, type, stride, maxIndex) __glArrayPointer_size(size, type, stride, maxIndex)
  84 #define __glEdgeFlagPointer_size(stride, maxIndex) __glArrayPointer_size(1, GL_BOOL, stride, maxIndex)
  85 #define __glFogCoordPointer_size(type, stride, maxIndex) __glArrayPointer_size(1, type, stride, maxIndex)
  86 #define __glSecondaryColorPointer_size(size, type, stride, maxIndex) __glArrayPointer_size(size, type, stride, maxIndex)
  87 #define __glVertexAttribPointer_size(size, type, normalized, stride, maxIndex) __glArrayPointer_size(size, type, stride, maxIndex)
  88
  89 static inline GLuint
  90 __glDrawArrays_maxindex(GLint first, GLsizei count)
  91 {
  92     if (!count) {
  93         return 0;
  94     }
  95     return first + count - 1;
  96 }
  97
  98 #define __glDrawArraysEXT_maxindex __glDrawArrays_maxindex
  99
 100 static inline GLuint
 101 __glDrawElements_maxindex(GLsizei count, GLenum type, const GLvoid *indices)
 102 {
 103     GLvoid *temp = 0;
 104     GLint __element_array_buffer = 0;
 105
 106     if (!count) {
 107         return 0;
 108     }
 109     __glGetIntegerv(GL_ELEMENT_ARRAY_BUFFER_BINDING, &__element_array_buffer);
 110     if (__element_array_buffer) {
 111         // Read indices from index buffer object
 112         GLintptr offset = (GLintptr)indices;
 113         GLsizeiptr size = count*__gl_type_size(type);
 114         GLvoid *temp = malloc(size);
 115         if (!temp) {
 116             return 0;
 117         }
 118         memset(temp, 0, size);
 119         __glGetBufferSubData(GL_ELEMENT_ARRAY_BUFFER, offset, size, temp);
 120         indices = temp;
 121     } else {
 122         if (!indices) {
 123             return 0;
 124         }
 125     }
 126
 127     GLuint maxindex = 0;
 128     GLsizei i;
 129     if (type == GL_UNSIGNED_BYTE) {
 130         const GLubyte *p = (const GLubyte *)indices;
 131         for (i = 0; i < count; ++i) {
 132             if (p[i] > maxindex) {
 133                 maxindex = p[i];
 134             }
 135         }
 136     } else if (type == GL_UNSIGNED_SHORT) {
 137         const GLushort *p = (const GLushort *)indices;
 138         for (i = 0; i < count; ++i) {
 139             if (p[i] > maxindex) {
 140                 maxindex = p[i];
 141             }
 142         }
 143     } else if (type == GL_UNSIGNED_INT) {
 144         const GLuint *p = (const GLuint *)indices;
 145         for (i = 0; i < count; ++i) {
 146             if (p[i] > maxindex) {
 147                 maxindex = p[i];
 148             }
 149         }
 150     } else {
 151         OS::DebugMessage("warning: %s: unknown GLenum 0x%04X\n", __FUNCTION__, type);
 152     }
 153
 154     if (__element_array_buffer) {
 155         free(temp);
 156     }
 157
 158     return maxindex;
 159 }
 160
 161 static inline GLuint
 162 __glDrawRangeElements_maxindex(GLuint start, GLuint end, GLsizei count, GLenum type, const GLvoid * indices)
 163 {
 164     (void)start;
 165     (void)end;
 166     return __glDrawElements_maxindex(count, type, indices);
 167 }
 168
 169 #define __glDrawRangeElementsEXT_maxindex __glDrawRangeElements_maxindex
 170
 171 static inline size_t
 172 __glCallLists_size(GLsizei n, GLenum type)
 173 {
 174     return n*__gl_type_size(type);
 175 }
 176
 177 #define __glFogfv_size pname_size
 178 #define __glFogiv_size pname_size
 179
 180 #define __glLightfv_size pname_size
 181 #define __glLightiv_size pname_size
 182
 183 #define __glLightModelfv_size pname_size
 184 #define __glLightModeliv_size __glLightModelfv_size
 185
 186 #define __glMaterialfv_size pname_size
 187 #define __glMaterialiv_size __glMaterialfv_size
 188
 189 #define __glTexParameterfv_size pname_size
 190 #define __glTexParameteriv_size __glTexParameterfv_size
 191
 192 #define __glTexEnvfv_size pname_size
 193 #define __glTexEnviv_size __glTexEnvfv_size
 194
 195 #define __glTexGendv_size pname_size
 196 #define __glTexGenfv_size __glTexGendv_size
 197 #define __glTexGeniv_size __glTexGendv_size
 198
 199 static inline size_t
 200 __glMap1d_size(GLenum pname)
 201 {
 202     switch (pname) {
 203     case GL_MAP1_INDEX:
 204     case GL_MAP1_TEXTURE_COORD_1:
 205         return 1;
 206     case GL_MAP1_TEXTURE_COORD_2:
 207         return 2;
 208     case GL_MAP1_NORMAL:
 209     case GL_MAP1_TEXTURE_COORD_3:
 210     case GL_MAP1_VERTEX_3:
 211         return 3;
 212     case GL_MAP1_COLOR_4:
 213     case GL_MAP1_TEXTURE_COORD_4:
 214     case GL_MAP1_VERTEX_4:
 215         return 4;
 216     default:
 217         OS::DebugMessage("warning: %s: unknown GLenum 0x%04X\n", __FUNCTION__, pname);
 218         return 1;
 219     }
 220 }
 221
 222 #define __glMap1f_size __glMap1d_size
 223
 224 static inline size_t
 225 __glMap2d_size(GLenum pname)
 226 {
 227     switch (pname) {
 228     case GL_MAP2_INDEX:
 229     case GL_MAP2_TEXTURE_COORD_1:
 230         return 1;
 231     case GL_MAP2_TEXTURE_COORD_2:
 232         return 2;
 233     case GL_MAP2_NORMAL:
 234     case GL_MAP2_TEXTURE_COORD_3:
 235     case GL_MAP2_VERTEX_3:
 236         return 3;
 237     case GL_MAP2_COLOR_4:
 238     case GL_MAP2_TEXTURE_COORD_4:
 239     case GL_MAP2_VERTEX_4:
 240         return 4;
 241     default:
 242         OS::DebugMessage("warning: %s: unknown GLenum 0x%04X\n", __FUNCTION__, pname);
 243         return 1;
 244     }
 245 }
 246
 247 #define __glMap2f_size __glMap2d_size
 248
 249 #define __glGetBooleanv_size pname_size
 250 #define __glGetDoublev_size __glGetBooleanv_size
 251 #define __glGetFloatv_size __glGetBooleanv_size
 252 #define __glGetIntegerv_size __glGetBooleanv_size
 253 #define __glGetInteger64v_size __glGetBooleanv_size
 254
 255 #define __glGetLightfv_size __glLightfv_size
 256 #define __glGetLightiv_size __glLightfv_size
 257
 258 #define __glGetMaterialfv_size __glMaterialfv_size
 259 #define __glGetMaterialiv_size __glMaterialfv_size
 260
 261 #define __glGetTexEnvfv_size __glTexEnvfv_size
 262 #define __glGetTexEnviv_size __glTexEnvfv_size
 263
 264 #define __glGetTexGendv_size __glTexGendv_size
 265 #define __glGetTexGenfv_size __glTexGendv_size
 266 #define __glGetTexGeniv_size __glTexGendv_size
 267
 268 static inline size_t
 269 __glGetTexParameterfv_size(GLenum pname)
 270 {
 271     switch (pname) {
 272     case GL_TEXTURE_MAG_FILTER:
 273     case GL_TEXTURE_MIN_FILTER:
 274     case GL_TEXTURE_WRAP_S:
 275     case GL_TEXTURE_WRAP_T:
 276     case GL_TEXTURE_PRIORITY:
 277     case GL_TEXTURE_RESIDENT:
 278     case GL_TEXTURE_WRAP_R:
 279     case GL_TEXTURE_COMPARE_FAIL_VALUE_ARB:
 280 /*  case GL_SHADOW_AMBIENT_SGIX:*/
 281     case GL_TEXTURE_MIN_LOD:
 282     case GL_TEXTURE_MAX_LOD:
 283     case GL_TEXTURE_BASE_LEVEL:
 284     case GL_TEXTURE_MAX_LEVEL:
 285     case GL_TEXTURE_CLIPMAP_FRAME_SGIX:
 286     case GL_TEXTURE_LOD_BIAS_S_SGIX:
 287     case GL_TEXTURE_LOD_BIAS_T_SGIX:
 288     case GL_TEXTURE_LOD_BIAS_R_SGIX:
 289     case GL_GENERATE_MIPMAP:
 290 /*  case GL_GENERATE_MIPMAP_SGIS:*/
 291     case GL_TEXTURE_COMPARE_SGIX:
 292     case GL_TEXTURE_COMPARE_OPERATOR_SGIX:
 293     case GL_TEXTURE_MAX_CLAMP_S_SGIX:
 294     case GL_TEXTURE_MAX_CLAMP_T_SGIX:
 295     case GL_TEXTURE_MAX_CLAMP_R_SGIX:
 296     case GL_TEXTURE_MAX_ANISOTROPY_EXT:
 297     case GL_TEXTURE_LOD_BIAS:
 298 /*  case GL_TEXTURE_LOD_BIAS_EXT:*/
 299     case GL_TEXTURE_RANGE_LENGTH_APPLE:
 300     case GL_TEXTURE_STORAGE_HINT_APPLE:
 301     case GL_DEPTH_TEXTURE_MODE:
 302 /*  case GL_DEPTH_TEXTURE_MODE_ARB:*/
 303     case GL_TEXTURE_COMPARE_MODE:
 304 /*  case GL_TEXTURE_COMPARE_MODE_ARB:*/
 305     case GL_TEXTURE_COMPARE_FUNC:
 306 /*  case GL_TEXTURE_COMPARE_FUNC_ARB:*/
 307     case GL_TEXTURE_UNSIGNED_REMAP_MODE_NV:
 308         return 1;
 309     case GL_TEXTURE_CLIPMAP_CENTER_SGIX:
 310     case GL_TEXTURE_CLIPMAP_OFFSET_SGIX:
 311         return 2;
 312     case GL_TEXTURE_CLIPMAP_VIRTUAL_DEPTH_SGIX:
 313         return 3;
 314     case GL_TEXTURE_BORDER_COLOR:
 315     case GL_POST_TEXTURE_FILTER_BIAS_SGIX:
 316     case GL_POST_TEXTURE_FILTER_SCALE_SGIX:
 317         return 4;
 318     default:
 319         OS::DebugMessage("warning: %s: unknown GLenum 0x%04X\n", __FUNCTION__, pname);
 320         return 1;
 321     }
 322 }
 323
 324 #define __glGetTexParameterfv_size pname_size
 325 #define __glGetTexParameteriv_size __glGetTexParameterfv_size
 326
 327 #define __glGetTexLevelParameterfv_size pname_size
 328 #define __glGetTexLevelParameteriv_size __glGetTexLevelParameterfv_size
 329
 330 #define __glColorTableParameterfv_size pname_size
 331 #define __glColorTableParameteriv_size pname_size
 332 #define __glGetColorTableParameterfv_size pname_size
 333 #define __glGetColorTableParameteriv_size pname_size
 334
 335 #define __glConvolutionParameterfv_size pname_size
 336 #define __glConvolutionParameteriv_size pname_size
 337 #define __glGetConvolutionParameterfv_size pname_size
 338 #define __glGetConvolutionParameteriv_size pname_size
 339
 340 #define __glGetHistogramParameterfv_size pname_size
 341 #define __glGetHistogramParameteriv_size pname_size
 342
 343 #define __glGetMinmaxParameterfv_size pname_size
 344 #define __glGetMinmaxParameteriv_size pname_size
 345
 346 #define __glGetProgramivARB_size pname_size
 347 #define __glGetProgramivNV_size pname_size
 348
 349 #define __glGetVertexAttribdvARB_size pname_size
 350 #define __glGetVertexAttribfvARB_size pname_size
 351 #define __glGetVertexAttribivARB_size pname_size
 352 #define __glGetVertexAttribdvNV_size pname_size
 353 #define __glGetVertexAttribfvNV_size pname_size
 354 #define __glGetVertexAttribivNV_size pname_size
 355
 356 #define __glGetQueryObjectivARB_size pname_size
 357 #define __glGetQueryObjectuivARB_size __glGetQueryObjectivARB_size
 358 #define __glGetQueryivARB_size pname_size
 359
 360 #define __glPointParameterfv_size __glPointParameterfvEXT_size
 361 #define __glPointParameteriv_size __glPointParameterfvEXT_size
 362 #define __glPointParameterfvARB_size __glPointParameterfvEXT_size
 363 #define __glPointParameterfvEXT_size pname_size
 364 #define __glPointParameterivNV_size __glPointParameterfvEXT_size
 365
 366 #define __glGetFramebufferAttachmentParameteriv_size pname_size
 367 #define __glGetFramebufferAttachmentParameterivEXT_size pname_size
 368
 369 static inline size_t
 370 __gl_format_channels(GLenum format) {
 371     switch (format) {
 372     case GL_COLOR_INDEX:
 373     case GL_RED:
 374     case GL_GREEN:
 375     case GL_BLUE:
 376     case GL_ALPHA:
 377     case GL_INTENSITY:
 378     case GL_LUMINANCE:
 379     case GL_DEPTH_COMPONENT:
 380     case GL_STENCIL_INDEX:
 381         return 1;
 382     case GL_DEPTH_STENCIL:
 383     case GL_LUMINANCE_ALPHA:
 384     case GL_RG:
 385         return 2;
 386     case GL_RGB:
 387     case GL_BGR:
 388         return 3;
 389     case GL_RGBA:
 390     case GL_BGRA:
 391         return 4;
 392     default:
 393         OS::DebugMessage("warning: %s: unexpected format GLenum 0x%04X\n", __FUNCTION__, format);
 394         return 0;
 395     }
 396 }
 397
 398 static inline size_t
 399 __glTexImage3D_size(GLenum format, GLenum type, GLsizei width, GLsizei height, GLsizei depth) {
 400     size_t num_channels = __gl_format_channels(format);
 401
 402     size_t bits_per_pixel;
 403     switch (type) {
 404     case GL_BITMAP:
 405         bits_per_pixel = 1;
 406         break;
 407     case GL_BYTE:
 408     case GL_UNSIGNED_BYTE:
 409         bits_per_pixel = 8 * num_channels;
 410         break;
 411     case GL_SHORT:
 412     case GL_UNSIGNED_SHORT:
 413     case GL_HALF_FLOAT:
 414         bits_per_pixel = 16 * num_channels;
 415         break;
 416     case GL_INT:
 417     case GL_UNSIGNED_INT:
 418     case GL_FLOAT:
 419         bits_per_pixel = 32 * num_channels;
 420         break;
 421     case GL_UNSIGNED_BYTE_3_3_2:
 422     case GL_UNSIGNED_BYTE_2_3_3_REV:
 423         bits_per_pixel = 8;
 424         break;
 425     case GL_UNSIGNED_SHORT_4_4_4_4:
 426     case GL_UNSIGNED_SHORT_4_4_4_4_REV:
 427     case GL_UNSIGNED_SHORT_5_5_5_1:
 428     case GL_UNSIGNED_SHORT_1_5_5_5_REV:
 429     case GL_UNSIGNED_SHORT_5_6_5:
 430     case GL_UNSIGNED_SHORT_5_6_5_REV:
 431     case GL_UNSIGNED_SHORT_8_8_MESA:
 432     case GL_UNSIGNED_SHORT_8_8_REV_MESA:
 433         bits_per_pixel = 16;
 434         break;
 435     case GL_UNSIGNED_INT_8_8_8_8:
 436     case GL_UNSIGNED_INT_8_8_8_8_REV:
 437     case GL_UNSIGNED_INT_10_10_10_2:
 438     case GL_UNSIGNED_INT_2_10_10_10_REV:
 439     case GL_UNSIGNED_INT_24_8:
 440     case GL_UNSIGNED_INT_10F_11F_11F_REV:
 441     case GL_UNSIGNED_INT_5_9_9_9_REV:
 442     case GL_UNSIGNED_INT_S8_S8_8_8_NV:
 443     case GL_UNSIGNED_INT_8_8_S8_S8_REV_NV:
 444         bits_per_pixel = 32;
 445         break;
 446     case GL_FLOAT_32_UNSIGNED_INT_24_8_REV:
 447         bits_per_pixel = 64;
 448         break;
 449     default:
 450         OS::DebugMessage("warning: %s: unexpected type GLenum 0x%04X\n", __FUNCTION__, type);
 451         bits_per_pixel = 0;
 452         break;
 453     }
 454
 455     /* FIXME: consider glPixelStore settings */
 456
 457     size_t row_stride = (width*bits_per_pixel + 7)/8;
 458
 459     size_t slice_stride = height*row_stride;
 460
 461     return depth*slice_stride;
 462 }
 463
 464 #define __glTexImage2D_size(format, type, width, height) __glTexImage3D_size(format, type, width, height, 1)
 465 #define __glTexImage1D_size(format, type, width)         __glTexImage3D_size(format, type, width, 1, 1)
 466
 467 #define __glTexSubImage3D_size(format, type, width, height, depth) __glTexImage3D_size(format, type, width, height, depth)
 468 #define __glTexSubImage2D_size(format, type, width, height)        __glTexImage2D_size(format, type, width, height)
 469 #define __glTexSubImage1D_size(format, type, width)                __glTexImage1D_size(format, type, width)
 470
 471 #define __glTexImage3DEXT_size __glTexImage3D_size
 472 #define __glTexImage2DEXT_size __glTexImage2D_size
 473 #define __glTexImage1DEXT_size __glTexImage1D_size
 474 #define __glTexSubImage3DEXT_size __glTexSubImage3D_size
 475 #define __glTexSubImage2DEXT_size __glTexSubImage2D_size
 476 #define __glTexSubImage1DEXT_size __glTexSubImage1D_size
 477
 478 #define __glDrawPixels_size(format, type, width, height) __glTexImage2D_size(format, type, width, height)
 479
 480 #define __glBitmap_size(width, height) __glTexImage2D_size(GL_COLOR_INDEX, GL_BITMAP, width, height)
 481 #define __glPolygonStipple_size() __glBitmap_size(32, 32)
 482
 483
 484 /*
 485  * 0 terminated integer/float attribute list.
 486  */
 487 template<class T>
 488 static inline size_t
 489 __AttribList_size(const T *pAttribList)
 490 {
 491     size_t size = 0;
 492
 493     if (pAttribList) {
 494         do {
 495             ++size;
 496         } while (*pAttribList++);
 497     }
 498
 499     return size;
 500 }
 501
 502
 503 #endif /* _GL_SIZE_HPP_ */