]> git.cworth.org Git - apitrace/blob - wrappers/d3dshader.cpp
Preserve both D3D9 shader byte code, and disassembly.
[apitrace] / wrappers / d3dshader.cpp
1 /**************************************************************************
2  *
3  * Copyright 2011 Jose Fonseca
4  * Copyright 2008-2009 VMware, Inc.
5  * All Rights Reserved.
6  *
7  * Permission is hereby granted, free of charge, to any person obtaining a copy
8  * of this software and associated documentation files (the "Software"), to deal
9  * in the Software without restriction, including without limitation the rights
10  * to use, copy, modify, merge, publish, distribute, sublicense, and/or sell
11  * copies of the Software, and to permit persons to whom the Software is
12  * furnished to do so, subject to the following conditions:
13  *
14  * The above copyright notice and this permission notice shall be included in
15  * all copies or substantial portions of the Software.
16  *
17  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
18  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
19  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
20  * AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
21  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
22  * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN
23  * THE SOFTWARE.
24  *
25  **************************************************************************/
26
27
28 #include <stdio.h>
29
30 #include "d3dshader.hpp"
31 #include "d3d9imports.hpp"
32 #include "d3dsize.hpp"
33
34
35 typedef HRESULT
36 (WINAPI *PD3DXDISASSEMBLESHADER)(
37     CONST DWORD *pShader,
38     BOOL EnableColorCode,
39     LPCSTR pComments,
40     LPD3DXBUFFER *ppDisassembly
41 );
42
43
44 void DumpShader(trace::Writer &writer, const DWORD *tokens)
45 {
46     static BOOL firsttime = TRUE;
47
48     /*
49      * TODO: Consider using d3dcompile_xx.dll per
50      * http://msdn.microsoft.com/en-us/library/windows/desktop/ee663275.aspx
51      */
52
53     static HMODULE hD3DXModule = NULL;
54     static PD3DXDISASSEMBLESHADER pfnD3DXDisassembleShader = NULL;
55
56     if (firsttime) {
57         if (!hD3DXModule) {
58             unsigned release;
59             int version;
60             for (release = 0; release <= 1; ++release) {
61                 /* Version 41 corresponds to Mar 2009 version of DirectX Runtime / SDK */
62                 for (version = 41; version >= 0; --version) {
63                     char filename[256];
64                     _snprintf(filename, sizeof(filename),
65                               "d3dx9%s%s%u.dll", release ? "" : "d", version ? "_" : "", version);
66                     hD3DXModule = LoadLibraryA(filename);
67                     if (hD3DXModule)
68                         goto found;
69                 }
70             }
71 found:
72             ;
73         }
74
75         if (hD3DXModule) {
76             if (!pfnD3DXDisassembleShader) {
77                 pfnD3DXDisassembleShader = (PD3DXDISASSEMBLESHADER)GetProcAddress(hD3DXModule, "D3DXDisassembleShader");
78             }
79         }
80
81         firsttime = FALSE;
82     }
83
84     LPD3DXBUFFER pDisassembly = NULL;
85     HRESULT hr = E_FAIL;
86
87     if (pfnD3DXDisassembleShader) {
88         hr = pfnD3DXDisassembleShader(tokens, FALSE, NULL, &pDisassembly);
89     }
90
91     if (hr == D3D_OK) {
92         writer.beginRepr();
93         writer.writeString((const char *)pDisassembly->GetBufferPointer(), pDisassembly->GetBufferSize());
94     }
95
96     writer.writeBlob(tokens, _shaderSize(tokens));
97
98     if (pDisassembly) {
99         pDisassembly->Release();
100     }
101     
102     if (hr == D3D_OK) {
103         writer.endRepr();
104     }
105 }