win7 x64驱动开发经验（三）windbg 双机调试配置、问题及解决办法

http://www.cnblogs.com/witty/archive/2012/04/23/2466024.html

--------------------------------------------------------------

转自http://yexin218.iteye.com/blog/545187

VMware+Windgb+Win7内核驱动调试

本人在此基础之上根据具体情况有所改动

--------------------------------------------------------------

本文主要记录个人安装VMware+Windgb+Win7内核驱动调试的笔记。

一、安装环境

主机：Windows 7 x64 En U 版

虚拟机：VMware 7.1.4 VM8.0.2 (亲测)

GUestOS(虚拟机): Win7 x64 chs U 版

Windbg: 最新

二、虚拟机配置

打开相应 vmware 虚拟机上的 “Virtaul Machine Settings“

“Hardware　”选项中 ----> 点击“Add"　添加一个串口设备 SeriallPort .

"Next",在 "Serial Port" 里选中 “Output to named pipe"

"next",然后如下设置：

确定之后，回到如下界面，在右脚"Virtual Machine Settings" 页面时，在“I/O Mode” 里选中“Yield CPU on poll“
Ok之后就设定完毕了。

三、Windbg设置

下载地址： Windbg

安装之后，设置一个桌面快捷方式，然后，右键->属性，在Target中的引号后面添加如下：-b -k com:pipe,port=\\.\pipe\com_1,resets=0

或者是： -b -k com:port=\\.\pipe\com_1,baud=115200,pipe 【二者似乎皆可】

四、GuestOS设置（就是虚拟机里的系统配置）

适用于win7 vistar 如果感觉黑窗口玩不了请看 7. 这种方法更直观

在administrator权限下, 进入command line模式, 键入bcdedit命令, 会出现以下界面:
然后, 设置端口COM1, baudrate为115200 (除COM1外, 也可以用1394或USB. 1394用起来比COM口快多了, 当然前提是你需要有1394卡及其驱动. 很恶心的是Vista不再支持1394的文件传输协议, 但是用windbg双机调试还是可以的)
命令为:
bcdedit /dbgsettings {serial [baudrate:value][debugport:value] | 1394 [channel:value] | usb }
接着, 我们需要复制一个开机选项, 以进入OS的debug模式
命令为:
bcdedit /copy {current} /d DebugEnty
DebugPoint为选项名称, 名字可以自己定义. 然后复制得到的ID号.
接着增加一个新的选项到引导菜单
bcdedit /displayorder {current} {ID}
这里的{ID}的ID值是刚生成的ID值.
激活DEBUG : bcdedit /debug {ID} ON
这里的{ID} 的ID值还是刚才的ID值.
命令执行成功后, 重新启动机器.
7.或者更简单的图形界面设置：在msconfig界面中，选Boot,再选Advanced options，在选择Debug、Debug port、Baud rate都打上钩。如果所示：
选择DebugEntry[debug]作为等入口。启动后，打开windbg.可以看到类似如下的信息：
1. Microsoft (R) Windows Debugger Version 6.11.0001.404 X86
2. Copyright (c) Microsoft Corporation. All rights reserved.
3. Opened \\.\pipe\com_1
4. Waiting to reconnect...
5. Connected to Windows 7 7600 x86 compatible target at (Thu Dec 10 17:46:36.928 2009 (GMT+8)), ptr64 FALSE
6. Kernel Debugger connection established. (Initial Breakpoint requested)
7. Symbol search path is: *** Invalid ***
8. ****************************************************************************
9. * Symbol loading may be unreliable without a symbol search path. *
10. * Use .symfix to have the debugger choose a symbol path. *
11. * After setting your symbol path, use .reload to refresh symbol locations. *
12. ****************************************************************************
13. Executable search path is:
14. *********************************************************************
15. * Symbols can not be loaded because symbol path is not initialized. *
16. * *
17. * The Symbol Path can be set by: *
18. * using the _NT_SYMBOL_PATH environment variable. *
19. * using the -y <symbol_path> argument when starting the debugger. *
20. * using .sympath and .sympath+ *
21. *********************************************************************
22. *** ERROR: Symbol file could not be found. Defaulted to export symbols for ntkrpamp.exe -
23. Windows 7 Kernel Version 7600 MP (1 procs) Free x86 compatible
24. Product: WinNt, suite: TerminalServer SingleUserTS
25. Built by: 7600.16385.x86fre.win7_rtm.090713-1255
26. Machine Name:
27. Kernel base = 0x83e0f000 PsLoadedModuleList = 0x83f57810
28. Debug session time: Thu Dec 10 17:46:32.658 2009 (GMT+8)
29. System Uptime: 0 days 0:06:18.429
30. Break instruction exception - code 80000003 (first chance)
31. *******************************************************************************
32. * *
33. * You are seeing this message because you pressed either *
34. * CTRL+C (if you run kd.exe) or, *
35. * CTRL+BREAK (if you run WinDBG), *
36. * on your debugger machine's keyboard. *
37. * *
38. * THIS IS NOT A BUG OR A SYSTEM CRASH *
39. * *
40. * If you did not intend to break into the debugger, press the "g" key, then *
41. * press the "Enter" key now. This message might immediately reappear. If it *
42. * does, press "g" and "Enter" again. *
43. * *
44. *******************************************************************************
45. nt!DbgBreakPointWithStatus+0x4:
46. 83e7a394 cc int 3

五、操作方式提示

我发现，如果在GuestOs -win7启动过程中，如果打开了windbg之后，整个系统就像死机，不动了。估计是windbg启动后设定了断点做调试，试试按F5,或者go这样就可以恢复原来的状态

----------------------------------问题及解决办法-----------------------------------------------------------------------------------

Windows7 x64 + VMware + WinDbg 双机调试故障解决

源于： http://blog.tianya.cn/blogger/post_read.asp?BlogID=1439846&PostID=38575768

作者:MuseHero 2012-02-07 09:37 星期二晴

　　最近对虚拟机及里面的OS都进行了升级，在配置Windbg双机调试时，出现两个问题。
　　在网上搜了搜，第二个问题几乎没有参考资料，就在国外看到过一例出同样问题的，现把解决方法放出来，供有同样麻烦的朋友们参考：
　　
　　第一个问题：
　　现像：打开虚拟机后无法连接，提试无法打开连接端口。
　　故障原因：WMWare7.x及以后的版本在添加Serial Port时默认为Serial Port2，即COM2端口，而习惯了用WMWare6.x的朋友们升级7.x时习惯了按旧有设置（COM1）来进行双机调试，就会连接不上了。
　　
　　解决方案：
　　 1、在添加Serial Port时将虚拟机硬件配置中的打印机删除，再创建SerialPort时就是SerialPort1了，其它不用改变，直接可以按原有方式进行双调试的设置。
　　 2、虚拟的硬件设置不变，在虚拟OS中添加调试引导项时（bcdedit里），把端口设为COM2，也是可行的。
　　以上两个方案任选其一可解决。
　　
　　第二个问题：
　　现像：在虚拟OS开机引导，加载完ClassPnp驱动后，实机中的WinDbg强制关闭（就是窗口突然没了，进程也结束了）
　　故障原因：调试WinDbg时显示故障是“调试目标初始化时出现问题，错误码：0x8000FFFF”。（现在我也没搞明白这是啥子故障）
　　解决方案：
　　这个故障是在引导过程中发生的，通过排除发现不加载网络驱动则不会出现故障，所以解决方案也就很简单了，在虚拟硬件设置中把网络连接中的“开机连接”去掉，让开机时不连接网络。
进入虚拟OS后，如果需要使用网络，再手动连接网络，经测试开机后手动连接不会触发故障出现。
　　
　　第二个问题用笨方法解决了，但原理没有搞清楚，应该是跟虚拟网络有关，有明白原因的朋友还请告诉一下子，谢谢了。
（后注：用了几天后发现第二个问题的解决方案并不稳定，时好时坏，最后不得不换装Windows7家庭版解决，经测试VMWare里面装Windows7 64位旗舰版时会出这个问题，装家庭版未发现有同样的问题。）

友情提示：
在设置双机调试时，总是记不住bcdedit的命令，后来才知道用msconfig就可以直接在图形界面设置了，同样记忆力差的朋友可以尝试一下子。