IDA内核调试错误

Question

环境：

Windows 7 64位版本 虚拟机(Vmware 8) + Virtualkd: Windows XP 32位版本

为了用ida 6.1调试内核，我得到了以下错误：

Windbg: using debugging tools from 'C:\Program Files (x86)\Debugging Tools for Windows (x86)\'
Connecting to the kernel with 'com:port=\\.\pipe\kd_WinXP_kerneldbg'
**Connect failed: Incorrect function.**
Flushing buffers, please wait...ok
Unloading IDP module C:\ida61\procs\pc.w32...

vmmon64看起来没问题：

http://s13.postimg.org/qpn50bcdz/Untitled.png

IDA上的连接字符串

com:port=\\.\pipe\kd_WinXP_kerneldbg

谁都可以

Answer 1

当您有物理串行端口连接时，您使用的连接字符串。对于虚拟机，您需要使用稍微不同的字符串。尝试：

com:pipe,port=\\.\pipe\kd_WinXP_kerneldbg

请注意虚拟机COM连接所需的额外pipe,port部分。下面是从使用WinDbg的实时内核模式调试引用的可能的连接字符串

windbg [-y SymbolPath] -k net:port=PortNumber,key=Key
windbg [-y SymbolPath] -k 1394:channel=1394Channel[,symlink=1394Protocol] 
windbg [-y SymbolPath] -k usb:targetname=USBString
windbg [-y SymbolPath] -k com:port=ComPort,baud=BaudRate
windbg [-y SymbolPath] -k com:pipe,port=\\VMHost\pipe\PipeName[,resets=0][,reconnect]
windbg [-y SymbolPath] -k com:modem
windbg [-y SymbolPath] -kl 
windbg [-y SymbolPath] -k 

如果VM运行在与调试器相同的计算机上，则使用\\.\而不是\\VMHost\

一般来说，手动设置虚拟机的内核模式调试也可能是有帮助的。