こんな感じでしょうか（机上のみで試してません）。
ここまでくると共通関数化したほうがよいですね。
＃さらに引数を増やして「検索」とかも指定できるようにすればWinHelpコールをある程度まとめることができます。

void ShowWinHelp( HWND hwnd, LPCTSTR lpszHelp )
{
OSVERSIONINFO osVer;
osVer.dwOSVersionInfoSize = sizeof(osVer);
GetVersionEx(&osVer);

/* NT4のときだけ */
if ((osVer.dwPlatformId == VER_PLATFORM_WIN32_NT) /* NT系列 */
&& (osVer.dwMajorVersion <= 4) /* NT4以下 */
/* && (osVer.dwMajorVersion == 5 && osVer.dwMinorVersion == 0)*/ /* W2K */
/* && (osVer.dwMajorVersion == 5 && osVer.dwMinorVersion == 1)*/ /* XP */
)
{
/* 目次ページを表示する */
::WinHelp( hwnd, lpszHelp, HELP_CONTENTS , 0 );
return;
}

/* 目次タブを表示する */
::WinHelp( hwnd, lpszHelp, HELP_COMMAND, (unsigned long)"CONTENTS()" );
return;
}