「新しいウィンドウで開く」とありますが、現在開かれているグループとは別にグループを作って新しいドキュメントを開くということでしょうか？
＃間違ってたらすみません。まだパッチを流し見しただけで
＃ろくに動作も確認せずに想像で話してます。(^^;;;

もしそうであれば、「新しいグループで開く」という名称で「ウィンドウをまとめてグループ化する」にぶら下がるサブオプションにするのが妥当かと思います。
コマンドについてもグループ化がOFFのときは「グループを閉じる」コマンドと同様にグレーアウトするのがいいでしょうね。無意味に使えても混乱を招く（害になる）気がします。

「新しいウィンドウで開く」とか「新規ウィンドウ」という表記は、現在開いているドキュメントを更に別のウィンドウで開く、という意味で使われることが多いので紛らわしいです。
Visual StudioやMS Wordでもその意味で使われているので（どちらも[ウィンドウ]メニューの下にあります←Word2007だと[表示]の下）。
※将来、その意味の機能追加をしたくなったときにも適切な名称がつけれなくて困ると思います。