>第5巻[EOF]
だとソートされず、
>第5巻
>[EOF]
だとソートされるという意味だと思います。

通常選択時、最後の行の選択が中途半端だとその行に「改行コードがある」場合は、次の行頭までが選択されますが、
最終行に改行がない場合は、最終行は選択範囲から除外されて、その行の先頭までに選択範囲が変更されます。
これは、ソートが追加されたほぼ初期からの仕様です。
並び替えた後、前の行と結合されて変になるので。
矩形選択の場合は最後の行も処理されて、最近のバージョンから改行も小細工されてそれらしくソートできます。
(前のバージョンでは、最後の行も処理されるものの改行を小細工しません)
通常選択時も、最終行を範囲に含めて改行を小細工するようにしてもいいのですが、現状は互換性重視でそうしてはいません。
要望 & 意見次第で仕様変更することもできます。