▼ maruさん
こんな感じでしょうか。
// 正規表現キーワード Ver1
RxKey[000]=RK1,/ ?> ?> ?> ?.*/k
RxKey[001]=RK2,/ ?> ?> ?.*/k
RxKey[002]=RK3,/ ?> ?.*/k

テストデータを以下に示します。
aaaaaaaaa
>bbbbbbbbbbbbb
> ccccccccccccccccc
>>ddddddddddddddddddd
>> eeeeeeeeeeeee
> >fffffffffffffffff
> > ggggggggggggggggggggg
>>>hhhhhhhhhhhhhhhhhhhhhhh
>>> iiiiiiiiiiiiiii
> > >jjjjjjjjjjjjjjjjj
> > > kkkkkkkk

aaaaaaaaa
>bbbbbbbbbbbbb
> ccccccccccccccccc
>>ddddddddddddddddddd
>> eeeeeeeeeeeee
> >fffffffffffffffff
> > ggggggggggggggggggggg
>>>hhhhhhhhhhhhhhhhhhhhhhh
>>> iiiiiiiiiiiiiii
> > >jjjjjjjjjjjjjjjjj
> > > kkkkkkkk

もう「どう設定すれば良いのか」という回答は じゅうじさん から付いているので、
「どうして maruさんの設定で上手く行かないのか」の方を勝手に担当。


>キーワード１：/^>\s?[^>].*/k
>キーワード２：/^>\s?>\s?[^>].*/k
>キーワード３：(以下省略)
>
>とやってみたのですが、"> >"が">"と同じ色に
>なってしまいます。

まず、正規表現で「キーワード１：/^>\s?[^>].*/k」だと「> >」の行にもマッチしちゃいますよね？

　^>　　行頭の '>'
　\s?　 次にスペースが 0個ある
　[^>]　で、その次に '>' 以外の文字（スペースがありますね）があって、
　.*　　で、その後ろ全部。つまり２個目の '>' から行末まで

で、「> >」は、先にマッチしたキーワード１の色になるわけです。

そうならないようにするには、キーワード１とキーワード２の順番を
入れ替えて設定しておけば良い。
そうすれば「> >」は、キーワード１にマッチするよりも先に
キーワード２にマッチするのでキーワード２の色になります。

キーワード３：/^>\s?>\s?>\s?[^>].*/k
キーワード２：/^>\s?>\s?[^>].*/k
キーワード１：/^>\s?[^>].*/k

の順番に定義する事。

ただし、これだと
・「>>>>」はキーワード３にならない
・「>>> >」はキーワード３になる
とか、なっちゃいますけれど。（キーワード４が無い場合の話です）

正規表現を [^>] の部分を[^>\s] にすれば良いのかな。
その場合、（キーワード４が無い場合）「>>>>」は常に
キーワード１～３いずれにも該当しなくなりますね。


私なら単純に
・キーワード５：/^(\s*[>＞]){5}.*/k
・キーワード４：/^(\s*[>＞]){4}.*/k
・キーワード３：/^(\s*[>＞]){3}.*/k
・キーワード２：/^(\s*[>＞]){2}.*/k
・キーワード１：/^(\s*[>＞]){1}.*/k
って、やっちゃいますけど。
# ↑行頭にスペース文字が入る場合もある、というパターンです。