普通にいわれる無理数は実数ですので、３番目の状態はあり得ないです。
なぜなら、(有理数ではなく)「実数」をAとBにデデキントカットするということは、
A∪Bは実数全体になっているわけですから、どんな無理数をもってきても実数である以上は
AかBのどちらかに属していなければなりません。
Aに属しているならば、それはAの最大値です。
Bに属しているならば、それはBの最小値です。

ただし、いわゆる超実数といった数を含めて拡張した意味での無理数を考えているのなら話は別です。
超実数には実数ではないものがあるので、AにもBにも属さいない場合がありえます。
説明がわかりにくくて申し訳ございません。