"boot.ini" の /3GB option に関連して、/USERVA option というのがあります。
この設定は何なのかというと、/3GB option が user process space を 3GB と決め打つのに対し、user process space を 2GB ~ 3GB の範囲で自由に設定できる点です。
なお、この option は /3GB option と同時に指定する必要があります。
Client OS の対応は Windows XP SP1 以降です。
ただ、bug があるので実際には SP2 以降ですね。
Server OS は Windows Server 2003 RTM から利用可能です。