Windows XP および Windows Server 2003 の Boot.ini ファイルで使用可能なスイッチオプション

http://support.microsoft.com/kb/833721/ja/

/3GB
このスイッチにより、x86-based システムで、3 GB の仮想アドレス領域がプログラムに、1 GB の仮想アドレス領域がカーネルと Executive コンポーネントに割り当てられます。プログラムは、追加のメモリアドレス領域を活用できるように設計されている必要があります。このスイッチを使用すると、ユーザーモードプログラムは、Windows が通常ユーザーモードプログラムに割り当てる 2GB ではなく、3GB のメモリにアクセスすることができます。このスイッチによりカーネルメモリの開始位置は 3GB に移動します。Microsoft Exchange Server 2003 および Microsoft Windows Server 2003 の一部の構成では、このスイッチが必須になる場合があります。

/3GがJavaVMの最大ヒープと関係あるのかどうかわからん・・・
実際にセットして試してみます。