他のBBSを参考に画質の転送レートをいじってみました。

元のままだと
画質調整ユーティリティー」で調整
左から動き優先右画質優先の4段階（デフォルト：高画質・・右側）
3、4、5、6 Mbit/s　の設定です。（録画ファイル容量で計算）
2分（120秒）録画のファイル容量
46.8、61.4、75.8、90.4 MB
録画ファイル容量で計算）
＃SmartVision-TV起動前に設定しないといけません。

レジストリをいじると
HKEY_CURRENT_USER_Software_NEC_BitcastVBI_BctnUSB_iVAC
にVideoBitRateの項目があります。
1200 1600 2000 2400
それぞれ3、4、5、6Mbit/sで対応しているようです。

3000/7.5Mbit、3200/8Mbit 設定時の2分（120秒）録画のファイル容量
112 119 MB

どうやらUSBの転送能力の限界かハードの限界のため映像の転送レートは7.5Mbit/sが限界のようです。

使用機種 V200M7C（流れ星）＋ HK6-MS500-N4
Processor AMD K6 466.0MHz [AuthenticAMD family 5 model 9 step 1]
Display GA-VDB16シリーズ
OS Windows98＋SP1及びWindows98SE
本体USB、MGA1064SG/4MB、GA-VDB16、SC-UPU2をIRQ 9に共有