こんにちは　moonさん。
この場合、VRAMの容量で解像度及び色数のMAXが決定します。
例えば1024x768の32bitで表示したければ、その式は
1024x768x32÷8(8bitで1B)=3,145,728BとなりVRAM容量は最低3.2MB必要、ということになりますので、
市販されている4BM以上積んだグラフィックアクセラレーターを装着するか、
「内蔵VRAMがそれを満たしている」というのが条件になります。
逆算すれば今のVRAMに対してどうか？が算出できます。

ただ、ディスプレイの対応も考慮しなければなりません。(1024x768までの物が多いです)

S3社「Vision864」チップ搭載モデルは、”DirectX5以降”をインストール後レジストリを弄る事により、色々解像度を増やせますヨ！
但し、VRAM容量以上の解像度は、当然出せません。依って、「Truecolorで1024*768」はチョット・・・(汗)（その場合は、あきんどさんがアドバイスされてる様、GAボードを付けるしかありませんが・・・所詮「Cバス」なので、お勧めし難いです。）
そこで、出来るだけ「内蔵GA」を活かす、と言う方向で・・・
只、此処で詳細を書くとなると、”スペース”が・・・(^_^;)
で、コチラのサイトが参考になるかと。

http://www.asahi-net.or.jp/%7Etw5h-swd/
（ゆうくんのほおむぺいじ）

但し、元来の「サポート外」の改造(?)行為なので、あきんどさんも言われてますが、「モニター」をも考慮しなければなりません。
具体的には、「各種調整機能」付きのモニターの方が宜しいかと。
（特に、”横幅調整”の付いた物。「サポート外」故か、”レジストリを弄って解像度増大”の場合、何故か「表示位置が横にずれる」場合が多いです・・・(ToT)）

Vision864の解像度増やしですが、16bitColorの各解像度はリフレッシュレート
が75Hz固定になりますのでご注意を。

あっ、そうそう！書くのを忘れてましたっ！＜Xner-Eさん
・・・スイマセン。嘘です・・・。(^o^;;;)（単に、知らなかっただけ・・・(>_<)）

みなさん、返答ありがとうございます
こちらのモニターはiiyamaのhallo△之身�MF-8617Eを使っております
さて、DirectX5とはどこで入手するんでしょうか？
購入とゆう形でよろしいんでしょうか？
なんせ、素人に毛が生えた程度なので詳しくはないもので・・(^^ゞ
とりあえず、こちらの希望としては、今持っている画像管理ソフトが
綺麗に表示できればいいんですが・・・(^^ゞ
綺麗に表示できないので、これはディスプレイ関係じゃないかと
疑ったしだいでして・・・・
また、よろしくおねがいします

えーと、「DirectX」は”無償”で入手出来ますヨ！（”有償バージョン”って有りましたっけ？）MSサイトからDLされるも良し（只、「Ver.5」はもう無いカモ・・・勿論、「Ver.6」でも何ら問題は有りません）、ちょっと古めの雑誌の「付録」を探されるのも良し・・・。
因みに私は、Bit-innにてタダで入手しました。(^o^)v（「BIGLOBE」の案内（宣伝？）の為の、CD-ROMです。これには、他にも色々アプリが入っているので、定期的に(笑)パクってきますねぇ・・・(^o^;)）
只、

＞今持っている画像管理ソフトが綺麗に表示できればいいんですが
う～ん・・・「Vision864」ではちょっと荷が重いかもしれません・・・(^_^;)
速さ・画質とも”定評”の有るチップ（無論、”当時としては”）ですが、「レジストリを弄って解像度増大」の場合、結構不具合の出る解像度が有ります。
具体的に、
１、「800*600 24(32)bit」＝まともに映らない可能性”大”！（「24(32)bit」は、どちらだったか失念！）
２、「800*600 16bit」＝ほとんどのロットで使用可能だが、中にはゴミ（ノイズ）が出る場合有り！
・・・などです。
（因みにウチには、「Vision864搭載機」が６台有るんですが(爆)、”１”の症状(?)は全機種当てはまります・・・(号泣)）

只・・・ここまでアドバイスしてきて何なんですが、”買い替え”という手も有りかと・・・(汗)（「Xn」自体、かなり”クセの強い”マシンだと聞き及んでいますので・・・）
って、これでは”あんまり”ですね・・・。(^_^;)
で、私が実際使った事の有る「Cバス用GAボード」の内、お勧めの一品を。
※Canopus製『PowerWindow928II/CB』
これ、マジでお勧め出来るッス！v(^o^)v
速さは「内蔵Vision864」と同程度、画質は「流石かのぷー」って感じです。（ちょっと「値が張る」かも、知れませんが・・・）
ふぅ～・・・。ちょっと疲れてきたので(^o^;)、この辺でご勘弁を・・・。