この手の話題は既に何回も出ているので、過去ログを御覧になるとよいでしょう。
　端的にいえば、かなりのところまでいけますが、最新のPC/AT互換機には勝てません。
　また、費用対効果は度外視することになります。

全く手をつけてないならまずはメモリ。
エンコード（ＭＰ３変換とか）みたいな処理ならＣＰＵ
全体の処理をあげるならＨＤＤ＋Ｉ／Ｆ
３Ｄを含めた画像ならＧＡ
って感じではないでしょうか？（下の項目ほど他を含めたＵＰグレードが必要）
１．は目的＆金額次第ですがある程度まではどうにでもなります。
２．は目的とする処理の負荷次第ですが買い換えした方が安くてよい結果が得られることが多いです
３．はサーバーの立て方、使い道にもよりますがとりたてて高い性能はいらないのでＬＡＮカード刺せば今からでも可能かと思います。

＞２．音楽や画像処理もやってみたい
やる処理のレベルにも依存すると思いますが
V166ですとメモリをMAXまで持っていっても128MBまでですので
やや苦しいかもしれません。

とりあえずまとめてみましたが、
実はPC-9821V166/S5modelDが流星か青札かも分からない人なので
間違いがあるかもしれません。

1.についてですが、処理速度を上げるにはハードウェア的に
a.より高速なCPUに載せ換える
b.メモリの増強
c.PCIバスをどう活用するか
を考えることになると思います。

a.
メルコの「HK6-MS400-N2」(K6-III400MHz)が動作保証している物では速いと思います。
保証が無くても良い場合は、「HK6-MS600P-NV4」(K6-III+E550MHz)になりますが
賭けになります。

b.
DIMMスロットに「16MbitCHIP使用の SDRAM64MB」 を1枚
SIMMスロットに 「72PIN EDO 32MB」 を2枚
計128MBが最大になります。
パリティ、ECCの有無は問いません。
「16MbitCHIP使用の SDRAM64MB」は「64MbitCHIP使用のSDRAM256MB」
で代用することが可能ですが、無保証になります。(しかも64MB分しか使えません)
実際認識に失敗したという報告がいくつかあがっています。
SIMMの方はノーブランド品でもほとんど問題にならないようです。
また、2001年5月現在、新品で流通しているSDRAMはほぼ全て
「64Mbit以上のCHIP使用のSDRAM」なので注意が必要です。

c.
PCI(のような)バスには、既に1本GAが挿さっていていますが、これは別のGAに交換することが
出来ます。保証のある現行品ではIODATA製の「GA-S2K32/PCI」があります。
GAはPC-9821対応品で無いと基本的には動作しません。
(一部例外的にWindows2000あるいはWindowsNT4.0上にてAT互換機用GAで動くものがあります。)

もう1本のPCIはHDDを接続するインターフェイスを準備するのが良いと思われます。
(理由はV166で現行のHDDの性能を生かすにはPCI接続のインターフェイス経由以外には無いため、
また、性能を生かさないにしても内蔵インターフェイス容量制限4.3GBがきついためです。)
これもPC-9821対応品で無いと基本的には動作しません。
(メルコとIODATAの物の多くは対応しています)

選択のポイントはSCSI機器(内蔵,外付け)を使うかどうかになると思います。
IDEの大容量内蔵用HDDを使うのでしたら

IODATA
UIDE-66　IDE専用4デバイスまで(高速)

メルコ
IFC-USP-M2　UltraSCSIだがIDE機器を2台まで接続可能(やや遅い)

各種UltraWideSCSIボード+AEC-7200UW　
IDEHDDを接続できるが1デバイスに付きAEC-7200UWがひとつ必要
(比較的高速)

あたりになると思います。
2台以上HDDを内蔵する場合は増設用金具が必要になります。

ここまでやると結構快適になると思いますが、
安く押さえられても6万以上はかかるのが難です。

>ここまでやると結構快適になると思いますが、
>安く押さえられても6万以上はかかるのが難です。

muineさんのおっしゃる通り、かなりの金額になります。ただ、１年分の食事を１時間で食べる人はいませんよね？ゆっくりメモリあたりから時間をかけてやっていくといいと思います。http://members.tripod.co.jp/alphonse/
などで、タダでできるソフトによるパワーアップなどがありますので参考になると思います。