その前にまずビデオカードのメモリクロックとエンジンクロックを下げてみたらどうでしょうか？

安定するしない以前に、発熱するチップやCPUなどは
出来るだけ熱を逃がしてやった方が寿命が延びます。

更に精神的にも安心感がありますので、
私は逆にファンを付たくなるタイプですが・・・（＾＾；
ゴミレス失礼。

ファンレスにこだわるのなら、ビデオカードを変える前に、ケースの通気をよくする（通気のよいケースに買い換える）のが先決だと思います。

電源はどうなっていますか？
電源のFANは排気タイプと吸気タイプがあります
吸気タイプは元々吸い込んだ外気をCPUに当てて冷やす目的ですが、ケースの通気が悪いor小さいケースだと熱が逆にこもってしまい中の温度が上がります
ケースFANがないのであれば排気タイプにないと一寸つらいと思います
また電源容量に余裕がないと常に高負荷がかかった状態になりかなり発熱します
この場合、大容量の電源にして低負荷で駆動させたほうが結果として発熱も低くなります
なんにせよ、いまの時期で熱暴走するようではこれから夏場にかけて安定駆動は望むべくもないのでケースあたりから根本的に見直した方がいいと思います

皆さんレスありがとうございます。電源は２５０Ｗで小さいですが、シンプルな
構成のマシンなので容量は問題ない（多分）と思ってます。ケースファンは
排気タイプのものを使用しています。本当はケースを買い換えたいところなのですが
今のケースを結構見た目も含めて（笑）気に入っているので、もう暫く使うつもりです。
ちなみに、チップの温度は具体的にはわからないのですが、以前使用していたG200（SGRAM8MB）よりひどく発熱します（泣）。前にCeleronををバークロックした際
も同じだったのでその時に知り合いのXpert128を借りてみたのですが、こちらは
大丈夫でした。ひとまずは買い替え前にnaka-yuさんのかかれているように、
クロックダウンを試してみようと思います。

そんな事は無いと思いますが、ＣＰＵを変えた時にＡＧＰのクロックを
１／１から２／３にしてますよね？
してないとＡＧＰが１００になって発熱しますよ。