上記文書のどこにWindowsが介在するのだろう？という素朴な疑問はおいておき、

1.AT互換機で使用しているのはWin環境下? FreeBSD下?
2.COMは、1か2のどちらに接続しているか?
3.そもそも、COMが使用できるようになっているか?(セットアップで殺してないか)

という辺りから調べて見られては?

>上記文書のどこにWindowsが介在するのだろう？という素朴な疑問はおいておき、
　いや、TOPの入り口に、
>PC‐98上で動作するOS、ソフトウェアの事ならこちらへ！
　と書いてありますが……。

AT互換機でモデムの初期化が成功ってのはどうやって確認したんですか?
エラーはいつ出るんですか?
まぁとりあえず、
# ppp
ppp>set device /dev/cuaa0(COM2ならcuaa1)
ppp>term
ATZ
でOKが返ります?

＞癖の強いモデムを・・・
本当に癖が強いかどぅかは 置いといて、以前 外付けモデムやＴＡ(DSU内蔵)、ルータ等をシリアル接続で使おうとすると必ずと言ってよいほどハマった経験から一言・・・
「ちゃんとしたケーブルを使ってますか？」(ぉ)
かなり 大雑把な言い方ですが 当方がハマった経験から[25-9pin]変換コネクタを噛ませたり、安物の[25-9pin]ケーブル等を使うと接続認識において蹴られるという事が多発しました(何故か窓9xでは使える)。
その解決手段としてケーブルの変換図式(接続図)がちゃんと提示されていて[Windows専用]といった文字が書かれて無い"ちょっと高めのシリアルケーブル"を買ってきて付け替えると あつさり解決してきました。この解決手段は全てにおいて有効とは断言できませんが少なくとも問題の切り分けを可能にする一手段であると思います。
あと個人的に、25pinを前提とした本体に接続する場合、減らされたpinに流れてた情報を必要としている可能性がある事を無視して「癖が強い」と言ってしまうのはどぅかと・・・自分も良く"こいつ癖が強いなぁ"と思ってしまいますが、解決してみると、本当に癖が強かったのは「可能性を無視した自分だったんだ」と過去何度も悔やんでる事が多いです(未だに精進が足りない証拠)
まずは「基本を忠実に守る」を遵守して再度 確認をしてみてはどぅでしょう？

＞"MODEM IS WEDGED"というエラーが出ます。
これをweb翻訳(Mendez)にかけたら"MODEMはくさびを打ち込まれます"となりました＞ゴミかも

"MODEM IS WEDGED"なんだから、「モデムが割り込み中です」と訳すといいかも。
たぶん何かの信号レベルが上がってるか下がってるかでACKを返さないといってるん
だろうから、COMの初期化失敗を疑うべき。というより接続されている信号線が足り
ないのかも。