特定のモニターに繋げる際の、RGBケーブルに問題がある可能性が考えられるのでしょうか。
RGBケーブルからHDMIへの変換プラグという記述が、モニター側にどっちを接続しているのかが不明で、
なおかつどの様な型式のモニターなのかはわかりませんが、ケーブルが原因ということは考えられます。
どの様な型式のモニターなのかはわかりませんが、かなり古いモニターやモニター側の故障の場合は、ケーブルが原因では無い場合も考えられます。
どの様な型式のグラフィックコントローラーなのかはわかりませんが、Windowsの設定の問題、グラフィックコントローラーとモニターのそれぞれの設定の問題(相性問題)であれば、**ケーブルが原因では無い場合も考えられます。**実際にその様な組み合わせで、苦労して組み合わせパターンを調整して適切な画質・表示でWindows 11を動作させています。
もしその場合、ケーブルを交換する以外に対処法はありますか?
ケーブルを交換する以外という事であれば、モニターを交換することと、グラフィックコントローラーを交換する方法が考えられます。PC本体の交換はほとんど意味がないでしょう。