更新プログラム側の不具合や、広く使われているソフトウェア(ドライバーにせよアプリケーションにせよ)との非互換の問題であれば、ここのようなフォーラムや SNS などで問題情報が多く出回るのですが、質問されている現象は今のところそのような報告が見られないので、やはり何らかの環境依存の可能性が高いと考えるべきでしょう。
一時的な対処としては KB5068861 をインストールしない(アンインストールする)ことになるかと思いますが、セキュリティ更新を含んでいるのでいつまでもインストールせずに済ませる訳にはいかないでしょう。現実的には今月末のプレビューの更新か、来月の月例セキュリテイ更新まで待って、それを適用して同じ現象が発生するか確認してみてください。
これでも発生する場合、根本的な対処には専門的な診断やトラブルシューティングが必要になると思いますので、しかるべき IT ベンダーに相談されることをお勧めします。