チャブーンです。
この件ですが、以下の状況から
残念ながら「メモリ不足」のエラーは何も表示されませんでした。状況は、カメラで画像をとり続けていくと、OSのキャッシュと思われるところが増えていきます(PerfMonツールを使用したところ、__Memory Committed Byttes__が急角度で右肩上がりしていました。)。そしてある時点(瞬間は見ていません)でカメラが未接続となり空きメモリが増加していました。(確認した時の状況です)。
他の方のコメント通り、プログラムのメモリ管理に問題があることは明らかです。アプリケーションのコード修正を強くお奨めします。もしC#で作っているというのであれば、こういった一般的な確認事項もありますので、参考にしてください。
なにがなんでもコードは変えたくないという場合ですが、RAMMapを使うという方法はあり得るでしょう。Sysinternalが提供しているメモリツールで、メモリ解放を含む監視や調整ができるツールです。メモリ解放がコマンドで可能なことを確認して、Windowsタスクで定期実行するといった建付けになるでしょう。入手方法や使い方はネットで検索いただくといいと思いますが。例えば以下のようなページもありますね。