音量自体は変更できます、ですがマイク音量は50にしても声を出すと100になったりと変動してしまう状況です。
貼っていただいたスクリーンショットの音量バーもマイクのプロパティから調整するバーも声を出すと変わってしまいます。
何が起きているのかが理解できました。始めて聞く状況です。AGCでは無く、何らかの外部からの制御が働いている様に見えます。また、通話ソフトの件もありがとうございます。Discordでは問題が無いとすればやはり、ハングアウトが疑われます。
それで検索してみたところ、ハングアウトが勝手にボリュームを上げて困るという質問があちこちで見つかりました。私はGoogleのツールやChrome等を使わないこともあり、詳細を理解出来ませんが「ハングアウト ツールボックス」か、または「ハングアウト Chrome 拡張機能」という様なものをインストールすることで、ハングアウトのボリューム制御が出来る様になるらしいです。試してみてはいかがでしょう。また次の様なメッセージも見つけましたので、合わせて載せます。
従来のハングアウトは Google Chat に置き換えられます。Google Chat をご利用の場合は、Google Chat ヘルプセンターをご覧ください。