今まさにデータのコピー中とかで無い限り外して問題はありません。
私自身10年くらいはUSBメモリを取り外しに関して何か気にしたことも無く、問題が出たことも有りません。
参考情報
FMV Q&A - [Windows 11] USBメモリやSDカードを安全に取り外す方法を教えてください。 - FMVサポート : 富士通パソコン
Windows 11は、「ハードウェアの安全な取り外し」を使わないでUSBメモリを取り外せるように既定で設定されています。
なお、USBメモリはデータをやり取りしていないことを確認してから、取り外してください。