責任ある生成 AI ソリューションを運用する
潜在的な危害を特定し、その有無を測定する方法を開発し、ソリューションに危害の軽減策を実装したら、ソリューションをリリースする準備を行うことができます。 その前に、リリースとその後の運用を確実に成功させるために役立つ考慮事項がいくつかあります。
リリース前レビューを完了する
生成 AI ソリューションをリリースする前に、組織と業界のさまざまなコンプライアンス要件を特定し、適切なチームがシステムとそのドキュメントをレビューする機会を確保します。 一般的なコンプライアンス レビューには、次のものが含まれます。
- 法的情報
- プライバシー
- Security
- ユーザー補助
ソリューションをリリースして運用する
リリースを成功させるには、何らかの計画と準備が必要です。 次のガイドラインを考慮してください。
- 最初に、制限されたユーザー グループにソリューションをリリースできるようにする "段階的な配信計画" を考案します。 このアプローチを使用すると、より広範囲の対象ユーザーにリリースする前に、フィードバックを収集し、問題を特定できます。
- 予期しないインシデントへの対応にかかる推定時間を含む "インシデント対応計画" を作成します。
- インシデントが発生した場合にソリューションを以前の状態に戻す手順を定義する "ロールバック計画" を作成します。
- 有害なシステム応答が検出された場合にそれを即座にブロックする機能を実装します。
- システムの誤用が発生した場合に特定のユーザー、アプリケーション、またはクライアント IP アドレスをブロックする機能を実装します。
- ユーザーがフィードバックを提供したり、問題を報告したりするための方法を実装します。 特に、生成されたコンテンツを "不正確"、"不完全"、"有害"、"不快"、またはその他の問題として報告できるようにします。
- テレメトリ データを追跡します。これにより、ユーザーの満足度を判断し、機能上のギャップや使いやすさの課題を特定できます。 収集されるテレメトリは、プライバシーに関する法律と、ユーザーのプライバシーに対する組織独自のポリシーおよびコミットメントに準拠している必要があります。