次の機能と Azure Databricks プラットフォームの機能強化が 2025 年 1 月にリリースされました。
注
リリースは段階的に行われます。 Azure Databricks アカウントの更新は、最初のリリース日から 1 週間以上行われないことがあります。
Azure Databricks の追加ポート
2025 年 1 月 31 日
ネットワーク セキュリティ グループでは、vnet インジェクションが有効なワークスペースから Azure Databricks サービスへの送信アクセスにポート 3306 と 8443-8451 が必要になりました。 ワークスペース のネットワーク セキュリティ グループ規則のを参照してください。
状態ストア リーダーが一般提供になりました
2025 年 1 月 31 日
Databricks Runtime 14.3 LTS 以降では、専用モードと非分離アクセスモードにおいて、構造化ストリーミングの状態データとメタデータに対するクエリのサポートが一般提供されるようになりました。 構造化ストリーミング状態情報の読み取りについては、を参照してください。
予測最適化をカタログ レベルまたはスキーマ レベルで有効にできるようになりました
2025 年 1 月 31 日
最初にアカウント レベルで有効にしなくても、カタログレベルまたはスキーマ レベルで予測最適化を有効にできるようになりました。 「Unity Catalog 管理テーブルの予測最適化」を参照してください。
大規模なテーブルの完全なデータセットのフィルター処理がサポートされるようになりました
2025 年 1 月 30 日
大きなテーブルの切り捨てられたデータ (出力が 2 MB を超えるか、10,000 行を超える) をフィルター処理する場合、データセット全体にフィルターを適用することを選択できるようになりました。 「結果のフィルター処理」を参照してください。
Meta Llama 3.1 405B モデル ファミリは、Foundation Model Fine-tuning で廃止されました
2025 年 1 月 30 日
Meta Llama 3.1 405B モデル ファミリは、Foundation Model Fine-tuning で廃止されました。 推奨される代替モデルについては、「廃止されたモデル」を参照してください。
Clean Rooms が一般提供になりました
2025 年 1 月 29 日
Azure Databricks Clean Rooms が一般公開されました。 「Azure Databricks Clean Rooms とは」を参照してください。
- 管理 API: 新しい API が導入され、クリーン ルームのセットアップ、オーケストレーション、監視が自動化されました。 クリーン ルームを参照してください。
- セルフ コラボレーション: 完全な展開の前に、1 つのメタストアにクリーン ルームを作成して、クリーン ルームをテストできるようになりました。 手順 2 参照してください。クリーン ルームを作成します。
- 出力テーブル: Azure にホストされている中央のクリーンルームが、 出力テーブルをサポートするようになりました。 以前は、AWS でホストされている中央のクリーン ルームでのみサポートされていました。 ただし、Databricks のコラボレーターは、AWS、Azure、Google Cloud の 3 つのクラウドすべてで、共有ノートブックの実行時に生成された出力テーブルを作成し、出力テーブルを読み取るノートブックを共有できます。 Google Cloud コラボレーターは、Clean Rooms プライベート プレビューの参加者である必要があります。 「Databricks Clean Rooms で出力テーブルを作成して操作する」を参照してください。
- HIPAA コンプライアンス: HIPAA コンプライアンス セキュリティ プロファイルを使用してクリーン ルームを作成できるようになりました。 手順 2 参照してください。クリーン ルームを作成します。
- フェデレーション共有 (プレビュー): 新しいクエリフェデレーション機能を利用して、すべてのデータをレプリケートまたは移行することなく、クラウドやデータ プラットフォーム間でパートナーとシームレスに共同作業を行います。 「Lakehouse フェデレーションとは何ですか?」を参照してください。
AI エージェント ツールを外部サービスに接続する (パブリック プレビュー)
2025 年 1 月 29 日
AI エージェント ツールは、Slack、Google カレンダー、または HTTP 要求を使用して API を使用して任意のサービスなどの外部アプリケーションに接続できるようになりました。 エージェントは、外部に接続されたツールを使用して、タスクの自動化、メッセージの送信、サードパーティプラットフォームからのデータの取得を行うことができます。 「AI エージェント ツールを外部サービスに接続する」を参照してください。
DLT では、複数のスキーマとカタログ内のテーブルへの発行がサポートされるようになりました
2025年1月27日~2025年2月5日
既定では、DLT で作成された新しいパイプラインでは、マテリアライズド ビューとストリーミング テーブルの作成と更新が複数のカタログとスキーマでサポートされるようになりました。
パイプライン構成の新しい既定の動作では、ユーザーがパイプラインの既定のスキーマになるターゲット スキーマを指定する必要があります。 LIVE
仮想スキーマと関連する構文は不要になりました。 詳細については、次を参照してください。
Databricks Runtime 16.2 (ベータ)
2025 年 1 月 27 日
Databricks Runtime 16.2 と Databricks Runtime 16.2 ML がベータ リリースとして利用できるようになりました。
Databricks Runtime 16.2 と Machine Learning 用の Databricks Runtime 16.2を参照してください。
コメントでメール通知と @メンションがサポートされるようになりました
2025 年 1 月 25 日
「@」と入力し、ユーザー名を入力して、ユーザーをコメントに直接メンションできるようになりました。 ユーザーには、関連するコメント アクティビティが電子メールで通知されます。 コードコメントを参照してください。
フォント サイズを調整するためのショートカット
2025 年 1 月 25 日
ショートカットを使用して、ノートブック、ファイル、および SQL エディターのフォント サイズをすばやく調整できるようになりました。 Windows/Linux の場合は Alt +
と Alt -
、macOS の場合は Opt +
と Opt -
を使用します。
エディターのフォント サイズを制御するための開発者設定もあります。 [設定] > [Developer] (開発者) > [Editor font size] (エディターのフォント サイズ) に移動し、フォント サイズを選択してください。
OAuth トークンフェデレーションがパブリック プレビューで利用できるようになりました
2025 年 1 月 24 日
OAuth トークンフェデレーションが、アカウント管理者向けのパブリック プレビューで使用できるようになりました。
Databricks OAuth トークンフェデレーションを使用すると、ID プロバイダー (IdP) のトークンを使用して Databricks API に安全にアクセスできます。 OAuth トークン フェデレーションにより、個人アクセス トークンや Databricks OAuth クライアント シークレットなどの Databricks シークレットを管理する必要がなくなります。
Databricks アカウント管理者がポリシーを変更しない限り、現在の ID の構成とアクセス許可は変更されません。 この機能は、アカウント全体または特定のサービス プリンシパルに適用できます。これにより、管理者は Databricks ワークスペース リソースへのアクセスを柔軟に管理できます。
Databricks OAuth トークン フェデレーションを使用してワークスペース リソースへのアクセスを承認する方法の詳細については、「OAuth トークン フェデレーションを使用して Azure Databricks へのアクセスを認証する」を参照してください。
注
Microsoft Azure ユーザーは、MS Entra トークンを使用して、Azure Databricks CLI コマンドと API 呼び出しを安全に使用することもできます。
カスタム Python AI エージェントで AI ゲートウェイとストリーミング出力がサポートされるようになりました
2025 年 1 月 24 日
Mosaic AI Agent Framework では、デプロイされたカスタム Python エージェントのストリーミング出力がサポートされるようになりました。これにより、エンド ユーザー エクスペリエンスと最初のトークンまでの時間が向上しました。
AI Gateway 推論テーブルがカスタム Python エージェントに対して自動的に有効になり、強化されたログ メタデータにアクセスできるようになりました。 コードでの AI エージェントの作成を参照してください。
ドラッグ アンド ドロップでワークスペース ファイルをインポートする
2025 年 1 月 24 日
ファイルとフォルダーをドラッグ アンド ドロップして、ワークスペースにインポートできるようになりました。 ドラッグ アンド ドロップは、プライマリ ファイル ブラウザー ページと、ノートブック、クエリ、ファイル エディターで使用できるワークスペース ファイル ブラウザーのサイド パネルで動作します。 ファイルをインポートする を参照してください。
Meta Llama 3.3 が、Foundation Model API を使用する AI Functions に対応するようになりました
2025 年 1 月 24 日
チャット タスクのために、Foundation Model API を使用する AI 関数が、Meta Llama 3.3 70B Instruct によって提供されるようになりました。
ノートブック出力の機能強化
2025 年 1 月 23 日
ノートブックの出力エクスペリエンスについて、次の機能強化が行われました。
- 「次のいずれか」によるフィルター処理: 結果テーブルで、次のいずれかを使用して列をフィルター処理し、フィルター対象の値を選択できるようになりました。 これを行うには、列の横にあるメニューをクリックし、[フィルター] をクリックします。 フィルター モーダルが開き、フィルターの条件を追加できます。 結果のフィルタリングについて詳しくは、結果のフィルターを参照してください。
- 結果テーブルの「形式を指定してコピー」: 結果テーブルを CSV、TSV、または Markdown としてコピーできるようになりました。 コピーするデータを選択し、右クリックして [ コピー先] を選択し、目的の形式を選択します。 結果はクリップボードにコピーされます。 「データをクリップボードにコピーする」を参照してください。
- ダウンロードの命名: セルの結果をダウンロードするとき、ダウンロード名がノートブック名に対応するようになりました。 「結果のダウンロード」を参照してください。
ノートブックの読み込み時間の短縮
2025 年 1 月 23 日
ノートブックを初めて開いたときの最初の読み込み時間が、99 セルのノートブックでは最大 26% 速くなり、10 セルのノートブックでは 6% 速くなりました。
ノートブックがワークスペース ファイルとしてサポートされるようになりました
2025 年 1 月 23 日
ノートブックは、Databricks Runtime 16.2 以降およびサーバーレス環境 2 以降のワークスペース ファイルとしてサポートされるようになりました。 他のファイルと同様に、プログラムでノートブックに対する書き込み、読み取り、削除を実行できるようになりました。 これにより、ワークスペース ファイルシステムを使用できる任意の場所からノートブックをプログラムで操作できます。 詳細については、「 プログラムによるファイルとディレクトリの作成、更新、および削除」を参照してください。
連続ジョブで失敗したタスクが自動的に再試行されるようになりました
2025 年 1 月 22 日
このリリースには、連続ジョブのエラー処理を改善する Databricks ジョブの更新が含まれています。 この変更により、タスクは連続ジョブで実行され、実行が失敗したときに自動的に再試行されます。 タスクの実行は、許容される再試行の最大数に達するまで、指数関数的に増加する遅延で再試行されます。 「連続ジョブのエラーはどのように処理されるか」を参照してください。.
ノートブック: Databricks アシスタントのチャット履歴は、開始したユーザーのみが使用可能
2025 年 1 月 22 日
ノートブックでは、Databricks アシスタントのチャット履歴は、チャットを開始したユーザーのみが使用できます。 アシスタントの信頼とセキュリティの詳細については、「 Databricks AI 機能の信頼と安全性」を参照してください。
統計の収集が予測最適化によって自動化されるようになりました
2025 年 1 月 22 日から 4 月 30 日
予測最適化が、Unity カタログのマネージド テーブルと自動メンテナンス ジョブへの書き込み中に、マネージド テーブルの統計を自動的に計算するようになりました。 「Unity Catalog 管理テーブルの予測最適化」を参照してください。
Databricks Marketplace と Partner Connect の UI の更新
2025 年 1 月 21 日
Partner Connect と Marketplace を 1 つの Marketplace リンクに結合することにより、サイドバーを簡略化しました。 新しい Marketplace リンクは、アクセスしやすくするためにサイドバーでこれまでより上方に配置されています。
EXPLAIN クエリ計画で使用された統計が表示されるようになりました
2025 年 1 月 20 日
Databricks Runtime 16.0 以降では、EXPLAIN
コマンドの出力には、不足している、部分的な、完全な統計を持つ参照先のテーブルが一覧表示されます。コマンドEXPLAIN
参照してください。
Databricks JDBC ドライバー 2.7.1
2025 年 1 月 16 日
Databricks JDBC ドライバー バージョン 2.7.1 を、JDBC ドライバーのダウンロード ページからダウンロードできるようになりました。
このリリースには、次の機能強化と新機能が含まれています。
- クライアントが既定の OAuth コールバック ポートをオーバーライドできる新しい
OAuthEnabledIPAddressRanges
プロパティが追加され、ネットワーク ポート制限がある環境で OAuth トークンを取得しやすくなりました。 - 更新トークンのサポートが利用できるようになりました。 これにより、ドライバーは、
Auth_RefreshToken
プロパティを使用して認証トークンを自動的に更新できます。 - 新しい
UseSystemTrustStore
プロパティでシステムの信頼されたストアを使用するためのサポートを追加しました。 有効にすると (UseSystemTrustStore=1
)、ドライバーは、システムの信頼されたストアからの証明書を使用して接続を確認します。 UseServerSSLConfigsForOAuthEndPoint
プロパティを追加しました。このプロパティを有効にすると、クライアントは OAuth エンドポイントのドライバーの SSL 構成を共有できるようになります。- 基本認証が既定で無効になりました。 再度有効にするには、
allowBasicAuthentication
プロパティを 1 に設定します。
このリリースでは、次の問題が解決されます。
- IBM JRE と矢印結果セットのシリアル化機能を使用するときの Unicode 文字が適切に処理されるようになりました。
- エラー コード 401 について、完全なエラー メッセージと原因が返されるようになりました。
- Cloud Fetch のダウンロード ハンドラーが、終了時に解放されるようになりました。
- DataSource クラスを使用して接続が作成されたときに、ハートビート スレッドがリークしなくなりました。
- ドライバー ログの潜在的な
OAuth2Secret
リークが解消されました。 - ドライバー ログのクエリ ID が欠落しなくなりました。
- OAuth トークン キャッシュを使用しても、タグの不一致のバグが発生しなくなりました。
このリリースには、脆弱性に対処するために、いくつかのサード パーティ製ライブラリへのアップグレードが含まれています。
- arrow-memory-core 17.0.0 (以前は 14.0.2)
- arrow-vector 17.0.0 (以前は 14.0.2)
- arrow-format 17.0.0 (以前は 14.0.2)
- arrow-memory-netty 17.0.0 (以前は 14.0.2)
- arrow-memory-unsafe 17.0.0 (以前は 14.0.2)
- commons-codec 1.17.0 (以前は 1.15)
- flatbuffers-java 24.3.25 (以前は 23.5.26)
- jackson-annotations-2.17.1 (以前は 2.16.0)
- jackson-core-2.17.1 (以前は 2.16.0)
- jackson-databind-2.17.1 (以前は 2.16.0)
- jackson-datatype-jsr310-2.17.1 (以前は 2.16.0)
- netty-buffer 4.1.115 (以前は 4.1.100)
- netty-common 4.1.115 (以前は 4.1.100)
完全な構成情報については、ドライバーのダウンロードパッケージに含まれている Databricks JDBC ドライバーガイド を参照してください。
Lakehouse フェデレーションが Teradata をサポート (パブリック プレビュー)
2025 年 1 月 15 日
Teradata によって管理されるデータに対して、フェデレーション クエリを実行できるようになりました。 「Teradata でフェデレーション クエリを実行する」を参照してください。
databricks-agents SDK 0.14.0 リリース: カスタム評価メトリック
2025 年 1 月 14 日
databricks-agents==0.14.0 では、Mosaic AI Agent Evaluation でカスタム メトリックがサポートされるようになりました。これにより、ユーザーは特定の生成型 AI ビジネス ユース ケースに合わせて調整された評価メトリックを定義できるようになりました。
このリリースでは、次のサポートも追加されます。
ChatAgent
ハーネスからのChatModel
とmlflow.evaluate(model_type='databricks-agent')
。mlflow.evaluate(model_type='databricks-agent')
CLI を使用した認証時の、Databricks ノートブックの外部からのdatabricks
の使用。- エージェント トレースでの入れ子になった
RETRIEVAL
スパンのサポート。 data
へのmlflow.evaluate()
引数としてのディクショナリの単純な配列のサポート。mlflow.evaluate()
を実行するときのより単純な標準出力。
AI ゲートウェイでプロビジョニング済みスループットがサポートされるようになりました (パブリック プレビュー)
2025 年 1 月 10 日
Mosaic AI ゲートウェイが、Model Serving エンドポイントで Foundation Model API によってプロビジョニングされたスループット ワークロードをサポートするようになりました。
プロビジョニングされたスループットを使用する Model Serving エンドポイントで、次のガバナンス機能と監視機能を有効にできるようになりました。
- アクセス権とレート制限。アクセス権を持つユーザーとアクセス権のレベルを制御します。
- ペイロード ログ。推論テーブルを使用してモデル API に送信されるデータを監視および監査します。
- 使用状況の追跡。システム テーブルを使用して、エンドポイントの運用上の使用状況と関連コストを監視します。
- AI ガードレール。要求と応答で不要なデータや安全でないデータを防止します。
- デプロイ中とその後の運用停止を最小限に抑えるためのトラフィック ルーティング。
Databricks Runtime 15.2 シリーズのサポート終了
2025 年 1 月 7 日
Databricks Runtime 15.2 と Databricks Runtime 15.2 for Machine Learning のサポートは、1 月 7 日に終了しました。 Databricks のサポート ライフサイクルを参照してください。
Databricks Runtime 15.3 シリーズのサポート終了
2025 年 1 月 7 日
Databricks Runtime 15.3 と Databricks Runtime 15.3 for Machine Learning のサポートは、1 月 7 日に終了しました。 Databricks のサポート ライフサイクルを参照してください。
Foundation Model Fine-tuning での Meta Llama 2、3 および Code Llama モデル ファミリの廃止
2025 年 1 月 7 日
次のモデル ファミリは廃止され、Foundation Model の微調整でサポートされなくなりました。 推奨される代替モデルについては、「廃止されたモデル」を参照してください。
- Meta-Llama-3
- Meta-Llama-2
- Code Llama