# SQLベースの変換
Workatoでは、独自のアプリケーションであるSQL TransformationsとSQL Collectionを使用して、データに対してSQLベースの変換を実行し、データベースコネクタと統合することができます。
# SQL Transformations
SQL Transformationsは、SQL(構造化クエリ言語)クエリを使用して大量のデータに変換を適用できる強力なツールです。
SQL Transformationsは、複数の異なるソースから抽出されたデータに対して、大量かつ複雑な変換を実行するためのツールを提供します。SQL Transformationsはストリーミング機構を使用して様々なソースからデータを取得します。これにより、簡単なSQLクエリを使用してデータを操作することができます。SQL TransformationはFileStorageとネイティブに統合されており、出力データをファイルとして保存し、ジョブや異なるレシピ間で使用することができます。
# サンプルレシピ:Salesforceのアカウントを抽出し、データを変換してSnowflakeにロードする(SQL Transformationsを使用)
このレシピは、Salesforceから新規または更新されたアカウントを抽出し、特定の金額未満のすべてのアカウントをフィルタリングし、フィルタリングされたレコードをSnowflakeのテーブルにロードします。
Salesforceからデータを抽出し、変換してSnowflakeにロード
# レシピのウォークスルー
Export new/updated accountsトリガーを使用して、Salesforceから新規/更新されたアカウントを一括でエクスポートします。
SQL TransformationsのQuery dataアクションを使用して、一括CSVデータをクエリします。データの変換を実行するためにカスタムSQLクエリを提供します。
Upload file to internal stageアクションを使用して、変換されたデータを直接Snowflakeの内部ステージに渡します。
ストリーミング
前述のすべてのレシピステップは、大量のデータをワークフロー内でストリーミングを使用して処理します。
# 特徴
SQL Transformationsは以下の操作をサポートします:
- 同じアクション内で複数のソースからデータをクエリ。
- 様々なバルクソースに接続して数百万のレコードを取得し、変換。
- クエリの実行と出力データセットの作成において高性能で、数秒で変換を完了。
- 結合や他のSQL関数を含む複雑なSELECTクエリを使用。
詳しくはSQL Transformationsをご覧ください。
# SQL Collection by Workato
SQL Collection by Workatoは、データをバッチで操作するためのツールを提供します。SQL Collectionを使用して、データベース、アプリケーション、ウェブサービスなど、複数のシステムにまたがる関連データを集計およびクエリすることができます。
SQL Collectionは、バッチインクリメントを使用し、低ボリュームの受信データに効果的なツールです。各ソースからのデータに対して(テーブルに似た)リストを作成するためにSQLコレクションを使用できます。次に、これらのソースにまたがるデータを操作するために、別のアクションでクエリを実行できます。
制限事項
WorkatoのSQL Collectionで作成したリストや関連するクエリの出力は、そのジョブの期間内でのみ存在し、ジョブ間や異なるレシピ間で使用することはできません。
# サンプルレシピ:SQL Collectionを使用してSalesforceのアカウントを抽出、変換、Snowflakeにロード
このレシピは、Salesforceから新規または更新されたアカウントを抽出し、特定の金額未満のすべてのアカウントをフィルタリングし、フィルタリングされたレコードをSnowflakeのテーブルにロードする方法を示します。
Salesforceのアカウントを抽出し、データを変換してSnowflakeにロード
# レシピのウォークスルー
SalesforceのバッチトリガーであるNew/updated accountsを使用して、Salesforceから新規/更新されたアカウントをバッチで取得します。
Create accounts listアクションを使用して、SQL Collectionsでアカウントレコードの配列のリストを作成します。
Query lists SQL Collectionsアクションを使用してSQLクエリを定義し、アカウントリストを操作します。
Upsert batch of rowsアクションを使用して、出力された配列をSnowflakeのテーブルにロードします。
詳しくはSQL Collection by Workatoをご覧ください。
Last updated: 2024/12/18 21:44:08