ログストリーミング: Google BigQuery

Fastly のリアルタイムログストリーミング機能では、Google が管理するエンタープライズデータウェアハウスである BigQuery にログファイルを送信することができます。

前提条件

Fastly サービスのログエンドポイントとして BigQuery を追加する前に、以下が必要です。

• Google Cloud Platform (GCP) アカウントに登録します。
• Google のWebサイトでサービスアカウントを作成します。
• Google IAM サービスアカウントの権限借用やキーベースのアクセスを使用して、Fastly がログを送信するために使用するアクセスメソッドを設定します。
• BigQuery API を有効にします。
• BigQuery のデータセットを作成します。
• BigQuery テーブルを追加します。

サービスアカウントを作成する

Google Cloud Platform (GCP) は、Google Cloud リソースへのサードパーティのアプリケーション認証とロールベースのアクセスのためにサービスアカウントを使用します。新しいサービスアカウントを作成するには、Google Cloud のドキュメントの指示に従ってください。

サービスアカウントへのアクセスを設定する

Fastly は、BigQuery のテーブルにログを書き込む場合、アクセスを必要とします。Google IAM サービスアカウントの権限借用やキーベースのアクセスを使用して、Fastly が BigQuery にログを送信できるようにすることができます。

Google IAM サービスアカウントの権限借用の設定

Fastly でキーを保存するのを避けるために Google IAM サービスアカウントの権限を借用することを選択した場合、GCS をログエンドポイントとして追加する際に、サービスアカウント名とプロジェクト ID を指定する必要があります。サービスアカウント ID は、サービスアカウントのメールアドレスの @ の前にあり、プロジェクト ID が直後に続きます。例えば、サービスアカウントのメールアドレスが my-name@projectid.iam.gserviceaccount.com の場合、サービスアカウント ID は my-name で、プロジェクト ID は projectid です。Google IAM ロールの作成に関するガイドでは、この機能の設定について詳しく説明しています。

キーベースのアクセスの設定

キーベースのアクセスの使用を選択した場合、サービスアカウントの認証情報の生成に関する Google のガイドを参照してください。

キーベースのアクセスを設定する場合、JSON 形式を選択する必要があります。設定を保存すると、作成したばかりの GCS サービスアカウントの認証情報を含む JSON ファイルがコンピューターにダウンロードされます。テキストエディターでファイルを開き、private_key と client_email を記録しておきます。

BigQuery API を有効にする

Fastly のログを BigQuery テーブルに送信するには、Google Cloud Platform の API Manager で BigQuery API を有効にする必要があります。

BigQuery データセットを作成する

BigQuery API を有効化した後、以下の指示に従って BigQuery データセットを作成してください。

1. Cloud Console で BigQuery のページを開きます。
2. Explorer パネルで、データセットを作成するプロジェクトを選択します。
3. 詳細パネルで、Create Dataset をクリックします。
4. Dataset IDフィールドにデータセットの名前を入力します(例:fastly_bigquery )。
5. Create dataset をクリックします。

BigQuery テーブルを追加する

BigQuery データセットを作成した後、BigQuery テーブルを追加する必要があります。テーブルのスキーマを作成するには、4つの方法があります。

• BigQuery のコントロールパネルを使用してスキーマを編集する。
• BigQuery のコントロールパネルのテキストフィールドを使用する。
• 既存のテーブルを使用する。
• スキーマが自動的に検出されるようにテーブルを設定する。

BigQuery テーブルを追加するには、以下の手順に従ってください。

1. Cloud Console で BigQuery のページを開きます。

2. Explorer パネルでプロジェクトを展開し、前に作成した BigQuery データセットを選択します。

3. Source セクションの Create table from メニューから Empty table を選択します。

   

4. Table name フィールドにテーブルの名前を入力します (例: logs)。

5. BigQuery Webサイトの Schema セクションでインターフェイスを使用してフィールドを追加し、スキーマを完成させます。詳細についてはスキーマの例のセクションを確認してください。

6. Create Table をクリックします。

ログエンドポイントとして BigQuery を追加する

以下の手順に従って、BigQuery をログエンドポイントとして追加します。設定の一環として、機密情報の保存を回避するために、Google IAM ロールベースのサービスアカウントの偽装の設定を選択できます。この機能の詳細については、Google IAM ロールの作成ガイドをご覧ください。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18

{
  "timestamp": "%{strftime(\{"%Y-%m-%dT%H:%M:%S"\}, time.start)}V",
  "client_ip": "%{req.http.Fastly-Client-IP}V",
  "geo_country": "%{client.geo.country_name}V",
  "geo_city": "%{client.geo.city}V",
  "host": "%{if(req.http.Fastly-Orig-Host, req.http.Fastly-Orig-Host, req.http.Host)}V",
  "url": "%{json.escape(req.url)}V",
  "request_method": "%{json.escape(req.method)}V",
  "request_protocol": "%{json.escape(req.proto)}V",
  "request_referer": "%{json.escape(req.http.referer)}V",
  "request_user_agent": "%{json.escape(req.http.User-Agent)}V",
  "response_state": "%{json.escape(fastly_info.state)}V",
  "response_status": %{resp.status}V,
  "response_reason": %{if(resp.response, "%22"+json.escape(resp.response)+"%22", "null")}V,
  "response_body_size": %{resp.body_bytes_written}V,
  "fastly_server": "%{json.escape(server.identity)}V",
  "fastly_is_edge": %{if(fastly.ff.visits_this_service == 0, "true", "false")}V
}

timestamp:TIMESTAMP,client_ip:STRING,geo_country:STRING,geo_city:STRING,host:STRING,url:STRING,request_method:STRING,request_protocol:STRING,request_referer:STRING,request_user_agent:STRING,response_state:STRING,response_status:STRING,response_reason:STRING,response_body_size:STRING,fastly_server:STRING,fastly_is_edge:BOOLEAN