とりゅふの森

GCPデータエンジニアとして生きる

GCP

Cloud Functionsで処理したデータをCloud Firestoreに保存する

おはようございます、今日はGCPのサーバレスサービス、Cloud Functionsと、NoSQLサーバレス、Cloud Firestoreを用いたアプリケーションを作ってみます。 Cloud Functions、Cloud Firestoreについてはそれぞれ以下の記事でもどうぞ。 www.true-fly.com www.tr…

【超入門】Cloud FirestoreをPythonで操作する

前回はGCPのNoSQLサービス、Cloud Firestoreの使い始め、GUIでの操作方法をについてご紹介しました。 www.true-fly.com 本日のテーマはこちら! GCPのNoSQLサービス、Cloud FirestoreをPythonで操作してみよう 今回はプログラムからCloud Firestoreのデータ…

【超入門】GCPのNoSQL、Cloud Firestoreを使ってみる

前回の記事で、NoSQLについてご紹介しました。 www.true-fly.com 今日はその中でも、ドキュメント指向データベースである、GCPのCloud Firestoreについてご紹介します! GCPのNoSQL、Cloud Firestoreを使ってみよう! GCPにもBigTableやCloudSQL、Cloud Span…

【Cloud Functions】Cloud Schedulerを使って、サーバレス関数をスケジュール実行する【FaaS】

おはようございます!今回は前回に引き続き、GCPのサーバレスサービスCloud Functionsを使って生きます! www.true-fly.com 前回はHTTPリクエストで呼び出す方法についてご紹介しましたが、今回のテーマはこちら! GCPのサーバレスサービス、Google Cloud Fu…

【Google Cloud Functions】Pythonでサーバレスサービスに入門してみる【FaaS】

プログラムを外部に公開する時、必ず必要なものって何でしょうか? そう、実行環境、つまりはサーバーです! しかし、サーバを用意しなくてもプログラムを実行する環境を、GCPやAWSなどのパブリッククラウドサービスは提供してくれます。それがサーバレスサ…

【BigQuery】GCPのリリースノートを公開データセットから取得してみる

2021/8/13に、GCPのリリースノートが、BigQueryの公開データセットに追加されました。 bigquery-public-data:google_cloud_release_notes.release_notes というテーブルです。 通常のリリースノートは、プロダクト別にページが存在しますが、このテーブルで…

【Google Analytics4】イベントデータをBigQueryに連携する

こんにちは、今回は当ブログで利用している、Google Analytics4のデータを、Google BigQueryに連携してみたので、その手順についてまとめました。 ほんの5分程度、画面上で設定をするだけで、Google Analytics4のデータをBigQueryのSQLを使って集計、分析が…

【BigQuery】2021.7.27にPreview公開されたINTERVAL型を試してみる

BigQueryの2021.7.27のリリースノートで、INTERVAL型というものがPreview公開されたらしいので試してみました。 Release notes | BigQuery | Google Cloud Intervalというと間隔という意味ですが、ここではどのように使われるのか、実際にSQLを実行しながら…

【BigQuery】QUALIFYフィルタリングを試してみた

こんにちは、BigQueryで好きな関数、RANK() OVER(PARTITION BY A ORDER BY B)のとりゅふです。 BigQueryでデータ分析といえば、やっぱりWindow関数ですよね。 このWindow関数、今まではSELECT句にしか書けなかったのですが、2021年5月10日にプレビューリリー…

【BigQuery】PIVOT/UNPIVOT演算子を試してみた

2021年7月19日のリリースでGAとなった、PIVOT/UNPIVOT演算子を試しました! cloud.google.com Excelやスプレッドシートで馴染み深いピボットですが、BigQueryには従来は この機能はなかったので、ピボットテーブルを作るときは、クエリの結果をPythonのpanda…

2020年12月14日のGoogle大規模障害とクラウドの利用について考える

2020年12月14日20時頃、いつものようにYouTubeを見て、Gmailをチェックし、個人のGCPのプロジェクトをいじって遊んでいた時、Twitterのタイムラインで「YouTube落ちた?」とのツイートが大量に流れてきた。 「え、見れてるよ」構わず視聴を続けた僕だったが…

【BigQuery入門】SQLで一般公開データを抽出する

2020年も終わりが見えてきたので、そろそろGoogleが誇る最強のデータウェアハウス、BigQueryを触ってみませんか? GCP、AWS、Azureを始めとしたパブリッククラウドを始め、様々なクラウドサービスが行き交うクラウド戦国時代の今日、 政府もクラウド型システ…

【Eclipse Theia】GCP上でクラウド統合開発環境を使ってみる

GCP

Eclipse Theiaは、ポピュラーな統合開発環境であるVisual Studio Codeをベースに、デスクトップやWeb上で動く、オープンソース統合開発環境です。今日はこのEclipse Theiaが使える、Gitpod、Google Cloud Shell2つのクラウド開発環境について紹介します。