青の統計学-DS Playground-

データのライフサイクル:生成から廃棄まで

Stage 1 — 第3章 | データマネジメント入門 推定学習時間:35〜45分 | 難易度:★★☆☆☆


この章で学ぶこと

データマネジメントは、ダッシュボードや SQL の話だけではありません。 データには 生まれてから消えるまで の流れがあり、各段階で守るべきことが変わります。

さくら商事では、分析用データは増え続けました。 一方で 退職者の個人コピー、テスト注文の残存、使われなくなった CSV が残り、信頼を少しずつ削っていきました。

この章では、データライフサイクル(Data Lifecycle)を全体像として押さえ、Stage 2 以降の用語(品質、メタデータ、ガバナンス)が どの段階の話か を見分けられるようにします。

この章を終えると、こんなことができるようになります:

  • 生成・保存・加工・活用・廃棄の各段階で起きやすい問題を説明できる
  • 「分析前」だけでなく 取込時・保存時・公開時・廃棄時 に確認すべきことを挙げられる
  • テストデータや個人コピーが残ると何が危ないか説明できる
  • 次章の DAMA-DMBOK(DAMA Data Management Body of Knowledge)地図を読む準備ができる

1. ライフサイクルは「データの一生」

データマネジメントの文献や行政ガイドラインでは、データを 一度作って終わり ではなく、業務とともに変化する資産として扱います。

ざっくり次の 5 段階で考えると、現場の議論が整理しやすくなります。

段階 何が起きるか さくら商事の例
生成(Create / Capture) 業務・システム・外部 SaaS からデータが生まれる EC 注文、広告ログ、CS 問い合わせ
保存(Store) DB、DWH、ファイル、個人 PC に残る BigQuery、S3、佐藤さんの Excel
加工(Process / Transform) クレンジング、結合、集計、指標化 返品反映 SQL、月次マート
活用(Use / Share) 分析、会議、API、外部共有 経営会議、Looker、委託先レポート
廃棄(Archive / Delete) 保持期限後の削除・匿名化 退職者アカウント、古い CSV

次の図は、以降のカリキュラム全体の“背骨”になります。 新しい用語が出てきたら、まずどの段階の話かを当てはめてください。

flowchart LR accTitle: データの生成・保存・加工・活用・廃棄の5段階を矢印で示し、廃棄忘れに警告を付けた図 accDescr: データマネジメントは「分析」の前後だけでなく、生成と廃棄まで含めて設計する。 A["生成
Capture"] B["保存
Store"] C["加工
Transform"] D["活用
Use"] E["廃棄
Delete"] A --> B --> C --> D --> E W["⚠ 退職者コピー
テストデータ残存"] E -.-> W classDef stage fill:#eff6ff,stroke:#2563eb,color:#1f2937 classDef warn fill:#fef2f2,stroke:#dc2626,color:#1f2937 class A,B,C,D stage class E fill:#fff7ed,stroke:#f97316,color:#1f2937 class W warn

特に見落とされやすいのが 廃棄 です。 増やすことばかり考えると、古い定義・個人コピー・テストデータが残り続けます。


2. 生成:最初の 1 行に未来が宿る

2.1 生成段階で決まること

データは 最初に記録された形 によって、後工程の苦労が大きく変わります。

生成時の選択 後工程への影響
注文ステータスを英語コードで統一 集計・説明がしやすい
テスト注文を本番 DB に混在 売上・CVR が汚れる
広告 ID を手入力 名寄せ地獄、品質低下
個人情報を不要に広く取る 権限・コンプライアンス負荷

さくら商事では、EC 改版時に 旧ステータス paid と新ステータス completed が混在 しました。 鈴木さんは SQL で両方を 完了扱い に寄せましたが、生成時点の設計変更記録 がなく、半年後に誰も説明できなくなりました。

-- 暫定対応の例(説明責任は別途必要)
          SELECT
            CASE
              WHEN status IN ('completed', 'paid') THEN 'completed'
              ELSE status
            END AS normalized_status,
            total_amount
          FROM orders;
          

現場メモ

「SQL でなんとかなる」は 加工段階の応急処置 です。 生成段階で ステータス一覧と意味 が文書化されていれば、暫定 CASE 式は不要に近づきます。

2.2 外部 SaaS からの取込

広告、物流、決済、CS ツールなど、生成元が社外にあるデータも増えています。

論点 さくら商事の例
いつ時点のデータか 広告 CSV は前日締め、注文 DB はリアルタイム
再取得できるか 欠損時に SaaS から取り直せるか
スキーマ変更 列追加を誰が監視するか

取込は 生成の延長 です。ここを無視すると、Stage 4 の品質問題につながります。


3. 保存:増やすほど“正本”が必要

3.1 保存場所が増えると SSOT が崩れる

前章までの「売上 3 通り」は、保存段階の問題でもあります。

保存場所 さくら商事での状態 リスク
本番 OLTP DB 注文の正本 分析クエリで負荷
DWH(BigQuery) 分析用コピー 定義が複数版
個人 Excel 経理・マーケ各自 更新タイミング不明
退職者 PC 内 CSV 残存事例あり 説明不能・漏えい

SSOT(Single Source of Truth)は 保存戦略 です。 「どこに正本があるか」を決めない限り、加工段階でいくら整えても複数の“正”が残ります。

3.2 バックアップと分析用コピーの違い

種類 目的 注意
バックアップ 障害復旧 分析定義の正本とは限らない
分析用コピー 集計・JOIN 鮮度と変換ルールを明示
個人エクスポート その人の作業用 組織の SSOT ではない

よくある勘違い

「バックアップがあるからデータは大丈夫」≠「会議で使う数字が説明できる」。 さくら商事の経営会議に必要なのは 復旧可能 ではなく 定義可能 な保存です。


4. 加工:信頼はここで作られるが、ここだけでは足りない

加工段階は、アナリティクスエンジニアリング(Analytics Engineering)の中心です。 data-analytics-fundamentals で学ぶ SQL 集計、マート、品質チェックの多くはこの段階です。

加工の仕事
クレンジング NULL、重複、型変換
名寄せ 顧客 ID、商品コード
指標化 月次売上、CVR
品質テスト 重複検知、閾値チェック

さくら商事で返品反映を忘れた SQL があると、加工段階のバグ として売上がズレます。 ただし、そもそも「返品を含めるか」が未決なら、加工以前の 定義・オーナー 問題です(前章)。

-- 返品テーブルがある場合のイメージ(定義合意後)
          SELECT
            o.order_id,
            o.total_amount - COALESCE(r.refund_amount, 0) AS net_sales
          FROM orders AS o
          LEFT JOIN refunds AS r
            ON o.order_id = r.order_id
          WHERE o.status = 'completed';
          

加工段階の鉄則:

  1. 入力の定義 が決まっている
  2. 変換ルール が文書化されている
  3. 出力が SSOT 候補か が明示されている

5. 活用:数字が“意思決定”に触れる瞬間

活用段階で初めて、データは 組織の行動 に影響します。

活用の形 さくら商事の例 データマネジメント上の論点
経営会議 月次売上 SSOT、オーナー、説明責任
現場ダッシュボード マーケ CV 定義の共有、更新頻度
外部共有 委託先レポート 権限、匿名化、利用目的
API / 自動配信 在庫連携 障害時の停止判断

5.1 活用段階の典型事故

公開してから「定義が違う」と気づく

経営会議で公式売上を発表した翌日、経理から「返品の扱いが違う」と指摘。 活用の前にオーナー合意がなかった 典型例です。

古い数字を見続ける

Looker ダッシュボードがキャッシュされ、パイプライン修正後も 3 日間古い数字が表示。 鮮度(Timeliness) は活用段階で初めて問題化します(Stage 4 で詳述)。

現場メモ

木村さんは「数字を出す」ことと「数字で決める」ことを同時にやろうとして、会議が混乱しました。 活用段階では “使ってよい状態”のチェックリスト があると安全です(Stage 4 の分析前チェックリストへ)。


6. 廃棄:最も軽視され、最も長く害を出す

6.1 廃棄しないと何が起きるか

残り続けるもの 結果
テスト顧客・テスト注文 売上・CVR が汚染
退職者の DB アカウント 不正アクセスリスク
旧定義の Excel 「どっちが正?」が復活
不要な個人情報 コンプライアンスリスク

さくら商事では、半年前有識者が退職した際、個人 Google Drive に顧客 CSV が残っていることが監査で判明しました。 ファイル自体は「使っていない」ものの、廃棄設計がなかった ことが問題視されました。

6.2 廃棄設計で決めること

項目
保持期間 生ログ 90 日、集計表 7 年 など
削除 vs 匿名化 分析用は匿名化、生データは削除
アカウント停止 退職当日に権限剥奪
テストデータの分離 本番分析から常に除外

廃棄は 悲しい話 ではなく、信頼を守る話 です。 古い定義や不要データが残るほど、SSOT は薄れます。


7. ライフサイクル × ロール(Stage 1 総まとめ)

前 2 章と合わせて、さくら商事の論点を配置し直します。

段階 さくら商事の困りごと 関わるロール 次 Stage で深掘りする論点
生成 ステータス混在、SaaS 欠損 DE、スチュワード メタデータ、リネージ
保存 Excel 乱立、個人コピー オーナー、ガバナンス SSOT、DWH/マート
加工 返品反映漏れ、暫定 SQL AE/DE 品質テスト、マート設計
活用 会議で説明不能 オーナー、アナリスト 指標定義、BI
廃棄 退職者 CSV、テスト注文 ガバナンス、DPO 権限、保持期間
Stage 1 の到達点:
          「SQL が書ける」→「データの一生のどこに問題があるか言える」
          

8. Stage 2 への扉

Stage 1 では 症状・ロール・ライフサイクル を押さえました。 Stage 2 からは、用語の地図(DAMA-DMBOK)、SSOT、オントロジー(Ontology)、メタデータ(Metadata)と、より 設計判断 に入ります。

その前に確認しておきたいのは、次の一文です。

データマネジメントは、ダッシュボードを 1 枚直す作業 ではなく、 データの一生を通じて信頼を維持する作業 である。

さくら商事の物語は Stage 2 以降も続きます。


体系コラム:カリキュラム上の位置づけ

項目 内容
Stage / 章 Stage 1 — 第3章「データのライフサイクル」(Stage 1 完結章)
今回の論点 分析 SQL は 加工段階 の話。症状は生成・保存・活用・廃棄にもまたがる
DAMA 領域 横断的フレーム。以降の全 DAMA 領域を いつ 議論するかの軸
ライフサイクル 生成 → 保存 → 加工 → 活用 → 廃棄の 5 段階を本章で確立
前章との接続 誰が何を担うか のロールを、各段階に割り当て直す
次章への伏線 DAMA-DMBOK 簡易地図 — ライフサイクル上の論点を 用語の地図 に載せ替える

📚 途中チェックポイント

Stage 1 を終えた時点で、次の 3 点を自分の言葉で説明できるか確認してください。

  • さくら商事の「売上不一致」を、定義・SSOT・責任 のどれが主因か切り分けられるか
  • DE / AE / スチュワード / オーナーの 最低 4 ロール の違いを、具体例付きで言えるか
  • 返品欠損や退職者 CSV など、困りごとがライフサイクルの どの段階 に属するか指せるか

まとめ

段階 キーフレーズ 見落としがちな点
生成 最初の 1 行が未来を決める テストデータ混在
保存 正本を決める 個人コピー乱立
加工 定義に従って整える 暫定 SQL の恒久化
活用 説明責任が発生する 古い数字の公開
廃棄 信頼を守る 退職・アカウント・旧ファイル

この章のキーメッセージ:

分析 SQL は 加工段階 の話です。 売上が揃わない、説明できない、危ない——これらは生成・保存・活用・廃棄のどこか、または複数にまたがる問題として見る必要があります。


次に読む


確認問題

問題 1

さくら商事で旧ステータス paid と新ステータス completed が混在し、半年後に説明できなくなった。 この問題をライフサイクルで言うと 主にどの段階 の話か。

A. 廃棄
B. 生成
C. 活用
D. 加工のみで完結する

正解: B

解説: ステータスコードとその意味は 業務システムが記録する生成段階 で決まります。加工 SQL で寄せるのは応急処置であり、生成時の定義管理が本筋です。


問題 2

退職者の Google Drive に顧客 CSV が残っていた。 データマネジメント上 最も関連が深い テーマはどれですか。

A. 廃棄とアクセス管理の設計不足
B. 回帰分析のモデル選択
C. ウィンドウ関数の書き方
D. 確率分布の形状

正解: A

解説: 使われていないように見えても、個人保管データは 廃棄・アカウント停止・利用規程 の問題です。漏えいリスクと SSOT 崩壊の両方につながります。


問題 3

「バックアップがあるから、経営会議の数字は大丈夫」と言う主張について、最も適切な評価 はどれですか。

A. 正しい。バックアップがあれば SSOT も自動的に満たされる
B. 不十分。バックアップは復旧用で、会議数字には定義・鮮度・正本の設計が別途必要
C. 誤り。バックアップは不要
D. 関係ない。統計検定 2 級の知識があれば十分

正解: B

解説: 復旧可能性と 説明可能な公式数字 は別です。保存段階では、何を正本とし、どの定義で配布するかを決める必要があります。


用語メモ(この章)

用語 意味(この章での使い方)
データライフサイクル(Data Lifecycle) 生成から廃棄まで、データの一生を段階で捉える枠組み
OLTP 注文登録など 業務処理 向けのデータベース利用(Stage 3 で詳述)
鮮度(Timeliness) データがどれだけ新しいか。活用段階で問題化しやすい品質軸
保持期間(Retention) どのくらい保存し、いつ破棄するかのルール