作業メモ
CSV・JSONデータを受け取ったときの確認手順
受け取ったデータは、見た目が整っていても列順、キー、型、改行で壊れていることがあります。先に形式と識別列を確認してから変換へ進みます。
形式・列・キーを先に分ける
CSVとJSONは、壊れ方も確認順も違います。取り込みや共有の前に、まず入力形式を固定します。
CSVは列順とキー列を見る
必要な列だけを残し、顧客IDや商品コードなど重複してはいけない列を先に確認します。
JSONは構文と差分を見る
整形できる状態かを確認し、前回データや期待値との違いを差分として見ます。
迷ったらこの順番
列ズレはCSV列抽出・並び替え、重複はCSV重複キー検出、先頭ゼロ落ちは先頭ゼロ保持チェックから確認します。
次にやること
1. CSVの列とキーを先に見る
CSVは列順、列数、重複してはいけないキーを先に確認します。
- CSV列抽出・並び替え
必要な列と出力順を確認します。
- CSV重複キー検出
IDやコードの重複行を確認します。
- 先頭ゼロ落ち防止
商品コードや郵便番号のゼロ落ちを避けたいときに使います。
2. CSV崩れと変換先を確認する
列崩れや引用符の問題を見てから、JSONやMarkdown表へ渡します。
- CSVのカンマ含み検出と修正
引用符やカンマを含む値で列が崩れていないか見ます。
- CSV→JSON
表データをJSON配列へ変換します。
- Markdown表ツール
共有用の表へ整えるときに使います。
3. JSONを整形して差分を見る
JSONは構文エラーと差分を分けて確認します。
- JSON整形
構文エラーと見た目を先に整えます。
- JSON差分比較
左右のJSONで追加・削除・変更を見ます。
- JSONLバリデーター
1行1JSONのログ形式を確認します。
詰まりやすい場面
- CSVやJSONを受け取ったが、どこから確認すべきか決めたいとき
- 列の欠落、先頭ゼロ落ち、重複キー、JSON差分が混ざっているとき
- 変換後に壊れた原因を探すのではなく、変換前に切り分けたいとき
具体例と判断基準
よくある失敗例
顧客IDや商品コードの先頭ゼロが落ちる
00123 のような識別子を表計算ソフトで開き、123 のままCSVへ戻すと別IDとして扱われることがあります。
住所や商品名のカンマで列がずれる
値の中にカンマがあるのに引用符で囲まれていないと、列数が増えたように見えて変換後の項目がずれます。
JSONへ変換してから重複に気づく
キー列を決めずに変換すると、後続システムで上書きや取り込みエラーとして表に出るまで気づきにくくなります。
before
顧客IDが 00123 のCSVをそのまま開き、Excel上で 123 になった状態でJSON変換へ進む。
after
先頭ゼロを保持して貼り付け、キー重複を見てからCSV→JSONへ渡し、最後にJSON整形と差分で崩れを確認する。
この順番で見る理由
列と識別キーが崩れたまま変換すると、JSON側では見た目だけ整ってしまいます。変換前にCSVの列、ゼロ落ち、重複を見ておくと、変換後の差分が原因調査ではなく最終確認になります。
迷ったときの判断基準
IDやコードは数値ではなく識別子として扱う
計算しない値なら、先頭ゼロや桁数を残すことを優先します。
重複が許される列と許されない列を分ける
名前やカテゴリ名は重複しても自然ですが、顧客ID、商品コード、請求番号は先に重複候補を見ます。
変換先が表ならCSV、階層構造ならJSONを優先する
配列や入れ子を含むデータはJSON、行列で扱う共有資料はCSVやMarkdown表へ分けます。
関連ツールを使う流れ
- CSV列抽出・並び替え: 必要な列だけを残し、識別キーになる列を目で見える位置へ寄せます。
- 先頭ゼロ落ち防止とCSV重複キー検出: コード列の桁を残し、一意であるべき値が複数行に出ていないか見ます。
- CSV→JSONとJSON差分比較: 変換後に構文を整え、前回データや期待値との差分を確認します。
個人情報を含む実データは、必要な列だけに絞るかサンプル値へ置き換えてから貼り付けてください。
最終チェックリスト
- CSVは行単位処理だけでは拾えない崩れがある: 引用符内改行や方言CSVは、変換前に崩れやすい箇所を確認します。
- キー重複は変換後より変換前に見つける: 取り込み先で上書きや衝突が起きる前に、識別列を決めて重複を確認します。
- JSON差分は整形後に見る: minify状態やキー順の違いだけで迷わないよう、構文確認と整形を挟みます。
まず開くツール
各段階で最初に開くものだけを並べています。
必要なら見るページ
用語や周辺ツールが必要なときだけ使います。
- データ変換・開発カテゴリ
CSV / JSON / ID まわりのツールをまとめて見たいとき。