CSV整理を自動化する前に決めたい3つのルール

記事
IT・テクノロジー
同じ形式のCSVを毎回手作業で整えているなら、コードを書く前に処理ルールを固定する必要があります。

列名や空欄の扱いが曖昧なまま自動化すると、処理は速くなっても、誤った結果を同じ速さで量産しかねません。先に決めたいのは次の3点です。

■ 1. 入力の条件

対象ファイルの形式、文字コード、必須列、列名の表記を決めます。

たとえば「CSVなら何でも」ではなく、「UTF-8、1行目が見出し、商品コード列は必須」のように、処理を開始できる条件を明文化します。条件外のファイルは勝手に変換せず、エラーとして分ける方が安全です。

■ 2. 変更するルール

重複を何で判定するか、空欄を残すか補うか、表記をどこまで統一するかを決めます。

完全一致だけを重複とするのか、商品コードなど特定列の一致で候補にするのかでは、結果が変わります。削除や上書きを伴う処理は、元データを残したまま別ファイルへ出力できる設計にします。

■ 3. 完了を確認する方法

処理前後の行数、重複候補数、空欄数、エラー件数を残します。

結果ファイルだけでなく、何件を読み込み、何件を変更し、何件を確認対象として残したかが分かると、処理漏れや想定外の変換を見つけやすくなります。

自動化の依頼時には、サンプル入力、期待する出力、処理ルール、対象件数、実行環境の5点をそろえると、見積もり範囲を決めやすくなります。

同じ形式のCSV整理、形式変換、一括ファイル処理を対象に、実行用Pythonスクリプト、README、サンプル入出力、テスト結果を納品するサービスを公開しています。

サービス数40万件のスキルマーケット、あなたにぴったりのサービスを探す