重複行削除

このブラウザ内で処理

テキスト上限: 2000000 文字

このツールは入力をアップロードしません。

コピペで二重になった行を、見た目どおりの文字列で落とします。氏名の表記ゆれや、CSVの1列だけをキーにする処理ではありません。

メーリングリストに同じアドレスが二度、説明会の申込がスプレッドシートから二重に落ちる、障害ログに同じ行が続く——行の一意化です。空白の詰めは空白整理、語句は検索と置換、パターンは正規表現テスターです。

比較は行全体の完全一致です。先頭に出た行を残し、あと同じ行は捨てます。空行は落とします。既定では辞書順にも並べます。元の出現順が要るなら、並びを「なし」にしてください。個人情報の一覧を、外部の整形サイトへ貼る必要はありません。このタブです。

NTT東日本やMicrosoftの解説が言うとおり、Excelの重複削除は列を選んで行ごと消す破壊的な操作です。ここはプレーンテキストです。表変換はJSON ↔ CSV。件数の目視は文字数カウントです。

名簿・ログ・メールで使うとき

イベントの申込、社内の連絡網、障害ログの繰り返しを、送る前に落とす用途です。就活の合同説明会で集めたアドレスを、案内メールの直前に一意化する、といった仕事です。全角と半角の同じ住所、末尾スペースだけの違い、「Taro」と「taro」は別行のまま残ることがあります。

データベースの主キー、氏名の表記ゆれ、Excelの条件付き書式による色付けではありません。消す前に元テキストを残してください。

使い方と、データベースにしないこと

  1. 1行1件のテキストを貼ります。
  2. 重複を落とすか、並びだけ変えるかを選びます。
  3. 件数を目視します。必要なら空白整理を先に。

ファジー重複、列キー、gitの履歴はありません。メール本文に名簿を添付する前の掃除には使えますが、添付容量の圧縮にはなりません。

よくある質問

就活イベントの申込メールが二重です。落とせますか?

1行1アドレスなら、完全に同じ行は落とせます。大文字小文字や末尾の空白が違うと残ります。先に空白整理してから実行すると残りにくいです。

順番は保ちますか?

重複だけ落とすなら、最初に出た行を残します。既定の並びは辞書順です。元の順が要るなら並びを「なし」にしてください。

Excelの「重複の削除」と同じですか?

違います。Excelは列をキーに行ごと消します。ここは行全体の文字列です。Microsoftの案内どおり、Excel側は消す前にコピーを残してください。

全角の住所と半角の住所は同一ですか?

別行のまま残ることが多いです。ファジー重複ではありません。

正規表現で抜きたいです。

正規表現テスターへ。ここは行の一意化と並べ替えです。

CSVの特定列だけをキーにできますか?

できません。先にJSON ↔ CSVで平坦化したあと、その列だけを1行1件にしてください。

関連ツール