一、重复数据的存在会导致什么问题？
数据库中的重复数据是一个常见问题，可能对数据完整性、存储效率和整体系统性能产生重大影响。重复数据的存在可能导致以下几个问题。
- 不必要的数据占用空间，从而增加存储成本
- 处理冗余信息导致查询性能下降
- 报告和分析不准确，可能导致错误的商业决策
- 数据管理和客户互动时的混淆
识别和管理重复行对于维护干净、高效和可靠的数据库至关重要。在本篇文章将探讨查找重复行的各种SQL技术，让您迈出提高数据质量和数据库性能的第一步。
二、在SQL中查找重复数据
首先创建并插入一些数据。
CREATE TABLE employees (
id INT,
first_name VARCHAR(50),
last_name VARCHAR(50),
email VARCHAR(100),
department VARCHAR(50)
);
INSERT INTO employees VALUES
(1, 'John', 'Doe', 'john.doe@example.com', 'Sales'),
(2, 'Jane', 'Smith', 'jane.smith@example.com', 'Marketing'),
(3, 'Bob', 'Johnson', 'bob.johnson@example.com', 'IT'),
(4, 'Alice', 'Williams', 'alice.williams@example.com', 'HR'),
(5, 'John', 'Doe', 'john.doe@example.com', 'Sales'),
(6, 'Sarah', 'Brown', 'sarah.brown@example.com', 'Marketing'),
(7, 'Bob', 'Johnson', 'bob.johnson@example.com', 'IT');2.1 使用GROUP BY和HAVING 💻
使用GROUP BY和HAVING子句可以高效地识别SQL中的重复行。这种方法通过分组相同值的行，然后筛选出包含多条记录的组，从而找出表中的重复项。
WITH cte AS (
SELECT *,
ROW_NUMBER() OVER (
PARTITION BY first_name,last_name,email,department
ORDER BY id
)AS rn
FROM employees
)
SELECT *
FROM cte
WHERE rn>1;2.2 使用窗口函数 💻
窗口函数是SQL识别重复行的高效工具，尤其在处理大量数据时。它们允许计算当前行及其相关行，提供灵活分析手段。例如ROW_NUMBER() 这样的窗口函数可能更有效。
SELECT DISTINCT t1.*
FROM employees t1
INNER JOIN employees t2 ON
t1.first_name = t2.first_name AND
t1.last_name = t2.last_name AND
t1.email = t2.email AND
t1.department = t2.department AND
t1.id > t2.id;接下来的两种方法需要至少一个唯一标识符，本文将在示例后解释。
2.3 使用窗口函数 💻
SQL 中的EXISTS操作符提供了另一种检查满足特定条件的行是否存在的方法，这使得其在识别重复数据时特别有用。该方法在处理复杂条件时可能比某些替代方案更高效。
SELECT t1.*
FROM employees t1
WHERE EXISTS (
SELECT 1
FROM employees t2
WHERE t1.first_name = t2.first_name AND
t1.last_name = t2.last_name AND
t1.email = t2.email AND
t1.department = t2.department
AND t1.id > t2.id
);2.4 使用自连接 💻
自连接是另一种强大的SQL技术，允许一个表与自身连接，使其在查找重复行时特别有用。该方法将每一行与同一表中的每一行比较，使我们能够识别在指定列中具有相同值的记录。
SELECT DISTINCT t1.*
FROM employees t1
INNER JOIN employees t2 ON
t1.first_name = t2.first_name AND
t1.last_name = t2.last_name AND
t1.email = t2.email AND
t1.department = t2.department AND
t1.id > t2.id;三、唯一标识符与大表优化
唯一标识符的必要性
- 对于 EXISTS 和自连接方法，在查找完全重复项时需要一个唯一标识符。这个唯一标识符（通常是自增 ID 或主键）有助于区分在其它方面相同的行。
唯一标识符的目的
- 允许比较行而不将一行与自身匹配。能够从每组重复中仅选择一行。
数据表较大时可考虑的优化技术
- 确保在您检查重复项的列上有适当的索引。
- 如果可能，针对您经常检查的重复项列使用分区。
- 考虑使用临时表或公共表表达式（CTE）来简化复杂查询。
- 使用EXPLAIN PLAN分析查询性能并进行相应优化。
对于非常大的表，考虑使用批处理或并行查询执行（如果您的数据库系统支持）。有效方法将取决于特定数据库系统、表结构和数据分布。可测试多种方法，以找到适合特定用例的最佳方案。
四、删除重复行
让我们看看如何从表中的完全重复项中删除行，可使用公共表表达式（CTE）和ROW_NUMBER() 函数的组合。
WITH CTE AS (
SELECT *,
ROW_NUMBER() OVER (
PARTITION BY first_name, last_name, email, department -- 列出定义重复的所有列
ORDER BY id -- 最好是主键或唯一标识符
) AS rn
FROM employees
)
DELETE FROM CTE WHERE rn > 1;
SELECT * FROM employees;工作原理
- CTE 使用ROW_NUMBER() 在重复组内为每一行分配一个编号。
- PARTITION BY子句定义什么构成重复（列出所有应相同的列）。
- ORDER BY决定保留哪个重复项（rn=1的那个）。
- DELETE语句删除所有rn>1的行，有效删除每组重复内容。
