Pandas如何高效去除DataFrame中完全相同的重复行?(高效.去除.完全相同.重复.Pandas...)

wufei1232025-03-08python2

pandas如何高效去除dataframe中完全相同的重复行?

Python Pandas数据处理中,常常需要移除重复数据行。本文将详细介绍如何高效地去除Pandas DataFrame中完全相同的重复行,仅保留一行。

假设有一个名为df的Pandas DataFrame,数据如下:

index  id  value
  1     1     2
  1     1     2
  2     2     3
  3     3     4

目标是去除完全相同的重复行,得到以下结果:

index  id  value
  2     2     3
  3     3     4

Pandas提供drop_duplicates()函数实现此功能。keep参数控制如何处理重复行。将keep设置为False,则所有重复行都将被删除。

如果DataFrame仅包含id和value两列,可直接使用以下代码:

df.drop_duplicates(keep=False, inplace=True)

inplace=True参数表示直接修改原DataFrame,而非返回新的DataFrame。

如果DataFrame包含更多列,但仅需根据id和value两列判断重复,则需使用subset参数指定列:

df.drop_duplicates(subset=['id', 'value'], keep=False, inplace=True)

drop_duplicates()函数将仅根据id和value列的值判断重复,其他列的值不会影响结果。keep=False确保所有重复行都被删除。 keep参数也可设置为'first'或'last',分别保留第一次或最后一次出现的重复行。

以上就是Pandas如何高效去除DataFrame中完全相同的重复行?的详细内容,更多请关注知识资源分享宝库其它相关文章!

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。