我的数据已经按降last_column和降third_column排序。我想根据last_column对数据集进行重复数据删除,同时保持原始排序顺序。因此,对于每个last_column,我都希望最终输出中的第一行。我需要使用 Hive 来实现这一点。我的数据是:
10009,12/3/1959,Rodney,Purtle,M,8/28/1986,d007
10010,5/1/1954,Ahishek ,Kumar,M,12/1/1986,d007
10011,1/21/1955,Abhilash,Whatever,M,9/12/1989,d007
10016,5/1/1954,Ross,Hupchuck,M,12/1/1986,d006
10008,1/21/1955,Michael ,Gross,M,9/12/1989,d006
10014,1/21/1955,John ,Talburt,M,9/12/1989,d006
10013,5/1/1954,John,Doe,M,12/1/1986,d006
10015,12/3/1959,Daniel ,Pullen,M,8/28/1986,d006
期望输出:
10009,12/3/1959,Rodney,Purtle,M,8/28/1986,d007
10016,5/1/1954,Ross,Hupchuck,M,12/1/1986,d006
我当前的代码:
select *
from
(select *, row_number() over (partition by last_column order by desc)as r from table_name)s
where r = 1;
我得到的输出是:
10014 1/21/1955 John Talburt M 9/12/1989 d006 1
10010 5/1/1954 Ahishek Kumar M 12/1/1986 d007 1
任何人都可以帮忙并建议我可能做错了什么吗?
@Utsav您可以
尝试以下查询:
从(选择 *, row_number() 上选择 *(按last_column顺序划分third_column desc)作为 table_name 中的 R,其中 are=1 顺序乘以 last_column desc;
希望对您有所帮助!