r语言 - 执行与 data.table 的半连接



如何与 data.table 执行半连接?半连接类似于内部连接,只不过它只返回 X 的列(而不是 Y 的列),并且不重复 X 的行以匹配 Y 的行。 例如,以下代码执行内部联接:

x <- data.table(x = 1:2, y = c("a", "b"))
setkey(x, x)
y <- data.table(x = c(1, 1), z = 10:11)
x[y]
#   x y  z
# 1: 1 a 10
# 2: 1 a 11

半连接将返回x[1]

更多可能性:

w = unique(x[y,which=TRUE])  # the row numbers in x which have a match from y
x[w]

如果 x 中有重复的键值,则需要:

w = unique(x[y,which=TRUE,allow.cartesian=TRUE])
x[w]

或者,反过来:

setkey(y,x)
w = !is.na(y[x,which=TRUE,mult="first"])
x[w]

如果 nrow(x) <<nrow(y),那么 y[x] 方法应该更快。
如果 nrow(x)>> nrow(y),那么 x[y] 方法应该更快。

但是反反加入呼吁也是:-)

我能想到的一个解决方案是:

tmp <- x[!y]
x[!tmp]

data.table中,你可以有另一个数据表作为i表达式(即data.table.[调用中的第一个表达式),它将执行连接,例如:

x <- data.table(x = 1:10, y = letters[1:10])
setkey(x, x)
y <- data.table(x = c(1,3,5,1), z = 1:4)
> x[y]
   x y z
1: 1 a 1
2: 3 c 2
3: 5 e 3
4: 1 a 4

i表达式之前的!是上述语法的扩展,它执行"非连接",如 data.table 文档的第 11 页所述。因此,第一个赋值计算为x子集,该子集没有任何行,其中键(列 x )存在于y中:

> x[!y]
    x y
1:  2 b
2:  4 d
3:  6 f
4:  7 g
5:  8 h
6:  9 i
7: 10 j

在这方面,它与setdiff相似。因此,第二条语句返回 x 中键存在于 y 中的所有行。

!功能是在 data.table 1.8.4 年添加的,并在 NEWS 中附有以下注释:

o   A new "!" prefix on i signals 'not-join' (a.k.a. 'not-where'), #1384i.
        DT[-DT["a", which=TRUE, nomatch=0]]   # old not-join idiom, still works
        DT[!"a"]                              # same result, now preferred.
        DT[!J(6),...]                         # !J == not-join
        DT[!2:3,...]                          # ! on all types of i
        DT[colA!=6L | colB!=23L,...]          # multiple vector scanning approach (slow)
        DT[!J(6L,23L)]                        # same result, faster binary search
    '!' has been used rather than '-' :
        * to match the 'not-join'/'not-where' nomenclature
        * with '-', DT[-0] would return DT rather than DT[0] and not be backwards
          compatible. With '!', DT[!0] returns DT both before (since !0 is TRUE in
          base R) and after this new feature.
        * to leave DT[+J...] and DT[-J...] available for future use

出于某种原因,以下内容x[!(x[!y])]不起作用 - 可能data.table解析参数太聪明了。

附言正如乔什·奥布莱恩(Josh O'Brien)在另一个答案中指出的那样,x[!eval(x[!y])]一行。

我对上面的所有非连接感到困惑,这不是您想要的:

unique(x[y, .SD])
#   x y
#1: 1 a

如果x可以有重复的键,则可以改为唯一y

## Creating an example data.table 'a' three-times-repeated first row 
x <- data.table(x = c(1,1,1,2), y = c("a", "a", "a", "b"))
setkey(x, x)
y <- data.table(x = c(1, 1), z = 10:11)
setkey(y, x)
x[eval(unique(y, by = key(y))), .SD] # data.table >= 1.9.8 requires by=key(y)
#    x y
# 1: 1 a
# 2: 1 a
# 3: 1 a

更新。基于这里的所有讨论,我会做这样的事情,它应该很快并且在最一般的情况下有效:

x[eval(unique(y[, key(x), with = FALSE]))]

这是另一个更直接的解决方案:

unique(x[eval(y$x)])

它更直接,运行速度更快 - 这是与我以前的解决方案在运行时的比较:

# Generate some large data
N <- 1000000 * 26
x <- data.table(x = 1:N, y = letters, z = rnorm(N))
setkey(x, x)
y <- data.table(x = sample(N, N/10, replace = TRUE),  z = sample(letters, N/10, replace = TRUE))
setkey(y, x)
system.time(r1 <- x[!eval(x[!y])])
   user  system elapsed 
  7.772   1.217  11.998 
system.time(r2 <- unique(x[eval(y$x)]))
   user  system elapsed 
  0.540   0.142   0.723 

在更一般的情况下,您可以执行以下操作:

x[eval(y[, key(x), with = FALSE])]

我尝试编写一个不使用任何名称的方法,这在 OP 的示例中完全令人困惑。

sJ <- function(x,y){
    ycols <- 1:min(ncol(y),length(key(x)))
    yjoin <- unique(y[, ..ycols])
    yjoin
}
x[eval(sJ(x,y))]

对于 Victor 的简单示例,这给出了所需的输出:

   x y
1: 1 a
2: 3 c
3: 5 e

这比维克多的方式慢了~30%。

编辑:维克多的方法,在加入之前采取独特的方法,要快得多:

N <- 1e5*26
x <- data.table(x = 1:N, y = letters, z = rnorm(N))
setkey(x, x)
y <- data.table(x = sample(N, N/10, replace = TRUE),  z = sample(letters, N/10, replace = TRUE))
setkey(y, x)
require(microbenchmark)
microbenchmark(
    sJ=x[eval(sJ(x,y))],
    dolla=unique(x[eval(y$x)]),
    brack=x[eval(unique(y[['x']]))]
)
Unit: milliseconds
  expr       min        lq    median        uq      max neval
 #    sJ 120.22700 125.04900 126.50704 132.35326 217.6566   100
 # dolla 105.05373 108.33804 109.16249 118.17613 285.9814   100
 # brack  53.95656  61.32669  61.88227  65.21571 235.8048   100

我猜[[ vs $ 对速度没有帮助,但没有检查。

这个线程太老了。但我注意到,解决方案可以很容易地从原始帖子中给出的半连接定义中得出:

"半连接类似于内部连接,只是它只返回 X 的列(不是 Y 的列),并且不重复 X 的行 以匹配 Y 的行"

library(data.table)
dt1 <-  data.table(ProdId = 1:4,
                   Product = c("Bread", "Cheese", "Pizza", "Butter"))
dt2 <-  data.table(ProdId = c(1, 1, 3, 4, 5),
                   Company = c("A", "B", "C", "D", "E"))
# semi-join
unique(merge(dt1, dt2, on="ProdId")[, names(dt1), with=F])
   ProdId Product
1:      1   Bread
2:      3   Pizza
3:      4  Butter

我只是简单地应用了内部连接的语法,然后仅过滤第一个表中的列,unique()删除第一个表的行,这些行重复以匹配第二个表的行。

编辑:仅当我们在第一个表中具有唯一行时dplyr::semi_join()上述方法才会匹配输出。如果我们需要输出所有行,包括第一个表中的重复行,那么我们可以使用如下所示fsetdiff()方法。

另一行data.table解决方案:

fsetdiff(dt1, dt1[!dt2, on="ProdId"])
   ProdId Product
1:      1   Bread
2:      3   Pizza
3:      4  Butter

我刚刚从第一个表中删除了第一个和第二个表的反连接。对我来说似乎更简单。如果第一个表有重复的行,我们将需要:

fsetdiff(dt1, dt1[!dt2, on="ProdId"], all=T)

带有 ,all=Tfsetdiff()结果与 dplyr 的输出匹配:

dplyr::semi_join(dt1, dt2, by="ProdId")
  ProdId Product
1      1   Bread
2      3   Pizza
3      4  Butter

使用从以前的一篇文章中获取的另一组数据:

x <- data.table(x = c(1,1,1,2), y = c("a", "a", "a", "b"))
y <- data.table(x = c(1, 1), z = 10:11)

使用 dplyr:

dplyr::semi_join(x, y, by="x")
  x y
1 1 a
2 1 a
3 1 a

使用数据表:

fsetdiff(x, x[!y, on="x"], all=T)
   x y
1: 1 a
2: 1 a
3: 1 a

如果没有,all=T,将删除重复的行:

fsetdiff(x, x[!y, on="x"])
   x y
1: 1 a

软件包 dplyr 支持以下四种连接类型:

inner_joinleft_joinsemi_joinanti_join

所以对于半连接,请尝试以下代码

library("dplyr")
table1 <- data.table(x = 1:2, y = c("a", "b"))
table2 <- data.table(x = c(1, 1), z = 10:11)
semi_join(table1, table2)

输出符合预期:

# Joining by: "x"
# Source: local data table [1 x 2]
# 
#       x     y
#   (int) (chr)
# 1     1     a

尝试以下操作:

 w <- y[,unique(x)]
 x[x %in% w]

输出将是:

   x y
1: 1 a

相关内容

  • 没有找到相关文章

最新更新