我使用一个c++库influxdb-cxx,它使用curl将数据插入数据库。在我的c++程序中,我将编写4个测量值,每个测量值每秒有几十个要插入的片段点。我使用UDP发送数据
sensor_->influxdb_ = influxdb::InfluxDBFactory::Get("udp://localhost:8089?db=udp");
插入c++代码外观之一:
sensor_->influxdb_->write(influxdb::Point("/controller/data")
.addField("angular", sensor_->angular())
.addField("speed_left_rear", sensor_->speedl()
.addField("speed_right_rear", sensor_->speedr()
.addField("voltage", sensor_->voltage()));
它将插入一个测量点"/控制器/数据";。此点有四个字段,没有标记。
当我查询数据库中最后半秒的数据时,会出现问题。我打开一个终端并进入
influx
use udp
create retention policy "1h" on udp duration 1h replication 1 shard duration 1h default
precision rfc3339
SELECT * FROM "udp".."/controller/data" WHERE time >= now() - 500ms
预期行为:我可以在最后半秒获得分数,所有字段都不为空,并且同一行中的数据具有相同的时间戳。实际行为:有时中的字段值为null。例如:
> SELECT * FROM "udp".."/controller/data" WHERE time >= now() - 500ms
name: /controller/data
time angular speed_left_rear speed_right_rear voltage
---- ------- --------------- ---------------- -------
2021-08-02T08:47:41.17175053Z 99 0 0 23152
2021-08-02T08:47:41.189857794Z -49 0 0 23152
2021-08-02T08:47:41.203743539Z 282 0 0 23152
2021-08-02T08:47:41.219689002Z 299 0 0 23152
2021-08-02T08:47:41.235739755Z 249 0 0 23223
2021-08-02T08:47:41.251701843Z 299 0 0 23311
2021-08-02T08:47:41.267655473Z 133 0 0 23311
2021-08-02T08:47:41.284691461Z 382 0 0 23311
2021-08-02T08:47:41.299605898Z 116 0 0 23240
2021-08-02T08:47:41.315760775Z 23240
2021-08-02T08:47:41.331771862Z 23240
2021-08-02T08:47:41.347798407Z 23240
2021-08-02T08:47:41.363746204Z 23364
2021-08-02T08:47:41.380132952Z 23364
2021-08-02T08:47:41.395660171Z 23364
2021-08-02T08:47:41.411623426Z 23364
2021-08-02T08:47:41.427676221Z 23241
2021-08-02T08:47:41.443633642Z 23241
2021-08-02T08:47:41.459634521Z 23241
2021-08-02T08:47:41.475580859Z 23241
2021-08-02T08:47:41.491627529Z 23400
2021-08-02T08:47:41.507684407Z 23400
2021-08-02T08:47:41.523670412Z 23400
2021-08-02T08:47:41.539542668Z 23400
2021-08-02T08:47:41.556554739Z 23400
2021-08-02T08:47:41.571867004Z 23329
2021-08-02T08:47:41.587669261Z 23329
2021-08-02T08:47:41.603685306Z 23329
2021-08-02T08:47:41.619762893Z 23329
2021-08-02T08:47:41.636273305Z 23293
2021-08-02T08:47:41.651680944Z 23293
2021-08-02T08:47:41.667774571Z 23293
2021-08-02T08:47:41.683901448Z 23293
2021-08-02T08:47:41.699780996Z 23417
2021-08-02T08:47:41.715881623Z 23417
2021-08-02T08:47:41.732012Z 23417
2021-08-02T08:47:41.747715092Z 23417
2021-08-02T08:47:41.763705763Z 23205
2021-08-02T08:47:41.779796182Z 23205
2021-08-02T08:47:41.795692354Z 23205
和
> SELECT * FROM "udp".."/controller/data" WHERE time >= now() - 500ms
name: /controller/data
time angular speed_left_rear speed_right_rear voltage
---- ------- --------------- ---------------- -------
2021-08-02T08:49:30.314298081Z 649 0 0 23293
2021-08-02T08:49:30.330174725Z 316 0 0 23293
2021-08-02T08:49:30.346282365Z 798 0 0 23187
2021-08-02T08:49:30.362351798Z 732 0 0 23187
2021-08-02T08:49:30.378310691Z 282 0 0 23187
2021-08-02T08:49:30.39422Z 549 0 0 23293
2021-08-02T08:49:30.410205143Z 615 0 0 23329
2021-08-02T08:49:30.42628595Z 149 0 0 23329
2021-08-02T08:49:30.442316883Z 282 0 0 23329
2021-08-02T08:49:30.45822561Z 582 0 0 23329
2021-08-02T08:49:30.474172836Z 133 0 0 23364
2021-08-02T08:49:30.490214269Z 233 0 0 23364
2021-08-02T08:49:30.506210203Z 549 0 0 23364
2021-08-02T08:49:30.522200303Z -399 0 0 23364
2021-08-02T08:49:30.538234736Z -366 0 0 23364
2021-08-02T08:49:30.554288127Z 0 23364
2021-08-02T08:49:30.570351727Z 0 23364
2021-08-02T08:49:30.586195413Z 0 23364
2021-08-02T08:49:30.602191055Z 0 23241
2021-08-02T08:49:30.618195155Z 0 23241
2021-08-02T08:49:30.634950578Z 0 23241
2021-08-02T08:49:30.650237772Z 0 23223
2021-08-02T08:49:30.666386828Z 0 23276
2021-08-02T08:49:30.682325013Z 0 23276
2021-08-02T08:49:30.698237823Z 0 23276
2021-08-02T08:49:30.714291797Z 0 23276
2021-08-02T08:49:30.730265564Z 0 23099
2021-08-02T08:49:30.746241957Z 0 23099
2021-08-02T08:49:30.762230307Z 0 23099
2021-08-02T08:49:30.778286615Z 0 23099
2021-08-02T08:49:30.794283132Z 0 22993
2021-08-02T08:49:30.819896051Z 0 23134
2021-08-02T08:49:30.826242917Z 0 23134
2021-08-02T08:49:30.84235989Z 0 23134
2021-08-02T08:49:30.86443611Z 0 23134
2021-08-02T08:49:30.874357007Z 0 23170
2021-08-02T08:49:30.890441315Z 0 23170
2021-08-02T08:49:30.906395249Z 0 23170
2021-08-02T08:49:30.922352392Z 0 23170
2021-08-02T08:49:30.942798927Z 0 23187
2021-08-02T08:49:30.954241427Z 0 23187
2021-08-02T08:49:30.970329818Z 0 23187
2021-08-02T08:49:30.986202379Z 0 23240
2021-08-02T08:49:31.002118397Z 0 23046
2021-08-02T08:49:31.018028873Z 0 23046
2021-08-02T08:49:31.034310053Z 0 23046
正如您所看到的,有许多空值。左边的列为null的可能性更大,而字段关键字voltage
的最右边的列从来没有null值。
所以我想:同一行中的字段值对应于相同的时间戳,但它们不是同时写入数据库的,其中一些可能被写入,但另一些不是。是这样吗?
如果有一种方法可以让同一原始数据中的不同字段同时写入所以当我查询同一行中的每个字段时都不是空的。
或者如何查询所有字段都不为空的最近点我实际上想查询测量中的最后一个点:select * from "udp".."/controller/data" order by time desc limit 1
,但它有时会返回一些字段为空的点。
我发现last()
对我的问题没有帮助。因为如果使用SELECT last(*) FROM "udp".."/controller" WHERE time > now() - 1s
(我使用WHERE
子句,因为我认为它可以通过指定时间范围让它查询得更快),它只是将last(angular)
、last(speed_left_rear)
、last(speed_right_rear)
、last(voltage)
的结果合并为一个点。但是字段值可能与相同的时间戳不一致。
环境信息:
我在一个类似于raspberryPi的嵌入设备nanopi上运行所有这些程序。
- 系统信息:Linux 4.4.179 aarch64
- InfluxDB版本:1.8.7
配置:我的influx.conf
[[udp]]
enabled = true
batch-size = 50
batch-pending = 5
batch-timeout = "1s"
我试着修改UDP批量大小,看看它是否有什么不同:
如果我在influxdb.conf 中将批量大小修改为1
[[udp]]
enabled = true
batch-size = 1
batch-pending = 5
batch-timeout = "1s"
这会增加很多CPU负载,我只能得到时间>现在-22秒
select * from "udp".."/controller/data" where time >= now() - 22s
并返回以下结果:
> SELECT * FROM "udp".."/controller/data" WHERE time >= now() - 21s
name: /controller/data
time angular speed_left_rear speed_right_rear voltage
---- ------- --------------- ---------------- -------
1627894525069581596 599 0 0 23276
1627894525115397757 366 0 0 23116
1627894525147390263 782 0 0 23258
1627894525163375140 216 0 0 23258
1627894525179457142 449 0 0 23258
1627894525211368273 249 0 0 23382
1627894525227548857 532 0 0 23382
1627894525259374239 133 0 0 23382
1627894525275378367 249 0 0 23169
1627894525307387789 665 0 0 23169
1627894525323413499 499 0 0 23169
1627894525355366338 599 0 0 23311
1627894525371388841 382 0 0 23311
1627894525387508467 499 0 0 23311
1627894525403456887 1148 0 0 23223
1627894525420205921 549 0 0 23205
1627894525436119925 149 0 0 23205
1627894525452726045 366 0 0 23205
1627894525468630132 183 0 0 23223
1627894525484748008 -99 0 0 23223
1627894525500814260 249 0 0 23223
1627894525516629098 499 0 0 23223
1627894525533157344 848 0 0 23205
1627894525548644353 366 0 0 23205
1627894525564793437 16 0 0 23205
1627894525627496298 66 0 0 23347
1627894525675488264 83 0 0 23240
1627894525723471189 -33 0 0 23418
1627894525755489652 166 0 0 23418
1627894525772796929 332 0 0 23418
1627894525803355328 23152
它有时仍然返回null值。因此,更改批处理大小并不能解决这个问题,而且批处理大小似乎是一列的属性,它会打包一定数量的列数据,然后写入数据库。
我不会使用InfluxDB处理最后500毫秒的数据。此软件不适用于类似的解决方案。InfluxDB没有在定义的时间内放置所有值的优先级。它不是一个实时系统。如果你需要这样的东西,我建议使用PLC类型的实时设备。但是如果你想以这种方式使用它,我可以建议以下棘手的解决方案:
- 请求不更新的数据,例如400ms:
SELECT last(*)FROM";udp"控制器/数据";其中时间>=now()-10s,时间<now()-400ms
假设400毫秒后,所有字段中都有值。3) 请求具有安全延迟的数据,例如500ms:
SELECT first(*)FROM";udp"控制器/数据";其中时间>=now()-500ms
从现在开始,上面的查询应该会在500ms之前为您提供第一个值。假设在不到500ms的时间内需要写入所有字段值。
- 使用where cluase为所有值字段询问数据,如果只有数据,则始终为true:
SELECT*FROM";udp"控制器/数据";其中时间>=now()-5s和";"有角度的">-9999999和";speed_ left_>-9999999和";speed_ rigt_>-9999999">以及";电压">-9999999限制1
以上都假设您无法读取低于-99999999的值。这样,您应该只收到写入了所有值且不超过5s的序列。您将获得的值是具有相同时间戳的最新值,其中写入了所有值。
-
和2)解决方案在某些条件下可能工作,也可能不工作,并假设延迟(这取决于系统工作负载等)。3)如果您需要具有相同时间戳的值,则可能是最佳解决方案。
-
还有一种方法是在查询最后一个值的地方进行4个独立查询:
SELECT last(angular)FROM";udp"控制器/数据";SELECT last(speed_left_trear)FROM";udp"控制器/数据";SELECT last(speed_right_rear)FROM";udp"控制器/数据";SELECT last(电压)FROM";udp"控制器/数据";
- 或者甚至在子查询中要求它:
从(Select last(angular)as";"有角度的";FROM";udp"控制器/数据"),(选择最后(speed_left_trear)为";speed_ left_;FROM";udp"控制器/数据"),(选择last(speed_right_rear)为";speed_ rigt_;FROM";udp"控制器/数据"),(选择最后一个(电压)为";电压";FROM";udp"控制器/数据")
它会给您最新的值,但它们可能没有相同的时间戳。