如何使用 RxJava 进行文件解析和 SQL 生成



我看到的大多数RxJava示例都与网络调用有关。我是该框架的新手,所以我想知道将其用于并行文件解析之类的东西是否也有意义。我有一个文件目录,我需要将其数据解析为 SQL 表。我可以用RxJava做到这一点吗?我希望它尽可能多线程以提高效率。

数据描述

我的数据有一个以一堆部分开头的层次结构。每个部分包含一个或多个小节。每个小节包含一个或多个 HTML 文件。

SQL 表

sqlite> SELECT * FROM sections;
_id         ordinal     title     
----------  ----------  ----------
1           1           Management
2           2           Emergency Preparedness 

-- 具有引用节表的外键

sqlite> SELECT * FROM subsections;
_id         ordinal     chapter_id  title     
----------  ----------  ----------  ----------
1           A           1           General   
2           B           1           Resources

-- 具有引用节和子节表的外键

sqlite> SELECT * FROM html;
_id         chapter_id  subsection_id   number      html_filename             
----------  ----------  ----------  ----------  --------------
1           1           1           1           /1a-1.html
2           1           1           2           /1a-2.html
3           1           1           3           /1a-3.html
4           1           1           4           /1a-4.html
5           1           2           1           /1b-1.html
6           2           2           1           /2a-1.html
7           2           2           2           /2a-2.html
8           2           2           1           /2b-1.html

_id字段是自动递增的主键(这不会每次都与序号匹配)。子节表取决于接收其相关的主键。意思是一旦插入了第1节,就可以插入第1a、1b、1c等节(但不能插入2a

目录结构

      //Section 1
/1.title
      //Subsection A
/1a.title
      //html files for 1a
/1a-1.html
/1a-2.html
      //Subsection B
/1b.title
      //html files for 1b
/1b-1.html
/1b-2.html
      //Section 2
/2.title
/2a.title
      //..etc

每个 SQL 插入都可以使用 java 构建器类构建,对于 /1b-2.html 如下所示

db.insert(HTML_TABLE, null, new HTML.Builder()
                .chapterId(section1)
                .letterId(subsectionB)
                .number(2)
                .build());

我最终将有大约 50-60 个部分,但整个部分的每个 SQL 插入、其子部分及其 HTML 文件都可以并行插入。使用RxJava对这样的事情有意义吗?

Rx(在任何平台上)都不太适合大多数形式的并行处理。它处理本质上序列化的流。听起来您正在寻找某种 ETL 工具。

相关内容

  • 没有找到相关文章

最新更新