-
Apache Atlas是否支持Spark、Pig和Sqoop的标签?
- 如果Atlas支持Pig,Sqoop&Spark然后有任何类型的定制
我们必须执行才能使其工作Atlas - 如果我们想实现上述功能,我们可以从中获得确切的流程
Hadoop组件与Atlas
- 如果Atlas支持Pig,Sqoop&Spark然后有任何类型的定制
-
Atlas将元数据存储在哪里?
- 我们如何才能达到Atlas元数据的模式
-
Atlas是否提供了为其他工具获取元数据的功能(例如。Informatica),并将其与自己的元数据集成?
- 如果Atlas支持上述功能,那么我们如何整合使用Atlas元数据
问题1:桥梁列表可在http://atlas.apache.org/index.html
在回答的时候,只有蜂箱、squoop、猎鹰和风暴的桥梁。
要添加Spark和Pig支持,有两个选项:
-
使用Atlas Rest API(http://atlas.apache.org/api/v2/index.html)并在你的代码中触发它
-
实现我们自己的桥梁(https://github.com/apache/incubator-atlas/tree/master/addons)
问题2:引用http://atlas.apache.org/Architecture.html
Titan:目前,Atlas使用Titan图形数据库来存储元数据对象。泰坦被用作阿特拉斯中的一个图书馆。泰坦使用两个存储区:元数据存储区配置为!HBase默认和索引存储被配置为Solr。也可以使用元数据存储为BerkeleyDB,索引存储为ElasticSearch具有相应轮廓的建筑。元数据存储用于正确存储元数据对象,索引存储用于存储元数据属性的索引,从而实现高效搜索
问题3:参见问题1,它与Spark或Pig的实现没有任何不同。
Apache atlas支持hive。请检查以下链接
http://atlas.incubator.apache.org/Bridge-Hive.html
我希望这对你有帮助。不确定你的第二个和第三个问题。