支持 Hive、Sqoop & Pig


  1. Apache Atlas是否支持Spark、Pig和Sqoop的标签?

    • 如果Atlas支持Pig,Sqoop&Spark然后有任何类型的定制
      我们必须执行才能使其工作Atlas
    • 如果我们想实现上述功能,我们可以从中获得确切的流程
      Hadoop组件与Atlas
  2. Atlas将元数据存储在哪里?

    • 我们如何才能达到Atlas元数据的模式
  3. Atlas是否提供了为其他工具获取元数据的功能(例如。Informatica),并将其与自己的元数据集成?

    • 如果Atlas支持上述功能,那么我们如何整合使用Atlas元数据

问题1:桥梁列表可在http://atlas.apache.org/index.html

在回答的时候,只有蜂箱、squoop、猎鹰和风暴的桥梁。

要添加Spark和Pig支持,有两个选项:

  • 使用Atlas Rest API(http://atlas.apache.org/api/v2/index.html)并在你的代码中触发它

  • 实现我们自己的桥梁(https://github.com/apache/incubator-atlas/tree/master/addons)

问题2:引用http://atlas.apache.org/Architecture.html

Titan:目前,Atlas使用Titan图形数据库来存储元数据对象。泰坦被用作阿特拉斯中的一个图书馆。泰坦使用两个存储区:元数据存储区配置为!HBase默认和索引存储被配置为Solr。也可以使用元数据存储为BerkeleyDB,索引存储为ElasticSearch具有相应轮廓的建筑。元数据存储用于正确存储元数据对象,索引存储用于存储元数据属性的索引,从而实现高效搜索

问题3:参见问题1,它与Spark或Pig的实现没有任何不同。

Apache atlas支持hive。请检查以下链接

http://atlas.incubator.apache.org/Bridge-Hive.html

我希望这对你有帮助。不确定你的第二个和第三个问题。

相关内容

  • 没有找到相关文章

最新更新