使用 SSIS 脚本组件读取的 Azure 数据湖存储文件

Question

感谢您的建议。
我的要求是，使用 SSIS 从 ADLS 读取 json 文件并加载到 SQL 表中

实现： 我已经实现了在 .Net 控制台应用程序中读取 json 文件内容的代码。这在控制台应用程序中工作正常。我在SSIS脚本组件中复制了相同的代码，但它在AdlsClient.CreateClient中抛出"'Microsoft.Azure.DataLake.Store.AdlsClient'的类型初始值设定项引发了异常"异常。

using Microsoft.Rest;
using Microsoft.Rest.Azure.Authentication;
using Microsoft.Azure.Management.DataLake.Store;
using Microsoft.Azure.DataLake.Store;
using Microsoft.Azure.DataLake.Store.AclTools;
using Newtonsoft.Json;
using Newtonsoft.Json.Linq;
JObject results = new JObject();
string applicationId = "<appid>;
string secretKey = <secretekey>;
string tenantId = <tenantid>;
string adlsAccountName = "<ADLSNAME>.azuredatalakestore.net";
ServiceClientCredentials creds = ApplicationTokenProvider.LoginSilentAsync(tenantId, applicationId, secretKey).Result;
AdlsClient adlsClient = AdlsClient.CreateClient(adlsAccountName, creds);
string srcPath = @"/InputFiles/1636274001230002_20180621_104427.json";
using (StreamReader readStream = new 
StreamReader(adlsClient.GetReadStream(srcPath)))
{
var p2Object = JsonConvert.DeserializeObject(readStream.ReadToEnd());
results = JObject.Parse(p2Object.ToString());
}
date = ((string)results["eeData"][0]["startDate"]);
machine = ((string)results["eeData"][0]["machineName"]);
ppl = ((string)results["eeData"][0]["ppl"]);

Answer 1

问题在于第三方 DLL 的 SSIS 脚本组件中缺少引用路径。在控制台应用程序中，我可以安装 NuGet 包管理器。但在 SSIS 脚本组件中，NuGet 包安装失败，并且 SSIS 组件缺少引用。下面的代码将强制脚本组件编译器从给定路径引用 DLL。

将此代码添加到 PreExecute((/Main(( 方法上方。

static ScriptMain()
{
AppDomain.CurrentDomain.AssemblyResolve += new ResolveEventHandler(CurrentDomain_AssemblyResolve);
}
static System.Reflection.Assembly CurrentDomain_AssemblyResolve(object sender, ResolveEventArgs args)
{
if (args.Name.Contains("Newtonsoft.Json"))
{
return System.Reflection.Assembly.LoadFile(@"C:Program FilesMicrosoft SDKsAzure.NET SDKv2.9ToolsRefNewtonsoft.Json.dll");
}
if (args.Name.Contains("Microsoft.Azure.DataLake.Store"))
{
return System.Reflection.Assembly.LoadFile(@"C:Program FilesWindowsPowerShellModulesAzureRM.DataLakeStore5.2.0Microsoft.Azure.DataLake.Store.dll");
}
if (args.Name.Contains("Microsoft.Rest.ClientRuntime.Azure.Authentication"))
{
return System.Reflection.Assembly.LoadFile(@"C:Program FilesWindowsPowerShellModulesAzure5.1.2StorSimpleMicrosoft.Rest.ClientRuntime.Azure.Authentication.dll");
}
if (args.Name.Contains("Microsoft.Rest.ClientRuntime"))
{
return System.Reflection.Assembly.LoadFile(@"C:Program FilesWindowsPowerShellModulesAzure5.1.2ServicesMicrosoft.Rest.ClientRuntime.dll");
}
if (args.Name.Contains("NLog"))
{
return System.Reflection.Assembly.LoadFile(@"C:Users<user>sourcereposIntegration Services Project2NLog.dll");
}
return null;
}