从列表中查找未完成任务的详细信息

Question

我有一个递归下降函数，它获取父目录中的所有文件以及任意数量的子目录中的所有文件以发送到 AWS S3。 根据这篇文章，我有一个 5 分钟的超时时间，设置为让文件夹中的所有文件都推送到 S3，如果花费的时间超过这个时间，我想取消任何剩余的任务。 当我为令牌设置取消标志时，无论WhenAny的Delay或Wait是否达到超时，我都希望能够从列表中获取所有未完成的任务并提取日志记录请求的详细信息。 Microsoft说任务的 Id 和 CurrentId 不能被认为是唯一的。

如何从任务对象获取创建任务的请求对象？

private static void ProcessDirectory(System.IO.DirectoryInfo di)
{
int _timeOut = 5 * 60 * 1000;
foreach (var item in di.GetDirectories())
{
ProcessDirectory(item);
}
using (Amazon.S3.AmazonS3Client _client = new Amazon.S3.AmazonS3Client())
{
System.Threading.CancellationTokenSource _cancellationTokenSource = new System.Threading.CancellationTokenSource();
System.Collections.Generic.List<System.Threading.Tasks.Task<Amazon.S3.Model.PutObjectResponse>> _responses = new List<System.Threading.Tasks.Task<Amazon.S3.Model.PutObjectResponse>>(1000);
foreach (var item in di.GetFiles())
{
_responses.Add(_client.PutObjectAsync(new Amazon.S3.Model.PutObjectRequest
{
BucketName = SiteSettings.Bucket,
CannedACL = Amazon.S3.S3CannedACL.PublicRead,
FilePath = item.FullName,
Key = item.FullName.Replace(SiteSettings.OutputRoot, string.Empty).Replace(@"", "/")
}, _cancellationTokenSource.Token));                    
}
// Wait 5 Mins + 1 sec
System.Threading.Tasks.Task.WhenAny(System.Threading.Tasks.Task<Amazon.S3.Model.PutObjectResponse>.WhenAll(_responses)
, System.Threading.Tasks.Task.Delay(_timeOut)).Wait(_timeOut + 1000);
_cancellationTokenSource.Cancel(); //Cancel the remaining pushes for this folder.
foreach (var item in _responses)
{
if (!item.IsCompleted)
{
//Pull the key value to log
}
}
}
}

Answer 1

创建每个工作项后，可以为每个工作项保存一些唯一密钥，然后使用该密钥进行日志记录。在此示例中，我使用item.FullName作为键。此外，为了更好的可读性，我还冒昧地在类型之前删除了长命名空间，希望您不会介意：

private static void ProcessDirectory(System.IO.DirectoryInfo di)
{
int _timeOut = 5 * 60 * 1000;
foreach (var item in di.GetDirectories())
{
ProcessDirectory(item);
}
using (Amazon.S3.AmazonS3Client _client = new Amazon.S3.AmazonS3Client())
{
CancellationTokenSource _cancellationTokenSource = new CancellationTokenSource();
Dictionary<string, Task<Amazon.S3.Model.PutObjectResponse>> _responses =
new Dictionary<string, Task<Amazon.S3.Model.PutObjectResponse>>(1000);
foreach (var item in di.GetFiles())
{
// use any unique information about your item here
var itemName = item.FullName;
_responses[itemName] = _client.PutObjectAsync(new Amazon.S3.Model.PutObjectRequest
{
BucketName = SiteSettings.Bucket,
CannedACL = Amazon.S3.S3CannedACL.PublicRead,
FilePath = itemName,
Key = item.FullName.Replace(SiteSettings.OutputRoot, string.Empty).Replace(@"", "/")
}, _cancellationTokenSource.Token);
}
// Wait 5 Mins + 1 sec
Task.WhenAny(Task<Amazon.S3.Model.PutObjectResponse>.WhenAll(_responses.Values)
,Task.Delay(_timeOut)).Wait(_timeOut + 1000);
_cancellationTokenSource.Cancel(); //Cancel the remaining pushes for this folder.
foreach (var item in _responses)
{
if (!item.Value.IsCompleted)
{
//Pull the key value to log
var keyValue = item.Key;
}
}
}
}

你看，我交换了List<Task<Amazon.S3.Model.PutObjectResponse>>Dictionary<string, Task<Amazon.S3.Model.PutObjectResponse>>其中 key 是文件的全名。因此，如果字典中的某些任务未在 5 分钟内完成，您将能够获取未加载的文件的名称。

希望对您有所帮助。