是否可以获得SQS中的消息总数

Question

我看到有两个独立的度量ApproximateNumberOfMessagesVisible和ApproximateNumberOfMessagesNotVisible。

使用可见消息的数量会导致处理pod在从队列中提取消息后立即被触发终止，因为它们不再可见。如果我使用不可见的消息数量，它将不会按比例增加。

我正在尝试使用水平pod自动缩放器和来自SQS的外部度量来扩展kubernetes服务。以下是模板外部度量：

apiVersion: metrics.aws/v1alpha1
kind: ExternalMetric
metadata:
name: metric-name
spec:
name: metric-name
queries:
- id: metric_name
metricStat:
metric:
namespace: "AWS/SQS"
metricName: "ApproximateNumberOfMessagesVisible"
dimensions:
- name: QueueName
value: "queue_name"
period: 60
stat: Average
unit: Count
returnData: true

这是HPA模板：

kind: HorizontalPodAutoscaler
apiVersion: autoscaling/v2beta1
metadata:
name: hpa-name
spec:
scaleTargetRef:
apiVersion: apps/v1beta1
kind: Deployment
name: deployment-name
minReplicas: 1
maxReplicas: 50
metrics:
- type: External
external:
metricName: metric-name
targetAverageValue: 1

如果我可以定义另一个自定义度量，即这两个度量的总和，那么问题就会得到解决，否则我该如何解决这个问题？

Answer 1

我们使用lambda来获取两个度量，并发布一个自定义度量，该度量是正在运行和等待的消息的总和，并使用cloudwatch事件以任何频率触发此lambda，https://console.aws.amazon.com/cloudwatch/home?region=us-east-1#规则：操作=创建

以下是lambda代码供参考：

const AWS = require('aws-sdk');
const cloudwatch = new AWS.CloudWatch({region: ''});  // fill region here
const sqs = new AWS.SQS();
const SQS_URL = ''; // fill queue url here
async function getSqsMetric(queueUrl) {
var params = {
QueueUrl: queueUrl,
AttributeNames: ['All']
};
return new Promise((res, rej) => {
sqs.getQueueAttributes(params, function(err, data) {
if (err) rej(err);
else res(data);
});
})

}
function buildMetric(numMessages) {
return {
Namespace: 'yourcompany-custom-metrics',
MetricData: [{
MetricName: 'mymetric',
Dimensions: [{
Name: 'env',
Value: 'prod'
}],
Timestamp: new Date(),
Unit: 'Count',
Value: numMessages
}]
}
}
async function pushMetrics(metrics) {
await new Promise((res) => cloudwatch.putMetricData(metrics, (err, data) => {
if (err) {
console.log('err', err, err.stack); // an error occurred
res(err);
} else {
console.log('response', data);           // successful response
res(data);
}
}));
}
exports.handler = async (event) => {
console.log('Started');
const sqsMetrics = await getSqsMetric(SQS_URL).catch(console.error);
var queueSize = null;
if (sqsMetrics) {
console.log('Got sqsMetrics', sqsMetrics);
if (sqsMetrics.Attributes) {
queueSize = parseInt(sqsMetrics.Attributes.ApproximateNumberOfMessages) + parseInt(sqsMetrics.Attributes.ApproximateNumberOfMessagesNotVisible);
console.log('Pushing', queueSize);
await pushMetrics(buildMetric(queueSize))
} 
} else {
console.log('Failed fetching sqsMetrics');
}
const response = {
statusCode: 200,
body: JSON.stringify('Pushed ' + queueSize),
};
return response;
};

Answer 2

这似乎是Thrashing的一个例子——由于评估指标的动态性质，副本的数量经常波动。

IMHO，你有几个选择。你可以考虑在你的HPA中添加一个稳定窗口，也可能限制缩减率。您必须尝试几种指标的组合，看看什么最适合您，因为您最了解在基础设施中看到的指标(在本例中为ApproximateNumberOfMessagesVisible(的性质。