如何转换一个值数组，使每个值更接近平均值，但PySpark中的分布形状相似(即减少stdev)

Question

我希望我已经用正确的措辞描述了我需要做的工作。本质上，我需要"压缩"一系列值，使所有值都更接近平均值，但它们的值应该相对于与平均值的距离而减少(或增加(。。。

数据帧如下所示：

>>> df[['population', 'postalCode']].show(10)
+----------+----------+
|population|postalCode|
+----------+----------+
|      1464|     96028|
|       465|     96015|
|       366|     96016|
|      5490|     96101|
|       183|     96068|
|       569|     96009|
|       366|     96054|
|        90|     96119|
|       557|     96006|
|       233|     96116|
+----------+----------+
only showing top 10 rows
>>> df.describe().show()
+-------+------------------+------------------+
|summary|        population|        postalCode|
+-------+------------------+------------------+
|  count|              1082|              1082|
|   mean|23348.511090573014| 93458.60813308688|
| stddev|21825.045923603615|1883.6307236060127|
+-------+------------------+------------------+

总体平均值对我来说是正确的，但我需要它周围的方差更小。。。

希望这是有意义的，非常感谢在pyspark或node.js中执行此工作的任何帮助。

Answer 1

总体思路是：

1. 将平均值转换为零
2. 重新缩放到新的标准偏差
3. 转换为所需的平均值(在这种情况下，为原始平均值(

在伪代码中，如果您的值存储在变量x:中

x.scaled = new.mean + (x - mean(x)) * new.SD/sd(x)

或者，对于SD=1000且平均值不变的特定情况：

x.scaled = mean(x) + (x - mean(x)) * 1000/sd(x)