stddev(col)
Описание
Функция stddev()
вычисляет выборочное стандартное отклонение для числового столбца. Это агрегатная функция, которая должна использоваться с groupBy()
.
Параметры
col
: Column - числовой столбец для вычисления стандартного отклонения
Возвращаемое значение
Double - выборочное стандартное отклонение
Пример использования
from pyspark.sql.functions import stddev
from pyspark.sql import SparkSession
# Создаем SparkSession
spark = SparkSession.builder.appName("stddev_example").getOrCreate()
# Создаем DataFrame
data = [
("A", 1),
("A", 2),
("A", 3),
("B", 4),
("B", 5),
("B", 6),
("B", None)
]
df = spark.createDataFrame(data, ["group", "value"])
# Вычисляем выборочное стандартное отклонение для каждой группы
result = df.groupBy("group").agg(
stddev("value").alias("stddev_value")
).show()
# Результат:
# +-----+-------------------+
# |group|stddev_value |
# +-----+-------------------+
# |A |1.0 |
# |B |1.0 |
# +-----+-------------------+
Примечания
- NULL значения игнорируются при вычислении стандартного отклонения
- Для вычисления генерального стандартного отклонения используйте
stddev_pop()
- Для вычисления выборочной дисперсии используйте
var_samp()
- Для вычисления генеральной дисперсии используйте
var_pop()