date_from_unix_date
Теги: datetime functions pyspark
Описание
Функция date_from_unix_date() преобразует количество дней с 1970-01-01 (Unix эпоха) в дату.
Параметры
col: Column - количество дней с начала Unix эпохи
Возвращаемое значение
Column - дата
Пример
from pyspark.sql import SparkSession
from pyspark.sql.functions import date_from_unix_date, unix_date
# Создаем Spark сессию
spark = SparkSession.builder.appName("date_from_unix_date_example").getOrCreate()
# Создаем DataFrame с количеством дней
data = [(0,), (1,), (18000,)]
df = spark.createDataFrame(data, ["days"])
# Преобразуем в дату
df = df.withColumn("date", date_from_unix_date("days"))
df.show()
# Вывод:
# +-----+----------+
# | days|      date|
# +-----+----------+
# |    0|1970-01-01|
# |    1|1970-01-02|
# |18000|2019-04-25|
# +-----+----------+
 Примечания
- 0 соответствует дате 1970-01-01 (начало Unix эпохи)
 - Отрицательные числа дают даты до 1970 года
 - Возвращает NULL, если входное значение NULL
 - Полезно для работы с датами в формате Unix
 - Для обратного преобразования используйте unix_date
 - Для работы с временными метками используйте from_unixtime