input_file_name()
Описание
Функция input_file_name()
возвращает полный путь к текущему входному файлу.
Параметры
Функция не принимает параметров.
Возвращаемое значение
String - полный путь к текущему входному файлу
Пример использования
from pyspark.sql.functions import input_file_name
from pyspark.sql import SparkSession
# Создаем SparkSession
spark = SparkSession.builder.appName("input_file_name_example").getOrCreate()
# Читаем файл и получаем его путь
df = spark.read.text("path/to/file.txt")
result = df.select(input_file_name().alias("file_path")).show(truncate=False)
# Результат:
# +------------------+
# |file_path |
# +------------------+
# |path/to/file.txt |
# +------------------+
Примечания
- Возвращает путь к файлу только при чтении файлов
- Для работы с файлами также используйте:
input_file_block_length()
для получения длины блокаinput_file_block_start()
для получения начальной позиции блока