달나라 노트

udf method를 이용하면 만든 function을 column에 적용시킬 수 있습니다. from pyspark.sql import SparkSession from pyspark.sql.functions import udf from pyspark.sql.function import col import pandas as pd spark = SparkSession.builder.getOrCreate() df_test = pd.DataFrame({ 'a': [1, 2, 3], 'b': [10.0, 3.5, 7.315], 'c': ['apple', 'banana', 'tomato'] }) df_spark = spark.createDataFrame(df_test) def myfunc(x): # 1 return ..