달나라 노트

NumPy select() — 여러 조건을 한 번에 처리하는 메서드 조건 목록을 순서대로 검사해서, 처음으로 True인 조건에 해당하는 값을 선택합니다. 코드로 치면 if-elif-elif-else 구조입니다. 기본 문법 np.select(condlist, choicelist, default=0) 파라미터 설명 condlist 조건들의 리스트. 순서대로 검사하며 처음 True인 조건이 선택됨 choicelist 각 조건에 대응하는 값들의 리스트. condlist와 길이가 같아야 함 default 어떤 ..

alias method를 이용해서 spark dataframe의 컬럼에 새로운 이름을 붙여줄 수 있습니다. from pyspark.sql import SparkSession from pyspark.sql.functions import col import pandas as pd spark = SparkSession.builder.getOrCreate() df_test = pd.DataFrame({ 'a': [1, 2, 3], 'b': [10.0, 3.5, 7.315], 'c': ['apple', 'banana', 'tomato'] }) df_spark = spark.createDataFrame(df_test) df_spark = df_spark.select( col('a'), col('b'), col('c..

regexp_replace(, , ) pyspark의 regexp_replace는 위처럼 사용할 수 있습니다. 에 있는 데이터들에 대해 과 일치하는 부분을 로 바꿔서 반환합니다. from pyspark.sql import SparkSession from pyspark.sql.functions import col, regexp_replace import pandas as pd spark = SparkSession.builder.getOrCreate() df_test = pd.DataFrame({ 'a': [1, 2, 3], 'b': [10.0, 3.5, 7.315], 'c': ['apple', 'banana', 'tomato'] }) df_spark = spark.createDataFrame(df_test..

spark dataframe에서 특정 컬럼의 정보만을 추출하려면 어떻게 해야하는지 봅시다. from pyspark.sql import SparkSession import pandas as pd spark = SparkSession.builder.getOrCreate() df_test = pd.DataFrame({ 'a': [1, 2, 3], 'b': [10.0, 3.5, 7.315], 'c': ['apple', 'banana', 'tomato'] }) df_spark = spark.createDataFrame(df_test) spark_col_a = df_spark.a # 1 print(spark_col_a) # 1 df_col_a = df_spark.select(df_spark.a) # 2 df_col..