목록select (4)

달나라 노트

Python pyspark : alias (컬럼 이름 변경하기)

alias method를 이용해서 spark dataframe의 컬럼에 새로운 이름을 붙여줄 수 있습니다. from pyspark.sql import SparkSession from pyspark.sql.functions import col import pandas as pd spark = SparkSession.builder.getOrCreate() df_test = pd.DataFrame({ 'a': [1, 2, 3], 'b': [10.0, 3.5, 7.315], 'c': ['apple', 'banana', 'tomato'] }) df_spark = spark.createDataFrame(df_test) df_spark = df_spark.select( col('a'), col('b'), col('c..
Python/Python pyspark 2021. 5. 28. 19:10
Python pyspark : regexp_replace (정규표현식으로 문자 치환하기)

regexp_replace(, , ) pyspark의 regexp_replace는 위처럼 사용할 수 있습니다. 에 있는 데이터들에 대해 과 일치하는 부분을 로 바꿔서 반환합니다. from pyspark.sql import SparkSession from pyspark.sql.functions import col, regexp_replace import pandas as pd spark = SparkSession.builder.getOrCreate() df_test = pd.DataFrame({ 'a': [1, 2, 3], 'b': [10.0, 3.5, 7.315], 'c': ['apple', 'banana', 'tomato'] }) df_spark = spark.createDataFrame(df_test..
Python/Python pyspark 2021. 5. 28. 18:54
Python pyspark : select (Dataframe에서 column 추출하기)

spark dataframe에서 특정 컬럼의 정보만을 추출하려면 어떻게 해야하는지 봅시다. from pyspark.sql import SparkSession import pandas as pd spark = SparkSession.builder.getOrCreate() df_test = pd.DataFrame({ 'a': [1, 2, 3], 'b': [10.0, 3.5, 7.315], 'c': ['apple', 'banana', 'tomato'] }) df_spark = spark.createDataFrame(df_test) spark_col_a = df_spark.a # 1 print(spark_col_a) # 1 df_col_a = df_spark.select(df_spark.a) # 2 df_col..
Python/Python pyspark 2021. 5. 19. 05:13
Python으로 HTML 태그의 특정 속성값 가져오기

https://cosmosproject.tistory.com/158?category=953474 Python : Web page의 HTML 코드를 가져오기. import requests from bs4 import BeautifulSoup as bs URL = "https://www.naver.com" rq = requests.get(URL) soup = bs(rq.content, 'html.parser') print(soup) 어떤 Web 페이지의 HTML 코드를 가져오기 위해.. cosmosproject.tistory.com 위 링크에서 web page의 HTML 코드를 crawling해오는 내용을 다뤘습니다. https://cosmosproject.tistory.com/159?category=953..
Python/Python ETC 2021. 5. 17. 00:50
Prev 1 Next