Guten_june

파이썬 자동화 셀레늄(Selenium) iframe 문제 해결 (feat. no such element: Unable to locate element) 요즘 Selenium으로 다시 자동화를 조금 만지고 있는다. 사실 대부분 하면서 크게 문제는 없는데 이상하게 어떤 웹페이지에서는 find_element_by_OO 메소드가 안 먹히더라. 코드상에서, elem = driver.find_element_by_id("category0") 요로케 찾는 코드를 작성했다. 근데 에러가 뜬다?! no such element: Unable to locate element: 결론은 element를 찾지 못한다는 것,, 분명 ctrl + f 로 찾아봤을 때, id가 category0인 요소가 존재한다! (아래 그림으로 확인)..

파이썬 셀레니움 (Selenium) headless 2021/01/02 - [개발자/파이썬] - 파이썬 Selenium (셀레니움) 스크롤(Scroll) 2021/01/01 - [개발자/파이썬] - 파이썬 (Selenium) 로딩까지 기다림 (feat. WebDriverWait) 2020/12/31 - [개발자/파이썬] - 파이썬 (Python) Selenium (기본, 네이버 로그인) 2020/12/30 - [개발자/파이썬] - 파이썬 웹스크래핑(web scraping)_2 2020/12/30 - [개발자/파이썬] - 파이썬 웹스크래핑(web scraping) 저번 글에서부터 웹 스크래핑을 할 때, 매번 브라우저를 띄우고 웹 스크래핑을 진행했는데 사실 이런 경우, 메모리도 더 잡아먹고, 속도도 좀 더 ..

파이썬 Selenium (셀레니움) 스크롤(Scroll) 2021/01/01 - [개발자/파이썬] - 파이썬 (Selenium) 로딩까지 기다림 (feat. WebDriverWait) 저번 글에서는 로딩시간을 위한 Waits에 대해서 이야기해봤다. 이번 글에서는 스크롤에 대해서 적어보려고 한다. 스크롤 (Scroll) 보통 웹페이지에서 한번에 모든 정보를 제공하지 않는다. 스크롤을 해야 그 아래의 정보까지 파싱할 수 있는 경우가 있는데, 이때 우린 스크롤(Scroll) 동작을 통해 아래의 정보까지 가져올 수 있다. ※ 지정한 위치로 스크롤 내리기 # 지정한 위치로 스크롤 내리기 # 모니터(해상도)의 높이인 900 위치로 스크롤 내리기 browser.execute_script("window.scrollTo..

파이썬 셀레니움 로딩까지 기다림 Waits Selenium (feat. WebDriverWait) 2020/12/31 - [개발자/파이썬] - 파이썬 (Python) Selenium (기본, 네이버 로그인) 저번 글에서 Selenium의 사용방법에 대해서 글을 썼었다. 이번에는 웹 스크래핑을 하다보면 필요한 도구(?) 몇 가지에 대해 글을 써보려고 한다. WebDriverWait를 이용한 Explicit Waits 우리가 웹 스크래핑을 하다보면, 로딩시간이 있다. 즉, 어떤 페이지가 완전히 Load되기까지 일정 시간을 기다려야한다. ex) 비행기항공권(네이버 or 스카이스캐너 등등) (아래의 그림처럼) 완전히 페이지가 Load되고 나서 어떤 정보들을 긁어 올 수 있는데, 이때 사용되는 것이 Webdriv..

파이썬 (Python) Selenium (기본, 네이버 로그인) 저번 글에서는 BeautifulSoup에 대해서 다루었다. 2020/12/30 - [개발자/파이썬] - 파이썬 웹스크래핑(web scraping) 2020/12/30 - [개발자/파이썬] - 파이썬 웹스크래핑(web scraping)_2 이번에 다룰 것은 Selenium인데 이게 진짜 찐이다. BeautifulSoup과는 다르게 동적인 부분을 처리할 수 있다. (입력, 버튼 클릭, 스크롤 등등) 또한 자바스크립트 렌더링도 지원되어서 더욱 편리하다. Selenium을 사용하기 위해서 그 전에 해야 할 작업들이 있는데, (참고로, 다들 크롬을 사용한다는 전제하에 진행한다.) 먼저, webdriver를 설치해야한다. 이를 위해서 크롬 버전을 확인..