셀레니움 웹 크롤링 봇 탐지 우회 2탄 네이버 로그인 캡차 피하기

이 글은 지난 시간에 다룬 셀레니움 웹 크롤링 봇 탐지 우회 글을 기초로 하고 있으니 처음 오신 분들은 위 글을 먼저 보길 권한다. 네이버에서 로그인을 시도하면 로봇임을 탐지하는 캡차(captcha) 가 뜬다. 이를 뜨지 않게하고 네이버에 온전히 로그인하는 방법을 소개한다. 목차 네이버 로그인 캡챠가 뜨는 이유 캡챠가 안뜨게 하는법 복붙 크롬 자동 계정 입력 이용   … Read more

셀레니움 웹 크롤링 봇 탐지 우회

셀레니움을 사용하다보면 어떤 웹사이트에서는 작동이 되지 않거나, 혹은 봇이 탐지되었다고 거부를 당하는 일이 있다. 셀레니움 웹 크롤링 봇 탐지 우회하는 방법을 찾아 이곳까지 왔다면 정말 제대로 찾아왔다. 웹사이트마다 접속자 Bot이라고 인식하는 방법은 여러가지가 있기 때문에 웹사이트마다 봇으로 인식되어 거부당하는 것을 하나로 설명할 수 없다. 다만! 봇으로 인식되지 않게 하는 해결책은 이 글 하나로 90%를 커버할 … Read more

셀레니움 설치와 크롬 드라이버 자동 처리

셀레니움을 사용할 때는 드라이버가 필요하다. 파이어폭스는 geckodriver, 크롬은 chromedriver, 그외 PhantomJS 등 브라우저마다 각각의 드라이버가 필요하다. 이 드라이버는 버전이 업그레이드 될때마다 번거롭게 다운 받아주어야 하는데 파이썬 코드로 이러한 번거로움을 날려버릴 수 있다. 이 글은 우리가 가장 많이 사용하는 구글의 크롬(chrome)을 기준으로 설명한다. 목차 셀레니움 크롤링 소개 설치 크롬드라이버 다운로드 자동다운로드 처리 코드 셀레니움 크롤링 소개 … Read more

파이썬 with 정리

파이썬 with 에 대해서 알아본다. 사소한 것이지만 이런 부분들이 몸에 잘 베일 수록 코딩은 용이해진다. 잘 알아두고 자주 활용하길 바란다. 목차 파이썬 with 동작방식 사용 예제   파이썬 with 보통 프로그램은 파일에 접근해서 파일 내용등을 읽고 쓰고 삭제하고 수정하는 등등 무언가의 일을 수행한 뒤 그 파일을 해제(close) 하는 패턴을 따른다. 예를 들어 우리가 엑셀 파일을 … Read more

파이썬 리스트 list 완전 이해를 위한 전체 정리 요약

이 문서는 파이썬 list 의 전반적인 이해에 관하여 다룹니다. 전체적인 내용을 한눈에 파악할 수 있도록 요약하여 정리하였고, 각 목차에 따른 자세한 내용은 개별 문서로 따로 작성하여 링크를 걸겠습니다. 내용과 관련하여 궁금한점 있는 댓글로 질문하시면 해당 내용을 답변하는 문서가 업데이트 됩니다. 목차 파이썬 리스트 – python list 데이터 저장 빈 리스트 저장할 수 있는 타입 데이터 … Read more

pyautogui 매크로 만들기 사용법 기초

목차 pyautogui 매크로 소개 설치 – installation 기본 기능 마우스 키보드 메시지 기능 스크린샷 (screenshot) 윈도우창 활성화 pyautogui 매크로 만들기 소개 pyautogui 매크로 만들기 사용법 기초를 알아본다. pyautogui는 파이썬 유저들에게 매크로 라이브러리로서 가장 사랑받은 패키지이다. 기본적으로 매크로라는 것은 컴퓨터 작업을 컴퓨터로 하여금 일을 시키는 프로그램을 말한다. 최근에는 오토핫키가 가장 많은 사랑을 받고 있는데, 파이썬 사용자들은 … Read more

리스트 컴프리헨션(list comprehension)의 이해

리스트 컴프리헨션(list comprehension)에 대해서 알아보겠다. 리스트를 생성하는데 아주 편리하고 정말 많이 사용하는 파이썬 문법입니다. 한번 정리해두고 두고 써먹자! 목차 리스트 컴프리헨션 for 문 단일 for문 다중 for문 if 문 단일 if문 다중 if문 if – else문 openpyxl 에서 사용례 generator 생성   리스트 컴프리헨션 리스트 컴프리헨션. 영어라 말이 어려운 것 처럼 보일뿐이지 실상 내용이 어려운 … Read more

셀레니움 wait 개념 이해하기 (implicitly wait VS explicitly wait)

이 문서는 셀레니움 wait 에 관한 implicitly wait 와 explicitly wait 에 대해서 다루고 있습니다. 셀레니움 사용법 전반에 대해서 알아보시려면 셀레니움 크롤러 기본 사용법을 확인하시기 바랍니다. 목차 셀레니움 wait 의 개념 implicitly Wait VS Explicitly Wait time.sleep Implicitly Wait Explicitly Wait 셀레니움 wait 의 개념 wait 는 말 그대로 ‘기다리라’는 뜻이다. 초보자들이 wait 의 개념을 … Read more