디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 오늘은 requests.post를 써봤습니다모바일에서 작성

ㅇㅇ(223.39) 2023.07.15 22:13:11
조회 144 추천 0 댓글 0
														
공공데이터포털에서 가지고 놀만한 데이터 뭔가 없나 싶어서 카테고리 기준으로 좀 찾아보니 별로 땡기는 게 없고
인기순으로 보니까 사업자등록번호 상태 조회하는 api가 1위던데...

데이터포털에서 다른 데이터 api 쓸 때 이용했던 requests.get 과는 사용법이 좀 다른 거 같아서 구글링도 해보고 했는데

구글링 해서 나오는 결과가 죄다 예전 내용인지 에러가 자꾸 떴는데 뭐 어찌어찌 하다 보니까 "아니 이게 왜 돼? 이렇게 간단한거였다고?" 라는 말이 절로 나오면서 되긴 되더라고요

예시코드를 친절하게 보여주는 데이터도 있었는데 이번 건은 그렇지는 않아서 파이썬으로 이걸 어떻게 구현해야 되는지 감이 잘 안 와서 이상한 데서 헤맨 듯
그래도 이참에 post 형식 데이터 어떤 식으로 불러오는지 대강은 감 잡은 데에 의의를 두겠습니다.
대충 url 쓰라는 거 그대로 url로 쓰고 body에 넣어라 하는 건 딕셔너리 형태로 양식 참조해서 만든 다음에 requests.post(url, json=data) 이런 식으로 넣으면 되는 듯...

어쨌든 이게 한 번 호출할 때마다 100개씩 리스트 형태로 사업자등록번호 넣으면 100개씩 결과 띄워준다고 해서
100개 초과하는 개수를 인풋 값으로 넣으면
코드 내에서 알아서 100개씩으로 쪼개면서 호출하는 식으로 작업하도록 for문이랑 list.append, if문 조합해서 코드 짜봤는데 가지고 있는 사업자등록번호 리스트 15000개 정도 한 번에 넣어보니까 pandas로 최종 산출파일을 엑셀파일로 잘 말아서 저장하는 것까지 되는 걸 확인하였습니다.

잘라서 넣는 건 대강

lst = 전체 사업자등록번호 리스트
lst2 = []

for i in lst:
    lst2.append(i)
    if len(lst2) == 100:
        requests 데이터 불러와서 빈 리스트에 추가하는 함수 실행
        lst2 = []
requests 데이터 불러와서 빈 리스트에 추가하는 함수 실행

이런 식으로 짜보긴 했는데
솔직히 훨씬 더 좋은 방법도 있을 것 같긴 함
맨 처음 전체 사업자등록번호 리스트는 당연히 엑셀 파일로 된 거 판다스로 불러와서 해당 컬럼을 리스트로 만든거고...

일단은 14000개 정도 기준으로 전체 코드가 돌아가는 시간이 30초 정도 걸렸으니 보수적으로 다른 환경에서 돌린다 해도 1분 내에는 돌아간다 치면 나름 쓸만하긴 한 듯. (크게 쓸 데는 없지만)

회사에서 제공해주는 rpa 서비스 중에서도 유사한 서비스 있는데 그건 조회 캡처화면까지 떠주는 걸로 봐서 셀레니움 같은 웹자동화 툴을 이용해서 조회하는 거 같은데 그거 땜에 2000~3000개 정도 조회하는데도 5분 이상은 걸렸던 걸 감안한다면 나중에 혹시 이런 거 쓸일 있을 땐 걍 내꺼 쓰는 게 더 나을 듯 ㅋㅋㅋ

데이터 분석이나 머신러닝 쪽이 하고 싶은데 어찌된 게 자꾸 데이터 수집하는 쪽으로 재미 붙어서 자꾸 모아놓을만큼 흥미로운 데이터 뭐 없을까? 하는 고민만 하게 됨...

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
- 설문 영포티룩도 멋지게 소화할 것 같은 40대 스타는? 운영자 25/10/27 - -
- AD 할로윈 슈퍼위크~!! 운영자 25/10/23 - -
2344 🔎질문 파이썬 처럼 수치연산 빠르고 쓰기쉬운 타입언어 있나영? [5] ㅇㅇ(121.181) 23.08.17 179 0
2341 🔎질문 파이썬으로 m3u8 추적 다운로드 할 수 있음? [2] ㅇㅇ(14.51) 23.08.09 195 0
2339 🔎질문 파이썬으로 업비트 api 데이터 가져올때 [7] ㅇㅇ(220.72) 23.08.08 129 0
2337 🔎질문 pygame 설치 및 pip 업그레이드 안됨 [2] ㅇㅇ(112.154) 23.08.07 118 0
2336 일반 옛날에 물어봤었는데 다시 질문함 ㅠㅠ [3] ㅇㅇ(49.177) 23.08.07 140 0
2334 🔎질문 님들 파이썬 개초보가 라이브러리 구경하게 도와주세요 [3] ㅇㅇ(39.124) 23.08.03 252 1
2331 🔎질문 파이썬초보 입니다. 도와주세요 ㅜ [5] ㅇㅇㅇㅇ(49.168) 23.07.28 188 0
2327 🔎질문 선생님들 스크랩핑 for 반복문으로 텍스트 출력하는데 오류가 발생합니다 [2] ㅇㅇ(219.251) 23.07.18 158 0
2326 일반 문득 이런 생각이 들었습니다. [1] ㅇㅇ(223.39) 23.07.17 88 0
2325 🔎질문 파이썬 머신러닝 테크 타고 싶음 [8] ㅇㅇ(182.226) 23.07.17 418 0
일반 오늘은 requests.post를 써봤습니다 ㅇㅇ(223.39) 23.07.15 144 0
2320 🔎질문 파이썬 완전 초보입니다. 도와주세요 [5] 아이고 인생아(115.143) 23.07.13 289 0
2318 🔎질문 님들 파이썬 주력인데 맥 사는거 어떻게 생각함? [9] ㅇㅇ(210.91) 23.07.10 205 0
2316 🔎질문 matplotlib plt을 Gradio return값 관련 질문입니다 ㅇㅇ(210.91) 23.07.06 122 0
2315 🔎질문 정규표현식 공부하는 중 [7] ㅇㅇ(211.234) 23.07.05 199 2
2314 🔎질문 pip로 exe 만드는법 질문입니다 [8] ㅇㅇ(220.79) 23.07.05 204 0
2310 일반 playwright 맛보기 실패... [3] dd(211.234) 23.07.02 224 0
2309 일반 chat GPT는 최고야... [2] ㅇㅇ(106.102) 23.06.30 216 0
2308 🔎질문 백준 문제풀이 [5] ㅁㅇ(118.35) 23.06.29 172 0
2307 일반 잘 되던 프로그램이 갑자기 먹통이다 [1] ㅇㅇ(220.79) 23.06.29 77 0
2306 🔎질문 tkinter에서 창 클릭무시? 같은거 하려는데 [4] sonrxnu(114.203) 23.06.29 113 0
2304 🔎질문 파이썬은 아닌데 다른 프로그램 질문 ㅇㅇ(118.235) 23.06.22 91 0
2302 🔎질문 파이썬 메모리 사용량 확인 어떻게 하는거죠? [1] ㅇㅇ(220.86) 23.06.21 114 0
2301 🔎질문 함수 성능테스트 비교하는 방법 [2] ㅇㅇ(220.86) 23.06.19 128 0
2300 🔎질문 이거질문좀 막대그래프왜이럼 [3] 강아지강아지갤로그로 이동합니다. 23.06.18 154 0
2299 🔎질문 진짜 이거 왜 안 되는지 제발 알려주세요 [1] ㅇㅇ(211.49) 23.06.17 109 0
2297 일반 요즘 ai그림 해본다고 python 코드들 보니깐 잼나네 [2] 라댜갤로그로 이동합니다. 23.06.14 227 0
2293 🔎질문 급하게 질문... [4] ㅇㅇ(218.234) 23.06.12 156 0
2292 🔎질문 태양-지구-달 궤도 구현해봤는데 50년만 넘어가도 달 궤도가 이상해짐; [4] ㅇㅇ(122.128) 23.06.11 198 0
2289 🔎질문 함수 읽는법 [4] ㅁㅇ(118.35) 23.06.08 191 0
2288 🔎질문 재귀함수 팩토리얼 [6] ㅁㅇ(118.35) 23.06.08 175 0
2287 일반 정규표현식은 뭔가 잘 안 익숙해지긴 함 [1] ㅇㅇ(211.234) 23.06.07 131 0
2286 🔎질문 데이터프레임 질문이요 [10] chqh(211.178) 23.06.07 155 0
2284 🔎질문 정규표현식 너무 어려운거 같아요? ㅠㅠ 암기해야하나요 [2] chqh(211.178) 23.06.07 156 0
2283 🔎질문 실력이 고수가 되고 싶으면 어떻게 해야하나요 chqh(211.178) 23.06.07 101 0
2282 🔎질문 from random import randint는 뭔가요? [2] ㅇㅇ(121.186) 23.06.07 134 0
2280 일반 물어봐놓고 자세히 알려주니까 지워부노 [1] ㅇㅇ(211.234) 23.06.06 101 0
2278 🔎질문 아는사람한테 사용하던거 갑자기 에러나는데..아는사람.. [2] ㅇㅇ(106.102) 23.06.05 103 0
2276 🔎질문 데이터 크롤링 파싱 관련해서 한 가지 물어봐도 됨? [12] ㅁㅁ(14.39) 23.06.03 488 0
2275 🔎질문 이 숫자 크롤링 할 줄 아시는 분??? [21] chqh(211.178) 23.06.02 215 0
2274 🔎질문 크롤링하는데 Expecting value: line 1 column 1 [4] chqh(211.178) 23.06.01 147 0
2271 🔎질문 파이썬 초보인데 따라하지도 못 하고 있습니다 도와주세요 ㅠ [3] 졸린데안자(121.169) 23.06.01 288 0
2270 🔎질문 파이썬 코드 검토좀 부탁합니다 [8] 노란하스터갤로그로 이동합니다. 23.06.01 168 0
2269 🔎질문 셀레니움 없이 크롤링 가능한 방법이 있을까요? [2] chqh(58.123) 23.05.31 177 0
2268 🔎질문 코딩으로 간단한 게임 만들었는데... [7] 가나다라마바사갤로그로 이동합니다. 23.05.30 217 1
2267 🔎질문 pyinstaller 가 pyqt 훅 ImportError 에러가 뜹니다 [9] ㅇㅇ(220.69) 23.05.30 154 0
2265 🔎질문 인터넷 글보고 간단한 키우기 미니게임 만들려는데 실행이 안됩니다 [4] 가나다라마바사갤로그로 이동합니다. 23.05.28 140 1
2263 🔎질문 횐님들 문외한이 물어볼 곳이 없어 찾아왔습니다... [1] ㅇㅇ(59.19) 23.05.28 159 0
2261 🔎질문 matplotlib 오류가 뜹니다... [5] ㅇㅇ(119.197) 23.05.27 147 0
2260 🔎질문 여기저기 돌아다니다 결국 파이썬갤 온 파이썬몇달차 늒네입니다 문제가있어요 [1] ㅇㅇ(122.153) 23.05.27 171 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

디시미디어

디시이슈

1/2