매일매일 발전일지

17. 힘들지만 즐거워, 발전이 있었던 하루

한소희DE 2021. 6. 28. 08:33

 

오늘의 날짜: 2021년 06월 28일

 

 

 

01. 오늘을 회고하며

나는 현재 기업과 프로젝트를 진행 중이다. 오늘은 기업으로부터 데이터 접근 권한을 받았다.

접근 권한을 확인하며, 문제가 생겼다. 바로 어디를 가도 접근 권한을 찾을 수 없었던 것이다... 이 문제를 해결하기 위해, 새로운 구글 아이디 계정을 생성해 테스트해보기도 했다.

 

(곧바로 '안 된다'라고 기업 관계자님께 말씀드리기보단, 내가 할 수 있는 만큼 최대한 구글링을 해서 문제를 해결하도록 노력하는 게 맞다고 생각했다. 따라서 수 시간을 구글링 하고 시도해봤지만 결국엔 되지 않았다.)

 

관계자님께 말씀을 드렸고, iam 접근 권한 할당 등에서 이슈가 생겨 프로젝트가 뜨지 않았던 것으로 결론이 났다. 따라서 관계자님께서 한 차례 더 승인 요청을 해주자 바로 접근 권한이 생성되어 데이터를 볼 수 있게 됐다. 야호! 해결돼서 너무 속이 후련했던 오늘이었다. 이제부터 본격적인 기업 프로젝트의 시작이다. 떨리고, 긴장된다.

 

게다가, 오늘은 기존에 하던 팀플에서 '셀레니움을 이용한 크롤링'에서 이슈가 생겨 수 시간을 고민해 해결했다... 정말. 더하여 회의까지. 오늘은 하루 종일 삽질의 연속이었기 때문에, 평소보다 스트레스를 받았던 것 같다.

하지만, 스타벅스에서 친구와 함께 공부를 해서 그런가, 그나마 밝게(?) 하루를 마무리할 수 있었다.

 

할 일이 겹치다보니 눈 코 뜰 새 없어 바빴지만, 이럴 때 일 수록 스케줄링 관리를 잘해야겠다는 생각이 드는 요즘이다.

 

기업 프로젝트에서 사용해야 할 Airflow 공부도 시작해야 하고, 공부하는 내용을 일일이 정리해야 하기도 하기 때문에 낮에는 살짝 아찔했지만, 그만큼 배우는 게 많아지니까 긍정적으로 생각하고 행동해야겠다고 느꼈다! (힘든데 재밌다...★)

 


 

02. 어제보다 발전한 오늘

 

01. GCP 프로젝트 접근권한 이슈 문제 해결 - 접근 성공! : 나중에도 이런 문제가 생긴다면 iam 접근 권한 이슈를 확인해보자!

02. 업데이트 테이블 고민문제 - 방법론 모색 절반 성공! : 테이블 클러스터링 방법론을 모색해보자! + DMR

03. 공용 AWS 서버 설치 방법 배우기 

04. Airflow가 어떤 Tool인지 이해(Airflow를 사용해야 하는 이유 이해) ! : 아래 오늘의 집 게시물을 참고!

05. Selenium 동적 테이블 데이터 크롤링 방법 알아내기 성공! : 아래 ※ 참조한 링크(게시물) 참고!

+ 스타벅스의 캐모마일 티는 생각보다 맛있다는 것을 알게 되었다.

+ 힙업 운동을 했다. 어제보다 튼튼한 하체를 갖게 됐다.

 

 

※ 참조한 링크(게시물)

https://eng-sohee.tistory.com/78

 

07. Selenium - 동적 사이트 테이블 Crawling

목차 크롤링 사용 목적 Selenium 구현과정 01. 크롤링 사용 목적 우리는 동적 페이지 내 데이터를 실시간 수집을 해와야 한다. 대시보드에 실시간으로 데이터를 띄워주어야 하기 때문이다. 따라서

eng-sohee.tistory.com

 

 


 

 

03. 오늘의 인상깊은 글

 

https://www.bucketplace.co.kr/post/2021-04-13-%EB%B2%84%ED%82%B7%ED%94%8C%EB%A0%88%EC%9D%B4%EC%8A%A4-airflow-%EB%8F%84%EC%9E%85%EA%B8%B0/

 

버킷플레이스 Airflow 도입기 - 오늘의집 블로그

탁월한 데이터플랫폼을 위한 Airflow 도입기

www.bucketplace.co.kr

 

 

이 글을 읽으며, Airflow를 왜 도입하게 되었는지(어느 포인트에서 필요성을 느꼈는지), Airflow의 사용 용도에 대해 이해할 수 있게 됐다. 물론, 아직은 Airflow를 안 써봤고 공부를 안 해봤기 때문에, 이것의 코드를 이해할 수는 없었지만, 개략적인 상황은 파악할 수 있었다.

 

나도 이제 짧은 시간 내에 Airflow를 통한 간단한 Workflow를 설계해야 하는데, 벌써부터 걱정이 앞서기도 하고, 떨리기도 한다.

오늘의 집의 글에서 많은 도움을 얻어, 내일부터 다시 또 배우고 공부하고 달려야겠다. 아자아자! 꾸준히 가자. 파이팅!

 

오늘의 회고 끝 -