위지원의 데이터 일기 🐈
Home
  • 분류 전체보기 (563)
    • ✎ 2025년 (4)
    • 2024년 (16)
    • 2023년 (6)
    • 2022년 (35)
      • Developement (22)
      • Error (9)
    • 2021년 (68)
      • ERROR (9)
      • 알고리즘 (11)
      • 개발공부 (21)
      • Data (15)
      • 21.下 (12)
    • 2020년 (164)
      • 코테 (84)
      • Development (29)
      • 정처기 (41)
    • 2019년 (27)
    • 2018년 (89)
      • English Speaking (8)
      • Error (12)
      • C, Java, FileSystem (13)
      • DataBase (15)
      • Java (2)
      • 지식 (16)
      • Go (3)
      • spark (9)
      • 영어 (5)
      • 알고리즘 (6)
    • 2017년 (143)
      • Error (17)
      • machine learning (16)
      • Spark (20)
      • Database (19)
      • Python (17)
      • Spring (9)
      • etc. (10)
      • 백준 (5)
      • Google Platform (12)
      • web Development (7)
      • Docker (3)
      • Linux (8)
Home
  • 분류 전체보기 (563)
    • ✎ 2025년 (4)
    • 2024년 (16)
    • 2023년 (6)
    • 2022년 (35)
      • Developement (22)
      • Error (9)
    • 2021년 (68)
      • ERROR (9)
      • 알고리즘 (11)
      • 개발공부 (21)
      • Data (15)
      • 21.下 (12)
    • 2020년 (164)
      • 코테 (84)
      • Development (29)
      • 정처기 (41)
    • 2019년 (27)
    • 2018년 (89)
      • English Speaking (8)
      • Error (12)
      • C, Java, FileSystem (13)
      • DataBase (15)
      • Java (2)
      • 지식 (16)
      • Go (3)
      • spark (9)
      • 영어 (5)
      • 알고리즘 (6)
    • 2017년 (143)
      • Error (17)
      • machine learning (16)
      • Spark (20)
      • Database (19)
      • Python (17)
      • Spring (9)
      • etc. (10)
      • 백준 (5)
      • Google Platform (12)
      • web Development (7)
      • Docker (3)
      • Linux (8)
블로그 내 검색
포트폴리오

위지원의 데이터 일기 🐈

데이터를 사랑하고 궁금해하는 기록쟁이입니다! 😉 Super Data Girl이 되는 그날까지🏃‍♀️ 화이팅!

  • 🖥 깃블로그
  • 🌍 위키원
  • 📑 내맘대로 스크랩
  • 💌 메일
  • 2017년/etc.

    [개강전 겨울방학때 한거 정리] - 카테고리 끝!

    2017. 8. 28. 13:54

    by. 위지원

     개강이다ㅠ_ㅠ 이번 겨울방학때 포스팅했던 포스트들을 정리해보려 한다... 



    가장먼저 나는 도커에 대해 알아보고자 블로그를 열었던 것같다. 


    나의 첫 포스팅인 도커란?을 시작으로 도커에 대해 알아보았고  도커의 설치법을 아아보고 도커를 사용해보고자 하였다.

    이때는 도커file도 읽을 줄모르고 이게 뭐지하고 복붙만 하고 뭔지몰라 콘테이너,이미지를 삭제하기 수차례였다.

    지금은 도커를 먼저 떠올리고있다.

    도커를 알고난뒤 도커에서 spark를 깔았다 어떻게 명령어 하나로 개발환경이 다 구축되는지 ㅠㅠ흑흑 세상참 좋아졌다.




    연구과제때문에 처음접하게 된 구글플랫폼!  아직도 많이 알지는 못하지만 한것에대해서는 여러번 포스팅했던 것 같다.


    datalab을 처음만져보았을때 notebook이라는 개념도 없어서 많이 어려워했던 것같다.. 지금은 이걸로 텐써플로우 코드를 돌려볼수있다는게 새삼신기.. 


    그다음에는 이때 포스팅후론 필요성이 없다는것을 알고 사용하진 않았지만 구글 플랫폼 빅쿼리에 대해 알아보았다.

    빅쿼리를 브라우저에서 사용해보고 커멘드라인에서도 사용해보았다.


    서비스 종료인걸 나중에 알고 하루를 날렸던 구글 프레딕션api.... 정말 눈물났던 기억이 난다.. 성공했다고 좋아했는데 서비스 종료라니..


    그렇게 내 여름방학 최대의 적이였던 구글ml엔진을 사용해보고 구글 앱엔진이랑 연동해보려고 구글앱엔진에 대해서도 알아보았다.

    앱엔진쓰다가 오류나서 오류도해결하고.. 또 해결하고.. 다된줄알고 배포하려다가 또 오류나서 해결하고.. 또 그러다가 에러나서 해결하고..

    그러다가 우분투가 날라갔다 %^_^사망..ㅎ

    그래서 gcloud부터 다시 설정했다.

    그래서 초심으로 돌아가...ml엔진을 써봤다 조대협이라는 분의 도움으로 ml엔진사용에 박차를 가하고 결국되었다 ㅠㅠㅠ



    처음에 텐서플로우,머신런닝 개념하나 없이 코드를 돌려보고자했던것같다. 데이터 마이닝 수업때 들은건 다 어디간건지..끙@@

    그래서 다시 기초 이론부터 공부하고자 선형회귀분석을 공부했고 머신런닝 기초를 또 공부하고

    텐서플로우 큐라는 개념을 공부했었다. 파일입출력시키려고했던것같다. csv파일을.....

    ㅋㅋㅋ 지금 정리하다가 알게된건데 선형회귀 또 했었다.....

    그러다가 막상 모델을 설계하려니 눈앞이 깜깜해져왔던 와중에 너무나도 쉽게 설명한 머신런닝글을 찾게되어 읽었다.



    지금도 정확히 뭔지 모르겠지만.. 한달전 처음 알아본 스파크 너무 어려웠다. 클러스터링.. 플랫폼.. 등등 너무 처음 보는 단어가 많았기때문에 어려웠다.. 지금도 어렵지만.... 

    스파크에서 제공하는 기능인 맵리듀스에 대해도 공부했고 spark를 직접 설치해봤다. 그리고 spark를 공부하다가 데이터구조인 RDD를 공부! (사실 하둡공부할때였는지 스파크였는지 기억이..)

    sparkR을 쓰기 위해서 R에대해서 공부하고 또 공부하고  (번외로 R시각화에 대해 공부해봄 -ggplot)스파크 분산처리를 위해 버츄어머신으로 노드 3대를 만들었다.. (이때까지도 노드가 뭔지도몰랐던 컴맹..) 버츄어박스도 삽질 많이 했다  ㅜㅜ   네트워크설정이 어려웟다 ...

    그리고나서 외전으로 hbase에 대해 공부하고

    좋은 논문을 뒤늦게 발견하고  sparkR을 공부하여 발표했다. 이대 느낀게 그냥 논문하나 완독하는게 싸이트 뒤지는것보다 낫다는걸 알았다.. 는 이해잘못해서 sparkR을 또 공부했다.



    데이터베이스 설계때문에 시작한 sqlite1부, sqlite2부 ... 사실 1학기때 파이썬 수업을 들으면서 2시간정도? 아주 짧게 배운게 전부였다. (커넥션과 쿼리날리는 정도만...) 그래서 자세하게 한번 알아봤던것 같다. 

    sqlite 공부하다가 아리송한게 너무 많아서 데이터베이스에 대해 기초를 다시 공부하고 설계공부도 한번 더했다.

    sqlite를 사용하기 위해 db browser for sqlite라는 툴도 써보았고  sqlite를 서버/클라이언트로 사용하기 위해서 xml rpc를 공부했다.

    클라이언트에서 파일 생성을 위해 python에서의 파일 생성도 다시 알아보고 피클....

    이때 파일 생성하는 코드를 다른 코드에서 쓰려고 import하려다가 2.x,3.x이 다르다는것을 알았다.

    이번 방학때 최고로 날 행복하게 해준 광석같은 존재인 orm.. 지금도 너무 감동이다 ㅠ_ㅠ 웹페이지 설계도 현재 jpa로 하고있는데 orm 쨔응.. orm을 직접사용해보고 또 공부하고 그러다가 ㅋㅋㅋ내가 기초가 너무 없다는걸 느낀게 sqlite에서 지원도 하지않는걸 하려했었다.

    또 mysql을 일년을 썻으면서 데이터가 어떻게 lock되는지도 처음알았다. 그리고나서 mysql 함수,프로시저등을 새로 공부했다.

    정규수업땐 이걸 안배웠다. 오라클로는 배웟는데 오라클을 중간부터 배워서 그땐 따라하기 바빳던..




    여름방학 일이였던 웹페이지 설계때문에 지난 겨울방학보다 체계적으로 하고자 개발환경부터 꼼꼼히 살펴보았다.

    웹페이지를 원래 파폭에서 실험했는데 크롬으로 바꾸어 실험했다. 예전엔 jsp 하나로 다 뭉쳐놔서 이번엔 js파일로 나누려다보니 내가 너무 막코딩을 한걸 알고 세션,자스에 대한 공부를 했다.

    그리고나서 spring+maven에 대해 처음으로 알고 개발환경으로 구축했다.

    그리고나서 mysql과 spring을 연동하고 ... 처음에 마이바티스 쓰려다가 spring jpa라는걸 알고 진짜 하루종일 신나서 뛰댕겻다


    난 주로 개발을 리눅스에서 하게되었다. 사실 리눅스는 작년 이즈음?이였던가에 처음 라즈베리파이로 영상처리를 하면서 처음 접했다.

    리눅스 개발자가 21살때 리눅스를 개발했덴다;;; ㅠ_ㅠ 천재둥이.. 아무튼 그렇게 리눅스로 작업했는데 

    이번 방학에 리눅스만 3번을 포멧한거같다..ㅎ 그래서 위에서 도커도 썻던거고...

    그렇게 눈물을 머금고 날려버린 뒤 가상환경을 사용했다.

    그리고나서 문득 난 리눅스가 뭔지모르네 하고 리눅스종류에대해서도 알아봤다. 우분투 서버버전이 따로있다는것도 처음암!

    그러고서 리눅스를 날렷으니 자바부터 다시설치했다.



    그외에..

    sas 분석대회준비하려고 sas 유니버셜에디션도 사용해봤다. 결국 바빠서 대회는 못나갔지만... ㅠㅠ da설계대회도 못나갔다 힝 




    이번 겨울방학동안 그래도 많이 한 것 같아서 기분이 좀 좋은것같다.. 이번 4학년2학기때는 삽질좀 그만하고..... 순탄하게 흘러가길 바란다..

    저작자표시 (새창열림)

    '2017년 > etc.' 카테고리의 다른 글

    우분투에서 안드로이드 개발 환경을 구축해보자  (0) 2017.09.25
    가상화를 알아보자  (0) 2017.09.16
    nano 편집기 사용시 tab길이 조절하는방법  (0) 2017.09.14
    버츄어박스로 노드를 만들어보장  (0) 2017.09.13
    컴맹을 탈출해보자  (0) 2017.09.12

    잠깐만요~! 읽으신김에 이런 글들은 어떠세요? 👀

    • 가상화를 알아보자 2017.09.16
    • nano 편집기 사용시 tab길이 조절하는방법 2017.09.14
    • 버츄어박스로 노드를 만들어보장 2017.09.13
    • 컴맹을 탈출해보자 2017.09.12
    맨 위로
전체 글 보기
Tistory 로그인
Tistory 로그아웃
로그아웃 글쓰기 관리

열정! 열정! 열정! 🔥

Designed by Nana
블로그 이미지
위지원
데이터 엔지니어로 근무 중에 있으며 데이터와 관련된 일을 모두 좋아합니다!. 특히 ETL 부분에 관심이 가장 크며 데이터를 빛이나게 가공하는 일을 좋아한답니다 ✨

티스토리툴바

티스토리툴바