본문 바로가기

전체 글13

MLOps - Docker 도커의 기본 개념 Containerization : 컨테이너화 하는 기술 Container : 격리된 공간에서 프로세스를 실행시킬 수 있는 기술 도커의 장점 : Build Once, Run Anywhere 공식 문서 https://docs.docker.com/engine/install/ubuntu/ 여러가지 install 방법 중, Install using the repository 방법으로 진행하겠습니다. 앞으로 어떤 오픈소스를 사용하더라도, 블로그가 아닌 공식 문서를 참고하시는 습관을 들이는 것을 추천드리겠습니다. 1) Set up the repository 먼저 apt 라는 패키지 매니저를 업데이트합니다. $ sudo apt-get update 그리고, docker 의 prerequisite pac.. 2022. 2. 27.
MLOps Tools No.1 데이터 데이터 수집 파이프라인 → Sqoop, Flume, Kafka, Flink, Spark streaming, Airflow 데이터저장 → MySQL, Hadoop, Amazon S3, MinIO 데이터관리 → TFDV, DVC, Feast, Amundsen 모델 모델개발 → Jupyter Hub, Docker, Kubeflow, Optuna, Ray, katib 모델버전관리 → Git, MLflow, Github Action, Jenkins 모델학습 스케줄링 관리 → Grafana, Kubernetess 서빙 → 데이터를 받으면 ML 모델에 predict 함수를 돌리는게 아닌 API 서버를 통해 제공하는 서비스 모델패키징 → Docker, Flask, FastAPI, BentoML, Kub.. 2022. 2. 27.
GCP + VScode 연동 https://typingdog.tistory.com/102접속할 서버에 SSH config 변경 GCP에 경우 /etc/ssh/sshd_config에서 변경 GCP Linux Keygen ssh-keygen -t rsa -C "your google account" 아래 키값을 위 GCP에 메타데이터에 기입해주세요. - 접속할 유저에 경우 빨간줄에 있는걸 다 설치해주세요 :) 2.설정 접속 CONFIG 값 변경 User : GCP내에 유저 이름 HostName : 자신이 연결할 SSH IP, GCP에 경우 외부 IP Host : SSH TARGETS에 나올 이름IdentityFile : GCP에 연결한 Public Key 파일 경로 위 설정을 저장하면 아래와 같이 HOST 정보가 뜨는 생성한 host로 .. 2022. 2. 23.
Personal Project - 보안 컨설팅 기존 사내망의 보안 취약점 분석 및 VPN을 사용한 협력사와 사내망 분리 1) SYSTEM 직원 PC : Windows 7 Windows Server : 2012(DHCP) DNS : CentOS 6 SSH : OpenSSH_5.3 Mail : Linux sendmail 8.14.4 FTP : vsftpd-2.2.2-24.el6.x86_64 Telnet : 0.17-48.el6.x86_64 Database : 5.7.25 - MySQL Community Server (GPL) 2) CLOUS SYSTEM 보안 컨설팅 이후 자세한 모의 해킹 및 보고서는 이 링크를 참고해주세요 https://drive.google.com/drive/folders/1DAByGqAqVHmVwKY-5-HbBEB9MPzWp5Cf?.. 2021. 12. 27.