반응형

분류 전체보기 500

파이썬 XML 데이터 파싱 예제

Python에서 xml 형식으로 된 파일의 데이터에서 원하는 정보를 추출하는 방법을예시를 통하여 간략하게 정리해보도록 하겠습니다.  기본 예제다음과 같은 XML 파일이 sample.xml 파일로 저장되어 있다고 가정해보도록 하겠습니다. data1 data2  이 파일에서 각 값들을 추출하는 파이썬 코드 예시는 다음과 같습니다.import xml.etree.ElementTree as ETtree = ET.parse('sample.xml')root = tree.getroot()print(f'Root element: {root.tag}')for child in root: print(f'Child element: {child.tag}') for su..

Python/Utils 2024.06.25

파이썬 Selenium으로 Network 패킷 크롤링 예제

Python의 셀레니움을 통해서 네트워크 통신 패킷 로그 정보를 가져오는 코드 예제를간략하게 정리해서 다루어보도록 하겠습니다.  네트워크 패킷이란?참고로, 네트워크 통신 패킷 로그는 F12로 개발자 도구를 연 뒤,Network 탭을 클릭하면 볼 수 있는 정보입니다.  셀레니움 코드 예시원하는 사이트의 네트워크 통신 기록을 가져오는 예시 코드는 다음과 같습니다.(이 코드를 실행하기 위하여 chromedriver 설치가 사전에 필요합니다.)from selenium import webdriverfrom selenium.webdriver.chrome.service import Servicefrom selenium.webdriver.chrome.options import Optionsimport time# 필요한..

Python/Crawling 2024.06.21

[Pandas] 파이썬 데이터프레임 문자열 필터링 방법 정리(str.contains)

Python의 판다스 모듈에서 str.contains 기능을 통하여데이터프레임에서 문자열 기준 필터링을 진행하는 방법을간략하게 정리해보도록 하겠습니다. 이해를 돕기 위하여 다음과 같은 간단한 데이터프레임을 하나 가정해보도록 하겠습니다.import pandas as pddata = { 'name': ['AAA', 'BBB', 'CCC', 'DDD', 'EEE'], 'email': ['aaa@example.com', 'bbb@gmail.com', 'ccc@example.com', 'ddd@example.net', 'eee@gmail.com']}df = pd.DataFrame(data)df  str.contains 기본 예제판다스에서 문자열 필터링은 str.contains 메소드를 통하여 진행이 가..

Python/Pandas 2024.06.17

쿠버네티스 Node/Pod Affinity와 Taint-Tolerations 개념 정리

kubernetes(k8s) 에서 많이 사용되지만 혼동되는 개념인Affinity와 Taint-Tolerations에 대해서 정리해보도록 하겠습니다.  0. 언제 사용되는 개념인가요?해당 개념들은 Pod를 Node에 배정하는 스케줄링을 진행할 때,조건을 제어하는 용도로 사용됩니다.  1. Node Affinity사용 목적Pod를 특정한 조건을 만족하는 Node에 배정하고 싶을 때 사용합니다.  종류- 필수 조건 (requiredDuringSchedulingIgnoredDuringExecution):반드시 만족해야 하는 조건입니다.해당 조건을 만족하지 않으면 Pod는 해당 노드에 스케줄링되지 않습니다.- 선호 조건 (preferredDuringSchedulingIgnoredDuringExecution):만족..

쿠버네티스 kubectl 주요 명령어 정리

kubernetes(k8s) 클러스터를 다루기 위한 명령줄 도구인 kubectl의기초적인 명령어 목록들에 대하여 간략하게 정리를 해보도록 하겠습니다.  1. 클러스터 / 노드 정보 관련# 클러스터 정보 확인kubectl cluster-info# 노드 정보 확인kubectl get nodes  2. 네임스페이스 관련# 네임스페이스 리스트 확인kubectl get namespaceskubectl get ns# 네임스페이스 생성kubectl create ns # 네임스페이스 삭제kubectl delete ns   3. Pod 관련# 파드 리스트 확인(default namespace 기준)kubectl get podskubectl get pokubectl get po -o wide # 상세 정보 포함# 모든 네..

파이썬 데이터 유효성 검증 모듈 pydantic 사용법 정리

Python은 기본적으로 변수를 정의할 때, 데이터 타입 및 조건 검증 과정을 거치지 않는데요.따라서, 데이터를 정의하는 과정에서 타입 등 유효성 조건이 맞는지 확인하는 과정이 필요하다면별도의 검증 과정을 따로 구현해야 합니다. 이 과정에서 pydantic 모듈을 활용하면 검증 단계를 매우 쉽게 진행할 수 있는데요.이번 글에서는 해당 라이브러리의 사용 방법을 간략하게 예제로 정리해보도록 하겠습니다.  모듈 설치 방법pydantic 모듈은 !pip install pydantic 명령어로 쉽게 설치가 가능합니다.  BaseModel 정의데이터의 타입을 특정 종류로 지정하기 위해서는 BaseModel을 불러와클래스에 상속시켜주는 과정이 필요합니다. 코드의 예시는 다음과 같습니다.from pydantic imp..

Python/Utils 2024.06.05

FastAPI 비동기 세션 처리 AsyncSession 활용 예제(sqlalchemy)

지난 번의 글에서는 FastAPI로 sqlalchemy 활용 CRUD 예제 코드를 다룬 적이 있습니다. FastAPI에서 sqlalchemy 활용 SQL DB CRUD 구현 예제안녕하세요. 아래 링크의 지난 글에서는 NoSQL인 MongoDB를 기준으로fastapi의 CRUD 메소드 구현 방법을 알아보았습니다. FastAPI에서 MongoDB 데이터 연동 CRUD 예제안녕하세요. 아래 링크의 지난 글에서는jimmy-ai.tistory.com 이번 글에서는 해당 포스트의 코드를 비동기로 세션을 처리하는AsyncSession를 활용한 코드로 변경해보도록 하겠습니다.  모듈 설치AsyncSession 처리를 위하여 몇 가지 모듈 설치가 더 필요합니다.필요한 모듈들을 설치하는 예제 명령어는 다음과 같습니다. p..

Python/Backend 2024.06.01

FastAPI Query vs Body 예제 및 특징 비교

fastapi에서 유저에게 요청 파라미터를 받는 방식으로 Query와 Body를 많이 사용하는데요.이번 글에서는 이 두 가지 방식의 구현 방법과 차이에 대해서 간략하게 정리해보도록 하겠습니다.  Query parameters 사용 예제fastapi에서 Query를 이용하여 파라미터 요청을 받는 예시 코드는 다음과 같습니다.from fastapi import FastAPI, Queryapp = FastAPI()@app.get("/items")async def read_items(item_id: int = Query(...), q: str = Query(None)): return {"item_id": item_id, "q": q} 해당 예시에서는 item_id는 필수 파라미터, q는 선택 파라미터가 됩..

Python/Backend 2024.05.27

FastAPI에서 sqlalchemy 활용 SQL DB CRUD 구현 예제

안녕하세요. 아래 링크의 지난 글에서는 NoSQL인 MongoDB를 기준으로fastapi의 CRUD 메소드 구현 방법을 알아보았습니다. FastAPI에서 MongoDB 데이터 연동 CRUD 예제안녕하세요. 아래 링크의 지난 글에서는 fastapi의 CRUD 메소드 사용 방법을 알아보았습니다. FastAPI get, post, patch, delete 예제 코드 정리파이썬의 대표 백엔드 모듈인 FastAPI에서 get, post, patch, delete 메jimmy-ai.tistory.com 이어서 이번에는 관계형 데이터베이스(mysql, postgresql 등)를 기준으로fastapi에서 CRUD 메소드들을 구현하는 방법을마찬가지로 간략한 예제를 통해 정리해보도록 하겠습니다.  SQL 데이터베이스 불러..

Python/Backend 2024.05.23

FastAPI Depends 예제 및 장점 간단 정리

fastapi의 Depends를 통하여 의존성 주입을 하는 간단한 예제를 통해서사용하면 좋은 이유와 사용 방법을 간략하게 요약해보도록 하겠습니다.  FastAPI Depends 사용 예제 - 토큰 검사예를 들어 토큰을 통하여 요청을 진행하는 API가 있다고 가정해 보겠습니다.이를 위해 토큰 - 유저 매칭을 진행하는 함수를 다음과 같이 작성해 보았습니다.from fastapi import FastAPI, Depends, HTTPExceptionapp = FastAPI()# admin token이 abcde, 일반 유저 token이 12345라고 가정user_info = {"abcde" : "admin", "12345" : "user1"}def get_current_user(token: str): if..

Python/Backend 2024.05.17
반응형