Seongbum Tech Blog

이 글은 대규모 언어 모델(LLM)의 연속 학습 전략과 관련된 연구 동향을 요약했다. 1. 연속 학습의 배경과 중요성 연속 학습(Continual Learning)은 LLM이 새로운 정보를 학습하면서 동시에 기존에 습득한 지식을 유지하는 능력을 말한다. 이 능력은 다음과 같은 이유로 LLM 발전에 중요하... Read More

Explayinability는 LLM의 의사결정 과정을 인간이 이해할 수 있는 형태로 설명하는 능력을 의미한다. 모델의 신뢰성과 투명성을 높이는 데 중요한 역할을 한다. Explainability는 크게 두 가지 패러다임으로 나뉜다: (1) 전통적인 fine-tuning 패러다임과 (2) prompting 패... Read More

이 글은 Song et al.의 Autonomous Drone Racing with Deep Reinforcement Learning을 요약한 것이다. 논문은 deep reinforcement learning을 이용해 드론의 준최적 시간 궤적을 생성하는 방법을 제안한다. 배경 자율 드론 레이싱은 복잡한 3... Read More

이 글은 동명의 서베이 논문에서 내가 집중한 내용들을 추리고, 인용된 논문들에서 참고가 되는 내용들을 덧붙이고, 나의 의견을 함께 서술하였다. Federated Learning (FL) Overview Federated Learning (FL)은 여러 장치에서의 데이터를 중앙집중식으로 수집하지 않고, 각 장치에서... Read More

공유 자전거 사용량 예측 [Kaggle] 목표 워싱턴 D.C.의 Capital Bikeshare 수요를 시간대 별로 예측 자전거 대여 수요를 예측하기 위해 과거 사용 패턴과 날씨 데이터를 분석 데이터 필드 과거 사용 패턴: 시간(hour), 휴일 여부 날씨 데이터: 계절, 날씨, 온도, 체... Read More

데이터 소스: 데이터가 생성되고 저장되는 곳 Sources OLTP Database via CDC OLTP 예시 ex. 은행 계좌에서 이체할 때 A 계좌의 출금과 B 계좌의 입금이 동시에 정확하게 일어나야 함 두 가지 오퍼레이션이 하나의 트랜잭션으로 일어나야 함 그것을 처리해주는 데이... Read More

가상환경 생성 python -m venv .venv 가상환경 활성화 source .venv/bin/activate ipykernel 설치 pip install ipykernel Jupyte... Read More

폐쇄망을 사용하는 등의 환경에서 보안 정책 상 yum을 통해 패키지를 설치할 수 없는 경우가 있다. 이 때 외부망 PC에서 yumdownloader를 사용하여 rpm 파일만 다운로드하여 설치할 수 있다. yum-utils 설치 yumdownloader는 yum-utils 패키지에 포함되어 있다. 따라서 먼저 yu... Read More

데이터 인프라의 목적 비즈니스 리더들의 의사결정 도움 서비스/제품을 데이터의 도움을 받아 향상 데이터 인프라 기초 Production Systems 사내 데이터가 생겨나는 곳 ex. ERP, CRM, Database 분석을 하고자 할 때 각각 하위... Read More