mung_TIL

텐서

텐서(Tensor)딥러닝과 머신러닝에서 데이터를 표현하는 기본 단위예) 이미지 데이터 (4D 텐서), 자연어 처리(3D 텐서), RNN 상태 정보(2D 텐서) 차원차원에 따라 다른 명칭을 가짐 (랭크로 표현)스칼라: 단순 숫자- 예) 4, 3.14scalar = torch.tensor(4)print(scalar)print(scalar.dim())print(scalar.item())# 결과# tensor(4)# 0# 4​벡터: 1차원 텐서 (리스트)- 크기와 방향이 있음- 하나의 축으로 이뤄져있음- 예) [2, 4, 6] 행렬: 2차원 텐서 (중첩 리스트)- 예) [[1, 2], [3, 4]]matrix = torch.tensor([[1, 2], [3, 4]])print(matrix)print(matrix..

LLM_딥러닝 모델

모델구조학습 방식주요 특징MLP다층 퍼셉트론역전파(Backpropagation)입력값 간 순서를 고려하지 않음DNN깊은 신경망역전파복잡한 데이터 처리 가능RNN순환 신경망시간축 학습(시퀀스)순서가 중요한 데이터 처리 가능  ANN (Artificial Neural Network)인공신경망(ANN)은 인간의 신경망을 모방한 기계 학습 모델.퍼셉트론과 MLP가 ANN의 기본 구조를 이룸. DNN (Deep Neural Network)MLP를 확장하여 은닉층을 깊게 쌓은 신경망을 DNN이라고 함.특징 추출과 복잡한 패턴 학습이 가능하지만, 학습이 어려운 문제(Vanishing Gradient) 발생. RNN (Recurrent Neural Network) Recurrent: 이전의 결과를 다음 입력에 반영과거..

퍼셉트론인공 뉴런을 수학적으로 모델링한 개념딥러닝의 기초가 되는 알고리즘단순한 이진 분류 문제 해결 알고리즘가장 기본적인 인공신경망 모델여러 개의 입력을 받아 하나의 출력으로 만드는 모델 가설식입력 x (Input): 여러 개의 입력값 가중치 W (Weight): 각각의 입력에 적용되는 가중치바이어스 b (Bias): 모델이 더 유연하게 학습할 수 있도록 추가된 값활성화 함수 f (Activation Function): 입력과 가중치의 선형 결합 결과를 변환하는 함수단순 퍼셉트론에서는 계단 함수를 사용하여 출력이 0 또는 1이 되도록 함 연산 과정 여러 개의 입력을 받아 가중치를 곱하고 더한 후특정 조건을 만족하면 1, 그렇지 않으면 0을 출력한계  단일 퍼셉트론은 선형 분리가 가능한 문제를 해결할 수 ..

CoT (Chain of Thought)연쇄 추론을 의미하는 개념LLM에서 단계별 추론 과정을 명시적으로 포함하는 프롬프트 기법 또는 모델 학습 방식복잡한 문제를 해결할 때, 인간이 생각하는 방식과 유사하게 중간 사고 과정을 기술함으로써 성능을 향상시킴즉각적인 답변 생성 말고 문제 해결 과정을 통해 정확한 답을 도출할 수 있도록 유도프롬프트에 예제(Few-shot CoT) 또는 명시적인 지시문(Zero-shot CoT)을 포함하여 모델의 추론 능력 향상적절히 사용해 AI의 설명력과 신뢰성 높임인간이 문제를 해결하는 방식(사고 체인)과 유사한 패턴을 모델에 학습시킴NLP, AI, 코드 생성, 수학 및 논리 문제에서 사용주의논리적으로 맞지 않는 사고  과정이 생성될 수 있음너무 복잡할 경우 모델에 혼란을 가..

얕은 복사(Shallow Copy)최상위 객체만 복사하고 중첩된 객체 내부의 데이터는 복사되지 않음객체 내부에 포함된 중첩 객체는 원본과 동일한 참조를 가짐리스트나 딕셔너리 같은 가변 객체에 주로 해당복사본의 일부가 변경될 경우 원본도 영향을 받을 수 있음1차원 리스트나 데이터 구조가 간단한 경우copy 모듈의 copy 함수 사용import copy# 원본 리스트list_a = [1, 2, [3, 4]]# 얕은 복사list_b = list_a[:]list_c = copy.copy(list_a)# 복사본 수정list_b[0] = 10list_c[2][0] = 100print("원본 리스트:", list_a)print("복사본 리스트 b:", list_b)print("복사본 리스트 c:", list_c)# ..

SQL(Structured Query Language)데이터베이스에서 데이터를 저장, 수정, 삭제, 조회하는 데 사용하는 언어입니다. 쿼리 종류데이터 정의어 DDL (Data Definition Language): 데이터베이스 구조를 정의CREATE : 데이터베이스, 테이블, 인덱스 등을 생성ALTER : 테이블 구조 변경 (컬럼 추가/삭제, 데이터 타입 변경 등)DROP : 데이터베이스, 테이블, 인덱스 삭제TRUNCATE : 테이블의 모든 데이터를 삭제(롤백 불가)데이터 조작어DML (Data Manipulation Language)INSERT : 데이터 삽입UPDATE : 데이터 수정DELETE : 데이터 삭제데이터 질의어DQL (Data Query Language)SELECT : 데이터 조회데이터..

문제 설명정수 l과 r이 주어졌을 때, l 이상 r이하의 정수 중에서 숫자 "0"과 "5"로만 이루어진 모든 정수를 오름차순으로 저장한 배열을 return 하는 solution 함수를 완성해 주세요.만약 그러한 정수가 없다면, -1이 담긴 배열을 return 합니다.예) 5 이상 555 이하의 0과 5로만 이루어진 정수는 작은 수부터 5, 50, 55, 500, 505, 550, 555가 있습니다. 따라서 [5, 50, 55, 500, 505, 550, 555]를 return 합니다. Answer 1반복문의 범위를 l 이상 r 이하로 설정정수를 문자열로 변환, 0과 5로만 이루어진 정수인지 확인하는 변수 check_num 설정문자열의 문자가 0과 5가 아니면 check_num을 false로 바꾸기chec..

SQLite가벼운 파일 기반의 관계형 데이터베이스 관리 시스템소규모 프로젝트나 간단한 테스트 환경에 적합Django가 기본으로 사용Python과 같이 기본적으로 제공되므로 추가 설치가 필요 없음하나의 .sqlite3 파일에 모든 데이터가 저장됨메모리 사용량이 적으며 속도가 빠름한계- 여러 사용자가 동시에 데이터를 쓸 경우, 충돌 발생 가능- 대량의 데이터를 처리하는 데 적합하지 않아 확장성이 부족함- 파일 기반이라 네트워크 접근이 불가해 여러 컴퓨터에서 공유하기가 어려움 PostgreSQL오픈소스 관계형 데이터베이스 관리 시스템대규모 데이터 처리가 가능해 많은 동시 연결을 처리할 수 있음ACID 규칙을 준수하여 데이터의 무결성을 보장원자성, 일관성, 고립성, 지속성원격으로 접근이 가능하여 데이터베이스 공..

Docker 기본 플로우dockerfile 작성 → image 빌드 → container 실행 dockerfile 컨테이너 이미지를 생성하기 위한 명령어 모음이 담긴 텍스트 파일 (명령이 들어있는 설계도)dockerfile 작성 - 실제로 실행해야할 명령어들을 순서대로 작성베이스 이미지 선택 이미지의 기반이 될 OS 또는 런타임 선택 애플리케이션 설치 및 설정 필요한 코드와 파일을 이미지에 복사 파일 복사 애플리케이션 실행에 필요한 라이브러리나 도구 설치 작업 디렉토리 설정 컨테이너에서 열어야 할 포트 정의 애플리케이션 실행 명령어 컨테이너 실행 시 기본으로 실행될 명령 설정 더보기# 1. 베이스 이미지FROM python:3.10-slim# 2. 작업 디렉토리 설정WORKDIR /app # 컨테..

set_password사용자의 비밀번호를 안전하게 저장할 수 있도록 해시(hashing) 처리를 해주는 메서드평문으로 입력된 비밀번호를 해시화하여(암호문으로 변경하여) 데이터베이스에 저장직접 평문 비밀번호를 저장하지 않음해시 알고리즘을 사용해 암호문으로 변경되기 때문에 보완성이 보장됨UserCreationForm은 내부적으로 set_password를 사용하여 비밀번호를 해시화함from django.contrib.auth.models import User# 사용자 생성user = User(username='example_user')# 비밀번호 해시화user.set_password('password12341234') # 데이터베이스에 저장user.save()비밀번호 검증검증 성공 : "데이터 베이스의 암호..