전체 글28 데이터 이해 보호되어 있는 글 입니다. 2024. 12. 11. 하이퍼 파라미터 튜닝 - 최고의 요리 레시피 찾기 최고의 요리 레시피 찾기이 프로젝트는 마치 최고의 요리 레시피를 찾기 위한 여정과 같습니다. 모델 성능을 극대화하려는 목표는 마치 손님이 모두 만족할 수 있는 완벽한 요리를 만들기 위한 시도와 비슷합니다.탐색 공간 정의 (xgb_search_space):요리 재료와 조리법을 선택할 범위를 정의하는 과정입니다.요리를 하기 전에 양념의 양, 재료의 비율, 조리 시간 등을 결정해야 하는데, 이 과정에서 가능한 선택지들의 범위를 정합니다. 예를 들어:max_depth는 조리 시간으로 비유할 수 있습니다. (너무 길면 과도하게 익혀져 버리지만, 짧으면 덜 익은 상태가 될 수 있습니다.)learning_rate는 불의 세기로 생각할 수 있습니다. (너무 세면 요리가 타버리고, 너무 약하면 익지 않습니다.)여기서, .. 2024. 11. 12. 선형 예측 모형과 역행렬 선형 예측 모형이란? 먼저 선형 예측 모형이란, 입력 데이터 벡터와 가중치 벡터의 내적을 계산하여 출력값을 예측하는 모델이에요. 여기서 내적은 "특성 값"과 "가중치"를 곱해서 모두 더하는 것을 의미해요. 예를 들어, 단순한 선형 회귀 모델이 있다면, 이 모델은 다음과 같은 형태로 표현됩니다: 여기서: 모델을 학습한다는 것은 가중치인 w값을 찾는 과정이에요.이 가중치 값을 잘 조정하면 예측 결과인 y가 실제 값에 더 가까워질 수 있습니다. 선형 연립방정식이란?선형 연립방정식은 여러 개의 선형 방정식들이 함께 모여 있는 방정식을 의미해요. 예를 들어, 다음과 같은 세 개의 선형 방정식이 있다고 해볼게요: 이와 같이 여러 개의 방정식을 한 번에 푸는 것을 선형 연립방정식이라고 해요. 행렬을 사용하여 .. 2024. 11. 10. 행렬의 놈(Norm) 쉽게 이해하기 놈 (Norm) 행렬의 노름 (Norm)은 쉽게 말해서 행렬의 "크기"를 측정하는 방법 중 하나입니다. 벡터에서 길이를 재는 것처럼, 행렬도 전체적으로 얼마나 "큰지"를 나타내는 수치가 필요합니다. 이걸 노름이라고 부릅니다. 행렬의 노름은 행렬 안에 있는 모든 원소들을 기반으로 행렬의 전체적인 크기를 하나의 숫자로 표현하는 것이에요. 이를 통해 우리가 행렬의 "길이" 또는 "크기"를 알 수 있게 됩니다. 이제, 노름이 무엇인지 몇 가지 중요한 유형을 예로 들어 풀어서 설명할게요.1) 프르베니우스 노름 (Frobenius Norm)프르베니우스 노름은 행렬의 모든 원소를 제곱해서 더한 다음 그 값의 제곱근을 구하는 방식으로 정의돼요. 마치 벡터의 유클리드 길이를 구하는 것과 비슷합니다.비유: 프르베니우스 노.. 2024. 11. 9. 행렬의 크기 - 차원, 놈, 계수 행렬의 크기를 나타내는 개념에는 몇 가지 중요한 개념들이 있습니다. 이들은 행렬의 다양한 특성을 수치적으로 표현하고 이해하는 데 사용됩니다. 주요 개념으로는 차원(dimension), 노름(norm), 그리고 계수(rank) 등이 있습니다. 1. 행렬의 차원 (Dimension)행렬의 차원은 행과 열의 개수로 정의됩니다. 행렬은 일반적으로 m×n 형식으로 표현되며, 여기서 m은 행(row)의 개수, n은 열(column)의 개수를 의미합니다.예시: A가 3×4 행렬이라면, A는 3개의 행과 4개의 열을 가지고 있습니다.표현: m×n으로 표시하며, 행의 수와 열의 수를 포함해 행렬의 모양을 설명합니다.2. 행렬의 놈 (Matrix Norm)행렬의 놈(norm)은 행렬의 크기나 "길이"를 나타내는 값으로, .. 2024. 11. 9. 행렬의 부호 - 정부호, 준정부호, 부정부호 성질 행렬은 여러 개의 숫자로 이루어져 있으므로 실수처럼 부호나 크기를 정의하기 어렵다. 하지만 부호/크기와 유사한 개념은 정의할 수 있다. 여기에서는 이러한 개념을 살펴본다.행렬에는 "정부호(Positive Definite)"와 "준정부호(Semi-Definite)" 같은 개념이 있습니다. 이러한 개념들은 주로 대칭 행렬(Symmetric Matrix)과 관련이 있으며, 주로 선형대수학, 최적화 문제, 그리고 통계학에서 중요한 역할을 합니다. 1. 정부호 행렬 (Positive Definite Matrix)행렬 A가 정부호라는 것은, 어떤 비영벡터 x에 대해 다음 조건을 만족한다는 것을 의미합니다. 이 조건은 임의의 비영벡터 x에 대해 행렬 A가 정의하는 이차 형식이 항상 양수임을 나타냅니다. 정부호 행렬.. 2024. 11. 9. 이전 1 2 3 4 5 다음