SYDev

가장 유명한 알고리즘 디자인 패러다임인 분할 정복(Divide & Conquer)을 이해하고 예제를 통해 구현해보자. 분할 정복 분할 정복(Divide & Conquer): 주어진 문제를 둘 이상의 부분 문제로 나눈 뒤 각 문제에 대한 답을 얻어내는 방법이다. 부분 문제와 나머지를 나눌 때 거의 같은 크기로 나눈다. 분할 정복 설계 divide: 문제를 더 작은 문제로 분할하는 과정 conquer: 해결이 용이한 수준까지 분할된 문제를 해결하는 과정 merge: 각 문제에 대해 구한 답을 원래 문제에 대한 답으로 병합하는 과정 수열의 빠른 합과 행렬의 빠른 제곱 #include using namespace std; int fastSum(int n) { if(n == 1){ return 1; } if(n ..

문제풀이 과정에서 가장 간단하면서 틀릴 가능성이 낮은 '완전 탐색(exhaustive search)' 알고리즘과 이를 구현하는데 유용한 '재귀 호출(recursion)'을 이해하고 문제를 통해 직접 구현해보자. 완전 탐색과 재귀 호출 완전 탐색 완전 탐색(exhaustive search): 컴퓨터의 빠른 계산 능력을 이용해 가능한 경우의 수를 일일이 나열하면서 답을 찾는 방법 경우의 수가 커지더라도 컴퓨터의 계산 능력을 고려하면 생각보다 훨씬 간편하게 문제를 풀 수도 있다. 재귀 호출 재귀 함수(recursive function): 자신이 수행할 작업을 유사한 형태의 여러 조각으로 쪼갠 뒤 그 중 한 조각을 수행하고, 나머지를 자기 자신을 호출해 실행하는 함수 재귀 함수에는 "더이상 쪼개지지 않는" 최소..

오늘은 further questions와 실습 코드에 대해서만 다룰 예정 Further Questions Q1. 왜 filter visualization에서 주로 첫번째 convolutional layer를 목표로 할까? CNN filter는 첫번째 convolutional layer의 input이 RGB 채널로 이루어져 있어 직관적으로 이해하기가 쉽다. 반면에 뒤로갈수록 인간이 직관적으로 이해하기가 어렵다는 특징이 있다. Q2. Occlusion map에서 heatmap이 의미하는 바가 무엇인가? 각 픽셀이 얼마만큼의 중요도를 갖는지 나타내는 score라 해석할 수 있다. 확률값으로 계산하므로 heatmap으로 시각화할 수 있다. Q3. Grad-CAM에서 linear combination의 결과를 R..

본 게시물은 네이버 부스트 캠프 cv 강의(https://www.boostcourse.org/ai340/joinLectures/369545)를 기반으로 작성된 게시물입니다. CNN Visualization의 개념 및 활용목적을 파악하고, 어떤 방식으로 시각화를 진행하는지에 대해 알아보자. What's CNN Visualization? CNN Visualization: CNN 내부를 시각화하여, 모델의 학습 과정을 직관적으로 확인할 수 있도록 하는 과정 직관적으로 파악이 어려운 Black Box 형태의 CNN 내부를 시각화하여, 모델이 어떤 학습 과정을 거쳐 성능을 잘 내는지와 어떻게 모델 성능을 향상시킬 수 있는지 생각해볼 수 있다. 기본적인 예시: Filter Visualization Convoluti..

참고자료 구종만, , 인사이트, 2012.11.01

3주만에 대면 세션! 세션 도중 이해가 되지 않았거나, 더 알아보고 싶었던 내용 위주로 작성 예정 ResNet에서 gradient vanishing을 해결하는 원리 resnet 이전의 모델에서 layer가 너무 깊어질수록 gradient vanishing/exploding 문제로 성능이 저하되는 문제가 발생함. gradient vanishing: layer가 깊을수록, back propagation의 미분 과정에서 기울기가 소실되는 문제가 발생 ResNet에서는 skip connection을 이용한 residual learning을 통해 gradient vanishing 문제를 해결 ResNet 기존의 CNN은 입력값 x를 y로 매핑하는 함수 H(x)를 얻는 것이 목적 ResNet은 F(x)+x를 최소화..

c++, 자료구조까지 공부를 끝내고, 다음으로 알고리즘을 어떻게 공부할지 고민을 많이 하다가 c++을 다루는 알고리즘 서적인 [프로그래밍 대회에서 배우는 알고리즘 문제 해결 전략]을 선택했다. 일명 종만북이라고 불리는데, 난이도가 상당하다고 하니 열심히 공부해보자..! How to Solve the Problem 1. 문제를 읽고, 이해: 작은 조건까지 완벽하게 이해하자 -> 사소한 거 하나 틀려도 오답처리 2. 문제를 나에게 익숙한 용어로 재정의: 문제의 추상화 -> 다루기 쉬운 수학적/전산학적 개념으로 표현 3. 어떻게 해결할지 계획: 사용할 알고리즘, 자료구조 선택 -> 체계적 접근을 위한 질문 - 비슷한 문제를 푼 적이 있나? - 단순(무식)하게 풀 수 있을까? - 문제 푸는 과정을 수식화할 수 ..

이번 챕터에서는 다른 내용 다 생략하고 복잡도에 관해서만 다룰 예정이다. 복잡도 시간 복잡도(Time Complexity): 특정한 크기의 입력에 대하여 알고리즘이 얼마나 오래 걸리는지를 의미, 알고리즘을 위해 필요한 연산의 횟수 공간 복잡도(Space Complexity): 특정한 크기의 입력에 대하여 알고리즘이 얼마나 많은 메모리를 차지하는지를 의미, 알고리즘을 위해 필요한 메모리의 양 시간과 메모리 측정 import time start_time = time.time() #프로그램 소스코드 end_time = time.time() print("time :", end_time - start_time) #수행 시간 출력 >> 시간과 메모리 측정법 참고자료 나동빈, , 한빛미디어, 2020.09.28