정리 노트

이 포스트는 국민대학교 소프트웨어학부 '알고리즘' 강의를 듣고 요약하는 포스트입니다. 원하시는 정보가 없을 수도 있습니다. 이 점 유의 바랍니다. 오류 지적은 매우 환영합니다! 수학에서 얘기하는 재귀 어떤 함수를 정의하는데 자기 자신의 함수를 이용하는 것을 재귀라고 합니다. 재귀를 흔히 점화식의 형태로 나타낼 수 있습니다. 예를 들어 자연수 n에 대한 함수 f(n) = n! 가 있다고 합시다. 이를 아래와 같이 정의할 수 있습니다. 이 정의를 보면 n! 를 정의하는데 다시 (n - 1)!로 정의합니다. n > 0일 때 식을 풀어써봅시다. n * (n - 1)! = n * (n - 1) * (n - 2)! = n * (n - 1) * (n - 2) * (n - 3)! =... = n * (n - 1) * ..

이 글은 국민대학교 소프트웨어학부 '인공지능' 강의를 듣고 요약하는 글입니다. 실제로 원하시는 정보가 여기에 없을 수도 있습니다. 이 점 유의 바랍니다. 오류 지적 매우 환영합니다! 인공지능(Artificial Intelligent, A.I)의 범주 컴퓨터 과학의 세부 분야들 중 하나로 인간의 학습, 추론, 지각, 자연 언어의 이해 등 지능적 능력을 컴퓨터로 구현하려는 분야입니다. 이를 통해 컴퓨터 또는 기계가 사람처럼 생각하고 행동하는 것을 목적으로 하는 분야입니다. 인공지능이라 함은 사실 범위가 넓습니다. 인공지능 안에서도 여러 범주들로 세분화시킬 수 있습니다. 기계 학습(Machine Learning): 기계 학습은 일반적인 프로그래밍과 차이가 있습니다. 일반적인 프로그래밍 방식은 입력과 프로그램을..

이 글은 국민대학교 소프트웨어학부 '컴퓨터 비전' 강의를 듣고 요약하는 글입니다. 실제로 원하시는 정보가 여기에 없을 수도 있습니다. 이 점 유의 바랍니다. 오류 지적 매우 환영합니다! 이 글에서 사용하는 일부 이미지들은 이 책에서 가져왔습니다. 사용된 때마다 '컴퓨터 비전 도서'라고 표시하겠습니다. 컴퓨터 비전(Computer Vision) : 네이버 도서 네이버 도서 상세정보를 제공합니다. search.shopping.naver.com Edge는 무엇이고 왜 생기는가? 에지(edge)는 쉽게 얘기하면 어떤 것과 다른 어떤 것 사이에 불연속이 생길 때 그 경계선이라 합니다. 지금 주변을 둘러보시면 수많은 에지들을 볼 수 있습니다. 에지들은 불연속인 것이 있기 때문에 생깁니다. 우리가 수없이 보는 이미지..

이 글은 국민대학교 소프트웨어학부 '컴퓨터 비전' 강의를 듣고 요약하는 글입니다. 실제로 원하시는 정보가 여기에 없을 수도 있습니다. 이 점 유의 바랍니다. 오류 지적 매우 환영합니다! 이번 글에서는 영상 처리에 있는 세 가지 기본 연산들에 대해 알아보겠습니다. 이 글에서 사용하는 이미지는 모두 이 책에서 가져왔습니다. 컴퓨터 비전(Computer Vision) : 네이버 도서 네이버 도서 상세정보를 제공합니다. search.shopping.naver.com 기본 연산 세 가지 영상 처리를 진행하면서 사용하는 세 가지 기본 연산이 있습니다. 점 연산: 자신의 명암 값에 따라 새로운 값을 결정 영역 연산: 이웃 화소(픽셀)의 명암 값에 따라 새로운 값 결정 기하 연산: 일정한 기하 연산으로 결정된 화소(픽..

이 포스트는 2015년 12월에 나온 Kerion O'shea and Ryan Nash의 'An Introduction to Convolutional Neural Networks'의 일부 내용과 국민대학교X프로그래머스 주관하는 '2022학년도 여름방학 인공지능 온라인 실전 부트캠프'에서 배운 내용을 섞어서 작성했습니다. 잘못된 해석과 개념 오류 지적 등 모든 것을 환영합니다. 1. Introduction Convolutional Neural Networks(CNNs)는 기존의 인공 신경망(ANN)과 유사합니다. 기존의 ANN과 다른 점은 CNN은 주로 이미지 패턴 인식에서 사용된다는 것입니다. 이를 통해 이미지들을 아키텍처로 인코딩을 할 수 있고 CNN이 이미지 작업에 특화될 수 있게 하는 것과 동시에 ..

Seq2Seq with Attention 디코더는 인코더의 모든 출력을 참고합니다. 인코더에서 나온 hidden state 값들을 모두 출력 값으로 별도의 배열 같은 곳에 기록합니다. 디코더에서 매번 hidden state를 갱신할 때 바로 이전의 hidden state값과 인코더의 hidden state값들과 각각 행렬 곱을 수행해서 'energy'라는 값을 생성합니다. 'energy'는 현재 어떤 단어를 출력하기 위해서 source 문장의 어느 단어에 집중해야 하는지 수치화해 표현한 값입니다. energy값에 softmax를 취해 확률 값을 구하고 가중치를 반영해서 가중치 값을 hidden state에 곱한 것을 각각의 비율의 맞게 더해준 weighted sum 벡터를 매번 반영합니다. Transfo..

Attention query와 비슷한 값을 가진 key를 찾아 value를 얻는 과정입니다. 여기서 key, value는 encoder의 각 time-step 별 출력(각 source language의 단어 또는 문장)을 의미하고 query는 현재 time-step의 decoder 출력(target language로 번역된 단어 또는 문장)을 의미합니다. 참고: https://hazel01.tistory.com/45 Attention 아키텍처 하나의 Attention은 전체 토큰에 대한 출력을 입력으로 받는 FC의 파라미터를 공유해 사용합니다. 전체 encoder의 출력 + 현재 decoder의 hidden이 decoder의 hidden으로 되고 이게 실제 Attention의 값입니다. import to..

이미지 캡션 생성 이미지를 설명하는 문장을 생성하는 기술 분야로 대표적으로 NIC(Neural Image Caption) 모델을 사용합니다. NIC(Neural Image Caption) 간단히 얘기하면 CNN을 이용해 이미지 특징을 추출한 뒤 RNN을 거쳐 문장을 생성하는 것을 말합니다. 이미지 캡션 생성 문제를 이미지를 번역하는 문제라 볼 수 있습니다. 입력을 이미지(I), 출력을 목표 문장(S = {S1, S2, ..., Sn})이라 하면 가능도(likelihood) P(S | I)를 최대화하는 문제로 정의할 수 있습니다. 이미지 캡션 생성에서는 Encoder가 CNN Encoder를 사용해 CNN 절차를 거치게 만듭니다. 공식