Data Science & AI/Algorithm7 항등 함수와 소프트맥스 함수 기계학습 문제는 크게 회귀와 분류로 나눈다.회귀에서는 출력층의 활성화 함수로, 항등 함수를분류에서는 출력층의 활성화 함수로, 소프트맥스 함수를 이용한다.1. 항등함수 identity function항등함수는 입력을 그대로 출력하는 함수이다.입력과 출력이 항상 같다는 뜻의 항등이다. 따라서 신경망에서 항등함수를 사용하게 되면, 입력 신호와 출력신호가 같다. 2. 소프트맥스 함수 softmax function$ y_{k} = exp(a_{k}) / \sum_{i = 1}^{n}exp(a_{i}) $ n : 출력층의 뉴런 수k : k번째 출력 소프트맥스 함수의 분자는 입력신호의 지수함수, 분모는 모든 입력 신호의 지수함수의 합이다.이를 그림으로 나타내면 다음과 같다. 즉, 츨력층의 각 뉴런이 모든 입력신호.. 2024. 9. 23. 신경망과 활성화함수 단층 퍼셉트론으로 AND, OR 게이트를 표현할 수 있고, 다층 퍼셉트론을 통해 XOR게이트를 표현할 수 있다는 것을 알았다.이번에는 신경망과 퍼셉트론의 차이점인 활성화 함수에 대해서 다뤄본다. 1. 신경망과 퍼셉트론신경망은 입력층(0층) > 은닉층 > 출력층으로 나눌 수 있다.신경망과 퍼셉트론의 차이점을 이해하기 위해, 퍼셉트론을 다시 생각해본다. $ y = \begin{Bmatrix}0 (b + w_{1}x_{1}+ w_{2}x_2 \leq \theta ) \\1 (b + w_{1}x_{1}+ w_{2}x_2 > \theta \end{Bmatrix} $ 이 식을 조금 다른 형태로 작성해본다면, $ y = h(b + w_{1}x_{1}+ w_{2}x_2) $$ h(x) = \begin{Bmatri.. 2024. 9. 21. 퍼셉트론과 논리회로 1 퍼셉트론을 이해하기 위해, 논리회로를 직접 구현하면서 기초부터 정리했다.퍼셉트론과 신경망에 앞서, 함수를 구현하기 위해 가장 기본적인 Numpy 라이브러리의 브로드캐스트 기능을 먼저 알아야 한다.1. Numpy 브로드 캐스트넘파이 배열(np.array)은 N차원 배열을 작성할 수 있다.1차원 배열 : 벡터(Vector)2차원 배열 : 행렬(Matrix)3차원 배열 : 텐서(Tensor) 넘파이에서는 서로 다른 배열끼리도 계산할 수 있는 브로드캐스팅 기능이 있다.a = np.array([[3,4],[5,6]])b = np.array([10,20]) # [10,20],[10,20]의 계산과 동일하게 적용됨print(a*b)[[ 30 80] [ 50 120]] 이 기능을 사용해서 다차원 배열을 가지고 있는 .. 2024. 9. 18. [Algorithm] 자료구조와 알고리즘 - 3. 자료구조 - 스택(Stack) 이 포스팅은 를 학습하면서 정리한 내용이다. https://www.yes24.com/Product/Goods/97142842 파이썬 자료구조와 알고리즘 for Beginner - 예스24 파이썬으로 구현하며 다지는논리적 사고를 위한 기초 체력기본 자료구조와 알고리즘을 쉽게 풀어낸 입문서입니다. 기본 → 간단 구현 → 일반 구현 → 응용 순으로 체계적으로 학습할 수 있습 www.yes24.com 스택(Stack) 입구와 출구가 하나, 먼저 들어간 데이터가 가장 나중에 나오게 되는 구조 스택 : 한쪽이 막힌 파이프 push : 스택에 데이터를 삽입 pop : 스택에 데이터를 추출 top : 스택에 들어있는 가장 위에 있는 데이터 Stack Overflow Stack 영역의 메모리가 지정된 범위를 넘어갈 때 .. 2023. 9. 7. [Algorithm] 자료구조와 알고리즘 - 2. 자료구조 - 큐(Queue) 이 포스팅은 를 학습하면서 정리한 내용이다. https://www.yes24.com/Product/Goods/97142842 파이썬 자료구조와 알고리즘 for Beginner - 예스24 파이썬으로 구현하며 다지는논리적 사고를 위한 기초 체력기본 자료구조와 알고리즘을 쉽게 풀어낸 입문서입니다. 기본 → 간단 구현 → 일반 구현 → 응용 순으로 체계적으로 학습할 수 있습 www.yes24.com 큐(Queue) 양쪽이 뚫린 파이프 큐의 특징 입구와 출구가 다르다. 원리 enQueue : 삽입 deQueue : 추출 front : 첫번째 데이터 (front = -1 > 큐가 비었다는 뜻) rear : 마지막 데이터 01. 단순 코드 구현 ## 함수 ## 변수 SIZE = 5 queue = [None for .. 2023. 9. 6. [Algorithm] 자료구조와 알고리즘 - 1. 자료구조 - 선형 리스트 이 포스팅은 를 학습하면서 정리한 내용이다. https://www.yes24.com/Product/Goods/97142842 파이썬 자료구조와 알고리즘 for Beginner - 예스24 파이썬으로 구현하며 다지는논리적 사고를 위한 기초 체력기본 자료구조와 알고리즘을 쉽게 풀어낸 입문서입니다. 기본 → 간단 구현 → 일반 구현 → 응용 순으로 체계적으로 학습할 수 있습 www.yes24.com 자료구조 컴퓨터 프로그래밍 언어에서 효율적인 자료의 형태, 저자의 표현에 따르면 자료구조 : 식재료, 알고리즘 : 요리 01. 자료구조의 종류 선형 자료구조(실무 활용도 높음) 리스트 선형 리스트(= 순차 리스트) : 배열 단순 연결 리스트 : 노드(Data + Link) 원형 연결 리스트 : 꼬리가 다시 머리 스.. 2023. 9. 5. 정렬 알고리즘 - 선택 정렬, 삽입 정렬 정렬 알고리즘 데이터 요소들을 특정한 순서대로 재배치 하는 방법을 다루는 중요한 주제이다. 정렬(Sorting) : 데이터를 특정한 기준에 따라 순서대로 나열하는 것을 말합니다. 일반적으로 문제 상황에 따라서 적절한 정렬 알고리즘이 공식처럼 사용된다. 선택 정렬(Selection Sort) 처리되지 않은 데이터 중에서 가장 작은 데이터를 선책해 맨 앞에 있는 데이터와 바꾸는 것을 반복한다. 선택 정렬은 N번만큼 반복해야 한다. 평균 및 최악의 시간 복잡도는 O(n^2)이다. 선택 정렬은 단순하게 이해할 수 있으나 대규모 데이터에는 비효율적일 수 있다. array = [7,4,5,9,1,2,3] for i in range(len(array)): min_index = i # 가장 작은 원소의 인덱스 fo.. 2023. 8. 17. 이전 1 다음
