07-1 확인 문제를 풀고, 풀이 과정을 정리해 보세요.
-
어떤 인공 신경망의 입력 특성이 100개이고 밀집층에 있는 뉴런 개수가 10개일 때, 필요한 모델 파라미터의 개수는 몇 개 인가요?
① 1,000 개 ② 1,001 개 ③ 1,010 개 ④ 1,100 개
⇒ 입력 특성이 100개이면서 밀집층에 있는 뉴런 개수가 10개인 경우, 밀집층의 다른 말인 “완전 연결층”을 떠올려 본다면 입력과 모든 뉴런이 모두 연결되어 있기에 그 만큼 곱을 이뤄야 하며, 뉴런 개수만큼 절편(편향)을 통해 조절이 가능하므로, 100 × 10 + 10 = 1,010 이 된다. (ChatGPT에게 질문한 내용 공유)
-
케라스의 Dense 클래스를 사용해 신경망의 출력층을 만들려고 합니다. 이 신경망이 이진 분류 모델이라면, activation 매개변수에 어떤 활성화 함수를 지정해야 하나요?
① ‘binary’ ② ‘sigmoid’ ③ ‘softmax’ ④ ‘relu’
⇒ 이진 분류의 경우 로지스틱 회귀는 임계치 0.5를 기준으로 0과 1을 판단하는 시그모이드 함수를 기반으로 구현되었고, 활성화 함수 역시 시그모이드 함수를 통해 이진 클래스를 분류하는 출력층을 만들 수 있다.
(ChatGPT 도움 받아 내용을 정리해보면) 신경망에서 **활성화 함수**는 입력 값을 변환하여 출력하는 역할을 합니다.
단순한 선형 변환만으로는 복잡한 패턴을 학습할 수 없기 때문에, **활성화 함수를 사용하여 비선형성을 추가**해야 합니다.
특히, **이진 분류 모델**에서는 **출력값을 0과 1 사이의 확률로 변환**해야 하므로, **시그모이드(sigmoid) 함수**를 사용합니다.
시그모이드 함수는 입력 값을 0과 1 사이의 값으로 압축하며, 일반적으로 **0.5를 기준으로 클래스가 결정**됩니다.
따라서, `Dense` 층을 사용할 때 **이진 분류 모델의 출력층**에서는 `activation="sigmoid"`를 지정해야 합니다.
-
케라스 모델에서 손실 함수와 측정 지표 등을 지정하는 메서드는 무엇인가요?
① configure() ② fit() ③ set() ④ compile()
⇒ 모델을 훈련할 수 있도록 설정하기 위한 메서드로 compile() 를 사용함. ①과 ③ 메서드는 존재하지 않으며, 이 외 훈련을 위한 메서드는 다음과 같음.
- fit: 고정된 횟수의 에포크 동안 모델을 학습시킴.
- evaluate: 검증 및 테스트 데이터 기반 모델의 손실 값 및 메트릭 값을 반환함. 계산은 배치 단위로 수행됨. 여기서 말하는 메트릭은 모델의 성능을 평가하는 지표를 말하며, 정확도(accuracy), 정밀도(precision), 평균제곱오차(Mean Squared Error)가 그 예임. 배치(batch)란 전체 데이터셋을 한 번에 처리하는 것이 아닌 작은 묶음으로 나누어 처리하는 방식을 말함.
- predict: 입력 샘플에 대한 출력을 예측함.
-
정수 레이블을 타깃으로 가지는 다중 분류 문제일 때, 케라스 모델의 compile() 메서드에 지정할 손실 함수로 적절한 것은 무엇인가요?
① ‘sparse_categorical_crossentropy’ ② ‘categorical_crossentropy’ ③ ‘binary_crossentropy’ ④ ‘mean_square_error’
⇒ 교차 엔트로피란 (분류한) 정답을 더 확신하도록 모델을 학습시키는 손실 함수로, 이진 분류일 때는 ③과 같은 손실 함수를, 다중 분류일 때는 ②, ①과 같은 손실 함수를 사용함. 단, 타깃값이 [[1, 0, 0, 0], [0, 0, 1, 0]]과 같은 원-핫 인코딩으로 된 형태라면 ②와 같은 손실 함수를, 타깃값이 [5, 2]와 같이 정수 레이블의 형태를 가진 형태라면 이를 처리할 수 있는 ①과 같은 손실 함수를 사용해야 함. 평균제곱오차는 회귀(예측)의 경우 사용하며, 실젯값과 예측값 간의 오차를 제곱한 값들의 평균을 계산한 값으로, 모델이 학습하는 과정에서 오차를 최소화하도록 도와주는 성격의 손실 함수와 더불어 모델이 얼마나 좋은 성능을 내는지 평가하는 기준으로의 성능 평가 지표(낮을수록 좋음)로도 활용함.
