[Google Cloud Skills Boost] TensorFlow: Qwik Start

https://www.cloudskillsboost.google/ 

Google Cloud Skills Boost

본 글은 Google Cloud Skills Boost의 TensorFlow: Qwik Start 과정을 학습하며 작성한 포스트입니다.

 

---

머신러닝이란?

전통적인 방법으로 프로그래밍 하는 것을 다음과 같은 다이어그램으로 표현할 수 있다.

프로그래밍 언어로 rule(규칙)을 표현하고, rule은 data에 적용된다. 그리고 프로그램은 이를 기반으로 answer(답)을 제공한다.

 

예시 - 피트니스 활동 추적

본 과정에서는 피트니스 활동을 추적하는 방법으로 전통적 프로그래밍과 머신러닝을 비교하고 있다. 전통적 프로그래밍에서 피트니스 활동을 추적하는 방법은 아래와 같다.

if (speed<4) {
ㅤstatus=WALKING;
} else if (speed<12) {
ㅤstatus=RUNNING;
} else {
ㅤstatus=BIKING;
}

즉, speed라는 data를 주면 특정 rule에 따라서 현재 활동 상태가 무엇인지 answer을 내놓는 것이다.

그러나 만약, 골프와 같이 좀 더 복잡한 활동을 감지하려면 어떻게 해야할까? 이런 문제를 머신러닝이 해결해 줄 수 있다.

 

 

머신러닝 과정 또한 매우 유사하지만 축이 다르다.

rule을 정의하고 프로그래밍 언어로 표현하는 대신, data와 함께 answer(일반적으로 label이라고 칭함)을 제공한다. machine은 이를 기반으로 data와 answer 간의 관계를 결정하는 rule을 추론하게 된다.

 

기존의 프로그래밍에서 코드는 '프로그램'이라고 불리는 binary로 컴파일된다. 머신러닝에서는 data와 label로부터 만들어진 것을 model이라고 부른다.

 

즉, 위 다이어그램의 결과가 모델이 되는 것이고 모델은 런타임에서 아래 다이어그램과 같이 사용된다.

모델에 data를 전달하면, model은 훈련에서 추론한 rule을 사용하여 prediction(예측)을 내놓는다.

 

예시 - 피트니스 활동 추적

앞서 전통적인 방식에서는 골프와 같은 보다 복잡한 활동을 감지하기 어렵다는 문제가 있었다. 하지만 머신러닝에서는 '걷는 상태', '달리는 상태', '자전거를 타는 상태', '골프를 치는 상태'에 대한 다량의 데이터를 수집해서, 각 활동이 갖는 고유한 패턴이 무엇인지 결정하는 rule(규칙)을 유추해낸다. 새로운 활동에 대해 이 rule을 기반으로 어떤 활동인지 예측할 수 있게 되는 것이다.

 

 

---

첫 머신러닝 모델 만들기

X	-1	0	1	2	3	4
Y	-2	1	4	7	10	13

 

위 표에서 X는 1씩 증가하고,  Y는 3씩 증가함을 알 수 있다. 즉, 관계는 Y=3X+a가 될 것이다. 이제 X가 0일 때를 보면, a는 1임을 알 수 있다. 이러한 관찰을 통해 X와 Y의 관계는 Y=3X+1로 정의할 수 있다.

 

위 과정은 neural network(신경망)으로 알려진 모델을 학습시키기 위해 데이터에서 패턴을 찾아내기 위해 코드를 사용하 는 방법과 거의 일치한다. 데이터를 사용하여 신경망을 훈련시킬 때, X의 집합과 Y의 집합을 제공하고 그들 간의 관계를 알아낼 수 있어야 한다.

 

1. 새 notebook을 생성하고 라이브러리 임포트하기

# Import TensorFlow
import tensorflow as tf

# Import numpy
import numpy as np

 

모델을 훈련시키고, 평가하기 위해 tensorflow를 임포트하고, 데이터를 디버깅하기 위해 numpy를 임포트한다.

 

2. 데이터 준비하기

이제 numpy를 통해 model이 학습할 데이터를 준비한다. (데이터는 위에서 봤던 X, Y 집합을 사용한다.)

xs = np.array([-1.0, 0.0, 1.0, 2.0, 3.0, 4.0], dtype=float)
ys = np.array([-2.0, 1.0, 4.0, 7.0, 10.0, 13.0], dtype=float)

 

3. 모델 디자인하기

단층을 가진, 즉 1개의 뉴런을 가진 가장 간단한 신경망을 만들어 볼 차례다. 신경망의 입력은 한 번에 한 개의 값만 사용되므로, 다음과 같은 input shape가 될 것이다.

model = tf.keras.Sequential([tf.keras.layers.Dense(units=1, input_shape=[1])])

 

4. 모델 컴파일 하기

이제 신경망을 컴파일하기 위한 코드를 작성해보자. 이 단계에서, 반드시 loss와 optimizer 이 두가지를 사용해야 한다. 이전의 검증을 통해 x와 y의 관계는 y=3x+1이라는 사실을 알고 있다. 만약 컴퓨터가 이 관계를 학습하고자 한다면, 가장 먼저 y=10x+10과 같이 일단 추측을 시도한다. 이때, loss function(손실 함수)은 추측한 답변을 제공된 올바른 답과 비교하여 얼마나 잘 추측했는지, 혹은 얼마나 못했는지를 측정한다. 그런 다음, model은 optimizer function(최적화 함수)를 사용하여 또 다른 추측을 한다. 이때, 손실 함수의 결과를 기반으로 손실을 최소화하려고 시도한다. model은 설정한 epoch만큼 이 행위를 반복한다.

 

model.compile(optimizer=tf.keras.optimizers.SGD(), loss=tf.keras.losses.MeanSquaredError())

 

위의 코드는 모델이 loss는 mean_squared_error를, optimizer는 stochastic gradient descent(SGD)를 사용하도록 설정한 것이다.

 

5. 신경망 훈련시키기

신경망이 X들과 Y들 사이의 관계를 배우도록 학습시키 위해서 model.fit을 사용한다. 이 함수는 모델을 학습시키는 과정에서 추측을 하고, 그 추측이 얼마나 좋고 나쁜지를 측정하고(aka loss) optimizer를 사용하여 다른 추측을 한다. 이 과정은 미리 설정한 epoch 수만큼 반복된다. (아래의 코드에서는 500회 반복)

model.fit(xs, ys, epochs=500)

 

6. 코드 실행하기

이제 코드를 실행시키고 결과값을 확인하면, 매 반복 회차마다 loss를 출력하는 것을 알 수 있다.

 

초반에는 loss가 두자릿수로 매우 크지만 회라를 반복하면 점점 값이 작아진다.

 

 

이렇게 반복이 끝나갈때 쯤에는 loss가 소수점 아래 6자리 수로 매우 작아지는 것을 확인할 수 있다.

 

7. 모델 사용하기

이제 위 과정을 통해 X와 Y 사이의 관계를 배우도록 학습시킨 모델을 갖게 되었다. 이제 모델이 학습을 하는 동안 제공되지 않은, 완전히 새로운 X가 주어지면 Y 값을 맞추도록 하기 위해서는 model.predict를 사용하면 된다.

 

cloud_logger.info(str(model.predict(np.array([10.0]))))

 

X가 10이므로 우리가 알고 있는 규칙인 Y=3X+1에 따르면 답은 31이어야할 것이다. 하지만, 실제 결과값은 30.99xx가 나왔다. 그 이유는 신경망은 확률을 다루기 때문이다. X와 Y 간의 관계가 Y=3X+1임이 매우 높은 확률로 계산되었지만, 우리가 학습에 제공한 6개의 데이터로는 그것이 확실하지 않다는 것이다. 결과적으로 X가 10일 때, Y는 31에 매우 가깝지만 31은 아니게 된다. 

 

신경망을 다룰 때 거의 항상 확률을 다루게 되며, 확실한 것이 아니라 확률을 기반으로 결과를 결정하기 위한 코딩을 하게 된다. (특히 classification, 분류와 관련된 경우)