시험공부빅데이터분석
← 보드GPU와 Colab · 1/8

GPU는 왜 빠를까 — CPU와 GPU의 차이 ★★

컴퓨터의 계산 장치는 두 종류예요. CPU는 컴퓨터의 두뇌이고, GPU는 원래 그래픽(화면) 처리를 하던 장치예요. 둘 다 계산을 하지만 잘하는 일이 달라요.

장치강점
CPU복잡하고 다양한 작업을 순차적으로 처리하는 데 강해요
GPU많은 단순 연산을 병렬로(동시에) 처리하는 데 강해요. 대량의 행렬 연산에 유리해요
비유 — 주방장 한 명 vs 알바생 수천 명

CPU는 복잡한 코스 요리를 차례차례 완성하는 숙련된 주방장 한 명이에요. GPU는 감자 깎기, 곱셈 같은 단순한 일을 알바생 수천 명이 동시에 하는 것과 같아요. 감자 1만 개를 깎아야 한다면 주방장 한 명보다 알바생 수천 명이 훨씬 빨라요.

왜 딥러닝에 GPU를 쓸까요? 딥러닝은 숫자를 곱하고 더하는 단순한 계산을 어마어마하게 반복하기 때문이에요(예측과 기울기 계산이 모두 그래요). 단순 계산이 많을수록 GPU가 유리해요. 교수님도 "순전파와 역전파가 단순 연산의 반복이라 GPU가 유리하다"고 설명했어요.

CPU와 GPU와 device 설정 코드
교수님 슬라이드 — CPU는 복잡한 일을 순차적으로, GPU는 단순 연산을 병렬로. 딥러닝은 행렬 연산이 많아 GPU를 쓰면 학습이 빨라진다
시험엔 이렇게 써요 — 이렇게 고르세요

CPU는 복잡하고 다양한 작업을 순차적으로 처리하는 데 강하고, GPU는 많은 단순 연산을 병렬로 처리하는 데 강하다. 딥러닝은 대량의 행렬 연산이 많아 GPU를 사용하면 학습 속도가 크게 향상된다. 선택지에서 두 장치의 특징이 서로 바뀌어 있으면 오답이에요.

잠깐 확인 — 단순한 곱셈을 엄청나게 많이 반복해야 할 때 CPU와 GPU 중 어느 쪽이 유리한가요?

GPU예요. 단순한 연산을 동시에 많이 처리하는 것이 GPU의 장점이에요.

다음 카드 → 내 컴퓨터에 GPU가 있나 — cuda와 is_available ★★

자료: 2주차(+1·3주차) · Week02_Tensor_and_GPU, 구글 Colab GPU 환경 사용법.pdf · 빅분01(1주차)·빅분02(2주차)·빅데이터03(3주차) 녹취