한빛출판네트워크

깊고 잔잔한 바닷속, 나뭇잎해룡 ‘잎룡’은 자신만의 꿈을 가지고 있었습니다.

“왜 딥러닝은 이렇게 어렵기만 한 걸까? 나 같은 평범한 생선도 쉽게 이해하고 활용할 수 있는 뭔가가 있다면 얼마나 좋을까...”

Ocean Overflow에 조용히 질문을 던지는 잎룡에게는 언제나 답변 대신 비웃음이 돌아왔습니다.

“딥러닝이 그렇게 쉬운 줄 알아?"

"그럴 시간에 단순한 모델이라도 구성해서 학습시켜 보라고.”

하지만 그럴수록 잎룡은 오히려 모든 생선이 자유롭게 헤엄치는 딥러닝의 바다를 더 간절히 꿈꿨습니다.

어느 날 잎룡은 전설적인 딥러닝 전문가 ‘쏨’을 만나기 위해 심해에 위치한 Fishbook 연구소를 찾아갔습니다. 새로운 모델 설계에 열중하던 쏨은 잎룡의 아이디어에 눈을 반짝이며 말했습니다.

“멋진 생각인데요! 딥러닝을 관통하는 원리는 어렵지 않아요. 그리고 데이터의 흐름과 모델의 재사용 가능성에 집중하면 길이 보일 거 같아요. 그러면 생선들에게 복잡한 수식이나 신경망 구성 요소 구현을 강요할 일이 많이 줄겠네요.”

쏨의 말을 듣고 잎룡은 깨달았습니다.

“그래, 복잡한 이론 대신 재사용 가능한 단단한 틀을 만들어 보자!”

잎룡은 바닷속 곳곳을 돌아다니며 다양한 생선의 연구 논문을 수집했습니다. 광어부터 우럭, 참치, 농어, 방어가 만든 모델들의 특성을 면밀히 분석하였고, 드디어 그 작동 원리를 단순화한 프레임워크를 완성했습니다. 그리고 딥러닝(Deep Learning)을 밑바닥(Zero)부터 쌓아 올린다는 뜻을 담아 DeZero라는 이름도 지어주었죠.

DeZero는 간단했습니다. 자동 미분의 원리를 실행 엔진에 심고, 재사용 가능한 계층과 옵티마이저 컬렉션 등을 제공하여 원하는 모델을 조립식으로 만들고 실행할 수 있도록 했습니다. CNN과 RNN은 물론 심층 강화 학습까지 못 돌리는 모델이 없었죠. 잎룡은 이 프레임워크가 모든 생선에게 딥러닝으로 향하는 문을 열어주리라 믿었습니다.

DeZero는 큰 성공을 거두었습니다. Ocean Overflow는 혁신적인 새 프레임워크 소식에 들썩였고 모든 생선이 DeZero를 사용해 모델을 만들기 시작했습니다.

그러나 성공에는 항상 새로운 도전이 뒤따르는 법. 잎룡이 DeZero를 확장하기 위해 여러 파트너 생선 무리와 협업하는 과정에서 곧 문제가 생겼습니다.

“잎룡, 이건 우리 지역 데이터를 독점하겠다는 건가요?”

“DeZero가 너무 커지면 오히려 우리가 잃는 게 많아지지 않을까요?”

잎룡은 선택의 기로에 놓였습니다. 모든 생선이 DeZero를 이용할 수 있게 한다는 원칙을 지킬 것인가, 아니면 일부 파트너의 요구를 수용할 것인가?

결국 잎룡은 확장을 선택했습니다. 기존 협력 생선들과 결별했지만, 전 바다의 생선 누구나 DeZero를 사용할 수 있는 생태계를 구축했습니다. 단순한 프레임워크를 넘어 바닷속의 표준으로 자리 잡아 딥러닝을 배우고 연구하는 모든 생선에게 영감이 되었죠. 하지만 잎룡은 늘 생각했습니다.

“꿈을 이루었지만, 그 과정에서 내가 잃은 것은 무엇이었을까?”

잎룡은 조용히 미소 지으며 캄캄한 바닷속 어딘가로 헤엄쳐 사라졌습니다.

“그래도 내가 남긴 유산이 다음 세대를 새로운 바다로 이끌어줄 거야.”

딥러닝 용어 해설

• 딥러닝 프레임워크 : 복잡한 딥러닝 모델을 쉽게 만들고 학습시킬 수 있도록 필요한 도구와 기능을 제공하는 소프트웨어. 유명한 딥러닝 프레임워크로는 텐서플로, 파이토치, 케라스 등이 있습니다.
• 자동 미분 : 모델 학습에 필요한 미분 계산을 컴퓨터가 자동으로 수행하여 복잡한 수식을 손으로 풀지 않고도 모델을 쉽게 학습시킬 수 있게 해주는 기능
• 계층 : 입력 데이터를 처리하고 중요한 특징을 추출하여 다음 단계로 전달하는 신경망의 기본 구성 요소. 여러 계층이 모여 복잡한 작업을 수행하는 모델을 만듭니다.
• 옵티마이저 : 딥러닝 모델이 학습할 때 손실 함수의 값을 최소화하기 위해 모델의 매개변수 조정 역할을 하는 구성 요소(알고리즘). 모델이 더 정확하게 예측할 수 있도록 도와줍니다.

『바닷속 딥러닝 어드벤처』는  『밑바닥부터 시작하는 딥러닝』 시리즈를 원작으로, 재미난 상상력을 더해 재구성한 연작 소설입니다. 이번 편은 원작 중 ‘딥러닝 프레임워크의 동작 윈리와 구현’을 다룬 3권에서 영감을 얻어 작성했습니다.