본 서평은 한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다.

머신러닝 파이프라인을 한번 잘 만들어두면 그 안에서 모델을 바꾸거나 실험을 통해 세부적인 사항을 바꾸면 되지요.

실무의 입장으로 보면, 사내에서 자체구축을 하기위해 바닥부터 만드는 경우도 있고

책과 같이 잘 되어있는 플랫폼, 프레임워크, 라이브러리 등을 차용하여 빠르게 구축하는 경우도 있겠습니다.

저는 전자인 바닥부터 만드는 경우의 환경을 경험해봤습니다만 이것으로 인한 장단점이 나뉘는 것 같습니다.

선호를 따지자면, 이미 잘 되어있고 검증된 것을 가져다 써서 빠르게 파이프라인을 구축하고

모델 실험이나 데이터 분석에 주력을 하는 것을 더 선호하지만

제 선호도 만으로 결정할 수 있는 부분은 아니다보니 이런저런 아쉬움이 있습니다.

머신러닝 파이프라인의 개념, 소개 그리고 TFX를 활용한 파이프라인 구축이 책의 전반적은 내용 인데요.

제 경험에 빗대보자면, 바닥부터 만들다보니 파이프라인 내에서 필요성을 통감하면서도 

서비스 제공에 보다 중요한 모델 학습과 배포에 대부분 집중했던 것 같습니다.

데이터의 버전화, 데이터의 유효성 확인 및 데이터 드리프트의 확인

모델 검증 절차, 학습의 추적, 튜닝모델의 검증, 피드백 루프 등에 대해선

깊이 다뤄보지못한 부분이 많이 아쉽습니다.

현재 실무에서 머신러닝 엔지니어로서 자사 솔루션, 플랫폼의 자체개발에도 역량을 쏟으시는 분들은

본 책에 나오는 도구들을 (이미 알고계실 수도 있겠지만) 낱낱히 파헤쳐 필요한 기능을 뽑아 개발하시는 것도 좋을 것이라 생각합니다.

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

0. 도서 정보

 - 도서명 : 살아 움직이는 머신러닝 파이프라인 설계

 - 저자 : 하네스 하프케, 캐서린 넬슨

 - 링크

1. 후기

 - 딥러닝/머신러닝이 뜨기 시작하면서 관련된 강의나 서적들이 굉장히 많이 나왔었지만, 그것을 밑에서 받쳐주는 파이프라인에 관련된 책은 찾기가 쉽지 않았다. 이 책은 그런 책을 찾고 있는 분들에게는 단비같은 서적이 될 것 이라고 본다. 파이프라인 단계에 대한 설명부터 시작하여 각 단계에 대한 설명 및 관련된 코드, 그리고 주의해야 할 점 등도 기술했다. 그렇기에 상당한 양의 정보들이 뭉쳐져 있다고 봐도 과언이 아니다. 하지만, 그렇기 때문에 각 부분에 대한 설명은 조금 아쉬울수도 있다. 예를 들면 자동화를 도와주는 에어플로우의 경우 유데미 같은 교육사이트에서 찾아 볼 때 해당 기술 하나에 몇 시간에 걸쳐서 강의를 하기도 하는 만큼 양이 적다고 볼 수 없지만 해당 도서에서는 10장 미만의 내용으로 끝이 난다. 그렇기에 나같은 초심자가 보기에는 어렵다고 느껴질 수도 있을거 같지만, 머신러닝 파이프라인이 어떻게 구성되는지 각 파트에서는 어떤 일들이 일어나는지만 익혀두어도 괜찮을 것으로 보인다.

인공지능 프로젝트는 상당히 많은 부분을 자동화 소프트웨어로 대체 할 수 있다. 이 책에서는 머신러닝 파이프라인 자동화를 시작하는 명확한 지침을 제공한다. 뤼이드의 송호연님이 제시하고 있는 인공지능 프로젝트의 미래는 꽤 설득력 있다. 머신러닝 파이프라인을 세팅해주기만 한다면, AutoML을 수행하는 인공지능 에이전트가 해당 문제를 확인하고, 리소스를 얼마나 사용할지 사람에게 컨펌받고, 스스로 모델을 디자인하여 하이퍼파라미터를 최적화하고 이를 평가, 배포, 모니터링까지 수행할 수 있다고 말하고 있다. 

즉, 미래에 우리는 문제를 정의해주고, 데이터와 목표값만 정해주면 된다는 것이다. 물론 간단한 문제는 이렇게 충분히 풀릴 수 있다. AutoML 기술도 매우 중요하지만, 앞으로 더 중요해질 일은 머신러닝 파이프라인을 세팅하고, 데이터를 목적에 맞게 준비하는 것 아닐까 싶다. 이러한 관점에서 이 책은 머신러닝 파이프라인을 구축하여 프로젝트를 자동화하는데 많은 소스가 될 수 있다. 

이 책의 대상 독자는 다음과 같다. 

✔️ 머신러닝 모델 학습을 넘어 데이터 과학 프로젝트를 성공적으로 출시하려는 데이터 과학자와 머신러닝 엔지니어 
✔️ 데이터 과학 프로젝트 관리자, 소프트웨어 개발자, 데브옵스 엔지니어 (데이터 과학 프로젝트를 가속화 할 수 있도록 지원하는 사람들) 

이 책은 이미 머신러닝 프로젝트를 다루고 있는 연구개발자들에게는 파이프라인을 자동화 할 수 있는데 방향성을 명확하게 제시해주는 책이고, 머신러닝 프로젝트를 시작하려는 사람들에게도 지침서가 되어줄 수 있는 책이다. 앞으로도 많은 산업에 기하 급수 적으로 머신러닝이 도입될텐데, 전반적인 IT 산업 시장에 머신러닝 파이프라인 자동화가 도입되어 효율적인 프로세스가 구축되기 위해 이러한 파이프라인이 반드시 필요하다는 것을 강조하는 사람들이 많이 생겨나고, 그러한 방법을 담은 책이 이 책을 시작으로 많이 출간되었으면 하는 개인적인 바램이다. 

[도서 소개]

효율의 끝판왕, 머신러닝 파이프라인으로 가장 손쉽게 자동화를 구축하는 방법!

많은 기업이 머신러닝 프로젝트에 수백억씩 투자한다. 안타깝지만 모델을 효과적으로 배포하지 못하면 엄청난 투자가 성과로 이어지기 어렵다. 이 책은 텐서플로 생태계를 사용하여 머신러닝 파이프라인으로 자동화하는 실용적인 방법을 단계별로 안내한다. 배포 시간을 며칠에서 몇 분으로 단축하여 레거시 시스템을 유지하고 관리하는 대신 새로운 모델 개발에 집중할 수 있도록 돕는 기술과 도구를 소개한다.

데이터 과학자, 머신러닝 엔지니어 및 데브옵스 엔지니어는 모델 개발을 넘어 데이터 과학 프로젝트를 성공적으로 제품화하는 방법을 배울 수 있으며, 관리자는 팀을 지원하는 데 필요한 역할과 업무를 더 잘 이해할 수 있을 것이다.

[목차]

CHAPTER 1 머신러닝 파이프라인

CHAPTER 2 TFX - 텐서플로 익스텐디드

CHAPTER 3 데이터 수집

CHAPTER 4 데이터 검증

CHAPTER 5 데이터 전처리

CHAPTER 6 모델 학습

CHAPTER 7 모델 분석 및 검증

CHAPTER 8 텐서플로 서빙을 사용한 모델 배포

CHAPTER 9 텐서플로 서비스를 사용한 고급 모델 배포

CHAPTER 10 고급 TFX

CHAPTER 11 파이프라인 1부: 아파치 빔 및 아파치 에어플로

CHAPTER 12 파이프라인 2부: 쿠베플로 파이프라인

CHAPTER 13 피드백 루프

CHAPTER 14 머신러닝을 위한 데이터 개인정보 보호

CHAPTER 15 파이프라인의 미래와 다음 단계

[대상 독자]

- 일회성 머신러닝 모델 학습을 넘어 데이터 과학 프로젝트를 성공적으로 출시하고자 하는 데이터 과학자와 머신러닝 엔지니어

- 프로젝트 관리자, 소프트웨어 개발자, 데브옵스 엔지니어

[주요 내용]

- 머신러닝 파이프라인 구축 단계 이해

- 텐서플로 익스텐디드(TFX)를 사용한 파이프라인 구축

- 아파치 빔, 아파치 에어플로, 쿠베플로 파이프라인을 사용한 머신러닝 파이프라인 조정

- 텐서플로 데이터 검증 및 변환을 사용한 데이터 작업

- 텐서플로 모델 분석을 사용하여 모델 세부 분석

- 모델 성능의 공정성과 편향성 조사

- 모바일 장치용 텐서플로 서빙 또는 텐서플로 라이트(TFLite)로 모델 배포

- 개인 정보를 보호하는 머신러닝 기술

[서평]

지난 몇 년동안 머신러닝 분야는 엄청나게 발전 했습니다. GPU의 광범위한 가용성과 BERT와 같은 트랜스포터나 DCGAN과 같은 DANs등 새로운 딥러닝 개념의 등장으로 AI프로젝트의 수가 급증 했습니다. AI 스타트업의 수는 어마하게 생겨 났습니다. 최신 머신러닝 개념을 조직의 모든 종류의 비즈니스 문제에 더 많이 적용하고 있습니다. 

아마 앞으로는 대부분의 비즈니스에 AI가 적용될것이라 생각해봅니다. 데이터 과학자와 머신러닝 엔지니어가 개발 속도를 높이고, 재사용하고, 관리 및 배포하는데 활용할 개념과 도구에 관한 좋은 자료가 부족합니다. 가장 필요 한 것은 바로 머신러닝 파이프라인의 표준화 압니다. 머신러닝 파이프라인은 머신러닝 모델을 가속, 재사용, 관리 및 배포하는 프로세스를 구현하고 표준화 합니다. 10여년 전 지속적인 통합과 지속적인 배포를 도입하면서 많은 변화가 있었습니다. 이런 CI/CD 프로세스는 몇개의 도구와 개념 덕분에 크게 간소화 되었습니다. 

데이터 과학자와 머신러닝 엔지니어는 소프트웨어 엔지니어링에서 워크플로에 대해 많이 배울수 있습니다. 

모델을 프로덕션에 배포하는 것을 목표로 하는 대부분의 데이터 과학 프로젝트는 대규모 팀을 갖추지 못합니다. 따라서 처음부터 전체 파이프라인을 구축하기가 어렵습니다. 머신러닝 프로젝트가 시간이 지나면서 성능이 저하되거나, 데이터 과학자가 기본 데이터가 변경되었을 때 오류를 수정하는데 많은 시간을 할애하거나, 모델이 널리 사용되지 않는 일회성 작업으로 변한다는 뜻입니다. 자동화되고 재현가능한 파이프라인은 모델 배포를 도와 줍니다. 파이프라인에는 다음 단계가 있어야 합니다.

• 데이터를 효율적으로 버전화하고 새로운 모델 학습 실행을 시작

• 새로운 데이터의 유효성을 확인하고 데이터 드리프트를 확인

• 모델 학습 및 검증을 위해 데이터를 효율적으로 전처리

• 머신러닝 모델을 효과적으로 학습

• 모델 학습을 추적

• 학습시키고 튜닝된 모델을 분석하고 검증

• 검증된 모델을 배포

• 배포된 모델을 스케일링

• 피드백 루프를 사용해 새로운 학습 데이터를 수집하고 성과 지표를 모델링

이책에서는 머신러닝 파이프라인 전체를 처음부터 끝까지 따라 하다보면 머신러닝 프로젝트에서 파이프라인을 구축 할수 있는 역량을 배울수 있을거라 생각합니다.

 "한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

머신러닝을 이용한 서비스는 지속적으로 늘어나고 있는 추세입니다. ML 서비스들은 항상 최고의 수준을 유지할 것라는 기댈를 갖게 합니다. 어제보다, 지난 달 보다 더 나은 추천을 해주고, 내가 원하는 목적지를 나보다 빨리 제안하고, 음악을 큐레이션 해주는 등 사용자 경험이 나아지길 기대하며 ML 베이스 서비스를 이용하고, 기업들에서도 제공하고 있습니다.

하지만 서비스의 성능을 지속적으로 발전시키기 위해서는 자동화되고 잘 짜여진 파이프라인이 필요합니다. 이런 파이프라인 없이 엔지니어가 데이터 셋 업데이트부터 모델 서빙까지 다 맡아서 하다보면 인원의 공백이나 교체 등에 의해 퀄리티가 널 뛰게 됩니다.

사실 연구나 학습 단계에서는 이런 파이프라인을 어떻게 구성할지 고민할 필요가 없습니다. 대부분 처음에 주어진 데이터 셋을 이용해 최종결과물까지 뽑아내기 떄문에 이미 완성된 모델을 업데이트하고 새로운 데이터를 집어넣고, 추가 학습을 하고 자동으로 서빙까지 될 필요가 없습니다. 그렇지만 여러분이 여러분의 모델을 이용해 서비스를 준비 중이거나 이미 서비스 중인데 파이프라인 구축에 어려움을 겪고 있다면 한글로 만날 수 있는 최고의 솔루션 중 하나입니다.

이 책은 ML을 공부하는 모두에게 필요한 책은 아닙니다. 정말 서비스와 자동화를 위한 책이지만 언젠가 서비스를 릴리즈하겠다는 목표로 공부 중인 분들도 충분히 읽어볼 만한 책입니다.

구글의 머신러닝 프레임워크인 Tensorflow의 프로덕션을 위해 나온 익스텐디드인 TFX를 이용한 파이프라이닝 구축에 관한 내용을 담고 있습니다. 이름은 Tensorflow Extended이지만 TF 뿐만 아니라 PyTorch, Keras등 다양한 ML 라이브러리에 접목할 수 있는 도구입니다.

서비스 서빙에 익숙하지 않으신 분들은 파이프라이닝 자체가 생소하실 수도 있지만 파이프라인이라는 것은 수도 배관 같은 것 입니다. 최종 사용자는 배관이 어떤식으로 구성되어 있고 작동하는지 모르지만 매일 싱크대, 화장실의 변기, 세면대, 샤워기 등 다양한 상호작용 가능한 것들을 이용해 수도를 문제 없이 사용합니다. 즉 데이터 파이프라이닝은 우리가 ML학습에 이용하는 데이터를 수집, 검증, 전처리, 학습, 모델 검증 등 모델 서빙에 필요한 과정들 배관을 설치하는 것과 같이 길을 만들어 주는 과정입니다.

이 책은 이 길을 만드는 기초 설계서로 여러분을 기대라고 있습니다. 이 책을 제대로 이용하기 위해서는 이 한가지 이상의 ML프레임워크를 자유롭게 이용할 수 있는 수준을 권장하고 있고, 모델 오케스트레이션 등 다양한 개념들이 한꺼번에 밀려 들어오기 때문에 준비가 조금은 필요한 책입니다.

추천대상: ML 모델 서비스를 준비 중이거나 자동화 파이프라이닝 구축이 필요한 분들

나는 리뷰어다 2021의 활동으로 작성 된 리뷰입니다

살아움직이는 머

서평 및 발제

계속해서 기계학습 관련된 책을 보고 리뷰를 올리고 있다. 인공지능과 딥러닝이 큰 인기를 끌고 있는데, 나는 여전히 머신러닝을 공부하고 있다. 하지만 지금이라도 머신러닝을 공부하고 배울 수 있으니 한편으로는 기존의 내가 있던 분야에서 몇 걸음 더 전진하고 있는 것 같다.

 

관심은 있었지만, 실무적으로 해보지도 못했을 법한 머신러닝의 분야를 계속해서 접하고 있고, 그 근처에서 헤매고 있다는 것만으로도 감사할 일이라 생각된다. 그 이유는 내 전공은 자연계이고 생물학, 생화학, 분자생물학, 유전공학, 약리학을 공부했기 때문에 공학, 머신러닝, 딥러닝은 기존의 전공과 연계성도 없고, 향후 커리어를 쌓을 때 필요 없을 수 있기 때문이다. 

 

머신러닝을 공부하면서 느끼는 것은 재밌다? 신기하다?이다. 하지만 더 많이 느끼는 것은 어렵다?이다. ANN RNN CNN 듣기만 해도 어려운 단어들이 출몰하고, 머신러닝과 딥러닝의 차이는 이론적으로 알겠는데 막상 한걸음 들어가 보니 경계도 모호하다. 머신러닝을 배우고 있는데 왜 딥러닝 알고리즘을 배워야 하는지 모를 때가 많다.

 

머신러닝 파이프라인을 설게 한다!!! 멋진 말이다. 내가 가진 백그라운드에서 보면 생물정보 분석 파이프라인 설계는 접해보았는데, 머신러닝 파이프라인을 설계한다니 복잡한 Layer들을 계속해서 쌓는 것 같은 느낌이다. 

 

 본론으로 돌아가서 본 책에 대한 내용은 간단하게 적어본다.

 

 

차례 및 요약

CHAPTER 1 머신러닝 파이프라인

CHAPTER 2 TFX - 텐서플로 익스텐디드

CHAPTER 3 데이터 수집

CHAPTER 4 데이터 검증

CHAPTER 5 데이터 전처리

CHAPTER 6 모델 학습

CHAPTER 7 모델 분석 및 검증

CHAPTER 8 텐서플로 서빙을 사용한 모델 배포

CHAPTER 9 텐서플로 서비스를 사용한 고급 모델 배포

CHAPTER 10 고급 TFX

CHAPTER 11 파이프라인 1부: 아파치 빔 및 아파치 에어플로

CHAPTER 12 파이프라인 2부: 쿠베플로 파이프라인

CHAPTER 13 피드백 루프

CHAPTER 14 머신러닝을 위한 데이터 개인정보 보호

CHAPTER 15 파이프라인의 미래와 다음 단계

APPENDIX A 머신러닝에 유용한 인프라 소개

APPENDIX B 구글 클라우드에 쿠버네티스 클러스터 설정하기

APPENDIX C 쿠베플로 파이프라인 조작 팁

 

머신러닝 파이프라인 : GPU의 광범위한 가용성과 BERT와 같은 트랜스포머나 DCGAN과 같은 GANs 등 새로운 딥러닝 개념의 등장으로 AI 프로젝트가 급증했다. 모든 요소에 사용되는 다양한 머신러닝 모델을 가속, 재사용, 관리 및 배포하는 프로세스를 표준화 하는것이 머신러닝 파이프라인이라고 할 수 있다.

 

머신러닝 파이프라인의 단계

모델 학습 -> 데이터 드리프트 확인 -> 전처리 -> 학습 -> 추적 -> 튜닝 -> 분석/검증 -> 배포 -> 스케일링 -> 피드백 루프

 

머신러닝 파이프라인을 도표로 보면 아래와 같으며, 이 책은 아래의 프로세스 과정을 각 챕터별로 상세하게 설명하고 관련 코드와 예제를 활용할 수 있다.

 

TFX : TensorFlow Extended(TFX)는 프로덕션 ML 파이프라인을 배포하기 위한 엔드 투 엔드 플랫폼이다. 적합한 버전을 확인하여 설치할 수 있다.

 

tfx를 활용한 예제 코드이다.

 

워크플로의 분리 모델 : 모델 서빙 컨테이너는 한 번만 배포되고, 데이터 과학자는 버킷의 웹 인터페이스나 명령줄 복사 작업으로 새 버전의 모델을 스토리지 버킷에 업로드할 수 있다.

 

텐서플로 모델을 활용한 예제 코드이다.

 

아무리 많은 영상을 보고 공부해보았지만, 파이프라인은 또 정말 새롭다. 여러 알고리즘과 학습 모델이 있지만 배울 때마다 늘 새롭고 어렵다.

 

한 줄로 설명하자면 본 책은 머신러닝 전 프로세스를 이해하고 이를 활용하여 실제 제품에 적용되는 모든 과정을 이해할 수 있는 책이라고 할 수 있다.