글또 9기 돌아보기
최근 일이 너무너무 바빠서 글또에는 신경을 못 쓰고 있었는데 앱 알람을 통해서 최종 제출에 대한 성윤 님의 메시지를 보고, 끝 마무리를 잘하고 쉼표를 찍어가는 의미에서 9기 활동에 관한 내용을 간단하게 정리하려고 한다.
작성한 글
가능하면 패스를 사용하지 않고 싶었지만, 알차게 2번을 모두 사용하여 이 글을 포함해서 최종적으로 9개의 글을 작성하였다
ML Engineering 관련 글이 4개
- 외부 API가 의도한 대로 동작을 안해요 (1) - ONNX Simplifier
- 외부 API가 의도한 대로 동작을 안해요 (2) - contextlib 활용
- PyTorch의 모듈 import는 어떻게 동작하는 걸까?
- PyTorch 모델 프로파일링 및 성능 개선기
- Full Stack Optimization of Transforemr Inference: a Survey (1)
사내 스터디로 진행한 Design Pattern 글이 2개
그리고 2023년 회고와 9기 활동 회고 글이 2개
- 머신러닝 엔지니어의 2023년 회고
- 글또 9기 회고
로 정리할 수 있겠다.
조회 수 통계를 보니 가장 첫 제출글인 ONNX Simplifier 글과 23년 회고 글이 인기가 좀 있었던 것으로 보인다 :)
아쉬운 점
사람 일이라는 것이 계획대로 흘러가지 않는 것처럼 글또 활동에도 처음 생각과는 다르게 아쉬운 부분들 역시 존재하여 기록으로 남기고 향후 10기 또는 비슷한 모임을 할 때는 좀 더 나은 결과를 얻고자 기록을 남겨둔다
다른 사람의 글 읽고 리뷰
글또 시작 초기에는 적어도 같은 채널의 다른 분들의 게시물들을 읽고 궁금한 점은 질문도 하고 피드백을 드렸는데 현생이 바쁘다는 이유로, 내 글 쓰기에도 급급하고, 그 외에 여러 가지 이유이자 핑계로 그런 활동을 하지 못했다. 사실 우리는 코드나 글을 쓰는 만큼, 다른 사람의 코드와 글을 읽는 시간이 그에 준하거나 훨씬 많으므로 글또는 이런 연습을 할 수 있는 아주 좋은 기회지만, 그것을 100% 살리지 못한 점이 아쉬웠다. 나중에 알고 보니 꼭 우리 그룹 채널이 아니라도 동일 계열 채널이나 관심 채널이라면 편하게 입장하여 글을 읽고 얘기를 나누시는 모습을 보면서 나도 저렇게 해야 했었다는 아쉬움이 많이 들었다. 마지막이니만큼 12회차에 제출하신 글들이 보이면 읽고 피드백을 남기려고 한다.
커피챗과 반상회 모임 참석
글또에서는 커피챗이라는 네트워킹 기회 (정확히 기억나지 않지만, 1~2회까지는 커피 비용까지 제공해 주는 것으로 기억)과 비슷한 직군끼리 모여서 발표도 듣고 얘기를 할 수 있는 반상회라는 오프라인 모임이 존재한다. 내 경우 커피챗은 글또 초창기 운이 좋게도 같은 채널의 시간이 맞으시는 분들과 한 번 가질 수 있었으나 그 이후에는 일정이 바쁘거나 겹치는 부분이 생겨서 참석하지 못했다. 마찬가지로 데이터 분야의 반상회 역시 5월 중순까지 마무리해야 하는 급한 업무가 갑자기 생겨, 너무 아쉽게도 참석하지 못하게 되었다. 9기 종료가 정확히 언제인지는 모르겠으나, 남은 기간에 여유가 된다면 내가 먼저 커피챗을 한 번 열어볼지 생각 중이다. 여러모로 좋은 기회인데 참여하지 못해서 아쉬운 마음이 크고, 10기에도 등록하게 된다면 그때는 이번 기수보다 좀 더 적극적으로 네트워킹에 참여하려 한다.
Quantization 도메인
Slack 요금제의 한계로 자기소개를 지금은 확인할 수 없으나, 내 기억이 맞으면 Quantization 도메인에 대한 글을 많이 작성하고 싶다고 했던 것으로 기억한다. 총 9회 제출 중 Quantization과 직접적인 관련이 있는 글은 제일 마지막에 제출한 서베이 논문의 일부를 커버한 내용뿐이라 콘텐츠의 구성에 있어서 조금 아쉬운 느낌이 든다. 향후 계획에도 작성해 뒀지만, 이후 글 작성에는 좀 더 Quantization과 관련된 글들을 많이 작성하려고 한다.
향후 계획 및 느낀점
9기를 진행하면서 미리 글감의 계획을 세워두는 것이 매우 많은 도움이 되었다. 꼭 글또가 아니더라도 앞으로 작성하려는 목록은 아래와 같다.
- Full Stack Optimization of Transformer Inference: a Survey (Cont'd)
- Python 3.9 & 3.10에서 새로 추가된 기능
- Vector Quantization
- GPTQ/GPTVQ 논문 리뷰
Transformer Inference 서베이 논문은 10회차 때 제출 이후로 정리를 하지 못해 후속 내용 정리가 이른 시일 내에 필요하다. Python 3.9 & 3.10은 최근 AIMET의 Python 버전이 3.10으로 판올림했으므로 나도 추가된 기능을 공부하고자 하는 목적이 크다. 3.10으로 올라가면서 typing.Union을 | 문자로 대치할 수 있는 부분이나, removeprefix와 같은 표준 메서드가 추가된 것만 봐도 릴리즈 노트를 읽고 공부할 이유는 충분할 것 같다 :) 그 외에 많이 기존까지 하던 uniform quantization 외에 Vector Quantization에 관한 내용 그리고 거기에 더해 GPTQ/GPTVQ 논문에 대한 소개도 좋은 글감이 될 수 있을 것 같아 우선 계획에는 담아본다
19년 이후로 아주 오랜만에 글또에 참여했고, 모든 글들이 만족스럽진 않지만 그 과정에서 글을 쓰고 피드백을 주고 받고 요즘 유행하는 갓생까지는 아니라도 열심히 살 수 있는 경험이어서 좋았다.