머신러닝 엔지니어의 2024년 회고

개요

연차가 쌓이면서 하루하루는 더디게 느껴지지만 한 주, 한 달, 그리고 한 해는 눈 깜짝할 새 지나는 것 같다. 2023년 회고를 작성한 것이 얼마 되지 않은 것 같은데 벌써 2024년의 막바지에 기록을 남겨본다. 글을 작성하기 전 2023년 회고를 읽어봤는데, 나란 사람 자체가 변화를 크게 좋아하지 않고 루틴을 지키려고 하는 편이라 그런지 크게 변함없는 한 해를 보낸 것 같다. 조금 미리 작성하면 더 좋을 텐데 올해도 12월 31일 딱 마지막 날에 글을 작성하는 것도 작년과 똑같은 모습에 조금은 반성하게 된다. 그런데도 올 한 해 성취한 내용과 잘했던 점, 아쉬운 점 그리고 미약하지만 2025년도에 이루고 싶은 목표를 작성해 보고자 한다.

잘했던 점

Staff Engineer 승진

올해 9월로 Qualcomm에서 만으로 3년을 꽉 채우는 해였고 물 밑에서 어느 정도 승진에 관한 얘기가 있었지만, 주위 사례를 봤을 때 확신할 수는 없었다. 다행히 운이 좋게도 헌신적인 조직장과 훌륭한 동료들 덕분에 Staff Engineer로 승진할 수 있었다고 생각한다. 승진은 회사에서 나라는 엔지니어의 가치를 어느 정도 인정해 줬다는 것으로 생각하고, 실제로 그에 걸맞은 금전적인 보상이 있었다. 승진 자체는 매우 기쁘고 행복한 일이지만, 주위에서 보았던 동료 Staff Engineer들이 얼마나 열심히 일하고 업무에 헌신적인지를 봤을 때 내가 그들만큼 잘할 수 있을까에 대한 걱정은 여전히 가지고 있다. 다만 걱정만 하는 것은 회사도 나도 원하지 않는 방향이기 때문에 어떻게든 부딪혀가면서 해내 보려고 한다. 새로운 직급에 대해서 정확한 역할이 정해져 있는 것은 아니지만 역시나 기술적으로는 주니어 엔지니어들을 리드할 수 있어야 할 것이며, 팀 자체로는 좋은 멘토 및 동기부여를 줄 수 있는 사람이 되길 기원한다. 리더십이나 팀 매니징 관련해서는 선배들의 도움을 간접적으로나마 받고 싶어 <혼돈의 시대 리더의 탄생>과 <무엇이 1등 팀을 만드는가?>와 같은 책을 읽어보면서 내 상황에 활용해보려고 한다.

독서

작년에 이어서 올해도 매달 진행하는 독서 모임을 계기로 꾸준히 책을 읽은 것은 잘한 것 같다. 이런 외적 동기부여가 없으면 소설이나 문학 작품은 우선순위에서 항상 밀리는 내 성격을 고려했을 때 올해도 아래와 같은 책들을 읽은 것은 매우 뿌듯한 일이라고 생각한다. 특히 좋았던 책은 굵은 글씨로 표기해 본다.

• 라이프 타임
• 아주 희미한 빛으로도
• 문학을 읽는다는 것은
• 책에 대한 책에 대한 책
• 영화의 이해
• 매니악
• 두 사람의 인터내셔널
• 시간을 잃어버린 사람들
• 한강 디 에센셜
• 도시와 그 불확실한 벽

최은영 작가의 <아주 희미한 빛으로도>나 <두 사람의 인터내셔널> 같은 소설은 굉장히 재밌어서 주위 동료나 친구들에게도 선물했던 책이다. 다만 책을 읽은 것과는 별개로 개인 사정으로 작년만큼은 모임에 참석을 못 해서 좀 아쉬운 부분과 모임장에게 미안한 마음이 있다. 불가피한 사정이 아니라면 2025년에는 올해보다는 더 많이 참석하여 여러 사람과 읽은 책에 대해서 나눌 수 있기를 바란다. 추가로 글또 내의 소모임 중 하나인 책읽었또 덕분에 몰아 읽기가 아니라 매일매일 조금이라도 읽을 수 있는 루틴을 만들 수 있어서 큰 도움을 받았다. 내년에도 해당 소모임을 통해서 꾸준히 책을 읽는 습관을 지니려고 한다.

조깅

독서와 마찬가지로 조깅 역시 올해도 꾸준히 한 것이 잘한 점이라고 생각한다. 재택근무를 주로 하므로 조깅하지 않으면 하루 종일 집에만 있게 되는 경우가 많았는데, 어떻게든 업무 시작 전이나 업무 마감 후에 뛰려고 했고 런데이 앱과 글또의 달리또 소모임의 도움을 많이 받았다. 가능하면 격일로 30분 정도 뛰고, 뛰지 않는 날은 걷기라도 하려고 했으며 꾸준히 뛰었을 때 확실히 육체적/정신적으로 굉장히 긍정적인 효과가 있었다고 생각한다. 작년 회고에서 단거리 마라톤을 도전해 볼까 하는 얘기를 했었는데, 아쉽게도 특별히 대회에 참가하지는 않았다. 성향상 역시 부대끼지 않고 조용히 내 페이스대로 혼자 뛰는 것이 마음이 편한 것 같다. 올해 열심히 뛰어 수명이 다한 신발도 교체했고, 욕심을 조금 더 내어 2025년에는 올해보다 더 꾸준히 그리고 50분 달리기까지 도전해 보려고 한다.

올해 가장 열심히 뛴 10월

아쉬운 점

영어

가장 먼저 생각나는 항목은 역시 영어라고 본다. 기술적인 대화는 어휘나 표현이 그렇게 어렵지 않고, 상대의 눈빛과 같은 비언어적 반응을 통해서 이해 유무를 다시 한번 확인할 수 있기 때문에 그동안 의사소통에 대해서 아주 심각하게 생각하진 않았었다. 그래서 특별히 영어 공부를 한다는 느낌보다는 작년 회고와 마찬가지로 유튜브 영상 (e.g., 라이브 아카데미) 중 눈에 띄는 영어 관련 영상이 있으면 챙겨보는 정도였다. 다만 업무 분담이 늘어났고, 커리어 래더가 늘어났기 때문에 속된 말로 틀에 박힌 영어 구사력은 결국 내 발목을 잡을 것 같다는 생각이 꽤 많이 든 한해였다. 조금 유식하게 표현했을 때 현재 내가 모국어 간섭이 매우 많은 영어 구사를 하는 상태라는 것을 시간 내어 공부하고 있는 강의를 통해 이해하게 됐으며 이것을 적극적으로 개선해 보려고 노력 중이다. 확실히 유튜브를 통해서 내가 하고 싶을 때만 골라 듣는 것이 아니라 강의 형태로 어느 정도의 커리큘럼이 있다 보니 더 체계적이고 나도 무조건 영어 공부를 위한 시간을 따로 내고 있다 보니 조금씩 실력이 늘어나는 것이 느껴지고 있다. 2025년에도 매일 조금씩이라도 해당 강의와 함께 좀 더 고급 영어를 내뱉을 수 있도록 노력해 보려고 한다.

Quantization 연구에 대한 뒤처짐

Qualcomm에 입사한 2021년과 비교했을 때 2024년 기준 모델 경량화에 대한 수요와 연구는 폭발적으로 성장했다고 생각한다. 가장 정량적인 바로미터가 결국 연구 논문의 수라고 생각할 수 있는데, 입사할 때만 해도 per-tensor W8A16 정도를 기준으로 생각했던 것과 비교해 요즘은 per-group W4A8과 같이 굉장히 공격적인 경량화까지 시도하는 것을 보면 격세지감이라고 할 것 같다. 입사 후 1~2년은 크게 따라가야 할 연구 논문의 수가 부담스럽지 않았고 (그리고 꼭 봐야 했던 논문은 대부분 Qualcomm에서 출간한 논문이었다) 업무 자체가 소프트웨어 엔지니어링에 조금 더 힘을 주는 것이었기 때문에 큰 부담이 없었다. 다만 올해 직접적으로 구현에 참여했던 GPTVQ나 옆에서 지켜봤던 Group Quantization 그리고 논문 세미나에서 들은 연구 내용 (OmniQuant, SmoothQuant 등)들을 고려했을 때 최신 추세에도 리서치 엔지니어만큼은 아니라도 어느 정도 이해를 해야 한다는 결론에 이르렀다. 엔지니어링과 리서치 두 마리 토끼를 잡아야 하는 것 같아 조금은 부담스럽지만 그래도 공부하지 않고 걱정하는 것보다는 낫지 않을까 싶다. 모든 연구 논문을 따라가는 것은 현실적으로 불가능할 것 같고, 주위 리서치 엔지니어 동료의 도움을 받아서 그럼에도 꼭 읽어봐야 하는 논문 몇 편을 골라볼 예정이다.

2025년 목표

올해 했던 내용들에서 특별한 무엇을 더하기보다는 올해 했던 것을 발전시켜 조금 더 나은 성취가 있기를 바라면서 정량적인 목표를 세워봤다

• 15권 독서 및 그중 7권 서평 작성하기: 기술 서적 외에 올해는 10권 독서했으므로 내년에는 15권 그리고 기록으로 남길 수 있도록 7권은 서평까지 작성해 보려고 한다
• 영어 강의 완강 및 후속 강의 수강: 현재 수강 중인 강의 완강과 후속 강의가 있어서 해당 강의까지 수강하는 것을 목표로 한다
• 주 3회 50분 조깅: 올해는 주 3회 30분 조깅으로 무리 없이 뛸 수 있었다면 내년에는 50분으로 조금 더 운동 부하를 늘려서 뛰어보는 것을 목표로 한다
• Quantization 논문 2편 리뷰: 욕심내지 않고 2편 리뷰로 우선 목표를 잡아봤다. 아마 2편을 리뷰하려면 참조한 논문들까지 포함하여 꽤 많은 연구 논문을 봐야 할 것으로 생각한다