Introduction#

세상이 빠르게 변합니다. 자고 일어나면 새로운 기술이 등장합니다. 기술이 넘쳐날수록 무엇 하나를 정답처럼 콕 집어 선택하기는 더 어려워집니다. 이런 때일수록 저는, 결국 본질에 더 집중해야 한다고 생각합니다.
제가 관심을 가지고 있는 Efficient Algorithms and Systems for Large Language Models의 본질에 다가가기 위해, 필요한 지식과 고민을 밀도 있게 기록하고자 합니다.

Many open problems remain. Let’s dig in.#

기술이 아무리 발전해도 세상엔 아직 풀지 못한 문제가 많다고 생각합니다. 더 빠른 모델, 더 큰 파라미터, 더 화려한 어플리케이션이 쏟아져도 여전히 느리고 비싸고 불안정한 부분이 남아 있습니다. 그래서 저는 유행을 따라가기보다, 이런 남아 있는 문제들을 정면으로 바라보고 하나씩 풀어가보고자 합니다.