효과적인 AI – 토큰값

AI를 잘 쓸려면 알아야 하고, 아는 가장 첫번째 방법은 써보는 것이다. 쓰다보면 유용함을 알게 되고, 유용하면 더 쓰게 마련이다. 특히 아는 사람이 더한다고 엔지니어들은 이제 AI없이는 일할 수 없는 세상이 됐다. 세상이 이렇게 변하다보니 개인이나 회사나 모두 토큰비를 걱정할 수 밖에는 없다. 최근 성능 좋은 AI 공급사들이 쓴만큼 청구하는 방식으로 전환하기에, 더욱 더 고민될 수 밖에 없다. 가랑비에 옷 젖는 것처럼, 무계획이면 지갑 거덜나기 십상이다.

가장 좋은 방법은 한번 토큰을 지불한 일을 되풀이하지 않는 것이다. 토큰비 중복 지불을 최소화 하는 것이다. 이 개념이 반영된 것이 스킬(Skill)이다.  목적을 가지고 만든 Prompt를 매번 다시 할 이유가 없고, 남이 잘 만들어 공유한 Skill을 굳이 쓰지 않을 이유가 없다. 와중에 AI가 맥락을 잘 이해할 수 있는 글쓰기는 어렵다.

엔지니어에게 더 좋은 방법은 라이브러리와 API를 사용하는 것이다. AI를 쓰던 안쓰던 사용자가 쓸 기능의 코드를 만드는 것이 엔지니어의 역할이다. 이미 동작하고 검증된 코드가 있다면 마다할 이유가 굳이 없다. 와중에 복붙이 아닌 관리 가능한 형태로 제공되는 코드라면 더욱 더. 코드 재사용으로 사용자를 위한 기능에 시간과 토큰을 쓰는 것이 사용자 중심 엔지니어링이다.

조직에서 공유와 기여(참여)가 발동되면 우상향된 효과를 볼 수 있다. 개인 차원에서도 물론 효과가 있지만, 조직 구성원들이 좋은 스킬, 라이브러리, API 들을 만들고, 공유하고, 재사용되면 더 큰 가치 창출의 발판이 된다고 믿는다. AI는 이 씬에서 속도와 창의성을 뒷받침하는 아주 좋은 지렛대로 쓰일 수 있다.