효과적인 AI – 30:70에서 10:90으로

30:70 혹은 20:80은 IT 업계에서 제품/서비스는 만들기보다 운영이 더 어렵다는 것을 의미하는 대표적인 비교 수치다. 제품/서비스의 전체 생애주기에서 만드는 비용보다 쓰이는 과정에서 닦고 조이는 비용이 3배 혹은 4배 이상 들어간다는 것이 업계 정설이다. 특히 생명주기가 긴 제품, 혹은 사용자가 많은 제품일수록 이 비용의 크기는 커진다. SaaS/PaaS 시대를 거치면서 구성 요소의 일부를 서비스로 대체하면서 운영 노력 …

Continue reading ‘효과적인 AI – 30:70에서 10:90으로’ »

효과적인 AI – 토큰값

AI를 잘 쓸려면 알아야 하고, 아는 가장 첫번째 방법은 써보는 것이다. 쓰다보면 유용함을 알게 되고, 유용하면 더 쓰게 마련이다. 특히 아는 사람이 더한다고 엔지니어들은 이제 AI없이는 일할 수 없는 세상이 됐다. 세상이 이렇게 변하다보니 개인이나 회사나 모두 토큰비를 걱정할 수 밖에는 없다. 최근 성능 좋은 AI 공급사들이 쓴만큼 청구하는 방식으로 전환하기에, 더욱 더 고민될 수 …

Continue reading ‘효과적인 AI – 토큰값’ »