오픈AI의 프론티어 모델인 아스트라. 아스트라 좋다고 찬양하는 사람은 많아도 정작 제대로 써본 사람은 잘 없다고 하죠? 왜 일까요? 토큰이 너무 비싸서 그렇습니다. 좋은 모델이 손 안에 있는데도 정작 제대로 써보기도 전에 토큰 한도에 막혀버리고 말죠.


강수진 더 프롬프트컴퍼니 대표는 모델의 특징을 정확히 파악해야 토큰 비용을 아낄 수 있다고 설명합니다. 아스트라는 '과하게 많이 만들고', '검토를 오래 하고', '추론을 세밀하게 하는' 특징이 있기 때문에 중복되는 일을 하지 않게 프롬프트로 막는 것이 토큰을 아끼는 지름길 이라는 것이죠. 서브 에이전트를 과도하게 많이 생성해서 조사하는 경향도 있는데, 이 역시도 프롬프트로 제어할 수 있다고 합니다. 강수진 박사의 아스트라 효율적으로 쓰는 노하우를 들어보시죠.