대량의 지능 API 시대를 이용하는 방법

지금은 chatgpt로 무언가를 물어서 답을 얻는 것이 보편적인 시기이다. 그런데 Openclaw를 쓰면서 이런 상태가 바람직하지 않다는 사실을 깨달았다. 그러면 어떤 방법이 더 좋은가?

 

1) API 사용량을 늘려야 한다. 즉 인당 API 사용량의 증가가 생산성 증가로 이어지는 시기임을 자각해야 한다. Rate limit가 허용하는 한도까지 API를 호출해서 써야한다. 왜냐하면 API 사용료는 낮아질 것이고, API를 쓰는 만큼 지능을 빌려다 쓰는 것이기 때문이기 때문에, 생산성의 극단적인 향상을 추구하는 행동이기 때문이다.

 

2) 그러려면 Agent에 더 의존해야 한다. 단순환 대화로는 rate limit을 벗어나기 어렵다. 스스로 API를 호출하는 것이 보편적인 agent형의 API 호출을 해야하며, 이는 곧 인간이라는 병목을 축소하는 것을 의미한다. 그래서 더 호출하며 인간의 판단을 최소화하는 체계를 더 진전시켜야 한다.

 

3) Openclaw의 이해관계는 토큰 이용료를 사용자가 지불하는 것이다. 그래서 더욱 자유롭게 API를 호출하며 주어진 임무를 수행하도록 구성되어 있다. 이 점이 바로 agent가 지향하는 바와 이해관계가 일치하는 점이다. 더 많이 호출하도록 유도하며 그것으로 효용성을 더 높인다.

 

4) 그러면 API 호출량이 증가하여 비용이 증가하는 것 아닌가? 맞지만 지금은 늘리는 시점인 것이다. 한계를 뛰어넘어 더 대량으로 호출하고 그것으로 인한 효용을 체감하면 그때부터 줄이면서 최적화 하면 되는 것이다.

 

 

인간의 개입을 줄이고, 더 많이 호출하고 그래서 더 극적으로 생산성을 올려야하는 시기이다. 최적화는 그 다음에 해도 늦지 않는다.