bedrock-lens: Monitor AWS Bedrock Token Usage & Cost Dalam Real-Time

Masalah dengan Cost Explorer

Ko buat app guna AWS Bedrock, panggil Claude atau Nova, lepas tu nak tahu berapa dah habis hari ni. Ko pegi Cost Explorer, tapi data baru ada esok. Itu memang cara dia bekerja, tapi untuk development cycle yang laju, tu jadi blind spot.

bedrock-lens selesaikan benda ni dengan baca terus dari CloudWatch logs yang Bedrock tulis sendiri setiap kali ada invocation.

Install dan Run

Satu command je:

pip install bedrock-lens

Lepas tu run:

bedrock-lens --since 1d

Output dia table breakdown per model: berapa calls, input tokens, output tokens, total tokens, dan estimated cost dalam USD.

Contoh Output

Dalam satu hari je dah ada:

  • Claude Haiku 4.5: 288 calls, 5.7M input tokens, anggaran $6.78
  • Claude Opus 4.5: 2 calls, 18k input tokens
  • Claude Sonnet 4.6: 10 calls
  • Nova Pro: 3 calls
  • Total: 303 calls, 5.85M tokens, ~$6.91

Kalau ko tengah buat load testing atau ada agentic loop yang banyak panggil LLM, data ni critical. Ko boleh nampak mana model paling mahal, paling banyak dipakai.

Live Mode

Ada juga live mode kalau ko nak monitor secara berterusan:

bedrock-lens --live

Dia refresh automatik. Berguna masa ko tengah debug atau tengah test sesuatu feature yang heavy pakai LLM calls.

Macam Mana Dia Kerja

Flow dia straightforward. App ko panggil Bedrock, Bedrock tulis invocation log ke CloudWatch, bedrock-lens baca log tu, kira usage dan kos, papar dalam terminal.

Tak perlu setup extra. Selagi Bedrock logging ke CloudWatch dah enable, tool ni terus boleh guna.

Bila Perlu Pakai Ini

Tool ni ada advantage yang Cost Explorer tak boleh bagi: data masa sekarang, bukan data semalam. Berguna kalau ko:

  • Buat agentic app atau RAG pipeline yang banyak LLM calls
  • Nak set budget alert berdasarkan usage hari semasa
  • Tengah optimize prompt untuk kurangkan token count
  • Buat load test dan nak real-time cost visibility

Leave a Comment