Prompt caching เป็นอีกหนึ่ง feature ที่น่าสนใจที่ provider ต่าง ๆ เพิ่มเข้ามา ทั้ง OpenAI, Gemini, Anthropic และ DeepSeekซึ่งจะทำ caching ของ prompt + context ต่าง ๆ ให้เราเพื่อช่วยลดค่าใช้จ่ายลงไป รวมทั้งช่วยให้สามารถ share context ได้และเพิ่ม performance ของการทำงานอีกด้วย นั่นคือ ลด response time ลงไป
Read More…
หนึ่งใน UI framework ที่น่าสนใจที่คล้าย ๆ กับ Streamlit และ Gradioสำหรับการสร้างระบบงานแบบง่าย ๆ ยิ่งในส่วน Prompt engineer แล้วยิ่งน่าจะคุ้นเคยสำหรับการสร้าง UI ให้ใช้งานง่าย ๆด้วยการ coding ที่ไม่เยอะมากนัก เพื่อให้ทำการทดสอบ หรือ ทดลองได้ง่ายขึ้นโดยตัวที่น่าสนใจอีกตัวคือ Google Mesop
Read More…
