ก่อนหน้านี้ Spring ได้เปิดตัว Spring AI ออกมาให้ใช้งาน
สำหรับพัฒนาระบบงานเพื่อทำงานร่วมกับ AI หรือ LLM provider ต่าง ๆ
หลังจากที่ทำการปรับปรุงและเพิ่มความสามารถต่าง ๆ มาเรื่อย ๆ
ในตอนนี้ได้ปล่อย Spring AI version 1.0 ออกมาแล้ว
โดยสามารถสร้าง project และเลือกความสามารถต่าง ๆ
จาก Spring Initializr แบบง่าย ๆได้เลย
มาลองใช้งานกันดู

Spring AI 1.0 นั้นมีความสามารถต่าง ๆ เพื่อแก้ไขปัญหาต่าง ๆ เหล่านี้

  • Prompt engineering
  • Strucutured output
  • Chat memory
  • Tool/Function calling
  • RAG (Retrieval Augmented Generation) และการทำงานกับ Vector database
  • การ evaluate response ที่ได้จาก LLM หรือ AI provider
  • สนับสนุน MCP (Model Context Protocol) server และ client ด้วย
  • สนับสนุน AI Agent
  • ทำการเพิ่ม Observability เข้าไปยัง Actuator

แสดงดังรูป

ทำการสร้าง Project แบบง่าย ๆ ใน Spring Initializr ได้เลย

ทำการเลือก dependency สำหรับ project ทดลองดังนี้

  • Chat memory นั้นเก็บข้อมูลใน database จัดการด้วย Spring Data JDBC
  • Vector database ด้วย pgvector
  • ทำการ embedding ด้วย PostgresML text embeddings models

แสดงดังรูป

สนับสนุน Vector database เพียบ

ลองใช้งานกันดูครับ
ความสามารถครบถ้วนเลย สำหรับการพัฒนา LLM/AI application

Reference websites