Spring AI in Action: Pagbuo ng mga Tunay na AI App gamit ang Spring Boot

Home » Sawa » Spring AI in Action: Pagbuo ng mga Tunay na AI App gamit ang Spring Boot

Ang Spring AI in Action ay mabilis na nagiging pangunahing sanggunian para sa mga Java at Spring Boot developer na gustong magdala ng modernong generative AI sa kanilang pang-araw-araw na proyekto nang hindi iniiwan ang JVM stack. Sa halip na pilitin kang gumamit ng mga Python ecosystem o mga hindi gaanong kilalang tooling, ang libro at ang framework ay magkatuwang na nagtutulungan upang patuloy kang makapag-coding sa Java o Kotlin habang isinasama pa rin ang makapangyarihang Large Language Models (LLMs), Retrieval Augmented Generation (RAG), mga ahente, tool at multimodal features.

Ang dahilan kung bakit kaakit-akit ang ecosystem na ito ay ang kombinasyon ng isang balangkas na handa na para sa produksyon (Spring AI) at isang lubos na praktikal at gabay na batay sa halimbawa (Spring AI in Action ni Craig Walls). Magkasama nilang ipinapakita kung paano ikonekta ang mga AI model, vector database, conversational memory, at mga tool sa pagsusuri sa mga pamilyar na Spring Boot app gamit ang mga simpleng POJO, auto-configuration, at isang malinis at portable na API na nagtatago ng maraming komplikasyon na partikular sa provider.

Ano ang Spring AI at bakit ito mahalaga para sa mga developer ng Java

Ang Spring AI ay isang balangkas ng aplikasyon na idinisenyo upang dalhin ang mga klasikong prinsipyo ng Spring—portability, modular architecture, at POJO-centric design—sa mundo ng AI engineering. Sa kaibuturan nito, ang Spring AI ay nakatuon sa paglutas ng pinakamahirap na praktikal na problema sa enterprise AI: ang pagkonekta sa iyong organisasyon data at Mga API may moderno Mga modelo ng AI sa paraang napapanatili, naoobserbahan, at madaling umunlad sa paglipas ng panahon.

Sa halip na ikulong ka sa iisang LLM vendor, kinakatawan ng Spring AI ang karamihan sa malalaking provider. Mula sa kahon, maaari kang makipag-usap sa mga modelo mula sa OpenAI, Azure OpenAI, Anthropic, Amazon Bedrock, Google, MistralAI at maging ang mga lokal na modelo na pinaglilingkuran sa pamamagitan ng Ollama. Sinusuportahan ng parehong modelo ng programming ang parehong synchronous at streaming na mga tugon, at napapanatili mo pa rin ang access sa mga kakayahan na partikular sa provider kapag talagang kailangan mo ang mga ito.

Ang isa pang mahalagang haligi ng Spring AI ay ang matibay na suporta nito para sa nakabalangkas na output. Sa halip na manu-manong i-parse ang hilaw na teksto, maaari mong i-map ang mga tugon ng modelo nang direkta sa mga klase at talaan ng Java, na ginagawang malinis na POJO ang magulo at natural na wika. Mahalaga ito kapag bumubuo ka ng mga ahente, tool, o daloy ng trabaho na dapat mangatuwiran sa pamamagitan ng predictable data sa halip na hindi nakabalangkas na teksto.

Malalim din ang integrasyon ng Spring AI sa mga vector database para maipatupad mo ang Retrieval Augmented Generation nang hindi kinakailangang muling likhain ang gulong. Sinusuportahan nito ang mga provider tulad ng Apache Cassandra, Azure Vector Search, Chroma, Milvus, MongoDB Atlas, Neo4j, Pagsasama ng Oracle, PostgreSQL na may PGVector, Pinecone, Qdrant, Redis at Weaviate. Ang isang portable na Vector Store API at isang mala-SQL na metadata filter language ay nagbibigay-daan sa iyong baguhin ang mga vector backend na may kaunting pagbabago sa code.

Higit pa sa lahat ng iyan, ang Spring AI ay may kasamang mga kagamitan para sa observability, document ingestion pipelines, model evaluation at generative AI patterns. Magiging matatas ka ChatClient katulad ng WebClient/RestClient, Mga tagapayo para sa mga karaniwang pattern ng AI tulad ng RAG at conversational memory, auto-configuration gamit ang Spring Boot starters, at mga utility para sa pagsubaybay sa paggamit ng token at pag-detect ng mga halusinasyon.

Sa loob ng "Spring AI in Action": mula sa Hello AI World hanggang sa mga ganap na ahente

Ang “Spring AI in Action” ni Craig Walls ay ang praktikal at praktikal na gabay na nagpapakita sa iyo kung paano gamitin ang lahat ng kakayahan ng Spring AI na ito sa mga totoong aplikasyon. Ang libro ay direktang nakatuon sa mga Spring developer at ipinapalagay na alam mo na ang Spring Boot, ngunit hindi nito kailangan ng paunang karanasan sa generative AI; hindi mo kailangang maging isang data scientist o "AI expert" para masundan ito.

Ang paglalakbay sa aklat ay nagsisimula sa isang simpleng halimbawa ng "Hello AI World" at unti-unting nagpapakilala ng mas advanced na mga pamamaraan habang nagiging komportable ka na. Magsisimula ka sa pamamagitan ng pagkonekta ng isang pangunahing tawag sa LLM sa loob ng isang Spring Boot app, pagkatapos ay lilipat sa pagbuo ng mga buod ng teksto, mga building assistant na nasa loob ng iyong mga umiiral na serbisyo sa web o backend, at paghubog ng mga prompt upang ang mga tugon ay mas kapaki-pakinabang at mahuhulaan.

Habang sumusulong ka, ang nilalaman ay sumusuri sa RAG, mga vector store, at mga multimodal na senaryo kung saan ang mga modelo ay gumagana sa parehong teksto at mga imahe. Matututunan mo kung paano magtanong tungkol sa mga pribadong dokumentong hindi kailanman sinanay ang modelo, kung paano gawing teksto ang mga imahe at vice versa, at kung paano ibase ang mga sagot sa LLM sa sarili mong data para tumigil ang mga ito sa pagmumuni-muni kapag nahaharap sa mga tanong na partikular sa domain.

Itinataas ng ikalawang kalahati ng aklat ang pamantayan sa pamamagitan ng paggalugad sa mga ahente, paggamit ng kagamitan, pagsasalita, at kakayahang maobserbahan. Dito mo makikita kung paano bumuo ng mga AI agent na maaaring magdesisyon kung kailan tatawagin ang mga tool o API, kung paano iruta ang mga gawain sa mga espesyal na prompt, kung paano subaybayan ang nangyayari sa pamamagitan ng mga metric at trace, at kung paano panatilihing ligtas ang iyong system gamit ang pagsusuri at mga pananggalang sa paligid ng nabuong nilalaman.

Sa buong libro, pinanatili ni Craig Walls ang kanyang natatanging istilo na nakasentro sa halimbawa, na laging nakatuon sa "paggawa ng mga bagay-bagay" sa halip na lunurin ka sa teorya. Ang mga kabanata ay puno ng mga praktikal na snippet at makatotohanang mga senaryo: mga chatbot na aktwal na nakakaalam ng iyong data, mga assistant na naka-embed sa mga daloy ng trabaho sa negosyo, at mga ahente na naghihiwalay sa mga kumplikadong gawain sa mas maliliit at mapapamahalaan na mga piraso.

Mga pangunahing paksa at istruktura ng aklat

Ang talaan ng mga nilalaman ng “Spring AI in Action” ay nagbibigay ng malinaw na larawan ng lawak ng iyong itatayo. Mula sa mga pangunahing bloke ng pagbuo hanggang sa mga advanced na pattern, ang bawat kabanata ay nakatuon sa isang partikular na lugar ng integrasyon ng AI sa Spring:

• Pagsisimula sa Spring AI: pag-bootstrap ng isang proyekto, pag-configure ng mga provider, pagpapadala ng iyong mga unang prompt.
• Pagsusuri sa mga nabuong tugon: pagsukat ng kalidad, pagtukoy ng mga isyu, at pagprotekta laban sa mababang kalidad o halusinasyon ng nilalaman.
• Pagsusumite ng mga prompt para sa pagbuo: pagdidisenyo ng mga prompt, paggamit ng mga template at pagkontrol sa kilos ng modelo.
• Pakikipag-usap sa iyong mga dokumentopagpapatupad ng RAG upang masagot ng mga LLM ang mga tanong tungkol sa hindi sinanay at pribadong datos.
• Pagpapagana ng memorya sa pakikipag-usap: pagpapanatili ng konteksto ng multi-turn chat gamit ang mga memory advisor ng Spring AI.
• Pag-activate ng pagbuo gamit ang tool: hinahayaan ang mga modelo na tawagin ang mga function at tool sa panig ng kliyente kapag kailangan nila ng bago o panlabas na data.
• Paglalapat ng Model Context Protocol (MCP): pamamahala ng mas detalyadong konteksto at mga interaksyon gamit ang mga tool at mapagkukunan ng datos.
• Pagbuo gamit ang boses at mga larawan: yumayakap sa mga kakayahang multimodal para sa pagsasalita at mga imahe.
• Pagmamasid sa mga operasyon ng AI: pagdaragdag ng kakayahang maobserbahan at pagsubaybay sa iyong mga pipeline ng AI.
• Pagprotekta sa generative AI: paglalapat ng mga guardrail, mga filter ng nilalaman at iba pang mekanismo ng proteksyon.
• Paglalapat ng mga generative AI pattern: pagkuha ng mga magagamit muli na pattern para sa mga daloy ng trabaho ng AI.
• Mga ahente na nag-eempleyo: pagbuo ng mga sistemang ahente na maaaring magplano, magruta, at pinuhin ang trabaho.

Itinatampok ng mga review mula sa mga respetadong boses sa mga komunidad ng Spring at Java kung gaano kadaling ma-access at praktikal ang materyal. Pinupuri ng mga may-akda at tagasuri ng paunang salita ang aklat para sa malinaw na mga paliwanag, malawak na mga demo, at lalim ng "kayamanan" sa mga umuusbong na teknolohiya, na binibigyang-diin na nananatili itong nakabatay sa pag-unlad sa totoong mundo sa halip na akademikong abstraksyon.

Kapag binili mo ang naka-print na edisyon mula sa Manning, makakakuha ka rin ng libreng eBook (PDF o ePub) kasama ang access sa kanilang online na bersyon ng liveBook. Ang platform mismo ng liveBook ay may kasamang AI assistant na kayang sagutin ang iyong mga tanong sa maraming wika, para makapag-explore ka ng mga halimbawa, makapagsaliksik sa teksto, at makapaglilinaw ng mga paksa habang nagbabasa.

Mga pangunahing tampok ng Spring AI para sa mga enterprise-grade AI app

Higit pa sa aklat, inilalantad ng Spring AI framework ang isang komprehensibong hanay ng mga tampok na iniayon para sa mga aplikasyon ng AI na nasa antas ng produksyon. Hindi lamang ito tungkol sa pagtawag sa isang LLM; ito ay tungkol sa pagbuo ng kumpletong mga sistema na ligtas, naoobserbahan, nasusubok at portable sa iba't ibang provider at kapaligiran.

Ang parehong antas ng kakayahang umangkop ay umaabot sa mga tindahan ng vector. Gamit ang suporta para sa Apache Cassandra, Azure Vector Search, Chroma, Milvus, MongoDB Atlas, Neo4j, Oracle, PostgreSQL/PGVector, Pinecone, Qdrant, Redis, Weaviate at iba pa, maaari mong ipatupad ang RAG at semantic search nang hindi kinakailangang ikonekta ang iyong app sa iisang storage solution. Pinapadali ng portable API at mga expressive metadata filter ang pagpapatakbo ng mga kumplikadong similarity query.

Ang mga tool at function calling ay mga primera klaseng mamamayan sa Spring AI. Maaaring humiling ang mga modelo ng pagpapatupad ng mga tool at function sa panig ng kliyente upang makuha ang real-time na data o mag-trigger ng mga aksyon. Ginagawa nitong isang aktibong component ang iyong LLM mula sa isang passive text generator na maaaring mag-query sa mga API, tumawag sa mga database o mag-orchestrate ng mga serbisyo sa pamamagitan ng mga naka-type na function call.

Nakalagay na sa balangkas ang observability para makita mo kung ano ang ginagawa ng iyong AI sa ilalim ng hood. Maaari kang mangolekta ng mga sukatan sa paggamit ng token, latency at mga rate ng error, sumubaybay sa mga tawag sa pamamagitan ng iyong system at iugnay ang aktibidad ng LLM sa iba pang bahagi ng iyong mga microservice. Mahalaga ito kapag ang AI ay lumilipat mula sa mga eksperimento patungo sa mga kritikal na workload sa negosyo.

Kasama rin sa Spring AI ang isang balangkas ng pag-insert ng dokumento na istilo-ETL para sa mga gawain sa data engineering. Nakakatulong ito sa iyong mag-load, mag-chunk, at mag-index ng mga dokumento sa mga vector store para ang iyong mga RAG pipeline ay maging matatag at mauulit, sa halip na isang koleksyon ng mga ad-hoc script.

ChatClient, Mga Tagapayo at mga kakayahan sa pakikipag-usap

Sa antas ng coding, karamihan sa mga interaksyon ng Spring AI ay umiikot sa ChatClient Ang API, isang mahusay na interface na hango sa pamilyar na mga pattern ng Spring WebClient at RestClient. Gumagawa at nagpapadala ka ng mga prompt, tumatanggap ng mga tugon, nag-i-stream ng mga token kapag dumarating ang mga ito, at humahawak ng mga error sa paraang natural agad sa mga Spring developer.

Ang mga tagapayo ay isa pang mahalagang abstraksyon na sumasaklaw sa mga karaniwang generative AI pattern. Binabago nila ang data na papunta at manggagaling sa mga LLM, pinapaikli ang mga gawi tulad ng RAG o memorya, at nagbibigay ng portability sa iba't ibang modelo at use case. Sa halip na mano-manong i-wire ang bawat prompt o konteksto, isinasaksak mo ang mga Advisor para makakuha ng matatag na gawi nang may kaunting boilerplate.

Ang memorya ng usapan ay pinangangasiwaan sa pamamagitan ng mga espesyalisadong tagapayo sa memorya ng chat na namamahala sa diyalogong may maraming ikot. Dahil ang mga LLM mismo ay walang estado at "nakakalimot" sa mga nakaraang turno, sinusubaybayan ng mga tagapayo na ito ang kasaysayan ng pag-uusap at ipinapadala ang mga tamang hiwa ng konteksto pabalik sa bawat prompt. Maaari kang pumili mula sa iba't ibang mga diskarte at maaari ka pang magpatupad ng persistent, long-term memory gamit ang mga vector-based na pamamaraan.

Ang kombinasyon ng chat memory at RAG Advisors ay nagbibigay-daan sa iyong bumuo ng mga assistant na maaaring "makipag-usap" sa iyong mga dokumento sa maraming pagkakataon. Maaaring magtanong ang isang user ng mga follow-up, pinuhin ang kanilang mga tanong, at tukuyin ang mga naunang bahagi ng pag-uusap, habang awtomatikong kinukuha at inilalagay ng Spring AI ang mga pinaka-kaugnay na snippet ng dokumento sa bawat kahilingan.

Pinapadali ng mga template ng prompt ang paglabas at muling paggamit ng mga prompt. Tinutukoy mo ang mga generic na template na tumatanggap ng mga parameter, nagsasama ng mga karagdagang tagubilin at tumutukoy sa nais na format ng output (halimbawa, JSON na direktang tumutugma sa mga Java object). Bago ipadala ang prompt, pinupunan ng Spring AI ang mga patlang, inilalapat ang konteksto, at tinitiyak na malinaw sa modelo ang mga tagubilin.

RAG, pagbabawas ng halusinasyon at mga katulong na may kamalayan sa dokumento

Ang Retrieval Augmented Generation (RAG) ay isa sa pinakamahalagang mga padron na sakop ng parehong balangkas at ng libro. Nilulutas nito ang isang kritikal na limitasyon ng mga static na LLM: alam lamang nila kung saan sila sinanay, na nangangahulugang hindi nila makikita ang iyong panloob na dokumentasyon, datos ng customer o kaalamang pagmamay-ari bilang default.

Sa RAG, ang iyong aplikasyon ay unang kumukuha ng isang maliit na hanay ng mga dokumento na semantikong katulad ng tanong ng gumagamit at pagkatapos ay ipinapasok ang mga iyon sa modelo bilang konteksto. Binubuo ng Spring AI ang malaking bahagi ng gawaing ito, na isinasama sa dose-dosenang mga vector store at nagbibigay ng API para sa query ayon sa pagkakatulad, pag-filter ayon sa metadata, at pag-tune sa paraan ng paghati-hati at pag-embed mo ng iyong nilalaman.

Ang wastong pagpapatupad ng RAG ay lubhang nakakabawas ng mga halusinasyon. Sa halip na manghula kung kailan ito kulang sa impormasyon o labis na sinanay sa pangkalahatang datos sa internet, ang modelo ay nakatuon sa mga de-kalidad at partikular na snippet ng domain. Tinatalakay ng aklat ang mga use case na "makipag-chat gamit ang iyong dokumentasyon" at "Q&A sa iyong mga dokumento" na nagpapakita ng pattern na ito mula simula hanggang katapusan.

Sa pamamagitan ng QuestionAnswerAdvisor at ChatClient, maaari mong tahasang patakbuhin ang buong daloy ng RAG o hayaan ang Advisor na mag-ayos ng pag-embed, pagkuha, at pag-inject ng konteksto para sa iyo. Nagbibigay iyan sa iyo ng kakayahang umangkop: magsimula sa simpleng paraan para mabilis na gumalaw, pagkatapos ay bumaba sa isang antas kapag kailangan mo ng custom na gawi o malalim na pag-optimize.

Dahil sinusuportahan ng Spring AI ang mga streaming response, ang mga sagot na iyon na may kinalaman sa dokumento ay maaaring i-stream pabalik sa isang UI habang nabubuo ang mga ito. Ginagaya nito ang pagta-type ng tao sa totoong oras at nagbibigay ng mas mahusay na karanasan ng user, lalo na kapag mahaba ang mga sagot o mataas ang latency ng modelo.

Mga pattern ng ahente na inspirasyon ng pananaliksik na Antropiko

Ipinapatupad din ng Spring AI ang isang hanay ng mga agentic pattern na inspirasyon ng pananaliksik ng Anthropic sa pagbuo ng epektibong mga LLM agent. Ang diin ay nasa pagiging simple at kakayahang mag-compos sa halip na mabibigat at malabong mga balangkas ng ahente, na mahusay na naaayon sa mga kinakailangan ng negosyo para sa mga sistemang napapanatili at nasusubok.

Ang unang pattern, ang Chain Workflow, ay hinahati ang malalaking gawain sa isang serye ng mas maliliit at maayos na mga hakbang. Ang bawat hakbang ay gumagamit ng sarili nitong prompt, kumukunsumo ng output ng nakaraang hakbang at nagbubunga ng pinong mga intermediate na resulta. Sa Spring AI, mukhang ito ay pag-ulit sa mga prompt ng system at pagtawag sa ChatClient paulit-ulit, na ipinapasa ang nakaraang tugon bilang bahagi ng susunod na input, na lumilikha ng isang malinaw at maaaring pahabaing pipeline.

Ang Parallelization Workflow ay tungkol sa pagpapatakbo ng maraming LLM call nang sabay-sabay at pagsasama-sama ng kanilang mga output. Maaari mo itong gamitin para sa "sectioning" (paghahati ng trabaho sa magkakahiwalay na bahagi) o "pagboto" (pagsasagawa ng ilang modelo na humahawak sa parehong prompt at pagkatapos ay pagsasama-sama ng mga resulta). Halimbawa, maaari mong hilingin sa modelo na suriin ang epekto ng mga pagbabago sa merkado sa mga customer, empleyado, mamumuhunan at supplier nang sabay-sabay, pagkatapos ay pagsamahin ang mga insight na iyon.

Ipinakikilala ng Routing Workflow ang matalinong pagpapadala sa iba't ibang kagamitan. Unang inuuri ng isang LLM ang input at nagpapasya kung aling espesyalisadong prompt o handler ang dapat magproseso nito: ang mga tanong sa pagsingil ay mapupunta sa isang expert prompt, ang mga teknikal na isyu ay mapupunta sa isa pa, ang mga generic na query ay mapupunta sa isang pangkalahatang katulong. Pinag-uugnay ng routing workflow ng Spring AI ang lohikang ito sa pamamagitan ng ChatClient at isang mapa ng mga ruta.

Ang Orchestrator‑Workers ay isang mas advanced na pattern na umiiwas pa rin sa walang kontrol na awtonomiya. Ang isang sentral na modelo ng "orkestrador" ay hinahati ang isang kumplikadong gawain sa mga subtask, pagkatapos ay hinahawakan ng mga dalubhasang manggagawa ang mga subtask na iyon, kadalasan nang sabay-sabay. Kapag natapos na ng mga manggagawa, pinagsasama ang kanilang mga output sa isang pangwakas na resulta. Ang Spring AI ay nagbibigay ng mga bloke ng pagbuo upang ipatupad ang pattern na ito habang pinapanatiling malinaw at mahuhulaan ang mga responsibilidad.

Panghuli, ang pattern ng Evaluator‑Optimizer ay gumagamit ng dalawang magkaugnay na modelo. Ang isang modelo ay gumaganap bilang isang generator na nagmumungkahi ng mga solusyon, habang ang pangalawang modelo ay kumikilos na parang isang kritiko o tagasuri, sinusuri ang solusyon laban sa malinaw na pamantayan at nagbibigay ng mga pagpapabuti. Ang loop na ito ay nagpapatuloy hanggang sa masiyahan ang tagasuri, na lumilikha ng isang pinong tugon kasama ang isang bakas ng ebolusyon ng solusyon.

Pinakamahuhusay na kagawian, pagiging maaasahan at ebolusyon sa hinaharap

Ang mga padron at tampok sa Spring AI ay sinasamahan ng malinaw na pinakamahuhusay na kagawian na lumilitaw kapwa mula sa pananaliksik ng Anthropic at sa karanasan sa produksyon ng Spring ecosystem. Ang karaniwang payo ay magsimula sa pinakasimpleng daloy ng trabaho na posibleng gumana, pagkatapos ay dagdagan lamang ang pagiging kumplikado ng layer kapag malinaw na itong nagdaragdag ng halaga.

Ang pagiging maaasahan ay dapat na isang pangunahing prayoridad sa anumang sistemang pinapagana ng LLM. Nangangahulugan ito ng paggamit ng type-safe structured output hangga't maaari, pag-validate ng mga tugon, pagdaragdag ng mahusay na paghawak ng error at mga pagsubok muli, at paglalagay ng instrumento sa iyong mga pipeline gamit ang mga sukatan at log. Kapag may nagkamali, dapat mong maunawaan kung bakit at mabilis itong maayos.

Hinihikayat ang mga developer na maingat na timbangin ang mga kompromiso sa latency laban sa katumpakan. Ang pag-chain ng maraming hakbang o pagdaragdag ng mga evaluator loop ay maaaring makabuluhang mapabuti ang kalidad ngunit mapapataas din nito ang mga oras ng pagtugon at pagkonsumo ng token. Ang parallelization ay makakatulong na mabawi ang bilis, ngunit kapag ang mga gawain ay tunay na magkakahiwalay.

Ang mga gawain sa hinaharap sa Spring AI ecosystem ay magpapalalim ng mga kakayahan sa komposisyon ng pattern, mga advanced na diskarte sa memorya, at integrasyon ng tool. Ang pagbuo ng maraming pattern—tulad ng chaining, routing at evaluator loops—ay nagbibigay-daan sa iyong bumuo ng mga sopistikadong agent na nananatiling mauunawaan. Sinusuri ng advanced memory management ang persistent context, efficient context window at pangmatagalang pag-iingat ng kaalaman.

Ang mga Tool at ang pagsasama ng Model Context Protocol (MCP) ay isa pang aktibong lugar. Ang mga standardized na interface para sa mga external tool at mas mayamang protocol para sa model context ay nangangahulugan na ang mga agent ay ligtas at flexible na makakaabot sa iyong mga serbisyo, API, at data source, lahat sa ilalim ng iyong governance at observability stack.

Spring AI sa mas malawak na plataporma: Tanzu Gen AI Solutions

Para sa mga organisasyong gumagamit ng Tanzu stack ng VMware, sinusuportahan din ng Spring AI ang Tanzu Gen AI Solutions. Ang Tanzu AI Server, na pinapagana ng Spring AI, ay nag-aalok ng isang kapaligirang handa na para sa produksyon para sa pag-deploy ng mga aplikasyon ng AI sa Tanzu Platform na may seguridad, pamamahala, at kakayahang sumukat na pang-enterprise-grade.

Pinapadali ng integrasyong ito ang pag-access sa mga modelo tulad ng Amazon Bedrock Nova sa pamamagitan ng isang pinag-isang interface. Sa halip na ang bawat koponan ay mag-wire ng sarili nitong mga koneksyon sa modelo, ini-standardize ng platform ang access, mga patakaran sa seguridad, at mga kagamitang pang-operasyon. Ang Spring AI ang humahawak sa portability ng modelo, habang ang Tanzu ay nagbibigay ng matatag na imprastraktura, autoscaling, at observability na inaasahan mo mula sa isang modernong platform ng Kubernetes.

Dahil ang Spring AI ang responsable para sa abstraksyon sa antas ng aplikasyon, maaaring lumipat ang mga koponan sa pagitan ng mga provider o gumamit ng mga bagong modelo nang hindi muling isinusulat ang kanilang lohika sa negosyo. Napakahalaga ng kakayahang umangkop na iyan sa isang mabilis na nagbabagong tanawin ng AI kung saan madalas na lumilitaw ang mga bagong modelo at ang mga presyo o kakayahan ay maaaring mabilis na magbago.

Ibinabalot ng mga tampok sa seguridad at pamamahala sa Tanzu Gen AI Solutions ang mga aplikasyon ng AI na ito sa parehong mga kontrol ng enterprise na ginagamit para sa iba pang mga microservice. Ang mga patakaran, kontrol sa pag-access, mga audit trail, at mga compliance tooling ay natural na umaabot sa mga workload ng LLM, na ginagawang mas posible ang pagpapatakbo ng mga sensitibo o regulated na use case.

Ang lahat ng mga layer na ito—framework, libro, mga pattern at platform—ay nagsasama-sama patungo sa iisang layunin: nagbibigay-daan sa mga Spring developer na magdagdag ng mga high-value na feature ng AI tulad ng mga virtual assistant, smart search, text summarization at mga rekomendasyon nang direkta sa mga Java application nang hindi isinasakripisyo ang pagiging maaasahan o kontrol. Gamit ang Spring AI in Action bilang iyong praktikal na gabay at Spring AI bilang iyong gulugod sa inhenyeriya, maaari kang lumipat mula sa mga eksperimento patungo sa matatag na mga serbisyong pinapagana ng AI habang nananatili sa loob ng Spring ecosystem na alam na alam mo na.