स्प्रिंग एआई का क्रियान्वयन: स्प्रिंग बूट के साथ वास्तविक एआई ऐप्स का निर्माण

होम » अजगर » स्प्रिंग एआई का क्रियान्वयन: स्प्रिंग बूट के साथ वास्तविक एआई ऐप्स का निर्माण

Spring AI in Action तेजी से उन जावा और स्प्रिंग बूट डेवलपर्स के लिए एक प्रमुख संदर्भ बन रहा है जो JVM स्टैक को छोड़े बिना अपने रोजमर्रा के प्रोजेक्ट्स में आधुनिक जनरेटिव AI को शामिल करना चाहते हैं। आपको पायथन इकोसिस्टम या अस्पष्ट टूलिंग में धकेलने के बजाय, यह पुस्तक और फ्रेमवर्क साथ-साथ काम करते हैं ताकि आप जावा या कोटलिन में कोडिंग जारी रख सकें और साथ ही शक्तिशाली लार्ज लैंग्वेज मॉडल (एलएलएम), रिट्रीवल ऑगमेंटेड जेनरेशन (आरएजी), एजेंट, टूल और मल्टीमॉडल सुविधाओं को एकीकृत कर सकें।

इस इकोसिस्टम को इतना आकर्षक बनाने वाली बात यह है कि इसमें एक प्रोडक्शन-रेडी फ्रेमवर्क (स्प्रिंग एआई) और एक अत्यंत व्यावहारिक, उदाहरण-आधारित गाइड (क्रेग वॉल्स द्वारा लिखित स्प्रिंग एआई इन एक्शन) का संयोजन है। साथ मिलकर वे दिखाते हैं कि सरल POJO, ऑटो-कॉन्फ़िगरेशन और एक स्वच्छ, पोर्टेबल API का उपयोग करके AI मॉडल, वेक्टर डेटाबेस, संवादात्मक मेमोरी और मूल्यांकन टूल को परिचित स्प्रिंग बूट ऐप्स में कैसे जोड़ा जाए, जो प्रदाता-विशिष्ट जटिलता को छुपाता है।

स्प्रिंग एआई क्या है और जावा डेवलपर्स के लिए यह क्यों महत्वपूर्ण है?

स्प्रिंग एआई एक एप्लिकेशन फ्रेमवर्क है जिसे क्लासिक स्प्रिंग सिद्धांतों - पोर्टेबिलिटी, मॉड्यूलर आर्किटेक्चर और पीओजेओ-केंद्रित डिजाइन - को एआई इंजीनियरिंग की दुनिया में लाने के लिए डिज़ाइन किया गया है। मूल रूप से, स्प्रिंग एआई का ध्यान एंटरप्राइज एआई में सबसे कठिन व्यावहारिक समस्या को हल करने पर केंद्रित है: आपके संगठन को आपस में जोड़ना। तिथि और एपीआई आधुनिक के साथ एआई मॉडल इस तरह से कि यह बनाए रखने योग्य, अवलोकन योग्य और समय के साथ आसानी से विकसित होने योग्य हो।

आपको किसी एक एलएलएम विक्रेता तक सीमित रखने के बजाय, स्प्रिंग एआई अधिकांश बड़े प्रदाताओं को एक साथ मिलाकर काम करता है। आप बिना किसी अतिरिक्त सेटिंग के OpenAI के मॉडलों से बात कर सकते हैं। एज़्योर ओपनएआईAnthropic, Amazon Bedrock, Google, MistralAI और Ollama के माध्यम से उपलब्ध कराए जाने वाले स्थानीय मॉडल भी इसमें शामिल हैं। एक ही प्रोग्रामिंग मॉडल सिंक्रोनस और स्ट्रीमिंग दोनों तरह के रिस्पॉन्स को सपोर्ट करता है, और जरूरत पड़ने पर आप प्रोवाइडर-विशिष्ट क्षमताओं का भी इस्तेमाल कर सकते हैं।

स्प्रिंग एआई का एक और प्रमुख स्तंभ संरचित आउटपुट के लिए इसका मजबूत समर्थन है। मैन्युअल रूप से कच्चे टेक्स्ट का विश्लेषण करने के बजाय, आप मॉडल प्रतिक्रियाओं को सीधे जावा क्लास और रिकॉर्ड में मैप कर सकते हैं, जिससे अव्यवस्थित प्राकृतिक भाषा को साफ-सुथरे POJO में बदला जा सकता है। यह तब आवश्यक है जब आप ऐसे एजेंट, टूल या वर्कफ़्लो बनाते हैं जिन्हें असंरचित टेक्स्ट के बजाय अनुमानित डेटा पर तर्क करना होता है।

स्प्रिंग एआई वेक्टर डेटाबेस के साथ गहराई से एकीकृत होता है, जिससे आप नए सिरे से कुछ भी बनाए बिना रिट्रीवल ऑगमेंटेड जेनरेशन को लागू कर सकते हैं। यह Apache Cassandra, Azure Vector Search, Chroma, Milvus, MongoDB Atlas, Neo4j जैसे प्रदाताओं का समर्थन करता है। ओरेकल एकीकरणPostgreSQL के साथ PGVector, Pinecone, Qdrant, Redis और Weaviate का उपयोग किया गया है। एक पोर्टेबल वेक्टर स्टोर API और SQL जैसी मेटाडेटा फ़िल्टर भाषा आपको न्यूनतम कोड परिवर्तनों के साथ वेक्टर बैकएंड बदलने की सुविधा देती है।

इन सबके अलावा, स्प्रिंग एआई में ऑब्जर्वेबिलिटी, डॉक्यूमेंट इनजेशन पाइपलाइन, मॉडल इवैल्यूएशन और जनरेटिव एआई पैटर्न के लिए टूलिंग भी शामिल है। आपको धाराप्रवाह बोलने की क्षमता मिलती है ChatClient के समान WebClient/RestClientइसमें RAG और संवादात्मक स्मृति जैसे सामान्य AI पैटर्न के लिए सलाहकार, स्प्रिंग बूट स्टार्टर्स के साथ ऑटो-कॉन्फ़िगरेशन और टोकन उपयोग की निगरानी और मतिभ्रम का पता लगाने के लिए उपयोगिताएँ शामिल हैं।

“स्प्रिंग एआई इन एक्शन” के भीतर: हेलो एआई वर्ल्ड से लेकर पूर्ण एजेंटों तक

क्रेग वॉल्स द्वारा लिखित "स्प्रिंग एआई इन एक्शन" एक व्यावहारिक, प्रायोगिक मार्गदर्शिका है जो आपको वास्तविक अनुप्रयोगों में स्प्रिंग एआई की इन सभी क्षमताओं का उपयोग करना सिखाती है। यह पुस्तक विशेष रूप से स्प्रिंग डेवलपर्स के लिए है और यह मानती है कि आपको पहले से ही स्प्रिंग बूट का ज्ञान है, लेकिन इसके लिए जनरेटिव एआई का पूर्व अनुभव होना आवश्यक नहीं है; इसे समझने के लिए आपको डेटा साइंटिस्ट या "एआई विशेषज्ञ" होने की आवश्यकता नहीं है।

इस पुस्तक में दी गई यात्रा एक सरल "हेलो एआई वर्ल्ड" उदाहरण से शुरू होती है और जैसे-जैसे आप सहज होते जाते हैं, वैसे-वैसे अधिक उन्नत तकनीकों से परिचित कराती जाती है। आप स्प्रिंग बूट ऐप के अंदर एक बेसिक एलएलएम कॉल को वायर करके शुरुआत करते हैं, फिर टेक्स्ट समरी जनरेट करने, अपने मौजूदा वेब या बैकएंड सेवाओं के अंदर रहने वाले असिस्टेंट बनाने और प्रॉम्प्ट को इस तरह से आकार देने की ओर बढ़ते हैं जिससे प्रतिक्रियाएं अधिक उपयोगी और अनुमानित हों।

जैसे-जैसे आप आगे बढ़ते हैं, सामग्री RAG, वेक्टर स्टोर और मल्टीमॉडल परिदृश्यों में गहराई से उतरती है जहां मॉडल टेक्स्ट और छवियों दोनों के साथ काम करते हैं। आप सीखते हैं कि उन निजी दस्तावेजों के बारे में प्रश्न कैसे पूछें जिन पर मॉडल को कभी प्रशिक्षित नहीं किया गया था, छवियों को पाठ में और पाठ को छवियों में कैसे परिवर्तित करें, और एलएलएम उत्तरों को अपने स्वयं के डेटा में कैसे आधारित करें ताकि डोमेन-विशिष्ट प्रश्नों का सामना करते समय वे भ्रामक न हों।

पुस्तक का दूसरा भाग अभिकर्ताओं, उपकरणों के उपयोग, भाषण और अवलोकनशीलता की पड़ताल करके अध्ययन के स्तर को और ऊपर उठाता है। यहां आप देखेंगे कि एआई एजेंट कैसे बनाए जाते हैं जो यह तय कर सकते हैं कि कब टूल्स या एपीआई को कॉल करना है, कार्यों को विशेष प्रॉम्प्ट पर कैसे भेजना है, मेट्रिक्स और ट्रेस के माध्यम से क्या हो रहा है उसे कैसे ट्रैक करना है, और जेनरेट की गई सामग्री के मूल्यांकन और सुरक्षा उपायों के साथ अपने सिस्टम को कैसे सुरक्षित रखना है।

पूरी किताब में, क्रेग वॉल्स अपनी विशिष्ट, उदाहरण-प्रधान शैली को बनाए रखते हैं, और हमेशा आपको सिद्धांतों में उलझाने के बजाय "काम पूरा करने" पर ध्यान केंद्रित करते हैं। अध्याय व्यावहारिक उदाहरणों और वास्तविक परिदृश्यों से भरे हुए हैं: चैटबॉट जो वास्तव में आपके डेटा को जानते हैं, व्यावसायिक वर्कफ़्लो में अंतर्निहित सहायक, और एजेंट जो जटिल कार्यों को छोटे, प्रबंधनीय टुकड़ों में विभाजित करते हैं।

पुस्तक के प्रमुख विषय और संरचना

“स्प्रिंग एआई इन एक्शन” की विषयसूची से आपको यह स्पष्ट रूप से पता चल जाएगा कि आप किस प्रकार के व्यापक दायरे का निर्माण करेंगे। बुनियादी बिल्डिंग ब्लॉक्स से लेकर उन्नत पैटर्न तक, प्रत्येक अध्याय स्प्रिंग के साथ एआई एकीकरण के एक विशिष्ट क्षेत्र पर केंद्रित है:

• स्प्रिंग एआई के साथ शुरुआत करना: किसी प्रोजेक्ट को बूटस्ट्रैप करना, प्रोवाइडर्स को कॉन्फ़िगर करना, अपने पहले प्रॉम्प्ट भेजना।
• उत्पन्न प्रतिक्रियाओं का मूल्यांकन करनागुणवत्ता का मापन करना, समस्याओं का पता लगाना और निम्न-गुणवत्ता वाली या भ्रामक सामग्री से सुरक्षा प्रदान करना।
• जनरेशन के लिए प्रॉम्प्ट सबमिट करना: प्रॉम्प्ट डिजाइन करना, टेम्प्लेट का उपयोग करना और मॉडल के व्यवहार को नियंत्रित करना।
• अपने दस्तावेज़ों से बात करनाआरएजी को लागू करना ताकि एलएलएम अप्रशिक्षित, निजी डेटा के बारे में सवालों के जवाब दे सकें।
• संवादात्मक स्मृति को सक्षम करनास्प्रिंग एआई के मेमोरी एडवाइजर का उपयोग करके मल्टी-टर्न चैट कॉन्टेक्स्ट को बनाए रखना।
• उपकरण-चालित उत्पादन को सक्रिय करना: जब मॉडलों को नए या बाहरी डेटा की आवश्यकता होती है, तो उन्हें क्लाइंट-साइड फ़ंक्शन और टूल को कॉल करने की अनुमति देना।
• मॉडल कॉन्टेक्स्ट प्रोटोकॉल (MCP) लागू करनाउपकरणों और डेटा स्रोतों के साथ अधिक समृद्ध संदर्भ और अंतःक्रियाओं का प्रबंधन करना।
• आवाज और चित्रों के साथ उत्पन्न करनाभाषण और छवियों के लिए बहुआयामी क्षमताओं को अपनाना।
• एआई संचालन का अवलोकन करनाअपने एआई पाइपलाइन में अवलोकन क्षमता और निगरानी जोड़ना।
• जनरेटिव एआई की सुरक्षासुरक्षा उपायों, सामग्री फ़िल्टर और अन्य सुरक्षा तंत्रों को लागू करना।
• जनरेटिव एआई पैटर्न लागू करनाएआई वर्कफ़्लो के लिए पुन: प्रयोज्य पैटर्न को कैप्चर करना।
• रोजगार एजेंट: ऐसे सक्रिय तंत्रों का निर्माण करना जो कार्य की योजना बना सकें, उसे निर्देशित कर सकें और उसे परिष्कृत कर सकें।

स्प्रिंग और जावा समुदायों के सम्मानित व्यक्तियों की समीक्षाएँ इस बात पर प्रकाश डालती हैं कि सामग्री कितनी सुलभ और व्यावहारिक है। प्रस्तावना के लेखकों और समीक्षकों ने स्पष्ट व्याख्याओं, व्यापक प्रदर्शनों और उभरती प्रौद्योगिकियों पर गहन जानकारी के लिए पुस्तक की प्रशंसा की है, इस बात पर जोर देते हुए कि यह अकादमिक अमूर्तता के बजाय वास्तविक दुनिया के विकास पर आधारित है।

जब आप मैनिंग से प्रिंट संस्करण खरीदते हैं तो आपको एक मुफ्त ईबुक (पीडीएफ या ईपब) के साथ-साथ उनके ऑनलाइन लाइवबुक संस्करण तक पहुंच भी मिलती है। लाइवबुक प्लेटफॉर्म में ही एक एआई सहायक शामिल है जो कई भाषाओं में आपके सवालों के जवाब देने में सक्षम है, इसलिए आप पढ़ते समय उदाहरणों का पता लगा सकते हैं, पाठ में खोज कर सकते हैं और विषयों को स्पष्ट कर सकते हैं।

एंटरप्राइज़-ग्रेड एआई ऐप्स के लिए स्प्रिंग एआई की मुख्य विशेषताएं

पुस्तक के अलावा, स्प्रिंग एआई फ्रेमवर्क उत्पादन-स्तरीय एआई अनुप्रयोगों के लिए तैयार किए गए व्यापक फीचर सेट को उजागर करता है। यह सिर्फ एलएलएम को बुलाने के बारे में नहीं है; यह सुरक्षित, अवलोकन योग्य, परीक्षण योग्य और विभिन्न प्रदाताओं और वातावरणों में पोर्टेबल संपूर्ण प्रणालियों के निर्माण के बारे में है।

वेक्टर स्टोर्स के मामले में भी लचीलेपन का यही स्तर लागू होता है। Apache Cassandra, Azure Vector Search, Chroma, Milvus, MongoDB Atlas, Neo4j, Oracle, PostgreSQL/PGVector, Pinecone, Qdrant, Redis, Weaviate और अन्य के समर्थन के साथ, आप अपने ऐप को किसी एक स्टोरेज समाधान से जोड़े बिना RAG और सिमेंटिक सर्च को लागू कर सकते हैं। एक पोर्टेबल API और स्पष्ट मेटाडेटा फ़िल्टर जटिल समानता क्वेरी को चलाना आसान बनाते हैं।

स्प्रिंग एआई में टूल्स और फंक्शन कॉलिंग को सर्वोच्च प्राथमिकता दी जाती है। मॉडल रीयल-टाइम डेटा प्राप्त करने या क्रियाएँ शुरू करने के लिए क्लाइंट-साइड टूल और फ़ंक्शन के निष्पादन का अनुरोध कर सकते हैं। इससे आपका एलएलएम एक निष्क्रिय टेक्स्ट जनरेटर से एक सक्रिय घटक में बदल जाता है जो एपीआई से क्वेरी कर सकता है, डेटाबेस को कॉल कर सकता है या टाइप किए गए फ़ंक्शन कॉल के माध्यम से सेवाओं को व्यवस्थित कर सकता है।

इस फ्रेमवर्क में अवलोकन क्षमता अंतर्निहित है, जिससे आप देख सकते हैं कि आपका एआई अंदरूनी तौर पर क्या कर रहा है। आप टोकन उपयोग, विलंबता और त्रुटि दरों पर मेट्रिक्स एकत्र कर सकते हैं, अपने सिस्टम के माध्यम से कॉल को ट्रैक कर सकते हैं और एलएलएम गतिविधि को अपने बाकी माइक्रोसेवाओं के साथ सहसंबंधित कर सकते हैं। यह तब महत्वपूर्ण हो जाता है जब एआई प्रयोगों से निकलकर व्यावसायिक रूप से महत्वपूर्ण कार्यभारों की ओर बढ़ता है।

स्प्रिंग एआई में डेटा इंजीनियरिंग कार्यों के लिए ईटीएल-शैली का दस्तावेज़ इनपुट फ्रेमवर्क भी शामिल है। यह आपको वेक्टर स्टोर में दस्तावेज़ों को लोड करने, चंक करने और इंडेक्स करने में मदद करता है ताकि आपकी RAG पाइपलाइन तदर्थ स्क्रिप्ट के संग्रह के बजाय मजबूत और दोहराने योग्य हो।

चैटक्लाइंट, सलाहकार और संवादात्मक क्षमताएं

कोडिंग स्तर पर, अधिकांश स्प्रिंग एआई इंटरैक्शन इसके इर्द-गिर्द घूमते हैं। ChatClient एपीआई, एक सहज इंटरफ़ेस है जो परिचित स्प्रिंग वेबक्लाइंट और रेस्टक्लाइंट पैटर्न से प्रेरित है। आप प्रॉम्प्ट बनाते और भेजते हैं, प्रतिक्रियाएं प्राप्त करते हैं, टोकन आते ही उन्हें स्ट्रीम करते हैं और त्रुटियों को इस तरह से संभालते हैं जो स्प्रिंग डेवलपर्स को तुरंत स्वाभाविक लगता है।

सलाहकार एक और महत्वपूर्ण अवधारणा है जो सामान्य जनरेटिव एआई पैटर्न को समाहित करती है। ये LLM से आने-जाने वाले डेटा को रूपांतरित करते हैं, RAG या मेमोरी जैसे व्यवहारों को जोड़ते हैं, और मॉडलों और उपयोग के मामलों में सुवाह्यता प्रदान करते हैं। हर प्रॉम्प्ट या संदर्भ को मैन्युअल रूप से जोड़ने के बजाय, आप न्यूनतम कोड के साथ सशक्त व्यवहार प्राप्त करने के लिए एडवाइज़र का उपयोग करते हैं।

संवादात्मक स्मृति को विशेष चैट मेमोरी सलाहकारों के माध्यम से प्रबंधित किया जाता है जो बहु-चरण संवाद को संभालते हैं। चूंकि एलएलएम स्वयं स्टेटलेस होते हैं और पिछली बातचीत को "भूल जाते हैं", इसलिए ये सलाहकार बातचीत के इतिहास को ट्रैक करते हैं और संदर्भ के सही हिस्सों को प्रत्येक प्रॉम्प्ट में वापस फीड करते हैं। आप विभिन्न रणनीतियों में से चुन सकते हैं और वेक्टर-आधारित दृष्टिकोणों के साथ स्थायी, दीर्घकालिक स्मृति को भी लागू कर सकते हैं।

चैट मेमोरी और आरएजी एडवाइजर्स का संयोजन आपको ऐसे सहायक बनाने की अनुमति देता है जो कई चरणों में आपके दस्तावेजों से "बातचीत" कर सकते हैं। उपयोगकर्ता अनुवर्ती प्रश्न पूछ सकते हैं, अपने प्रश्नों को परिष्कृत कर सकते हैं और बातचीत के पिछले हिस्सों का संदर्भ दे सकते हैं, जबकि स्प्रिंग एआई स्वचालित रूप से प्रत्येक अनुरोध पर सबसे प्रासंगिक दस्तावेज़ अंशों को पुनः प्राप्त करता है और उन्हें सम्मिलित करता है।

प्रॉम्प्ट टेम्प्लेट प्रॉम्प्ट को बाहरी रूप देने और उनका पुन: उपयोग करने में आसानी प्रदान करते हैं। आप ऐसे सामान्य टेम्पलेट परिभाषित करते हैं जो पैरामीटर स्वीकार करते हैं, अतिरिक्त निर्देश शामिल करते हैं और वांछित आउटपुट प्रारूप निर्दिष्ट करते हैं (उदाहरण के लिए JSON जो सीधे जावा ऑब्जेक्ट से मैप होता है)। प्रॉम्प्ट भेजने से पहले, स्प्रिंग एआई रिक्त स्थानों को भरता है, संदर्भ लागू करता है और यह सुनिश्चित करता है कि मॉडल को निर्देश स्पष्ट रूप से समझ आ जाएं।

आरएजी, मतिभ्रम निवारण और दस्तावेज़-जागरूक सहायक

रिट्रीवल ऑगमेंटेड जेनरेशन (आरएजी) इस फ्रेमवर्क और पुस्तक दोनों में शामिल सबसे महत्वपूर्ण पैटर्नों में से एक है। यह स्थिर एलएलएम की एक महत्वपूर्ण सीमा को दूर करता है: वे केवल वही जानते हैं जिस पर उन्हें प्रशिक्षित किया गया है, जिसका अर्थ है कि वे डिफ़ॉल्ट रूप से आपके आंतरिक दस्तावेज़, ग्राहक डेटा या मालिकाना ज्ञान को नहीं देख सकते हैं।

RAG के साथ, आपका एप्लिकेशन पहले उन दस्तावेज़ों का एक छोटा समूह प्राप्त करता है जो उपयोगकर्ता के प्रश्न के समान अर्थ वाले होते हैं और फिर उन्हें संदर्भ के रूप में मॉडल में फीड करता है। स्प्रिंग एआई इस काम के एक बड़े हिस्से को सरल बना देता है, दर्जनों वेक्टर स्टोर के साथ एकीकृत होता है और समानता के आधार पर क्वेरी करने, मेटाडेटा द्वारा फ़िल्टर करने और अपनी सामग्री को चंक करने और एम्बेड करने के तरीके को अनुकूलित करने के लिए एक एपीआई प्रदान करता है।

सही तरीके से लागू की गई RAG मतिभ्रम को काफी हद तक कम कर देती है। जानकारी की कमी होने या सामान्य इंटरनेट डेटा पर अत्यधिक प्रशिक्षित होने पर अनुमान लगाने के बजाय, मॉडल को उच्च-गुणवत्ता वाले, डोमेन-विशिष्ट डेटा अंशों की ओर निर्देशित किया जाता है। यह पुस्तक "अपने दस्तावेज़ों से बातचीत करें" और "अपने दस्तावेज़ों पर प्रश्नोत्तर करें" जैसे उपयोग के उदाहरणों के माध्यम से इस पैटर्न को पूरी तरह से दर्शाती है।

यहाँ QuestionAnswerAdvisor और ChatClientआप या तो पूरे RAG फ्लो को स्पष्ट रूप से संचालित कर सकते हैं या एडवाइजर को आपके लिए एम्बेडिंग, रिट्रीवल और कॉन्टेक्स्ट इंजेक्शन को व्यवस्थित करने दे सकते हैं। इससे आपको लचीलापन मिलता है: तेजी से आगे बढ़ने के लिए सरल दृष्टिकोण से शुरुआत करें, फिर जब आपको कस्टम व्यवहार या गहन अनुकूलन की आवश्यकता हो तो एक स्तर नीचे आ जाएं।

क्योंकि स्प्रिंग एआई स्ट्रीमिंग प्रतिक्रियाओं का समर्थन करता है, इसलिए दस्तावेज़-जागरूक उत्तरों को उत्पन्न होते ही एक यूआई पर स्ट्रीम किया जा सकता है। यह वास्तविक समय में किसी इंसान द्वारा टाइप करने की नकल करता है और बेहतर उपयोगकर्ता अनुभव प्रदान करता है, खासकर जब उत्तर लंबे हों या मॉडल की विलंबता अधिक हो।

मानवजनित अनुसंधान से प्रेरित अभिकर्मक पैटर्न

स्प्रिंग एआई, एंथ्रोपिक के प्रभावी एलएलएम एजेंटों के निर्माण पर किए गए शोध से प्रेरित एजेंटिक पैटर्न का एक सेट भी लागू करता है। इसमें भारी-भरकम, अस्पष्ट एजेंट फ्रेमवर्क के बजाय सरलता और संयोजनशीलता पर जोर दिया गया है, जो रखरखाव योग्य और परीक्षण योग्य प्रणालियों के लिए उद्यम की आवश्यकताओं के साथ अच्छी तरह से मेल खाता है।

पहला पैटर्न, चेन वर्कफ़्लो, बड़े कार्यों को छोटे, क्रमबद्ध चरणों की एक श्रृंखला में तोड़ता है। प्रत्येक चरण अपने स्वयं के प्रॉम्प्ट का उपयोग करता है, पिछले चरण के आउटपुट का उपभोग करता है और परिष्कृत मध्यवर्ती परिणाम उत्पन्न करता है। स्प्रिंग एआई में, यह सिस्टम प्रॉम्प्ट पर पुनरावृति करने और आह्वान करने जैसा दिखता है। ChatClient बार-बार, पिछली प्रतिक्रिया को अगले इनपुट के हिस्से के रूप में पास करते हुए, एक स्पष्ट और विस्तार योग्य पाइपलाइन का निर्माण होता है।

पैरेललाइजेशन वर्कफ़्लो का मतलब है एक ही समय में कई एलएलएम कॉल चलाना और उनके आउटपुट को एकत्रित करना। इसका उपयोग आप "सेक्शनिंग" (कार्य को स्वतंत्र भागों में विभाजित करना) या "वोटिंग" (एक ही प्रश्न पर कई मॉडल रन चलाना और फिर परिणामों को संयोजित करना) के लिए कर सकते हैं। उदाहरण के लिए, आप मॉडल से बाज़ार परिवर्तनों के ग्राहकों, कर्मचारियों, निवेशकों और आपूर्तिकर्ताओं पर पड़ने वाले प्रभाव का समानांतर विश्लेषण करने के लिए कह सकते हैं, और फिर उन जानकारियों को आपस में मिला सकते हैं।

राउटिंग वर्कफ़्लो में इंटेलिजेंट डिस्पैचिंग को शामिल किया गया है। एक एलएलएम पहले इनपुट को वर्गीकृत करता है और तय करता है कि कौन सा विशेष प्रॉम्प्ट या हैंडलर इसे प्रोसेस करेगा: बिलिंग संबंधी प्रश्न एक विशेषज्ञ प्रॉम्प्ट पर जाते हैं, तकनीकी समस्याएं दूसरे पर, और सामान्य प्रश्न एक सामान्य सहायक पर। स्प्रिंग एआई का रूटिंग वर्कफ़्लो इस तर्क को आपस में जोड़ता है। ChatClient और मार्गों का एक नक्शा।

ऑर्केस्ट्रेटर-वर्कर्स एक अधिक उन्नत पैटर्न है जो अभी भी अनियंत्रित स्वायत्तता से बचता है। एक केंद्रीय "ऑर्केस्ट्रेटर" मॉडल एक जटिल कार्य को उपकार्यों में विभाजित करता है, फिर विशेषज्ञ कार्यकर्ता अक्सर समानांतर रूप से उन उपकार्यों को पूरा करते हैं। कार्यकर्ताओं के कार्य समाप्त होने पर, उनके आउटपुट को अंतिम परिणाम में मिला दिया जाता है। स्प्रिंग एआई इस पैटर्न को लागू करने के लिए मूलभूत तत्व प्रदान करता है, साथ ही जिम्मेदारियों को स्पष्ट और पूर्वानुमानित बनाए रखता है।

अंत में, इवैल्यूएटर-ऑप्टिमाइज़र पैटर्न दो सहयोगी मॉडलों का उपयोग करता है। एक मॉडल समाधान प्रस्तावित करने वाले जनरेटर के रूप में कार्य करता है, जबकि दूसरा मॉडल एक आलोचक या समीक्षक की तरह व्यवहार करता है, जो स्पष्ट मानदंडों के आधार पर समाधान की जाँच करता है और सुधार के सुझाव देता है। यह प्रक्रिया तब तक चलती रहती है जब तक मूल्यांकनकर्ता संतुष्ट नहीं हो जाता, जिससे समाधान के विकास के क्रम के साथ-साथ एक परिष्कृत प्रतिक्रिया प्राप्त होती है।

सर्वोत्तम पद्धतियाँ, विश्वसनीयता और भविष्य का विकास

स्प्रिंग एआई में मौजूद पैटर्न और विशेषताएं स्पष्ट सर्वोत्तम प्रथाओं के साथ आती हैं, जो एंथ्रोपिक के अनुसंधान और स्प्रिंग इकोसिस्टम के उत्पादन अनुभव दोनों से उभरती हैं। आम सलाह यही है कि सबसे सरल कार्यप्रणाली से शुरुआत करें जो संभव हो सके, और फिर जटिलता को तभी बढ़ाएं जब यह स्पष्ट रूप से मूल्यवर्धन करे।

किसी भी एलएलएम-सक्षम प्रणाली में विश्वसनीयता सर्वोपरि चिंता का विषय होना चाहिए। इसका मतलब है कि जहां भी संभव हो, टाइप-सेफ स्ट्रक्चर्ड आउटपुट का उपयोग करना, प्रतिक्रियाओं को मान्य करना, मजबूत त्रुटि प्रबंधन और पुनः प्रयास जोड़ना, और अपनी पाइपलाइनों को मेट्रिक्स और लॉग से सुसज्जित करना। जब कुछ गलत हो जाए, तो आपको यह समझने में सक्षम होना चाहिए कि ऐसा क्यों हुआ और इसे तुरंत ठीक करना चाहिए।

डेवलपर्स को सलाह दी जाती है कि वे लेटेंसी और सटीकता के बीच के संतुलन पर सावधानीपूर्वक विचार करें। कई चरणों को एक साथ जोड़ना या मूल्यांकनकर्ता लूप जोड़ना गुणवत्ता में काफी सुधार कर सकता है, लेकिन इससे प्रतिक्रिया समय और टोकन की खपत भी बढ़ जाएगी। समानांतरकरण गति को पुनः प्राप्त करने में मदद कर सकता है, लेकिन केवल तभी जब कार्य वास्तव में स्वतंत्र हों।

स्प्रिंग एआई इकोसिस्टम में भविष्य के कार्यों से पैटर्न कंपोजीशन, उन्नत मेमोरी रणनीतियों और टूल इंटीग्रेशन से संबंधित क्षमताओं को और अधिक गहराई मिलेगी। चेनिंग, राउटिंग और इवैल्यूएटर लूप जैसे कई पैटर्न को संयोजित करने से आप ऐसे परिष्कृत एजेंट बना सकते हैं जो समझने योग्य बने रहें। उन्नत मेमोरी प्रबंधन में स्थायी संदर्भ, कुशल संदर्भ विंडो और दीर्घकालिक ज्ञान प्रतिधारण जैसी तकनीकें शामिल हैं।

टूल्स और मॉडल कॉन्टेक्स्ट प्रोटोकॉल (एमसीपी) का एकीकरण एक अन्य सक्रिय क्षेत्र है। बाह्य उपकरणों के लिए मानकीकृत इंटरफेस और मॉडल संदर्भ के लिए एक समृद्ध प्रोटोकॉल का मतलब है कि एजेंट आपके शासन और अवलोकन स्टैक के तहत आपकी सेवाओं, एपीआई और डेटा स्रोतों तक सुरक्षित और लचीले ढंग से पहुंच सकते हैं।

व्यापक मंच में स्प्रिंग एआई: तान्ज़ू जेन एआई सॉल्यूशंस

VMware के Tanzu स्टैक पर आधारित संगठन बनाने वालों के लिए, Spring AI, Tanzu Gen AI Solutions का आधार भी बनता है। स्प्रिंग एआई द्वारा संचालित तंजू एआई सर्वर, उद्यम-स्तरीय सुरक्षा, शासन और स्केलेबिलिटी के साथ तंजू प्लेटफॉर्म पर एआई अनुप्रयोगों को तैनात करने के लिए एक उत्पादन-तैयार वातावरण प्रदान करता है।

यह एकीकरण एक एकीकृत इंटरफेस के माध्यम से अमेज़ॅन बेडरॉक नोवा जैसे मॉडलों तक पहुंच को सरल बनाता है। प्रत्येक टीम द्वारा अपने मॉडल कनेक्शन स्वयं जोड़ने के बजाय, प्लेटफ़ॉर्म एक्सेस, सुरक्षा नीतियों और परिचालन टूलिंग को मानकीकृत करता है। स्प्रिंग एआई मॉडल पोर्टेबिलिटी को संभालता है, जबकि तान्ज़ू आधुनिक कुबेरनेट्स प्लेटफ़ॉर्म से अपेक्षित मजबूत बुनियादी ढांचा, ऑटोस्केलिंग और ऑब्जर्वेबिलिटी प्रदान करता है।

क्योंकि स्प्रिंग एआई एप्लिकेशन-स्तर के एब्स्ट्रैक्शन के लिए जिम्मेदार है, इसलिए टीमें अपने बिजनेस लॉजिक को फिर से लिखे बिना प्रोवाइडर्स के बीच स्विच कर सकती हैं या नए मॉडल अपना सकती हैं। तेजी से बदलते एआई परिदृश्य में यह अनुकूलन क्षमता महत्वपूर्ण है, जहां नए मॉडल अक्सर सामने आते हैं और मूल्य निर्धारण या क्षमताएं तेजी से बदल सकती हैं।

टान्ज़ू जेन एआई सॉल्यूशंस में सुरक्षा और शासन संबंधी विशेषताएं इन एआई अनुप्रयोगों को अन्य माइक्रोसेवाओं के लिए उपयोग किए जाने वाले समान एंटरप्राइज़ नियंत्रणों के अंतर्गत रखती हैं। नीतियां, पहुंच नियंत्रण, ऑडिट ट्रेल और अनुपालन उपकरण स्वाभाविक रूप से एलएलएम वर्कलोड तक विस्तारित होते हैं, जिससे संवेदनशील या विनियमित उपयोग मामलों को चलाना अधिक संभव हो जाता है।

ये सभी परतें—फ्रेमवर्क, बुक, पैटर्न और प्लेटफॉर्म—एक ही लक्ष्य की ओर अभिसरित होती हैं: स्प्रिंग डेवलपर्स को विश्वसनीयता या नियंत्रण का त्याग किए बिना वर्चुअल असिस्टेंट, स्मार्ट सर्च, टेक्स्ट समराइजेशन और रिकमेंडेशन जैसी उच्च-मूल्य वाली एआई सुविधाओं को सीधे जावा एप्लिकेशन में जोड़ने में सक्षम बनाना। Spring AI in Action को अपने व्यावहारिक मार्गदर्शक के रूप में और Spring AI को अपने इंजीनियरिंग आधार के रूप में उपयोग करके, आप Spring इकोसिस्टम के भीतर रहते हुए प्रयोगों से लेकर मजबूत AI-संचालित सेवाओं तक आगे बढ़ सकते हैं, जिसे आप पहले से ही अच्छी तरह जानते हैं।