wehub-resource-sync
38 KiB
AI ఏజెంట్ల కోసం కాన్టెక్స్ట్ ఇంజినీరింగ్
(ఈ పాఠం వీడియో చూడటానికి పై చిత్రం పై క్లిక్ చేయండి)
మీరు నిర్మిస్తున్న AI ఏజెంట్ కోసం అప్లికేషన్ యొక్క సంక్లిష్టతను అర్థం చేసుకోవడం విశ్వసనీయత క్రమంగా రూపొందించడానికి ముఖ్యమైనది. ప్రాంప్ట్ ఇంజినీరింగ్ దాటి, సంక్లిష్ట అవసరాలను పరిష్కరించేందుకు సమర్థవంతంగా సమాచారం నిర్వహించే AI ఏజెంట్లను నిర్మించాలి.
ఈ పాఠంలో, కాన్టెక్స్ట్ ఇంజినీరింగ్ ఏమిటి మరియు అది AI ఏజెంట్లను నిర్మించడంలో పాత్ర ఏమిటో పరిశీలించబోతున్నాం.
పరిచయం
ఈ పాఠం లో కవర్ చేయబడుతుంది:
• కాంటెక్స్ట్ ఇంజినీరింగ్ అంటే ఏమిటి మరియు ఇది ప్రాంప్ట్ ఇంజినీరింగ్ నుండి ఎలా భిన్నంగా ఉంటుంది.
• సమర్థవంతమైన కాన్టెక్స్ట్ ఇంజినీరింగ్ కోసం వ్యూహాలు, ఇందులో సమాచారం రాయడం, ఎంచుకోవడం, సన్నికరించడం, వేరుచేయడం ఎలా చేయాలో.
• సాధారణ కాన్టెక్స్ట్ వైఫల్యాలు ఏమిటి మరియు వాటిని ఎలా సరి చేయాలో.
నేర్చుకునే లక్ష్యాలు
ఈ పాఠం పూర్తయిన తర్వాత, మీరు తెలుసుకుంటారు:
• కాంటెక్స్ట్ ఇంజినీరింగ్ నిర్వచనం మరియు దీన్ని ప్రాంప్ట్ ఇంజినీరింగ్ తో వేరుచేసుకోవడం.
• లార్జ్ లాంగ్వేజ్ మోడల్ (LLM) అప్లికేషన్లలో కాన్టెక్స్ట్ యొక్క కీలక భాగాలను గుర్తించడం.
• ఏజెంట్ పనితీరును మెరుగుపర్చడానికి కాన్టెక్స్ట్ రాయడం, ఎంచుకోవడం, సన్నికరించడం, వేరుచేయడం కోసం వ్యూహాలను అమలు చేయడం.
• పోయిజనింగ్, దృష్టి తప్పడం, గందరగోళం, వాడుకలో ఉన్న Clash వంటి సాధారణ కాన్టెక్స్ట్ లోపాలను గుర్తించడం మరియు తగ్గింపు ప్రక్రియలను అమలు చేయడం.
కాన్టెక్స్ట్ ఇంజినీరింగ్ అంటే ఏమిటి?
AI ఏజెంట్ల కోసం, కాన్టెక్స్ట్ అనేది AI ఏజెంట్ ఒక నిర్దిష్ట చర్యలు తీసుకోవడానికి ప్రణాళికను నడిపే అంశం. కాన్టెక్స్ట్ ఇంజినీరింగ్ అంటే AI ఏజెంట్ కు పని తదుపరి దశ పూర్తి చేసేందుకు సరైన సమాచారం అందించే ప్రాక్టీస్. కాన్టెక్స్ట్ విండో పరిమిత పరిమాణంలో ఉంటుంది, కావున ఏజెంట్ వైపు నుండి సమాచారాన్ని జోడించడం, తొలగించడం మరియు సాంద్రీకృ తం చేయడానికి సిస్టమ్లు మరియు ప్రక్రియలను నిర్మించాలి.
ప్రాంప్ట్ ఇంజినీరింగ్ వర్సెస్ కాన్టెక్స్ట్ ఇంజినీరింగ్
ప్రాంప్ట్ ఇంజినీరింగ్ ఒక స్థిరమైన సూచనల సెట్ పై దృష్టి పెట్టి, AI ఏజెంట్లను నియంత్రించడానికి నియమాల సెట్ ఉపయోగిస్తుంది. కాన్టెక్స్ట్ ఇంజినీరింగ్ అనేది ప్రారంభ ప్రాంప్ట్ సహా, గడచిన కాలంలో AI ఏజెంట్ కు కావలసిన డైనమిక్ సమాచారాన్ని ఎలా నిర్వహించాలో సంబంధిస్తుంది. కాన్టెక్స్ట్ ఇంజినీరింగ్ యొక్క ప్రధాన భావన ఈ ప్రక్రియను పునరావృతం చేయదగినది మరియు నమ్మదగినది గా రూపొందించడం.
కాన్టెక్స్ట్ రకాల వివరాలు
కాంటెక్స్ట్ ఒక్కటి మాత్రమే కాదు అనే విషయం గుర్తుంచుకోవటం ముఖ్యము. AI ఏజెంట్ కావలసిన సమాచారం అనేక వనరుల నుండి వస్తుంది మరియు వాటిలో ఏజెంట్ కి యాక్సెస్ కల్పించడం మన భాధ్యత:
AI ఏజెంట్ నిర్వహించవలసిన కాన్టెక్స్ట్ రకాలు:
• సూచనలు: ఇవి ఏజెంట్ యొక్క "నియమాలు" వంటివి – ప్రాంప్ట్లు, సిస్టమ్ సందేశాలు, ఫ్యూ-షాట్ ఉదాహరణలు (AI ఎలా చేయాలో చూపించటం), మరియు ఇది ఉపయోగించగల టూల్స్ వివరణలు. ఇక్కడ ప్రాంప్ట్ ఇంజినీరింగ్ మరియు కాన్టెక్స్ట్ ఇంజినీరింగ్ యొక్క ఫోకస్ కలుస్తుంది.
• జ్ఞానం: ఇది నిజాలు, డేటాబేస్ల నుండి తీసుకున్న సమాచారం లేదా ఏజెంట్ సేకరించిన దీర్ఘకాలిన జ్ఞాపకాలు. ఇందులో రిట్రీవల్ ఆగ్మెంటెడ్ జనరేషన్ (RAG) సిస్టమ్ ఒక ఏజెంట్ కి వివిధ జ్ఞాన దుకాణాలు మరియు డేటాబేస్ల యాక్సెస్ కావాలంటే చేర్చవచ్చు.
• సాధనాలు: ఇవి ఏజెంట్ కాల్ చేయగల బాహ్య ఫంక్షన్స్, APIs, మరియు MCP సర్వర్లు నిర్వచనలు, వాటిని ఉపయోగించే ఫలితాలతో పాటు.
• సంభాషణ చరిత్ర: ఒక వినియోగదారుతో కొనసాగుతున్న సంభాషణ. కాలానుగుణంగా, సంభాషణలు ఎక్కువ మరియు సంక్లిష్టమవుతాయి, కాబట్టి అవి కాన్టెక్స్ట్ విండోలో స్థలాన్ని తీసుకుంటాయి.
• వినియోగదారుడు ప్రాధాన్యాలు: వినియోగదారుడి ఇష్టాలు లేదా неприяతల గురించి సమయం తో నేర్చుకున్న సమాచారం. ఇవి కీలక నిర్ణయాలను తీసుకునే సమయంలో ఉపయోగించడానికి చేరదీయబడతాయి.
సమర్థవంతమైన కాన్టెక్స్ట్ ఇంజినీరింగ్ కోసం వ్యూహాలు
ప్రణాళిక వ్యూహాలు
పరిణతి కాన్టెక్స్ట్ ఇంజినీరింగ్ మంచి ప్రణాళికతో ప్రారంభమవుతుంది. ఇది కాన్టెక్స్ట్ ఇంజినీరింగ్ కాన్సెప్ట్ ను ఎలా వర్తింప చేయాలో ఆలోచించటానికి మీకు సహాయపడే ఒక దశాబ్దమయిన పద్ధతి:
-
స్పష్టమైన ఫలితాలు నిర్వచించండి - AI ఏజెంట్లకు కేటాయించిన పనుల ఫలితాలు స్పష్టంగా నిర్వచించబడాలి. "AI ఏజెంట్ దాని పని పూర్తి చేసిన తర్వాత ప్రపంచం ఎలా కనిపిస్తుందో?" అనే ప్రశ్నకు జవాబు చెప్పండి. అంటే, వినియోగదారుడు AI ఏజెంట్ తో పరస్పర చర్య తర్వాత ఎటువంటి మార్పు, సమాచారం లేదా ప్రతిస్పందన పొందాలి అన్నది.
-
కాంటెక్స్ట్ ను మ్యాప్ చేయండి - AI ఏజెంట్ యొక్క ఫలితాలు నిర్వచించిన తర్వాత, "ఈ పని పూర్తి చేయడానికి AI ఏజెంట్ కి ఏ సమాచారం అవసరమవుతుంది?" అనే ప్రశ్నకు జవాబు ఇవ్వాలి. ఇట్లా మీరు సమాచారాన్ని ఎక్కడ కనుగొనవచ్చు అన్నది కాన్టెక్స్ట్ ను మ్యాప్ చేయడం ప్రారంభించవచ్చు.
-
కాంటెక్స్ట్ పైప్లైన్స్ సృష్టించండి - మీరు సమాచారం ఎక్కడ ఉందో తెలుసుకున్న తర్వాత, "ఏజెంట్ ఈ సమాచారాన్ని ఎలా పొందుతుంది?" అనే ప్రశ్నకు జవాబు అవసరం. దీనికి వివిధ మార్గాలు ఉంటాయి, అందులో RAG, MCP సర్వర్ల ఉపయోగం మరియు ఇతర సాధనాలు ఉన్నాయి.
praktisch వ్యూహాలు
పరిణతి ముఖ్యమైనదే కాని, సమాచారం మా ఏజెంట్ కాన్టెక్స్ట్ విండోకి ప్రవహించడం మొదలయ్యాక, దాన్ని నిర్వహించడానికి ఆచరణాత్మక వ్యూహాలు అవసరం:
కాన్టెక్స్ట్ నిర్వహణ
కొన్ని సమాచారం ఆటోమేటిగానే కాన్టెక్స్ట్ విండోలో చేరిక అవుతుంది అయినప్పటికీ, కాన్టెక్స్ట్ ఇంజినీరింగ్, సమాచారం మీద మరింత సక్రియమైన పాత్ర పోషించడంపై దృష్టి పెడుతుంది. కొన్ని వ్యూహాలు:
-
ఏజెంట్ స్క్రాచ్ప్యాడ్
ఇది ఏజెంట్కి ప్రస్తుత పనుల మరియు వినియోగదారుల పరస్పర చర్యల గురించి సంబంధిత గమనికలను ఒక సెషన్లో తీసుకునేందుకు అనుమతిస్తుంది. ఇది కాన్టెక్స్ట్ విండో వెలుపల ఉన్న ఫైల్ లేదా రన్టైమ్ ఆబ్జెక్ట్ రూపంలో ఉండాలి, ఏజెంట్ అవసరమైతే ఈ సెషన్ సమయంలో తర్వాతి కాల్ లో తిరిగి తెచ్చుకోవచ్చు. -
జ్ఞాపకాలు
స్క్రాచ్ప్యాడ్లు ఒక సెషన్ కాన్టెక్స్ట్ విండో వెలుపల సమాచారం నిర్వహించటానికి ఉపయోగపడతాయి. జ్ఞాపకాలు ఏజెంట్లు అనేక సెషన్లలో సంబంధిత సమాచారం నిల్వ చేయడానికి మరియు తిరిగి తెచ్చుకునేందుకు సహాయపడతాయి. ఇందులో సారాంశాలు, వినియోగదారుల ప్రాధాన్యాలు మరియు అభిప్రాయాలు ఉండవచ్చు భవిష్యత్తులో మెరుగుదల కోసం. -
కాంటెక్స్ట్ ను సన్నికరించడం
కాన్టెక్స్ట్ విండో పెరిగి దాని పరిమితికి చేరినప్పుడు, సారాంశీకరణ మరియు త్రిమ్మింగ్ వంటి సాంకేతికతలు ఉపయోగించవచ్చు. దీంట్లో అత్యంత సంబంధిత సమాచారం మాత్రమే ఉంచడం లేదా పాత సందేశాలను తొలగించడం ఉంటుంది. -
బహుఏజెంట్ వ్యవస్థలు
ప్రతి ఏజెంట్ కి తమ స్వంత కాన్టెక్స్ట్ విండో ఉంటుంది కాబట్టి బహుఏజెంట్ వ్యవస్థలను అభివృద్ధి చేయడం ఒక రకమైన కాన్టెక్స్ట్ ఇంజినీరింగ్. ఆ కాన్టెక్స్ట్ ఎలా భాగస్వామ్యం అవుతుందో, ఎలా ఇతర ఏజెంట్లకు పంపబడుతుంది అని ఈ వ్యవస్థలు రూపొందించేప్పుడు ప్రణాళిక చేయాలి. -
సాండ్బాక్స్ వాతావరణాలు
ఏజెంట్ కొన్ని కోడ్ని నడిపించాలి లేదా పెద్ద సంఖ్యలో సమాచారాన్ని ప్రాసెస్ చేయాలి అనుకుంటే, ఫలితాలను ప్రాసెస్ చేయడానికి చాలా టోకెన్లు పట్టవచ్చు. ఈ మొత్తం సమాచారాన్ని కాన్టెక్స్ట్ విండోలో నిల్వ చేయకుండా, ఏజెంట్ కోడ్ నడిపించే మరియు ఫలితాలు మరియు ఇతర సంబంధిత సమాచారం మాత్రమే చదివే సాండ్బాక్స్ వాతావరణాన్ని ఉపయోగించవచ్చు. -
రన్టైమ్ స్టేట్ ఆబ్జెక్టులు
ఒక కాంప్లెక్స్ టాస్క్ కోసం, ఏజెంట్ కి కొన్ని ప్రత్యేక సమాచారం యాక్సెస్ అవసరమైతే, అటువంటి సందర్భాలు నిర్వహించడానికి సమాచారం కంటైనర్లను సృష్టించడం ద్వారా చేయబడుతుంది. ఇది ఏజెంట్ కు ప్రతి ఉప-టాస్క్ దశ ఫలితాలను దశలవారీగా నిల్వ చేయడానికి అనుమతిస్తుంది, కాంటెక్స్ట్ కేవలం ఆ ప్రత్యేక ఉప-టాస్క్ కు మాత్రమే సంబంధించినట్లుగా ఉంటుంది.
కాన్టెక్స్ట్ తనిఖీ
వీటిలో ఒక వ్యూహం అమలు చేసిన తర్వాత, తదుపరి మోడల్ కాల్ నిజంగా ఏ సమాచారాన్ని అందుకున్నదీ తనిఖీ చేయడం మంచిది. ఉపయోగకరమైన డీబగ్గింగ్ ప్రశ్న:
ఏజెంట్ మొసలి ఎక్కువ కాన్టెక్స్ట్ తీసుకున్నాడా, తప్పు కాన్టెక్స్ట్ వేసుకున్నాడా లేక కావలసిన కాన్టెక్స్ట్ మిస్ అయ్యిందా?
ఆ ప్రశ్నకు సమాధానం కోసం రా ప్రాంప్ట్లు, టూల్ అవుట్పుట్లు లేదా మెమరీ కంటెంట్లు లాగ్ చేయాల్సిన అవసరం లేదు. ప్రొడక్షన్ లో, చిన్న కాన్టెక్స్ట్ తనిఖీ రికార్డులే ఉపయోగించండి, వాటిలో కౌంట్లు, IDs, హాష్లు, పాలసీ లేబుల్స్ ఉంటాయి:
-
ఎంపిక: ఎన్ని అభ్యర్థనా భాగాలు, టూల్స్ లేదా మెమరీలు పరిశీలించబడ్డాయి, ఎన్ని ఎంచుకోబడ్డాయి, మరియు ఏ నియమం లేదా స్కోరు ఇతరులను ఫిల్టర్ చేశాయో ట్రాక్ చేయండి.
-
సన్నికరింపు: మూల శ్రేణి లేదా ట్రేస్ ID, సారాంశ ID, సన్నికరించే ముందు మరియు తర్వాత అంచనా టోకెన్ లెక్క, తదుపరి కాల్ నుండి రా కంటెంట్ వల్లులేని విధమయితే రికార్డు చేయండి.
-
వేరుచేయడం: ఏ ఉప-టాస్క్ వేరే ఏజెంట్, సెషన్, లేదా సాండ్బాక్స్ లో నడిచిందో, ఆ పరిష్కార సారాంశం తీసుకువచ్చిందో, పెద్ద టూల్ అవుట్పుట్ తల్లిపేరు ఏజెంట్ కాంటెక్స్ట్ వెలుపల ఉందో గమనించండి.
-
మెమరీ మరియు RAG: ఫుల్ రిట్రీవ్డ్ టెక్స్ట్ కాకుండా రిట్రీవల్ డాక్యూమెంట్ IDs, మెమరీ IDs, స్కోర్లు, ఎంచుకున్న IDs మరియు రెడాక్షన్ స్థితి నిల్వ చేయండి.
-
సురక్షితత్వం మరియు గోప్యత: సంకేతాత్మక ప్రాంప్ట్ టెక్స్ట్, టూల్ ఆర్గ్యుమెంట్లు, టూల్ ఫలితాలు లేదా వినియోగదారు మెమరీ బాడీలకి బదులుగా హాష్లు, IDs, టోకెన్ బకెట్స్, పాలసీ లేబుల్స్ కోరుకోండి.
లక్ష్యం మరింత కాన్టెక్స్ట్ నిలుపుకోవడం కాదు. అభివృద్ధికర్తకు ఏ కాన్టెక్స్ట్ వ్యూహం అమలైందో మరియు అది తదుపరి మోడల్ కాల్ ని అనుకున్న విధంగా మార్చిందో చెప్పడానికి సరిపడిన రికార్డులు ఇవ్వడం.
కాన్టెక్స్ట్ ఇంజినీరింగ్ ఉదాహరణ
మనము ఒక AI ఏజెంట్ కి "పారిస్ కు ఒక ట్రిప్ బుక్ చేయాలి." అని కోరుకుంటే:
• సాదారణ ఏజెంట్ ప్రాంప్ట్ ఇంజినీరింగ్ ఉపయోగించి ఇలా స్పందించవచ్చు: "సరే, మీరు ఎప్పుడు పారిస్ కు వెళ్లాలనుకుంటున్నారు?" ఇది వినియోగదారు అడిగిన ప్రశ్నను ఆ సమయంలోనే ప్రాసెస్ చేసింది.
• కాన్టెక్స్ట్ ఇంజినీరింగ్ వ్యూహాలు ఉపయోగించే ఏజెంట్ మరింత అనేక విషయాలు చేస్తుంది. ప్రతిస్పందించే ముందు, సిస్టమ్ ఇలా ఉండవచ్చు:
◦ మీ క్యాలెండర్ లభ్య తేదీల కోసం తనిఖీ (సమయోచిత డేటా తీసుకోవడం).
◦ గత ప్రయాణ ప్రాధాన్యాలను గుర్తించడం (దీర్ఘకాలిక జ్ఞాపకం నుండి) – ఇష్టమైన విమాన సంస్థ, బడ్జెట్ లేదా డైరెక్ట్ ఫ్లైట్ల ఇష్టమైనది.
◦ ఫ్లైట్ మరియు హోటల్ బుకింగ్ కోసం లభ్య సాధనాలను గుర్తించడం.
- అనంతరం, ఉదాహరణగా ఇలా అనవచ్చు: "హే [మీ పేరు]! అక్టోబర్ మొదటి వారంల్లో మీరు ఖాళీగా ఉన్నారని చూస్తున్నా. మీ సాధారణ బడ్జెట్ లో [ఇష్టమైన విమాన సంస్థ] పై పారిస్ కు డైరెక్ట్ ఫ్లైట్లను చూస్తారా?" ఈ సంపన్నమైన, కాన్టెక్స్ట్- అవగాహనతో కూడిన జవాబు కాన్టెక్స్ట్ ఇంజినీరింగ్ శక్తిని చూపిస్తుంది.
సాధారణ కాన్టెక్స్ట్ లోపాలు
కాన్టెక్స్ట్ విషపూర్తి (Context Poisoning)
ఏంటి: మోసం (LLM ఉత్పత్తి చేసిన తప్పుగా సమాచారం) లేదా లోపం కాన్టెక్స్ట్ లోకి ప్రవేశించి తిరిగి తిరిగి సూచించబడినప్పుడు, ఏజెంట్ సాధ్యం కాని లక్ష్యాలు అనుసరించటం లేదా అసంద్యూంణిత వ్యూహాలు తయారు చేయడం.
చేయవలసింది: కాంటెక్స్ట్ ధృవీకరణ మరియు క్వారంటైన్ అమలు చేయండి. సమాచారం దీర్ఘకాలిక జ్ఞాపకంలో చేరే ముందు ధృవీకరించండి. విషపూరిత సమాచారం ప్యారడకాలేదు అనిపిస్తే, కొత్త కాన్టెక్స్ట్ థ్రెడ్లు ప్రారంభించి తప్పుదారి వెళ్ళకుండా అదను చేయండి.
ప్రయాణ బుకింగ్ ఉదాహరణ: ఏజెంట్ ఒక చిన్నస్థానిక ఎయిర్పోర్ట్ నుండి దూర అంతర్జాతీయ నగరానికి డైరెక్ట్ ఫ్లైట్ ఉందనీ విలక్షణమైన కల్పనలో పడుతుంది కానీ నిజానికి అంతర్జాతీయ ఫ్లైట్లను అందించడం లేదు. ఈ అసలు లేనిది కాన్టెక్స్ట్ లో సేవ్ అవుతుంది. తరువాత మీరు బుక్ చేయమని అడిగినప్పుడు, ఈ అసాధ్య రూట్ కోసం టిక్కెట్లు వెతుకుతూ తప్పులు చేస్తుంది.
పరిష్కారం: ఏజెంట్ పని చేస్తున్న కాన్టెక్స్ట్ లో ఫ్లైట్ వివరాలు చేర్చేముందు ఫ్లైట్ ఉనికిని మరియు మార్గాలను సమయోచిత API తో ధృవీకరించండి. ధృవీకరణ విఫలమైతే, తప్పు సమాచారం "క్వారంటైన్" చేసి దానిని ఇకపై ఉపయోగించరు.
కాన్టెక్స్ట్ దృష్టి తప్పడం (Context Distraction)
ఏంటి: కాన్టెక్స్ట్ చాలా పెద్దగా మారినప్పుడు, మోడల్ లెర్నింగ్ సమయంలో నేర్చుకున్న దానిపై కంటే సేకరించిన చరిత్ర మీద ఎక్కువగా కేంద్రీకరించి పునరావృతమైన లేదా సహాయకంలేని చర్యలు చేస్తుంది. కాన్టెక్స్ట్ విండో పూర్తవ్వక ముందు కూడా మోడళ్లు తప్పులు చేయవచ్చు.
చేయవలసింది: కాంటెక్స్ట్ సారాంశం ఉపయోగించండి. కాలక్రమేణ ఆమర్చిన సమాచారాన్ని చిన్న సారాంశాలుగా సున్నితంగా సన్నికరించి, ప్రాముఖ్యమైన వివరాలను ఉంచి, అవసరంలేని చరిత్రని తొలగించండి. ఇది "ఫోకస్ను పునరుద్ధరించడంలో" సహాయపడుతుంది.
ప్రయాణ బుకింగ్ ఉదాహరణ: మీరు చాలా కాలంగా వివిధ కలల ప్రయాణ ప్రదేశాల గురించిన చర్చ చేస్తున్నట్లుంది, అందులో రెండు సంవత్సరాల క్రితం మీరు చేసిన బ్యాక్ప్యాక్ ప్రయాణం వివరించారు. మీరు చివరికి "తర్వాతి నెల కొరకు చౌక విమాన టిక్కెట్లు కనుగొనండి" అని అడిగినప్పుడు, ఏజెంట్ పాత, అసంబంధిత వివరాలలో మునిగిపోతుంది మరియు మీ ప్రస్తుత అభ్యర్థనను పక్కన పెడుతూ మీ బ్యాక్ప్యాక్ గియర్ లేదా గత ప్రయాణ విమర్శలను అడుగుతుంది.
పరిష్కారం: కొన్ని సంక్షిప్తాలు లేదా కాన్టెక్స్ట్ చాలా పెద్దదైతే, ఏజెంట్ కర్తవ్యానికి ప్రస్తుత మరియు సంబంధిత భాగాలను సారాంశం చేయాలి – ప్రస్తుత ప్రయాణ తేదీలు మరియు గమ్యం పై దృష్టి పెట్టి – తరువాతి LLM కాల్ కొరకు ఆ సంక్షిప్త సారాంశాన్ని ఉపయోగించి పాత అసంబంధ చర్చను ఫార్గెట్ చేయాలి.
కాన్టెక్స్ట్ కలపటం (Context Confusion)
ఏంటి: అవసరంలేని కాన్టెక్స్ట్, ముఖ్యంగా చాలా ఎక్కువ సాధనాల రూపంలో ఉండే ప్రక్రియ, మోడల్ తప్పుడు ప్రతిస్పందనలు లేదా అసంబంధ టూల్స్ కు కాల్ చేయటం కలిగిస్తుంది. చిన్న మోడళ్లు దీనికి అధికంగా పడి ఉంటాయి.
చేయవలసింది: RAG సాంకేతికతలతో టూల్ లోడ్ అవుట్ నిర్వహణ అమలు చేయండి. టూల్ వివరణలను వెక్టర్ డేటాబేస్ లో నిల్వ చేసి, ప్రత్యేక పనికి అత్యంత సంబంధిత టూల్స్ మాత్రమే ఎంచుకోండి. పరిశోధనలు 30 కంటే తక్కువ టూల్స్ ఎంపిక అనువైనదని చూపిస్తున్నాయి.
ప్రయాణ బుకింగ్ ఉదాహరణ: మీ ఏజెంట్ కి పందులతో కూడిన టూల్స్ ఉన్నాయి: book_flight, book_hotel, rent_car, find_tours, currency_converter, weather_forecast, restaurant_reservations, మొదలైనవి. మీరు అడిగినప్పుడు, "పారిస్ లో చుట్టూ తిరగడానికి ఉత్తమ మార్గం ఏంటి?" టూల్స్ సంఖ్య ఎక్కువగా ఉన్నందున ఏజెంట్ గందరగోళంలోనికి చేరి పారిస్ లో book_flight అని కాల్ చేయడానికి ప్రయత్నిస్తుంది, లేదా మీరు ప్రజా రవాణాను ఇష్టపడుతున్నా rent_car కూడా ప్రయత్నించవచ్చు, ఎందుకంటే టూల్ వివరణలు మనస్ఫూర్తిగా ఉండకపోవచ్చు లేదా ఏది ఉత్తమం అనేది తేలిపోవకపోవచ్చు.
పరిష్కారం: టూల్ వివరణల మీద RAG ఉపయోగించండి. మీరు పారిస్లో చుట్టూ తిరగడంపై అడిగినప్పుడు, ప్రోగ్రాం కేవలం సంబంధిత టూల్స్ (ఉదా: rent_car లేదా public_transport_info) మాత్రమే వెతుకుతుంది మరియు LLM కు ఫోకస్డ్ "లోడ్ అవుట్" అందిస్తుంది.
కాన్టెక్స్ట్ గొడుగు (Context Clash)
ఏంటి: కాన్టెక్స్ట్ లో పరస్పర విరుద్ధమైన సమాచారం ఉన్నప్పుడు, ఫలితంగా అసంగతమైన తర్కాలు లేదా తప్పుడు తుది ప్రతిస్పందనలు వస్తాయి. ఇది తరచుగా సమాచారం దశలవారీగా చేరినప్పుడు సంభవిస్తుంది, మరియు మొదటివృత్తి తప్పు అనుకుంటున్న భావన కన్టెక్స్ట్ లోనే మిగిలివుంటుంది.
చేయవలసింది: కాంటెక్స్ట్ కోత మరియు ఆఫ్లోడింగ్ ఉపయోగించండి. కోత అంటే కొత్త వివరాలు వచ్చినప్పుడు పాత లేదా విరుద్ధమైన సమాచారాన్ని తొలగించడం. ఆఫ్లోడింగ్ అనగా, మోడల్ కు ముఖ్య కాన్టెక్స్ట్ లో బట్టి తిరుగులేని "స్క్రాచ్ప్యాడ్" వర్క్స్పేస్ ఇవ్వడం, సమాచారం ను ప్రాసెస్ చేయడానికి సహాయపడటం.
ప్రయాణ బుకింగ్ ఉదాహరణ: మీరు ప్రారంభంలో మీ ఏజెంట్కి చెబుతారు, "నేను ఎకానమీ క్లాస్లో నడవాలనుకుంటున్నాను." సంభాషణలో తరువాత, మీరు అభిప్రాయం మార్చుకుని చెబుతారు, "నిజానికి, ఈ ప్రయాణానికి బిజినెస్ క్లాస్లో వెళ్దాం." రెండు సూచనలు సానుకూలంగా ఉన్నా, ఏజెంట్ కలవరపడి ఏ ప్రాధాన్యత ఇచ్చాలో గందరగోళంలో పడవచ్చు లేదా విరుద్ధమైన శోధన ఫలితాలు పొందవచ్చు.
పరిష్కారం: సందర్భం తగ్గింపు (context pruning)ను అమలు చేయండి. కొత్త సూచన పాతదానికి విరుద్ధంగా ఉంటే, పాత సూచనను వ్యవస్థ నుండి తీసేయండి లేదా స్పష్టంగా భ్రష్టిపర్చండి. లేదా ఏజెంట్ ఒక scratchpad ఉపయోగించి విరుద్ధ అభిరుచులను సరి చూసుకొని, చివరిగా మాత్రమే కలిసిపోయిన, సుస్పష్టమైన సూచనతోనే ఆ పని చేయాలి.
మరిన్ని ప్రశ్నలు కలిగి ఉన్నారా? సందర్భ ఇంజినీరింగ్ గురించి?
ఇంకా తెలుసుకోవడానికి, Microsoft Foundry Discordలో చేరండి, ఇతర అభ్యాసకులతో కలుసుకోండి, ఆఫీస్ అవర్స్లో పాల్గొనండి మరియు మీ AI ఏజెంట్స్ సంబంధించిన ప్రశ్నలకు సమాధానాలు పొందండి.
అస్వీకరణ: ఈ పత్రం AI అనువాద సేవ Co-op Translator ఉపయోగించి అనువదించబడింది. మేము ఖచ్చితత్వానికి ప్రయత్నిస్తున్నప్పటికీ, ఆటోమేటెడ్ అనువాదాలు తప్పులు లేదా అసమగ్రతలను కలిగి ఉండవచ్చు. దాని స్వదేశ భాషలో ఉన్న అసలు పత్రాన్ని అధికారం కలిగిన మూలంగా పరిగణించాలి. కీలకమైన సమాచారం కోసం, ప్రొఫెషనల్ మానవ అనువాదాన్ని సిఫారసు చేస్తాము. ఈ అనువాదం ఉపయోగం వల్ల కలిగే ఏవైనా అపార్థాలు లేదా తప్పుదారులు కోసం మేము బాధ్యత వహించము.