ద్వారా Claude Codeను Bedrock లేదా Vertex AIలో రన్ చేయడం ఎలా?
Claude Codeను Amazon Bedrock లేదా Google Vertex AIకి కనెక్ట్ చేయడానికి అవసరమైన environment variables, క్లౌడ్ క్రెడెన్షియల్స్ మరియు బిల్లింగ్ వివరాలను ఈ గైడ్లో తెలుసుకోండి.
Claude Code మీ స్వంత క్లౌడ్ ఖాతాలో రన్ అయినప్పుడు ఏమి మారుతుంది
మీరు Claude Code ను Amazon Bedrock లేదా Google Vertex AI పై రన్ చేయవచ్చు. దీని కోసం రెండు లేదా మూడు environment variables ను మార్చడం మరియు మీ బృందం ఇప్పటికే ఉపయోగిస్తున్న cloud credentials ను అందించడం సరిపోతుంది. స్థానికంగా అన్నీ యథావిధిగా పనిచేస్తాయి: CLI, subagents, hooks, skills, MCP servers మరియు మీ CLAUDE.md ఫైళ్లు అన్నీ అలాగే ఉంటాయి. కేవలం model call మాత్రమే మారుతుంది, దానితో పాటు నాలుగు అంశాలు మారుతాయి: అభ్యర్థన ప్రయాణించే నెట్వర్క్, దానికి చెల్లించే ఖాతా, మీరు ఉపయోగించడానికి అనుమతి ఉన్న Claude models, మరియు అందుబాటులో ఉండే server-side ఫీచర్లు.
ఇది పనిచేస్తుందా లేదా అనేది ప్రశ్న కాదు. ఇది ఖచ్చితంగా పనిచేస్తుంది. ఆ నాలుగు అంశాలలో మీరు దేనికి ఎక్కువ ప్రాధాన్యత ఇస్తారు అనేదే అసలు ప్రశ్న.
మూడు రకాల రూటింగ్ పద్ధతులు మరియు వాటి ఖర్చులు
సబ్స్క్రిప్షన్తో Anthropic డైరెక్ట్. మీరు Pro, Max, Team లేదా Enterprise ప్లాన్తో claude.ai ఖాతాకు సైన్ ఇన్ అవుతారు. అభ్యర్థనలు Anthropic APIకి వెళ్తాయి. మీరు ప్రతి సీటుకు చెల్లిస్తారు, మరియు వినియోగం టోకెన్ల ఆధారంగా కాకుండా ప్లాన్ పరిమితుల ద్వారా నిర్ణయించబడుతుంది. Claude Code, మొబైల్ యాప్, డెస్క్టాప్ మరియు రిమోట్ కంట్రోల్ వంటి ఖాతా ఆధారిత సర్ఫేస్లను యాక్సెస్ చేయడానికి ఈ రూటింగ్ మాత్రమే ఉపయోగపడుతుంది. టీమ్ కోసం, Claude Enterprise ప్లాన్ సింగిల్ సైన్-ఆన్ మరియు మేనేజ్డ్ పాలసీ సెట్టింగ్లను అదనంగా అందిస్తుంది.
API కీతో Anthropic డైరెక్ట్. మీరు Anthropic Consoleలో ఒక కీని సృష్టించి, ప్రతి టోకెన్కు చెల్లిస్తారు. సబ్స్క్రిప్షన్కు ఉన్న అదే ఇన్ఫ్రాస్ట్రక్చర్ మరియు రీజియన్లు దీనికి ఉంటాయి, కానీ సీటు పరిమితి ఉండదు. వినియోగం Anthropic డాష్బోర్డ్లో కనిపిస్తుంది. ఈ రెండింటిలో ఏది తక్కువ ఖర్చుతో కూడుకున్నదనేది ఏజెంట్ రోజుకు ఎన్ని గంటలు రన్ అవుతుందనే దానిపై ఆధారపడి ఉంటుంది. దీని గురించి పూర్తి వివరాలు API మరియు సబ్స్క్రిప్షన్ ఖర్చుల పోలిక మరియు Claude Code వాస్తవ ఖర్చులు అనే విభాగాల్లో ఉన్నాయి.
Bedrock లేదా Vertex ద్వారా థర్డ్-పార్టీ ఎండ్పాయింట్. మీ స్వంత AWS లేదా Google Cloud ఖాతా ద్వారా మోడల్ పనిచేస్తుంది. ఇన్ఫరెన్స్ సమయంలో Anthropic అభ్యర్థన మార్గంలో ఉండదు. టోకెన్ల ఖర్చు మీరు ఇప్పటికే పొందుతున్న బిల్లులో చేరుతుంది. ఇది మీరు ఇప్పటికే ఉపయోగిస్తున్న IAM (identity and access management) పాలసీలు మరియు ఆడిట్ లాగ్ల పరిధిలోకి వస్తుంది. Microsoft Foundry మరియు AWS లోని Claude Platform అనే మరో రెండు థర్డ్-పార్టీ ఆప్షన్లు కూడా అందుబాటులో ఉన్నాయి. ఇవి కూడా ఇదే పద్ధతిని అనుసరిస్తాయి: ఒక environment variable ద్వారా ప్రొవైడర్ను ఎంచుకోవచ్చు మరియు క్లౌడ్ ఖాతా ద్వారా చెల్లింపులు జరుగుతాయి.
నామింగ్ నోట్, ఆగస్టు 2026 నాటికి: Google తన Vertex AI పేరును Google Cloud's Agent Platformగా మార్చింది. Anthropic డాక్యుమెంటేషన్ కొత్త పేరును ఉపయోగిస్తోంది, కానీ Claude Code లాగిన్ ప్రాంప్ట్ ఇంకా Google Vertex AI అని చూపిస్తుంది, మరియు environment variables ఇంకా VERTEX అనే పేరుతోనే ఉన్నాయి.
డేటా రెసిడెన్సీ (Data residency) అనేది టీమ్లు ఇలా చేయడానికి అసలు కారణం
Bedrock లో, అభ్యర్థన మీరు ఎంచుకున్న AWS రీజియన్లోని ఒక Bedrock ఎండ్పాయింట్కు, మీ స్వంత ఖాతాలోనే వెళ్తుంది. డేటా ఎట్ రెస్ట్ (Data at rest), AWS-నిర్వహణ కీలతో AES-256 ద్వారా ఎన్క్రిప్ట్ చేయబడుతుంది, మరియు మీరు AWS KMS (key management service) ద్వారా మీ స్వంత కీని అందించవచ్చు. Vertex లో దీనికి సమానమైనది Google-నిర్వహణ ఎన్క్రిప్షన్ కీలు, అలాగే CMEK (customer-managed encryption keys) కూడా అందుబాటులో ఉన్నాయి. యాక్సెస్ అనేది మీరు ఇప్పటికే ఉపయోగించే IAM రోల్స్ ద్వారా నియంత్రించబడుతుంది, మరియు ఈ కాల్స్ ఇతర API కాల్స్ లాగానే CloudTrail లేదా Cloud Audit Logs లో కనిపిస్తాయి. నియంత్రిత (regulated) టీమ్లకు, ఇదే ప్రధాన వాదన, మరియు ఇది సరైన వాదన కూడా.
మార్కెటింగ్ చెబుతున్నంత ఖచ్చితంగా ఇది ఉండదని రెండు అంశాలు తెలియజేస్తున్నాయి.
క్రాస్-రీజియన్ ఇన్ఫరెన్స్ ప్రొఫైల్ (cross-region inference profile) అనేది ఒకే రీజియన్ కాదు. Bedrock లో, Claude Code తన డిఫాల్ట్ మోడళ్లను క్రాస్-రీజియన్ ఇన్ఫరెన్స్ ప్రొఫైల్ IDలకు రిజాల్వ్ చేస్తుంది, మరియు అది ప్రాధాన్యతనిచ్చే ప్రిఫిక్స్ అది రిజాల్వ్ అయిన రీజియన్ నుండి వస్తుంది: us. ఒక us-* రీజియన్లో, eu. ఒక eu-* రీజియన్లో, apac. ఒక ap-* రీజియన్లో, మరియు us-gov. GovCloud లో. ఒక క్రాస్-రీజియన్ ప్రొఫైల్ ఆ భౌగోళిక ప్రాంతంలోని మరొక రీజియన్ నుండి అభ్యర్థనను అందించగలదు, కాబట్టి మీకు లభించే హామీ ఒక భౌగోళిక ప్రాంతానికి మాత్రమే, ఒక నగరానికి కాదు. మీ అవసరం ఒక నిర్దిష్ట రీజియన్ను కోరితే, మీరు నియంత్రించే application inference profile ద్వారా రూట్ చేయండి మరియు ANTHROPIC_MODEL ను దాని ARN కి సెట్ చేయండి.
కొంత ట్రాఫిక్ ఇప్పటికీ Anthropic కి చేరుతుంది, కానీ అందులో మీ కోడ్ ఏదీ ఉండదు. Bedrock మరియు Vertex రెండింటిలోనూ టెలిమెట్రీ, ఎర్రర్ రిపోర్టింగ్ మరియు /feedback కమాండ్ డిఫాల్ట్గా ఆఫ్ చేయబడి ఉంటాయి, మరియు /feedback దేనినీ అప్లోడ్ చేయకుండా మీ స్వంత మెషీన్లో ~/.claude/feedback-bundles/ కింద ఒక ఆర్కైవ్ను రాస్తుంది. ప్రతి ప్రొవైడర్పై రెండు మినహాయింపులు ఉంటాయి. ఒక URLని ఫెచ్ చేసే ముందు, WebFetch టూల్ హోస్ట్నేమ్ను, కేవలం హోస్ట్నేమ్ను మాత్రమే, సేఫ్టీ బ్లాక్లిస్ట్ను తనిఖీ చేయడానికి api.anthropic.com కి పంపుతుంది. సెషన్ క్వాలిటీ సర్వేలు కూడా కనిపిస్తాయి. మొదటి దానిని మీ సెట్టింగ్స్ ఫైల్లో skipWebFetchPreflight తో ఆఫ్ చేయండి మరియు రెండవ దానిని CLAUDE_CODE_DISABLE_FEEDBACK_SURVEY=1 తో ఆఫ్ చేయండి, లేదా CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC తో అవసరం లేని ట్రాఫిక్ మొత్తాన్ని ఒకేసారి డిసేబుల్ చేయండి.
శిక్షణ (training) గురించి: వాణిజ్య నిబంధనల ప్రకారం, Claude Code ద్వారా పంపిన కోడ్ లేదా ప్రాంప్ట్లపై Anthropic మోడళ్లకు శిక్షణ ఇవ్వదు, మరియు థర్డ్-పార్టీ ప్లాట్ఫారమ్ వినియోగం వాణిజ్యపరమైనది. డెవలప్మెంట్ పార్టనర్ ప్రోగ్రామ్ (Development Partner Program), అంటే శిక్షణను అనుమతించే ఆప్ట్-ఇన్, Bedrock లేదా Vertex వినియోగదారులకు అసలు అందించబడదు. ఈ ఎండ్పాయింట్లపై డేటా రిటెన్షన్ (data retention) సున్నా అనేది AWS లేదా Google తో మీ ఒప్పందానికి సంబంధించిన విషయం.
Amazon Bedrock వైపు Claude Code ను మళ్లించడం
ఏదైనా క్లయింట్ కాన్ఫిగరేషన్ కంటే ముందుగా, ప్రతి AWS ఖాతాకు సంబంధించి రెండు పనులు చేయాలి. Amazon Bedrock కన్సోల్ను తెరిచి, మోడల్ కేటలాగ్ నుండి ఒక Anthropic మోడల్ను ఎంచుకుని, use case ఫారమ్ను సమర్పించండి: సమర్పించిన వెంటనే యాక్సెస్ లభిస్తుంది. ఆ తర్వాత, Claude Code చేసే కాల్లను అనుమతించేలా ఒక IAM పాలసీని జత చేయండి.
bedrock:InvokeModelbedrock:InvokeModelWithResponseStreambedrock:ListInferenceProfilesbedrock:GetInferenceProfile
ListInferenceProfiles అనేది మీ ఖాతా ఏ మోడళ్లను నిజంగా invoke చేయగలదో Claude Code స్టార్టప్ సమయంలో తనిఖీ చేయడానికి అనుమతిస్తుంది. GetInferenceProfile అనేది అప్లికేషన్ inference profile ARN ను దాని వెనుక ఉన్న ఫౌండేషన్ మోడల్కు అనువదించడానికి సహాయపడుతుంది, తద్వారా ఇది సరైన రిక్వెస్ట్ ఫార్మాట్ను ఎంచుకోగలదు. ఇది లేకపోయినా రిక్వెస్ట్లు విజయవంతమవుతాయి, ఎందుకంటే Claude Code మరొక ఫార్మాట్తో ఒక్కసారి ప్రయత్నిస్తుంది. దీనివల్ల లోపం రాదు, కానీ ప్రతి కొత్త మోడల్కు ఒక అదనపు రౌండ్ ట్రిప్ సమయం పడుతుంది.
క్లయింట్ కోసం వేగవంతమైన మార్గం విజార్డ్. claude ను రన్ చేసి, 3rd-party platform ఆపై Amazon Bedrock ను ఎంచుకోండి, లేదా ఇప్పటికే సైన్-ఇన్ అయి ఉన్న సెషన్లో /setup-bedrock అని టైప్ చేయండి. ఇది మీ ~/.aws డైరెక్టరీలోని ప్రొఫైల్లను చదివి, మీరు ఏ మోడళ్లను invoke చేయగలరో ధృవీకరించి, ఆ ఫలితాన్ని ~/.claude/settings.json లోని env బ్లాక్లో రాస్తుంది. కాబట్టి, ఏదీ మీ షెల్ ప్రొఫైల్పై ఆధారపడి ఉండదు.
స్క్రిప్ట్ ద్వారా అమలు చేయడానికి, వేరియబుల్స్ను మీరే సెట్ చేసుకోండి.
export CLAUDE_CODE_USE_BEDROCK=1
export AWS_REGION=us-east-1క్రెడెన్షియల్స్ ప్రామాణిక AWS SDK క్రెడెన్షియల్ చైన్ నుండి వస్తాయి, కాబట్టి aws CLI కోసం ఇప్పటికే పనిచేస్తున్న ఏ పద్ధతైనా ఇక్కడ పనిచేస్తుంది: aws configure, ఒక SSO ప్రొఫైల్, ఒక అస్యూమ్డ్ రోల్ (assumed role), లేదా ఒక Bedrock API కీ.
aws sso login --profile=your-profile-name
export AWS_PROFILE=your-profile-nameexport AWS_BEARER_TOKEN_BEDROCK=your-bedrock-api-keyబేరర్ టోకెన్ (bearer token) అత్యంత సరళమైన ఎంపిక, కానీ దీన్ని జాగ్రత్తగా నిర్వహించాలి, ఎందుకంటే ఇది ఎన్విరాన్మెంట్ వేరియబుల్లో ఉండే దీర్ఘకాలిక రహస్య సమాచారం. షేర్డ్ బిల్డ్ బాక్స్లలో, గడువు ముగిసే రోల్ను ఉపయోగించడం మంచిది. ఏజెంట్ చదవగలిగే ఇతర క్రెడెన్షియల్స్ విషయంలో కూడా ఇదే వర్తిస్తుంది, దీని గురించి AI ఏజెంట్కు రహస్యాలు అందకుండా చూడటం విభాగంలో వివరించబడింది.
రీజియన్ ట్రాప్ (Region trap). Claude Code రీజియన్ను ఈ క్రమంలో గుర్తిస్తుంది: AWS_REGION, ఆపై AWS_DEFAULT_REGION, ఆపై మీ యాక్టివ్ AWS ప్రొఫైల్లోని region, చివరగా us-east-1. చివరి దశ ఒక డిఫాల్ట్ సెట్టింగ్ మాత్రమే, లోపం కాదు. కాబట్టి, ఎక్కడా రీజియన్ను సెట్ చేయని మరియు యూరోపియన్ రూటింగ్ ఆశిస్తున్న టీమ్, ఎటువంటి హెచ్చరిక లేకుండానే తమ రిక్వెస్ట్లను US రీజియన్కు పంపుతుంది. గుర్తించబడిన రీజియన్ మరియు దాని మూలాన్ని చూడటానికి Claude Code లోపల /status ను రన్ చేయండి. ఒక రీజియన్లో మీ ఖాతా దేనిని కాల్ చేయగలదో నిర్ధారించుకోవడానికి, aws bedrock list-inference-profiles --region your-region ను రన్ చేయండి.
Google Vertex AI పై Claude Code ను రన్ చేయడం
API ని ఎనేబుల్ చేసి, క్రెడెన్షియల్స్ పొందండి.
gcloud config set project YOUR-PROJECT-ID
gcloud services enable aiplatform.googleapis.com
gcloud auth application-default loginModel Garden లో మీకు కావలసిన Claude మోడల్స్ కోసం యాక్సెస్ అభ్యర్థించండి. అనుమతి వెంటనే రాదు, కాబట్టి 24 నుండి 48 గంటల సమయం పడుతుంది. roles/aiplatform.user ని మంజూరు చేయండి, ఇది మోడల్ ఇన్వోకేషన్ (invocation) మరియు టోకెన్ కౌంటింగ్ రెండింటికీ ఉపయోగించే aiplatform.endpoints.predict అనుమతిని కలిగి ఉంటుంది.
ఆ తర్వాత ప్రొవైడర్ను ఎంచుకోండి.
export CLAUDE_CODE_USE_VERTEX=1
export CLOUD_ML_REGION=global
export ANTHROPIC_VERTEX_PROJECT_ID=YOUR-PROJECT-IDCLOUD_ML_REGION అనేది global ని తీసుకుంటుంది, ఇది eu లేదా us వంటి మల్టీ-రీజియన్ లొకేషన్ కావచ్చు, లేదా ఒక సింగిల్ రీజియన్ కావచ్చు. గ్లోబల్ ఎండ్పాయింట్ అత్యుత్తమ లభ్యతను ఇస్తుంది, కానీ అభ్యర్థన ఎక్కడ సర్వ్ అవుతుందో దానిపై నియంత్రణ తక్కువగా ఉంటుంది. కాబట్టి, డేటా రెసిడెన్సీ అవసరాలు ఉన్నప్పుడు సాధారణంగా ఒక నిర్దిష్ట లొకేషన్ను పేర్కొనాల్సి ఉంటుంది. ఈ మూడు రకాల లొకేషన్లలో మోడల్ లభ్యత మారుతూ ఉంటుంది. మీకు కావలసిన ఒక మోడల్ గ్లోబల్ ఎండ్పాయింట్లో లేనప్పుడు, ఆ మోడల్ను మాత్రమే దాని VERTEX_REGION_CLAUDE_* వేరియబుల్తో ఒక లొకేషన్కు పిన్ చేయండి మరియు మిగిలిన వాటిని గ్లోబల్గా వదిలేయండి. పాతబడిన జాబితాలను నమ్మకుండా, ప్రస్తుత Vertex AI locations పేజీని తనిఖీ చేయండి.
ప్రాజెక్ట్ ట్రాప్. ప్రాజెక్ట్ ID కోసం ANTHROPIC_VERTEX_PROJECT_ID అత్యల్ప ప్రాధాన్యత కలిగిన మూలం. GCLOUD_PROJECT, GOOGLE_CLOUD_PROJECT మరియు GOOGLE_APPLICATION_CREDENTIALS ద్వారా పేర్కొనబడిన క్రెడెన్షియల్ ఫైల్ వీటన్నింటి కంటే ఎక్కువ ప్రాధాన్యతను కలిగి ఉంటాయి. వీటిలో ఏదైనా ఇప్పటికే ఎక్స్పోర్ట్ చేయబడిన మెషీన్పై, ఛార్జీలు ఆ ఇతర ప్రాజెక్ట్కు పడతాయి, మరియు సెషన్లో ఎక్కడా దీని గురించి సమాచారం ఉండదు.
ఏదైనా ప్రొవైడర్ మార్పు తర్వాత ధృవీకరించండి. /status ని రన్ చేయండి: API provider లైన్ Google Vertex AI అని చూపిస్తుంది, మరియు GCP project, Default region, Model లైన్లు Claude Code వాస్తవానికి దేనిని రిజాల్వ్ చేసిందో చూపిస్తాయి. ప్రొవైడర్ లైన్ లేకపోతే, వేరియబుల్స్ ప్రాసెస్కు చేరడం లేదని అర్థం, ఎందుకంటే అవి claude ని లాంచ్ చేసిన షెల్ కంటే భిన్నమైన షెల్లో ఎక్స్పోర్ట్ చేయబడ్డాయి. వాటిని సెట్టింగ్స్ ఫైల్లోని env బ్లాక్లోకి తరలించండి; ఇలా చేయడం ద్వారా AWS_PROFILE వంటి విలువను మీరు ప్రారంభించే ఇతర ప్రాసెస్ల నుండి దూరంగా ఉంచవచ్చు.
మీకు ఏ మోడల్స్ అందుతాయి మరియు అవి ఎంత ఆలస్యంగా వస్తాయి
sonnet మరియు opus వంటి అలియాస్లు (aliases) అంటే సరికొత్తవి అని అర్థం కాదు. థర్డ్-పార్టీ ఎండ్పాయింట్పై ఇవి ఆ ప్రొవైడర్ కోసం Claude Code లోని డిఫాల్ట్ సెట్టింగ్కు రిజాల్వ్ అవుతాయి. ఇవి ప్రస్తుత రిలీజ్ కంటే వెనుకబడి ఉండవచ్చు లేదా మీ ఖాతాలో అసలు ఎనేబుల్ కాకపోవచ్చు. డిఫాల్ట్ మోడల్ అందుబాటులో లేనప్పుడు, Claude Code ఆ సెషన్ కోసం పాత లేదా తక్కువ స్థాయి మోడల్కు మారుతుంది (fallback) మరియు ఒక నోటీసును ప్రింట్ చేస్తుంది. ఈ ఫాల్బ్యాక్ సేవ్ అవ్వదు, కాబట్టి తదుపరి సెషన్లో మళ్ళీ ప్రయత్నిస్తుంది మరియు మళ్ళీ అదే నోటీసును చూపిస్తుంది.
ఒక టీమ్ మొత్తానికి రోల్-అవుట్ చేసేటప్పుడు, వెర్షన్లను పిన్ (pin) చేయండి.
# Copy the exact IDs from your provider's own model catalog.
export ANTHROPIC_DEFAULT_OPUS_MODEL='<provider model id>'
export ANTHROPIC_DEFAULT_SONNET_MODEL='<provider model id>'
export ANTHROPIC_DEFAULT_HAIKU_MODEL='<provider model id>'models overview నుండి మరియు మీ ప్రొవైడర్ కేటలాగ్ నుండి IDలను తీసుకోండి, ఎందుకంటే ప్రొవైడర్ను బట్టి ఫార్మాట్ మారుతుంది: Bedrock కు inference profile ID లేదా ARN అవసరం, Vertex కు సాధారణ మోడల్ పేరు అవసరం. ఈ ఆర్టికల్తో సహా ఎక్కడి నుండీ వీటిని కాపీ చేయవద్దు. మోడల్ను పిన్ చేయడం ఖర్చును నియంత్రించడానికి కూడా ఉపయోగపడుతుంది, ఎందుకంటే డిఫాల్ట్ ప్రైమరీ మోడల్ ఒక Opus-class మోడల్, మరియు Sonnet తో పోలిస్తే Opus కు ప్రతి టోకెన్కు ఎక్కువ ఖర్చవుతుంది. కాబట్టి, దేనినీ పిన్ చేయని డిప్లాయ్మెంట్ ఎక్కువ రేటుతో బిల్ చేయబడుతుంది. సెషన్ డిఫాల్ట్గా ఒకే మోడల్ను సెట్ చేయడానికి, ANTHROPIC_MODEL ను దాని పూర్తి IDకి సెట్ చేయండి.
ఈ పోలికలో మోడల్ అందుబాటులోకి రావడం అనేది అత్యంత స్పష్టమైన అంశం. Anthropic సొంత APIలో ఒక మోడల్ లాంచ్ అయిన రోజే పనిచేస్తుంది. Bedrock మరియు Vertex లలో, మీ క్లౌడ్ ప్రొవైడర్ మీ రీజియన్లో దానిని ఎనేబుల్ చేసి, మీ ఖాతాకు యాక్సెస్ ఇచ్చిన తర్వాత మాత్రమే అది పనిచేస్తుంది. ఇది ఉత్తమ పరిస్థితుల్లో కొన్ని రోజుల తర్వాత, కొన్నిసార్లు అంతకంటే ఎక్కువ సమయం పడుతుంది. ఒకవేళ ఏదైనా పని సరికొత్త మోడల్పైనే జరగాలంటే, దాన్ని చేరుకోగల ఒక రూటింగ్ను ఉంచుకోండి. విభిన్న పనులకు విభిన్న మోడళ్లను రూట్ చేయడం అనే అంశానికి ఇదే ఆచరణాత్మక కారణం.
Bedrock మరియు Vertex లలో మీరు కోల్పోయేవి
స్థానికంగా ఉండే ప్రతి ఫీచర్ అన్ని ప్రొవైడర్లపై పనిచేస్తుంది: subagents, hooks, slash commands, skills, plugins, checkpoints, sandboxing, the managed settings file మరియు OpenTelemetry metrics. లోపాలు అన్నీ సర్వర్-సైడ్ లోనే ఉన్నాయి.
రెండు ఎండ్పాయింట్లలో అందుబాటులో లేనివి: fast mode, Advisor, Channels, cross-session messaging, the analytics dashboard మరియు server-managed settings. అలాగే claude.ai ఖాతా అవసరమయ్యే ఏ ఫీచర్ కూడా అందుబాటులో ఉండదు; ఇందులో Claude Code on the web, the mobile app, Desktop, Remote Control, routines మరియు artifacts ఉన్నాయి.
Bedrock లో మాత్రమే: WebSearch tool అక్కడ ఉండదు, కాబట్టి Bedrock కు రూట్ చేయబడిన సెషన్ నుండి Claude సెర్చ్ను రన్ చేయలేదు. మీరు URL ఇచ్చినప్పుడు WebFetch తో పేజీని చదవగలదు. Vertex లో Claude 4 జనరేషన్ మోడల్స్ మరియు ఆ తర్వాత వచ్చిన వాటికి వెబ్ సెర్చ్ పనిచేస్తుంది.
రెండింటిలో పాక్షికంగా అందుబాటులో ఉన్నవి: auto mode కేవలం కొత్త మోడల్స్ యొక్క పరిమిత సెట్లో మాత్రమే పనిచేస్తుంది, మరియు /loop కి ఒక స్పష్టమైన ఇంటర్వెల్ అవసరం, ఎందుకంటే అది స్వయంగా ఒకదాన్ని ఎంచుకోలేదు. మీ టీమ్కు ఏదైనా ఫీచర్ గురించి హామీ ఇచ్చే ముందు Anthropic యొక్క feature availability పేజీని చూడండి, ఎందుకంటే ఈ జాబితా మారుతూ ఉంటుంది.
బిల్లు ఎవరికి చెందుతుంది
సబ్స్క్రిప్షన్ మరియు థర్డ్-పార్టీ ఎండ్పాయింట్ అనేవి వేర్వేరు కొనుగోళ్లు. వీటిలో ఒకటి మరొకదానికి ప్రత్యామ్నాయం కాదు.
ఈ విషయాన్ని స్పష్టంగా చెప్పడం అవసరం, ఎందుకంటే దీనివల్ల జరిగే పొరపాటు నిశ్శబ్దంగా ఉంటుంది. మీరు Max సీట్తో లాగిన్ అయి ఉన్న మెషీన్పై CLAUDE_CODE_USE_BEDROCK=1 ని సెట్ చేస్తే, ప్రతి టోకెన్ AWS ద్వారా Bedrock ధరల ప్రకారం లెక్కించబడుతుంది. సీట్ కోసం నెలవారీ ఛార్జీలు పడుతూనే ఉంటాయి, కానీ అది ఈ ట్రాఫిక్కు ఏమాత్రం చెల్లించదు. వీటిని కలిపి చూసే అవకాశం కూడా లేదు: ఖర్చు AWS Cost Explorer లేదా Google Cloud Billing కు మారుతుంది, మరియు Anthropic అనలిటిక్స్ డాష్బోర్డ్ ఏ ప్రొవైడర్లోనూ అందుబాటులో ఉండదు. /logout కమాండ్ కూడా కనిపించదు, ఎందుకంటే ముగించడానికి అక్కడ Anthropic సెషన్ ఏదీ ఉండదు. క్లౌడ్ క్రెడెన్షియలే ఇక్కడ అసలైన క్రెడెన్షియల్.
ధరలు ఆయా ప్రొవైడర్ల పేజీలలో ఉంటాయి మరియు మారుతుంటాయి, కాబట్టి ఏదైనా వ్యాసంలోని అంకెలను నమ్మే కంటే Amazon Bedrock pricing లేదా Vertex AI pricing ను చూడండి. ఒక నిర్మాణాత్మక అంశం మాత్రం మారదు: ఈ ఎండ్పాయింట్లపై మీరు ప్రతి టోకెన్కు ఇన్ఫరెన్స్ కొంటారు, కాబట్టి రోజంతా రన్ అయ్యే ఏజెంట్కు ఎంత ఖర్చవుతుందో అంతే పడుతుంది, దీన్ని ఆపడానికి ప్లాన్ క్యాప్ ఏదీ ఉండదు.
ప్రతి రూటింగ్ విధానంలో రేట్ పరిమితులు మరియు కోటాలు భిన్నంగా పనిచేస్తాయి
సబ్స్క్రిప్షన్ పద్ధతిలో, పరిమితులు ఖాతాకు వర్తిస్తాయి, నిర్ణీత కాలక్రమం ప్రకారం రీసెట్ అవుతాయి, మరియు పరిమితిని దాటినప్పుడు కొంత సమయం వేచి ఉండాల్సి ఉంటుంది. ఈ ప్రవర్తన usage limits ఎలా పనిచేస్తాయి అనే విభాగంలో వివరించబడింది.
Anthropic API key విషయంలో, పరిమితులు సంస్థకు వర్తిస్తాయి, ఇవి నిమిషానికి ఎన్ని అభ్యర్థనలు (requests) మరియు టోకెన్లు అనే ప్రాతిపదికన ఉంటాయి, మరియు మీ వినియోగ స్థాయిని బట్టి పెరుగుతాయి.
Bedrock మరియు Vertex లలో, పరిమితులు క్లౌడ్ కోటాలుగా ఉంటాయి. ఇవి ప్రతి ఖాతాకు లేదా ప్రాజెక్ట్కు, ప్రతి మోడల్కు మరియు ప్రతి ప్రాంతానికి (region) విడివిడిగా ఉంటాయి; వీటికి Anthropic ప్లాన్తో ఎటువంటి సంబంధం ఉండదు. 429 error వస్తే, ఆ ప్రాంతంలోని ఆ మోడల్కు సంబంధించి మీ ఖాతా కోటా పూర్తయిందని అర్థం. కాబట్టి దీనికి పరిష్కారం ప్రొవైడర్ కన్సోల్లోనే ఉంటుంది: కోటా పెంపు కోసం అభ్యర్థించండి లేదా తగినంత సామర్థ్యం ఉన్న మరొక ప్రాంతానికి మారండి. Bedrock లో కోటా అనేది స్థిరమైన అభ్యర్థనల సంఖ్య కాకుండా token burndown నియమంపై ఆధారపడి ఉంటుంది, మరియు రిజర్వ్డ్ సామర్థ్యాన్ని provisioned throughput గా కొనుగోలు చేస్తారు. Vertex లో, 429 error లు సాధారణంగా మీ single-region endpoint ప్రధాన మోడల్ను మరియు చిన్న వేగవంతమైన మోడల్ను రెండింటినీ అందించలేకపోవడాన్ని సూచిస్తాయి, అందుకే CLOUD_ML_REGION=global అనేది డాక్యుమెంట్ చేయబడిన ప్రారంభ పాయింట్. Google యొక్క quotas పేజీలో కోటా పెంపు అభ్యర్థన గురించి సమాచారం ఉంటుంది.
వైఫల్య రీతులు మరియు మీరు చూసే సందేశాలు
Could not load the default credentials, Vertex పై. Application Default Credentials లేవు లేదా గడువు ముగిశాయి. gcloud auth application-default login ని రన్ చేయండి, లేదా GOOGLE_APPLICATION_CREDENTIALS ని సర్వీస్ అకౌంట్ కీ ఫైల్కు పాయింట్ చేయండి.
Vertex పై మోడల్ పేరుతో 404 ఎర్రర్. ఆ ప్రాజెక్ట్ కోసం Model Garden లో మోడల్ ఎనేబుల్ చేయబడలేదు, లేదా మీరు సెట్ చేసిన లొకేషన్లో అది అందుబాటులో లేదు. కొన్ని మోడల్స్ కేవలం గ్లోబల్ ఎండ్పాయింట్ లేదా eu వంటి మల్టీ-రీజియన్ లొకేషన్లలో మాత్రమే అందుబాటులో ఉంటాయి, నిర్దిష్ట రీజియన్లలో ఉండవు.
on-demand throughput isn't supported, Bedrock పై. మీరు కేవలం ఇన్ఫరెన్స్ ప్రొఫైల్ ద్వారా మాత్రమే అందించబడే మోడల్ కోసం బేర్ ఫౌండేషన్ మోడల్ IDని ఇచ్చారు. దానికి బదులుగా ఇన్ఫరెన్స్ ప్రొఫైల్ IDని ఉపయోగించండి.
AWS default-chain credential resolve timed out. AWS క్రెడెన్షియల్ చైన్లోని ఒక దశ నిలిచిపోయింది, ఇది సాధారణంగా credential_process హెల్పర్ తనకు ఎప్పటికీ అందనటువంటి ఇన్పుట్ కోసం వేచి ఉండటం వల్ల జరుగుతుంది. చైన్లోని ప్రతి రిజాల్వ్ 60 సెకన్ల తర్వాత టైమ్ అవుట్ అవుతుంది. మీ చైన్కు నిజంగా ఎక్కువ సమయం అవసరమైతే, ఉదాహరణకు ఒక వ్రాపర్ వెనుక MFA (multi-factor authentication) తో కూడిన బ్రౌజర్ SSO ఫ్లో ఉన్నప్పుడు, CLAUDE_CODE_AWS_CHAIN_RESOLVE_TIMEOUT_MS తో ఆ పరిమితిని మిల్లీసెకన్లలో పెంచండి.
Bedrock streaming response has content-type ప్రారంభంలో ఎర్రర్. Claude Code మరియు Bedrock మధ్య ఏదో ఒకటి స్ట్రీమ్ను రీరైట్ చేస్తోంది. Bedrock స్ట్రీమ్లను application/vnd.amazon.eventstream కంటెంట్ టైప్తో బైనరీ ఈవెంట్-స్ట్రీమ్ ఫార్మాట్లో పంపుతుంది, కాబట్టి దానిని server-sent events గా మార్చే గేట్వే Claude Code డీకోడ్ చేయలేని బాడీని తిరిగి ఇస్తుంది. రెస్పాన్స్ బాడీని మరియు దాని Content-Type హెడర్ను మార్చకుండా పంపేలా గేట్వేని సరిచేయండి.
AWS SSO సమయంలో బ్రౌజర్ ట్యాబ్లు లూప్లో ఓపెన్ అవ్వడం. కార్పొరేట్ VPN లేదా TLS-ఇన్స్పెక్టింగ్ ప్రాక్సీ సైన్-ఇన్ ప్రక్రియను అడ్డుకుంటోంది, Claude Code ఆ విరిగిన కనెక్షన్ను అథెంటికేషన్ వైఫల్యంగా భావించి, awsAuthRefresh కమాండ్ను మళ్లీ మళ్లీ రన్ చేస్తోంది. మీ సెట్టింగ్స్ ఫైల్ నుండి awsAuthRefresh ని తొలగించి, Claude Code ప్రారంభించే ముందు aws sso login ని మాన్యువల్గా రన్ చేయండి.
రౌటింగ్ ఎంపిక
కొత్త మోడల్స్ విడుదలైన రోజే వాటిని పొందాలనుకున్నప్పుడు మరియు పూర్తి ఫీచర్ సెట్ కావాలనుకున్నప్పుడు Anthropic direct ను ఎంచుకోండి. సీట్లు కొనకుండానే per-token బిల్లింగ్ కావాలనుకున్నప్పుడు API key ని ఎంచుకోండి. మీరు ఇప్పటికే నిర్వహిస్తున్న క్లౌడ్ ఖాతాలోనే inference జరగాలనే నిబంధన ఉన్నప్పుడు Bedrock లేదా Vertex ను ఎంచుకోండి; దీని కోసం మోడల్ పైప్లైన్ నెమ్మదిగా ఉండటం మరియు ఫీచర్ల జాబితా తక్కువగా ఉండటాన్ని మీరు అంగీకరించాల్సి ఉంటుంది. Amazon Bedrock కోసం మరియు Google Vertex AI కోసం Anthropic వారి స్వంత సెటప్ పేజీలను, అలాగే AWS వారి models by region జాబితాను బుక్మార్క్ చేసుకోవడం మంచిది.
ఈ మూడింటిలో ఏది ఎంచుకున్నా ఏజెంట్ ఎక్కడ ఎగ్జిక్యూట్ అవుతుందనేది మారదు. మీరు ఏ endpoint ను ఉపయోగించినా, Claude Code అనేది మీ ఫైళ్లను చదువుతూ, మీ కమాండ్లను రన్ చేసే ఒక local process మాత్రమే. అందుకే ల్యాప్టాప్ కాకుండా వేరే చోట ఇది రన్ అవ్వాలని కోరుకునే టీమ్లు కోడింగ్ ఏజెంట్ను VPSలో ఉంచి అక్కడ ఇదే వేరియబుల్స్ను ఎగుమతి (export) చేస్తాయి.
FAQ
నా Claude సబ్స్క్రిప్షన్, Bedrock లేదా Vertex లోని Claude Code కోసం చెల్లిస్తుందా?
లేదు. Pro, Max, Team లేదా Enterprise సబ్స్క్రిప్షన్ మరియు థర్డ్-పార్టీ ఎండ్పాయింట్ అనేవి వేర్వేరు కొనుగోళ్లు, ఒకటి మరొకదానికి వర్తించదు. CLAUDE_CODE_USE_BEDROCK=1 లేదా CLAUDE_CODE_USE_VERTEX=1 సెట్ చేసినప్పుడు, ప్రతి టోకెన్ AWS లేదా Google Cloud ద్వారా వాటి ధరల ప్రకారం లెక్కించబడుతుంది మరియు ఆ క్లౌడ్ బిల్లులో చేరుతుంది. అదే సమయంలో, సబ్స్క్రిప్షన్ ఫీజు అది కవర్ చేసే సర్వీసుల కోసం నెలవారీగా వసూలు చేయబడుతుంది. ఖర్చుల ట్రాకింగ్ ఆయా క్లౌడ్ ప్లాట్ఫారమ్లకు (AWS Cost Explorer లేదా Google Cloud Billing) మారుతుంది, ఎందుకంటే Anthropic అనలిటిక్స్ డాష్బోర్డ్ ఈ ప్రొవైడర్లలో అందుబాటులో ఉండదు.
Amazon Bedrock లో Claude Code నా అభ్యర్థనలను ఏ రీజియన్కు పంపుతుంది?
/status మీకు చూపే రీజియన్కే అభ్యర్థనలు వెళ్తాయి. Claude Code మొదట AWS_REGION ని, తర్వాత AWS_DEFAULT_REGION ని, ఆపై మీ యాక్టివ్ AWS ప్రొఫైల్లోని region ని తనిఖీ చేస్తుంది. వీటిలో ఏవీ సెట్ చేయనప్పుడు us-east-1 కి మారుతుంది. దీనిలోని డిఫాల్ట్ మోడల్స్ ఆ రీజియన్ ఆధారంగా క్రాస్-రీజియన్ ఇన్ఫరెన్స్ ప్రొఫైల్స్కు (ఉదాహరణకు us. లేదా eu.) మళ్లుతాయి. క్రాస్-రీజియన్ ప్రొఫైల్ ఒకే భౌగోళిక ప్రాంతంలోని వేరే రీజియన్ నుండి కూడా అభ్యర్థనను పూర్తి చేయగలదు. ఒక నిర్దిష్ట రీజియన్ తప్పనిసరి అయితే, మీరు నియంత్రించే అప్లికేషన్ ఇన్ఫరెన్స్ ప్రొఫైల్ను ఉపయోగించి, ANTHROPIC_MODEL ని దాని ARN కి సెట్ చేయండి.
నా Bedrock లేదా Vertex ఖాతాలో సరికొత్త Claude మోడల్ ఎందుకు కనిపించడం లేదు?
ప్రతి క్లౌడ్ ప్రొవైడర్ తమ సొంత షెడ్యూల్ ప్రకారం మోడళ్లను అందుబాటులోకి తెస్తారు, అంతేకాకుండా మీ ఖాతాకు అదనంగా అనుమతి (access) మంజూరు చేయబడాలి. Vertex లో మీరు Model Garden ద్వారా అనుమతి కోరాలి, దీనికి 24 నుండి 48 గంటల సమయం పట్టవచ్చు. అప్పటి వరకు, sonnet మరియు opus వంటి అలియాస్లు ఆ ప్రొవైడర్ కోసం Claude Code యొక్క డిఫాల్ట్ మోడల్కు మళ్లుతాయి. ఒకవేళ ఆ డిఫాల్ట్ మోడల్ మీ ఖాతాలో అందుబాటులో లేకపోతే, Claude Code ఆ సెషన్ కోసం పాత లేదా తక్కువ స్థాయి మోడల్కు మళ్లి, ఒక నోటీసును చూపిస్తుంది. ANTHROPIC_DEFAULT_SONNET_MODEL మరియు దాని సంబంధిత మోడళ్లను మీ ఖాతాలో ఎనేబుల్ చేసినట్లు నిర్ధారించుకున్న IDలకు పిన్ (pin) చేయండి.
Amazon Bedrock లో Claude Code తో వెబ్ సెర్చ్ అందుబాటులో ఉందా?
లేదు. Bedrock లో WebSearch టూల్ అందుబాటులో లేదు, కాబట్టి అక్కడికి రూట్ అయిన సెషన్లో Claude సెర్చ్ చేయలేదు. మీరు URL ఇస్తే WebFetch ద్వారా ఒక నిర్దిష్ట పేజీని మాత్రం చదవగలదు. Google Vertex AI లో వెబ్ సెర్చ్ పనిచేస్తుంది, ఇది Claude 4 మరియు ఆ తర్వాతి జనరేషన్ మోడళ్లకు వర్తిస్తుంది. Vertex కు అనుకూలంగా ఉన్న కొన్ని సామర్థ్యాలలో ఇది ఒకటి.
Bedrock లేదా Vertex లో Claude Code రన్ చేయడానికి నాకు Anthropic ఖాతా అవసరమా?
లేదు. మీ AWS లేదా Google Cloud క్రెడెన్షియల్స్ ద్వారానే అథెంటికేషన్ జరుగుతుంది, అందుకే /logout ఈ రెండు ప్రొవైడర్లలో అందుబాటులో ఉండదు. మీరు ఏ ప్రొవైడర్ను ఉపయోగించినా Anthropic తో ఒక కనెక్షన్ మాత్రం ఉంటుంది: ఒక URL ని తీసుకునే ముందు, WebFetch టూల్ హోస్ట్నేమ్ను (కేవలం హోస్ట్నేమ్ను మాత్రమే) api.anthropic.com కి పంపి, అది సేఫ్టీ బ్లాక్లిస్ట్లో ఉందో లేదో తనిఖీ చేస్తుంది. దీన్ని ఆపివేయడానికి మీ సెట్టింగ్స్ ఫైల్లో skipWebFetchPreflight ని సెట్ చేయండి. ఒకవేళ మీరు Claude ఏ డొమైన్లను చేరుకోవాలో పరిమితం చేయాలనుకుంటే, దీన్ని WebFetch పర్మిషన్ రూల్స్తో కలిపి ఉపయోగించండి.