உலகின் மிக மோசமான datacenter: ஒரு வழிகாட்டி

நீங்கள் கட்டுவது என்ன

இந்தத் தளத்தில் உள்ள ஒவ்வொரு வழிகாட்டியும் ஒரு காரியத்தை சரியாகச் செய்யக் கற்பிக்கிறது: வரிசையான கட்டளைகள், சரியான முடிவு எப்படி இருக்கும், மற்றும் பெயரிடப்பட்ட தோல்வி நிலைகள். இந்த வழிகாட்டி வேறுபட்டது. இன்று, முற்றிலும் கற்பனையாக, பணமும் மின்சாரமும் அகங்காரமும் உருவாக்கக்கூடிய மிகக் குறைந்த செயல்திறன் கொண்ட தரவு மையத்தை நாம் வடிவமைக்கப் போகிறோம்.

ஒரு அளவீடு தேவை, எனவே தொழில்துறையின் சொந்த அளவீட்டை நாம் கடன் வாங்குவோம்: PUE, Power Usage Effectiveness — மொத்த வசதி ஆற்றலை, கணினி உபகரணங்களை உண்மையில் சென்றடையும் ஆற்றலால் வகுத்தது. ஒரு hyperscale தரவு மையம் தோராயமாக 1.1 இல் இயங்குகிறது: கிட்டத்தட்ட ஒவ்வொரு வாட்டும் பயனுள்ள வேலையைச் செய்கிறது. ஒரு சிறந்த நிறுவன server room 1.5 ஐ நிர்வகிக்கிறது. எங்கள் இலக்கு 4.0 அல்லது அதற்கு மேல், அதாவது கணினிக்கான ஒவ்வொரு வாட்டுக்கும், மூன்று வாட் காரணமின்றி வீணாகிறது. இந்த எண்ணை நாம் அடிக்கடி குறிப்பிடுவோம், தீவிர வழிகாட்டிகள் காப்புப்பிரதிகளைக் குறிப்பிடுவது போல.

தள தேர்வு: வெப்பம் தான் நோக்கம்

ஒரு உண்மையான தரவு மையத்தில் குளிரூட்டல் தான் மிகப்பெரிய மேல்நிலைச் செலவு, அதனால் தான் எங்கள் தரவு மையம் வெப்பவியக்கவியலுடன் அதன் சொந்த இடத்தில் போராடும். சிறந்த இடம் ஒரு அடுக்குமாடி குடியிருப்பின் மேற்பகுதி. தெற்கு பக்கம் நோக்கியது. சூரியனின் ஒளி நேரடியாக சர்வர் மீது படும்படி ஒரு கூரை ஜன்னல் அமைந்திருப்பது சிறந்தது, இதனால் இயந்திரம் தனது சொந்த கழிவு வெப்பத்தையும் சூரியனின் வெப்பத்தையும் சேர்த்துப் பெறுகிறது, உங்கள் மின் கட்டணமும் ஒரு நட்சத்திரமும் இணைந்த ஒரு கூட்டு.

குளிர்காலத்தில், ஜன்னலைத் திறப்பதன் மூலம் குளிரூட்டல் கையாளப்படுகிறது. உண்மையான தரவு மையங்கள் வெளிப்புற காற்றைப் பயன்படுத்துகின்றன — இந்த நுட்பம் free cooling என்று அழைக்கப்படுகிறது, மேலும் இது பொறியியல் ரீதியாக வடிவமைக்கப்பட்டது, வடிகட்டப்பட்டது, மற்றும் ஈரப்பதம் கட்டுப்பாட்டுடன் உள்ளது. நாம் இதை தற்செயலாகப் பயன்படுத்துவோம், மழை, தூசி, மற்றும் குறைந்தது ஒரு குழப்பமடைந்த பறவையை ஒவ்வொரு காலாண்டிலும் உள்ளே அனுமதிக்கும் ஒரு ஜன்னல் வழியாக.

உண்மையான கலைத்திறனுக்கு, ஒரு ஏர் கண்டிஷனரை நிறுவவும், பிறகு அதன் தெர்மோஸ்டாட்டிலிருந்து இரண்டு அடி தொலைவில் ஒரு space heater வைக்கவும், ஏர் கண்டிஷனரின் இலக்கை விட இரண்டு டிகிரி அதிகமாக அமைக்கவும். இப்போது இரண்டு இயந்திரங்களும் தொடர்ந்து, என்றென்றைக்கும், முழுமையான கருத்து வேறுபாட்டுடன் இயங்கும். மின் நிறுவனம் கிறிஸ்துமஸ் அன்று உங்களுக்கு ஒரு அட்டை அனுப்பும்.

ஒரு சர்வர், பெரியது, பிரியமானது

பணம் திரும்பப் பெறுதல் அர்ப்பணிப்பை நீர்த்துப்போகச் செய்கிறது. எங்கள் தரவு மையத்தில் சரியாக ஒரு சர்வர் உள்ளது, அது பெரியது, ஏனெனில் 512 GB RAM கொண்ட ஒரு இயந்திரம் உள்கட்டமைப்பு போல் தோன்றுகிறது, ஆனால் நான்கு சிறியவை செய்ய வேண்டிய பட்டியல் போல் தோன்றுகின்றன.

சர்வருக்கு ஒரு பெயர் உண்டு. hostname அல்ல — ஒரு பெயர். Gandalf, பொதுவாக, அல்லது Odin. நீங்கள் Odin ஐ சேவையிலிருந்து நீக்க முடியாது. Odin ஐந்து வருடங்களாக இயங்குகிறது:

$ uptime
 09:14:02 up 1847 days,  3:22,  1 user,  load average: 6.41, 6.38, 6.40

அந்த எண் பெருமைக்குரியது, அதனால் தான் நீங்கள் அதை ஸ்கிரீன்ஷாட் எடுத்து பதிவிடுகிறீர்கள், மேலும் அந்த ஸ்கிரீன்ஷாட்டைப் பார்க்கும் ஒவ்வொரு தாக்குபவரும் அதை கவர்ச்சிகரமாகக் காண்கிறார்: 1,847 நாட்கள் இயக்க நேரம் என்றால் 1,847 நாட்கள் கர்னல் பாதிப்புகள், யாராலும் திருத்தப்படாதது. மறுதொடக்கம் கேள்விக்கே இடமில்லை — மறுதொடக்கம் என்பது 2021 இல் கைமுறையாகத் தொடங்கப்பட்டு systemd unit இல் ஒருபோதும் எழுதப்படாத சேவைகள் யாவை என்பதைக் கண்டறியும் வழி. யாருக்கும் அவை யாவை என்று நினைவில்லை. சர்வர் இப்போது நிறுவன அமைப்பில் சுமையைத் தாங்கும் பகுதியாக உள்ளது.

சேமிப்பு: வேகம், மற்றும் தரவை இழக்கும் பிற வழிகள்

வட்டுகள் RAID 0 இல் உள்ளமைக்கப்பட்டுள்ளன, செயல்திறனுக்காக. அந்த பூஜ்யம் என்பது தோல்வியடையக்கூடிய வட்டுகளின் எண்ணிக்கையைக் குறிக்கிறது. அதிகபட்ச விளைவுக்கு, கலப்பு தோற்றம் கொண்ட சேமிப்பகங்களில் வரிசையை பரவலாகப் பிரிக்கவும்: இரண்டு சரியான SSD, ஒரு பழைய சுழலும் வட்டு, மற்றும் ஒரு மாநாட்டிலிருந்து வந்த USB stick. வரிசை அந்த மாநாட்டு stick அளவுக்கே நம்பகமானது, இதுவே வடிவமைப்பு.

காப்புப்பிரதிகள் ஒரே வரிசையில் உள்ள ஒரு கோப்பகத்தால் கையாளப்படுகின்றன, அதன் பெயர் backup_final_v2_REAL, இது முந்தைய பெயரிடல் திட்டத்தின் ஒரு tarball ஐக் கொண்டுள்ளது. தளத்திற்கு வெளியே உள்ள காப்புப்பிரதிகள் "தளத்திற்கு வெளியே காப்புப்பிரதிகளை அமைக்கவும்" என்று எழுதப்பட்ட ஒரு ஒட்டுப் பதிவேட்டால் பிரதிநிதித்துவப்படுத்தப்படுகின்றன, இது தொழில்நுட்ப ரீதியாக, நீங்கள் அதை உங்கள் மடிக்கணினி மூடியில் வீட்டிற்கு எடுத்துச் செல்லும்போது தளத்திற்கு வெளியே சேமிக்கப்படுகிறது.

சரியான முடிவு இப்படி இருக்கும்: df 97% பயன்பாட்டைக் காட்டுகிறது, மேலும் அடுத்த sprint இல் அதைக் கையாள ஒரு திட்டம் உள்ளது.

நெட்வொர்க்கிங்: அனைத்தின் ஒற்றை நூல்

DNS சர்வர் இயந்திரத்தின் மீதே இயங்குகிறது, இதனால் சர்வர் செயலிழக்கும்போது, ஏன் செயலிழந்தது என்பதைக் கண்டுபிடிக்கப் பயன்படும் DNS பதிவையும் அது தன்னுடன் கொண்டு செல்கிறது. இது consolidation என்று அழைக்கப்படுகிறது.

ஃபயர்வால் 2021 இல் முடக்கப்பட்டது — தற்காலிகமாக, ஏதோ ஒன்றை டிபக் செய்ய. டிபக்கிங் முடிந்தது; ஃபயர்வால் திரும்பவில்லை. ரவுட்டரின் ஒவ்வொரு போர்ட்டும் "பிறகு நேரத்தை மிச்சப்படுத்த" சர்வருக்கு முன்னோக்கி அனுப்பப்படுகிறது, மேலும் ரவுட்டரின் நிர்வாக பேனல் அதன் ஃபேக்டரி கடவுச்சொல்லுடன் WAN பக்கத்திலிருந்து அணுகக்கூடியதாக உள்ளது, வசதியான தொலைதூர நிர்வாகத்திற்காக. உங்களுடையது, மற்றும் பிறருடையது.

சர்வர் சமீபத்தில் அசாதாரணமாக வெப்பமாக இயங்குகிறது, அடுக்குமாடி தரநிலைகளாலும் கூட, மேலும் top மிகுந்த பணியில் உள்ள செயல்முறை xmrig என்று அழைக்கப்படும் ஒன்று என்பதைக் காட்டுகிறது. இது நாம் பயன்படுத்தும் கண்காணிப்பு கருவி என்று நாம் கருதுகிறோம். நாம் அதை நிறுவவில்லை — போர்ட்டுகள் முன்னோக்கி அனுப்பப்பட்டதும் அது தானாகத் தோன்றியது, இது சூழலியல் செழித்து வருகிறது என்பதற்கான அறிகுறி என்று நாம் எடுத்துக்கொள்கிறோம். இது இரவும் பகலும் கண்காணிக்கிறது.

மின்சாரம் நுகர்வோர் பவர் ஸ்ட்ரிப்களின் ஒரு சங்கிலி வழியாக வருகிறது, அவற்றின் கூட்டு நீளம் பிரேக்கர் பேனலுக்கு நடந்து செல்லும் தூரத்தை விட அதிகமாக உள்ளது — இது ஒரு வகையில் திறமையானது, ஏனெனில் நீங்கள் பிரேக்கர் பேனலை அடிக்கடி சந்திப்பீர்கள்.

சிக்கல் வாய்ந்த பணம் திரும்பப் பெறுதல்

முக்கியமான இடங்களில் பணம் திரும்பப் பெறுவதை மறுத்த பிறகு, நாம் இப்போது அது தேவையில்லாத இடங்களில் சேர்க்கிறோம். நிறுவனத்தின் முகப்புப் பக்கம் — ஒரு static HTML கோப்பு — பன்னிரண்டு முனைகள் கொண்ட Kubernetes cluster ஆல் வழங்கப்படுகிறது. இது பொறியாளர்கள் resume-driven architecture என்று அழைக்கும் ஒன்றை அடைகிறது: பக்கம் nginx வழங்கியிருக்கும் அதே நாற்பது மில்லிவிநாடிகளில் ஏற்றப்படுகிறது, ஆனால் இது இப்போது ஒரு ஆலோசகரைத் தேவைப்படுத்தும் வழிகளில் தோல்வியடையக்கூடும்.

தனிமைப்படுத்தலுக்காக, cluster அதுவே ஒரு மெய்நிகர் இயந்திரத்திற்குள் ஒரு மெய்நிகர் இயந்திரத்திற்குள் ஒரு மெய்நிகர் இயந்திரத்திற்குள் இயங்குகிறது, ஒவ்வொரு அடுக்கும் பாதுகாப்பைச் சேர்க்கிறது, ஒரு turducken இல் ஒவ்வொரு அடுக்கும் பறவையைச் சேர்ப்பது போல. தொடர்பு படிவம் ஒன்பது microservices ஆகும். அவற்றில் இரண்டு ஒருபோதும் அழைக்கப்படவில்லை. அவற்றில் ஒன்று சுமையைத் தாங்குகிறது மேலும் யாருக்கும் அது எது என்று தெரியவில்லை.

சேவையாக வெப்பமூட்டல்

ஒரு நவீன சர்வர் மின்சாரத்தை கணினி மற்றும் வெப்பமாக மாற்றுகிறது, மேலும் நாம் இரண்டாவது வெளியீட்டை அதிகரிக்க நினைக்கிறோம். ஒரு GPU இல்லாத மீடியா சர்வர் என்பது கிளாசிக் செயல்: ஒரு 4K ஸ்ட்ரீமை CPU-transcode செய்வது பதினாறு கோர்களை முடக்கும் மற்றும் ஒரு சிறிய படுக்கையறையை வெப்பப்படுத்தும், ஒரு space heater ஆனது படங்களையும் இயக்கும். லட்சியம் கொண்ட இயக்குநர் CPU இல் ஒரு பெரிய மொழி மாதிரியை இயக்குவதற்கு தரையிறங்குவார் — ஒரு API உடன் கூடிய 70-billion-parameter space heater, பருவகாலத்தில் அளக்கப்படும் விகிதத்தில் tokens ஐ உருவாக்குகிறது.

கண்காணிப்பு கருவி தன்னையே கண்காணிக்கிறது

கவனிப்பு முக்கியம், எனவே நாம் ஒரு சுய-ஹோஸ்ட் செய்யப்பட்ட இயக்க நேர கண்காணிப்பு கருவியை பயன்படுத்துகிறோம் — அது கண்காணிக்கும் அதே சர்வரில். Odin இறக்கும்போது, கண்காணிப்பு கருவியும் அதனுடன் இறக்கிறது, மேலும் இதோ நேர்த்தியான பகுதி: எந்த எச்சரிக்கையும் இயங்குவதில்லை. எச்சரிக்கைகள் இல்லை என்றால் சம்பவங்கள் இல்லை. சம்பவங்கள் இல்லை என்றால் முழுமையான இயக்க நேரம், அளக்கப்பட்டபடி. மாதாந்திர அறிக்கை இதற்கு முன் இவ்வளவு நன்றாக இருந்ததில்லை.

எச்சரிக்கை மின்னஞ்சல்கள், முழுமைக்காக, Odin இலும் இயங்கும் ஒரு மின்னஞ்சல் சர்வர் வழியாக அனுப்பப்படுகின்றன. எச்சரிக்கை பைப்லைன் இவ்வாறு முழுமையாக சுய-நிறைவுடையது, தன் வாலைத் தின்னும் ஒரு பாம்பு முழுமையாக உணப்பட்டது போல.

சௌகரியமற்ற பகுதி

இதுவே நான் ஒதுக்கி வைத்த பகுதி. இதில் எதுவும் கற்பனை அல்ல. பிரியமான மாற்ற முடியாத சர்வர், ஒரே தொகுதியில் காப்புப்பிரதிகளுடன் கூடிய RAID 0, "தற்காலிகமாக" முடக்கப்பட்ட ஃபயர்வால், ஒரு பக்கத்தை வழங்கும் Kubernetes cluster, தன்னையே கண்காணிக்கும் கண்காணிப்பு கருவி — இவற்றில் ஒவ்வொன்றையும் நான் உற்பத்தியில் பார்த்திருக்கிறேன். அவற்றில் சிலவற்றை நான் இந்த வருடம் பார்த்தேன். ஒன்று அல்லது இரண்டை, என் ஆரம்ப காலங்களில், நானே கட்டினேன்.

உண்மையான செயல்திறன் எப்படி இருக்கும் என்பது சலிப்பூட்டுவது, அதனால் தான் அது அந்த நொடியில் வாதத்தில் தோற்கிறது மேலும் ஒரு தசாப்தத்தில் வெல்கிறது: நீங்கள் ஒருபோதும் யோசிக்காத ஒரு PUE, ஏனெனில் வேறு ஒருவர் அதை வடிவமைத்தார். உரிமையாளரின் சுய உருவத்திற்குப் பதிலாக அவற்றின் பணிச்சுமைக்கு ஏற்றவாறு அளவிடப்பட்ட இயந்திரங்கள். ஒரு வெடிப்பு ஆரம், வெடிப்புக்கு முன்பே கருத்தில் கொள்ளப்பட்டது. சோதனை செய்யப்பட்ட காப்புப்பிரதிகள், அவற்றை மீட்டெடுப்பதன் மூலம் சோதிக்கப்படுகின்றன, ஒரு காலெண்டர் நினைவூட்டலுடன், ஒரு கால அட்டவணையில், வீரத்தின்றி. பணம் திரும்பப் பெறுதல் சலிப்பூட்டுவதாக இருக்கும் — மலிவான பொருளின் இரண்டு, அருமையான பொருளின் ஒன்றை விட சிறந்தது, ஒவ்வொரு முறையும், நான் பக்கப்படுத்தப்பட்ட ஒவ்வொரு தோல்வியிலும்.

நீங்கள் இயக்கக்கூடிய மிகச் செயல்திறன் மிக்க தரவு மையம், நீங்கள் இயக்காதது தான். ஒரு VPS, மின்சாரம், குளிரூட்டல், பணம் திரும்பப் பெறுதல், மற்றும் காலை 3 மணி வன்பொருள் தோல்விகளை, அவற்றை அளவில், சலிப்பூட்டும் வகையில் செய்பவர்களிடம் ஒப்படைக்கிறது, இது உள்கட்டமைப்பு பெறக்கூடிய மிக உயர்ந்த பாராட்டு — மேலும் இது உங்களுக்கு உண்மையில் வேடிக்கையான பகுதியை விட்டுச் செல்கிறது, அது அதன் மேல் உங்கள் சொந்த சேவைகளை இயக்குவது, நீங்கள் இழக்க நியாயமான ஒரு இயந்திரத்தில், இதுவே நீங்கள் பரிசோதனை செய்ய வேண்டிய ஒரே வகை.

FAQ

நான் உண்மையில் இவற்றில் ஏதாவது செய்ய வேண்டுமா?

இல்லை. இந்த வழிகாட்டியின் ஒவ்வொரு பகுதியும் வார இறுதி நாட்களை அழித்த ஒரு ஆவணப்படுத்தப்பட்ட எதிர்-வடிவம். உங்கள் தற்போதைய அமைப்பு இரண்டுக்கும் மேற்பட்ட பகுதிகளை ஒத்திருந்தால், இந்த FAQ இல் உள்ள கடைசி கேள்விக்கு தவறவிடாதீர்கள் — கொடுக்கப்பட்ட வரிசையில், ஏனெனில் வரிசை என்பது triage.

நல்ல PUE உண்மையில் என்ன?

Hyperscale தரவு மையங்கள் தோராயமாக 1.1 இல் இயங்குகின்றன, நன்கு நிர்வகிக்கப்படும் நிறுவன room 1.4 முதல் 1.6 வரை நிர்வகிக்கிறது, மேலும் ஒரு space heater பூசலுடன் கூடிய குளிரூட்டப்படாத ஒரு அலமாரி உண்மையில் 3 ஐ தாண்டலாம். நீங்கள் வீட்டில் 1.1 உடன் அர்த்தமுள்ள முறையில் போட்டியிட முடியாது, இது அதைச் செய்யக்கூடிய ஒருவரிடமிருந்து compute ஐ வாடகைக்கு எடுப்பதற்கான அமைதியான பொருளாதார வாதம்.

ஒரு கட்டிடத்தை சர்வர்களால் வெப்பப்படுத்துவது உண்மையான காரியமா?

ஆம் — சரியாகச் செய்தால். பல நாடுகளில் உள்ள மாவட்ட வெப்பமூட்டல் திட்டங்கள் heat exchangers வழியாக தரவு மைய கழிவு வெப்பத்தை எடுத்து, அதை வடிவமைப்புடன், பொறியியல் மற்றும் ஒப்பந்தங்களுடன் வீடுகளுக்குக் குழாய் வழியாக அனுப்புகின்றன. மேலே உள்ள நையாண்டி என்பது சர்வர் வெப்பம் ஒரு அறையை வெப்பப்படுத்த முடியும் என்பது அல்ல; இது அதை தற்செயலாகச் செய்து அந்த தற்செயலை ஒரு உத்தியாக அழைப்பது.

என் சர்வர் ஏற்கனவே இப்படி இருக்கிறது. நான் முதலில் என்ன செய்ய வேண்டும்?

காப்புப்பிரதிகள், இன்று இரவே, சர்வர் அல்லாத ஒரு இடத்திற்கு, பிறகு ஒரு சோதனை மீட்டெடுப்பு — சோதிக்கப்படாத காப்புப்பிரதி ஒரு வதந்தி. இரண்டாவது, திட்டமிடப்பட்ட சாளரத்தில், நீங்கள் தவிர்த்து வந்த திருத்தங்கள் மற்றும் மறுதொடக்கம், இதனால் நீங்கள் பார்க்கும்போது எது உடைகிறது என்பதை அறிவீர்கள். மூன்றாவது, ஒற்றை தோல்வி புள்ளியைப் பிரிக்கவும்: DNS மற்றும் கண்காணிப்பை அந்த இயந்திரத்திலிருந்து வெளியே கொண்டு செல்லவும். மற்ற எல்லாம் அமைதியான ஒரு வாரத்திற்கு காத்திருக்கலாம்; அந்த மூன்றும் காத்திருக்க முடியாது.