Kolm vahemälukihti valiku ja ketta vahel

Kui teie rakendus käivitab lause SELECT, ei puuduta see päring peaaegu kunagi pöörlevat ketast või isegi töötlemata välkmälu – see läbib kolme erinevat vahemälukihti, mis määravad vaikselt, kas teie vastus saabub mikrosekundite või millisekunditega. Nende kihtide mõistmine eristab vaevata skaleeruva äriplatvormi ja platvormi, mis reaalses koormuse all paindub.

Mis juhtub hetkel, kui SELECT päring teie rakendusest lahkub?

Kui teie rakendus saadab päringu SELECT, siseneb see konveierisse, mida enamik arendajaid kunagi ei kontrolli. Andmebaasimootor peatab päringu enne mis tahes sisendi/väljundit, analüüsides SQL-i sisemisse täitmisplaani ja uurides kohe oma esimest kaitseliini: päringu tulemuste vahemälu. Kui hiljuti täideti identsete parameetritega identne päring, saab mootor tagastada vahemällu salvestatud tulemuste komplekti, puudutamata ühtki andmelehte. Seda nimetatakse mõnikord päringu vahemälluks või tulemuste vahemälluks ning suure lugemisega ja vähese kirjutamisvõimega töökoormuste puhul (nt analüüsi armatuurlauad ja aruandlusmoodulid) võib see enamiku ketta lugemistest täielikult kõrvaldada.

Siin on oluline mõista, et päringu vahemälu on andmemutatsioonide suhtes väga tundlik. Mis tahes INSERT, UPDATE või DELETE aluseks olevas tabelis muudab asjakohased vahemällu salvestatud tulemused kehtetuks. Seetõttu keelavad kirjutusmahukad tehingusüsteemid päringu vahemälu sageli täielikult ja tuginevad selle asemel sügavamatele kihtidele.

Mis on puhverkogum ja miks see on olulisem, kui arvate?

Teine vahemälukiht – ja tootmissüsteemides väidetavalt kõige olulisem – on puhverkogum (PostgreSQL-is nimetatakse seda jagatud puhvriks, MySQL-is InnoDB puhvrikogumiks). See on RAM-i piirkond, mida andmebaasimootor kasutab hiljuti avatud andmelehtede hoidmiseks. Kui päringut ei saa tulemuste vahemälust edastada, kontrollib mootor enne ketta lugemise väljastamist, kas nõutavad andmelehed on puhverkogumis juba olemas.

Puhvrikogum toimib ajalise ja ruumilise lokaalsuse põhimõttel: hiljuti juurdepääsetavatele andmetele pääsetakse tõenäoliselt uuesti juurde ja juurdepääsetavate andmete lähedale salvestatud andmetele pääsetakse tõenäoliselt ligi varsti. Andmebaasi administraatorid häälestavad puhvri kogumi suurust ühe suurima võimendusega konfiguratsiooniotsusena, mida nad teevad. Liiga väike puhvrikogum põhjustab pideva lehe väljatõstmise, tekitades nähtuse nimega thrashing, mille puhul süsteem kulutab rohkem aega vahemälu puudujääkide haldamisele kui päringute täitmisele.

Põhiülevaade: enamiku OLTP töökoormuste korral tähendab hästi suur puhverkogum 95–99% kõigist andmete lugemisest RAM-ist. Töökomplekt – teie andmete alamhulk, mida päringud tegelikult sageli puudutavad – on sageli palju väiksem kui andmebaasi kogumaht. Puhvrikogumi suuruse muutmine nii, et see sobiks teie töökomplektiga, mitte kogu andmestikuga, on ainus suurima tootlikkusega häälestustoiming, mida saate teha.

Kuidas operatsioonisüsteemi vahemälu täidab RAM-i ja ketta vahelise tühimiku?

Isegi kui andmebaasi enda puhvrikogum puudub, ei ole päring veel mõeldud tõeliseks ketta lugemiseks. Operatsioonisüsteem haldab lehe vahemälu (nimetatakse ka failisüsteemi vahemäluks), kerneli hallatava RAM-i piirkonda, mis puhverdab lugemist ja kirjutamist, et blokeerida seadmeid. Kui andmebaasimootor taotleb lehte, mida selle puhverkogumis ei leidu, kontrollib OS-i kernel enne salvestuskontrollerile füüsilise I/O-käsu väljastamist oma lehe vahemälu.

See kolmas kiht on rakenduste arendajatele suures osas nähtamatu, kuid äärmiselt oluline süsteemides, kus andmebaasi puhverkogum on alavarustatud. OS-i lehe vahemälu on jagatud kõigi protsesside vahel, nii et see konkureerib teie rakendusserveri, veebiserveri ja mis tahes muu samas hostis töötava tarkvaraga. Spetsiaalsetes andmebaasiserverites on see konkurents minimaalne ja OS-i vahemälu pakub sisukat teise võimaluse puhvrit. Jagatud hostides või kitsa mälupiiranguga konteinerites on OS-i vahemälu sageli abiks liiga väike.

Milline vahemälukiht vastutab praktikas kõige suurema jõudluse eest?

Reaalmaailma tootmissüsteemides domineerib puhverkogum jõudlustulemustes suurel määral. Siin on põhjus, miks iga kiht panustab kasutusjuhtudel erinevalt:

• Päringutulemuste vahemälu: suurim kasu suure lugemisvõimega, enamasti staatiliste andmekogumite puhul – aruandluspäringud, vahemällu salvestatud armatuurlauad, avaliku sisu lõpp-punktid. Rasketel tabelitel kasutu.
• Andmebaasi puhverkogum: universaalne tööhobune. Siin tuleks kõigepealt häälestada iga tootmisandmebaasi server. Käsitleb tõhusalt nii juhusliku kui ka järjestikuse juurdepääsu mustreid.
• OS-i lehe vahemälu: pakub turvavõrku, kui puhverkogum on alamõõduline. Aitab oluliselt ka suurte tabelite järjestikuste skannimiste ajal, mis muidu eemaldaksid kuumad lehed puhverkogumist.
• Salvestuskontrolleri vahemälu (riistvarakiht): neljas, sageli tähelepanuta jäetud kiht – NVMe SSD-d ja RAID-kontrollerid säilitavad pardal olevaid kirjutusvahemälu koos aku või kondensaatori varukoopiaga. See kaitseb vastupidavust ilma fsynci latentsusaja arvelt kirjutamise läbilaskevõimet ohverdamata.
• Rakenduskihi vahemälu (Redis, Memcached): asub täielikult andmebaasist kõrgemal, salvestab vahemällu jadapäringutulemusi või arvutatud objekte, et vältida andmebaasi sattumist – ideaalne mitme rentnikuga SaaS-i platvormidele, mis teenindavad tuhandeid samaaegseid kasutajaid.

Kuidas saavad kaasaegsed äriplatvormid kasutada vahemäluarhitektuuri laialdase töökindluse tagamiseks?

Ettevõtete jaoks, mis tegutsevad paljudes funktsionaalsetes moodulites – CRM, projektijuhtimine, e-kaubandus, analüütika – määrab vahemälu arhitektuur meeskonna kasvades otseselt platvormi reageerimisvõime. Mitmekihilisele vahemälustrateegiale üles ehitatud platvormid võivad teenindada kümneid tuhandeid samaaegseid kasutajaid ilma proportsionaalsete infrastruktuurikuludeta. Peamine on luua andmetele juurdepääsu mustrid, mis austavad vahemälu piire: hoida kuumad andmed väikestena ja juurdepääsumustrid prognoositavatena, kasutada lugemiskoopiaid puhvri kogumi koormuse jaotamiseks ning asetada andmebaasi ette rakenduskihi vahemälu (nt Redis) lõpp-punktide jaoks, mis teenindavad samaaegselt identseid andmeid mitmele kasutajale.

Mewayz on loodud täpselt seda filosoofiat silmas pidades. 207 integreeritud ärimooduliga, mis toidavad üle 138 000 kasutaja, on platvormi andmekiht kujundatud nii, et valdav osa lugemistest edastatakse vahemälust – reageerimisajad on kiired ja infrastruktuurikulud prognoositavad, olenemata sellest, kas kasutate 19 dollarit kuus või 49 dollarit kuus professionaalset taset.

Korduma kippuvad küsimused

Kas päringu vahemälu keelamine parandab alati andmebaasi jõudlust?

Mitte alati, kuid suure kirjutamiskoormuse korral see tavaliselt on. Päringu vahemälu nõuab järjepidevuse säilitamiseks globaalset mutexi, mis muutub suure samaaegsuse korral kitsaskohaks. MySQL 8.0 eemaldas sel põhjusel päringu vahemälu täielikult. PostgreSQL ei rakendanud kunagi sisseehitatud päringu vahemälu, tuginedes selle asemel puhvrikogumile ja rakenduskihi vahemällu. Kui teie lugemise ja kirjutamise suhe on kõrge ja teie päringud on väga korduvad, võib päringu vahemälu tuua tegelikku kasu – vastasel juhul investeerige häälestustöö puhverkogumisse.

Kuidas ma tean, kas mu puhverkogum on õige suurusega?

Jälgige oma puhvri basseini tabamussuhet: kogumist esitatud lehepäringute protsent võrreldes ketta lugemist nõudvate taotlustega. OLTP töökoormuse tabamussuhe alla 95% on signaal kogumi suuruse suurendamiseks. Tehke MySQL-is päring SHOW ENGINE INNODB STATUS ja vaadake puhvri kogumi tabamust. PostgreSQL-is kuvab vaade pg_statio_user_tables kettalt loetud kuhjaplokid võrreldes puhverkogumilt esitamisega. Püüdke hoida kogu oma töökomplekt – mitte kogu andmestik – RAM-is.

Milline seos on vahemälukihtide ja mitme rentniku SaaS-i töökindluse vahel?

Mitme rentnikuga SaaS-i puhul takistavad vahemälukihid "mürarikka naabri" probleeme, kus ühe rentniku raske päringukoormus halvendab kõigi teiste rentnike jõudlust. Üürnikuteadlik rakenduste vahemällu salvestamine koos TTL-põhise kehtetuks tunnistamisega hoiab üürniku kohta käivaid andmeid Redises, vähendades drastiliselt suurte kontode puhvrikogumi survet. Andmebaasitasemel ühenduste kogumine koos sooja puhverbasseiniga tagab, et ühegi konto sarivõtted ei tühjenda jagatud lehti vahemälust ega põhjusta latentsusaegu kogu platvormil.

Vahemälukihid ei ole andmebaasi tühiasi – need on arhitektuurne alus, mis eraldab platvormid, mis püsivad mastaabis kiiresti, platvormidest, mis nõuavad pidevat infrastruktuuri kustutamist. Kui ehitate või juhite ettevõtet, mis vajab nende tegelikkuse jaoks juba optimeeritud platvormi, uurige Mewayzi saidil app.mewayz.com – 207 moodulit, üks sidus platvorm, mis on loodud usaldusväärselt toimima teie esimesest kasutajast kuni saja tuhandeni.