Hacker News

Ụlọ ihe owuwu ihe owuwu LLM

Okwu

11 min read Via sebastianraschka.com

Mewayz Team

Editorial Team

Hacker News
Ụdị Asụsụ buru ibu (LLM) esiwo n'ụlọ nyocha nyocha gaa na isi atụmatụ azụmaahịa, mana ọrụ ime ha na-adịkarị ka igbe ojii dị omimi. Maka ndị isi azụmaahịa na ndị mmepe na-achọ itinye aka na teknụzụ mgbanwe a, ịghọta “otu” dị oke egwu dị ka “ihe.” Oge erugo ịbanye na LLM Architecture Gallery-oghere echekwabara ebe anyị na-elele ụkpụrụ ntọala nke na-eme AI ọgbara ọhụrụ. Site na ịdị mfe nke ụdị autoregressive ruo na echiche dị mgbagwoju anya nke sistemụ nnọchite anya, nhọrọ ụkpụrụ ụlọ ọ bụla na-anọchi anya ikike dị iche na ngwa nwere ike. Dị nnọọ ka a modular azụmahịa sistemu dị ka Mewayz Ọdịdị na-arụ ọrụ maka ezigbo arụmọrụ, ije nke LLM na-ekpebi ike ya, adịghị ike ya, na kacha mma maka gị ulo oru mkpa.

The Masterpiece: The Transformer Foundation

Ihe nlegharị anya ọ bụla na-amalite site n'ibe isi nkuku: ihe nhazi ihe ngbanwe. Ewebata na 2017, ihe nlereanya a gbahapụrụ nhazi usoro ọdịnala maka usoro "nlebara anya onwe onye". Cheedị echiche banyere onye nyocha nke, kama ịgụ akụkọ site n'okwu ọnụ, nwere ike ịhụ ozugbo ma tụle njikọ dị n'etiti okwu ọ bụla n'ahịrịokwu ọ bụla n'otu oge. Nhazi a yiri nke a na-enye ohere ka ndị na-agbanwe agbanwe ghọta ọnọdụ na nuance n'ogo a na-enwetụbeghị ụdị ya, na-eme ka ha mara mma na nghọta na ịmepụta ederede mmadụ. LLM nile nke ọgbara ọhụrụ—site na GPT-4 ruo Claude na karịa—bụ ụmụ sitere na nhazi ntọala a. Ọdịmma ya na ọzụzụ na nnukwu dataset bụ ya mere anyị ji nwee ụdị dị ike, ebumnuche ebumnuche taa.

Nku Pụrụ iche: Ọdịiche Nhazi maka Ọrụ Ndị Pụrụ Iche

Na-agafe n'ofe isi ihe ntụgharị, ngalaba gallery n'ime nku pụrụ iche. N'ebe a, tweaks ụkpụrụ ụlọ na-emepụta ụdị ahaziri maka ebumnuche dị iche. TheEncoder-Only architecture (dị ka BERT) emebere maka nghọta miri emi — zuru oke maka ọrụ dị ka nyocha mmetụta ma ọ bụ nhazi ọdịnaya ebe “ịgụ” bụ isi. TheDecoder-only architecture (dị ka usoro GPT) na-eme nke ọma n'ọgbọ, na-ebu amụma okwu na-esote n'usoro iji dee ozi-e, koodu, ma ọ bụ ihe okike. N'ikpeazụ, Encoder-Decoderụdị (dị ka T5) bụ ndị nsụgharị na ndị nchịkọta akụkọ, na-ahazi ntinye iji mepụta mmepụta a nụchara anụcha. Ịhọrọ ihe nlereanya ziri ezi dị ka ịhọrọ modul ziri ezi na Mewayz-ị na-ebuga ngwa ọrụ ahụ akọwapụtara maka ọrụ ahụ, na-achọpụta nkenke na ịrụ ọrụ.

Ihe ngosi mmekọrịta: Agentic na Multi-Modal Systems

Akụkụ kachasị ike nke ụlọ ọrụ anyị nwere atụmatụ evolushọn kachasị ọhụrụ: LLM ọ bụghị dị ka injin azịza kwụ ọtọ, kama dị ka ndị na-atụgharị uche n'ime sistemụ buru ibu. Agentic Architecturegụnyere isi LLM nke nwere ike ịhazi, mebe ngwaọrụ (dị ka mgbako ma ọ bụ API ọchụchọ), na ikwugharị dabere na nsonaazụ ya. Nke a na-atụgharị ụdị mkparịta ụka ka ọ bụrụ onye na-arụ ọrụ kwụụrụ onwe ya nke nwere ike ịmecha usoro ọrụ dị mgbagwoju anya, ọtụtụ nzọụkwụ. N'akụkụ nke a,Multi-Modal Architecturesna-agbaji ihe mgbochi ederede naanị, na-ejikọta visual, na mgbe ụfọdụ, na-edozi n'ime otu ụdị. Nke a na-enye ohere maka ịkọwa onyonyo, nyocha eserese, ma ọ bụ iwepụta ọdịnaya n'ofe usoro. Maka ikpo okwu dị ka Mewayz, ụlọ ọrụ ndị a na-adọrọ mmasị karịsịa, ebe ha na-egosipụta ụkpụrụ modular, njikọ njikọ, na usoro na-arụ ọrụ nke OS azụmahịa ọgbara ọhụrụ, ebe onye ọrụ AI nwere ike ịgafe n'enweghị nsogbu n'etiti nyocha data, nkwurịta okwu, na njikwa ọrụ.

"Ihe owuwu nke LLM abụghị naanị nkọwa nka; ọ bụ DNA nke ọgụgụ isi ya, na-akọwapụta ihe ọ nwere ike ịghọta, etu o si akpata ya, na nsogbu ndị ọ ga-emecha dozie maka azụmahịa gị."

Ịmepụta nchịkọta gị: Nrụpụta ihe na-emezu

Ịghọta ụkpụrụ ụkpụrụ ndị a bụ nzọụkwụ mbụ. Nke na-esote bụ ntinye. Ịmejuputa LLM nke ọma chọrọ usoro atụmatụ nke na-atụle karịa naanị ihe nlereanya. Isi nleba anya gụnyere:

  • Latency vs. Accuracy: Ị chọrọ nzaghachi ozugbo ma ọ bụ omimi nke nyocha kacha mkpa?
  • Ere ọnụ ahịa: Ihe nlereanya pere mpe, nke emegharịrị nke ọma nwere ike ịkapụta nnukwu onye isi izugbe maka ikpe ojiji gị akọwapụtara?
  • Nchekwa data & Nzuzo: Ị ga-eji ụdị dabere API ma ọ bụ nọrọ na nzuzo?
  • Orchestration: Olee otú LLM ga-esi na-emekọrịta ihe na ọdụ data gị dị ugbu a, API na ebe ndị ọrụ gị dị?

Nke a bụ ebe ikpo okwu jikọtara ọnụ na-adị oke egwu. Azụmahịa modul dị ka Mewayz na-enye akwa akwa maka ibuga nhọrọ nhazi ndị a. Ọ na-enye gị ohere ilele ikike LLM dị iche iche dị ka ọrụ na-arụkọ ọrụ ọnụ-tinye onye na-atụgharị uche maka nyocha nghọta ndị ahịa n'otu oge, yana ụdị koodu-ọgbọ maka onye nrụpụta na-akwado nke ọzọ-niile dị n'ime nchekwa, ahaziri na gburugburu ebe a na-enyocha ya nke isi ọrụ azụmahịa gị. Ebumnuche abụghị ịchụso ihe nlereanya kachasị ukwuu, kama iji kpokọta usoro ọgụgụ isi, ịrụ ọrụ nke ọma na nke AI na-arụ ọrụ nke ọma maka ihe ịma aka gị pụrụ iche.

💡 DID YOU KNOW?

Mewayz replaces 8+ business tools in one platform

CRM · Invoicing · HR · Projects · Booking · eCommerce · POS · Analytics. Free forever plan available.

Start Free →

Ajụjụ a na-ajụkarị

Ụdị Asụsụ buru ibu (LLM) esiwo n'ụlọ nyocha nyocha gaa na isi atụmatụ azụmaahịa, mana ọrụ ime ha na-adịkarị ka igbe ojii dị omimi. Maka ndị isi azụmaahịa na ndị mmepe na-achọ itinye aka na teknụzụ mgbanwe a, ịghọta “otu” dị oke egwu dị ka “ihe.” Oge erugo ịbanye na LLM Architecture Gallery-oghere echekwabara ebe anyị na-elele ụkpụrụ ntọala nke na-eme AI ọgbara ọhụrụ. Site na ịdị mfe nke ụdị autoregressive ruo na echiche dị mgbagwoju anya nke sistemụ nnọchite anya, nhọrọ ụkpụrụ ụlọ ọ bụla na-anọchi anya ikike dị iche na ngwa nwere ike. Dị nnọọ ka a modular azụmahịa sistemu dị ka Mewayz Ọdịdị na-arụ ọrụ maka ezigbo arụmọrụ, ije nke LLM na-ekpebi ike ya, adịghị ike ya, na kacha mma maka gị ulo oru mkpa.

The Masterpiece: The Transformer Foundation

Ihe nlegharị anya ọ bụla na-amalite site n'ibe isi nkuku: ihe nhazi ihe ngbanwe. Ewebata na 2017, ihe nlereanya a gbahapụrụ nhazi usoro ọdịnala maka usoro "nlebara anya onwe onye". Cheedị echiche banyere onye nyocha nke, kama ịgụ akụkọ site n'okwu ọnụ, nwere ike ịhụ ozugbo ma tụle njikọ dị n'etiti okwu ọ bụla n'ahịrịokwu ọ bụla n'otu oge. Nhazi a yiri nke a na-enye ohere ka ndị na-agbanwe agbanwe ghọta ọnọdụ na nuance n'ogo a na-enwetụbeghị ụdị ya, na-eme ka ha mara mma na nghọta na ịmepụta ederede mmadụ. LLM nile nke ọgbara ọhụrụ—site na GPT-4 ruo Claude na karịa—bụ ụmụ sitere na nhazi ntọala a. Ọdịmma ya na ọzụzụ na nnukwu dataset bụ ya mere anyị ji nwee ụdị dị ike, ebumnuche ebumnuche taa.

Nku Pụrụ iche: Ọdịiche Nhazi maka Ọrụ Ndị akọwapụtara

Na-agafe n'ofe isi ihe ntụgharị, ngalaba gallery n'ime nku pụrụ iche. N'ebe a, tweaks ụkpụrụ ụlọ na-emepụta ụdị ahaziri maka ebumnuche dị iche. Emebere ihe nlebanya-Naanị Encoder (dị ka BERT) maka nghọta miri emi — zuru oke maka ọrụ dịka nyocha mmetụta ma ọ bụ nhazi ọdịnaya ebe “ịgụ ihe” bụ isi. Nhazi naanị Decoder (dị ka usoro GPT) karịrị ọgbọ, na-ebu amụma okwu na-esote n'usoro iji dee ozi-e, koodu, ma ọ bụ ihe okike. N'ikpeazụ, ụdị Encoder-Decoder (dị ka T5) bụ ndị nsụgharị na ndị nchịkọta, na-ahazi ntinye iji mepụta mmepụta a nụchara anụcha. Ịhọrọ ihe nlereanya ziri ezi dị ka ịhọrọ modul ziri ezi na Mewayz-ị na-ebuga ngwa ọrụ ahụ akọwapụtara maka ọrụ ahụ, na-achọpụta nkenke na ịrụ ọrụ.

Ihe ngosi mmekọrịta: Agentic na Multi-Modal Systems

Akụkụ kachasị ike nke ụlọ ọrụ anyị nwere atụmatụ evolushọn kachasị ọhụrụ: LLM ọ bụghị dị ka injin azịza kwụ ọtọ, kama dị ka ndị na-atụgharị uche n'ime sistemụ buru ibu. Architecture Agentic na-agụnye isi LLM nke nwere ike ịhazi, rụọ ọrụ (dị ka ihe mgbako ma ọ bụ API ọchụchọ), na imegharị dabere na nsonaazụ ya. Nke a na-atụgharị ụdị mkparịta ụka ka ọ bụrụ onye na-arụ ọrụ kwụụrụ onwe ya nke nwere ike ịmecha usoro ọrụ dị mgbagwoju anya, ọtụtụ nzọụkwụ. N'akụkụ nke a, Multi-Modal Architectures na-agbaji ihe mgbochi ederede naanị, na-ejikọta anya, na mgbe ụfọdụ, na-edozi n'ime otu ụdị. Nke a na-enye ohere maka ịkọwa onyonyo, nyocha eserese, ma ọ bụ iwepụta ọdịnaya n'ofe usoro. Maka ikpo okwu dị ka Mewayz, ụlọ ọrụ ndị a na-adọrọ mmasị karịsịa, ebe ha na-egosipụta ụkpụrụ modular, njikọ njikọ, na usoro na-arụ ọrụ nke OS azụmahịa ọgbara ọhụrụ, ebe onye ọrụ AI nwere ike ịgafe n'enweghị nsogbu n'etiti nyocha data, nkwurịta okwu, na njikwa ọrụ.

Ịmepụta nchịkọta gị: Nrụpụta ihe na-emezu

Ịghọta ụkpụrụ ụkpụrụ ndị a bụ nzọụkwụ mbụ. Nke na-esote bụ ntinye. Ịmejuputa LLM nke ọma chọrọ usoro atụmatụ nke na-atụle karịa naanị ihe nlereanya. Isi nleba anya gụnyere:

Mepụta OS azụmahịa gị taa

Site na freelancers gaa na ụlọ ọrụ, Mewayz na-enye ikike azụmahịa 138,000+ nwere modul 208 jikọtara ọnụ. Malite n'efu, kwalite mgbe ị na-etolite.

Mepụta Akaụntụ efu →