Hacker News

Microgpt

Մեկնաբանություններ

1 min read Via karpathy.github.io

Mewayz Team

Editorial Team

Hacker News

MicroGPT-ի վերելքը. ինչու են AI-ի փոքր մոդելները փոխում են բիզնեսի գործունեությունը

Վերջին մի քանի տարիների ընթացքում AI մրցավազքը սահմանվել է մեկ մոլուցքով. ավելի մեծ: Ավելի շատ պարամետրեր, ավելի շատ ուսուցման տվյալներ, ավելի շատ հաշվարկներ: Սակայն հանգիստ հեղափոխություն է ծավալվում հակառակ ուղղությամբ։ MicroGPT – շարժումը դեպի կոմպակտ, առաջադրանքին հատուկ AI մոդելներ – ապացուցում է, որ փոքրը կարող է լինել ավելի խելացի, արագ և շատ ավելի գործնական այն բիզնեսների համար, որոնց իրականում AI-ն պետք է աշխատի, այլ ոչ միայն տպավորի: Մինչ տեխնոլոգիական հսկաները հետապնդում են արհեստական ընդհանուր ինտելեկտը, փոքր և միջին բիզնեսները հայտնաբերում են, որ իրենց սեփական տվյալների վրա պատրաստված թեթև մոդելը կարող է գերազանցել տրիլիոն պարամետրանոց հսկան այն առաջադրանքների համար, որոնք իրականում կարևոր են՝ պատասխանելով հաճախորդների հարցումներին, գեներացնել հաշիվ-ապրանքագրեր, նշանակել հանդիպումներ և շարունակել գործունեությունը առանց վեցանիշ AI-ի:

Ի՞նչ է իրականում MicroGPT:

MicroGPT-ն մեկ ապրանք կամ ընկերություն չէ, դա դիզայնի փիլիսոփայություն է: Տերմինը նկարագրում է արհեստական ​​ինտելեկտի մոդելները, որոնք միտումնավոր փոքր են, սովորաբար տատանվում են 1 միլիոնից մինչև 3 միլիարդ պարամետրի սահմաններում, որոնք ճշգրտված են, որպեսզի գերազանցեն նեղ առաջադրանքների շարքը, այլ ոչ թե փորձեն անել ամեն ինչ: Ի տարբերություն ընդհանուր նշանակության մեծ լեզուների մոդելների (LLM), որոնք պահանջում են հսկայական GPU կլաստերներ և կարող են արժենալ ավելի քան $10 յուրաքանչյուր 1000 API կանչի համար բարդ առաջադրանքների համար, MicroGPT մոդելները կարող են աշխատել ստանդարտ նոութբուքի վրա, 5 դոլար/ամսական ամպային օրինակով կամ նույնիսկ ուղղակիորեն ներկառուցված բիզնես հավելվածում:

Հայեցակարգը լայն տարածում գտավ 2023 թվականի վերջին, երբ հետազոտողները ցույց տվեցին, որ 1,3 միլիարդ պարամետրանոց մոդելը, որը ճշգրտված է տիրույթի հատուկ տվյալների վրա, կարող է համընկնել կամ գերազանցել GPT-3.5-ին նպատակային հենանիշերի վրա: Մինչև 2025 թվականը բաց կոդով համայնքը արտադրել էր տասնյակ շրջանակներ՝ TinyLlama, Phi-3 Mini, Gemma 2B, որոնք ծրագրավորողների համար աննշանորեն հեշտացնում էին արտադրական միջավայրում միկրո մասշտաբի AI-ի տեղակայումը: Հաղորդագրությունը պարզ էր. ձեզ Ferrari պետք չէ, երբ լավ կարգավորված հեծանիվը ձեզ ավելի արագ է հասցնում նույն ուղղությամբ՝ երթևեկության մեջ:

Բիզնեսի սեփականատերերի համար այս փոփոխությունը մեծ նշանակություն ունի: Դա նշանակում է, որ AI-ն այլևս չի գտնվում ձեռնարկությունների պայմանագրերի և տվյալների գիտության թիմերի հետևում: Անհատ ձեռնարկատերը, որը վարում է մարզչական պրակտիկա կամ 20 հոգուց բաղկացած գործակալությունը, որը կառավարում է հաճախորդների հաշիվ-ապրանքագրերը, կարող է խելացի ավտոմատացում ներդնել իրենց աշխատանքային հոսքերի մեջ՝ չհասկանալով մեքենայական ուսուցման կոդի մեկ տող, պայմանով, որ նրանք օգտագործում են ճիշտ հարթակ:

Ինչու են զանգվածային մոդելները գերհագեցած բիզնես առաջադրանքների 90%-ի համար

Դիտարկենք սովորական փոքր բիզնեսի ամենօրյա գործունեությունը: Սեփականատերը պետք է ուղարկի հետևող էլ-նամակներ առաջատարներին, դասակարգի մուտքային աջակցության տոմսերը, ստեղծի շաբաթական աշխատավարձի ամփոփագիր և մշակի սոցիալական մեդիայի գրառում: Այս առաջադրանքներից ոչ մեկը չի պահանջում 175 միլիարդ պարամետրանոց մոդելի տրամաբանական կարողություն: Իրականում, այս առաջադրանքների երթուղավորումը զանգվածային LLM-ի միջոցով ներկայացնում է ուշացում, անկանխատեսելիություն և ծախսեր, որոնք ակտիվորեն խաթարում են արտադրողականությունը:

Սթենֆորդի մարդակենտրոն AI ինստիտուտի կողմից 2025 թվականի ուսումնասիրությունը ցույց է տվել, որ բիզնեսի արհեստական ինտելեկտի օգտագործման դեպքերի 87%-ը ներառում է ավելի քիչ, քան հինգ տարբեր տեսակի առաջադրանքներ, և որ մանր կարգավորված փոքր մոդելները հասել են 94% ճշգրտության այս առաջադրանքների նկատմամբ՝ համեմատած սահմանային մոդելների 96%-ի հետ՝ գնի մեկ հիսուներորդը: Ճշգրտության սահմանային 2% բարելավումը պարզապես չի արդարացնում կազմակերպությունների մեծ մասի ծախսերը: Երբ դուք ստեղծում եք վարձավճարի հաշիվ-ապրանքագիր կամ դասակարգում եք հաճախորդների կարծիքը ըստ կատեգորիաների, «բավականին մոտ»՝ 0,001 դոլար յուրաքանչյուր հարցումի դիմաց, գերազանցում է «կատարյալը»՝ 0,05 դոլար:

Հենց սա է պատճառը, որ Mewayz-ի նման հարթակները թեքվել են դեպի մոդուլային AI ավտոմատացում, այլ ոչ թե պտտվել մեկ մոնոլիտ AI շերտի վրա: Ունենալով 207 մասնագիտացված մոդուլներ, որոնք ներառում են CRM, հաշիվ-ապրանքագրեր, HR, աշխատավարձ, նավատորմի կառավարում և վերլուծություն, Mewayz-ը կիրառում է խելացի ավտոմատացում հենց այնտեղ, որտեղ դա անհրաժեշտ է, յուրաքանչյուր մոդուլի կոնկրետ համատեքստում, այլ ոչ թե յուրաքանչյուր բիզնես գործընթաց միաձուլված AI շարժիչի միջոցով:

Going Micro-ի հինգ բիզնեսի առավելությունները

Տեղափոխումը դեպի MicroGPT սկզբունքները տալիս է շոշափելի, չափելի օգուտներ, որոնք կարևոր են բիզնես օպերատորների համար, ովքեր ավելի շատ մտածում են լուսանցքների մասին, քան մոդելային ճարտարապետությունները: Այս առավելությունները համալրվում են բիզնեսի մասշտաբով, ինչը ժամանակի ընթացքում ավելի գրավիչ է դարձնում միկրո մոտեցումը:

  • Ծախսերի կրճատում 80-95%-ով. Համեստ ամպային օրինակով 2B պարամետրով մանրակրկիտ կարգավորված մոդելի գործարկումն արժե ամսական $15-ից $50: Նույն ծավալի առաջադրանքների համար սահմանային մոդելի համարժեք API զանգերը հեշտությամբ կարող են գերազանցել ամսական $500-ը:
  • 200 մվ-ից ցածր հապաղում. Միկրո մոդելներն արձագանքում են 50-200 միլիվայրկյանում՝ համեմատած 1-5 վայրկյանի հետ՝ մեծ ամպի վրա տեղակայված մոդելների համար: Հաճախորդներին առնչվող հավելվածների համար, ինչպիսիք են չաթ-բոտերը կամ իրական ժամանակի որոնումը, այս տարբերությունը սահմանում է օգտատիրոջ փորձը:
  • Տվյալների գաղտնիությունը լռելյայն. Երբ մոդելն աշխատում է ձեր ենթակառուցվածքում կամ ձեր ընտրած SaaS հարթակում, հաճախորդների տվյալները երբեք չեն հեռանում ձեր միջավայրից: Առողջապահության, իրավաբանական կամ ֆինանսական ծառայությունների բիզնեսների համար սա շքեղություն չէ. դա համապատասխանության պահանջ է:
  • Կանխատեսելի վարքագիծ. Հատուկ տվյալների շտեմարանների վրա ճշգրտված փոքր մոդելները տալիս են հետևողական, կրկնվող արդյունքներ: Ոչ մի վտանգ չկա, որ AI-ն հանկարծ ստեղծի ապրանքանիշից դուրս արձագանք կամ հալյուցինացիաներ առաջացնի մի քաղաքականություն, որը գոյություն չունի:
  • Անցանց հնարավորություն․

Այս առավելությունները տեսական չեն: Մելբուրնում գտնվող գույքի կառավարման ընկերությունը հայտնել է, որ կրճատել է վարձակալների հաղորդակցության ծախսերը 73%-ով՝ ընդհանուր նշանակության AI չաթբոտից անցնելով միկրո մոդելի, որը վերապատրաստվել է բացառապես վարձակալության պայմանագրերի, պահպանման ընթացակարգերի և FAQ տվյալների բազայի վրա: Ավելի փոքր մոդելն ավելի ճշգրիտ էր պատասխանում վարձակալի հարցերին, քանի որ գիտեր միայն այն, ինչ պետք է իմանար:

Ինչպես է MicroGPT սկզբունքները հզորացնում ժամանակակից բիզնես հարթակներ

Ամենախելացի բիզնես ծրագրային ապահովման ընկերությունները ներքինացրել են MicroGPT փիլիսոփայությունը՝ առանց պարտադիր գովազդելու այն: «Ամեն ինչ, որն աշխատում է արհեստական ​​ինտելեկտի վրա» խոստանալու փոխարեն, նրանք նպատակաուղղված բանականություն են ներդնում անհատական ​​աշխատանքային հոսքերի մեջ: CRM մոդուլն օգտագործում է փոքր դասակարգիչ՝ առաջատարներ գրանցելու համար: Հաշիվ-ապրանքագրերի մոդուլը օգտագործում է օրինաչափության ճանաչման մոդել՝ անոմալիաները նշելու համար: Պլանավորման մոդուլն օգտագործում է թեթև օպտիմալացման ալգորիթմ՝ ամրագրումների հակասությունները նվազագույնի հասցնելու համար:

Այս մոդուլային մոտեցումը արտացոլում է, թե ինչպես է Mewayz-ը սպասարկում իր 138000+ օգտվողներին տարբեր ոլորտներում: Ամբողջ պլատֆորմի վրա մեկ AI օգնական դնելու փոխարեն, Mewayz-ի 207 մոդուլներից յուրաքանչյուրը ներառում է ավտոմատացում, որը հարմարեցված է իր հատուկ գործառույթին: Աշխատավարձի մոդուլը հասկանում է հարկային հաշվարկները և համապատասխանության կանոնները: Ամրագրման համակարգը օպտիմիզացնում է հանդիպումների ժամանակները՝ հիմնվելով պատմական օրինաչափությունների վրա: CRM-ն ավտոմատ հատվածավորում է կոնտակտները՝ օգտագործելով վարքագծային տվյալներ: Ոչ մի մոդուլ չի փորձում ամեն ինչ լինել, և հենց այդ զսպվածությունն է համակարգը հուսալի դարձնում:

«Բիզնեսի AI-ի ապագան մեկ հսկա ուղեղ չէ, այն մասնագիտացված միկրո-հետախուզությունների ցանց է, որոնցից յուրաքանչյուրը տիրապետում է մեկ տիրույթի: Այն ընկերությունները, որոնք հասկանում են դա, կգերազանցեն նրանց, ովքեր դեռ սպասում են կախարդական, ամեն ինչ անելու AI-ին, որպեսզի լուծեն իրենց բոլոր խնդիրները միանգամից»:

Այս ճարտարապետական ընտրությունը նաև նշանակում է, որ ձեռնարկությունները կարող են աստիճանաբար ընդունել AI: Freelancer-ը կարող է սկսել Mewayz-ի link-in-bio գործիքից և անվճար պլանում հաշիվ-ապրանքագրերի մոդուլից, այնուհետև աստիճանաբար ակտիվացնել CRM, վերլուծական և HR մոդուլները, քանի որ իրենց թիմն աճում է. յուրաքանչյուրը բերում է խելացի ավտոմատացման իր շերտը՝ առանց մեծածախ հարթակի միգրացիայի կամ AI ռազմավարության վերանայման պահանջի:

Իրական աշխարհի հավելվածներ. որտեղ միկրո մոդելները գերազանցում են հսկաներին

Ապացույցները մեծանում են արդյունաբերության մեջ: Էլեկտրոնային առևտրում վաճառականները, որոնք օգտագործում են փոքր արտադրանքի առաջարկությունների մոդելներ, որոնք ճշգրտված են իրենց սեփական կատալոգի տվյալների վրա, հայտնում են 22% ավելի բարձր սեղմումների տոկոսադրույքներ, քան նրանք, ովքեր օգտագործում են ընդհանուր առաջարկությունների API-ներ: Առողջապահության կառավարման ոլորտում կլինիկաները, որոնք օգտագործում են միկրո մոդելներ նշանակման տրիաժի համար, նվազեցրել են չներկայանալու տոկոսադրույքները 31%-ով՝ կանխատեսելով և կանխարգելիչ կապ հաստատելով ռիսկային հիվանդների հետ: Մասնագիտական ծառայություններում իրավաբանական ընկերությունները, որոնք օգտագործում են փաստաթղթերի դասակարգման կոմպակտ մոդելներ, 4 անգամ ավելի արագ են մշակում պայմանագրերը, քան ընդհանուր նշանակության փաստաթղթերի AI-ի վրա հիմնվածները:

💡 DID YOU KNOW?

Mewayz replaces 8+ business tools in one platform

CRM · Invoicing · HR · Projects · Booking · eCommerce · POS · Analytics. Free forever plan available.

Start Free →

Նախատեսակը հետևողական է. երբ մոդելը ավելի քիչ գիտի աշխարհի մասին, բայց ավելի շատ գիտի ձեր բիզնեսի մասին, այն ավելի լավ է կատարում ձեր բիզնես առաջադրանքները: Ռեստորանին պետք չէ արհեստական ​​ինտելեկտ, որը կարող է բանաստեղծություններ գրել և հաշվարկի խնդիրներ լուծել: Նրան պետք է մեկը, ով կարող է կանխատեսել երեքշաբթի ընթրիքի պահանջարկը՝ հիմնված եղանակի, տեղական իրադարձությունների և պատմական ծածկույթների վրա, և 50 միլիոն պարամետրանոց մոդելը կարող է դա անել հիանալի կերպով:

Այս մասնագիտացումը նվազեցնում է նաև բիզնեսի արհեստական ​​ինտելեկտի ամենավտանգավոր ռիսկը՝ հալյուցինացիա: Ձեր արտադրանքի կատալոգում վերապատրաստված միկրո մոդելը չի ​​կարող հորինել այնպիսի ապրանք, որը գոյություն չունի: Ձեր HR քաղաքականության վրա պատրաստված միկրո մոդելը չի ​​կարող ստեղծել այնպիսի առավելություններ, որոնք դուք չեք առաջարկում: Սահմանափակ գիտելիքների բազան դառնում է հատկանիշ, ոչ թե սահմանափակում, և այն բիզնեսների համար, որտեղ վստահությունն ու ճշգրտությունը սակարկելի չեն, այս առավելությունը որոշիչ է:

Կառուցեք ձեր MicroGPT ռազմավարությունը առանց կոդ գրելու

Բիզնեսների մեծամասնության համար ամենագործնական ուղին զրոյից հատուկ մոդելներ պատրաստելը չէ, այլ հարթակներ ընտրելն է, որոնք արդեն կատարել են մասնագիտացված հետախուզություն օգտագործելի գործիքների մեջ ներդնելու ծանր աշխատանքը: Կառուցել ընդդեմ գնման հավասարումը ճնշող մեծամասնությամբ նպաստում է գնումներին, երբ ձեր հիմնական բիզնեսը արհեստական ինտելեկտի մշակումը չէ:

Սկսեք ստուգելով ձեր գործողությունները կրկնվող կանոնների վրա հիմնված առաջադրանքների համար, որոնք ներկայումս խլում են մարդու ժամերը. տվյալների մուտքագրում, հետագա հաղորդակցություն, հաշվետվությունների ստեղծում, պլանավորում և դասակարգում: Սրանք աշխատանքային հոսքեր են, որտեղ միկրո մասշտաբի AI-ն ապահովում է անմիջական ROI: Հաջորդը, գնահատեք հարթակները՝ հիմնվելով նրանց AI-ի իսկական մոդուլյար լինելու վրա, ինչը նշանակում է, որ դուք կարող եք ակտիվացնել խելացի գործառույթները մեկ տարածքում՝ առանց կողպված լինելու «ամեն ինչ կամ ոչինչ» AI-ի պարտավորության մեջ:

Mewayz-ի նման հարթակները, որոնք առաջարկում են անվճար հավերժ մակարդակ՝ հիմնական մոդուլների հասանելիությամբ՝ սկսած $0/ամսական արժեքից և պրեմիում մակարդակները՝ $19-ից մինչև $49/ամսական, թույլ են տալիս բիզնեսին փորձարկել խելացի ավտոմատացումը ցածր ռիսկային միջավայրերում՝ նախքան մասշտաբները: Պլատֆորմի ցանկացած վաճառողին տալու հիմնական հարցը «Ունե՞ք AI» չէ: — դա «Ձեր AI-ն հասկանու՞մ է իմ կոնկրետ աշխատանքային ընթացքը, թե՞ դա ընդհանուր շերտ է, որը պտուտակված է վերևում»:

Վերջին գիծը. բանականությունը պետք է անտեսանելի լինի

MicroGPT շարժումը դաս է տալիս արհեստական ինտելեկտի սահմաններից դուրս. լավագույն տեխնոլոգիան անհետանում է աշխատանքային հոսքի մեջ: Օգտագործողները չպետք է մտածեն մոդելի չափերի, պարամետրերի հաշվարկի կամ եզրակացության ծախսերի մասին: Նրանք պետք է բացեն իրենց բիզնես հարթակը, և գործերը պետք է պարզապես աշխատեն՝ ավելի արագ, խելացի և ավելի ճշգրիտ, քան երեկ:

138,000+ բիզնեսների համար, որոնք արդեն աշխատում են Mewayz-ում, սա ամենօրյա իրականությունն է: Հաշիվ-ապրանքագրերը դրոշակվում են նախքան սխալները հասնում են հաճախորդներին: Առաջատարները գնահատվում են նախքան վաճառքի թիմերը բացում են իրենց վահանակները: Ժամանակացույցերը օպտիմիզացվում են նախքան կոնֆլիկտների առաջացումը: Դրանցից ոչ մեկը չի պահանջում, որ օգտագործողը հասկանա, թե ինչ է նշանակում MicroGPT, և դա հենց կետն է: Լավագույն AI-ն այն AI-ն է, որի մասին երբեք պետք չէ մտածել:

Քանի որ ոլորտը շարունակում է իր առանցքը «ամենամեծ մոդելային հաղթանակներից» դեպի «ճիշտ չափի մոդելի հաղթանակներ», այն ձեռնարկությունները, որոնք վաղ համահունչ են այս փիլիսոփայությանը, կգործեն ավելի արդյունավետ, ավելի մատչելի և ավելի վստահ, քան մրցակիցները, որոնք դեռ հետապնդում են AI-ի հիփ ցիկլը: Միկրո հեղափոխությունը չի գալիս, այն արդեն այստեղ է՝ հանգիստ ներդրված այն գործիքների մեջ, որոնք ամեն օր օգտագործում են խելացի բիզնեսները:

Կառուցեք ձեր բիզնեսի OS այսօր

Ֆրիլանսերներից մինչև գործակալություններ, Mewayz-ը 207 ինտեգրված մոդուլներով ապահովում է 138000+ բիզնես: Սկսեք անվճար, նորացրեք, երբ աճեք:

Անվճար ստեղծել