کوگَ جِیپِییُو دے بَاہَرَ ہورَ اَنُمَانَاں نُوں نِچوڑَنَ لَئِی ڈُون٘گھَائِی وِچَّ جَا رِہَا ہَے

تیزَ AI اَنُمَانَ دِی دَوڑَ جَارِی ہَے، اَتے بَازَارَاں نے سیریبْرَاسَ اَتے اِسَدے اُدیشَ-بَݨَائِا چِپَسَ دَا مَئِی وِچَّ آپَݨے آئِیپِیؤ دِی شُرُوءآتَ وِچَّ نِگھَّا سَوَاگَتَ کِیتَا۔ پَرَ پھْرَین٘چَ سَٹَارَٹَءاَپَّ کوگَ سَٹَّا لَگَا رِہَا ہَے کِ رَوَائِتِی GPUs توں نِچوڑَنَ لَئِی بَہُتَ زِءآدَا شَکَتِی ہَے۔

سَٹَارَٹَءاَپَ نے مَئِی وِچَّ اِکَّ تَکَنِیکِی پُورَوَدَرَشَنَ دے نَالَ ہَیکَرَ نِؤُزَ دے پَہِلے پَنّے نُوں ہِٹَّ کِیتَا جِسَدَا اُدیشَ اِہَ سَابَتَ کَرَنَا ہَے کِ "پَہِلَاں توں ہِی مَالَکِی وَالے سَٹَین٘ڈَرَڈَ ڈیٹَاسین٘ٹَرَ GPUs اُدَّمَاں 'تے بَہُتَ تیزَ سِن٘گَلَ-بینَتِی ڈِیکوڈِن٘گَ سَن٘بھَوَ ہَے" - جِویں کِ AMD MI۳۰۰X اَتے NVIDIA H۲۰۰ GPUs جو اِسَنے آپَݨے ڈَیمو لَئِی وَرَتے ہَنَ۔

کُجھَ اِہَ سُݨَ کے نِرَاشَ ہوئے کِ اِہَ سَاڈے لَیپَٹَاپَاں وِچَّ GPUs تَکَّ نَہِیں وَدھِءآ، پَرَ دُوجِءآں نے سَن٘بھَاوَنَا دیکھِی۔ اَنُمَانَ دِی گَتِی اَتے لَاگَتَاں ہُݨَ اِکَّ نَازُکَ رُکَاوَٹَ ہوݨَ دے نَالَ، سَاپھَٹَوےءاَرَ اوپَٹِیمَائِیجیشَنَ دے نَالَ مَوجُودَا ہَارَڈَوےءاَرَ 'تے نَوِیءآں سَمَرَتھَّاوَاں نُوں اَنَلَوکَ کَرَنَ دے کوگَ دے وَاءاَدے نے دَرَشَکَاں توں وَدھَّ آکَرَشِتَ کِیتَا۔ "سَاڈے کولَ ۲۰۰ ٹھوسَ کَاروبَارِی لِیڈَ سَنَ،" سِیئِیؤ گیلَ ڈیلَالےؤُ نے TechCrunch نُوں دَسِّءآ۔

شُرُوءآتِی پھِیڈَبَیکَ دے آدھَارَ 'تے، اِکَلّے سَن٘سَتھَاپَکَ نُوں سَاپھَٹَوےءاَرَ اِن٘جَنِیءاَرِن٘گَ دِی پَہِلِی وَرَتوں دے مَامَلے دِی اُمِیدَ ہَے۔ وَیٹَرَنَ کَلَوڈَ کوڈَ اُپَبھوگَتَا چَن٘گِی تَرھَاں جَاݨَدے ہَنَ کِ اُہَنَاں نُوں کَئِی وَارَ نَتِیجے پْرَاپَتَ کَرَنَ لَئِی گھَن٘ٹِءآں دِی اُڈِیکَ کَرَنِی پَین٘دِی ہَے۔ اَین٘تھَروپِکَ کھُدَ سَمَجھَدَا ہَے کِ سَپِیڈَ پَیسے دِی کِیمَتَ ہَے، اَتے کَلَاؤُڈَ دے پھَاسَٹَ موڈَ لَئِی کِیمَتَ گُݨَا چَارَجَ کَرَدِی ہَے۔

کوگَ اُہَنَاں دیرِی دُءآرَا بَن٘دَ کِیتے گَئے گَاہَکَاں نُوں نِشَانَا بَݨَاؤُݨَ دِی اُمِیدَ کَرَ رِہَا ہَے، آمَ تَورَ 'تے کِؤُن٘کِ اُہَ پیشیوَرَ کَمَّاں لَئِی AI وَرَکَپھَلو 'تے نِرَبھَرَ کَرَدے ہَنَ۔ پَرَ سَٹَارَٹَءاَپَ وِچَّ ڈِزَائِنَ پَارَٹَنَرَ وِی ہَنَ جو اُپَبھوگَتَاوَاں نُوں پْرون٘پَٹَ نَالَ گیمَاں اَتے اَیپَسَ تِءآرَ کَرَنَ دِن٘دے ہَنَ، اَتے جِنھَاں لَئِی کوگَ اِنَپھَرَین٘سَ اِن٘جَنَ (کےءآئِیئِی) دَا اِکَّ تیزَ نَتِیجَا دھَنَّوَادَ دَا مَتَلَبَ ہورَ مَالِیءآ ہوویگَا، ڈیلَالےؤُ نے کِہَا۔

کَن٘پَنِی نُوں اِہَ اَہِسَاسَ ہُن٘دَا ہَے کِ اِہَ مَارَکِیٹَ اَجے پُورِی تَرھَاں پَرِپَکَّ نَہِیں ہَے۔ مَن٘گَ نُوں دیکھَدے ہوئے، کوگَ نے سِکھِّءآ کِ اِسَدے سَن٘بھَاوِی گَاہَکَ چھوٹے مَاڈَلَاں نُوں وَدھِیءآ بَݨَاؤُݨَ لَئِی تِءآرَ نَہِیں ہَنَ۔ "اَتے اِسَ لَئِی لَان٘چَ توں بَاءاَدَ، اَسِیں سَاڈے دُءآرَا دیکھِی گَئِی مَن٘گَ نُوں پُورَا کَرَنَ لَئِی وَڈّے مَاڈَلَاں دے وِکَاسَ نُوں تیزَ کَرَنَ 'تے پُورِی تَرھَاں کین٘دْرِتَ رَہے ہَاں۔"

اِسَ نَالَ کوگَ نُوں "۳۰ گُݨَا تیزَ LLM اَنُمَانَ" دے آپَݨے وَاءاَدے نُوں پُورَا کَرَنَ لَئِی اِکَّ وَڈِّی چھَالَ مِلَدِی ہَے۔ اِسَ دے ڈَیمو نے اِکَّ پْرَبھَاوَشَالِی ۳۰۰۰ پْرَتِی-بینَتِی ٹوکَنَ پْرَتِی سَکِن٘ٹَ (TPS) دِکھَائِا - پَرَ سِرَپھَ کُجھَ ۲ بِلِیءاَنَ پَیرَامِیٹَرَاں دے نَالَ اِکَّ اُدیشَ-نِرَمِتَ چھوٹے مَاڈَلَ دے نَالَ، ہُݨَ اوپَنَ-سورَسَڈَ لینَپھَارَمَرَ ۲B۔

سَن٘دیہَوَادِیءآں دَا کھَن٘ڈَنَ کَرَدے ہوئے، ڈیلَالےؤُ نُوں بھَروسَا ہَے کِ اُہِی پَہُن٘چَ LLMs دے نَالَ وِی کَمَّ کَرَ سَکَدِی ہَے، جِسَدَا آکَارَ اَنُمَانَ چِپَسَ لَئِی اِکَّ چُݨَوتِی ہو سَکَدَا ہَے۔ “جِیپِییُو دَا بھَوِکھَّ اُجَّوَلَ ہَے،” اُسَنے کِہَا۔ کوگَ دے سِیئِیؤ لَئِی، اِہَ وِچَارَ کِ اُہَ ڈِیکوڈِن٘گَ لَئِی چَن٘گِی تَرھَاں اَنُکُولَ نَہِیں ہَنَ اِکَّ گَلَتَ دھَارَنَا بَݨَ گَئِی ہَے؛ نَویں GPU وِچَّ وَدھَّ توں وَدھَّ مَیمورِی بَین٘ڈَوِڈَتھَ ہُن٘دِی ہَے جو سِرَفَ اَنَلَوکَ ہوݨَ دِی مَن٘گَ کَرَدِی ہَے۔

کوگَ اِہَ سوچَݨَ وِچَّ اِکَلَّا نَہِیں ہَے کِ سَوپھَٹَوےءاَرَ اوپَٹِیمَائِیجیشَنَ GPUs نُوں بَاکَسَ 'تے کَہے نَالوں وَدھَّ کَرَنَ وِچَّ مَدَدَ کَرَ سَکَدَا ہَے۔ ZML، پھَرَان٘سَ توں وِی، نے ہَارَڈَوےءاَرَ-اَگَنوسَٹِکَ سَوپھَٹَوےءاَرَ جَارِی کِیتَا جو مُکَابَلے وَالِیءآں چِپَّاں وِچَّ تیزَ اَنُمَانَ دَا سَمَرَتھَنَ کَرَنَ لَئِی Nvidia دے CUDA نُوں بَائِیپَاسَ کَرَدَا ہَے۔ پَرَ ڈیلَالےؤُ نے کِہَا کِ کوگَ جِیپِییُو پْرَویگَ 'تے ڈُون٘گھے پَدھَّرَ دے پھوکَسَ دے نَالَ، سَٹَینَپھورَڈَ یُونِیوَرَسِٹِی لَیبَ ہَیزِی رِسَرَچَ دے سَمَانَ ہَے۔

ڈیلَالےؤُ کھُدَ اِکَّ کھوجَکَارَ نَہِیں ہَے، اَتے اُسَدِی پَہِلِی شُرُوءآتَ، TechCrunch5۰ ۲۰۰۹ alum Stribe، دَا اُسَدے نَویں نَالَ کوئِی لَیݨَا-دیݨَا نَہِیں ہَے — اُسَدے سَابَکَا سَہِ-سَن٘سَتھَاپَکَ VC کَامَلَ زِیروءاَلَ توں اِلَاوَا، جِسَدِی پھَرَمَ 'وَرَسِٹِی VC کوگَ دے بِیجَ دَورَ دِی سَہِ-اَگَوَائِی کَرَدِی ہَے۔ پَرَ سَٹَارَٹَءاَپَ دَا ڈُون٘گھے پَدھَّرَ دَا پھوکَسَ اُسَدِی وِلَکھَّݨَ پِچھوکَڑَ توں پَیدَا ہُن٘دَا ہَے۔

پھَرَان٘سَ دے اِیکولَ پَولِیٹَیکَنِیکَ وِچَّ ٹھوسَ-رَاجَ بھَوتِکَ وِگِءآنَ دَا اَدھِءاَینَ کَرَنَ توں بَاءاَدَ، اُہَ اَپَمَانَجَنَکَ سَائِیبَرَ سُرَکھِّءآ وِچَّ کَمَّ کَرَنَ لَئِی اَگّے وَدھِءآ — جِسَنُوں وھَائِیٹَ ہَیٹَ ہَیکِن٘گَ وِی کِہَا جَان٘دَا ہَے۔ ڈیلَالےؤُ دے اَنُسَارَ، اِسَ نے مَانَسِکَتَا نُوں آکَارَ دِتَّا ہَے جو اُہَ ہُݨَ آپَݨِی ٹِیمَ نُوں اَپَݨَاؤُݨَ لَئِی اُتَشَاہِتَ کَرَ رِہَا ہَے۔ وِگِءآنَ دے پَکھَّ توں، "بھَوتِکَ وِگِءآنَ دے نِیَمَاں نُوں سَمَجھَݨَ دِی اِہَ مَانَسِکَتَا ہَے، اَتے اُہَنَاں وِچّوں وَدھَّ توں وَدھَّ لَابھَ اُٹھَاؤُݨَ لَئِی GPU دے نِیَمَاں نُوں۔"

ہَیکِن٘گَ لَئِی، DEF CON دے CTF ٹُورَنَامَین٘ٹَ وِچَّ چَارَ وَارَ دے پھَائِینَلِسَٹَ نے کِہَا کِ اِسَنے اُسَنُوں "بَہُتَ ہِی نِیویں پَدھَّرَ 'تے چِیزَاں نُوں اُلَٹَاؤُݨَا سِکھَائِا - اَسَین٘بَلِی بھَاشَا اَتے بَائِینَرِی کوڈَ تَکَّ - اِہَ سَمَجھَݨَ لَئِی کِ اِہَ کِویں کَمَّ کَرَدَا ہَے، اَتے اِکَّ ٹِیچَا پْرَاپَتَ کَرَنَ لَئِی اِسَدِی وَرَتوں کَرَنَ دِی کوشِشَ کَرَنَا جِسَ لَئِی اِہَ زَرُورِی تَورَ 'تے ڈِزَائِینَ نَہِیں کِیتَا گِءآ سِی۔"

اِسَ پَہُن٘چَ دَا نَنُکَسَانَ اِہَ ہَے کِ اِہَ بَہُتَ ہِی ہَتھِّیں اَتے سَمَاں بَرَبَادَ کَرَنَ وَالَا ہَے۔ "ہَریکَ نَویں GPU لَئِی، اَسِیں ویرَوِءآں نُوں سَچَّمُچَّ کھودَݨَ اَتے اُسَ ہَارَڈَوےءاَرَ 'تے GPU اِن٘جِینِیءاَرِن٘گَ کھوجَ کَرَنَ لَئِی کَئِی ہَفَتے جَاں مَہِینے وِی سَمَرَپِتَ کَرَان٘گے۔" ۱۱ لوکَاں دِی ٹِیمَ دے نَالَ، اِہَ چِپَسَ دِی گِݨَتِی دِی سِیمَا رَکھَّدَا ہَے جِسَ نَالَ کوگَ کَمَّ کَرَ سَکَدَا ہَے، گھَٹّو-گھَٹَّ آؤُݨَ وَالے بھَوِکھَّ لَئِی۔ لَن٘بے سَمیں وِچَّ، کوگَ آپَݨِی کَارَجَپْرَݨَالِی نُوں ایجَن٘ٹَ-اَدھَارِتَ پَائِیپَلَائِینَاں وِچَّ پھِیڈَ کَرَنَ دِی اُمِیدَ کَرَدَا ہَے جو اِسَنُوں ہورَ چِپَسَ اَتے مَاڈَلَاں دَا سَمَرَتھَنَ کَرَنَ دیویگَا۔ جِویں کِ یُورَپَ اُہَنَاں دو مورَچِءآں 'تے آپَݨِی سَمَرَتھَّا بَݨَاؤُݨَ دِی کوشِشَ کَرَدَا ہَے، اِہَ سَٹَارَٹَءاَپَ لَئِی پْرَبھُوسَتَّا ٹیلَوِن٘ڈَ جوڑَ سَکَدَا ہَے، جو پَہِلَاں ہِی سَکیلَوے دُءآرَا سَمَرَتھَتَ ہَے اَتے پھَرَان٘سَ دے بِیپِیپھْرَین٘سَ اَتے پھْرَین٘چَ ٹَیکَ ۲۰۳۰ دے پْروگَرَامَ دُءآرَا سَمَرَتھَتَ ہَے۔

پھِلَہَالَ، ہَالَان٘کِ، کوگَ نُوں دُنِیءآ نُوں اِہَ سَابَتَ کَرَنَ دِی زَرُورَتَ ہَے کِ اُسَدِی پَہُن٘چَ LLMs 'تے کَمَّ کَرَدِی ہَے۔ اِہَ ہورَ پھَن٘ڈِن٘گَ نُوں سُرَکھِّءاَتَ کَرَنَ لَئِی وِی مَہَتَّوَپُورَنَ ہوویگَا۔ ڈیلَالےؤُ نے کِہَا، "اِکَّ وَارَ جَدوں اَسِیں ۱۰x سَپِیڈَ 'تے آپَݨَا پَہِلَا وَڈَّا مَاڈَلَ لَاگُو کَرَ لِءآ ہَے، جو مَینُوں لَگَّدَا ہَے کِ سَتَن٘بَرَ وِچَّ ہوویگَا، اَسِیں گَاہَکَاں دے کھِچَّ دَا پْرَدَرَشَنَ شُرُو کَرَنَ دے یوگَ ہووَان٘گے اَتے اُتھّوں، سَاڈِی سِیرِیزَ اے نُوں وَدھَا سَکَان٘گے،" ڈیلَالےؤُ نے کِہَا۔