Jak může Amazon použít přizpůsobené čipy AWS k dohnání Microsoft a Google v poli AI?
Podle CNBC tým Amazon navrhuje dva čipy, kódovaný inferentia a školení, pro trénink a urychlení generativní umělé inteligence.Tyto čipy poskytují alternativní možnost pro zákazníky Amazon Cloud Services AWS, aby namísto grafických procesorů NVIDIA trénovali velké jazykové modely.V současné době je zadávání veřejných zakázek GPU stále obtížnější a nákladnější a tyto přizpůsobené čipy mohou zákazníkům AWS poskytnout alternativní řešení pro školení velkých jazykových modelů na čipy NVIDIA.
Generální ředitel Amazon Cloud Technology Adam Selipsky v červnu letošního roku řekl: „Svět doufá, že bude mít více žetonů pro generativní umělou inteligenci, ať už jde o GPU nebo Amazonovy samostatné čipy, které navrhujeme
Jiné společnosti však podnikly rychlejší kroky a investovaly více finančních prostředků na získání podnikání z vlny generativní umělé inteligence.Když OpenAI spustil Chatgpt v listopadu loňského roku, Microsoft získal širokou pozornost pro své chatboty a investici ve výši 13 miliard dolarů do OpenAI.Společnost rychle přidala do svých produktů generativní modely umělé inteligence a v únoru tohoto roku je sloučila do Bing.
Ve stejném měsíci společnost Google spustila svůj vlastní rozsáhlý jazykový model, Bard, a následně investoval 300 milionů dolarů do Openai konkurenta Anthropic.
Až do dubna Amazon oznámil spuštění své vlastní série velkých jazykových modelů (s názvem Titan) a služby na lůžko, které pomáhají vývojářům používat generativní software pro vylepšení AI.
Amazon není zvyklý pronásledovat trh.Amazon se používá k vytvoření trhu.Myslím, že poprvé za dlouhou dobu se ocitli v nevýhodě a tvrdě pracují na tom, aby dohnali, “řekl Chirag Dekate, viceprezident analytik společnosti Gartner.
Meta nedávno vydala vlastní hlavní modely Llama 2.Tento konkurent s otevřeným zdrojovým kódem může být nyní testován na veřejném cloudu společnosti Microsoft Azure.
Čipy jsou „skutečná diferenciace“
Dekate uvedl, že z dlouhodobého hlediska mohou přizpůsobené čipy Amazonu poskytnout výhodu v oblasti generativní umělé inteligence,
Myslím, že skutečná diferenciace spočívá v technických schopnostech, které vyvíjejí, protože Microsoft nemá přizpůsobené čipy pro školení nebo inferentia
AWS tiše začala vyrábět vlastní čipy již v roce 2013 pomocí specializovaného hardwaru s názvem Nitro, který je nyní nejprodávanějším čipem AWS.Amazon tvrdí, že každý server AWS má alespoň jeden, s celkovým využitím více než 20 milionů.
V roce 2015 Amazon získal izraelské čipové startup Annapurna Labs.V roce 2018 společnost Amazon spustila server Chip Graviton založený na ARM, který je konkurentem pro X86 CPU od Giants, jako jsou AMD a Intel.
ARM může představovat vysokou jedinou číslici nebo dokonce 10% celkového prodeje serveru, přičemž velká část pochází z Amazonu.Proto se jim daří, pokud jde o CPU, “řekl Stacy Rasgon, vedoucí analytik Bernstein Research.
Také v roce 2018 společnost Amazon zahájila čipy zaměřené na umělou inteligenci.Před dvěma lety společnost Google oznámila spuštění své první tenzorové procesorové jednotky (TPU).Společnost Microsoft dosud neoznámila, že vyvíjí Athena AI Chip, který je údajně vyvinut ve spolupráci s AMD.
Matt Wood, viceprezident Amazon Products, vysvětlil využití školení a čipů Inferentia.
Strojové učení je rozděleno do těchto dvou různých fází.Proto trénujete modely strojového učení a poté tyto vyškolené modely odvozujete, “řekl Wood. Ve srovnání s jakoukoli jinou metodou modelů školicího strojového učení na AWS, školení zlepšilo svou nákladovou efektivitu přibližně o 50%
Po vydání Invorentia v roce 2019 (v současné době ve své druhé generaci) byl školení poprvé spuštěn v roce 2021.
Invokerentia „poskytuje velmi levné, vysoce propustné a nízkopodlažní strojové učení, což znamená, že když vložíte výzvu do generativního modelu umělé inteligence, jsou zde zpracovány všechny předpovědi, aby poskytly odpověď,“ řekl Wood.
V současné době je však GPU NVIDIA stále králem, pokud jde o tréninkové modely.V červenci letošního roku společnost AWS uvedla na trh nový hardware zrychlení AI podporovaný NVIDIA H100.
Rasgon řekl: „Chipsy Nvidia mají obrovský softwarový ekosystém a za posledních 15 let byl kolem nich postaveno softwarový ekosystém jiných společností. V současné době je největším vítězem v umělé inteligenci Nvidia
Využití výhod cloudu
Aws's Cloud Dominance je však hlavním faktorem diferenciace pro Amazon.
Amazon nepotřebuje žádnou zvláštní pozornost.Amazon již má velmi silnou nadaci cloudové instalace.Jediné, co musí udělat, je zjistit, jak umožnit stávajícím zákazníkům využít generativní umělou inteligenci, aby se rozšířili na aktivity tvorby hodnot, “řekl Dekate.
Při výběru generativní umělé inteligence mezi Amazon, Google a Microsoft mohou být miliony zákazníků AWS přitahovány k Amazonu, protože již jsou obeznámeni s Amazonem a spouští tam další aplikace a ukládá data.
Mai Lan Tomsen Bukovec, viceprezident AWS Technology, vysvětlil: „Toto je otázka rychlosti. Jak rychle mohou tyto společnosti vyvinout tyto generativní aplikace pro umělou inteligenci, závisí na tom, jak začínají daty v AWS a používají nástroje pro výpočetní a strojové učení, které jsmeposkytnout to řídit
Podle údajů společnosti Gartner je AWS největším poskytovatelem cloud computingu na světě, s podílem na trhu 40% v roce 2022. Ačkoli provozní zisk Amazonu meziročně klesl na tři po sobě jdoucí čtvrtiny, AWS stále představovala 70% 70% 70% 70 miliard USDProvozní zisk ve druhém čtvrtletí.Z historického hlediska je provozní zisková marže AWS mnohem vyšší než Google Cloud.
Kromě toho má AWS také rostoucí portfolio vývojářských nástrojů zaměřených na generativní umělou inteligenci.Swami Sivasubramanian, viceprezident pro databázi, analýzu a strojové učení v AWS, řekl: „Pojďme otočit hodiny zpět, ještě před Chatgpt.Chip v tak rychle, natož vytvořit základní službu za 2 až 3 měsíce
Bedlock může zákazníkům poskytnout přístup k velkým jazykovým modelům vyvinutým antiopickým, stabilitou AI, AI21 Labs a Amazon Titan.Sivasubramanian řekl: „Nevěříme, že jeden model vládne světu. Chceme, aby naši zákazníci měli nejmodernější modely od více dodavatelů, protože si vyberou správné nástroje pro správnou práci
Jedním z nejnovějších produktů umělé inteligence Amazonu je AWS Healthscribe, který byl spuštěn v červenci, a jeho cílem je pomoci lékařům navrhnout pacientovy shrnutí pomocí generativní umělé inteligence.Amazon má také středisko strojového učení s názvem SageMaker, které poskytuje služby, jako jsou algoritmy a modely.
Dalším důležitým nástrojem je Codewhisperer, který Amazon říká, že zvýšila rychlost úkolu vývojářů o 57%.V loňském roce Microsoft také uvedl, že jeho kódovací nástroj Github Copilot zlepšil účinnost práce.
V červnu letošního roku AWS oznámila investici 100 milionů dolarů na zřízení generativního inovačního centra pro umělou inteligenci.Adam Selipsky, generální ředitel AWS, řekl: „Máme mnoho klientů, kteří chtějí generativní technologii umělé inteligence, ale nemusí nutně vědět, co to pro ně znamená ve svém vlastním obchodním kontextu. Proto představíme architekty, inženýry, stratégové, stratégové, představíme řešení řešení, inženýry, stratégové,a vědci dat, aby s nimi pracovali jeden na druhého
Přestože se AWS doposud zaměřila hlavně na vývoj nástrojů spíše než na budování konkurentů pro Chatgpt, nedávno uniklý interní e -mail ukazuje, že generální ředitel Amazon Andy Jassy přímo dohlíží na nový centrální tým, který také vytváří škálovatelné velké jazykové modely.
Během konferenčního hovoru ve druhém čtvrtletí Jia XI uvedla, že „významná část“ podnikání AWS je nyní poháněna umělou inteligencí a jeho podporou více než 20 služeb strojového učení, se zákazníky včetně Philips, 3M, Old Mutual a HSBC.
Výbušný růst umělé inteligence přinesl řadu bezpečnostních obav, protože společnosti se obávají, že zaměstnanci budou začlenit vlastnické informace do údajů o školení používaných ve společném modelu velkého jazyka.
Adam Selipsky řekl: „Nemohu vám říct, kolik společností Fortune 500, které jsem kontaktoval, se zdravotně deaktivovalo. Proto prostřednictvím našich generativních metod umělé inteligence a služeb na lůžku, cokoli, co děláte a použijete prostřednictvím lůžku, bude ve vašem vlastním nezávislém virtuálním soukromém cloudovém prostředí.. Bude šifrován a bude mít stejnou kontrolu přístupu
V současné době Amazon zrychluje pouze propagaci generativní umělé inteligence a tvrdí, že „více než 100 000“ zákazníků v současné době používá strojové učení na AWS.Ačkoli to odpovídá pouze na malou část milionů zákazníků AWS, analytici tvrdí, že se tato situace může změnit.
Nevidíme společnosti, které říkají: „Oh, počkejte chvíli, Microsoft již vede v generativní umělé inteligenci.Pojďme ven a změníme naši strategii infrastruktury a přesuňte vše na Microsoftware.Pokud již jste zákazníkem Amazonu, pravděpodobně prozkoumáte ekosystém Amazonu široce. “
Generální ředitel Amazon Cloud Technology Adam Selipsky v červnu letošního roku řekl: „Svět doufá, že bude mít více žetonů pro generativní umělou inteligenci, ať už jde o GPU nebo Amazonovy samostatné čipy, které navrhujeme
Jiné společnosti však podnikly rychlejší kroky a investovaly více finančních prostředků na získání podnikání z vlny generativní umělé inteligence.Když OpenAI spustil Chatgpt v listopadu loňského roku, Microsoft získal širokou pozornost pro své chatboty a investici ve výši 13 miliard dolarů do OpenAI.Společnost rychle přidala do svých produktů generativní modely umělé inteligence a v únoru tohoto roku je sloučila do Bing.
Ve stejném měsíci společnost Google spustila svůj vlastní rozsáhlý jazykový model, Bard, a následně investoval 300 milionů dolarů do Openai konkurenta Anthropic.
Až do dubna Amazon oznámil spuštění své vlastní série velkých jazykových modelů (s názvem Titan) a služby na lůžko, které pomáhají vývojářům používat generativní software pro vylepšení AI.
Amazon není zvyklý pronásledovat trh.Amazon se používá k vytvoření trhu.Myslím, že poprvé za dlouhou dobu se ocitli v nevýhodě a tvrdě pracují na tom, aby dohnali, “řekl Chirag Dekate, viceprezident analytik společnosti Gartner.
Meta nedávno vydala vlastní hlavní modely Llama 2.Tento konkurent s otevřeným zdrojovým kódem může být nyní testován na veřejném cloudu společnosti Microsoft Azure.
Čipy jsou „skutečná diferenciace“
Dekate uvedl, že z dlouhodobého hlediska mohou přizpůsobené čipy Amazonu poskytnout výhodu v oblasti generativní umělé inteligence,
Myslím, že skutečná diferenciace spočívá v technických schopnostech, které vyvíjejí, protože Microsoft nemá přizpůsobené čipy pro školení nebo inferentia
AWS tiše začala vyrábět vlastní čipy již v roce 2013 pomocí specializovaného hardwaru s názvem Nitro, který je nyní nejprodávanějším čipem AWS.Amazon tvrdí, že každý server AWS má alespoň jeden, s celkovým využitím více než 20 milionů.
V roce 2015 Amazon získal izraelské čipové startup Annapurna Labs.V roce 2018 společnost Amazon spustila server Chip Graviton založený na ARM, který je konkurentem pro X86 CPU od Giants, jako jsou AMD a Intel.
ARM může představovat vysokou jedinou číslici nebo dokonce 10% celkového prodeje serveru, přičemž velká část pochází z Amazonu.Proto se jim daří, pokud jde o CPU, “řekl Stacy Rasgon, vedoucí analytik Bernstein Research.
Také v roce 2018 společnost Amazon zahájila čipy zaměřené na umělou inteligenci.Před dvěma lety společnost Google oznámila spuštění své první tenzorové procesorové jednotky (TPU).Společnost Microsoft dosud neoznámila, že vyvíjí Athena AI Chip, který je údajně vyvinut ve spolupráci s AMD.
Matt Wood, viceprezident Amazon Products, vysvětlil využití školení a čipů Inferentia.
Strojové učení je rozděleno do těchto dvou různých fází.Proto trénujete modely strojového učení a poté tyto vyškolené modely odvozujete, “řekl Wood. Ve srovnání s jakoukoli jinou metodou modelů školicího strojového učení na AWS, školení zlepšilo svou nákladovou efektivitu přibližně o 50%
Po vydání Invorentia v roce 2019 (v současné době ve své druhé generaci) byl školení poprvé spuštěn v roce 2021.
Invokerentia „poskytuje velmi levné, vysoce propustné a nízkopodlažní strojové učení, což znamená, že když vložíte výzvu do generativního modelu umělé inteligence, jsou zde zpracovány všechny předpovědi, aby poskytly odpověď,“ řekl Wood.
V současné době je však GPU NVIDIA stále králem, pokud jde o tréninkové modely.V červenci letošního roku společnost AWS uvedla na trh nový hardware zrychlení AI podporovaný NVIDIA H100.
Rasgon řekl: „Chipsy Nvidia mají obrovský softwarový ekosystém a za posledních 15 let byl kolem nich postaveno softwarový ekosystém jiných společností. V současné době je největším vítězem v umělé inteligenci Nvidia
Využití výhod cloudu
Aws's Cloud Dominance je však hlavním faktorem diferenciace pro Amazon.
Amazon nepotřebuje žádnou zvláštní pozornost.Amazon již má velmi silnou nadaci cloudové instalace.Jediné, co musí udělat, je zjistit, jak umožnit stávajícím zákazníkům využít generativní umělou inteligenci, aby se rozšířili na aktivity tvorby hodnot, “řekl Dekate.
Při výběru generativní umělé inteligence mezi Amazon, Google a Microsoft mohou být miliony zákazníků AWS přitahovány k Amazonu, protože již jsou obeznámeni s Amazonem a spouští tam další aplikace a ukládá data.
Mai Lan Tomsen Bukovec, viceprezident AWS Technology, vysvětlil: „Toto je otázka rychlosti. Jak rychle mohou tyto společnosti vyvinout tyto generativní aplikace pro umělou inteligenci, závisí na tom, jak začínají daty v AWS a používají nástroje pro výpočetní a strojové učení, které jsmeposkytnout to řídit
Podle údajů společnosti Gartner je AWS největším poskytovatelem cloud computingu na světě, s podílem na trhu 40% v roce 2022. Ačkoli provozní zisk Amazonu meziročně klesl na tři po sobě jdoucí čtvrtiny, AWS stále představovala 70% 70% 70% 70 miliard USDProvozní zisk ve druhém čtvrtletí.Z historického hlediska je provozní zisková marže AWS mnohem vyšší než Google Cloud.
Kromě toho má AWS také rostoucí portfolio vývojářských nástrojů zaměřených na generativní umělou inteligenci.Swami Sivasubramanian, viceprezident pro databázi, analýzu a strojové učení v AWS, řekl: „Pojďme otočit hodiny zpět, ještě před Chatgpt.Chip v tak rychle, natož vytvořit základní službu za 2 až 3 měsíce
Bedlock může zákazníkům poskytnout přístup k velkým jazykovým modelům vyvinutým antiopickým, stabilitou AI, AI21 Labs a Amazon Titan.Sivasubramanian řekl: „Nevěříme, že jeden model vládne světu. Chceme, aby naši zákazníci měli nejmodernější modely od více dodavatelů, protože si vyberou správné nástroje pro správnou práci
Jedním z nejnovějších produktů umělé inteligence Amazonu je AWS Healthscribe, který byl spuštěn v červenci, a jeho cílem je pomoci lékařům navrhnout pacientovy shrnutí pomocí generativní umělé inteligence.Amazon má také středisko strojového učení s názvem SageMaker, které poskytuje služby, jako jsou algoritmy a modely.
Dalším důležitým nástrojem je Codewhisperer, který Amazon říká, že zvýšila rychlost úkolu vývojářů o 57%.V loňském roce Microsoft také uvedl, že jeho kódovací nástroj Github Copilot zlepšil účinnost práce.
V červnu letošního roku AWS oznámila investici 100 milionů dolarů na zřízení generativního inovačního centra pro umělou inteligenci.Adam Selipsky, generální ředitel AWS, řekl: „Máme mnoho klientů, kteří chtějí generativní technologii umělé inteligence, ale nemusí nutně vědět, co to pro ně znamená ve svém vlastním obchodním kontextu. Proto představíme architekty, inženýry, stratégové, stratégové, představíme řešení řešení, inženýry, stratégové,a vědci dat, aby s nimi pracovali jeden na druhého
Přestože se AWS doposud zaměřila hlavně na vývoj nástrojů spíše než na budování konkurentů pro Chatgpt, nedávno uniklý interní e -mail ukazuje, že generální ředitel Amazon Andy Jassy přímo dohlíží na nový centrální tým, který také vytváří škálovatelné velké jazykové modely.
Během konferenčního hovoru ve druhém čtvrtletí Jia XI uvedla, že „významná část“ podnikání AWS je nyní poháněna umělou inteligencí a jeho podporou více než 20 služeb strojového učení, se zákazníky včetně Philips, 3M, Old Mutual a HSBC.
Výbušný růst umělé inteligence přinesl řadu bezpečnostních obav, protože společnosti se obávají, že zaměstnanci budou začlenit vlastnické informace do údajů o školení používaných ve společném modelu velkého jazyka.
Adam Selipsky řekl: „Nemohu vám říct, kolik společností Fortune 500, které jsem kontaktoval, se zdravotně deaktivovalo. Proto prostřednictvím našich generativních metod umělé inteligence a služeb na lůžku, cokoli, co děláte a použijete prostřednictvím lůžku, bude ve vašem vlastním nezávislém virtuálním soukromém cloudovém prostředí.. Bude šifrován a bude mít stejnou kontrolu přístupu
V současné době Amazon zrychluje pouze propagaci generativní umělé inteligence a tvrdí, že „více než 100 000“ zákazníků v současné době používá strojové učení na AWS.Ačkoli to odpovídá pouze na malou část milionů zákazníků AWS, analytici tvrdí, že se tato situace může změnit.
Nevidíme společnosti, které říkají: „Oh, počkejte chvíli, Microsoft již vede v generativní umělé inteligenci.Pojďme ven a změníme naši strategii infrastruktury a přesuňte vše na Microsoftware.Pokud již jste zákazníkem Amazonu, pravděpodobně prozkoumáte ekosystém Amazonu široce. “