A Groq, uma startup que desenvolve chips para executar modelos de IA generativos mais rápido do que processadores convencionais, disse na segunda-feira que levantou US$ 640 milhões em uma nova rodada de financiamento liderada pela Blackrock. Neuberger Berman, Sort One Ventures, Cisco, KDDI e Samsung Catalyst Fund também participaram.

A parcela, que eleva o whole arrecadado pela Groq para mais de US$ 1 bilhão e avalia a empresa em US$ 2,8 bilhões, é uma grande vitória para a Groq, que supostamente foi originalmente procurando levantar 300 milhões de dólares em um um pouco mais baixo (US$ 2,5 bilhões) de avaliação. Mais que dobra a avaliação anterior da Groq (~US$ 1 bilhão) em abril de 2021, quando a empresa levantou US$ 300 milhões em uma rodada liderada pela Tiger International Administration e D1 Capital Companions.

O cientista chefe de IA da Meta, Yann LeCun, atuará como consultor técnico da Groq e Stuart Pann, ex-chefe do negócio de fundição da Intel e ex-CIO da HP, se juntará à startup como diretor de operações, anunciou a Groq também hoje. A nomeação de LeCun é um pouco inesperada, dados os investimentos da Meta em seus próprios chips de IA — mas, sem dúvida, dá à Groq um aliado poderoso em um espaço acirrado.

A Groq, que surgiu do stealth em 2016, está criando o que chama de mecanismo de inferência LPU (unidade de processamento de linguagem). A empresa alega que suas LPUs podem executar modelos de IA generativa existentes semelhantes em arquitetura ao ChatGPT e GPT-4o da OpenAI a 10x a velocidade e um décimo da energia.

A reivindicação da fama do CEO da Groq, Jonathan Ross, é ajudar a inventar a unidade de processamento tensor (TPU), o chip acelerador de IA personalizado do Google usado para treinar e executar modelos. Ross se uniu a Douglas Wightman, um empreendedor e ex-engenheiro do laboratório X moonshot da empresa-mãe do Google, Alphabet, para cofundar a Groq há quase uma década.

A Groq fornece uma plataforma de desenvolvedor alimentada por LPU chamada GroqCloud que oferece modelos “abertos” como a família Llama 3.1 da Meta, Gemma do Google, Whisper da OpenAI e Mixtral da Mistral, bem como uma API que permite que os clientes usem seus chips em instâncias de nuvem. (A Groq também hospeda um playground para chatbots alimentados por IA, o GroqChat, que foi lançado no closing do ano passado.) Em julho, a GroqCloud tinha mais de 356.000 desenvolvedores; a Groq diz que uma parte dos lucros da rodada será usada para dimensionar a capacidade e adicionar novos modelos e recursos.

“Muitos desses desenvolvedores estão em grandes empresas”, disse Stuart Pann, COO da Groq, ao TechCrunch. “Pelas nossas estimativas, mais de 75% das Fortune 100 estão representadas.”

À medida que o growth da IA ​​generativa continua, a Groq enfrenta uma concorrência cada vez maior tanto de empresas rivais de chips de IA quanto da Nvidia, a formidável empresa no setor de {hardware} de IA.

Estima-se que a Nvidia controle entre 70% e 95% do mercado de chips de IA usados ​​para treinar e implementar modelos de IA generativos, e a empresa está tomando medidas agressivas para manter seu domínio.

A Nvidia se comprometeu a lançar uma nova arquitetura de chip de IA a cada ano, em vez de a cada dois anos, como period o caso historicamente. E é supostamente estabelecendo uma nova unidade de negócios focada em projetar chips personalizados para empresas de computação em nuvem e outras, incluindo {hardware} de IA.

Além da Nvidia, a Groq compete com a Amazon, Google e Microsoft, todas as quais oferecem — ou oferecerão em breve — chips personalizados para cargas de trabalho de IA na nuvem. A Amazon tem seus processadores Trainium, Inferentia e Graviton, disponíveis pela AWS; os clientes do Google Cloud podem usar as TPUs mencionadas acima e, com o tempo, o chip Axion do Google; e a Microsoft lançou recentemente instâncias do Azure em pré-visualização para sua CPU Cobalt 100, com instâncias do Maia 100 AI Accelerator a serem lançadas nos próximos meses.

Groq poderia considerar Arm, Intel, AMD e um número crescente de startups rivais também, em um mercado de chips de IA que poderia atingir US$ 400 bilhões em vendas anuais nos próximos cinco anos, de acordo com alguns analistas. Arm e AMD em specific têm negócios de chips de IA florescentes, graças a gastos de capital crescentes por fornecedores de nuvem para atender à demanda de capacidade de IA generativa.

D-Matrix no closing do ano passado criado US$ 110 milhões para comercializar o que está caracterizando como uma plataforma de computação de inferência pioneira. Em junho, a Etched saiu do stealth com US$ 120 milhões para um processador personalizado para acelerar a arquitetura de modelo de IA generativa dominante hoje, o transformador. Masayoshi Son, da SoftBank, é supostamente procurando levantar US$ 100 bilhões para um empreendimento de chip para competir com a Nvidia. E a OpenAI está disse estar em negociações com empresas de investimento para lançar uma iniciativa de fabricação de chips de IA.

Para conquistar seu nicho, a Groq está investindo pesadamente em alcance empresarial e governamental.

Em março, a Groq adquiriu a Definitive Intelligence, uma empresa sediada em Palo Alto que oferece uma gama de soluções de IA orientadas para negócios, para formar uma nova unidade de negócios chamada Groq Methods. Dentro do escopo da Groq Methods está o atendimento a organizações, incluindo agências governamentais dos EUA e nações soberanas, que desejam adicionar chips da Groq a knowledge facilities existentes ou construir novos information facilities usando processadores Groq.

Mais recentemente, a Groq fez uma parceria com a Carahsoft, uma contratada de TI do governo, para vender suas soluções a clientes do setor público por meio dos parceiros revendedores da Carahsoft, e a startup tem uma carta de intenções para instalar dezenas de milhares de suas LPUs no information middle da empresa europeia Earth Wind & Energy na Noruega.

A Groq também está colaborando com a empresa de consultoria saudita Aramco Digital para instalar LPUs em futuros information facilities no Oriente Médio.

Ao mesmo tempo em que estabelece relacionamentos com clientes, a Groq, sediada em Mountain View, Califórnia, está marchando em direção à próxima geração de seu chip. Em agosto passado, a empresa anunciou que contrataria a empresa de semicondutores International Foundries para fabricar LPUs de 4 nm, que devem oferecer ganhos de desempenho e eficiência em relação aos chips de 13 nm de primeira geração da Groq.

A Groq afirma que planeja implantar mais de 108.000 LPUs até o closing do primeiro trimestre de 2025… leia mais em Séries do Momento 05/08/2024