A Red Hat, Inc., fornecedora líder mundial de soluções de código aberto, anunciou hoje que concluiu a aquisição da Neural Magic, pioneira em software e algoritmos que aceleram cargas de trabalho de inferência de IA generativa (gen AI). Com a Neural Magic, a Red Hat adiciona expertise em engenharia de desempenho de inferência e otimização de modelos, ajudando a promover a visão da empresa de cargas de trabalho de IA de alto desempenho que mapeiam diretamente para casos de uso exclusivos do cliente, onde quer que seja necessário na nuvem híbrida.

“Ao adicionar a expertise da Neural Magic em engenharia de desempenho de IA gen e otimização à Red Hat AI, estamos promovendo nosso compromisso com uma IA gen que atenda às necessidades exclusivas dos clientes, desde onde as cargas de trabalho são executadas até como são ajustadas e treinadas.” Matt Hicks – presidente e CEO, Red Hat

Os modelos de linguagem grande (LLMs) que sustentam os casos de uso de IA de geração atual, embora inovadores, geralmente são muito caros e exigem muitos recursos para a maioria das organizações usarem efetivamente. Para lidar com esses desafios, a Red Hat vê modelos menores, otimizados e licenciados de código aberto, impulsionados pela inovação aberta em arquiteturas de computação e ambientes de implantação, como a chave para o sucesso futuro das estratégias de IA.

O compromisso da Neural Magic em tornar modelos de IA otimizados e eficientes uma realidade aumenta a capacidade da Red Hat de concretizar essa visão para IA. A Neural Magic também é uma das principais colaboradoras do vLLM, um projeto de código aberto desenvolvido pela UC Berkeley para servir modelos abertos, o que ajudará a trazer ainda mais opções e acessibilidade em como as organizações criam e implantam cargas de trabalho de IA.

O futuro da IA ​​de geração pronta para nuvem híbrida

Com a tecnologia e a experiência em engenharia de desempenho da Neural Magic, a Red Hat pretende superar os desafios da IA ​​empresarial em larga escala, usando a inovação de código aberto para democratizar ainda mais o acesso ao poder transformador da IA ​​por meio de:

  • Modelos licenciados de código aberto, da escala de parâmetros de 1B a 100 bilhões, que podem ser executados em qualquer lugar e em qualquer lugar necessário na nuvem híbrida – em data centers corporativos, em várias nuvens e na borda.
  • Recursos de ajuste fino que permitem que as organizações personalizem LLMs mais facilmente para seus dados privados e casos de uso com uma pegada de segurança mais forte;
  • Expertise em engenharia de desempenho de inferência, resultando em maiores eficiências operacionais e de infraestrutura; e
  • Um parceiro e ecossistema de código aberto e estruturas de suporte que permitem uma escolha mais ampla do cliente, de LLMs e ferramentas a hardware de servidor certificado e arquiteturas de chip subjacentes.

O conceito de escolha é tão crucial para a IA de geração hoje quanto era para aplicativos nativos da nuvem ou em contêineres há vários anos: o ambiente certo (nuvem, servidor, borda, etc.), computação acelerada e servidor de inferência são todos essenciais para estratégias de IA de geração bem-sucedidas. A Red Hat permanece firme em seu compromisso com a escolha do cliente na nuvem híbrida, incluindo IA, com a aquisição da Neural Magic apoiando ainda mais essa promessa.

Red Hat AI: Uma espinha dorsal de código aberto para IA

A expertise e os recursos da Neural Magic serão incorporados ao Red Hat AI, o portfólio de plataformas de IA de geração da Red Hat. Construído com a nuvem híbrida em mente, o Red Hat AI abrange:

  • Red Hat Enterprise Linux AI (RHEL AI), uma plataforma de modelo de base para desenvolver, testar e executar de forma mais integrada a família IBM Granite de LLMs licenciados de código aberto para aplicativos empresariais em implantações de servidores Linux;
  • Red Hat OpenShift AI, uma plataforma de IA que fornece ferramentas para desenvolver, treinar, servir e monitorar rapidamente modelos de aprendizado de máquina em ambientes Kubernetes distribuídos no local, na nuvem pública ou na borda; e
  • InstructLab, um projeto de comunidade de IA de código aberto acessível criado pela Red Hat e IBM que permite que qualquer pessoa molde o futuro da IA ​​de geração por meio da melhoria colaborativa de LLMs Granite licenciados de código aberto usando a tecnologia de ajuste fino do InstructLab.

vLLM, LLM Compressor, modelos pré-otimizados e muito mais estão programados para serem incorporados ao Red Hat AI, tornando o Neural Magic uma parte integrante das ofertas da plataforma de IA da Red Hat… leia mais em Red Hat 13/01/2025