A NinjaTech se une à AWS para lançar a próxima geração de assistentes de IA

AWS

May 21, 2024

5 min de leitura

  • A NinjaTech AI, uma subsidiária de IA generativa apoiada por SRI, desenvolvida por Ninja LLMs personalizados, criou uma IA pessoal multiagente que pode planejar e executar tarefas do mundo real de forma assíncrona, como pesquisar tópicos complexos de várias etapas e agendar reuniões em nome de seus usuários.
  • Os chips de aprendizado de máquina Trainium e Inferentia2 da AWS permitem que a IA da NinjaTech treine e atenda agentes de IA de forma rápida, sob demanda e de forma sustentável, oferecendo o poder da IA generativa para ajudar todos a serem mais produtivos.


Palo Alto, EUA - 21 de maio de 2024Inteligência Artificial NinjaTech, uma empresa de IA generativa com sede no Vale do Silício com a missão de tornar todos mais produtivos cuidando de tarefas demoradas, anunciou hoje o lançamento de seu novo assistente pessoal de IA, Ninja, desenvolvido com agentes autônomos de IA. A NinjaTech AI está aproveitando os chips de aprendizado de máquina (ML) da Amazon Web Services (AWS), desenvolvidos especificamente para o Trainium e Inferentia2, e o Amazon SageMaker, um serviço de aprendizado de máquina baseado em nuvem, para criar, treinar e escalar agentes de IA personalizados que podem lidar com tarefas complexas de forma autônoma, como conduzir pesquisas e agendar reuniões. Esses agentes de IA economizam tempo e dinheiro para cada usuário, trazendo o poder da IA generativa para os fluxos de trabalho diários. Usando os recursos de nuvem da AWS, o Ninja pode realizar várias tarefas simultaneamente, o que significa que os usuários podem atribuir novas tarefas sem esperar que as tarefas existentes sejam concluídas.


“Trabalhar com o Annapurna Labs da AWS foi um verdadeiro divisor de águas para a NinjaTech AI. A potência e a flexibilidade dos chips Trainium e Inferentia2 para nossos agentes de IA de aprendizado por reforço superaram em muito nossas expectativas: eles se integram facilmente e podem escalar elasticamente para milhares de nós por meio do Amazon SageMaker”, afirmou Babak Pahlavan, fundador e CEO da NinjaTech AI. “Esses chips de última geração projetados pela AWS oferecem suporte nativo às variantes maiores de 70B dos mais recentes modelos populares de código aberto, como o Llama 3, economizando até 80% nos custos totais e nos proporcionando 60% mais eficiência energética em comparação com GPUs similares. Além da tecnologia em si, o suporte técnico colaborativo da equipe da AWS fez uma enorme diferença à medida que desenvolvemos tecnologia profunda.”


Os agentes de IA operam usando modelos de linguagem grande (LLMs) altamente personalizados que são modificados usando uma variedade de técnicas, como aprendizado por reforço, para oferecer precisão e velocidade. O desenvolvimento bem-sucedido de agentes de IA exige chips acessíveis e elásticos, ajustados especificamente para o aprendizado por reforço, um desafio difícil e caro para startups com a escassez atual de GPUs, sua inelasticidade e com custos de computação tão altos. A AWS resolveu esse desafio para o ecossistema de agentes de IA com sua tecnologia de chip exclusiva, que permite ciclos rápidos de treinamento que se expandem para atingir milhares de nós, conforme necessário, por ciclo de treinamento. Combinado com o Amazon SageMaker, que oferece a capacidade de aproveitar modelos de código aberto, o treinamento de agentes de IA agora é rápido, flexível e acessível.


“Os agentes de IA estão emergindo rapidamente como a próxima geração de ferramentas de produtividade que transformarão a forma como trabalhamos, colaboramos e aprendemos. A IA da NinjaTech possibilitou agentes rápidos, precisos e econômicos que os clientes podem escalar rapidamente usando os chips de IA AWS Trainium e Inferentia2”, disse Gadi Hutt, diretor sênior do Annapurna Labs na AWS. “Estamos entusiasmados em ajudar a equipe de IA da NinjaTech a trazer agentes autônomos para o mercado, ao mesmo tempo em que promovemos o compromisso da AWS de capacitar o ML de código aberto e estruturas populares como PyTorch e Jax.”


A NinjaTech AI treinou seus modelos com o AWS Trainium (instâncias Trn1 do Amazon EC2) e os está servindo usando o AWS Inferentia2 (instâncias do Amazon EC2 Inf2). A Trainium potencializa clusters de computação de alto desempenho na AWS para treinar LLMs com mais rapidez e menor custo, usando menos energia. O chip Inferentia2 permite que os modelos gerem inferências mais rapidamente e a um custo muito menor, com um desempenho de preço até 40% melhor.


“Nossa colaboração com a AWS tem sido fundamental para acelerar nossa capacidade de desenvolver um planejador generativo e um mecanismo de ação verdadeiramente inovadores baseados em IA, que são vitais para criar agentes de IA de última geração. Como precisávamos dos chips mais elásticos e de alto desempenho com precisão e velocidade incríveis, nossa decisão de treinar e implantar o Ninja nos chips Trainium e Inferentia2 fez todo o sentido”, acrescentou Pahlavan. “Toda empresa de IA generativa deve considerar a AWS se quiser acessar chips de IA sob demanda com flexibilidade e velocidade incríveis.”


Os usuários podem acessar o Ninja visitando myninja.ai. A partir de hoje, a Ninja oferece quatro agentes de IA conversacional capazes de fazer pesquisas na web em tempo real em várias etapas, agendar reuniões com partes internas e externas por e-mail, ajudar nas tarefas de codificação, redigir e-mails e dar conselhos. Além disso, o Ninja oferece fácil acesso a comparações de resultados lado a lado de modelos de classe mundial de empresas como OpenAI, Anthropic e Google. Por fim, o Ninja oferece uma infraestrutura assíncrona de última geração que permite aos usuários realizar um número quase infinito de tarefas ao mesmo tempo. O Ninja ficará melhor à medida que os clientes o usarem, tornando-o mais produtivo no dia a dia.


Sobre a NinjaTech AI Inteligência Artificial NinjaTech é uma empresa sediada no Vale do Silício que cria agentes de IA personalizados de próxima geração, projetados para assumir tarefas complexas de forma autônoma. A NinjaTech AI lançou recentemente um produto pessoal de IA — chamado Ninja — que tem quatro agentes de IA capazes de agendar reuniões, conduzir pesquisas, fornecer conselhos e ajudar os desenvolvedores oferecendo sugestões e depurando seu código. Saindo do SRI no final de 2022, a equipe fundadora tem mais de 30 anos de experiência combinada em IA com líderes de empresas como Google, AWS e Meta.


Contatos de imprensa:

Fórmula Havas para NinjaTech AI

ninjatech@havasformula.com

(858) 229-8538

Experience Ninja's AI Assistant

Try for free today. Plans starting at $19/month.