- NinjaTech AI, ein von SRI unterstütztes generatives KI-Spinout, das auf benutzerdefinierten Ninja-LLMs basiert, hat eine persönliche KI mit mehreren Agenten entwickelt, die reale Aufgaben asynchron planen und ausführen kann, z. B. die Erforschung komplexer Themen in mehreren Schritten und die Planung von Besprechungen im Namen ihrer Benutzer.
- Die Trainium- und Inferentia2-Chips für maschinelles Lernen von AWS ermöglichen es NinjaTech AI, KI-Agenten schnell, bedarfsgerecht und nachhaltig zu schulen und zu betreuen. Dabei wird die Leistungsfähigkeit generativer KI bereitgestellt, um allen zu mehr Produktivität zu verhelfen.
Palo Alto, USA — 21. Mai 2024 — NinjaTech KI, ein im Silicon Valley ansässiges Unternehmen für generative KI, das sich zum Ziel gesetzt hat, alle produktiver zu machen, indem es sich um zeitaufwändige Aufgaben kümmert, kündigte heute die Einführung seines neuen persönlichen KI-Assistenten Ninja an, der mit autonomen KI-Agenten ausgestattet ist. NinjaTech AI nutzt die speziell für maschinelles Lernen (ML) entwickelten Chips Trainium und Inferentia2 von Amazon Web Services (AWS) sowie Amazon SageMaker, einen Cloud-basierten Service für maschinelles Lernen, um benutzerdefinierte KI-Agenten zu entwickeln, zu trainieren und zu skalieren, die komplexe Aufgaben, wie die Durchführung von Recherchen und die Planung von Besprechungen, autonom erledigen können. Diese KI-Agenten sparen Zeit und Geld für jeden Benutzer, indem sie die Leistungsfähigkeit generativer KI in alltägliche Arbeitsabläufe integrieren. Mithilfe der Cloud-Funktionen von AWS kann Ninja mehrere Aufgaben gleichzeitig ausführen, sodass Benutzer neue Aufgaben zuweisen können, ohne auf die Fertigstellung vorhandener Aufgaben warten zu müssen.
„Die Zusammenarbeit mit den Annapurna Labs von AWS war ein echter Wendepunkt für NinjaTech AI. Die Leistung und Flexibilität der Trainium- und Inferentia2-Chips für unsere KI-Agenten, die Verstärkungslernen, übertrafen unsere Erwartungen bei weitem: Sie lassen sich leicht integrieren und können über Amazon SageMaker elastisch auf Tausende von Knoten skaliert werden „, erklärte Babak Pahlavan, Gründer und CEO von NinjaTech AI. „Diese von AWS entwickelten Chips der nächsten Generation unterstützen nativ die größeren 70B-Varianten der neuesten beliebten Open-Source-Modelle wie Llama 3, sparen uns gleichzeitig bis zu 80% der Gesamtkosten ein und bieten uns im Vergleich zu ähnlichen GPUs eine um 60% höhere Energieeffizienz. Neben der Technologie selbst hat der kollaborative technische Support des AWS-Teams bei der Entwicklung von Deep Tech einen enormen Unterschied gemacht.“
KI-Agenten arbeiten mit hochgradig maßgeschneiderten Large Language Models (LLMs), die mithilfe einer Vielzahl von Techniken wie Reinforcement Learning modifiziert werden, um Genauigkeit und Geschwindigkeit zu gewährleisten. Für die erfolgreiche Entwicklung von KI-Agenten sind erschwingliche und elastische Chips erforderlich, die speziell auf Reinforcement Learning zugeschnitten sind — eine schwierige und kostspielige Herausforderung für Startups angesichts der heutigen Knappheit an GPUs, ihrer Inelastizität und der hohen Rechenkosten. AWS hat diese Herausforderung für das KI-Agenten-Ökosystem mit seiner einzigartigen Chip-Technologie gelöst, die schnelle Trainingseinheiten ermöglicht, die sich je nach Bedarf pro Trainingszyklus auf Tausende von Knoten skalieren lassen. In Kombination mit Amazon SageMaker, das die Möglichkeit bietet, Open-Source-Modelle zu nutzen, ist die Schulung von KI-Agenten jetzt schnell, flexibel und erschwinglich.
„KI-Agenten entwickeln sich schnell zur nächsten Generation von Produktivitätstools, die die Art und Weise, wie wir arbeiten, zusammenarbeiten und lernen, verändern werden. NinjaTech AI hat schnelle, präzise und kostengünstige Agenten ermöglicht, die Kunden mithilfe der AI-Chips AWS Trainium und Inferentia2 schnell skalieren können „, sagte Gadi Hutt, Senior Director, Annapurna Labs bei AWS. „Wir freuen uns, dem NinjaTech AI-Team dabei zu helfen, autonome Agenten auf den Markt zu bringen und gleichzeitig das Engagement von AWS voranzutreiben, Open-Source-ML und beliebte Frameworks wie PyTorch und Jax zu unterstützen.“
NinjaTech AI hat seine Modelle mit AWS Trainium (Amazon EC2 Trn1-Instances) trainiert und stellt sie mithilfe von AWS Inferentia2 (Amazon EC2 Inf2-Instances) bereit. Trainium unterstützt Hochleistungs-Rechencluster auf AWS, um LLMs schneller und kostengünstiger zu trainieren und dabei weniger Energie zu verbrauchen. Der Inferentia2-Chip ermöglicht es Modellen, Inferenzen schneller und zu wesentlich niedrigeren Kosten zu generieren, und das bei einem um bis zu 40% besseren Preis-Leistungsverhältnis.
„Unsere Zusammenarbeit mit AWS war entscheidend, um unsere Fähigkeit zu beschleunigen, einen wirklich neuartigen generativen KI-basierten Planer und eine Aktions-Engine zu entwickeln, die für die Entwicklung hochmoderner KI-Agenten unerlässlich sind. Da wir die elastischsten und leistungsstärksten Chips mit unglaublicher Genauigkeit und Geschwindigkeit benötigten, war unsere Entscheidung, Ninja auf Trainium- und Inferentia2-Chips zu trainieren und einzusetzen, absolut sinnvoll „, fügte Pahlavan hinzu. „Jedes Unternehmen im Bereich der generativen KI sollte über AWS nachdenken, wenn es Zugriff auf On-Demand-KI-Chips mit unglaublicher Flexibilität und Geschwindigkeit haben möchte.“
Benutzer können auf Ninja zugreifen, indem sie myninja.ai. Ab heute bietet Ninja vier Konversations-KI-Agenten, die in der Lage sind, mehrstufige Webrecherchen in Echtzeit durchzuführen, Besprechungen mit internen und externen Parteien per E-Mail zu planen, bei Programmieraufgaben zu helfen sowie E-Mails zu verfassen und Ratschläge zu geben. Darüber hinaus bietet Ninja einfachen Zugriff auf direkte Ergebnisvergleiche von erstklassigen Modellen von Unternehmen wie OpenAI, Anthropic und Google. Schließlich bietet Ninja eine hochmoderne asynchrone Infrastruktur, mit der Benutzer eine nahezu unendliche Anzahl von Aufgaben gleichzeitig erledigen können. Ninja wird besser, wenn Kunden es nutzen, was sie in ihrem täglichen Leben produktiver macht.
Über NinjaTech AI NinjaTech KI ist ein im Silicon Valley ansässiges Unternehmen, das maßgeschneiderte KI-Agenten der nächsten Generation entwickelt, um komplexe Aufgaben autonom zu übernehmen. NinjaTech AI hat kürzlich ein Produkt für persönliche KI namens Ninja auf den Markt gebracht, das über vier KI-Agenten verfügt, die in der Lage sind, Besprechungen zu planen, Recherchen durchzuführen, Ratschläge zu geben und Entwicklern zu helfen, indem sie Vorschläge machen und ihren Code debuggen. Das Gründerteam, das Ende 2022 aus SRI hervorgegangen ist, verfügt zusammen über mehr als 30 Jahre KI-Erfahrung mit Führungskräften von Unternehmen wie Google, AWS und Meta.
Ansprechpartner für die Presse:
Havas-Formel für NinjaTech AI
(858) 229-8538
