Von Einstiegs- bis zu High-Performance-Lösungen ist das Portfolio für NVIDIA AI Enterprise optimiert, einschließlich NVIDIA NIM und NVIDIA Metropolis, um ein breites Spektrum an KI-Anforderungen abzudecken.
AMARO, Italien , 4. September 2024 - Eurotech, ein führendes Unternehmen im Bereich Edge Artificial Intelligence of Things (AIoT), ist stolz darauf, seine neue Produktlinie von generativen KI-Servern vorzustellen, die als umfassende Plattformen fungieren und in der Lage sind, eine Vielzahl von generativen KI-Modellen zu unterstützen, beginnend mit großen Sprachmodellen (LLMs).
Das Portfolio ermöglicht es Organisationen, die neuesten Fortschritte in der generativen KI vollständig zu nutzen, die Produktivität zu steigern und gleichzeitig sichere, interne Wissensdatenbanken aufzubauen. Durch die Speicherung sensibler Daten innerhalb der Unternehmensinfrastruktur bieten die Server Sicherheit und erhebliche Kosteneinsparungen im Vergleich zu cloudbasierten Alternativen. Darüber hinaus bieten sie die Flexibilität, Modelle an spezifische Branchenanforderungen anzupassen, so dass Unternehmen die KI-Modelle an ihre Bedürfnisse anpassen und die betriebliche Effizienz optimieren können.
Das Angebot von Eurotech reicht von Einstiegs- bis hin zu High-Performance-Modellen und deckt verschiedene KI-Anforderungen ab – von der Bereitstellung vortrainierter Modelle bis hin zu intensivem LLM-Training und -Finetuning. Die Server sind mit dem vollständigen Stack der NVIDIA-Beschleunigungstechnologie ausgestattet, um leistungsstarke Rechenleistung bereitzustellen und Unternehmen dabei zu unterstützen, selbst die anspruchsvollsten KI-Workloads in verschiedenen Anwendungsbereichen zu bewältigen.
Vollständig kompatibel mit NVIDIA AI Enterprise, lassen sich die generativen KI-Server von Eurotech nahtlos in NVIDIA NIM und NVIDIA Metropolis Microservices intergieren. Diese Integrationen ermöglichen eine optimierte Inferenz für eine breite Palette gängiger KI-Modelle von NVIDIA und dessen Partner-Ökosystem, wodurch die Entwicklung intelligenter Chatbots, fortschrittlicher Co-Piloten oder visueller KI-Agenten erleichtert wird.
Marco Carrer, CTO von Eurotech, erklärt: „Wir freuen uns, unsere neue Serverlinie vorzustellen, die speziell entwickelt wurde, um die Leistungsfähigkeit generativer KI-Anwendungen zu nutzen. Da sich die generative KI zu einer neuen Generation intelligenter Edge-Anwendungen entwickelt, bieten die generativen KI-Server von Eurotech erweiterte Skalierbarkeit, verbesserte Datensicherheit und Datenschutz sowie die Möglichkeit, Modelle an spezifische Branchenanforderungen anzupassen und im Feld bereitzustellen. Wir sind gespannt auf die innovativen Lösungen, die unsere Kunden mit diesen hochmodernen Technologien entwickeln werden."
Um die praktische Anwendung dieser Plattformen zu demonstrieren, hat Eurotech einen Open-Source-LLM-Agenten zur Verfügung gestellt, der als Co-Pilot fungiert und die Nutzung interner Wissensdatenbanken durch den Einsatz von Retrieval-Augmented Generation (RAG) verbessert. Das Tool nutzt NVIDIA AI Enterprise, das NVIDIA NIM für generative KI enthält, sowie Open-Source-Frameworks wie Llama Index, um Produktdatenblätter, Handbücher und interne Dokumente in einen intelligenten Tutor für Mitarbeiterschulungen und Kundenanfragen umzuwandeln.
Unternehmen, die daran interessiert sind, den Co-Piloten in Aktion zu sehen oder dieses Experiment in ihren eigenen KI-Initiativen zu replizieren, können den Quellcode auf der Gen AI-Seite von Eurotech einsehen.
Über Eurotech
Eurotech (ETH.IM) ist ein multinationales Unternehmen, das Edge-Computer und Lösungen für das Internet der Dinge (IoT) entwirft, entwickelt und an Systemintegratoren und Unternehmen liefert - komplett mit Dienstleistungen, Software und Hardware. Mit den Lösungen von Eurotech haben Kunden Zugang zu IoT-Bausteinen und Software-Plattformen, zu Edge Gateways für die Überwachung von Anlagen und zu High-Performance Edge Computer (HPEC) für Anwendungen der künstlichen Intelligenz (KI). Um immer umfassendere Lösungen anzubieten, ist Eurotech Partnerschaften mit führenden Unternehmen in ihrem Tätigkeitsbereich eingegangen, um "Best-in-Class"-Lösungen für das industrielle Internet der Dinge zu entwickeln.
