Das Forschungsprojekt OpenGPT-X hat ein bedeutendes KI-Sprachmodell namens Teuken-7B entwickelt und veröffentlicht. Dieses Modell wurde von Grund auf in allen 24 Amtssprachen der Europäischen Union trainiert und umfasst sieben Milliarden Parameter. Es stellt eine wichtige Open-Source-Alternative zu kommerziellen Modellen dar und ermöglicht transparentere sowie anpassbare KI-Lösungen für Wissenschaft und Wirtschaft in Europa. Die Entwicklung erfolgte unter der Leitung der Fraunhofer-Institute für Intelligente Analyse- und Informationssysteme IAIS und für Integrierte Schaltungen IIS. Besonders hervorzuheben ist die Beteiligung von Prof. Dr. Stefan Wrobel, Institutsleiter des Fraunhofer IAIS und Professor am Institut für Informatik der Universität Bonn.

Teuken-7B zeichnet sich durch sein multilinguales Training aus, wobei etwa 50 Prozent der Trainingsdaten nicht-englische Texte aus 23 europäischen Ländern umfassen. Dies gewährleistet eine stabile und zuverlässige Leistung in verschiedenen Sprachen, was insbesondere für internationale Unternehmen mit mehrsprachigen Kommunikationsbedürfnissen von Vorteil ist. Ein speziell entwickelter multilingualer Tokenizer reduziert zudem die Trainingskosten im Vergleich zu anderen Modellen, was Effizienzsteigerungen bei europäischen Sprachen mit langen Wörtern ermöglicht.

Als Open-Source-Modell bietet Teuken-7B eine europäische Perspektive und unterstützt die Entwicklung individueller KI-Lösungen ohne Black-Box-Komponenten. Dies ist besonders für sicherheitskritische Anwendungen in Bereichen wie Automobilindustrie, Robotik, Medizin und Finanzwesen relevant. Zudem ermöglicht das Modell die sichere Nutzung sensibler Daten unter Einhaltung europäischer Datenschutz- und Sicherheitsbestimmungen, was die digitale Souveränität und Wettbewerbsfähigkeit Europas stärkt.

Das Projekt OpenGPT-X wurde vom Bundesministerium für Wirtschaft und Klimaschutz mit rund 14 Millionen Euro gefördert. Zu den zehn Projektpartnern zählen unter anderem Fraunhofer IAIS, Fraunhofer IIS, das Forschungszentrum Jülich und die TU Dresden. Teuken-7B ist über die Gaia-X-Infrastruktur zugänglich und steht kostenfrei auf Hugging Face zum Download bereit.

Quelle: Institut für Informatik der Universität Bonn