Die Leistungsfähigkeit von KI-Grundlagenmodellen freisetzen: Einblicke von der LEAM.AI Konferenz

Ich hatte das Glück, Teil des Teams zu sein, das das LEAM-AI-Projekt erforscht hat. Am 24. Januar 2023 wurde die offizielle Studie dem Bundesministerium für Wirtschaft und Klimaschutz vorgestellt. Auf der Konferenz erläuterten Experten die Studie und ihre wichtigsten Erkenntnisse zur KI-Technologie. Die Veranstaltung war gut besucht und schön inszeniert. Doch was waren die wichtigsten Ergebnisse?

Um dieses Ziel zu erreichen, wurden sechs Hauptschritte vorgeschlagen:

Die Initiatoren hoffen, dass die Modelle quelloffen sind und allen Marktteilnehmern frei zur Verfügung stehen, und dass alle europäischen Sprachen von ihnen vollständig unterstützt werden.

ChatGPT ist ein führendes Beispiel dafür, wie KI-basierte Gründungsmodelle bahnbrechende Anwendungen hervorbringen können. In den kommenden Jahren wird diese fortschrittliche Technologie genutzt werden, um neue Werkzeuge, Plattformen und Wirtschaftsmodelle für praktisch jeden Aspekt des Lebens zu schaffen.

KI-Grundmodelle sind die neueste Methode zur Entwicklung von KI-Systemen, die an verschiedene Aufgaben angepasst werden können. Diese Modelle erfordern kein langwieriges Training auf zahlreichen beschrifteten Datensätzen, sondern werden auf großen Mengen unbeschrifteter Daten trainiert und können für verschiedene Zwecke feinabgestimmt werden. Eines der am häufigsten verwendeten KI/ML-Modelle, Deep Neural Networks oder DNN, ist ein Beispiel für ein Basismodell. Dieses Modell basiert auf künstlichen Neuronen, die den neuronalen Netzen in unserem Gehirn nachempfunden sind. Mit diesem Modell kann eine relativ kurze Eingabeaufforderung einen vollständigen Aufsatz oder ein kompliziertes Bild erzeugen, selbst wenn es nicht für diese spezielle Aufgabe oder Bilderstellung trainiert wurde.
 
Bei der Verarbeitung natürlicher Sprache hat die Einführung von Basismodellen die Menge an markierten Daten, die zum Trainieren eines KI-Modells für die Zusammenfassung benötigt werden, drastisch reduziert. Bestimmte Modelle sind so vielseitig, dass sie für viele Aufgaben verwendet werden können, was bedeutet, dass nur tausend markierte Beispiele erforderlich sind, um ein KI-Modell für die Zusammenfassung zu erstellen. Darüber hinaus haben diese Modelle ihre Fähigkeit bewiesen, kreative Ergebnisse zu erzeugen, z. B. kohärente Argumente und originelle Kunstwerke. Mit anderen Worten, Basismodelle können in einer Vielzahl von Situationen eingesetzt werden, wodurch sich die Anwendungsmöglichkeiten für KI in kritischen Situationen mit minimalem Aufwand und minimalen Ressourcen erweitern.

Insgesamt revolutionieren KI-Grundlagenmodelle die Art und Weise, wie wir KI nutzen, da sie die Entwicklung und den Einsatz von KI-Modellen einfacher und effizienter machen. Sie werden bereits in vielen Bereichen eingesetzt, z. B. bei der Verarbeitung natürlicher Sprache, und ihr Potenzial ist grenzenlos.

ChatGPT ist ein hervorragendes Beispiel für Anwendungsfälle eines solchen großen KI-Foundation-Modells.

Die Entwicklung von AI-Foundation-Modellen konzentriert sich hauptsächlich auf die Vereinigten Staaten. Amerikanische Modelle haben sich zu einer dominierenden Kraft auf dem Markt entwickelt. Seit 2017 wurden 73 % der KI-Grundlagenmodelle in den USA und 15 % in China entwickelt. In den USA wurde die Entwicklung solcher Modelle in großem Umfang von großen Technologieunternehmen mit Investitionen in Milliardenhöhe finanziert.

Es besteht die potenzielle Gefahr, dass Deutschland den Paradigmenwechsel der KI-Gründungsmodelle verpasst und zunehmend von amerikanischen Modellen abhängig wird. Die digitale Souveränität im Bereich der künstlichen Intelligenz und der nachgelagerten Anwendungen ist gefährdet und stellt eine Gefahr für die Wettbewerbsfähigkeit der gesamten deutschen Wirtschaft dar.
 

Die Nachfrage nach Sprachmodellen ist besonders hoch. Von den bei der KL Foundation verfügbaren Modellen haben Sprachmodelle derzeit die größte Relevanz in Bezug auf Nutzung und Entwicklung. 71% der KL-Unternehmen konzentrieren sich auf diesen Bereich. Dahinter folgen multimodale Modelle (38%) und Modelle, die auf Geschäfts- und Produktionsprozessen basieren (34%).

Industrie und Unternehmen haben eine starke Nachfrage nach Dienstleistungen, und die Entscheidungsträger waren sich weitgehend einig, dass Europa und Deutschland eine Antwort darauf finden müssen, um nicht von den USA und China abgehängt zu werden. Ein Schlüsselfaktor, um dies zu erreichen, ist die Bereitstellung von Rechenleistung, Datenpools und Unterstützung für Schulung und Beratung, um Anwendungen mit Open-Source-Modellen an spezifische Bedürfnisse und Anwendungsfälle anzupassen.

Um die notwendigen Grundlagenmodelle für KI zu entwickeln, braucht Deutschland eine leistungsfähige Supercomputing-Infrastruktur, die derzeit nicht vorhanden ist. Es ist kosteneffizient, einen solchen Computer in Deutschland zu bauen, dessen Kosten auf 350 bis 400 Millionen Euro geschätzt werden.

Auf dem Treffen der Diskussionsteilnehmer wurde der Vorschlag, ein solches fortschrittliches KI-Supercomputersystem in Deutschland zu bauen, von allen Anwesenden positiv aufgenommen. Obwohl es noch Fragen zu beantworten gab, war die Begeisterung für das Vorhaben groß.
 

Die Diskussion über das LEAM.AI-Projekt, das innerhalb von zwei Jahren abgeschlossen wurde, wurde von Mitgliedern der Bundesregierung sehr gelobt. Die Diskussion über den Einsatz von ChatGPT in Unternehmen sorgte für Aufregung, allerdings wurde angemerkt, dass Unternehmen ihre Prozesse und Verfahren vor dem Einsatz aktualisieren müssen. Außerdem wurde betont, dass Wörter von Unternehmen zu Unternehmen unterschiedliche Bedeutungen annehmen können, was bedeutet, dass KI-Sprachmodelle für jedes einzelne Unternehmen angepasst werden müssen, um Ungenauigkeiten zu vermeiden.

Die Menschen in den deutschen Vorstandsetagen hatten noch nicht ganz begriffen, welche Auswirkungen die Entwicklung dieser KI auf eine datengesteuerte Wirtschaft in der Zukunft haben könnte, und welche Abhängigkeiten sich daraus ergeben könnten, insbesondere zwischen den USA und Deutschland und dem Rest Europas. Es lag in unserer Verantwortung, sie in naher Zukunft darauf aufmerksam zu machen, und dem stimme ich voll und ganz zu.

Dennoch waren sich alle einig, dass der Fortschritt unvermeidlich ist. Riesige KI-Modelle würden einen gewaltigen Wandel in der Wirtschaft, der Regierung und der Kultur herbeiführen. Es wäre nicht gut für Deutschland, wenn die deutsche (oder sogar europäische) Wirtschaft von ausländischen Anbietern (wie denen der USA oder Chinas) abhängig wäre. Daher war es dringend notwendig, die Medienberichterstattung über ChatGPT als Anstoß zu nutzen, um das Projekt voranzutreiben.