Benötigte Lesezeit: 2 Minuten
Generative Künstliche Intelligenz, auch als generative KI bezeichnet, ist in der Lage, Inhalte wie Gespräche, Geschichten, Bilder, Musik, Code und vieles mehr zu erstellen. Die Grundlage für diese Technologie bilden vorab trainierte Modelle, die als Basismodelle oder Foundational Models (FMs) bekannt sind. In diesem Blogbeitrag werden wir uns näher mit generativer KI und Basismodellen befassen und deren Anwendungen sowie Herausforderungen kennenlernen.
Was ist generative KI?
Generative künstliche Intelligenz ist eine Kategorie von KI-Modellen und -Techniken, die Inhalte wie Texte, Bilder, Musik oder Videos auf der Grundlage einer bestimmten Eingabe oder Trainingsdaten erstellen kann (Prompt).
Die Idee dahinter ist nicht so neu wie sie scheint und wird z.B. schon mit der Arbeit von Joseph Weizenbaum assoziiert, der bereits in den 1960ern den ersten Chatbot namens ELIZA entwickelte. Ein weiterer Wissenschaftler der mit dem Begriff Generative KI in Verbindung gebracht wird ist Ian Goodfellow, der 2014 das Konzept von Generativen kontradiktorischen Netzwerken (GAN) entwickelte. GANs spielen vorallem bei der Generierung von Bildern ein Rolle, können aber auch Texte erstellen.
Was sind Large Language Models (LLMs)?
Large Language Models (LLMs) – oder zu Deutsch große Sprachmodelle – sind über einen längeren Entwicklungszeitraum hinweg aus GANs hervorgegangen. Sie basieren oft auf einer Netzwerkarchitektur namens “Transformer” und werden mit riesigen Textdatenmengen trainiert. Dadurch können sie eine Vielzahl von sprachbezogenen Aufgaben wie Textvervollständigung, Übersetzung, Zusammenfassung und mehr bewältigen. Ein bekanntes Beispiel für ein LLM ist GPT-3.5, die Grundlage für ChatGPT. Diese Modelle sind in der Lage, auf der Grundlage der empfangenen Eingaben zusammenhängende und kontextrelevante Antworten zu generieren.
Was sind Basismodelle (FMs)?
LLMs sind selbst Basismodelle (Englisch „Foundation Models“ oder kurz „FM“), die durch ihre Fähigkeit zur Textgenerierung eine ideale Grundlage für weiterführende Anpassungen bieten. Durch Prozesse wie Feinabstimmung können diese Modelle für spezifische Anwendungen spezialisiert werden, wie Stimmungsanalyse, Objekterkennung und mehr.
Anwendungsbeispiele für generative KI:
- Erstellung neuer Originalinhalte wie Kurzgeschichten, Lieder oder kreative Kunst basierend auf spezifischen Aufforderungen.
- Schreibassistenz und automatische Erstellung von Code.
- Zusammenfassung von Textinhalten wie Artikeln oder Dokumenten.
- Erstellung von Konversationsschnittstellen wie Chatbots oder virtuellen Assistenten für ein verbessertes Nutzererlebnis.
Da die Entwicklung großer Sprachmodelle Fachwissen und leistungsstarke Hardware erfordert, kann dies sehr teuer sein und einen deutlichen CO2-Abdruck hinterlassen. Es ist daher empfehlenswert, bestehende Basis-Modelle als Grundlage zu nutzen und anschließend für individuelle Anwendungsfälle zu optimieren. ChatGPT oder GPT 3.5 sind großartige Beispiele für leicht zugängliche generative KI, die für jeden Nutzer ein anderen Mehrwert erzeugt.
Quellen:
Die Erstellung dieses Artikels wurde unterstützt von ChatGPT.
linkedin.com/pulse/brief-history-large-language-models-bob/ ibm.com/blog/what-is-generative-ai-what-are-foundation-models-and-why-do-they-matter/ en.wikipedia.org/wiki/Generative_adversarial_network www.techtarget.com/searchenterpriseai/tip/GAN-vs-transformer-models-Comparing-architectures-and-uses
