„Intelligente“ Software-Systeme, die Antworten auf nahezu alle Fragen parat haben, Texte zusammenfassen können, gleichzeitig als Dolmetscher und Programmierer agieren und ohne IT-Kenntnisse bedient werden können? Bis zum Release von ChatGPT im November 2022 war das nur schwer vorstellbar.
Programme wie ChatGPT werden unter dem Begriff „Generative Künstliche Intelligenz“ (engl. “Generative Artificial Intelligence” oder kurz “GenAI”) zusammengefasst und können eigenständig neue Inhalte in Form von Texten, Bildern oder Videos erzeugen. Gemäß einer Studie von McKinsey1 hat die neue Technologie das Potential bis zu 4.4 Billionen Dollar zum weltweiten jährlichen Bruttoinlandsprodukt beizutragen.
Doch wie lässt sich Generative AI für das eigene Unternehmen nutzen? Wie gelange ich von der ersten Idee zum funktionsfähigen MVP und worauf ist in der Umsetzung besonders zu achten? Diese Fragen beantworten wir im ersten Teil dieser Serie. Zur Veranschaulichung ziehen wir als Beispiel qbs.ai heran, einen GenAI-basierten Trendradar für die Beratungsbranche, den wir bei iteratec zusammen mit kobaltblau erstellt haben.
1. Use Cases identifizieren
Der erste Schritt ist oft die größte Herausforderung, denn Technologie und Anwendungsfälle von GenAI sind neuartig und unfassbar vielfältig:
- Wiederkehrende manuelle Tätigkeiten können durch GenAI unterstützt und um ein Vielfaches effizienter gehalten werden.
- In kreativen Prozessen, wie bei der Generierung personalisierter Inhalte für Marketingkampagnen, kann GenAI unterstützen.
- Beim Strukturieren und Transformieren von (unstrukturierten) Texten ist die Technologie extrem stark. Tabellarische Daten oder Quellcode für die Softwareentwicklung können in kürzester Zeit mit natürlicher Sprache generiert werden.
Daraus ergeben sich eine Vielzahl möglicher neuer digitaler Produkte, z.B.:
- Next-Generation-Assistents: Der klassische Chatbot kann durch einen intelligenten Assistenten ersetzt werden, der auf Domänenwissen zugreifen und bestmöglich auf die individuellen Bedürfnisse des Kunden eingehen kann.
- Semantische Suche: Über eine semantische Suche kann die interne Organisation von Inhalten optimiert werden, indem die Dokumentbasis in natürlicher Sprache abgefragt wird. Dabei werden passende Dokumente schnell, und bei Bedarf mit einer zielgerichteten Zusammenfassung der wichtigsten Antworten, zurückgegeben.
- Domänenspezifische Produkte: Domänenwissen wird in natürlicher Sprache abgefragt. Dabei werden LLMs instruiert, Antworten in strukturierter Form auszugeben. Mit einer Web-Anwendung können die gewünschten Informationen nutzerfreundlich dargestellt werden, wie es z.B. bei qbs.ai der Fall ist.
Viele weitere Anwendungsmöglichkeiten finden Sie in der oben referenzierten Studie von McKinsey. Was Sie bei Ihren ersten Entscheidungen zum Einsatz von GenAI in Ihrem Unternehmen beachten müssen, erfahren Sie hier:
qbs.ai – Use Case finden
Wie das Potenzial von GenAI für die Strategieberatung genutzt werden kann, zeigen wir am Beispiel von qbs.ai.
Herausforderungen: In der frühen Beratungsphase müssen oft kundenspezifische, technologische Entwicklungen und Innovationen erfasst werden. Das erfordert zeitintensive Studien und Analysen in allen relevanten Bereichen, von Prozessoptimierungen bis hin zu Nachhaltigkeitsstrategien. Ein intensiver Prozess, der den Rahmen für die eigentliche Projektarbeit absteckt.
Idee: Mit GenAI ist die zugrundeliegende Wissensbasis automatisch abrufbar – zumindest in der Theorie. Jedoch müssen diese Informationen in eine strukturierte Form gebracht werden, um dem Kunden per Klick einen automatisierten Zugriff darauf zu ermöglichen.
Lösung: In einem eintägigen Hackathon haben wir gemeinsam einen Proof-of-Concept entwickelt. So ließ sich schnell und zielgerichtet evaluieren, wie GenAI in echte Softwarelösungen integriert werden kann. Heraus kam eine prototypische Web-App, die Informationen per OpenAI-Schnittstelle verfügbar macht. In den Wochen danach haben wir im agilen Modus einen MVP entwickelt.
2. Von der Idee zum digitalen Produkt
Sind Idee und Anwendungsfall definiert, geht es in die konkrete Umsetzung. Folgende Fragen haben wir uns dabei gestellt:
|
Welches Modell? Soll GenAI integriert werden, stellt sich zunächst die Frage, welches Sprach-Modell und welcher Anbieter verwendet werden sollen. Neben den GPT-basierten Modellen von OpenAI gibt es eine Vielzahl anderer Optionen, die sich in Kosten, aber auch regulatorischen und datenschutztechnischen Aspekten teils stark unterscheiden. Die Auswahl muss daher mit Bedacht und entsprechendem Know-How erfolgen. |
Welche Wissensbasis? Sobald sich für ein oder mehrere Modelle entschieden wurde, sind weitere Fragen zu klären, zum Beispiel über welche Wissensbasis die Anwendung verfügen muss. Reicht öffentlich verfügbares Wissen à la ChatGPT oder werden Infos über interne Dokumente benötigt? Falls letzteres der Fall ist, muss auf Methoden wie Finetuning oder Vektordatenbanken zurückgegriffen werden. |
|
Welche Befehle? Darüber hinaus braucht es Expertise zur Übersetzung fachlicher Anforderungen in passende Prompts, die ggf., wie z.B. bei einem Next-Generation-Assistent, um ein “Gedächtnis” ergänzt werden müssen. |
Und wer setzt das Ganze jetzt um? Sobald diese Aspekte festgelegt sind, bedarf es neben dem KI-Knowhow auch an Expertise im Bereich Software-Engineering und Softwarearchitektur. Schließlich wollen wir ein Produkt, das einfach und intuitiv bedienbar ist und dem User bestmöglich Mehrwert liefert. |
qbs.ai - UmsetzungDas Ergebnis des MVPs war eine Webapp, die unter qbs.ai verfügbar ist und als Trendradar fungiert. Auf Basis passender Prompt Templates haben wir für 23 verschiedene Industriezweige die Top 10 Trends inklusive detaillierter Beschreibung und möglicher Usecases hinsichtlich Dimensionen wie Nachhaltigkeit, Impact der Trends und Dauer der Adaption automatisiert über eine Schnittstelle zu OpenAI abgerufen. Technisch funktioniert ein solches Prompt Template wie folgt: Eine Basisanfrage enthält Freitext und Platzhalter. Während der Freitext den fachlichen Fragekontext, die eigentliche Frage an das Sprachmodell, sowie Instruktionen zur Formatierung der Antwort enthält, werden Platzhalter dynamisch durch die jeweiligen Industrie- und Dimensionsfilter ersetzt. Für alle Kombinationen wird eine Anfrage an OpenAI geschickt und die Antwort gespeichert. Mit dieser Datenbasis haben wir dem Nutzer mit qbs.ai einen UX-optimierten Trendradar zur Verfügung gestellt. Mehr zu qbs.ai können Sie auch in diesem Artikel der FAZ nachlesen. |
|
3. Ausblick und Potenziale von GenAI
Obwohl bereits viel Interesse am Thema GenAI besteht, stehen wir noch am Anfang der Entwicklung. Herausforderungen bestehen entlang des gesamten Planungs- und Umsetzungsprozesses: Von der Definition einer AI-Strategie über Datenschutz und Kontrollierbarkeit der Antworten, der technischen Entwicklung vollumfänglicher Softwarelösungen bis hin zu deren Einsatz im unternehmerischen Kontext. Gerade auf dem Weg von der Anforderungsanalyse bis hin zur prototypischen Entwicklung und Integration sind die richtigen Kompetenzen entscheidend für den langfristigen Unternehmens-Mehrwert.
qbs.ai – next steps
Die aktuelle Darstellung des Trendradars auf qbs.ai ist lediglich ein kleiner Vorausblick auf das, was durch die Erstellung digitaler Produkte mittels AI möglich ist. Die Möglichkeiten scheinen im doppelten Sinne “unfassbar”, einerseits hinsichtlich des disruptiven Potenzials, andererseits bezüglich der nicht zu fassenden Vielzahl an Anwendungsfällen.
In den nächsten Schritten gilt es deshalb die technischen und wirtschaftlichen Potenziale und gegebenenfalls auch Grenzen von Generative AI bei der Entwicklung digitaler Produkte mit qbs.ai auszuloten.
Aktuell reicht bspw. die Wissensbasis, die den Modellen von OpenAI zur Verfügung steht, nur bis September 2021. Hierzu lassen sich zukünftig agentenbasierte Ansätze einbinden: Dabei wird das Sprachmodel mit Werkzeugen ausgestattet, die aktuelle Informationen mittels automatisierter Internetsuche zugänglich machen. Ein weiterer Vorteil des Ansatzes ist die Validierung von Informationen. So kann das Sprachmodell mit Zugriff auf das Internet instruiert werden, die Quellen in der Antwort zu nennen. So ließen sich die Inhalte in der Web-Oberfläche selbstständig überprüfen.
Neben der Betrachtung von Trends werden zunehmend u.a. branchen- oder unternehmensspezifische Fragestellungen in die Analyse aufgenommen. Hierzu muss die Einbettung von qbs.ai in Beratungs- und Managementprozesse definiert werden, um die optimale Schnittstelle zwischen dem digitalen Produkt und dem menschlichen Anwender zu finden. Dies ist wichtig, um Generative AI als effektives Werkzeug im betrieblichen Ablauf zu positionieren.
Im zweiten Teil der Serie gehen wir einen Schritt weiter und blicken aus strategischer Perspektive auf den Einsatz von GenAI: Wir beleuchten Modelle, Herausforderungen und Entscheidungshilfen.
Sie suchen den Austausch oder benötigen Unterstützung beim Einsatz von GenAI? Unsere Experten melden sich bei Ihnen!
Quelle:
1 https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-ai-the-next-productivity-frontier