EAM#28: AI Architecture (2/2) - Von der Enterprise zur Solution Architecture
Shownotes
In dieser Folge schließen wir unsere zweiteilige Serie zur AI Architecture ab.
Nachdem wir in EAM#27 die Rolle der Enterprise Architecture betrachtet haben, wechseln wir heute bewusst in die Solution Architecture.
Im Mittelpunkt stehen nicht einzelne AI-Technologien, sondern die Architekturentscheidungen, die darüber bestimmen, ob eine AI-Lösung langfristig erfolgreich betrieben werden kann. Du erfährst, welche Bausteine eine moderne AI-Lösung besitzt, welche Aufgaben ein Solution Architect übernimmt und warum eine gute Architektur wichtiger ist als die Wahl eines bestimmten AI-Modells. Außerdem vergleichen wir die drei führenden AI-Plattformen – ChatGPT (OpenAI), Claude (Anthropic) und Gemini (Google) – aus Sicht eines Enterprise- und Solution Architects.
Inhalte dieser Folge
- Von der Enterprise Architecture zur Solution Architecture
- Die wichtigsten Bausteine einer AI-Lösung
- Architekturentscheidungen statt Technologieentscheidungen
- Vergleich von ChatGPT, Claude und Gemini
- Warum gute Architektur AI-Modelle austauschbar macht
- AI-Lösungen als langfristige Produkte statt einmaliger Projekte
Verweise auf frühere Folgen
- EAM#19: Capability-basierte Budgetierung
- EAM#20: Capability Maturity
- EAM#21: Data Entities
- EAM#22: Data TCO
- EAM#23: Data Products vs. Schnittstellen
- EAM#24: Data Governance
- EAM#25: AI TCO – Der wahre Business Value von AI
- EAM#26: AI Demand – Wie EAM AI-Investitionen bewertet
- EAM#27: AI Architecture (1/2) – Ohne EAM keine langfristige AI
Der deutschsprachige EAM Podcast, überall wo es Podcast gibt. Freue mich auf Dein Feedback, gerne jederzeit direkt auf https://eam.podigee.io/ oder direkt www.linkedin.com/in/david-hohl
David Hohl
Möge die Enterprise Architecture mit dir sein.
Transkript anzeigen
00:00:04: Architektur entscheidet über Komplexität, über Kosten und Übersteuerbarkeit.
00:00:09: Ich bin David Hohl und heiße Dich herzlich willkommen.
00:00:12: bei Enterprise-Architektura wirkt der Podcast zu ERM.
00:00:20: Servus grüßt Dich und herzlich Willkommen zu einer neuen Folge!
00:00:25: In der letzten Folge haben wir ja darüber gesprochen warum Enterprise-Achitektor die Grundlage für jede erfolgreiche EA Initiative bilden sollte.
00:00:35: Und wie haben gesehen oder gehört?
00:00:37: dass EI halt keine eigene Architekturwelt benötigt.
00:00:41: Das bringt nix, glaube ich.
00:00:44: Stattdessen sollten wir eher als Teil der Bestienen-EA oder Enterprise-Aktur und wir sollten dahinter halt unsere Capabilities aufbauen.
00:00:57: Vor allem dann darunter die Daten und vor allem dann rundherum.
00:01:02: Die gab man jetzt richtig!
00:01:05: Heute gehen wir einen Schritt weiter oder beziehungsweise ergänzen den letzten schritt Den.
00:01:13: irgendwann reicht halt einfach die geschraben nicht mehr aus.
00:01:16: Irgendwann müssen uns einfach eine frage stellen wie entsteht daraus eigentlich nun eine konkrete EI lösung nachdem der EI Demand richtig priorisiert und dann dementsprechend ausgewählt wurde Und die Enterprise Sache du natürlich davor schon ein großteil der Garrennens gesetzt hat?
00:01:35: Ich möchte heute aber bewusst wieder nicht dazu harte technischen Deep Dive machen, ich glaube da steht mir auch gar nichts zu in meiner Position aktuell.
00:01:44: Kann ich auch nicht in der Tiefe komplett mitreden oder ich könnte mitrede, aber ich würde mich wahrscheinlich ein bisschen verplappern und das will ich mal stetig vermeiden.
00:01:54: Dann redest du wahrscheinlich dann sehr schlecht über meinen Podcast, da er danach mit falschen Informationen ausgestattet ist.
00:02:03: Was nehmen wir vielleicht auch mal passieren könnte?
00:02:06: Dass ich natürlich eine gewisse Sichtweise habe die nicht übereinstimmt... ...mit deiner Boah!
00:02:13: So ja und wie entsteht das Ganze
00:02:16: jetzt?!
00:02:17: Das kann die Enterprise-Architektur natürlich jetzt nicht beantworten.
00:02:20: Dafür müssen wir die Dominion ein bisschen wechseln und wir steigen in die Slushanarchitekturein für alle, die nicht in dieser Welt zu Hause sind.
00:02:31: Es ist glaube ich nicht ganz so tief Und du kannst auf jeden Fall mitfolgen.
00:02:36: Falls dir eine technische Begriff dann doch nicht bewusst ist.
00:02:40: Ich werde die natürlich noch vorab ein bisschen erklären beschreiben, so dass man ein bisschen den Kontext auch verfolgen kann.
00:02:50: Ich werde aber auch nicht erklären wie man so einen LLM trainiert und so oder wie mein EI Agent entwickelt.
00:02:58: ich glaube dafür gibt es schon hunderte besserwisser beziehungsweise andere Quellen die das mitteilen.
00:03:07: ich glaube ich könnte das auch gar nicht so gut erklären Aber welche Artikelentscheidungen getroffen werden müssen und vor allem, welche Baustellen wir dafür benötigen für unsere Lösung.
00:03:23: Und wie entsteht daraus eine vollständige Lösung?
00:03:26: Die wir hundertprozentig gibt es ja nicht aber die wir sicher skalierbar und auch über den nächsten Jahre noch wartbar halten können.
00:03:38: Darum geht's heute also legen wir halt mal wieder los!
00:03:46: Kapitel eins von der Enterprise-Architektur zur Solution Architekture.
00:03:53: Da könnte ich jetzt meine Zivil vorlesen, die aber genau in die andere Richtung funktioniert.
00:04:00: Von unten nach oben oder ein bisschen so von der Solutioning in die EAM Welt.
00:04:05: Das wäre vielleicht auch mal ein cooles Thema für einen SidePodcast darüber zu berichten wie schwierig es war da hinzukommen.
00:04:14: aus meiner Brille!
00:04:16: Nebenthema.
00:04:18: Verlass uns fokussieren auf das Kapitel!
00:04:22: Die Enterprise-Architektur beschreibt halt den Rahmen und die Suchtnachrichtung entwickelt natürlich unsere konkrete Lösung dahinter.
00:04:30: Erinnern wir uns kurz an unserer bisherige Reise bis zu dieser Folge, wir haben halt gerade in der Folge neunzehntundsiebzehn die Ausgangslage gesetzt, gerade um Business Capability ist und wie diese Veränderungen eigentlich sich über das Unternehmen halt abgebildet werden kann.
00:04:47: und mit einundzwanzig bis vierundzwzig haben wir vor allem um Daten oder beziehungsweise die Daten entitäten und den TCO, der jetzt vielleicht wenig mit unserem Thema hier zum tun hat aber vor allem dann die Data Governance beschäftigt.
00:05:04: Das sind alles Elemente die halt entscheidend sind für die Solutioning.
00:05:08: ohne die ohne das Wissen tun sich die Jungs und Mädels sehr schwer, die richtigen Informationen zu kristallisieren.
00:05:17: Und auch herauszufinden wie wichtig diese Daten nicht fürs Unternehmen sind.
00:05:21: Nur wenn da eine Transaktion dran steht und den Kunden heißen lange nicht dass es wichtig oder kritisch ist.
00:05:27: In der letzten Folge haben wir uns ein bisschen angeschaut wie wir das aus der EM-Welt einordnen.
00:05:34: Heute probieren wir mal die Umsetzung im Ja, die Frage lautet natürlich jetzt nicht mehr.
00:05:45: Braucht man wirklich EI?
00:05:46: Sondern ja natürlich!
00:05:48: Wir müssen aber eine funktionelle Lösung bauen.
00:05:50: und wie schaut die aus?
00:05:52: Und genau das ist halt die Aufgabe einer Slushen Architektur.
00:05:55: Die bauen halt bzw.
00:05:57: die Plane, die bei Bauerung und das Bauern selber oder das Entwickeln machen vielleicht andere Personen oder andere Rollen.
00:06:05: Nehmen wir mal wieder ein Beispiel aus meiner Customer Service Welt.
00:06:09: Die Enterprise-Architektur beantwortet Fragen rund um die Fähigkeiten und Daten, welche Anwendungen davon betroffen sind.
00:06:17: Die Solutioning, die technische Ausprägung und welche Komponenten darunter benötigt werden.
00:06:23: Natürlich hat die Solution Architekturu auch noch ein anderes Element mit drinnen grad.
00:06:28: wie integrieren wir das Ganze in unserer IT-Landschaft.
00:06:31: Die Enterprise Architektor gibt es natürlich eine gewisse Art vor.
00:06:34: dennoch ist die technischen Umsetzung wie diese Bebauung danach in der Tiefe stattfindet, Teil von diesen Rollen.
00:06:43: Und natürlich kommen wir dann nachher gleich mal zum nächsten Frage, die im Raum steht, woraus besteht eigentlich eine moderne EILösung?
00:06:57: Eine EILößung besteht aus mehreren Bausteinen oder Modulen oder Elementen, formulierst du es, finde ich richtig erachtest!
00:07:09: Die Aufgabe eines Looschen-Architekten darin besteht, die passenden jeweiligen Anwendungsfälle zusammenzustellen.
00:07:18: Bevor wir aber in diese Architektur Entscheidungen dahinter einsteigen sprechen oder beziehungsweise ordnen wir mal die Begriffe etwas ein.
00:07:26: Ich habe einmal probiert hier nz s sieben Zusammenzufassen, die man wissen sollte was das circa ist.
00:07:35: Also einmal das LLM Magic.
00:07:38: Das ist ausformuliert, heißt das ganze Large Language Model.
00:07:42: Das eigentliche IEI-Model und dass Sprache versteht oder ein bisschen verarbeitet kann... ...und am Schluss auch die Inhalte erzeugt.
00:07:51: Da pummst du Informationen rein und dann kommt irgendwas raus.
00:07:54: So kannst du es circa vorstellen.
00:07:57: Dann haben wir das Prompt.
00:08:01: Das sind einfach die Anweisungen der Aufgabe, die an das Modell gestellt wird.
00:08:05: Deswegen reden wir halt von Prompting.
00:08:07: Ich finde den Begriff einfach sehr irreführend, oft aber so ist das prompt aus dem Englischen.
00:08:16: Dann haben wir noch RAC oder Material Argumented Generation.
00:08:20: Das ist eine gewisse Technik bei dem diese EI-Modelle zusätzlich auf aktuelle oder vor allem Unternehmensinterninformationen zugreifen dürfen und damit Antworten nicht nur auf trainierte Zwischen also dass was von außerhalb angereichert worden ist sondern auch von innen in die EI gepumpt werden kann.
00:08:40: Das ist im Endeffekt das Einfallstor, wo Data Entities sich per Vers austreiben können und wo die Compliance oder wenn sie die Governance von Unternehmen, wenn es nicht gut aufgestellt wird, dann redet schnell in die Petroleum kommen werden.
00:08:58: Dann haben wir noch die I Agents – das sind im Endefekt so Art wie virtuelle Menschen oder virtuelle Maschinen oder Programme, das sind eigentlich EI Anwendungen die eigenständig einfach Aufgaben machen und ausführen.
00:09:16: Die auch Entscheidungen treffen können und mit anderen Systemen integriert werden können.
00:09:20: Das sind Grunde genommen wenn man es genau nimmt die Applikationen dazwischen die Daten annehmen oder irgendwie verarbeiten auf Basis von gewissen Task danach eine Entscheidung daraus treffen können die du aus dem Promptinger dementsprechend definiert hast und dann halt mit den anderen Systemen danach auch integriert können.
00:09:42: Diese EI Agents sind eigentlich der TCO Killer, wenn man das nicht unter Kontrolle hat also ich habe ja gerade die erste Folge unserer EI Kreise sehr viel über EI-TCO gesprochen und diese EI agents oder diese Anwendungen die darauf entwickelt werden.
00:10:02: Die sind die Killer, die können die Kosten in die Höhe treiben wenn sie nicht richtig im Griff genommen werden oder besonders in Rahmen gehalten werden.
00:10:11: und da kann man gleich von übernächsten Begriff der da oder übernächstes weitergehen kann ich noch mal referenzieren.
00:10:20: dann haben wir noch etwas was aus der normalen Soloschining hat jetzt mit natürlich nichts mit direct zu tun.
00:10:28: das sind epi so sind.
00:10:30: Was ist die Abkürzung dafür?
00:10:32: Was war die Abkurzung?
00:10:33: Application durch das erste P-Programming oder ProGramm und das IS Interface.
00:10:39: Das heißt, dass ganze oder auch Schnittstellen im Deutschen über die danach jede Applikation und vor allem EI Anwendungen oder Agents zugreifen und dann die Datenquellen anzapfen können.
00:11:00: Du hörst da gleich raus, man zapft hier was an und so ist es.
00:11:05: Ohne Daten nichts los.
00:11:07: das hörst du ja in jedem LinkedIn Posts.
00:11:10: aber vor allem ist natürlich wenn diese Schnittstellen drüge sind oder nicht diese Informationen bereit stellen können die notwendig sind für das Prompting wirst du immer denselben Schmarrn Informationen in deinen Applikationen haben bzw.
00:11:24: in den Resultaten aus diesen Äh Agents.
00:11:31: Dann haben wir noch Human in the Loop, ein Begriff der eigentlich woanders herkommt.
00:11:35: ich habe den aber trotzdem rein gepackt und das ist eigentlich nichts anderes wären... Ein Typ, der in einer Umgebung nochmal drüber schaut und überprüft.
00:11:43: Also ein menschlicher Faktor, also Human in Dialog auch aus dem Englischen oder besteht halt einfach... Der bestätigt nur diese kritische Entscheidungen.
00:11:55: Also eine EIA schon sollte nicht kritische Entscheidung selbst treffen können.
00:12:00: das gehört auch zu dieser Lehre des Designs.
00:12:03: dahinter muss halt kritisch Entscheidungen wie... Also nicht sagen wir mal jetzt Agent analysiert, wie gut Mitarbeiter sind.
00:12:13: Aber irgendwann einmal kommt man raus dass der Mitarbeiter nicht performt das eine kritische Entscheidung dahinter sein könnte.
00:12:19: so wenn er nicht diese Punkte zur Anzahl hat dann wird er gekickt und gekündigt.
00:12:25: Das ist natürlich eine kritisch Entscheidung die natürlich menschliche Überprüfung beinhalten muss Und dementsprechend ist es auch Teil des Design Patterns ob die man ... in der Governance definieren sollte.
00:12:39: Du hörst gerade raus, das sind ganz schön heftige Sachen und ich kann mir gut vorstellen dass das eine oder andere schon gerade in US-Unternehmen häufiger vorkommt als man gedacht hat.
00:12:51: Und ja wenn man da nicht aufpasst und den menschlichen Faktor irgendwann mal rauslässt dann übernimmt wirklich die EI die Kontrolle... ...und dann haben wir wirklich so Terminator.
00:13:01: vier Punkt Null.
00:13:06: Gut, letzter Begriff ist... Ich habe das schon so oft gesagt.
00:13:12: Das Begriffe eigentlich Monitoring und
00:13:14: Co.,
00:13:14: ich mag es nochmal kurz erklären für die, die vielleicht diese Begrifflichkeiten nicht jeden Tag auf einem Deckel haben.
00:13:21: Also wenn wir von Monitoring in diesem Kontext sprechen, dann reden wir eigentlich hauptsächlich über die Qualitäts- und Kosten-Performance-Monitorisierung.
00:13:30: Und gerade diese AI Agents, vor denen ich vorhin oder besonnen habe für diesen Rack gesprochen habe, die an Unternehmensintern Informationen zugreifen... Dann ist das Monitoring extremst wichtig!
00:13:41: Die im Endeffekt kontrollieren was wanderten da eigentlich wirklich alles rein?
00:13:45: Wie verhaltet sich eigentlich diese Lösung denn immer auf dem Betrieb?
00:13:49: Dieses Monitoring muss wirklich sehr klar definiert werden.
00:13:52: Und ich sage euch, das ist der Kostenreiberminder des Tages.
00:13:56: Das ist teuer!
00:13:58: Denn wir reden hier nicht von wenig Informationen.
00:14:01: Wir reden hier von massiven Terror-Oberbeiz, die da durchgeschoben werden und wenn die Grundlage falsch ist dann wirst du ja... Dann ist es wie so ein Aktiensturz in deinen Unternehmern was da an Topens verbraucht und verschleudert wird.
00:14:18: Aber wer macht natürlich auch Sinn?
00:14:20: an der Stelle diese starken Barrieren oder Gates einzuführen.
00:14:26: Also ich rede immer von so einem Gates, dass man sagt okay wenn du dieses Level erreicht hast dann darfst du nicht mehr weiter exerzieren.
00:14:34: oder wenn dieses Gate erreicht worden ist dann müssen halt alerts losgetrieben werden und Informationspolitik getrieben werden das die Kosten gerade explodieren Und natürlich dann nachher Plan B aktiviert werden.
00:14:46: Im Form von so EI Agent kostet mir mehr als jeder Mitarbeiter.
00:14:51: oder beziehungsweise diese Kosten, die sind nicht mehr tragbar und vielleicht habe ich auch nie einen Mitarbeiter dafür.
00:14:57: Dann muss im Endeffekt eine alternative oder vielleicht sogar die aktuelle Prozesse wieder aktivieren.
00:15:03: Deswegen Prozessen, die durch IE ersetzt werden bzw verbessert werden sollten nicht entfernt werden sondern archiviert.
00:15:11: Vielleicht hast du noch einen Eben-Tipp.
00:15:14: Ja, wir müssen ja für diese Folge zunächst gar nicht wissen... ...denn für eine Slush-Nachrichtigung ist das eigentlich entscheidend oder nicht entscheidende was diese Bausteine sind.
00:15:25: Entscheidend ist, wann sie eingesetzt werden und wie sie in Zusammenspiel dann funktionieren.
00:15:32: Man soll ein Beispiel jetzt mal bisschen rausziehen Ein EIE-Champ für ein Customer Service.
00:15:36: der benötigt ein LLM Es benötigt ein Prompting, wo wir im Endeffekt Zugriff auf das CM oder halt Zugriffs auf das Cm.
00:15:46: Das braucht natürlich auch.
00:15:48: Ich brauche noch eine irgendeine Datenbank über das Rack halt, sodass ich dann diese internen Informationen darauf zugreifen kann.
00:16:00: Ich brauch natürlich IPIs und vor allem jetzt wenn ich in Custom Service Context rede bei uns zum IPI zu unserem Ticket System können natürlich auch mit anderen Systems sein Und ich brauche natürlich jemanden, der in der Loop gesetzt wird für kritische Entscheidungen, die getroffen werden können.
00:16:16: Vor allem – ich habe es schon vorhin in der Erklärung ein bisschen erwähnt, was du jetzt noch brauchst für so eine Lösung – du brauchst natürlich einen sehr hochwertigen Monitoring, den Endeffekt für Qualität und für die Kostenkontrolle sorgen!
00:16:30: Und ja, je nach Anwendungsfall sieht natürlich diese Architektur etwas anders aus.
00:16:37: Aber im Grunde genommen sind das die Baustöne, die jenes zu rutschen auch in der Stelle überhaupt gewährleisten.
00:16:44: Genau und genau deshalb beginnt halt eine gute Rutschnarchitektor nicht mit der Technologie ganz wichtig sondern wir machen Entscheidungen oder wir beginnen einfach mit den richtigen Entscheidungen.
00:16:56: welche Element benötigt ihn dann?
00:16:58: So, wenn ich diese Entscheidung mal getroffen habe und ich brauche das und das.
00:17:03: Dann überlege ich mir genau um den nächsten Punkt.
00:17:05: Da reden wir gleich drüber.
00:17:11: Kapitel drei Gute-Ei entsteht durch gute Architekturentscheidungen.
00:17:17: Ich hab's mit dem letzten Kapitel schon ein bisschen angeträgert.
00:17:22: Nicht dass eingesetzte Modell dahinter entscheidet über den Erfolg deiner Eilösung sondern die Architektuentscheidung dahinter.
00:17:30: Also ein Solushnarritekt muss beispielsweise einfach entscheiden, benötigen wir überhaupt EI oder reicht einfach die klassische Software.
00:17:40: Ich finde das ist auch nochmal wichtig, auch wenn so ein Demand einfach mal gesetzt wird und man sagt okay ich mache jetzt was ich konnte, Generierung automatisiert dann sollte der Solushnaritekt in der Planung noch einmal das ganze qualifizieren ... zu qualifizieren, macht das wirklich Sinn.
00:18:03: Ist eine EI-Lösung da wirklich effizienter als die Software, was ich schon im Einsatz habe?
00:18:07: Vielleicht macht sie das ja schon und hat Automatisierung in den Contentbereich drinnen.
00:18:13: Ich sage immer so das Beispielweise.
00:18:15: Die automatische Rechtschöpfprüfung, die hab' ich auch so.
00:18:18: Dafür brauche ich jetzt keine EI... Und was ein Slush-Naritekt auch an der Stelle tun sollte, dieses Qualifizierend reicht einfach einen einfacher prompt.
00:18:30: also das heißt dass was ich denn mitgebe oder benötigen wir wirklich dafür ein agent der im hintergrund läuft und dementsprechend aufgebaut werden muss.
00:18:39: Und die nächste element, was dann natürlich auch qualifizieren muss von den Baustellen, die wir vorhin so ein bisschen durchgegangen sind erst gerade auch ein bisschen raus denke ich, dass sich gerade diese Baustelle nicht anders noch einmal untermauern möchte oder hinterfragen brauchen wir wirklich Zugriff zu unseren internen Organisations-Norwich Database über unser Rack.
00:19:02: Nein, ich finde auch diese Frage sollte gradlinig beantwortet werden können und nicht mit ein Jein.
00:19:12: nebenbei dieses... Ich habe das auch mal diskutiert ob das Teil vom EI Demand sein sollte?
00:19:23: Die Leute, die ein Eidemensch stellen, haben keine Ahnung wie diese Dinge aufgebaut sind und sollten noch nicht sich damit beschäftigen.
00:19:30: Somit ist das eigentlich so eine nächste Phase, die ich gerade in diversen Architecture Boards im Endeffekt danach auch beantworten lasse und nicht im Demand.
00:19:44: Diesen Demands sind eigentlich nichts anderes wie Ideenfindungen oder Ideensammlungen, dann kommt da noch ein zweier Ergebnis, ja priorisiert das löst diesen Business Value aus und schließt diesen Business Capability Gap.
00:19:58: Das ist auf deiner Seite vollkommen legitim Und okay, dennoch sollte man nicht jetzt da die technische Lösung dahinter komplett gleich reinschrauben und reinstellen.
00:20:10: Das wird in Rahmenkompetenz springen.
00:20:12: dafür brauchst du Spezialisten und diese Spezialistin sollen genau diese Fragen verantworten, die wir gerade so ein bisschen durch exerzieren.
00:20:22: Des Weiteren was sich der Sulu Schneidekt auch stellen soll, wir waren gerade noch beim Unternehmenswissen bzw.
00:20:29: Internetdaten, da hilft natürlich eine sehr gute Daten- oder Data Entity Baum der die Kritikalität noch hervorhebt und kann das natürlich recht gut reinstellen weil die nächste Frage fließt damit rein welche Daten dürfen eigentlich verarbeitet werden?
00:20:47: Und nutzen wir eigentlich externe EIServices oder bauen wir unser eigenes Modell auf?
00:20:55: Das hat nämlich danach auch noch ein bisschen mit regulatorischen Begriffen zu tun, also gerade wenn du Grunddaten da durchjagst um irgendwelche Absellers zu definieren oder personalisierte Sachen da zu analysieren.
00:21:14: Dann dürfen natürlich diese Grunddate nicht die OBE Union verlassen bzw.
00:21:20: greift dann GDPA ein bisschen hart durch.
00:21:23: Und ich hoffe auch dieser AI Data Act oder bzw.
00:21:27: nicht Data Act sondern der, doch der EID Data Act ist.
00:21:31: es wird dann noch ein bisschen härter durchgreifen für die Zukunft.
00:21:35: das ist noch alles ein bisschen sehr lasch.
00:21:38: wie auch immer Was der Social Intellect dann als nächster machen sollte.
00:21:43: aus meiner Sicht und das frage ich natürlich auch immer wieder, welche Systeme müssen wir eigentlich integrieren?
00:21:49: Also müssen wir jetzt in unserem Fall die Systeme integriern.
00:21:52: Aber müssen wir wahrscheinlich danach auch noch ein Service Center oder vielleicht auch noch einen Service Management Tool integriert um im Endeffekt unsere vollsteigen Informationsdaten da noch zu erhalten oder das Ticket System dass man damit vielleicht auch nochmal andocken müssten.
00:22:11: Ja, was habe ich vergessen?
00:22:14: Das habe ich erzählt.
00:22:15: Genau Sicherheits- und Datenschutzanforderungen.
00:22:18: Ich habe es schon ein bisschen mit den Daten in Verbindung gebracht.
00:22:22: Da kommt noch ein bisschen mehr rein denn du musst natürlich ein paar Tore öffnen blöderweise oder die Systemarchitektur muss Tore eröffnen und da müssen halt Sicherheitsbestimmungen wirklich eingehalten werden.
00:22:35: deswegen In diesem EI-Demand kann man eigentlich die Leute ein bisschen trainieren, was Sicherheit bedeutet fürs Unternehmen und an dem entsprechend auch die Kritikalität dahinter für sich selbst auch ein bisschen bewerten lassen.
00:22:49: Es ist auch ein Training über die Zeit.
00:22:51: Du wirst nicht das Erzielteergebnis in einem halben Jahr oder ein Jahr haben, dass wir noch etwas länger brauchen um diese Warnism im Unternehmen zu schaffen.
00:23:04: Ein Punkt noch, wie stellen wir den späteren Betrieb sicher?
00:23:09: Diese Antwort sollte natürlich von zwei Seiten beantwortet werden.
00:23:14: Einmal habe ich die Enterprise Sicht, die beantwortete mir schon großteil davon aber vor allem das Lust nach Ritikatur auf der technischen Seite Die danach gesagt brauchen folgende Cloud Infrastruktur oder wir brauchen folgende Elemente dazwischen oder auch Wendoren und Services, die über die Zeit einfach aktiviert bleiben müssen.
00:23:36: Aber das sind halt einfach keine Implementierungsdetails, was wir gerade besprechen obwohl es mit der Slushnachtektur stark zum tun hat.
00:23:44: Das sind alles Architektur Entscheidungen und genau deshalb kann sie auch kein EI-Tool automatisch für uns treffen und das sollts auch bitte nicht!
00:23:53: Bitte macht's nicht den Fehler einfach die EI zu fragen was braucht denn für folgende EI Case?
00:24:01: Die erzählt er danach ja irgendwas Bisschen noch das Gehirn einschalten, dann funktioniert es auch mit Nachbarn.
00:24:15: Kapitel vier – Das richtige EI-Modell ist eine Architekturentscheidung.
00:24:22: Also es gibt nicht das beste Modell Es gibt nur das Modell, dass am besten zu der Anforderungen der Salush nach Architektor passt Dieser Merksatz, dann kann man sich danach mal gleich eintrichtern.
00:24:37: Wenn heute halt über AI gesprochen wird, fällt mir halt oft häufig auf was für ein Modell ist nicht das Beste?
00:24:47: Lutzem Neues und bla bla bla... Aus der Sicht des Rutschnarchs, die du hast, ist das natürlich eine komplett falsche Frage.
00:25:01: Die bessere oder beziehungsweise das was ich die Jungs und Mädels dann gleich selbst fragen will, weil ich dieses Modell unterstütze meine Architektur und meine Anforderungen am besten Und nicht das was wir gerade vor der Wiesn haben.
00:25:14: Schauen wir uns mal die größten aktuellen Anbieter an.
00:25:18: Vielleicht ganz kurz zu dieser Bewertung dahinter.
00:25:22: Das ist so ein Mix aus meiner ... meiner Usage dahinter oder was ich da oft zum tun habe, bis dann aus meinen bekannten Kreis heraus.
00:25:35: Vielleicht stimmt das eine oder andere nicht hundertprozentig?
00:25:39: Da kannst du es danach auch für dich selbst bewerten!
00:25:41: Was ich auch nicht machen möchte ist hier Werbung zu machen für diese Hersteller ganz wichtig.
00:25:46: Ich nutze halt den ein oder anderen mehr und mal weniger bin jetzt aber auch jetzt nicht der... der Befürworter für die Ewigkeit fährt.
00:25:54: Also bitte, dass nicht eins zu eins sind.
00:25:59: und nebenbei das ist jetzt die Folge sieben, achtundzwanzig so.
00:26:04: Und ich rede es erst einmal über Wendoren.
00:26:07: Das ist schon nochmal ganz wichtig und Ich möchte das auch jetzt nicht als Werbethema sehen und ich kriege auch kein Geld von diesen Unternehmen und will auch keins haben.
00:26:19: Erster und das hat jetzt nichts mit der Reihenfolge in Form, wo er als besser oder schlechter ist.
00:26:25: Das habe ich mir gespart.
00:26:27: Ist von OpenAI ChatGDP oder GPT.
00:26:32: Ich nutze das jetzt schon sehr lange vor allem was weiß als sehr starkes bei Dokumentationen.
00:26:40: Wo die Architektur Dokumentationsen liefert... oft eine sehr gute Strukturierung für sehr komplexe Inhalte.
00:26:50: Auch in der Formulierung finde ich es sehr stark, gerade auch wenn ich ADS formuliere und das gerade meine Proms die ich dementsprechend definiert habe kommt ein sehr brauchbarer Output raus.
00:27:03: dennoch benötigt es immer wieder eine gewisse Nachpolierung.
00:27:11: für Coding sage ich mal solala, es ist gut für rudimentäre Softwareentwicklung wurde mir gesagt.
00:27:21: Es ist aber auch sehr stark.
00:27:24: halt bei Refactoring, Code Refuse und Code Generierung kosten einfach zu viel.
00:27:30: das weiß nicht wie weit das jetzt stimmt dennoch ist das in Kosten treibbar.
00:27:36: Ich denke nochmal dass wird auch bei anderen Engines der Fall sein.
00:27:43: Ja, es unterstützt wohl alle Gengen oder sehr viele Programmiersprachen.
00:27:47: Ich persönlich habe das selber noch nie ausprobiert.
00:27:50: Ich bin noch von der alten Schule und werde jetzt auch immer sein.
00:27:53: Ich glaube ich wird nie EIFL-Coding nutzen weil für mich ein anderer Aspekt ist und ich mache Coding nicht mehr im professionellen Umfeld oder ich werde nicht mal bezahlt fürs Code.
00:28:03: Für mich ist das eigentlich ein Kopftraining und ich liebe es einfach Funktionen auszuprobieren, mich selbst dadurch zu tüfteln.
00:28:13: Und ich denke mal gerade in der Professional Software Development ist EA natürlich unersetzlich mehr.
00:28:20: aber jetzt für mich persönlich ja.
00:28:25: deswegen kann ich auch schwer hier einen Input geben.
00:28:30: Ja, es gibt anscheinend auch von JGP sehr gute Integrationen zu der Microsoft Asure-Welt oder Microsoft ThreeSixFive.
00:28:44: Es ist anscheinen sehr gut mit Microsoft verbunden.
00:28:47: Ich glaube, bei JGB im Hintergrund ist ja auch Microsoft.
00:28:50: wenn ich alles täuscht und das habe jetzt nicht nachgelesen also... Wenn ich mich da verbrannt habe, kann es mich mit dem nächsten Feedback ein bisschen steinigen.
00:29:04: Dann haben wir noch Entropic.
00:29:08: Ich hab das jetzt nochmal richtig schauen müssen wie man die ausspricht.
00:29:12: Ich glaube, ich habe das jahrelang mal falsch ausgesprochen.
00:29:14: Deswegen, man kennt sie eher um den Namen Claude.
00:29:18: Klar, das ist halt separiert worden durch Security-Themen und ich glaube auch da sind die eigentliche Modelle dahinter, die noch nicht veröffentlicht worden sind weil es zu gefährlich sind in Form von dass sie wirklich waren sich als Lücken entdecken.
00:29:37: Klar, ich persönlich nutze das im professionellen Umfeld sehr viel.
00:29:43: Ich finde es einfach nur extrem teuer.
00:29:45: Also das ist meine persönliche Meinung.
00:29:47: Diese Tokenverbrennung ist so ein Mess, gerade wenn es um Bildergenerierung angeht.
00:29:54: Ich habe mal einen Tag mehrere Bilder gestellt und das ist richtig arg explodiert.
00:30:00: Bei ChatchaDB zahle ich meinen Lizenzmodell wahrscheinlich auch nicht einmal die richtige professionelle Wurschen aber da kann ich Bilder an Wasser stellen, hab keine Limitierungen in Form von.
00:30:11: Was aber natürlich schon recht stark gefunden haben.
00:30:16: Ich rede jetzt gar nicht von klassischen Images, also die Fotobilder oder so sondern ich rede eher von Diagrammen und so.
00:30:25: Die sind schon ein bisschen stärker bei Cloud.
00:30:28: Also da ist schon die Qualität nochmal einen Level höher kann man gut vorstellen.
00:30:34: wenn es um Dokumulationserstellungen geht dann kann man hier wirklich sehr viel rauskitzeln.
00:30:39: In Coding A ist das wohl einer der stärksten Tools am Markt.
00:30:46: Gerade was Refactoring, Angehung code, Analysen und Komplexitäten dahinter auch mit den Security-Übereinstimmungen das ich vorhin ein bisschen angesprochen hatte ist es wohl der ultimative Hammer.
00:30:59: Nicht so trotz sind die Kosten da darf man nicht außer Acht lassen und dann dementsprechend etwas abwägen.
00:31:09: Ja Durch diese hohe Sicherheitsmaßnahmen hat man natürlich gerade für Unternehmen, die ein sehr starkes Compliance-Anforderung hat wie in der Finance Welt oder irgendwelche Versicherungen.
00:31:19: Dann ist es dann auch schon einer der guten Player.
00:31:24: Wenn wir uns noch... ich habe drei genau, da haben wir noch im dritten Google und das Gmini Gminimodell.
00:31:34: Ich persönlich nutze Google überhaupt nicht.
00:31:36: Ich glaube nur, die Mails nutze ich von Thul nach Google selber.
00:31:41: Das ist für mich eigentlich so ein Alphabet... hat zu viel Macht bekommen in der Vergangenheit und Gemini, glaub' ich, ist noch so einen Versuch diese Macht irgendwie zu halten.
00:31:54: Alleine wenn man sich jetzt die Google Suche anfeuert oder anfeuert dann gibt Gemini schon mir die Erhinderhalte zurück was du eigentlich daraus lesen sollst.
00:32:05: damit haben sie eigentlich die Google-Suche kaputt gemacht.
00:32:07: aus meiner Sicht Das haben wir schon wieder das Thema abgetriftert, das wollte ich eigentlich nicht von Jiminy auf dem Modell heraus.
00:32:16: Was will ich jetzt aus Hörn sagen?
00:32:17: Wie gesagt sind meine Erfahrungen bei Gimini nutzig nicht ist es halt eine sehr starke multimodale Inhalte.
00:32:26: also ich kann sehr gut auch Dokumente verarbeiten und Bilder vor allem Präsentationen.
00:32:31: Ich schätze mal gerade was Google präsentiert Google Slides, glaube ich oder so.
00:32:37: Da sich eine sehr starke Integration und auch diese Unterstützung vom gesamten Google Workspace ist da wohl sehr sauber umgesetzt worden.
00:32:45: Da ist der Microsoft mit Copilot ja noch in den Kinderschuhen und für jetzt glaube ich auch hier erreichen in dem Level mithalten zu können und werden sich dann nachher wahrscheinlich selbst wieder einkaufen.
00:32:57: In der Unterstützung von Softwareentwicklung, Automisierung soll es auch gut sein aber bei weitem nicht mal ansatzweise diese richtung was klart liefert.
00:33:08: und ja das hat auch eine recht gute integration.
00:33:14: zu den google kunden oder der account man hört so ein bisschen raus dass ist jetzt netter burner und ich will das jetzt auch nicht weiter bewerten.
00:33:27: In dem Kontext für das Luschen-Architektur musst du natürlich auf den jeweiligen Anforderungen dich dann reinziehen, wenn es natürlich im Google umfällt ist.
00:33:34: Dann macht man in der Stelle Sinn sich im G-Menu Modellen ein bisschen auszusuchen und was da am besten passt, wenn's halt mehr darum geht.
00:33:44: Ich möchte habe starke Sicherheits- und Governanceanforderungen oder vor allem Halbkomplex Themen und muss sehr viel Koden dahinter.
00:33:57: der größere Player dahinter und sonst wenn es alles dazwischen ist macht sich ja auch OpenEye mit GGB einen guten Eindruck.
00:34:07: Also alle drei Modelle gehören heute sicher zur absoluten Spitze, auch wenn ich das eine oder andere vielleicht ein bisschen gedisst habe oder aufgewertet habe.
00:34:17: Natürlich... Und das ist auch einer nebenbei!
00:34:19: Das ist einer der Gründe warum ich das im Podcast nicht mag.
00:34:23: Wenn du hast vorzustellen und was zu tun, weil es ist immer ein gewisser Unterton auch wenn ich das jetzt monolog runter gelesen hätte.
00:34:31: Was ich nicht tue, was ich hasse dann würde man im unterton noch immer herausfinden dass sich mehr oder lieber mag oder mehr nutze.
00:34:41: Ich bin auch Mensch und habe auch gefühle.
00:34:44: Nein natürlich habe ich Gefühle aber jetzt keine gefühlen.
00:34:47: fängliche iPods.
00:34:49: Für mich ist einfach der Nutzen dahinter und das eine nutze ich halt mehr und das andere weniger.
00:34:54: Wichtiger jetzt für deine Lösung oder für das was das Unternehmen sucht, welches Modell am Ende eingesetzt wird hängt jedoch von einer Unternehmensarchitektur natürlich ab und deiner bestehenden IT-Landschaft.
00:35:06: Deine Compliance Anforderungen und vor allem deine Integrationen!
00:35:10: Und das sind viele Attribute, die da reinfließen um den Entscheidung zu machen.
00:35:15: Was du aber natürlich auch vermeiden solltest... ...da jetzt dich Krautung rüben weil der Käse es braucht dass eine und das nächste und das übernächste immer zu kaufen oder sich einzukaufen.
00:35:27: Da muss man natürlich auch dann relativ schnell abwägen wie weit ich da wirklich gehen möchte.
00:35:35: Kapitel V Gute Architektur macht EI zukunftsicher.
00:35:41: Also davon bin ich ja mal sowas von Überzeugt.
00:35:45: Gerade ein gutes Lusch nach die Tour wird so entwickelt oder sollte also entwickelt werden, dass halt EI-Modelle jederzeit ausgetauscht werden können und erweitert werden können.
00:35:56: Das ist wirklich der wichtigste Punkt.
00:36:00: und es fehlt noch einen Satz eigentlich.
00:36:02: hier sehe ich gerade Es geht nicht nur darum EI Modelle aus zu tauschen oder weiter sondern ich muss das auch irgendwie wieder abdrehen können und durch vielleicht auch wieder manuelle Prozesse oder durch normale Standardshoffür zu ersetzen.
00:36:16: Und diese Alternativen sollten gerade in der Sluschnarchitektur aufgezeichnet werden, deswegen solltest du natürlich auch Assets einverlangen die aufzeigen wie die EI Architekturausschau oder die Slushnarchitekte für die EIModelle oder also die Nutzung dahinter als auch natürlich wir schauen das eigentlich standardmäßig aus aktuell und wie könnte es dann dadurch auch besser sein?
00:36:40: E-Ei-Markt, der entwickelt sich halt einfach zu schnell und diese Modelle die werden natürlich auch nicht schlechter so leider blöderweise immer schneller und besser.
00:36:51: Und attraktiver was preisangeht.
00:36:54: Natürlich wird es da jetzt mal ein paar Explosionen geben das wird sich aber dann wieder irgendwo eindrudeln und dann wird das auch wieder günstiger werden.
00:37:02: warum bin ich überzeugt oder Es passiert, dass es doch zu einer Massenpandemie im EI gibt und der Markt an der Stelle zusammenbrechen wird.
00:37:16: Diese Modelle verändern sich natürlich und deshalb sollte niemals das Modell im Mittelpunkt stellen.
00:37:23: Und nicht in der Architektur,
00:37:24: d.h.,
00:37:24: wenn diese auch die Touren gezeichnet werden dann sollten eigentlich die ganzen anderen Elemente im Mittelpunkt stellen, die ja auch wiederverwendbar sind.
00:37:32: In Mittelpunkt steht natürlich die Lösung und das Luhschnachidekt sollte darauf achten, diese lose Koppelung zu ermöglichen.
00:37:43: Standardisierte Schnittstellen zu nutzen, klare Verantwortlichkeiten dahinterzulegen.
00:37:47: Das Ding soll er weiterbar sein.
00:37:49: Es soll irgendwie wartbar sein, dass man nicht nur einer machen kann.
00:37:53: Und es muss der langfristige Betrieb gewährleistet sein und netters nach einer Woche zusammenfällt wie ein Kartenhaus.
00:38:00: Und so bleibt halt die Architektur auch dann stabil, wenn das eingesetzte Modell also wenn du jetzt vom GGB auf Gemini zum Beispiel wechseln würdest.
00:38:08: Das muss funktionieren und das sollte vielleicht auch einer dieser den der jeweiligen Governance Regeln sein.
00:38:17: Du darfst diese Modelle nutzen schön aber gewährleiste in der gesamten Implementierung dass du dieses Modell austauschen musst.
00:38:32: Und jetzt sind wir auch schon wieder am Ende dieser Folge.
00:38:37: In den letzten beiden Folgen, also mit der haben wir uns eigentlich zwei verschiedene unterschiedlichen Perspektiven angenehert oder betrachtet die Folge siebenundzwanzig wo wir halt eher auf der Enterprise Sicht unseren bisschen Gedanken gemacht haben was Architektur angeht und jetzt heute ein bisschen tiefer was der Loosening angeht.
00:38:56: Die Folge ist auch ein bisschen länger geworden einfach aus dem Grund weil ich sehr viele Erklärungen dazu bringen musste, um verschiedene Elemente auch ein bisschen ausprägender wiederzuspiegeln.
00:39:11: Weil sonst ist das losgelöst.
00:39:13: die Sluschnarchitektur ist extrem wichtig.
00:39:15: deswegen diese zwei Rollen des Enterprise-Architekten und Sluschenarchitekten gehen hand in Hand für mich Und vielleicht machen wir auch einmal eine Folge zu rollen allgemein im Unternehmen und wie wichtig eigentlich diese Zusammenarbeit ist, und wie diese Rollen miteinander interagieren sollten.
00:39:35: In dieser Folge habe ich es auch ein bisschen herausgestellt oder auch die Wichtigkeit darin gesehen oder ausgearbeitet.
00:39:42: Ich hoffe sie ist auch etwas rüber gekommen.
00:39:45: Wichtig ist auch noch zu erwähnen wir haben heute das Luschen-Architektur halt Perspektive eingenommen und vor allem diese Frage einfach zur Funktionale Lösung uns überlegt, also was machen eigentlich die LMMs?
00:40:01: Was machen die Promptings?
00:40:03: Wie stehen sie zueinander?
00:40:04: Und was brauche ich denn für welchen Case?
00:40:07: diese Beantwortung habe ich einmal in einem Beispiel gegeben.
00:40:13: Die Enterprise Architekturt beantworte natürlich den Business Value dieser Lösung dahinter Aber vor allem wie wichtig die nächste Folge sein wird, die Governance.
00:40:24: und jetzt habe ich den Druck schon relativ weit aufgebaut.
00:40:28: Ich hoffe, ich werde dem auch gerecht, wie wichtig einfach die EI Governance für den Einsatz dieser Technologie sein wird.
00:40:39: Und damit sind wir eigentlich auch schon wieder vorschauen.
00:40:41: ein bisschen zu den nächsten Folgen.
00:40:43: Also wie gesagt geht es um EI Governance, wir wollen uns auf folgenden Fragen stellen wer entscheidet über EI Initiativen?
00:40:52: Wer trägt am Schluss auch die Verantwortung und welche Regeln brauchen wir im Unternehmen dafür eigentlich wirklich?
00:41:00: Und folgende Frage noch genau, die habe ich mal aufgeschrieben und wie verhindert man das aus vielen guten Ideen unkontrollierter Wildwuchs entsteht.
00:41:13: Die Frage haben wir uns ein bisschen schon beantwortet mit dem EI-Demandfolge, das war die Folge... ...sevon zwanzig?
00:41:21: Ne, das haben wir jetzt... ...zechsundzwanzig und so.
00:41:26: Genau!
00:41:28: Und damit sind wir auch schon wirklich am totalen Ende hier angelangt.
00:41:32: der EI Reise um die Architektur.
00:41:35: Der Zwei-Teiler hat euch Hoffentlich, oder der zweite Teil hat euch natürlich hoffentlich auch den letzten e-Tüpfelchen gegeben was es dafür braucht um die funktionale Lösung hinstellen zu können.
00:41:49: Mir das richtig Spaß gemacht heute zu sprechen war eigentlich so ein bisschen... Mich meine Vergangenheit hat mich wieder eingeholt und ich merk sie wieder wie wichtig mir eigentlich diese Lust nach Hintur insgeheim ist Und ich hoffe es ist auch rüber gekommen.
00:42:04: Damit Servus und Papa und bis auf bald!
Neuer Kommentar