EAM#25: AI TCO - Der wahre Business Value von AI

Shownotes

Artificial Intelligence verändert nicht nur Technologien, sondern auch die wirtschaftliche Betrachtung von IT-Investitionen. Klassische TCO-Modelle reichen für AI nicht mehr aus, da neben Lizenzen und Betrieb neue Kostenarten wie Token, Modelle, APIs, Datenqualität und Governance entstehen.

In dieser Folge startet die neue AI-Serie und zeigt, warum Enterprise Architecture die entscheidende Rolle spielt, um AI wirtschaftlich, nachhaltig und mit echtem Business Value einzusetzen. Außerdem wird der Zusammenhang zu den vorherigen Episoden rund um Business Capabilities und Daten hergestellt.

Themen dieser Folge

  • Warum AI eine neue Kostenlogik einführt
  • Klassischer TCO vs. AI TCO
  • SaaS AI und Custom AI im Vergleich
  • Die Rolle von Token und AI Consumption
  • Versteckte Kostentreiber hinter AI
  • Datenqualität als wirtschaftlicher Erfolgsfaktor
  • Business Value statt reiner Kostensenkung
  • Die Rolle der Enterprise Architecture bei AI

Verweise auf frühere Episoden:

  • EAM#14–EAM#16 – Total Cost of Ownership
  • EAM#19 – Capability-basierte Budgetierung
  • EAM#20 – Capability Maturity
  • EAM#21 – Data Entities
  • EAM#22 – Data TCO
  • EAM#23 – Schnittstellen vs. Datenprodukte
  • EAM#24 – Data Governance

Der deutschsprachige EAM Podcast, überall wo es Podcast gibt. Freue mich auf Dein Feedback, gerne jederzeit direkt auf https://eam.podigee.io/ oder direkt www.linkedin.com/in/david-hohl

David Hohl

Möge die Enterprise Architecture mit dir sein.

Transkript anzeigen

00:00:04: Architektur entscheidet.

00:00:06: Über Komplexität, über Kosten, über Steuerbarkeit.

00:00:09: Ich bin David Hohl und heiße Dich herzlich willkommen bei Enterprisearchitektura wirkt!

00:00:14: Der Podcast zu ERM Servus grüßt Dich und herzlich Willkommen zur neuen Folge.

00:00:24: Es sind angelangt bei ERM-Fünfundzwanzig.

00:00:27: Heute reden wir über EI TCO Und das ist auch gleichzeitig der Neue neue Serie für den August, wo wir den Fokus auf EI setzen werden.

00:00:43: Und vor allem werden wir über die kommenden Wochen über EI TCO in diesem Wortkreis EI Demand, EI Architecture und EI Agents und vor allem einer der wichtigsten Elemente EI Governance sprechen.

00:01:00: Hier war allerdings wichtig diese Serie nicht mit Technologie zu beginnen Denn aus der Sicht der Enterprise Architektur steht ja am Anfang immer eine Frage.

00:01:10: Wie sollte es auch anders sein und in unserem Zugehäute welchen Wert schafft ein Investition eigentlich für unser oder das Unternehmen?

00:01:20: Genau deshalb beginnen wir heute mit EITCO.

00:01:25: Vielleicht auch eines vorweg warum dieses Serie vielleicht ein bisschen anders gestaltet ist, ich habe mir lange überlegt wie ich den Shift.

00:01:33: Ich bringe halt von EA eine Technologie, denn EA ist das für mich.

00:01:38: Es gibt mittlerweile unzählige Podcasts über EA und jeder weiß alles besser.

00:01:44: Ich weiss es nicht besser.

00:01:45: um ehrlich zu sein ich muss es menschen können und steuern können Und wir werden sich uns nicht die Frage stellen welche Models oder welche Prompts irgendwie funktionieren Oder was ich für Benchmark benötigen.

00:01:59: Das können wir mir aus der EM sich glaube ich schwer beurteilen.

00:02:03: Wir wollen uns eigentlich mehr fokussieren darauf auf die eigentlichen Herausforderungen, die uns im Endeffekt immer unter die Nase gestellt werden.

00:02:13: und vor allem wie kann Technologie in diesem Falle eher unsere Business Probleme lösen?

00:02:18: Und welche Kosten entstehen dann eigentlich wirklich für uns.

00:02:22: Die Auswirkungen dahinter sind auch oft unklar und gerade auf der Architektur hat es einen massiven Impact Und dahinter ist immer Erfolg und Misserfolg stark miteinander verbunden, und das werden wir dieses Monat einmal in Angriff nehmen.

00:02:45: EI erinnert mich eigentlich oft an die Anfangszeit des Internets.

00:02:49: Ich war damals... ich weiß nicht, elf?

00:02:53: Also, zweiundneinzig Jahre um wie das ehe Internet so richtig ein bisschen abgehoben ist.

00:02:59: Ich glaube, ich bin auch richtig reingestartet mit meinen ersten Webseiten.

00:03:03: Damals noch mit Frontpage und Dreamweaver.

00:03:06: Leute unter uns die in diesem Alter sind wissen noch was das ist?

00:03:11: Wie auch immer damals ist auch das Internet High gehypt worden und man hat sich nicht Gedanken gemacht was kostet eine Webseite oder eine Infos dahinter?

00:03:23: weil mein Endeffekt noch gar nicht verstanden hat was auf einen zukommt.

00:03:27: Viele Unternehmen fragten sich auch damals, welche Investitionen lohnen Sie da überhaupt?

00:03:34: Was für Plattformen machen das denn?

00:03:35: Welche Applikationen könnte ich denn überhaupt im Internet hosten oder bzw.

00:03:40: ins Internet bringen?

00:03:42: Heute stellen wir uns natürlich diese Frage überhaupt nicht mehr!

00:03:45: Heute sprechen wir selbstverständlich über den Business Value, den das Internet für uns geschaffen hat und ich glaube genau diese Entwicklung erleben wir aktuell auch bei EI.

00:03:54: Nicht die Kosten werden langfristig entscheidend sein, sondern der Wert den ihr Eiführen-Unternehmen erzeugt.

00:04:02: Wir haben uns ja über die letzte Zeit sehr viel mit Capability auseinandergesetzt, speziell im neuen Zähn, wo wir mal über capabilitbasierte Budgetierung gesprochen haben und dann in der Folge Vier, ich gebe über die Maturity Level.

00:04:18: Und danach gingen sie auch weiter mit den wichtigen Elemente von Data, entity ist data TCO.

00:04:26: Und heute wollen wir eigentlich den Kreis damit schließen weil da sind wir in effekt die Bausteine die ich benötige um neue Technologien überhaupt zu enablen.

00:04:35: Bevor wir über die Modelle und Agents und Governance sprechen können müssen wir zunächst verstehen warum EI wirtschaftlich völlig anders funktioniert als klassische Unternehmenssoftware.

00:04:50: Kapitel eins EI verändert die Kostenlogik.

00:04:55: Mit klassischer Software konnten wir natürlich relativ einfach kalkulieren.

00:05:00: Diese Modellen oder anderen Applikationen, die uns die Kosten vorkalkuliert haben, konnten wir eigentlich schon fast sehr punktgenau herausfinden.

00:05:11: wie viel kostet unsere Softwaremente des Jahres um im Endeffekt unser nächstes Budget zu bekommen.

00:05:17: Darunter fallen alle Elemente, die du kennst von Lizenz und Wartung, Betrieb und vielleicht auch noch die Infrastruktur.

00:05:24: Natürlich entstehen über Über die Zeit die Lebenszyklen und weitere Kosten, selbstverständlich darüber haben wir uns ja auch schon bei ´Ächzen und Sechs zu unterhalten.

00:05:33: Und der Total-Kost auf Ownership Speziell.

00:05:37: Die grundsätzliche Kostenlogik bleibt jedoch stabil und berechenbar bis auf Baustnahmen.

00:05:43: Jedoch mit EI verändert sich das ganze Spiel ein bisschen.

00:05:47: Die Logik wird grundsätzlich neu gestaltet und sie ist nicht berechenba aktuell Denn bei AI verschiebt sich die Betrachtung und Perspektive erst mal richtig deutlich.

00:05:59: Ich habe das selber auch beim Bestienenprojekt aktuell im Augenmerk, und sehe ja auch hier eine sehr hohe Schwankungen und sehr schwer die Berechnung der TCO-Kosten in dem AI umfällt.

00:06:11: aber dazu auch später mehr.

00:06:13: Denn aktuell bestimmt nicht mehr Software die Kosten sondern die tatsächliche Nutzung.

00:06:21: Also jeder Prompt, den du feuerst.

00:06:24: Jeder Modellaufruf und der Wechsel der Modelle natürlich nicht, aber die Selektion dahinter.

00:06:30: Jeder API-Call, den Du dran docksst und jeder Agenten, den man dann noch weiter implementiert, der multipliziert deine Kosten nach oben.

00:06:39: Die sind natürlich auch noch abhängig von dem jeweiligen Hersteller, den er nutzt.

00:06:44: Das klingt zunächst alles selbstverständlich und wir verstehen auch den Hintergedanken dahinter verändert aber die gesamte Wirtschaftsbetrachtung dahinter.

00:06:54: Denn plötzlich beeinflusst das Verhalten jedes Einzelnen, damit meine ich jetzt nicht dich oder mich sondern die Nutzer und die haben einen direkten Einfluss auf Departipskosten.

00:07:07: Das löst einige Probleme aus.

00:07:10: Probieren wir das Ganze mal mit Beispielen zu unterlegen.

00:07:13: Zwei Unternehmen, dieselbe EI, völlig unterschiedliche Kosten.

00:07:17: stellen wir uns einfach mal vor.

00:07:19: Beide führen die selben EI-Lösungen.

00:07:22: Das Unternehmen A nutzt EI hauptsächlich für Business Abfragen und oder Stellen von irgendwelchen Dokumenten.

00:07:29: Ich gehöre wahrscheinlich dazu.

00:07:31: Das Zweite integriert EI in den Kundenservice und in interne Prozesse wie Softwareentwicklung und später auch natürlich auch in weiterer Agent Entwicklung usw.

00:07:40: automatisierte Aufgaben abzusetzen.

00:07:43: Aber beide besitzen eigentlich dieselbe Technologie, aber sie verursachen Volldeck unterschiedliche Kosten nicht weil die Lizenz unterschiedlich ist sondern vor allem weil die Notzungen unterschiedlich sind.

00:07:56: und genau dieser Unterschied wird in vielen klassischen Business Cases heute noch gar nicht berücksichtigt oder betrachtet.

00:08:02: ich hatte das auch immer im Augenwinkel nicht so im Fokus und habe auch relativ schnell festgestellt durch diese Veränderung der verändert sich diese Kostenlogik und dahinter brauchst du echt ein sehr starkes Governance-Modell.

00:08:17: Ich glaube auch, dass wir in Zukunft viel häufiger über AI-Konsumption sprechen werden und nicht mehr darum welches Modell eingesetzt wird.

00:08:26: Schluss wird wahrscheinlich Nummer eins zwei geben wenn überhaupt wir den Unterschied jetzt verstehen nur intensiv nutzerkabieren.

00:08:33: Entrückbar sagt ich muss deshalb nicht nur entscheiden ob er eingesetzt Wie und wie häufig für welchen geschäftlichen Nutzen?

00:08:43: Denn erst dadurch wird AI wirtschaftlich steuerbar.

00:08:47: Wichtig ist, vielleicht nimmst du das auch mit, deshalb ist mein Learning gewesen speziell in den letzten Monaten.

00:08:54: bei klassischer Software bezahlen wir ja überwiegend über dem Besitz oder für den Besitz also SAS Modell oder Passer war es auch immer.

00:09:02: Da haben wir im Endeffekt diese laufenden Kosten weil wir die Software besitzen physisch wahrscheinlich nicht aber digital.

00:09:11: Bei AI bezahlen wir aber zunehmend für die Nutzung.

00:09:16: Und das ist eine Veränderung, die wir jetzt ab sofort mit reinberechnen und betrachten müssen.

00:09:22: Wenn sich die Kostenlogik verändert stellt sich automatisch eine Frage für uns Werde die Kosten gehören eigentlich in ein EITCO?

00:09:30: Und warum reicht unser klassischer Modell nicht mehr aus?

00:09:34: Ich glaube die Antwort habe ich dir schon gegeben Aber lass uns das jetzt betracht.

00:09:43: Kapitel zwei.

00:09:44: Warum EI ein eigenes TCO braucht?

00:09:48: Klassische TCO-Modelle betrachten ein Lebenszyklus hauptsächlich und wenn wir über den Total Cost of Ownership sprechen dann denken viele zunächst natürlich auf kauf des Software.

00:09:59: das Thema hatten wir ja schon in vielen folgen wo wir genau dass die verbetrachtet haben.

00:10:04: ich erinnere an Folge vierzehn und sechzehn, wo darüber sehr intensiv diskutiert haben, dass die größten Kosten häufig erst nach der Einführung entstehen.

00:10:14: Ich glaube das muss ich jetzt nicht wiederholen aber ich tisere es mal an falls du diese Folgen nicht gehört hast.

00:10:20: Der klassische TCO betrachtet beispielsweise für den Anschaffungs- und Einführungenbetrieb bis über die Wartung, Weiterentwicklungsschulung und natürlich die Infrastruktur dahinter.

00:10:31: Und das ist okay und noch gut so.

00:10:33: Manche machen das gut schon, manche machen's überhaupt nicht.

00:10:37: wie auch immer bei EI erweitert sich das Ganze ein bisschen.

00:10:41: Ich habe mir in den letzten Monaten sehr viel Gedanken gemacht, wie ich zu diesem oder wie ich überhaupt so einen EITCO-Modell komme.

00:10:48: Ich bin mitten drinnen und es ist noch nicht ganz vollwertig.

00:10:51: die ersten Einblicke möchte ich heute auch mitgeben.

00:10:55: recht hilft das eine oder andere denn was ich herausgefunden habe für mich wir müssen uns eigentlich jetzt auf komplett andere Elemente fokussieren.

00:11:04: Wir müssen uns A auf das EIModell dahinter.

00:11:08: Wenn ich mal Claude anschaue, da gibt es sehr verschiedene Modelle und wenn ich mich recht entsöhne die vier Fünf oder nie kostet einen Vermögen.

00:11:17: Vor allem auch EPI-Nutzung.

00:11:19: Die Token sind noch unberechenbar.

00:11:22: Ich glaube Anfang Juli sechsundzwanzig.

00:11:26: Wir befinden uns Ende Juli sechsundzwantig.

00:11:28: meine ich haben sich ja auch die Tokenkosten verändert.

00:11:32: das heißt wir haben hier wie ein Goldpreis der rauf und runter geht.

00:11:36: Die Tokenpreise werden uns mal lieben bestimmen, davon bin ich überzeugt.

00:11:41: Weitere sind natürlich die Agents umso mehr Verbrauch dahinter und die ganzen Vektor-Datenbanken, die ich benötige um Endeffekt um Informationen bereitzustellen.

00:11:52: Das Feintuning was notwendig ist um die ganze Logik aufrecht zu halten und vor allem einen Kostenfaktor wird extrem hoch sein.

00:12:01: den glaube ich fast kein Unternehmen.

00:12:03: Blick hat in einem Projekt der IEI Governance hochgezogen und habe gesehen wie komplex und auch politisch das Ganze schnell wird, vor allem auch das Training dahinter dass die einzelnen Kollegen sich daran halten können.

00:12:20: Es ist nicht ganz einfach.

00:12:22: dennoch gibt es natürlich Methodiken gerade aus unserem Standard Baukasten der uns da viele schon ermöglicht.

00:12:30: Der EITCO endet nicht bei Technologie aber auch mit mitbekommen halt auch die letzte Zeit einen großen Unterschied, der meine ganze Sicht einfach komplett verändert hat.

00:12:43: Das ist immer auch so diese Aussage gewesen.

00:12:46: viele Unternehmen reduzieren halt EITCO auf die technische Kosten.

00:12:50: also was kostet uns eigentlich den Lizenz?

00:12:52: welche Modelle sind günstiger welcher Topen kostet wie viel und soweit.

00:12:57: aber das reicht es halt nicht aus.

00:13:00: Das ist die große Erkenntnis gewesen.

00:13:02: Weil wenn es nur diese Elemente im Betracht ist, dann hast du einfach nicht ganz verstanden dass die Kosten komplett woanders vergraben sind und du einen Multiplikator an einer anderen Stelle hast.

00:13:13: Denn ein EITCO muss genauso die organisatorische Auswirkung betrachten.

00:13:17: das ist etwas was ich vor allem ein bisschen gemeint habe.

00:13:20: Wie baut man eigentlich in der EITC auf?

00:13:22: Darüber reden wir natürlich auch noch im August.

00:13:24: Ich glaube die letzte Folge dahinter Wir haben fünf Folgen heute dieses Monat vollgepackt damit.

00:13:32: Aber noch mal zurück, die organisatorischen Auswirkungen... Ich habe letztens auch diese Fragen immer wieder gestellt.

00:13:40: Wer verantwortet die EI?

00:13:42: Natürlich hast du Personen und Menschen aber vielleicht ist es nur ein bisschen mehr.

00:13:45: Wer bewertet eigentlich die Ergebnisse hinter der EI.

00:13:49: Einführendes eins ausführen ist das andere und das Ergebnis kommt über was anderes.

00:13:54: dann weitere Frage, die ich mir auch immer jetzt mitgestellt habe.

00:13:58: Wer überwacht die Qualität?

00:14:00: Wie überwachtest du die Qualitäten überhaupt und wer entscheidet über neue Anwendungsfälle also sogenannte Demenz dahinter?

00:14:07: gerade diese indirekten Kosten werden halt häufig unterschätzt Und du wirst das Reiter schnell merken sobald du das in einem Unternehmen etabliert hast, wo du token abhängig bist und nicht mehr fixe Sätze hast wie eine stiegnormale Copilot-Piloter-Lizenz die basic die nichts kann oder beziehungsweise nur das Minimal Set.

00:14:26: aber sobald du damit token in Verbindung bist ist du redest schnell Angst bekommen und Kosten haben von gut und böse.

00:14:33: Ein Element was man sich dabei natürlich auch immer betrachten sollte der Business Video gehört immer dazu.

00:14:40: ich halte dir deshalb eine Aussage für besonders wichtig Ein günstiges EISystem ist nicht automatisch wirtschaftlich.

00:14:48: Und ein teures EISsystem ist nicht automatically unwirtschaftlich.

00:14:52: Wichtig ist eigentlich der Value dazwischen, das sagt ihr auch schon im PBL-Studium wenn du eins hast, dass man sich beide Seiten anscheinend sollte.

00:15:01: Wenn eine EI Millionen spast oder einen entscheidenden Wettbewerb vorteilt scharfst dann können natürlich auch höhere Betriebskosten wirtschaftliches hinvoll sein.

00:15:12: Das ist eigentlich logisch.

00:15:14: Aber deshalb sollten wir AI nie ausschließlich über die Kosten diskutieren.

00:15:18: Die Kosten ist das eine, aber die Nutzung ist das andere und wir sollten beides betrachten.

00:15:22: Und deswegen ist dieses Kostennutzenverhältnis was man auch in einem Kontext schon mal gesprochen haben so entscheidend auf.

00:15:29: Das glaube ich ist der Durchbruch für den richtigen EITCO.

00:15:38: Kapitel drei.

00:15:40: Die Anatomie der AI-Kosten.

00:15:44: Ich habe jetzt über verschiedene Software Wendors immer mehr EI zu tun und auch in Verträgen kriegt das immer wieder mit.

00:15:53: Da wird danach von den richtigen Token gesprochen, Service Token Das und jenes Und bei SAS ist es eigentlich wie so eine Sucht einstieg.

00:16:05: man sagt okay man kauft eine Software Service kriegt alles bereitgestellt.

00:16:11: Da hast du nebenbei drei, vier Token.

00:16:13: Die klickst du gratis dazu die können dir danach in ein Content erstellen oder irgendein ein Ticket automatisch ablösen.

00:16:21: Deswegen fangen auch viele Unternehmen eigentlich mit dieser Art von Lösungen an die halt direkt out of the box von Microsoft, JetDB und so weiter auch bereitgestellt werden.

00:16:32: Die Vorteile liegen natürlich auf der Hand.

00:16:34: Die Kosten sind vergleichbarerweise einfach kalkulierbar.

00:16:37: meist bezahlen wir halt einfach pro Benutzer oder pro Monat.

00:16:41: Du weißt gerade nicht, was meine Tschetsche die Bilit ins Koste bringt.

00:16:45: Das ist doch vollkommen schön.

00:16:48: aber der richtige Business-Velo kommt noch nicht natürlich mit diese zweiundzwanzig Euro um die Ecke.

00:16:53: Genau das gleiche bei anderen Modellen, die ich besitz habe.

00:16:58: Aber das ist jetzt meine persönliche.

00:17:00: Jetzt gehen wir mal ein zweiter an einem Unternehmen Sieb mit fünfhundert Mitarbeiter.

00:17:05: Da stellt ihr es vor vielleicht bist du auch in einen Laden der diese Anzahl hat.

00:17:09: Jeder Mitarbeiter enthält also eine Co-Pilot Lizenz.

00:17:12: Das sind halt thirty fünf Euro, wenn man das ganze die jährliche Lizenzkosten jetzt einmal alles zusammenrechnet von fünfhundert Mitarbeitern sind wir schon bei zweihundert zehn tausend.

00:17:24: Das ist zunächst mal eine große Summe und jeder schluckt mal.

00:17:27: ich habe es gerade nochmal noch mal schlucken müssen ob ich das richtig gerechnet habe.

00:17:31: Es sind in der Tat zweihundzehntausend Euro bei fünfhunden Mitarbeiter Und wir reden hier gerade mal vor einer lächerlichen Co-pilot Lizenz.

00:17:38: Aber gleichzeitig lässt sich das natürlich sehr gut planen.

00:17:41: Und deswegen ist es ein sehr einfacher Einstieg für Unternehmen.

00:17:45: Custom EI verändert aber die Wirtschaftlichkeit und spannend wird es sobald Unternehmen eigene EI-Lösungen entwickeln, und das ist der nächste Schritt immer.

00:17:53: So ist da den billigen Zeug kaufen schauen funktioniert sondern nachher schauen wir mal was man damit noch machen können.

00:18:00: wenn wir dann eine Ende sehen was die Technologie nicht liefert dann probiert man halt daneben was zu bauen Und jetzt entstehen plötzlich großen, die keiner Lizenz sich basieren.

00:18:12: Denn auf einmal brauche ich halt einfach eine Architektur.

00:18:15: Ich brauch eigene Entwicklung und sehr viel Integration.

00:18:19: Ich brauche wahrscheinlich weitere IPIs, die wir Elemente zur Verfügung stellen.

00:18:23: Ich muss auswählen, welche Modelle ich nutze?

00:18:25: Ich muss wissen wie viele Toccoverbraucher ich habe bei jeweiligen Käseln, bei den Prompts oder auch bei den Agents, die dahinter stecken und der Nutzung.

00:18:34: Der Betrieb dahinter kommt obendrauf natürlich im Monitoring.

00:18:38: und vor allem meine Governance die sich unterbrochen halt anpasst, weil sich Technologie einfach zu schnell verändert.

00:18:44: Und ich brauche etwas, weil sonst habe ich den Business Value niemals eine kontinuierliche Optimierung.

00:18:49: Genau wie hier beginnt aus meiner Sicht eigentlich ein EI TCO.

00:18:54: Diese Elemente sind echt so spannend, weil sie in der kompetenten Traktion ausgelöst sind einer Veränderung, die man schwer unter Kontrolle bekommt.

00:19:05: Auf einmal ist das ja kein Produkt mehr sondern Das was ich nutze, sondern es ist auf einmal eine Plattform.

00:19:10: Die wird auch betreiben und weiterentwickeln müssen.

00:19:14: Da vielleicht noch ein Zwischensatz?

00:19:16: Sobald diese Plattform steht habe ich natürlich die kontinuierende Optimierung.

00:19:20: aber was ich mir an der Stelle immer wieder Gedanken machen muss... ...was ist wenn diese Platform mich mehr nicht leisten kann?

00:19:26: Welchen Impact hat das auf meine Wirtschaftlichkeit?

00:19:29: Welche Elemente gehen dabei verloren?

00:19:32: Wie kann ich sie denn überhaupt wieder füllen?

00:19:34: Ich glaube das ist noch eine erweiterte Frage die man sich stellen sollte.

00:19:38: Und ich stelle mir sie nebenbei jeden Tag, wenn ich Demenz einführe oder beziehungsweise Weiterentwicklungen mache was ist wenn ich das nicht mehr nutzen kann?

00:19:48: Wie kann ich das trotzdem noch covern?

00:19:51: Ich finde Diskussionen die ich auch führe geht es eigentlich hauptsächlich nur um den Tropen.

00:19:56: Das ist natürlich wichtig denn das ist aktuell der einzige Mittel um die Nutzung oder die Nuzungskosten sichtbar zu machen.

00:20:05: Beispiel Eine Anfrage kostet circa Null Komma Null Drei Euro.

00:20:10: Also, drei Cent?

00:20:13: Ne, drei sind ja!

00:20:15: Und wenn das Ganze immer ein bisschen hochmultipliziert, wenn man eine Million Anfragen hat pro Monat dann sind wir schon bei dreißigtausend Euro.

00:20:24: und diese Rechnung ist natürlich nachvollziehbar und da kann man recht gut argumentieren.

00:20:31: aber die eigentliche Raushung liegt woanders.

00:20:34: Den Token sind halt nur das sichtbare Teil und da sind wir schon wieder bei diesem Thema von den sichtbaren und indirekten Kosten oder nicht sichtbarn-unsichtbaren Kosten.

00:20:44: Zum Beispiel, was man jetzt sieht sind genau Themen halt schlechte Daten oder auch unklare Verantwortlichkeiten.

00:20:51: Das habe ich ja vor kurzem wieder gehört.

00:20:54: Ich glaube es war das nicht bei ChatGTB oder bei OpenAI auf jeden Fall wo die AI ausgebrochen ist aus irgendeinem Chail.

00:21:02: Da hat sich wohl jemand bei der Wöcheverantwortlichkeit etwas nicht wirklich viel Mühe gegeben.

00:21:09: Und die Gabarnetzstand wahrscheinlich auch nicht korrekt, was weiter ist natürlich.

00:21:15: weitere Beispiele sind doppelte AI-Kosten in Fall von Lösungen, weil sie einfach autonom entwickelt werden und nicht zentralisiert.

00:21:24: aber lassen uns das Schritt für Schritt.

00:21:26: gerade im nächsten Kapitel werden wir auch darüber sprechen.

00:21:30: Apropos Daten Erinnert dich gerade die letzte große Serie, wo man über Data Entities gesprochen haben.

00:21:39: Da haben wir genau über das Thema gesprochen was halt schlechte Daten verursachen und ich setze da einen drauf für EI brauchst du nicht nur gute Daten sondern du brauchst vor allem eine Steuerbarkeit dahinter.

00:21:53: Gerade mit der EI verstärkt sich halt der Effekt auf einmal erheblich.

00:21:57: den schlechten Daten führen nicht zur schlechten Entscheidungen sie erzeugen zusätzlich mehr Nacharbeit Und mehr Modellaufrufe und wiederum höhere Kosten.

00:22:05: Also der Multiplikate wird auf einmal extrem sichtbar, und das wird jeden Enterprise-Architekt einem Schluss freuen weil er einfach einmal etwas hat mit dem man eigentlich hausieren kann und auf die eigentlichen technischen Schulden mehr und mehr hinweisen kann.

00:22:21: Weil die werden dich danach gerade bei EI relativ schnell einholen.

00:22:29: Kapitel vier Die Versteckten kosten.

00:22:31: drei war bei EIs.

00:22:33: Die Token sind selten, ja das Problem.

00:22:36: Das haben wir schon ein bisschen gesprochen.

00:22:38: Wie viel man braucht und wie das Modell günstiger ist

00:22:40: etc.,

00:22:41: aber aus meiner Sicht diskutieren wir einfach oft über den kleinsten Teil der Gesamtkosten.

00:22:48: ERM betrachtet immer das Gesamtsystem und genau deshalb reicht es halt nicht aus nur über die kleinen Dinge zu sprechen.

00:22:59: Gerade ich habe es vorhin ein bisschen angesprochen was extrem... teuer wird, sind diese shadow.ai.

00:23:06: die wollte ich schon wieder sagen denn gerade diese shadow ea erzeugt die neue komplexität im unternehmen.

00:23:16: du weißt nicht was das ist.

00:23:18: dann lass uns das mal näher betrachten.

00:23:22: jede abteilung beginnt halt irgendeine lösung zu bauen.

00:23:25: wenn wir über lösungen reden, reden wir jetzt über ea und zum beispiel marketing nutzt ein tool dj wieder ein anderes Und der Vertrieb nutzt von mir Salesforce und die haben da wieder ihre Sales Agents im Laufen etc.

00:23:40: Und bei Software Entwicklung wahrscheinlich klar hat, jetzt haben wir genau diese Kraut und Rüben von allmöchten Bereichen.

00:23:48: Services Windows nutzen unterschiedliche Shadow IDs so nenne ich das jetzt einfach einmal.

00:23:55: Das löst auch natürlich ein nächstes Problem gerade wenn wir regular talk sprechen oder kommen.

00:24:00: noch wieder zurück zum letzten folge gabannetzle.

00:24:03: ich spreche da nur über gabanetzle.

00:24:05: das ist recht spannend aber also auf jeden fall wo es hinkommt sind die verträge dahinter, die ich natürlich abschließen muss und ich muss das wirklich zentral halten können.

00:24:16: Und wenn ich das nicht zentrall halte dann werde ich der rediff schnell halt ein nightmare erleben denn die riesigen und die komplexität Die Wachs so enorm, die wirst du nicht unter Kontrolle bekommen.

00:24:29: Ich glaube ich muss das gleich auslösen wo die Kosten danach in die Höhe gehen werden.

00:24:34: wir haben doppelte Entwicklungskosten, doppelt Betriebsaufwände und wir haben unterschiedliche Ergebnisse weil du unterschiedliche Technologien und Modelle brammt etc.

00:24:44: hast.

00:24:46: ja der TCO dahinter da ist es nicht mehr den kannst vergessen ein kannst dann nachher in die Tonne treten weil dass alles unterschiedlich funktioniert Und wahrscheinlich wird es jetzt so funktionieren und morgen wieder komplett anders.

00:24:59: Governance kostet Geld, und oft sehe ich einfach viel kein Bedarf bei Unternehmen für Governance oder wenn nicht die Notwendigkeit.

00:25:09: Das ist halt sehr traurig, weil am Schluss sind alle Probleme passieren darauf, weil wir es nicht steuern können.

00:25:17: Gerade wenn es neue Prozesse geht oder neue Freigaben, neue Rollen, neue Regeln... Wenn du da die Governance hast dafür dann ist das eigentlich ja schon akumate Wiesen, wie man bei uns sagt.

00:25:29: Viel in den Governance verursacht immer mehr und mehr Kosten und sie werden immer höher.

00:25:36: umso weniger Governance zuhause.

00:25:39: Wir haben gerade in der letzten Folge bei Vierundzwanzig über Data Governance gesprochen und da ist vor allem halt Überverantwortlichkeiten und wie wir die Datenqualität dadurch verbessern.

00:25:50: für EI gilt der selbe Grundsatz.

00:25:53: deswegen ist Governance kein Kostenblock sondern Gavonensis-Kostenkontrolle.

00:25:59: Deswegen auch noch weiterführend ein wichtiger Satz, den ich hier niedergeschrieben habe.

00:26:05: Der teuerste Token ist der, der niemals hätte verbraucht werden müssen.

00:26:10: Ich glaube wenn man das sich aus Grundsatz in jedem Unternehmen einmeistelt dann wird man nicht zu hohe Kosten haben im Verbrauch.

00:26:29: Ah, natürlich lohnt sich das.

00:26:31: Aber EI ist leider kein Sparbuckramm.

00:26:34: und wer jetzt glaubt ich nutze EI und kann dann Personal einsparen?

00:26:39: Und dann ist der hier wirklich fehl am Platz.

00:26:45: Natürlich kann EI Prozesse beschleunigen oder Tätigkeiten automatisieren keine Frage.

00:26:50: aber die eigentliche Ziel sollte ja niemals sein Personal erbauen.

00:26:53: Man will ja jetzt nicht ein Unternehmen haben, was noch zu erst der Tausend Mitarbeiter hat und danach zwei.

00:26:58: Der Rest wird von ihr allgemacht.

00:27:01: Das wäre traurig!

00:27:02: Das eigentliche Ziel dahinter ist ja wie eine jede andere Technologie eine Verbesserung der Business Capabilities.

00:27:09: Und genau darüber haben wir auch schon letztens gesprochen wo bei Neunzehn wo so passierte Capability Budgetierung ging.

00:27:17: Wenn es Investitionen sollte nehmen die Leistungsfähigkeit des Unternehmens verbessern nicht einfach nur Kosten reduzieren.

00:27:24: Und so soll man auch die EI sehen.

00:27:27: Business Value ist mehr als Kosteneinsparung, Business Value entsteht auf ganzer unterschiedlichen Ebenen zum Beispiel halt durch schneller Prozesse, durch bessere Entscheidungen und die Qualität dahinter, höhere Datenqualitäten, kürzere Time-to-Market usw.

00:27:45: Das kann man natürlich nicht in Oreo M.A.

00:27:46: zu eins messen trotzdem kann eher einen erheblichen Beitrag zum Unternehmen Erfolg leisten.

00:27:54: EI muss an Business Capability gemessen werden, aus meiner Sicht sollten wir EI deshalb nicht danach bewerten wie viele Prompts geschrieben oder wie viele Agents eingeführt wird.

00:28:05: Die eigentliche Frage lautet welche Business Capabilities wurden verbessern dadurch?

00:28:09: Also der Business Capably Gap auf den haben wir es abgesehen um den wollen wir durch EI optimieren.

00:28:18: Somit verbindet Enterprise Architektur verbindet die Kosten und die Nutzung.

00:28:24: Und hier schließt sich der Kreisstaat wieder einmal, denn wir schaffen damit Technologie wird richtig nicht nur bewertet sondern wir verbinden halt genau Strategie, die Business Capability ist, die Daten, die Anwendungen, die wir nutzen und die Technologie darunter, die uns ermöglicht den Business Value zu stabilisieren oder besser zu verbessern.

00:28:46: Und an dieser Stelle wäre das jetzt für uns EI.

00:28:49: früher war es das Internet Davor war es vielleicht die Dampfmaschine.

00:28:54: Wer weiß?

00:28:59: Kapitel sechs, die Rolle der Enterprise-Architektur.

00:29:04: Jetzt wird's spannend!

00:29:06: Vor einigen Jahren hat sich kein Mensch für die EM interessiert.

00:29:09: Heutzutage geht fast nichts mehr ohne uns und seit EI da ist glaubt man kann verschiedene Elemente der EM abschaffen durch irgendwelche Tools, die das für uns danach ermachen.

00:29:24: Ich denke eher dahinter, wir kriegen damit noch mehr Steuerbarkeit und mehr Kontrolle, aber die eigentliche Arbeit dahinter wird sich nicht auflösen deswegen.

00:29:32: Denn wenn ein Unternehmen heute ihr einführen möchte lautet die erste Frage welches Modell sollen wir einsetzen?

00:29:38: Und dann bin ich jetzt vom AI-Caste innen, von dem ich wenig halte sondern... Ich hab's gelaufen schon ein bisschen angesprochen.

00:29:46: Wir sollten uns eher darum kümmern, welche Business Capability Gaps ich damit lösen möchte.

00:29:50: Somit habe ich mein Case!

00:29:51: Also spart euch die Frage welchen Case ich benötige.

00:29:55: Schaut es auf eure Business Capabilities.

00:29:58: und nochmal zurück.

00:29:59: jetzt zum Modellgeschichte.

00:30:00: das sollte auf keinen Fall die erste Frage sein denn die erste frage sollte sein welches Business Problem wo will ich damit Lösen?

00:30:07: also der Gap?

00:30:08: Welche Capability soll verbessert werden?

00:30:10: Welche Daten benötigen wir um das zu ermöglichen und welche Prozesse muss ich schaffen oder verbessern, oder abändern oder sogar vielleicht entfernen.

00:30:21: Erst danach soll ich mir die Frage stellen zum Modell.

00:30:24: aber das Modell ist noch immer nicht der Ausgangspunkt für alles.

00:30:28: es ist ledig ein Baustein der Lösung die ich mir baue.

00:30:32: ja er ist kein eigenes Silo und da sollten wir auch so sehen.

00:30:38: Das blöde an der ganzen Geschichte hier ist jetzt leider.

00:30:41: Wir müssen sehr viele neue Business Capabilities erstellen, die wir noch gar nicht kennen und die Ausprägung nicht kennen oder das Ziel dahinter.

00:30:51: Wir müssen uns über AI-Bigetierungen Gedanken machen, über AI Plattformen, über ganze AI Teams wo sich jeder Spezialist darstellen möchte und natürlich die Roadmaps dahinter.

00:31:06: Natürlich braucht es Ganze auch noch Aufmerksamkeit Und diese Aufmerksamkeit muss für jemand geschenkt werden Und vielleicht gibt es sogar eine IEI-Aufmerksamkeitsteam, dass die IEi oder die Iei beeinflusst sehr viele Themengebiete.

00:31:23: Und das sind vor allem die Software und die Anwendungen, die wir im Unternehmen haben in den Daten, die daraus stehen und weiterverarbeitet werden können.

00:31:32: Die Prozesse werden sich verändern und wer ein sauberes BPM schon aufgesetzt hat der wird davon profitieren.

00:31:41: Wer ja schon auch ein Business Capability Map hat, die wird daraus sehr gut profitieren können.

00:31:48: ERM macht halt eher steuerbar.

00:31:51: Am Ende geht es ja nicht darum wie viel ERI du einsetzt.

00:31:56: Es geht eigentlich mehr darum dass du ERI bewusst einsetzt.

00:32:00: ERm beantwortet dabei halt genau diese Fragen.

00:32:03: halt wo schafft man damit halt einen größeren Business Value?

00:32:08: oder welche Standard Software kann ich damit eigentlich vergessen?

00:32:12: kann ich einkaufen.

00:32:14: Und wo brauche ich halt individuelle Entwicklungen für die EI, weil das einfach aus dem Standard nicht geht oder ich auch das mit sehr viel Betriebsgeheimnissen ausstatten möchte?

00:32:25: Gerade auch die Risiken, die daraus entstehen, kann ich halt jetzt ja gut auch mit EM betrachten.

00:32:31: Somit wird auch die EIs zu einer strategischen Unternehmensfähigkeit und da muss sie auch hin um im Endeffekt diesen Business Value ins Unternehmen treiben und vor allem steuern zu können.

00:32:47: Die Enterprise-Aktur bewertet nicht das ganze jetzt intelligent ist oder nicht, wir bewerten nur dahinter welchen Beitrag dass zum Unternehmenserfolg hat.

00:32:59: damit schließe ich auch der Kreis wieder an dieser Stelle ja einfach verändert nicht die nur die Technologie.

00:33:06: es verändert die Art und Weise wie wir Investitionen bewerten Architektur gestalten und Business Value einen Schluss erzeugen können.

00:33:19: Und so sind wir auch schon wieder am Ende dieser Folge angelangt.

00:33:22: In dieser Folge haben wir ja gesehen, dass EA eine völlig neue Kostenlogik mitbringt.

00:33:28: Wir haben darüber gesprochen, dass der TCO den letzten Monaten mitgegeben habe so nicht tragbar ist und welche Kostenarten durch EA entstehen.

00:33:42: Wie wichtig auf einmal etwas geworden ist.

00:33:44: Also wir alle kennen aus der Enterprise Architektur, aber jetzt halt ein Mehrwert auch für andere Bereiche schlagartig bringt und das sind halt genau die Daten und die Governance.

00:33:55: Und dieser direkte Einfluss hat auf die Wirtschaftlichkeitsunternehmen.

00:34:00: Für mich persönlich ist EI viel mehr nur aus Technologie- und Software.

00:34:05: Für mich verändert das eine gesamte Sicht auf jede Art von Investitionen.

00:34:14: Das wird sich gerade die nächsten Monate vielleicht schon extrem zeigen, wie viele Unternehmen noch am Markt bleiben werden und welche relativ schnell weg sind.

00:34:24: Ein kleiner Gedanke noch zum Schluss.

00:34:28: Ich denke du sollst ja auch, wie ich halt diese Frage stellen oder nicht?

00:34:34: diese Fragen stellen, welchen Ei kaufen wir?

00:34:38: Welcher Typ, welche Modelle und so sondern einfach wo schafft das dem WebU?

00:34:43: schafft den größten Business Value und dabei halt immer noch die Treiber mit rein berechnen, Architektur, Daten und Governance.

00:34:54: Und dann ist das eigentlich relativ gut gegessen und argumentierbar gerade Richtung eine Geschäftsführung wo es Sinn macht.

00:35:02: und macht es wirklich in allen Bereichen von Anfang an Sinn?

00:35:04: ich denke mal nicht.

00:35:05: Ich denke gerade die wichtigsten Zeitkapabilität An der Stelle anzufassen, macht auf jeden Fall mehr Sinn aus wie gleich in die heiße Suppe reinzugreifen und sich die Finger zu verbrennen.

00:35:24: Schon mal ein kleiner Ausblick für die nächste Folge.

00:35:27: Dabei geht es um EI Demands und warum erfolgreiche EI Initiativen überhaupt nichts mit der Technologie zum tun haben und dort schon nicht beginnen dürfen.

00:35:39: Ich freue mich schon oft das nächste Mal wenn du wieder dabei bist.

00:35:42: Bis dahin!

00:35:43: Servus und Papa bis auf bald.

00:35:46: Untertitel im Auftrag des ZDF.

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.