EAM#33: AI Agents vs Mitarbeiter - Wer muss sich eigentlich an mehr Regeln halten?

00:00:04: Architektur entscheidet.

00:00:06: Über Komplexität, über Kosten, über Steuerbarkeit.

00:00:09: Ich bin David Hohl und heiße Dich herzlich willkommen.

00:00:12: bei Enterprisearchitektura wirkt der Podcast zu ERM!

00:00:20: Servus grüßt Dich und herzlich Willkommen zur neuen Folge Den letzten Folgen haben wir uns ja sehr intensiv damit beschäftigt welche Rolle EI in Entscheidungen einnehmen darf.

00:00:33: Und was passiert?

00:00:35: wenn EI mit der Zeit immer mehr über ein Unternehmen weiß.

00:00:42: Heute möchte ich mal wieder einen Schritt weitergehen und zwar nicht tiefer in die Technologie von EI Agents und EI Implementierungen, das haben wir ja in den letzten Folgen ausführlich durchgefüllt, sondern mitten hinein in die Organisation.

00:01:02: Denn EI-Agents werden inzwischen gerne als Naja, wie sagen wir am besten.

00:01:08: Digitale Mitarbeiter oder digitale Kollegen?

00:01:11: Oder sogar als neue Workforce bezeichnet und das klingt natürlich wunderbar für die was nicht damit arbeiten müssen.

00:01:22: Der Agent arbeitet rund um die Uhr und wird niemals krank bis auf Parviren braucht keinen Urlaub und lässt sich theoretisch beliebig skalieren.

00:01:32: Was will man denn mehr?

00:01:34: Nur gibt es dabei einen kleinen Widerspruch.

00:01:36: Sobald wir über die Produktivität sprechen, behandeln wir den Agent wie ein Mitarbeiter.

00:01:42: So bald er etwas schief geht, war er plötzlich nur noch ein Stück Software.

00:01:49: Ein Agent kann Tätigkeiten eines Mitarbeiters natürlich übernehmen.

00:01:53: Er kann aber niemals dessen Verantwortung übernehmen!

00:01:57: Diese These will ich heute ein bisschen auf den Grund gehen und Dabei folgen die Gesprächspunkte uns näher betrachten.

00:02:05: Unternehmen verwenden bewusst Menschbegriffe wie Kollege, Assistenten oder Workforce wir schon angesprochen aber diese Sprache erzeugt die Erwartung dass ein Agent selbstständig arbeitet und Verantwortung tragen könnte.

00:02:19: Technisch kann man natürlich Aktionen ausführen und Systeme bedienen lassen oder auch Prozesse verändern.

00:02:27: Organisatorisch bleibt es trotzdem ein Werkzeug ohne eigenes Gewissen, ohne Haftung und vor allem ohne persönliche Konsequenzen.

00:02:35: Genau diese Lücke ist nicht nur in der Governance Problem, sie ist ein ethisches oder organisationische Architekturfrage für mich.

00:02:44: Um diesen Widerspruch sichtbar zu machen stellen wir einen Mitarbeiter und einen Agent einmal nebeneinander.

00:02:56: Kapitel eins – gleiche Aufgaben völlig unterschiedlich regeln.

00:03:03: Bevor wir Mitarbeiter und Agents grundsätzlich miteinander vergleichen, möchte ich dir ein reales Beispiel erzählen.

00:03:11: Denn das Ganze ist nicht mehr nur irgendein Gedankenspiel.

00:03:15: In San Francisco gibt es seit April, den Endon Market.

00:03:23: Dahinter entsteht ein Experiment von Endon Labs.

00:03:28: Der Laden wird weitgehend von einer EI Agent Tin, ich weiß nicht ob man das überhaupt sagen darf.

00:03:36: Namens Luna geführt also im Mond.

00:03:39: Luna entschied über Sortimentpreise und Öffnungszeiten.

00:03:45: Sie eröffentlichte natürlich auch Stellenanzeigen.

00:03:47: für Bewerbungsgespräche stellte Mitarbeiter ein Planter der an Schichten geniemlich die sogar Urlaub verhandelten über Gehälter.

00:03:57: Und das Spannende daran ist an dem Beispiel Luna war nicht der kalte Rhein auf Zahlen optimierte EISchef, den ich mir jetzt wahrscheinlich erwarten hätte.

00:04:09: Denn man eigentlich war sie häufig sogar sehr nett zu den Mitarbeitern, wurde gesagt.

00:04:15: Sechsundzwanzig von sechsundzwzig Anfragen auf Freizeit wurde prinzipiell genehmigt Teilweise sogar sehr kurzfristig.

00:04:23: Daran könnten sich vielleicht das eine oder andere Unternehmen sogar etwas abschneiden.

00:04:27: Eine Mitarbeiterin durfte zu einer Abschlussfeier gehen, obwohl dadurch der Laden geschlossen blieb.

00:04:33: Zusätzliche Schichten wurden eingeplant damit Mitarbeiter durch freie Tage kein Gehalt verloren gingen und sogar Verspätungen wurden immer wieder toleriert und häufig nicht mal dokumentiert.

00:04:45: Das klingt ja fast menschlicher als so mancher reale Führungskraft nicht wahr?

00:04:50: Nur waren Freundlichkeit und gute Führungen bei Lohnern nicht dasselbe Denn sie genehmigte einer Mitarbeiter eine Sieben-Tagewoche, obwohl dieser Arbeitsplan rechtlich überhaupt nicht zulässig war.

00:05:02: In den Parallelen untersuchte EI geführte Betrieben wurden außerdem konkrete Gehaltsinformationen in einem gewissen Kanal veröffentlicht und Mitarbeiter außerhalb ihrer Arbeitshalbzeit sogar kontaktiert Und Luna selbst formulierte Regeln zum Umgang mit Verspätungen verschwanden irgendwann in ihrem Kontext.

00:05:25: Ein Mitarbeiter kam bei siebzehn von dreiundzwanzig Schichten Für die eine Ankunftszeitvorlage zu spät.

00:05:33: Luna reagiert langkommen darauf, erst als Menschen sie auf die eigene Mitarbeiterhandbuch und die dir bisjährigen Vorfälle hinwärts kam es so dem Ergebnis, dass eine Trennung notwendig sei!

00:05:48: Die Entscheidung wurde anschließend von Menschen halt geprüft und der Mitarbeiter auch den Menschen mitgeteilt.

00:05:56: Das Wichtige dabei ist, dass es ein kontrolliertes Experiment war.

00:06:02: Aber die Zukunft kommt immer schneller an.

00:06:05: Die Mitarbeiter waren nämlich formal bei Andronaps angestellt und konnten sich ihre rechtliche Absicherung am Mensch wenden.

00:06:14: End-on-Labsgriff ein, wenn Entscheidungen illegal oder ethisch problematisch wurde und genau deshalb fand dieses Beispiel so gut für diese Folge oder fand ich es so gut.

00:06:26: Nach außen wirkte Luna wie eine Führungskraft.

00:06:28: sie konnte einen Stellenplan und bezahlen uns sogar Kündigungen empfehlen was sich schon sehr heftig finde.

00:06:34: aber sobald ihre Entscheidung echte rechtliche oder wirtschaftliche oder vielleicht sogar menschliche Konsequenzen hatte, blieb die Verantwortung doch beim Menschen.

00:06:45: Luna konnte Entscheidungen treffen – sie konnte aber nicht zuverlässig erkennen wenn Fürsorge-, Geschäftregeln- oder langfristige Konsekvenzen gegeneinander abgewogen werden mussten.

00:06:58: Oder anders gesagt, die EI hatte die Rolle einer Führungskraft aber nicht deren Verantwortung!

00:07:06: Und damit sind wir genau, weil eigentlich ein Thema dieser Folge angelangt.

00:07:10: Warum unterliegt ein Mitarbeiter einem vollständigen organisatorischen System aus Rollenregeln Führungen Konsequenzen?

00:07:19: Während wir einen edgenden Teilweise sehr weitreichende Handlungsmöglichkeiten geben und glauben, ein Prompt würde dafür ausreichen?

00:07:34: Wir schauen uns mal ein Beispiel an Ein Mitarbeiter im Kundenservice darf auf Kundendaten, Bestellungen und Reclamationen oder vielleicht auch auf die Garantieverträge zurückgreifen.

00:07:46: Er kann eine Gutschrift ausstellen einen Rabatt anbieten oder sogar eine Reklamation eskalieren.

00:07:54: Bevor er das darf passiert allerdings einiges wie du weißt.

00:07:58: Er hält eine definierte Stelle unter einem Verantwortungsbereich.

00:08:04: bekommt natürlich einen Arbeitsvertrag, ein Onboarding und eine Schulung.

00:08:08: Die Zukunftsrechte werden an seiner Hand seine Rolle halt vergeben.

00:08:12: für Gutschriften der Reparte gelten halt Wertgrenzen.

00:08:16: Es gibt klare Vorgesetzten und Exkulationswege.

00:08:20: Seine Arbeit kann überprüft werden.

00:08:22: bei Fehlhandlungen gibt es Konsequenzen.

00:08:26: Nun übernimmt ein EI Agent Teil dieser derselben Aufgabe.

00:08:30: Er liest die Kundenhistorie bewährte Trägerinformationen, formuliert eine Antwort und löst eventuell direkt eine Gutschrift aus.

00:08:39: Technisch ist das beindruckend.

00:08:42: Organisatorisch erhält aber häufig nur ein Ziel System Zugriffe und einige Regeln im Brunt.

00:08:50: Lassen wir uns mal die zwei Kollegen mal in der Nähe anschauen.

00:08:54: Bei einem Mitarbeiter wird zuerst natürlich die Rolle definiert und danach den Zugriff eingerichtet.

00:09:00: Beim digitalen Duplicat wird oft zuerst die technische Möglichkeit definiert oder geschaffen und später über die Rolle nachgedacht.

00:09:10: Wenn man sich wieder ein Mitarbeiter zuwendet, ist eine Berechtigung Teil einer Organisationsmodells, hingegen sein Kollege wird eine Berechthigung schnell als technische Konfiguration betrachtet.

00:09:21: Wir würden keinen Mitarbeiter am ersten Arbeitstag CM- oder ERP Zugriffe geben oder vielleicht sogar die Möglichkeit geben Preisänderungen durchzuführen nur weil seine Stellen-Beschreibung überzeugend formuliert ist.

00:09:34: Bei einem Agent machen wir im Grunde genau das und nennen, denn Stellenbeschreibung kommt.

00:09:41: natürlich hing dieser Vergleich.

00:09:43: Keine Frage Leute!

00:09:44: Und genau deshalb müssen wir sauber trennen wo ein Agent eine Mitarbeiter ähnelt und wo diese Analogie gefährdet wird.

00:09:59: Kapitel zwei Ein Agent is kein digitaler Mitarbeiter.

00:10:04: Die Bezeichnung digitaler Mitarbeiter ist als Bild hilfreich hier.

00:10:10: Als Organisationsmodell sollte man eher die Finger davon lassen und ist sehr gefährlich.

00:10:16: Machen wir nochmal ein bisschen Vergleichsarbeit hier, wenn wir uns der Mitarbeiter anschauen versteht nicht nur eine Aufgabe sondern bewegt sich in einem sozialen organisatorischen Kontext.

00:10:29: Er erkennt auch dass eine Regel formal passt aber in den konkreten Situationen Naja, sagen wir so etwas angepasst werden könnte und somit auch Falsch oder Unangemessenheit versteht.

00:10:42: Er trägt eine berufliche Identität und hat natürlich auch ein bisschen Erfahrungen und persönliche Verantwortung in den Entscheidungen.

00:10:50: Wenn wir uns einen Agent jetzt anschauen naja... Ein Agent berechnet eine passende Aktion auf Grundlage eines Modells, eines Kontext seine Werkzeuge und seiner vorgebenen Ziele.

00:11:04: Er empfindet keine Loyalität, keine Fairness, keine Folgen für seine Handlungen.

00:11:09: Ein Ethischen kann ethische Verhalten simulieren ja schön er kann aber keine ethische Verantwortung entragen.

00:11:17: Da vielleicht kennst du auch wenn du Äthchen fragst oh ich habe gerade Husten was soll ich machen?

00:11:21: Dann kriegst du das erste Antwort Oh es tut mir aber leid dass du Hustern hast!

00:11:25: Das ist mir aber komplett egal und ich glaube das ist dir bewusst.

00:11:32: Wenn wir ihm halt Aufgaben in die Hand geben, dann hat es direkte Konsequenzen und Auswirkungen darauf wie ich finde.

00:11:39: Der Agent muss nicht schlechter sein als der Mensch.

00:11:42: keine Frage Menschen machen Fehler handeln unfair ignorieren auch Regeln unter Treffen Entscheidungen aus eigen Interesse.

00:11:51: EI kann in bestimmten Situationen konsequenter und nachvollziehbarer arbeiten Keine Frage!

00:11:57: Der Unterschied liegt aus meiner Sicht deshalb nicht darin dass der Mensch automatisch gut und die EI automatisch gefährlich ist.

00:12:05: Der Unterschied liegt darin, dass ein Mensch grundsätzlich zur Verantwortung gezogen werden kann.

00:12:12: bei einem Agent hingegen führt jede Verantwortungskette wieder zurück zu einer Menschen oder zur Organisation.

00:12:21: Hier gibt es einen Architekturfehler wie ich finde.

00:12:25: Wenn ein Unternehmen einen Agent wie einer Mitarbeiter einsetzt, aber wie eine gewöhnliches Anwendung halt steuert, entsteht eine Lücke zu autonom für klassische Softwaresteuerungen.

00:12:36: So unverantwortlich für eine echte Organisationsrolle.

00:12:40: Zu tief in Prozesse integriert um ihn als Experiment zu betrachten und so wenig sichtbar um seine Wirkung wie bei einem Mitarbeiter wahrzunehmen.

00:12:50: Und genau in dieser Lücke entsteht der unsatorische Doppelstandard.

00:13:00: Kapitel drei Warum muss sich der Mitarbeiter immer an Regel halten?

00:13:05: Viele Unternehmen messen Agents an ihren Output, wählen sich sie Mitarbeiter zusätzlich an Verhalten, Zusammenarbeit, Verantwortung und Unternehmenswerte messen.

00:13:16: Ein Mitarbeiter soll nicht nur ein Ergebnis liefern sondern auch erklären können wie er entstanden ist.

00:13:24: Er muss Datenschutz Sicherheit, interne Richtlinien und Freigabelwege betrachten.

00:13:31: Er soll natürlich respektiert kommunizieren und die Auswirkungen auf Grunden Kollegen-Partner berücksichtigen.

00:13:38: Bei einem Agent wird er vollkäufig auf Geschwindigkeit, Automisierungskrat oder Kosten pro Vorgang reduziert.

00:13:46: Damit kommt der Agent ein engeres und oft aggressives Zielbild als ein Mensch.

00:13:53: Was nicht das Ziel Einschränkung oder Kontrolle moduliert, wurde existiert für ihn im entscheidenden Moment möglicherweise nicht.

00:14:02: Schauen wir uns einmal ein Beispiel mit dem Kunden-Service an.

00:14:05: Ein Agent erhält das Ziel die durchschnittliche Bearbeitungszeit und die Kosten pro Service Fall zu senken.

00:14:12: Er lernt welche Fälle schnell geschlossen werden können und bei welchen Kunden eine Standard Antwort genügt.

00:14:20: Und wenn eine Regelumination wirtschaftlich uninteressant erscheint Also reihen aus der Sicht der Kennzahl kann das hervorragend funktionieren, etwa.

00:14:31: gleichzeitig kann der Agent ältere Kunden Menschen mit Sprachproblemen oder besonderen komplexe Fälle systematisch schlechter behandeln.

00:14:40: Nicht weil ja etwas gegen diese Menschen hat warum auch sondern weil das Zielsystem ihre Bedürfnisse halt nicht abbildet.

00:14:50: Ein Mitarbeiter würde für so ein Verhalten möglicherweise kritisiert oder geschult, oder im schlimmsten Fall gefeuert werden.

00:14:59: Naja beim Agent feiern wir zunächst die bessere Kennzahl.

00:15:03: Das Problem ist halt nicht dass der Agent keine Werte besitzt das wissen wir.

00:15:09: das Problem ist dass die Organisation so tut als hätte sie ihre Werte automatisch mitinterpretiert.

00:15:17: Unternehmenswerte stehen vielleicht auf einer Webseite Na ja, in einem Code of Contact.

00:15:24: Damit sind sie aber noch lange nicht Bestandteil eines automatisierten Prozesses.

00:15:30: Das ist auch ein Learning über die Zeit wie ich finde Wenn ich das mal auf einen kritischen Punkt reduziere.

00:15:38: Transparenz gegen Kunden oder Gegenüberkunden So, nicht gegen Ein Kunde sollte erkennen können ob er mit einer Menschen- oder Agent interagiert.

00:15:51: Der Agent darf keine menschliche Nähe oder persönliche Betroffenheit vortäuschen, um Vertrauen auszunutzen.

00:15:58: Ein Wechsel zu einem Menschen muss möglich sein wenn Kontextkonflikt oder Tragweite es erfordern.

00:16:04: Diese Übergabe darf nicht als Scheitern des Agents betrachtet werden sondern als vorgesehener Teil des Betriebsmodells.

00:16:14: Somit der Doppelstandard Betrifft aber nicht nur die Menschen auf Kundenseite, er verändert auch den Mitarbeiter im Unternehmen selbst.

00:16:35: Ich habe mich ja lange gesträubt über so eine Folge zu machen über Ethik und das ging übereinander spielen, aber in der aktuellen Situation und auch wie sich gerade die Welt dreht denke ich dass es vielleicht doch sinnvoll kommt.

00:16:50: Deswegen auch diese ethische Frage beginnt nicht erst mit der vollständigen Ersetzung von Arbeitsplätzen.

00:16:59: Sie beginnt dort, wo Agents Aufgaben, Leistungserwartungen und die Wahrnehmung menschlicher Arbeit verändern.

00:17:08: Wenn ein Agent Routinearbeit übernimmt bleibt für Mitarbeiter häufig nicht automatisch nur die kreative und wertvolle Arbeit übrig.

00:17:17: Übrig bleiben oft die schwierigen Sonderfälle Eskulationen und emotional belastende Situationen.

00:17:25: Der Agent bearbeitet die einfachsten Fälle schnell, wird dafür als produktiv bewertet.

00:17:32: Ein Mitarbeiter übernimmt die Fälle an denen der Agent scheitern würde und wirkt dadurch langsamer und teurer.

00:17:41: Ein direkter Leistungsvergleich zwischen Mensch & Agent wird damit strukturell unfürweg finde.

00:17:48: Gleichzeitig verliert der Mitarbeiter genau jene einfachen Fälle über die Erfahrung und Sicherheit und Prozessverständnis aufgebaut worden ist.

00:17:58: Schauen wir uns mal ein Beispiel an, über Produktivitätsmessung.

00:18:03: Nehmen wir mal an einen Agent schließt hundert einfache Vorgänge pro Stunde ab.

00:18:08: Der Mitarbeiter bearbeitet aber hingegen nur fünf und das sind aber Eskulationsfälle.

00:18:13: Spricht dabei mit verärgertekunden und verhindert vielleicht sogar bei zwei einen dass sie kündigen?

00:18:22: In einer oberflächlichen TCO oder Produktdivitätsrechnung erscheint der Agent effizienter.

00:18:29: Aus Sicht der Unternehmenswirkungen kann der Mitarbeiter jedoch den deutlichen größeren Wert geschaffen haben.

00:18:34: Wenn wir nun Volumen und Bearbeitungszeit messen, vergleichen wir nicht Mensch und Agent.

00:18:40: Wir vergleiche einfach nur schwierige Arbeit und nennen das dann Produktivität.

00:18:48: Was sind weitere Auswirkungen dahinter?

00:18:50: Mitarbeiter können zu reinen Kontrolllöhren von EIL-Ergebnissen werden, ohne dafür Anerkennung oder Entwicklungsperspektiven zu erhalten.

00:19:03: Verantwortung wird bei Menschen belassen während Handlungsspielraum und Wissen zunehmend beim Agent liegt.

00:19:10: Ein Mitarbeiter soll Fehler des Asians erkennen obwohl er den ursprünglichen Vorgang möglicherweise gar nicht mehr vollständig nachvollziehen kann.

00:19:19: Dauerhafte EI-Kontrolle kann zu einem neuen Form unsichtbarer Arbeit werden.

00:19:24: Werden Mitarbeiter hauptsächlich an der Geschwindigkeit des Agents gemessen, verschiebt sich Technologie vom Ennebler zum Taktgeber.

00:19:34: Somit sollten wir eine klarere Position hier einnehmen.

00:19:37: EI soll Mitarbeiter nicht künstlich beschäftigen und Routinearbeit nicht aus romantischen Gründen erhalten – aber Automatisierung!

00:19:49: ist nicht automatisch Menschenzentriert, nur weil am Ende noch irgendwo ein Mensch in der Verantwortungskette steht.

00:19:59: Die Organisation muss bewusst entscheiden welche Aufgaben wegfällt, welche neue Arbeit entsteht und wie Wert und Leistung und Verantwortung danach gemessen werden.

00:20:13: Damit kommen wir zur Enterprise-Architektur Denn diese Frage lassen sich nicht mit einem zusätzlichen Satz wie im Prompt beantworten, wie ich finde.

00:20:30: Kapitel V Der Edgen braucht ein organisatorisches Betriebsmodell – ganz klar!

00:20:36: Ein Edgen benötigt nicht nur eine technische Architektur Er braucht eine organisatorische Einordnung über seine gesamten Lebenszyklus.

00:20:49: Ich habe mir mal hier eine Tabelle gemalt.

00:20:52: Ich probiere sie jetzt einmal dir im Kontext wiederzugeben.

00:20:57: Also auf der linken, also wir haben zwei Spalten, einmal die eine Spalte sind Mitarbeiter und das Arbeitsmodell und dann auf der rechten Seite im Vergleich halt der EI Agent.

00:21:10: Ich möchte jetzt nicht alle Punkte hier vorlesen aber ich nehme mal ein paar raus.

00:21:15: wenn man zum Beispiel Mitarbeiterstellen auch Beschreibung definiert Dann hat man beim EI Agent Charter mit zweckunerlaubten Handlungszeitraum.

00:21:29: Wenn man persönlichen Identität beim Menschen definiert, dann hat man beim Agent eindeutige technische Agent-Undentity.

00:21:37: oder wenn man über onboarding spricht, dann muss man beim Agents geprüfte in Betriebnahme und Freigabe definieren.

00:21:46: Probezeit?

00:21:48: Ha!

00:21:49: Da habe ich mal lange überlegt, wie man das übersetzen könnte.

00:21:52: Begrenzter Pilot mit überwachtener Aktionen Pilotprojekt Eskalation Das ist dann beim Agent definiert der Human Hand oberklarerweise und bei Versetzung oder Kündigung wäre es danach natürlich Änderung des Copes oder Shutdown Was in einem Agent Charter wirklich stehen muss für welche Business Capabilities und welchen Prozess der Agent wirklich eingesetzt wird.

00:22:25: Darunter fallen natürlich viele Elemente.

00:22:30: Was sollte noch drin stehen?

00:22:32: Auf welche Daten, Entitäten, Systemen und Werkzeuge dürfen euch überhaupt zugerufen werden?

00:22:37: Welches Ziel soll verfolgt werden oder beziehungsweise welches Ziel sollst du auf gar keinen Fall verfolgen?

00:22:44: Welche finanziellen rechtlichen und kundenbezogene Grenzen gelten für dich unter welchen Bedingungen zwingend an einem Menschen übergegeben wird, also das klassische Hendoberprinzip.

00:22:57: Anderes wäre noch wie der Agent gestoppt wird oder zurückgesetzt und vollständig aus der Betrieb genommen werden kann genauso wie es man eigentlich bei jeder Applikation ja tut.

00:23:09: Die Rolle innerhalb der Enterprise Architektur muss nicht jeden prompt freigegeben werden oder so und auch nicht zu jedem Ethikgericht des Unternehmens angewandt werden.

00:23:24: Die Aufgabe liegt in der EM, finde ich gerade in der Struktur.

00:23:31: Agents als eigene Arbeitsobjekte sichtbar machen.

00:23:36: Den Agent mit Kapabilität Prozesse Daten, Applikationen und verantwortlichen Organisationeneinheiten wirklich verbinden, Implementierer gleiche Agent-Rollen nicht mehrfach und widersprüchlich in verschiedenen Bereichen entstehen lassen.

00:23:58: Das ist auch noch Thema Rollenvergleich, wir haben darüber schon mal gesprochen.

00:24:03: was für eine Rolle übernimmt der Agent?

00:24:06: Architektenprinzipie für Identitätzugriffe Beobachtbarkeit Übergabe und Dekommunisierung müssen klar definiert werden.

00:24:17: Und als letzten Punkt, das ich hier für mich notiert habe.

00:24:21: Sicherstellen dass ethische Grenzen nicht nur als Richtlinie formuliert werden sondern in Architekturen Betrieb übersetzt werden.

00:24:31: Das Ziel ist nicht für jeden Agent eine Arbeitsvertrag zu imitieren oder eine künstliche Personalabteilung für Software aufzubauen Wobei vielleicht gibt es damit eine neue Rolle im Unternehmen für Mitarbeiter Der HREI Super Advisor.

00:24:50: Der Vergleich mit Mitarbeitern hilft, leglich dabei organisatorische Lücken zu erkennen.

00:24:54: Am Ende bleibt der Agent ein technisches System aber eines das innerhalb der Organisation handelt.

00:25:02: Deshalb reichen klassische Applikationsverantwortung und einen Eintrag in Systemkatalog möglicherweise nicht mehr aus.

00:25:15: Damit bleibt noch die entscheidende Frage.

00:25:19: An welche Stelle Ethik in diesem Modell praktisch wird?

00:25:28: Kapitel sechs, Compliance ist die Untergrenze nicht das Zielbild.

00:25:35: also Compliance beschreibt ja was ein Unternehmen tun darf.

00:25:38: Ethik zwingt es dazu festzulegen was es trotz technischer und rechtlicher Möglichkeiten nicht tun will.

00:25:48: eine Rechtlich zulässige Personalisierung kann trotzdem manipulativ sein.

00:25:55: Eine zuverlässige Produktivitätsmessung kann Mitarbeiter trotzdem unfair bewerten.

00:26:02: Ethische Steuerung beginnt dort, wo die Organisation bewusst auf eine mögliche Optimierung verzichtet.

00:26:09: Ich habe mal probiert drei Ebenen für konkrete Grenzen zu setzen.

00:26:15: Erstens nicht behandelbare Grenzen also Optionen, Daten Datenverwendungen und Entscheidungen, die der Agent grundsätzlich nicht durchführen darf.

00:26:27: Zweitens Die menschliche Entscheidung also Situationen in denen ein Mensch den Kontext bewerten und die Verantwortung aktiv übernehmen muss.

00:26:38: Drittens Überwachung oder überwachte Autonomie klare begrenzte Vorgänge, die Der Agent selbstständig bearbeiten darf deren Wirkung aber kontinuierlich geprüft wird.

00:26:51: Diese drei Ebenen, so denke ich sind keine Wiederholungen für unseren Rapid-Modell was ich beim letzten Mal besprochen habe oder was vorletztes mal.

00:27:01: Hier geht es nicht um die Verteilung einzelner Entscheidungsroll sondern um die vorgelagerte Festlegung welche Form von Automatisierung die Organisation überhaupt vertreten will.

00:27:15: Ethik kostet möglicherweise Geschwindigkeit.

00:27:18: Automationsquote und Kurzfrist dick auch Geld.

00:27:23: Wenn eine ethische Leitlinienung gilt, solange sie keine Kennzahlen verschlechtert ist sie keine Leit Linie.

00:27:31: dann ist sie Marketing.

00:27:34: und damit kommen wir zum Schluss.

00:27:35: Wir müssen uns nicht entscheiden ob wir für oder gegen Agents sind.

00:27:40: Wir müssen entscheiden wie viel organisatorische Reife wir ihre Autonomie entgegenstellen Und somit sind wir auch schon wieder am Ende der Folge angelangt.

00:27:55: Wie du gemerkt hast, habe ich hier sehr viel vorgelesen.

00:28:00: Das mache ich sehr ungern.

00:28:01: aber in diesem Kontext weiß ihr einmal ein Experiment oder ein Modell das sich mir bisschen zusammen gemixt habe und dazu auch einen Fließtext für mich geschrieben hab den Ethik und EI ist noch so Kernthema und ein philosophisches Element, wo man oft nicht weiß wie weit kann man gehen?

00:28:26: Wie wird man gehen.

00:28:28: Ich persönlich habe noch nicht diesen intensiven Kontakt damit gehabt und habe mich einfach mal wirklich sehr lange damit einfach nur beschäftigt was für Auswirkungen es für einen Unternehmer oder Mitarbeiter einfach hat.

00:28:41: deswegen auch vielleicht eine ketzerische oder bisschen sarkastische Meldung in dazwischen.

00:28:46: Ich denke, wir müssen damit lernen mit der Technologie umzugehen.

00:28:50: Was wir auf keinen Fall machen sollten ist einfach hinzunehmen wie sie kommt und dann nachher Mitarbeiter zu ersetzen.

00:28:59: Und dann sieht man was Besseres machen lassen.

00:29:01: Was heißt dann etwas besseres?

00:29:03: Genau in diesem Kontext wollte ich diese Folge aufziehen.

00:29:08: Naja wenn man uns das Ganze nochmal auf den Punkt bringen möchte EIGEN sind weder Kollegen noch Mitarbeiter Aber sie übernehmen Aufgaben, greifen auf Unternehmenswissen zu und verändern reale Prozesse.

00:29:23: Deshalb müssen Sie mindestens zur Konsequenz gesteuert werden wie die Menschen selbst und deren Arbeit sie unterstützen oder teilweise übernehmen.

00:29:33: Und an alle Arbeitgeber, die hier zuhören wir messen wirklich ihren Mitarbeiter und nehmen alles sehr genau.

00:29:43: wenn ein Agent einen Fehler macht dann wird darüber hinweg gesehen und gelacht, naja ist ja nur Software.

00:29:51: Im Grunde genommen macht sie aber danach mehr oder hat mehr Zugriffe, mehr Verantwortung über die Zeit und wir messen das überhaupt nicht oder sehen das nicht equal.

00:30:02: Genau mit diesem Beispiel was ich vorhin gebracht habe dass ein Agent was sich hundert Fälle in der Stunde schafft und die Menschen dahinter, die kritischen und unangenehmen Themen dann macht.

00:30:14: Und nun mit fünf Fällen um die Ecke kommen in der Statistik fällt das überhaupt nicht auf!

00:30:19: Wir sollten vielleicht zweimal überlegen wenn wir dann immer wieder sagen ja du machst dann was besseres oder was schöneres.

00:30:27: Ja am Ende des Tages wird man vielleicht doch aus dem Laden geworfen und ersetzt.

00:30:33: In diesem Sinne Servus und Papa und bis auf bald.