Neues Modell, laufender Betrieb, was jetzt?

00:00:07: Hallo und herzlich willkommen zu einer neuen Folge unseres Podcasts KI Hands On, KI Themen die mittelständische und kleine Unternehmen wirklich bewegen.

00:00:18: Wir haben heute mal eine besondere Folge mitgebracht nämlich eine etwas technischere, die wir natürlich wieder an Business-Ziele anbinden werden Und mit dabei sind wie immer natürlich Nils und Arthur und ich, Sebastian!

00:00:31: Wir freuen uns dass ihr wieder zuhört.

00:00:34: Genau!

00:00:36: Unser Thema heute ist als Passwort ein neues Modell laufender Betrieb, was jetzt?

00:00:46: Vielleicht sollte ich dazu erstmal etwas erklären für diejenigen, die vielleicht technisch nicht so tief drin sind.

00:00:52: Es erscheinen ja am laufenden Band neue KI-Modelle von bestehenden Firmen, die neue schickere Frontiermodellen rausbringen.

00:01:02: Ja also jetzt das Beispiel.

00:01:03: kürzlich kam Wir waren auf Opus Sechs, plötzlich kamen wenige Wochen später Opus Sieben von Claude und dann kommen Opus Acht.

00:01:11: Mal schauen wie man Opus Neun kommt.

00:01:13: also nicht Acht sondern vier, vier sechs, vier sieben, vier acht.

00:01:18: ja wer weiß wann vier neun kommt wird wahrscheinlich auch sehr schnell gehen.

00:01:23: genau so Gemini oder Chat GPT.

00:01:26: es kommen ständig neue Modelle Und diese Modelle haben unterschiedliche Stärken, nur weil sie neuer sind.

00:01:32: Sind Sie deswegen nicht zwingend in allen Bereichen besser?

00:01:35: Es gibt ja eine Produktstrategie auch der der Firmen die diese Modellen auf den Markt bringen und Die haben normalerweise bestimmte stärken.

00:01:43: Ja so bedeutet jetzt also ich habe einen laufenden use case in meiner firma produktiv und Der läuft von mir aus auf Gemini drei punkt eins flash um willkürliches beispiel zu nehmen.

00:01:58: So, und jetzt kommt aber Gemini unveröffentliche drei Punkt fünf.

00:02:02: Und die Frage ist jetzt was genau passiert wenn ich einfach den selben Use Case mit dem selben Prompt, mit der selben Programmierung außen rum genauso laufen lasse?

00:02:11: Aber als Modell nicht Gemini three eins sondern Gemini trei fünf Anspreche!

00:02:16: Und die beeinfachte technische Antwort ist das muss nicht zwingend funktionieren.

00:02:23: Wir werden sicher gleich noch genauer herausarbeiten.

00:02:25: Was genau bedeutet das denn?

00:02:27: Das machen wir gleich im Gespräch, aber vielleicht erst mal.

00:02:30: das können wir nicht zwingend einfach austauschen als wäre nichts gewesen.

00:02:34: Ja,

00:02:35: d.h.,

00:02:35: dass kann etwas sein was einen produktiven Prozess erstmal bedroht.

00:02:40: Deswegen neues Modell laufender Betrieb.

00:02:42: und was mache ich jetzt?

00:02:43: Muss ich jetzt mitgehen weil es das neueste heiße Ding ist und es vermeintlich viel besser als alles vorher?

00:02:50: Und wenn ja wie sollte ich das tun?

00:02:52: wenn ich damit gehe Die These dazu ist, dass die KI-Modelle sich so viel schneller entwickeln als jeder IT Roadmap.

00:03:00: Wie gesagt innerhalb von jetzt ich glaube nicht mal acht Wochen gab es zwei neue Cloudmodelle und wer heute genau dafür einen Plan hat zum Beispiel unsere Empfehlung auf Manage Services setzt und darauf achtet das seine Prozesse upgrade fakes sind und Agil sehr gewinnt auf jeden Fall an Qualität und fängt nicht jedes Mal von vorne an.

00:03:23: Aber ich würde mal die Runde öffnen an euch.

00:03:25: Wie sind eure Erfahrungen damit?

00:03:27: Vielleicht nie ist bei dir wieder angefangen mit kleineren Unternehmen und Selbstständigen, wie gehen die so einen Wechseln mit?

00:03:35: Wie gehen sie mit zu was um?

00:03:36: Wie beobachten die das vielleicht auch erstmal, ob es solche neuen Modelle gibt?

00:03:41: Na ja ganz allgemein gesprochen kriegt das nicht unbedingt jeder Firmeigentümer mit.

00:03:50: Das ist je tiefer man natürlich auch in dieser ganzen KI-Entwicklung drinsteckt.

00:03:55: So eher hat man dann schnell Ansätze zu sagen, okay da kommt ein neues Modell.

00:04:01: Wo sind die Feinheiten?

00:04:02: Wo ist der Fokus vielleicht darauf gesetzt?

00:04:04: In welchen Bereichen ist es stärker?

00:04:06: In welche ist es vielleicht auch schwächer?

00:04:09: Das ist ja immer wieder so die Frage.

00:04:11: Tatsächlich unsere Kunden kriegen das teilweise mit und teilweise aber einfach nicht.

00:04:19: Wir gucken und das ist dem geschuldet, dass wir natürlich kleinere Unternehmen haben.

00:04:24: Teilweise nicht so komplexe Prozesse wie jetzt ein größeres Unternehmen, dass wird es schlank und einfach halten.

00:04:33: aber grundsätzlich gilt bei uns auch immer nie einfach produktiv schalten sondern es gibt gewisse Punkte zu überprüfen das ganze wenn überhaupt erst mal als Testmodell zu machen und checken.

00:04:46: Also da würde ich nie einfach zu sagen, okay wir stellen um und schalten herum.

00:04:50: Und los geht's!

00:04:53: Empfiehst du eigentlich deinen Kunden den Markt zu beobachten?

00:04:56: Und mitzubekommen wenn was kommt?

00:04:58: oder sagst du ne ich kümmere mich Oder sagst so nächstes erstmal ok wie es ist und wir überprüfen das in neun Monaten nochmal.

00:05:08: In der Regel machen wir das.

00:05:10: Also gerade kleinere Unternehmen haben meistens nicht die Manpower, um zu sagen Wir checken diesen Markt, wir gucken uns an Macht es Sinn?

00:05:18: macht das Nichts Sinn auch die Entscheidung nachher tatsächlich zutreffen qualitativ von dem wir sind wir da neben der Einführung eigentlich immer ein Sparringspartner und einen Support Partner quasi über das Projekt hinaus Um genau diese Dinge zu bewerten und dann anzusprechen wenn's relevant wird.

00:05:35: Okay, was sagst du Artur?

00:05:37: Was sind deine Erfahrungen jetzt gerade bei mittelständischen Unternehmen also etwas grösser mit eigenen Abteilungen die das auch in Zweifel haben.

00:05:44: Was sind Deine Erfahrungen in die Richtung?

00:05:47: Ja es war ja auch mein Wunsch quasi dass wir über dieses Thema heute mal sprechen und ich würde mal anders einleiten.

00:05:56: Also ich park mal kurz eine Frage.

00:06:00: Es ist ja so Und ich weiß gar nicht warum sich das eingespielt hat, dass jedes Mal wenn irgendwo ein neues Modell rauskommt

00:06:07: alle

00:06:08: möglichen sozialen Netzwerke überall alle Posten hier.

00:06:12: Das ist das neueste Modell das kann X das kann.

00:06:14: Y also das wird sofort gehalten und Ich stelle mir gerade so aktuell die Frage Warum eigentlich?

00:06:23: Also Wenn jetzt irgendwie Winrar eine neue Version rausbringt, dann juckt das

00:06:28: niemand.

00:06:31: Oder wenn mein iPhone

00:06:33: oder mein Tesla ein Update runterlädt... Ja!

00:06:37: Dann lädt er einen Update drunter und hat dann ne neue Version.

00:06:41: Und dann ist vielleicht irgendwie den Knopf ein bisschen anders aber es juckt ja kein.

00:06:45: Warum ist das bei Kis?

00:06:49: Ich habe keine Theorie warum das so ist weil's vor allem zu Beginn, so in den ersten Monaten und vielleicht auch in den erstens zwei drei Jahren ja auch immer so eine krasse Steigerung war.

00:07:00: Spoiler!

00:07:01: Ich finde so eine krasse Steigerung ist es jetzt gar nicht mehr.

00:07:04: Also ich nutze sehr, sehr häufig Claude und dann nutze sich das Modell Sonnet.

00:07:10: vier Punkt irgendwas weil's für das Meister ausreicht was ich tue.

00:07:15: ja aber ich wollte über das Thema sprechen weil wir jetzt vor kurzem bei einem Kunden ein hochproduktives System wo wirklich hunderte Menschen dran quasi dran arbeiten und abhängig sind, dass dieser Prozess funktioniert.

00:07:33: Dort hatten wir jetzt ein Change.

00:07:36: Wir hatten noch einen Change von einem Modell auf dem anderen, weil jetzt ein neues rauskam.

00:07:42: Und ich habe so ein Bößchen mitbekommen was man da... wie die Ergebnisse dann wurden, die quasi dieser Prozesse gebaut hat?

00:07:49: Ja!

00:07:50: Ich weiß, ich rede sehr kryptisch gerade, denn wir kommen gleich ein bisschen mehr in die Feinheiten Und deswegen möchte ich die Frage quasi mehr in Deine Richtung Sebastian ziehen, weil du ja viel enger an den Projekten dran bist als ich.

00:08:02: Wie war's denn?

00:08:03: Also ich hab nur gehört es wurde erst mal nicht besser, sagen wir mal so.

00:08:07: Genau, aber dann

00:08:08: schon!

00:08:09: Es wurde erstmal nicht besser.

00:08:11: im Gegenteil.

00:08:12: also bei dem Prozess gehts drum der ist ein hochvolumiger Prozess der zur Echtzeit läuft und zwar jeden Tag.

00:08:19: Es kommt Daten rein Pro Tag werden etwa fünfhundert Dateien eingeschickt und das, was wir da haben ist eine KI-Pipeline die diese Dateien auswertet.

00:08:29: Ja und dann trifft er eine ja nein Entscheidung?

00:08:33: Ist das gut oder ist es nicht gut?

00:08:35: und ergibt eine Begründung ab.

00:08:37: Das heißt man kriegt erstmal ja nein und ne ausführliche Begründen dazu.

00:08:42: Fünfhundertmal am Tag daran hängt ein kritischer Geschäftsprozess.

00:08:46: Und jetzt... Wir waren Kann ich sagen, wir waren auf dem Modell Gemini three-eins Flashlight und haben sämtliche Schritte dieser KI Pipeline.

00:08:55: Das läuft durch zwölf einzelne Schritte mit diesem Modell abgebildet.

00:09:00: Erst mal werden aus den PDF Daten sind das werden Daten extrahiert dann werden die verarbeitet da werden die anonymisiert Werden Metadaten abgeleitet Dann werden bestimmte Informationen rausgezogen Und dann wird schließlich im nächsten Schritt diese ja nein Entscheidung getroffen und dann passiert eine Begründung davon.

00:09:19: Und das heißt, wir hatten von diesen fünfhundert Dateien die am Tag reinkamen.

00:09:23: Hatten wir mit dem laufenden produktiven Betrieb auf Gemini three-eins Flashlight Hatten wir eine Eine Call Rate also eine Jahrentscheidung bei knapp unter zehn Prozent.

00:09:36: Ja fünftig von fünfhundert waren ja.

00:09:39: In dem Moment wo er gesagt haben super neues Modell probieren wir gleich mal aus Selbstverständlich nicht im Produktivbetrieb sondern in einer Testumgebung sogar Entwicklungsumgebungen an der Stelle, hatten wir plötzlich eine Call Rate von fünfzig Prozent.

00:09:53: Das heißt etwa zweihundertfünfzig von fünfhundert Schritten waren.

00:09:59: Dateien wurden als

00:10:00: gut

00:10:01: bezeichnet und das ist plötzlich sehr kritisch weil davon hängt ja was ab.

00:10:05: also das zahlt ja ein auf einen relativ komplexen effizienten automatisierten Geschäftsprozess Und da hängt natürlich dieses Jahr rein dran.

00:10:14: und wenn plötzlich irgendwie fünfmal so viele Jahrtreffer kommen, dann ändert das was.

00:10:19: Erst mal die Frage ist das überhaupt schlechter?

00:10:22: Ja vielleicht sind ja wirklich alle ja oder Ist das... Was tut das denn?

00:10:29: warum verhält sich das so?

00:10:30: Das heißt es war jetzt wieder unsere Aufgabe rauszufinden okay Jetzt mal Schritt für Schritt ingenieren.

00:10:35: woran liegt das?

00:10:36: Sind die Ergebnisse vielleicht sogar valide?

00:10:38: Ja, kann man sich aus diesem Test-Sample was wir an dem Tag reingeschossen hatten sind da vielleicht zweihundertfünfzig Jahre dabei.

00:10:46: Also haben wir das immer wieder rückwärts gemacht und die selben Tester teilen immer so ein Sample von fünfhundert gegen verschiedene Modelle laufen lassen festgestellt in die Jamminer III V Lite.

00:10:57: Das neue Modell ist hier sehr viel knädiger Und dann haben wir uns angeschaut, okay.

00:11:02: Wir haben jetzt zwei Möglichkeiten.

00:11:03: Wir verwenden das und fine-tune dass eben das was man im laufenden Betrieb tut auch in einem managed service Weil es besser ist vielleicht oder?

00:11:13: Wir behalten das ursprüngliche bei weil das hat funktioniert das getestet das läuft produktiv Das ist super.

00:11:18: ja und die erste reaktion war nene lasst mal beim alten bleiben weil ich stimme dir auch zu Arthur Was du gesagt hast dieses man muss nicht mit dem neuesten gehen.

00:11:26: Es gibt gründe warum neue modelle für bestimmte use cases besser sind Aber der geht es häufig um agentische Aufgaben und das, was wir dazu gemacht haben hat mit agentischen Aufgaben nichts zu tun.

00:11:36: Wir profitieren also vermeintlich nicht davon.

00:11:38: Wir haben also geschaut ist das wirklich besser?

00:11:41: Und wenn ja in welchem Bereich?

00:11:43: Dann haben wir geschaut... haben wir auch durch eine KI wiederum vergleichen lassen, dieselben Dateien durch zwei verschiedene Modelle gejagt und die Ergebnisse vergleiche lassen.

00:11:52: Und stellt es sich raus... Die Call Rates also die Menge von Ja war zwar extrem viel höher so dass dieser Prozess nicht mehr gut funktioniert hätte aber das Reasoning.

00:12:02: ich habe gesagt da ist noch so ne Begründung dabei.

00:12:05: Das war soviel besser bei dem neuen Modell das wir gesagt haben.

00:12:10: aber das ist echt wert.

00:12:12: ja das heißt was wir tun mussten So im Labor oder in der Werkstatt ist, wir mussten am System prompt dahingehend schrauben und die Arbeit investieren.

00:12:22: Dass die Call Rate wieder gleich wurde.

00:12:25: Wir aber gleichzeitig die bessere Reasoning-Qualität gewinnen.

00:12:30: Also wir haben hier ein bisschen Zeit investiert um einen besseren Output zu erzeugen.

00:12:35: Das war aber noch nicht alles.

00:12:36: Im ersten Schritt haben jetzt einfach alle zwölf Schritte der Pipeline durch dasselbe neue Modelle laufen lassen Und festgestellt Dann wird das ja dreieinhalb bis viermal so teuer, was die Token-Kosten angeht.

00:12:49: Also sind wir da ein und haben überlegt, was können wir jetzt tun?

00:12:51: Und haben dann festgestellt eigentlich braucht es nur genau in einem von diesen zwölf Schritten dieses neue Modell.

00:12:57: Ja und da haben wir die alten lassen.

00:12:58: wir stand heute nach wie vor auf dem Altenmodell laufen.

00:13:04: Das ist nur diesen einen Schritt wo's auch des reasoning ankommt der läuft auf den neuen model und damit Haben man eine steigerung des preises um Ich weiß nicht, ich glaube knappe zwanzig Prozent.

00:13:15: Das ist dann schon wieder fast marginal weil der Output es eben deutlich besser.

00:13:20: Jetzt habe ich sehr viel erzählt und aus der Werkstatt berichtet und am Strich steht wenn ein neues Modell kommt prüfen bringt mir das überhaupt Vorteile?

00:13:28: erstens Wenn ja ändert das etwas an meinem bestehenden Prozess?

00:13:33: Wenn Ja muss sich das wieder ändern und fein tun dahingehend dass Dieser Prozess wieder genauso funktioniert wie vorher und reproduzierbar ist.

00:13:43: Und schließlich muss ich noch auf meine Kosten achten, sind durch diese Veränderungen meine Kosten explodiert weil das neuere Modell teurer ist?

00:13:51: Ich glaube es ist auch ein interessanter Punkt von der Klassifikation der Prozesse.

00:13:59: Man hat Prozessen wie jetzt das Reasoning wo komplexe Denkarbeit notwendig ist Und dann kann ich auch viele Prozesse ja einfach schlicht automatisieren.

00:14:11: Das heißt, es ist wirklich Fleißarbeit – auch für die Maschine!

00:14:17: Sie kann sie schneller, sie kann sie effizienter und sie kann sich günstiger.

00:14:22: Und dann zählt für mich wieder ein alter Spruch der in der IT oder selbst in der Technik wahrscheinlich immer noch gilt Never Change a Running System.

00:14:33: Und das ist so einfach, der Satz ist so komplexes natürlich das Thema.

00:14:38: Wenn ich anpacke werde ich Veränderungen haben.

00:14:40: also wenn wir den Prozess in irgendeiner Form anfassen von dem er kann es interessant sein diese Prozesse glaube ich auch genau so zu definieren zu sagen Das ist ein komplexer Denkprozess und da kann es Sinn machen ein neues Modell zu nehmen Aber für Standardprozesse die in erster Linie, weil das sind wir ja mit der KI schon fast an den Punkt wo man mit dem Smartphone vor uns heute stehen.

00:15:04: Ich habe das schon seit vielen Jahren immer wieder den Vergleich was passiert mit einem neuen Smartphone Modell?

00:15:11: Es ist Null Komma drei Millisekunden schneller bei der Rechenleistung von so und zu viel Gigabyte.

00:15:18: Keiner von uns.

00:15:19: Ich kenne tatsächlich persönlich niemanden, also niemand hat mir auf diese Frage oder dieser Aussage geantwortet zu sagen, das habe ich gleich gemerkt.

00:15:28: Also ich weiß nicht was für Rechenleistungen auf diesem Smartphone tatsächlich passieren müssen damit ich diesen Modellwechsel merke bei der Geschwindigkeit in dem Bereich nicht.

00:15:37: Von dem her kein neues Modell wird schlagartig den gleichen Datensatz in der Hälfte der Zeit durcharbeiten die Art zu denken, die Komplexität Denkleistung durchzuführen.

00:15:50: Das ist etwas das sind wir glaube ich noch an einem Punkt.

00:15:53: da kommt die Entwicklung schon schneller voran.

00:15:56: und dann glaube ich zudem was du vorhin gesagt hast Arthur auch mit den.

00:15:59: Ist es überhaupt relevant?

00:16:01: Ich glaube da trennt sich tatsächlich auch dass Was in diesen Social Media in den ganzen Foren unter dem Menschen die das sehr eng verfolgen dann diskutiert wird.

00:16:13: natürlich Ich glaube schon, dass diese Modelle und ich meine das letzte große Update war mit Claude wo dann Opus kam die tatsächlich wirklich eine kleine Revolution eigentlich nochmal eingeleitet haben.

00:16:26: Aber weniger was es tut sondern wie es tut ja?

00:16:30: Was ist tut?

00:16:31: auch weil dann plötzlich Möglichkeiten da waren die vorher einfach noch nicht da waren.

00:16:35: aber geht viel auf Privatpersonen, auf Menschen die auch individuell vielleicht genau diese Möglichkeit und die Funktion suchen für Unternehmen.

00:16:43: Und ich glaube das ist also ein bisschen ein Rollenverständnis von uns Für Unternehmer und für Unternehmen als Kunden.

00:16:50: Wir müssen das übersetzen.

00:16:52: Also wir müssen tatsächlich dann den Übersetzer spielen ja und auch tatsächlich den Partner an der Seite zu sagen Pass auf Ist das relevant oder ist es nicht relevant?

00:17:03: Und nicht für den Influencer, der da vielleicht auch unglaublich coole Sachen mitmacht.

00:17:09: Der das zeigt und macht und tut.

00:17:11: Da geht es tatsächlich um neue Features.

00:17:12: Darum geht's für das Unternehmen nicht.

00:17:15: Ist das für mein Prozess zuträglich?

00:17:16: Ist es teurer?

00:17:17: Weil ich selten besprochen höre... Das wird teurer in der Regel!

00:17:23: Diese Tokenkosten werden nicht günstiger.

00:17:25: und dann ist die Frage selbst wenn ich damit jetzt zehn Prozent Zeitersparnis habe bei einem Prozess der möglicherweise über Nacht läuft und nie jemand mitkriegt.

00:17:33: Nun, sie ist tatsächlich dreißig Prozent mehr kosten einzufahren?

00:17:36: Nee!

00:17:36: In deinem Beispiel, super Beispiel ja da lohnt sich's weil vielleicht die Reasoning und die Ausgabe so viel wertvoller ist.

00:17:42: dann sind wir wieder beim Thema zahlt auf Qualität ein gar kein Thema.

00:17:49: Das heißt ich halte mal fest, wir sind uns da glaube ich einig.

00:17:52: man muss sich immer im Klaren sein was möchte ich mit dem Einsatz eines KI-Modells in diesem Geschäftsprozess eigentlich erreichen?

00:18:00: Und dann geht es darum, erstmal zu prüfen.

00:18:02: Das wird ja jeweils mitveröffentlichten wenn das neues Modell kommt was genau wurde verbessert?

00:18:06: Wofür dient dieses Modell?

00:18:07: ist das jetzt besonders multimodal oder kann?

00:18:10: dass hat besonders gut agentische Prozesse kann es besonders gut reasoning ist es besonders schnell?

00:18:15: Die wenigsten sagen wir können alles besonders gut.

00:18:17: Ja es gibt da immer etwas und wenn ich weiß mein ziel in diesem prozess ist geschwindigkeit Dann kann ich es kennen.

00:18:24: okay Es gibt hier ein neues modell das ist fünfmal schneller.

00:18:27: wie auch immer dann wird es sich interessant.

00:18:30: Wenn aber mein Ziel Geschwindigkeit ist und der sagt, dass neue Moderne das Thema besser im Reasoning hat, dann muss ich sie erst gar nicht probieren.

00:18:39: Es geht wirklich auch um Marktbeobachtung durch Experten Leute die das ständig machen so wie wir zum Beispiel und das ein bisschen im Blick haben und erstmal einschätzen können.

00:18:49: lohnt sich überhaupt das

00:18:50: zu probieren?

00:18:52: weil in den meisten Fällen ist es so du hast einen laufenden Prozess.

00:18:57: Lass mal dabei bleiben.

00:18:59: Das neueste, schnellste, tollste aus dem Internet ist nicht zwingend das was du jetzt brauchst.

00:19:04: Du brauchst einen funktionierten Prozess und der wird erst einmal weiterlaufen.

00:19:08: Apropos beobachten Ich würde uns mal auf ein neues Thema bringen oder auf ein anderes Thema bringen.

00:19:16: Eine Story aus einem echten Leben hatten wir gerade auch in den letzten Wochen im Kundenthema-Projekt.

00:19:21: Wir haben uns der Kunde gebeten er quasi von einem alten Dienstleister schon einen KI-Prozess im Einsatz hatte.

00:19:30: Da ging es um so, ich komme gar nicht mehr genau drauf, so Anonymisierungsthemen.

00:19:34: da wurden Sachen genommen verändert gemacht getan wieder ausgegeben

00:19:39: und

00:19:40: dieses Stück KI sollten wir quasi übernehmen weil der alte Dienstleiser ja was anderes jetzt macht und wir übernehmen das jetzt erst haben wir über einen Normen Beziehungsweise bewollten das

00:19:54: tun

00:19:55: und haben es natürlich erst mal auf Herz und Nieren gecheckt.

00:19:57: Weil wir gesagt haben, wir übernehmen gerne Sachen.

00:20:00: was wir nicht mögen ist das Rad neuer finden nur ums erfunden zu haben sondern wenn's gut ist lassen sie uns auch noch nehmen Und dann nutzen wir das weiter.

00:20:09: Da gebe ich gleich mal an Sebastian ab Das haben wir ja probiert Aber es ist uns aufgefallen Ich mache jetzt die Short Version.

00:20:19: Da hat keiner beobachtet.

00:20:20: Also es gab keinen Monitoring da drauf.

00:20:23: Ja, das Ding lief und lief.

00:20:25: Und irgendwann lief es nicht mehr?

00:20:26: Hat aber auch keiner gecheckt!

00:20:28: Das ist nicht mehr lief bis man dann gesagt hat... Huch, wir sind doch davon ausgegangen dass wir schon keine Ahnung.

00:20:34: Vierundachtzig tausend Datensätze durchgearbeitet haben in den letzten Monaten.

00:20:38: Nee, hat keiner was keiner beobachtet.

00:20:40: Es gab kein Monitoring drauf.

00:20:41: Da ist mir wieder bei dem Punkt Managed Service.

00:20:44: Der Kunde hatte da keinen Managed service drauf und bei ihm hat's auch keiner gemacht.

00:20:49: Und dann Monate später denkst du... Ich hab gedacht das, aber war nicht so.

00:20:54: Aber Sebastian... Du hast ja noch viel mehr Insights drin.

00:20:58: Erzähl du doch nochmal.

00:21:00: Es

00:21:00: war genau so und ich würde sogar ergänzen, wirst du noch bei einem Thema aus einer anderen Folge was wir schon mal hatten.

00:21:05: Thema lasst euch lieber ein paar Wochen mehr Zeit und sorgt für die entsprechende Qualität statt schnell was hinzuschmeißen was funktioniert.

00:21:13: In dem Fall war es ebenso wie haben festgestellt dass die Pipeline nicht läuft.

00:21:16: erstens statt jeden Tag ich weiß gar nicht ein paar tausend Dateien zu verarbeiten bearbeitet sie jeden tag drei hundert achtzehn Dateien und zwar immer dieselben.

00:21:26: Ja, das heißt alle anderen wurden ignoriert.

00:21:28: des erstes zweiter ein wesentlicher Schritt davon war eine Anonymisierung die aus Texten Identifizierungsmerkmale entfernt sowohl Namen als auch Firmen also was auch immer.

00:21:40: ja und es stellt sich raus erstens ist diese ist dieser Anonymisierungs Engine nicht gut getuned Weil die, wenn die ein Unternehmen entfernen soll und jemand schreibt rein Microsoft Business Central.

00:21:54: Dann meint die, na ja Microsoft ist ein Unternehmen ich sperre das!

00:21:58: Und fleckt diesen kompletten Text Ja?

00:22:00: Was schon mal schlecht ist weil es ist kein Unternehmen und man kann ohne irgendwas über zu verraten kann man sagen Microsoft Business central.

00:22:10: Es ist keine Firma die identifizierbar sind.

00:22:12: Produkt.

00:22:13: erstens noch schlimmer.

00:22:15: zweitens stellt er sich raus.

00:22:17: Diese Flag wurde ignoriert.

00:22:19: Und diese Datei wurde trotzdem verarbeitet und sollte in einen laufenden, automatisierten Prozess gehen und an Kunden rausgehen was zum Glück hat die Pipeline nicht funktioniert, die sie verarbeitete kann man wiederum sagen.

00:22:33: das heißt hier wurde offenbar zu schnell etwas produktiv genommen was noch nicht fertig ausgereift war schlimm genug und dann wurde aber keine Qualitätssicherung betrieben.

00:22:45: im Sinne von Monitoring Bei jedem System wichtig.

00:22:48: Wartung ist bei jedem IT-System wichtig, das eine Binsenweisheit noch wichtiger als sie wahrscheinlich bei KI auch weiß da sowas geben kann wie Model Drift ja dass sich die Ergebnisse mit der Zeit verändern selbst wenn ich beim gleichen Modell bleibe.

00:23:01: also einfach entscheidend dass hier entsprechende Qualitätssicherungsmaßnahmen und Monitoring und Alarmsysteme getroffen werden möglichst auch mit der Möglichkeit zum menschlichem Feedback was dann wiederum gemonitort wird um genau so etwas zu merken.

00:23:16: Und wie gesagt, der einzige Grund, dass das nicht zu potenziell kritischen Auswirkungen geführt hat war, dass vorne die ganze Pipeline nicht funktioniert hat.

00:23:25: Zum Glück!

00:23:27: Aber da muss es eben wirklich drum gehen erst die Qualität sicherstellen und lieber ein paar Wochen langsamer sein aber dann sicher aussetzen und dann das Ganze monitoren und dann aber auch verlässlich betreiben.

00:23:41: Ja, verlässlich mit immer denselben Modell.

00:23:43: Und wenn ich es ändere dann brauche ich einen guten Grund und muss das erst testen und mal fein tun.

00:23:49: Das ist mir im klassischen IT-Betrieb also man hört ja relativ häufig so Aussagen die Programmierer braucht keiner mehr programmieren ist tot.

00:24:01: das macht jetzt alles die KI was ja zu einem Teil stimmt aber eigentlich auch wieder nicht.

00:24:07: unsere ähnliche Fragen höre ich halt auch aus meinem Vor allem weil ich gleich einen Background in dem Kontext habe, so aus den ganzen Betriebsteams.

00:24:17: Die sagen oh mein Gott wenn jetzt die DKI's alles übernehmen und dann läuft ein Agent rum der Betrieb macht ja auch der muss betrieben werden Und ich glaube, da werden wir alle noch genug zu tun haben in Zukunft.

00:24:32: Also verabschiedet euch mal von der Illusion all eure IT-Administratoren rauszuschmeißen weil das ein Agent machen kann.

00:24:41: auch der Agent muss betrieben werden.

00:24:45: Hast du ähnliche Erfahrungen gemacht schon bei deinen Kunden?

00:24:51: Das ist natürlich ein bisschen größer also in kleiner Form.

00:24:56: auf jeden Fall Das ist das, was wir klassisch übernehmen.

00:25:03: Da gibt es nicht das klassische IT-Team normal im Hintergrund.

00:25:08: Aber ich meine, genau die Punkte, die ihr angesprochen habt.

00:25:13: Es braucht irgendwo eine Überwachung.

00:25:17: Also das ist trotz allem so der IT-Administrator und wenn's jetzt ein externes ... Der kann es einfach gehen, das läuft schon.

00:25:27: Nein!

00:25:27: Also das ist für mich auch noch einige Jahre weg, weil man dann doch immer wieder merkt.

00:25:35: Für mich ist es eine grundsätzliche Frage.

00:25:39: Im Moment denken wir – und das kommt ja aus dem Ursprung zu sagen – diese Firma gehört einem Menschen und dieser Mensch hat ein Ziel.

00:25:51: So lange arbeitet die KI ja auch für den Menschen mit dessen Zielen?

00:25:57: wenn ich jetzt in diese agentische Idee abdrifte, dann fängt es natürlich an dass ich sage okay Strategie wird schon quasi voll durch KI entwickelt.

00:26:09: Also das sind wir dann schon bei der Idee zu sagen ok wann habe ich die erste eine Milliarde Dollar KI Company?

00:26:17: Das Ding ist aber das sind selten würde ich sagen die Unternehmen die wir begleiten sondern da ist tatsächlich... Da wird vom Mensch gedacht und die KI führt aus.

00:26:27: Und solange das in diesem Kontext läuft, möchte ich tatsächlich eine Hand drüber haben.

00:26:33: Ich möchte die Kontrolle darüber haben gerade auch als Unternehmenseigentümer so wie ich meine Mitarbeiter nicht alle im Grunde noch frei laufen lasse und nicht mal weil sie es nicht so gut können und nicht schlecht machen sondern weil ich möchte dass das als Speerspitze gemeinsam zusammenläuft und dass das auf ein gemeinsames Ziel hinausläuft.

00:26:56: Und da sind die KI-Prozesse ein Teil davon.

00:27:00: Aber ich muss natürlich regelmäßig irgendwo ausschauen, genau das Thema Drift.

00:27:06: Der driftet mir nicht irgendwo davon.

00:27:09: Ich meine es bleibt Technik.

00:27:11: also jeder der schon mal einen Computer eingerichtet hat weiß eigentlich ist das ganz einfach.

00:27:19: und trotzdem findet man immer wieder und wenn man das seit zehn oder zwanzig Jahren schon macht man findet immer wieder Prozesse, irgendwas was man zu tun hat.

00:27:28: Wo dann doch etwas passiert das eigentlich nicht passieren dürfte.

00:27:31: aber es ist trotzdem passiert.

00:27:34: Von dem her ist es so komplex und so unglaublich die Entwicklungen teilweise sind.

00:27:40: Sind für mich trotzdem noch Teilweise Altermuster und Probleme.

00:27:44: Dies auch als sind wie die IT selbst.

00:27:46: Sehr schön!

00:27:48: Ich würde fast sagen dass da schon fast ein ganz gutes Schluss war.

00:27:51: ich würde mal versuchen das Rund zu machen oder nochmal zusammenzufassen.

00:27:56: Also wir stellen fest, es gibt ständig neue Modelle die sehr gehypt werden.

00:28:01: Gleichzeitig sind diese Modelle häufig für ganz bestimmte Zwecke da und nur weil sie neu sind sollte da erstmal keinen Druck entstehen einen laufenden produktiven funktionierenden Prozess auf dieses neue Modell umzustellen.

00:28:14: Weil das vielleicht nicht mal Mehrwert bringt.

00:28:17: oder selbst wenn's mehr Wert bringt ist zu prüfen ob der groß genug ist.

00:28:22: diese Umstellung zu machen.

00:28:24: Findet, ist irgendeine dieser Fragen mit ja beantwortet?

00:28:27: Sollte in eine Entwicklungs- oder Testumgebung erst mal geprüft werden?

00:28:30: was sind denn die Auswirkungen wenn wir das Modell umstellen?

00:28:34: Sind die Kosten zu prüfen die dadurch entstehen und dann gilt es Maßnahmen zu treffen dem entgegenzuwirken.

00:28:41: Wenn's Auswirkung gibt dann gilt wieder Feintuning zu betreiben bis der Prozess wieder genauso verlästig läuft und reproduzierbar wie vorher.

00:28:49: Es gilt zu prüfen, sind es die Mehrkosten wert oder wie jetzt in meinem Beispiel von vorhin aus der Werkstatt.

00:28:54: Was können wir tun um die Kosten wieder auf ein erträgliches Maß zu reduzieren?

00:28:59: Und wenn das dann live ist, geht es einfach um das ganz klassische IT-Handwerkszeug und Qualitätssicherung und Monitoring.

00:29:07: Es geht darum dass man genau diese Systeme immer im Blick behält.

00:29:11: Das lässt man am besten jeweils durch einen Team von Experten tun entweder.

00:29:16: Man baut eine eigene Abteilung auf, wenn man die Möglichkeit hat.

00:29:18: Vielleicht reichen da auch ein zwei Leute dafür zuständig sind das anhand bestimmter Dashboards zu monitoren und dann entsprechende Maßnahmen zu ergreifen oder man schaut nach einem Partner der es als Manager Service anbietet.

00:29:32: Das würde ich so als Synthese davon einmal in den Raum stellen.

00:29:38: Zum Schluss hätte ich natürlich wie immer die Frage an euch was war denn so das coolste was ihr in den vergangenen Wochen oder Tagen, oder Monaten mit KI erlebt habt.

00:29:49: Das witzigste oder das beeindruckendste?

00:29:53: Also da habe ich etwas zu erzählen, weil wir es vorher davon hatten welche Funktionen, welche Features die neu dazukommen, wo man einfach in diese Achse wächst KI tatsächlich und dass teilweise auch schneller als man es manchmal selber mitkriegt Auch wenn man sich dann viel beschäftigt, aber es kommt immer so ein bisschen drauf an in welche Ecke.

00:30:19: Und ich habe festgestellt, dass ich jetzt unter die Hollywood-Filmproduktion gehen kann.

00:30:26: Ich habe einige Artikel gelesen, was tatsächlich Videoproduktionen und Schnitt usw.

00:30:33: mittlerweile möglich ist.

00:30:36: Es ist unglaublich!

00:30:37: Ich habe mir einen Abend mal genommen und habe dann ein grobes Konzept gemacht und hab damit angefangen zu arbeiten, um zu probieren.

00:30:46: Und das war wirklich wieder so ein Moment wo du sagst ich hätte es mir vorher nicht vorstellen können was schon geht.

00:30:53: und das ging schon länger ja?

00:30:55: Das ist so ein blinder Fleck.

00:30:57: wenn du das natürlich benutzt in genau einem Bereich oder im anderen überhaupt nicht drüber nachdenkst und das hat mich aber so interessiert ist was sagenhaft.

00:31:06: also ich werde trotz allem da fehlt mir glaube ich die Storytelling Begabung, da jetzt Hollywood-Konkurrenz zu machen.

00:31:14: Aber es war unglaublich wenn man sich das wieder überlegt was das für diese Branchen aber bedeutet?

00:31:20: Ich meine sie agieren offensichtlich in der Richtung, aber mich persönlich hat's komplett überrascht.

00:31:27: Lass mich raten woher Hexfield benutzt.

00:31:31: Sehr cool!

00:31:32: Kleiner Spoiler benutzen wir uns jetzt demnächst auch.

00:31:35: also ich habe gestern mit jemandem gesprochen der uns da unterstützen will.

00:31:38: im Kontext Da wird das viel interessant, ich bin sehr gespannt.

00:31:42: Ich auch.

00:31:44: Richtig cool!

00:31:44: Darf ich weitermachen?

00:31:45: Gerne.

00:31:46: Ich habe leider nicht so einen coolen Fall aber es hat mich gerettet.

00:31:50: Ich war die Tage mit meinem Wohnmobil unterwegs und war ein ganz kleinen Moment unaufmerksam und bin über so ein richtig dickes Schlagloch gefahren.

00:31:59: Aber es war richtig dick.

00:32:03: Mein Vierjumper auf dem das Wohnmobil quasi basiert hat eine Funktion, dass wenn es richtig doll knallt sperrt er die Spritlieferung.

00:32:15: Also irgendwie gibt es so einen Schalter der quasi dann sagt ne ab jetzt wird kein Sprit mehr geliefert in den Motor.

00:32:20: Das hatte zur Folge, dass sich nach diesem Schlagloch was schon ordentlich geballert hat So stark, dass sogar mein dieses mittlere Licht was oben drin ist rausgefallen ist ist dieser Schutzmechanismus angegangen und ich habe auf einmal alles warnblinklicht.

00:32:38: Und der Motor war aus, weil er natürlich keinen Sprit mehr bekommen hat.

00:32:41: Ich bin auch gerade mit dem letzten Schwung auf so einen Platz gekommen wo ich nicht gestört hab.

00:32:50: Da war hier erstmal so ein Schock.

00:32:51: Dann habe ich gesagt was ist denn hier los?

00:32:53: So und da habe ich erst mal kurz gegoogelt, habe natürlich irgendwie sieben Milliarden Sachen gefunden die mich weitergeholfen haben.

00:33:00: Und dann habe ich Gemina gefragt.

00:33:02: Er hat gesagt, Gemina du musst mir das helfen.

00:33:04: Er herr folgende Situation und er ist ja immer so cool ne?

00:33:07: Jaaa!

00:33:08: Das haben ganz viele.

00:33:08: Das ist typisch.

00:33:10: Du führst das aus...und dann hat er mir erklärt wie es geht und der hat mir dann zu einem YouTube Video weiter verlinkt wo ich dann drauf gekriegt hab.

00:33:17: aber ich genau wusste okay Ich musste das Folgendes tun.

00:33:20: Ich musste da irgendwie ein Beifahrerraum was ausbauen.

00:33:23: Es war aber nur geklipst und mit dem Finger auf so ein ganz bestimmtes Ding drücken dass es einmal knick macht und damit war's wieder vorbei, da konnte ich weiterfahren.

00:33:31: Also ich war in so einer Schock-Situation und da hat mir Gemini weiter geholfen und ich bin ihm sehr dankbar dafür weil ich dann weiterfahren konnte.

00:33:40: Und ich hab viel gelernt!

00:33:41: Das war mein KI Moment die Woche.

00:33:44: Sehr schön!

00:33:46: Ich habe diesmal einen ganz anderen Fall... Das ist genau dasselbe wie mein erster großer Durchbruchsmoment, den ich persönlich mit KI hatte und der funktioniert noch immer.

00:33:57: Ich glaube das KI uns vor allem hilft selbst noch tiefer nachzudenken Denn ich benutze KI eigentlich am liebsten immer noch als Sparringpartner Und zwar vor allem KI die mit mir sprechen kann.

00:34:12: Also ChatGPT funktioniert einfach super.

00:34:14: also was ich hatte diese Woche und was einfach verlässlich immer funktioniert Es hilft ja einfach Mit Leuten über komplexe Probleme zu sprechen.

00:34:22: Das macht bei ihr meistens Spaß, aber nicht immer hat man jemanden der gerade Zeit hat oder Lust, mir beim Bedankenschwall zuzuhören und manchmal braucht es nur jemandem, der einem immer was zurückwirft.

00:34:34: Und das ist für mich dann eben ganz oft Chat GPT und zwar vor allem in Situationen, denen ich eigentlich keine Zeit habe.

00:34:40: Ich hatte einen sehr herausfordernden Kundentermin diese Woche, der sehr schwierig war.

00:34:45: Nicht inhaltlich, ich war kein Problem aber es war eher so.

00:34:48: wie gehe ich das jetzt an?

00:34:49: Was will ich eigentlich erreichen?

00:34:50: Wie kann ich hier wirklich Mehrwert liefern auch von den Persönlichkeiten um dies dabei gehen?

00:34:57: und dann... ...ich hatte den Termin vormittags und vorher habe ich meine Kinder zur Schule gefahren und hatte danach eigentlich fast keine Zeit mehr als ich heim kam noch kurz ein Kaffee machen dann den Terminen was ich erst gemacht hab kaum mal die Kinder aus dem Auto Habe ich ChatGPT angemacht und habe angefangen über diese Situation zu Brainstorm.

00:35:14: Und dann ist er immer erst mal, der will ja gleich irgendwelche Lösungen liefern.

00:35:17: Ja?

00:35:17: Ich will aber keine Lösung!

00:35:18: Ich will erstmal erzählen.

00:35:20: Da kommt erstmal Antwortenausschließlich mit Ja okay weiter so... Da hab' ich ihm erstmal die Situation geschildert und schon dieses Schildern der Situation an ein Gegenüber was nichts anderes sagt als Ja habe ich verstanden.

00:35:33: weiter hilft ja schon Gedanken zu strukturieren Und ihn dann, wenn man die Situation beschrieben hat in einen Dialog zu verwickeln.

00:35:41: Was der sagt ist dann oft schon fast egal.

00:35:43: Wenn man selbst seine Gedanken strukturiert beim Reden und was zurückbekommt, was einem weiterbringt.

00:35:50: Das wurde da ein sehr guter Termin.

00:35:51: also das kann ich jedes mal nur empfehlen.

00:35:54: Die KI er ist sehr geduldigen und trotzdem sehr wisenden Sparringpartner zu verwenden.

00:35:58: Der war vor allem dazu dient, einem ständig wieder etwas zuzuwerfen mit dem man selbst weiter kommt.

00:36:04: Das ist eine Superkraft, die ich jedes Mal faszinierend finde und die ich sehr schätze.

00:36:12: Damit würde ich aber auch sagen sind wir für die heutige Folge schon wieder am Ende angelangt mit dem Stichwort Superkraft.

00:36:19: Es hat wieder viel Spaß gemacht!

00:36:21: Ich hoffe die Hörerinnen und Hörern haben was mitgenommen zum Thema neues Modell laufender Betrieb – was jetzt?

00:36:27: Und ich freue mich schon auf die Fortsetzung in der nächsten Folge.

00:36:31: Danke euch!

00:36:32: Bis zum nächsten Mal!

00:36:33: Bis dann!

00:36:34: Tschüss!