Welf Schröter, Forum Soziale Technikgestaltung
Ich benutze das Wort künstliche Intelligenz sehr ungern, weil ich es für eine unzureichende Übersetzung aus dem amerikanischen Englisch halte. Artificial Intelligence meint künstliche Nachbildung. Das hat mit dem europäischen Begriff der Intelligenz herzlich wenig zu tun.
Dr. Catharina Stahn, ifaa
Eine KI und auch selbst ein digitales Hilfsmittel kann letztlich nur so gut sein, wie die Daten, die dahinter stecken. Das heißt, wenn es Mist ist, kommt auch bei einer KI oder auch einer digitalen Technologie wahrscheinlich Ähnliches heraus.
Dr. Marlen Cosmar, DGUV Akademie
KI führt in jedem Fall zur Veränderung der Arbeitsgestaltung und hier muss die psychische Belastung natürlich auch eine wesentliche Rolle spielen.
Dr. Anne Kemter, BAuA
Ich denke, wir brauchen erstmal Regulation. Die EU-Plattform-Richtlinie muss in Deutschland bis Ende des Jahres umgesetzt werden. Das ist ein ganz wichtiger Schritt.
Torsten Hufski, IT Experte
Irgendein Projekt hat einen Start- und ein Enddatum und irgendwann ist das erledigt, dieses Projekt, und dann hat man halt gewusst, war es erfolgreich. Und bei KI ist es halt erstmalig irgendwie, zumindest haben wir das jetzt erfahren, anders.
Ullrich Zilz, BGHM
Wenn ich 500 Sicherheitsfachkräfte befrage, finde ich raus, dass der allergrößte Teil von denen sehr wenig mit KI macht.
Christian Uhle, Philosoph und Zukunftsforscher
Was kann KI? Ganz viel geht es darum. Also KI kann jene Daten auswerten und KI kann irgendwie hier Verträge prüfen an dieser Stelle, aber das kann sie noch nicht und so.
Wir reden viel über Möglichkeiten und ich glaube, dass es Zeit ist, dass wir die Grundfrage anders stellen.
Ellen Hellmann, BG Bau
Wir sind die, die die Puppen, die Supermänner, die Agenten spielen lassen können und nach unseren Regeln.
KOMMENTAR (2:07 – 2:41)
Und um dabei Akteur zu sein und nicht Marionette einer KI, braucht es Informationen und Wissen. Die DGUV-Akademie hat sich das zur Aufgabe gemacht. Seit mittlerweile 25 Jahren gibt es die Reihe Zukunft der Arbeit, in deren Zentrum die Frage steht, wie sich Veränderungen in der Arbeitswelt auf Unternehmen und Beschäftigte auswirken.
2024 waren noch Digitalisierung und die damit verbundenen Prozesse der Schwerpunkt. Inzwischen nehmen KI-Anwendungen einen immer größer werdenden Raum ein, mit gravierenden Folgen.
Rolf van Doorn, DGUV Akademie (2:41 – 3:24)
KI drängt mit Macht in unsere Arbeitswelt herein, natürlich auch in meine. Da werden Wünsche geweckt und Begehrlichkeiten, dass KI zukünftig die Arbeit für uns alle erleichtern wird. Und das war für mich persönlich der Grund, mich in die Vorbereitung dieser Veranstaltung mit einzubringen.
Meine Kollegin Frau Dr. Cosmar, die das Ganze mehr aus der Perspektive der psychischen Belastung betrachtet, hat halt ihre Punkte noch mit eingebracht. Und mein Kollege Dr. Thomas Vieth, das ist sozusagen unser Trend-Scout in unserem Trio, was jetzt die Veranstaltung vorbereitet hat.
Dr. Thomas Fietz, DGUV Akademie (3:24 – 3:59)
Wer von Ihnen war bei der letzten Zukunft der Arbeit dabei, wo es um Trends ging? Und zwar Frank Schnitzler hat von der BGMH sozusagen damals den neuesten Trend vorgestellt. Damals war also dieser Avatar das Neueste und Beste, was wir zeigen konnten, und haben schon gesehen, es ist also möglich, einem Avatar Fragen zu stellen und er kann dann auch einigermaßen sinnvoll antworten.
Aber jetzt sind wir schon einen Schritt weiter und sprechen über sogenannte KI-Assistenten. Was hast du uns dazu berichten?
Frank Schnitzler, BGHM (4:00 – 5:03)
Ja, wir von der BGHM haben eine Vorstudie durchgeführt, die jetzt Ende letzten Jahres geendet ist und haben jetzt sozusagen einen eigenen KI-Avatar erstellt. Ich starte jetzt hier einmal die Avatar-Software. Was kannst du mir zum sicheren Umgang mit dem Winkelschleifer erzählen?
AVATAR
„Hier sind einige wichtige Punkte zum sicheren Umgang mit Winkelschleifern. Vor Arbeitsbeginn verwenden Sie die Maschine nur gemäß den Anweisungen des Herstellers und nur mit zugelassenen Werkzeugen.“
Frank Schnitzler, BGHM
Ich beende den jetzt mal und erkläre kurz, was jetzt hier zu sehen war.
Wir haben im Vergleich zur letzten Veranstaltung hier jetzt den Avatar sozusagen ge-customized, das heißt also visuell trainiert und auch gepromptet auf Arbeitsschutzinhalte und die Vorstudie hatte zum Auftrag und zum Ziel zu prüfen, also einen Proof-of-Concept zu erstellen, ob man sowas im Rahmen einer Unterweisung nutzen kann, insbesondere wenn es um das Thema Fremdsprachen geht.
Dr. Thomas Fietz, DGUV Akademie (5:03 – 5:10)
Wo liegen da die Grenzen? Also ich meine, er kann wirklich auf frei formulierte Fragen antworten, das ist richtig, ne?
Frank Schnitzler, BGHM (5:11 – 6:00)
Genau, also wir haben hier die Technologie in den Fokus genommen, mussten allerdings, was auch Ergebnis dieser Vorstudie ist, dann aus BG-Kontext oder Arbeitsschutzkontext dann aber leider sagen, dass uns die Qualität, die Antwortqualität dieses Avatars nicht ausgereicht hat, weil, und das ist ja ein „Kernproblem“ in Anführungsstrichen, der Sprachmodell im Allgemeinen, dass wir hier dann halt nur ausgesprochen, nicht ausgeschrieben, sehr viel Halluzinationen in den Antworten drin hatten, was dann zur Folge hatte, dass wenn wir jetzt das Szenario der Unterweisung fokussieren, dann tatsächlich auch zum Teil falsche Antworten in den Unterweisungsantworten hatten und das geht natürlich im Arbeitsschutzkontext, gerade wenn es um Unterweisungen geht, nicht.
Dr. Thomas Fietz, DGUV Akademie (6:00 – 6:08)
Was bedeutet denn so eine KI-Agententechnologie für unsere Arbeitswelt und vielleicht insbesondere für das Themenfeld Prävention?
Frank Schnitzler, BGHM (6:09 – 6:38)
Auf der übergeordneten Ebene betrachtet, sehen wir hier große Unterstützungspotenziale einerseits, aber es muss sich tatsächlich eben halt auch technologisch noch einiges tun, so ist es jedenfalls unsere Erkenntnis, aber nichtsdestotrotz sehen wir hier auf der Chancenseite großes Unterstützungspotenzial, insbesondere jetzt in unserem Newscase hier, wenn es um die Kommunikation in Fremdsprachen, zum Beispiel auch von Bau- und Montagestellen geht. Daraufhin haben wir diese Technologie auch abgeprüft.
Dr. Thomas Fietz, DGUV Akademie (6:38 – 7:07)
Das heißt, wir sind alle dabei, uns mit dieser Technologie zu beschäftigen. Dieser KI-Assistent wird früher oder später nicht nur im Arbeitsleben, sondern vermutlich auch im Privatleben auftauchen. Wir haben da eine spannende Zeit vor uns.
Wir haben dieses Bild gewählt mit dieser Marionettenfigur. Ich hoffe, Sie fühlen sich dann am Ende nicht so wie die an den Fäden gesteuert und hoffen, dass wir diesen Prozess auch noch mitgestalten können.
KOMMENTAR (7:08 – 7:39)
Das weitere Programm bestimmen jedoch nicht Avatare, sondern reale Menschen, die zum Themenfeld Arbeits- und Gesundheitsschutz forschen und beraten. Passend zum Thema KI führte eine App auf dem Smartphone durch das Programm. Das Spektrum reichte von IT-Technik bis hin zu philosophischen Fragen und im Fokus standen die Auswirkungen von KI-Anwendungen auf die psychische Gesundheit der Beschäftigten.
Die interaktive Struktur der Veranstaltung bot den Teilnehmern viele Möglichkeiten, sich aktiv einzubringen.
Teilnehmer (7:41 – 8:16)
Wir suchen im Unternehmen wirklich nach praxisnahen Möglichkeiten, künstliche Intelligenz sicherheits- und gesundheitsgerecht einzusetzen. Und nicht nur aus wirtschaftlichen Aspekten einzusetzen. Das ist natürlich das primäre Ziel, dass es sich für das Unternehmen lohnt.
Aber wir wollen das nicht machen zu Lasten der Beschäftigten. Sondern die mitnehmen und insofern suchen wir nach Instrumenten, mit denen wir schon im Vorfeld, vor der Einführung von künstlichen Intelligenz-Produkten abschätzen können, welche Belastungen damit einhergehen.
KOMMENTAR (8:17 – 8:40)
Zu diesen Fragen gab Dr. Marleen Kosma Informationen und Anregungen. Im Workshop benennt sie Risiken, die durch den Einsatz von KI-Anwendungen entstehen und oft unterschätzt werden. Anhand ausgewählter Praxisbeispiele wird auch der duale Aspekt in der Wirkung von KI aufgezeigt. Denn deren Einsatz kann sowohl als Belastung, aber auch als Ressource erfahren werden.
Dr. Marlen Cosmar, DGUV Akademie (8:41 – 9:08)
Wenn wir in die Arbeitsorganisation gucken, wir können Zeitgewinn haben, aber wir können auf der anderen Seite auch eine erhöhte Arbeitsintensität haben. Wenn ich sehr schnell viele Entscheidungen treffen muss, weil der Rest von der Maschine gemacht wird. Bei der Arbeitszeit kann ich gezwungen sein, Pausen wegzulassen, weil ich überwacht werde.
Bei den Arbeitsmitteln kann ich Technostress empfinden, ich kann aber auch mit wenig Aufwand tolle Ergebnisse erzielen.
KOMMENTAR (9:09 – 9:20)
Wie sich die Einführung von Zukunftstechnologien im Betrieb konkret auswirken kann, das wurde vom Institut für Angewandte Arbeitswissenschaften im Rahmen einer Trendstudie praxisnah untersucht.
Dr. Catharina Stahn, ifaa (9:21 – 9:45)
Ich beschäftige mich zusammen mit meinen Kolleginnen und Kollegen schon seit einigen Jahren mit der Frage, wie sich die Einführung digitaler Technologien und jetzt eben auch KI auf die Beschäftigten auswirkt, konkret auf die Arbeitsaufgaben, und da konzentrieren wir uns schwerpunktmäßig auf die Aspekte, wie verändern sich Kompetenzen, wie verändern sich die Anforderungen und vor allen Dingen auch die Belastungskonstellation.
KOMMENTAR (9:47 – 10:12)
Ein Praxisbeispiel wurde im Workshop vorgestellt und dabei herausgearbeitet, dass die Einführung von KI in Produktionsprozesse nicht nur ein simples technisches Update ist, sondern Auswirkungen auf die psychische Belastung der Beschäftigten haben kann. Entscheidend ist es, darauf zu achten, dass KI-Anwendungen als Werkzeug zur Unterstützung und nicht als Taktgeber zur Entmündigung wahrgenommen und eingesetzt werden.
Teilnehmer (10:13 – 10:28)
Auch über die Bedingungen und Regeln haben wir angeregt diskutiert. Wir sind uns einig gewesen darüber, das muss eine von Beginn an transparente Einführung geplant sein, Step by Step, niemanden überfordern, klare Rollentrennung, was macht die KI, was macht der Mensch?
KOMMENTAR (10:29 – 10:52)
Für die Arbeitswissenschaftlerin Dr. Anne Kempter ist die Einführung von KI-Systemen in Arbeitsprozesse auch eine psychologische Gestaltungsaufgabe. Sie warnt vor psychosozialen Risiken beim Einsatz des algorithmischen Managements und fordert wie im AI-Act der EU dargelegt, verantwortungsvolles, präventives Vorgehen. Dazu gehört für sie auch eine klare Begriffsbestimmung.
Dr. Anne Kemter, BAuA (10:54 – 12:22)
Wenn ich jetzt wortanalytisch vorgehe, ist algorithmisches Management nichts weiter als das Treffen von Entscheidungen beruflichen Abläufen nach festgelegten Regeln. Und das kennen wir eigentlich seit dem 19. Jahrhundert.
Allerdings neu hinzugekommen ist, dass diese Prozesse digital durchgeführt und digital unterstützt werden beziehungsweise auch von einer KI übernommen wird, die dann eigenständig diese Regeln ergänzt. Der Begriff algorithmisches Management in unserem Kontext taucht erstmals 2015 auf als „Algorithm that Assumes Managerial Functions“, also kurz: die App ist der Boss.
Wenn wir das aus der Perspektive der Arbeitswissenschaften betrachten, haben wir eigentlich die Hauptfunktion von AM mit der Übernahme von Personalführungsfunktionen. Und wenn wir uns das genau angucken, sind das drei konkrete Funktionen. Wir haben hier diese klassische Überwachung, das Monitoring auch genannt, die direkte Steuerung, das heißt ein Algorithmus teilt mir Aufgaben zu, stellt mir Zeitpläne auf, teilt mir auch Ressourcen zu, und die indirekte Steuerung. Es gibt eine Leistungsbewertung und ein Feedback und wir haben uns, das sehen Sie hier auf der Seite rechts hinter mir, mal 28 gängige Definitionen analysiert und das meiste, was hervorsticht, sind die Begriffe Control und Monitoring, also Überwachung.
KOMMENTAR (12:23 – 13:02)
„Überwachung“ oder „die App ist der Boss“, diese Aussagen lösen bei vielen Menschen Ängste aus und das nicht zu Unrecht. Was wir heute als AM oder KI erleben, ist im Kern die Digitalisierung von Entscheidungen, die früher Menschen getroffen haben.
Damit die App als Boss für die Beschäftigten nicht zum Problem wird, braucht es bei der Implementierung dieser Systeme Transparenz, menschliche Kontrolle und Mitbestimmung. Welf Schröter vom Forum Soziale Technikgestaltung plädiert für einen sozialpartnerschaftlichen Umgang. In seinem Workshop bietet er eine Analyse der Situation und zeigt konkrete Gestaltungsmöglichkeiten auf.
Welf Schröter, Forum Soziale Technikgestaltung (13:05 – 14:52)
Stellen Sie sich vor, wir gehen alle zusammen zu einer tollen Theateraufführung in ein großes altes Gebäude. Wir treffen uns unten im Foyer und dann gehen die Türen auf und dann gehen wir in den Hauptsaal. Large Language Models sind das Foyer.
Wir sind mit unseren Diskussionen aber im Hauptsaal. Und im Hauptsaal bedeutet es, es geht um die Automatisierung von Prozessketten, es geht um die Steuerung von Produktion und Dienstleistung, es geht um die Steuerung Standort- und betriebsübergreifenden Abläufen. Das geschieht nicht mit Large Language Models, sondern mit Mustererkennungsverfahren und ganz anderen Technologien.
Wir müssen uns auf das konzentrieren, was im großen Saal passiert. Und das heißt, die allermeisten Systeme, die unter dem Stichwort Algorithmische Steuerungs- und Entscheidungssysteme laufen, sind mitbestimmungspflichtig. Das ist jetzt keine Drohung, sondern eigentlich eine Aufforderung an beide Seiten, sich selbst zu qualifizieren, damit sie aushandlungsfähig werden.
Was wir brauchen, ist eine sachliche Art von Diskurs und eine Regelung dessen, was wir eigentlich gestalten wollen. Und deswegen plädiere ich dafür, uns nicht darauf zu konzentrieren, dass wir das behandeln, was im Foyer stattfindet. Sondern auf die Hauptthemen dessen, was auf uns zukommt.
Das ist Produktion, Dienstleistung und Verwaltung und da geht es um Steuerung, um Prozesssteuerung. Was wir in der Art von moderiertem Spezifikationsdialog jetzt machen. Wir versuchen, die IT-Seite dafür zu gewinnen, die Prozesse zu verstehen, worin ihre Dinge hineingebaut werden.
Und wir wollen die Beschäftigtenseite dafür gewinnen, dass sie ihr Erfahrungswissen sprechbar macht und artikulieren kann.
KOMMENTAR (14:53 – 15:15)
WIR ist in diesem Kontext das „Forum Soziale Technikgestaltung“, ein Netzwerk, das sich mit Veränderungsprozessen in der Arbeitswelt beschäftigt. Im Workshop stellte Welf Schröter den „Moderierten Spezifikationsdialog“, MSD vor, der dazu dient, konkrete Anforderungen bei der Einführung von KI-Systemen zu erarbeiten und verbindlich festzulegen.
Teilnehmerin (15:16 – 15:31)
Das Thema der Mitbestimmung und auch wie man die gestalten kann, das ist super interessant. Das betrachten wir auch aus psychologischer Sicht. Vielleicht in anderen Bereichen ist es uns auch wichtig, dass wir einfach die verschiedenen Seiten an einen Tisch bringen und da Dialogprozesse führen.
KOMMENTAR (15:32 – 15:47)
Dialog statt fertiger Software. Diesen Ansatz teilen auch IT-Experten wie Thorsten Hufski, der den Mittelstand berät. Denn diese Strategie könnte auch das frühzeitige Scheitern vieler KI-Projekte verhindern und damit hohe Fehlinvestitionen vermeiden.
Torsten Hufski, IT Experte (15:49 – 16:21)
Hier, JGBT, Co-Pilot, mach mal. Guck mal, was das dir bringt. Ja, das ist das, was wir die letzten zwei Jahre beobachtet haben.
Das haben ganz, ganz viele Unternehmen gemacht. Und das Problem, was die dann aber während der Einführung hatten, wenn dann der Chef gefragt hat, sind wir jetzt schon produktiver, haben die festgestellt, naja, das ist zwar ganz cool, ich kann jetzt Gedichte schreiben, ich kann sogar vielleicht coole Musik machen, aber wir hatten ja eigentlich gar kein Problem. Also das heißt, wir haben eine Lösung eingeführt für ein Problem, was nie existiert hat.
KOMMENTAR (16:22 – 16:30)
Mit diesen Fragen haben häufig KMU-Unternehmen zu kämpfen. Und hier fehlen oftmals die Ressourcen, um sich externe Unterstützung zu holen.
Torsten Hufski, IT Experte (16:31 – 16:58)
Es muss nicht immer eine externe Firma sein. Man kann auch innerhalb des Unternehmens diejenigen identifizieren, die beispielsweise für so ein KI-Taskforce-Team relevant sind. Sehr häufig hat man im Unternehmen auch schon die Profis sitzen, weil sie sich eben im privaten Umfeld sehr stark damit beschäftigen.
Und damit macht man nämlich eins, man führt auch dadurch eine Mitarbeiterbindung herbei. Also einfach mal in den eigenen Reihen schauen, ob da jemand ist.
KOMMENTAR (17:00 – 17:24)
Experten in den eigenen Reihen nutzen. Ein Potenzial, das auch für den Arbeitsschutz gilt. Doch im Arbeitsschutz sind Exaktheit und genaue Anweisungen angesagt.
Eine KI, die Halluzinationen, sprich Fehler fabriziert, wie kann das zusammenpassen? Ulrich Zilz, Arbeits- und Organisationspsychologe, hat da viele Ideen. Und gemeinsam mit Kollegen, besonders im Bereich Gefährdungsbeurteilung, einiges entwickelt.
Ullrich Zilz, BGHM (17:26 – 19:05)
Liest man überall, hört man, wir müssen das kritisch prüfen und dann läuft es. Jetzt sage ich ja, weil das Problem ist, der Mensch ist doch genauso fehlerhaft. So als Psychologe.
Oder kennt jemand einen Menschen, der keine Fehler macht? Okay, aber der Chef prüft keine KI-Ergebnisse, der lässt sie prüfen. Okay, also was machen wir denn jetzt?
Hören wir jetzt auf zu diskutieren oder was machen wir? Und klar, wir brauchen menschliche Validierung. Jetzt sieht man auf dem Bild hier schon, das ist nicht mehr eine alleine.
Das sind mehrere. Und ich behaupte jetzt in meiner vielleicht ein bisschen einseitigen These, das müssen mehrere Menschen sein, die auf eine innovative Art und Weise zusammenarbeiten. Die haben alle ein Handy und die haben alle Chat-GPT.
Und ganz viele junge Unternehmer, Unternehmerinnen, die kommen auf die Idee, wir machen mal ein Foto und dann ist die Werkstatt drauf und dann spuckt das Ding ja eine Gefährdungsermittlung aus. Und jetzt kommt nur AP, naja, aber immerhin Diskussion. Meine Idee ist, wenn der eben ein paar Leute erarbeiten hat, könnten die ja gegen die KI antreten, eine Team-Challenge machen.
Und dann finden wir vielleicht gemeinsam raus, wie die Gefährdungsermittlung aussehen soll. Und wir finden vor allem noch was raus. Wir finden raus, dass das dann in den Köpfen der Menschen ankommt.
Und dass die Menschen sich vielleicht erstmalig mit dem Thema Arbeitsschutz beschäftigt haben. Anstatt eine Pflichtunterweisung zu unterschreiben.
KOMMENTAR (19:06 – 19:27)
KI-Systeme verändern nicht nur das soziale Gefüge im Unternehmen. Sie durchdringen die Welt und unser tägliches Leben. Der Philosoph und Zukunftsforscher Christian Uhle setzt sich mit dieser Entwicklung seit langem auseinander.
In seinem Vortrag warnt er vor den Risiken, appelliert an die menschliche Verantwortung und zeigt die möglichen Potenziale auf.
Christian Uhle, Philosoph und Zukunftsforscher (19:28 – 20:17)
Wie wollen wir die Rolle des Menschen bestimmen? Und das ist etwas, was auch in Unternehmen gilt und was im Grunde tiefgreifender nicht sein könnte. Dass sich die Grundstruktur von Unternehmen verändert.
Es ist nicht mehr so, dass Unternehmen einfach aus Menschen bestehen, die verschiedene Tools benutzen und miteinander arbeiten. Sondern es werden, in der Wissenschaft spricht man von parasozialen Geflechten. Also es ist nicht mehr ein sozialer Zusammenhang, sondern ein parasozialer Zusammenhang.
Weil es ein Miteinander wird aus menschlichen Akteuren und KI-Akteuren. Und in diesem Miteinander stellt sich die Frage, wie bestimmen wir denn die Rolle des Menschen neu? Was wird denn die Rolle des Menschen darin sein?
KOMMENTAR (20:18 – 20:31)
Auf dieser Tagung wurde vielleicht nicht die Rolle des Menschen neu bestimmt, aber wichtige Fragen gestellt und Lösungsansätze angeboten, die richtungsweisend sein können. Im Umgang mit der KI, nicht nur in der Arbeitswelt.
Teilnehmerin (20:33 – 20:55)
Ich bin jetzt ein bisschen beruhigter. Ich hatte teilweise ein bisschen Angst und Respekt. Ich bin jetzt ein bisschen aufgeklärter. Diese Beiträge haben mir auch ein bisschen die Angst vor KI genommen und ich bin jetzt sehr optimistisch, dass wir das eben auch selber in der Hand haben und steuern können und dass wir damit so verantwortlich umgehen können. Das habe ich jetzt so für mich mitgenommen.
