Digitale Transformation

Plattform Lernende Systeme

Ob Suchanfragen im Internet, personalisierte Empfehlungen von Streamingdiensten oder Navigationssysteme: Künstliche Intelligenz (KI) nimmt zunehmend Einfluss auf Alltag, Arbeitswelt und gesellschaftliches Zusammenleben. Sie treibt die Digitalisierung voran und bietet Unternehmen enorme Chancen für neue Geschäftsmodelle. Zugleich müssen für den Umgang mit KI neue Kompetenzen aufgebaut werden. Auch wirft die Technologie gesellschaftliche, rechtliche, ethische und sicherheitsbezogene Fragen auf. Gute Antworten brauchen einen breit angelegten Dialog.

Unterstützt wird dieser Dialog von der Plattform Lernende Systeme (PLS): Vom Bundesministerium für Bildung und Forschung 2017 initiiert und bei acatech angesiedelt, bringt das Expertennetzwerk führende Fachleute aus Wissenschaft, Wirtschaft, Politik und zivilgesellschaftlichen Organisationen aus zusammen. Die rund 200 Mitglieder der Plattform erörtern in thematisch spezialisierten Arbeitsgruppen Rahmenbedingungen für den verantwortungsvollen Einsatz Künstlicher Intelligenz und entwickeln Szenarien, Empfehlungen, Gestaltungsoptionen und Roadmaps.

Künstliche Intelligenz: Eine Gefahr für die demokratische Gesellschaft?

Ein ukrainischer General ruft zum Putsch gegen Präsident Wolodymyr Selenskyi auf? Alt-Bundeskanzler Olaf Scholz verkündet per Regierungserklärung ein Parteienverbot der AfD? Donald Trump und Wladimir Putin prosten sich in Partylaune mit einem Glas Wein zu? Zu sehen war all dies 2024 in täuschend echt wirkenden Videos oder Fotos in den sozialen Medien: Deepfakes – erzeugt oder manipuliert mithilfe von Künstlicher Intelligenz.

Generative KI-Systeme machen es einfach wie nie, Texte, Bilder oder Videos nach individuellen Vorgaben zu erzeugen. Gepaart mit bösem Willen und den Verbreitungsmöglichkeiten der sozialen Medien können sie zu einem mächtigen Werkzeug für Desinformation werden. Zwar versuchen Akteure aus Politik, Wirtschaft und Gesellschaft seit jeher, Bürgerinnen und Bürger für ihre Interessen und Ziele zu gewinnen. Ermöglichen nun aber KI-Systeme eine neue Dimension der versteckten Einflussnahme? Wie verändern sich gesellschaftliche Prozesse und politische Wahlen? Und birgt KI auch Chancen für eine Demokratie? Diesen Fragen widmete sich die Plattform Lernende Systeme im weltweiten Superwahljahr 2024 in verschiedenen Formaten.

Wahlen, Meinungsbildung, Journalismus und Justiz – diese Themen sind wesentlich für eine demokratische Gesellschaft. Wie KI hier einwirkt, analysiert das Webspecial „Künstliche Intelligenz und die demokratische Gesellschaft“: Es ist eine wichtige Aufgabe, den Einsatz der Technologie ethisch verantwortlich zu gestalten, Vertrauen zu ermöglichen und die nötigen Rahmenbedingungen zu setzen. Die Plattform Lernende Systeme formuliert dafür konkrete Empfehlungen an Politik und Wissenschaft.

Künstliche Intelligenz ist eine Schlüsseltechnologie, die auf unser Zusammenleben und unsere demokratische Gesellschaft nachhaltig Einfluss nimmt. Sie treibt die Digitalisierung voran, verändert unsere Arbeitswelt und unsere gesellschaftlichen Prozesse. Im Sinne von Teilhabe und Gleichberechtigung muss KI so gestaltet werden, dass sie die demokratischen und ethischen Prinzipien erfüllt.

Jan Wörner, Co-Vorsitzender der Plattform Lernende Systeme und acatech Präsident

Welche Gefahren bergen KI-unterstützte Manipulation und Desinformation? Und welche Chancen für eine Stärlkung gesellschaftlicher Information bietet KI andererseits? Das Whitepaper KI im Superwahljahr 2024: Generative KI im Umfeld demokratischer Prozesse beleuchtet anhand konkreter und fiktiver Beispiele, welche Bedeutung generative KI für politische Wahlen und die Demokratie hat. Zwei der Empfehlungen: KI-generierte Inhalte sollten als solche gekennzeichnet und KI-bezogene Medienkompetenz sollten gestärkt werden.

Der Einfluss von KI auf demokratische Prozesse stand zudem im Mittelpunkt einiger Veranstaltungen, an denen sich die Plattform Lernende Systeme beteiligte. Auf der re:publica 2024 in Berlin diskutierten Mitglieder der Plattform auf einem Panel darüber, ob KI-generierte Inhalte das Vertrauen der Bürgerinnen und Bürger in Medien und Politik gefährden und in welchem Maße sie Wahlentscheidungen beeinflussen können.

Wie beeinflussen Desinformation und Fake News die politische Meinungsbildung – insbesondere im Vorfeld von Wahlen? Diese Frage erörterten Mitglieder der Plattform Lernende Systeme bei der Veranstaltungsreihe „acatech am Dienstag“ im Mai 2024 in München mit interessierten Bürgerinnen und Bürgern.

KI-generierte Fake News setzen den Journalismus unserer demokratischen Gesellschaft unter Druck und verändern die Medienwelt. Auf der Veranstaltung „YouMeCon | Kompakt“ der Jugendpresse Deutschland diskutierten Vertreterinnen und Vertreter der Plattform Lernende Systeme in Berlin mit Nachwuchsjournalistinnen und -journalisten über die Chancen und Risiken von KI in der Medienwelt. Das einhellige Fazit der YouMeCon: Medienschaffende sollten und können diesen Wandel mitgestalten.

Coding-Workshop für den KI-Nachwuchs

Es ist elementar, die KI-Kompetenzen zu stärken, ganz gleich in welchem Alter. Studierende und Young Professionals lud die Plattform Lernende Systeme zu einem Coding Workshop ein. Partnerin der Veranstaltung im IBM Innovation Center in München war das Systems Security Lab der TU Darmstadt veranstaltete. Die Teilnehmerinnen und Teilnehmer tüftelten hochkonzentriert an den Laptops, um mittels verteiltem maschinellem Lernen (Federated Learning) wirksame Angriffs- und Verteidigungsszenarien für Software-Anwendungen zu entwickeln.

Tüfteln, sichern, hacken, © PLS

Beim Coding Workshop mussten die Teilnehmenden sowohl KI-Systeme gegen Angriffe absichern als auch selbst Angriffe starten. © PLS

Phillip Rieger (li.) und Alessandro Pegoraro (2.v.r.) vom Systems Security Lab der TU Darmstadt mit Challenge-Gewinnerin Sabrina Gross (3.v.re.) und den Platzierten Niklas Kopp, Marco Rubin und Cuong Le (v. l. n. r.), © PLS

Künstliche Intelligenz regulieren: Der AI Act im Überblick

Mit dem AI Act hat die Europäische Union das weltweit erste transnationale Regelwerk für KI-Anwendungen verabschiedet. Mit den verbindlichen rechtlichen Rahmenbedingungen schafft die EU nicht nur Transparenz für Nutzerinnen und Nutzer, sondern auch Rechtssicherheit für Unternehmen. Was genau in der KI-Verordnung ausgeführt ist, welche Chancen und Herausforderungen mit ihr verbunden sind und wie die Regelungen umgesetzt werden, erläutert die Plattform Lernende Systeme knapp und anschaulich in ihrer Publikationsreihe KI Kompakt sowie in einem Themenspecial zum AI Act auf ihrer Website.

KI-gesteuerte Roboter: Möglichkeiten und Grenzen

Roboter haben in den letzten zehn Jahren große Leistungssprünge erzielt: Dank generativer KI können sie heute eng mit dem Menschen zusammenarbeiten und selbstständig lernen – etwa indem ein Mensch ihnen eine Aufgabe vorführt oder sie bereits Erlerntes durch menschliches Feedback verbessern.

Das Potenzial für Wirtschaft und Gesellschaft ist enorm: So kommen mit KI ausgestattete Robotiksysteme in immer mehr Anwendungsgebieten jenseits der Industrie zum Einsatz, etwa als Lieferfahrzeuge, in der Pflege, im Katastrophenfall oder im Haushalt. Die Themenseite „Lernfähige Robotik” auf der Website der Plattform Lernende Systeme bietet einen Überblick über die vielfältigen Dimensionen und Marktpotenziale der lernfähigen Robotik.

Digital-Gipfel 2024: Deepfakes, EdgeAI und Fachkräftemangel

In verschiedenen Formaten beteiligten sich Mitglieder der Plattform Lernende Systeme am Diskurs auf dem Digital-Gipfel 2024. Eine Debatte drehte sich um die Frage, wie KI dem Fachkräftemangel entgegenwirkt. Ein weiteres Panel beleuchtete die Potenziale von EdgeAI für die technologische und digitale Souveränität Deutschlands und Europas. Praxisbeispiele und Gestaltungsoptionen zu diesen Themen zeigen auch zwei Publikationen der Plattform auf, die 2024 erschienen sind.

Auch für das Handwerk haben KI-gesteuerte Roboter viel zu bieten: Auf dem Digital-Gipfel 2024 der Bundesregierung präsentierte PLS-Mitglied Gunnar Bloss, Werk5 GmbH und Verbundkoordinator des BMBF-Förderprojekts LEROSH, einen lernfähigen Cobot mit Schleifwerkzeug. Die damalige Bundesministerin Bettina Stark-Watzinger verschaffte sich bei ihrem Besuch am Stand einen Eindruck, wie KI im Handwerk die Beschäftigten aktiv unterstützen kann. V. l. n. r.: Weiyi Zhao, Gunnar Bloss (beide Werk5 GmbH) und Előd Páll (Interactive Scape GmbH), © PLS

In verschiedenen Formaten beteiligten sich Mitglieder der Plattform Lernende Systeme am Diskurs auf dem Digital-Gipfel 2024. © PLS

Forschungsbeirat Industrie 4.0 (ReCoRD)

In der digitalen Vernetzung industrieller Wertschöpfung zur Industrie 4.0 liegt der Schlüssel für eine langfristige globale Konkurrenz- und Wettbewerbsfähigkeit der deutschen und europäischen Industrie. Allerdings braucht es Orientierung, wie sich innovative Industrie 4.0-Lösungen einführen und zukünftige Forschungs- und Entwicklungsbedarfe identifizieren lassen. Dabei ist essenziell, dass Forschung und Wirtschaft eng zusammenarbeiten Daran arbeitet der Forschungsbeirat Industrie 4.0 – mit dem Ziel, das deutsche Innovationssystem und die Wertschöpfung zu stärken. In dem strategischen und unabhängigen Gremium bündeln 34 Expertinnen und Experten aus Wissenschaft und Industrie ihr Fachwissen, identifizieren neue Forschungs- und Entwicklungsbedarfe, zeigen mittel- bis langfristige Entwicklungsperspektiven auf und leiten Handlungsoptionen ab.

Die Arbeit des Forschungsbeirats koordiniert acatech im Projekt ReCoRD, das vom vom Bundesministerium für Bildung und Forschung (BMBF) gefördert wird.

Roadmaps für die nächsten Jahre

Im Jahr 2024 arbeiteten Mitglieder des Forschungsbeirats und einer Strategiekommission an einem thematischen Rahmen für konkrete Industrie 4.0-Forschungsschwerpunkte der nächsten fünf bis zehn Jahre. Initiiert wurde dieser strategische Prozess ein Jahr zuvor. Die Ergebnisse werden in „Themenroadmaps“ zusammengetragen.

Die Engineering-Roadmap machte den Anfang: Sie zielt auf selbstgenerierende Systeme ab. Die Roadmap untergliedert sich in die Entwicklungsschritte „Optimierung bestehender Fabriksysteme“, „dynamische Anpassbarkeit“ sowie „Autonomie“. Selbstgenerierende Systeme ermöglichen eine wettbewerbsfähige, transparente, flexible und wertschöpfungsdeckende Produktion, in der der Mensch weiterhin im Mittelpunkt steht. Ein entscheidender Aspekt dabei liegt darin, die Arbeit zwischen Mensch und Maschine optimal aufzuteilen und den Menschen durch die Technik angemessen zu unterstützen. Weitere Roadmaps zu den Themen „Geschäftsmodelle“, „Nachhaltigkeit“ und „Zukunft der Arbeit“ sowie ein übergeordnetes Strategiepapier folgen im Jahr 2025.

Doch ist Industrie 4.0 überhaupt noch aktuell – schließlich kursiert mitunter bereits der Begriff „Industrie 5.0“? Die Antwort liegt in einem klaren „Ja!“. Denn der Begriff „Industrie 5.0“ beinhaltet keinerlei neue Inhalte, er wird somit unnötig verwendet und trägt eher zur Verunsicherung bei. Anlässlich der Hannover Messe 2024 kritisieren der Forschungsbeirat Industrie 4.0 und die Plattform Industrie 4.0 in einer gemeinsamen Stellungnahme die Verwendung des Begriffs „Industrie 5.0“ als leichtfertig und unnötig.

Ganz im Gegensatz zum Begriff Industrie 4.0: Dieser entspricht einem industriellen Leitbild, das weiterhin von höchster Relevanz ist und weltweit verfolgt wird – insbesondere vor dem Hintergrund von Nachhaltigkeit, Resilienz und Menschzentriertheit sowie weiterer industrieller und gesellschaftlicher Herausforderungen. Daher verfolgt der Forschungsbeirat die Aktivitäten der Europäischen Industry 5.0 Community of Practice.

Über KI und autonom wandelbare Industrie 4.0-Systeme

Der Forschungsbeirat Industrie 4.0 veröffentlichte 2024 zwei Expertisen: Wie KI in der deutschen Industrie erfolgreich eingesetzt werden kann, zeigt die Expertise Künstliche Intelligenz und industrielle Arbeit – Perspektiven und Gestaltungsoptionen. Die Expertise des Forschungsbeirats zum Thema Engineering autonom wandelbarer Industrie 4.0-Systeme erörtert das Potenzial des zukunftsfähigen Produktionsstandorts Deutschlands: Wie lassen sich Maschinen und Anlagen nicht nur vernetzten, sondern so wandelbar gestalten, dass sie sich autonom an neue Situationen anpassen können?

Neu und kompakt: „Industrie 4.0 Forschung in Kürze“

Zudem realisierte der Forschungsbeirat Industrie 4.0 die neue Kompaktreihe Industrie 4.0 Forschung in Kürze. Die erste Ausgabe fragt: Wie verändern neue Technologien die Arbeit in Produktionsbetrieben?. Das zweite Kurzformat arbeitet die Erfolgsfaktoren für die Industrie 4.0 im Mittelstand heraus.

Ergänzend zu den Expertisen lädt der Forschungsbeirat regelmäßig zu Webinaren ein. Im Webinar „Künstliche Intelligenz und industrielle Arbeit – Perspektiven und Gestaltungsoptionen“ präsentierten Angelika Bullinger-Hoffmann (TU Chemnitz und Mitglied im Forschungsbeirat Industrie 4.0) sowie Stefan Gabriel (Fraunhofer-Institut für Entwurfstechnik Mechatronik IEM und Mitverfasser der Expertise) Einblicke in die entsprechende Forschungsbeirats-Publikation und gaben Impulse zum erfolgreichen Einsatz von KI in der industriellen Arbeit. Ein weiteres Webinar zur Expertise „Engineering autonom wandelbarer Industrie 4.0-Systeme“ fand im März 2025 statt.

Können deutsche Industrieunternehmen durch die konsequente Umsetzung von Industrie 4.0 aus der wirtschaftlichen Stagnation herausfinden, Produktivität steigern und langfristig konkurrenzfähig bleiben? Diese Frage fokussierte die „acatech am Dienstag“-Veranstaltung „Zukünftige Wertschöpfung gestalten und der Einfluss von Industrie 4.0“ am 12. November 2024.

Quelloffene Designinstrumente für die Chip­­entwicklung (DI-QDISC)

Da Mikrochips in zahlreichen Produkten verbaut werden, hat sich die Mikroelektronik zu einer zentralen Schlüsseltechnologie gemausert. Die Chip-Krise in der Automobilindustrie verdeutlichte jedoch, wie verwundbar und abhängig Deutschland von diesem elementaren Industriezweig ist. Der hohe Kostendruck hat den Markt auf wenige Anbieter verdichtet. Und zwar sowohl den Markt für die fertigen Chips, deren Anbieter vor allem in Taiwan beheimatet sind, als auch den für die Computersoftware. Diese ist nötig, um der immer weiter steigenden Komplexität Herr zu werden und die Transistoren richtig miteinander zu verschalten – die modernsten Chips besitzen über 100 Milliarden Transistoren.

Anders als in Europa wurde die Entwicklung entsprechender Software in den USA politisch stark unterstützt. Die gängigen Anbieter sind daher in den Vereinigten Staaten zu finden. Für die vielen kleinen mittelständischen Unternehmen und Nischenmärkte in Europa gestaltet sich die Verhandlung den dominierenden Anbietern jedoch schwierig: Neben Lizenzgebühren gibt es häufig strenge Vorgaben wie Geheimhaltungsvereinbarungen oder Mindestbestellmengen. Kurzum: Es ist für europäische Unternehmen schwer, einen Fuß in die Tür des Mikroelektronikmarkts zu bekommen.

Open-Source-Programme als Chance für eine regionale Chipentwicklung

Eine Alternative bieten quelloffene Designinstrumente – als Open-Source-Programme sind diese für alle Nutzenden frei zugänglich. Der Haken: Diese stemmen hauptsächlich aus dem Bereich Wissenschaft und Forschung und entsprechen somit nicht dem Industriestandard. Insbesondere bei anspruchsvollen Produktionsprozessen erfüllen sie häufig nicht die Anforderungen und die Zuverlässigkeit für die Produktion. Da jeder Fehler mit horrenden Kosten einhergeht, haben die meisten Unternehmen große Vorbehalte, diese Programme einzusetzen. Auch mangelt es an einer entsprechenden Organisationsstruktur bei den Programmanbietern.

Das Projekt Quelloffene Designinstrumente für souveräne Chipentwicklung (DI-QDISC) schafft einen Dialog zwischen den beiden Bereichen Wissenschaft und Wirtschaft, die fast diametral entgegengesetzte Positionen haben. Während die Forschung in den Open-Source-Programmen die Zukunft sieht, bleibt die Industrie skeptisch. Wie lassen sich die Open-Source-Ansätze zur Industriereife bringen? Ob und wenn ja für welche Technologien und Anwendungen eignen sich quelloffene Designinstrumente? Neben solchen technologischen Aspekten stehen auch mögliche Geschäftsmodelle quelloffener Entwicklungswerkzeuge auf dem Prüfstand – vor allem wird untersucht, ob die erfolgreichen Innovationsmechanismen aus dem Open-Source-Softwarebereich auf das Feld der Mikroelektronik übertragbar sind und welche Vorteile die Kombination herkömmlicher und quelloffener Lösungen schaffen könnte.

Der acatech IMPULS Quelloffene Designinstrumente für souveräne Chipentwicklung ist somit ein Debattenbeitrag zwischen zentralen Akteuren aus Wissenschaft, Wirtschaft und Politik. Im Mittelpunkt stehen Handlungsoptionen, um das Designökosystem und die Innovationsfähigkeit in Deutschland und Europa zu stärken, insbesondere für innovative Start-ups und KMU.

Advanced Systems Engineering

Die zunehmende Digitalisierung und Künstliche Intelligenz erhöhen auch die Komplexität von Produkten, Dienstleistungen, Produktionssystemen sowie der Arbeitsorganisation. Dies lässt auch die Herausforderungen an das Engineering wachsen. Um die zunehmende Komplexität zu beherrschen, braucht es eine neue Herangehensweise: Advanced Systems Engineering.

Die Publikation Erfolgsgeschichten im Advanced Systems Engineering veranschaulicht anhand von elf Praxisbeispielen aus der Industrie, wie Advanced Systems Engineering intelligente, vernetzte und erfolgreiche Anwendungen hervorbringen kann. Advanced Systems Engineering treibt die Innovationskraft voran, steigert nachhaltig die Wertschöpfung und positioniert den Produktions- und Innovationsstandort Deutschland erfolgreich und langfristig im globalen Wettbewerb. Die Methodenbeispiele und Erfolgsgeschichtenverdeutlichen die vielfältigen Aspekte von Advanced Systems Engineering in der industriellen Praxis sowie in der Produktentwicklung und -entstehung.

Standortanalyse KI in Baden-Württemberg

Wie wichtig KI als strategisches Handlungsfeld ist, hat Baden-Württemberg früh erkannt und entsprechend gehandelt: Entstanden sind eine umfassende Digitalstrategie und Initiativen wie dem internationalen Leuchtturmprojekt Cyber Valley, dem entstehenden Innovation Park Artificial Intelligence (IPAI) sowie zahlreichen regionalen Netzwerken und Förderprogrammen. Die Grundlagen, um mit KI-Anwendungen Mehrwert zu schaffen, könnten kaum besser sein: Baden-Württemberg verfügt über eine herausragende Wissenschafts- und Forschungslandschaft und zahlreiche weltmarktführende Unternehmen. Vor allem in datenintensiven Sektoren wie Automotive, Produktions- und Anlagenbau, IT, Robotik und Medizintechnik bietet KI zahlreiche Chancen, um sich im internationalen Wettbewerb zu behaupten und sektorenübergreifende Kooperationen zu fördern. Doch wo steht Baden-Württemberg heute als KI-Standort? Und wie lässt sich das dortige KI-Ökosystem strategisch weiterentwickeln?

Mit diesen Fragen beschäftigt sich die acatech STUDIE KI-Standortanalyse Baden-Württemberg. Dazu wurden Studien, Pressemitteilungen, Fachliteratur sowie 34 explorative Interviews mit Expertinnen und Experten aus Wirtschaft, Wissenschaft, Behörden, Institutionen und Verbänden ausgewertet. Die Ergebnisse der STUDIE: Baden-Württemberg nimmt in Punkto Innovationsfähigkeit national wie international eine Spitzenposition ein. Auch verbucht das Land die meisten KI-Patentanmeldungen in Deutschland. Jedoch sollte der Transfer aus der Forschung in marktreife Produkte und Dienstleistungen weiter gestärkt werden.

Eine Vorreiterrolle hat Baden-Württemberg beim Einsatz von KI in der öffentlichen Verwaltung. Dennoch bleibt vor allem in den Kommunen und ihren Behörden ein sehr großes Potenzial für Effizienzgewinne durch KI-Anwendungen zu heben. Eine der größten Herausforderungen liegt darin, dass viele Daten nicht oder nur unzureichend digitalisiert sind. Auch die Ende-zu-Ende-Digitalisierung weist noch zahlreiche Lücken auf.

Was also bleibt für das Bundesland auf dem Weg hin zu einer umfassenden KI-Strategie zu tun? Diese Frage hat acatech in der STUDIE in Form verschiedener Handlungsoptionen beantwortet. Unter anderem gilt es, überregionale Kooperationen und die KI-Start-up-Förderung strategisch auszubauen sowie die Datenverfügbarkeit zu verbessern.