Künstliche Intelligenz und maschinelles Lernen

Dieser Leitfaden unterstützt ÖA bei der Integration von Technologien für Künstliche Intelli-genz (KI) und Maschinelles Lernen (ML) in ihre Beschaffungsanforderungen und -prozesse. Da KI-/ML-Lösungen eine Vielzahl von Anwendungen verbessern können, bietet dieses Doku-ment einen umfassenden, schrittweisen Ansatz, der ÖA dabei unterstützt, bestehende Be-schaffungsvorlagen anzupassen und KI-/ML-Funktionen in geeignete Lösungen zu integrieren.

Artificial Intelligence and Machine Learning

1. Definition und Anwendung von KI/ML-Tools für LDT

Künstliche Intelligenz (KI) und maschinelles Lernen (ML) können Städte bei der Entschei-dungsfindung mit fortschrittlichen Tools und datengestützten Modellen unterstützen. Sie ermöglichen es Gemeinden, riesige Datenmengen zu analysieren, Muster zu erkennen und daraus umsetzbare Erkenntnisse abzuleiten. Dadurch werden städtische Verwaltungsprozes-se optimiert und Innovationen gefördert. Durch die Integration von KI/ML in lokale digitale Zwillinge (Local Digital Twins, LDT) können Städte dynamische und reaktionsschnelle Systeme schaffen, die sich an veränderte Bedingungen anpassen und Entscheidungen in Echtzeit un-terstützen.

KI/ML-Technologien finden vielfältige Anwendungen in Smart City-Initiativen, darunter vo-rausschauende Wartung, Transportoptimierung und intelligentes Verkehrsmanagement, Luftqualitätsüberwachung und Vorhersagemodelle, Ressourcenmanagement und Bürgerbe-teiligung. KI-gestützte Systeme steigern die betriebliche Effizienz, indem sie Routineaufgaben automatisieren und intelligente Empfehlungen geben, während ML-Modelle kontinuierlich lernen und ihre Leistung anhand neuer Daten verbessern.

Gemäß dem EU-Gesetz über künstliche Intelligenz ist ein „KI-System ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an betrieben werden kann und nach seiner Einführung Anpassungsfähigkeit zeigt, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebun-gen beeinflussen können.“ Mit anderen Worten: KI umfasst die Entwicklung von Systemen, die in der Lage sind, Aufgaben zu übernehmen, die typischerweise menschliche Intelligenz erfordern, wie logisches Denken, Lernen und Entscheidungsfindung. KI bietet transformatives Potenzial für Städte und ermöglicht automatisierte Prozesse und intelligente Entscheidungs-findung in Bereichen wie Verkehrsmanagement, Energieverteilung und öffentliche Sicherheit. KI-Systeme können verschiedene Datenquellen analysieren, darunter IoT-Sensoren und his-torische Aufzeichnungen, um Gemeinden Vorhersagen und automatisierte Lösungen zu lie-fern, die auf ihre individuellen Bedürfnisse zugeschnitten sind.

Maschinelles Lernen, ein Teilgebiet der KI, konzentriert sich auf die Entwicklung von Algo-rithmen, die es Systemen ermöglichen, aus Daten zu lernen und ihre Leistung im Laufe der Zeit zu verbessern. Mithilfe von ML-Tools können Städte wertvolle Muster und Trends aus komplexen Datensätzen extrahieren und so datengestützte Entscheidungen in verschiede-nen Bereichen treffen. Beispielsweise können ML-Modelle Energieverbrauchsmuster vorher-sagen, Anomalien im Infrastrukturbetrieb erkennen und öffentliche Dienstleistungen anhand historischer und Echtzeitdaten optimieren. Durch den Einsatz von ML können Städte die An-passungsfähigkeit und Effizienz ihrer digitalen Ökosysteme verbessern.

2. Verständnis und Identifizierung von KI-/ML-gesteuerten Zielen und Werk-zeugen für die Beschaffung

Um KI und ML erfolgreich in LDT-Plattformen oder verwandte Lösungen zu integrieren, müs-sen Städte zunächst ihre KI/ML-Ziele klar definieren. Die Identifizierung dieser Ziele beinhal-tet die Bestimmung der spezifischen Bedürfnisse und Ziele der Gemeinde, wie z. B. die Ver-besserung der Datenanalyse, die Verbesserung der Entscheidungsfindung oder die Automati-sierung von Arbeitsabläufen. Diese Ziele dienen als Orientierung für die Auswahl geeigneter KI/ML-Tools und -Technologien und stellen sicher, dass diese mit der strategischen Vision der Stadt übereinstimmen.

Zu den wichtigsten Schritten zum Verständnis und zur Identifizierung KI-/ML-gesteuerter Zie-le gehören:

Bewertung der aktuellen Fähigkeiten: Bewerten Sie bestehende Systeme und Prozes-se, um Lücken zu ermitteln, in denen KI/ML einen Mehrwert bieten kann. Stellen Sie beispielsweise fest, ob erweiterte Analysefunktionen, Vorhersagemodelle oder die Verarbeitung natürlicher Sprache erforderlich sind.
Anwendungsfälle definieren: Etablieren Sie konkrete Anwendungsfälle, in denen KI/ML betriebliche Herausforderungen bewältigen oder die Servicebereitstellung ver-bessern kann. Beispiele hierfür sind Verkehrsoptimierung, Energieeffizienz oder Bür-gerbeteiligung durch Chatbots.
Einbindung der Stakeholder: Arbeiten Sie mit relevanten Interessengruppen wie Da-tenwissenschaftlern, IT-Teams und Entscheidungsträgern zusammen, um Prioritäten zu definieren und die Übereinstimmung mit den Bedürfnissen der Stadt sicherzustel-len.
Technologiebewertung: Identifizieren Sie die KI/ML-Tools, Plattformen und Algorith-men, die für die definierten Anwendungsfälle am besten geeignet sind. Dabei werden Faktoren wie Skalierbarkeit, Interoperabilität und einfache Integration in bestehende Systeme bewertet.
Messbare Ziele setzen: Definieren Sie die wichtigsten Leistungsindikatoren (Key Per-formance Indicators, KPI), um den Erfolg der KI/ML-Implementierung zu messen. Bei-spiele für Leistungsindikatoren sind Genauigkeitsverbesserungen, Kosteneinsparun-gen oder Kennzahlen zur Benutzerzufriedenheit.

Durch Befolgen dieser Schritte können Städte ihre KI/ML-bezogenen Ziele effektiv definieren und Tools beschaffen, die auf ihre Anforderungen zugeschnitten sind.

3. Integration von zusätzlichen KI/ML-Anforderungen in relevante Beschaf-fungsvorlagen

Bei der Integration von KI/ML-Komponenten in Anwendungsdienste müssen Städte zusätzli-che Anforderungen berücksichtigen. Diese Anforderungen stellen sicher, dass KI/ML-Technologien effektiv in Lösungen integriert werden und den gewünschten Nutzen bringen. Die Anpassung der Vorlagen für solche Beschaffungen umfasst die Anpassung der Service-Level-Vereinbarungen (Service Level Agreement, SLA), des technischen Hintergrunds, der funktionalen, technischen und rechtlichen Anforderungen sowie anderer relevanter Ab-schnitte der Ausschreibungsunterlagen, um die einzigartigen Fähigkeiten von KI/ML ange-messen zu berücksichtigen.

Städte müssen die Vorlagen sorgfältig anpassen, um diese Aspekte zu berücksichtigen und sicherzustellen, dass die KI/ML-Lösungen den aktuellen Anforderungen entsprechen und fle-xibel für zukünftige Erweiterungen bleiben. Durch die Integration dieser Überlegungen in die Beschaffungsvorlagen können Städte die erfolgreiche Einführung von KI/ML-Technologien in ihren digitalen Infrastrukturen vorantreiben. Die folgenden technischen und funktionalen Anforderungen dienen ÖA als grundlegende Referenz. Diese Anforderungen sind nicht er-schöpfend und berücksichtigen möglicherweise nicht die spezifischen Bedürfnisse oder Um-stände des jeweiligen Beschaffungskontexts. ÖA wird empfohlen, die bereitgestellten Anfor-derungen sorgfältig zu prüfen, anzupassen und zu individualisieren, um sicherzustellen, dass sie den Zielen, Einschränkungen und operativen Prioritäten ihrer spezifischen Projekte ent-sprechen.

Nachfolgend wird ein Überblick über die technischen und funktionalen Anforderungen sowie die rechtlichen Rahmenbedingungen gegeben.

Technische Rahmen

3.1 Technische und funktionale Anforderungen

Testanforderungen von KI/ML-Modellen und Algorithmen innerhalb von LDT:

Zweck:

Die Stadt/die Benutzer von KI/ML-Modellen und -Algorithmen sollten ein klares Verständnis des Ziels haben, das mit einem KI/ML-Modell erreicht werden soll (d. h., was möchte die Stadt damit vorher-sagen?).
Die Ziele der Stadt/Benutzer von KI/ML-Modellen und -Algorithmen sollten mit den verfügbaren Da-ten für Training, Validierung und Tests im Einklang sein (d. h. die Daten sollten die gewünschten Vor-hersagen unterstützen können).
Die KI-/ML-Modelle/Algorithmen sollten mit den verfügbaren Daten und Zielen der Stadt überein-stimmen, um vertrauenswürdige und verständliche Ergebnisse generieren zu können.

Daten:

KI/ML-Modelle und -Algorithmen sollten zu Trainings-, Validierungs- und Testzwecken nach Möglich-keit immer lokale Daten aus der betreffenden Stadt verwenden, um die lokale Realität, die die Stadt erkunden und für die sie Vorhersagen treffen möchte, bestmöglich darzustellen.
Die KI/ML-Lösung sollte vielfältige Trainingsdaten verwenden, die für den lokalen Kontext repräsen-tativ sind, den sie darstellen soll, und die regelmäßig auf mögliche Verzerrungen überprüft werden.

Selbstlernen: KI/ML-Modelle und -Algorithmen sollten in der Lage sein, auf der Grundlage von Echtzeit-Dateneingaben zu lernen und sich anzupassen, um eine kontinuierliche Verbesserung der Modelle und Algorithmen zu unterstützen.

Menschliche Aufsicht: KI-Systeme sollten Lösungen beinhalten, die eine Überwachung durch den Men-schen ermöglichen, um die Autonomie des Menschen zu wahren und potenziell negative Auswirkungen zu verringern (z. B. durch eine Kombination aus Human-in-the-Loop (HIL), Human-on-the-Loop (HOL), Human-in-Command (HIC) oder anderen Ansätzen, die als Benchmarks anerkannt und akzeptiert sind).

Erklärbarkeit:

KI-Lösungen sollten es Benutzern nach Möglichkeit ermöglichen zu verstehen, warum ein bestimm-tes Modell eine bestimmte Ausgabe oder Entscheidung generiert hat (und welche Kombination von Eingabefaktoren dazu beigetragen hat).
KI/ML-Modelle sollten nach Möglichkeit mit Einschränkungen der Interpretierbarkeit entwickelt wer-den (z. B. indem deutlich gemacht wird, wie die Variablen interagieren, um die endgültige Vorhersage eines Modells zu bilden, und so ein besseres Verständnis dafür ermöglichen, wie Vorhersagen ge-troffen werden).
Black-Box-Modelle/Algorithmen sollten nicht bevorzugt werden, wenn für dieselben Zwecke tech-nisch gleichwertige und genau interpretierbare Modelle existieren.

Rückverfolgbarkeit:

KI-Lösungen sollten Rückverfolgbarkeitsfunktionen bieten, damit Benutzer ihre Vorhersagen und Prozesse nach Möglichkeit verfolgen können.
KI-Lösungen sollten die Rückverfolgbarkeit und Überprüfbarkeit ihrer Modelle/Algorithmen erleich-tern und den Benutzern helfen, die Ergebnisse der Modelle zu verstehen und (falls erforderlich) Än-derungen vorzunehmen.

Transparenz:

Eine KI-Lösung sollte den Nutzern ihre Fähigkeiten und Grenzen klar und proaktiv kommunizieren, damit sie realistische Erwartungen an ihre Nutzung stellen können.
Eine KI/ML-Lösung sollte den Benutzern transparent mitteilen, dass sie mit einem KI-System/-Modell interagieren oder dessen Ausgabe verwenden.
KI/ML-Prozesse und -Modelle sollten transparent und ausreichend dokumentiert sein, damit die Be-nutzer nachvollziehen können, welche (und wie) Daten von den Modellen erfasst und verarbeitet werden.

Fairness:

Die Entwicklung und Nutzung von KI-Modellen/Algorithmen muss Fairnessprinzipien folgen (d. h. KI-basierte Lösungen sollten darauf abzielen, eine gleichmäßige und gerechte Verteilung der Vorteile und Kosten im Zusammenhang mit dem Zweck der KI-Modelle sicherzustellen und sicherzustellen, dass Gruppen und Einzelpersonen keine unfaire Voreingenommenheit, Diskriminierung oder Stigma-tisierung erfahren – KI-Systeme sollten weder Schaden verursachen noch verschlimmern)
KI-Lösungen sollten Fairnessmetriken in die Modelle integrieren, um die Auswirkungen von Vorher-sagen auf verschiedene Untergruppen zu bewerten (z. B. Chancengleichheit, unterschiedliche Aus-wirkungen, demografische Parität oder andere Fairnessmetriken, die als Benchmarks anerkannt und akzeptiert werden).
KI-Lösungen sollten die Anwendung von Einschränkungen ermöglichen, um potenzielle Ergebnisun-terschiede zwischen demografischen Gruppen (oder anderen Interessengruppen) während des Trai-nings und der Anwendung zu minimieren.
KI-Systeme/-Modelle sollten hinsichtlich der Mittel und Ziele zwischen potenziell konkurrierenden In-teressen im Zusammenhang mit den Modellen den Grundsatz der Verhältnismäßigkeit berücksichti-gen (z. B. sollte die Datenerhebung auf das unbedingt Notwendige beschränkt werden, wobei die Rechte und die Privatsphäre des Einzelnen zu respektieren sind, und Ansätze, die die geringsten Auswirkungen auf Grundrechte und ethische Normen haben, sollten nach Möglichkeit bevorzugt werden).

Robustheit:

KI/ML-Lösungen sollten in der Lage sein, mit Ausnahmebedingungen wie Eingabeanomalien oder po-tenziellen böswilligen Angriffen umzugehen und gleichzeitig das Risiko zu minimieren, dass ihre Mo-delle unbeabsichtigten Schaden verursachen.
KI-Systeme sollten robuste Sicherheitsmaßnahmen implementieren, um die Sicherheit der Daten, Modelle und der unterstützenden Infrastruktur vor potenziellen böswilligen Angriffen zu gewährleis-ten (z. B. AES-256-Verschlüsselung, robuste rollenbasierte Zugriffskontrolle (RBAC), Einsatz von föde-riertem Lernen, Mechanismen zur Erkennung von Angriffen oder andere als Benchmarks anerkannte und akzeptierte Maßnahmen).
KI-Systeme sollten Sicherheitsmaßnahmen beinhalten, die im Falle eines Problems oder einer Fehl-funktion die Aktivierung von Fallback-Plänen ermöglichen (z. B. Umstellung von statistischen Model-len auf regelbasierte Modelle, Blockieren von Entscheidungen bis zum menschlichen Eingreifen).

Leistung:

KI/ML-Modelle sollten in der Lage sein, robuste Leistungskennzahlen bereitzustellen, um die Fähig-keit der Modelle zu bewerten, Vorhersagen zu treffen oder Daten zu klassifizieren (z. B. Genauigkeit, Präzision, Rückruf, Protokollverlust, Konfusionsmatrix oder andere, die je nach Art der verwendeten Modelle als Benchmarks anerkannt und akzeptiert werden).
KI/ML-Modelle sollten in der Lage sein, Wahrscheinlichkeits-/Konfidenzniveaus für Fälle bereitzustel-len, in denen Unsicherheiten im Zusammenhang mit den Modellergebnissen bestehen.

Datenschutz: KI-Systeme sollten Lösungen implementieren, die während des gesamten Lebenszyklus ei-nes Systems vollständig mit den geltenden Richtlinien und Gesetzen konform sind (DSGVO, KI-Gesetz, EU-ePrivacy-Verordnung (in Diskussion) oder andere geltende Richtlinien und Gesetze).

Bitte beachten Sie, dass diese Anforderungen unter Berücksichtigung der erforderlichen Anpassungen in jede Vorlage integriert werden können, mit Ausnahme von Vorlagen für Netzwerkinfrastruktur und IoT-Geräte.

3.2 Mindestmechanismen für Interoperabilität (MIMs)

Städte sollten bei der Einbettung von Beschaffungsvorlagen zur Gewährleistung der erfolgreichen Einführung von KI/ML-Technologien in digitalen Infrastrukturen auch die Mindestinteroperabilitätsmechanismen (Minimum Interoperability Mechanisms, MIMs) berücksichtigen, um eine ausreichende Interoperabilität für Daten, Systeme und Dienste, insbeson-dere bei Smart-City-Lösungen, zu gewährleisten. Genauer gesagt können sich Städte auf Folgendes beziehen: MIM5: Fai-re und transparente künstliche Intelligenzproduziert von OASC.Derzeit findet aufgrund des MIM-Neugestaltungsrahmens 2024/25 ein Übergang zu einem umfassenderen Ansatz statt, der sich auf „interoperable KI“ konzentrieren wird.Ausführlichere Informationen zu diesem Thema finden Sie in der Richtlinie zur Einhaltung von MIMs, Standards, Spezifikationen und Zertifizierungen.

3.3 Bewertungs- und Vergabekriterien

Dieser Abschnitt der Richtlinie soll Einblicke und mögliche Optionen zur Ausschreibungsentwicklung bieten und etwaige Lücken in den spezifischen technischen und funktionalen Anforderungen für KI- und ML-Lösungen schließen.

Bitte beachten Sie daher bei der Ermittlung, Auswahl und Entwicklung der Bewertungs- und Vergabekriterien die oben in Abschnitt 3.1 genannten technischen und funktionalen Anforderungen als technische und funktionale Mindestanforde-rungen, die de facto als technische Spezifikationen dienen und dann in die aus den verfügbaren Vorlagen ausgewählte Vorlage aufgenommen werden müssen.

Alternativ können spezifische technische/funktionale Anforderungen entfallen, wenn aus den verfügbaren Optionen die am besten geeignete Vorlage ausgewählt wird. In solchen Fällen können zusätzliche Ermessenskriterien in den Abschnitt „Ausschreibungsbewertung und Vergabekriterien“ aufgenommen werden (z. B.: „Bietet das Angebot KI- und ML-Lösungen für die jeweilige Anwendung als Zusatz?“ – bietet ein Bieter KI- und ML-Lösungen an, erhält er eine zusätzliche Bewertung basierend auf der Bewertung des Angebots durch den öffentlichen Auftraggeber).

Rechtlicher Rahmen

Städte müssen neben der Einbindung von Beschaffungsvorlagen zur erfolgreichen Einführung von KI/ML-Technologien auch den EU-Rechtsrahmen einhalten. Dies beinhaltet die Einhaltung relevanter EU-Gesetze, -Verordnungen und -Richtlinien, um die ethische, transparente und rechtmäßige Integration von KI/ML in digitale Infrastrukturen zu gewähr-leisten.

Eine weitere Hilfe für Städte und Gemeinden könnte die Konsultation der Leitlinie zum EU-Rechtsrahmen für digitale Produkte und Dienste mit Relevanz für LDTs sein, die einen Überblick über die Compliance-Anforderungen für öffentli-che Beschaffungsprozesse unter Einsatz von KI/ML-Technologien bietet.

Darüber hinaus können sich Städte auf die EU-Mustervertragsklauseln für künstliche Intelligenz, verfügbar auf Living-in.EU, um Standardisierung und rechtliche Angleichung bei der Vertragsgestaltung für KI-Lösungen zu gewährleisten. Die-se Ressourcen bieten praktische Tools zur Orientierung im Rechtsumfeld und zur Förderung von Vertrauen und Transpa-renz beim KI-Einsatz.