Blog

Jun 22, 2023

KI im städtischen Beschaffungswesen: 5 Fallstricke, die es zu vermeiden gilt

Da Stadtverwaltungen darüber nachdenken, neue Technologien wie künstliche Intelligenz (KI) in ihre Systeme zu integrieren, sollte deren Einsatz in ihren Beschaffungsverfahren sorgfältig geprüft werden. KI

Da Stadtverwaltungen darüber nachdenken, neue Technologien wie künstliche Intelligenz (KI) in ihre Systeme zu integrieren, sollte deren Einsatz in ihren Beschaffungsverfahren sorgfältig geprüft werden. KI ist ein leistungsstarkes neues Werkzeug, das von Nutzen sein kann, aber auch ethische und sicherheitsrelevante Probleme mit sich bringt, mit denen sich öffentliche Behörden auseinandersetzen müssen. Hier sind fünf potenzielle Fallstricke, die Sie vermeiden sollten, wenn Sie den Einsatz von KI für die Beschaffung in Betracht ziehen: für die Beschaffung:

1.Abhängigkeit von der Technologie: Der Einsatz von KI im Einkauf kann die Effizienz deutlich steigern und Prozesse verschlanken. Beispielsweise können damit Spezifikationen für einfache Ausschreibungen verfasst oder Angebote bewertet werden, wodurch der Zeit- und Ressourcenaufwand reduziert wird. Die von der KI erzeugten Informationen sind jedoch nicht immer korrekt, sodass die Abhängigkeit von Stadtbeamten zu stark von dieser Technologie zu potenziellen Fehlern im Beschaffungsprozess führen kann. Unabhängig davon, wie genau eine KI-geschriebene Spezifikation ist, erfordert sie dennoch sachkundiges Beschaffungspersonal, um sie vor der Veröffentlichung auf stadtspezifische Anforderungen hin zu bewerten.

2. Sicherheitsbedenken: KI kann dazu beitragen, die Sicherheit im Beschaffungswesen zu verbessern, indem sie maschinelle Lernalgorithmen und Echtzeit-Datenanalysen nutzt, um potenzielle Schwachstellen bei Einkäufen im Bereich Informationstechnologie (IT) zu identifizieren. Durch die Erkennung potenzieller Probleme bei IT-Käufen können Städte proaktiv alle Cybersicherheitsbedenken angehen, die andernfalls möglicherweise unerkannt geblieben wären. Allerdings sind KI-gestützte Tools nicht ohne eigene Schwachstellen und erfahrene Cyberkriminelle können sie ausnutzen, was möglicherweise zu Sicherheitsbedrohungen führt. Städtische IT-Abteilungen müssen mit dem Beschaffungspersonal zusammenarbeiten, um robuste Sicherheitsmaßnahmen zum Schutz sensibler Informationen und zur Gewährleistung der Integrität städtischer Systeme umzusetzen.

3.Voreingenommenheit und Diskriminierung: Da KI-gestützte Werkzeuge von unvollkommenen Menschen mit bewussten und unbewussten Vorurteilen programmiert werden, können sie leider zu unethischer Diskriminierung bei der Beschaffung führen. Bestimmte Algorithmen können mit Vorurteilen programmiert sein, die gesellschaftliche, geografische oder wirtschaftliche Vorurteile widerspiegeln, was zu einer unfairen Behandlung bestimmter Lieferanten oder Produkte führt. Wenn beispielsweise eine KI-generierte Ausschreibung Lieferanten aus beliebigen geografischen Gebieten offensteht, der Beschaffungsbeauftragte die Spezifikationen jedoch nicht auf die Aufnahme dieser Informationen überprüft, können potenzielle Lieferanten außerhalb der Stadtgrenzen fälschlicherweise davon ausgehen, dass ihre Angebote nicht berücksichtigt werden. Die städtischen Beschaffungsbeauftragten müssen alles, was durch KI generiert wird, sorgfältig prüfen, um sicherzustellen, dass alle Beschaffungen den ethischen Standards ihrer Stadt entsprechen.

4. Kostenüberschreitungen: Der Einsatz von KI kann zu erheblichen Kosteneinsparungen führen, indem er den Beschaffungsmitarbeitern hilft, während des Marktforschungsprozesses kostengünstigere Lösungen zu finden. Allerdings kann es bei unsachgemäßer Verwaltung auch zu Kostenüberschreitungen kommen. KI-gestützte Tools empfehlen möglicherweise Lösungen, die zunächst kostengünstiger erscheinen, auf lange Sicht aber möglicherweise nicht wirklich kosteneffektiv sind. KI-gestützte Tools berücksichtigen nicht, dass für bestimmte Lösungen Wartungs- oder Upgradekosten anfallen, die im Zuge des technologischen Fortschritts erforderlich werden. Nehmen wir zum Beispiel das iPhone. Die ersten iPhone-Versionen wären nicht in der Lage, das neueste iOS auszuführen, sodass die weitere Nutzung dieser Produkte ein Hardware-Upgrade erfordern würde. Die städtischen Beschaffungsbeauftragten müssen die KI-Empfehlungen sorgfältig bewerten, um sicherzustellen, dass sie mit ihrem Budget und ihren Beschaffungszielen übereinstimmen.

5. Mangelndes Verständnis: KI als alltägliches Werkzeug ist noch relativ neu und entwickelt sich ständig weiter. Es gibt viele Dinge, die selbst Early Adopters nicht verstehen. Angesichts der Tatsache, dass sich neue Technologien im öffentlichen Beschaffungswesen tendenziell etwas langsamer durchsetzen, kann es sein, dass den städtischen Beschaffungsmitarbeitern das Verständnis für den effektiven Einsatz von KI fehlt. KI-Algorithmen können selbst für die technisch versiertesten Benutzer schwer zu interpretieren sein, und die Mitarbeiter im Beschaffungswesen haben im Alltag möglicherweise einfach nicht die Zeit, sich ein tiefgreifendes Verständnis ihrer Funktionsweise zu verschaffen. Stadtverwaltungen sollten gründliche Schulungsprogramme entwickeln und umsetzen, bevor sie KI-gestützte Tools oder KI-generierte Dokumente in ihre Richtlinien, Verfahren und Veröffentlichungen integrieren.

Während KI das Potenzial hat, die Beschaffung für Städte und andere öffentliche Einrichtungen zu revolutionieren, ist es wichtig, ihren Einsatz mit einer gesunden Portion Umsicht anzugehen und gleichzeitig Interesse an seinen Vorteilen zu wecken.

Telice Gillom, Beschaffungs-Content-Manager, NASPO