Alle 14 Tage aktuelle News aus der IT-Szene   >   
KPMG Österreich tritt SAP-PartnerEdge-Programm bei 27. 03. 2024
Dem Beratungshaus stehen im Rahmen der neuen Kooperation zahlreiche Tools für die digitale Geschäftstransformation zur Verfügung.
SAP und NVIDIA intensivieren Partnerschaft 20. 03. 2024
Die beiden Tech-Player wollen mit ihrer neuen Kooperation den Einsatz generativer KI in Unternehmensanwendungen vorantreiben.
IT Security made in Austria 13. 03. 2024
Medialine partnert mit dem österreichischen Hersteller von „Quantum safe“ Speicherlösungen fragmentiX.
Neue Funktionen für SAP Datasphere 07. 03. 2024
Frische Features für SAP Datasphere und eine neue Unternehmenspartnerschaft helfen Unternehmen beim produktiven und sicheren Umgang mit Geschäftsdaten.
KI-Transformation: Effizienzsteigerung statt Innovation im Mittelpunkt 06. 03. 2024
Laut einer aktuellen Befragung hat die Mehrheit der Unternehmen noch keine KI-Strategie.
Nagarro fördert Digitalisierungsideen 19. 02. 2024
Nagarro sucht erneut innovative Ideen zu digitalen Geschäftsmodellen, Produkten und Services. Als Gewinn winkt ein Realitätscheck durch Expert:innen im Wert von 50.000 Euro.
Einfacher Weg zur Cloud-First-Strategie 12. 02. 2024
SAP präsentiert neue Möglichkeiten für Migration und Modernisierung von Softwaresystemen.
Dätwyler IT Infra übernimmt Seabix 18. 12. 2023
Der IT-Infrastruktur-Anbieter holt sich eine intelligente Kommunikationslösung ins Portfolio.
Bechtle konsolidiert Geschäft in Österreich 18. 12. 2023
Die beiden österreichischen Unternehmen der Bechtle-Gruppe gehen ab 2024 gemeinsame Wege.
hosttech launcht Kl-gestützte Domainsuche 15. 12. 2023
Der Internet Service Provider lanciert mit Domain GPT eine eigens entwickelte Kl-gestützte Domainsuche.
BOLL übernimmt Distribution von WALLIX in Österreich 15. 12. 2023
Der Security-VAD nimmt die Privileged-Access-Management(PAM)-Lösung des französischen Softwareanbieter ins Programm für Österreich.
vshosting expandiert nach DACH 14. 12. 2023
Der europäische Business Cloud Provider bietet seine Dienstleistungen nun auch im deutschsprachigen Raum an.
BestRecruiters 2023: BEKO holt Gold 01. 12. 2023
Der österreichische Technologiedienstleister sichert sich den Sieg in der Kategorie „Arbeitskräfteüberlassung“.
Trusted Access Client: Rundum-Schutz fürs Netzwerk 30. 11. 2023
Mit der Cloud-managed Remote Network Access-Lösung sorgt LANCOM für Sicherheit beim hybriden Arbeiten.
BOLL schließt Distributionsverträge mit Tenable und ALE 30. 11. 2023
Der DACH-IT-Security-VAD BOLL Engineering ist ab sofort Distributor für die Lösungen von Tenable in Österreich und in der Schweiz sowie ab 2024 für Alcatel-Lucent Enterprise in Österreich.
SVS setzt auf SuccessFactors 29. 11. 2023
Die HR-Lösung aus dem Hause SAP sorgt bei der SVS für Datentransparenz und eine aktive Einbindung der Belegschaft in die Geschäftsprozesse.
Trend Micro zeigt KI-gestützten Cybersecurity-Assistenten 28. 11. 2023
Der Companion unterstützt Analysten, um die Erkennung von und Reaktion auf Bedrohungen zu beschleunigen.
Nagarro bringt neue KI-Plattformen auf den Markt 23. 11. 2023
Genome AI, Ginger AI und Forecastra AI ermöglichen einen schnellen Einstieg in die KI-Welt.
weiter
Cloudera

Ethik in der KI

Gastbeitrag: Warum Ethik und KI zusammen gedacht werden müssen und was das für Unternehmen bedeutet, erklärt Melanie Beck.

Foto: privat Die Autorin Melanie Beck ist Machine Learning Research Engineer bei Cloudera Dank visionärer Unternehmen hält künstliche Intelligenz (KI) im Alltag Einzug. Dabei hebt eine Umfrage von FICO hervor, dass die meisten Unternehmen, die mit der von ihnen genutzten KI-Technologie potenziell einhergehenden Risiken noch nicht vorhersehen oder zumindest ganzheitlich verstehen können. Dadurch eröffnen sich vielfältige Möglichkeiten für Fehlanwendung, Missbrauch und mangelhaftes Design, was wiederum negative, unbeabsichtigte Folgen haben kann.

Das Risiko der KI

Um die Risiken des KI-Einsatzes einschätzen zu können, müssen die potenziellen durch KI verursachten Schäden, wie beispielsweise Voreingenommenheit und Diskriminierung, verstanden werden. Denn die Erkenntnisse von KI-Systemen basieren auf Daten, welche häufig gesellschaftliche Dynamiken, wie Marginalisierung, Ungleichheit und Diskriminierung widerspiegeln. Diese Muster können reproduziert, verstärkt oder sogar vergrößert werden. Dabei können KI-Systeme die menschliche Autonomie sowie Grundrechte unterdrücken. Ohne Regress ist es jedoch schwierig bis unmöglich, gegen diese Verstöße vorzugehen. Damit nicht genug, so können KI-Modelle die Privatsphäre verletzen, indem sie komplexe Zusammenhänge erlernen und dadurch Rückschlüsse auf geschützte Merkmale wie Alter oder Geschlecht ziehen. Zudem können aufgrund mangelhafter Design- und Produktionspraktiken unsichere Ergebnisse entstehen, die nicht präzise oder reproduzierbar sind. Dies kann anschließend wiederum zu unzuverlässigen Entscheidungen führen.

Die mit dem KI-System verbundenen Risiken können die Verbraucher, Stakeholder, Mitarbeiter und sogar ganze Teile der Bevölkerung betreffen. Dabei wird eine ganzheitliche rechtliche Infrastruktur für KI noch entwickelt, doch viele der aufgeführten Aspekte sind bereits geregelt: Die Datenschutz-Grundverordnung (DSGVO) sowie die Charta der Grundrechte der Europäischen Union gelten hierbei als Musterbeispiele. Setzt ein Unternehmen also ein mangelhaft konzipiertes KI-System ein, kann es nicht nur Verbrauchern und Teilen der Bevölkerung potenziellen Schaden zufügen, sondern muss für dieses Fehlverhalten auch hohe rechtliche und finanzielle Strafen in Kauf nehmen. Zusätzlich können KI-Missbrauch oder -Versäumnisse auch das Vertrauen der Verbraucher schwächen und das Marken-Image beeinträchtigen.

Ethische KI umsetzen

Allgemein gilt, ist ein KI-System für den menschlichen Konsum oder die menschliche Interaktion konzipiert oder stützt sich auf von Menschen generierten oder über Menschen gesammelte Daten, dann ist eine ethische Analyse wahrscheinlich angemessen. Da das Ziel eines KI-Projektes nicht immer zu Beginn klar ersichtlich ist, müssen Unternehmen einen „grundlegenden Ansatz der Ethik“ verankern. So können sie die ethischen Auswirkungen jeder KI-Initiative vom Konzept bis zur Umsetzung umfassend bewerten.

  • Deshalb legt die von der Europäischen Kommission eingesetzte Expertengruppe für künstliche Intelligenz in ihrem Bericht „Ethics Guidelines for Trustworthy AI“ Schlüsselanforderungen für Unternehmen fest:
  • Sie sollten gewährleisten, dass das KI-System die Grundrechte des Menschen berücksichtigt und die menschliche Handlungsfähigkeit bestehen bleibt.
  • Die Sicherheit, Genauigkeit und Zuverlässigkeit des KI-Systems müssen soweit möglich garantiert werden. Dazu muss das KI-System gegen Cyberangriffe geschützt werden und es sollte verlässliche und reproduzierbare Vorhersagen treffen können.
  • Unternehmen sollten sicherstellen, dass das KI-System die Regelungen zu Privatsphäre und Datenschutz während des gesamten Lebenszyklus einhält.
  • Sie müssen alle Daten auf Voreingenommenheit, Ungenauigkeiten und Fehler hin überprüfen.
  • Um die Transparenz des KI-Systems sicherzustellen, müssen Unternehmen die Rückverfolgbarkeit von der Datenerfassung und -kennzeichnung bis hin zu den eingesetzten Algorithmen gewährleisten.
  • Erkennbare und diskriminierende Voreingenommenheit in der Datenerhebungsphase sollten behoben werden. Jedoch ist eine kontinuierliche Überwachung und Kontrolle erforderlich, um ungerechte Ergebnisse zu vermeiden.
  • Unternehmen müssen ihre KI-Systeme auf globale Auswirkungen hin überprüfen. Hierbei gilt es, den Ressourcen- und Energieverbrauch beim Modelltraining auszuwerten und auf umweltfreundlichere Alternativen zu achten sowie das Wohlergehen von bestimmten Bevölkerungsgruppen zu berücksichtigen.
  • Sie sollten Kontrollmechanismen einführen, um die verantwortungsvolle Implementierung von KI-Systemen sowie deren kontinuierliche Überprüfung zu garantieren.

Trotz allen Fortschritts steht der Einsatz von KI noch in seinen Anfängen. Da diese Systeme das Leben der Menschen weiterhin verbessern und Unternehmen Vorteile im Wettbewerb verschaffen können, werden neue KI-Anwendungen zunehmen. Berücksichtigen Unternehmen bei der Gestaltung und während des Einsatzes von KI ethische Gesichtspunkte, so können diese das Potenzial der Technologie ausschöpfen und zugleich einhergehende Risiken eindämmen.

it&t business medien OG
Tel.: +43/1/369 80 67-0
office@ittbusiness.at