Alle 14 Tage aktuelle News aus der IT-Szene   >   
KPMG Österreich tritt SAP-PartnerEdge-Programm bei 27. 03. 2024
Dem Beratungshaus stehen im Rahmen der neuen Kooperation zahlreiche Tools für die digitale Geschäftstransformation zur Verfügung.
SAP und NVIDIA intensivieren Partnerschaft 20. 03. 2024
Die beiden Tech-Player wollen mit ihrer neuen Kooperation den Einsatz generativer KI in Unternehmensanwendungen vorantreiben.
IT Security made in Austria 13. 03. 2024
Medialine partnert mit dem österreichischen Hersteller von „Quantum safe“ Speicherlösungen fragmentiX.
Neue Funktionen für SAP Datasphere 07. 03. 2024
Frische Features für SAP Datasphere und eine neue Unternehmenspartnerschaft helfen Unternehmen beim produktiven und sicheren Umgang mit Geschäftsdaten.
KI-Transformation: Effizienzsteigerung statt Innovation im Mittelpunkt 06. 03. 2024
Laut einer aktuellen Befragung hat die Mehrheit der Unternehmen noch keine KI-Strategie.
Nagarro fördert Digitalisierungsideen 19. 02. 2024
Nagarro sucht erneut innovative Ideen zu digitalen Geschäftsmodellen, Produkten und Services. Als Gewinn winkt ein Realitätscheck durch Expert:innen im Wert von 50.000 Euro.
Einfacher Weg zur Cloud-First-Strategie 12. 02. 2024
SAP präsentiert neue Möglichkeiten für Migration und Modernisierung von Softwaresystemen.
Dätwyler IT Infra übernimmt Seabix 18. 12. 2023
Der IT-Infrastruktur-Anbieter holt sich eine intelligente Kommunikationslösung ins Portfolio.
Bechtle konsolidiert Geschäft in Österreich 18. 12. 2023
Die beiden österreichischen Unternehmen der Bechtle-Gruppe gehen ab 2024 gemeinsame Wege.
hosttech launcht Kl-gestützte Domainsuche 15. 12. 2023
Der Internet Service Provider lanciert mit Domain GPT eine eigens entwickelte Kl-gestützte Domainsuche.
BOLL übernimmt Distribution von WALLIX in Österreich 15. 12. 2023
Der Security-VAD nimmt die Privileged-Access-Management(PAM)-Lösung des französischen Softwareanbieter ins Programm für Österreich.
vshosting expandiert nach DACH 14. 12. 2023
Der europäische Business Cloud Provider bietet seine Dienstleistungen nun auch im deutschsprachigen Raum an.
BestRecruiters 2023: BEKO holt Gold 01. 12. 2023
Der österreichische Technologiedienstleister sichert sich den Sieg in der Kategorie „Arbeitskräfteüberlassung“.
Trusted Access Client: Rundum-Schutz fürs Netzwerk 30. 11. 2023
Mit der Cloud-managed Remote Network Access-Lösung sorgt LANCOM für Sicherheit beim hybriden Arbeiten.
BOLL schließt Distributionsverträge mit Tenable und ALE 30. 11. 2023
Der DACH-IT-Security-VAD BOLL Engineering ist ab sofort Distributor für die Lösungen von Tenable in Österreich und in der Schweiz sowie ab 2024 für Alcatel-Lucent Enterprise in Österreich.
SVS setzt auf SuccessFactors 29. 11. 2023
Die HR-Lösung aus dem Hause SAP sorgt bei der SVS für Datentransparenz und eine aktive Einbindung der Belegschaft in die Geschäftsprozesse.
Trend Micro zeigt KI-gestützten Cybersecurity-Assistenten 28. 11. 2023
Der Companion unterstützt Analysten, um die Erkennung von und Reaktion auf Bedrohungen zu beschleunigen.
Nagarro bringt neue KI-Plattformen auf den Markt 23. 11. 2023
Genome AI, Ginger AI und Forecastra AI ermöglichen einen schnellen Einstieg in die KI-Welt.
weiter
Trend Micro

Kriminelle nutzen Künstliche Intelligenz – nicht nur für Deepfakes

Europol, UNICRI und Trend Micro berichten über aktuelle und zukünftige Bedrohungen durch KI.

Foto: Clint Patterson/Unsplash Cyberkriminelle gehören schon immer zu den ersten Nutzern der neuesten Technologien – das ist auch bei KI so Trend Micro stellt einen neuen Forschungsbericht vor, der in Zusammenarbeit mit Europol und dem Interregionalen Institut der Vereinten Nationen für Kriminalitäts- und Justizforschung (UNICRI) entstand. Darin befassen sich die Sicherheitsforscher mit der aktuellen und möglichen zukünftigen Nutzung von künstlicher Intelligenz (KI) durch Kriminelle. Der Bericht liefert Strafverfolgungsbehörden, politischen Entscheidungsträgern und anderen Organisationen Informationen über aktuell stattfindende und potenzielle zukünftige Angriffe, bei denen künstliche Intelligenz eingesetzt wird, sowie Empfehlungen zur Eindämmung dieser Risiken.

Effizienz, Automatisierung und Autonomie

„KI verspricht der Welt mehr Effizienz, Automatisierung und Autonomie. In einer Zeit, in der die Öffentlichkeit zunehmend über den möglichen Missbrauch von KI besorgt ist, müssen wir die Bedrohungen transparent machen, aber auch die potenziellen Vorteile der KI-Technologie untersuchen“, sagt Edvardas Šileris, Leiter des Cyberkriminalitätszentrums von Europol (Europol EC3). „Dieser Bericht wird uns nicht nur dabei helfen, mögliche böswillige Verwendungen und Missbräuche von KI zu antizipieren, sondern auch diese Bedrohungen proaktiv zu verhindern und einzudämmen. Auf diese Weise können wir das Potenzial der KI freisetzen und von der positiven Nutzung der KI-Systeme profitieren.“

Angriffsvektor und Angriffsoberfläche

Der Bericht kommt zu dem Schluss, dass Cyberkriminelle KI sowohl als Angriffsvektor als auch als Angriffsoberfläche nutzen werden. Deepfakes (realistisch wirkende Medieninhalte wie Foto, Audio und Video, welche durch KI abgeändert und verfälscht wurden) stellen derzeit die bekannteste Nutzung von KI als Angriffsvektor dar. Der Bericht warnt jedoch davor, dass in Zukunft neue Screening-Technologien erforderlich sein werden, um das Risiko von Desinformationskampagnen und Erpressung sowie von Bedrohungen, die auf KI-Datensätze abzielen, zu verringern.

KI könnte beispielsweise eingesetzt werden, um folgende Angriffsarten zu unterstützen:

  • Überzeugende Social-Engineering-Angriffe in großem Maßstab
  • Malware, mit der in großem Maße bestimmte Daten aus Dokumenten exfiltriert werden können (Document Scraping)
  • Umgehung von Bilderkennung und Stimmbiometrie
  • Ransomware-Angriffe, bei denen die Opfer noch gezielter ausgewählt und Schutzmechanismen umgangen werden
  • Datenverschmutzung durch die Identifizierung von blinden Stellen in Erkennungsregeln

„In dem Maße, in dem KI-Anwendungen einen wachsenden Einfluss auf die reale Welt nehmen, wird klar, dass dies zukünftig eine grundlegende Technologie sein wird“, erklärt Irakli Beridze, Leiter des Zentrums für KI und Robotik bei UNICRI. „Doch so wie KI für die Gesellschaft sehr reale Vorteile bietet sind, ist auch die Bedrohung durch böswillige Nutzung allgegenwärtig. Wir fühlen uns geehrt, gemeinsam mit Europol und Trend Micro ein Licht auf die dunkle Seite der KI zu werfen und weitere Diskussionen zu diesem wichtigen Thema anzuregen.“

Der Report warnt auch davor, dass KI-Systeme entwickelt werden, um die Wirksamkeit von Malware zu verbessern und Anti-Malware- und Gesichtserkennungssysteme zu stören.

Cyberkriminelle sind Vorreiter

„Cyberkriminelle gehören schon immer zu den ersten Nutzern der neuesten Technologien – das ist auch bei KI so. Wie unser Bericht zeigt, wird sie bereits für das Ermitteln von Passwörtern, das Brechen von CAPTCHA-Codes und das Klonen von Stimmen verwendet. Zudem sind noch viele weitere bösartige Innovationen in Arbeit“, so Martin Rösler, Leiter des Forward-Looking Threat Research Teams bei Trend Micro. „Wir sind stolz darauf, mit Europol und UNICRI zusammenzuarbeiten, um das Bewusstsein für diese Bedrohung zu schärfen und auf diese Weise dazu beizutragen, eine sicherere digitale Zukunft für uns alle zu schaffen.“

Die drei Organisationen empfehlen zum Abschluss des Berichts verschiedene Maßnahmen im Umgang mit KI:

  • Nutzung des Potentials von KI-Technologie als Mittel zur Verbrechensbekämpfung, um die Cybersicherheits-Branche und die Polizei zukunftsfähig zu machen
  • Fortsetzung der Forschung im KI-Bereich, um weitere Verteidigungstechnologien zu entwickeln
  • Förderung und Entwicklung sicherer KI-Design-Frameworks
  • Deeskalation von politisch aufgeladener Rhetorik über den Einsatz von KI für Zwecke der Cybersicherheit
  • Nutzung öffentlich-privater Partnerschaften und Einrichtung multidisziplinärer Expertengruppen

Der vollständige Forschungsbericht "Malicious Uses and Abuses of Artificial Intelligence" ist in englischer Sprache zum Download verfügbar.

it&t business medien OG
Tel.: +43/1/369 80 67-0
office@ittbusiness.at