Künstliche Intelligenz: Claude Mythos findet Software-Schwachstellen − Behörde z. Hd. IT- und Cybersicherheit sorgsam
„Wir stehen zu Claude Mythos mit dem Hersteller Anthropic im Austausch“, teilte die BSI-Präsidentin Claudia Plattner mit.
Ein potenziell gefährliches KI-Modell spürt Software-Schwachstellen auf. BSI-Chefin Plattner sieht durch das Werkzeug aus den USA auch Fragen der nationalen Sicherheit in Deutschland berührt.
Ein vom US-Unternehmen Anthropic entwickeltes KI-Modell zum Auffinden verborgener Software-Schwachstellen könnte nach Einschätzung des Bundesamtes für Sicherheit in der Informationstechnik (BSI) erhebliche Auswirkungen auf die Cyberbedrohungslage haben.
Cyber Crime
Amazon, Google & Open AI schließen Allianz gegen Online-Betrug
Acht große Technologieunternehmen, darunter Amazon, Google und Microsoft sowie Open AI, tun sich zusammen, um Online-Betrüger zu bekämpfen. Was das Bündnis „Online Services Accord Against Scams“ vorhat.
Mythos nicht öffentlich verfügbar
In einer Kooperation sollten deshalb Konzerne wie Apple, Amazon und Microsoft Zugang zu Mythos bekommen, um Sicherheitslücken in ihrer Software zu finden, teilte das Unternehmen mit. Anthropic plane nicht, Mythos allgemein zugänglich zu machen. Unter den weiteren Kooperationspartnern sind die Linux-Stiftung, die IT-Sicherheitsfirmen Crowdstrike und Palo Alto Networks sowie der Netzwerk-Spezialist Cisco.
Eine Frage der nationalen Sicherheit
Das BSI nehme die Ankündigungen von Anthropic sehr ernst und erwarte „Umwälzungen im Umgang mit Sicherheitslücken und in der Schwachstellenlandschaft insgesamt“, sagte Plattner. Konsequent zu Ende gedacht, könnte es mittelfristig keine unbekannten klassischen Software-Schwachstellen mehr geben. „Dies würde eine Verschiebung der Angriffsvektoren und einen Paradigmenwechsel mit Blick auf die Cyberbedrohungslage zur Folge haben.“ Zudem stelle sich die Frage, ob und wenn ja, wie lange, derart wirkmächtige Werkzeuge auf dem freien Markt verfügbar sein werden. „Daraus wiederum ergeben sich Fragen nationaler und europäischer Sicherheit und Souveränität.“
Das BSI untersteht dem Bundesinnenministerium und dem neuen Digitalministerium. Das in Bonn angesiedelte Bundesamt ist die zentrale nationale Behörde für IT- und Cybersicherheit.
Personalarbeit
Künstliche Intelligenz hilft in HR-Abteilung
In Deutschland setzen bereits drei Viertel der HR-Abteilungen generative Künstliche Intelligenz ein. Damit liegt Deutschland leicht über dem globalen Durchschnitt.
Einfallstor für Hacker
Schwachstellen in Software, Hardware oder Netzwerken sind Einfallstore für Cyberangriffe durch Kriminelle oder Hacker im Dienste ausländischer Geheimdienste. Je länger eine Schwachstelle bekannt, aber nicht geschlossen ist, desto größer ist das Risiko für Unternehmen, staatliche Einrichtungen und private Nutzer, Opfer von Datendiebstahl zu werden oder von Erpressung nach dem Aufspielen von Schadsoftware. Auch deutsche Nachrichtendienste und Ermittler nutzen für bestimmte Zwecke Schwachstellen, etwa um Terrornetzwerke oder schwere Straftaten aufzuklären beziehungsweise zur Gefahrenabwehr. Relevant sind hier vor allem sogenannte Zero-Day-Schwachstellen, die den Herstellern noch nicht bekannt sind.
Eine vom US-Geheimdienst NSA genutzte Sicherheitslücke war 2017 von Hackern ausgenutzt worden, um im großen Stil Computer mit der Erpressungs-Software WannaCry zu infizieren. Solche Programme verschlüsseln die Festplatte und verlangen Geld für die Freigabe. Damals waren unter anderem britische Krankenhäuser und Anzeigetafeln der Deutschen Bahn betroffen. Die NSA geriet in die Kritik, weil sie die Sicherheitslücke nicht schließen ließ.
Auf das potenziell gefährliche neue Werkzeug angesprochen, sagte ein Sprecher des Digitalministeriums: „Das Beispiel zeigt, welche große Dynamik bei der Entwicklung von KI-Tools vorherrscht.“ Auch das Digitalministerium beobachte dies sehr genau.
Künstliche Intelligenz im Retail
Warum ist KI auch etwas für kleinere Modehändler, Oliver Janz?
Für Professor Oliver Janz, Studiengangsleiter Fashion Management an der DHBW Heilbronn und Experte für Digitalisierung und Künstliche Intelligenz, ist KI ein wichtiger Hebel für Modehändler. Auch kleineren und mittleren Unternehmen empfiehlt er den Einstieg.
Grünen-Innenpolitiker kritisiert Rolle des Bundesinnenministeriums
Der stellvertretende Vorsitzende des für die Kontrolle der Geheimdienste verantwortlichen Parlamentarischen Kontrollgremiums, Konstantin von Notz, lobte Plattner dafür, dass sie „deutlich auf diese Bedrohungslagen hinweist“. Der Grünen-Politiker sieht die Bundesregierung insgesamt jedoch eher als Teil des Problems und nicht als Teil der Lösung. Er sagt: „Es gab und gibt Kräfte innerhalb der Bundesregierung, vor allem im Bundesinnenministerium, die alles daran setzen, dass der staatliche Umgang mit Sicherheitslücken gänzlich unreguliert bleibt.“
Über die Jahre sei so die Einführung eines Schwachstellenmanagements regelrecht hintertrieben worden, kritisiert von Notz. Der stellvertretende Fraktionsvorsitzende fügte hinzu: „Solange sie hier selbst keine Verantwortung übernimmt und sich gleichzeitig mit Steuergeld am weltweiten Handel mit Sicherheitslücken beteiligt, ist die Bundesregierung, man muss es leider so sagen, eher Teil des Problems und nicht der Lösung.“
Künstliche Intelligenz
AI Act: Deutschland bringt Umsetzung der europäischen KI-Verordnung auf den Weg
Der EU AI Act ist in Deutschland angekommen. Zentrale Aufsichtsbehörde für KI wird damit die Bundesnetzagentur. Was das für Unternehmen bedeutet.