Ein Medienbericht wirft Fragen zu den Sicherheitsvorkehrungen rund um das neue KI-Modell der Firma Anthropic auf, das extrem gut darin ist, Software-Schwachstellen zu finden. Einige wenige Unbefugte mit Kenntnis von Anthropic-Systemen hätten sich Zugang zu dem Modell mit dem Namen Claude Mythos Preview verschafft, berichtete die Nachrichtenagentur Bloomberg. Von Anthropic hieß es, man prüfe den Bericht.
Experten und Aufsichtsbehörden warnen vor Missbrauchspotenzial: Die Künstliche Intelligenz (KI) sei in der Lage, Schwachstellen in gängigen Betriebssystemen und Webbrowsern zu erkennen und auszunutzen. Nach Angaben von Anthropic hat das Modell Tausende – zum Teil seit Jahrzehnten unentdeckt gebliebene – schwerwiegende Sicherheitslücken in weitverbreiteter Software identifiziert. In den falschen Händen könnte das KI-Modell deshalb zur Entwicklung gefährlicher Cyberwaffen führen.
Zugang nur für bestimmte Unternehmen und Organisationen
Anthropic hat keine Pläne, Mythos zu veröffentlichen – und gewährt bisher Zugang für ausgewählte Unternehmen und Organisationen, damit sie Schwachstellen in ihrer Software schließen können. So gaben die Entwickler des Web-Browsers Firefox gerade erst bekannt, dass sie mit Mythos 271 Lücken schließen konnten.
Bloomberg zufolge war unter den unbefugten Nutzern ein Mitarbeiter eines externen Dienstleisters von Anthropic mit Zugang zu Systemen der KI-Firma. Geholfen habe den Nutzern auch Wissen darüber, wie Anthropic vorherige Modelle gespeichert habe. Das Unternehmen teilte Bloomberg mit, man habe bisher keine Hinweise darauf, dass es Zugang zu dem Modell abseits der Systeme des Dienstleisters gegeben habe.
Bloomberg meldet zudem unter Berufung auf Dokumente und einen Insider, dass die Personen in einem privaten Online-Forum Zugriff auf die KI erlangten. Dies sei genau an dem Tag geschehen, an dem Anthropic Pläne für eine begrenzte Testphase des Modells angekündigt habe. Seitdem nutze die Gruppe das Modell regelmäßig, jedoch nicht für Zwecke der Cybersicherheit.
Anthropic hatte Mythos am 7. April vorgestellt. Die Vorabversion wird im Rahmen des sogenannten „Project Glasswing“ ausschließlich ausgewählten Organisationen aus dem Bereich der defensiven Cybersicherheit zur Verfügung gestellt. Mythos gilt als das bislang leistungsfähigste Modell des Unternehmens für Programmieraufgaben und autonomes Handeln.
Versöhnliche Töne von Trump
Unterdessen kann Anthropic sich nach einem Streit mit dem Pentagon wieder Hoffnungen auf ein besseres Verhältnis zur US-Regierung machen. „Wir verstehen uns mit ihnen“, sagte Präsident Donald Trump in einem Interview des Wirtschaftssenders CNBC. Er verwies darauf, dass Vertreter von Anthropic vor einigen Tagen zu Gesprächen im Weißen Haus waren.
Die Firma riskierte einen Konflikt mit der US-Regierung, da sie trotz massiven Drucks darauf bestand, dass ihre KI-Modelle nicht in autonomen Waffensystemen und zur Massenüberwachung in den USA verwendet werden dürfen. Das Pentagon erklärte Anthropic daraufhin zu einem Lieferketten-Risiko. Trump wies US-Behörden an, keine Geschäfte mit dem Unternehmen zu machen. Anthropic zog dagegen vor Gericht.
Zuletzt demonstrierte Anthropic aber, wie wichtig Technologie des Unternehmens für die US-Regierung ist – unter anderem mit den Fähigkeiten des Modells Claude Mythos. In den falschen Händen wäre es eine gefährliche Cyberwaffe. Zugleich könnte es der US-Regierung einen Vorteil geben, eigene Programme zu härten und potenzielle Schwachstellen für Spionage im Ausland auszunutzen.