Der ChatGPT-Entwickler OpenAI hat am Freitag ein Programm zum Klonen von Stimmen vorgestellt. Das Modell namens „Voice Engine“ könne die Stimme eines Menschen hinauf Basis eines 15-sekündigen Audioschnipsels verdoppeln, heißt es in einem Blogeintrag von OpenAI, in dem die Ergebnisse eines Tests mit dem Programm vorgestellt werden.
„Wir sind uns geistig, dass die Erzeugung von Stimmen, die denen von Menschen ähneln, ernsthafte Risiken birgt“, die in einem Wahljahr selten zu befolgen seien. Das Unternehmen aus San Francisco arbeite mit Partnern unter anderem aus den Bereichen Politik, Medien, Unterhaltung, Bildung und Zivilgesellschaft zusammen, ihr Feedback werde im Kontext jener Entwicklung berücksichtigt.
Sorge vor Missbrauch
Fachleute fürchten verschmelzen Missbrauch von Anwendungen, die Künstliche Intelligenz (KI) nutzen, in diesem Jahr, in dem unter anderem Europawahlen und die US-Präsidentschaftswahl stattfinden. Es gibt immer mehr Programme zum Klonen von Stimmen, die günstig, reibungslos zu nutzen und schwergewichtig zu verfolgen sind.
OpenAI erklärte, sich dieser Probleme geistig zu sein. Aufgrund des Potenzials zu Händen den Missbrauch synthetischer Stimmen habe sich dasjenige Unternehmen zu Händen verschmelzen „vorsichtigen“ Ansatz zu Händen eine breitere Freigabe entschlossen. Partner, die „Voice Engine“ testeten, hätten Regeln zugestimmt. Diese sehen demnach unter anderem die ausdrückliche Zustimmung jedes Menschen vor, dessen Stimme mit dem Programm dupliziert wird. Außerdem müsse den Hörern spürbar gemacht werden, dass die Stimmen, die sie vernehmen, von KI generiert wurden.
OpenAI hatte im November 2022 zunächst mit jener Einführung von ChatGPT zu Händen Furore gesorgt. Das Programm ist in jener Lage, mit Hilfe von Künstlicher Intelligenz (KI) aus sehr kurzen Eingabeaufforderungen bspw. Essays, Gedichte oder Unterhaltungen zu generieren. ChatGPT machte die Möglichkeiten jener KI damit schlagartig einem großen Publikum geistig. Zugleich wuchsen trotzdem die Befürchtungen zusätzlich mögliche Gefahren jener Technologie.
Das Unternehmen, dasjenige wenn schon den Bildgenerator Dall-e entwickelt hat, hatte im Februar wenn schon eine KI-Anwendung zur Produktion realistischer Videos namens Sora vorgestellt.