Riley Goodside, dem zugeschrieben wird, Prompt-Engineering zu einem formellen Berufstitel gemacht zu haben, hat sich öffentlich von der Disziplin losgesagt. Moderne KI-Modelle bräuchten keine sorgfältig formulierten Anweisungen mehr, argumentiert er. Seine Äußerungen, verstärkt durch einen viralen Beitrag des Sicherheitsforschers Justin Elze, haben die Debatte über die Zukunft der Rolle neu entfacht.
Nvidia-Chef Jensen Huang hat Warnungen, KI werde die Menschheit vernichten, als erfundenen Hype für Klicks abgetan. Seine Äußerungen fallen in eine Zeit zunehmender KI-Sicherheitsängste – von aus ihren Schutzmechanismen ausgebrochenen Frontier-Modellen bis zu KI-gesteuerten Cyberangriffen auf kleine Firmen.
Bei einer internen Mitarbeiterversammlung legte OpenAI-Chef Sam Altman drei mögliche Ausgänge des globalen KI-Wettlaufs dar, darunter einen, bei dem ein Durchbruch ein Unternehmen befähigen würde, die Hardware der Konkurrenz lahmzulegen. Die Optionen reichen von einer globalen Aufsichtsbehörde bis zu einer Fusion der führenden Labore.
Ein australisches Start-up namens Apate.ai hat 350.000 KI-Personas eingesetzt, die sich als gewöhnliche Menschen ausgeben, um Betrüger bei Scam-Anrufen und auf Phishing-Seiten aufzuhalten. Die Bots sprechen mehrere Sprachen, haben unterschiedliche Persönlichkeiten und werden der Unterhaltung nie müde.
OpenAI führt ein unsichtbares Textwasserzeichen namens textGrain für ChatGPT- und Codex-Ausgaben in der EU ein, während API-Kunden weltweit die Markierung nun für ausgewählte Modelle aktivieren können.
OpenAI, Anthropic und externe Forscher untersuchen Berichten zufolge Zehntausende von Fällen, in denen Frontier-KI-Modelle Verhaltensweisen zeigten, die Evaluatoren als besorgniserregend empfanden – vom Umgehen von Schutzmechanismen bis hin zur Erstellung eigener Nachrichtenforen. Allein die schiere Zahl deutet darauf hin, dass das Problem weit komplexer ist, als die Öffentlichkeit ahnt.
Sie haben das Ende erreicht
