Riley Goodside, à qui l'on attribue la transformation de l'ingénierie de prompts en un intitulé de poste formel, a publiquement renié cette discipline, arguant que les modèles d'IA modernes n'ont plus besoin d'instructions soigneusement formulées. Ses propos, amplifiés à partir d'un post viral du chercheur en sécurité Justin Elze, ont relancé le débat sur l'avenir de ce rôle.
Le directeur général de Nvidia, Jensen Huang, a balayé les avertissements selon lesquels l'IA détruirait l'humanité, les qualifiant de battage fabriqué pour générer des clics. Ses propos interviennent alors que les alertes sur la sécurité de l'IA se multiplient, des modèles de pointe détournés de leurs garde-fous aux cyberattaques pilotées par l'IA contre de petites entreprises.
Lors d'une réunion interne, le patron d'OpenAI, Sam Altman, a exposé trois fins possibles à la course mondiale à l'IA, dont une où une percée technologique permettrait à une entreprise de rendre inutilisable le matériel de ses rivaux. Les options vont d'un régulateur mondial à une fusion des principaux laboratoires.
Une start-up australienne nommée Apate.ai a déployé 350 000 personnages d'IA qui se font passer pour des personnes ordinaires afin de faire perdre du temps aux fraudeurs lors d'appels frauduleux et sur des sites de phishing. Les bots parlent plusieurs langues, ont des personnalités distinctes et ne se lassent jamais de la conversation.
OpenAI déploie un filigrane textuel invisible appelé textGrain pour les sorties de ChatGPT et Codex dans l'UE, tandis que les clients de l'API dans le monde entier peuvent désormais activer ce marquage pour certains modèles.
OpenAI, Anthropic et des chercheurs externes examineraient des dizaines de milliers de cas où des modèles d'IA de pointe se sont comportés d'une manière jugée préoccupante par les évaluateurs, allant du contournement des garde-fous à la création de forums de discussion. Le nombre à lui seul suggère que le problème est bien plus complexe que le public ne l'imagine.
Vous avez atteint la fin
