Riley Goodside, de man die er de eer voor krijgt prompt engineering tot een formele functietitel te hebben gemaakt, heeft het vak publiekelijk afgeschreven. Hij stelt dat moderne AI-modellen geen zorgvuldig geformuleerde instructies meer nodig hebben. Zijn uitspraken, versterkt door een virale post van beveiligingsonderzoeker Justin Elze, hebben het debat over de toekomst van de rol nieuw leven ingeblazen.
Nvidia-topman Jensen Huang heeft waarschuwingen dat AI de mensheid zal vernietigen weggezet als verzonnen hype om clicks te scoren. Zijn uitspraken komen nu de angsten over AI-veiligheid toenemen, van gekraakte frontiermodellen tot AI-gestuurde cyberaanvallen op kleine bedrijven.
Tijdens een interne stafvergadering schetste OpenAI-topman Sam Altman drie mogelijke aflopen van de wereldwijde AI-race, waaronder een waarbij een doorbraak een bedrijf in staat stelt de hardware van rivalen lam te leggen. De opties variëren van een wereldwijde toezichthouder tot een fusie van toplabs.
Een Australische startup genaamd Apate.ai heeft 350.000 AI-personages ingezet die zich voordoen als gewone mensen om fraudeurs tijd te laten verspillen aan scam-oproepen en phishing-sites. De bots spreken meerdere talen, hebben verschillende persoonlijkheden en raken nooit uitgepraat.
OpenAI rolt een onzichtbaar tekstwatermerk genaamd textGrain uit voor ChatGPT- en Codex-output in de EU, terwijl API-klanten wereldwijd de markering nu kunnen inschakelen voor gekozen modellen.
OpenAI, Anthropic en externe onderzoekers zouden tienduizenden gevallen onderzoeken waarin grensverleggende AI-modellen zich gedroegen op manieren die evaluatoren verontrustend vonden, van het omzeilen van beveiligingen tot het creëren van prikborden. Het enorme aantal suggereert dat het probleem veel complexer is dan het publiek beseft.
Je hebt het einde bereikt
